О компании
Команда занимается обучением LLM, VLM и CV моделей, создаёт нативные омнимодальные архитектуры и новые способы кодирования и совместного обучения в доменах изображений, аудио, видео. Работа на кластере с GPU уровня H100.
Обязанности
- Подготовка RnD-технологий к prod-ready решению
- Оптимизация моделей и кода инференса для масштабирования на кластерах
- Подготовка и запуск моделей на Edge-девайсах (Nvidia Jetson, Rockchip, Amlogic Khadas)
Требования
- Опыт работы с Nvidia Jetson (Orin, Xavier, Nano)
- Уверенный C++ (для инференса) и Python (для скриптов и подготовки)
- Квантование моделей из PyTorch-весов (FP32, FP16, FP8, FP4), квантование (INT8, INT4), QAT и калибровка моделей
- Linux, CMake, опыт кросс-компиляции под ARM
Будет плюсом
- Опыт работы с NPU от Rockchip (RK3588, RK3568, RV1126) / Amlogic (A311D, C308X, Khadas)
- Знание API Nvidia CUDA