О компании
Мы ускоряем инференс нейронных сетей для задач автономного вождения — моделей восприятия сцены и планирования, которые работают непосредственно на бортовом железе автомобиля. ML-команды отвечают за обучение и качество моделей. Наша задача — обеспечить эффективное выполнение моделей на целевых платформах с минимальной потерей точности. Основной стек: PyTorch → ONNX → TensorRT, а также внутренняя инфраструктура профилирования, экспериментов и performance-аналитики.
Обязанности
- Руководство командой CUDA-оптимизации инференса: people management, формирование технических планов и приоритетов, контроль исполнения проектов, ответственность за достижение измеримых результатов по latency, throughput и эффективности использования памяти
- Проектирование и оптимизация вычислительных ядер: разработка и оптимизация CUDA-kernel и fusion операций для ключевых блоков моделей (matmul, conv, attention и др.), снижение memory traffic и launch overhead
- Работа с архитектурой GPU: эффективное использование memory hierarchy, layout данных, tiling-подходы, tensor cores и механизмы повышения occupancy
- Системный анализ bottleneck с помощью Nsight и других профилировщиков
Требования
- Сильный опыт CUDA performance engineering
- Опыт работы с kernel для matmul/conv/attention
- Хорошее знание C++
- Понимание memory hierarchy GPU и cost model вычислительных операций
- Умение находить bottleneck через профилирование и доводить оптимизации до измеримого ускорения
- Способность к техническому лидерству или управлению командой
- Умение аргументировать performance-решения и работать в кросс-командной среде
Условия
Будет плюсом
- Работа с CUTLASS / Triton / кастомными inference-движками
- Оптимизация моделей под конкретные GPU-архитектуры
- Работа с quantization / mixed precision
- Построение roofline-моделей или latency/bandwidth-оценок
- Знание fusion-подходов и graph-level оптимизаций