Development Manager

Наша команда обучает собственные базовые LLM и внедряет их в бизнес-сценарии Авито. Цель команды — обеспечить продукты моделями, которые соответствуют требованиям по качеству ответов и стоимости применения.

Мы адаптируем решения с открытым исходным кодом под русский язык и доменную специфику Авито с помощью continual pre-training и подмены токенизатора. Для развития моделей команда исследует новые методы и пайплайны, включая RL и синтетические данные, а также работает с датасетами. Мы проводим регулярные LLM-семинары, где разбираем статьи и AI-тренды.

Технический фокус команды — построение масштабируемого пайплайна для претрейна и дообучения LLM, оптимизация инференса: работа с современными движками, квантованием, speculative decoding и другими методами ускорения, а также развитие LLM Gateway — единой точки входа для работы с внутренними и внешними LLM.

• Отвечать за GPU-инфраструктуру для LLM: от железа до утилизации.
• Определять и реализовывать стратегию развития инференса LLM.
• Оптимизировать инференс LLM.
• Определять стратегию использования внешних LLM-провайдеров и развивать LLM Gateway.
• Развивать платформы оценки качества, RAG и LLM Gateway.
• Быть надёжным партнёром для DS UL.
• Работать с ключевыми метриками: cost per token × model size, утилизация, SLA, удовлетворённость пользователей LLM Gateway и экономические показатели LLM.

• Экспертиза в GPU.
• Опыт работы с DS в области LLM и оптимизации инференса.
• Понимание принципов работы LLM, инфраструктуры вокруг них и оценки качества моделей.
• Опыт оптимизации инференса LLM.
• Опыт управления несколькими командами, системный подход к менеджменту, работа через лидов и цели.
• Опыт ведения проектов для стейкхолдеров уровня кластер-лидов и CEO.
• Умение переводить сложные технические темы на понятный язык.
• Понимание задач DS и умение договариваться с командами.
• Умение оценивать ситуацию и решать проблемы до того, как они повлияют на результат.

Локация: Москва, удалённая работа.

• Расширенная забота о здоровье: ДМС, страхование жизни, онкострахование.
• Сервис психологической поддержки, а также финансовые, юридические и ЗОЖ-консультации для вас и ваших близких.
• Корпоративный спорт: групповые тренировки, велбиинг-приложение.
• Спецпредложения от партнёров и скидки на сервисы Авито: бронирование жилья, услуги продвижения, ипотечное страхование.
• Компенсация питания.
• Возможность развиваться в сильной команде лидеров и помогать расти другим.
• Чёткая матрица компетенций с прозрачными ожиданиями на всех уровнях.
• Уникальный культурный код и сильное экспертное комьюнити.