О проекте
Международный проект в области AI Security, связанный с разработкой сред, которые помогают LLM-моделям проходить обучение с подкреплением для задач, связанных с кибербезопасностью. Эти среды будут содержать задания в различных областях кибербезопасности (пентестинг, реагирование на инциденты, эксплуатация, вредоносное ПО и т.д.).
Важно
Это не классическая позиция Pentester или Red Team Engineer. Основная задача специалиста — создавать сложные, но реалистичные и проверяемые security-сценарии, в которых LLM-модели совершают ошибки именно из-за недостатков в рассуждении (reasoning), а не из-за неоднозначных инструкций или ограничений среды.
Чем предстоит заниматься
- Проектировать security-сценарии для оценки и обучения LLM-моделей
- Создавать environments с использованием GitHub, Slack и других инструментов
- Разрабатывать задачи, требующие сложного многошагового reasoning
- Моделировать реальные offensive security-сценарии (supply chain attacks, malicious pull requests, exploitation через GitHub Actions)
- Проверять разработанные сценарии на нескольких frontier-моделях и анализировать причины их ошибок
- Формулировать ожидаемое поведение модели и описывать, почему конкретная ошибка считается reasoning failure
- Автоматизировать создание и проверку задач с использованием Python и других инструментов
Что мы ожидаем
- 5+ лет практического опыта
Условия
- Можно удалённо
- Неполный рабочий день
- Строго вне РФ и вне РБ