Проектировать архитектуру LLM-сервисов для промышленной эксплуатации: inference-serving, batch/online processing, vector storage, orchestration пайплайнов и управление GPU-нагрузками.
Встраивать ML-сервисы в корпоративную архитектуру, интегрировать их с API Gateway, IAM/SSO, корпоративными шинами, системами мониторинга и журналирования.
Проектировать микросервисные, SOA и event-driven решения, асинхронное взаимодействие, работу с брокерами сообщений и потоковую обработку данных.
Проектировать решения для on-prem, private/public cloud и hybrid architecture, включая multi-zone deployment, disaster recovery, backup/restore и SLA/SLO/SLI.
Проектировать REST/WebSocket-интеграции, контракты взаимодействия, схемы авторизации и маршрутизации.
Практический опыт работы системным, solution или enterprise architect от 3 лет; общий опыт в ИТ от 5 лет. Опыт с LLM-продуктами или платформами данных.
Опыт проектирования GPU-инфраструктуры и inference-контуров для LLM/embedding/reranking-сервисов.
Понимание vLLM, Triton Inference Server, ONNX Runtime, MLflow и ClearML; опыт выбора архитектуры под low latency, high throughput, batch и streaming.
Навыки оценки стоимости владения архитектурой (CAPEX/OPEX, стоимость GPU/CPU/Storage/Network), проектирования мультитенантных платформ и контуров изоляции.
Знание практик FinOps и capacity planning будет плюсом.
Опыт прохождения архитектурных комитетов и согласования решений с ИБ, инфраструктурой и корпоративными архитекторами.
Навык формализации нефункциональных требований: производительность, доступность, безопасность, сопровождаемость и масштабируемость. Понимание специфики корпоративной интеграции, включая legacy-системы и ограниченные контуры.
Уверенное знание Docker, Kubernetes, Helm, ingress/service mesh, принципов деплоя и эксплуатации контейнеризированных решений.
Опыт проектирования REST/WebSocket-интеграций и знание корпоративных IAM/SSO, LDAP/AD.
Знание принципов ИБ: TLS/mTLS, JWT, OAuth2, OIDC, SAML/ADFS, RBAC/ABAC, secrets management, требования к защите ПДн и чувствительных данных.
Понимание архитектуры хранения и обработки данных с PostgreSQL, Redis и Object Storage.
Понимание Python, SQL, Bash и Git; умение читать код и проектировать архитектуру с учётом ограничений фреймворков и runtime.
Архитектурный и инфраструктурный стек: Kubernetes, Docker, Helm, Nginx/Ingress, Kafka/RabbitMQ, Redis, PostgreSQL, Object Storage, API Gateway, Vault, Keycloak/ADFS, Prometheus, Grafana, OpenSearch.