Middle+ Machine Learning Engineer (ML Infrastructure & Highload)

О вакансии

Мы строим высоконагруженные ML-системы для обеспечения банковской безопасности. Наш фокус — антифрод, управление рисками, обнаружение аномалий и оптимизация бизнес-процессов и тд.

Ищем MLE грейда Middle+ с сильной инженерной базой. Ключевая задача — внедрение и адаптация высокопроизводительных runtime-шаблонов для инференса моделей, автоматизация процессов деплоя и оптимизация Time-to-Market при выводе ML/DL и LLM в промышленную эксплуатацию.

Обязанности

• развертывание и поставка моделей: Упаковка, деплой и поддержка runtime-шаблонов для быстрого вывода моделей в прод на основе готовых архитектурных решений

Оптимизация инференса (ML Serving)

• обеспечение требуемого уровня latency и пропускной способности для классического ML (LightGBM, CatBoost и тд) и нейросетей

• конфигурирование и поддержка инференс-серверов (Triton Inference Server, vLLM и тд)

Интеграция и оптимизация LLM

• вывод в продакшен LLM-агентов и RAG-систем с использованием готовых фреймворков

• настройка производительных движков (vLLM, TGI) с применением базовых техник оптимизации (квантование, continuous batching)

• реализация механизмов кэширования и фильтрации запросов (Guardrails)

Автоматизация пайплайнов

• сборка end-to-end пайплайнов доставки данных и моделей (от логов до Real-time API)

• интеграция с очередями сообщений (Kafka) для обработки данных в реальном времени

• написание и поддержка DAG-ов переобучения моделей в Airflow

Мониторинг и логирование

• настройка базового мониторинга метрик данных и моделей (Data/Model Drift)

• интеграция трекинга экспериментов и логирования цепочек LLM (MLflow, Langfuse)

• ведение реестра моделей в MLflow Model Registry.

Требования

• инженерный опыт: От 3-х лет в роли MLE / Backend-разработчика (Python) с опытом коммерческого вывода моделей в прод и пониманием специфики Highload-систем

• уверенный Python: Чистый, типизированный код, знание асинхронного программирования (Asyncio) и базовых паттернов проектирования

• работа с данными и очередями: Хорошее знание SQL (сложные запросы, оконные функции) и практический опыт интеграции приложений с Kafka

MLOps и Инфраструктура

• уверенное владение Docker, базовый опыт работы со средой Kubernetes (запуск подов, просмотр логов, понимание манифестов)

• опыт написания пайплайнов в Airflow и интеграции моделей с MLflow

Data Science бэкграунд

• понимание математики классического ML и архитектур нейросетей

• базовые навыки профилирования кода и оптимизации использования памяти

• опыт работы с табличными данными и современным стеком NLP/LLM

будет плюсом

• понимание принципов работы корпоративных Feature Store (например, Feast)

• опыт работы с векторными базами данных (Qdrant, Milvus, PGVector)

• понимание базовых принципов работы CUDA и компиляции моделей (формат TensorRT и тд).

Условия комфортный современный офис рядом с м. Кутузовская офисный формат работы ежегодный пересмотр зарплаты, годовая премия корпоративный спортзал и зоны отдыха более 400 образовательных программ СберУниверситета для профессионального и карьерного развития программа адаптации и помощь руководителя на старте (для Junior позиций) расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ подписка Прайм с возможностью совместного использования на трёх близких вознаграждение за рекомендацию друзей в команду Сбера.