ML разработчик / инженер

Что предстоит делать

ООО «СберОбразование» — компания экосистемы Сбера, созданная в 2021 году. Мы внедряем цифровые решения и создаем новые возможности для развития и обучения на протяжении всей жизни. Мы в поиске ML разработчика / инженера, который будет развивать направление поставки ML-решений в production в команде, а именно: • Настроит мониторинг и сделает оптимизацию уже существующих в production ML-решений • Реализует масштабирование и вывод в production новые ML-решения (планируем 5-10 до конца 2026 года) • Будет взаимодействовать с командами разработки, ML для уточнения требований и постановки задач; предлагать архитектурные решения Ключевые задачи: • Разработка и поддержка API на FastAPI / другом фреймворке для интеграции ML-решений (классических моделей, агентов и тд); • "Упаковка" кода в Docker-образ с минимальным размером и безопасными зависимостями, писать Helm-чарт для развертывания этого образа; • Поиск способов обновления библиотеки или применение патча, пересборка образа и обновление деплоя при блокировке образа SCA-сканером; • Обеспечение стабильной работы ML-решений в production, включая развертывание и работы с локальными LLM, ASR и in-house решения; • Настраивать и оптимизировать моделей на CPU; • Версионирование моделей и управление артефактами; • Развитии вместе с командой эксплуатации и архитекторами инфраструктуры полного жизненного цикла ML-решений: тестировать новые решения, улучшать текущие.

Что ждём от вас

• Опыт работы в области Backend разработки / ML Engineer от 4 лет;
• Опыт практического внедрения и поддержки ML-решений в production;
• Backend production фреймворки:
• проектирование поддерживаемых, документированных и высоконагруженных API
• уверенное владение асинхронным/многопоточным программированием (asyncio, threading, multiprocessing)
• Понимание микросервисов, принципов SOLID, грамотный дизайн REST/gRPC API для инференса;
• SQL (PostgreSQL/MySQL) / noSql (MongoDB): работа с данными, оптимизация запросов, версионирование данных (DVC);
• Знакомство с Redis (кэш, feature serving);
• Понимание ML-алгоритмов и жизненного цикла модели:
• от постановки задачи, экспериментов и версионирования до деплоя и мониторинга в production
• проектирование агентных систем (работа с LangChain, LlamaIndex, LangGraph, Tool-Calling, RAG)
• понимание современных NLP-архитектур (трансформеры, механизмы внимания) и их отличия от классических сетей
• Практические знания инструментов и практик DevOps / MLOps;
• Уверенный Docker, Kubernetes; умение писать Dockerfile и values.yaml; CI/CD-пайплайны; мониторинг ресурсов;
• Глубокое понимание работы зависимостей в Python для устранения проблем с деплоем;
• Опыт работы с SCA-сканерами и подготовкой ML-решений для проверки безопасности и запуска в кластере;
• Разворачивание и поддержка решения полного жизненного цикла ML-решений: анализ логов, масштабирование, сокращение SLA, оптимизации ресурсов;
• Уметь находить общий язык с техническими командами: доносить и аргументировать свои позицию, участвовать в релизах, оперативно и проактивно вносить изменения для достижения результата;
• Уметь внятно презентовать / рассказать о проделанной работе, своих решениях и дальнейших шагах.
• Является преимуществом:
• KServe / TorchServe — опыт развертывания моделей на inference-платформах;
• Triton Inference Server — оптимизация инференса, динамическое батчирование, работа с разными бекендами (TensorRT, ONNX);
• Опыт инференса больших языковых моделей (vLLM, LLM) и других ML-моделей, оптимизация GPU-памяти, continuous batching;
• Real-time системы: Kafka, streaming-инференс;
• Опыт работы с поисковыми системами (OpenSearch, Elasticsearch) и векторными базами данных;
• Опыт дообучения LLM (fine‑tuning) и построения RAG-пайплайнов;
• Понимание принципов и практический опыт Data Ops / LLM Ops / Agent Ops.

Что предлагаем