ML Engineer / LLM Engineer

Что предстоит делать

ООО "Сбербанк-Сервис" - дочернее общество ПАО Сбербанк. В настоящее время компания является одной из крупнейших IT- сервисных компаний России, с присутствием во всех федеральных округах РФ, в том числе и в отдаленных уголках страны. Мы развиваем GigaARPA — платформу для перевода бизнес-процессов в автономный режим с использованием RPA, AI-агентов и LLM. Один из ключевых векторов развития платформы — AI PDLC: создание подхода, при котором пользователь может на естественном языке описать задачу, а Ассистент платформы поможет спроектировать процесс, сформировать сценарий автоматизации, протестировать его и подготовить к запуску. Ищем ML Engineer / LLM Engineer, который будет отвечать за разработку агентной логики и LLM-приложений внутри платформы.

• Разрабатывать AI-агентов и мультиагентные сценарии для автоматизации различных этапов PDLC.
• Развивать Ассистента платформы на базе LLM.
• Реализовывать генерацию сценариев автоматизации по запросу пользователя на естественном языке.
• Проектировать agentic workflow: планирование, выбор инструментов, выполнение действий, проверка результата и обработка ошибок.
• Реализовывать механизм вызова инструментов платформы через LLM: tool calling / function calling.
• Разрабатывать и развивать RAG-механизмы и работу с корпоративными базами знаний.
• Создавать LLM-приложения для анализа логов, метрик, БД, документации и других данных платформы.
• Разрабатывать агентов для тестирования, сопровождения и диагностики автоматизированных процессов.
• Проектировать механизмы памяти и управления контекстом AI-агентов.
• Разрабатывать подходы к автоматизированной оценке качества ответов и действий LLM.
• Проводить эксперименты с моделями, промптами, контекстом и агентными архитектурами.
• Оптимизировать latency, качество и потребление токенов.
• Совместно с backend- и frontend-командами интегрировать AI-функциональность в продукт.
• Что для нас важно:
• Уверенное владение Python.
• Практический опыт разработки приложений на базе LLM.
• Понимание принципов работы современных языковых моделей и ограничений LLM.
• Практический опыт работы с AI Agents / Agentic AI, tool calling / function calling, RAG, embeddings и vector databases, prompt engineering, structured output, управлением контекстом и памятью агентов.
• Опыт разработки production-ready сервисов и интеграции через REST API.
• Умение самостоятельно декомпозировать исследовательскую задачу и доводить эксперимент до работающего продукта.
• Понимание того, как измерять качество LLM-приложения, а не только оценивать результат «на глаз».
• Git, Docker, базовое понимание CI/CD.
• Будет плюсом
• Опыт разработки мультиагентных систем.
• Опыт работы с GigaChat, Qwen, DeepSeek, Llama или другими open-source / enterprise LLM.
• Опыт использования LangGraph, LangChain, LlamaIndex или собственных agentic-фреймворков.
• Опыт построения LLM evaluation / LLM-as-a-Judge.
• Опыт работы с MCP и архитектурой инструментов для AI-агентов.
• Опыт работы с PostgreSQL и векторными БД.
• Опыт работы с Kubernetes / OpenShift.
• Опыт inference и оптимизации локально развернутых LLM.
• Опыт Fine-tuning / LoRA будет преимуществом, но не является обязательным.
• Опыт разработки AI-функциональности для enterprise-продуктов.
• Почему задача интересная
• Здесь LLM — не отдельный чат-бот и не экспериментальный сервис, а часть ядра продуктовой платформы.
• Мы строим систему, в которой AI должен уметь не только генерировать текст, но и: понимать задачу → проектировать решение → использовать инструменты → создавать сценарий → проверять результат → сопровождать его в промышленной эксплуатации.
• Поэтому роль сочетает ML/LLM engineering, продуктовую разработку и исследование новых подходов к Agentic AI.

Что предлагаем