Старший AI инженер (Python, LLM системы)

Что предстоит делать

<p>Мы создаем AI-продукты для production-нагрузок: мультиагентные системы, RAG-платформы, пайплайны инференса в реальном времени и MCP-платформу для LLM-агентов, работающую на Kubernetes. Мы нанимаем senior AI-инженера — сильного Python-разработчика бэкенда, чей центр тяжести находится в LLM-системах — в команду, а не на отдельный проект, чтобы владеть этими системами от архитектуры до продакшена.<br><strong></strong></p><h3>Роль:</h3><p>Вы проектируете и создаете системы, которые превращают LLM в надежные функции: оркестрацию агентов, RAG-пайплайны, API для инференса, eval-инструменты. Часть работы — на уровне протоколов: MCP-сессии, JSON-RPC, стриминг, отмена запросов через сетевые переходы — без фреймворка между вами и моделью; часть — это LangGraph-потоки, пайплайны поиска и событийно-ориентированные сервисы на AWS. Вы берете работу от постановки задачи до продакшена: определяете объем, создаете критические компоненты, инструментируете их и остаетесь ответственным за то, как они ведут себя под нагрузкой.</p><p>Это роль для того, кто работает самостоятельно. Вы принимаете решения, документируете их и проверяете свою работу до того, как это придется делать кому-то еще. Никто не назначает вам подзадачи. Вы владеете своими сервисами в продакшене от начала до конца; отдельной передачи в эксплуатацию нет.</p><h3>Что мы ищем<b>:<br></b></h3><p>В первую очередь — зрелость и самостоятельность. Несколько лет опыта выкатки нетривиальных Python-бэкендов в продакшен и последующей ответственности за них. Вы берете постановку задачи, сверяете ее с кодом, определяете объем, выкатываете — и можете рассказать о чем-то, что вы создали и что сломалось, и как это изменило ваш подход к проектированию.</p><h3>Основные требования по AI-инженерии</h3><ul><li><strong>Паттерны работы с LLM:</strong> использование инструментов, структурированный вывод, стриминг, повторные попытки, fallback. Вы создали как минимум одного нетривиального агента или RAG-систему от начала до конца — и вам комфортно как с фреймворком (LangGraph или аналогичным), так и без него, вручную выстраивая цикл на уровне API.</li><li><strong>RAG в продакшене:</strong> разбиение на чанки, гибридный поиск, реранжирование, векторные базы данных (pgvector или специализированные хранилища) под реальным трафиком — с измеримым качеством поиска.</li><li><strong>Оценка (Eval):</strong> вы относитесь к eval'ам как к способу узнать, что изменение сработало, а не как к результату для презентации.</li><li><strong>AI-архитектура с учетом стоимости:</strong> батчинг, кэширование, бюджетирование токенов, корректная деградация при сбое провайдера или исчерпании бюджета.</li><li><strong>Осведомленность в безопасности LLM:</strong> мышление, направленное на предотвращение инъекций промптов и утечки данных, когда модель находится между пользователями и данными.</li><li><strong>Рабочее знание LLM-сервинга и MLOps:</strong> достаточный опыт работы с vLLM / Hugging Face, чтобы разместить модель за API; версионирование моделей и отслеживание экспериментов (MLflow, W&amp;B) будут плюсом.</li><li><strong>AI-инструменты в вашем собственном рабочем процессе</strong> (Claude Code, Cursor, агенты, eval'ы): вы знаете, где они помогают, а где могут навредить корректности, если доверять им слишком сильно.</li></ul><h3>Владение платформой, которое это поддерживает</h3><ul><li><strong>Уверенное владение async Python:</strong> FastAPI (или эквивалент), Pydantic v2, asyncio, фоновые воркеры (Celery, ARQ или аналоги). Потоковые пайплайны, ограничение конкурентности, топологии отмены и таймаутов через сетевые переходы.</li><li><strong>Понимание работы с данными:</strong> PostgreSQL в масштабе (pgvector, JSONB, партиционирование), Redis не только как кэш, событийно-ориентированная координация (Kafka, Redis Streams), идемпотентность и безопасное для нескольких реплик состояние, обеспечиваемое на уровне базы данных.</li><li><strong>Опыт работы с высокими нагрузками:</strong> вы управляли системами под реальным трафиком и знаете, где они обычно выходят из строя в первую очередь.</li><li><strong>Практическое владение AWS и Kubernetes за пределами деплоя:</strong> выбор между примитивами AWS на основе их достоинств; RBAC, сервисы и лейблы как API-контракт; секреты; самостоятельная отладка неудачного rollout'а.</li><li><strong>Мышление, ориентированное на наблюдаемость:</strong> трассировка, структурированные логи, метрики, по которым кто-то реально заводит инциденты. Опыт работы с OpenTelemetry приветствуется.</li><li><strong>Безопасность:</strong> работа с секретами, изоляция между арендаторами, аутентификация сервис-сервис (JWT, JWKS, OAuth) — и понимание, какие границы должны быть закрыты при сбое.</li></ul><h3>Как вы работаете</h3><ul><li><strong>Дисциплина поставки:</strong> вы определяете объем, планируете и выкатываете с предсказуемой периодичностью. Вы пишете спецификацию или ADR, когда проблема этого требует, и умеете отличить один случай от другого.</li><li><strong>Наставничество:</strong> вы помогали другим инженерам расти через код-ревью и парное программирование. Вы объясняете «почему», а не только «что».</li><li><strong>Работа с требованиями:</strong> вы напрямую общаетесь с продактом и стейкхолдерами, задаете вопросы, которые выявляют их реальные потребности, и превращаете это в спецификацию, по которой могут работать инженеры.</li><li><strong>Английский на уверенном рабочем уровне,</strong> письменный и устный. Вы можете провести встречу, написать дизайн-документ, который захочется читать другим, и сохранять ясность мысли под давлением.</li></ul><h3>Будет плюсом<b>:</b></h3><ul><li>Знание протоколов: MCP, JSON-RPC 2.0, Streamable HTTP — или продемонстрированная способность быстро изучить протокол по его спецификации.</li><li>Опыт тонкой настройки моделей (LoRA, PEFT).</li><li>Вклад в open-source AI-инструменты или исследовательскую инженерию.</li><li>Достаточное знание React и TypeScript, чтобы отследить SSE-баг от браузера до бэкенда.</li></ul><h3>Примерный квартал:</h3><ul><li>Асинхронный FastAPI-сервис, который стримит ответы LLM через SSE, батчит запросы, где это возможно, и корректно деградирует, когда вышестоящий провайдер недоступен.</li><li>Мультиагентный оркестрационный поток — на LangGraph или вручную написанном цикле вызова инструментов — с eval-инструментом, доказывающим, что стало лучше.</li><li>Сборка RAG-пайплайна: разбиение на чанки, гибридный поиск, реранжирование, с измеримым качеством поиска до и после.</li><li>MCP-агент, развернутый как Kubernetes-сервис, и связанная с ним работа на уровне протокола: сессии, стриминг, семантика отключения и отмены.</li><li>Обзор нагрузки и стоимости существующего инференс-пути: p99 задержка, расход токенов, сценарии отказов, с измеримыми результатами.</li></ul><p>Так выглядит большая часть вашего времени; перечисленные ниже навыки работы с платформой существуют для его обслуживания.</p><h3>Что мы предлагаем<strong>:</strong></h3><ul><li>Реальное владение: архитектура, направление и решения между ними для областей, за которые вы отвечаете.</li><li>Небольшая команда и короткий путь от решения до продакшена.</li><li>Бюджет на R&amp;D для AI-инструментов, которые докажут свою ценность.</li><li>Удаленная работа, асинхронный подход в приоритете, с защищенным временем для глубокой работы.</li><li>Конкурентная компенсация для senior-специалистов, открыто обсуждаемая на первом созвоне.</li></ul> <div> <a href="https://jobs.dou.ua/companies/mangosoft/vacancies/366950/#reply-btn-id">Відгукнутись на вакансію</a> </div>