AI инженер (Python / LangGraph) — агентный рантайм

Что предстоит делать

<p><b>Суть роли в одной строке</b></p><p>Создать среду выполнения агентов — мозг платформы: stateful LangGraph-воркфлоу, RAG, интеграции инструментов, маршрутизация моделей, шлюзы с участием человека (human-in-the-loop) и логирование аудиторского уровня — на Python.</p><p><b>Контекст</b></p><p>Мы создаем мультиагентную AI-платформу для регулируемого банковского клиента. Среда выполнения агентов — это сервис на <b>Python / FastAPI</b>, предоставляющий эндпоинты, совместимые с OpenAI, где агенты реализованы в виде графов <b>LangGraph</b>, а инструменты доступны через MCP. Чувствительные рабочие нагрузки (KYC, PII) выполняются на самостоятельно размещенных моделях с открытыми весами на инфраструктуре ЕС (Hetzner); менее чувствительные нагрузки направляются к frontier-моделям через AWS Bedrock EU. AI-инженер отвечает за логику агентов, поиск (retrieval) и уровень моделей/инструментов.</p><p><b>Над чем вы будете работать</b></p><ul><li>Проектировать и создавать stateful графы агентов в LangGraph — многоэтапные воркфлоу, вызов инструментов и прерываемые шлюзы с участием человека (например, шестиэтапный KYC-ассистент).</li><li>Создавать RAG-пайплайны: ингестия, чанкинг, эмбеддинги, поиск и обоснованные ответы с цитированием источников (например, анализ встреч, поисковая линза).</li><li>Реализовывать паттерны структурированного вывода, где LLM генерирует только валидированный JSON, а остальное делают детерминированные движки — чтобы модель не участвовала в рендеринге при генерации документов.</li><li>Интегрировать инструменты через MCP (streamable-http) и подключать агентов к банковским источникам данных за слоем инструментов.</li><li>Работать с размещенными и самостоятельно размещенными моделями — маршрутизатор моделей для каждой задачи, выбирающий между Bedrock EU и локальными моделями с открытыми весами — с учетом проектирования промптов, оценки и осведомленности о стоимости/задержках.</li><li>Создавать логирование аудиторского уровня и происхождение данных для каждой AI-операции, с обработкой PII через хеширование, а не в виде открытого текста.</li></ul><p><b>Обязательные требования</b></p><ul><li><b>Уверенное владение Python: </b>продукционный, типизированный, тестируемый код — не только в ноутбуках.</li><li><b>LangChain и LangGraph: </b>практический опыт создания stateful графов, вызова инструментов/функций и прерываний с участием человека.</li><li><b>Паттерны LLM-приложений: </b>RAG, проектирование промптов, структурированный вывод/валидация JSON-схем и оценка поведения агентов.</li><li><b>Стек поиска (retrieval): </b>векторные хранилища (pgvector и/или Qdrant) и эмбеддинги.</li><li><b>Сервинг: </b>FastAPI для эндпоинтов агентов; уверенная работа с асинхронным Python.</li><li><b>Доступ к моделям: </b>работа с размещенными API (AWS Bedrock) и самостоятельно размещенными моделями с открытыми весами (Llama, Mistral, Qwen).</li></ul><p><b>Желательно</b></p><ul><li>Опыт работы в банковской/регулируемой сфере; понимание аудиторского логирования, обработки PII и требований к хранению данных в ЕС.</li><li>Интеграция инструментов через MCP (Model Context Protocol).</li><li>Пайплайны ASR/распознавания речи (для анализа встреч).</li><li>MLOps для самостоятельно размещенного инференса (vLLM, Ollama или аналоги) на инфраструктуре ЕС (Hetzner).</li><li>Оркестрация воркфлоу (например, Camunda) и детерминированный рендеринг документов (docxtpl, openpyxl).</li></ul><p><b>Технологический стек, с которым вы будете работать</b></p><p>Python, LangChain, LangGraph, FastAPI · pgvector / Qdrant, эмбеддинги · AWS Bedrock EU и самостоятельно размещенные LLM с открытыми весами на Hetzner · MCP-серверы (streamable-http) · Docker, Git, CI/CD.</p><p><b>Формат работы</b></p><ul><li>Удаленно, распределенная команда доставки; рабочий язык — английский; облегченный Scrum.</li><li>Банковский уровень строгости: каждая AI-операция логируется и проверяется, участие человека по умолчанию, соответствие требованиям встроено в архитектуру — а не добавлено в качестве заплатки.</li><li>Агенты подготавливают, ищут, составляют черновики и предлагают; триггер и финальное действие всегда остаются за человеком.</li></ul><p><b>Важно</b> <br>Поскольку это проект, базирующийся в Германии, мы в первую очередь ищем кандидатов из Западной Украины, при этом предпочтительными локациями являются Винница и Львов.</p> <div> <a href="https://jobs.dou.ua/companies/xcubator/vacancies/361969/#reply-btn-id">Откликнуться на вакансию</a> </div>