LLM-инженер (RAG и агентные системы)

Что предстоит делать

<h3><b>О роли</b></h3><p>Mantis Analytics — это платформа для моделирования угроз и симуляции на основе ИИ, которая помогает предприятиям и организациям государственного сектора обнаруживать, анализировать и прогнозировать реальные риски, влияющие на операции и цепочки поставок.</p> <p>Вы будете отвечать за уровень приложений на основе LLM во всех наших проектах — за извлечение данных, разработку агентов и обработку документов, которые превращают модели в продукты. Сегодня это включает копилота (RAG + агентный подход + обработка документов), агентный уровень представления в нашем пайплайне тематического моделирования и агентный запасной вариант для сбора новостей. Вскоре это распространится на геополитическое прогнозирование и пользовательскую аналитическую рабочую область на базе LLM.</p><p>Вы не будете заниматься предварительным обучением или тонкой настройкой моделей — глубокое ML и LLMOps уже реализованы внутри компании, — но вам необходимо достаточно хорошо понимать, как работают LLM и эмбеддинги, чтобы проектировать системы с учетом их реального поведения, отлаживать их и делать извлечение данных и агентов по-настоящему надежными. Это роль с упором на разработку, с прямым наставничеством в области внутреннего устройства моделей и возможностью быстрого роста.</p><h3><b>Обязанности</b></h3><ul><li>Создавать и улучшать RAG-системы: разбиение на чанки, эмбеддинги, качество извлечения, реранжирование, оптимизация контекстного окна, привязка к источникам и снижение галлюцинаций.</li><li>Проектировать агентные рабочие процессы — использование инструментов, многошаговые рассуждения, агенты с дополненным извлечением и агентные запасные варианты, когда классические методы не работают (например, сбор данных).</li><li>Управлять пайплайнами обработки документов: загрузка, парсинг, структурирование и преобразование неструктурированных источников в доступные для запросов знания.</li><li>Создавать агентный уровень представления для тематического моделирования — маркировку и суммаризацию на основе LLM для кластеров, построенных на эмбеддингах.</li><li>Помогать в развертывании ассистента по геополитическому анализу: пользовательской рабочей области LLM на основе курируемого корпуса данных.</li><li>Интегрировать модели через совместимые с OpenAI API на хостинговых и локальных конечных точках (при поддержке по обслуживанию/операциям внутри компании).</li><li>Отвечать за качество извлечения данных и агентов: измерять привязку к источникам, корректность использования инструментов и уровень галлюцинаций; отлаживать сценарии сбоев (плохое извлечение, ошибки вызова инструментов, зацикливание, коллапс режимов, несоответствие форматов).</li></ul><h3><b>Что необходимо</b></h3><ul><li>Реальное рабочее понимание того, как работают LLM и эмбеддинги — достаточное, чтобы анализировать причины, по которым извлечение данных не сработало или агент дал сбой, а не просто повторять попытку.</li><li>Практический опыт создания чего-то нетривиального с помощью LLM: RAG-системы, агента с использованием инструментов или пайплайна обработки документов.</li><li>Уверенное владение Python; комфортная работа с асинхронными паттернами.</li><li>Практическое понимание извлечения данных и эмбеддингов: векторный поиск, оценка сходства, компромиссы при разбиении на чанки, извлечение на основе метаданных.</li><li>Склад ума, ориентированный на верификацию — вы проверяете точное поведение и измеряете качество, а не оцениваете на глаз.</li></ul><h3><b>Желательно</b></h3><ul><li>Опыт работы с фреймворками для агентов (LangChain, LlamaIndex или аналогичными), MCP или саморасширяющимися / основанными на навыках агентами.</li><li>Глубокие знания в области инженерии промптов: структурированный / JSON-вывод, few-shot, управление рассуждениями.</li><li>Знакомство с локальным сервингом (vLLM) — полезно, но не обязательно; уровень операций обрабатывается внутри компании.</li><li>Опыт работы с кластеризацией / тематическим моделированием или с эмбеддингами в масштабе.</li><li>Знакомство с наблюдаемостью LLM и компромиссами между стоимостью и производительностью.</li></ul><h3><b>Чему вы научитесь здесь</b></h3><p>Прямое наставничество по внутреннему устройству моделей, пост-тренировке и оценке от человека, целенаправленно заполняющего этот пробел. Вы перейдете от использования LLM к глубокому их пониманию — и перерастете в более сложные задачи прогнозирования и аналитики по мере запуска соответствующих проектов.</p> <div> <a href="https://jobs.dou.ua/companies/mantis-analytics/vacancies/363098/#reply-btn-id">Откликнуться на вакансию</a> </div>