Python-разработчик LLM-агентов

Что предстоит делать

Documentolog - казахстанская продуктовая ИТ-компания, разработчик платформы электронного документооборота Documentolog и мультиагентной AI-платформы d8n.ai. Мы строим «цифровых сотрудников» — LLM-агентов, которые работают с документами, корпоративной базой знаний и бизнес-процессами у корпоративных и государственных заказчиков. Агенты живут в проде и решают задачи реальных пользователей каждый день. Часть заказчиков работает в закрытых контурах - поэтому LLM-инфраструктура у нас собственная, self-hosted.

• Проектировать и разрабатывать LLM-агентов («цифровых сотрудников»): архитектура агента, инструменты (function calling), навыки, оркестрация;
• Развивать RAG-поиск по корпоративной базе знаний: чанкирование, эмбеддинги, гибридный поиск, реранкинг, оценка качества выдачи;
• Интегрировать LLM через OpenAI-совместимые API, работать с self-hosted моделями;
• Заниматься промпт-инжинирингом на русском (продукт мультиязычный — ru/kk), защитой от prompt injection, маскированием персональных данных
• Строить оценку качества (evals, LLM-as-Judge) и наблюдаемость: качество ответов, стоимость, мониторинг галлюцинаций;
• Писать асинхронный Python-бэкенд: FastAPI, PostgreSQL, стриминг ответов;
• Доводить фичи до продакшена и сопровождать их у крупных заказчиков;
• Следить за трендами агентной экосистемы и LLM: новые инструменты и паттерны (MCP и агентные протоколы, LLM Wiki и агентные базы знаний, скиллы и память агентов), релизы моделей и фреймворков (Anthropic, OpenAI, Google), техники RAG и evals — и приносить лучшее в платформу, делясь знаниями с командой.
• Что мы ждем
• 2+ года коммерческой разработки на Python (asyncio, FastAPI, Pydantic, SQLAlchemy, pytest);
• 1+ год работы с LLM-системами в продакшене: function calling / агенты, RAG, промпт-инжиниринг;
• Опыт с любым агентным фреймворком (LangGraph, LangChain, Google ADK, CrewAI и т.п.);
• AI-first подход к работе: продвинутое владение агентными инструментами разработки (Claude Code, Codex или аналоги) — у нас они часть ежедневного процесса, а не эксперимент;
• PostgreSQL, Docker, Linux, Git;
• Свободный русский (промпты и документация - на русском); английский - уверенное чтение технической документации;
• Умение и желание отвечать за фичу целиком - от идеи и дизайна до продакшена и сопровождения.
• Будет плюсом
• Казахский язык - сильный плюс;
• MCP (Model Context Protocol);
• Векторный и гибридный поиск на практике (Qdrant, pgvector, Solr, Elasticsearch);
• Evals и наблюдаемость LLM (Langfuse, RAGAS и т.п.);
• vLLM / GPU-serving, fine-tuning (LoRA);
• Классический ML (scikit-learn), умение читать PHP-код.

Что предлагаем