Разработчик LLM-агентов / Python-бэкенд

Что предстоит делать

Documentolog - казахстанская продуктовая IT-компания, развивающая собственную платформу электронного документооборота Documentolog и мультиагентную AI-платформу d8n.ai. Мы строим «цифровых сотрудников» - LLM-агентов, которые работают с документами, корпоративной базой знаний и бизнес-процессами у корпоративных и государственных заказчиков. Агенты живут в проде и решают задачи реальных пользователей каждый день. Часть заказчиков работает в закрытых контурах - поэтому LLM-инфраструктура у нас собственная, self-hosted.

• Проектировать и разрабатывать LLM-агентов («цифровых сотрудников»): архитектура агента, инструменты (function calling), навыки, оркестрация.
• Развивать поиск по корпоративной базе знаний.
• Интегрировать LLM через OpenAI-совместимые API, работать с self-hosted моделями.
• Заниматься промпт-инжинирингом, защитой от prompt injection, маскированием персональных данных.
• Строить оценку качества (evals, LLM-as-Judge) и наблюдаемость: качество ответов, стоимость, мониторинг галлюцинаций.
• Развивать корпоративный мессенджер реального времени: WebSocket-доставка и порядок сообщений, треды, вложения, push-уведомления, Bot API и подключение AI-агентов к чатам, интеграции с платформой документооборота.
• Писать асинхронный Python-бэкенд: FastAPI, PostgreSQL, Redis, стриминг ответов, фоновые воркеры.
• Доводить фичи до продакшена и сопровождать их у крупных заказчиков.
• Следить за трендами агентной экосистемы и LLM: новые инструменты и паттерны (MCP и агентные протоколы, агентные базы знаний, скиллы и память агентов), релизы моделей и фреймворков, техники RAG и evals - и приносить лучшее в платформу, делясь знаниями с командой.
• Что нам важно:
• 2+ года коммерческой разработки на Python (asyncio, FastAPI, Pydantic, SQLAlchemy, pytest); асинхронный бэкенд в проде, включая стриминг ответов (SSE или WebSocket).
• 1+ год работы с LLM-системами в продакшене: function calling / агенты, RAG, промпт-инжиниринг.
• Опыт с любым агентным фреймворком (LangGraph, LangChain, Google ADK, CrewAI и т.п.).
• AI-first подход к работе: продвинутое владение агентными инструментами разработки (Claude Code, Codex или аналоги).
• PostgreSQL (индексы, транзакции, чтение планов запросов), Redis, Docker, Linux, Git.
• Опыт сопровождения собственного сервиса в проде: инциденты, миграции, производительность.
• Умение и желание отвечать за фичу целиком — от идеи и дизайна до продакшена и сопровождения.
• Будет плюсом:
• Real-time-бэкенд в проде: WebSocket / Socket.IO, Redis pub/sub, несколько воркеров, переподключения.
• Опыт разбора проблем производительности БД в проде: пул соединений, блокировки, медленные запросы.
• Push-уведомления (FCM, APNs), очереди (RabbitMQ), нагрузочное тестирование (k6, Locust).
• MCP (Model Context Protocol).
• Evals и наблюдаемость LLM (Langfuse, RAGAS и т.п.).
• vLLM / GPU-serving, fine-tuning (LoRA).
• Классический ML.
• Умение читать PHP и TypeScript/React-код.
• Что предлагаем:
• Беспроцентные займы - финансовая поддержка сотрудников со стажем работы в компании от 1 года.
• Фантомные акции - возможность получать процент от чистой прибыли компании после 1 года работы. Количество фантомных акций увеличивается с каждым годом работы в компании.
• Премия раз в полгода - по результатам выполнения KPI.
• Ежегодная индексация заработной платы.