Python Backend / AI Engineer (LangGraph, RAG, LLM)

Что предстоит делать

О проекте 2UP AI Platform — корпоративная AI SaaS-платформа для создания и развёртывания граф-агентов на базе LangGraph. Платформа объединяет агентные сценарии, RAG, работу с несколькими LLM-провайдерами, корпоративные интеграции, мультитенантную архитектуру, потоковую генерацию ответов и инструменты наблюдаемости. Мы ищем инженера, который сможет работать на стыке сильного Python backend и прикладной AI-разработки: развивать сервисы платформы, создавать LLM-агентов, улучшать RAG-пайплайны и доводить AI-функциональность до стабильного production. Что предстоит делать Backend и архитектура платформы • Разрабатывать и развивать сервисы на Python и FastAPI. • Проектировать API и внутреннюю архитектуру AI-платформы. • Работать с асинхронным Python: asyncio, aiohttp, async-драйверы баз данных. • Развивать pipeline обработки сообщений: инициализация, подготовка контекста, retrieval, вызов LLM, работа с инструментами, кэширование, метрики и форматирование ответа. • Работать с MongoDB: модели данных, индексы, запросы, агрегации и оптимизация производительности. • Использовать Redis для кэширования, хранения состояния и временных данных. • Реализовывать WebSocket/SSE streaming ответов AI-агентов. • Интегрировать корпоративные и внешние сервисы через API: Jira, Confluence, Google Workspace, S3, OAuth/OIDC и другие системы. • Писать тесты, участвовать в code review и рефакторинге существующего кода. LLM, агенты и RAG • Разрабатывать AI-агентов и графовые workflow на LangGraph. • Реализовывать StateGraph, tool calling, memory, управление контекстом, ветвлениями и обработкой ошибок. • Создавать и улучшать RAG-пайплайны для работы с документами и корпоративными источниками знаний. • Настраивать загрузку и обработку PDF, DOCX, PPTX, wiki, тикетов и других источников. • Работать с чанкингом, метаданными, embeddings, векторным и гибридным поиском. • Настраивать retrieval, reranking, фильтрацию и цитирование источников. • Интегрировать разные LLM через OpenAI API, Anthropic API, OpenRouter, LiteLLM или аналогичные инструменты. • Разрабатывать MCP-инструменты и подключать их к агентному фреймворку. • Улучшать качество ответов и снижать количество галлюцинаций. • Оптимизировать latency, стоимость запросов, размер контекста и выбор моделей. Качество и эксплуатация • Настраивать трассировку и наблюдаемость LLM-сценариев. • Формировать наборы тестовых запросов и проводить регрессионные проверки. • Использовать Langfuse, RAGAS, LLM-as-a-judge или аналогичные подходы. • Участвовать в контейнеризации, CI/CD, мониторинге и логировании. • Анализировать production-инциденты и повышать устойчивость AI-сервисов. Обязательные требования • От 3 лет коммерческого опыта backend-разработки на Python. • Уверенное знание Python 3.11+. • Практический опыт разработки production-сервисов на FastAPI, Flask, Django или аналогичных фреймворках. • Опыт с асинхронным Python. • Опыт работы с PostgreSQL и/или MongoDB. • Практический опыт с Redis. • Уверенная работа с Docker и docker-compose. • Опыт интеграции внешних API. • Опыт работы с LLM API и понимание особенностей LLM-систем. • Практический опыт создания RAG-решений. • Опыт с LangChain, LangGraph или аналогичными агентными фреймворками. • Понимание embeddings, vector search, chunking, retrieval и reranking. • Умение разбираться в существующем коде и развивать уже работающую систему. Будет плюсом • Опыт с Qdrant, pgvector, Pinecone, Weaviate или другими векторными хранилищами. • Опыт с LightRAG, GraphRAG или agentic RAG. • Практический опыт с Langfuse, LangSmith, RAGAS. • Опыт разработки MCP-серверов и инструментов. • Опыт с LiteLLM и несколькими LLM-провайдерами. • Опыт с Keycloak, OAuth2, OIDC и JWT. • Опыт разработки мультитенантных SaaS-систем. • Опыт с S3/MinIO. • Знание Prometheus, Grafana, Sentry, OpenTelemetry. • Опыт с Kubernetes и CI/CD. • Опыт self-hosted LLM, vLLM, Ollama или Hugging Face. • Опыт fine-tuning моделей через LoRA/QLoRA. Кого мы ищем Нам подойдёт инженер, который: • не ограничивается прототипами и умеет доводить решения до production; • одинаково уверенно чувствует себя в backend-разработке и AI-интеграциях; • понимает, что качество AI-системы зависит не только от промпта, но и от архитектуры, данных, retrieval, наблюдаемости и обработки ошибок; • умеет принимать технические решения с учётом качества, скорости, стоимости и дальнейшего масштабирования; • готов работать с существующей кодовой базой, а не только создавать решения с нуля.

Что предлагаем