App Company App Company
6 1 д. назад

Backend-разработчик: AI API Router (Python/Node.js)

Ищем бэкенд-разработчика для создания микросервиса, который будет маршрутизировать запросы к AI-провайдерам. Важно иметь опыт работы с OpenAI API и понимание микросервисной архитектуры. Удалённая работа с возможностью долгосрочного сотрудничества.

middle удалённо 200 000 – 350 000 RUB
Тип занятости
contract
Опубликовано
8 марта 2026
Языки
English: Pre-Intermediate
Вакансии в Telegram-канале
Свежие вакансии Каждый день
Подписаться
??%
Match Score
Войдите и создайте резюме
Войти

описание

Навыки: Python, FastAPI, Redis, PostgreSQL, Docker, REST, Микросервисная архитектура, LLM, Асинхронное программирование. Специализации: Бэкенд разработчик. ## Backend-разработчик: AI API Router (Python/Node.js) ## О компании Мы — команда, развивающая AI-сервис с аудиторией десятков тысяч пользователей и высоким объёмом запросов к AI-провайдерам. Разрабатываем умный роутер запросов между AI-провайдерами (OpenAI, Anthropic, DeepSeek, Google и др.) с интеллектуальной маршрутизацией и оптимизацией расходов. ## Что предстоит делать **Разработка с нуля и под ключ.** Вы будете единственным разработчиком на этом проекте. Нет legacy-кода, нет чужих решений — вы проектируете архитектуру, выбираете подходы и реализуете всё самостоятельно. **Задача** — спроектировать и разработать микросервис, который принимает запросы в OpenAI-совместимом формате и интеллектуально маршрутизирует их между AI-провайдерами. Конкретно: - Разработка API-шлюза с единым эндпоинтом, совместимым с OpenAI API (Chat Completions формат) - Классификатор входящих запросов по сложности (simple / medium / complex / code / image) — на основе эвристик с последующей эволюцией в ML-модель - Таблица маршрутизации: какой провайдер и модель используется для каждого типа запроса - Проксирование запросов к провайдерам (OpenAI, Anthropic, Google, DeepSeek и др.) с поддержкой streaming - Логирование метрик: стоимость каждого запроса, latency, выбранная модель, токены input/output - Автоматический fallback при недоступности провайдера (circuit breaker паттерн) - Внутренний rate limiter per provider для предотвращения каскадных отказов - Дашборд аналитики: расход по провайдерам, экономия, графики за период - Кеширование запросов (exact match + semantic cache) - Система API-ключей, биллинг, rate limiting по ключам ## Стек - **Язык:** Python (FastAPI/aiohttp) или Node.js (Express/Fastify) — на ваш выбор - **БД:** PostgreSQL (биллинг, пользователи, логи), Redis (кеш, rate limiting, circuit breaker state) - **Инфраструктура:** Docker, размещение на VPS (DigitalOcean / Selectel) - **API-провайдеры:** OpenAI, Anthropic, Google AI, DeepSeek, в будущем — self-hosted модели ## Что важно - Опыт работы с OpenAI API (или аналогичными LLM API) — обязательно - Понимание streaming (SSE) — обязательно - Опыт проектирования и разработки микросервисов - Понимание REST API, работа с несколькими внешними API параллельно - Умение писать чистый, поддерживаемый код - Самостоятельность: задачи ставятся на уровне «что нужно получить», а не «как именно сделать» **Будет плюсом:** - Опыт с LLM-роутингом или оркестрацией моделей - Работа с биллинговыми системами и ЮКассой - Опыт работы с Redis для кеширования и rate limiting - Понимание токенизации и ценообразования LLM-моделей - Опыт с ML (LightGBM/CatBoost) — для развития классификатора ## Условия - Удалённая работа - Проектная занятость с перспективой постоянного сотрудничества - Оплата обсуждается индивидуально, в зависимости от опыта - Прямое общение с основателями, без бюрократии ## Почему это интересно Это не очередной CRUD. Вы проектируете систему, которая в реальном времени принимает решения о маршрутизации тысяч запросов в секунду, оптимизируя баланс между стоимостью, скоростью и качеством. Классификатор запросов эволюционирует от ручных эвристик до самообучающейся ML-модели. Есть реальный трафик с серьёзными объёмами — результат вашей работы виден сразу в цифрах экономии. ## Как откликнуться Напишите коротко: какой у вас опыт с LLM API, на каком стеке предпочитаете работать, и как бы вы подошли к задаче классификации запросов по сложности. Портфолио или GitHub приветствуются.

Похожие вакансии

6 вакансии
Инфотех
Инфотех
1 д. назад

Разработчик Python для мультиагентного ИИ

200 000 - 350 000 RUR

В этой роли вы будете работать над созданием мультиагентного ИИ для управления складскими процессами. Основные требования включают уверенное знание Python и FastAPI, опыт работы с SQL и Docker. Работа полностью удаленная и частичная, с возможностью долгосрочного контракта при успешном пилоте.

Python · Английский язык · Тестирование баз данных ·+8

middle удал.
Стрим
Стрим
4 д. назад

ML Engineer

220 000 - 340 000 RUR

Вам предстоит заниматься разработкой и поддержкой ML-моделей, управлением их жизненным циклом и автоматизацией процессов. Мы ищем специалиста с глубокими знаниями Python и опытом работы с контейнеризацией и оркестрацией. Удаленная работа и возможности для профессионального роста гарантированы.

ML · Python · DevOps ·+9

middle удал.
О
ООО "ИЗИ ТРЕЙД ФЭМИЛИ"
2 д. назад

Инженер по данным

от 200 000 RUR

Мы ищем инженера по данным с опытом работы на Python или Java/C#. Ваша задача будет заключаться в разработке и поддержке интеграций, проектировании DWH и автоматизации процессов. Работа полностью удаленная с достойной зарплатой и возможностью влиять на бизнес.

Python · ETL · API ·+10

middle удал.
RETALIQA
RETALIQA
3 д. назад

Фулстек разработчик

от 200 000 RUB

Вакансия для фулстэк разработчика в компании RETAILIQA. Основные требования: опыт работы с Python и JavaScript, знание Django, Angular и React. Предлагаем официальное трудоустройство, гибкий график и возможность удаленной работы.

middle удал.
О
Онлайн-школа по обучению тестировщиков
3 д. назад

Куратор по тестированию

40 000 - 200 000 RUR

Присоединяйтесь к нашей дружной команде онлайн-школы, где вы сможете делиться опытом и поддерживать учеников в их пути к офферам. Мы предлагаем гибкий график и возможность работать полностью удаленно, а также достойный доход за вашу работу.

QA · Automation · Python ·+21

middle удал.
Ч
Чумаков Михаил Владимирович
14 ч. назад

Инженер по автоматизации тестирования

Присоединяйтесь к нашей команде, если у вас есть опыт автоматизации тестирования от 3 лет и вы хотите работать над интересными задачами в дружной команде. Мы предлагаем гибкий график и полностью удалённую работу.

Git · Python · Docker ·+4

middle удал.
Откликнуться