Backend-разработчик платформы инференса ML-моделей
Разработка и оптимизация высоконагруженной платформы для инференса ML-моделей на GPU. Требуется опыт от 4 лет в Go или Java/Kotlin, знание Kubernetes и распределённых систем. Предлагается работа в Ozon над инфраструктурой, обслуживающей миллионы пользователей.
Отклик отправляется на сайте источника. Регистрация в Taylor для перехода не нужна.
Зарплата не указана — оценили по рынку
На основе 39 похожих вакансий за 90 дней по всем рынкам вместе — отдельной выборки по рынку этой вакансии нет.
Что предстоит делать
Привет! Мы — команда платформы инференса Ozon. Мы строим ML - инфраструктуру, отвечающую за финальный и самый критичный этап жизненного цикла моделей — их работу в реальных продуктах. Через нашу платформу проходят ранжирование, рекомендации, компьютерное зрение и другие ML-сценарии, влияющие на миллионы пользователей. Наша миссия — создавать отказоустойчивую и высокопроизводительную платформу инференса, способную выдерживать пиковую нагрузку 200K+ RPS и эффективно управлять кластерами GPU-серверов. Мы работаем на стыке сильной backend-инженерии (многопоточность, распределённые системы, Kubernetes) и глубокой ML-специфики с фокусом на оптимизацию работы моделей на GPU. Наш стек • Go, Java — платформенные сервисы • Python — ML-интеграции • Kubernetes, Docker, Nvidia Device Plugin • Triton Inference Server • Kafka, PostgreSQL, Redis, S3 • GitLab CI Вы будете • Проектировать и разрабатывать высоконагруженные сервисы для инференса ML-моделей в облачной среде. • Оптимизировать выполнение моделей на GPU: batching, управление GPU-памятью, настройка GPU sharing (MIG), снижение latency. • Интегрировать ML-рантаймы (TensorRT, ONNX Runtime) в платформенную инфраструктуру на Java и Go. • Разрабатывать механизмы автоскейлинга и эффективного распределения нагрузки между инференс-сервисами. • Обеспечивать SLA платформы: участвовать в разборе инцидентов, выявлять узкие места и внедрять системные решения для повышения стабильности и производительности. Примеры задач • Разработка унифицированного API инференса, абстрагирующего команды Data Science от особенностей GPU и рантаймов. • Автоматическая оптимизация и конвертация моделей под различные типы GPU. • Реализация асинхронного инференса с автоскейлингом в Kubernetes. • Повышение утилизации GPU-кластера без деградации latency Нам важно • Коммерческий опыт разработки на Go или Java/Kotlin от 4-х лет. • Опыт проектирования микросервисной архитектуры и работы с распределёнными системами. • Понимание многопоточности и конкурентного программирования. • Умение писать чистый, тестируемый и поддерживаемый код. • Опыт работы с облачной инфраструктурой (желательно Kubernetes). Будет плюсом • Опыт работы с ML-инфраструктурой и GPU (CUDA, Triton, KServe). • Понимание MLOps-практик. • Опыт работы с Kafka или другими системами очередей. • Опыт оптимизации высоконагруженных систем.
Стек и инструменты
Сколько платят вам?
Анонимно укажите, сколько вы получаете как Go-разработчик, — сразу покажем, в скольких вакансиях платят меньше. А из ответов сложится зарплата, которую платят на деле, а не обещают.
Подходит ли вам эта вакансия?
Зарегистрируйтесь и загрузите резюме — посчитаем % совпадения с этой вакансией, подсветим сильные стороны и что стоит подтянуть
Ещё в Ozon
97 активных вакансий в компании
Тестировщик мобильных приложений
~595 100 – 1 082 000 ₸ оценка по всем рынкам
Команда тестирования мобильных приложений Ozon Job ищет QA-инженера. Нужно тестировать приложение на iOS и Android, писать тест-кейсы и автотесты на Python, работать с adb, эмуляторами и снифферами, участвовать в релизах. Требуется опыт тестирования мобильных приложений и автоматизации на Python от года.
Инженер группы мониторинга и реагирования (SOC)
~1 893 500 ₸ оценка по всем рынкам
Ozon Банк ищет инженера в SOC-группу департамента информационной безопасности. Нужно развивать платформу мониторинга на Elastic, строить детекты, автоматизировать процессы и участвовать в реагировании на инциденты. Требуется опыт в ИБ/SOC от 3 лет, знание техник атакующих, Python и инфраструктуры, а также опыт с Elastic Stack и IRP/SOAR.
Разработчик агентской платформы
~757 400 – 1 514 800 ₸ оценка по всем рынкам
Ozon Банк ищет разработчика для создания внутренней платформы AI-агентов, работающих с корпоративными знаниями. Нужно закрывать бэкенд на Python (FastAPI, gRPC), фронтенд на Svelte/JS, интегрировать LLM и векторные хранилища, деплоить в Kubernetes. Требуется опыт Python от 3 лет, знание PostgreSQL, Docker/K8s и готовность работать с внутренними заказчиками.
Старший инженер по информационной безопасности ML
~1 500 000 – 2 887 613 ₸ оценка по всем рынкам
Команда аналитики SOC ищет старшего ML-инженера по информационной безопасности. Нужно разрабатывать LLM-сервисы и пайплайны на Python, строить агентную логику, ML-модели для мониторинга ИБ и интегрировать их в SIEM/IRP, а также вести MLOps. Требуется опыт ML от 4 лет, уверенный Python, работа с LLM, классическими ML-моделями и развёртыванием сервисов в проде.
Похожие вакансии
6 вакансий
Go-разработчик (кастоди цифровых активов)
~1 352 500 – 2 434 500 ₸ оценка по всем рынкам
Нужен Go-разработчик уровня Middle+/Senior в направление кастоди цифровых активов. Задача — интеграция с институциональным кастоди-провайдером: кошельки, депозиты, выводы, вебхуки, сверка балансов, политики подписания и безопасная работа с ключами. Требуется от 3–5 лет коммерческой разработки на Go, опыт с PostgreSQL, внешними API и деньгами/цифровыми активами, а также практика с блокчейн-сетями. Предлагают полную занятость с возможностью удалённой работы, современный стек (Go, Kafka, AWS, Kubernetes) и разработку с ИИ-агентами.
Senior Go-разработчик
~1 352 500 – 2 434 500 ₸ оценка по всем рынкам
Ищем Senior Go-разработчика для проектирования и развития высоконагруженных микросервисных систем. Нужен опыт от 5 лет в продакшене, глубокое знание внутренностей Go, concurrency, gRPC/REST, SQL/NoSQL, Kafka, Kubernetes и архитектурных подходов вроде DDD и CQRS. Предстоит менторить коллег, проводить код-ревью и влиять на продукт.
Backend-разработчик (ментор) Go или Java
~1 352 500 – 2 434 500 ₸ оценка по всем рынкам
Онлайн-школа и комьюнити для разработчиков ищет опытного backend-разработчика на Go или Java уровня Middle+/Senior для менторства учеников. Нужно проводить индивидуальные консультации, помогать закрывать технические пробелы, готовить к собеседованиям и сопровождать до оффера. Полностью удалённый формат с гибкой частичной занятостью, которую можно совмещать с основной работой; доход зависит от количества учеников.
Senior Golang developer
Актуальность уточняется
~1 352 500 – 2 434 500 ₸ оценка по всем рынкам
Ищем Senior Golang-разработчика в департамент управления сортировочными центрами. Нужно проектировать API, доменные модели, транзакции и интеграции, разбирать инциденты и помогать команде. Требуется опыт продуктовой разработки на Go от 5 лет, глубокое знание PostgreSQL и понимание паттернов надёжности вроде retry/backoff и outbox.
Старший Software Engineer (Golang)
~1 352 500 – 2 434 500 ₸ оценка по стеку, все рынки
Нужен старший бэкенд-разработчик для развития платформы Quality Management System: проектирование и поддержка масштабируемых сервисов и REST API, применение Domain-Driven Design и микросервисных паттернов. Требуется 5+ лет опыта в бэкенд-разработке, сильный Golang (или Golang + Python/TypeScript), знание SQL/NoSQL, Docker, Kubernetes, облаков и CI/CD, английский Upper-Intermediate. Предлагают удалённую работу, оплачиваемые отпуска и больничные, обучение, менторство и компенсацию спорта или страховку.
Старший Golang разработчик
~1 352 500 – 2 434 500 ₸ оценка по стеку, все рынки
OpenTag ищет опытного Golang-разработчика в команду iGaming-платформы. Нужно проектировать и строить масштабируемые низколатентные распределённые сервисы, отвечать за полный цикл доставки кода — от архитектуры до мониторинга в продакшене, участвовать в код-ревью и улучшать качество и производительность систем. Требуется 5+ лет бэкенд-опыта, из них 2+ года на Go в продакшене, знание SQL/NoSQL, event-driven архитектуры, Kafka/NATS, Docker, Kubernetes и наблюдаемости. Предлагают полностью удалённую работу, 20 дней отпуска, страховку, обучение и зарплату в евро.