Ozon Ozon
8 13 ч. назад

Разработчик платформы инференса

Присоединяйтесь к команде Ozon, где вы будете разрабатывать и оптимизировать платформу для работы с ML-моделями. Ищем специалиста с опытом в Go или Java/Kotlin и пониманием многопоточности. Предлагаем интересные задачи и возможность влиять на производительность системы.

senior удалённо
Тип занятости
full-time
Опубликовано
18 февраля 2026
Языки
English: Pre-Intermediate
Вакансии в Telegram-канале
Свежие вакансии Каждый день
Подписаться
??%
Match Score
Войдите и создайте резюме
Войти

описание

Привет! Мы — команда платформы инференса Ozon. Мы строим ML-инфраструктуру, отвечающую за финальный и самый критичный этап жизненного цикла моделей — их работу в реальных продуктах. Через нашу платформу проходят ранжирование, рекомендации, компьютерное зрение и другие ML-сценарии, влияющие на миллионы пользователей. Наша миссия — создавать отказоустойчивую и высокопроизводительную платформу инференса, способную выдерживать пиковую нагрузку 200K+ RPS и эффективно управлять кластерами GPU-серверов. Мы работаем на стыке сильной backend-инженерии (многопоточность, распределённые системы, Kubernetes) и глубокой ML-специфики с фокусом на оптимизацию работы моделей на GPU. Наш стек • Go, Java — платформенные сервисы • Python — ML-интеграции • Kubernetes, Docker, Nvidia Device Plugin • Triton Inference Server • Kafka, PostgreSQL, Redis, S3 • GitLab CI
Проектировать и разрабатывать высоконагруженные сервисы для инференса ML-моделей в облачной среде.
Оптимизировать выполнение моделей на GPU: batching, управление GPU-памятью, настройка GPU sharing (MIG), снижение latency.
Интегрировать ML-рантаймы (TensorRT, ONNX Runtime) в платформенную инфраструктуру на Java и Go.
Разрабатывать механизмы автоскейлинга и эффективного распределения нагрузки между инференс-сервисами.
Обеспечивать SLA платформы: участвовать в разборе инцидентов, выявлять узкие места и внедрять системные решения для повышения стабильности и производительности.
Примеры задач
Разработка унифицированного API инференса, абстрагирующего команды Data Science от особенностей GPU и рантаймов.
Создание платформы A/B-тестирования ML-моделей на продакшен-трафике.
Автоматическая оптимизация и конвертация моделей под различные типы GPU.
Реализация асинхронного инференса с автоскейлингом в Kubernetes.
Повышение утилизации GPU-кластера без деградации latency
Нам важно
Коммерческий опыт разработки на Go или Java/Kotlin от 4-х лет.
Опыт проектирования микросервисной архитектуры и работы с распределёнными системами.
Понимание многопоточности и конкурентного программирования.
Умение писать чистый, тестируемый и поддерживаемый код.
Опыт работы с облачной инфраструктурой (желательно Kubernetes).
Будет плюсом
Опыт работы с ML-инфраструктурой и GPU (CUDA, Triton, KServe).
Понимание MLOps-практик.
Опыт работы с Kafka или другими системами очередей.
Опыт оптимизации высоконагруженных систем.

навыки

IT Разработка платформы Golang Kotlin Микросервисная архитектура ML

Похожие вакансии

6 вакансии
Banks Soft Systems
Banks Soft Systems
15 ч. назад

Разработчик Golang

Ищем опытного разработчика на Golang с минимум 3-летним опытом работы. Вы будете заниматься разработкой микросервисов, проектированием API и оптимизацией работы с PostgreSQL. Предлагаем удаленную работу, соблюдение ТК РФ и обучение английскому языку.

senior удал.
D
Digital Biz Factory
18 ч. назад

Senior Golang Developer

Присоединяйтесь к команде Digital Biz Factory в роли Senior Golang разработчика. Вам предстоит разрабатывать и оптимизировать приложения, работать с микросервисами и участвовать в командных процессах. Мы предлагаем гибкий график, возможность удаленной работы и развитие ваших навыков.

PostgreSQL · Golang · Kubernetes ·+2

senior удал.
ИТ-компания
ИТ-компания
1 д. назад

Разработчик Go

Вакансия для разработчика Go с опытом от 4 лет. Работа включает разработку и развитие backend-части TI-платформы, взаимодействие с командой и внедрение лучших практик. Предлагаем конкурентный оклад, официальное оформление и возможности для профессионального роста.

senior удал.
Wildberries и Russ
Wildberries и Russ
2 д. назад

Go-разработчик

Компания Wildberries и Russ ищет Go-разработчиков для работы над внутренними продуктами. Важно иметь опыт с Golang, PostgreSQL и знание веб-технологий. Предлагается возможность удаленной работы и множество условий для развития и благополучия сотрудников.

Golang

senior удал.
Wildberries и Russ
Wildberries и Russ
2 д. назад

Golang разработчик

Вакансия для опытного Golang разработчика в международной компании. Основные задачи включают проектирование и разработку платежного шлюза, работу с API и базами данных, а также менторинг других разработчиков. Предлагаются возможности для обучения и развития, а также комфортные условия труда.

Golang · Kafka · Redis ·+2

senior удал.
UPSL
UPSL
2 д. назад

Backend Developer (Go)

Продуктовая компания UPSL ищет Senior Backend Developer с опытом работы на Go от 3 лет. Вы будете заниматься разработкой бэкенда для спортивных игр, работать с контейнерами и системами мониторинга. У нас гибкий график, возможность удаленной работы и множество бенефитов.

Golang · Git · Docker ·+8

senior удал.
Откликнуться