DevOps / MLOps Engineer

Что предстоит делать

В KOZ AI мы создаём AI-решения для бизнеса и ищем DevOps / MLOps Engineer в основную инженерную команду. Тебе предстоит взять на себя развитие инфраструктуры компании: автоматизировать развёртывание, выстроить надёжные рабочие среды и обеспечить безопасный запуск LLM-решений в облаке и закрытых контурах крупных заказчиков. Мы ищем специалиста с крепкой DevOps-базой, который хочет развиваться в MLOps. Если у тебя пока нет опыта работы с LLM и GPU-инфраструктурой — готовы обучить специфике AI.

• Развивать инфраструктуру компании в облаке и на серверах заказчиков.
• Автоматизировать сборку и развёртывание приложений через CI/CD, описывать инфраструктуру и конфигурации с помощью Terraform и Helm.
• Организовать и изолировать среды локальной разработки, тестирования и промышленной эксплуатации: Local, Stage и Prod.
• Обеспечивать стабильную работу Kubernetes, Kafka и Redis.
• Настроить мониторинг, логирование и оповещения для серверов, API и AI-сервисов, включая учёт потребления токенов LLM.
• Обеспечивать изоляцию данных и развёртывание решений в закрытых контурах с учётом требований информационной безопасности заказчиков.
• Участвовать в развёртывании и оптимизации открытых LLM на GPU-серверах — этому направлению готовы обучить.
• Участвовать в проектировании Data Lake на базе Apache Iceberg.
• Что мы ожидаем
• Уверенные практические знания Linux, Docker и Kubernetes.
• Опыт настройки CI/CD-пайплайнов.
• Понимание Terraform и Helm.
• Понимание принципов работы облачной инфраструктуры — AWS, GCP или Яндекс Cloud — и размещения систем на собственных серверах.
• Интерес к MLOps, PyTorch, RAG, локальным LLM и работе с GPU.
• Самостоятельность: умение выявлять проблемы, предлагать решения и доводить задачи до результата.
• Готовность брать ответственность за инфраструктуру и взаимодействовать с командой разработки.
• Будет плюсом
• Опыт развёртывания LLM и оптимизации инференса, в том числе квантования моделей.
• Работа с GPU-серверами в облаке или на собственном оборудовании.
• Опыт настройки Prometheus, Grafana, Loki или ELK.
• Работа с Kafka, Redis, Apache Iceberg или Service Mesh.
• Опыт внедрения решений в закрытых корпоративных контурах.
• Что предстоит выстроить за первые 6–12 месяцев
• Автоматизированные CI/CD-пайплайны вместо ручных деплоев.
• Инфраструктуру и конфигурации, описанные в коде.
• Изолированные и настроенные среды Local, Stage и Prod.
• Единую систему мониторинга, логирования и оповещений.
• Надёжное развёртывание AI-решений с учётом требований безопасности заказчиков.
• Стабильную основу для сервисов обработки данных и дальнейшего развития Data Lake.
• Наш стек
• Инфраструктура: Linux, Docker, Kubernetes, Terraform, Helm, Cloud и On-Premise.
• AI/ML: PyTorch, RAG, локальные LLM, GPU-инфраструктура.
• Данные и сервисы: Apache Iceberg, Kafka, Redis, FastAPI, Service Mesh.
• Мониторинг и логи: Prometheus, Grafana, Loki/ELK.
• Что предлагаем
• Работу в основной инженерной команде KOZ AI рядом с сильными инженерами.
• Возможность влиять на архитектуру и развитие инфраструктуры компании.
• Практический опыт внедрения AI-решений для крупных заказчиков.
• Обучение специфике MLOps, работе с LLM и GPU-инфраструктурой.
• Возможность роста до Senior DevOps / MLOps по результатам работы и готовности брать более сложные задачи.
• Офисный или гибридный формат работы.
• Полную или частичную занятость.