DevOps-инженер (ML/LLM/CV)

Что предстоит делать

Кто мы? EVO AI — IT-компания в области AI-консалтинга и генеративного искусственного интеллекта. Мы разрабатываем и внедряем AI-агентов, ассистентов и комплексные AI-решения для бизнеса, а также развиваем собственную no-code платформу для создания и оркестрации AI-агентов. Работаем с крупным российским и международным бизнесом.

• 1. Инфраструктура и развёртывание
• Проектировать и настраивать инфраструктуру для ML-сервисов в облаках (AWS / GCP / Azure / Yandex Cloud / VK Cloud и др.).
• Автоматизировать развёртывание вычислительных ресурсов (GPU/CPU-кластеры, контейнеры, serverless-функции) с помощью Terraform / Ansible / Pulumi.
• Настраивать контейнеризацию (Docker) и оркестрацию (Kubernetes, Helm, ArgoCD).
• Создавать CI/CD-пайплайны (GitLab CI/CD, GitHub Actions, Jenkins) для сервисов и моделей.
• Разрабатывать и сопровождать Helm-чарты и конфигурации для автоматического деплоя.
• 2. MLOps и сопровождение моделей
• Организовывать полный жизненный цикл моделей: обучение → упаковка → деплой → мониторинг → переобучение.
• Настраивать и поддерживать ML-ориентированные хранилища артефактов (DVC, MLflow, W&B).
• Поддерживать пайплайны подготовки данных и обучения моделей (Airflow, Kubeflow, Prefect).
• Контролировать версии данных и моделей, управлять Docker-репозиториями (Harbor, ECR, GCR).
• Настраивать мониторинг качества моделей (drift, latency, ошибки инференса).
• 3. Сетевое взаимодействие и интеграции
• Настраивать безопасное взаимодействие сервисов (VPN, bastion-хосты, VPC, private endpoints).
• Организовывать API-шлюзы, балансировщики, SSL/TLS, OAuth, SSO.
• Настраивать обмен данными через REST/gRPC/WebSocket и интеграции с Kafka / RabbitMQ.
• Взаимодействовать с инфраструктурой заказчика при деплое сервисов.
• 4. Надёжность, масштабируемость и безопасность
• Настраивать отказоустойчивые и масштабируемые кластеры для LLM и CV-инференса.
• Внедрять мониторинг, логирование и алертинг (Prometheus, Grafana, ELK, Loki, OpenTelemetry).
• Оптимизировать ресурсы (GPU/CPU/память) и масштабировать системы под нагрузку.
• Реализовывать политики безопасности и секрет-менеджмента (Vault, AWS Secrets Manager, KMS).
• Настраивать резервное копирование и disaster-recovery.
• 5. Администрирование и эксплуатация
• Администрировать Linux-сервера, сети и хранилища данных.
• Поддерживать dev/stage/prod-окружения.
• Вести документацию по инфраструктуре и процессам деплоя.
• Автоматизировать рутинные задачи (bash/python-скрипты, Terraform modules, Ansible playbooks).
• Оказывать техническую поддержку команде разработки и исследователям ML.
• Мы ожидаем, что ты:
• Имеешь опыт работы DevOps/SRE/Infra-инженером от 2 лет.
• Уверенно работаешь с Docker, Kubernetes, Terraform, CI/CD.
• Понимаешь основы MLOps и умеешь сопровождать ML-модели.
• Имеешь опыт работы с облачными провайдерами (AWS, GCP, Yandex Cloud и др.).
• Пишешь скрипты на Bash / Python.
• Понимаешь сетевые протоколы, безопасность и интеграции.
• Будет плюсом:
• Опыт с MLflow / DVC / Airflow / Kubeflow.
• Опыт оптимизации GPU-кластеров и работы с LLM-инференсом.

Что предлагаем