DevOps/MLOps инженер

Навыки: LLM, CI/CD, GitLab, DevOps, Python, Bash, Docker, Kubernetes. Квалификация: Middle. Специализации: DevOps-инженер. ## О компании и команде В SimbirSoft более 1500 разработчиков ежедневно решают интересные задачи, которые делают комфортнее жизни миллионов пользователей. Мы занимаемся сервисной разработкой и создаем продукты для Росбанк, ИНКА, Подели, Invitro, Hyundai, Татнефть, СКБ, DNS, АльфаКапитал, DPD, АТОМ, Амедиатека и многих других. Мы в поисках DevOps/MLOps инженера, который может обеспечить техническую устойчивость, производительность и развитие корпоративной LLM-платформы: от развертывания моделей и инструментов до оптимизации RAG и observability. ## Тебе предстоит: - Разворачивать и обновлять inference-сервисы (vLLM, TGI, Ollama) в кластере Deckhouse Kubernetes. - Управлять GPU-нодами (2×H100): профили, квоты, allocation, DCGM-мониторинг. - Настраивать OpenWebUI (обновления, кастомные ассистенты, плагины, pipelines). - Настраивать CI/CD пайплайны для моделей и ассистентов (через GitLab CI/CD, Helm, ArgoCD). - Управлять хранилищами (PVC, MinIO/S3) для индексов и документов. - Настраивать пайплайны загрузки документов (Confluence, регламенты, файлы). - Оптимизировать параметры retrieval: chunk size, overlap, embedding-модели. - Настраивать интеграции с Langfuse (datasets, traces, evals) для оценки качества. - Разворачивать и обновлять LlamaIndex, Chroma, Postgres Vector — по мере масштабирования. - Подключать новые MCP-инструменты (Jira, 1С, DWH, Контур-Фокус и др.) к ассистентам. - Разворачивать новые сервисные модули (например, Langfuse, LlamaIndex, Eval серверы). - Прокидывать порты, настраивать Ingress, Secrets, RBAC. - Настраивать мониторинг (Prometheus/Grafana, Langfuse). - Настраивать nightly evals (через Langfuse Datasets + judge-скоры). - Настраивать роли и лимиты в RBAC (OpenWebUI + Keycloak). - Реализовывать маскировку PII (телефоны, ИНН, e-mail) в пайплайнах. - Вести документацию (в Confluence / internal Wiki): чек-листы деплоя, обновлений, rollback. - Писать утилиты и скрипты (Python/Bash) для автоматизации. - Участвовать в планировании релизов (model updates, eval runs). - Обучать коллег (DevOps, аналитиков) работе с модулями. ## Ожидания от кандидата - Опыт работы с LLM-моделями (vLLM, TGI, Hugging Face, Ollama). - Практический опыт с Python (FastAPI, скрипты, CLI). - Понимание архитектуры RAG и работы с embedding-моделями. - Навыки настройки Prometheus/Grafana, анализа метрик производительности. - Опыт работы с системами аутентификации (Keycloak, JWT). - Уверенные знания Kubernetes, Docker, CI/CD (GitLab/Helm). - Понимание принципов RBAC, изоляции данных, PII-безопасности. ## Будет плюсом: - Опыт работы с Deckhouse или другими K8s-дистрибутивами. - Знание Langfuse, LlamaIndex, Postgres Vector, Chroma. - Базовые знания MLOps (модели, fine-tuning, quantization, caching). - Опыт интеграции API внешних систем (Jira, 1С, DWH). - Умение писать внутренние утилиты и документацию. ## Условия работы - Работу в команде экспертов. - Широкий технологический стек, сотни проектов. - Гибкий график работы, который позволяет высыпаться и выделять время на хобби. - Льготы и меры господдержки, предусмотренные для IT-компаний (аккредитованы Минцифры*) - Возможность разрабатывать IT-решения для разных отраслей, пробовать новые технологии. - У нас выстроены процессы удаленной работы, при этом есть просторные офисы с зонами коворкинга, где можно с комфортом пообщаться, поиграть в настолки или в тишине обдумать рабочие задачи. - Возможность прокачаться во всех интересующих направлениях: стать тимлидом, архитектором, разработчиком full-stack. - Развитую систему наставничества, сертификацию за счёт компании, участие в конференциях, изучение английского языка. - Активный обмен опытом, внутренние и внешние митапы по разработке, хакатоны, доклады по развитию hard и soft skills. - 40+ клубов по интересам и профессиональных сообществ внутри компании. - Уютный мерч. - Полный соцпакет и «белую» зарплату. - Корпоративную базу знаний и социальную сеть для удобства общения с каждым из 1500+ сотрудников. - Гибкую систему бонусов, которая настраивается под индивидуальные потребности: различные уровни ДМС, оплата обучения и занятий любыми видами спорта. Приходи в SimbirSoft за прокачкой хард-скилов и интересными проектами! Знаешь кого-то, кто идеально сможет подойти? Расскажи им о нашей вакансии! ** Решение Министерства цифрового развития, связи и массовых коммуникаций РФ о предоставлении государственной аккредитации организации, осуществляющей деятельность в области информационных технологий от 10.03.2022*