MLOps инженер (NLP)

Что предстоит делать

<p>Мы создаем NLP-системы production-уровня, и нам нужен человек, который сможет довести модель от исследования до надежного масштабируемого развертывания. Вы будете владеть полным жизненным циклом — от контейнеризации до живых inference-эндпоинтов.</p><p>Чем вы будете заниматься</p><p>• Упаковка, обслуживание и мониторинг небольших языковых моделей на AWS SageMaker Serverless endpoints с оптимизированным поведением холодного старта</p><p>• Создание компактных multi-stage Docker-образов, публикация их в ECR и поддержание inference-образов в рамках жестких лимитов по размеру</p><p>• Владение CI/CD пайплайном build → test → push → deploy для ML-сервисов</p><p>• Настройка IAM-ролей и управление секретами через AWS Secrets Manager с соблюдением принципа наименьших привилегий</p><p>• Версионирование датасетов, моделей и экспериментов; инструментирование задержки, пропускной способности и точности в production</p><p>• Работа с NLP-библиотеками (spaCy, Transformers, FAISS, PyTorch) для создания и итеративной разработки NLP-пайплайнов</p><p><br>Требования:</p><p>Облако и инфраструктура:</p><p>• Docker — multi-stage сборки, оптимизация образов</p><p>• AWS: ECR, IAM-роли, Secrets Manager, конфигурация SageMaker Serverless endpoints</p><p>• CI/CD пайплайны: build / test / push / deploy для ML-сервисов (GitHub Actions или аналоги)<br><br></p><p>ML и NLP:</p><p>• PyTorch, Hugging Face Transformers, spaCy, FAISS</p><p>• Практический опыт запуска и настройки небольших языковых моделей (≤7B параметров) — их развертывание, стресс-тестирование, оптимизация по задержке и пропускной способности</p><p>• Знакомство с квантизацией (GGUF, ONNX, bitsandbytes) или дистилляцией моделей</p><p><br>Будет плюсом</p><p>• Опыт работы с RAG-пайплайнами</p> <div> <a href="https://jobs.dou.ua/companies/serpentiumsolutions/vacancies/353770/#reply-btn-id">Відгукнутись на вакансію</a> </div>