Старший AI/ML инженер

Что предстоит делать

<p>Мы ищем <strong>Senior AI/ML Engineer</strong> с опытом работы в <strong>мультимодальных AI-пайплайнах, фреймворках оценки LLM, оркестрации агентов и масштабируемых Python-бэкенд-системах на AWS</strong>.</p><p>Корейская компания создает и укрепляет <strong>уровень AI-верификации и соответствия требованиям для AIGC/UGC финансового контента</strong>.</p><p>Система включает:</p><ul><li>четыре модели оценки/верификации</li><li>автоматизированный движок правил соответствия</li><li>пайплайн модерации Trust &amp; Safety</li></ul><p>Базовая архитектура обрабатывает <strong>видеоконтент</strong> через многоэтапный пайплайн:</p><p><strong>STT → OCR → анализ изображений/видео → движок финансовых правил → <nobr>LLM-уровень</nobr> принятия решений</strong></p><p>Типы финальных решений на выходе:</p><ul><li>Автоматическая блокировка</li><li>Автоматический пропуск</li><li>Ручная проверка</li></ul><p>Эта роль требует сильных навыков продакшн-инжиниринга в сочетании с практическим опытом работы с <strong>мультимодальными системами оценки LLM</strong>.</p><p><strong>Требуемые навыки и опыт</strong></p><ul><li>Проектирование мультимодальных пайплайнов оценки LLM<br>(LLM-as-a-judge, рубричное оценивание, оптимизация промптов/few-shot, проектирование схем, оркестрация агентов)</li><li>Инжиниринг оценки моделей<br>(создание золотых датасетов, определение метрик: precision/recall/согласованность с человеком, A/B-тестирование, автоматизация бенчмаркинга)</li><li>Сервинг AI и оптимизация инференса<br>(интеграция AWS Bedrock, vLLM / GPU-инференс, оптимизация задержек, cost-aware дизайн, стратегии отката)</li><li>Сильный бэкенд-инжиниринг на Python (~7–10 лет)<br>(асинхронные системы, очереди, микросервисы, сервис-ориентированная архитектура)</li><li>Системы Trust &amp; Safety / соответствия требованиям<br>(движки правил: ключевые слова + контекстная логика IF-THEN, рабочие процессы модерации, очереди HITL, эскалация на основе серьезности)</li></ul><p><strong>Будет плюсом</strong></p><ul><li>Опыт тонкой настройки или улучшения моделей LLM / понимания видео</li><li>Опыт в системах модерации контента или соответствия требованиям</li><li>Опыт обработки контента на корейском языке<br>(STT, оптимизация OCR, пайплайны обнаружения NSFW)</li></ul><p><strong>Технологический стек</strong></p><p><strong>Языки / API:</strong> Python (FastAPI), React (TypeScript)<br><strong>LLM / Мультимодальные:</strong> AWS Bedrock, VLM (например, Qwen2.5-Omni), vLLM<br><strong>Фреймворки агентов:</strong> LangGraph, CrewAI, Google ADK, LangChain<br><strong>Оценка:</strong> LLM-as-judge, рубричное оценивание, eval-инструменты типа DeepEval<br><strong>Облако / Инфраструктура:</strong> AWS Bedrock, SageMaker, RDS (PostgreSQL), S3, EKS<br><strong>Наблюдаемость:</strong> Langfuse, инструменты тестирования и трассировки промптов<br><strong>Платформа данных:</strong> Databricks<br><strong>Обработка медиа:</strong> Whisper, OCR-пайплайны, инструменты модерации изображений (например, AWS Rekognition)</p> <div> <a href="https://jobs.dou.ua/companies/improveit-solutions-ukraine/vacancies/362121/#reply-btn-id">Откликнуться на вакансию</a> </div>