Эксперт по контролю качества AI-решений

Что предстоит делать

Мы ищем Эксперта, который возьмёт на себя контроль качества AI-решений банка. Вы будете отвечать за то, чтобы модели и AI-агенты работали надёжно, предсказуемо и соответствовали бизнес-, техническим и регуляторным требованиям. Это гибридная роль: с одной стороны — построение системы тестирования AI-решений, с другой — разбор отдельных частей проектов в качестве системного аналитика. Вы будете работать с ключевыми процессами банка и напрямую взаимодействовать с разработчиками, стейкхолдерами и риск-подразделением. От вашей работы зависит качество AI-решений и развитие стандартов QA в этом направлении. Вам предстоит: • Разрабатывать и поддерживать стандарты тестирования LLM и AI-агентов, формировать требования QA к модельной политике банка. • Строить pipeline оценки LLM-систем: LLM-as-judge, детекция галлюцинаций и PII-утечек, контроль формата ответов. • Давать заключение о готовности проекта к промышленной эксплуатации. • Внедрять мониторинг искажения данных и моделей, готовить документацию (Model Card). • Проводить red-team и adversarial-тестирование AI-агентов и AI-based систем. • Настраивать регрессионное тестирование промптов и пайплайнов при обновлении моделей. • Участвовать в проектировании архитектуры end-to-end AI-пайплайнов и QA-инструментов с точки зрения тестируемости. • Участвовать в технической экспертизе моделей при согласовании с риск-подразделением. Мы ожидаем, что у вас есть: • Опыт тестирования и обеспечения качества AI/ML-решений (LLM, AI-агенты, пайплайны). • Понимание специфики QA для LLM: оценка качества генерации, галлюцинации, PII-утечки, контроль формата. • Практический опыт построения pipeline оценки (LLM-as-judge, автоматические метрики, ручная экспертиза). • Навыки системного анализа: умение разобрать проект на части, описать требования и предложить решения. • Опыт red-team / adversarial-тестирования. • Понимание принципов мониторинга данных и моделей. • Готовность работать с регуляторными и риск-требованиями. • Опыт менторства и проведения технических интервью.