Senior LLM-Engineer

Что предстоит делать

Мы - динамично развивающийся стартап, решающий различные задачи AI в соревновательном формате: генерация текста, аудио и видео, обогащение данных, предиктивная аналитика. Мы осуществляем полный цикл работы над продуктом: от анализа бизнес-задачи до вывода в продакшен полноценного решения Находимся в поиске Senior LLM-Engineer

• Главная задача - разработать агента для решения SWE задач
• обучение LLM
• написание кода агента, запускаемого в sandbox
• fine-tuning LLM
• Построение пайплайнов валидации и оценки моделей и агентов
• Сбор, очищение данных
• Выбор архитектур и pre-trained моделей
• Объединение моделей и адаптеров
• Требования к кандидату:
• Опыт обучения LLM (fine-tuning / pre-training) от 2 лет
• Опыт применения различных методов обучения LLM
• Опыт с различными pre-trained моделями
• Опыт работы с экосистемой huggingface: transformers, datasets, peft, trl
• Хорошее понимание теоретической базы
• NLP, transformers, LLM. Понимание всех циклов предобучения и файнтюнинга, RL, classic ML
• Опыт коммерческой разработки с нуля
• Опыт работы от 5 лет
• Высшее образование в области компьютерных технологий / прикладной математики и (или) прикладной информатики;
• Будет плюсом:
• Опыт решения задачи SWE-bench
• Научные исследования по Computer Science
• Призовые места в соревнованиях (kaggle, boosters), опыт участия в хакатонах
• ШАД / Школа 21

Что предлагаем