Разработчик бэкенда LLM-моделей (C++)
Команда Яндекса ищет разработчика для работы над бэкендом LLM-моделей (YandexGPT/Алиса). Задачи включают инференс на GPU, оптимизацию распределения вычислений и разработку компонентов системы. Требуется уверенное знание C++, алгоритмов и многопоточного программирования.
Зарплата не указана — оценили по рынку
На основе 38 похожих вакансий за 90 дней.
Что предстоит делать
Наша команда разрабатывает и развивает бэкенды на основе LLM-моделей (под брендом YandexGPT/Алиса). Мы занимаемся непосредственно инференсом на GPU-ускорителях, а также огромным спектром вопросов, связанных с развитием и поддержкой продукта: API взаимодействия с фронтендом, реализацией ML-стека в рантайме, логами для аналитики и многим другим. Вместе с нами вы сможете поработать над сложными и разнообразными задачами. Какие задачи вас ждут Инференс тяжёлых языковых генеративных моделей на GPU-ускорителях Сердце LLM-based-продуктов — это, конечно, непосредственное вычисление LLM-моделей. Вас ждёт решение задач аллокации различных компонентов с LLM-моделями, настройка их взаимодействия, релизных процессов, подбор различных параметров для оптимизации. Оптимизация методов распределения работы между вычислительными узлами Можно оптимизировать не только само вычисление, но и методы разделения входящего потока между узлами, чтобы добиться наиболее выгодного по latency распределения работы между узлами. Также мы экспериментируем с отложенным продолжением вычислений. Разработка различных кусков многокомпонентной системы Ответ на основе поисковых источников — сложный многокомпонентный продукт. Важно не только вычислить что-то с помощью LLM-модели, но и: 1) приносить данные на вход модели; 2) правильно сохранять результаты для отдачи их пользователям; 3) настраивать взаимодействие с фронтендом (стриминг, например); 4) обеспечивать продуктовым и ML-командам возможность проводить эксперименты и улучшать продукт. Всё вместе порождает немало содержательных и сложных задач. Работа в бэкенде поисковых LLM открывает много технических вызовов, менее привычных в продуктах, которые не работают с LLM-моделями. Ведь вычисления, длящиеся не сотни миллисекунд, а многие секунды, требуют пересмотра устоявшихся подходов. Мы ждем, что вы • Разбираетесь в базовых алгоритмах и структурах данных • Хорошо знаете С++ • Знакомы с паттернами и идиомами построения программного обеспечения • Умеете писать надёжный и читабельный многопоточный код • Разрабатывали большой сервис в команде
Стек и инструменты
Подходит ли вам эта вакансия?
Зарегистрируйтесь и загрузите резюме — посчитаем % совпадения с этой вакансией, подсветим сильные стороны и что стоит подтянуть
Ещё в Яндекс
15 активных вакансий в компании
Разработчик поискового рантайма (C++)
~1 683 000 – 3 036 961 ₸ оценка
Яндекс ищет разработчика C++ для поискового рантайма — распределённой системы, обрабатывающей миллионы запросов в секунду. Нужно проектировать механизмы исполнения запросов, развивать поисковые структуры данных, создавать SDK и язык запросов. Требуются глубокие знания C++, алгоритмов, многопоточности и Linux, опыт с распределёнными системами. Предлагается работа над высоконагруженной платформой, используемой сотнями сервисов компании.
iOS разработчик (Swift) в Yandex Pay
~1 290 300 – 2 181 725 ₸ оценка
Ищем iOS-разработчика для создания SDK для Yandex Pay — продукта для миллионов пользователей. Нужно писать на Swift, проектировать архитектуру и развивать библиотеку. Предлагают сложные задачи, стартап-атмосферу и влияние на результат.
Senior Data Scientist
Вакансия в Яндексе: разработка и поддержка ML/DL-моделей для финтех-продуктов (прогнозирование LTV, оттока, рекомендации). Нужны Python, SQL и опыт работы с нейросетями, полный цикл от данных до продакшна.
Fullstack-разработчик платёжных форм (React/TypeScript)
~1 265 508 ₸ оценка
Ищем fullstack-разработчика для развития платёжных форм и SDK Платёжного шлюза Яндекса. Нужно закрывать задачи от требований до продакшена: новые способы оплаты, challenge-флоу, доработки сервера и интеграций. Стек — React, TypeScript, NestJS, активно используется AI. Требуется опыт с React и TypeScript, понимание SPA, работа с API и автотестами.
Похожие вакансии
6 вакансий
C++ разработчик серверного ядра
~1 416 525 ₸ оценка
Разработчик C++ для серверного ядра платформы: модернизация кодовой базы, создание новых модулей, оптимизация производительности. Нужен опыт с C++17, Linux, многопоточными сетевыми приложениями. Предлагают работу в офисе в Москва Сити, оформление по ТК РФ и ДМС.
CV Engineer
~697 785 – 1 186 235 ₸ оценка
Miltech-компанія Wild Hornets шукає CV Engineer для роботи над системами протидії безпілотникам. Потрібен досвід у Computer Vision (2+ роки), впевнене володіння C++ та Python, знання PyTorch/TensorFlow, Linux, а також розуміння автопілотів (PX4/ArduPilot) та edge AI. Пропонують гібридний формат, бронювання, конкурентну зарплату та участь у реальних бойових технологіях.
C++ разработчик браузера на базе Chromium
~1 100 000 – 1 100 000 ₸ оценка
Разработка собственного браузера на базе Chromium: модификация форка, работа с Blink, V8 и внутренними процессами. Требуется отличное знание C++, опыт с крупными проектами и сборкой через GN/Ninja, понимание сетевых протоколов. Плюсом — опыт с Chromium, автоматизацией браузера и знание Rust или Python.
C++ System Engineer (Трафик и кэширование)
~1 416 525 ₸ оценка
Ищем сильного C++ инженера для разработки высокопроизводительных плагинов кэширующего прокси-сервера. Нужно глубокое знание C++17/20, Linux, сетевых протоколов и умение оптимизировать код. Предлагают удаленную работу, гибкий график, обучение и конкурентную оплату.
C++ разработчик
Ищем Middle C++ разработчика для работы над backend-проектами в ITFS. Требуется уверенное знание C++. Возможна удаленная работа.
C++ разработчик (EDA, Qt)
Разработка десктопного EDA-ПО на C++ и Qt: создание новых функций, ревью кода, улучшение архитектуры и написание автотестов в Agile-команде. Требуется опыт C++ (11/14/17) и Qt, плюсом будет знание Python, Boost и EDA-продуктов. Возможна удалённая работа или работа в офисе в Катовице.