Инженер GPU и ML инфраструктуры

Что предстоит делать

<h3>Обзор роли</h3><p>Svitla Systems Inc. ищет <strong>инженера по GPU и ML-инфраструктуре</strong> на полную занятость (40 часов в неделю) в Украине. Наш клиент — технологический стартап, разрабатывающий фундаментальную модель, основанную на физике, для мониторинга и прогнозирования состояния GPU и вычислительных систем. Технология использует мультисенсорную телеметрию, физические стресс-сигналы, оценки деградации полупроводников и динамические математические признаки для оценки состояния оборудования с течением времени.</p><p>Команда проводит контролируемые эксперименты на GPU-системах, выполняя стандартизированные бенчмарки и стресс-нагрузки, одновременно собирая детальную аппаратную телеметрию (температура, мощность, тактовые частоты, счетчики ошибок и т.д.) из NVML, DCGM, BMC, Redfish и лабораторного оборудования. Методика тестирования валидирована на нескольких GPU-платформах. Мы расширяем её на более широкий парк оборудования: несколько поколений датацентровых NVIDIA GPU и встраиваемые/периферийные платформы, с добавлением новых целей со временем. Вы будете владеть стороной генерации данных от начала до конца: перенос методик тестирования на новые типы <em>узлов</em>, автоматизация развертывания, обеспечение качества и согласованности телеметрии на каждой цели и размещение документированных наборов данных в хранилище. Вы будете владеть рабочими нагрузками. Набор включает LLM-инференс и обучающие нагрузки (модели семейства Llama нескольких размеров, квантованные и полной точности), с расширением до более крупных моделей по мере перехода на GPU с большим объемом памяти. Воспроизводимость критически важна: идентичная нагрузка при каждом запуске, чтобы вариативность исходила от оборудования, а не от рабочей нагрузки. Вы строите систему, которая надежно производит данные, от которых зависит команда моделирования.</p><h3>Требования</h3><ul><li>Опыт развертывания LLM-инференса и обучающих нагрузок на GPU, включая квантованные модели.</li><li>Подтвержденная способность самостоятельно диагностировать проблемы с датчиками и выборкой в аппаратных временных рядах.</li><li>Понимание того, как сделать GPU-нагрузку воспроизводимой от запуска к запуску: контроль источников недетерминизма.</li><li>Глубокое понимание Linux-систем, стеков драйверов GPU, оркестрации процессов, планирования и поведения по таймингам.</li><li>Опыт программного сбора аппаратной телеметрии, внутриполосно (NVML, DCGM) и внеполосно (BMC / IPMI / Redfish).</li></ul><h3>Желательно</h3><ul><li>Опыт создания конвейеров сбора данных для тестирования оборудования, квалификации или системных исследований.</li><li>Знакомство с инструментами GPU-бенчмарков и стресс-тестирования (вычисления, пропускная способность памяти, многопроцессорная связь) и методологией бенчмарков (прогрев, установившееся состояние, вариативность от запуска к запуску).</li><li>Хорошее понимание семантики управления питанием и температурой GPU, например, причин троттлинга тактовой частоты.</li><li>Понимание многопроцессорного масштабирования для более крупных моделей (тензорный/конвейерный параллелизм, NCCL).</li><li>Опыт создания автоматизированной валидации качества данных для временных рядов или данных с датчиков.</li></ul><h3>Обязанности</h3><ul><li>Перенос методики тестирования на новое оборудование. Датацентровые GPU и периферийные устройства различаются стеками драйверов, мощностью, тепловыми режимами и доступными датчиками. Адаптируйте методику, документируйте, что изменилось и почему.</li><li>Создание и поддержка набора бенчмарк-нагрузок: синтетические ядра (GEMM, свертки), LLM-инференс и обучение, а также новые классы по мере расширения целевых классов, включая модели компьютерного зрения для периферийных устройств. Это контролируемые генераторы нагрузки для характеризации оборудования.</li><li>Владение корректностью и согласованностью логирования. Сделайте сбор предсказуемым на всех платформах и источниках: поддерживайте заданные частоты выборки, обеспечивайте надежные временные метки, используйте согласованные имена полей и выравнивайте часы между внутриполосными и внеполосными источниками. Диагностируйте аномалии выборки до первопричины.</li><li>Автоматизация развертывания. Воспроизводимый процесс без участия человека: развертывание нагрузок и логгеров на новом <em>узле</em>, выполнение расписания запусков, сбор и чистое завершение. Запуски воспроизводимы из конфигурации.</li><li>Создание автоматизированных проверок качества данных. Выявление пропущенных или нерегулярных выборок, рассинхронизации часов между логгерами, телеметрии, не соответствующей нагрузке, и датчиков, молча возвращающих пустые данные на новом оборудовании.</li><li>Владение передачей данных в хранилище. Размещение данных в согласованном, документированном формате с полными метаданными запуска (целевое оборудование, версии драйверов и прошивок, версия методики, расписание).</li><li>Документирование каждой целевой аппаратной платформы.</li></ul><h3>Почему стоит присоединиться к Svitla</h3><p>Svitla Systems — глобальная компания цифровых решений со штаб-квартирой в США и операциями в Америке, Европе, Азии и Азиатско-Тихоокеанском регионе. С 2003 года мы обслуживаем широкий круг клиентов — от инновационных стартапов до компаний из списка Fortune 500. Наш успех строится на партнерстве. Интегрируясь в команды клиентов, мы создаем долгосрочные коллаборации, которые приносят реальные результаты. Мы активно поддерживаем гибкость рабочего места, удаленную культуру и индивидуальный подход к профессиональному и личностному росту.</p><p>Наша глобальная миссия — построить бизнес, который способствует благополучию наших партнеров, сотрудников и их семей, улучшает наши сообщества и вносит долгосрочный вклад в мир. Вместе мы пишем код более светлого будущего — и живем им.</p><p><b>Присоединяйтесь к нам!</b></p> <div> <a href="https://jobs.dou.ua/companies/svitla-systems-inc/vacancies/369472/#reply-btn-id">Відгукнутись на вакансію</a> </div>