Старший инженер-программист (Python, AI/LLM инфраструктура)

Что предстоит делать

<p><em><strong>Кто мы:</strong></em></p><p>Adaptiq — это технологический хаб, специализирующийся на создании, масштабировании и поддержке R&amp;D-команд для высококлассных, быстрорастущих продуктовых компаний в самых разных отраслях.</p> <p><strong><em>О продукте:</em></strong></p><p>Наш клиент разрабатывает программное обеспечение, которое помогает инженерным командам развертывать AI-нагрузки и управлять ими в production. Платформа упрощает инфраструктурные операции и поддерживает надежные, масштабируемые сервисы в различных средах развертывания.</p><p><em><strong>О роли:</strong></em></p><p>Мы ищем Senior Software Engineer для разработки возможностей платформы, поддерживающих развертывание и работу AI-моделей.</p><p>Вы будете сочетать разработку на Python с практической инфраструктурной инженерией, улучшая инструменты и сервисы, которые помогают командам выводить AI-нагрузки в production. Ваша работа будет включать оптимизацию производительности, автоматизацию и операционную надежность.</p><p>Вы будете сотрудничать с другими инженерами, участвовать в принятии технических решений и нести ответственность за свою работу от проектирования до развертывания и текущей поддержки. Роль включает участие в дежурствах on-call.</p><p><b> </b></p><p><em><strong>Ключевые обязанности:</strong></em></p><ul><li>Разрабатывать сервисы и инструменты на <strong>Python</strong>, поддерживающие <strong>AI-нагрузки</strong>.</li><li>Развертывать, эксплуатировать и масштабировать сервисы инференса <strong>LLM</strong> для удовлетворения потребностей активных пользователей и production-трафика.</li><li>Настраивать и оптимизировать выполнение моделей на нескольких <strong>GPU</strong> и вычислительных узлах.</li><li>Создавать и улучшать автоматизированные рабочие процессы развертывания и конфигурирования.</li><li>Интегрировать и настраивать технологии model-serving.</li><li>Анализировать производительность системы и улучшать масштабируемость, эффективность использования ресурсов и надежность.</li><li>Проектировать тесты для оценки готовности к production и выявления узких мест производительности.</li><li>Улучшать процессы мониторинга, диагностики и восстановления.</li><li>Расследовать production-инциденты в программных и инфраструктурных компонентах.</li><li>Участвовать в обсуждениях архитектуры, code review и технической документации.</li><li>Сотрудничать с инженерными командами для преобразования требований в поддерживаемые решения.</li></ul> <p><em><strong>Необходимые компетенции и навыки:</strong></em></p><ul><li><strong>Уверенные навыки разработки на Python</strong> и опыт создания поддерживаемого production-ПО.</li><li>Практический опыт эксплуатации сервисов инференса <strong>LLM</strong> в production с поддержкой активных пользователей и реального трафика.</li><li>Практический опыт развертывания и обслуживания моделей в конфигурациях с <strong>несколькими GPU</strong> и в многоузловых средах.</li><li>Опыт настройки и тюнинга фреймворка <nobr>LLM-serving</nobr>, такого как vLLM или сопоставимой технологии.</li><li>Практическое понимание ограничений памяти GPU и того, как они влияют на развертывание и выполнение моделей.</li><li>Опыт оценки производительности под нагрузкой и интерпретации latency, throughput и использования ресурсов.</li><li>Знакомство с методами снижения требований к памяти моделей и повышения эффективности инференса.</li><li>Опыт с инфраструктурной автоматизацией и инструментами infrastructure-as-code.</li><li>Сильные навыки траблшутинга <strong>Linux</strong>.</li><li>Опыт поддержки production-сервисов, включая мониторинг и разрешение инцидентов.</li><li>Способность работать самостоятельно, оценивать технические компромиссы и четко доносить решения.</li><li>Четкий письменный и устный <strong>английский</strong>.</li></ul><p><em><strong>Будет плюсом:</strong></em></p><ul><li>Опыт с распределенными системами или крупномасштабными вычислительными средами.</li><li>Знакомство с несколькими технологиями model-serving.</li><li>Опыт с оркестрацией контейнеров и облачной инфраструктурой.</li><li>Понимание сетей и их влияния на производительность приложений.</li><li>Опыт создания инструментов для управления ресурсами, развертывания или операционной автоматизации.</li><li>Опыт в AI-платформах, инструментах для разработчиков или инфраструктурном ПО.</li></ul><p><b><br><br></b></p><p><em><strong>Почему мы:</strong></em></p><p>Мы предоставляем 20 дней отпуска за календарный год (плюс официальные национальные праздники страны, в которой вы находитесь).</p><p>Мы обеспечиваем полную бухгалтерскую и юридическую поддержку во всех странах, где мы работаем.</p><p>Мы используем полностью удаленную модель работы с мощной рабочей станцией и коворкингом, если вам это нужно.</p> <div> <a href="https://jobs.dou.ua/companies/adaptiq/vacancies/378192/#reply-btn-id">Откликнуться на вакансию</a> </div>