Инженер по машинному обучению (модели для edge-устройств)

Что предстоит делать

<p>Полная занятость<br>Зарплата: $800—$1,200/месяц, пересмотр через 3 месяца на основе результатов работы</p><p>О CubicMind AI<br>CubicMind AI Ltd — британский deep tech стартап, создающий небольшое plug-in устройство, которое управляет любым компьютером как человек: оно читает экран, слушает пользователя, кликает и печатает для выполнения задач. Всё работает на самом устройстве, без облака.<br><br><a href="https://cubicmind-ai.com/" target="_blank">cubicmind-ai.com</a></p><p>Мы разрабатываем собственные модели, а не оборачиваем чужие. Это включает transformer и non-transformer архитектуры, построенные вокруг того, что быстро работает на edge-оборудовании, и иногда обучаемые с нуля.</p><p>О роли<br>Вы будете работать над проектированием, обучением и оптимизацией моделей, которые обеспечивают работу устройства: понимание экрана, предсказание действий и эффективный on-chip inference.</p><p>Это engineering с сильным исследовательским уклоном. Вы будете работать над архитектурой моделей, training runs, узкими местами attention и памяти, low-bit компрессией и тем, чтобы модели корректно работали на реальном оборудовании.</p><p>Что вы будете делать<br>— Проектировать и реализовывать новые архитектуры моделей на PyTorch, как на основе transformer, так и за их пределами<br>— Обучать модели, иногда с нуля, и проводить эксперименты для сравнения архитектур<br>— Строить пайплайны обучения и оценки на данных screen-understanding и computer-control<br>— Профилировать latency, использование памяти и поведение KV-cache на длинных входных данных экрана высокого разрешения<br>— Сжимать модели для edge-чипов с помощью квантизации (INT8/INT4), pruning и distillation<br>— Экспортировать модели в low-level рантаймы и исправлять неподдерживаемые операторы<br>— Работать с нашей командой C++ для эффективного запуска моделей на устройстве</p><p>Требования</p><p>— Глубокое архитектурное понимание Transformers и Attention: вы знаете математические и операционные различия между MHA, MQA, GQA, FlashAttention и вариантами linear attention; вы понимаете масштабирование KV-cache и узкие места доступа к памяти. </p><p>— Свободное владение PyTorch на низком уровне: написание кастомных модулей PyTorch, реализация нестандартной логики forward/backward, векторизованные тензорные операции и профилирование узких мест по памяти/вычислениям с использованием PyTorch Profiler / Nsight.</p><p>— Опыт обучения моделей и обеспечения сходимости: приёмы стабильности, расписания learning rate, gradient clipping, mixed-precision обучение (BF16/FP16) и диагностика скачков loss или exploding/vanishing градиентов.</p><p>— Строгая математическая база: уверенное владение многомерной линейной алгеброй, матричным исчислением, многомерной оптимизацией и теорией вероятностей.</p><p>— Практическое понимание компрессии моделей: Post-Training Quantization (PTQ) vs Quantization-Aware Training (QAT), outlier-активации, weight-only vs weight-and-activation квантизация (INT8, INT4, FP8).</p><p>— Вы читаете статьи, самостоятельно реализуете идеи и отлаживаете, инспектируя реальные активации, а не гадая</p><p>— Полная занятость</p><pre></pre><p>Будет плюсом<br>— Опыт с vision transformers или vision-language моделями<br>— Интерес к non-transformer архитектурам (state-space модели, linear attention, рекуррентные дизайны)<br>— Опыт экспорта в ONNX, TensorRT, OpenVINO или NPU-тулчейны<br>— Базовый C++, достаточный для чтения inference-кода<br>— Степень в области прикладной математики, computer science или физики</p><p>Что мы предлагаем<br>— Реальную ответственность за ключевые модели в аппаратном продукте, создаваемом с нуля<br>— Работу напрямую с основателем, без бюрократии<br>— $800—$1,200/месяц в зависимости от опыта, пересмотр через 3 месяца на основе результатов<br>— Полностью удалённую работу, оценка по результатам, а не по отработанным часам</p> <div> <a href="https://jobs.dou.ua/companies/cubicmind-ai/vacancies/376237/#reply-btn-id">Откликнуться на вакансию</a> </div>