AI-спеціаліст (Open-Weight LLMs, On-Premise)

Что предстоит делать

<p>Ищем талантливого и мотивированного <strong>AI-специалиста</strong>, который сосредоточится на разработке высокопроизводительных и интеллектуальных агентных систем с <strong>ключевым фокусом на работе с локально развернутыми (on-premise) моделями с открытыми весами</strong>. Ваша работа будет иметь решающее значение во внедрении передовых решений, обеспечивая максимальную безопасность, контроль данных и эффективное использование собственных вычислительных ресурсов.</p><h3>🎯 Ключевые обязанности</h3><ul><li><strong>Разработка AI-агентов:</strong> Проектирование, разработка и развертывание сложных агентных систем на базе <strong>Open-Weight LLMs</strong> (например, Gemma, Llama, Mistral, Falcon), способных выполнять многоэтапные задачи.</li><li><strong>Внедрение RAG:</strong> Построение и оптимизация систем Retrieval-Augmented Generation (RAG) для улучшения точности и обоснованности ответов, интегрированных с локальной инфраструктурой данных.</li><li><strong>Дообучение (Fine-Tuning) Open-Weight моделей:</strong> Экспериментирование и применение методов дообучения (например, LoRA, QLoRA) для повышения их производительности в специфических доменах.</li><li><strong>On-Premise Развертывание и Оптимизация:</strong> Управление жизненным циклом моделей, включая развертывание и оптимизацию работы моделей с открытыми весами.</li><li><strong>Исследования и инновации:</strong> Отслеживание актуальных трендов и новейших архитектур в области Open-Source LLMs и локального развертывания.</li></ul><h3>🛠️ Требования к кандидату</h3><ul><li><strong>Опыт работы:</strong> Минимум 2+ года опыта в области Data Science, Machine Learning или AI/NLP.</li><li><strong>Программирование:</strong> Отличное знание <strong>Python</strong> и библиотек (PyTorch, Hugging Face, Transformers).</li><li><strong>Open-Weight LLMs:</strong> Глубокое понимание архитектур и практический опыт работы с моделями с открытыми весами (Llama, Mistral, Gemma).</li><li><strong>On-Premise MLOps:</strong> опыт работы с MLOps инструментами для локального развертывания. Свободное владение <strong>Docker</strong> и желательно знание <strong>Kubernetes</strong> или аналогичных систем оркестрации.</li><li><strong>Технологии RAG:</strong> Практический опыт работы с фреймворками для RAG (LangChain/LlamaIndex) и Vector Stores (Faiss, ChromaDB) для локального размещения.</li><li><strong>Оптимизация ресурсов:</strong> Понимание оптимизации производительности и эффективности использования GPU для инференса и дообучения (например, <strong>знание CUDA, Triton, vLLM</strong> будет большим плюсом).</li><li><strong>Базовые знания:</strong> Твердое понимание основных концепций ML и NLP.</li></ul><h3>✨ Будет плюсом</h3><ul><li>Опыт работы с алгоритмами квантования и дистилляции для оптимизации размера модели.</li><li>Опыт настройки и администрирования локальных вычислительных кластеров.</li></ul> <div> <a href="https://jobs.dou.ua/companies/tscafu/vacancies/337691/#reply-btn-id">Откликнуться на вакансию</a> </div>