AI Infrastructure & Security Engineer

Что предстоит делать

<h3>Коротко о роли</h3><p>Kernel масштабирует использование AI в бизнес-процессах, поэтому мы ищем инженера, который поможет развивать собственную локальную AI-инфраструктуру и обеспечивать ее надежность и безопасность.</p><p>Это практическая инженерная роль на стыке <strong>AI Ops, Infrastructure и Security Engineering</strong>: около 70% задач связаны с кодом, инфраструктурой и автоматизацией, еще 30% — с безопасностью AI-систем, данных и моделей.</p><h3>Что нужно делать</h3><ul><li>Разворачивать и администрировать локальный <nobr>LLM-стек:</nobr> Ollama, vLLM, RAG-платформы, векторные базы данных и модели эмбеддингов.</li><li>Строить конвейеры обработки документов: парсинг, чанкинг, санитизация и индексация.</li><li>Работать с GPU-инфраструктурой, профилировать и оптимизировать инференс под имеющиеся ресурсы.</li><li>Обеспечивать доступность AI-сервисов, настраивать мониторинг и резервное копирование.</li><li>Разрабатывать внутренние сервисы и инструменты на Python, работать с REST API, Docker и CI/CD.</li><li>Интегрировать внутренние решения с EDR, SIEM, Microsoft 365 и Entra ID.</li><li>Автоматизировать процессы SOC: обогащение и триаж алертов, сбор артефактов и формирование отчетности.</li><li>Настраивать разграничение сред, контроль доступа к моделям и данным, а также логирование их использования.</li><li>Защищать AI-системы от специфических для LLM угроз и помогать упорядочивать использование shadow AI.</li><li>Участвовать в разработке внутренних политик использования AI и оценке рисков новых AI-решений.</li></ul><h3>Наши ожидания</h3><ul><li>Уверенное владение Python: разработка сервисов, asyncio, REST API и тестирование.</li><li>Практический опыт администрирования Linux и работы с Docker.</li><li>Базовое понимание Kubernetes, Git и CI/CD.</li><li>Практический опыт с <nobr>LLM-стеком:</nobr> локальный инференс, RAG, векторные базы данных и prompt engineering.</li><li>Понимание основ информационной безопасности: аутентификация, модели доступа, сегментация, логирование и работа с чувствительными данными.</li><li>Способность самостоятельно работать с технической документацией, незнакомыми API и существующим кодом.</li><li>Английский на уровне, достаточном для работы с технической документацией.</li></ul><p><strong>Будет преимуществом:</strong></p><ul><li>Опыт работы с GPU-кластерами, NVIDIA CUDA, NIM, Triton или квантизацией моделей.</li><li>Знание LangChain, LlamaIndex, MCP и опыт построения агентных конвейеров.</li><li>Практический опыт со Splunk SPL, KQL и большими объемами логов.</li><li>Знание OWASP Top 10 for LLM, NIST AI RMF или ISO/IEC 42001.</li><li>Опыт работы в изолированных, в том числе air-gapped, средах.</li></ul><h3>Что мы предлагаем</h3><ul><li>Официальное трудоустройство и прозрачные условия сотрудничества.</li><li>Ежегодную премию по результатам работы.</li><li>Медицинское страхование.</li><li>Гибридный и гибкий формат работы.</li><li>Современный офис в центре Киева.</li><li>Возможность работать с актуальными AI-технологиями и влиять на формирование внутренней AI-инфраструктуры крупной украинской компании.</li></ul> <div> <a href="https://jobs.dou.ua/companies/kernel/vacancies/371340/#reply-btn-id">Откликнуться на вакансию</a> </div>