ML/AI Lead

Что предстоит делать

#астана #ml **ML/AI Lead** **Компания:** MDiet (mdiet.org) — early-stage healthtech-стартап https://mdiet.org/ **Локация:** Астана (офис 7–9 месяцев → гибрид/удаленно) **Зарплата:** $4,000 – $5,000 USD gross + доля в компании MDiet — это early-stage HealthTech стартап, разрабатывающий AI-платформу, которая помогает снизить повторные госпитализации пациентов. Продукт ориентирован на рынок здравоохранения США. **Релокация в США при успешном росте компании (обсуждается индивидуально)** **Tech Stack:** - LangGraph + LangChain (Agentic AI) - vLLM + Hugging Face - PyTorch + PEFT (LoRA/QLoRA) - Vector databases (pgvector, Qdrant, Weaviate, Chroma, Pinecone) - Advanced RAG + Prompt Engineering + Embeddings - FastAPI + PostgreSQL - Docker + Kubernetes + async processing (Arq / Celery / Redis Streams) - Apache Airflow (data pipelines) - AWS Cloud (EC2, S3, SageMaker, Lambda, RDS, Bedrock) - Structured output (Outlines / Guidance / Instructor) - Evaluation & observability (Langfuse, RAGAS / DeepEval, Prometheus + Grafana) - MLOps practices **Обязанности:** - Проектировать и создавать многошаговые LLM-агенты и пайплайны для курации медицинских данных - Разрабатывать production RAG-системы с высоким качеством обоснования и цитирования - Разворачивать и оптимизировать self-hosted LLM-инференс (vLLM) с оптимизацией стоимости и пропускной способности - Донастраивать open-source модели на предметных медицинских данных с измеримыми улучшениями - Создавать пайплайны данных и версионирование для документов, эмбеддингов и тренировочных данных - Разрабатывать системы оценки, защиты и контроля галлюцинаций - Внедрять надежный структурированный вывод и извлечение данных - Тесно работать с врачами и Platform Architect **Требования:** - Сильный практический опыт работы с production LLM-системами (RAG + агенты + инференс) - Опыт донастройки open-source LLM (LoRA/QLoRA/PEFT) с измеримыми результатами - Опыт создания пайплайнов данных и версионирования для LLM/RAG-нагрузок - Сильные навыки в оценке, снижении галлюцинаций и структурированном выводе - Production Python + FastAPI + async processing - Опыт работы с self-hosted инференсом (vLLM или аналоги) и оптимизацией GPU - Владение английским на уровне C1 (сильные навыки письменной и устной коммуникации) - Степень бакалавра (или выше) в области Computer Science, Artificial Intelligence, Machine Learning, Data Science или смежной технической специальности - 5+ лет в ML/AI, из них 1.5–2+ года в production LLM-проектах - Опыт работы с MLOps **Будет плюсом:** - Опыт в медицинском/клиническом NLP или регулируемых доменах - Моделирование стоимости и оптимизация LLM-нагрузок - MLOps и production пайплайны донастройки - Apache Airflow, Prometheus/Grafana или AI Solution Architecture - Публикации в соответствующих областях **Контакты:** Telegram: @team_mdiet Email: [email protected]