MLOps-инженер (удаленная работа)

Вакансия: MLOps-инженер

Описание вакансии

Привет. Я Виктор, основатель IntellectDialog (7 лет, 500+ клиентов, резидент Сколково). Собираю senior-команду под грантовый НИОКР: система для стоматологических клиник, которая сама решает, кому, когда и в каком канале написать пациенту, сама записывает в МИС и объясняет каждое своё решение. Внутри байесовские профили, скоринги, решающие правила с доказанными теоремами и генерация, где каждая цифра обязана иметь источник.

Важно: только senior с продовым опытом ровно в том, что написано ниже. Смежный опыт не считается, доучивать некогда сроки грантовые. В сопроводительном обязательно: научные публикации/доклады, если есть (для гранта это влияет на выбор), сколько часов в день готовы уделять, и подтверждение, что ставка 1500 /час вам подходит. Отклик без этих пунктов и без обязательных пунктов из конца вакансии не рассматриваю

MLOps-инженер: инференс, реестр моделей, гейты качества

Вы будете отвечать за то, чтобы весь ИИ-контур жил в проде предсказуемо: модели разворачиваются воспроизводимо, каждая версия учтена, ни один релиз не проходит мимо гейтов качества, а GPU не простаивают и не горят.

Что конкретно: инференс-контур: vLLM (+ xgrammar для structured output) на арендованных GPU в РФ-облаке развёртывание, квантизация, батчинг, бюджет латентности TTFT 400 мс p95; реестр моделей MLflow: версии скорингов, LLM, конфигураций валидатора у нас каждая запись в журнале решений обязана ссылаться на точную версию модели, это требование аудита, не прихоть; CI/CD с гейтами: eval-прогоны (golden, red-team, регрессия), property-тесты и лицензионный манифест как блокирующие проверки; канареечные релизы моделей и мгновенный откат; мониторинг: латентности поступенно (классификатор retrieval генерация валидатор), FAIL валидатора по типам, дрейф распределений входящих обращений, загрузка GPU Grafana/Prometheus + Langfuse; окружения prod/stage/dev, пиннинг версий весов, воспроизводимость экспериментов ML-команды.

Кого ищу: инженера, который держал LLM или ML-модели в проде под нагрузкой и отвечал за них головой не задеплоил разок через docker compose , а строил конвейер, где смена модели без прохождения гейтов невозможна физически.

Кому не писать: если ваш опыт DevOps без ML-специфики (Kubernetes есть, а что такое драка за KV-cache нет) или, наоборот, DS, который немного деплоил свои модели . Нужен именно стык: и инфраструктура, и понимание, чем инференс LLM отличается от веб-сервиса.

Стек: Python, vLLM, MLflow, Docker/Kubernetes, Grafana/Prometheus, Langfuse; PostgreSQL. Ядро платформы Node.js/React/Postgres, но ваша зона ИИ-контур.

В отклике обязательно, иначе не отвечу:

1. Кейс: ML/LLM-контур, который вы держали в проде масштаб (rps/токены/GPU), за какие SLO отвечали, что ломалось и как чинили. И отдельно: мог ли он работать без вас документация, дежурства, передача.
2. По списку работал в проде / знаю поверхностно / не работал . Честно, на созвоне копну в любой пункт: vLLM или SGLang/TGI: разворачивали и тюнили сами (какие модели, какие GPU) или пользовались готовым; квантизация (AWQ/GPTQ/FP8) что применяли и зачем; structured output на сервинге: xgrammar/Outlines/guided json включали ли в проде; MLflow или аналог (W&B, ClearML): реестр моделей с продовым промоушеном версий, не просто трекинг экспериментов; CI/CD с качественными гейтами: чем блокировали релиз (тесты, eval, лицензии); канарейки и откаты моделей: как устроено было у вас; Kubernetes + GPU: шедулинг, лимиты, мониторинг утилизации; Langfuse/OpenTelemetry: трассировка LLM-конвейеров.
3. Отдельным абзацем: какую часть ML-инфраструктуры вы спроектировали и подняли с нуля (конвейер, сервинг, гейты), а где пришли в готовое и развивали.
4. GitHub, доклады.
5. Научные достижения, если есть списком.
6. Доступность: сколько часов в день готовы уделять, с какой даты и подтверждение, что ставка 1500 /час по факту отработанного вам ок. Без этого подтверждения созвон не назначаю, чтобы не тратить время обеих сторон.

Условия: удалёнка, от 4 часов в день, 1500 /час по факту, самозанятость/ИП/ГПХ, 12 18 месяцев. Для ключевых участников по итогам успешной реализации опцион на долю в компании (условия индивидуально, после первых месяцев работы). Это НИОКР с публикациями и РИД 50+ клиник-клиентов ждут пилотов, результат уйдёт в прод. Если есть научные публикации, доклады, участие в НИОКР приложите список, для гранта это важно и влияет на выбор.