MLSecOps Engineer (AI Safety) это специалист, который отвечает за безопасность и надежность систем искусственного интеллекта.
Обязанности
Участие в разработке архитектуры и дизайна стандартизированного размещения ИИ агентов, сегментировании и изолировании контекстов агента (разделение памяти, защита системных промптов);
Внедрение и настройка инструментов перехвата и валидации промптов (guardrails), написание правил детекции атак (Jailbreaking, Prompt Injection) и фильтрации вывода;
Построение пайплайна безопасной загрузки данных (RAG), реализация механизмов санитизации данных (очистка PII, секретов) до попадания в векторный индекс, настройка прав доступа (RBAC) на уровне чанков данных в векторной базе данных;
Разработка и поддержка набора автотестов для ежедневного тестирования безопасности агента;
Разработка валидаторов для структурированного вывода, проверка планов агента на безопасность перед исполнением (pydantic).
Требования
Свободное владение Python;
Знание LangChain и/или LlamaIndex, умение писать кастомные callbacks, chains, tools;
Понимание OWASP Top 10 for LLM, знание механик атак (prompt injection, indirect injection, data poisoning, model denial of service);
Понимание работы векторных баз данных (Pinecone, Milvus, Qdrant);
Базовое понимание Docker и CI/CD для интеграции проверок в общий пайплайн.
Мы предлагаем
Необходимое оборудование и софт для работы;
Официальное трудоустройство;
ДМС со стоматологией, офисный врач, доплата больничного листа, корпоративные скидки;
Льготные условия ипотеки в рамках зарплатного проекта;
Бесплатная подписка на сервисы партнеров;
Корпоративный спорт;
Насыщенная корпоративная жизнь;
Электронная библиотека издательства МИФ, в которую входят почти 2 тыс. единиц контента по бизнесу, саморазвитию, здоровому образу жизни и другим актуальным темам.
