Инженер NLP/PLP Senior (удаленная работа)

Вакансия: Инженер NLP/PLP Senior

Описание вакансии

Мы Digital-студия Saltwort , занимаемся разработкой, автоматизацией, сопровождением и продвижением как для небольших компаний, так и для гигантов отрасли.

Сейчас активно развиваем направление аутстаффинга, так как у нас значительно выросло количество клиентов и партнёров среди крупных компаний РФ.

В связи с увеличением объемов приглашаем на долгосрочный проект в свою команду Senior NLP/PLP-инженера.

О проекте:
Business intelligence инструменты визуализации данных и предоставление актуальной аналитики, в том числе проведения ad-hoc запросов и пилотных исследований, а также продуктовой аналитики для пользователей.
Предоставление удобного доступа к актуальной аналитике для широкого круга пользователей. BI-инструмент с низким порогом входа, low-code решение.

Задачи:
Основной фокус Instruct tuning для задач Text-to-SQL / NL2SQL и PLP
Дизайн экспериментов, формулировка гипотез для улучшения NLP/PLP моделей и алгоритмов, планирование исследовательских экспериментов с выводами
Проведение экспериментов, написание кода, подготовка датасетов и бенчмарков, проведение замеров и анализ результатов;
Обучение моделей на кластере, включая обучение моделей с нуля и дообучение опенсорс моделей
Взаимодействие с прод-командой для интеграции моделей и алгоритмов в продакшн
Ориентированность на SOTA, читать пейперы, быть в курсе последних исследований, предлагать новые смелые подходы и направления

Требования:
Опыт не меньше 4,5 лет в данной сфере/смежных сферах
Хорошие теоретические знания в DL, с упором в современный NLP и трансформеры
Умение формулировать эксперименты с научной строгостью, обосновывать их, проводить самостоятельно и делать выводы
Опыт обучения трансформеров
Опыт распределенного обучения моделей (deepspeed, fsdp, torch.distributed, accelerate)
Знание стандартных библиотек для DL и NLP (PyTorch и библиотеки Huggingface)
Знания lora/p-tune и других peft/sft-подходов
Знакомство с Spider/CoSQL

Будет плюсом:
Опыт работы на похожей позиции
Участие в соревнованиях по ML
Сабмиты на лидербордах по NLP/PLP
Публикации уровня А/A, Q1
Обучение моделей на кластере, опыт распределенного обучения

Условия:
Удалённая работа
Выплаты 1/2 раза в месяц
Долгосрочный проект от 6 месяцев
Сильная команда увлеченных своим делом людей
Сотрудничество по ИП (при необходимости помогаем в открытии и ведении ИП), в дальнейшем возможен пересмотр вариантов сотрудничества