8 мая 2025
Обязанности:
Разработка и поддержка ETL/ELT-конвейеров для сбора, обработки и трансформации данных из различных источников в Data Lake и другие ИС
Проектирование и разработка витрин данных, подготовка датасетов
Создание, мониторинг и оптимизация процессов загрузки и обработки данных
Развертывание и настройка Spark, Airflow, Kafka в k8s
Развертывание и настройка баз данных ClickHouse, PostgreSQL
Сборка и публикация docker-образов для развёртывания в k8s
Разработка и развитие pipeline CI/CD в продукте (gitlab)
Разработка и развитие ML, внедрение LLM
Управление командой из 2 человек (1 DE + 1 DS)
Требования:
Опыт работы инженером по обработке данных
Опыт разработки решений для Big Data, BI
Опыт развёртывания и управления кластерами Spark, Kafka, Airflow
Опыт работы с реляционными и нереляционными СУБД
Работа с контейнерными оркестраторами (kubernetes)
Опыт администрирования серверов баз данных (postgresql, clickhouse)
Условия: