Senior Spark Data Engineer (Iceberg) (удаленная работа)

Вакансия: Senior Spark Data Engineer (Iceberg)

Описание вакансии

ОДИН ИЗ ЛУЧШИХ РАБОТОДАТЕЛЕЙ РОССИИ

Мы Neoflex. Аккредитованная IT компания. За 20 лет работы мы создали 12+ готовых решений для бизнеса, так же занимаемся заказной разработкой программного обеспечения.

Приветствуем на странице нашей компании и благодарим за интерес к вакансии. Будем рады оказаться полезны друг другу.

СТЕК проекта: Apache Spark (Pyspark), SQL, Iceberg , S3.

Что нужно делать:

Знание BigData архитектуры и способность выявлять узкие места в существующих конфигурациях наших клиентов;

Опыт с Iceberg , S3, StarRocks или Trino, DBT, Kafka;

Оптимизация своего и чужого кода на SQL, Spark;

Написание эффективного кода на PySpark, отвечающего требованиям производительности;

Настройка и поддержка DAG-ов в Airflow для оркестрации процессов;

Тестирование и отладка кода, обеспечение качества данных;

Взаимодействие с командой и заказчиком по уточнению требований.

Что мы хотели бы видеть:

Опыт работы со Spark (от 3 лет), знание Pyspark;
Опыт с Iceberg ( обязательно );
Знания Spark архитектуры, и Big Data архитектуры, вопросов производительности;
Глубокие знания SQL;
Опыт работы с Airflow (написание и поддержка DAG-ов);
Понимание принципов распределенных вычислений (умение использовать нативные инструменты Spark);
Понимание формата Parquet;
Опыт работы с облачными хранилищами (S3 или аналоги);
Готовность лидить небольшую проектную команду, если возникнет необходимость (желательно наличие опыта управления дата инженерами, разработчиками);

Что ты приобретёшь, присоединившись к нам:

• достойную оплату труда + компенсационные, стимулирующие и мотивационные выплаты, бонусы за участие в реферальной программе;
• работа в команде профессионалов готовых делиться экспертизой;
• официальное трудоустройство по ТК РФ, аккредитация IT, расширенный социальный пакет:

страховка ДМС (с 3-го месяца работы, стоматология, возможность подключения родственников, теле медицина, полис ВЗР),

сотрудникам со стажем в Neoflex более 3 месяцев при предоставлении листка нетрудоспособности устанавливается доплата до полного заработка за период болезни,

обучение детей сотрудников ИТ специальностям,

компенсация затрат на фитнес и занятия английским языком;

• обеспечиваем техникой для работы (ноутбук, наушники, мышь);
• профессиональное развитие - в Учебном Центре (курсы по работе с большими данными, видео лекции, тренажеры, карьерный коучинг, лекции, тренинги, конференции, участие в митапах);
• возможность пройти проф.сертификацию;
• прозрачную систему карьерного развития Performance Review;
• персонального куратора с первого дня работы;
• насыщенную корпоративную жизнь: яркие корпоративы, праздники для детей сотрудников, корпоративные спортивные мероприятия, мотивационные награждения;
• комфортную атмосферу в филиалах компании в городах: Москва, Санкт-Петербург, Нижний Новгород, Пенза, Воронеж, Саратов, Самара, Краснодар где есть лаунж и фотозоны, вендинги в кухнях, пространство для медитаций и другие секретные места, о которых знают только наши сотрудники.

Мечты и команды работают вместе. Мы будем рады, если ты станешь частью нашей команды! Откликайся ;)