Задание

Разработка ETL/ELT пайплайна

Опишите, как вы бы разработали ETL или ELT пайплайн, который загружает данные из нескольких источников в хранилище. Как бы вы справлялись с изменениями схемы, неудачными загрузками и повторными запусками без дублирования данных?

Напишите ваш ответ в поле ниже и нажмите кнопку "Проверить ответ"

Ответы проверяет AI, поэтому для проверки нужен аккаунт. Новые аккаунты получают бесплатные AI-токены.

Здесь появится отзыв ИИ на ваш ответ.

Кто такой Data Engineer?

Data Engineer проектирует и поддерживает системы, которые собирают, преобразуют и доставляют данные для аналитики и принятия бизнес-решений.

Что делает Data Engineer?

Строит надежные ETL/ELT-пайплайны из разных источников данных.
Готовит чистые и структурированные наборы данных для аналитиков и data scientist-ов.
Проектирует схемы хранилищ данных (фактовые и измеренческие таблицы).
Контролирует качество и актуальность данных, а также сбои пайплайнов.
Оптимизирует производительность запросов и стоимость обработки данных.

Что должен знать Data Engineer?

Сильный SQL: JOIN, агрегаты, оконные функции и оптимизация запросов.
Моделирование данных: нормализация, денормализация, схемы "звезда" и "снежинка".
Принципы оркестрации и планирования пайплайнов.
Batch/streaming-подходы, инкрементальные загрузки и идемпотентность.
Основы облачных хранилищ, data warehouse и наблюдаемости.

Эта страница помогает практиковать вопросы по Data Engineering в формате собеседования на SQLTest.online.