О себе
Опытный Data Engineer с фокусом на построение высоконагруженных ETL/ELT-пайплайнов, потоковую обработку данных и внедрение решений для каталогизации данных. Успешно мигрировал пайплайны с Pentaho на Airflow, что ускорило работу DWH PostgreSQL более чем на 40%. Владею стеком: Spark, Kafka, Airflow, dbt, ClickHouse, PostgreSQL. Стремлюсь применять best practices DataOps и постоянно улучшать качество данных.
Опыт работы
MagnumGO
Data Engineer
- Проектирование, разработка и оптимизация ETL/ELT-пайплайнов - Создание и сопровождение витрин данных и хранилищ, обеспечение высокой доступности и производительности - Разработка и поддержка решений для потоковой обработки данных в реальном времени с использованием Kafka и Spark - Интеграция данных из различных источников (API, файловые системы) в централизованное хранилище - Автоматизация процессов, связанных с данными, включая мониторинг и рассылку уведомлений по электронной почте - Мониторинг систем и метрик в Grafana и Temboard - Развертывание и настройка решений для каталогизации данных (OpenMetadata) - Управление правами доступа к данным и сервисам - Разработка и поддержка дашбордов и отчетов в QlikSense и Apache Superset, обеспечение их доступности, точности и удобства для бизнес-пользователей - Взаимодействие с аналитиками данных, бизнес-аналитиками и межфункциональными командами для перевода бизнес-требований в технические решения - Реализация процессов CDC для обновления данных в реальном времени - Проведение миграции данных организации из старых систем и хранилищ в новые
- Успешный проект по монетизации данных
- Миграция пайплайнов с Pentaho на Airflow, ускорение работы DWH PostgreSQL более чем на 40%
Kcell JSC
Senior Data Engineer
- Развертывание и введение каталога данных DataHub - Поддержка DWH - Сбор и подготовка данных
A2DATA
Data Engineer
- Парсинг данных XML, Excel, CSV в таблицы - Участие в построении хранилища данных - Разработка пайплайнов для различных операций с данными - Создание хабов и сателлитов; - Создание витрин - Выполнение различных запросов относительно согласованности и безопасности данных
Образование
Казахстанско-Британский технический университет
Вычислительная техника и программное обеспечение
Ожидаемая зарплата
1 500 000 KZT