Data Platform Engineer / Data DevOps

Что предстоит делать

О нас Мы работаем в сегменте RegTech. Это новый рынок, активно развивающийся во всем мире. Большинство игроков — SaaS сервисы, позволяющие компаниям выполнять требования регулирующих органов, анализировать партнеров и клиентов, наблюдать и анализировать конкурентов, совершать M&A сделки, отслеживать связи между компаниями и многое другое. Это быстро развивающаяся отрасль на пересечении финансов, аналитики, технологий обработки данных, включая AI, нормативных и регуляторных требований. Rusprofile — быстрорастущая частная компания, один из лидеров российского рынка RegTech. Сервис помогает компаниям быстро и эффективно принимать критические для бизнеса решения на основе данных, собираемых ежедневно из десятков источников. Аудитория Rusprofile — это более 11 млн пользователей в месяц и 90 000+ платящих клиентов, от малого бизнеса до крупных корпораций. Наша миссия — помогать бизнесам в их развитии, делая данные простыми и полезными для принятия решений. За последние 3 года мы выросли по выручке в 5 раз, в 10 раз по базе клиентов и мы не планируем останавливаться. Мы больше не стартап, но и не корпорация. Мы принимаем решения быстро, у нас нет сложной иерархии и бюрократии. Мы постоянно развиваемся и адаптируемся, чтобы иметь возможность создавать действительно ценные продукты для наших клиентов и развивать бизнес. Как построена работа Мы выстроили инженерную культуру, где ценится качественный код и техническая экспертиза команды. Разработчики активно участвуют в проектировании решений, а время на работу с техническим долгом и рефакторинг — это часть нашего процесса, а не "когда-нибудь потом". У нас опытная команда, готовая делиться знаниями, и мы открыты к новым технологиям, если они решают реальные проблемы. Процессы у нас построены на принципах agile и постоянно оптимизируются под потребности команды. Работаем итерациями, проводим короткие и полезные синки, уделяем внимание проектированию и code review. При этом у нас нет лишней бюрократии — мы берем лучшее из гибких подходов и адаптируем процессы так, чтобы они помогали команде, а не создавали препятствия. О команде Команда Rusprofile — это 50+ человек: • основатель Дмитрий Стрелков, который когда-то заканчивал факультет вычислительной математики и кибернетики МГУ. Спустя 8 лет активного развития Rusprofile, все также управляет бизнесом; • наша команда разработки состоит из 27 человек: двух инженеров по инфраструктуре, 17 разработчиков, а также 6 тестировщиков и двух дата-инженеров; • бизнес-ориентированная команда продукта: продакт-менеджеры, продуктовый аналитик и дизайнеры продукта. Сейчас в Data Engineering два человека. Мы усиливаем это направление, чтобы построить полноценную платформу данных. Команда Data Engineering: • обеспечивает единый источник правды по данным в компании для аналитики; • строит и развивает платформу данных, на которой работает обработка core-данных компании и аналитика; • проектирует и поддерживает архитектуру обработки и хранения данных;; • отвечает за стабильность, воспроизводимость и масштабируемость пайплайнов; • выстраивает системный контроль качества данных. Мы создаем прозрачную и масштабируемую систему данных, которая поддерживает рост продукта и позволяет бизнесу принимать решения на основе достоверной информации. Про наш стэк: Spark, dbt, Dagster, DataHub, ClickHouse, MySQL, Kafka, Kubernetes, GitLab, Snowplow, GrowthBook. Что ты будешь делать Твоим руководителем будет Lead команды Data Engineering, а основными стейкхолдерами — команда Data Engineering и внутренние потребители платформы core-данных (продукт, бизнес, аналитика). Наша цель — построение и развитие платформы внешних (core) данных компании — тех данных, на обработке которых построен бизнес. Твоя зона ответственности — инфраструктурный слой этой платформы: надёжность, масштабирование, безопасность и развитие, чтобы дата-стек стабильно работал в проде и позволял безопасно и предсказуемо катить изменения. Твои задачи будут включать: 1. Сопровождение и развитие инфраструктуры платформы • Сопровождение и развитие компонентов дата-стека, уже развёрнутых в Kubernetes (Dagster, Spark, Kafka и др.); • Обеспечение стабильной и надёжной работы сервисов в продакшене; • Развитие и масштабирование инфраструктуры под растущую нагрузку; • Управление окружениями (dev / stage / prod). 2. CI/CD и автоматизация • Построение и развитие CI/CD (GitLab) для dbt, Dagster и data-сервисов; • Автоматизация деплоя и тестов; • Инфраструктура как код; • Обеспечение воспроизводимости и прозрачности выкатки изменений. 3. Observability и надёжность • Мониторинг пайплайнов, ресурсов и ошибок; • Настройка метрик, логов и алертинга; • Отладка и повышение стабильности платформы. 4. Безопасность и доступы • Управление секретами; • Ролевые модели доступов и аудит; • Контроль безопасности инфраструктуры данных. Ты станешь частью команды Data Engineering, которая строит и развивает платформу core-данных, на которой работает бизнес компании. Предстоит плотное взаимодействие с инженерами и командами, чьи процессы завязаны на эти данные. Как понять что ты подойдешь • Опыт работы от 3 лет в роли Data Platform Engineer / Data DevOps / DevOps с дата-инфраструктурой; • Уверенный опыт эксплуатации Kubernetes в продакшене (деплой, отладка, масштабирование); • Опыт построения и поддержки CI/CD (желательно GitLab CI); • Инфраструктура как код (Terraform / Helm или аналоги); • Опыт с observability: метрики, логи, алертинг (Prometheus / Grafana или аналоги); • Уверенное владение Python (или другим языком для автоматизации и скриптинга); • Опыт работы с Docker и контейнеризацией; • Уверенные навыки Linux; • Понимание принципов безопасности: управление секретами, ролевые модели доступов, аудит; • Опыт управления окружениями (dev / stage / prod); • Понимание устройства современного data-стека и дата-пайплайнов (оркестрация, трансформации, хранилища); • Навыки мониторинга и отладки пайплайнов обработки данных; • Опыт работы с Git; • Системное мышление и способность видеть архитектуру платформы целиком; • Опыт работы с legacy-решениями и проведения рефакторинга инфраструктуры. Будет плюсом: • Опыт эксплуатации именно дата-инфраструктуры (Dagster / Spark / Kafka / ClickHouse в проде); • ArgoCD / GitOps; • Vault или аналоги для управления секретами; • Умение самостоятельно разворачивать и поддерживать сервисы обработки данных.

Что предлагаем