Pracuj.pl Hybrydowo Senior

Inżynier Danych (Data Engineer / Analytics Engineer) ( m/k)

AIQLABS sp. z o.o.

⚲ Warszawa, Targówek

Wymagania

  • Apache Airflow
  • OLAP
  • Docker
  • SQL
  • data build tool
  • PostgreSQL

Opis stanowiska

Nasze wymagania: Kompetencje techniczne: ETL/ELT: Praktyczna umiejętność projektowania i edycji złożonych procesów przepływu danych. Modelowanie danych: Biegłość w projektowaniu struktur bazodanowych oraz znajomość technologii OLAP (przetwarzanie analityczne). Airflow: Bardzo dobra znajomość narzędzia Apache Airflow w zakresie budowy DAG-ów oraz administracji środowiskiem. Konteneryzacja: Praktyczna znajomość środowisk Docker (tworzenie i modyfikacja obrazów, zarządzanie kontenerami). SQL & Validation: Zaawansowana znajomość SQL oraz umiejętność projektowania systemów kontroli jakości danych. Mile widziane: Doświadczenie w pracy z dbt (data build tool) i pisanie czystego kodu w języku Python. Znajomość narzędzia Apache Superset do wizualizacji i eksploracji danych. Znajomość środowiska bazodanowego PostgreSQL Doświadczenie w pracy z zewnętrznymi API O projekcie: Szukamy osoby samodzielnej, która potrafi spojrzeć na dane nie tylko przez pryzmat kodu, ale przede wszystkim ich wartości biznesowej. Jeśli potrafisz sprawnie poruszać się między czystym SQL-em a konfiguracją kontenera na produkcji – to stanowisko jest dla Ciebie. Zakres obowiązków: • Projektowanie i rozwój: Tworzenie oraz optymalizacja procesów ETL/ELT z wykorzystaniem technologii dbt (data build tool) oraz Python. • Architektura danych: Projektowanie i rozwój struktur bazodanowych (hurtowni danych) dedykowanych pod zaawansowaną analitykę i raportowanie. • Orkiestracja: Pełne utrzymanie platformy Apache Airflow (konfiguracja, aktualizacje, wdrażanie nowych funkcjonalności). • DevOps & Docker: Zarządzanie i edycja środowisk kontenerowych (Docker) w celu zapewnienia stabilności procesów przetwarzania danych. • Jakość danych: Implementacja i nadzór nad procesami walidacji danych wewnątrz baz danych.

🔍 Dekoder Ogłoszenia

🔴
Praktyczna umiejętność projektowania i edycji złożonych procesów przepływu danych.
Oczekuje się, że będziesz w stanie samodzielnie tworzyć i modyfikować skomplikowane pipeline'y danych, a nie tylko korzystać z gotowych rozwiązań.
🔴
Biegłość w projektowaniu struktur bazodanowych oraz znajomość technologii OLAP (przetwarzanie analityczne).
Oprócz pisania zapytań, oczekuje się od Ciebie projektowania od podstaw modeli danych, które będą efektywne dla analiz.
🔴
Bardzo dobra znajomość narzędzia Apache Airflow w zakresie budowy DAG-ów oraz administracji środowiskiem.
Nie tylko tworzenie zadań, ale również zarządzanie całym środowiskiem Airflow, w tym jego utrzymanie i rozwiązywanie problemów.
🔴
Szukamy osoby samodzielnej, która potrafi spojrzeć na dane nie tylko przez pryzmat kodu, ale przede wszystkim ich wartości biznesowej.
Oczekuje się, że będziesz rozumieć kontekst biznesowy danych i potrafić przekładać potrzeby biznesowe na rozwiązania techniczne, a nie tylko wykonywać polecenia.
🔴
Jeśli potrafisz sprawnie poruszać się między czystym SQL-em a konfiguracją kontenera na produkcji – to stanowisko jest dla Ciebie.
Oczekuje się szerokiego zakresu umiejętności, od pisania zapytań po zarządzanie infrastrukturą produkcyjną, co może oznaczać pracę w mniejszym zespole z większą odpowiedzialnością.