Data Platform Engineer (Kafka/Streaming)
SQUARE ONE RESOURCES sp. z o.o.
⚲ Warszawa
100–120 zł netto (+ VAT) / godz.
Wymagania
- kSQL
- Java
- Python
- GraphQL
- Kafka
- Spring Framework
- Grafana
- Jira
- Confluence
- Prometheus
Opis stanowiska
Nasze wymagania:
Minimum 3 lata doświadczenia w środowiskach produkcyjnych.
Znajomość brokerów, topiców, partycjonowania, schematów i replikacji.
Biegła znajomość Kafka Streams, kSQL.
Konfiguracja i rozwój konektorów Kafka Connect (gotowych i własnych).
Biegłość w Javie oraz frameworku Spring (Boot, Cloud, Security, Data).
Projektowanie schematów dokumentowych, indeksowanie i optymalizacja zapytań.
Implementacja serwisów GraphQL (Spring GraphQL lub inne), definiowanie schematów i resolverów.
Podstawowa znajomość formatu tabel i zarządzania metadanymi.
Znajomość Javy, Pythona
Znajomość Prometheus, Grafana oraz OpenTelemetry.
Znajomość mechanizmów TLS, SASL i ACL oraz zasad szyfrowania danych w spoczynku i tranzycie.
Doświadczenie w pracy w Scrum/Kanban oraz znajomość narzędzi Jira i Confluence.
Zakres obowiązków:
Spotkania z analitykami i zespołami IT w celu zrozumienia procesów biznesowych i danych.
Tworzenie dokumentacji funkcjonalnej (use case, user story) oraz technicznej (diagramy danych, mapowanie pól).
Projektowanie topików Kafka (naming, partycjonowanie, schematy Avro).
Definiowanie struktur kolekcji w MongoDB oraz modeli w GraphQL i tabel Iceberg.
Budowa mikroserwisów Spring Boot (producent/konsument, stream processing).
Implementacja warstwy GraphQL (schematy, resolvery) udostępniającej dane z MongoDB.
Konfiguracja i rozwój konektorów Kafka Connect.
Tworzenie własnych Single Message Transforms (SMT) i konwerterów w celu dopasowania formatów danych.
Implementacja metryk (Prometheus, Grafana), logowania (Vector, ELK) oraz śledzenia (OpenTelemetry, Dynatrace) dla przepływu zdarzeń.
Diagnozowanie problemów z replikacją, opóźnieniami i niezgodnościami danych.
Optymalizacja konfiguracji Kafki, MongoDB i Iceberg pod kątem wydajności oraz kosztów.
Praca w zespole Agile (Scrum/Kanban) razem z Data Engineerami, DevOpsami, analitykami i testerami.
Dzielenie się wiedzą – warsztaty, dokumentacja, code review.
Minimum 3 lata doświadczenia w środowiskach produkcyjnych.
Znajomość brokerów, topiców, partycjonowania, schematów i replikacji.
Biegła znajomość Kafka Streams, kSQL.
Konfiguracja i rozwój konektorów Kafka Connect (gotowych i własnych).
Biegłość w Javie oraz frameworku Spring (Boot, Cloud, Security, Data).
Projektowanie schematów dokumentowych, indeksowanie i optymalizacja zapytań.
Implementacja serwisów GraphQL (Spring GraphQL lub inne), definiowanie schematów i resolverów.
Podstawowa znajomość formatu tabel i zarządzania metadanymi.
Znajomość Javy, Pythona
Znajomość Prometheus, Grafana oraz OpenTelemetry.
Znajomość mechanizmów TLS, SASL i ACL oraz zasad szyfrowania danych w spoczynku i tranzycie.
Doświadczenie w pracy w Scrum/Kanban oraz znajomość narzędzi Jira i Confluence.
Zakres obowiązków:
Spotkania z analitykami i zespołami IT w celu zrozumienia procesów biznesowych i danych.
Tworzenie dokumentacji funkcjonalnej (use case, user story) oraz technicznej (diagramy danych, mapowanie pól).
Projektowanie topików Kafka (naming, partycjonowanie, schematy Avro).
Definiowanie struktur kolekcji w MongoDB oraz modeli w GraphQL i tabel Iceberg.
Budowa mikroserwisów Spring Boot (producent/konsument, stream processing).
Implementacja warstwy GraphQL (schematy, resolvery) udostępniającej dane z MongoDB.
Konfiguracja i rozwój konektorów Kafka Connect.
Tworzenie własnych Single Message Transforms (SMT) i konwerterów w celu dopasowania formatów danych.
Implementacja metryk (Prometheus, Grafana), logowania (Vector, ELK) oraz śledzenia (OpenTelemetry, Dynatrace) dla przepływu zdarzeń.
Diagnozowanie problemów z replikacją, opóźnieniami i niezgodnościami danych.
Optymalizacja konfiguracji Kafki, MongoDB i Iceberg pod kątem wydajności oraz kosztów.
Praca w zespole Agile (Scrum/Kanban) razem z Data Engineerami, DevOpsami, analitykami i testerami.
Dzielenie się wiedzą – warsztaty, dokumentacja, code review.
🔍 Dekoder Ogłoszenia
✓ Ogłoszenie wygląda transparentnie — brak typowych czerwonych flag.