ML Ops Engineer
Do uzgodnienia
Wymagania
- doświadczenie w produkcyjnym serwowaniu modeli ML (vLLM, TGI, Triton lub podobne)
- doświadczenie z rozproszonymi systemami GPU
- doświadczenie w projektowaniu pipeline'ów wdrożeniowych (blue/green, canary)
- doświadczenie w budowie systemów auto-skalowania i multi-model serving
- doświadczenie w projektowaniu systemów observability (latencja, throughput, użycie GPU, koszty)
- zarządzanie model registry i pipeline'ami CI/CD dla ML
- gotowość do pełnej odpowiedzialności operacyjnej, w tym dyżurów on-call
Opis stanowiska
Praca przy budowie i utrzymaniu infrastruktury do serwowania modeli ML w skali produkcyjnej dla startupu oferującego zdecentralizowaną infrastrukturę chmurową z GPU. Będziesz projektować pipeline'y wdrożeniowe (blue/green, canary), systemy auto-skalowania i routingu requestów oraz optymalizować wykorzystanie GPU i opóźnienia inferencji. To rola dla inżyniera z mocnym doświadczeniem w produkcyjnym serwowaniu modeli i systemach rozproszonych GPU, gotowego na pełną odpowiedzialność operacyjną, w tym dyżury on-call.
🔍 Dekoder Ogłoszenia
✓ Ogłoszenie wygląda transparentnie — brak typowych czerwonych flag.