AI Plattform Engineer (m/w/d)

Über die Rolle Für ein langfristiges Projekt im Bereich Künstlicher Intelligenz wird ein erfahrener Berater (m/w/d) gesucht, der als AI Plattform Engineer den Aufbau, die Weiterentwicklung und den stabilen Betrieb einer modernen on-premise Sprachmodell-Plattform verantwortet. Der Einsatz findet im Umfeld eines großen öffentlichen IT-Dienstleisters statt. Deine Aufgaben: • Aufbau und Betreuung einer skalierbaren on-premise Sprachmodell-Plattform für generative KI • Einrichtung, Dokumentation und Verwaltung einer RAG-Chat-Anwendung in Container-Umgebungen (z. B. OpenShift) • Integration von Benutzerauthentifizierung und modularen Erweiterungsmöglichkeiten für die Plattform • Sicherstellung eines stabilen Plattformbetriebs, inkl. Monitoring von Ressourcen, Logs & Fehleranalyse • Entwicklung von Daten- und Analysepipelines für Extraktion, Transformation und Anreicherung von Daten sowie Ablage in Vektor- und NoSQL-Datenbanken • Aufbau spezialisierter Wissensdatenbanken (Datenmodellierung, Indexierung, semantische Suche) • Entwicklung einer zentralen Schnittstelle (API) für die Anbindung von Chatbot, Browser-Extensions, IDEs und Office-Tools an SQL-, NoSQL- und Vektordatenbanken • Dokumentation aller technischen Tätigkeiten und enge Abstimmung mit dem Projektteam Dein Profil: • Mehr als 8 Jahre Projekterfahrung in der Künstlichen Intelligenz, nachweisbar durch Projektreferenzen • Mindestens 5 Jahre professionelle Python-Programmiererfahrung (Datenverarbeitung, KI, Automatisierung) • Mindestens ein abgeschlossenes Praxisprojekt als AI Plattform Engineer (z. B. Aufbau KI-Infrastruktur, MLOps, GenAI-Plattformen) • Fähigkeit, on-premise KI-Lösungen zu entwickeln und zu betreiben (GPU-Umgebungen, Containerplattformen) • Erfahrung im Aufbau und Betrieb einer RAG-Chat-Lösung und im Entwickeln von Datenpipelines • Kenntnisse zu modernen KI-Frameworks, u. a. vLLM, Vektordatenbanken und Container-Orchestrierung • Vorteil: Erfahrung in IT-Projekten der öffentlichen Verwaltung • Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift Wünschenswert (Nice-to-Have): • On-Premise KI-Systeme (Dev & Ops) Erfahrung • Erfahrung mit RAG-Lösungen • Daten- und Analysepipelines • Kenntnisse zu modernen KI-Frameworks, u. a. vLLM • Projektkenntnis in der Finanzverwaltung Andere Details Zeitraum: Rahmenvereinbarung bis 2030 Arbeitsort: Vor-Ort-Präsenz von weniger als einem Tag je Monat Woche erwartet, Remote/Deutschland Kurz zusammengefasst Diese Rolle ist ideal für Dich, wenn Du: • Erfahrung mit Künstliche Intelligenz hast und bereits komplexe KI-Projekte erfolgreich umgesetzt hast • Erfahrung mit RAG-Lösungen hast • Starke Python-Programmierungskenntnisse (mind. 5 Jahre) mitbringst • Erfahrung im Aufbau von Datenpipelines und dem Arbeiten mit Vektor- und NoSQL-Datenbanken hast • Kenntnisse zu modernen KI-Frameworks, u. a. vLLM hast Bei Interesse freue ich mich auf Deine Bewerbungsunterlagen, Verfügbarkeit und Stundensätze an tamara.petrovic.turkovic@emagine.de!