MLOps / Platform Engineer (m/w/d)

Wir suchen Verstärkung im Bereich MLOps/Platform Engineering für den Aufbau und Betrieb der Infrastruktur hinter unseren KI-Systemen. Zum Verantwortungsbereich gehören die Services, auf die sich unsere Teams täglich verlassen und die vollständig auf Kubernetes betrieben werden. Wenn du als Kubernetes-/DevOps Engineer lösungsorientiert arbeitest und im Zentrum der Entwicklung, Bereitstellung und Skalierung unserer KI-Produkte tätig sein möchtest, freuen wir uns auf deine Bewerbung.

Deine Aufgaben:

• Technische Betreuung für zentrale Cluster-Services übernehmen – darunter n8n (Workflow-Automatisierung) und LiteLLM (LLM-Gateway/Proxy) – und deren zuverlässigen Betrieb, regelmäßige Updates sowie die korrekte Konfiguration für die darauf angewiesenen Teams sicherstellen

• MCP-Server (Model Context Protocol) entwickeln und betreiben, um die sichere Interaktion von KI-Agenten und -Modellen mit externen Tools und Datenquellen zu standardisieren

• Den Betrieb plattformnaher Services verbessern – insbesondere in den Bereichen Ingress-Controller, Zertifikatsmanagement (z. B. cert-manager), DNS und Secret Management

• CI/CD- und GitOps-Pipelines aufbauen und pflegen

• Zusammenarbeit mit Engineering- und KI-Teams, um neue Services nach definierten Standards in den Cluster zu integrieren

• Produktive Services überwachen, auftretende Störungen beheben und die Observability (Logs, Metriken, Alerting) der verantworteten Services gezielt ausbauen

• GPU-gestützte Workloads und die LLM-Serving-Infrastruktur unterstützen – vom Routing und der Skalierung von Anfragen über GPU-Scheduling bis hin zur Performance-Optimierung selbst gehosteter LLMs

Dein Profil:

• Abgeschlossene Ausbildung (Uni oder FH) mit Schwerpunkt Data Science, Informatik, Software Engineering oder einer vergleichbaren Fachrichtung

• Fundierte Erfahrung im Software Engineering und DevOps

• Know-how im Aufbau von MLOps-/LLMOps-Plattformen einschließlich CI/CD-Pipelines und Automatisierung

• Erfahrung in der Implementierung von Monitoring, Logging und Observability für Produktionssysteme, idealerweise auch mit LLM-spezifischen Tools (z. B. Langfuse)

• Sicherer praktischer Umgang mit Kubernetes in Produktionsumgebungen

• Linux- und Netzwerkkenntnisse sowie allgemeine DevOps-Grundlagen

Idealerweise bringst du zudem folgende Erfahrungen mit:

• Erfahrung mit Ray (oder vergleichbaren Frameworks für verteiltes Rechnen)

• Praxis im Umgang mit GPU-Infrastruktur

• Vertrautheit mit LLM-Serving oder dem Betrieb eines LLM-Gateways wie LiteLLM

• Grundkenntnisse in Observability-Stacks (Prometheus, Grafana, Loki o. Ä.)

Wir bieten:

• Flexible Arbeitszeiten sowie Möglichkeit zum teilweisen Home-Office

• Betriebsrestaurant mit abwechslungsreicher und saisonaler Küche (Essenszuschuss)

• Parkplätze sowie Ladestationen für e-Autos

• Für die Anreise vom Wohnort zum Arbeitsplatz übernehmen wir die Kosten des Öffitickets

• Paten- & Bildungsprogramm

• Kinderland und Krabbelgruppe mit Ganzjahresbetreuung am Standort Sattledt

• Firmenevents

• Sportangebot (Beachvolleyballplatz, Übernahme der Startgebühr bei div. Laufveranstaltungen, …)

Unsere Löhne und Gehälter liegen über dem Kollektivvertrag (KV) der Elektro- und Elektronikindustrie. Die KV-Mindestwerte betragen zwischen € 3.888,53 und € 4.993,21 - mit Bereitschaft zur Überzahlung. Die genaue Höhe hängt von deiner Qualifikation und Erfahrung ab. Wir gehören zu den besten Arbeitgebern Österreichs und bieten zahlreiche Benefits, ein familiäres Betriebsklima sowie spannende Entwicklungsmöglichkeiten.

Möchtest du Teil eines engagierten Teams werden und mit deiner Energie Besseres bewirken? Dann freut sich Mona Gelbenegger über deine aussagekräftige Onlinebewerbung.