Ihre Aufgaben 

• Aufbau und Weiterentwicklung unserer AI Plattform auf Kubernetes 
• Deployment und Betrieb von Large Language Models (LLMs) auf GPU-Servern
• Aufbau und Betrieb performanter Model-Serving und Inference-Services
• Etablierung von MLOps-Standards und Betrieb und Weiterentwicklung der on-prem MLOps-Plattform (u.A. ClearML, OpenShift)
• Aufbau von LLMOps-Workflows für produktive GenAI-Services (Serving/Runtime-Konfiguration, Guardrails & Policies, Evaluierung/Regressionstests, Kosten- & Qualitäts-Monitoring)
• Containerisierung und Deployment von AI-Services mit Docker und Kubernetes
• Skalierung und Optimierung von GPU- und CPU-Workloads
• Entwicklung stabiler AI-APIs und Services für interne Anwendungen
• Aufbau von Monitoring, Logging und Observability für AI-Systeme
• Automatisierung von Infrastruktur-, Plattform- und Model-Releases (CI/CD, GitOps, Infrastructure-as-Code) inkl. sicherer Rollouts, Rollbacks und Standardisierung von Deployments
• Analyse und Optimierung von Performance, Skalierung und Stabilität 

Ihr Profil 

• Abgeschlossenes Studium der Wirtschaftsinformatik, Informatik, Data Science oder eine vergleichbare Qualifikation

• Erfahrung im Aufbau oder Betrieb von Cloud-, Plattform- oder Infrastruktur-Systemen 

• Gute Kenntnisse in Kubernetes und Container-Technologien 

• Erfahrung mit Microservices, APIs und verteilten Systemen 

• Erfahrung in MLOps/LLMOps (Model-/Prompt-Lifecycle, Serving, Evaluierung, Monitoring) sowie an produktiven AI-Systemen 

• Erfahrung mit DevOps-Praktiken wie CI/CD, GitOps, Infrastructure-as-Code und Betriebs-/Release-Prozessen von Vorteil 

• Erfahrung mit GPU-Workloads oder High-Performance-Systemen von Vorteil 

• Strukturierte, selbstständige Arbeitsweise und Freude daran, komplexe Systeme zu betreiben und zu verbessern 

• Kommunikations- und Moderationsstärke im Austausch mit Fachbereichen und IT 

• Gute Deutsch- und Englischkenntnisse