Senior Azure DevOps Engineer – GenAI / LLMOps

Project overview

Description

Für unseren Kunden aus dem Finanzdienstleistungsumfeld suchen wir einen erfahrenen Azure DevOps Engineer für den Aufbau, Betrieb und die Weiterentwicklung einer unternehmensweiten Generative-AI-Plattform.

• Aufbau und Betrieb einer skalierbaren GenAI-Plattform auf Microsoft Azure
• Konfiguration und Verwaltung von Azure-Diensten wie API Management, AKS, Azure OpenAI, AI Search, Document Intelligence und Azure AI Foundry
• Automatisierung der Infrastruktur mittels Terraform, Helm und GitLab
• Aufbau und Optimierung von CI/CD-Pipelines für GenAI-Anwendungen (LLMOps)
• Implementierung von Monitoring, Logging und Alerting mit Grafana, Prometheus und Azure Monitor
• Integration und Betrieb Kubernetes-basierter Komponenten wie Langfuse
• Entwicklung technischer Konzepte unter Berücksichtigung von Security-, Architektur- und Compliance-Anforderungen
• Unterstützung der Anbindung neuer Applikationen an die GenAI-Plattform
• Entwicklung von Komponenten für Authentisierung, Routing, Monitoring und Guardrails
• Analyse und Behebung technischer Probleme im produktiven Betrieb

Requirements

• Mehrjährige Erfahrung als DevOps Engineer im Azure-Cloud-Umfeld
• Fundierte Kenntnisse in Git, GitLab, Docker und Terraform
• Tiefgehende Erfahrung mit Azure API Management, AKS, Azure Functions, Azure OpenAI, AI Search, Document Intelligence, Azure AI Foundry und Storage Accounts
• Erfahrung mit Monitoring-, Logging- und Alerting-Lösungen wie Prometheus, Grafana oder Azure Monitor
• Gute Kenntnisse von Infrastructure as Code und CI/CD-Automatisierung
• Erfahrung mit GenAI, RAG, Agentic AI oder LLMOps (von Vorteil)
• Kenntnisse von Azure Entra ID, RBAC und OAuth (von Vorteil)
• Erfahrung mit Kubernetes, Helm und Langfuse (von Vorteil)
• Programmierkenntnisse in Python und/oder Java (von Vorteil)
• Erfahrung in der Konzeption und Abstimmung von Cloud-Architekturen mit Security-Teams (von Vorteil)
• Deutsch C2 und Englisch C1 (von Vorteil)