Senior GenAI Engineer

Project overview

Description

Für unseren Kunden im Finanzumfeld suchen wir einen erfahrenen Senior GenAI Engineer mit Schwerpunkt Generative AI und Retrieval-Augmented Generation (RAG). Du entwickelst produktive RAG-Anwendungen weiter, realisierst neue Use Cases von der technischen Konzeption bis zum Betrieb und unterstützt den Aufbau einer GenAI-Plattform.

• Entwicklung, Implementierung und Evaluation robuster, produktionsreifer GenAI-Lösungen mit Schwerpunkt RAG.
• Laufende Weiterentwicklung und Optimierung bestehender RAG-Anwendungen sowie Umsetzung neuer AI Use Cases, Patterns und Self-Service-Funktionen.
• Aufbau und Wartung skalierbarer Datenpipelines und APIs für GenAI-Anwendungen, Inferenz und die Echtzeit-Integration in Unternehmenssysteme.
• Mitgestaltung der GenAI-Plattform, um neue Use Cases effizient umzusetzen.
• Umsetzung von CI/CD-Pipelines, automatisierten Tests und Deployments sowie kontinuierlicher Validierung von GenAI-Lösungen.
• Überwachung und Optimierung produktiver Anwendungen hinsichtlich Zuverlässigkeit, Skalierbarkeit und fachlichem Nutzen.
• Enge Zusammenarbeit mit Cloud Engineers, Business Engineers, Data Scientists, weiteren DevOps-Teams und Fachbereichen, um Prototypen in betriebsfähige Lösungen zu überführen.

Requirements

• Tiefgehendes Verständnis von GenAI-Technologien, insbesondere RAG, sowie praktische Erfahrung im Prompt- und Context-Engineering.
• Vertrautheit mit Frameworks und Tools wie LangChain und Langfuse.
• Fundierte Kenntnisse in Cloud-Plattformen, idealerweise Microsoft Azure mit App Service, Container Apps, Azure AI Foundry und Azure AI Search; Erfahrung mit vergleichbaren Cloud-Plattformen ist ebenfalls relevant.
• Solide Erfahrung mit CI/CD-Pipelines und der API-Entwicklung zur Integration von Modellen.
• Praktische Kenntnisse in LLM-Tracing, LLMOps und der Evaluation von GenAI-Anwendungen.
• Fundierte Programmierkenntnisse in Python sowie Erfahrung mit Scripting-Sprachen wie Bash oder PowerShell.
• Erfahrung mit Testautomatisierung, automatisierten Deployments und iterativer Validierung von GenAI-Lösungen.
• Kenntnisse in Java, Spring und Spring AI sind von Vorteil.