Required skills
- AI Engineering
- ML Engineering
- Software Engineering
- LLM Applications
- AI Agents
- RAG
- Tool Calling
- Agent Orchestration
- Python
- API Development
- Databricks
- Azure
- MLflow
- Mosaic AI
- Model Serving
- Vector Search
- Azure OpenAI
- LangGraph
- LangChain
- Semantic Kernel
- GitLab CI/CD
- Terraform
- LLMOps
- Agent Evaluation
- Observability
- AI Security
- Data Protection
- Governance
- Guardrails
Languages: German
Job description
Für unseren Kunden aus dem Telekommunikationsumfeld suchen wir einen erfahrenen Senior AI Engineer – Databricks & Azure (m/w/d), der moderne AI-Agent-Lösungen auf Basis von Large Language Models produktiv entwickelt und betreibt. Der Fokus liegt auf der Konzeption, Umsetzung und Skalierung intelligenter Agentensysteme innerhalb einer Azure- und Databricks-ba
Project overview
Für unseren Kunden aus dem Telekommunikationsumfeld suchen wir einen erfahrenen Senior AI Engineer – Databricks & Azure (m/w/d), der moderne AI-Agent-Lösungen auf Basis von Large Language Models produktiv entwickelt und betreibt. Der Fokus liegt auf der Konzeption, Umsetzung und Skalierung intelligenter Agentensysteme innerhalb einer Azure- und Databricks-basierten Enterprise-Umgebung.
Responsibilities
- Entwicklung und Betrieb produktiver AI-Agent-Lösungen auf Databricks und Azure
- Konzeption und Entwicklung von AI Agents sowie Multi-Agent-Workflows unter Einsatz von LLMs, Unternehmensdaten und APIs
- Umsetzung von RAG-Architekturen, Tool Calling und Agent-Orchestrierung
- Entwicklung Python-basierter Agent-Services und APIs
- Nutzung von Databricks Mosaic AI, MLflow, Model Serving und Vector Search
- Automatisierung von Deployments und Infrastruktur mittels GitLab CI/CD und Terraform
- Aufbau von Evaluation-, Monitoring-, Tracing- und Guardrail-Konzepten
- Umsetzung von Security-, Governance- und Berechtigungskonzepten
- Enge Zusammenarbeit mit Product Ownern, Fachbereichen sowie Data-, Backend-, Cloud-, Security- und Privacy-Teams
- Erstellung und Pflege technischer Dokumentationen, Architekturkonzepte sowie Betriebsprozesse
Requirements
- Mehrjährige Berufserfahrung als AI Engineer, ML Engineer, Software Engineer oder in einer vergleichbaren Rolle
- Tiefgehende praktische Erfahrung mit LLM-Anwendungen und AI Agents, insbesondere in den Bereichen RAG, Tool Calling und Agent-Orchestrierung
- Sehr gute Kenntnisse in Python sowie Erfahrung in der Entwicklung von APIs, Tests und modularen Softwarearchitekturen
- Fundierte Expertise in Databricks und Azure, insbesondere mit MLflow, Mosaic AI, Model Serving, Vector Search und Azure OpenAI
- Erfahrung mit LangGraph, LangChain oder Semantic Kernel
- Praktische Kenntnisse in GitLab CI/CD und Terraform
- Erfahrung im Bereich LLMOps, Agent Evaluation und Observability
- Kenntnisse zu AI Security, Datenschutz, Governance und Guardrails
- Nachweisbare Erfahrung in der produktiven, stabilen und skalierbaren Umsetzung von AI-Lösungen
Nice to have
Wir freuen uns auf Ihr aktuelles Profil unter Angabe Ihres Stundensatzes und Ihrer Verfügbarkeit.
- Kenntnisse im Bereich MCP (Model Context Protocol) sowie Multi-Agent- und Agent-to-Agent-Kommunikation
- Erfahrung mit FastAPI, Docker und Kubernetes
- Kenntnisse in Spark, SQL, Delta Lake und Databricks Workflows
- Erfahrung mit Human-in-the-Loop-Konzepten und kontrollierten Rollouts
- Projekterfahrung in regulierten oder datenschutzsensiblen Unternehmensumfeldern
Project details
Dezember 2026
Dauer: 12 Monate mit Verlängerungsoption
Köln (50 % Remote möglich)
Indexed by 9am's meta-search. You are a job provider? Claim or manage this listing
Found on FreelancerMap DE