Required skills
- AI Engineering
- AI Agents
- Databricks
- Azure
- Python
- Large Language Models (LLMs)
- RAG (Retrieval-Augmented Generation)
- Tool Calling
- Orchestration
- API Integration
- GitLab CI/CD
- Terraform
- MLflow
- Unity Catalog
- Azure OpenAI
- Mosaic AI
Languages: German
Job description
Project overview
Einleitung
Über das Projekt Für einen renommierten Kunden aus der Telekommunikationsbranche suchen wir einen erfahrenen AI Engineer (m/w/d). In einem agilen Scrum-Team entwickeln und betreiben Sie produktive KI-Agenten und verknüpfen Large Language Models nahtlos mit Unternehmensdaten und internen Systemen.
Ihre Aufgaben
Unsere Anforderungen
Wünschenswerte Qualifikationen
Kenntnisse im Model Context Protocol (MCP), Multi-Agent-Kommunikation, strukturierten Ausgaben und Human-in-the-Loop.
Erfahrung mit FastAPI, Docker und Kubernetes für containerisierte Services.
Praxis in der Datenaufbereitung mit Spark, SQL, Delta Lake und Databricks Workflows.
- Rahmenbedingungen
- Zeitraum: Ab sofort bis 31.12.2027 (langfristige Zusammenarbeit gewünscht)
- Auslastung: Vollzeit
- Einsatzort: Köln (Rheinauhafen) | Remote: Bis zu 50 % (ca. 1–2 Tage/Woche vor Ort)
- AI- & Agent-Entwicklung: Konzeption und Umsetzung produktiver Single- und Multi-Agent-Workflows (RAG, Tool Calling, Orchestrierung, State-Management) sowie Python-basierter Agent-Services und APIs.
- Plattform & Integration: Einbindung von Azure OpenAI und weiteren Foundation Models in Databricks (Mosaic AI, Model Serving, Vector Search, Workflows) sowie bestehende Backend-Landschaften.
- Deployment & LLMOps: Automatisierte Bereitstellung via GitLab CI/CD und Terraform sowie Aufbau von Tracing, Monitoring und Evaluationen (Qualität, Groundedness, Latenz, Kosten) mit MLflow.
- Security & Governance: Etablierung von Guardrails, Human-in-the-Loop-Prozessen und Sicherheitskonzepten (Unity Catalog, Key Vault, Managed Identities, RBAC, Private Endpoints).
- Kollaboration & Dokumentation: Enge Zusammenarbeit mit Product Ownern, Fachbereichen, Security- und Data-Teams sowie Dokumentation von Architektur, Datenflüssen und Runbooks.
- Erfahrung: Mehrjährige Praxis als AI-, ML- oder Software Engineer mit Fokus auf produktive LLM- und Agent-Lösungen (RAG, Tool Calling, Orchestrierung).
- Software & Frameworks: Sehr gute Kenntnisse in Python, API-Integration und automatisierten Tests sowie Erfahrung mit Agent-Frameworks (z. B. LangGraph, LangChain, Semantic Kernel).
- Databricks: Fundierte Praxis mit Mosaic AI, Model Serving, MLflow, Vector Search und Unity Catalog.
- Microsoft Azure: Gute Kenntnisse in Azure OpenAI, Managed Identities, Key Vault, Storage und Networking.
- DevOps & IaC: Praktische Erfahrung mit GitLab CI/CD und Terraform für reproduzierbare Cloud-Deployments.
- LLMOps & AI Security: Solides Verständnis von Agent Evaluation, Observability, Datenschutz, Governance und Guardrails.
Indexed by 9am's meta-search. You are a job provider? Claim or manage this listing
Found on FreelancerMap DE