Geforderte Skills
- AI Engineering
- Machine Learning Engineering
- Software Engineering
- Python
- API Integration
- Automated Testing
- Code Review
- Modular Software Development
- Databricks
- MLflow
- Mosaic AI
- Model Serving
- Vector Search
- Unity Catalog
- Microsoft Azure
- Azure OpenAI
- Managed Identities
- Key Vault
- Storage
- Networking
- AI Agents
- LLMOps
- RAG
- Agent Orchestration
- Tool Calling
- LangGraph
- LangChain
- Semantic Kernel
- GitLab CI/CD
- Terraform
Sprachen: German
Jobbeschreibung
Project overview
Für ein langfristiges Projekt bei einem Telekommunikationsunternehmen in Köln suchen wir einen erfahrenen AI Engineer (m/w/d) mit Schwerpunkt auf der Entwicklung und produktiven Bereitstellung intelligenter AI Agents auf Databricks und Microsoft Azure.
Im Fokus stehen AI Engineering, LLMOps und Cloud Architecture sowie die Entwicklung skalierbarer, sicherer und nachvollziehbarer agentenbasierter Anwendungen zur Integration von Large Language Models, Unternehmensdaten und internen Systemen.
Rahmenbedingungen
Project details
Ab sofort / nach Vereinbarung
Laufzeit: Bis 31.12.2027, langfristige Zusammenarbeit erwünscht
Köln (hybrid, Remote-Anteil nach Absprache bis zu 50 %)
Präsenz: Regelmäßige Vor-Ort-Termine in Köln
Projektumfeld: Crossfunktionales Scrum-Team
Ihre Aufgaben
Konzeption, Entwicklung und Betrieb produktiver AI-Agent-Lösungen auf Databricks und Azure – vom Prototyp bis zum skalierbaren Deployment
Entwicklung von KI-Agenten und Multi-Agent-Workflows zur Verbindung von Large Language Models, Unternehmensdaten, APIs und internen Systemen
Implementierung von RAG, Tool Calling und Agent-Orchestrierung sowie wiederverwendbaren Tools, Prompts und Zustands- und Kontextkomponenten
Integration von Azure OpenAI und weiteren Foundation Models in Databricks sowie bestehende Applikations- und Datenlandschaften
Entwicklung Python-basierter Agent-Services und APIs sowie Integration in Backend- und Cloud-Architekturen
Einsatz von Databricks Mosaic AI, Model Serving und MLflow für Versionierung, Evaluation, Deployment und Monitoring
Implementierung von Vector Search, Embeddings und Retrieval-Pipelines für den kontrollierten Zugriff auf Unternehmensdaten
Orchestrierung von Agenten-, Daten- und Automatisierungsprozessen mit Databricks Workflows
Automatisierung von Deployments mit GitLab CI/CD und Terraform einschließlich Tests und reproduzierbarer Umgebungen
Entwicklung von Evaluationen, Tracing und Monitoring für Antwortqualität, Groundedness, Sicherheit, Latenz, Kosten und Zuverlässigkeit
Implementierung von Guardrails, Berechtigungskonzepten und Human-in-the-Loop-Prozessen
Sicherstellung von Security und Governance mit Unity Catalog, Managed Identities, Key Vault, RBAC, Private Endpoints und Logging
Zusammenarbeit mit Product Owner, Fachbereichen, Data-, Backend- und Cloud-Teams sowie Security und Privacy
Dokumentation von Agentenlogik, Schnittstellen, Datenflüssen, Architektur, Evaluationsverfahren und Runbooks
Ihr Profil – Erforderliche Qualifikationen
Mehrjährige Erfahrung als AI Engineer, Machine Learning Engineer, Software Engineer oder in einer vergleichbaren technischen Rolle
Praktische Erfahrung mit LLM-Anwendungen und AI Agents, idealerweise mit RAG, Agent-Orchestrierung, Tool Calling und produktivem Deployment
Sehr gute Python-Kenntnisse sowie Erfahrung mit API-Integration, automatisierten Tests, Code Reviews und modularer Softwareentwicklung
Fundierte Databricks-Erfahrung, beispielsweise mit MLflow, Mosaic AI, Model Serving, Vector Search und Unity Catalog
Gute Azure-Kenntnisse, insbesondere Azure OpenAI, Managed Identities, Key Vault, Storage und Networking
Erfahrung mit Agenten- und LLM-Frameworks wie LangGraph, LangChain oder Semantic Kernel sowie zustandsbehafteten Workflows
Praktische Erfahrung mit GitLab CI/CD für Testing, Versionierung und automatisierte Bereitstellung
Praktische Erfahrung mit Terraform (Infrastructure as Code) für Azure- und Databricks-Ressourcen
Solides Verständnis von LLMOps, Agent Evaluation, Observability und systematischer Qualitätskontrolle
Kenntnisse in AI Security, Datenschutz, Governance, Guardrails und sicherem Modellzugriff
Fähigkeit, AI Agents zuverlässig, sicher und skalierbar produktiv bereitzustellen
Wünschenswerte Qualifikationen
Kenntnisse des Model Context Protocol (MCP) sowie Multi-Agent- und Agent-to-Agent-Kommunikation
Erfahrung mit FastAPI, Docker und Kubernetes
Kenntnisse in Spark, SQL, Delta Lake und Databricks Workflows
Erfahrung mit Human-in-the-Loop, strukturierten Ausgaben und kontrollierten Rollouts
Erfahrung in regulierten oder datenschutzsensiblen Unternehmensumfeldern
Projektumfeld
Sie arbeiten in einem crossfunktionalen Scrum-Team mit gemeinsamer End-to-End-Verantwortung von der Architektur über die Entwicklung bis zum produktiven Betrieb. Das Umfeld bietet Möglichkeiten zur Mitgestaltung von Plattform-, Architektur- und Governance-Entscheidungen sowie zur Erprobung und Einführung neuer AI-Technologien.
Rahmenbedingungen
Indexiert von der 9am-Meta-Suche. Du bist Job-Anbieter? Listing beanspruchen oder verwalten
Gefunden auf FreelancerMap DE