Skip to content
freelancermapOpen

AI Engineer – AI Agents & Deployment auf Databricks und Azure (m/w/d)

actcon GmbH · Köln, Deutschland, Germany · Hybrid · Senior

  • Köln, Deutschland, Germany · Hybrid
  • 13 Monate
  • German

Indexed (3 days ago) · refreshed constantly

Start
ab sofort
Duration
13 Monate
Work mode
Hybrid
Contract
Freelance / B2B
Seniority
Senior
Reference
3073644

Required skills

Nice to have:Model Context Protocol (MCP)Multi-agent CommunicationAgent-to-Agent CommunicationFastAPIDockerKubernetesApache SparkSQLDelta LakeDatabricks WorkflowsHuman-in-the-LoopStructured OutputsControlled Rollouts

Languages: German

Job description

Project overview

Für ein langfristiges Projekt bei einem Telekommunikationsunternehmen in Köln suchen wir einen erfahrenen AI Engineer (m/w/d) mit Schwerpunkt auf der Entwicklung und produktiven Bereitstellung intelligenter AI Agents auf Databricks und Microsoft Azure.

Im Fokus stehen AI Engineering, LLMOps und Cloud Architecture sowie die Entwicklung skalierbarer, sicherer und nachvollziehbarer agentenbasierter Anwendungen zur Integration von Large Language Models, Unternehmensdaten und internen Systemen.

Rahmenbedingungen

Project details

Ab sofort / nach Vereinbarung

Laufzeit: Bis 31.12.2027, langfristige Zusammenarbeit erwünscht

Köln (hybrid, Remote-Anteil nach Absprache bis zu 50 %)

Präsenz: Regelmäßige Vor-Ort-Termine in Köln

Projektumfeld: Crossfunktionales Scrum-Team

Ihre Aufgaben

Konzeption, Entwicklung und Betrieb produktiver AI-Agent-Lösungen auf Databricks und Azure – vom Prototyp bis zum skalierbaren Deployment

Entwicklung von KI-Agenten und Multi-Agent-Workflows zur Verbindung von Large Language Models, Unternehmensdaten, APIs und internen Systemen

Implementierung von RAG, Tool Calling und Agent-Orchestrierung sowie wiederverwendbaren Tools, Prompts und Zustands- und Kontextkomponenten

Integration von Azure OpenAI und weiteren Foundation Models in Databricks sowie bestehende Applikations- und Datenlandschaften

Entwicklung Python-basierter Agent-Services und APIs sowie Integration in Backend- und Cloud-Architekturen

Einsatz von Databricks Mosaic AI, Model Serving und MLflow für Versionierung, Evaluation, Deployment und Monitoring

Implementierung von Vector Search, Embeddings und Retrieval-Pipelines für den kontrollierten Zugriff auf Unternehmensdaten

Orchestrierung von Agenten-, Daten- und Automatisierungsprozessen mit Databricks Workflows

Automatisierung von Deployments mit GitLab CI/CD und Terraform einschließlich Tests und reproduzierbarer Umgebungen

Entwicklung von Evaluationen, Tracing und Monitoring für Antwortqualität, Groundedness, Sicherheit, Latenz, Kosten und Zuverlässigkeit

Implementierung von Guardrails, Berechtigungskonzepten und Human-in-the-Loop-Prozessen

Sicherstellung von Security und Governance mit Unity Catalog, Managed Identities, Key Vault, RBAC, Private Endpoints und Logging

Zusammenarbeit mit Product Owner, Fachbereichen, Data-, Backend- und Cloud-Teams sowie Security und Privacy

Dokumentation von Agentenlogik, Schnittstellen, Datenflüssen, Architektur, Evaluationsverfahren und Runbooks

Ihr Profil – Erforderliche Qualifikationen

Mehrjährige Erfahrung als AI Engineer, Machine Learning Engineer, Software Engineer oder in einer vergleichbaren technischen Rolle

Praktische Erfahrung mit LLM-Anwendungen und AI Agents, idealerweise mit RAG, Agent-Orchestrierung, Tool Calling und produktivem Deployment

Sehr gute Python-Kenntnisse sowie Erfahrung mit API-Integration, automatisierten Tests, Code Reviews und modularer Softwareentwicklung

Fundierte Databricks-Erfahrung, beispielsweise mit MLflow, Mosaic AI, Model Serving, Vector Search und Unity Catalog

Gute Azure-Kenntnisse, insbesondere Azure OpenAI, Managed Identities, Key Vault, Storage und Networking

Erfahrung mit Agenten- und LLM-Frameworks wie LangGraph, LangChain oder Semantic Kernel sowie zustandsbehafteten Workflows

Praktische Erfahrung mit GitLab CI/CD für Testing, Versionierung und automatisierte Bereitstellung

Praktische Erfahrung mit Terraform (Infrastructure as Code) für Azure- und Databricks-Ressourcen

Solides Verständnis von LLMOps, Agent Evaluation, Observability und systematischer Qualitätskontrolle

Kenntnisse in AI Security, Datenschutz, Governance, Guardrails und sicherem Modellzugriff

Fähigkeit, AI Agents zuverlässig, sicher und skalierbar produktiv bereitzustellen

Wünschenswerte Qualifikationen

Kenntnisse des Model Context Protocol (MCP) sowie Multi-Agent- und Agent-to-Agent-Kommunikation

Erfahrung mit FastAPI, Docker und Kubernetes

Kenntnisse in Spark, SQL, Delta Lake und Databricks Workflows

Erfahrung mit Human-in-the-Loop, strukturierten Ausgaben und kontrollierten Rollouts

Erfahrung in regulierten oder datenschutzsensiblen Unternehmensumfeldern

Projektumfeld

Sie arbeiten in einem crossfunktionalen Scrum-Team mit gemeinsamer End-to-End-Verantwortung von der Architektur über die Entwicklung bis zum produktiven Betrieb. Das Umfeld bietet Möglichkeiten zur Mitgestaltung von Plattform-, Architektur- und Governance-Entscheidungen sowie zur Erprobung und Einführung neuer AI-Technologien.

Rahmenbedingungen

Indexed by 9am's meta-search. You are a job provider? Claim or manage this listing

Found on FreelancerMap DE

  1. Job boardNew

    Lead Engineer Eagle Eye

    Harvey Nash Netherlands· Den Bosch, Noord-Brabant, Netherlands· Hybrid· SENIOR

    • Software Development
    • Architecture
    • Data Observability
    • +9

  2. JobServeNew

    AI Forward Engineer

    William Alexander Recruitment Ltd· Greater London, UK· Hybrid· Senior· £88–100 / h

    • AI Application Development
    • Software Engineering
    • AI System Integration
    • +1

  3. Job boardNew

    AI Agent Engineer

    Be in IT to butikowa firma rekrutacyjna IT.· Wrocław, Śródmieście, Poland· Hybrid· SENIOR· zł 70–90 / h

    • Software Engineering
    • Python
    • AI
    • +9

Browse all jobs
Sign up free to apply