Skip to content
Job boardOpen

Senior AI Engineer (m/w/d)

Confidential · Germany · Remote · SENIOR

  • Germany · Remote
  • German

Indexed (yesterday) · refreshed constantly

Start
flexible
Work mode
Remote
Contract
Freelance / B2B
Seniority
SENIOR
Reference
52001

Required skills

Nice to have:PydanticTypeScriptReactGrafanaPrometheuspytestSonarQubeScrumKanbanSelf-hosted LLMData Sovereignty

Languages: German

Job description

Konzeption, Entwicklung und Betrieb produktionsreifer LLM- und GenAI-Anwendungen mit Python in der Rolle als Senior AI Engineer und Architekt. Entwicklung von Enterprise-RAG-Systemen mit hybrider Suche (BM25 und Embeddings), Cross-Encoder-Reranking und quellenbasierten Antworten mit Zitaten. Konzeption und Entwicklung agentenbasierter, mehrstufiger Workflows

Project overview

Konzeption, Entwicklung und Betrieb produktionsreifer LLM- und GenAI-Anwendungen mit Python in der Rolle als Senior AI Engineer und Architekt. Entwicklung von Enterprise-RAG-Systemen mit hybrider Suche (BM25 und Embeddings), Cross-Encoder-Reranking und quellenbasierten Antworten mit Zitaten. Konzeption und Entwicklung agentenbasierter, mehrstufiger Workflows mit LangChain/LangGraph und MCP, einschließlich dauerhafter Workflow-Ausführung (Restate) sowie deterministischer Fehlerbehandlungs- und Wiederherstellungsmechanismen.

Implementierung strukturierter Ausgaben und Sicherheitsmechanismen (Guardrails) mit Pydantic, Circuit Breakern, Wiederholungsversuchen (Retries) und Dead-Letter-Queues zur Sicherstellung der Robustheit. Aufbau von LLMOps und Qualitätssicherungsprozessen mit automatisierten Regressions- und Evaluierungssuiten (LangFuse Golden Datasets, Latenz-Baselines) als Freigabekriterien für Deployments sowie LLM-Tracing, Monitoring und Observability (Grafana, Loki, Prometheus).

Entwicklung von Backends mit FastAPI und PostgreSQL/pgvector sowie Bereitstellung containerisierter Services auf AWS mit Docker, Terraform und CI/CD-Pipelines. Sicherstellung der langfristigen Wartbarkeit durch Clean Architecture, klare Modulgrenzen, statische Codeanalysen und automatisierte Qualitätsprüfungen, auch für KI-generierten Code. Eigenständige und Remote-First-Arbeitsweise, Beratung von Stakeholdern sowie Dokumentation von Architekturentscheidungen.

Requirements

Nachgewiesene Berufserfahrung als Senior AI Engineer oder Architekt in der Python-basierten Entwicklung von LLM- und GenAI-Anwendungen, einschließlich RAG (hybride Suche, Reranking, Vektordatenbanken), Prompt Engineering und agentenbasierter Workflows mit LangChain/LangGraph und MCP. Sehr gute Kenntnisse in der Backend- und API-Entwicklung (FastAPI, REST/GraphQL, PostgreSQL/pgvector, Pydantic, SQLAlchemy) sowie fundierte Kenntnisse in TypeScript/React. Praktische Erfahrung mit LLMOps und Evaluierung (LangFuse, Regressionstests, Golden Datasets) sowie Monitoring und Observability (Grafana, Loki, Prometheus).

Praktische Erfahrung mit DevOps-Technologien und -Prozessen, insbesondere AWS, Docker, Terraform, Linux und CI/CD, sowie Softwaretests (pytest, Integrations-, E2E-, Performance- und Sicherheitstests). Fundierte Kenntnisse in Softwarearchitektur (C4, UML, Design Patterns), Clean Code, statischer Codeanalyse (SonarQube) sowie Datenarchitektur und Data Governance. Erfahrung mit agilen Methoden (Scrum, Kanban). Erfahrung mit selbst gehosteten LLMs und Anforderungen an die Datensouveränität ist von Vorteil.

Remote, ab sofort bis 31.03.2027.

Indexed by 9am's meta-search. You are a job provider? Claim or manage this listing

Found on interlance.de

  1. Job boardNew

    IT Business Analyst

    Confidential· Warsaw, Poland· Hybrid· Senior

    • Requirements Engineering
    • SQL
    • Scrum
    • +6

  2. Job boardNew

    QA/Data Quality Engineer

    Primaris Services Sp. z o.o.· Warszawa, Warszawa, Poland· Remote· Senior· zł 110–125 / h

    • SQL
    • Python
    • Data Testing
    • +9

Browse all jobs
Sign up free to apply