Experte für Kubernetes | DevOps | NVIDIA GPUs | Kong | max. 90€ all in (m/w/d)

Project overview

-

Für unseren Kunden suchen wir aktuell eine/n

Experte für Kubernetes | DevOps | NVIDIA GPUs | Kong | max. 90€ all in (m/w/d)

Rahmeninformationen

Referenz:180526

Project details

Düsseldorf, Kaarst (20%) | Remote (80%)

Starttermin:02.11.2026

Arbeitszeit:Vollzeit

Dauer:bis 31.12.2026 + Verlängerung Jahresweise

Sprachen:Deutsch

Ihre Qualifikationen

Ihre Aufgaben

Interessiert?

Wir freuen uns auf Ihre aussagekräftigen Bewerbungsunterlagen in elektronischer Form.

Ihr Ansprechpartner:

Hr. Jesse Lüder | #gerneperdu

*@*.com

*

• Erfahrung mit Kubernetes – Schwerpunkt der Tätigkeit, insbesondere im Aufbau, Betrieb und der Administration von Kubernetes-Clustern
• Erfahrung mit GPU-Infrastrukturen, idealerweise mit NVIDIA GPUs, einschließlich CUDA, cuDNN und Multi-GPU-Scheduling
• Kenntnisse im Umgang mit API-Managern, z. B. Kong
• Erfahrung mit Model Serving, z. B. mit dem NVIDIA Triton Inference Server
• Kenntnisse im Bereich Service Mesh, idealerweise mit Istio
• Erfahrung mit API-Security, insbesondere Rate Limiting und Audit Logging
• Kenntnisse im Bereich Model Monitoring und Observability, insbesondere mit Grafana zur Erstellung von Dashboards
• Erfahrung mit Workflow-Orchestrierung im ML-Umfeld, z. B. mit MLflow
• Kenntnisse im Betrieb und in der Administration von Keycloak und cert-manager
• Aufbau und Optimierung einer skalierbaren NVIDIA GPU-Infrastruktur inklusive CUDA- und CuDNN-Konfiguration sowie Multi-GPU Scheduling für parallele KI-Workloads.
• Implementierung und Verwaltung eines API-Managers (z. B. Kong) zur zentralen Steuerung und Absicherung von Microservice-Schnittstellen.
• Einrichtung eines Model Serving Frameworks (z. B. Triton Inference Server) zur performanten Bereitstellung und Versionierung von KI-Modellen.
• Containerisierung und Orchestrierung von KI-Services mit Kubernetes, inklusive Deployment-Strategien, Skalierung und Cluster-Monitoring.
• Integration eines Service Mesh (z. B. Istio) zur Umsetzung von Traffic Management, Service Discovery und Zero-Trust-Kommunikation.
• Implementierung von API-Security-Mechanismen wie Rate-Limiting, Authentifizierung, Autorisierung und Audit Logging.
• Aufbau eines Model-Monitoring-Systems mit Grafana und Prometheus zur Überwachung von Modellleistung und Systemmetriken.
• Einführung einer Workflow-Orchestrierungslösung (z. B. MLFlow) zur Verwaltung von Trainings-, Validierungs- und Deployment-Pipelines.
• Administration von Betriebskomponenten wie Keycloak (Identity & Access Management) und cert-manager (TLS-Zertifikatsverwaltung) zur Sicherstellung des produktiven Betriebs.