RAG-/Prompt-Engineering (m/w/d) - Produktbilder

Project overview

Ein Sprachmodell ist nur so gut wie das Wissen, das es im richtigen Moment bekommt. Ob ein KI-Assistent eine Lieferzeit korrekt nennt oder sich etwas ausdenkt, entscheidet sich beim Chunking, bei der Suche und im Prompt. Genau hier suchen wir Verstärkung als erfahrene Freelancer/innen, die Retrieval-Augmented Generation nicht nur aus Tutorials kennen, sondern schon produktiv betrieben haben. Die Zusammenarbeit ist 100 % remote, aus Deutschland, Österreich oder der Schweiz, ab 11. November 2026.

Responsibilities

Du konzipierst RAG-Pipelines für Kundenprojekte: Datenquellen anbinden, Dokumente aufbereiten und in sinnvolle Abschnitte teilen, Embeddings und Suche auswählen. Du setzt die Pipelines mit LangChain, LangGraph oder LlamaIndex um, je nachdem, was zum Projekt passt. Du schreibst und versionierst System- und User-Prompts und sorgst dafür, dass Antworten belegbar bleiben und das Modell Wissenslücken offen zugibt. Du baust Testsätze mit typischen Kundenfragen und misst Trefferqualität und Antwortgüte, bevor etwas live geht und nach jeder Änderung.

Du wägst gemeinsam mit uns ab, ob ein Cloud-Modell wie Claude, GPT oder Mistral passt oder ein lokales Modell über Ollama sinnvoller ist.

Requirements

Mehrjährige Erfahrung in der Softwareentwicklung, bevorzugt mit Python, und mindestens ein RAG-System, das du in den Betrieb gebracht hast. Sicherer Umgang mit LangChain oder LlamaIndex sowie mit mindestens einer Vektordatenbank oder Vektorsuche. Ein methodisches Verständnis dafür, wie man die Qualität von Antworten misst, statt sich auf Bauchgefühl zu verlassen. Die Fähigkeit, technische Abwägungen so zu erklären, dass auch Kunden ohne Technikhintergrund sie nachvollziehen können. Sichere Kommunikation auf Deutsch oder Englisch.

Eine eigene Selbstständigkeit oder einen Freiberufler-Status mit Sitz in Deutschland, Österreich oder der Schweiz. Schön, aber kein Muss: Erfahrung mit LangGraph oder Agenten-Frameworks wie CrewAI, mit Hugging Face oder mit dem Betrieb lokaler Modelle.