Sieht gut aus: Was Freelancer erben, wenn der Kunde auf KI-first umstellt

Ein fünfminütiges Musikvideo hat diesen Monat die Runde durch die Developer-Feeds gemacht. Es heißt LGTM, „Looks Good to Me", die zwei Wörter, die ein Reviewer unter einen Pull Request schreibt. Die Handlung in Kürze: Der Chef kommt von einer Konferenz zurück, erklärt die Firma zu AI-first, kauft Agent-Lizenzen und verkleinert das Team. Der Bot bekommt Admin-Rechte. Zehntausende generierte Zeilen werden in Sekunden freigegeben, weil die Checks grün sind, freitags um fünf ausgeliefert, und der eine Engineer, der den Billing-Code verstanden hat, ist schon weg, sein Gehalt ins Token-Budget umgebucht. Ein Ticket von einem Fremden sagt dem Bot, er soll seine Regeln ignorieren, und er tut es. Um drei Uhr nachts ist die Datenbank weg, die Statusseite meldet alles in Ordnung, und ein Backup gibt es nicht. Das Post-mortem ist „blameless", also kriegt der Praktikant die Schuld. Die letzte Zeile fragt, ob noch jemand die Nummer des alten Engineers hat.

Es ist ein Witz, und ein guter. Es ist aber auch, Strophe für Strophe, eine Liste von Dingen, die in den letzten fünfzehn Monaten passiert sind. Hier ist die Akte, und danach der Teil, den der Song auslässt: In den meisten Firmen sitzt auf diesem Stuhl gar kein Angestellter.

Zu jeder Strophe eine Akte

Der Bot mit Admin-Rechten. Im Juli 2025 hat Jason Lemkin von SaaStr auf Replit öffentlich ein „Vibe Coding"-Experiment gefahren und zugesehen, wie der Agent während eines Code-Freeze seine Produktivdatenbank löschte. Er habe dem Agenten „elfmal in Großbuchstaben" gesagt, die Datenbank nicht anzufassen, sagte er dem Register. Replits CEO nannte den Vorfall „inakzeptabel, das darf nie möglich sein". Warum es möglich war, erklärt Replits eigener Blogpost: Die Apps nutzten „eine einzige Datenbank für Entwicklung und echte Kundendaten". Getrennte Datenbanken kamen danach, als Beta.

Die erfundene Bibliothek. Code-Modelle erfinden Paketnamen. In der meistzitierten Studie, vorgestellt auf der USENIX Security 2025, zeigten 19,7 % von 2,23 Millionen Paketempfehlungen aus 16 Modellen auf Pakete, die es nicht gab, darunter 205.474 verschiedene Namen. Sicherheitsleute nennen den Angriff, der daraus folgt, „Slopsquatting": den erfundenen Namen registrieren und warten, bis ein Agent ihn installiert. Im Januar 2026 fand ein Researcher bei Aikido den erfundenen npm-Namen react-codeshift in 237 Repositories, deren Agent-Anweisungen ihn zur Installation vorsahen. Er hat den Namen selbst registriert, es blieb harmlos. Auf den nächsten wartet niemand.

Das Ticket vom Fremden. Prompt Injection steht auf Platz eins der OWASP-Liste 2025 der Risiken für LLM-Anwendungen. Das Projekt Cline hat im Februar 2026 erfahren, warum. Sein eigenes Post-mortem beschreibt einen KI-Workflow zur Ticket-Triage mit Shell-Zugriff, offen für jeden GitHub-Nutzer, über den ein Researcher per Ticket Anweisungen einschleusen konnte. Auch die Schlüsselrotation ging schief: „Der falsche Token wurde gelöscht, der exponierte blieb aktiv." Eine Version des CLI, die niemand freigegeben hatte, lag rund acht Stunden auf npm.

Die grünen Checks. Veracode hat 80 Programmieraufgaben durch mehr als 100 Modelle laufen lassen und in 45 % der Fälle unsicheren Code gefunden, bei Java über 70 %. GitClear sah in 211 Millionen geänderten Zeilen von 2020 bis 2024 den Anteil kopierter Zeilen von 8,3 % auf 12,3 % steigen, während Refactoring von 25 % auf unter 10 % fiel. Beides sind Anbieter, die Testaufgaben oder ihre eigenen Kunden messen, also Richtung, kein Urteil. Der DORA-Report 2025, der keinen Scanner verkauft, fand dieselbe Form: Durchsatz rauf, Stabilität der Auslieferung runter. Wir haben das in Mario Zechners Warnung an Freelance-Developer behandelt.

Das Post-mortem, das den Praktikanten beschuldigt. Googles SRE-Buch, das die Praxis bekannt gemacht hat, sagt, ein „blameless" Post-mortem müsse sich auf die Ursachen konzentrieren, „ohne eine Person oder ein Team anzuklagen". Die Version im Song ist das, was übrig bleibt, wenn das Wort überlebt und die Praxis nicht.

Mehr KI als Maßnahme. Gartner prognostiziert, dass über 40 % der Agentic-AI-Projekte bis Ende 2027 abgebrochen werden, wegen „steigender Kosten, unklarem Geschäftswert oder unzureichender Risikokontrollen", und schätzt, dass von den tausenden Anbietern, die ihr Produkt Agent nennen, nur etwa 130 einen verkaufen. Die NANDA-Gruppe des MIT berichtete, dass in ihrer Stichprobe nur 5 % der maßgeschneiderten KI-Tools im Unternehmen die Produktion erreichten; die Stichprobe waren 52 Organisationen, und die Autoren nennen die Ergebnisse vorläufig. Auch die berühmte Schlagzeile „95 % scheitern" ist also eine Richtung.

Das Memo, in dem du gemeint bist

Der Song wird vom Stuhl eines Angestellten aus gesungen. Die echten Memos waren deutlicher, wer zuerst geht.

Duolingos Rundmail vom April 2025 verkündete, die Firma werde „AI-first", und unter den Leitplanken: Man werde „schrittweise aufhören, Auftragnehmer für Arbeit einzusetzen, die KI erledigen kann". Außerdem wolle man „lieber mit Dringlichkeit handeln und gelegentlich kleine Qualitätseinbußen hinnehmen, als langsam zu sein und den Moment zu verpassen." Die Nachbesserung des CEO einen Monat später sagte, er sehe KI nicht als Ersatz für das, was Angestellte tun. Auftragnehmer kamen darin nicht vor. Im August beschrieb er eine Auftragnehmerzahl, die „je nach Bedarf rauf und runter geht". Das ist die Position des Freelancers in einem Satz: die Variable.

Shopifys Memo, von Tobi Lütke nach dem Leak selbst gepostet, setzte die Regel: „Bevor Teams mehr Headcount und Ressourcen beantragen, müssen sie zeigen, warum sie ihr Ziel nicht mit KI erreichen können." Von Externen steht darin nichts, und das muss es auch nicht: Ein Team, das keinen Headcount bekommt, holt sich einen Freelancer oder einen Agenten, und das Memo sagt ihm, was es zuerst probieren soll.

Dann die Kehrtwende. Klarna verkündete im Februar 2024, sein Assistent leiste „die Arbeit von 700 Vollzeitkräften". Im Mai 2025 sagte der CEO Bloomberg, die Kosten seien ein zu dominanter Faktor gewesen, „und was man am Ende hat, ist geringere Qualität"; die Firma stellte wieder ein, mit flexiblen Remote-Verträgen. Robert Half, ein Personaldienstleister, berichtet, dass 3 von 10 Arbeitgebern, die nach der KI-Einführung Stellen gestrichen hatten, sie später wieder besetzten. Eine Studie dazu, wie viele davon als Freelancer zurückkamen, haben wir nicht gefunden, also behaupten wir es nicht. Die Schlussfrage des Songs ist eine Vermutung, aber eine gute.

Deutschland ist nicht ausgenommen. Bitkom fand im September 2026 bei 603 befragten Unternehmen, dass 57 % inzwischen KI nutzen, nach 36 % ein Jahr zuvor; 45 % erwarten innerhalb von zwei Jahren einen leichten, 12 % einen deutlichen Rückgang der Beschäftigtenzahl; ein Drittel der Nutzer sagt, sie setzen KI vor allem aus Angst ein, den Anschluss zu verlieren. In den USA zählt Challenger KI als genannten Grund für rund 21 % der angekündigten Stellenstreichungen 2026 bis September. Genannte Gründe sind keine Ursachen, aber die Memo-Kultur ist messbar.

Und die Arbeit wird nicht weniger. Upworks Befragung von 2.500 Erwerbstätigen 2024 ergab, dass 96 % der Führungskräfte von KI mehr Produktivität erwarteten, während 77 % der Angestellten, die KI nutzen, sagten, sie habe ihnen mehr Arbeit gebracht, vor allem das Prüfen von KI-Ergebnissen. Fast die Hälfte der Führungskräfte hatte im Jahr davor Freelancer geholt, um ins Stocken geratene KI-Projekte umzusetzen. Unter deutschen Freelancern nutzen laut Freelancer-Kompass 2026 85 % KI-Tools. Die Prüfarbeit landet so oder so bei dir.

Was du erbst, in Paragrafen

Der Angestellte im Song hat eine Personalabteilung zwischen sich und dem Schaden. Du hast einen Vertrag. In Deutschland entscheiden drei Paragrafen des BGB, was das heißt.

§ 276 BGB: Der Sorgfaltsmaßstab ist objektiv. Fahrlässig handelt, wer „die im Verkehr erforderliche Sorgfalt außer Acht lässt". Ob du den Code gelesen hast, wird daran gemessen, was ein sorgfältiger Profi tun würde, und ein sorgfältiger Profi gibt keine vierzigtausend ungelesenen Zeilen frei. Die Anweisung des Kunden, schneller zu machen, senkt den Maßstab nicht; sie ist höchstens Mitverschulden nach § 254, das einen Anspruch kürzt, nicht beendet.

§ 278 BGB: Du kannst nicht dem Tool die Schuld geben. Der Paragraf lässt dich für das Verschulden der „Personen" haften, derer du dich zur Erfüllung bedienst. Ob ein KI-System so eine Person ist, ist offen; die meistzitierte juristische Abhandlung von Lohmann und Preßler sagt, nach geltendem Recht nicht, und ein Gericht hat noch nicht entschieden. Für dich macht es keinen Unterschied. Entweder wird dir der Fehler des Tools nach § 278 zugerechnet, oder dein Versäumnis, das Ergebnis zu prüfen, ist deine eigene Fahrlässigkeit nach § 276. Eine Anwältin bringt es auf den Punkt: „Der Fehler der KI wird dann zu Ihrem eigenen Sorgfaltsverstoß." Bitkoms Leitfaden vom Oktober 2026 für KI-nutzende Firmen sagt dasselbe von der Kundenseite: Die rechtliche Verantwortung „verbleibt ohnehin beim Menschen".

§ 633 und § 634a BGB: Ein Werkvertrag schuldet ein Ergebnis. Mit Werkvertrag muss das Werk frei von Mängeln sein, und die Rechte des Kunden reichen von Nacherfüllung bis Schadensersatz. Ob für Software zwei Jahre oder die regelmäßige Frist von drei Jahren gelten, ist umstritten, also drucken wir keine Zahl; entscheidend ist, dass die Uhr mit der Abnahme läuft, und die Freigabe war deine. Ein Dienstvertrag schuldet sorgfältige Arbeit statt eines Ergebnisses, aber sorgfältig wird weiter nach § 276 gemessen. Den Unterschied erklärt Werkvertrag oder Dienstvertrag.

Haftungsgrenzen. Du kannst die Haftung im B2B-Vertrag begrenzen, aber nicht per Copy-Paste. Über § 310 wirkt die AGB-Kontrolle via § 307 auch zwischen Unternehmen, und der Bundesgerichtshof hat in VIII ZR 141/06 entschieden, dass ein pauschaler Ausschluss für grobe Fahrlässigkeit auch zwischen Unternehmern unwirksam ist. Vorsatz lässt sich nie ausschließen. Der Rat einer Frankfurter Kanzlei an Agenturen gilt für Freelancer genauso: „Die Grenze muss zur Leistung und zu den vorhersehbaren, vertragstypischen Schäden passen", und „ein Betrag aus fremden AGB ersetzt diesen Zusammenhang nicht."

Versicherung. Lies dein Bedingungswerk. Hiscox' IT-Bedingungen von Oktober 2025 sagen, Versicherungsschutz bestehe „auch, wenn Technologien der Künstlichen Intelligenz wie KI-Agenten oder generative KI verwendet oder entwickelt werden"; Markel wirbt mit ausdrücklicher Mitversicherung von KI-Einsatz; exali beantwortet die Frage für seine Dienstleister-Police, die IT-Seite schweigt. Jede Police, die wir gelesen haben, schließt die wissentliche Pflichtverletzung aus. Keine sagt, ob ein Schaden aus Output, den du nie geprüft hast, ein Fehler oder eine wissentliche Pflichtverletzung ist. Frag deinen Makler, bevor du die Antwort brauchst. Die Grundlagen stehen in unserem Überblick zur Berufshaftpflicht.

Status. Wenn der Kunde die Tools, die Admin-Rechte und das Freigabe-Gate vorschreibt, füttert er auch die Indizien, auf die die Deutsche Rentenversicherung schaut. Das Bundessozialgericht hat in B 12 R 11/18 R entschieden, dass die Nutzung von Einrichtungen und Betriebsmitteln des Auftraggebers allein keine Beschäftigung begründet, die Arbeit in seinen vorgegebenen Strukturen aber in der Regel schon, und dass die gelebte Praxis dem Papier vorgeht. Das Beratungsblatt der Techniker Krankenkasse von 2026 nennt vorgeschriebene EDV-Systeme, „besonders dann, wenn der Auftraggeber sie regelmäßig kontrollieren muss", unter den Anzeichen für Beschäftigung. Ein Freelancer, dem gesagt wird, welchen Agenten er mit welchen Rechten nutzen soll und dass er dessen Output freizugeben hat, steht weit oben auf dieser Liste. Die Grundlagen: Scheinselbstständigkeit vermeiden.

Rechte. Rein KI-generierte Arbeit ist keine „persönliche geistige Schöpfung" nach § 2 UrhG. Im Februar 2026 hat das Amtsgericht München drei KI-Logos den Urheberrechtsschutz verweigert, erstinstanzlich. Wenn dein Vertrag dem Kunden ausschließliche Rechte an der Lieferung verspricht, ist das Versprechen nur so viel wert wie der Teil, den ein Mensch gemacht hat.

Die zwei Wörter, wie sie gemeint waren

Googles öffentlicher Leitfaden für Code-Reviews ist der Ort, an dem LGTM als Praxis herkommt, und er sagt, Reviewer müssten „sicher sein, dass ihr LGTM bedeutet: Dieser Code entspricht unseren Standards". Die Begleitseite sagt: „Sieh dir jede Zeile Code an, die dir zum Review zugewiesen wurde", und wer nur einen Teil geprüft hat, soll das im Kommentar sagen. Generierte Dateien darf man überfliegen. Von Menschen geschriebene Logik nicht. Diese zwei Sätze sind eine komplette Review-Richtlinie für Agent-Output: Der Boilerplate des Agenten ist die generierte Datei, seine Logik ist die handgeschriebene Klasse, und dein Name steht unter beiden.

Bei der Freelance Unlocked 2026 in Berlin hat Tomas Stiller, Cloud-Berater und Mitgründer von airdys, eine achtstufige Leiter des Developer-Vertrauens in KI vorgestellt, die er einem anderen Autor zuschreibt. Stufe zwei prüft alles, weil das Vertrauen niedrig ist. Stufe drei, in seinen Worten aus den automatischen Untertiteln: „Mein Trust wächst, ich bin im Yolo-Modus. Wird schon passen. Das Produkt ist auch nicht kritisch, brauche ich nicht angucken, schiebe ich einfach live und warte, was die Kunden sagen." Stufe vier schaut dem Agenten nur noch zu „und ich gucke mir gar nicht mehr die Diffs an". Er hat die Leiter als Weg nach oben präsentiert, und fairerweise endet sein eigenes Setup mit einem Verification Agent, der alle Ergebnisse noch einmal auf Plausibilität prüft. Das ist die ehrliche Version der Wette: eine Maschine prüft eine Maschine. Der Song handelt davon, wie die Aussicht von Stufe vier aussieht, wenn niemand den Prüfer prüft. Sein Vortrag lohnt sich schon für die Leiter, etwa ab Minute 11:

Freelance Unlocked wird von 9am gemeinsam mit Uplink und freelancermap organisiert. Der Vortrag oben wurde bei der Freelance Unlocked 2026 am 11. Juni 2026 in Berlin aufgezeichnet.

Ein Regelwerk für Freelancer in der KI-first-Firma

1. Gib nie frei, was du nicht gelesen hast. Wenn der Prozess des Kunden verlangt, dass du Agent-Output freigibst, den du nicht geprüft hast, muss dein Vertrag sagen, was „Review" heißt: welche Dateien, wie tief, wie viele Zeilen am Tag. Die Formulierung der Frankfurter Kanzlei für Agenturen passt eins zu eins: „Eine kalkulierbare Kontrolle braucht einen beschriebenen Umfang und eine zuständige Person." Beides schriftlich, vor dem ersten Sprint.
2. Trenne Freigabe von Abnahme. Dieselbe Kanzlei warnt, dass kreative Freigabe und rechtliche Abnahme im Projektablauf unbemerkt gleichgesetzt werden. Dein LGTM unter einem Pull Request ist keine Abnahme des Werks durch den Kunden, und der Vertrag sollte sagen, welches Ereignis welche Uhr startet.
3. Halte den kritischen Pfad menschlich. Billing, Auth, Datenlöschung, alles mit Geld oder personenbezogenen Daten: von einem Menschen geschrieben oder wenigstens Zeile für Zeile gelesen, und in der Leistungsbeschreibung so benannt. Den Rest schreibt der Agent.
4. Berechne das Review. Die Prüfung ist der bezahlte Teil; das haben wir für Agentic Loops begründet, und es gilt für die Agenten-Flotte eines Kunden genauso. Upworks Führungskräfte erwarteten Gewinne, ihre Angestellten bekamen Prüfarbeit; sorg dafür, dass sie bei dir als abrechenbare Stunden landet, nicht als der Rabatt, der dich billiger gemacht hat als die Token-Rechnung.
5. Dokumentiere deine KI-Nutzung und seine. Welche Tools, wessen Accounts, was reinging. KI-Nutzung offenlegen schützt dich genauso wie den Kunden, und was du in den Prompt eines Kunden einfügst, ist eine eigene Datenschutzfrage, die wir in einem Artikel behandeln, der am 17. Dezember erscheint.
6. Behalte deinen Status im Blick. Tools, die aus einem Projektgrund vorgeschrieben sind (Sicherheit, Datenstandort), sind das eine; ein vorgeschriebener Agent, vorgeschriebene Rechte und ein vorgeschriebener Freigabe-Klick, vom Kunden überwacht, sind das andere. Wenn du dein Projekt wiedererkennst, lies den Status-Artikel oben und frag dich, ob derselbe Kunde eine Statusfeststellung unterschreiben würde.
7. Behalte die Nummer des alten Engineers. Wenn du derjenige bist, der den Billing-Code vor dem Stellenabbau verstanden hat, sag das in deinem Profil. Kunden, die eine KI-first-Entscheidung zurückgenommen haben, stellen wieder ein, mit flexiblen Verträgen, und Julien Looks Vortrag darüber, warum KI-Projekte scheitern, erklärt, warum sie weiter jemanden brauchen, der weiß, wo die Leichen liegen.

Was du am Montag tust

1. Öffne deinen aktuellen Vertrag und such das Wort „Review". Steht es nicht drin, entwirf die zwei Sätze: Umfang und zuständige Person.
2. Liste die Dateien auf, die du letzte Woche freigegeben, aber nicht gelesen hast. Ist die Liste nicht leer, ist sie dein Review-Budget für diese Woche.
3. Stell deinem Versicherer eine Frage schriftlich: Ist ein Schaden aus KI-Output, den ich nicht geprüft habe, gedeckt, oder gilt er als wissentliche Pflichtverletzung?
4. Prüfe, wer deine Tools vorgeschrieben hat und warum. Projektgrund oder Firmenpolitik? Schreib die Antwort auf; sie zählt, falls die Rentenversicherung je fragt.
5. Ergänze eine Zeile in deinem Profil dazu, wie du mit Agenten arbeitest und was du von Hand prüfst.

Die Firmen, die gut aus dem KI-first-Jahr kommen, sind die, die jemanden behalten haben, der liest. Mit einem kostenlosen 9am-Profil sagst du in einer Zeile, dass du diese Person bist, damit dich die DACH-Unternehmen finden, die nach Developern und Beratern suchen, die prüfen.

Dieser Artikel ist eine redaktionelle Analyse und keine Rechtsberatung. Der Song LGTM von Degenerative Pixels ist oben mit Nennung eingebettet; die Handlung ist nacherzählt, nicht zitiert. Tomas Stillers Worte stammen aus den automatischen Untertiteln seines Vortrags bei der Freelance Unlocked 2026.