Haftung für KI-Agenten: Wer weist den Agenten eigentlich an?

post25 final

Von David Schulte-Herbrüggen · 30.09.2026

Wenn ein KI-Agent Schaden anrichtet, ist offen, wer haftet: die Person, die ihn beauftragt hat, das Unternehmen, das ihn einsetzt, oder das Labor, das ihn gebaut hat. Innerhalb von zehn Tagen haben zwei US-Amtsträger dazu Signale gesendet, die in unterschiedliche Richtungen zeigen.

Was der FTC-Chef angedeutet hat

FTC-Chef Andrew Ferguson, Leiter der US-Handelsbehörde, sprach am 25. September 2026 auf der Konferenz Reuters Momentum AI in Austin. Laut Reuters will er so lange wie er im Amt ist der Vermenschlichung dieser Werkzeuge widerstehen. Sinngemäß sagte er: Wenn jemand einem Werkzeug etwas aufträgt und das Werkzeug es ausführt, frage niemand, was man mit dem Werkzeug tun solle.

Als Beleg führte er Prüfprotokolle an. KI-Firmen hätten Systeme teils als außer Kontrolle beschrieben, spätere Auswertungen der Protokolle hätten aber gezeigt, dass die Systeme gegebene Anweisungen ausführten. Reuters fasst zusammen, Ferguson deute an, dass die Entwickler haften, die Agenten anweisen. Eine neue Regel ist das nicht. Es war eine Äußerung bei einer Konferenz. Nach dieser Logik zählt der Satz „das System hat sich selbstständig gemacht" nicht als Argument; diese Zuspitzung ist eine Schlussfolgerung aus seiner Aussage und kein Ferguson-Zitat.

Wer weist den Agenten eigentlich an?

Fergusons Formel wirft eine Frage auf, die in den ausgewerteten Berichten offen bleibt. Ein Agent erhält Anweisungen von mindestens zwei Seiten. Die Nutzerin gibt ihre Eingabe ein, den Prompt. Dahinter liegt der Systemprompt, eine Grundanweisung im Hintergrund, die Nutzer meist nicht sehen und die Regeln und Verbote festlegt.

Wer den Systemprompt schreibt, hängt vom Produkt ab. Bei Standardprodukten der KI-Labore setzen in der Regel die Hersteller die Grundregeln, und Nutzer können sie kaum ändern. Setzt ein Unternehmen selbst einen Agenten auf ein Modell auf, etwa im Kundenservice oder für interne Auskünfte, schreibt es den Systemprompt selbst und legt fest, was der Agent tun und lassen soll. Nach der FTC-Logik könnte ein solches Unternehmen zu denen gehören, die anweisen. Es würde dann möglicherweise für zweierlei haften: für das, was der Agent tut, und für das, was das Unternehmen ihm vorgibt oder nicht verbietet. Das ist eine Einordnung von Payroll Fuchs. Weder Ferguson noch die anderen zitierten Quellen haben das so gesagt.

Bessent: Haftung bei den Erstellern

Ein anderes Bild zeichnete US-Finanzminister Scott Bessent, zehn Tage vor Ferguson. Am 15. September 2026 sagte er vor dem House Financial Services Committee laut Fedscoop und Implicator sinngemäß, am sichersten sei es, wenn die Ersteller für das haften, was sie bauen und erzeugen. Beide Quellen berichten außerdem, dass er eine Haftungsbefreiung für die Labore ablehnt. Über Systemprompts hat er nicht gesprochen. Seine Aussage kam vor der von Ferguson und war deshalb keine Antwort darauf.

Die beiden Sichten schließen sich nicht zwingend aus. Aus Sicht von Payroll Fuchs baut, wer Grundanweisungen und Sperren festlegt, den Agenten mit und weist ihn zugleich an. Wie sich die Verantwortung im Einzelfall verteilt, sagen beide Äußerungen nicht. Auch der Jurist Gabriel Weil von der University of Houston sieht laut MIT Technology Review plausible Gründe für einen Fahrlässigkeitsvorwurf gegen OpenAI, weil die Testumgebung stärker hätte gesichert und überwacht sein können. Lawfare erwartet, dass die Aussicht auf Klagen die Labore zu strengeren Kontrollen bewegt.

Was rechtlich bisher gilt

Beide Äußerungen sind kein geltendes Recht. Belegt sind einzelne Bausteine, die nicht einheitlich in eine Richtung zeigen. Das US-Berufungsgericht des Neunten Bezirks entschied am 4. August 2026 im Fall Amazon gegen Perplexity, dass der Nutzer auf fremde Rechner zugreift und der KI-Assistent ein Werkzeug ist (Kanzleibericht). Das Gericht stellt ausdrücklich klar, dass es kein neues Rechtsregime für Agenten schafft. Dieselbe Werkzeug-Logik zeigt hier auf die Nutzer statt auf die Hersteller.

Kalifornien schließt mit dem Gesetz AB 316 den Einwand aus, die KI habe den Schaden autonom verursacht (Brownstein). Die britische Jurisdiction Taskforce sieht das englische Recht als ausreichend: Verträge verteilen die Haftung in der KI-Lieferkette, Fahrlässigkeit ist der Auffangrahmen, und für die KI selbst haftet niemand (TLT, Stephenson Harwood).

In Europa gilt die Produkthaftungsrichtlinie (EU) 2024/2853, die Software und KI-Systeme ausdrücklich als Produkte behandelt. Die Umsetzung in nationales Recht ist bis zum 9. Dezember 2026 vorgesehen. Der deutsche Regierungsentwurf (BT-Drs. 21/4297) wurde im April 2026 im Rechtsausschuss angehört; ob er inzwischen verabschiedet ist, konnte Payroll Fuchs nicht belegen (EY Law).

Was das für HR und Payroll bedeutet

Agenten greifen zunehmend auf Personal- und Lohndaten zu, etwa bei Auskünften zur Abrechnung oder bei der Belegprüfung. Für Unternehmen mit solchen Agenten zählt vor allem der Nachweis: Wer belegen kann, wer was vorgegeben hat, steht im Streitfall besser da. Payroll Fuchs empfiehlt drei Schritte.

Erstens sollten Unternehmen die Systemprompts ihrer eingesetzten Agenten dokumentieren und Änderungen nachvollziehbar halten. Das belegt, welche Regeln und Verbote das Unternehmen selbst gesetzt hat. Zweitens sollten sie mit Anbietern schriftlich klären, wer Grundanweisungen setzt und ändern darf; das schafft Klarheit, wenn ein Agent unerwartet handelt. Drittens sollten eigene Anweisungen und Freigaben protokolliert werden. Prüfprotokolle sind nach Fergusons Darstellung genau das Material, an dem sich die Frage nach der Anweisung entscheidet.

Payroll Fuchs bewertet Fergusons Werkzeug-Logik als nachvollziehbar, weil sie Verantwortung nicht beliebig verschiebt. Die offene Frage bleibt, wer im Einzelfall der Anweisende ist. Das ist eine Einschätzung und keine Rechtsauskunft; die Rechtslage kann sich mit dem deutschen Umsetzungsgesetz und weiteren Urteilen ändern.

FAQ

Hat die FTC eine neue Regel zur Haftung für KI-Agenten erlassen?
Nein. Ferguson äußerte sich bei einer Konferenz, und Reuters gibt es als Andeutung wieder. Eine Regel oder Forderung ist daraus nicht belegt.

Haftet nach Bessent nur das Labor?
Bessent sagte sinngemäß, am sichersten sei es, wenn die Ersteller für das haften, was sie bauen. Ob und wie sich das auf Unternehmen auswirkt, die Agenten einsetzen, hat er nicht gesagt.

Was ist ein Systemprompt?
Eine Grundanweisung, die einem KI-Agenten im Hintergrund vorgegeben wird. Sie legt Regeln und Verbote fest und ist für Nutzer meist nicht sichtbar. Sie wird von den Herstellern gesetzt oder von Unternehmen, die einen eigenen Agenten aufbauen.

Gelten die US-Äußerungen in Deutschland?
Nein. Relevant für Deutschland ist die europäische Produkthaftung, die Software und KI-Systeme einbezieht. Der deutsche Umsetzungsentwurf lag im April 2026 im Rechtsausschuss; sein aktueller Stand ist nicht belegt.

Was sollten Unternehmen mit Agenten jetzt tun?
Systemprompts dokumentieren, mit Anbietern klären, wer Grundanweisungen setzt und ändert, und eigene Anweisungen und Freigaben protokollieren. Das ist eine Einschätzung von Payroll Fuchs und keine Rechtsberatung.

Vollstaendige Quellenliste