KI-Governance — Rechtsvakuum & Pentagon-Standoff

KI-Governance — Rechtsvakuum & Pentagon-Standoff

Von David Schulte-Herbrüggen · Zuerst auf LinkedIn erschienen am 10.03.2026

Browns Kernfrage: Wer entscheidet, was KI darf?

Noam Brown, OpenAI-Forscher, formulierte am 8. und 9. März 2026 in einem X/Twitter-Thread eine unbequeme Beobachtung. Die Grenzen, was Künstliche Intelligenz tun darf, entstehen aktuell in Beschaffungsverträgen und Unternehmensrichtlinien — nicht in Parlamenten. Browns Schluss: "KI wird in ihren Konsequenzen nicht auf ein Unternehmen oder eine Regierung beschränkt bleiben. Sie wird das Leben aller verändern. Die Gesetze, die sie regeln, sollten das widerspiegeln."

Das klingt zunächst akademisch. Was zwischen Anthropic und dem US-Verteidigungsministerium Anfang 2026 passierte, zeigt allerdings sehr konkret, was geschieht, wenn Gesetze fehlen. Und wer dann an ihrer Stelle entscheidet.

Der Anthropic-Pentagon-Standoff

Anthropic hatte zwei rote Linien aus der eigenen Unternehmens-Policy: keine Massenüberwachung, keine autonomen Waffensysteme. Das Pentagon forderte uneingeschränkten Zugang ("any lawful use"). Als Anthropic ablehnte, stufte das Verteidigungsministerium das Unternehmen am 5. März 2026 als Beschaffungsrisiko ein, im US-Sprech eine Supply Chain Risk Designation.

Diese Bezeichnung ist normalerweise ausländischen Firmen vorbehalten, die Verbindungen zu Feindstaaten haben (typischerweise China, Russland, Iran). Es war das erste Mal überhaupt, dass das Etikett gegen ein US-Unternehmen verwendet wurde, und es war als Druckmittel gemeint. Einmal so eingestuft, wird ein Unternehmen praktisch komplett aus US-Behördenaufträgen ausgeschlossen, was im KI-Geschäft existenzbedrohend ist.

Anthropic reichte am 9. März 2026 Klage ein. Zwei Argumente trug die Klageschrift vor: Verletzung des First Amendment, weil die Designation als Strafung für geschützte Rede in Form von Policy-Statements gewertet wird, und Missbrauch des Supply-Chain-Risk-Instruments für einen vertragsrechtlichen Zweck, für den es nie gedacht war. Der Fall liegt aktuell im District of Columbia.

OpenAIs paralleler Vertrag und das Weasel-Words-Problem

Parallel unterzeichnete OpenAI einen eigenen Pentagon-Vertrag. Sam Altman erklärte, er enthalte ähnliche Verbote zu Massenüberwachung und autonomen Waffen. Der Vertragstext ist allerdings nicht veröffentlicht, und The Intercept wies in einer Analyse vom 8. März 2026 auf das Kernproblem hin.

Die Electronic Frontier Foundation nennt diese Vertragsklauseln "Weasel Words". Konkret verbieten viele OpenAI-Klauseln "intentional" Massenüberwachung oder Waffeneinsatz. Das Wort "intentional" ist juristisch entscheidend. Wer ein KI-System für Zielidentifikation einsetzt und dabei beiläufig massenhaft Bürger:innendaten verarbeitet, kann argumentieren, das sei kein "intentional surveillance" gewesen, sondern unvermeidliche Nebenwirkung. Hinzu kommt die fehlende externe Kontrolle. Ohne Auditrechte, ohne unabhängige Aufsicht, ohne klagbare Drittparteien-Klausel bleiben solche Verbote weitgehend selbstreferenziell. Kurz nach Vertragsunterzeichnung trat OpenAIs Robotik-Chefin zurück.

Die strukturelle Schwäche liegt nicht im Verdacht der Lüge. Sie liegt in der fehlenden Prüfbarkeit. Eine Zusicherung ohne Audit ist eine Aussage, keine Norm.

Die US-Gesetzgebungslage: ein Gesetz seit Beginn des KI-Zeitalters

Alan Rozenshtein argumentierte in Lawfare Anfang 2026, der Streit zwischen Pentagon und Anthropic sei symptomatisch. Weder ein Verteidigungsministerium noch ein einzelnes Unternehmen sollten daruber entscheiden, wofuer militärische KI eingesetzt wird. Diese Entscheidung gehöre in den Kongress.

Genau dort passiert wenig. Seit Beginn des aktuellen KI-Zeitalters, grob ab dem ChatGPT-Launch Ende 2022, hat der US-Kongress exakt ein KI-spezifisches Gesetz verabschiedet: den TAKE IT DOWN Act vom Mai 2025 gegen nicht-einvernehmliche Deepfakes. Dutzende weiterer Entwürfe stecken in Ausschüssen.

Besonders bemerkenswert ist der Fourth Amendment Is Not For Sale Act. Er soll eine Lücke schließen, die das aktuelle System in der Praxis außer Kraft setzt. Das Fourth Amendment der US-Verfassung schützt Bürger:innen vor staatlicher Erhebung von Daten ohne Gerichtsbeschluss. Es schützt sie aber nicht vor staatlichem Einkauf derselben Daten.

Behörden wie ICE, CBP und die NSA kaufen seit Jahren legal Standortdaten, Browserverläufe und Mobilfunkbewegungen von Datenbrokern. Was per Gerichtsbeschluss gefordert werden müsste, wird stattdessen einfach beschafft. KI macht diese Lücke skalierbar. Massenprofilierung, die früher manuelle Auswertung gebraucht hätte, ist heute automatisierbar. Senator Ron Wyden und 70 weitere Abgeordnete forderten am 3. März 2026 eine Untersuchung dieser Praxis. Der Fourth Amendment Is Not For Sale Act ist im Repräsentantenhaus durch, im Senat blockiert.

Solange diese Lücke offen bleibt, wird KI-gestützte Bürger:innen-Profilierung durch Behörden praktisch nicht durch einen rechtlichen Rahmen begrenzt. Sie wird begrenzt durch Selbstbindungen einzelner Anbieter, die jede neue Regierung neu verhandeln kann.

Was bedeutet das für HR und Compliance?

Der Pentagon-Standoff ist ein US-Fall mit US-Rechtsfragen. Für deutsche und europäische Unternehmen lohnt der Blick trotzdem, denn das Muster wiederholt sich.

Die Frage, wer KI-Grenzen setzt (Anbieter, Auftraggeber, Aufsichtsbehörde, Gericht) stellt sich auch in HR-Software. Wenn ein KI-System Bewerber:innen-Lebensläufe vorsortiert oder Mitarbeiter:innen-Performance bewertet, gelten in Europa zwar Art. 22 DSGVO und der EU AI Act. In der Vertragspraxis stützen sich Verantwortliche allerdings häufig auf Anbieter-Zusicherungen, ohne unabhängige Prüfung. Genau das Muster, das die EFF im OpenAI-Vertrag kritisiert.

Konkret für Personalleitung und Compliance bedeutet das drei Aufgaben. AV-Verträge mit KI-Anbietern brauchen klare Zweckbindung und Auditrechte, keine reinen "best effort"-Versprechen. Profiling-Funktionen müssen technisch abschaltbar dokumentiert sein, nicht nur policy-seitig verboten. Und der EU AI Act differenziert zwischen Hochrisiko-Anwendungen (zu denen viele HR-Use-Cases gehören) und der Nutzung allgemeiner KI-Modelle, was die Compliance-Pflichten beim Einkauf deutlich erhöht.

Davids Take aus dem LinkedIn-Post bleibt bestehen. Solange Parlamente Gesetze nicht schreiben, schreiben Beschaffungsabteilungen sie. In der Personalpraxis lässt sich Verantwortung derzeit nicht delegieren. Sie muss vertraglich konkret und technisch prüfbar verankert sein.

Wie Payroll Fuchs die Lohnabrechnung automatisiert und jede Abrechnung vom Wirtschaftsprüfer prüfen lässt, steht unter Lohnabrechnung automatisiert auslagern.

FAQ

Was ist eine Supply Chain Risk Designation?
Ein US-Beschaffungsinstrument, das Unternehmen aus Behördenaufträgen ausschliesst, wenn sie als Sicherheitsrisiko gelten. Typischerweise trifft es ausländische Firmen mit Verbindungen zu Feindstaaten. Die Anwendung gegen Anthropic im März 2026 war die erste gegen ein US-Unternehmen.

Warum reichen die Verbote im OpenAI-Pentagon-Vertrag laut Kritiker:innen nicht?
Die EFF nennt sie "Weasel Words", weil Formulierungen wie "intentional" Schlupflöcher schaffen und unabhängige Audits, klagbare Drittparteien-Klauseln sowie veröffentlichte Vertragstexte fehlen. Das Verbot wirkt damit eher als Marketing-Zusicherung.

Was ist der "behördliche Datenkauf"-Loophole?
Das Fourth Amendment der US-Verfassung schützt vor staatlicher Datenerhebung ohne Gerichtsbeschluss, nicht vor staatlichem Datenkauf. ICE, CBP und NSA kaufen seit Jahren Standort- und Browserdaten von Datenbrokern. KI macht die Auswertung skalierbar.

Wie viele KI-Gesetze hat der US-Kongress seit 2022 verabschiedet?
Genau eines: den TAKE IT DOWN Act vom Mai 2025 gegen nicht-einvernehmliche Deepfakes. Der Fourth Amendment Is Not For Sale Act ist im Repräsentantenhaus durchgekommen, im Senat blockiert. Dutzende weitere Entwürfe stecken in Ausschüssen.

Was hat der US-Standoff mit europäischer HR-Compliance zu tun?
Das Muster (Anbieter-Selbstbindung anstelle extern prüfbarer Norm) taucht auch in HR-Software-Verträgen auf. EU AI Act und DSGVO setzen den Rahmen, aber AV-Verträge brauchen konkrete Zweckbindung, technisch abschaltbare Profiling-Funktionen und Auditrechte. Anbieter-Zusicherungen allein reichen nicht.

Was meint Brown mit "die Gesetze sollten das widerspiegeln"?
Brown argumentiert, dass eine Technologie, deren Wirkung Gesellschaft, Wirtschaft und Sicherheit gleichermaßen berührt, nicht durch Beschaffungsklauseln einer einzelnen Regierungs-Administration geregelt werden sollte. Sie braucht demokratisch legitimierte Gesetzgebung mit Bestand jenseits eines Wahlzyklus.

Quellen