Vogt am Freitag: Selbstbedienung

Die KI-Bosse verlangen eine Regulierung für sich, wollen damit aber ihre Macht zementieren. Kolumnist Reto Vogt sieht nur einen Ausweg.

12. September: «Wir müssen das Tempo bei der KI-Entwicklung drosseln!»

22. September: «Wir freuen uns, das neue, leistungsstarke KI-Modell vorzustellen!»

Zwischen diesen Sätzen liegen 10 Tage, wie es auch EPFL-Professor Marcel Salathé auf Linkedin bemerkte. 10 Tage, die zeigen, dass das «G» in Claude für Glaubwürdigkeit steht. Dario Amodei, Chef von Anthropic, forderte öffentlich eine Verlangsamung der KI-Entwicklung, Sam Altman von OpenAI und Elon Musk schlossen sich ihm an. Zehn Tage später lancierte Amodeis Unternehmen Claude Opus 5.5, das nach eigenen Angaben «leistungsstärkste KI-Modell aller Zeiten».

Wasser predigen und Wein trinken

Was Amodei, Altman und Co. gerade betreiben, hat einen Namen: Regulatory Capture. Der Begriff meint: Eine Branche übernimmt die Regulierung selbst, die sie eigentlich kontrollieren sollte. Nach dem Vorbild der privaten Organisation «Finra», die den Wertpapierhandel in den USA beaufsichtigt, soll eine Unternehmung zur Selbstregulierung der KI-Branche entstehen. Beteiligt am Vorhaben sind OpenAI, Anthropic und Google.

In das Playbook dieser Erzählung gehören natürlich auch Vorfälle, die «gefährlich» sind. Angeblich hackten autonome KI-Agenten von OpenAI den Konkurrenten Hugging Face aus eigenem Antrieb. Tatsächlich handelten die Agenten allerdings nicht aus eigenem Willen heraus, sie taten, wofür sie trainiert worden waren. Aber wer profitierte von dieser Erzählung? OpenAI selbst und mit dem Unternehmen die ganze Branche.

Kritische Infrastruktur als Schutzschild

Das Unternehmen verschob daraufhin den eigenen Börsengang «wegen Sicherheitsbedenken». Noch gebe es viel zu tun, um die Anforderungen an die Sicherheit zu erfüllen und herauszufinden, wie die Branche und Regierungen zusammenarbeiten könnten, hiess es von Altman. Wie praktisch ist das denn? Wer in einer Phase maximaler öffentlicher Aufmerksamkeit auf Sicherheitsrisiken an die Börse geht, riskiert einen schlechten Start. Wer hingegen wartet, bis die – selbst gestaltete (!) – Regulierung steht, profitiert maximal.

Hinzu kommt die Bestrebung, Künstliche Intelligenz inklusive Rechenzentren auf dieselbe Stufe wie Strom- und Wasserversorgung zu heben und sie als kritische Infrastruktur einzustufen. Das fordert die Gruppierung «Americans for Responsible Innovation». Warum? Das ist ganz einfach: Wer einmal kritische Infrastruktur ist, muss vom Staat geschützt werden, ist unangreifbar und wird nicht abgeschaltet.

Andere Branchen sind selbstverständlich reguliert

Das ist, wie wenn Pharmakonzerne ihre eigenen Medikamente ohne Prüfprozess zulassen, Kernkraftbetreiber die Sicherheit ihrer Reaktoren prüfen, Autofahrer:innen das Tempo auf der Autobahn bestimmen oder Atommächte ihre Waffenarsenale kontrollieren.

Aus gutem Grund ist all das nicht möglich, und es ist weltweit (oder zumindest fast) breit akzeptiert, dass es unabhängige Prüfungen für neue Medikamente, neutrale Sicherheitschecks für Atomreaktoren, Tempokontrollen auf Autobahnen und internationale Inspektor:innen für Nuklearwaffenarsenale braucht, die von der unabhängigen und international anerkannten Atomenergiebehörde IAEA gestellt werden.

Was es braucht

Für KI braucht es dasselbe. Eine internationale, unabhängige Aufsichtsbehörde mit echten Inspektionsrechten. Nennen wir sie vorläufig AISA (Artificial Intelligence Safety Agency), die nicht von der Industrie kontrolliert wird, die sie beaufsichtigt. Dafür braucht sie Zugang zu Modellen, Trainingsdaten, Sicherheitsprotokollen und Roadmaps. Sie muss neue Modelle prüfen, bevor sie auf den Markt gelangen. Und sie agiert ohne Anreiz, gefährliche Vorfälle kleinzureden, weil es den Börsenkurs schützt.

Natürlich gibt es Gegenargumente.

1. Die USA und China würden nie derselben Behörde Inspektionsrechte bei ihren KI-Modellen gewähren. Das stimmt, aber die IAEA funktioniert auch, obwohl sich Länder wie Iran oder Nordkorea querstellen.
2. KI-Modelle lassen sich nicht so einfach inspizieren wie ein Atomreaktor. Was genau prüft man? Trainingsdaten, Gewichte, Outputs? Die Prüfmethodik müsste erst entwickelt werden. Richtig, aber das war bei der Gründung der IAEA im Jahr 1957 genauso.
3. KI entwickelt sich schneller als jede Regulierungsbehörde. Das ist das beste Argument. Und gleichzeitig das stärkste Argument für die AISA. Denn je länger man wartet, desto schwieriger wird es.

Und zusammenfassend gesagt: (Unerreichbare) Perfektion ist kein valides Argument gegen den Versuch.

Zwischen dem Ruf nach Entschleunigung und der Lancierung des «leistungsstärksten Modells aller Zeiten» lagen zehn Tage. Einmal haben sich die KI-Konzerne schon selbst ungefragt bedient, nämlich an Millionen urheberrechtlich geschützten Inhalten. Nur eine unabhängige Aufsichtsbehörde wie die AISA kann verhindern, dass die Konzerne sich ein zweites Mal selbst bedienen – diesmal an der Regulierung.