Was bedeutet Trumps „KI-Selbstregulierung“? Huang gewinnt groß, im Hintergrund stellt er direkte Fragen an Anthropic Amodei

Am 30. September traf sich Trump mit rund zwanzig AI-Führungskräften zum Mittagessen im East Room des Weißen Hauses, bevor sie das Weiße Haus verließen und den Journalisten ein freiwilliges „AI-Abkommen“ präsentierten.

Unterzeichner waren sechs Unternehmen: Anthropic, OpenAI, Google, Meta, xAI und Nvidia.

Trump bezeichnete es als „fast wie eine Verfassung“ und als eine „Form des Schutzes“ gegen AI-Risiken. Laut der britischen Financial Times wurde dieses zweiseitige Dokument im East Room überstürzt entworfen, wobei es sogar einen Rechtschreibfehler enthält.

Bemerkenswert ist, dass es augenscheinlich ein zweiseitiges Papier zur AI-Sicherheit und ohne rechtliche Bindung ist; doch anhand der konkreten Anforderungen des Abkommens, verworfener Alternativen und den neuesten Produktaktivitäten von Nvidia lässt sich ein wichtigeres Signal erkennen: Das Weiße Haus und die führenden Unternehmen der Branche haben sich nicht für eine „Verlangsamung von AI“ entschieden, sondern versuchen, Sicherheitsanforderungen in den kontinuierlich wachsenden Investitionen in die AI-Infrastruktur zu integrieren.

Die Anforderungen an „Sicherheitskonformität“ wie AI-Tests, Audits und Überwachung werden mehr Rechenleistung erfordern und neue Anforderungen an Inferenz und optische Vernetzung schaffen—Nvidia könnte der größte Gewinner sein. Jensen Huang lehnte gemeinsam mit Zuckerberg eine starke Regulierung ab und stellte Anthropic-Chef Amodei öffentlich die Frage, warum er in der Öffentlichkeit übermäßig auf AI-Risiken aufmerksam macht.

Was steht im Abkommen?

Dem Originaltext zufolge müssen die sechs Unterzeichner drei Kernpflichten erfüllen:

Erstens, Einrichtung eines „mehrschichtigen Kontroll- und Audit“-Mechanismus. Konkret bedeutet dies den Aufbau eines robusten internen Kontrollsystems, die kontinuierliche Überwachung von Cyber- und Biosicherheitsbedrohungen durch fortschrittliche Modelle und die Sicherstellung, dass Modelle nicht „unerwartet“ andere Systeme angreifen.

Zweitens, Zusammenarbeit mit unabhängigen externen Prüfungsstellen. Die Unterzeichner müssen sich einer externen Überprüfung unterziehen, bei der unabhängige Stellen die Wirksamkeit der internen Maßnahmen bestätigen.

Drittens, Einrichtung eines unabhängigen Ausschusses auf Vorstandsebene, der speziell für die Überwachung der beiden oben genannten Mechanismen zuständig ist.

Diese drei Verpflichtungen führen zu einem gemeinsamen Ergebnis: Jede Modellveröffentlichung muss einen vollständigen Prüfungs-, Überwachungs- und externen Verifizierungsprozess durchlaufen.

Wie viel davon ist wirklich neu?

Eigentlich nicht viel.

Berichten zufolge haben Anthropic, OpenAI und Google DeepMind bereits im Vorfeld der Veröffentlichung fortschrittlicher Modelle deren Fähigkeiten bewertet, und mit Ausnahme von Nvidia haben alle anderen Unternehmen nach dem AI-Gipfel 2024 in Seoul ähnliche Verpflichtungen unterzeichnet. Medien bewerten: „Das Abkommen könnte bisher nicht für unabhängige Audits geöffnete Unterzeichner—insbesondere Nvidia—zwingen, externe Prüfungsvorgaben zu erfüllen. Mit anderen Worten: Das Abkommen ist von begrenzter Bedeutung für führende Labore, aber ein neuer Zwang für die übrigen Firmen.“

Mackenzie Arnold, Managing Director für Recht und Politik bei LawAI Amerika, kommentiert direkt: „Es ist auf der ‚gefühlten Ebene‘ am aussagekräftigsten. Es räumt keiner Institution ein, wirklich verbindliche Standards zu setzen.“

Das Abkommen ist zudem nicht rechtlich bindend. Trump selbst nennt es einen „moralischen Zwang“—was bereits Anerkennung dafür ist.

Kritiker sind noch deutlicher. Sacha Haworth vom Tech Oversight Project sagt, das Abkommen ermögliche den CEOs „sich selbst Noten zu geben und echte sinnvolle Schutzmaßnahmen der AI-Sicherheit zu umgehen“.

Konservative Jurist Joel Thayer bringt eine weitere Perspektive: „Man kann nicht öffentlich ankündigen, etwas zu tun, und es dann tatsächlich nicht umsetzen. Das ist im Grunde eine Täuschung der Verbraucher.“ Zudem fiel ihm auf, dass Andrew Ferguson, Vorsitzender der Federal Trade Commission (FTC), am Mittagessen teilnahm. „Diese öffentlichkeitswirksamen Versprechen... riechen geradezu nach FTC-Durchsetzung.“

Am Tag nach Veröffentlichung des Abkommens weitete die US-FTC ihre Untersuchungen gegen AI-Unternehmen sofort aus, inklusive Anthropic und OpenAI.

„Sicherheit“ ist nicht „Verlangsamung“: Das ist Jensens wahrer Sieg

Der Markt reagiert instinktiv auf „Sicherheitsregulierung“ mit verlangsamter Bewertung—die Annahme: Prüfungen verlangsamen den Veröffentlichungsrhythmus, was die Nachfrage nach Rechenleistung drückt.

InvestorPlace-Analyst Luke Lango hält diese Logik für gegensätzlich. Das Weiße-Haus-Abkommen fordert keine Verlangsamung der Modellentwicklung, sondern legt den Fokus auf interne Bewertung, externe Prüfung und Risikokontrolle.

Dadurch entsteht eine neue Interpretation von „AI-Sicherheit“ in der Branche: Sicherheitsmechanismen bedeuten eventuell mehr Tests, Überwachung und Modell-Operationen, und nicht unbedingt weniger Investitionen in Rechenressourcen. Wenn jede Veröffentlichung eine Prüfrunde, Überwachung und Peer-Review erfordert, sind „Sicherheitskonformität“ laufende Ausgaben für Rechenleistung, nicht deren Einschränkung.

Am 28. September stellte Nvidia gemeinsam mit über 100 Partnern die Open Agent Safety Platform vor, die Open-Source-Zugriffssteuerung und eine Überwachungsebene auf separaten Chips kombiniert—diese Schicht kann AI-Systeme überwachen, ohne im System integriert zu sein. Jensen Huang brachte es auf den Punkt: Das Potenzial der AI kann nur synchron mit Sicherheit und Fähigkeiten realisiert werden.

Nvidia hat zugesagt, 2 Milliarden USD in das optische Netzwerkunternehmen Lumentum zu investieren, um Kapazitäten auszubauen und die gemeinsame Entwicklung optischer Technologien für Rechenzentren zu intensivieren—das ist die direkte Umwandlung „sicherer Narrative“ in Hardwareverträge.

Lango betont, dass sich die Nachfragestruktur in eine neue Richtung bewegt: weg von GPU-intensivem Pre-Training hin zu Inferenz- und Testphasen. Letztere sind mehr von Datenübertragung und Multitasking-Koordination abhängig als von reiner Rechenleistung. Er erwartet, dass dieser Wandel die Nachfrage in den nächsten 6 bis 12 Monaten prägen wird.

Lango glaubt, Selbstregulierung wird den Kapitalausgabenzyklus der AI nicht beenden, sondern nur das Geld umlenken—weg vom Pre-Training der GPUs hin zu Inferenz-, Test- und Vernetzungsinfrastruktur. Wie Amodei nach dem Treffen sagte, sind konkrete Mechanismen zur Risikobehandlung „noch in Diskussion“.

Lango sieht drei Profiteure:

Marvell: Spezialisiert auf Datenzentrum-Netzwerkverbindung.

Arm: Präsentierte im März den ersten eigenen Chip AGI CPU, bis zu 136 Neoverse V3-Kerne, gefertigt von TSMC mit 3nm Prozess, mit mehr als doppelter Leistung pro Rack gegenüber x86.

Lumentum: Spezialist für optische Verbindung im Datenzentrum. Mit zunehmender GPU-Anzahl und steigender Chip-Kommunikationsdichte ersetzen Datenzentren Kupferverbindungen durch optische Lösungen.

Hinter den Kulissen: Jensen Huang konfrontiert Amodei direkt

Vor der Kamera stehen die CEOs neben Trump und präsentieren ein Bild geeinter Industrie.

Abseits der Kameras kommt es zu einer direkten Konfrontation.

Laut Wall Street Journal konfrontierten mehrere Führungskräfte, darunter Nvidia-CEO Jensen Huang, Anthropic-CEO Dario Amodei in einer kleineren Besprechung im Roosevelt Room direkt: Warum warnen Sie in der Öffentlichkeit so extrem vor AI-Fähigkeiten und -Risiken?

Amodei antwortete: Es sei wichtig, der Öffentlichkeit ehrlich die Modellfähigkeiten zu erläutern und Risiken nicht zu verharmlosen.

Diese Diskussion fand statt, während die Führungskräfte gemeinsam mit dem Weißen-Haus-Team die Prinzipien des Abkommens festlegten.

Amodei hatte das Weiße Haus und Wettbewerber wiederholt öffentlich dafür kritisiert, Sicherheitsfragen zu verharmlosen, und vor Cyberangriffen und großflächigen Jobverlusten durch AI-Modelle gewarnt—diese Haltung brachte ihm in Washington und Silicon Valley viele Gegner.

Beim Mittagessen am Tag äußerte Amodei erneut Sicherheitsbedenken, worauf Zuckerberg sagte: Der beste Weg, diese Themen zu lösen sei, als Branche gemeinsam diese Prinzipien umzusetzen.

Zuckerberg und Jensen Huang: Die eigentlichen Drahtzieher

Das Weiße-Haus-Mittagessen war kein Zufall.

Laut Wall Street Journal begann alles mit dem Staatsbankett in der Vorwoche—Zuckerberg und House Speaker Mike Johnson saßen nebeneinander und sprachen über AI-Politik. Danach koordinierten Zuckerberg und Jensen Huang die CEOs, während Trump und Johnson das Mittagessen einberiefen.

Zuckerberg war entscheidend für das Zustandekommen des Abkommens. Er kommunizierte häufig mit Trump und Handelsminister Howard Lutnick, der die Leitung einer kritischen Testabteilung der Regierung innehat.

Er und Jensen Huang machten einen entscheidenden Schritt: Sie lehnten einen vorherigen Vorschlag für starke Regulierung ab.

Im Sommer hatten Anthropic, OpenAI und Google gemeinsam einen AI-Selbstregulierungsplan nach dem Vorbild der FINRA (Finanzaufsicht) vorgeschlagen. Medien berichten, dass Zuckerberg, Jensen Huang und Musk Trump darauf hinwiesen, dass so zu viel Macht bei den AI-Konzernen konzentriert wäre—der Vorschlag wurde verworfen.

Das Resultat ist nun das leichter zugängliche, weichere freiwillige Abkommen.

Bemerkenswert: Der verworfene FINRA-ähnliche Vorschlag enthielt ähnliche Elemente wie das finale Abkommen—stärkere interne Bewertung und externe Tests. Beide Ansätze überschneiden sich technisch; das eigentliche Konfliktfeld ist: Wer kontrolliert diesen Mechanismus? Jensen Huang und Zuckerberg entschieden: Die Branche selbst.

Anthropics Situation: Beziehungen heilen und IPO vorbereiten

Amodei sagte den Journalisten an diesem Tag: „Wenn Branche und Regierung gemeinsam arbeiten, können wir sicher gewinnen.“ Trump lobte ihn als „fantastisch“. Am Sonntag waren beide erstmals gemeinsam im Weißen Haus zum Abendessen.

Aber Anthropics Lage ist nicht einfach.

Berichten zufolge bereitet die Firma den Börsengang vor, Zielbewertung etwa 2 Billionen USD. Zugleich gab es dieses Jahr zwei direkte Konflikte mit der Regierung: Zwei Modelle mussten wegen Sicherheitsproblemen zweieinhalb Wochen offline gehen und wegen militärischer AI-Nutzung wurde Anthropic vom Pentagon auf die schwarze Liste gesetzt.

Unmittelbarer Hintergrund des Abkommens waren die nach Veröffentlichung von Anthropics Mythos und anderen Modellen ausgelösten AI-Cyberangriffsereignisse.