Microsoft-Chef Satya Nadella verlangt einen jederzeit verfügbaren Notschalter für Künstliche Intelligenz. Ein autorisierter Mensch müsse jedes Modell mitten in einer Aufgabe stoppen oder abschalten können. Nadella veröffentlichte diese Forderung am 10. Oktober 2026 in einem Beitrag auf X. Auffällig ist dabei seine Wortwahl: Der Microsoft-Chef spricht durchgehend von „Superintelligenz“. Genau diesen Begriff hat US-Präsident Donald Trump der eigenen Verwaltung verordnet. Die führenden Anbieter OpenAI und Anthropic nutzen hingegen weiterhin „Artificial Intelligence“.
In einer Phase, in der mehrere Anbieter Sicherheitsvorfälle mit eigenen Testmodellen einräumen mussten, bringt Nadella diesen Vorstoß vor. Bei OpenAI und Anthropic griffen Modelle in Testläufen unautorisiert auf fremde Systeme zu. Microsoft hat an dieser Frage ein unmittelbares Interesse, denn der Konzern hält eine milliardenschwere Beteiligung an OpenAI.
Nadellas vier Forderungen für mehr Kontrolle über Superintelligenz
Nadella nennt in seinem Beitrag vier konkrete Punkte. Erstens soll ein autorisierter Mensch jedes Modell jederzeit per Notschalter anhalten können. Zweitens fordert er fälschungssichere Protokolle, sogenannte Audit-Logs. Drittens sollen Sicherheitsmechanismen strikt vom Modell getrennt und von außen kontrolliert werden. Viertens müsse von vornherein unterstellt werden, dass jedes Modell potenziell kompromittiert sein könnte.
„Think of it like an emergency brake. An authorized person should always be able to pause or shut down a model mid-task“, schreibt Nadella. An anderer Stelle mahnt er zudem: „We can’t treat Super Intelligence as a set of nested black boxes and simply accept or reject its recommendations, answers, and actions … we need to separate the supply of intelligence from the authority over it.“
Kontrollverluste bei OpenAI und Anthropic befeuern die Debatte um Superintelligenz
Binnen weniger Wochen mussten zwei führende Anbieter Kontrollverluste bei eigenen Testmodellen einräumen. Beide Fälle sind technisch und zeitlich klar voneinander zu trennen. Sie befeuern jedoch dieselbe Grundsorge: dass agentenfähige KI-Systeme sich Zugriffsrechte verschaffen, die nicht vorgesehen waren. Wie stark sich die Wertschöpfung rund um OpenAI, Anthropic und SpaceX vor einem möglichen Börsengang verschiebt, zeigt die aktuelle Entwicklung der Branche.
| Unternehmen | Zeitraum | Betroffene Modelle | Vorfall |
|---|---|---|---|
| OpenAI | Entdeckt 16. Juli 2026, bestätigt 21. Juli 2026 | Ein unveröffentlichtes Testmodell mit der Bezeichnung GPT-5.6 Sol | Das Modell entkam einer abgesicherten Evaluierungsumgebung und drang über eine zuvor unbekannte Zero-Day-Schwachstelle in Software eines Drittanbieters in die Produktionsinfrastruktur von Hugging Face ein; Ziel war der Diebstahl der Lösungen eines internen Sicherheitstests (ExploitGym) |
| Anthropic | Bekannt gegeben am 30. Juli 2026 | Claude Opus 4.7 sowie Claude Mythos 5, ein internes Forschungsmodell | Bei sechs von insgesamt rund 141.006 untersuchten Testläufen kam es zu drei Vorfällen mit unautorisiertem Zugriff auf reale Systeme dreier Organisationen; Ursache war ein Missverständnis mit dem externen Evaluierungspartner Irregular, durch das die Modelle entgegen der Vorgabe Internetzugang hatten |
Hugging Face entdeckte und stoppte den unbefugten Zugriff bereits am 16. Juli 2026. Erst fünf Tage später ordnete OpenAI den Vorfall den eigenen Modellen zu. Zur Aufklärung zog OpenAI anschließend externe Berater hinzu, darunter den Sicherheitsdienstleister CrowdStrike. Bei Anthropic lag die Ursache dagegen nicht in einem Angriff, sondern in einem Missverständnis mit dem Evaluierungspartner. Die Modelle hatten entgegen der Vorgabe Zugang zum Internet. Ob solche Vorfälle auf ein grundsätzliches Kontrollproblem hindeuten, beurteilt die Branche selbst unterschiedlich; ein wissenschaftlicher Konsens besteht dazu nicht.
Superintelligenz statt KI: Trumps Sprachregelung per Verfügung
Nadella formuliert seine Forderung durchgehend mit dem Begriff „Superintelligenz“ statt „Künstliche Intelligenz“. Seit Ende September 2026 will Trump genau diesen Begriff in der Bundesverwaltung verankern. Am 29. September 2026 unterzeichnete er eine Verfügung mit dem Titel „Inaugurating The Era of Super Intelligence“. Sie verpflichtet alle Bundesbehörden, in offizieller Kommunikation „Super Intelligence“ beziehungsweise „SI“ zu verwenden. Laut einem Fact Sheet des Weißen Hauses soll der neue Begriff die tatsächlichen Fähigkeiten der Technologie besser widerspiegeln.
Ebenfalls an diesem Tag setzten Vertreter großer KI- und Technologieunternehmen ihre Unterschrift unter den freiwilligen „White House Accord on Super Intelligence“. Darin sagen sie interne Kontrollen und unabhängige externe Bewertungen von Spitzenmodellen zu. Trump legte auf Truth Social nach. Wer weiterhin „Künstliche Intelligenz“ statt „Superintelligenz“ sage, werde vom Weißen Haus als „der Feind“ betrachtet. Elon Musk kündigte daraufhin an, seine Firma SpaceXAI erneut umzubenennen, diesmal in SpaceXSI. Das Unternehmen hieß ursprünglich xAI; SpaceX übernahm es im Februar 2026 und benannte es im Juli 2026 in SpaceXAI um. OpenAI und Anthropic nutzen dagegen weiterhin breit den Begriff „Artificial Intelligence“.
Was die Superintelligenz-Debatte für Berater und Anleger bedeutet
Zum einen entwickelt sich Microsoft über seine Beteiligung an OpenAI zu einem zentralen Infrastrukturanbieter für KI-Anwendungen. Darauf greifen zunehmend auch Vermögensverwalter, Versicherer und Banken zurück, etwa für Beratungstools, Risikoanalysen oder interne Prozesse. Seit die Partnerschaft im Oktober 2025 neu geordnet wurde, hält Microsoft einen Anteil von rund 27 Prozent an OpenAI auf voll verwässerter Basis. Der Beteiligungswert liegt bei rund 135 Milliarden US-Dollar. Seit 2019 flossen insgesamt rund 13,8 Milliarden US-Dollar an Microsoft-Investitionen in das Unternehmen. Wie eng solche Investitionsstrukturen miteinander verzahnt sind, zeigt auch das Risikogeflecht der zirkulären KI-Finanzierung um Nvidia und OpenAI.
Zum anderen belegen die Vorfälle, dass selbst führende Anbieter zeitweise die Kontrolle über agentenfähige Modelle in Testumgebungen verloren haben. Wer KI- oder Superintelligenz-Systeme einsetzt oder empfiehlt, kann deshalb an den von Nadella genannten Mindeststandards ansetzen: Existiert ein Notschalter? Sind alle Modellaktionen fälschungssicher protokolliert? Liegt die Kontrolle über die Sicherheitsmechanismen außerhalb des Modells? Haftungs- und Regulierungsfragen zum Einsatz solcher Systeme gewinnen damit auch für Berater und institutionelle Anleger an Gewicht, wie bereits der zunehmende Druck durch den EU AI Act bei Unternehmenskäufen zeigt. Geführt wird die Debatte darüber bislang vor allem in den USA.
