Der KI-Entwickler Anthropic hat sich für eine globale Verlangsamung bei der Entwicklung leistungsfähiger KI-Systeme ausgesprochen. Hintergrund sind Befürchtungen, dass künftige Systeme in der Lage sein könnten, sich selbst zu verbessern und sich damit zunehmend der menschlichen Kontrolle zu entziehen.
Christoph Knöll, Geschäftsführer der KI-Beratung Neurawork, nimmt die Warnung ernst: „Die Warnung von Anthropic sollte ernst genommen werden. Es ist durchaus denkbar, dass wir in den kommenden Jahren KI-Systeme erleben, die sich teilweise selbst verbessern und Entwicklungssprünge auslösen, die heute noch schwer vorhersehbar sind.“
Eine weltweite Entwicklungspause hingegen hält er für nicht realisierbar. „Eine weltweite Entwicklungspause halte ich jedoch für unrealistisch. Weder die USA noch China werden ihre KI-Programme freiwillig stoppen. Solange KI wirtschaftliche, militärische und geopolitische Vorteile verspricht, wird der Wettbewerb weitergehen“, sagt Knöll.
Regulierung ist notwendig – aber kein Allheilmittel
Knöll sieht Regulierung als notwendig an, zweifelt aber an ihrer Wirksamkeit: „Regulierung ist notwendig, wird aber nicht ausreichen. Kein Gesetz der Welt wird verhindern, dass leistungsfähigere KI-Systeme entwickelt werden. Entscheidend wird sein, wie schnell Unternehmen und Gesellschaft lernen, mit dieser Entwicklung umzugehen.“
Die unmittelbaren wirtschaftlichen Risiken für Unternehmen bewertet der Experte als besonders gravierend. „Für Unternehmen liegen die größten unmittelbaren Risiken einer Super-KI in den wirtschaftlichen Folgen. KI könnte Produkte entwickeln, Forschung betreiben und Entscheidungen treffen, die Menschen kaum noch nachvollziehen können. Unternehmen, die diese Systeme nicht beherrschen oder keinen Zugang dazu haben, könnten innerhalb weniger Jahre erhebliche Marktanteile verlieren oder sogar vom Markt verschwinden.“
Die entscheidende Frage sei daher nicht, ob die Entwicklung aufzuhalten sei, sondern wie man mit ihr umgehe. „Die Technologie wird kommen. Die entscheidende Frage ist daher nicht, ob wir sie aufhalten können, sondern wie Unternehmen und Gesellschaft lernen, mit ihr umzugehen und ihre Risiken zu beherrschen. Jedes Unternehmen sollte deshalb umgehend prüfen, welche Prozesse, Produkte und Geschäftsmodelle durch KI bedroht oder verbessert werden können. Wer damit zu lange wartet, verliert“, sagt Knöll.
