„Wer im Wettlauf um die leistungsfähigste KI die Sicherheit dem Entwicklungstempo unterordnet, gefährdet am Ende die eigene Bevölkerung – das gilt für die USA genauso wie für China. Denn ein außer Kontrolle geratenes KI-System unterscheidet nicht zwischen Freund und Feind und macht auch vor der eigenen Infrastruktur nicht halt.“
Gefahr für kritische Infrastrukturen
„Der Worst Case wäre ein KI-System, das seine Grenzen überwindet und sich unserer Kontrolle entzieht. Kritische Infrastrukturen könnten sowohl durch gezielt eingesetzte KI-Agenten als auch im Extremfall durch selbstständig agierende Systeme angegriffen werden. Die Folgen reichen von Versorgungsausfällen bis zu Gefahren für die öffentliche Sicherheit.“
Bisherige Schutzwände stoßen an Grenzen
„Das eigentliche Problem ist: Bisherige Schutzwände – wie Firewalls, Zugriffsrechte oder isolierte Systemumgebungen – drohen unzureichend zu werden. Sie sollen eigentlich verhindern, dass KI außerhalb ihrer Grenzen agiert. Doch je besser KI beim Programmieren und Aufspüren von Schwachstellen wird, desto eher kann sie genau diese technischen Barrieren selbst aushebeln.“
Autor Christoph Knöll ist KI-Experte und Geschäftsführer der KI-Beratung Neurawork.
