Eine beschädigte Vektordatenbank, ein Chatbot, der aus Versehen überzogene Rabatte gewährt, ein KI-Agent, der binnen Sekunden eine komplette Produktionsdatenbank samt Backups löscht: Solche Vorfälle sind nach Einschätzung des Digitalverbands Bitkom längst keine Ausnahmefälle mehr. In seinem neuen Leitfaden „Verantwortungsvoller KI-Einsatz: Risiken verstehen, steuern und versichern” sammelt der Verband Praxisbeispiele und liefert Unternehmen, Versicherern und Maklern eine Orientierung zur Frage, wer für Schäden aus dem KI-Einsatz aufkommt.
Der Befund zur Verbreitung ist eindeutig. 57 Prozent der Unternehmen in Deutschland setzen demnach bereits KI ein, 2025 waren es noch 36 Prozent, vor zwei Jahren lediglich 20 Prozent. Mit dieser Dynamik wächst laut Bitkom auch die Risikolandschaft. Der Leitfaden betont dabei einen zentralen Punkt: KI schafft in aller Regel keine völlig neuen Schadenarten, sondern wirkt als Risikomultiplikator innerhalb bereits bekannter Risikofelder. Fehler, die früher Einzelfälle blieben, können sich durch die Skalierbarkeit von KI-Systemen in kurzer Zeit vielfach reproduzieren, bevor sie überhaupt auffallen.
Der Leitfaden strukturiert mögliche Schadenbilder entlang mehrerer Dimensionen, unter anderem danach, ob ein Unternehmen selbst betroffen ist oder Dritte, und nach der Art des Schadens: Sach- und Personenschäden einerseits, Vermögensschäden andererseits. Besonderes Gewicht erhalten dabei reine Vermögensschäden ohne vorausgehenden Sach- oder Personenschaden, etwa wenn ein KI-System fehlerhafte Zahlungsfreigaben erteilt oder eine Nachfrageprognose danebenliegt und so Überbestände verursacht.
Governance-Risiken als dritte Schadenkategorie
Ergänzt wird diese Systematik um eine dritte Kategorie: Governance-, Compliance- und Steuerungsrisiken. Gemeint sind Schäden, die nicht aus einem klassischen Schadenereignis entstehen, sondern aus Defiziten in Organisation, Aufsicht oder Verantwortungszuordnung, etwa Bußgelder nach dem EU AI Act. Bei besonders schweren Verstößen können diese bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes betragen.
Für die Praxis dürfte vor allem die Einordnung interessant sein, was bestehende Policen bereits abdecken. Schäden an KI-Modellen oder Trainingsdaten selbst können laut Leitfaden über Cyberversicherungen erfasst sein, sofern ein Cyberangriff vorliegt. Klassische Sachversicherungen greifen bei physischen Folgeschäden, etwa durch fehlgesteuerte Produktionsprozesse. In Anlehnung an „Silent Cyber” führt der Bitkom hierfür den Begriff „Silent AI” ein: Allgefahren-Konzepte erfassen KI-bedingte Schäden häufig bereits, ohne dass diese im Bedingungswerk ausdrücklich geregelt wären.
Eine echte Deckungslücke sieht der Leitfaden dagegen bei reinen Vermögensschäden infolge von KI-Fehlentscheidungen im eigenen Unternehmen. Hier fehlt bislang weitgehend ein eigenständiges Deckungskonzept. Die Herausforderung liegt in der Abgrenzung zwischen einer versicherbaren Fehlfunktion des Systems und einem klassischen, nicht versicherbaren unternehmerischen Risiko. Erste Ansätze gibt es bereits in Form performancebasierter Garantieversicherungen, die an vertraglich definierte Leistungsparameter eines KI-Modells anknüpfen, etwa eine zugesicherte Fehlerquote.
Haftung bei Schäden gegenüber Dritten
Bei Drittschäden verweist der Leitfaden auf bestehende Haftungsregime: deliktische Haftung, Produkthaftung und vertragliche Haftung bleiben grundsätzlich auch auf KI-bedingte Schäden anwendbar. Der EU AI Act selbst begründet keine eigenen zivilrechtlichen Schadensersatzansprüche, konkretisiert aber zunehmend den Sorgfaltsmaßstab, an dem sich Unternehmen messen lassen müssen. Besondere Brisanz bekommt dabei die Frage, wann ein Unternehmen vom bloßen Betreiber eines KI-Systems faktisch in eine Hersteller- oder Quasi-Herstellerrolle hineinwächst, etwa durch eigenes Nachtrainieren oder die Vermarktung unter eigener Marke, mit entsprechenden zusätzlichen Haftungsrisiken.
KI-Agenten verlangen menschliche Kontrolle
Besondere Aufmerksamkeit widmet der Leitfaden KI-Agenten, die eigenständig Aufgaben planen und ausführen. „Besonders relevant wird das bei KI-Agenten, die eigenständig Aufgaben planen und Aktionen ausführen können. Mit wachsendem Handlungsspielraum steigen die Anforderungen an Zugriffsrechte, Freigabeprozesse, Monitoring und menschliche Kontrolle”, erklärt Lukas Spohr, Experte für Digital Insurance und InsurTech beim Bitkom. Als zentrales Sicherungsinstrument nennt der Leitfaden „Human-in-the-Loop”-Ansätze: Bei kritischen Aktionen wie Massen-E-Mails, Datenbankänderungen oder Finanztransaktionen soll eine explizite menschliche Freigabe zwingend vorgeschaltet sein.
