Stellen Sie sich einen typischen Arbeitsalltag vor: Ein Neukunde schickt Ihnen ein umfangreiches PDF mit alten Vertragsunterlagen. Um Zeit zu sparen, lassen Sie die Datei von Ihrem neuen KI-Assistenten zusammenfassen. Das Ergebnis wirkt auf den ersten Blick schlüssig brillant und übersichtlich. Sie kopieren die Daten direkt in Ihr Maklerverwaltungsprogramm (MVP) und leiten die nächsten Schritte ein.
Was Sie nicht ahnen: In diesem PDF war eine für das menschliche Auge völlig unsichtbare Textzeile versteckt, die den KI-Assistenten anwies, die Kontoverbindung in der Zusammenfassung zugunsten eines Betrügers zu ändern. Die KI hat die versteckte Anweisung befolgt, ohne sie als solche zu erkennen.
Willkommen in der Ära der Prompt Injection – dem Phishing der KI-Generation. Während beim klassischen Phishing der Mensch getäuscht wird, um Passwörter preiszugeben, zielt diese neue Angriffsart darauf ab, unsere digitalen Helfer zu manipulieren. Die Angreifer überlisten nicht mehr Sie, sondern das System, das in Ihrem Namen handelt.
Vom getäuschten Menschen zum fehlgeleiteten System
Die Versicherungsbranche hat über Jahre gelernt, Phishing durch Filter, Schulungen und Multi-Faktor-Authentifizierung in den Griff zu bekommen. Doch bei KI-Agenten stehen wir wieder ganz am Anfang der Lernkurve. Das Kernproblem nennt sich indirekte Prompt Injection.Hierbei muss ein Angreifer gar nicht direkt auf Ihre Systeme zugreifen. Es reicht völlig, wenn er manipulierte Anweisungen in E-Mails, Dokumenten oder auf Webseiten platziert. Sobald ein KI-System – das mit Ihren legitimen Zugriffsrechten ausgestattet ist – diese externen Inhalte liest, kann es diese fälschlicherweise als Arbeitsanweisung interpretieren.
Für Finanzberater, Makler und Versicherer ist dieses Risiko extrem nah an ihrem Alltag. Ihre Arbeit findet in CRM-Systemen, Versicherungsportalen, Vergleichsrechnern und E-Mail-Postfächern statt. Wenn ein KI-Agent hier fremdgesteuert wird, fließen falsche Informationen leise und unbemerkt in Beratungsprotokolle, E-Mail-Entwürfe oder Formulareingaben ein. Ein plausibel klingendes, aber manipuliertes KI-Ergebnis wird so Teil des offiziellen Geschäftsprozesses.
Wie sich die Branche wappnen muss
Eine groß angelegte Feldstudie aus dem Jahr 2025 mit knapp 20.000 Beschäftigten hat gezeigt: Reines Bewusstseinstraining (Awareness) senkt Fehlerraten beim Phishing im Schnitt nur um 1,7 Prozentpunkte. Bei der Arbeit mit KI reicht ein bloßes „Seien Sie vorsichtig“ also erst recht nicht aus. Es braucht technische und organisatorische Leitplanken:
| Maßnahme | Was das bedeutet |
|---|---|
| Sicherheit in den Arbeitsfluss integrieren („Shift Left“) | Kontrollen dürfen kein separates, lästiges Tool sein. Sie müssen direkt im E-Mail-Programm oder CRM stattfinden. Beispielsweise durch deutliche Warnhinweise, wenn die KI externe Quellen verarbeitet, oder sichtbare Quellenangaben neben den KI-Antworten. |
| Rechte strikt limitieren und trennen | IT-Verantwortliche müssen sicherstellen, dass KI-Agenten nicht alles dürfen. Ein System, das externe Dokumente lesen darf (Leserecht), sollte nicht eigenmächtig Transaktionen auslösen oder Datenbanken überschreiben dürfen (Schreibrecht). |
| Neue Meldewege etablieren | So wie sich der “Phishing-Melden“-Button etabliert hat, braucht es einen unkomplizierten Weg, um auffällige KI-Ausgaben zu melden – etwa wenn der Assistent plötzlich Zahlungsdaten ändert oder merkwürdige Freigaben empfiehlt. |
| Lückenlose Protokollierung | Es muss im Hintergrund lückenlos aufgezeichnet werden, welche Daten die KI verarbeitet hat und auf welcher Basis sie eine Aktion vorgeschlagen hat. |
Kontrollierbarkeit sichert die Versicherbarkeit
Aus Sicht des Cyberrisikos verwischen durch Prompt Injection die Grenzen: Ist ein manipulierter KI-Output nun ein Cybervorfall, ein Betrugsversuch oder am Ende ein klassischer Beratungsfehler, für den die Berufshaftpflicht aufkommen muss? Im Schadenfall wird die Rekonstruktion entscheidend sein. Nur Prozesse, die sich überwachen und nachvollziehen lassen, bleiben auf Dauer versicherbar. Die Gefahr beginnt somit nicht erst bei vollautonomen Robotern, sondern heute, in den Systemen, denen wir bereits Vertrauen und Handlungsspielraum schenken.
So integrieren Sie die Lösung in Ihren Makler- und Berateralltag:
| Grundregel | Inhalt |
|---|---|
| KI-Vier-Augen-Prinzip | Betrachten Sie KI-generierte Zusammenfassungen, E-Mail-Entwürfe und Formulareinträge immer als Entwurf, niemals als verifizierte Wahrheit. |
| Fokus auf kritische Daten | Kontrollieren Sie bei KI-Zuarbeiten grundsätzlich händisch die sensibelsten Punkte nach: Kontodaten, Empfängernamen, Vertragsdetails und Schadenangaben. Vergleichen Sie diese immer kurz mit der Originalquelle. |
| Klare Freigaberegeln im Team | Führungskräfte müssen verbindlich festlegen, bei welchen Arbeitsschritten die KI nur vorschlagen darf und wo der Mensch zwingend – und bewusst – den finalen Freigabeknopf drücken muss. |
Wenn Bewusstsein, Technik und klare Prozesse zusammenwachsen, lässt sich die Effizienz der KI gefahrlos nutzen, ohne blind die Kontrolle abzugeben.
Autor Andrew Saula ist Leiter Cyber-Sicherheit und Incident Response bei Baobab Insurance. Saula verfügt über 13 Jahr Erfahrung in der Sicherheitsbranche.
