Wenn KI-Systeme eigenständig handeln, ist das Ergebnis nicht immer vorhersehbar. Pegasystems nutzt die Halloween-Symbolik, um vor den Risiken unkontrollierter KI-Agenten zu warnen. Ohne klare Vorgaben, Regeln und Überwachung droht kein technologisches Wunder, sondern Chaos – insbesondere in regulierten Branchen wie dem Finanzwesen.
„Schon kleine Unterschiede in den Eingaben können dazu führen, dass agentenbasierte KI in vergleichbaren Fällen zu unterschiedlichen Entscheidungen kommt – und dadurch Kunden ungleich behandelt“, sagt Michael Baldauf, Financial Services Senior Director bei Pegasystems. Wenn KI-Agenten völlig autonom agieren, bestehe zudem die Gefahr, dass sie Aktionen doppelt ausführen, widersprüchliche Mitteilungen versenden oder gesetzliche Vorgaben verletzen, indem sie sensible Daten weitergeben.
Auch die Reihenfolge der Prozessschritte kann variieren, wenn Agenten ohne übergreifende Steuerung handeln. Das erschwert die Einhaltung von Prüf- und Dokumentationspflichten – ein gravierendes Problem etwa für Banken, die strengen Compliance-Anforderungen unterliegen. „Aufsichtsbehörden werden kaum Verständnis dafür aufbringen, dass Kreditprozesse einer Bank jedes Mal anders ablaufen und Compliance-Prüfungen nur manchmal stattfinden“, warnt Baldauf.
KI braucht klare Regeln und Strukturen
Pegasystems betont, dass KI-Agenten grundsätzlich wertvolle Werkzeuge sind. Sie können komplexe Aufgaben automatisieren, Datenquellen verknüpfen und Entscheidungsvorschläge in Echtzeit liefern. „Was sie jedoch nicht können, ist Prozesse frei selbst gestalten. Sie sind spezialisierte Helfer, die ohne Anleitung nicht effizient, sicher und regelkonform zusammenarbeiten“, so Baldauf.
Wie bei Teams aus Menschen erfordert auch der Einsatz von KI-Agenten feste Abläufe und Verantwortlichkeiten. Erst durch ein zentrales Prozessmodell können Organisationen sicherstellen, dass sämtliche Schritte korrekt und nachvollziehbar ausgeführt werden.
Case-Management als Sicherheitsrahmen
Ein strukturierter Rahmen ist laut Pegasystems entscheidend, um Risiken zu vermeiden und Effizienz zu sichern. „Mit einem Case-Management-System können Unternehmen einen strukturierten Prozessrahmen schaffen, Zuständigkeiten, Datenflüsse und Entscheidungsregeln zentral modellieren und KI-Agenten als ausführende oder unterstützende Einheiten einbinden. So bleiben Prozesse transparent, konsistent und auditierbar“, erklärt Baldauf.
