Er habe sich mit einer Anfrage an die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) sowie die Deutsche Industrie- und Handelskammer (DIHK) gewandt, teilt der Votum Verband mit. Anlass seien Fälle, in denen marktführende KI-Chatbots wie ChatGPT (OpenAI) und Claude (Anthropic) in konkreten Konversationen individuelle Versicherungsempfehlungen aussprechen – ohne über die Erlaubnis nach Paragraf 34d GewO zu verfügen, die dafür erforderlich sei.
Was für viele Verbraucher wie ein harmloses Gespräch mit einem digitalen Assistenten wirke, habe weitreichende rechtliche Implikationen: In dokumentierten Dialogen empfahlen die genannten KI-Systeme laut Votum konkrete Versicherungsprodukte existierender Anbieter – inklusive Tarifbezeichnung und Begründung auf Basis einer vermeintlichen Bedarfsanalyse.
„Sobald ein System nicht mehr nur allgemeine Hinweise gibt, sondern eine individuelle Produktempfehlung ausspricht, bewegt es sich im Bereich der erlaubnispflichtigen Versicherungsberatung“, erklärt Martin Klein, Geschäftsführender Vorstand des Votum Verbands. „Die entscheidende Frage lautet: Wer haftet, wenn der Verbraucher auf Basis einer fehlerhaften KI-Empfehlung eine ungeeignete Versicherung abschließt?“, so Klein.
Haftungsvakuum im Schadensfall
Der Verband sieht erhebliche Risiken für Verbraucherinnen und Verbraucher. Während zugelassene Versicherungsvermittler einer gesetzlich geregelten Beratungs- und Dokumentationspflicht unterliegen und für Beratungsfehler haften, existiere bei den KI-Anbietern weder eine berufsrechtliche Zulassung noch eine entsprechende Haftungsabsicherung. „Verlässt sich der Verbraucher auf eine fehlerhafte Empfehlung, droht ihm im Schadensfall ein Haftungsvakuum“, heißt es in der Mitteilung.
„KI-Systeme vermitteln durch ihre scheinbar kompetenten Antworten ein Gefühl der Verlässlichkeit“, so Votum weiter. Doch die Empfehlungen basierten weder auf einer qualifizierten Risikoanalyse, noch enthielten sie eine Angabe, auf welcher Markterhebung sie erteilt werden. Fehlerhafte oder veraltete Datengrundlagen bleiben für den Nutzer demnach unsichtbar.
Ein wesentlicher Bestandteil qualifizierter Versicherungsvermittlung sei die kontinuierliche Begleitung des Kunden, so Votum. Ändere sich die Lebenssituation – etwa durch Umzug, Familienzuwachs oder Wertveränderungen im Haushalt – passe ein verantwortungsvoller Vermittler den Versicherungsschutz an. Zudem biete er die unverzichtbare Unterstützung im Schadenfall. Eine KI-Konversation hingegen ende mit dem Schließen des Browserfensters.
Verbraucherschutzstandards durch die Hintertür ausgehebelt?
„Die Frage ist nicht, ob wir technologischen Fortschritt wollen. Die Frage ist, ob wir zulassen, dass bewährte Verbraucherschutzstandards durch die Hintertür ausgehebelt werden, nur weil der Berater diesmal kein Mensch, sondern ein Algorithmus ist“, betont Klein.
Der Votum Verband fordert die zuständigen Aufsichtsbehörden auf, „zeitnah eine klare regulatorische Einordnung vorzunehmen und gegebenenfalls aufsichtsrechtliche Maßnahmen zu prüfen“.
KI-Systeme bieten als unterstützendes Werkzeug in der Hand qualifizierter Vermittler erhebliches Potenzial zur Effizienzsteigerung und Beratungsoptimierung, betont der Verband. Entscheidend sei jedoch, dass gleiche rechtliche Rahmenbedingungen gelten und der gesetzlich verankerte Verbraucherschutz gewahrt bleibt. Demnach dürfen verbindliche Versicherungsempfehlungen ausschließlich von Personen und Unternehmen ausgesprochen werden, die über die entsprechende Erlaubnis und Haftungsabsicherung verfügen – „nur so lassen sich Verbraucher vor ungeprüften Empfehlungen mit potenziell weitreichenden finanziellen Folgen schützen“, so Votum.
