Die vermutlich häufigste Frage beim Einsatz von KI im Unternehmen lautet inzwischen nicht mehr: „Kann die KI das?“
Sie lautet: „Darf ich das da eigentlich eingeben?“
Den Vertrag? Die Kundenakte? Das Gutachten? Die Excel-Liste mit den Umsätzen? Die Bewerbung? Die interne Risikoanalyse? Oder gleich den ganzen Datenraum, weil die KI schließlich versprochen hat, daraus in drei Minuten eine Zusammenfassung zu machen?
Technisch lautet die Antwort fast immer: natürlich.
Juristisch ist das Wort „natürlich“ dagegen traditionell mit Vorsicht zu genießen.
Denn nur weil eine Datei auf dem eigenen Bildschirm liegt, bedeutet das noch lange nicht, dass sie ohne Weiteres in ein KI-System hochgeladen werden darf. Und auch ein kostenpflichtiger Enterprise-Zugang verwandelt vertrauliche Informationen nicht auf wundersame Weise in frei verfügbares Trainingsfutter.
Die entscheidende Frage ist deshalb nicht, ob das Unternehmen die Datei hat.
Sondern ob es sie auf diese Weise verwenden darf.
Wer darf eigentlich über die Information bestimmen?
Das klingt zunächst nach juristischer Wortklauberei. Ist es aber nicht.
Nehmen wir ein Gutachten, das ein Kunde zur Verfügung gestellt hat. Darin befinden sich möglicherweise personenbezogene Daten. Der Text stammt von einem externen Sachverständigen. Einzelne Informationen sind Geschäftsgeheimnisse eines anderen Unternehmens. Und der Kunde selbst hat die Unterlagen wiederum im Rahmen einer Vertraulichkeitsvereinbarung erhalten.
Schon haben wir mehrere Personen und Unternehmen, die völlig unterschiedliche Rechte an ein und demselben Dokument haben können.
Der Absender einer Datei ist also nicht automatisch derjenige, der über sämtliche darin enthaltenen Informationen verfügen darf. Eine Zustimmung des Kunden kann deshalb hilfreich sein – sie ist aber kein Zauberstab. Wenn der Kunde selbst bestimmte Rechte nicht besitzt, kann er sie auch nicht weiterreichen.
Für die Praxis bedeutet das: Vor dem Upload sollte man nicht nur fragen „Hat der Kunde etwas dagegen?“, sondern vielmehr:
Woher stammen die Informationen – und wer darf über ihre weitere Verwendung entscheiden?
Das ist eine etwas unbequemere Frage.
Aber unbequeme Fragen haben im Risikomanagement bekanntlich eine gewisse Tradition.
Datenschutz ist nur eine Baustelle
Enthält das Dokument personenbezogene Daten, kommt natürlich die DSGVO ins Spiel.
Aber eben nicht als einzige Rechtsmaterie.
Entscheidend ist zunächst, ob die konkrete Verarbeitung personenbezogener Daten von einer Rechtsgrundlage gedeckt ist, ob der Zweck passt und ob die Verarbeitung erforderlich ist. Dabei gilt weiterhin das Prinzip der Datenminimierung.
Die praktische Konsequenz daraus ist ausgesprochen unspektakulär und gerade deshalb wichtig:
Vielleicht muss nicht der komplette Vertrag in die KI.
Vielleicht reichen drei Klauseln.
Vielleicht braucht die KI nicht den Namen des Kunden.
Vielleicht kann aus „Herr Müller, Vorstand der Beispiel AG“ schlicht „Person A“ werden.
Das ist keine technikfeindliche Sichtweise. Im Gegenteil: Gute KI-Nutzung beginnt oft nicht mit einem besseren Prompt, sondern mit der Frage, welche Daten die KI überhaupt braucht.
Und was macht der Anbieter mit den Daten?
Dann kommt die nächste Ebene.
Viele Unternehmen prüfen inzwischen, ob ihre Daten für das Training des KI-Modells verwendet werden. Das ist sinnvoll.
Es ist nur nicht die ganze Geschichte.
Denn ein Anbieter kann Daten auch für andere Zwecke verarbeiten: beispielsweise zur Missbrauchserkennung, für Sicherheitsanalysen, Telemetrie oder zur Produktverbesserung.
Deshalb genügt die Aussage „Kein Training mit Kundendaten“ allein nicht.
Man muss verstehen, welche Verarbeitung tatsächlich stattfindet.
Und hier wird es juristisch interessant: Welche Rolle ein Anbieter datenschutzrechtlich hat, entscheidet sich nicht allein danach, was oben auf einem Vertrag steht. Entscheidend sind die tatsächlichen Zwecke und Mittel der Verarbeitung. Für die eigentliche Bearbeitung einer Anfrage kann ein Anbieter Auftragsverarbeiter sein, für bestimmte eigene Zwecke dagegen selbst Verantwortlicher.
Mit anderen Worten, ein Vertrag kann die Realität beschreiben, kann sie aber nicht umetikettieren.
Der Vertrag mit dem Kunden hat auch noch ein Wörtchen mitzureden
Und dann gibt es noch eine Rechtsquelle, die bei KI-Projekten erstaunlich häufig übersehen wird, den Vertrag, den man vor Jahren unterschrieben hat.
Genauer gesagt, die Geheimhaltungsvereinbarung.
Viele NDAs erlauben es, vertrauliche Informationen an Berater, Dienstleister oder Erfüllungsgehilfen weiterzugeben, sofern diese entsprechend zur Vertraulichkeit verpflichtet sind.
Dann kann ein professionell eingebundener KI-Dienst durchaus zulässig sein.Aber eben nicht immer. Steht im Vertrag beispielsweise, dass Informationen nur einem bestimmten Personenkreis zugänglich gemacht werden dürfen, dass weitere Dienstleister vorher genehmigt werden müssen oder dass Daten nicht in externen Systemen verarbeitet werden dürfen, sieht die Sache anders aus.
Dann kann der Upload in die KI bereits einen Vertragsverstoß darstellen.
Und plötzlich entscheidet nicht die neueste KI-Verordnung über den Einsatz von künstlicher Intelligenz, sondern eine NDA-Klausel aus dem Jahr 2019.
Digitalisierung kann bemerkenswert nostalgisch sein.
Gerade deshalb ist der Blick in bestehende Geheimhaltungsvereinbarungen einer der wichtigsten praktischen Schritte vor einer breiten KI-Nutzung. Die zugrunde liegende rechtliche Prüfung kommt sogar zu dem Ergebnis, dass der konkrete NDA-Befund einer der praktisch wichtigsten Einzelpunkte der gesamten Betrachtung ist.
Berufsgeheimnisse und Insiderinformationen spielen in einer anderen Liga
Bei bestimmten Informationen steigt die Flughöhe noch einmal.
Rechtsanwälte, Steuerberater, Wirtschaftsprüfer und andere Berufsgeheimnisträger müssen zusätzliche gesetzliche Verschwiegenheitspflichten beachten. Für sie genügt die gewöhnliche Betrachtung eines Cloud-Dienstes nicht. Die Einbindung externer Dienstleister ist zwar grundsätzlich möglich, unterliegt aber besonderen Voraussetzungen.
Ähnlich sensibel wird es bei Insiderinformationen.
Gerade bei Transaktionen oder Unternehmen mit Kapitalmarktbezug können Informationen zusätzlich unter die Marktmissbrauchsverordnung fallen. Vertraulichkeit allein reicht dann nicht zwingend aus; auch Erforderlichkeit, Empfängerkreis und weitere kapitalmarktrechtliche Anforderungen können eine Rolle spielen.
Der Satz „Das ist doch nur eine Zusammenfassung“ hat im Übrigen noch nie eine gesetzliche Geheimhaltungspflicht außer Kraft gesetzt.
Was steht auf der Verpackung – und was ist wirklich eingeschaltet?
Selbst wenn rechtlich alles passt, bleibt die technische Seite.
Bei KI-Diensten gibt es häufig verschiedene Tarife, Konfigurationen und Sicherheitsoptionen. Ein Enterprise-Produkt kann beispielsweise andere Speicherfristen, Zugriffsmöglichkeiten oder Kontrollfunktionen haben als ein kostenloses Benutzerkonto.
Deshalb reicht es nicht, auf einer Herstellerseite zu lesen, welche Sicherheitsfunktionen „verfügbar“ sind.
Entscheidend ist, was im eigenen Vertrag und im tatsächlich verwendeten Tarif gilt.
Wo werden Daten verarbeitet?
Wie lange bleiben Prompts gespeichert?
Welche Unterauftragnehmer sind beteiligt?
Können Mitarbeiter des Anbieters auf Inhalte zugreifen? Zu welchem Zweck?
Welche Sicherheitsfunktionen sind aktiviert? Was wird geloggt?
Und arbeitet der Mitarbeiter tatsächlich mit dem freigegebenen Unternehmenskonto – oder hat er das Dokument doch schnell über seinen privaten Account hochgeladen?
Letzteres ist übrigens eine bemerkenswert effiziente Methode, sechs Monate Governance-Arbeit in ungefähr zwölf Sekunden zu umgehen.
Die Anbieterprüfung sollte deshalb nicht nur Papier prüfen, sondern auch die tatsächlich aktivierten technischen und organisatorischen Maßnahmen.
Muss ich meinem Kunden sagen, dass ich KI verwende?
Auch diese Frage wird inzwischen häufig gestellt.
Eine allgemeine Pflicht, jedem Geschäftspartner ungefragt mitzuteilen, dass bei der Leistungserbringung ein KI-System verwendet wird, besteht nicht.
Aber das ist nur die halbe Antwort.
Verträge können entsprechende Pflichten vorsehen. Auch die Erwartungen des Auftraggebers spielen eine Rolle.
Hat der Dienstleister ausdrücklich versprochen, eine Leistung persönlich oder ohne externe Systeme zu erbringen?
Ist der Auftraggeber selbst stark reguliert und muss wissen, welche Systeme für seine Daten eingesetzt werden?
Oder ersetzt die KI nicht nur ein Werkzeug, sondern plötzlich den eigentlichen fachlichen Kern der geschuldeten Leistung?
Je mehr davon zutrifft, desto eher kann eine Information oder Zustimmung erforderlich sein. Bleibt die KI dagegen ein unterstützendes Werkzeug und übernimmt ein Mensch vollständig die fachliche Verantwortung, spricht deutlich weniger für eine ungefragte Offenlegungspflicht.
Für regulierte Unternehmen ist damit noch nicht Schluss
Im Finanzsektor kommt häufig noch eine weitere Ebene hinzu.
Wo DORA oder andere regulatorische Anforderungen greifen, kann ein KI-Dienst zusätzlich als IKT-Drittdienstleister in das Lieferanten- und Drittparteienrisikomanagement einzubeziehen sein. Dann stellen sich neben Datenschutz und Geheimhaltung beispielsweise Fragen nach Registerpflichten, Vertragsanforderungen und Lieferantensteuerung.
Auch die KI-Verordnung spielt inzwischen mit.
Unternehmen müssen Maßnahmen zur KI-Kompetenz der Personen treffen, die mit KI-Systemen arbeiten. Gemeint ist dabei nicht, dass jeder Mitarbeiter zum Machine-Learning-Ingenieur umgeschult werden muss. Es geht um angemessene Kenntnisse, Regeln und Unterstützung für den jeweiligen Einsatzkontext. Schulungen, Leitfäden, Freigabeprozesse und klare Nutzungsregeln gehören deshalb zunehmend zur normalen Unternehmensorganisation.
Das ist sinnvoll.
Denn ein Mitarbeiter, der nicht weiß, welche Informationen er in ein KI-System eingeben darf, kann selbst den besten Vertrag erstaunlich schnell nutzlos machen.
Also: Was darf nun in die KI?
Die Antwort lautet nicht: nichts.
Und sie lautet ebenso wenig: alles, solange wir dafür bezahlen.
Die richtige Antwort ist wesentlich pragmatischer.Vor der Nutzung muss geklärt sein, ob das Unternehmen über die Inhalte verfügen darf, ob personenbezogene Daten rechtmäßig verarbeitet werden, was der KI-Anbieter tatsächlich mit den Informationen macht, ob Verträge und Geheimhaltungspflichten die Nutzung erlauben, und ob die technische Umgebung für die Sensibilität der Informationen geeignet ist.
Hinzu kommen je nach Unternehmen besondere Anforderungen aus Berufsrecht, Kapitalmarktrecht, DORA oder anderen Vorschriften. Treu und Glauben ist hier sicher auch ein Element des Zivilrechts, welches an dieser Stelle nicht unerwähnt bleiben sollte.
Und am Ende sollte weiterhin ein Mensch das Ergebnis prüfen und dafür die Verantwortung übernehmen.
Denn KI kann Arbeit beschleunigen, Texte zusammenfassen und erstaunlich gute Analysen liefern.
Was sie bislang nicht kann, ist die rechtliche Verantwortung für den Upload übernehmen.
