Sprachassistenten: Die Stimmen der Kritiker mehren sich

„Ich teile die Befürchtungen des Wissenschaftlichen Dienstes des Bundestags“, sagte Caspar zu Tagesspiegel Background Digitalisierung & KI. Probleme würden sich „aus der hohen Zahl von Fehlaktivierungen bei automatischen Sprachassistenten“ ergeben. Diese führten dazu, dass Gespräche immer wieder übertragen werden, weil das System das Aktivierungswort fälschlicherweise verstehe.

„Von diesen Datenerhebungen sind ausnahmslos alle Personen im Haushalt betroffen, ohne dass die relevanten rechtlichen Vorgaben vorliegen dürften“, kritisiert Caspar. „Insbesondere dürften im Haushalt lebende Kinder kaum einwilligungsfähig sein“, betont der Datenschutzexperte.

Zugriffskontrolle und Personalisierung stehen gegen Datenschutz und Privatsphäre

Ein weiteres Problem ist aus seiner Sicht „die fehlende Zugriffskontrolle durch eine personalisierte Steuerung, mit der eine Nutzung des Sprachsystems durch dritte unbefugte Personen verhindert werden könnte“.

Hier seien technische Lösungen gefordert, die sich nach Maßgabe der Datenschutzgrundversordnung (DSGVO) „nicht zuletzt im Rahmen der Grundsätze von Privacy by Design und Privacy by Default ergeben“. Caspar fordert, nach Maßgabe des Grundsatzes der Datenminimierung „Systeme zu entwickeln, bei denen künftig eine Eingabe auf dem Gerät und nicht mehr durch Übermittlung in die Cloud erfolgt“.

Rechtsgrundlage ist zweifelhaft

In der Vergangenheit war bekannt geworden, dass eine Auswertung der gespeicherten Sprachsequenzen durch Mitarbeiter bei Amazon erfolgt. Die verschriftlichten Informationen sollen dem Unternehmen nach dazu dienen, die zugrunde liegende Künstliche Intelligenz (K)) zu trainieren:

„Erheblich zweifelhaft“ sei dafür jedoch „die Rechtsgrundlage für die Auswertung und Speicherung der Daten“. Insgesamt zeige sich: „Die Lösung der Datenschutzfragen bei automatischen Sprachsystemen liegt zunächst einmal auf der Ebene des geltenden Datenschutzrechts. Insoweit ergibt sich eher ein Vollzugsproblem als ein Regelungsdefizit.“

 

Foto: Shutterstock

Abonnieren
Benachrichtige mich bei
0 Comments
Inline Feedbacks
View all comments
Weitere Artikel
Wissen, was los ist – mit den Newslettern von Cash.
Wissen, was los ist – mit den Newslettern von Cash.