Politik zu zögerlich mit Regeln für Algorithmen

• EU und Bund setzen Empfehlungen der Datenethikkommission unzureichend um.
• Baustellen unter anderem: Stärkere Aufsicht sowie Regeln für Profilbildung und Transparenz.
• Leichte Fortschritte bei Kennzeichnungs- und Dokumentationspflichten​​.

Die EU und die Bundesregierung hinken bei einem rechtlichen Rahmen für das digitale Zeitalter hinterher. Gut sechs Monate nach ihrem Abschlussbericht sind die Empfehlungen der Datenethikkommission (DEK) wie zum Beispiel die Stärkung von Aufsichtsbehörden für algorithmische Systeme, Regeln für Profilbildung oder Transparenz für Betroffene nur unzureichend aufgegriffen. Eine vzbv-Evaluierung zehn relevanter Empfehlungen ergeben für Bund und EU: Wirklich zufriedenstellend schneiden Europa und Deutschland in keinem einzigen Aspekt ab. Die EU Kommission arbeitet zur Zeit an einer Regulierung zur Künstlichen Intelligenz (KI) und die Bundesregierung muss sich, auch im Rahmen ihrer Ratspräsidentschaft, stärker für eine Umsetzung der Empfehlungen in Europa einbringen.

„Das Zeitalter der Künstlichen Intelligenz hat längst begonnen. Algorithmen entscheiden, welche Versicherungsleistungen wir bekommen, ob wir zu Vorstellungsgesprächen eingeladen werden oder Banken uns für kreditwürdig erachten. Umso wichtiger ist es, algorithmische Systeme und KI zu regulieren. Verbraucher müssen sich darauf verlassen können, dass sie nicht diskriminiert werden und ihre Daten nicht missbraucht werden. Die DEK hatte dazu vor mehr als sechs Monaten wichtige Empfehlungen unter anderem für mehr Transparenz, Qualitätsanforderungen, Regeln bei Profilbildung und eine effektive Kontrolle durch Aufsichtsbehörden ausgesprochen. Es ist enttäuschend, dass EU und Bundesregierung diese bislang nicht oder nur unzureichend umgesetzt haben“, sagt Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands (vzbv).

Umsetzungs-Check: noch viel Luft nach oben

Im Oktober 2019 hatte die Datenethik-Kommission (DEK) 75 Empfehlungen vorgestellt. Zehn wichtige Empfehlungen wurden bis heute nicht oder nur unzureichend aufgegriffen, wie eine Evaluation des vzbv ergibt. Bislang überhaupt nicht aufgegriffen wurden gleich drei Empfehlungen: Die Schaffung eines bundesweiten Kompetenzzentrums für Algorithmische Systeme, stärkere Auskunftspflichten der Betreiber der Systeme sowie die Pflicht zur Veröffentlichung einer Risikofolgenabschätzung, sollten algorithmische Systeme ein gewisses Schädigungspotenzial haben - etwa wenn sie anfällig für Diskriminierung sind, oder stark in die Persönlichkeitsrechte Einzelner eingreifen können.

Lichtpunkte bei Kennzeichnungs- und Dokumentationspflichten

Der vzbv vermisst zudem ein deutliches Bekenntnis zu einem verschärften Rechtsrahmen für Profilbildung und Scoring und einem Verbot der De-Anonymisierung bereits anonymer Daten. Einer von wenigen Lichtpunkten ist dagegen die von der EU geplante Kennzeichnungspflicht für algorithmische Systeme. Diese ist bislang aber ebenso halbherzig wie der Plan, eine Pflicht zur Dokumentation und Protokollierung algorithmischer Systeme einzuführen. Beide sind Teil einer geplanten europäischen Regelung für KI. Diese bleibt leider weit hinter den Empfehlungen der DEK zurück und spart viele kritische Systeme aus.. Etwa wenn Plattformen von Nutzern Persönlichkeits-Analysen auf Grundlage von Social-Media-Daten erstellen, die entscheiden, wer Zugang zu welchen Diensten und Märkten erhält. Auch im Rahmen ihrer Ratspräsidentschaft, sollte sich die Bundesregierung dafür einsetzen, dass die Empfehlungen der DEK hier stärker berücksichtigt werden.

Die Bundesregierung hat die DEK im Juli 2018 eingesetzt. Als Mitglieder wurden neben dem vzbv Vertreter der Wirtschaft, Wissenschaft und Zivilgesellschaft benannt. ​Der vzbv wird die Umsetzung einiger wesentlicher Empfehlungen der DEK durch die Bundesregierung und die EU-Kommission regelmäßig evaluieren. ​

Die komplette Evaluierung der Umsetzung der Empfehlungen der Datenethikkommission finden Sie im Download-Bereich.