Algorithmen: Abschied nehmen von der Blackbox

• Der vzbv begrüßt die Empfehlungen der Datenethikkommission und fordert eine schnelle Umsetzung.  
• Menschen müssen Entscheidungen, die algorithmenbasierte Systeme treffen, nachvollziehen können.
• Der vzbv spricht sich wie die Datenethikkommission für eine Stärkung des Datenschutzes und der Datensicherheit aus.

Die Datenethikkommission der Bundesregierung hat heute ihren Abschlussbericht vorgelegt. Darin sind einstimmige Handlungsempfehlungen enthalten, wie algorithmische Systeme transparenter gestaltet und besser kontrolliert werden können. Der Verbraucherzentrale Bundesverband (vzbv) fordert die Bundesregierung auf, die Empfehlungen der Kommission schnellstmöglich umzusetzen.

„Abgelehnte Kreditanträge, hohe Versicherungstarife oder personalisierte Shopping-Angebote: Immer häufiger werden für Verbraucher maßgebliche Entscheidungen von digitalen Algorithmen getroffen. Für Betroffene und Aufsichtsinstitutionen ist nicht immer klar, welche Kriterien dahinterstecken. Es ist daher gut, dass die Datenethikkommission mit Unterstützung des BDI, Wissenschaftlern und Daten- und Verbraucherschützern Vorschläge gemacht hat, wie diese Systeme transparenter werden können. Nun ist die Bundesregierung am Zug. Sie muss die Empfehlungen der Kommission so schnell wie möglich umsetzen“, sagt Klaus Müller, Vorstand des vzbv und Mitglied der Datenethikkommission.

Transparenz ermöglichen

Eine drängende Aufgabe, die sich aus dem Gutachten der Datenethikkommission ergibt, ist die Einführung von mehr Informationspflichten für Anbieter und Auskunftsrechten für Verbraucher. Aus Sicht des vzbv ist es wichtig, dass algorithmenbasierte Entscheidungen keine Blackbox darstellen. In sensiblen Bereichen sollten Anbieter verpflichtet werden, zu erläutern, wie Ergebnisse zustande kommen. „Verbraucher müssen wissen, welche Daten Algorithmen bei kritischen Entscheidungen über sie einbeziehen und wie sie gewichtet werden. Nur so können sie sich gegen Diskriminierung wehren und Entscheidungen im Zweifelsfall anfechten“, so Müller. „Je größer das Schadenspotenzial für Verbraucher ist, desto transparenter müssen die Systeme sein.“

Aufsichtsbehörden stärken

Die Datenethikkommission hat klargestellt, dass Aufsichtsbehörden in sensiblen Anwendungsfeldern Einblick in algorithmische Systeme erhalten sollten. Die Bundesregierung muss deshalb die Aufsichtsinstitutionen mit den erforderlichen Ressourcen und Befugnissen ausstatten. Dadurch können algorithmische Systeme auf ihre Rechtsmäßigkeit überprüft und Rechtsverstöße sanktioniert werden. Um die Kontrolle weiter zu stärken, spricht sich der vzbv, wie von der Kommission vorgeschlagen, für die Schaffung eines Kompetenzzentrums auf Bundesebene aus. Es soll die bestehenden Aufsichtsbehörden mit technischem und methodischem Sachverstand unterstützen.

Europäische Regelung vorantreiben

Digitale Dienste kennen oft keine Grenzen. Aus diesem Grund hat die Datenethikkommission der Bundesregierung den Auftrag erteilt, sich für eine Europäische Verordnung einzusetzen. Diese soll generelle Regeln zum Umgang mit Algorithmen und Künstlicher Intelligenz (KI), zu Betroffenenrechten und Aufsichtsinstitutionen enthalten. „Die Herausforderungen durch die Digitalisierung können nur gemeinsam gelöst werden“, so Müller. „Deutschland sollte seine Ratspräsidentschaft im nächsten Jahr dazu nutzen, eine Europäische Verordnung für algorithmenbasierte Systeme voranzutreiben.“

Datenschutz stärken

In einem weiteren Teil des Gutachtens beschäftigt sich die Datenethikkommission mit dem Datenschutz. Dabei betont sie den hohen gesellschaftlichen Wert der neuen Möglichkeiten von Datenverarbeitung, weist aber gleichzeitig auf die immensen Risiken hin. Der vzbv spricht sich dafür aus den Empfehlungen der Kommission zu folgen. Die Bundesregierung muss sich dafür einsetzen, der Sammlung, der Nutzung und der Auswertung personenbezogener Daten enge Grenzen zu setzen. Das gilt besonders für die Zusammenführung unterschiedlicher Daten und die Bildung von persönlichen Profilen. Wie der vzbv sieht auch die Datenethikkommission die Anerkennung eines „Dateneigentums“ nicht als geeignetes Instrument an, um die bestehenden Probleme zu lösen.