Algorithmen-Kontrolle einführen

Der zunehmende Einsatz von Algorithmen und Künstlicher Intelligenz bei Entscheidungsprozessen wirft gesellschaftliche und ethische Fragen auf. Mehr Transparenz von relevanten algorithmischen Entscheidungsprozessen ist notwendig.

- Wenige Kernforderungen wurden umgesetzt

Algorithmen spielen in immer mehr Lebensbereichen eine entscheidende Rolle. Unternehmen bestimmen mit Hilfe von Alexa und Co, welche Angebote Verbraucher erhalten. Energieversorger wissen durch Smart-Home-Geräte, ob die Bewohner zu Hause sind, und Navigationsdienste entscheiden über die beste Strecke durch den Verkehr. Unklar ist, aufgrund welcher Kriterien solche Entscheidungen getroffen und wie die verschiedenen Kriterien gewichtet werden, denn Algorithmen fallen häufig unter das Geschäftsgeheimnis.

„Wir wollen zum Schutz der Verbraucherinnen und Verbraucher Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte überprüfbar machen, insbesondere im Hinblick auf mögliche unzulässige Diskriminierungen, Benachteiligungen und Betrügereien. Wir werden Mechanismen entwickeln, um bei bedenklichen Entwicklungen tätig werden zu können.“

„Wir werden zeitnah eine Daten-Ethikkommission einsetzen, die Regierung und Parlament innerhalb eines Jahres einen Entwicklungsrahmen für Datenpolitik, den Umgang mit Algorithmen, künstlicher Intelligenz und digitalen Innovationen vorschlägt.“

Automatisierte Entscheidungen auf Basis von Algorithmen können Verbraucherinnen und Verbrauchern das Leben erleichtern. Sie können aber auch zu falschen Entscheidungen führen und Verbraucher diskriminieren. Darum müssen relevante algorithmenbasierte Entscheidungsprozesse durch eine unabhängige, staatlich legitimierte Institution kontrolliert werden können.

Die Datenethikkommission sollte auch Verbrauchervertreter umfassen.

Die Datenethikkommission hat am 4. September 2018 ihre Arbeit aufgenommen. Berufen wurden 16 Mitglieder aus Zivilgesellschaft, Wissenschaft, Aufsicht und Wirtschaft. Die Kommission hat im Oktober 2019 Vorschläge zum Umgang mit algorithmenbasierten Systemen und Daten in einem Abschussbericht präsentiert. Die Vorschläge der Datenethikkommission sind aus Verbrauchersicht positiv ausgefallen und haben die Diskussionen über den Umgang mit algorithmischen Systemen intensiviert. Der vzbv hat im Oktober 2019 die Empfehlungen ausführlich bewertet und aufgezeigt, welche Aufgaben sich hieraus für die Bundesregierung und die EU-Kommission ergeben. Eine konsequente Umsetzung der Empfehlungen würde die Risiken algorithmischer Systeme minimieren und gleichzeitig Verbraucherschutz, Rechtsstaatlichkeit und das soziale Zusammenleben fördern.

Positiv war die zeitnahe Einberufung der Kommission und die Berufung der Verbraucherseite in Person von Klaus Müller, Vorstand des vzbv. Eine Umsetzung der Vorschläge steht jedoch ganz am Anfang. Die Erforderlichkeit wird auch innerhalb der Bundesregierung unterschiedlich bewertet. Die Bundesregierung widmet sich dem Thema und auch den aufgeworfenen Handlungsempfehlungen an verschiedene Stellen, so beispielsweise im Weißbuch der EU-Kommission zu Künstlicher Intelligenz. Die Umsetzung des Koalitionsversprechens kann in den bisherigen Aktivitäten – mit Ausnahme des Einsetzens der Datenethikkommission – jedoch noch nicht gesehen werden.