Algorithmen-Kontrolle einführen

Der zunehmende Einsatz von Algorithmen und Künstlicher Intelligenz bei Entscheidungsprozessen wirft gesellschaftliche und ethische Fragen auf. Mehr Transparenz von relevanten algorithmischen Entscheidungsprozessen ist notwendig.

- Wenige Kernforderungen wurden umgesetzt

Algorithmen spielen in immer mehr Lebensbereichen eine entscheidende Rolle. Unternehmen bestimmen mit Hilfe von Alexa und Co, welche Angebote Verbraucher erhalten. Energieversorger wissen durch Smart-Home-Geräte, ob die Bewohner zu Hause sind, und Navigationsdienste entscheiden über die beste Strecke durch den Verkehr. Unklar ist, aufgrund welcher Kriterien solche Entscheidungen getroffen und wie die verschiedenen Kriterien gewichtet werden, denn Algorithmen fallen häufig unter das Geschäftsgeheimnis.

„Wir wollen zum Schutz der Verbraucherinnen und Verbraucher Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte überprüfbar machen, insbesondere im Hinblick auf mögliche unzulässige Diskriminierungen, Benachteiligungen und Betrügereien. Wir werden Mechanismen entwickeln, um bei bedenklichen Entwicklungen tätig werden zu können.“

„Wir werden zeitnah eine Daten-Ethikkommission einsetzen, die Regierung und Parlament innerhalb eines Jahres einen Entwicklungsrahmen für Datenpolitik, den Umgang mit Algorithmen, künstlicher Intelligenz und digitalen Innovationen vorschlägt.“

Automatisierte Entscheidungen auf Basis von Algorithmen können Verbraucherinnen und Verbrauchern das Leben erleichtern. Sie können aber auch zu falschen Entscheidungen führen und Verbraucher diskriminieren. Darum müssen relevante algorithmenbasierte Entscheidungsprozesse durch eine unabhängige, staatlich legitimierte Institution kontrolliert werden können.

Die Datenethikkommission sollte auch Verbrauchervertreter umfassen.

Die Datenethikkommission hat am 4. September 2018 ihre Arbeit aufgenommen. Berufen wurden 16 Mitglieder aus Zivilgesellschaft, Wissenschaft, Aufsicht und Wirtschaft. Die Kommission soll bis Oktober 2019 Vorschläge für Bundesregierung und Parlament zum Umgang mit algorithmenbasierten Systemen und Daten erarbeiten. Positiv sind die zeitnahe Einberufung der Kommission und die Berufung von Verbrauchervertretern in Person von Klaus Müller, Vorstand des vzbv. Inhaltlich können die Vorschläge noch nicht bewertet werden.

Mechanismen zur Überprüfbarkeit von algorithmenbasierten Entscheidungsprozessen wurden noch nicht entwickelt. Hier wird die Bundesregierung voraussichtlich die Empfehlungen der Datenethikkommission abwarten.