Keine Diskriminierung durch Blackbox Algorithmen

• Repräsentative Online-Umfrage zeigt: 77 Prozent der Befragten wollen, dass der Staat automatisierte Entscheidungen überprüfen kann.
• Politische und gesellschaftliche Akteure müssen gemeinsam dafür sorgen, Chancen von automatisierten Entscheidungen zu nutzen und Risiken zu minimieren.
• Der vzbv veröffentlicht 15 Thesen zum Umgang mit algorithmenbasierten Entscheidungsprozessen.

Algorithmen spielen in immer mehr Lebensbereichen eine entscheidende Rolle. Unternehmen bestimmen mit Hilfe von Alexa und Co, welche Angebote Verbraucher erhalten. Energieversorger wissen durch Smart-Home-Geräte, ob die Bewohner zu Hause sind, und Navigationsdienste entscheiden über die beste Strecke durch den Verkehr. Unklar ist, aufgrund welcher Kriterien solche Entscheidungen getroffen und wie die verschiedenen Kriterien gewichtet werden, denn Algorithmen fallen häufig unter das Geschäftsgeheimnis.

„Automatisierte Entscheidungen auf Basis von Algorithmen können Verbraucherinnen und Verbrauchern das Leben erleichtern. Sie können aber auch zu falschen Entscheidungen führen und Verbraucher diskriminieren. Eine nächste Bundesregierung muss Algorithmen aus Sicht des Verbraucherschutzes genau unter die Lupe nehmen. Relevante algorithmenbasierte Entscheidungsprozesse müssen durch eine unabhängige, staatlich legitimierte Institution kontrolliert werden können“, sagt Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands (vzbv).

Umfrage: Verbraucher sehen automatische Entscheidungen kritisch

Die große Mehrheit der Verbraucher (75 Prozent) sieht in automatisierten Entscheidungen eine Gefahr, wenn deren Datenbasis und Entscheidungsprinzipien unklar sind. Das zeigt eine repräsentative Online-Umfrage von Civey im Auftrag des vzbv.

80 Prozent der Befragten wollen, dass Firmen Daten und Kriterien offenlegen, die algorithmenbasierten Entscheidungsprozessen zugrunde liegen. Ähnlich viele, 77 Prozent, wollen eine staatliche Überprüfbarkeit. „Die
Umfrage zeigt, dass Verbraucher algorithmischen Entscheidungen nicht per se vertrauen. Die Politik muss handeln, um Verbrauchern hier mehr Sicherheit zu geben“, so Müller.

Gesellschaftlicher Diskurs erforderlich

Der Einfluss algorithmenbasierter Entscheidungsprozesse auf Lebensgestaltung, Teilhabemöglichkeiten, Konsumentscheidungen und Autonomie jedes Einzelnen sowie auf die Gesellschaft insgesamt wird zunehmen. „Wir müssen uns präventiv mit den Auswirkungen automatisierter Entscheidungsprozesse beschäftigen und nicht erst dann, wenn die ersten Skandale da sind“, so Müller. „Mit einem Thesenpapier will der vzbv Denkanstöße geben und einen Beitrag zur notwendigen Debatte leisten, wie Chancen von Algorithmen genutzt und Risiken minimiert werden können.“

Der vzbv hat insgesamt 15 Thesen zum Umgang mit algorithmenbasierten Entscheidungsprozessen aufgestellt. Diese Thesen – unter anderem wie ein unabhängiges Kontrollsystem etabliert werden könnte – diskutiert der vzbv am 7. Dezember 2017 in Berlin auf der Fachveranstaltung „Algorithmen transparent gestalten“ mit Vertretern aus Wissenschaft, Wirtschaft und Politik und bei Twitter unter dem Hashtag #Algo17.

Für den vzbv befragte Civey online 5.000 Personen repräsentativ zur wahlberechtigten Bevölkerung Deutschlands zwischen dem 27. November und 1. Dezember 2017.