Rückblick „Algorithmen transparent gestalten“

Bei der Fachveranstaltung des Verbraucherzentrale Bundesverbands (vzbv) „Algorithmen transparent gestalten“ am 7. Dezember 2017 diskutierten Vertreter aus Wissenschaft, Wirtschaft und Politik über den Umgang mit algorithmenbasierten Entscheidungsprozessen. Algorithmen spielen in immer mehr Lebensbereichen eine wichtige Rolle – sie sind bereits jetzt Grundlage für viele individuelle Konsumentscheidungen. Doch welche Kriterien liegen algorithmischen Entscheidungen zugrunde und wie werden diese gewichtet? Da Algorithmen häufig unter das Geschäftsgeheimnis fallen, besteht in diesem Bereich ein hohes Maß an Intransparenz für Verbraucher.

Zwei Fragen an Klaus Müller, Vorstand des Verbraucherzentrale Bundesverband
 

Herr Müller, welchen Einfluss haben Algorithmen auf das Leben von Verbraucherinnen und Verbrauchern?

Wenn ich heute einen Kredit beantragen würde, wird ein Algorithmus jetzt schon die Wahrscheinlichkeit meines individuellen Kreditausfalls berechnen. Auch entscheiden digitale Assistenten wie Amazon Alexa oder ähnliche Produkte über meinen Zugang zur Konsumwelt. Sie schlagen mir Produkte vor oder sie kaufen einfach direkt für mich ein. Aber weiß ich, wie sie funktionieren? Weiß ich, welchen Anbieter unter welchen Konditionen sie zu welchem Preis ausgewählt haben? Höchstwahrscheinlich nicht.

Was muss die nächste Bundesregierung tun, um Verbraucher auch bei algorithmischen Entscheidungsprozessen zu stärken?

Es ist wichtig, dass die nächste Bundesregierung eine unabhängige, aber staatlich legitimierte Algorithmenkontrolle ermöglicht. Im Kern geht es darum, dass wir Aufsichtsinstitutionen brauchen, die die Diskriminierungsverbote in der analogen Welt auch in die digitale Welt übertragen. Es kann nicht sein, dass ich aufgrund bestimmter Merkmale schlechter gestellt werde, dass ich mich nicht dagegen wehren kann, wenn Fehlentscheidungen getroffen werden und wenn ich aufgrund bestimmter Merkmale diskriminiert werde, – das darf es auch in der digitalen Welt nicht geben.

Rechtliche Rahmenbedingungen und politischer Handlungsbedarf

Über aktuelle Entwicklungen und Handlungsbedarf im Bereich Algorithmen referierten auf der Veranstaltung Prof. Dr. Judith Simon (Ethikprofessorin an der Universität Hamburg), Prof. Dr. Sebastian Stiller (Mathematikprofessor an der Universität Braunschweig), Prof. Dr. Gerald Spindler (Professor für Rechtswissenschaften an der Georg-August-Universität Göttingen) und Matthias Spielkamp (AlgorithmWatch).

Prof. Dr. Sebastian Stiller warnte vor einer inkompetenten Verwendung von Algorithmen in Bereichen, für die sie ungeeignet sind. Prof. Dr. Judith Simon machte auf die Notwendigkeit ausreichender Transparenz aufmerksam: „Man muss bis zu einem gewissen Grad nachvollziehen können, auf Basis welcher Kriterien maschinelle Entscheidungen getroffen werden, um gegebenenfalls dem auch wiedersprechen zu können und verstehen zu können, ob das gute Entscheidungen sind.“

Matthias Spielkamp nahm die Politik in die Pflicht: „Die Politik wird sich damit beschäftigen müssen, wie sie definiert, was denn eigentlich automatisierte Entscheidungen genau sind, wo sie eine Relevanz haben, die für die Gesellschaft so groß ist, dass sie aktiv werden muss.“ Prof. Dr. Gerald Spindler analysierte die aktuellen rechtlichen Rahmenbedingungen: „Allein Kontrollen über das Datenschutzrecht erfassen nicht alle Bereiche. Ein abgestuftes Zulassungs-, Aufsichts- und Zivilrecht muss entwickelt werden, um den Einsatz von Algorithmen in den unterschiedlichen Lebensbereichen sinnvoll zu erfassen.“

Am Nachmittag wurden in interaktiven Foren konkrete algorithmische Prozesse bei selbstfahrenden Autos, digitalen Assistenten und im Smart Home beleuchtet. Udo Schüppel (FSD Fahrzeugsystemdaten GmbH), Dr. Bruno Gransche (Universität Siegen) und Prof. Dr. Wolfgang Maaß (Deutsches Forschungszentrum für Künstliche Intelligenz GmbH) zeigten auf, wie Algorithmen konkret eingesetzt werden und was die Politik tun muss, damit Verbraucher geschützt sind.