
Quelle: Pablo Lagarto - Adobe Stock
Algorithmen & KI
Entscheidungen über Verbraucher:innen werden zunehmend durch Algorithmische Systeme (ADM) und künstliche Intelligenz (KI) getroffen oder vorbereitet, etwa bei Scoring-Verfahren im Finanzbereich. Und auch die Entscheidungen der Verbraucher:innen werden immer öfter durch KI-basierte Empfehlungssysteme und Sprachassistenten wie ChatGPT & Co. beeinflusst. Menschen misstrauen KI-Anwendungen dabei oft. Das liegt daran, dass selbst für Experte:innen kaum nachvollziehbar ist, ob die Systeme Fehlentscheidungen treffen oder gegen Gesetze verstoßen, wie etwa das Diskriminierungsverbot.
Mit der europäischen Verordnung über Künstliche Intelligenz (KI-VO) gibt es erstmals einen Rechtsrahmen, der den Einsatz künstlicher Intelligenz regelt. Dieser adressiert eine Vielzahl realer KI-Risiken, denen Verbraucher:innen täglich begegnen, wie der Echtzeit-Analyse von Kundenemotionen an Hotlines. Trotz vieler Fortschritte weist die KI-VO erhebliche Schutzlücken auf. Verbraucher:innen sind weiterhin nicht ausreichend vor Manipulation geschützt.
Bis zum 2. August 2025 muss in Deutschland eine nationale Aufsichtsstruktur für KI etabliert werden. Hierbei ist wichtig, dass die nationalen KI-Aufsichtsbehörden die Interessen der Verbraucher:innen angemessen berücksichtigen.
Der vzbv fordert
- Der Gesetzgeber sollte einen unabhängigen nationalen KI-Beirat einrichten, damit zivilgesellschaftliche Interessen bei der KI-Aufsicht berücksichtigt werden.
- Wenn Verbraucher:innen sich über KI beschweren möchten: Die zentrale Aufsichtsbehörde muss ein einfaches System zur Beschwerdeannahme einrichten.: Die zentrale Aufsichtebehörde muss ein einfaches System zur Beschwerdeannahme einrichten.
- Ein bundesweites Kompetenzzentrum KI sollte die sektoral zuständigen Marktaufsichtsbehörden mit technischer Expertise unterstützten.
- Der Einsatz von KI zur biometrischen Fernidentifizierung von Menschen an öffentlich zugänglichen Orten muss auch für private Akteure untersagt werden.
- Die zentrale Aufsichtsbehörde muss Verbraucher:innen informieren und bei der Wahrnehmung ihrer Rechte aus der KI-Verordnung praktisch unterstützen.
Download
Der vzbv bewertet regelmäßig in einem Politikcheck, ob sich die Bundesregierung wie im Koalitionsvertrag angekündigt für eine verbraucherorientierte Algorithmenkontrolle einsetzt. Hier sehen Sie die aktuelle Bewertung: