KI: Nationale Aufsicht muss Verbraucherinteressen berücksichtigen

In gut einem Jahr muss in Deutschland eine nationale Aufsichtsstruktur für künstliche Intelligenz (KI) etabliert werden, mit der die Umsetzung des Artificial Intelligence Act (AI-Act) überwacht wird. Im Ausschuss für Digitales des Deutschen Bundestages findet dazu am 15. Mai 2024 eine öffentliche Anhörung statt, zu der auch der Verbraucherzentrale Bundesverband (vzbv) eingeladen ist. Der vzbv fordert eine verbraucherfreundliche Umsetzung des AI-Acts mit einer Aufsicht, die Verbraucherinteressen berücksichtigt.

Der vzbv veröffentlicht seine Antworten auf die Fragen der Mitglieder des Ausschusses für Digitales. Die vzbv-Vorschläge sind:

• Bei der künftigen zentralen nationalen Aufsichtsbehörde muss ein einfaches und leicht zu nutzendes System eingerichtet werden, mit dem Beschwerden angenommen werden. Diese Behörde sollte Ansprechpartner für das gesamte Verfahren sein.
• Der Gesetzgeber sollte einen unabhängigen nationalen KI-Beirat einrichten, damit zivilgesellschaftliche Interessen bei der KI-Aufsicht berücksichtigt werden. Dieser KI-Beirat sollte die Aufsichtsbehörden beraten und Stellungnahmen und Empfehlungen veröffentlichen können. Als Vorbild kann der Beirat des Digital Service Coordinators nach dem Digitale-Dienste-Gesetz (DDG) dienen.
• Ein bundesweites Kompetenzzentrum Algorithmische Systeme sollte geschaffen werden, das die sektoral zuständigen Marktaufsichtsbehörden mit technischer Expertise unterstützt.
• Der Einsatz von KI zur biometrischen Fernidentifizierung von Menschen an öffentlich zugänglichen Orten wie Einkaufszentren muss auch für private Akteure verboten werden.

Am 13. März 2024 wurde der Artificial Intelligence Act (AI-Act) von der Europäischen Union beschlossen. Der AI-Act sieht vor, dass nationale Gesetzgeber innerhalb von zwölf Monaten nach Inkrafttreten eine Aufsicht für künstliche Intelligenz (KI) etablieren müssen. Der AI-Act adressiert eine Vielzahl realer KI-Risiken, denen Verbraucher:innen täglich ausgesetzt sind. Beispiele sind die Echtzeit-Analyse von Kundenemotionen an Hotlines oder die subtile Manipulation vulnerabler Verbrauchergruppen zu Verkaufszwecken.