KI-Regulierung: Bei den Verbraucherrechten wäre mehr drin gewesen

• Beschlossener AI Act ist ein erster guter Schritt, lässt für Verbraucher:innen aber einige Schutzlücken
• vzbv: Bundesregierung und Bundestag müssen bei nationaler Umsetzung effiziente Aufsicht sicherstellen
• Behördliche Kontrollen von KI-Systemen müssen Verbraucherinteressen berücksichtigen

Künstliche Intelligenz (KI) prägt den Konsumalltag immer stärker, etwa durch digitale Assistenten, die in Echtzeit Gefühle analysieren, durch personalisierte Empfehlungssysteme und Angebote. Eine verbraucherfreundliche Regulierung von KI ist daher besonders dringlich. Am 13. März hat das Europäische Parlament den Artificial Intelligence Act (AI Act) verabschiedet. Aus Sicht des Verbraucherzentrale Bundesverbands (vzbv) stellt der AI Act eine Verbesserung für Verbraucher:innen dar, reicht aber nicht aus. Der vzbv fordert, die Interessen der Verbraucher:innen bei der Umsetzung des AI Acts in Deutschland in den Mittelpunkt zu stellen.

„Immer mehr Angebote und Anwendungen greifen auf Systeme zurück, die Künstliche Intelligenz einsetzen. Das bietet Chancen für Verbraucher:innen, birgt aber auch Risiken. Es ist deshalb eine gute Nachricht, dass sich die EU-Institutionen auf Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen geeinigt haben“, sagt Ramona Pop, Vorständin des vzbv.

„Doch die Regeln im AI Act geben Verbraucher:innen leider keinen ausreichenden Schutz. Bundesregierung und Bundestag müssen die wenigen Spielräume bei der nationalen Umsetzung des AI Acts nutzen und zumindest die KI-gesteuerte Gesichtserkennung im öffentlichen Raum auch für private Akteure untersagen. Der deutsche Gesetzgeber muss sicherstellen, dass es effiziente Aufsichtsstrukturen gibt und Aufsichtsbehörden ausreichend mit Personal und Know-how ausgestattet sind. Bei der Kontrolle von KI-Systemen und dem Durchsetzen der Regeln müssen Verbraucherinteressen höchste Priorität bekommen“, sagt Pop.

Der AI Act macht den Umgang mit KI für Verbraucher:innen transparenter: So erhalten sie bei KI-Systemen mit besonders hohem Risiko ein Recht auf Erklärung, beispielsweise beim Abschluss von Versicherungen. Hier ist jedoch fraglich, ob Verbraucher:innen aus der bereitgestellten Erklärung wirklich verwertbare Informationen erhalten, die ihnen etwa im Streitfall nutzen, zum Beispiel wenn sie Diskriminierung vermuten.

Der AI Act sieht zudem vor, dass einige manipulative Praktiken durch KI untersagt werden. Persönliche Schwächen von Verbraucher:innen dürfen nicht von KI ausgenutzt werden. Eine Schutzlücke sieht der vzbv jedoch darin, dass das Verbot voraussetzt, dass diese Manipulation absichtlich geschieht.

„Aus Verbrauchersicht ist es nicht relevant, ob Manipulation absichtlich oder unbeabsichtigt passiert. Eine Absicht bei Manipulation kann vor Gericht wohl kaum nachgewiesen werden, deshalb ist es inkonsequent, hier zu unterscheiden. Manipulationen oder das Ausnutzern persönlicher Schwächen sollten grundsätzlich verboten werden“, sagt Ramona Pop.

„Verbraucherschutzorganisationen wie der vzbv sollen künftig gegen KI-Betreiber vorgehen können, wenn diese gegen den AI Act verstoßen. Das begrüßt der vzbv ausdrücklich, denn Verbraucher:innen haben in der Regel nicht die Möglichkeiten, ihre Rechte gegenüber Betreibern von KI-Systemen vor Gericht durchzusetzen“, so Pop.

Seit April 2021 wird in Brüssel ein Rechtsrahmen für Künstliche Intelligenz (KI) verhandelt, der Artificial Intelligence Act (AI Act). Mit dem am 13. März 2024 beschlossenen AI Act will die EU Vorreiter bei der Regulierung von KI sein. Er soll künftig Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen definieren. Die KI-Regulierung wird allerdings voraussichtlich erst ab 2026 in der Praxis greifen.