KI-Regulierung: Wichtiger Schritt für mehr Verbraucherrechte

Künstliche Intelligenz (KI) bestimmt immer stärker den Konsumalltag – als personalisierte Empfehlungssysteme mit Emotionserkennung oder indem sie im Hintergrund entscheiden, wer welche Angebote oder Vertragskonditionen erhält. Mit dem Artificial Intelligence Act (AI Act) will die EU Vorreiter in der Regulierung von KI sein. Er soll künftig Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen definieren. Das Europäische Parlament, der Rat der Europäischen Union und die Europäische Kommission haben sich in der Nacht auf Samstag, den 9. Dezember in wichtigen Streitfragen über den AI Act geeinigt.

Ramona Pop, Vorständin des Verbraucherzentrale Bundesverbands (vzbv) kommentiert:

KI wird unseren Alltag immer mehr beeinflussen. Digitale Assistenten, die in Echtzeit unsere Gefühle analysieren, Gesundheitsberatung oder Versicherungskonditionen werden künftig durch KI übernommen. Darum ist es wichtig, dass Unternehmen Regeln auferlegt werden, die Verbraucher:innen vor Risiken von KI schützen. Der europäische AI Act ist ein wichtiger und notwendiger Schritt für mehr Verbraucherrechte beim Einsatz von Künstlicher Intelligenz. Nach ersten Berichten bietet der AI Act Verbesserungen für Verbraucher:innen, geht an vielen Stellen jedoch nicht weit genug.

Gut ist, dass mit dem AI Act einige manipulative Praktiken durch KI untersagt werden. Persönliche Schwächen von Verbraucher:innen dürfen nicht von KI ausgenutzt werden. Es ist richtig, dass Verbraucher:innen das Recht bekommen, sich Entscheidungen, die von risikobehafteter KI getroffen wurden, erklären zu lassen. Als Verbraucherverband begrüßt der vzbv die Möglichkeit, künftig gegen KI-Betreiber vorgehen zu können, wenn sie gegen den AI Act verstoßen.

Der vzbv begrüßt zudem, dass nach ersten Berichten auch „General Purpose“- oder „Allzweck-KI“-Modelle über den AI Act geregelt werden sollen. Auf ihnen basieren Systeme wie Chat GPT, die auch als digitale Assistenten für Verbraucher:innen eingesetzt werden können. Nach ersten Berichten weist diese Regelung jedoch Lücken auf. Kleinere Allzweck-KI-Modelle sollen gar nicht erfasst werden, obwohl deren Anwendung für viele Verbraucher:innen ein Risiko darstellen könnte.

Seit April 2021 wird in Brüssel ein Rechtsrahmen für Künstliche Intelligenz (KI) verhandelt, der Artificial Intelligence Act (AI Act). Dieser soll Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen definieren. Am 9. Dezember 2023 konnten sich Europäisches Parlament, Rat der Europäischen Union und Europäische Kommission in schwierigen Punkten einigen. Die KI-Vorgaben werden allerdings voraussichtlich erst ab 2026 in der Praxis greifen. Sobald der finale Text vorliegt, wird der vzbv prüfen, wie der Kompromiss aus Verbrauchersicht insgesamt zu bewerten ist.

Der vzbv begrüßt, dass mit dem AI Act einige manipulative Praktiken, wie das Ausnutzen persönlicher Schwächen durch KI, untersagt werden. Auch sollen Betroffene das Recht bekommen, Hochrisiko-KI-Systeme erklärt zu bekommen – beispielsweise wenn KI beim Abschluss von Versicherungen eingesetzt wird. Das ist notwendig, damit Betroffene gegen ungerechtfertigte Behandlungen oder Fehlentscheidungen vorgehen können.

Aus Verbrauchersicht ist kritisch, dass KI-Betreiber voraussichtlich selbst einschätzen sollen, ob ihre Systeme als Hochrisiko-KI gelten oder nicht. Diese Aufgaben hätten aus Sicht des vzbv unabhängige Stellen übernehmen sollen.