KI-Regulierung: Rat zu verzagt – EU Parlament muss es richten

Seit April 2021 wird in Brüssel ein Rechtsrahmen für Künstliche Intelligenz (KI), der Artificial Intelligence Act (AI Act) verhandelt. Durch ihn sollen Regeln und Qualitätsvorgaben für Anbieter von KI-Systemen definiert werden. Heute hat der EU-Ministerrat abgestimmt. Das Ergebnis lässt Lücken für Verbraucher:innen. Ramona Pop, Vorständin des Verbraucherzentrale Bundesverbands (vzbv) kommentiert:

Künstliche Intelligenz greift immer stärker in den Verbraucheralltag ein. KI kann den Alltag erleichtern, aber birgt auch Diskriminierungspotenzial. Es ist daher erfreulich, dass Europa verbindliche Regeln anstrebt.

Die Bundesregierung hat viele wichtige Verbraucherschutzpunkte in die Verhandlungen im Rat eingebracht. Umso bedauerlicher ist es, dass die Vorschläge nur unzureichend Eingang in die nun vorliegende Position des Rates gefunden haben. Damit schwächt der Rat die Verbraucherrechte und somit auch das nötige Vertrauen in KI-Systeme.

In der Auflistung hochriskanter KI-Systeme fehlen etwa Systeme, die in der Lage sind, Emotionen zu erkennen und zu verarbeiten. Auch KI-Systeme, die sich an Kinder richten oder den Zugang zu Wohnraum regeln, müssen als hochriskant eingestuft werden. Ebenso fehlen in der nun vorliegenden Position des EU-Rates wichtige Betroffenenrechte, etwa das Recht für Verbraucher:innen, sich die Entscheidungen hochriskanter KI-Systeme von Anbietern erklären zu lassen.

Deshalb fordert der vzbv: Das Europäische Parlament muss sich in seiner für Anfang 2023 erwarteten Positionierung stark machen für die Verbraucher:innen. Das ist wichtig, damit in den dann folgenden Trilog-Verhandlungen zwischen Europäischem Parlament, Rat und Europäischer Kommission ein verbraucherfreundlicher Kompromiss erzielt wird.