Enttäuschend: Vorschläge für Regelung von Künstlicher Intelligenz schützen Verbraucher nur punktuell

Heute hat die Europäische Kommission ihren lang erwarteten Vorschlag zur Regulierung für Künstliche Intelligenz (KI) veröffentlicht. Dieser schützt Verbraucher nur punktuell. Die Menschen bleiben in weiten Bereichen ungeschützt. Die Regeln werden wird nicht, wie erhofft, das Vertrauen in KI stärken: Der Vorschlag schafft kaum Transparenz und Nachvollziehbarkeit für Verbraucherinnen und Verbraucher. Unabhängige Kontrollen sind nur für wenige hochriskante KI-Systeme vorgesehen. Der Anwendungsbereich ist zu eng gefasst, so dass die Regeln für viele risikobehaftete KI-Anwendungen nicht gelten. Klaus Müller, Vorstand des vzbv, kommentiert:

„Der vzbv begrüßt, dass die Kommission plant Regeln für KI-Anwendungen einzuführen. Leider ist der Ansatz kraft- und mutlos: Er konzentriert sich auf eine begrenzte Auswahl hochriskanter Systeme. Alle anderen Systeme, inklusive den Systemen mit „mittelhohem“ Risiko, werden vernachlässigt. Somit bleiben Verbraucher in vielen Bereichen ungeschützt. Etwa vorwirtschaftlichen Schäden, die entstehen, wenn KI-Systeme Menschen etwa auf Grund von KI gestützten Persönlichkeitsanalysen systematisch Zugang zu Dienstleistungen verweigern oder sie von ganzen Märkten ausschließen.

In puncto Transparenz enttäuscht der Vorschlag ebenfalls: Vorgesehen sind allein Kennzeichnungspflichten, die nur für Systeme zur Emotionserkennung gelten oder wenn KI mit Personen interagiert. Doch damit Verbraucher selbstbestimmt ihre Rechte wahrnehmen können, müssen ihnen deutlich mehr Informationen vorliegen. Dazu zählen auch Informationen zu Risiken, Fehlergenauigkeit sowie die Datengrundlage einer Entscheidung. Alles andere ist lückenhaft.

Statt einer unabhängigen Kontrollinstanz, sollen Anwender größtenteils selber kontrollieren, ob hochriskante KI-Systeme Qualitätsvorgaben einhalten und rechtskonform sind. Das schadet dem Vertrauen in und der Akzeptanz von KI.

Zwar will der Vorschlag KI-Systeme untersagen, die Ältere, Kinder und Menschen mit Behinderungen manipulativ beeinflussen und physisch und psychisch schädigen. Wirtschaftliche Schäden, wie aufgedrängte oder überteuerte Produktverkäufe, sind hier jedoch ausgeklammert und die übrigen Verbraucher bleiben weiterhin ungeschützt.

Das Europäische Parlament und der Rat der Europäischen Union müssen den Vorschlag jetzt korrigieren und die Regeln auf viele weitere hochriskante KI-Systeme ausdehnen. Sie müssen für mehr Transparenz und Nachvollziehbarkeit für Verbraucher sorgen sowie unabhängige Kontrollen für alle risikobehafteten KI-Systeme verpflichtend machen.“

Please find an English version of the statement here.