„Weißbuch KI“ zu wenig ambitioniert

Aus Verbrauchersicht verfolgt das Weißbuch zwar die richtigen Ansätze, aber die vorgeschlagenen Regeln sind nicht ambitioniert genug. Zudem ist der Anwendungsbereich der vorgeschlagenen Regelung zu eng gefasst, so dass die Regeln nicht für eine Reihe risikobehafteter KI-Anwendungen gelten würden (z.B. Versicherungen oder Diskriminierung in Online-Marktplätzen und Persönlichkeitsanalysen von Nutzern).

Der Verbraucherzentrale Bundesverband (vzbv) begrüßt den Vorschlag der EU-Kommission, Regeln für riskante KI-Anwendungen einzuführen. Leider ist der Ansatz des Weißbuchs binär: Es ist kein abgestuftes Regulierungssystem mit mehreren Risikoklassen und dem Risiko entsprechenden Anforderungen vorgesehen. Zudem werden potenzielle Schäden für soziale Gruppen und die Gesellschaft nicht berücksichtigt, etwa, wenn ganze Gruppen durch KI-basierte Entscheidungen systematisch von Dienstleistungen ausgeschlossen werden.  

In puncto Transparenzanforderungen gegenüber Verbraucherinnen und Verbrauchern sieht das Weißbuch nur eine Kennzeichnung von Hochrisiko-Anwendungen vor. Hier greift die EU-Kommission deutlich zu kurz, denn Verbraucher müssen auch über die Risiken, Fehlergenauigkeit, die Datengrundlage usw. von KI Anwendungen informiert werden. Grundsätzlich müssen Verbraucher alle Informationen erhalten, die sie in die Lage versetzen, ihre Rechte wahrnehmen zu können, wenn dies notwendig ist.

Je nach Risikopotenzial müssten Entwickler und Betreiber von KI-Anwendungen in der Lage sein, zu erklären, wie ihre Systeme funktionieren, um die Rückverfolgbarkeit von Entscheidungen und Verantwortung im Sinne von „Accountability-by-Design“ zu gewährleisten.

Mehr Transparenz, Nachvollziehbarkeit, Qualitätsvorgaben und Kontrolle von KI-Systemen würde das Vertrauen der Verbraucher in diese Technologie erhöhen und damit die Akzeptanz für deren Einsatz im Alltag.
 

Hintergrund und Ausblick:

Der Verbraucherzentrale Bundesverbandes (vzbv) nimmt im Rahmen einer Konsultation Stellung zu den Vorschlägen der Europäischen Kommission für die Gestaltung eines europäischen Rechtsrahmens für KI-Anwendungen. Diese hat die Europäische Kommission im Februar 2020 in Form eines Weißbuchs veröffentlicht. Die Europäische Kommission plant Anfang 2021, einen konkreten Regelungsvorschlag für KI-Anwendungen vorzulegen.
 

Die Stellungnahme des vzbv finden Sie im Download-Bereich. Im Bereich „Weitere Informationen“ können Sie das Weißbuch KI der Europäischen Kommission im pdf-Format herunterladen.