Einhaltung von KI-Regeln: Externe Qualitätskontrolle vereinfachen

Gutachten bestätigt vzbv-Forderung nach mehr Rechtssicherheit für Anbieter, falls KI-Systeme „wesentliche Änderungen“ durchlaufen.
Freiwillige Konformitätsbewertung durch Dritte müssen unabhängig vom Risikoniveau ermöglicht werden.
Kleine und mittelständische Anbieter müssen von niedrigeren Gebühren für externe Konformitätsbewertungen profitieren.

Algorithmen_Pablo Lagarto - Adobe Stock — Quelle: Pablo Lagarto - Adobe Stock

Seit April 2021 wird in Brüssel der Artificial Intelligence Act (AIA) verhandelt, der europäische Rechtsrahmen für Künstliche Intelligenz (KI). Durch ihn sollen Regeln und Qualitätsvorgaben für Anbieter von KI-Systemen definiert werden. Zur Bewertung der derzeit vorliegenden Regelungen zur Konformitätsbewertung hat der Verbraucherzentrale Bundesverband (vzbv) ein Gutachten beauftragt. Die Autor:innen Professorin Frauke Rostalski und Dr. Erik Weiss schlagen darin klarere Regelung für mehr Rechtssicherheit und Vereinfachungen vor, die auch der vzbv fordert. Um die Interessen von Verbraucher:innen, professionellen Nutzern und Betreibern von KI auszugleichen, müssen die Regelungen angepasst werden.

Gestützt durch das Gutachten fordert der vzbv folgende Anpassungen des Verordnungsvorschlags:

Klarere Regelung für mehr Rechtssicherheit und Vereinfachungen für Provider, falls (selbstlernende) KI-Systeme eine „wesentliche Änderung“ erfahren und ein neues Konformitätsbewertungsverfahren durchlaufen müssen.
Optionale Einbeziehung von externen Stellen für die Konformitätsbewertung aller KI-Systeme mit hohem Risiko gemäß Annex III, unter der Voraussetzung, dass diese alle einschlägigen harmonisierten Standards für Hochrisiko-KI-Systeme einhalten. Sonst wird die Einschaltung einer externen Konformitätsbewertungsstelle verpflichtend.

Rahmenbedingungen schaffen, so dass kleine und mittelständische Anbieter (KMU-Provider) von niedrigeren Gebühren für externe Konformitätsbewertungen profitieren. Hierdurch können sie Vertrauen gewinnen und Wettbewerbsnachteile ausgleichen.
Jeder Anbieter sollte auf freiwilliger Basis eine Konformitätsbewertung durch Dritte durchführen lassen können, unabhängig vom Risikoniveau.
Aufnahme von Systemen zur Emotionserkennung oder biometrischen Kategorisierung als Hochrisiko-KI, damit auch diese Systeme harmonisierte Standards einhalten müssen.

Bis Ende 2022 wollen sich das Europäisches Parlament und der Rat der europäischen Union jeweils auf ihre Position einigen. Anschließend sind Verhandlungen im Trilog mit der Europäischen Kommission geplant.

Hintergrund

Zentraler Bestandteil des AIA sind Konformitätsbewertungen für hochriskante KI-Systeme: Damit bestätigen externe Zertifizierungsstellen oder die Betreiber von KI-Systemen gegenüber Behörden und Verbraucher:innen, dass ein System alle Vorgaben erfüllt. So sollen unzulässige Diskriminierungen oder systematische Fehlentscheidungen verhindert und das Vertrauen von Verbraucher:innen gestärkt werden. Dies ist wichtig, weil KI-Systeme zunehmend wichtige Entscheidungen über Menschen vorbereiten oder treffen. Etwa im Bereich Versicherungen, bei der automatischen Auswahl von Stellenbewerber:innen oder der Gesichtserkennung.

Downloads

Conformity Assessment in the Artificial Intelligence Act

Report | October 2022

Ansehen
PDF | 533.87 KB

Illustration: Aus dem Smartphone eines Mannes fließt ein Ebenbild seiner selbst aus Nullen und Einsen — Quelle: vzbv

06.08.2021KI-Regeln der EU ignorieren viele Verbraucherprobleme

vzbv veröffentlicht Positionspapier zum Vorschlag für den Artificial Intelligence Act (AIA).

Mehr erfahren

Alles zum Thema: Algorithmen & KI

Zur Themenseite Algorithmen & KI

Artikel (43)

digital-smartphone-touristen-fotolia_nenetus_78663700.jpg — Quelle: Nenetus - AdobeStock

16.10.2024Gutachten: Kompetenzzentrum darf Aufsicht über künstliche Intelligenz unterstützen

Die nationale Anwendung der europäischen KI-Verordnung sieht vor, dass in Deutschland bis August 2025 Aufsichtsstrukturen zur Überwachung der KI-Verordnung etabliert sein müssen. Zur Unterstützung der Aufsichtsbehörden schlägt der vzbv ein „KI-Kompetenzzentrum“ vor.

Meldung lesen

Gruppe von Menschen mit Handy — Quelle: iStock - Peoplesimages

06.06.2024Verbraucherreport 2024: Verbraucher:innen wünschen sich mehr Schutz im digitalen Raum

Im digitalen Raum klaffen große Lücken beim Verbraucherschutz. Das zeigt der Verbraucherreport 2024 des vzbv. Von Fakeshops und untergeschobenen Verträgen bis zur Regulierung künstlicher Intelligenz oder manipulativer Designs gibt es viele drängende Verbraucherthemen. Der vzbv fordert ein Update vieler Verbraucherrechte.

Zur Pressemeldung

Gesichtserkennungsmaske über dem Gesicht eines Mannes — Quelle: Artem - AdobeStock

14.05.2024KI: Nationale Aufsicht muss Verbraucherinteressen berücksichtigen

In gut einem Jahr muss in Deutschland eine nationale Aufsichtsstruktur für künstliche Intelligenz (KI) etabliert werden, mit der die Umsetzung des Artificial Intelligence Act (AI-Act) überwacht wird. Der vzbv fordert eine verbraucherfreundliche Umsetzung des AI-Acts mit einer Aufsicht, die Verbraucherinteressen berücksichtigt.

Meldung lesen

13.03.2024KI-Regulierung: Bei den Verbraucherrechten wäre mehr drin gewesen

Am 13. März hat das Europäische Parlament den Artificial Intelligence Act (AI Act) zur KI-Regulierung verabschiedet. Dieser stellt eine Verbesserung für Verbraucher:innen dar, reicht aber nicht aus. Die Interessen der Verbraucher:innen müssen bei der Umsetzung des AI Acts in Deutschland in den Mittelpunkt gestellt werden.

Zur Pressemeldung

You can see Ramona Pop in front of a wooden wall. — Quelle: © Dominik Butzmann / vzbv

29.01.2024KI-Regulierung: Bundesregierung sollte AI Act im Rat zustimmen

Der Artificial Intelligent Act (AI Act) soll auf EU-Ebene einen Rechtsrahmen für künstliche Intelligenz schaffen. Er soll Regeln und Qualitätsvorgaben für Anbieter von KI-Systemen definieren. Die Trilog-Verhandlungen zum AI Act sind abgeschlossen. Diese Woche will sich die Bundesregierung zum AI Act positionieren. vzbv-Vorständin Ramona Pop kommentiert.

Zur Pressemeldung

Dokumente (17)

Anhörung Umsetzung AI-Act

Stellungnahme des vzbv zur öffentlichen Anhörung des Ausschusses für Digitales des Deutschen Bundestages „Nationale Spielräume bei der Umsetzung des europäischen Gesetzes über Künstliche Intelligenz“ am Mittwoch, 15. Mai 2024

Ansehen
PDF | 286.84 KB

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

Positionspapier des vzbv | Juni 2024 | Vorschläge des Verbraucherzentrale Bundesverbands e.V. für eine nationale Umsetzung des Artificial Intelligence Act

Ansehen
PDF | 204.37 KB

Politikcheck 2023

Verbraucherpolitische Halbzeitbilanz der 20. Legislaturperiode

Ansehen
PDF | 108.04 KB

EU legislators must close dangerous loophole in AI Act

Open letter of 100+ organizations | September 2023

Ansehen
PDF | 53.1 KB

Tabellenband zur Forsa-Umfrage im Auftrag des vzbv | August 2023

Ansehen
PDF | 189.34 KB

Urteile (1)

14.12.2020Gericht: Irreführung der Verbraucher auf test.net

Urteil vom 14.12.2020

Das OLG Köln hat nach einer Klage des vzbv der test.net GmbH untersagt, auf ihrer Internetseite angebotene Produktvergleiche als Tests auszugeben, wenn die bewerteten Produkte gar nicht einzeln geprüft wurden. Das Gericht verbot dem Unternehmen außerdem, die Domain test.net für algorithmusbasierte Produktvergleiche zu verwenden.

Urteil ansehen

Umfragen (1)

11.10.2021Verbraucherreport 2021: Digitales wird zur Dauerbaustelle

Das Themenfeld Internet und Digitales wird immer mehr zur Dauerbaustelle. Zu diesem Befund kommt der diesjährige Verbraucherreport 2021 des vzbv, für den zum nunmehr sechsten Mal 1.500 Menschen in Deutschland zu verschiedenen verbraucherpolitischen Themen befragt wurden.

Zur Pressemeldung

Termine (6)

06.- 06.06.2023, re:publica/FoyerEinwilligung als „Cash“ Online-Design zwischen Dark Patterns und Verbraucherorientierung

Veranstaltung mit vzbv-Digitalexpertin Lina Ehrig auf der re:publica

Termin ansehen

Raus aus dem Digital — Quelle: Digitaltag

24.06.2022, bundesweitDigitaltag 2022

Auch die Verbraucherzentralen wollen die digitale Teilhabe in Deutschland fördern. Zum bundesweiten Digitaltag am 24. Juni 2022 machen die Verbraucherzentralen und der vzbv deshalb Digitalisierung mit zahlreichen Aktionen, Online-Seminaren und Smartphone-Rallys alltagsnah erlebbar.

Termin ansehen

10.12.2020Wir rechnen mit Ihnen. Andere auch. #Algorithms4Consumers

Unter der Überschrift „Wir rechnen mit Ihnen. Andere auch #Algorithms4Consumers“ veranstalten der Verbraucherzentrale Bundesverband e.V. (vzbv) und die Vertretung des Landes Baden-Württemberg bei der Europäischen Union am 10. Dezember 2020 in Brüssel eine gemeinsame Veranstaltung zum Thema Algorithmen und Künstlicher Intelligenz.

Termin ansehen

18.11.2019Algorithmen kontrollieren - geltendes Recht durchsetzen

Gemeinsame Veranstaltung des vzbv mit der Landesvertretung Nordrhein-Westfalen.

Termin ansehen

19.03.2019Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.

Der Verbraucherzentrale Bundesverband (vzbv) hat die Europawahl zum Anlass genommen, um auf der Veranstaltung „Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.“ am Dienstag, den 19. März 2019 in Berlin über die Anliegen und Gestaltungsmöglichkeiten der Verbraucherpolitik in Europa zu diskutieren.

Termin ansehen

Videos & Grafiken (9)

Quelle: vzbv

KI: Sorge vor Manipulation

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 609.8 KB | 4724x2657

Quelle: vzbv

KI-Nutzung von Verbraucher:innen

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 713.12 KB | 4724x2657

Quelle: vzbv

Profilbildung zu Werbezwecken verbieten | Europawahl 2024

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 906.89 KB | 4724x2657

Bundespreis Verbraucherschutz 2022: SECUSO

Die Arbeitsgruppe SECUSO für Bürger:innen (SECurity, USability und SOciety) des Karlsuher Institut für Technologie (KIT) hat zahlreiche Methoden, Unterstützungstools, allgemeinverständliche Ratschläge und Erklärvideos zum Thema Datenschutz entwickelt. Der Anspruch von SECUSO ist, dass IT-Sicherheit verständlich und umsetzbar sein soll. Deshalb bietet das Projekt kostenfreies, niedrigschwelliges Informationsmaterial zum Schutz vor betrügerischen Nachrichten, zum Schutz von Benutzerkonten durch sichere Passwörter und zum Schutz der Privatsphäre in sozialen Netzwerken.

Video ansehen