Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen
Algorithmen_Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

Algorithmen & KI

Entscheidungen über Verbraucher:innen werden zunehmend durch Algorithmische Systeme (ADM) und künstliche Intelligenz (KI) getroffen oder vorbereitet, etwa bei Scoring-Verfahren im Finanzbereich. Und auch die Entscheidungen der Verbraucher:innen werden immer öfter durch KI-basierte Empfehlungssysteme und Sprachassistenten wie ChatGPT & Co. beeinflusst. Menschen misstrauen KI-Anwendungen dabei oft. Das liegt daran, dass selbst für Experte:innen kaum nachvollziehbar ist, ob die Systeme Fehlentscheidungen treffen oder gegen Gesetze verstoßen, wie etwa das Diskriminierungsverbot.

Mit der europäischen Verordnung über Künstliche Intelligenz (KI-VO) gibt es erstmals einen Rechtsrahmen, der den Einsatz künstlicher Intelligenz regelt. Dieser adressiert eine Vielzahl realer KI-Risiken, denen Verbraucher:innen täglich begegnen, wie der Echtzeit-Analyse von Kundenemotionen an Hotlines. Trotz vieler Fortschritte weist die KI-VO erhebliche Schutzlücken auf. Verbraucher:innen sind weiterhin nicht ausreichend vor Manipulation geschützt.

Bis zum 2. August 2025 muss in Deutschland eine nationale Aufsichtsstruktur für KI etabliert werden. Hierbei ist wichtig, dass die nationalen KI-Aufsichtsbehörden die Interessen der Verbraucher:innen angemessen berücksichtigen.

Der vzbv fordert

  • Der Gesetzgeber sollte einen unabhängigen nationalen KI-Beirat einrichten, damit zivilgesellschaftliche Interessen bei der KI-Aufsicht berücksichtigt werden.
  • Wenn Verbraucher:innen sich über KI beschweren möchten: Die zentrale Aufsichtsbehörde muss ein einfaches System zur Beschwerdeannahme einrichten.
  • Ein bundesweites Kompetenzzentrum KI sollte die sektoral zuständigen Marktaufsichtsbehörden mit technischer Expertise unterstützten.
  • Der Einsatz von KI zur biometrischen Fernidentifizierung von Menschen an öffentlich zugänglichen Orten muss auch für private Akteure untersagt werden.
  • Die zentrale Aufsichtsbehörde muss Verbraucher:innen informieren und bei der Wahrnehmung ihrer Rechte aus der KI-Verordnung praktisch unterstützen.
Von Skepsis bis Dauer-User: KI im Verbraucheralltag: 52 Prozent der Befragten geben an, bereits Erfahrungen mit Anwendungen gemacht zu haben, die KI einsetzen. 41 Prozent der Befragten geben an, bewusst zu versuchen, keine Anwendungen zu nutzen, die KI einsetzen. 30 Prozent der Befragten geben an, selbst regelmäßig Anwendungen zu nutzen, die KI einsetzen

Quelle: vzbv

KI: Sorge vor Manipulation

Quelle: vzbv

Drei Personen umarnen sich. Eine schaut opimistisch in die Kamera. Eine Schrift mit einem Herz drumherum sagt: "Stärken, was alle stärkt"

Quelle: iStock, katleho Seisa

Bundestagswahl 2025 - Verbraucherpolitische Forderungen

Die demokratischen Parteien müssen Antworten auf die Alltagssorgen der Menschen finden. Der Verbraucherzentrale Bundesverband (vzbv) hat konkrete Vorschläge, wie sich der Verbraucheralltag verbessern lässt. Hier finden Sie alle Forderungen und Materialien des vzbv zur Bundestagswahl 2025.

Weitere Informationen

Download

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

Positionspapier des vzbv | Juni 2024 | Vorschläge des Verbraucherzentrale Bundesverbands e.V. für eine nationale Umsetzung des Artificial Intelligence Act

Ansehen
PDF | 204.37 KB

Der vzbv bewertet regelmäßig in einem Politikcheck, ob sich die Bundesregierung wie im Koalitionsvertrag angekündigt für eine verbraucherorientierte Algorithmenkontrolle einsetzt. Hier sehen Sie die aktuelle Bewertung:

Politikcheck Regierungsbilanz

Gesichtserkennungsmaske über dem Gesicht eines Mannes

Quelle: Artem - AdobeStock

Wenige Kernforderungen wurden umgesetzt
Wenige Kernforderungen wurden umgesetzt
Wenige Kernforderungen wurden umgesetzt
Wenige Kernforderungen wurden umgesetzt
Wenige Kernforderungen wurden umgesetzt
BMWK (Bundesministerium für Wirtschaft und Klimaschutz)

Benachteiligungen durch Algorithmen und Künstliche Intelligenz (KI) verhindern

Algorithmische Systeme und KI müssen transparent und objektiv überprüfbar sein, um Verbraucher:innen vor Fehlentscheidungen zu schützen.

Weiterlesen

Begonnen
Begonnen
Begonnen
Begonnen
Begonnen

Weitere Informationen

Gesichtserkennungsmaske über dem Gesicht eines Mannes

Quelle: Artem - AdobeStock

14.05.2024KI: Nationale Aufsicht muss Verbraucherinteressen berücksichtigen

In gut einem Jahr muss in Deutschland eine nationale Aufsichtsstruktur für künstliche Intelligenz (KI) etabliert werden, mit der die Umsetzung des Artificial Intelligence Act (AI-Act) überwacht wird. Der vzbv fordert eine verbraucherfreundliche Umsetzung des AI-Acts mit einer Aufsicht, die Verbraucherinteressen berücksichtigt.

Meldung lesen

You can see Ramona Pop in front of a wooden wall.

Quelle: © Dominik Butzmann / vzbv

13.06.2023Künstliche Intelligenz im Konsumalltag: So gefährlich ist die neue Technologie für Verbraucher

Handelsblatt-Interview mit vzbv-Vorständin Ramona Pop zu Künstlicher Intelligenz

Meldung lesen

produkthaftung_smarthome_halfpoint-adobestock_202945327.jpeg

Quelle: Halfpoint – AdobeStock

Produkthaftung

Der vzbv fordert eine grundlegende Reform des Produkthaftungsrechts. Zum Schutz der Verbraucher:innen müssen die Regelungen an die Anforderungen der digitalen Welt angepasst werden.

Mehr erfahren

Weitere Inhalte auf Englisch

Algorithmen_Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

Artificial Intelligence & algorithmic systems

Algorithmic systems have an increasing impact on decisions about consumers, for example via scoring procedures in the financial sector.

Mehr erfahren

Alles zum Thema: Algorithmen & KI

Artikel (37)
Eine Frau sitzt auf dem Sofa und hält sich für die Gesichtserkennung ein Handy vors Gesicht

Quelle: Jajah-sireenut - iStock

07.01.2025Aufsicht über KI-Verordnung: Bedürfnisse der Verbraucher:innen müssen berücksichtigt werden

Für die Ressortabstimmung der Bundesregierung zur Durchführung des Artificial Intelligence Act (KI-Verordnung) fordert der vzbv einen verbraucherfreundlichen Gesetzentwurf. Verbraucher:innen sollten eine zentrale Anlaufstelle für Beschwerden und Hilfe haben.

Meldung lesen

digital-smartphone-touristen-fotolia_nenetus_78663700.jpg

Quelle: Nenetus - AdobeStock

16.10.2024Gutachten: Kompetenzzentrum darf Aufsicht über künstliche Intelligenz unterstützen

Die nationale Anwendung der europäischen KI-Verordnung sieht vor, dass in Deutschland bis August 2025 Aufsichtsstrukturen zur Überwachung der KI-Verordnung etabliert sein müssen. Zur Unterstützung der Aufsichtsbehörden schlägt der vzbv ein „KI-Kompetenzzentrum“ vor.

Meldung lesen

Gruppe von Menschen mit Handy

Quelle: iStock - Peoplesimages

06.06.2024Verbraucherreport 2024: Verbraucher:innen wünschen sich mehr Schutz im digitalen Raum

Im digitalen Raum klaffen große Lücken beim Verbraucherschutz. Das zeigt der Verbraucherreport 2024 des vzbv. Von Fakeshops und untergeschobenen Verträgen bis zur Regulierung künstlicher Intelligenz oder manipulativer Designs gibt es viele drängende Verbraucherthemen. Der vzbv fordert ein Update vieler Verbraucherrechte.

Zur Pressemeldung

Gesichtserkennungsmaske über dem Gesicht eines Mannes

Quelle: Artem - AdobeStock

14.05.2024KI: Nationale Aufsicht muss Verbraucherinteressen berücksichtigen

In gut einem Jahr muss in Deutschland eine nationale Aufsichtsstruktur für künstliche Intelligenz (KI) etabliert werden, mit der die Umsetzung des Artificial Intelligence Act (AI-Act) überwacht wird. Der vzbv fordert eine verbraucherfreundliche Umsetzung des AI-Acts mit einer Aufsicht, die Verbraucherinteressen berücksichtigt.

Meldung lesen

Gesichtserkennungsmaske über dem Gesicht eines Mannes

Quelle: Artem - AdobeStock

13.03.2024KI-Regulierung: Bei den Verbraucherrechten wäre mehr drin gewesen

Am 13. März hat das Europäische Parlament den Artificial Intelligence Act (AI Act) zur KI-Regulierung verabschiedet. Dieser stellt eine Verbesserung für Verbraucher:innen dar, reicht aber nicht aus. Die Interessen der Verbraucher:innen müssen bei der Umsetzung des AI Acts in Deutschland in den Mittelpunkt gestellt werden.

Zur Pressemeldung

Dokumente (17)
Anhörung Umsetzung AI-Act

Anhörung Umsetzung AI-Act

Stellungnahme des vzbv zur öffentlichen Anhörung des Ausschusses für Digitales des Deutschen Bundestages „Nationale Spielräume bei der Umsetzung des europäischen Gesetzes über Künstliche Intelligenz“ am Mittwoch, 15. Mai 2024

Ansehen
PDF | 286.84 KB
AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

Positionspapier des vzbv | Juni 2024 | Vorschläge des Verbraucherzentrale Bundesverbands e.V. für eine nationale Umsetzung des Artificial Intelligence Act

Ansehen
PDF | 204.37 KB
Politikcheck 2023

Politikcheck 2023

Verbraucherpolitische Halbzeitbilanz der 20. Legislaturperiode

Ansehen
PDF | 108.04 KB
EU legislators must close dangerous loophole in AI Act

EU legislators must close dangerous loophole in AI Act

Open letter of 100+ organizations | September 2023

Ansehen
PDF | 53.1 KB
Tabellenband zur Forsa-Umfrage im Auftrag des vzbv | August 2023

Tabellenband zur Forsa-Umfrage im Auftrag des vzbv | August 2023

Ansehen
PDF | 189.34 KB
Urteile (1)
digital_internet_denisismagilov_fotolia_114878936.jpg

Quelle: denismagilov - fotolia.com

14.12.2020Gericht: Irreführung der Verbraucher auf test.net

Urteil vom 14.12.2020

Das OLG Köln hat nach einer Klage des vzbv der test.net GmbH untersagt, auf ihrer Internetseite angebotene Produktvergleiche als Tests auszugeben, wenn die bewerteten Produkte gar nicht einzeln geprüft wurden. Das Gericht verbot dem Unternehmen außerdem, die Domain test.net für algorithmusbasierte Produktvergleiche zu verwenden.

Urteil ansehen

Videos & Grafiken (9)
KI: Sorge vor Manipulation

Quelle: vzbv

KI: Sorge vor Manipulation

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 609.8 KB | 4724x2657
Von Skepsis bis Dauer-User: KI im Verbraucheralltag

Quelle: vzbv

KI-Nutzung von Verbraucher:innen

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 713.12 KB | 4724x2657
Infografik: forsa-Umfrage im Auftrag des vzbv | Frage: Wie wichtig wäre die Umsetzung des folgenden Vorschlags für Ihren persönlichen Alltag? Personalisierte Online-Werbung verbieten, die auf persönlichen Profilen beruht, die anhand Ihrer vorherigen Aktivitäten im Internet erstellt wurden. 31% eher nicht wichtig; 25% eher wichtig; 40% sehr wichtig

Quelle: vzbv

Profilbildung zu Werbezwecken verbieten | Europawahl 2024

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 906.89 KB | 4724x2657
Bundespreis Verbraucherschutz 2022: SECUSO

Bundespreis Verbraucherschutz 2022: SECUSO

Die Arbeitsgruppe SECUSO für Bürger:innen (SECurity, USability und SOciety) des Karlsuher Institut für Technologie (KIT) hat zahlreiche Methoden, Unterstützungstools, allgemeinverständliche Ratschläge und Erklärvideos zum Thema Datenschutz entwickelt. Der Anspruch von SECUSO ist, dass IT-Sicherheit verständlich und umsetzbar sein soll. Deshalb bietet das Projekt kostenfreies, niedrigschwelliges Informationsmaterial zum Schutz vor betrügerischen Nachrichten, zum Schutz von Benutzerkonten durch sichere Passwörter und zum Schutz der Privatsphäre in sozialen Netzwerken.

Video ansehen
Bundespreis Verbraucherschutz 2022: SECUSO

Bundespreis Verbraucherschutz 2022: SECUSO

Die Arbeitsgruppe SECUSO für Bürger:innen (SECurity, USability und SOciety) des Karlsuher Institut für Technologie (KIT) hat zahlreiche Methoden, Unterstützungstools, allgemeinverständliche Ratschläge und Erklärvideos zum Thema Datenschutz entwickelt. Der Anspruch von SECUSO ist, dass IT-Sicherheit verständlich und umsetzbar sein soll. Deshalb bietet das Projekt kostenfreies, niedrigschwelliges Informationsmaterial zum Schutz vor betrügerischen Nachrichten, zum Schutz von Benutzerkonten durch sichere Passwörter und zum Schutz der Privatsphäre in sozialen Netzwerken.

Video ansehen
Termine (5)
Algorithmen_Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

06.- 06.06.2023, re:publica/FoyerEinwilligung als „Cash“ Online-Design zwischen Dark Patterns und Verbraucherorientierung

Veranstaltung mit vzbv-Digitalexpertin Lina Ehrig auf der re:publica

Termin ansehen

Raus aus dem Digital

Quelle: Digitaltag

24.06.2022, bundesweitDigitaltag 2022

Auch die Verbraucherzentralen wollen die digitale Teilhabe in Deutschland fördern. Zum bundesweiten Digitaltag am 24. Juni 2022 machen die Verbraucherzentralen und der vzbv deshalb Digitalisierung mit zahlreichen Aktionen, Online-Seminaren und Smartphone-Rallys alltagsnah erlebbar.

Termin ansehen

Algorithmen_Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

10.12.2020Wir rechnen mit Ihnen. Andere auch. #Algorithms4Consumers

Unter der Überschrift „Wir rechnen mit Ihnen. Andere auch #Algorithms4Consumers“ veranstalten der Verbraucherzentrale Bundesverband e.V. (vzbv) und die Vertretung des Landes Baden-Württemberg bei der Europäischen Union am 10. Dezember 2020 in Brüssel eine gemeinsame Veranstaltung zum Thema Algorithmen und Künstlicher Intelligenz.

Termin ansehen

termine-vzbv_raum11.jpg

Quelle: Raum11 - vzbv

18.11.2019Algorithmen kontrollieren - geltendes Recht durchsetzen

Gemeinsame Veranstaltung des vzbv mit der Landesvertretung Nordrhein-Westfalen.

Termin ansehen

vzbv

Quelle: vzbv

19.03.2019Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.

Der Verbraucherzentrale Bundesverband (vzbv) hat die Europawahl zum Anlass genommen, um auf der Veranstaltung „Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.“ am Dienstag, den 19. März 2019 in Berlin über die Anliegen und Gestaltungsmöglichkeiten der Verbraucherpolitik in Europa zu diskutieren.

Termin ansehen

Unsere Expert:innen zum Thema

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Ich möchte beraten werden
Ich möchte mich beschweren
Ich suche Informationen für Verbraucher:innen

Kontakt

Zu sehen ist auf hellem Grund der rot gezeichnete Rahmen eines Telefonhörers.

Pressestelle

Service für Journalist:innen

presse@vzbv.de +49 30 25800-525

Kontakt

Lina Ehrig

Lina Ehrig

Leiterin Team Digitales und Medien

info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Miika Blinn

Referent Team Digitales und Medien

info@vzbv.de +49 30 25800-0

Verwandte Themen

  • Breitband

    Der vzbv fordert Breitbandausbau und Breitbandversorgung für eine flächendeckende Grundversorgung, einen nachhaltig funktionierenden Wettbewerb sowie ein für Verbraucher:innen positives Preisniveau und Leistungsangebot.

    Zur Themenseite

  • Daten

    Eine bessere Verfügbarkeit von Daten kann einen Mehrwert für Verbraucher:innen schaffen und dazu beitragen gesellschaftliche Probleme zu lösen. Eine verantwortungsvolle Datennutzung ist aber nur möglich, wenn die Menschen uneingeschränkt auf den Schutz ihrer personenbezogenen Daten vertrauen können.

    Zur Themenseite

  • Personalisierte Werbung

    Die Einführung der Datenschutz-Grundverordnung (DSGVO) sowie die schnell voranschreitenden technischen Entwicklungen in der elektronischen Kommunikation machen eine Überarbeitung der bisherigen ePrivacy-Richtlinie erforderlich.

    Zur Themenseite

  • IT-Sicherheit

    Es braucht eine gesetzliche Verpflichtung zu Security by Default und Security by Design: Produkte müssen IT-sicher konstruiert sein und bereits mit aktivierten Sicherheitsmechanismen ausgeliefert werden.

    Zur Themenseite

  • Mobilfunk

    Eine funktionierende Mobilfunkversorgung gehört zu den Grundpfeilern der digitalen Infrastruktur. Mobiles Surfen und Telefonieren sollten daher eine Selbstverständlichkeit sein. Leider ist das nicht immer der Fall.

    Zur Themenseite

  • Telekommunikation

    Ob geplatzte Technikertermine, zu geringe Bandbreite oder Schwierigkeiten, den Handyvertrag zu kündigen – die Probleme auf dem Telekommunikationsmarkt sind für Verbraucher:innen vielschichtig und oft ein Ärgernis im täglichen Leben. So verwundert es auch nicht, dass es im Bereich Telekommunikation mit die meisten Beschwerden bei den Verbraucherzentralen gibt.

    Zur Themenseite

  • Plattformen

    Das Haftungsprivileg und das Verbot der Einführung allgemeiner Überwachungspflichten haben bei der Entwicklung der Plattformvielfalt im Internet wichtige Dienste geleistet. Eine Vielfalt, von der auch Verbraucher:innen profitieren. Doch nach 20 Jahren wird es Zeit, die Regelungen für Plattformen an neue Gegebenheiten und Herausforderungen anzupassen.

    Zur Themenseite

  • Wettbewerb in der Digitalisierung

    Große Digitalkonzerne wie Google, Apple oder Amazon kontrollieren den Zugang zu Handelsplätzen und digitalen Ökosystemen. Zwei Gesetzesinitiativen sollen nun für faireren Wettbewerb sorgen.

    Zur Themenseite

  • Datenschutz

    Hinter dem Schutzniveau der Datenschutz-Grundverordnung dürfen neue Gesetze nicht zurückbleiben. Vielmehr bedarf es klarerer Regelungen für besonders risikobehaftete Datenverarbeitungen.

    Zur Themenseite

  • Datenmaut

    Um Wettbewerbsverzerrungen zu vermeiden, die Angebotsvielfalt und ein bezahlbares Preis-Leistungs-Verhältnis digitaler Dienste für Verbraucher:innen zu wahren und um die Netzneutralität zu schützen, setzt sich der vzbv dafür ein, dass keine Datenmaut eingeführt wird.

    Zur Themenseite