Künstliche Intelligenz im Konsumalltag: So gefährlich ist die neue Technologie für Verbraucher

Verbraucherschützerin Pop geht davon aus, dass sich die Gesellschaft durch KI „radikal“ verändern werde. Im Konsumalltag etwa bestehe „die Gefahr der Manipulation, des Betrugs oder aber der Diskriminierung durch Algorithmen“, sagte sie.

Problemtisch kann KI-gesteuerte Gesichts- und Emotionserkennung sein, etwa im Finanz- und Versicherungsbereich. „Solche Modelle können zum Einsatz kommen, um herauszufinden, ob ich lüge oder nicht, wenn ich zum Beispiel einen Schaden an meinem Auto beschreiben soll“, erläuterte Verbraucherschützerin Pop. Das Problem sei, dass Anwendungen zur Emotionsanalyse „oftmals unausgereift“ seien. „Daten werden falsch interpretiert und führen dann zu Annahmen über eine Person, die ungenau sind und zu falschen Ergebnissen führen können.“

Verbraucher erhoffen sich von Produktbewertungen im Netz nützliche Hinweise für die eigene Kaufentscheidung. Allerdings können diese Bewertungen auch gekauft oder gefälscht sein. Pop spricht von „systematischen Risiken“ für Verbraucher, wenn in größerem Ausmaß KI-Bots zum Einsatz kommen.

Dann bekämen auch juristische Fragen eine noch größere Relevanz, sagte die Verbraucherschützerin. „Wer haftet eigentlich für falsche oder gar gefälschte Produktbewertungen, die etwas suggerieren, das nicht der Realität entspricht?“ Fragen wie diese müssten im Rahmen einer Regulierung geklärt werden.

Der Ärger für Verbraucher beginnt dann, wenn Preise für dasselbe Produkt zum Teil deutlich auseinanderliegen. Man spricht dann auch vom „Dynamic Pricing“, dynamischer Preisgestaltung. Ausschlaggebend dafür ist eine KI-basierte Analyse von Faktoren wie Nachfrage, Angebot oder Wettbewerb. „Das kann manipulativ oder sogar betrügerisch sein“, konstatiert Verbraucherschützerin Pop.

Damit der Verbraucher nicht das Nachsehen hat, sollte aus Pops Sicht klar definiert sein, was erlaubt ist und was nicht. „Am besten wäre es, bei der Preisgestaltung so transparent wie möglich zu sein, damit die Nutzer verstehen, wie KI Einfluss auf Preise nimmt“, sagte sie.

Auch hier kommen Algorithmen zum Einsatz. Die Verbraucherschützer sind schon juristisch gegen Vergleichsportale vorgegangen, wenn aus ihrer Sicht keine objektiven Preisvergleiche stattgefunden haben. Man müsse sich auf die Zuverlässigkeit der Portale verlassen können, betonte Pop. Deswegen sei auch hier Transparenz das Gebot der Stunde.

„Es muss nachvollziehbar sein, wie solche Plattformen zu ihren Empfehlungen kommen und welchen Einfluss zum Beispiel Provisionszahlungen der Produkteanbieter auf das angezeigte Ranking haben“, sagte die VZBV-Chefin.

Solche Werbung, die heute schon mithilfe von Cookies erstellt werden kann, wird mit KI künftig noch zielgenauer möglich sein. „Die Gefahr der Manipulation wird also steigen“, glaubt Pop, etwa wenn das System aufgrund der Suchhistorie feststelle, dass eine Person in bestimmten Situationen vielleicht besonders verletzlich sei.

Dies könne zum Beispiel passieren, wenn die Person Medikamente gegen Gedächtnisstörungen suche. Dann könne sie plötzlich Kaufangebote zu ähnlichen Gesundheitsthemen bekommen, erläuterte Pop.

Notwendig seien „starke Verbraucherrechte“ gegenüber Betreibern von KI-Systemen, sagte Pop. „Es muss ein Recht auf Korrektur und Löschung geben, damit sich Betroffene gegen KI-generierte Falschmeldungen oder Manipulation wehren können.“

Das Thema KI müsse zudem „in den Anhang der europäischen Verbandsklage-Richtlinie aufgenommen werden“, forderte die Verbraucherschützerin. „Dann haben wir die Möglichkeit, Sammelklagen gegen bestimmte Anbieter im Namen geschädigter Verbraucher zu führen, und können Entschädigungen einfordern.“

Der Chef der Agentur für Sprunginnovationen (SprinD), Rafael Laguna de la Vera, sprach sich gegen Regeln aus, die zu einem Technologieverbot führen. „Das macht uns dümmer und damit wehrloser“, sagte er dem Handelsblatt. KI-Resultate könne man nach ihrem Output und anhand der Frage bewerten, ob sie unseren Werten und Gesetzen folgen, regte er an.

Pop plädierte in diesem Zusammenhang für die Einrichtung eine KI-Aufsichtsbehörde. „Wir müssen die Diskussion führen, auf welche Art und Weise Regeln, Risiken und Probleme von KI bewertet und welche Schlüsse daraus gezogen werden sollen“, sagte sie. „Für die Kontrolle der Einhaltung von Regeln wäre vielleicht neben einer nationalen Aufsicht auch eine europäische Behörde sinnvoll.“ Das müsse zügig entschieden werden. Denn dies sei auch für die gesellschaftliche Akzeptanz dieser neuen Technologie wichtig.
 

Der Text erschien am 13. Juni 2023 online im Handelsblatt.