Connect with us

Gesetze

KI-Regulierung: Bei den Verbraucherrechten wäre mehr drin gewesen

KI-Regulierung

vzbv begrüßt Beschluss des europäischen AI Acts – es bleiben aber Lücken bei den Verbraucherrechte.

Künstliche Intelligenz (KI) prägt den Konsumalltag immer stärker, etwa durch digitale Assistenten, die in Echtzeit Gefühle analysieren, durch personalisierte Empfehlungssysteme und Angebote. Eine verbraucherfreundliche Regulierung von KI ist daher besonders dringlich. Am 13. März hat das Europäische Parlament den Artificial Intelligence Act (AI Act) verabschiedet. Aus Sicht des Verbraucherzentrale Bundesverbands (vzbv) stellt der AI Act eine Verbesserung für Verbraucher dar, reicht aber nicht aus. Der vzbv fordert, die Interessen der Verbraucher bei der Umsetzung des AI Acts in Deutschland in den Mittelpunkt zu stellen.

„Immer mehr Angebote und Anwendungen greifen auf Systeme zurück, die Künstliche Intelligenz einsetzen. Das bietet Chancen für Verbraucher, birgt aber auch Risiken. Es ist deshalb eine gute Nachricht, dass sich die EU-Institutionen auf Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen geeinigt haben“, sagt Ramona Pop, Vorständin des vzbv.

„Doch die Regeln im AI Act geben Verbrauchern leider keinen ausreichenden Schutz. Bundesregierung und Bundestag müssen die wenigen Spielräume bei der nationalen Umsetzung des AI Acts nutzen und zumindest die KI-gesteuerte Gesichtserkennung im öffentlichen Raum auch für private Akteure untersagen. Der deutsche Gesetzgeber muss sicherstellen, dass es effiziente Aufsichtsstrukturen gibt und Aufsichtsbehörden ausreichend mit Personal und Know-how ausgestattet sind. Bei der Kontrolle von KI-Systemen und dem Durchsetzen der Regeln müssen Verbraucherinteressen höchste Priorität bekommen“, sagt Pop.

Schutzlücken für Verbraucher bleiben

Der AI Act macht den Umgang mit KI für Verbraucher transparenter: So erhalten sie bei KI-Systemen mit besonders hohem Risiko ein Recht auf Erklärung, beispielsweise beim Abschluss von Versicherungen. Hier ist jedoch fraglich, ob Verbraucher aus der bereitgestellten Erklärung wirklich verwertbare Informationen erhalten, die ihnen etwa im Streitfall nutzen, zum Beispiel wenn sie Diskriminierung vermuten.

Der AI Act sieht zudem vor, dass einige manipulative Praktiken durch KI untersagt werden. Persönliche Schwächen von Verbrauchern dürfen nicht von KI ausgenutzt werden. Eine Schutzlücke sieht der vzbv jedoch darin, dass das Verbot voraussetzt, dass diese Manipulation absichtlich geschieht.

„Aus Verbrauchersicht ist es nicht relevant, ob Manipulation absichtlich oder unbeabsichtigt passiert. Eine Absicht bei Manipulation kann vor Gericht wohl kaum nachgewiesen werden, deshalb ist es inkonsequent, hier zu unterscheiden. Manipulationen oder das Ausnutzern persönlicher Schwächen sollten grundsätzlich verboten werden“, sagt Ramona Pop.

„Verbraucherschutzorganisationen wie der vzbv sollen künftig gegen KI-Betreiber vorgehen können, wenn diese gegen den AI Act verstoßen. Das begrüßt der vzbv ausdrücklich, denn Verbrauchern haben in der Regel nicht die Möglichkeiten, ihre Rechte gegenüber Betreibern von KI-Systemen vor Gericht durchzusetzen“, so Pop.

Hintergrund
Seit April 2021 wird in Brüssel ein Rechtsrahmen für Künstliche Intelligenz (KI) verhandelt, der Artificial Intelligence Act (AI Act). Mit dem am 13. März 2024 beschlossenen AI Act will die EU Vorreiter bei der Regulierung von KI sein. Er soll künftig Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen definieren. Die KI-Regulierung wird allerdings voraussichtlich erst ab 2026 in der Praxis greifen.

KI KI

Schreiben mit KI

IT&Technik

Künstliche Intelligenz Künstliche Intelligenz

Wo kommt künstliche Intelligenz bereits heute sinnvoll zum Einsatz?

IT&Technik

Quantum AI Quantum AI

Quantum AI: Die Revolution des Finanzhandels im Zeitalter der Quantencomputer

IT&Technik

Preiskrise Preiskrise

vzbv fordert Entlastungen für Verbraucher in der Preiskrise

Politik&Gesellschaft

Werbung
Connect
Cookie-Einstellungen
Auf dieser Website werden Cookie verwendet. Diese werden für den Betrieb der Website benötigt oder helfen uns dabei, die Website zu verbessern.
Alle Cookies zulassen
Auswahl speichern
Individuelle Einstellungen
Individuelle Einstellungen
Dies ist eine Übersicht aller Cookies, die auf der Website verwendet werden. Sie haben die Möglichkeit, individuelle Cookie-Einstellungen vorzunehmen. Geben Sie einzelnen Cookies oder ganzen Gruppen Ihre Einwilligung. Essentielle Cookies lassen sich nicht deaktivieren.
Speichern
Abbrechen
Essenziell (1)
Essenzielle Cookies werden für die grundlegende Funktionalität der Website benötigt.
Cookies anzeigen