News & Abstracts

Gericht/Institution:Verbraucherzentrale Bundesverband e.V.
Erscheinungsdatum:09.08.2021
Quelle:juris Logo

vzbv-Positionspapier zum Vorschlag für den Artificial Intelligence Act (AIA): KI-Regeln der EU ignorieren viele Verbraucherprobleme

 

Die Europäische Kommission hat einen Vorschlag für einen europäischen Rechtsrahmen für Künstliche Intelligenz (KI), den Artificial Intelligence Act (AIA) vorgelegt.

Der Verbraucherzentrale Bundesverbands (vzbv) kritisiert nun in einem Positionspapier, dass der AIA Verbraucherinnen und Verbraucher nicht wirksam vor KI-Systemen schützt, die erheblichen wirtschaftliche Schäden verursachen können – etwa im Bereich Versicherungen. Außerdem schaffe er kaum Transparenz für Verbraucher und überlasse die Kontrolle hochriskanter KI-Systeme weitgehend den Anbietern selber.

Die Bewertung des vzbv im Einzelnen:

• Der Vorschlag ignoriert weitgehend KI-Systeme, die Verbrauchern erhebliche wirtschaftliche und finanzielle Schäden zufügen können, etwa im Versicherungs- oder Finanzbereich.

• Der Gesetzgeber muss ein Recht auf individuelle Erklärung schaffen, etwa zu Datengrundlage wichtiger KI-getriebener Entscheidungen. Nur damit können Verbraucher ihre Rechte wahrnehmen und gegen ungerechtfertigte Behandlung oder Diskriminierung vorgehen.

• Der Vorschlag schützt Verbraucher nicht wirksam vor dem Einsatz vor Emotionserkennungssystemen und Persönlichkeitsanalysen durch private Stellen. So sollten etwa vermeintliche Lügendetektoren oder Systeme zur Emotionserkennung untersagt werden, wenn sie die Schwächen Einzelner (wie Schmerzen, Müdigkeit oder Veranlagung zu Spielsucht) zum kommerziellen Vorteil der Anbieter ausnutzen.

• Die Verwendung biometrischer Identifikationssysteme in öffentlich zugänglichen Räumen durch private Stellen sollte untersagt werden – etwa wenn „smarte Brillen“ im öffentlichen Nahverkehr Passanten identifizieren.

• Der Entwurf sieht vor, dass die Anbieter hochriskanter KI weitgehend selber kontrollieren, ob ihre Systeme rechtskonform sind. Um das nötige Verbrauchervertrauen in diese Systeme zu schaffen, müssen aber unabhängige Überprüfungen bei diesen Systemen die Regel sein.

Weitere Informationen
PDF-Dokument Positionspapier (in englischer Sprache; PDF, 341 KB)

Quelle: Newsletter des Verbraucherzentrale Bundesverbandes e.V. v. 06.08.2021


Immer auf dem aktuellen Rechtsstand sein!

IHRE VORTEILE:

  • Unverzichtbare Literatur, Rechtsprechung und Vorschriften
  • Alle Rechtsinformationen sind untereinander intelligent vernetzt
  • Deutliche Zeitersparnis dank der juris Wissensmanagement-Technologie
  • Online-First-Konzept

Testen Sie das juris Portal 30 Tage kostenfrei!

Produkt auswählen

Sie benötigen Unterstützung?
Mit unserem kostenfreien Online-Beratungstool finden Sie das passende Produkt!

Libra

Libra ist da.

Mit unserem neuen Nachrichtenangebot, welches die juris Nachrichten langfristig ablösen wird, erhalten Sie ab jetzt die wichtigsten News, Analysen und Expertenmeinungen rund um Rechtspolitik, Rechtspflege und den professionellen Rechtsalltag in die Inbox. Recherchiert, aufbereitet und für Sie zusammengestellt von unserer Redaktion in Berlin. Abonnieren Sie den Libra-Newsletter kostenlos hier:

www.libra-rechtsbriefing.de