Künstliche Intelligenz - ein weiteres EU Gesetz - sinnvoll?

Die EU und wir scheinen immer neue Gesetze fürs Digitale zu mögen. Es begann mit der DSGVO (mit dem "Abfallprodukt" 'nervige Zustimmungsbanner' (oft falsch eingesetzt)), dem Digital Service Act und nun kommt der AI Act der EU.

Kunden, die online einkaufen, stoßen oft auf die Empfehlung „Das könnte Sie interessieren“. Diese basierte bislang auf Basis von Algorithmen. Auf Basis einer Analyse durch Künstliche Intelligenz (KI), die Einkaufsgewohnheiten und Präferenzen auswertet, um maßgeschneiderte Vorschläge zu unterbreiten können hier noch weitaus granularere Ergebnisse erzielt werdem.

Künstliche Intelligenz prägt zunehmend den Alltag, sei es beim Online-Einkauf, in Suchmaschinen oder über Sprachassistenten. Der europäische AI Act zielt darauf ab, Verbraucherrechte gegenüber Anbietern von KI-Technologien zu stärken.

Mit seiner baldigen Einführung in der EU, nachdem im April 2024 die letzte formale Hürde genommen wird, adressiert das Gesetz verschiedene Aspekte. Digitalminister Volker Wissing (FDP) diskutiert schon die nationale Ausgestaltung in Deutschland. Sandra Wachter, Professorin für Technologie und Regulierung am Oxford Internet Institute betont das Ziel, Technologien sicherer zu gestalten. Dennoch sehen viele Experten das Gesetz als nicht ausreichend an.

Der AI Act adressiert unter anderem das Verbot von Gesichts- und Emotionserkennung in Schulen und am Arbeitsplatz, das die Emotionserkennung als Pseudo-Wissenschaft kritisiert. Biometrische Überwachung, insbesondere für Echtzeit-Überwachung, wird strengen Auflagen unterworfen, um Missbrauch vorzubeugen.

Künstliche Intelligenz, die oft als Berater beim Einkaufen dient, kann auch negative Folgen für die Verbraucher haben. Hier setzt das europäische KI-Gesetz an, um Schutz zu bieten. Der digitalpolitische Sprecher der FDP-Fraktion, Maximilian Funke-Kaiser, warnt, dass Künstliche Intelligenz Verbraucher verstärkt manipulativen Techniken aussetzen kann. „Ein Großteil dieser Praktiken wird durch die KI-Verordnung untersagt“, meint er.

Der AI Act der EU führt zu fünf wesentlichen Änderungen für Verbraucher:

1. Verbot von Gesichts- und Emotionserkennung: Der Einsatz von KI zur Emotionserkennung ist in Schulen und am Arbeitsplatz durch den AI Act vollständig untersagt. Die Emotionserkennung wird als Pseudo-Wissenschaft betrachtet, da Emotionen wissenschaftlich nicht lesbar seien.
2. Transparenzgebot: Verbraucher müssen informiert werden, wenn KI eingesetzt wird, wie es das Gesetz aus Brüssel vorsieht. Verbraucher müssen darauf hingewiesen werden, wenn KI im Spiel ist. Dies könnte u.a. durch Wasserzeichen bei KI-generierten Inhalten umgesetzt werden.
3. Verbot von Social Scoring durch Unternehmen: Der AI Act verbietet die Nutzung von KI für das Social Scoring (Stichwort: SCHUFA) von Individuen durch Unternehmen. Vertreter vom Bundesverband der Verbraucherzentralen begrüßen diese Regelung, sehen aber auch Kompromisse im Gesetzestext.
4. Recht auf Verständnis: Entscheidungen, die von KI getroffen werden, müssen für Bürger nachvollziehbar sein. KI-Experte Philipp Hacker kritisiert jedoch, dass der Gesetzestext keine Garantie für eine umfassende Erklärung bietet. Als „Hockrisikosysteme“ werden im AI Act unter anderem die KI-Systeme von Branchen wie Personalwesen, Strafrechtspflege und Bildung eingestuft. Allerdings greife hier in Teilen die Datenschutzgrundverordnung, die deutlich weiter gehe als der KI Act, so Hacker.
5. Beschwerderecht: Verbraucher, die sich von einer KI-Entscheidung ungerecht behandelt fühlen, können Beschwerde bei einer Aufsichtsbehörde einlegen. Hacker sieht die Verbandsklagerichtlinie als wichtigen Mechanismus, um Verbraucherrechte durchzusetzen.

Obwohl der AI Act kritisiert wird, überwiegen laut Experten die Vorteile für Verbraucher. „Selbst eine unvollkommene Regelung ist besser als keine“, betont Wachter und weist darauf hin, dass Nachbesserungen möglich sind.

Und was meint ihr?

Quelle: Weitgehend auf Basis KI erstellter Text unter Eingabe / Nennung von Stakeholdern und Publikationen ohne diese hier genannt zu haben.