Datenschutz und Künstliche Intelligenz: Eine komplexe Beziehung

 I. Einleitung

Der Einsatz von Künstlicher Intelligenz (KI) im Marketing und Marketing Automation wirft komplexe, rechtliche und ethische Fragen auf. Wie wichtig das Thema ist, zeigt sich in den öffentlichen Diskussionen rund um die möglichen Auswirkungen von Deepfakes im Krieg in der Ukraine. Aber, sie zeigt sich auch in der Angst über möglichen Kontrollverlust in manchen Gruppen in der Bevölkerung, die sich gegenüber dem Einsatz und Fortschritt von KI eher kritisch äussern. Daneben gibt es öffentliche Diskussionen rund um die Befürchtungen, dass die genutzten persönlichen Daten ohne menschliches Eingreifen, zu Benachteiligung führen könnte. Dies, weil sich KI mit den spezifischen Merkmalen einer Person auseinandersetzt und KI als «Maschine» keine moralische Beurteilung machen kann, ob eine spezifische Kombination der Daten ein Potenzial zur Diskriminierung einer Gruppe besitzt.

Zurzeit gibt es keine wirklichen rechtliche KI-spezifische Normen, aber dennoch ist der Umgang durch die aktuelle Gesetzgebung des DSG und DSGVO bereits in gewisse Bahnen gelenkt. Diese Leitprinzipien bilden in Europa die Grundlage für die Debatte zum ethischen Umgang mit Künstlicher Intelligenz.

II. Datenschutz und KI-Programme

Das Datenschutzrecht (DSGVO) gewährt gegenwärtig den Betroffenen bestimmte Rechte gegenüber den Datenverarbeitern. Diese Rechte umfassen Informationsrechte und Rechte zur Nicht-Diskriminierung aufgrund persönlicher Merkmale.

Die Verarbeitung personenbezogener Daten durch KI-Systeme unterliegt selbstverständlich ebenfalls dem gängigen Datenschutzrecht.  Besonders spannend ist die Anwendung der rechtlichen Fragen, wenn KI-Systeme personenbezogene Daten als Trainings- oder Inputdaten nutzen und diese für Analysen, Vorhersagen und automatisierte Entscheidungen heranziehen. In der Regel geben die Systeme transparente Entscheidungsfindungen an, jedoch können komplexe Korrelationen zwischen diesen entstehen und zu ungewollten Vorurteilen (Bias) führen.

Es sind gerade diese übergreifenden Einflüsse, die uns im Marketing bewusst sein müssen, um gegebenenfalls ungewollten Bias zu verhindern. In keinem Fall sollten unsere automatisierten Entscheidungen bestimmte Personengruppen aufgrund von persönlichen Daten benachteiligen. Deshalb solltest du dich beim Einsatz von KI, an die Grundprinzipien des Datenschutzes halten.

III. Vergleich der Regelungen in der Schweiz und Europa

In der Schweiz sind bisher nur wenige Normen speziell auf die Regulierung von KI-Technologien ausgerichtet. Eine Ausnahme bildet das Datenschutzrecht, das bereits erste Bestimmungen zur Regulierung des Einsatzes von KI-Technologien enthält. Dies im Zusammenhang mit automatisierten Einzelentscheidungen und automatisiertem Profiling.

In Europa sieht der Entwurf für eine Regulierung der künstlichen Intelligenz primär einen risikobasierten Ansatz vor. Die EU-Kommission schlägt vor, die Risiken von KI-Systemen nach Graden einzuteilen und Risikoklassenanalysen vorzuschreiben. Es erscheint naheliegend, dass aus datenschutzrechtlicher Sicht die künstlich-intelligente Bearbeitung von Personendaten mit hohem Risiko, später auch als Bearbeitung von besonderen Personendaten beschrieben werden könnte.  Im Gegensatz dazu sieht der EU-Verordnungsentwurf für KI-Systeme, deren Einsatz nur mit einem geringen oder minimalen Risiko verbunden ist, grundsätzlich keine besonderen Regeln vor. In solchen Fällen könnte jedoch eine Transparenzpflicht gelten gemacht werden, um die Betroffenen zu informieren.

IV. Datenschutzrechtliche Anforderungen an KI-Programme

Wenn Personendaten ins Spiel kommen, dann wird das Thema Datenschutz bei KI-Systemen besonders relevant. Unter Datenbearbeitung ist jede Form der Interaktion mit Personendaten durch ein Programm zu verstehen. Im Falle von KI umfasst dies mindestens folgende Verwendungszwecke:

Sachdaten in Verbindung mit Personendaten:

Viele KI-Systeme, wie zum Beispiel jene, die sich um automatische Wartung von Maschinen oder deren Ressourcenbesorgung kümmern, verarbeiten zunächst Sachdaten. Die Ergebnisse solcher KI-Verarbeitungen können jedoch potenziell mit Personen in Verbindung gebracht werden, wodurch sie den Status von Personendaten erhalten. Das Gleiche gilt auch für empirisch erhobene Sachdaten in Kombination mit persönlichen Merkmalen.

Bearbeitung von personenbezogenen Daten als Trainings- oder Validierungsdaten:

KI-Modelle müssen trainiert werden, um sinnvolle Ergebnisse zu liefern. Meist folgen die Modelle einer diskriminierender oder generativer Struktur.

• Diskriminierende Modellierung: Die meisten Modelle des maschinellen Lernens werden zur Erstellung von Vorhersagen verwendet. Diese Algorithmen versuchen, Eingabedaten anhand einer Reihe von Merkmalen zu klassifizieren und eine Bezeichnung oder eine Klasse vorherzusagen, zu der ein bestimmtes Datenbeispiel gehört. Auch wenn das Modell anhand von personenbezogenen Daten geschult wird, bleibt das Training auf eine Kategorienbildung beschränkt. Diese Modelle sind hochgradig von den gefütterten Daten und deren Bias bei der Auswahl abhängig.
• Generativen Modellierung: Hier wird versucht, die Struktur des Datensatzes zu verstehen und ähnliche Beispiele zu generieren, beispielsweise die Erstellung eines Bildes eines Seelöwen in einer anderen Komposition. Im Gegensatz zu den diskriminierenden Modellen erfasst das generative Modell, die Merkmale und entwickelt basierend auf Wahrscheinlichkeiten und den vorgegebenen Datenpunkten ein neues Bild. Sie werden in der Regel weniger überwacht und oft genutzt, um gleichwertige Bilder, Texte und Videos zu erstellen. Hier sollte besonders das Kleingedruckte in Bezug auf Copyright gelesen werden. Die Verwendung von Personendaten und visuellen Merkmalen von echten Personen ist sich gut zu überlegen.

In beiden Fällen gelten gemäss Datenschutz die Nutzung von Personendaten als Trainingsdaten zur Bearbeitung im Sinne von nicht personenbezogenen Zwecken. Dies bedeutet, Personendaten dürfen zum Zweck der nicht personenbezogenen Bearbeitung an Dritte (KI-System) weitergegeben werden, vorausgesetzt, die Personendaten werden anonymisiert und nach der Auswertung vernichtet.

Sprechen wir von Bearbeitung von Personendaten als Outputdaten, müssen wir uns mit der Transparenz der Datenbearbeitung und der Rechte der Personen auf Richtigkeit der Daten auseinandersetzen. Zudem muss die Erkennbarkeit der Erhebung von Personendaten nachweisbar und nicht zum Nachteil der Person gegeben sein. Dies stellt viele vor eine Herausforderung, da die Prüfung solcher Daten schwierig zu handhaben ist.

Wenn Personendaten für Trainings-, Test- oder Inputzwecke genutzt und neue Daten generiert oder Sachdaten zugeordnet werden, erfordert dies eine detaillierte Auseinandersetzung mit dem Datenschutzgesetz sowie die Sicherstellung der Rechte der Personen.

V. Best Practices für Datenschutz bei KI-Programmen

Transparenz und Information sind zurzeit zentrale Aspekte in der Debatte rund um die Verwendung von KI und der damit verbundenen Programme. Es ist sicherlich von Vorteil, sich im Rahmen von ethischem Umgang mit Personendaten zu bewegen. Zudem wären bei der Nutzung von KI im Zusammenhang mit Personendaten mit hohem Risiko eine Folgeabschätzung äusserst sinnvoll. Wichtig ist bei solchen Abschätzungen, dass man die Herausforderungen und Risiken adressiert. Zusätzlich sollten darin auch die Mittel vorgesehen werden, um mögliche Bias-Effekten bei automatisierten Entscheidungsprozessen zu minimieren.

Hält man sich also an die ethischen Grundprinzipien im Umgang mit Personendaten und führt gewissenhaft eine Folgeabschätzung für bestimmte Datenverarbeitungen durch, sollte man sich also hier im Marketing zurzeit aus rechtlicher Sicht absichern können.

Die Grundsätze zum Umgang mit KI:

1. Transparenz: Klare Kommunikation darüber, wann und wie KI-Technologien im Marketing eingesetzt werden.
2. Datensparsamkeit: Vermeidung übermässiger Datenerhebung und -verarbeitung durch KI, um die Privatsphäre zu schützen.
3. Zweckbindung: Nutzung von KI-Technologien im Marketing ausschliesslich für definierte und ethisch akzeptable Zwecke.
4. Richtigkeit der Daten: Gewährleistung der Richtigkeit und Relevanz von Daten, um Verzerrungen und Bias-Effekte zu minimieren.
5. Sicherheit: Implementierung von Sicherheitsmassnahmen, um die Integrität und Vertraulichkeit der Daten zu gewährleisten.
6. Rechtliche Compliance: Einhaltung aller Datenschutzgesetze und rechtlichen Bestimmungen im Umgang mit KI im Marketing.
7. Regelmässige Überprüfung: Kontinuierliche Evaluierung der KI-Modelle und -Anwendungen, um sicherzustellen, dass sie den ethischen Standards entsprechen und aktualisiert werden, wenn nötig.

VI. Fazit

Das Wichtigste in Kürze:

• KI und Datenschutz: Die Integration von KI in verschiedene Lebensbereiche wirft komplexe, rechtliche und ethische Fragen auf – insbesondere im Hinblick auf Datenschutz und Datensicherheit.
• Datenschutzrechtliche Anforderungen: KI-Systeme werden datenschutzrelevant, wenn sie Personendaten verarbeiten. Dabei ist die Art der Datenverarbeitung und deren Einordnung in Risikoklassen von entscheidender Bedeutung.
• Vergleich der Schweiz und Europa: Es bestehen Unterschiede in der Regulierung von KI-Technologien zwischen der Schweiz und Europa, wobei Europa einen risikobasierten Ansatz mit Klassifizierung nach Risikograden verfolgt.
• Best Practices für Datenschutz bei KI: Transparenz, Datensparsamkeit, Zweckbindung und Richtigkeit von Daten sind zentrale Grundsätze, die bei der Verarbeitung personenbezogener Daten durch KI-Programme berücksichtigt werden müssen.

Zurzeit sind keine speziellen Regelungen in der Schweiz oder der EU für KI-Systeme vorgesehen. Nutzt man KI-Programme für die Analyse und Segmentierung, sollte man sich grundsätzlich zu möglichen Vorurteilen Gedanken machen. Auch ist es äusserst sinnvoll den fortlaufenden Einfluss von Bias bei der automatisierten Entscheidungsfindung und Datenanreicherung im Auge zu behalten und in seine anfänglichen Überlegungen miteinbeziehen. Sofern man sich also an den ethischen Umgang mit Personendaten gemäss dem DSGVO und dem DSG hält, steht der Verwendung von KI nichts weiter im Wege.

Gibt es Themen im Bereich KI und Marketing Automation, wo du dich unsicher fühlst?

Wir sind für dich da. Schreibe Urs Blickenstorfer eine Nachricht gleich hier auf LinkedIn und wir unterstützen dich gerne.

Disclaimer:  iundf Marketing Technology nutzt öffentlich zugänglich Informationen zur Bereitstellung von Inhalten rund um das Thema Datenschutz, Künstliche Intelligenz und Marketing Automation. Wir sind keine Rechtsberatung und übernehmen keine Haftung für entstandene Schäden durch die Nutzung unserer Inhalte. Wir empfehlen für rechtliche Fragen immer eine professionelle Rechtsberatung zu Rate zu ziehen.

Mehr von der iundf Agenturgruppe findest du unter:

Inhalt und Form Werbeagentur

iundf Neo

iundf Media