Künstliche Intelligenz & Datenschutz - passt das zusammen?

Hier ein neuer kleiner Beitrag, mal wieder rund um das Spannungsfeld zwischen technologischer Entwicklung & Regulierung. Diesmal zum Thema "Künstliche Intelligenz & DSGVO".

Knackpunkt bei der Fragestellung, ob KI und DSGVO zusammenpassen ist das Thema "automatisierte Einzelfallentscheidung" (Art. 22 Abs. 1 DSGVO). Zusammengefasst bedeutet dies, dass die betroffene Person laut der DSGVO das Recht hat, dass eine Entscheidung auf Basis seiner personenbezogenen Daten nicht ausschließlich von Algorithmen getroffen werden soll. Hintergrund ist die Furcht, dass Menschen auf Grundlage von "Nullen & Einsen" diskriminiert werden könnten. Relevant ist dies zum Beispiel bei Themen wie Kreditvergabe oder Preiskalkulationen, aber mittlerweile auch im HR-Umfeld.

Die DSGVO verbietet die automatisierte Einzelfallentscheidung jedoch nicht völlig sondern lässt den Unternehmen noch Spielraum für deren Nutzung. So muss die betroffene Person transparent & verständlich darüber informiert werden, dass eine Entscheidung nur auf Basis von Algorithmen getroffen wird und auf Grundlage welcher Parameter oder Regeln dies erfolgt. Zudem handelt es sich nicht um eine automatisierte Entscheidungsfindung, wenn im letzten Prozessschritt noch ein Mensch involviert ist. Also z.B. wenn KI nur eine Empfehlung für eine Kreditvergabe ausspricht, die finale Entscheidung jedoch von einer Person getroffen wird.

Zusammengefasst handelt es sich zwar wieder um eine komplexe Fragestellung, die meiner Meinung nach für Unternehmen aber handhabbar bleibt. Jedoch stelle ich mir ab und zu die Frage, ob nicht doch eher der Mensch und nicht die Maschine zur Diskriminierung neigt;-)