Die mit künstlicher Intelligenz (KI) unterstützte Videoüberwachung wurde versuchsweise für die Olympischen Sommerspiele in Paris genehmigt. Dies schürt die Ängste von Organisationen, die sich für die digitalen Rechte der Bürger einsetzen.
In einem Dekret vom Freitag (19. Juli) genehmigte die Pariser Polizeipräfektur den versuchsweisen Einsatz von algorithmischen Videoüberwachungsinstrumenten (VSA) in 46 Pariser U-Bahn-Stationen. Dies steht im Einklang mit dem Gesetz über die Olympischen und Paralympischen Spiele vom 19. Mai 2023, das den rechtlichen Rahmen für das Experiment bis Ende März 2025 vorgibt.
Die Spiele in der französischen Hauptstadt finden vom 26. Juli bis zum 11. August statt.
„Der Einsatz von Videoüberwachungsinstrumenten in 46 Pariser U-Bahn-Stationen, auch in solchen, in denen keine Sportveranstaltungen stattfinden, wirft Fragen über den Zweck auf, für den sie eingesetzt werden“, sagte Noémie Levain, Leiterin der Abteilung für rechtliche und politische Analysen bei der Vereinigung La Quadrature du Net, gegenüber Euractiv.
„Werden die Kameras, die in der U-Bahn-Station République installiert sind, zum Beispiel zur Überwachung von Menschen, die zu Demonstrationen gehen, verwendet?“, fragte sie.
Nach Angaben des Innenministeriums werden nur bestimmte Situationen wie „Menschenansammlungen“, Zeiten, in denen die „Personendichte zu hoch ist“, oder die „Anwesenheit von verlassenen Gegenständen“ von der KI in öffentlichen Verkehrsnetzen erkannt.
Diese Anwendungsfälle bergen jedoch Risiken und können mit der Zeit zu Missbrauch führen, da ihre Definitionen manchmal zu weit gefasst sind, so Katia Roux, Expertin für Technologie und Menschenrechte bei Amnesty International Frankreich, gegenüber Euractiv.
Die Ereignisse, für deren Erkennung die KI-Software trainiert wurde, reichen von der „Anwesenheit oder dem Einsatz von Waffen“ bis hin zu „Feuerausbrüchen“, heißt es auf der Website des Innenministeriums.
Während diese Anwendungsfälle an sich nicht problematisch sind, werfen andere, wie die „Nichtbeachtung der Verkehrsrichtung“, bei Experten Fragen über mögliche weite Auslegungen dieser Art von Ereignissen auf.
Einhaltung des rechtlichen Rahmens
Die Erprobung von KI-Lösungen findet „innerhalb eines klaren rechtlichen Rahmens statt, der die Grundfreiheiten und die individuellen Freiheiten schützt“, heißt es auf der Website des Innenministeriums.
Die eingesetzten Tools erlauben keine Gesichtserkennung, und die KI-Algorithmen wurden nur darauf trainiert, acht Hochrisikosituationen zu erkennen, heißt es weiter.
Der rechtliche Rahmen für den Einsatz von VSA wurde ebenfalls im Mai 2023 vom Verfassungsrat gebilligt.
Das EU-Gesetz zur Künstlichen Intelligenz, das ab dem 1. August EU-weit gilt, verbietet die Verwendung biometrischer Echtzeit-Identifikation, zu der auch die Gesichtserkennung gehört, an öffentlichen Orten. Davon ausgenommen sind bestimmte Fälle der Strafverfolgung, wie die Suche nach vermissten Kindern und drohenden Terroranschlägen.
Jedoch kann „algorithmische Videoüberwachung biometrische Daten (Körperdaten, Verhaltensdaten, Gangart) analysieren, bei denen es sich um geschützte persönliche Daten handelt“, warnte Roux.
Ihrer Ansicht nach ist VSA eine „hochgradig intrusive Technologie, die wie die Gesichtserkennung eine Bedrohung der Grundrechte darstellt“.
Der nächste Schritt
Das Ministerium behauptet, VSA ermögliche es, „ungewöhnliche Situationen zu erkennen, ohne jemals die [von Menschen getroffene] Entscheidung außer Kraft zu setzen“.
Allerdings „ist es eine politische Entscheidung, diese Technologie zu wollen“, erklärte Levain.
„Das Ziel ist es, die Überzeugung zu bekräftigen, dass das Werkzeug verwendet werden kann, während die Probleme umgangen werden“, fuhr sie fort. Sie bezog sich dabei auf die Probleme der Massenüberwachung, die Voreingenommenheit der Algorithmen der künstlichen Intelligenz und die Gefahr der Verstärkung der Diskriminierung.
Organisationen, die sich für den Schutz der Grundfreiheiten im Internet einsetzen, warnen vor einer gefährlichen Entwicklung. Sie befürchten, dass der französische Gesetzgeber das Experiment auf neue Anwendungsfälle ausweiten oder den Einsatz von VSA in Frankreich über den März 2025 hinaus beibehalten wird. Eine solche Ausweitung wurde bereits in einem Senatsbericht vorgeschlagen.
„Technologien, die eine Massenüberwachung ermöglichen […], sind nach internationalem Recht ganz einfach unvereinbar mit den Menschenrechten“, so Roux.
Eine Technologie, die noch nicht „ausgereift“ ist
Die während der Olympischen Spiele eingesetzten Instrumente seien nicht ausgereift, sagte Senatorin Agnès Canayer (Les Républicains, EVP) auf einer Pressekonferenz im April über die Informationsmission zur Anwendung des Gesetzes über die Olympischen und Paralympischen Spiele (JOP)
„Die Olympischen Spiele werden nicht das Endziel der algorithmischen Videoüberwachung sein, sondern die Gelegenheit, die Nützlichkeit dieser Technologie zu testen“, sagte sie.
Das JOP-Gesetz sah ursprünglich den versuchsweisen Einsatz der Fern- und Echtzeitanalyse von Bildern vor, die von Drohnen aufgenommen wurden, aber die eingesetzten Tools werden nur auf Bilder angewendet, die von fest installierten Kameras aufgenommen wurden.
[Bearbeitet von Zoran Radosavljevic]