Die Europäische Kommission wird laut einem Dokumententwurf, der Euractiv vorliegt, einen Beschluss zur Einrichtung des Europäischen Büros für künstliche Intelligenz verabschieden.
Das KI-Büro wird eine zentrale Rolle bei der Durchsetzung des KI-Gesetzes spielen. Das weltweit erste Gesetz, das versucht, KI zu regulieren, soll in den kommenden Wochen auf der Grundlage einer im Dezember erzielten politischen Einigung formell verabschiedet werden.
Die Idee eines KI-Büros, das die Durchsetzung des KI-Regelwerks zentralisieren soll, stammt vom Europäischen Parlament. Während der Verhandlungen wurde das Büro jedoch von einem kleineren Amt zu einem Teil der Kommission herabgestuft, wenn auch mit einer eigenen Haushaltslinie.
Die Frage, wie viel Autonomie das Büro haben wird, bleibt jedoch innerhalb der Kommission heikel. Insbesondere, weil unklar ist, ob es eine Einheit mit eigenen politischen Zielen oder eine Erweiterung der für das KI-Gesetz zuständigen Einheit werden wird.
Es wird davon ausgegangen, dass der erhaltene Beschlussentwurf nach einer internen Konsultation geändert wurde, um eine Formulierung einzufügen, die besagt, dass das Büro nicht mit den Zuständigkeiten der Kommissionsdienststellen kollidieren sollte.
Dem Dokument zufolge soll der Beschluss dringend am 21. Februar in Kraft treten, noch vor der formellen Verabschiedung des EU-Gesetzes über künstliche Intelligenz.
Überwachung leistungsstarker KI
Das Büro für künstliche Intelligenz wird in erster Linie eine unterstützende Rolle bei der Durchsetzung der Vorschriften für KI-Systeme spielen, da der Großteil der Zuständigkeiten bei den nationalen Behörden liegen wird. Allerdings wurde das Büro mit der Überwachung von Allzweck-KI-Modellen und -Systemen (GPAI) betraut, den bisher stärksten KI-Formen.
Jüngste Fortschritte bei der Rechenleistung, der Datenerfassung und den Algorithmustechniken haben zur Entwicklung leistungsfähiger Allzweck-KI-Modelle wie GPT-4 von OpenAI geführt, das das Allzweck-KI-System ChatGPT, den berühmtesten Chatbot der Welt, betreibt.
Die Einigung über das KI-Gesetz beinhaltet einen mehrstufigen Ansatz für Allzweck-KI-Modelle. Damit sollen die Modelle, die ein Systemrisiko für die Gesellschaft darstellen könnten, von den übrigen unterschieden werden. Das KI-Büro soll die Methoden und Kriterien für die Bewertung der Leistungsfähigkeit von Allzweck-KI-Modellen entwickeln.
Das Büro sollte in der Lage sein, die Einhaltung der Vorschriften für GPAI-Modelle und -Systeme zu überwachen, insbesondere wenn diese von ein und demselben Anbieter entwickelt wurden. Außerdem sollte es, das Auftreten unvorhergesehener Risiken durch diese Modelle auf der Grundlage von Warnungen eines wissenschaftlichen Gremiums unabhängiger Experten kontrollieren.
Die potenzielle neue Einheit in der Kommission wird auch über einen großen Handlungsspielraum verfügen, um mögliche Verstöße gegen die GPAI-Vorschriften zu untersuchen, indem es Beschwerden und Warnmeldungen sammelt, Dokumente anfordert, Bewertungen durchführt und Minderungs- oder andere Durchsetzungsmaßnahmen anordnet.
Das Büro wird auch die Durchsetzung des KI-Gesetzes in Bezug auf KI-Systeme koordinieren, die bereits unter andere EU-Rechtsvorschriften fallen, wie beispielsweise Empfehlungssysteme in sozialen Medien gemäß dem Gesetz über digitale Dienste und Ranking-Algorithmen von Suchmaschinen gemäß dem Gesetz über digitale Märkte.
Unterstützung und Koordination
Das Büro für künstliche Intelligenz soll eine unterstützende Rolle bei der Ausarbeitung sekundärer Rechtsvorschriften zur Umsetzung des KI-Gesetzes, der einheitlichen Auslegung der Verordnung und der Erstellung von Leitlinien und unterstützenden Instrumenten wie standardisierten Protokollen übernehmen. Außerdem soll es bei der Ausarbeitung von Normungsanträgen, der Schaffung von regulatorischen „Sandkästen“ und der Ausarbeitung von Verfahrens- und Verhaltenskodizes auf EU-Ebene mitwirken.
Das Büro wird auch das Sekretariat des KI-Ausschusses und die administrative Unterstützung für das von Interessenvertretern geleitete Beratungsforum und das wissenschaftliche Expertengremium übernehmen. Der Beschlussentwurf verweist ausdrücklich auf das Erfordernis einer regelmäßigen Konsultation der wissenschaftlichen und zivilgesellschaftlichen Akteure.
Insbesondere muss das KI-Büro „ein Forum für die Zusammenarbeit mit der Open-Source-Gemeinschaft einrichten, um bewährte Verfahren für die sichere Entwicklung und Nutzung von Open-Source-KI-Modellen und -Systemen zu ermitteln und zu entwickeln.“
Darüber hinaus hat das Büro die Aufgabe, Innovationsökosysteme zu fördern und mit öffentlichen und privaten Akteuren sowie Start-ups zusammenzuarbeiten. Wie Euractiv berichtete, wird das KI-Büro für die Überwachung der Fortschritte von GenAI4EU zuständig sein, einer Initiative zur Förderung der Einführung generativer KI in strategischen Sektoren.
Das Büro soll zudem mit relevanten EU-Einrichtungen, wie dem Europäischen Datenschutzbeauftragten, zusammenarbeiten. Auch mit anderen Kommissionsdienststellen, insbesondere dem Europäischen Zentrum für Algorithmische Transparenz, ist eine Zusammenarbeit erforderlich, um GPAI-Modelle und -Systeme zu testen und die Aufnahme von KI-Instrumenten in wichtige EU-Politikbereiche zu erleichtern.
Auf internationaler Ebene wird das Büro den EU-Ansatz zur künstlichen Intelligenz fördern, zu Initiativen zur Steuerung der künstlichen Intelligenz beitragen und die Umsetzung internationaler Vereinbarungen unterstützen.
Finanzierung
Der Finanzierungsaspekt des KI-Büros war von Anfang an eine heikle Angelegenheit. Die mangelnde Flexibilität der EU-Haushaltszuweisungen und die fehlende Bereitschaft der Mitgliedstaaten, mehr Mittel zur Verfügung zu stellen, bedeuten, dass neue Aufgaben immer mit strengen Haushaltsbeschränkungen verbunden sind.
Die Generaldirektion für Kommunikationsnetze, Inhalte und Technologien der Kommission wird die Humanressourcen zuweisen. Die Einstellung von Zeitarbeitskräften und die operativen Ausgaben werden durch die Umschichtung von Haushaltsmitteln aus dem Programm „Digitales Europa“ finanziert.
[Bearbeitet von Zoran Radosavljevic]