Der EU KI Act

Die Europäische Union hat erstmalig weltweit ein umfassendes Gesetz für Künstliche Intelligenz (KI) verabschiedet. Dieses zielt darauf ab, die Sicherheit und den Schutz der Bürger vor den potenziellen Risiken von KI-Technologien zu gewährleisten. Insbesondere müssen sich Unternehmen, die große KI-Modelle mit systemischen Risiken betreiben, nun verstärkt den Anforderungen im Bereich Risikomanagement und Cybersicherheit stellen.

Die Herausforderung besteht dabei weniger in der reinen Rechenleistung als vielmehr in der Bewertung der Risiken im Zusammenhang mit der Nutzerzahl. Dies erfordert eine differenzierte Risikoeinstufung, um den möglichen Gefahren angemessen entgegenzutreten.

Ein besonderer Fokus des KI-Gesetzes liegt auf der Anwendung von KI im Bereich der Strafverfolgung und Sicherheit. Die Verwendung von KI zur Überwachung ist nur unter bestimmten Bedingungen gestattet, nämlich bei konkreten Verdachtsfällen, akuter Gefahr für Leib und Leben oder drohenden Terroranschlägen.

Des Weiteren werden im Kontext des KI-Gesetzes Maßnahmen ergriffen, um die Rechte von Künstlern und Urhebern zu schützen. Insbesondere wird ein KI-Transparenzregister eingeführt, das es Kreativen ermöglicht, die Nutzung ihrer Werke nachzuvollziehen. Allerdings bleiben die genaue Definition von "detailliert" und die praktische Umsetzung dieses Registers noch unklar.

Die EU plant, durch die Schaffung eines neuen KI-Behördennetzwerks und eines Beratungsgremiums, bestehend aus nationalen Behörden im Europäischen Ausschuss für KI, für einheitliche Anwendungen der Rechtsvorschriften zu sorgen. Ein zusätzliches beratendes Forum und ein wissenschaftliches Gremium werden eingeführt, um Feedback von Interessengruppen und Experten einzuholen.

Unternehmen, die von den neuen KI-Regulierungen betroffen sind, sollten sich daher gründlich über die spezifischen Anforderungen informieren und gegebenenfalls ihre Prozesse und Sicherheitsmaßnahmen anpassen. Bei Unsicherheiten oder weiterführenden Fragen kann eine Beratung durch die Fachexperten von sepp.med im Bereich Künstliche Intelligenz hilfreich sein.