Expert:innen: Unternehmen behindern unabhängige KI-Forschung

Mehr als 100 führende KI-Expert:innen haben in einem offenen Brief gefordert, dass Unternehmen, die generative KI-Technologien entwickeln, sich unabhängigen Tests öffnen sollen. Das Schreiben richtet sich also unter anderem an OpenAI, Meta, Anthropic, Google und Midjourney. Besagte Anbieter haben bisher nicht auf den Brief reagiert.

"Die Nutzungsbedingungen der Unternehmen schrecken zwar vor böswilliger Nutzung ab, bieten aber keine Ausnahmen für unabhängige, in gutem Glauben durchgeführte Recherchen, so dass Forschende der Gefahr ausgesetzt sind, dass ihre Konten gesperrt oder sie sogar rechtlich belangt werden", heisst es in dem Schreiben, das auf der Website des Massachusetts Institute of Technology (MIT) veröffentlicht wurde.

Die Unterzeichner:innen warnen davor, dass sich die Ära der sozialen Medien, in der unabhängige Forschung oft an den Rand gedrängt wurde, wiederholen könnte.

Zu den Mitunterzeichner:innen gehören führende Expert:innen wie Percy Liang aus Stanford, Pulitzer-Preisträgerin Julia Angwin, Renée DiResta vom Stanford Internet Observatory, Mozilla Fellow Deborah Raji, die ehemalige Abgeordnete des Europäischen Parlaments Marietje Schaake und Suresh Venkatasubramanian von der Brown University.

KI-Tools unterliegen strengen Nutzungsrichtlinien, um zu verhindern, dass sie so manipuliert werden, dass sie ihre Leitplanken umgehen. So bezeichnete OpenAI kürzlich die Nachforschungen der New York Times als "Hacking", und Meta drohte damit, Lizenzen wegen Streitigkeiten über geistiges Eigentum zurückzuziehen.

Andere Untersuchungen haben zahlreiche Fälle von Urheberrechtsverletzungen bei Midjourney aufgedeckt, die gegen die AGB des Unternehmens verstossen hätten. Folglich schüchtern die angepassten AGB Forschende nun ein.

Unternehmen sollten sich also zu einem gerechteren Zugang verpflichten, indem sie unabhängige Gutachter:innen einsetzen, um die Bewertungsanträge von Forschern zu sichten. Dies würde die regelkonforme Sicherheitsforschung vor kontraproduktiven Kontosperrungen schützen und die Bedenken der Unternehmen bezüglich der Auswahl ihrer eigenen Gutachter:innen mildern.

Das Schreiben enthält auch einen von einigen Unterzeichnern mitverfassten Vorschlag, der Änderungen der Nutzungsbedingungen der Unternehmen vorschlägt, um der akademischen und Sicherheitsforschung entgegenzukommen.