Die Giftpille gegen KI könnte Unschuldige töten
Aufatmen, Lehrerinnen und Lehrer, Professor:innen, Journalist:innen und alle Lesenden! KI-Detektoren retten das Bildungssystem, den Journalismus und überhaupt alles. Oder vielleicht doch nicht?
Der Wirbel um ChatGPT führte – zumindest in einer gewissen technikaffinen Bubble und ein wenig darüber hinaus – zu apokalyptischen Visionen.
Clever: Erst mache ich die Büchse der Pandora auf (schaffe also ein Problem) und liefere dann auch gleich passende Schlösser und Schlüssel dazu (also die Lösung).
Die Macher von ChatGPT, OpenAI , haben das gerade mit ihrem KI-Textklassifikator getan. Der soll die Wahrscheinlichkeit angeben, mit der ein Text oder Textteile KI-generiert sind.
👉 Details dazu lest ihr bei THE DECODER : Zum Artikel
Die Beruhigungspille für Digital-Apokalypten ist da!
Sorry, das ist sie nicht, sagt sogar OpenAI: "Unser Klassifikator ist nicht völlig zuverlässig."
Sie veröffentlichten das Tool aber trotzdem. Das finde ich hochgefährlich. Warum?
Eva Wolfangel hat in ihrer lesenswerten Analyse für ZEIT ONLINE (👉 zum Artikel) eine Reihe valider Kritikpunkte aufgeführt, die ich teile.
Die Fakten:
✴️ Im hauseigenen Test mit einem perfekten Trainingsdatensatz, zudem in englischer Sprache, erkannte der KI-Detektor nur 26 Prozent der KI-generierten Texte
✴️ Die falsch-positiven Ergebnisse lagen bei satten 9 Prozent!
✴️ Schreibt ein Mensch einen Text, der von den gelernten Textmustern des Chatbots abweicht, steigt das Risiko, dass dieser Text als KI-generiert eingestuft wird
Eva Wolfangel führt als kritische Beispiele Aufsätze oder Referate an, die etwa Schüler:innen verfassen und die sich eben nicht wie Wikipedia-Texte oder reddit-Postings lesen.
❓ Wenn ein Lehrender solche Texte im KI-Detektor prüft und das Tool auch nur eine teilweise Wahrscheinlichkeit ausspuckt, dass KI daran beteiligt sein könnte – was dann?
❓ Was macht das mit dem Vertrauensverhältnis, das eigentlich zwischen Schüler:innen und Lehrpersonal bestehen sollte?
❓ Wenn daraufhin sanktioniert wird, aber der betreffende Schüler gar keine KI benutzt hat - was macht das dann mit ihm?
❓ Wenn die Schülerin KI zur Inspiration und als Effizienztool zur Unterstützung verwendet hat, den fraglichen Text aber insgesamt selbst erarbeitet hat, was macht eine Sanktionierung dann mit ihr?
❓ Wie wirkt sich das auf ihre und seine zukünftige Mitarbeit und Motivation aus?
Betrug gab es immer schon
Die Hausaufgaben vom Nachbarn abgeschrieben. Die Hausarbeit vom Streberkumpel gegen Geld verfasst. Die Doktorarbeit von der Expertin gekauft. Fehlerhafte SEO-Beiträge von der KI-generiert (siehe CNET).
Das ist nun wirklich nichts Neues, aber im Vergleich relativ selten.
Doch anstatt neue Technologien als Chance zu begreifen und uns weiterzuentwickeln, suchen wir nach einfachen Wegen, einfachen Erklärungen, simplen Schuldzuweisungsgeneratoren und suhlen uns in traditioneller Technologiefeindlichkeit.
Empfohlen von LinkedIn
⚠️ Sprechen wir doch mal Klartext: KI konfrontiert uns gerade in aller Deutlichkeit mit der Rückständigkeit unseres Bildungssystems. Das stumpfe, kontextlose Abfragen von Fakten in Tests und Klausuren gehört schon lange abgeschafft und durch effektivere Lernmethoden ersetzt.
Überraschung: KI kommt etwa mit offenen Fragen nicht sonderlich gut zurecht. Wie könnte man das im Bildungskontext nutzen?
Bildungsinstitutionen müssen natürlich reagieren
Sie versuchen es zuerst mit dem, was sie gut kennen und was ihnen Detektor-Software grob fahrlässig verspricht: Einen Schuldigen zu finden und bestrafen zu können.
Wie kurzsichtig.
☝️ Denn um die paar Idioten rauszufiltern, die einen KI-generierten Text ungeprüft und unbearbeitet abgeben oder einstellen, sind nur Nachfragen erforderlich. Wenn nicht schon der Inhalt selbst fehlerhaft ist, denn KI-Generatoren sind noch weit davon entfernt, perfekt zu sein.
Unter KI-Detektoren werden hingegen primär jene leiden, die entweder falsch verdächtigt werden, oder KI als sinnvolle und effiziente Unterstützung nutzen.
❓ Was passiert, wenn ich meinen selbst geschriebenen Text durch das hervorragende DeepL Write jage und die Empfehlungen für bessere Formulierungen und Satzbau übernehme?
❓ Was ist mit maschinellen Übersetzungen?
❓ Wieso sollte ich eine KI nicht die Zusammenfassung meines Textes schreiben lassen, sie dann prüfen und redigieren und etwa als Executive Summary verwenden?
Denn das ist effizient und verringert die Qualität einer Arbeit keinesfalls.
KI-Detektoren werden dir nicht sagen, ob eine Arbeit Qualität hat oder nicht
Sie werden dir nur selten etwas über den Aufwand verraten, den jemand betrieben hat.
Sie können hingegen dein Vertrauen untergraben. Und sie zeigen dir, dass mit deinem bisherigen System – ob in der Bildung oder im Journalismus oder im Dienstleistungsbereich – etwas nicht stimmt, wenn Texte auf Knopfdruck generiert werden können oder du andere verdächtigst, das zu tun.
💡 Nein, wir werden uns ändern müssen, denn KI wird immer mehr Teil unseres Lebens. Wir müssen endlich unser prähistorisches Bildungssystem revolutionieren. Wir müssen uns anpassen lernen. Wer lernt, mit KI zu arbeiten und die Vorteile zu nutzen, um bessere, hochwertigere Arbeit zu machen, dem gehört die Zukunft.
Wer hingegen versucht, über einfache, mangelhafte und verantwortungslose Lösungen Wege zu suchen, um die üblichen schwarzen Schafe herauszufiltern und dabei billigend in Kauf nimmt, Unschuldige ins digitale Kreuzfeuer der Querschläger einer fragwürdigen, unzuverlässigen Software zu nehmen, erweist sich und anderen einen Bärendienst.
KI sagt: Alles ist KI-generiert!
🤣 Zum Schluss noch zwei Fun-Facts: OpenAIs Klassifikator bezeichnet Teile der oben verlinkten Artikel von Eva Wolfangel und Matthias Bastian auf The Decoder und Zeit Online als „Possibly AI-generated“.
Tja, nun.
------
Hallo, ich bin Ben. Auf #LinkedIn spreche ich über VR, AR, KI und digitale Transformation sowie Marketing, Kommunikation, Prozessoptimierung und Leadership. Ich würde mich freuen, dich öfter in meinem Feed begrüßen zu dürfen.
🔔 für mehr Updates: https://lnkd.in/ejBVPP5F