Real oder Fake?

Moin zusammen!

KI wird immer besser und immer selbstverständlicher ein Bestandteil des beruflichen Alltags. Das meint nicht nur Text- und Kampagnenerstellung, auch Stimmen- und Bildimitation wird täuschend echt. Wer differenzieren will, muss schon nach dem Glitch im Bild suchen und Webseiten für Faktenchecks recherchieren. Was, nachdem erfolgreich Imitationen bekannter Nachrichtenportale im Netz aufgetaucht sind, zumindest in der Bewertung einiges an Vorkenntnissen in der Beurteilung voraussetzt.

Nun feiern manche Medien den erfolgreichen Einsatz von KI, nicht nur in der Recherche, sondern auch z.B. bei der Erstellung von Audiobeiträgen. Von der "Aggregation von Texten", die Döpfner bei der Springer Presse KI betrieben vorantreiben will, die Recherche via ChatGPT bis zur Stimmklonung (mit journalistischer Freigabe) beim Medienzentrum Berlin reichen die Ankündigungen.

Das wirft für mich zwei Fragen auf, mit denen wir uns bei iCompetence immer wieder beschäftigen. Die des Trust - und die der Datenqualität:

1. Wenn Webseiten KI geklont von Bots bereitgestellt werden mit Fake Shops und Fake News auf Social Media KI generiert werden, wie soll der technisch - und vielleicht auch politisch - nicht ganz so versierte Laie noch den Unterschied erkennen? Oder vielmehr auch als einen solchen empfinden und begreifen? Wenn ganze Teile der Medienlandschaft, die ein Korrektiv zu den Fake News bilden sollte, auch KI generierte Texte, Audios und Bilder anbieten? Wie machen diese Medien sichtbar, dass sie sich von den Fake Accounts unterscheiden und wie sichern sie sich das Vertrauen der Nutzer?

Damit kommen wir zur 2. Frage, denn am Ende hängt es an der Sichtbarkeit der Qualität:

2. Wenn Inhalte KI generiert werden und dafür auch Tools wie ChatGPT benutzt werden, deren Datenbasis auf Click-Worker-Arbeit und einer unkontrollierten Ansammlung qualitativ sehr unterschiedlicher Quellen beruht - wie wird die Qualität des Output gesichert? Und lohnt sich das auch finanziell? Denn in jedem Fall wird es einer inhaltichen Kontrolle bendürfen.

Es ist das klassische Datenproblem - Automatisierung funktioniert nur, wenn die Datenquelle einwandfrei ist. Sonst bedarf es intensiver Kontrolle der Ergebnisse.

Ethisch und technisch ist die neue KI Welt eine komplexe Aufgabe, für Macher und Konsumenten. Ob es Kosten spart? Vielleicht. Ob es aber gut wird und Menscgen Vertrauen in die Technik haben, das hängt - und sollte hängen - an der Qualität der Daten. Und die bekommt man nur durch Kontrolle, an welchem Ende auch immer.

LG und bis zur nächsten Woche

Matthias