Fake Livestream Sims: Social Media Star in der eigenen KI-Echokammer

Liebe Neugierige, Kreative, Entdecker*innen,

willkommen auch diese Woche zu einer neuen Ausgabe des KI-Logbuchs!

Ich war die vergangenen 2 Wochen mit eingeschränkter Internetverbindung und wenig "Digitalem" unterwegs - Urlaub eben. Am Gate während meiner Rückreise habe ich dann mit reichlich "Free WiFi" am Flughafen meine Feeds durchblättert. Dabei bin ich auf etwas ziemlich kurioses gestoßen: Fake Livestream Apps mit KI-generierten Zuschauern. Der "Trend" (wenn man es wirklich so nennen darf, bin da noch etwas zurückhaltend) ist eigentlich schon ziemlich alt. So kann man erste Artikel dazu schon vor 6 Monaten im Web finden. Und auch, wenn das Ganze irgendwie einen ziemlich unseriösen Beigeschmack hat, finde ich das Phänomen an sich, egal ob erst einmal halb "gefaked" oder bereits real, unglaublich spannend. Zeigt es doch, in welche Richtung sich Gesellschaft auch entwickeln kann oder könnte. Und definitiv Grund genug für mich, das Ganze einmal in einem Newsletter zu zerlegen. Denn das Thema "KI simulierte Social Media Fan Communities" zahlt auf eines meiner Lieblingsthemen ein - die zunehmende Auflösung der Grenzen zwischen Realität und Fiktion oder wie es Science-Fiction-Autor Philip K. Dick einmal treffend formulierte:

"Reality is that which, when you stop believing in it, doesn't go away."

Nur was passiert, wenn die Realität selbst durch KI zum Ego-steigernden Durchlauferhitzer wird?

Die neue Welt der Fake Livestreams

Stell dir vor, du könntest mit einem Klick (oder auf Deinem Handy ein "Tap") zum gefeierten Livestreamer werden, umjubelt von Tausenden begeisterter Fans. Klingt utopisch? Nicht mehr! Ein paar ungewöhnliche Apps ermöglichen nämlich genau das seit geraumer Zeit - mit Hilfe künstlicher Intelligenz. Anwendungen wie "Parallel Live" (Android) oder "Famefy" (iOS) erzeugen täuschend echte Livestream-Umgebungen, komplett mit KI-gesteuerten Zuschauern, Kommentaren und sogar virtuellen Spenden.

Deren Werbeversprechen sind da schon recht vollmundig (und deutliche Opfer eines schwachen "Auto Translate") - Famefy beispielsweise:

Begeben Sie sich mit Famefy auf eine aufregende Reise zum Ruhm! Diese innovative Plattform verwandelt das Konzept des Live-Streamings, indem sie Sie in eine lebendige Welt mit KI-generierten Fans einführt. Famefy bietet ein einzigartiges und fesselndes Erlebnis direkt an Ihren Fingerspitzen und ermöglicht es Ihnen, das Wesen des Online-Stardoms innerhalb eines virtuellen Bereichs zu erleben.

Die Funktionsweise der Apps ist dabei recht simpel gestrickt: Man startet den Stream und die App generiert in Echtzeit scheinbar authentische Zuschauer. In der kostenfreien Version sind dies einige hundert virtuelle Personen im Stream, die Bezahlversion bietet dagegen mehrere tausend KI Zuschauer an. Ich habe nur die kostenfreie Version von "Parallel Live" getestet. Die KI-Zuschauer reagieren auf das, was man sagt, stellen Fragen und interagieren auch untereinander - alles vollautomatisch und überraschend realistisch. In der Bezahlversion kann man dann auch vordefinierte Befehle nutzen, um bestimmte Reaktionen auszulösen oder die Stimmung zu steuern. "Parallel Live" hat sogar eine "Hater" Funktion, die dann auf den menschlichen Streamer mit sarkastischen, fiesen Kommentaren und Reaktionen antwortet. Da dies eine Bezahlfunktion ist, habe ich mir dazu das Video von "AlexiBexi" angeschaut.

Echte Fake Apps, reale Nutzerzahlen

Nach meiner Recherche steht jedenfalls für mich fest: Apps wie "Parallel Live" und "Famefy" erfreuen sich in gewissen Kreisen wachsender Beliebtheit, sind aber als Apps per se kein wirklicher Trend. Da schon viel eher die Tatsache, dass wir grundsätzlich auf eine Ära der synthetischen Inhalte auf allen Seiten der Content-Verwertungskette zusteuern, bei denen, die Inhalte bereit stellen und denen, die diese konsumieren. Die genannten Apps sind in diesem etwas größer gefassten Kontext dann eher Phänotypen dieser Entwicklung. Dennoch: allein Famefy verzeichnet im US-iOS App Store über 55.000 Bewertungen, während Parallel Live über 12.000 Rezensionen im selben App Store vorweisen kann. Zumindest in den USA scheint die Nachfrage also durchaus vorhanden zu sein - doch wer nutzt diese Apps eigentlich und wozu?

Zielgruppe und Nutzungsszenarien

Laut einem Artikel von Jason Koebler, Mitbegründer des digitalen Investigativmagazins "404 Media", richten sich Apps wie "Parallel Live" oder "Famefy" nicht an Influencer oder Content Erstellende, sondern eher an ganz normale Menschen. Die Apps versprechen den Nutzern (Gendern nicht nötig), die über die App erzeugte, synthetische Popularität für "andere Zwecke" einsetzen zu können. Freundlich gesagt, geht es darum, in sozialen Situationen zu beeindrucken und das eigene Selbstbewusstsein zu stärken. Man könnte es aber auch anders formulieren. Nämlich so...

Denn das weitaus problematischere Nutzungsszenario ist hier auch gleichzeitig das gängigste: Männer verwenden die Apps gezielt, um Frauen zu beeindrucken oder zu manipulieren. Der Influencer ItsPoloKidd demonstrierte in einem viral gegangenen Video, wie er mit Hilfe von Parallel Live eine Frau in einer Bar davon überzeugte, dass er ein berühmter Streamer sei. Solche Praktiken werfen natürlich ethische Fragen auf, auf die wir später noch eingehen werden. Doch gehen wir zunächst noch kurz genauer auf die Möglichkeiten ein.

Künstliche Intelligenz als virtuelles Publikum

Schauen wir kurz genauer hin. Das Herzstück dieser Apps ist eine KI, die ein überzeugendes virtuelles Publikum erschafft - im Grunde also ein jedes mögliche, aktuelle LLM, das auf transkribierte Sprache mit entsprechenden Texten antwortet, die dann als Ausgabe eines Chats mehrerer tausend Charaktere ausgegeben werden. So sind auch Fragen und Reaktionen möglich. Es kann sogar auf spezifische Themen oder Stimmungen reagiert werden, die der "Streamer" vorgibt.

Daneben bieten diese Apps zusätzliche Features an wie:

- KI-generierte Spenden und Geschenke

- Simulierte VIP-Zuschauer oder Prominente

- Anpassbare Zuschauerprofile und -verhalten

Und ich muss zugeben, teilweise fühlt sich die Interaktion so real an, dass man schon mal vergisst, hier alleine in einer KI-Echokammer zu sitzen. Selbst erfahrene Streamer sollen Schwierigkeiten haben, die KI Fans von echten Zuschauern zu unterscheiden. Ob das wiederum eher etwas über die Qualität der KI Apps oder die der Fans aussagt, überlasse ich lieber Euch. Aber klar ist auch, wer einmal genauer hinschaut, kann hier und da Kommentare in den rasch vorbei ziehenden Reaktionen finden, die nicht so ganz zum Kontext passen wollen. Andererseits passiert so etwas ja auch in realen Chats. Es ist also "kompliziert" und am Ende bleibt ein fader Beigeschmack - jedenfalls bei mir. Und da bin ich scheinbar nicht alleine.

Kritische Stimmen und ethische Bedenken

Gerade Apps, die (immer häufiger angetrieben durch KI) Unwissenden falsche Tatsachen vorspiegeln, verdienen natürlich eine kritische Betrachtung:

1. Täuschung und Manipulation: Jason Koebler's Artikel zeigt gut, wie es diese Apps einem spielend leicht machen, andere gezielt und ohne Transparenz in die Irre zu führen.

2. Förderung von Oberflächlichkeit: Selbstwert = Bekanntheit Online. Apps wie die genannten fördern diesen Trend, den übrigens Sascha Lobo schon früh erkannte.

3. Datenschutzbedenken: Unklar ist oft, wie die Apps mit den gesammelten Daten umgehen. Wo werden die eingesprochenen Texte der Nutzer*innen analysiert und transkribiert? Werden sie gespeichert? Wenn, ja, wo? Werden sie zweit- oder drittverwertet?

4. Potenzial für Missbrauch: Wie oben bereits beschrieben, täuschen diese Apps einen Online Bekanntheitsgrad vor, den es tatsächlich nie gab. Sie könnten daher ideal für Desinformationskampagnen oder Betrug genutzt werden, die weit über schlichte (und ehrlich gesagt ziemlich "creepy") Pick-Up Aktionen hinaus gehen.

Lobo warnt daher, dass aufkommende Technologien die Grenze zwischen Realität und Fiktion weiter verwischen und unser Vertrauen generell untergraben könnten.

Was also tun? Ein paar Gedanken dazu, um das Rad in Schwung zu bringen.

Tipps und Tricks: Umgang mit Fake Content

1. Überprüfe die Quelle: Achte auf vertrauenswürdige Kanäle und verifizierte Accounts.

2. Sei skeptisch: Hinterfrage ungewöhnliche oder sensationelle Inhalte kritisch.

3. Nutze Fact-Checking-Tools: Es gibt zahlreiche Websites und Apps zur Überprüfung von Fakten.

4. Achte auf Details: Unnatürliche Bewegungen oder Artefakte können auf Fakes hinweisen.

5. Bleib informiert: Halte dich über neue Technologien und Methoden zur Erkennung von Fakes auf dem Laufenden.

Top Links

- KI-Tool zur Erkennung von Deepfakes und manipulierten Videos.

- Lernmodul des MIT zum Thema Deepfakes

- Kurzfilm über die gescheiterte Apollo 11 Mission: "In Event of Moon Disaster"

Zwischen Innovation und Verantwortung

Fake Livestream Apps mit KI-Zuschauern sind zweifellos technologisch eine faszinierende Entwicklung. Sie zeigen eindrucksvoll, wozu moderne KI-Systeme in der Lage sind. Aber nur, weil's geht muss es ja nicht unbedingt auch gleich gemacht werden, oder? Ich frage wie immer nach dem "Warum?". Und ja, mir wird hier in der Tat etwas mulmig: Wie gehen wir als Gesellschaft mit Technologien um, die so leicht zur Täuschung eingesetzt werden können? Was bedeutet "Fame", wenn dieser via KI auf Knopfdruck erzeugt werden kann? Wer spielt da noch das "long game"? Und, klar, welche ethischen Richtlinien brauchen wir für den Einsatz von KI in sozialen Medien?

Es liegt an uns allen - Entwicklern, Nutzern und Gesetzgebern - verantwortungsvoll mit diesen neuen Möglichkeiten umzugehen. Medienkompetenz und kritisches Denken werden wichtiger denn je. Vielleicht sollten wir uns auch fragen, warum der Wunsch nach virtueller Anerkennung so groß ist und wie wir echte, bedeutungsvolle Verbindungen in der digitalen Welt fördern können.

Wie seht ihr das Thema? Schreibt mir eure Gedanken!

Bis dahin wünsche ich euch eine fake-freie Zeit!

Euer Arno

Linkliste

Vidnoz Leitfaden: In 6 Schritten zum eigenen KI Streamer

YouTube AlexiBexi: Review und Bewertung von "Parallel Live"

404 Artikel: Men Use Fake Livestream Apps With AI Audiences to Hit on Women

Sascha Lobo Kolumne: Fake News war gestern. Die Ära der Fake Reality beginnt

Deutschlandfunk "KI verstehen" Podcast: Virtuelle Beziehung - taugt Künstliche Intelligenz als bester Freund?

StudySmarter: Deepfakes und Ethik