Die soziale Singularität

"Men have wasted away before it, not knowing if what they have seen is real, or even possible".

Eine Singularität ist ein einzigartiger Zeitpunkt oder Ort, an dem die bisher bekannten Regeln aufhören zu existieren und somit Vorhersagen für die Zukunft unmöglich werden. Die bekanntesten Singularitäten sind Schwarze Löcher oder der Urknall.

Auch die Entwicklung der Künstlichen Intelligenz (KI) wird nach Meinung einiger Experten und Forscher auf eine solche Singularität zusteuern. Mit dem Aufkommen selbst lernender und selbst optimierender KI-Systeme, so die Prognose, wird es unmöglich, die weitere Entwicklung unserer Welt vorherzusagen.

Ob dies bereits mit einer sogenannten AGI (im Deutschen als "Starke KI" bezeichnet) geschieht, ist eher unwahrscheinlich. Für solche Systeme, die zu einer technologischen Singularität führen, wird daher heute der neuere Begriff ASI, also Artificial Super Intelligence oder auch Übermenschliche KI, verwendet.

Sowohl AGI und erst recht ASI sind noch Jahre bis Jahrzehnte entfernt.

Meine Prognose ist jedoch, dass wir mit den heutigen generativen KI-Technologien schon früher auf eine soziale Singularität zusteuern.

Der Mensch, ein soziales Wesen?

Über tausende Jahre war es unumstritten, dass Menschen Gemeinschaften bilden und auch brauchen, um zu überleben oder auch geistig gesund zu bleiben. Ich will nicht behaupten, dass sich das grundsätzlich geändert hat.

Jedoch zeigen alle Erhebungen und Studien, dass sich in der Realität immer mehr Menschen absichtlich oder unabsichtlich abkapseln, vereinsamen, oder in sehr spezifische Nischen-Räume zurückziehen.

Ob Technik dabei ein Beschleuniger oder nur ein nicht-kausaler Begleitumstand ist, darüber wird eifrig gestritten und wird wohl auch nie ganz abschließend zu klären sein. Im Zweifel hat Social Media und andere "Konsum-Techniken" nur andere Sucht- und Eskapismus-Varianten abgelöst.

Ich befürchte, dass Generative KI, diese aktuellen Varianten ebenfalls ablösen und überflügeln wird. Und ich würde behaupten, dass in diesem Bereich die Prophezeiungen aus Büchern und Filmen durchaus zutreffender sind, als es bei Welt-Untergangs-Szenarien durch KI-Terminatoren der Fall ist.

Kurze Timeline

Social Media, Streaming oder Online-Gaming haben bereits bewiesen, wie sehr wir Menschen auf personalisierte Inhalte und persistente Fantasie-Welten reagieren können.

Generative KI kann und wird das nochmal um den Faktor 10 oder mehr steigern.

Was braucht es dazu?

- etwas was uns persönlich sehr wichtig ist, zb. Geschichten, Menschen, Haustiere, Erinnerungen

- Technik, die unsere Erinnerungen oder Bekanntschaften "nachbauen" kann

- Technik, die diesen digitalen Simulationen wieder erlebbar machen

Ich dachte, dass es noch viele, viele Jahre dauern wird, bis wir in den Bereich kommen, wo glaubhaft, im Sinne dass es echte Emotionen auslöst, digitale Avatare und Welten erschaffen werden, die mehr sind als nur ein Spiel oder eine VR-Experience.

Vergangene Woche habe ich eine Demo gesehen, die mit aktuellen Mitteln bereits demonstriert wie aus wenigen Bildern, einigen Sekunden Sprache und etwas Kontext Personen "wiederbelebt" hat.

TikTok geht in eine ähnliche Richtung und versucht lebende "Creator" zu klonen und als digitale Werbe-Avatare auf der eigenen Plattform zu etablieren. Elevenlabs bietet jetzt Famous Voices an, also Stimmen von berühmten, verstorbenen Schauspielerinnen und Schauspielern, die beliebte Bücher oder Artikel vorlesen.

Das Ziel ist das Gleiche: Menschen, sollen sich mit dem was sie kennen und lieben, endlos beschäftigen. Character.AI zielt auf das gleiche Grundbedürfnis ab (und nutzt die gleichen psychologischen Methoden) und erreicht bereits erstaunliche Nutzer-Zahlen.

Es wird nicht dabei bleiben, dass man sich an verstorbene Menschen wieder erinnern soll oder mit seinen Lieblingsfiguren (real oder nicht, ist eh egal) 24/7 beschäftigen, reden oder "Abenteuer" erleben kann.

Alle großen Marken werden in AI-Experiences übertragen werden. Du möchtest tagein, tagaus im Harry Potter-Universum verbringen und immer neue Geschichten erleben? Wird es geben. Jedes Buch, Serie und Film wird individualisierbar werden und mit fortschreitender Technik auch fast endlos fortsetzbar.

Aber das stärkste (und gefährlichste) Motiv ist die Überwindung des Todes. Was passiert, wenn wir mit Personen oder Wesen digital leben können, die wir über alles in der Welt geliebt haben und noch lieben, aber die nicht mehr bei uns sein können?

Werden wir widerstehen können, wenn wir in eine virtuelle Umgebung eintauchen können, wo die Zeit stillsteht? Wo wir den Verlust etwas weniger spüren? Wo wir uns etwas besser erinnern können?

Ich glaube, das wird etwas mit uns Menschen machen. Zumal das noch die "harmlosen" Varianten sind. Jeder kann sich selbst ausmalen was mit solch einer Technologie machbar sein wird - und im wahrscheinlichen Fall natürlich auch in Kombination mit Drogen oder in etwas ferner Zukunft durch Gehirn-Implantate, die jegliche Barrieren der Realität einreißen werden.

Aber die Technik ist noch nicht soweit! Oder?

Die größten Hindernisse sind aktuell eher Rechenaufwand, als die reine theoretische Möglichkeit. Bilder können bereits restauriert, erweitert und umgestaltet werden. Auch können aus wenigen (teilweise sogar nur noch ein einziges) Fotos komplett neue erschaffen werden. Aus vielen Bildern können dann Generative-Modelle fein-tuned werden, so dass sie nur noch diese Personen oder Objekte ausgeben sollen.

Stimmen-Klonen ist bereits auf einem Niveau, was völlig ausreichend ist, um unser Gehirn zu täuschen. Der Wettlauf ist hier eher nur noch, ob man 30 Sekunden oder 5 oder 3 Sekunden braucht, um eine Stimme lebensecht zu kopieren.

Video-Erzeugung ist noch am weitesten zurück und auch am rechenintensivsten. Die jüngsten Demos und Releases von OpenAI Sora, über Luma Labs bis zu Runways Gen-3 zeigen aber ebenfalls deutliche Fortschritte.

Die Sprachmodelle wie GPT-4, Gemini oder Claude sind eh bereits gut genug, um aus wenigen Kontext-Fetzen neue Geschichten, Dialoge oder Pseudo-Erinnerungen zu erstellen.

Gleichzeitig kommen immer mehr "Gadgets" in den Umlauf, die das Aufzeichnen von Sprache und Bildern (siehe Metas Smart Glass) erleichtern. Von den Bild-, Video- oder Sprachdaten auf den Social Media-Plattformen ganz zu schweigen.

Selbstbestimmung über meine digitale Kopie

Wie werden wir reagieren, wenn wir wissen, dass jedes Foto und jede Sprachnachricht von einem Ex-Kollegen, einer Ex-Freundin, eines Ex-irgendwas in einen virtuellen Avatar transformiert werden kann?

Wie wissen wir, ob eine Sprachnachricht nicht künstlich erstellt wurde, um unsere Beziehung mit einem anderen Menschen zu torpedieren? Oder Bilder und Videos lanciert werden, die uns mit jemandem oder irgendwo zeigen, wo wir nie waren?

Von "Deep Fakes" sind aktuell vor allem bekanntere Personen betroffen. Oder Fake-Inhalte werden für politische Kampagnen missbraucht oder für gezielte Betrugsversuche. Was ist, wenn das jeden und jederzeit möglich wäre? Alles nur mit einem Swipe, Sprachkommando oder Maus-Klick Aufwand?

Ich bin ehrlich, ich habe da keine gute Antwort für mögliche Lösungen. Klar, kann man sich selbst etwas "schützen" (digitalen Fingerabdruck im Netz minimieren oder sogar eliminieren), man kann vorsichtig sein (mit wem teile ich was, welche Seiten, Plattformen und Tools nutze ich) oder man kann versuchen sich Initiativen anschließen, die Betroffenen helfen oder das Problem zumindest thematisieren.

Schöne neue Welt

Ich weiß nicht welcher Aspekt unvorstellbarer ist.

Das wir in eine Welt leben werden, in der jedes Video und Bild und Tonaufnahme genauso gesehen werden muss, wie ein Satz auf einem Papier? Nur weil es da steht, heißt es nicht, dass davon irgendwas stimmt.

Oder in einer Welt, in der es (zu) leicht sein wird in Erinnerungen zu schwelgen und das immer gleiche Bekannte zu konsumieren, als sich mit der realen Welt herumschlagen zu müssen?

Oder in einer Welt, in dem jede private Aufzeichnung missbraucht werden kann. Vielleicht nur heimlich, vielleicht aber auch um Dir oder anderen Schaden und Schmerzen zuzuführen.

So oder so, es wird etwas mit dem Menschen, dem sozialen Wesen, tun. Ich vermag nicht zu sagen, was.