(DE/EN) ACTA DIURNA – 4/2024: Deepfakes – Manipulative Gefahr und dennoch Business Chance? Manipulative danger or business opportunity?

**EN VERSION BELOW

Kategorie: Trends

Bereich: Security & KI

Bereits in „Folge 3: KI als entscheidende Waffe im Cyberkrieg? Die Zukunft der Bedrohung beginnt hier!“ haben wir das Thema KI-generierte Inhalte diskutiert. Heute gehen wir noch tiefer und beleuchten neben den beängstigenden Risiken vor allem die faszinierenden Potenziale, der für Deepfakes genutzten Technologie.

Was sind Deepfakes, und warum sind sie so riskant?

Deepfakes sind eine fortschrittliche Technologie, die auf künstlicher Intelligenz (KI) und maschinellem Lernen basiert, um täuschend echte digitale Fälschungen von Bildern, Videos oder Audioaufnahmen zu erstellen. Diese Technik verwendet neuronale Netzwerke, insbesondere Generative Adversarial Networks (GANs), um die Merkmale und Eigenschaften einer Person oder einer Szene auf eine Weise nachzuahmen, die für das menschliche Auge und Ohr schwer bis nicht zu erkennen ist.

Deepfakes können verwendet werden, um faszinierend reale Avatare zu erstellen, indem bspw. Gesichter in Videos ersetzt werden, Stimmen nachgeahmt und sogar ganze Szenen erzeugt werden. Besonders auf Social-Media-Plattformen wie Instagram, TikTok und LinkedIn sind Deepfakes stark verbreitet und machen es Usern schwierig die Realität von Fälschungen zu unterscheiden. Wie riskant diese Technologie tatsächlich sein kann, zeigt der Fall eines 14-Jährigen. Nachdem er sich durch einen emotionalen Austausch in einen KI-Chatbot verliebt hatte, nahm er sich tragischerweise das Leben. Dieser Fall macht deutlich, wie gefährlich der unkontrollierte Umgang mit KI generierten Avataren und Chatbots ist und welche wichtige Rolle die restriktive Regulierung spielt.

Jeder von uns kann mit den folgenden Grundregeln verantwortungsbewusster mit Deepfakes umgehen.

• Skepsis zeigen: Glaub nicht jedem Video, das online auftaucht.

• Quellen prüfen: Inhalte sollten stets auf Glaubwürdigkeit & Herkunft überprüft werden.

• Unregelmäßigkeiten erkennen: Künstliche Mimik und verdächtig gleichmäßiger Tonfall sowie Sprachrhythmus weisen oft auf KI-generierte Inhalte hin.

Dienen KI-Technologie und synthetische Medien als Business-Chance?

Gerade im Business-Kontext können die gleichen Technologien, welche von Cyber-Kriminellen verwendet werden, um Deepfakes erzeugen, jedoch auch in positiven Einsatzszenarien zur Anwendung kommen. Im Folgenden stellen wir euch ausgewählte branchenübergreifend Beispiele vor:

Employer Branding: KI-gestützte Videos helfen Unternehmen dabei sich mit einer positiven Außenwirkung und als attraktive Arbeitgebermarke zu platzieren. Nicht nur Menschen, die sich für Innovation begeistern, sondern auch junge Menschen identifizieren sich dadurch mit dem Unternehmen. Im Bewerbungsprozess können neben dem direkten Mitarbeiterkontakt zum Beispiel virtuelle Rundgänge durch das Büro, interaktive Einblicke in die Unternehmenskultur oder informelle Videos, die mithilfe von KI dynamisch und individuell gestaltet sind, neue potenzielle Bewerber begeistern. Zudem kann die maßgeschneiderte Vorstellung des Unternehmens auf Basis der Interessenfelder des Bewerbers zu einem einprägsamen Bewerbungserlebnis führen.

Personalisierte Werbung und Marketing: Unternehmen können KI-gestützte Inhalte nutzen, um personalisierte Videos für Kampagnen zu erstellen, die die Kundenbindung stärken und die Effizienz der Werbung erhöhen. Ein Beispiel für den kreativen Einsatz von KI im Tourismus-Marketing ist die virtuelle Influencerin Emma. Sie reist digital durch Deutschland und teilt auf ihrem Social Media Account @EmmaTravelsGermany Reise-Highlights und Geheimtipps. Mit ihrem AI-Avatar bringt sie die Vielfalt Deutschlands informativ und unterhaltsam näher – ein neuer Weg, Reiseträume zu wecken!

E-Commerce: Im E-Commerce Bereich setzen einige Modemarken bereits auf KI-generierte, realistisch wirkende, digitale Models, um ihre Produkte effizient und flexibel zu präsentieren. Anstatt für jedes Kleidungsstück separate Fotoshootings durchzuführen, können diese digitalen Models Kleidung virtuell vorführen und auf verschiedene Körperformen, Hauttöne und sogar Posen angepasst werden. Des Weiteren eignet sich diese Funktion für virtuelle Anproben. Als potenzieller Käufer kann ich direkt von zuhause Kleidungsstücke virtuell anziehen und bekomme ein Gefühl dafür, wie das Outfit an mir wirkt. Als Anbieter, kann ich somit nicht nur aufwendige Shootings und Videoproduktionen reduzieren, sondern auch meine Retouren minimieren. Zudem sind die neusten Trends in Echtzeit verfügbar und spezielle Kundenwünsche können auch online berücksichtigt werden – was das Einkaufserlebnis einmalig macht. Ein Beispiel für ein KI generiertes Model, das mittlerweile von international namenhaften Marken gebucht wird und damit bis zu 10.000€ monatlich verdient, ist Aitana Lopez – mit 330.000 Instagram Followern. Doch sie ist nicht die einzige, denn in der Zwischenzeit gibt es Modelagenturen, die sich darauf spezialisiert haben, weitere AI-Avatare für Marketingkampagnen und Modeshootings zur Verfügung stellen.

Unsere Meinung

Die Risiken der Technologie basierend auf den Inhalten oben sowie unserer „Folge 3“ erfordern einen verantwortungsvollen Umgang mit KI-generierten Inhalten. Klare ethische Richtlinien und sinnvolle Regulierungen sind erforderlich, um einen Missbrauch zu verhindern und eine sichere Nutzung zu gewährleisten.

Unsere Tests mit verschiedenen AI-Tools führen uns zu dem Schluss, dass die Business-Chancen weit über die oben dargestellten Usecases hinausgehen. Vor allem, wenn der Kreativität in diesem Zusammenhang keine Grenzen gesetzt sind.

Insbesondere das Konzept der "Feel Good Productivity" bei dem es nachweislich darum geht, durch emotionale Förderung produktiver und effizienter zu arbeiten, kann durch den Einsatz von synthetischen Medien, innovativ und motivierend gestaltet werden. Dies führt nicht nur zu positiven Arbeitsergebnissen, sondern auch zu einer höheren Mitarbeiterzufriedenheit, langfristiger Mitarbeiterbindung und Umsatzsteigerungen.

Abschließend bleibt die Frage an euch: Welche dieser Anwendungen findest du am interessantesten und in welchen Bereichen nutzt du bereits KI? Diskutiert mit uns in den Kommentaren und teilt unseren Artikel gern.

ACTA DIURNA by Katja Bierbrauer , Sarah Schneider & Marcel

#Actadiurna #KI #Innovation #AI #CISO #CANCOM #ArtificialIntelligence #SyntheticMedia #DeepfakeTechnology #DigitalManipulation #SocialMediaRisks #AIPoweredContent #DigitalFuture #ECommerceInnovation #VirtualInfluencers #InteractiveContent #DigitalMarketing #EducationAndTraining #DigitalHealth #VirtualExperiences #TourismInnovation #SocialMediaTrends #AIInBusiness #FutureOfMedia #AIOpportunities

Redaktioneller Hinweis: Unsere Posts stellen unsere persönlichen Meinungen dar und haben keinen direkten Bezug zur Auffassung des CANCOM Konzerns.

**EN VERSION

Category: Trends

Area: Security & AI

We have already discussed the topic of AI-generated content in ‘Episode 3: AI as a decisive weapon in the cyber war? The future of threats begins here!’. Today, we are going even deeper and, in addition to the frightening risks, we are also highlighting the fascinating potential of the technology used for deepfakes.

What are deepfakes and why are they so risky?

Deepfakes are an advanced technology that uses artificial intelligence (AI) and machine learning to create deceptively realistic digital forgeries of images, videos, or audio recordings. This technique uses neural networks, in particular Generative Adversarial Networks (GANs), to mimic the features and characteristics of a person or scene in a way that is difficult or impossible for the human eye and ear to detect.

Deepfakes can be used to create fascinatingly real avatars, for example by replacing faces in videos, imitating voices and even creating entire scenes. Especially on social media platforms such as Instagram, TikTok and LinkedIn, deepfakes are widespread and make it difficult for users to distinguish reality from fake. Just how risky this technology can actually be is demonstrated by the case of a 14-year-old. After falling in love with an AI chatbot through an emotional exchange, he tragically took his own life. This case makes it clear how dangerous the uncontrolled use of AI-generated avatars and chatbots is and the important role that restrictive regulation plays.

By following these basic rules, each of us can handle deepfakes more responsibly.

• Be sceptical: Don't believe every video that pops up online.

• Check sources: Content should always be checked for credibility and origin.

• Spot irregularities: Artificial facial expressions and a suspiciously even tone and rhythm of speech often indicate AI-generated content.

Do AI technology and synthetic media serve as a business opportunity?

In a business context, the same technologies used by cybercriminals to create deepfakes can also be used in positive scenarios. In the following, we present selected examples from a range of industries:

Employer branding: AI-supported videos help companies to present themselves with a positive image and as an attractive employer brand. Not only people who are enthusiastic about innovation, but also young people identify with the company. In the application process, in addition to direct employee contact, virtual tours of the office, interactive insights into the corporate culture or informal videos that are dynamically and individually designed using AI can inspire new potential applicants. What's more, a tailored presentation of the company based on the applicant's areas of interest can lead to a memorable application experience.

Personalised advertising and marketing: Companies can use AI-supported content to create personalised videos for campaigns that strengthen customer loyalty and increase advertising efficiency. One example of the creative use of AI in tourism marketing is the virtual influencer Emma. She digitally travels through Germany and shares travel highlights and insider tips on her social media account @EmmaTravelsGermany. With her AI avatar, she introduces the diversity of Germany in an informative and entertaining way – a new way to spark travel dreams!

E-commerce: In the e-commerce sector, some fashion brands are already using AI-generated, realistic-looking digital models to present their products efficiently and flexibly. Instead of conducting separate photo shoots for each item of clothing, these digital models can virtually demonstrate clothing and be adapted to different body shapes, skin tones and even poses. Furthermore, this function is suitable for virtual fittings. As a potential buyer, I can virtually try on items of clothing from the comfort of my own home and get a feel for how the outfit looks on me. As a retailer, I can not only reduce the need for elaborate photo shoots and video productions, but also minimise returns. What's more, the latest trends are available in real time and special customer requests can also be accommodated online – making the shopping experience unique. One example of an AI-generated model that is now booked by internationally renowned brands and earns up to €10,000 per month is Aitana Lopez – with 330,000 Instagram followers. But she is not the only one, because there are now model agencies that specialise in providing other AI avatars for marketing campaigns and fashion shoots.

Our opinion

The risks of the technology, based on the content above and our ‘Episode 3’, require a responsible approach to AI-generated content. Clear ethical guidelines and sensible regulations are needed to prevent misuse and ensure safe use.

Our tests with various AI tools lead us to the conclusion that the business opportunities go far beyond the use cases presented above. Especially when there are no limits to creativity in this context.

In particular, the concept of ‘feel-good productivity’, which is demonstrably about working more productively and efficiently through emotional support, can be designed in an innovative and motivating way through the use of synthetic media. This not only leads to positive work results, but also to higher employee satisfaction, long-term employee retention and increased sales.

In conclusion, we would like to ask you: Which of these applications do you find most interesting and in which areas do you already use AI? Discuss with us in the comments and feel free to share our article.

ACTA DIURNA by Katja Bierbrauer, Sarah Schneider & Marcel

#Actadiurna #AI #CISO #CANCOM #ArtificialIntelligence #SyntheticMedia #DeepfakeTechnology #DigitalManipulation #SocialMediaRisks #AIPoweredContent #DigitalFuture #ECommerceInnovation #VirtualInfluencers #InteractiveContent #DigitalMarketing #EducationAndTraining #DigitalHealth #VirtualExperiences #TourismInnovation #SocialMediaTrends #AIInBusiness #FutureOfMedia #AIOpportunities

Editor's note: Our posts represent our personal opinions and have no direct relation to the views of the CANCOM Group.