เส้นคั่นชัดเจนระหว่างวิดีโอจริง และวิดีโอที่สร้างขึ้นจาก AI อาจจะหายไปในปี 2025

เนื้อหาที่สร้างขึ้นด้วย AI มาแล้วและยังคงอยู่ มันกำลังดีขึ้นและดีขึ้น และเราได้เห็นการปรับปรุงที่สำคัญในเทคโนโลยี AI ในปี 2024. เราจะสามารถจำแนกได้รึไม่ว่าอะไรคือความจริงและอะไรไม่ใช่ความจริงในปี 2025?

เมื่อเร็วๆ นี้ฉันพบว่าฉันถามตัวเองว่า “นั่นคือผู้หญิงจริงหรือไม่?” – ขณะที่ทำหน้างงงวยเล็กน้อย – หลังจากเห็นโพสต์บน Instagram “ไม่, นั่นต้องเป็นที่สร้างขึ้นด้วย AI” ฉันสรุปหลังจากช่วงเวลาสั้น ๆ จากนั้นฉันทันทีที่สงสัย: เราจะยังสามารถแยกความแตกต่างได้ภายในวินาทีในปีหน้าหรือไม่? ทุกสัญญาณชี้ว่าไม่ได้, โดยเฉพาะในสื่อสังคม, ดังที่แนวโน้มใหม่ๆ ในเทคโนโลยี AI แนะนำ

เมื่อไม่กี่วันที่ผ่านมา, ผู้บริหารสูงสุดของ Instagram คือ Adam Mosseri ได้แบ่งปันข้อความที่สื่อถึงปัญหานี้บน Threads. “AI ที่สร้างขึ้นมานั้นสร้างเนื้อหาที่ยากที่จะจำแนกได้ว่าแตกต่างจากการบันทึกความเป็นจริง และการปรับปรุงอย่างรวดเร็ว” เขาเขียน. Mosseri ได้โอ้นอ้างอย่างเปิดเผยว่าพวกเขากำลังมีปัญหาในการแท็กเนื้อหาที่สร้างโดย AI และควบคุมและตรวจสอบปริมาณมหภาคของสื่อที่ถูกแบ่งปันทุกวินาทีบนแพลตฟอร์มโซเชียลมีเดียของพวกเขา.

Mosseri ได้ปลดความรับผิดชอบของ Meta และเตือนผู้ใช้ว่าขึ้นอยู่กับพวกเขาเองในการตัดสินว่าโพสต์นั้นเป็นจริงหรือไม่. “การเป็นผู้ดู หรือผู้อ่าน ที่มีทัศนคติแยกแยะจะเป็นสิ่งที่สำคัญมากขึ้นเมื่อพวกเขาบริโภคเนื้อหาที่อ้างว่าเป็นบัญชีหรือการบันทึกความเป็นจริง” เขาเพิ่มเติม.

เพียงไม่กี่วันหลังจากนั้น, OpenAI ได้ปล่อย Sora Turbo ออกมา, ซึ่งเป็นตัวสร้างวิดีโอ AI ที่มีประสิทธิภาพ ช่วยให้ผู้ใช้ระดับ Pro และ Plus สามารถสร้างวิดีโอที่ดูเหมือนจริงได้จากข้อความเตือน ภายในไม่กี่นาทีผู้ใช้งานก็เริ่มสร้างวิดีโอที่น่าสนใจและดูเหมือนจริง จากนั้นก็เริ่มแบ่งปันผลงานของพวกเขาผ่านโซเชียลมีเดีย

เมื่อทุกอย่างดูเหมือนว่าจะสู่ระดับใหม่ของการผลิตวิดีโอ, Google ได้ประกาศเครื่องมือวิดีโอ AI ล่าสุดของตน, Veo 2, ที่มีความละเอียดสูงขึ้นและคลิปที่ยาวขึ้นกว่า Sora แน่นอนว่าผลลัพธ์ที่ถูกแบ่งปันโดยผู้ที่มีสิทธิ์เข้าถึงเทคโนโลยีขั้นสูงนี้นับว่าน่าประทับใจมากยิ่งขึ้น

“ไม่มีใครบอกได้ว่านี่คือ AI ตอนนี้” ผู้ใช้คนหนึ่งเขียนไว้

It’s over.

Google Veo 2 ได้ทำลายคู่แข่งออกไปแล้ว และกลายเป็นผู้ครองสิ่งที่ใหม่ของโลกสื่อ AI.

ไม่มีใครที่จะบอกได้ว่านี่คือ AI ตอนนี้นะคะ.

10 ตัวอย่างที่แสนดุจช้างป่า: pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 17 ธันวาคม 2024

มันกำลังเกิดขึ้นอยู่แล้ว

ในปี 2024 นี้ เราได้เห็นถึงผลกระทบของเนื้อหาที่สร้างขึ้นโดย AI ต่อประชากร การเลือกตั้ง และผู้ใช้โซเชียลมีเดียอย่างชัดเจน

ในเดือนมกราคม, ชาว New Hampshire ได้รับสายโทรศัพท์ “จากโจ ไบเดน” ในการบอกเขาว่าไม่ควรลงประโยคในการเลือกตั้งแบบพื้นฐาน. ที่ปรึกษาด้านการเมืองชื่อ Steve Kramer เป็นผู้อยู่เบื้องหลังการหลอกลวงนี้และได้รับค่าปรับ 6 ล้านดอลลาร์สำหรับการโทรศัพท์ด้วย AI deepfake. รัฐบาลได้เข้าใจผลกระทบที่ AI สามารถมีได้และประเทศที่เช่น สิงคโปร์ได้มีการพัฒนากฎหมาย และยุทธศาสตร์เพื่อช่วยให้ประชากรสามารถระบุเนื้อหา deepfake.

ในเวเนซุเอลา, วิดีโอที่สร้างขึ้นด้วย AI ได้กระจายข้อมูลที่ผิดพลาด—แต่ยังช่วยให้นักข่าวสารสามารถสื่อสารผ่านทางอวตาร AI เพื่อหลีกเลี่ยงการเซ็นเซอร์.

คนหลายๆ คนกำลังรู้สึกยากลำบากในการบอกว่าอะไรเป็นของจริงและอะไรไม่ใช่ และไม่ใช่ความผิดของพวกเขา: เนื้อหาที่สร้างโดย AI ยังคงพัฒนาไปทุกทุกวัน

ธุรกิจเนื้อหาที่สร้างโดย AI ที่มีคุณภาพสูงเป็นที่นิยมที่เพิ่มขึ้นในทุกรูปแบบ; ข้อความ, เสียง, และวิดีโอ ผู้สร้าง OnlyFans ในปัจจุบันมีการพึ่งพา chatbots ในการทำงานบทสนทนากับแฟนคลับของพวกเขา ซึ่งเป็นงานที่เคยมอบหมายให้กับแรงงานชั่วคราวในประเทศที่มีรายได้ต่ำ โมเดล AI ใหม่ที่เชี่ยวชาญในเทคนิคการแนบเนียนยังสร้างรายได้จากทิปส์จากผู้ติดตามของพวกเขาถึง $1,000 ด้วย

ในเดือนเมษายนที่ผ่านมา สตาร์ทอัพที่ได้รับการสนับสนุนจาก Nvidia ชื่อว่า Synthesia ได้เปิดตัวอวตารที่สร้างขึ้นด้วย AI ที่สามารถแสดงอารมณ์เหมือนมนุษย์ และพูดได้ถึง 130 ภาษา TikTok กำลังอนุญาตให้บริษัทสร้างโฆษณาที่สร้างขึ้นด้วย AI โดยใช้เนื้อหาจาก Getty Images และตอนนี้ ผู้สร้างเนื้อหาใน YouTube สามารถใช้ฟีเจอร์แปลภาษาอัตโนมัติด้วย AI ใหม่ ในการแปลเนื้อหาของพวกเขาเป็น 9 ภาษา และการอัปเดตในอนาคตจะทำการจำลองเสียงเดิม

Zoom กำลังทำงานเพื่อสร้างอวตารด้วย AI ที่ดูเหมือนผู้ใช้เพื่อช่วยพวกเขาบันทึกข้อความและเข้าร่วมประชุม แม้ว่าเครื่องมือนี้จะถูกปล่อยออกมาในปีหน้า แต่ผู้คนได้ทดสอบเครื่องมือหลายประเภทและบริษัทสามารถสร้างโคลน AI ที่เหมือนกับรูปถ่ายจริงได้แล้ว

คุณแน่ใจหรือไม่ว่าคุณได้คุยกับคนจริงในการโทรทาง Zoom ครั้งล่าสุดของคุณ?

จะรู้ได้อย่างไรว่ามันถูกสร้างขึ้นโดย AI? ในตอนนี้

เรามีชีวิตอยู่ในยุคดิจิตอลที่ทำให้ความสับสนเกิดขึ้น. ฟิลเตอร์สามารถทำให้ใครก็ได้ดูเหมือนนางแบบที่มีผิวที่สมบูรณ์แบบ และการแก้ไขที่มีคุณภาพเทียบเท่า Photoshop สามารถทำได้เพียงคลิกเดียวบน Instagram หรือ Snapchat—มีผู้คนเท่าไหร่ที่ต้องการแบ่งปันภาพ “ธรรมชาติ” ของตนเอง ที่มีความไม่สมบูรณ์แบบทั้งหมด เมื่อมันสามารถปรับปรุงให้ดีขึ้นในเวลาเพียงไม่กี่วินาที? เราได้เห็นโฆษณามากขึ้นและขึ้นที่มีภาพที่สมจริงที่ถูกสร้างขึ้นด้วยปัญญาประดิษฐ์ ที่ทำให้เราโดยค่อยๆ มั่นใจในความคุ้นเคยและ “ความปกติ” ของตาของเรา. และทุกวันนี้ ความตกใจที่เกิดขึ้นทั่วโลกทำให้เราต้องสงสัย: สิ่งใดคือความจริง และสิ่งใดไม่ใช่ความจริงอีกต่อไป?

บริษัท AI ขนาดใหญ่ๆ ได้ทำงานเรื่องลายน้ำเพื่อจับจดเนื้อหาที่สร้างขึ้นด้วย AI และรู้จักได้อย่างง่ายดาย Google DeepMind ได้เปิดตัวระบบลายน้ำแบบโอเพนซอร์ส ในเดือนตุลาคมเพื่อแท็กวิดีโอ AI, ข้อความ, และเสียง และMeta ก็ได้เพิ่มลายน้ำลงในเครื่องมือวิดีโอ AI ของตนเอง

แต่ประสิทธิภาพของมันยังคงเป็นเรื่องที่น่าสงสัย โดยเริ่มจาก Meta ที่ยอมรับว่าพวกเขาไม่สามารถแท็กเนื้อหาที่สร้างขึ้นด้วย AI ทั้งหมดได้ ผู้กระทำที่มีเจตนาทำร้ายยังสามารถค้นหาวิธีการลบลายน้ำได้ และยังต้องการกฎหมาย, ความร่วมมือ, และข้อตกลงเพิ่มเติมระหว่างบริษัทโซเชียลมีเดียและรัฐบาลเพื่อสร้างระบบที่มีความสำเร็จมากขึ้น

ในขณะนี้ นอกจากการไว้วางใจในตัวเราเองแล้ว เราสามารถถามตัวเองคำถามบางอย่างก่อนที่จะแชร์ในโซเชียลมีเดียหรือเชื่อในสิ่งที่เราเห็น:

• เช่นที่ Mosseri แนะนำ พิจารณาสิ่งต่อไปนี้: ใครที่แชร์ข้อมูลนี้? นี่เป็นแหล่งข้อมูลที่น่าเชื่อถือหรือไม่?
• ความแสดงออกหรือการเคลื่อนไหวของบุคคลดูเหมือนเป็นหุ่นยนต์หรือไม่? แม้ว่าอวตารที่เป็น AI อาจจะดูเหมือนจริงมากขึ้น แต่ก็ยังเป็นไปได้ที่จะรู้จักความแข็งกร้านแปลกๆ หรือขาดความรู้สึก—แม้กระทั่งพิจารณาว่าบริษัทบางแห่งเช่น Synthesia กำลังปรับปรุงสิ่งนี้อยู่
• เนื้อหาที่ออกแบบมาเพื่อทำให้เกิดปฏิกิริยาทางอารมณ์อย่างรุนแรงหรือไม่? ผู้กระทำที่มีเจตนาประสงค์ร้ายทราบว่าเราแชร์ข่าวลบเป็นง่ายและมีการสนับสนุนวัสดุที่เต็มไปด้วยอารมณ์บนโซเชียลมีเดีย และ การวิจัยยืนยัน สิ่งนี้ ก่อนที่คุณจะแชร์เนื้อหาที่ทำให้เลือดของคุณเดือดเพื่อให้คนอื่นๆ รู้สึกโกรธเท่าที่คุณเป็น คิดว่ามันถูกออกแบบมาเพื่อปั่นป่วนหรือไม่ หรือจริงๆ แล้วมันเป็นข่าวจริงหรือเหตุการณ์จริง
• คุณสามารถยืนยันเนื้อหาด้วยแหล่งข้อมูลอื่น ๆ ได้หรือไม่? การตรวจสอบกับแหล่งที่ไว้วางใจได้ไม่เคยเป็นสิ่งที่ไม่ดี

และที่สุด คุณเคยสงสัยคำถามนี้หรือไม่—หรือถาม chatbot ที่คุณชื่นชอบ—ว่าจะทำอย่างไรให้ทักษะการคิดอย่างมีวิจารณญาณของคุณเพิ่มขึ้น? การพัฒนาความคิดอย่างมีวิจารณญาณนั้นควรจะอยู่ในรายการปีใหม่ที่ทุกคนต้องการที่จะทำแน่นอน