เปิดเบื้องหลังผู้ผลิตเนื้อหาออนไลน์ที่ใช้เอไอสร้างวิดีโอเท็จเกี่ยวกับสงครามอิหร่าน เพื่อหารายได้

ผู้เชี่ยวชาญเปิดเผยกับบีบีซีเวริฟาย (BBC Verify) ว่า คลื่นข้อมูลเท็จลูกใหญ่ อย่างที่ไม่เคยมีมาก่อนที่สร้างขึ้นโดยปัญญาประดิษฐ์ (Artificial Intelligence) เกี่ยวกับสงครามระหว่างสหรัฐฯ -อิสราเอล กับอิหร่าน กำลังถูกนำไปใช้เพื่อสร้างรายได้โดยผู้สร้างเนื้อหาออนไลน์ ที่เข้าถึงเทคโนโลยีที่สร้างเนื้อหาจากเอไอ (generative AI) ได้เพิ่มมากขึ้น

การวิเคราะห์ของบีบีซีเวริฟายพบตัวอย่างมากมายของวิดีโอที่สร้างโดย AI และภาพถ่ายดาวเทียมปลอมที่ถูกนำมาใช้เพื่อสร้างข้อกล่าวอ้างที่เป็นเท็จและทำให้เข้าใจผิดเกี่ยวกับความขัดแย้ง ซึ่งมียอดเข้าชมออนไลน์รวมกันหลายร้อยล้านครั้ง

"ขนาดของเรื่องนี้เป็นเรื่องที่น่าตกใจอย่างยิ่ง และสงครามครั้งนี้ทำให้เราไม่สามารถเพิกเฉยได้อีกต่อไป" ทิโมธี เกรแฮม ผู้เชี่ยวชาญด้านสื่อดิจิทัลจากมหาวิทยาลัยเทคโนโลยีควีนส์แลนด์กล่าว

"สิ่งที่เคยต้องใช้การผลิตวิดีโอระดับมืออาชีพ ตอนนี้สามารถทำได้ในไม่กี่นาทีด้วยเครื่องมือ AI ส่วนอุปสรรคในการสร้างภาพวิดีโอความขัดแย้งสังเคราะห์ที่ดูสมจริงก็ได้พังทลายลงแล้ว" เขากล่าว

สหรัฐอเมริกาและอิสราเอลเริ่มเปิดฉากโจมตีอิหร่านในวันที่ 28 ก.พ. ที่ผ่านมา ขณะที่ฝ่ายอิหร่านได้ตอบโต้ด้วยการโจมตีอิสราเอลด้วยโดรนและขีปนาวุธ รวมถึงประเทศในอ่าวอาหรับหลายประเทศ รวมทั้งเป้าหมายทางทหารของสหรัฐฯ ในภูมิภาคนี้อีกด้วย

หลายคนหันไปใช้โซเชียลมีเดียเพื่อค้นหาและแบ่งปันข้อมูลล่าสุด และเพื่อทำความเข้าใจสถานการณ์ความขัดแย้งที่เกิดขึ้นอย่างรวดเร็วในสัปดาห์นี้

ผู้ให้บริการแพลตฟอร์มเอ็กซ์ (X) ประกาศในสัปดาห์นี้ว่าจะระงับการสร้างรายได้จากแพลตฟอร์มชั่วคราวสำหรับผู้สร้างเนื้อหา หากพวกเขาโพสต์วิดีโอที่สร้างโดย AI เกี่ยวกับความขัดแย้งทางอาวุธโดยไม่มีป้ายหรือข้อความกำกับ

ทั้งนี้ โครงการสร้างรายได้ดังกล่าวจะตอบแทนให้แก่ผู้ใช้งานที่มีคุณสมบัติเหมาะสม ซึ่งโพสต์ของพวกเขาสร้างยอดวิว ยอดไลค์ ยอดแชร์ และความคิดเห็นจำนวนมาก โดยจะได้รับเงินจากแพลตฟอร์ม

"นี่เป็นสัญญาณที่น่าสังเกตว่าพวกเขาได้สังเกตเห็นแล้วว่านี่เป็นปัญหาใหญ่" มะห์ซา อาลีมาร์ดานี นักวิจัยผู้เชี่ยวชาญด้านอิหร่านจากสถาบันอินเทอร์เน็ตแห่งออกซ์ฟอร์ดกล่าว

ทีมงานได้สอบถามติ๊กตอก (TikTok) และเมตา (Meta) ซึ่งเป็นผู้ให้บริการเฟซบุ๊กและอินสตาแกรมว่า พวกเขามีแผนที่จะดำเนินการในลักษณะเดียวกันหรือไม่ แต่บริษัทดังกล่าวไม่ได้ตอบรับคำของเรา

ตัวอย่างทั่วไปของวิดีโอที่สร้างโดย AI ที่บีบีซีเวริฟายติดตามนั้น ปรากฏให้เห็นขีปนาวุธโจมตีกรุงเทลอาวีฟในอิสราเอล พร้อมกับเสียงระเบิดดังสนั่นในฉากหลัง

วิดีโอข้างต้นนี้ถูกนำไปเผยแพร่มากกว่า 300 โพสต์ และถูกแชร์ต่อหลายหมื่นครั้งบนแพลตฟอร์มโซเชียลมีเดีย

ผู้ใช้เอ็กซ์บางรายหันไปใช้แชทบอท AI ของแพลตฟอร์ม ที่มีชื่อว่า "กร็อก" (Grok) เพื่อยืนยันความถูกต้องของวิดีโอ แต่ในหลายกรณีที่บีบีซีเวริฟายพบเห็น กร็อกยืนยันอย่างผิดพลาดว่าวิดีโอที่สร้างโดย AI นั้นเป็นของจริง

วิดีโอปลอมอีกคลิปหนึ่ง ซึ่งมียอดชมหลายสิบล้านครั้ง อ้างว่าแสดงให้เห็นตึกระฟ้า "เบิร์จ คาลิฟา" (Burj Khalifa) ของนครดูไบ สหรัฐอาหรับเอมิเรตส์ กำลังลุกไหม้ ขณะที่ฝูงชนดูเหมือนกำลังวิ่งเข้าหาตึกดังกล่าว

ภาพที่สร้างโดย AI นี้แพร่กระจายอย่างกว้างขวางทางออนไลน์ในช่วงเวลาที่ผู้อยู่อาศัยและนักท่องเที่ยวมีความกังวลอย่างมากเกี่ยวกับการโจมตีด้วยโดรนและขีปนาวุธในเมืองแห่งนี้

"วิดีโอปลอมเช่นนี้ส่งผลเสียต่อความเชื่อมั่นของผู้คนในข้อมูลที่ได้รับการตรวจสอบแล้วที่พวกเขาเห็นทางออนไลน์ และทำให้การรวบรวมหลักฐานที่แท้จริงทำได้ยากขึ้นมาก" อาลีมาร์ดานีกล่าว

การวิเคราะห์โดยบีบีซีเวริฟาย ยังพบว่า การเกิดขึ้นของภาพถ่ายดาวเทียมที่สร้างขึ้นโดย AI ถือเป็นรูปแบบใหม่ในความขัดแย้งครั้งนี้

ทีมงานตรวจสอบวิดีโอจริงหลายรายการที่แสดงให้เห็นการโจมตีด้วยโดรนและขีปนาวุธของอิหร่านต่อกองบัญชาการกองเรือที่ 5 ของกองทัพเรือสหรัฐฯ ในบาห์เรนในวันแรกของความขัดแย้ง

ภาพถ่ายปลอมที่เผยแพร่บนเอ็กซ์โดยหนังสือพิมพ์เดอะ เตหะราน ไทมส์ (The Tehran Times) ซึ่งเชื่อมโยงกับรัฐบาลอิหร่าน เริ่มแพร่กระจายในวันถัดมาและอ้างว่าแสดงให้เห็นความเสียหายอย่างกว้างขวางต่อฐานทัพดังกล่าว

ภาพปลอมดังกล่าวดูเหมือนจะสร้างขึ้นจากภาพถ่ายดาวเทียมจริงของฐานทัพเรือสหรัฐฯ ในบาห์เรนที่ถ่ายไว้ในเดือน ก.พ. 2025 ซึ่งเผยแพร่สู่สาธารณะทางออนไลน์

จากข้อมูลของเครื่องมือตรวจจับลายน้ำ SynthID ของกูเกิล ภาพปลอมดังกล่าวถูกสร้างหรือแก้ไขด้วยเครื่องมือ AI ของกูเกิล

รถยนต์สามคันที่จอดอยู่ด้านนอกก็อยู่ในตำแหน่งเดียวกัน ทั้งในภาพถ่ายดาวเทียมจริงและภาพที่สร้างโดย AI แม้ว่าภาพถ่ายเหล่านั้นจะถูกถ่ายห่างกันเป็นปีก็ตาม

เครื่องมือเอไอของกูเกิลรวมถึง วีโอ (Veo) ซึ่งเป็นโปรแกรมสร้างวิดีโอ กำลังอยู่ในรายชื่อแพลตฟอร์ม AI ยอดนิยมที่กำลังเติบโตขึ้นเรื่อย ๆ เช่นเดียวกับ โมเดลโซระ (Sora) ของโอเพนเอไอ (OpenAI) แอปฯ เอไอ ของจีนอย่าง ซีแดนซ์ (Seedance) และกร็อกซึ่งเป็นส่วนหนึ่งของเอ็กซ์

"จำนวนเครื่องมือที่หลากหลายที่พร้อมใช้งานในปัจจุบันเพื่อสร้างการปรับแต่งเอไอที่สมจริงสูงนั้นไม่เคยมีมาก่อน" เฮนรี อัจเดอร์ ผู้เชี่ยวชาญด้านเอไอเชิงสร้างสรรค์กล่าว

"เราไม่เคยเห็นเครื่องมือเหล่านี้พร้อมใช้งาน ใช้งานง่าย และราคาถูกขนาดนี้มาก่อน" เขากล่าว

สิ่งนี้ทำให้เนื้อหาที่สร้างโดยเอไอเกิดขึ้นทางออนไลน์มากขึ้น "เพราะตอนนี้กระบวนการเผยแพร่ไปยังโซเชียลมีเดียสามารถทำได้แบบอัตโนมัติเกือบทั้งหมด" วิคตัวร์ ริโอ ผู้อำนวยการบริหารของวอท ทู ฟิกซ์ (What To Fix) องค์กรไม่แสวงหาผลกำไรด้านนโยบายเทคโนโลยีกล่าว

ด้านหัวหน้าฝ่ายผลิตภัณฑ์ของเอ็กซ์กล่าวเมื่อวันอังคารที่ผ่านมาว่า "99%" ของบัญชีที่เผยแพร่วิดีโอที่สร้างโดยเอไอเช่นนี้ กำลังพยายาม "เล่นเกมการสร้างรายได้" โดยการโพสต์เนื้อหาที่จะสร้างการมีส่วนร่วมจำนวนมากเพื่อแลกกับการชำระเงินผ่านโปรแกรมการแบ่งปันรายได้ของผู้สร้าง (Creator Revenue Sharing) ของแอปฯ

แพลตฟอร์มนี้ไม่ได้เปิดเผยจำนวนบัญชีที่เป็นส่วนหนึ่งของโปรแกรม หรือจำนวนเงินที่พวกเขาสามารถทำได้

แต่เกรแฮมคาดการณ์ว่า เอ็กซ์อาจจ่ายประมาณ "8 -12 ดอลลาร์สหรัฐ (250-381 บาท) ต่อการเข้าชมของผู้ใช้ที่ได้รับการยืนยัน 1 ล้านครั้ง"

"ผู้สร้างเนื้อหาออนไลน์ต้องมียอดการเข้าชมแบบออร์แกนิก 5 ล้านครั้งภายใน 3 เดือน และต้องมีบัญชีเอ็กซ์ พรีเมียม (X Premium) เพื่อให้รับสิทธิ์" เขากล่าวเสริม

"เมื่อคุณได้เข้ามาแล้ว เนื้อหาที่สร้างโดยเอไอซึ่งแพร่กระจายอย่างรวดเร็วก็ราวกับเครื่องพิมพ์เงิน" เขากล่าว "พวกเขาได้สร้างองค์กรข้อมูลเท็จขั้นสุดยอดขึ้นมาแล้ว"

เอ็กซ์ยังไม่ได้ตอบรับคำขอความคิดเห็นหรือคำถามของเราเกี่ยวกับโปรแกรมการดังกล่าว

ผู้เชี่ยวชาญได้บอกกับบีบีซีเวริฟายว่า แม้ว่าบริษัทโซเชียลมีเดียหลายแห่งจะกล่าวว่าพวกเขากำลังพยายามเปลี่ยนแปลงระบบการกลั่นกรองและการตรวจจับเพื่อรับมือกับขนาดและความเร็วในการแพร่กระจายของเนื้อหาที่สร้างโดยเอไอแต่ก็ไม่มีวิธีแก้ปัญหาที่ง่ายดาย

"ปัญหาที่ลึกกว่านั้นคือ การสร้างรายได้ที่ขับเคลื่อนด้วยการมีส่วนร่วมหรือเอ็นเกจเมนต์ และข้อมูลที่ถูกต้องนั้นขัดแย้งกันโดยพื้นฐาน และไม่มีแพลตฟอร์มใดที่แก้ไขความขัดแย้งนั้นได้อย่างสมบูรณ์ หรืออาจจะไม่มีวันทำได้" เกรแฮมกล่าวทิ้งท้าย