วิดีโอจากเอไอ สร้างเด็กเล่าเรื่องตัวเองถูกฆ่า ระบาดหนักบนติ๊กตอก

เทรนด์บนแอปพลิเคชันติ๊กตอก (TikTok) ที่ใช้ปัญญาประดิษฐ์หรือเอไอ สร้างวิดีโอเล่าเรื่องการฆาตกรรมเด็กจนถึงแก่ความตายจากเหตุการณ์ที่เคยเกิดขึ้นจริง กำลังสร้างความโกรธเคืองให้กับครอบครัวผู้สูญเสีย

วิดีโอที่สร้างจากเอไอโดยใช้เหตุการณ์จริง แสดงให้เห็นภาพเคลื่อนไหวของเด็กที่เหมือนมีชีวิตและบางส่วนเป็นเด็กทารก กำลังเล่าถึงเหตุการณ์ที่ตัวเองโดนฆ่า โดยทั้งหมดไม่ได้มีการขออนุญาตจากญาติผู้เสียชีวิต

วิดีโอจำนวนมากที่สร้างขึ้นโดยเอไอ ปรากฏเป็นกระแสบนแพลตฟอร์มติ๊กตอก ตั้งแต่เดือน เม.ย. ที่ผ่านมา แม้ว่าทางติ๊กตอกจะเคยประกาศห้ามการเผยแพร่วิดีโอของผู้เยาว์ที่ทำขึ้นจากเอไอมาตั้งแต่เดือน มี.ค. ก็ตาม

อย่างไรก็ตาม การสอบสวนของบีบีซีได้พบหลักฐานที่ชี้ว่ามีความสับสนเกิดขึ้นในหมู่พนักงานของติ๊กตอกเองในเรื่องเกี่ยวกับนโยบายที่เปลี่ยนแปลงไปนี้

หนึ่งในผู้ตรวจสอบเนื้อหาของติ๊กตอก ระบุกับบีบีซีว่า หลังจากมีการประกาศห้ามเผยแพร่วิดีโอผู้เยาว์ที่สร้างขึ้นจากเอไอผ่านไป 4 เดือน ทางบริษัทติ๊กตอกยังไม่ได้แจ้งการเปลี่ยนแปลงกฎดังกล่าวกับเขาแต่อย่างใด

ทั้งนี้ วิดีโอของเหยื่อฆาตกรรมที่สร้างขึ้นจากเอไอบางคลิปอยู่บนติ๊กตอกเป็นเวลาหลายเดือน และบางคลิปก็มียอดคนดูหลายล้านวิว

กลุ่มญาติของเด็กที่เสียชีวิตซึ่งยังคงโศกเศร้าและอาศัยอยู่ในหลายประเทศ ได้ออกมาพูดถึงวิดีโอเอไอที่เปิดเผยการตายของลูกหลาน หลังจากวิดีโอเหล่านั้นเผยแพร่อยู่บนโลกออนไลน์

บารอนเนส บีบัน คิดรอน สมาชิกอิสระของสภาสูงแห่งสหราชอาณาจักร กล่าวว่า วิดีโอเอไอเหล่านี้อาจรบกวนจิตใจของญาติผู้สูญเสีย เพราะเป็นการจำลองเหตุการณ์การเสียชีวิตราวกับเด็กที่ตายไป เป็นผู้มาเล่าเรื่องการตายของพวกเขาเอง

"ถ้าคุณเป็นคนที่รู้จักกับเด็กคนนั้น โดยเฉพาะคนเป็นพ่อแม่หรือครอบครัว มันคือการถูกทำร้ายจิตใจ" เธอกล่าว

"เลวร้ายยิ่งกว่าถูกต่อยด้วยหมัดเสยที่หนักที่สุด"

อเมลี เลอมิเยอซ์ หญิงชาวแคนาดา เป็นญาติของเด็กที่เสียชีวิตรายแรก ๆ ที่ออกมาพูดเรื่องวิดีโอจากเอไอ

เมื่อเดือน ก.ค. ปี 2020 เลอมิเยอซ์ สูญเสียลูกสาว 2 คน ได้แก่ โรมี วัย 6 ขวบ และนอราห์วัย 11 ขวบ หลังจากสามีที่แยกกันอยู่ลงมือฆาตกรรมลูกสาวทั้งสองคน ก่อนฆ่าตัวตายตาม

ต่อมาในเดือน เม.ย. ปีนี้ เธอต้องตกใจกลัวอย่างมาก เมื่อมีคนส่งวิดีโอจากติ๊กตอกมาให้ดู ซึ่งเป็นวิดีโอใบหน้าของนอราห์ ลูกสาวของเธอ ที่สร้างขึ้นจากเอไอ กำลังเล่าถึงเหตุการณ์ที่ถูกฆ่า

"มันเลวร้ายยิ่งกว่าถูกต่อยด้วยหมัดเสยที่หนักที่สุดเท่าที่คุณจะนึกออก" เลอมิเยอซ์ กล่าว "ฉันไม่สามารถดูมันได้จนจบ น้องชายของฉันก็เหมือนกัน เขาตะโกนไปที่วิดีโอและบอกให้ปิดมัน"

เลอมิเยอซ์ กล่าวด้วยว่า เธอกังวลว่าหลานชายและหลานสาวซึ่งเป็นลูกพี่ลูกน้องกับลูกที่ตายไป จะบังเอิญไปเจอวิดีโอเหล่านี้ ระหว่างที่กำลังไถติ๊กตอก

แม้มีคนจำนวนมากกดรีพอร์ทวิดีโอเหล่านี้ไปที่ติ๊กตอก แต่ก็พบว่ามันยังมีอยู่บนโลกออนไลน์ อย่างไรก็ดี หลังจากที่หญิงชาวแคนาดารายนี้ได้ออกสื่อเพื่อเล่าความวิตกกังวลของเธอในหลายช่องทาง บัญชีผู้ใช้งานติ๊กตอกที่ไม่เปิดเผยตัวตนดังกล่าว ก็ถูกลบออกไป

หญิงรายนี้บอกว่า เธอไม่สามารถสืบหาได้ว่าคนทำวิดีโอเหล่านี้คือใคร แต่รู้สึกหวาดกลัวกับการกระทำของคนที่ทำวิดีโอเหล่านี้ขึ้นมา

"มันตกใจอย่างไม่น่าเชื่อว่าจะมีใครทำเรื่องที่ก่อกวนนี้ และเป็นสิ่งที่ทำให้เรารู้สึกไม่สมบูรณ์ไปตลอดชีวิตที่เหลืออยู่" เธอกล่าว "ทั้งหมดที่พวกเขาต้องการคือยอดวิว ยอดไลก์ แชร์ และการมีคนมาคอมเมนต์ โดยส่วนตัวแล้ว ฉันให้อภัยไม่ได้กับเรื่องนี้"

เทคโนโลยีใหม่

การสร้างวิดีโอจากเอไอในลักษณะนี้เป็นไปได้มากขึ้นในปัจจุบัน เพราะผู้คนสามารถเข้าถึงซอฟต์แวร์ของเอไอทางออนไลน์ได้มากขึ้น

ความก้าวหน้าขณะนี้ ทำให้การสร้างและผลิตภาพเคลื่อนไหวของมนุษย์ทำได้ง่ายขึ้น และสามารถบรรจุบทพูดเข้าไปได้ด้วย จากการประมวลเสียงผ่านคอมพิวเตอร์

ใบหน้าของเหยื่อจากเหตุฆาตกรรมในวิดีโอเอไอบางชิ้นอาจดูไม่คล้ายกับใบหน้าจริงมากนัก แต่บางส่วนก็ใช้เอไอประมวลผลมาจากภาพถ่ายจริงของเหยื่อ

ส่วนผู้ที่ทำวิดีโอลักษณะนี้ออกมา มักจะไม่เปิดเผยตัวตนบนบัญชีผู้ใช้งาน แต่บีบีซีได้พบกับผู้ทำคอนเทนท์วิดีโอเอไอรายหนึ่ง ซึ่งเป็นนักศึกษาอยู่ที่นครลอนดอน ชื่อว่า ริทัล เจ้าของช่องยูทิวบ์ ซึ่งผลิตคลิปวิดีโอเล่าเรื่องแบบเร็ว คล้าย ๆ กับคลิปที่อยู่บนติ๊กตอก

"ผมมีผู้ติดตามนับพัน ๆ คนจากการโพสต์วิดีโอเล่าเรื่องโดยใช้เอไอเท่านั้น" เขากล่าว "ผมได้ผู้ติดตามมา 47,000 คน ภายในไม่ถึง 3 สัปดาห์"

ริทัล ปฏิเสธตอบคำถามเกี่ยวกับวิดีโอที่สร้างจากเอไอที่บีบีซีสอบถาม และล่าสุด บัญชีติ๊กตอกของเขาได้ถูกลบออกไปแล้ว

โดยทั่วไปแล้ว วิดีโอบนติ๊กตอกจะดึงความสนใจของคนดูได้ในเพียงไม่กี่วินาที และคนดูก็จะไถหน้าจอต่อไปเรื่อย ๆ ดังนั้น คนทำคอนเทนท์บนติ๊กตอกอย่างริทัล จึงมุ่งผลิตวิดีโอเกี่ยวกับเรื่องราวที่สุดขั้วหรือเรื่องราวของคนที่โด่งดัง

เรื่องราวของเด็กบางคนยังถูกผลิตซ้ำในวิดีโอหลายชิ้นซึ่งเผยแพร่เป็นภาษาต่าง ๆ หลายภาษา เช่น โปรตุเกส สเปน ฝรั่งเศส เยอรมนี อิตาลี และโปแลนด์

ภายในเวลา 2 เดือน บีบีซีพบว่ามีคลิปวิดีโอที่สร้างจากเอไอของเจมส์ บัลเกอร์ เด็กชายวัย 2 ขวบ ซึ่งถูกฆาตกรรมโดยเด็กที่โตกว่า 2 คน ในเมืองเมอร์ซีย์ไซด์ ประเทศอังกฤษ เมื่อปี 1993 เผยแพร่บนติ๊กตอกหลาย ๆ คลิปต่างกันไป จำนวน 170 คลิป

ติ๊กตอก อธิบายว่าอย่างไร

ปรากฏการณ์บนติ๊กตอก กลายเป็นพาดหัวข่าวในสหราชอาณาจักรเมื่อเดือน ก.ค. ที่ผ่านมา หลังจาก เดนิส เฟอร์กัส มารดาของเด็กชายเจมส์ บัลเกอร์ เหยื่อฆาตกรรมวัย 2 ขวบ ให้สัมภาษณ์กับหนังสือพิมพ์ฉบับหนึ่งว่า เรื่องนี้ "เกินกว่าคำว่าวิปริต"

ด้านติ๊กตอกให้คำมั่นว่าจะลบวิดีโอเหล่านี้ออกไปจากแพลตฟอร์ม และออกแถลงการณ์ระบุว่า "ไม่มีพื้นที่สำหรับเนื้อหาที่ก่อกวนลักษณะนี้บนแพลตฟอร์มของเรา และจะยังคงลบเนื้อหาในลักษณะนี้ต่อไปเมื่อพบเนื้อหาดังกล่าว"

วิดีโอของเด็กชายเจมส์ บัลเกอร์ ที่ถูกลบออกไปยังรวมถึงวิดีโอในภาษาเวียดนาม 2 คลิป ที่มียอดคนดูรวมกัน 4 ล้านวิว

บีบีซีได้พูดคุยกับผู้ตรวจสอบเนื้อหาบนติ๊กตอกในเวียดนาม ซึ่งยินยอมให้สัมภาษณ์โดยไม่เปิดเผยตัวตน เขาระบุว่า หลังจากลบวิดีโอออกไป 2 สัปดาห์ บริษัทยังไม่ได้แจ้งเขาอย่างเป็นทางการว่า วิดีโอในลักษณะนี้ต้องถูกสั่งระงับการเผยแพร่

เขาเปิดเผยกับบีบีซีด้วยว่า เขาเชื่อว่าวิดีโอในลักษณะนี้ได้รับอนุญาตให้เผยแพร่ได้ภายใต้กฎของติ๊กตอก ซึ่งอนุญาตให้ผู้รอดชีวิตจากเหตุถูกล่วงละเมิดในกรณีต่าง ๆ บอกเล่าเรื่องราวของตัวเองบนแพลตฟอร์มได้

ดังนั้น นี่หมายความว่าการบังคับใช้กฎระเบียบของติ๊กตอก ยังมีความสับสนในนโยบายของตัวเองหรือไม่ ซึ่งประเด็นนี้ติ๊กตอกไม่ได้ตอบคำถามอย่างชัดเจนกับบีบีซี

อย่างไรก็ตาม ติ๊กตอกปฏิเสธคำให้สัมภาษณ์ของพนักงานตัวเองในเวียดนาม ที่ระบุว่าติ๊กตอกอนุญาตให้มีการเผยแพร่วิดีโอที่บอกเล่าประสบการณ์ของเหยื่อ เนื่องจากเนื้อหาเหล่านั้นใช้เอไอสร้างขึ้นมาด้วยการประมวลผลจากภาพถ่ายของเด็กที่เสียชีวิต ไม่ใช่การบอกเล่าประสบการณ์จากผู้รอดชีวิตจริง ๆ

จนถึงขณะนี้ ยังคงสามารถพบวิดีโอในลักษณะนี้ได้ไม่ยากบนแอปฯ ติ๊กตอก แต่ติ๊กตอกก็ระบุด้วยว่า บริษัท "เปิดกว้าง" เกี่ยวกับการควบคุมเนื้อหาที่จะไม่ "ตามจับ" ทุกสิ่งทุกอย่างบนแพลตฟอร์ม

รายงานเพิ่มเติมโดย เทิง เล บีบีซี แผนกภาษาเวียดนาม