Deepfake: "พวกเขาตัดต่อหน้าฉันไปใส่วิดีโอโป๊"

ลองจินตนาการว่าหากใบหน้าของคุณถูกตัดต่อไปใส่ในคลิปวีดีโอโป๊โดยที่คุณไม่ยินยอมแล้วถูกแชร์บนอินเทอร์เน็ต คุณจะรู้สึกอย่างไร ผู้หญิงคนหนึ่งเปิดเผยความน่ากลัวที่เกิดขึ้นกับเธอ

ในเย็นวันหนึ่ง ขณะที่เธอเลื่อนดูหน้าฟีดทวิตเตอร์ของเธอ เคท ไอแซคส์ สะดุดกับการแจ้งเตือนว่ามีวีดีโอที่น่ารบกวนจิตใจขึ้นมาท่ามกลางทวิตอื่น ๆ

“ความตื่นตระหนกครั้งนี้ทำให้ฉันแทบคลั่ง” เคทเปิดเผยความรู้สึกต่อหน้าสาธารณชนเป็นครั้งแรกเกี่ยวกับสิ่งที่เกิดขึ้น "มีคนเอาหน้าฉันไปใส่ในวิดีโอโป๊ และทำให้ดูเหมือนว่าเป็นฉัน" เคทโดน "ดีปเฟค’ (deepfake) นั่นก็คือมีคนใช้ปัญญาประดิษฐ์ (AI) เพื่อตัดต่อใบหน้าของเธอแบบดิจิทัลไปบนคนอื่น ซึ่งอาศัยหลักการ 'Deep Learning' ซึ่งในกรณีนี้คือเคทถูกเอาใบหน้าของเธอไปตัดต่อกับ (non-consensual porn) เธอถูกแท็กบนวิดีโอหนังโป๊ที่อยู่บนทวิตเตอร์กับใบหน้าของถูกดีปเฟคบนนักแสดงเผยให้เห็นเสมือนเธอกำลังมีเพศสัมพันธ์ โดยใช้ฟุตเทจจากการสัมภาษณ์ทางทีวีที่เธอให้ไว้ขณะรณรงค์ถึงแคมเปญนี้ 

"จิตใจของฉันแย่ไปเลย ฉันคิดอะไรไม่ออกเลย" เธอกล่าว "ฉันจำได้ถึงความรู้สึกที่ว่าวิดีโอนี้จะไปโผล่ได้ในทุกที่ มันน่ากลัวมากจริง ๆ"

ที่ผ่านมานั้น ใบหน้าของดารา นักแสดง รวมทั้งนักการเมือง คนที่มีชื่อเสียงมักเป็นเป้าหมายที่ถูกนำใบหน้าไปใช้เทคโนโลยีดีปเฟค แต่วีดีโอที่ถูกนำไปตัดต่อก็ไม่ใช่หนังโป๊เสมอไป หลายคลิปวีดีโอถูกสร้างขึ้นเพื่อความตลกขบขัน แต่ในช่วงหลายปีที่ผ่านมาก็มีการเปลี่ยนแปลง บริษัท Deeptrace ซึ่งเป็นบริษัทรักษาความปลอดภัยในโลกไซเบอร์ เผยว่า 96% ของการดีปเฟคนั้นทั้งหมดเป็นคลิปอนาจารที่ไม่ได้รับความยินยอม เช่นเดียวกับการปล่อยหนังโป๊เพื่อแก้แค้น (revenge porn) คลิปลามกที่ผ่านการดีปเฟค คือสิ่งที่เรียกว่าการล่วงละเมิดทางเพศด้วยภาพ (image-based sexual abuse) ซึ่งเป็นศัพท์เฉพาะที่ครอบคลุมการถ่าย จัดทำ และ/หรือแชร์รูปภาพส่วนตัวโดยไม่ได้รับความยินยอมจากเจ้าตัวก่อน

ในสกอตแลนด์นั้นการแชร์ภาพหรือวิดีโอที่แสดงบุคคลอื่นในสถานการณ์ที่เป็นส่วนตัวโดยไม่ได้รับความยินยอมก่อนถือเป็นความผิด แต่ในพื้นที่อื่น ๆ ของสหราชอาณาจักร การกระทำนี้จะถือเป็นความผิด หากสามารถพิสูจน์ได้ว่าการกระทำดังกล่าวมีจุดมุ่งหมายเพื่อทำให้เหยื่อได้รับความเดือดร้อน ซึ่งเป็นช่องโหว่ทางกฎหมายซึ่งทำให้คนสร้างวีดีโอเหล่านั้นไม่ต้องเผชิญกับผลทางกฎหมาย

ทางรัฐบาลมีแผนสำหรับร่างกฎหมายความปลอดภัยออนไลน์ทั่วทั้งสหราชอาณาจักรที่คนรอคอยมานาน แต่ถูกแก้ไขอย่างไม่รู้จบและถูกเก็บขึ้นหิ้งซ้ำแล้วซ้ำเล่า กฎหมายฉบับใหม่จะสามารถให้อำนาจแก่ Ofcom ซึ่งเป็นองค์กรของรัฐด้านกำกับดูแลสื่อในสหราชอาณาจักร ในการดำเนินคดีกับเว็บไซต์ใด ๆ ที่ถือว่าเป็นอันตรายต่อผู้ใช้ในสหราชอาณาจักร ไม่ว่าเว็บไซต์นั้นจะอยู่ที่ไหนบนโลก แต่อย่างไรก็ตาม เมื่อต้นเดือนนี้ มิเชล โดเนแลน รัฐมนตรีกระทรวงวัฒนธรรมกล่าวว่าเธอและทีมของเธอ "กำลังดำเนินการอย่างเต็มที่" เพื่อให้แน่ใจว่ากฎหมายนี้จะผ่านและได้ถูกนำออกมาใช้งานได้จริง

เคท ไอแซคส์ อายุ 30 ปี เป็นผู้ก่อตั้งแคมเปญ #NotYourPorn (#ไม่ใช่หนังโป๊ของคุณ) ในปี 2019 และหนึ่งปีหลังจากการเริ่มความคลื่อนไหวทางสังคมของเธอมีส่วนทำให้เว็บไซต์ความบันเทิงสำหรับผู้ใหญ่อย่าง Pornhub (พอร์นฮับ) ต้องลบวิดีโอทั้งหมดที่ถูกอัปโหลดไปยังไซต์โดยผู้ใช้ที่ไม่ได้รับการยืนยัน ซึ่งประเมินแล้วเป็นคลิปส่วนใหญ่ที่อยู่บนเว็บไซต์

เคทคิดว่าใครก็ตามที่อยู่เบื้องหลังวีดีโอดีปเฟคของเธอได้รับความรำคาญจากการรณรงค์ของเธอ และมองว่าเธอได้ "เอาหนังโป๊พวกเขาไป"

แต่เธอไม่รู้ว่าคนๆ นั้นที่ทำเป็นใคร หรือใครอาจได้เห็นวิดีโอนี้ และในขณะที่เธอสามารถเห็นได้ว่าใบหน้าของเธอถูกซ้อนอยู่บนภาพของนักแสดงหนังโป๊ แต่วิดีโอดังกล่าวมันก็ดูน่าเชื่อถือมากพอจนเธอกังวลว่าคนอื่นจะไม่เห็นการคลิปปลอมที่ถูกตัดต่อขึ้น

"มันเป็นการละเมิด - ตัวตนของฉันถูกใช้ไปในทางที่ฉันไม่ยินยอม"

ในส่วนคอมเมนต์ใต้วิดีโอนั้น ผู้คนเริ่มแสดงความคิดเห็นที่ไม่เหมาะสม โดยบอกว่าพวกเขาจะตามเคทกลับบ้าน ข่มขืนเธอ ถ่ายทำการเหตุการณ์ และเผยแพร่คลิปบนอินเทอร์เน็ต

"คุณจะเริ่มคิดถึงครอบครัวของคุณ [หากเจอเหตุการณ์แบบนี้]" เธอบอกโดยพยายามกลั้นน้ำตาไว้ "ว่าพวกเขาจะรู้สึกอย่างไรหากพวกเขาเห็นคลิปนี้" ภัยคุกคามทวีรุนแรงขึ้นเมื่อทั้งข้อมูลของที่อยู่บ้านและที่ทำงานของเคท ถูกเผยแพร่ด้านล่างวิดีโอ - วิธีปฏิบัติที่เรียกว่า ‘ด็อกซิง’ (doxing) หรือการเปิดเผยข้อมูลระบุตัวตนของบุคคลในโลกออนไลน์ เช่น ชื่อนามสกุลจริง ที่อยู่บ้าน หรือข้อมูลส่วนบุคคลอื่นๆ ซึ่งข้อมูลดังกล่าวจะเผยแพร่สู่สาธารณะโดยไม่ได้รับอนุญาตจากเหยื่อ

"ฉันกลายเป็นคนหวาดระแวงอย่างหนักว่า ใครบ้างที่รู้ที่อยู่ของฉัน หรือคนที่ทำเป็นคนใกล้ตัวที่รู้จักฉันหรือไม่’

"ฉันกำลังคิดว่า ฉันมีปัญหาจริงๆ นี่ไม่ใช่แค่สิ่งที่คนในอินเทอร์เน็ตพูดจาไร้สาระกัน แต่นี่มันเป็นภัยคุกคามที่อันตรายจริง ๆ'"

จากประสบการณ์ของเธอในการช่วยเหลือผู้อื่นในสถานการณ์ที่คล้ายคลึงกัน เคทรู้ดีว่าต้องทำอย่างไรหากคนอื่นตกเป็นเหยื่อ แต่เธอกลับทำตัวไม่ถูกเมื่อมันเกิดขึ้นกับตัวเธอเอง 

"ฉันไม่ได้ทำตามคำแนะนำของฉันเอง" เธอกล่าว "ในสถานการณ์นี้มี เคท ที่เป็นนักรณรงค์อันเข้มแข็งและไม่แสดงจุดอ่อนใด ๆ ให้ผู้อื่นเห็น และก็มีฉัน ซึ่งเป็นเคทที่เต็มไปด้วยความรู้สึกกลัว"

เพื่อนร่วมงานช่วยรายงานวิดีโอ ความคิดเห็นที่ชั่วร้าย และการที่เคทถูก ‘ด็อกซิง’ ไปที่ทวิตเตอร์ และทั้งหมดถูกลบไปออกจากแพลตฟอร์ม แต่เมื่อคลิปดีปเฟคใด ๆ ที่ได้รับการเผยแพร่และแชร์ทางออนไลน์แล้ว มันก็ยากที่จะลบออกจากโลกออนไลน์ได้ทั้งหมด

"ฉันแค่ต้องการเอาวิดีโอนั้นออกจากอินเทอร์เน็ต" เคทกล่าว "แต่ฉันทำอะไรไม่ได้เลย"

บนโลกออนไลน์มีตลาดซื้อขายแลกเปลี่ยนคลิป deepfake บนฟอรัมออนไลน์ ผู้คนโพสต์คำขอให้สร้างวิดีโอ ‘deepfake’ เกี่ยวกับภรรยา เพื่อนบ้าน และเพื่อนร่วมงาน แม้กระทั่งคนที่อาจคิดไม่ถึงอย่าง แม่ ลูกสาว และลูกพี่ลูกน้องของพวกเขา

คอนเทนต์ครีเอเตอร์จะตอบกลับด้วยคำแนะนำทีละขั้นตอน ให้แหล่งข้อมูล ส่วนประกอบที่พวกเขาต้องการ คำแนะนำเกี่ยวกับมุมการถ่ายทำที่ดีที่สุด และราคาสำหรับผลงานนั้น ๆ

กอร์เคม (Gorkem) คอนเทนต์ครีเอเตอร์วีดีโอดีปเฟค ซึ่งยู่ทางตะวันออกเฉียงใต้ของอังกฤษ ได้พูดคุยกับบีบีซีแบบไม่เปิดเผยตัวตนว่าเขาเริ่มสร้างทำวีดีโอโดยใช้ใบหน้าคนดังเพื่อความพึงพอใจของเขาเอง โดยเขาบอกว่าคลิปแบบนี้อนุญาตให้ผู้คน "ตระหนักถึงจินตนาการของพวกเขาในแบบที่ไม่สามารถเป็นความจริงได้"

ต่อมา Gorkem เปลี่ยนเป้าหมายไปตัดต่อใบหน้าของผู้หญิงที่เขาชอบ รวมทั้งเพื่อนร่วมงานที่ทำงานประจำซึ่งเขาก็แทบไม่รู้จักพวกเธอ

"[พนักงาน]คนหนึ่งแต่งงานแล้ว อีกคนมีแฟนอยู่แล้ว" เขากล่าว "การเดินเข้าไปในที่ทำงานหลังจากที่ตัดต่อดีปเฟคของผู้หญิงเหล่านี้ไป มันเป็นความรู้สึกที่แปลก แต่ผมก็ควบคุมอารมณ์ตัวเองได้ และผมทำเหมือนไม่มีอะไรผิดปรกติ จะได้ไม่มีใครสงสัยเลย"

เมื่อเขาพบว่าสามารถสร้างรายได้จากสิ่งที่เขาเรียกว่าเป็น 'งานอดิเรก' ของเขาได้ กอร์เคมจึงเริ่มรับจ้างทำวีดีโอดีปเฟคตัดต่อใบหน้าของคนอื่น การรวบรวมฟุตเทจจากโปรไฟล์โซเชียลมีเดียของผู้หญิงทำให้เขามีส่วนประกอบมากมายสำหรับทำวีดีโอ เขาบอกว่าเขาเพิ่งลองทำดีปเฟคของผู้หญิงคนหนึ่งจากบันทึกวีดีโอการสนทนาผ่านโปรแกรมซูม (Zoom)

"แค่มีเพียงวีดีโอจำนวนหนึ่ง คลิปที่เขามองตรงมาที่กล้อง ถือเป็นวัตถุดิบชั้นดีสำหรับผม จากนั้นอัลกอริธึมก็สามารถประมวลผลจากฟุตเทจที่มี และสร้างใบหน้าตัดต่อลงไปในคลิปวีดีโอที่ต้องการได้"

เขารู้ว่า "ผู้หญิงบางคน" อาจได้รับอันตรายทางจิตใจจากการคลิปดีปเฟค แต่เขาก็ดูเหมือนไม่แยแสเกี่ยวกับผลกระทบที่อาจเกิดขึ้นจากการที่เขาทำให้ผู้หญิงมีมลทินจากการตกเป็นเหยื่อ

"พวกเขาก็สามารถพูดได้ว่า 'นี่ไม่ใช่ฉัน วิดีโอนี่มันถูกทำขึ้นมา' พวกผู้หญิงควรจะตระหนักแบบนี้แล้วก็ใช้ชีวิตไปตามปกติ

"ต่อให้มองจากมุมของศีลธรรม ผมไม่คิดว่าจะมีอะไรหยุดผมได้" เขากล่าว "ตราบใดที่ผมยังได้เงินค่าจ้างจากการทำสิ่งนี้ ผมก็จะทำต่อไป แบบไม่คิดมากอะไร"

มาตรฐานของการตัดต่อทำดีปเฟคอาจแตกต่างกันอย่างมาก เพราะขึ้นอยู่กับทั้งความเชี่ยวชาญของผู้สร้างวิดีโอและความซับซ้อนของเทคโนโลยีที่ใช้

แต่ชายผู้อยู่เบื้องหลังเว็บไซต์ลามกที่มีคลิปดีปเฟคที่ใหญ่ที่สุดยอมรับว่ามันไม่ง่ายอีกต่อไปที่จะรู้อย่างแน่ชัดว่าคุณกำลังดูคลิปจริงหรือคลิปที่ผ่านการตัดต่อมาหรือไม่ เว็บไซต์ของเขาดึงดูดผู้เข้าชมประมาณ 13 ล้านคนต่อเดือนและโฮสต์การเข้าชมวิดีโอประมาณ 20,000 รายการในเวลาพร้อมกัน เขาอาศัยอยู่ในสหรัฐอเมริกาและไม่เคยให้สัมภาษณ์กับสื่อ แต่เขาตกลงที่จะพูดคุยกับบีบีซีโดยไม่เปิดเผยตัวตน

เขากล่าวว่าการแกล้งผู้หญิงคน 'ธรรมดาทั่วไป' ถือเป็นการล้ำเส้นสำหรับเขา แต่ในมุมมองของเขา การทำเว็บไซต์ที่ครอบครองวิดีโอที่มีเนื้อหาลามกอนาจารของคนดัง ผู้มีอิทธิพลในโซเชียลมีเดีย และนักการเมือง เป็นเรื่องที่สมเหตุสมผล

"พวกเขาคุ้นเคยกับสื่อเชิงลบ เรื่องราวของพวกเขาอยู่ในสื่อกระแสหลัก พวกเขาแตกต่างจากประชาชนทั่วไป" เขากล่าว

"วิธีที่ผมเห็น พวกเขาสามารถจัดการกับมันได้ในแบบที่แตกต่างออกไป พวกเขาสามารถปัดมันออกไปได้ ผมไม่รู้สึกว่าจำเป็นต้องได้รับความยินยอมจากพวกเขาก่อน เพราะมันเป็นแค่จินตนาการ มันไม่ใช่ของจริง"

หากถามเขาว่าคิดว่าสิ่งที่เขาทำผิดหรือเปล่า ส่วนหนึ่งของเขากำลัง "ปฏิเสธผลกระทบต่อผู้หญิง" ซึ่งเขายอมรับ และที่น่าแปลกใจก็คือเขาเผยว่าคู่สมรสของเขาก็ไม่รู้ว่าเขาทำอาชีพอะไร

"ผมไม่ได้บอกภรรยาของผม ผมกลัวว่ามันจะส่งผลกระทบต่อเธอ"

ก่อนหน้านี้ โปรแกรมซอฟต์แวร์การทำดีปเฟค ไม่ได้ใช้งานได้ง่าย และคนทั่วไปทีไม่มีทักษะมากพอที่จะใช้งานมันเป็น แต่ในปัจจุบันนี้ ใครก็ตามที่อายุเกิน 12 ปีก็สามารถดาวน์โหลดแอปพลิเคชั่นนับสิบอย่างถูกกฎหมายและทำการตัดต่อดีปเฟค ที่ดูน่าเชื่อได้ด้วยการคลิกเพียงไม่กี่ครั้ง

สำหรับเคทนั้นสิ่งนี้น่าเป็นห่วงและ "น่ากลัวจริงๆ"

"มันไม่ได้ เป็นดาร์กเว็บ (Dark Web) แต่มันอยู่ในแอปสโตร์ (App Store) ตรงหน้าเราเลย"

เธอยังกลัวว่าร่างกฎหมายความปลอดภัยออนไลน์ จะตามไม่ทันเทคโนโลยี ตอนที่การร่างกฎหมายครั้งแรกเมื่อสามปีที่แล้ว การสร้าง ดีปเฟค ถูกมองว่าเป็นทักษะระดับมืออาชีพที่คนทำจะต้องได้รับการฝึกอบรม ไม่ใช่ใครก็ทำได้ด้วยแอปที่ดาวน์โหลดมาเท่านั้น

"เราตามหลังอยู่หลายปี และเนื้อหาของ [ร่างกฎหมาย] ก็ล้าสมัย และยังไม่ครอบคลุมอะไรอีกมาก" เธอกล่าว

แต่สำหรับครีเอเตอร์อย่าง Gorkem หากการทำดีปเฟค กลายเป็นอาชญากรรมก็จะเปลี่ยนแปลงชีวิตของเขา "ถ้าผมสามารถถูกสืบหาได้ทางออนไลน์ ผมก็จะหยุดอยู่ทันทีและอาจหางานอดิเรกอื่นทำ" เขากล่าว

การถูกตัดต่อดีปเฟค และนำข้อมูลส่วนตัวมาเปิดเผยโดยที่เธอไม่ยินยอมนั้นส่งผลเสียต่อสุขภาพของเคท รวมถึงความสามารถที่เชื่อใจคนอื่น เธอเชื่อว่าผู้ที่อยู่เบื้องหลังการกระทำนี้ไม่เพียงแต่พยายามข่มขู่และทำให้เเธอเสียเกียรติเท่านั้น แต่ยังต้องการปิดปากเธอด้วย มีอยู่ช่วงเวลาหนึ่งที่เธอเอาตัวเองออกจากการรณรงค์โดยตั้งคำถามกับตัวเองว่ายังควรจะพูดถึงเรื่องความเกลียดชังผู้หญิง (misogyny) ต่อไปได้หรือไม่

แต่ตอนนี้เธอเหมือนถูกจุดไฟขึ้นมาอีกครั้ง เธอตระหนักว่าเธอใส่ใจกับสิ่งนี้เกินกว่าที่จะเดินจากไปได้

"ฉันไม่ปล่อยให้พวกเขาชนะได้"

การดีปเฟคสามารถใช้เพื่อควบคุมผู้หญิงได้ และบริษัทเทคโนโลยี ซึ่งรวมถึงบริษัทที่สร้างแอปที่สามารถสลับหน้ากันได้ (face-swapping) ควรได้รับการสนับสนุนให้วางระบบป้องกันไว้ในตัวโปรแกรมได้

"ทุกแอปควรตรวจจับเนื้อหาเกี่ยวกับเรื่องทางเพศได้"

"หากบริษัทต่างๆ ไม่ได้ทุ่มเงิน ทรัพยากร และเวลาเพื่อให้แน่ใจว่าแอปของตนจะไม่ถูกใช้เป็นสถานที่สร้างเนื้อหาการล่วงละเมิดทางเพศ พวกเขาจะจงใจขาดความรับผิดชอบ พวกเขาน่าถูกประณาม" หมายเหตุ: เข้าใจว่าทั้ง Gorkem และผู้ที่อยู่เบื้องหลังเว็บไซต์ deepfake ที่ใหญ่ที่สุด ที่ถูกสัมภาษณ์นั้น ไม่มีส่วนเกี่ยวข้องในการทำคลิป deepfake ที่มีใบหน้าของเคท ไอแซคส์

หากคุณถูกเอาใบหน้าไปดีฟเฟค (deepfake) จะทำอย่างไร

ในกรณีที่คุณอยู่ในสหราชอาณาจักร

ที่มา: แคมเปญ #NotYourPorn

ในกรณีที่คุณอยู่ที่ไทย

มาตรา 16 พ.ร.บ.คอมพิวเตอร์ พ.ศ. 2560 ระบุว่า ผู้ใดนำเข้าสู่ระบบคอมพิวเตอร์ที่ประชาชนทั่วไปอาจเข้าถึงได้ซึ่งข้อมูลคอมพิวเตอร์ที่ปรากฏเป็นภาพของผู้อื่น และภาพนั้นเป็นภาพที่เกิดจากการสร้างขึ้น ตัดต่อ เติม หรือดัดแปลงด้วยวิธีการทางอิเล็กทรอนิกส์หรือวิธีการอื่นใด โดยประการที่น่าจะทำให้ผู้อื่นนั้นเสียชื่อเสียง ถูกดูหมิ่น ถูกเกลียดชัง หรือได้รับความอับอาย ซึ่งต้องระวางโทษ จำคุกไม่เกิน 3 ปี ปรับไม่เกิน 200,000 บาท