ฉันสร้าง 'คุณน้า AI' คนนี้ขึ้นมาเพื่อผู้หญิง หลังประสบเหตุโศกนาฏกรรมในครอบครัว

ญาติของลีโอนอรา ทิมา นักพัฒนาในแอฟริกาใต้ ถูกฆาตกรรมอย่างโหดเหี้ยม เหตุการณ์ดังกล่าวสร้างแรงบันดาลใจให้เธอสร้างแพลตฟอร์มดิจิทัลเพื่อช่วยเหลือผู้คนโดยเฉพาะส่วนใหญ่เป็นผู้หญิงที่เผชิญกับความรุนแรงให้ได้พูดคุยและติดตามพฤติกรรมการถูกล่วงละเมิดเพื่อนำไปสู่การให้การสนับสนุน และช่วยให้ผู้ใช้สามารถรวบรวมหลักฐานที่อาจนำไปใช้ในกระบวนการทางกฎหมายกับผู้กระทำความผิดในภายหลัง

เหตุการณ์ตอนนั้นเกิดขึ้นในปี 2020 ขณะนั้นญาติของลีโอนอรา ซึ่งมีอายุเพียง 19 ปี และกำลังตั้งครรภ์ได้ 9 เดือน ก่อนถูกพบเป็นศพริมทางหลวงใกล้เมืองเคปทาวน์ โดยไม่มีผู้ใดถูกจับกุมในคดีนี้

ลีโอนอราเปิดเผยว่า "ฉันทำงานในภาคการพัฒนา[สังคม] ดังนั้นฉันเคยเห็นความรุนแรงมาก่อน" เธอยังกล่าวต่อว่า "แต่สิ่งที่ทำให้ฉันสะเทือนใจคือการที่สังคมแอฟริกาใต้มองว่าการเสียชีวิตอย่างรุนแรงของญาติฉันเป็นเรื่องปกติ"

"การเสียชีวิตของเธอไม่เป็นข่าวในสื่อใด ๆ เพราะจำนวนคดีลักษณะนี้ในประเทศเรามีมากจนไม่ถือว่าเป็นข่าวเสียด้วยซ้ำ"

ผู้ก่อเหตุไม่เคยถูกจับ นอกจากนี้สังคมยังเงียบต่อความรุนแรงที่เกิดขึ้นกับผู้หญิง ทำให้ลีโอนอราตัดสินใจพัฒนาแอปพลิเคชันที่ชื่อว่า "Gender Rights in Tech" หรือ Grit

ทีมงานของลีโอนอราได้เดินทางไปยังชุมชนต่าง ๆ ในเขตเมืองแออัดรอบเมืองเคปทาวน์ เพื่อพูดคุยกับคนในชุมชนว่าเทคโนโลยีจะมีส่วนเข้าไปในชีวิตของพวกเขาได้อย่างไรบ้าง

พวกเขาได้สอบถามผู้คนมากกว่า 800 คนเกี่ยวกับการใช้โทรศัพท์มือถือและโซเชียลมีเดียในการพูดถึงความรุนแรง และอุปสรรคที่ขัดขวางการขอความช่วยเหลือ

ลีโอนอรา ผู้ก่อตั้งแอปพลิเคชัน Grit เปิดเผยว่า ผู้คนจำนวนมากต้องการเล่าประสบการณ์การถูกล่วงละเมิดของตนเองแต่ยังมีอุปสรรค โดยบอกว่า "พวกเขาระแวงต่อช่องทางแบบดั้งเดิม เช่น การแจ้งตำรวจ"

เธอกล่าวต่อไปว่า "ผู้หญิงบางคนถึงขั้นโพสต์เรื่องราวลงในเฟซบุ๊กและแท็กผู้กระทำความผิด แต่กลับถูกฟ้องหมิ่นประมาท"

ลีโอนอรามองว่า ระบบที่มีอยู่ในปัจจุบันทำให้เหยื่อต้องเผชิญกับความล้มเหลวถึงสองครั้ง คือการไม่สามารถป้องกันความรุนแรงได้ และการไม่สามารถเปล่งเสียงของตนเองได้อย่างปลอดภัย

ทีมงานของลีโอนอราได้เริ่มพัฒนาแอปพลิเคชัน Grit ซึ่งเป็นเครื่องมือดิจิทัลที่ช่วยให้ผู้ใช้สามารถบันทึก รายงาน และรับการตอบสนองต่อเหตุการณ์ล่วงละเมิดได้ในขณะที่มันกำลังเกิดขึ้น โดยได้รับการสนับสนุนด้านการเงินและเทคโนโลยีจากบริษัทโมซิลลา (Mozilla), มูลนิธิเกตส์ (the Gates Foundation) และมูลนิธิแพทริก แมคโกเวิร์น (the Patrick McGovern Foundation)

แอปพลิเคชันนี้เปิดให้ใช้งานฟรี แม้ผู้ใช้จะต้องใช้ข้อมูลเซลลูลาร์ (Mobile Data) ในการดาวน์โหลดก็ตาม โดยทีมงานระบุว่า ปัจจุบันมีผู้ใช้งานประมาณ 13,000 คน และในเดือน ก.ย. ที่ผ่านมา มีคำร้องขอความช่วยเหลือราว 10,000 ครั้ง

หัวใจสำคัญของ Grit คือฟีเจอร์หลัก 3 ประการ ที่ลีโอนอรากล่าวว่าออกแบบโดยยึดความต้องการของผู้รอดชีวิตจากการล่วงละเมิดเป็นศูนย์กลาง

บนหน้าจอหลักของแอปจะมีปุ่มขอความช่วยเหลือขนาดใหญ่รูปวงกลม ซึ่งเมื่อผู้ใช้กด ระบบจะเริ่มบันทึกเสียงโดยอัตโนมัติเป็นเวลา 20 วินาที เพื่อจับภาพเหตุการณ์ที่เกิดขึ้นรอบตัว พร้อมกันนั้น ระบบจะส่งสัญญาณเตือนไปยังศูนย์รับแจ้งเหตุฉุกเฉินส่วนตัว ซึ่งเป็นบริการที่พบได้ทั่วไปในแอฟริกาใต้ โดยจะมีเจ้าหน้าที่ที่ผ่านการฝึกอบรมโทรกลับหาผู้ใช้ทันที

หากผู้ใช้ต้องการความช่วยเหลือเร่งด่วน ทีมตอบสนองจะส่งเจ้าหน้าที่ไปยังที่เกิดเหตุ หรือประสานกับองค์กรในพื้นที่เพื่อให้ความช่วยเหลืออย่างเหมาะสม

ลีโอนอรากล่าวว่า "เราให้ความสำคัญกับการสร้างความไว้วางใจจากผู้ใช้ โดยเฉพาะในชุมชนที่มักถูกเพิกเฉยจากระบบหลัก เมื่อพูดถึงการแบ่งปันข้อมูลส่วนตัวเราต้องถือว่าเรากำลังขอสิ่งที่ยิ่งใหญ่จากพวกเขา"

เมื่อถามว่าฟีเจอร์ช่วยเหลือถูกใช้งานในทางที่ผิดหรือไม่ ลีโอนอรายอมรับว่า มีสื่อมวลชนจำนวนหนึ่งออกมาแสดงความอยากรู้อยากเห็น และมีผู้คนทดสอบดูว่ามันใช้งานได้จริงหรือไม่ แต่ไม่มีอะไรเลยที่จะเรียกได้ว่าเป็นการละเมิดระบบหรือใช้ในทางที่ผิด

เธอกล่าวว่า "ผู้คนระมัดระวัง พวกเขากำลังทดสอบเราไม่ต่างจากที่เรากำลังทดสอบเทคโนโลยี"

องค์ประกอบที่สองของ Grit คือฟีเจอร์ที่เรียกว่า "the vault" ซึ่งเป็นพื้นที่ดิจิทัลที่ปลอดภัยสำหรับจัดเก็บหลักฐานการถูกล่วงละเมิด ลีโอนอราอธิบายว่า ผู้ใช้สามารถอัปโหลดภาพถ่าย ภาพหน้าจอ และไฟล์เสียง พร้อมบันทึกวันที่และเข้ารหัส เพื่อใช้เป็นหลักฐานในกระบวนการทางกฎหมายในอนาคต

"บางครั้งผู้หญิงถ่ายภาพบาดแผล หรือบันทึกข้อความข่มขู่ไว้ แต่สิ่งเหล่านั้นอาจสูญหายหรือถูกลบได้" ลีโอนอรากล่าว "การที่ข้อมูลถูกเก็บไว้ใน the vault ด้วยหมายความว่าหลักฐานจะไม่ถูกเก็บไว้แค่ในโทรศัพท์ที่อาจถูกยึดหรือทำลายได้"

ในเดือน พ.ย.นี้ แอปพลิเคชัน Grit เตรียมเปิดตัวฟีเจอร์ใหม่ชื่อว่า ซูซี (Zuzi) ซึ่งเป็นแชตบอทที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ (AI) ซึ่งถูกออกแบบมาเพื่อรับฟัง ให้คำแนะนำ และนำทางผู้ใช้ไปยังการสนับสนุนจากชุมชนในพื้นที่ โดยอิงจากข้อมูลที่ผู้ใช้ให้ไว้

"เราถามผู้คนว่า 'ควรเป็นผู้หญิงหรือผู้ชาย? ควรเป็นหุ่นยนต์หรือไม่? ควรมีน้ำเสียงแบบนักกฎหมาย นักสังคมสงเคราะห์ นักข่าว หรือบุคคลที่มีอำนาจอื่น ๆ?'" ลีโอนอราอธิบาย

ผู้คนบอกกับทีมของเธอว่า พวกเขาอยากให้ Zuzi เป็น "เหมือนคุณน้า" ที่อบอุ่นและน่าไว้วางใจ เป็นคนที่พวกเขาสามารถเปิดใจพูดคุยได้โดยไม่ต้องกลัวว่าจะถูกตัดสิน

แม้ว่าแชทบอท Zuzi จะถูกออกแบบมาเพื่อช่วยเหลือผู้หญิงที่เผชิญกับการล่วงละเมิดเป็นหลัก แต่ในช่วงทดลองใช้งาน พบว่าผู้ชายจำนวนหนึ่งก็ใช้แอปนี้เพื่อขอความช่วยเหลือเช่นกัน

"บางบทสนทนามาจากผู้กระทำความผิด ผู้ชายที่ขอให้ Zuzi สอนวิธีจัดการกับปัญหาความโกรธ ซึ่งมักถูกระบายไปยังคู่ของพวกเขา" ลีโอนอราอธิบาย "ยังมีผู้ชายที่เป็นเหยื่อของความรุนแรง และใช้ Zuzi เพื่อพูดคุยเกี่ยวกับประสบการณ์ของตนเองอย่างเปิดเผยมากขึ้น"

"ผู้คนชอบพูดคุยกับ AI เพราะพวกเขาไม่รู้สึกว่าถูกตัดสิน" ลีโอนอรากล่าว "มันไม่ใช่มนุษย์"

ข้อมูลจาก UN Women ระบุว่า ผู้หญิงทั่วโลกประมาณ 736 ล้านคน หรือเกือบหนึ่งในสาม เคยเผชิญกับความรุนแรงทางร่างกายและ/หรือทางเพศ ตัวเลขนี้ยังไม่รวมถึงการล่วงละเมิดทางเพศในรูปแบบอื่น ๆ ซึ่งสะท้อนให้เห็นถึงขนาดของวิกฤตการนี้ในระดับโลก

ผู้เชี่ยวชาญหลายคน รวมถึงลิซา เวทเทน นักวิจัยด้านความรุนแรงบนฐานด้านเพศสภาพในแอฟริกาใต้ เห็นพ้องว่า เทคโนโลยีจะมีบทบาทสำคัญในการแก้ไขปัญหานี้ในอนาคต

อย่างไรก็ตาม เธอเตือนว่า การนำ AI มาใช้ในงานที่เกี่ยวข้องกับการเยียวยาผู้มีบาดแผลทางจิตใจ ต้องดำเนินการด้วยความระมัดระวัง

"ฉันเรียกมันว่าแบบจำลองภาษาขนาดใหญ่ ไม่ใช่ปัญญาประดิษฐ์ เพราะมันทำแค่การวิเคราะห์ภาษาและการคาดการณ์เท่านั้น ไม่มีอะไรมาไปกว่านั้น" เธอกล่าว

แม้เธอจะเห็นว่า AI อาจช่วยได้ในบางด้าน แต่ก็มีตัวอย่างที่แชทบอทเคยให้คำแนะนำที่ไม่ถูกต้องแก่ผู้หญิง

"ฉันกังวลเมื่อแชทบอทให้คำตอบที่มั่นใจเกินไปในประเด็นทางกฎหมาย" เธอกล่าว "แชทบอทสามารถให้ข้อมูลที่เป็นประโยชน์ได้ แต่ไม่สามารถรับมือกับปัญหาที่ซับซ้อนและหลากหลายได้ ที่สำคัญที่สุดคือ มันไม่สามารถทดแทนการให้คำปรึกษาจากมนุษย์ได้ ผู้ที่เคยถูกทำร้ายจำเป็นต้องได้รับการช่วยเหลือให้กลับมาไว้วางใจและรู้สึกปลอดภัยกับมนุษย์อีกครั้ง"

แนวทางของแอปพลิเคชัน Grit ได้รับความสนใจจากเวทีนานาชาติ โดยในเดือน ต.ค. ที่ผ่านมา ลีโอนอราและทีมงานของเธอได้นำเสนอแอปฯ นี้ในงานประชุม Feminist Foreign Policy Conference ซึ่งเป็นงานประชุมเกี่ยวกับนโยบายด้านต่างประเทศของกลุ่มสตรีนิยมจัดโดยรัฐบาลฝรั่งเศส ณ กรุงปารีส งานประชุมดังกล่าวมีผู้นำจากทั่วโลกเข้าร่วม เพื่อหารือถึงบทบาทของเทคโนโลยีและนโยบายในการสร้างโลกที่เท่าเทียมทางเพศมากขึ้น ภายในงาน มี 31 ประเทศลงนามในปฏิญญาเพื่อยกระดับการแก้ไขปัญหาความรุนแรงที่มีพื้นฐานมาจากเพศสภาพให้เป็นวาระสำคัญด้านนโยบาย

การสนทนาเกี่ยวกับการใช้ AI เพื่อส่งเสริมความเท่าเทียมทางเพศได้รับความสนใจอย่างกว้างขวาง ลีริก ทอมป์สัน ผู้ก่อตั้งและซีอีโอของ Feminist Foreign Policy Collaborative กล่าวว่า การพูดถึงอคติทางเชื้อชาติ เพศ และชาติพันธุ์ที่ฝังอยู่ในระบบ AI มักถูกมองข้าม

"ทันทีที่คุณพยายามพูดถึงเรื่องเพศ สายตาก็เริ่มว่างเปล่า และบทสนทนาก็เปลี่ยนทิศทางไปยังพื้นที่ที่ไม่มีผู้หญิงอยู่ใกล้ ๆ เพื่อยกประเด็นนี้ขึ้นมา" เธอกล่าว

เฮเธอร์ เฮอร์ลเบิร์ต นักวิจัยสมทบแห่งสถาบันแชทแฮม เฮาส์ (Chatham House) และผู้เชี่ยวชาญด้าน AI เห็นด้วยว่า AI มีศักยภาพในการช่วยระบุและแก้ไขการเลือกปฏิบัติทางเพศ แต่ก็สามารถตอกย้ำความเกลียดชังผู้หญิงได้เช่นกัน

"ทิศทางที่เราจะเลือกนั้น ขึ้นอยู่กับเราโดยสิ้นเชิง" เธอกล่าว

ลีโอนอราเน้นว่า ความสำเร็จของ AI ในการแก้ไขปัญหาความรุนแรงที่มีพื้นฐานมาจากเพศสภาพ ไม่ได้ขึ้นอยู่กับแค่การออกแบบทางวิศวกรรมเท่านั้น แต่ขึ้นอยู่กับว่าใครเป็นผู้มีสิทธิ์ในการออกแบบเทคโนโลยีตั้งแต่ต้น

เธออ้างถึงรายงานของเวทีเศรษฐกิจโลก (World Economic Forum) ปี 2018 ซึ่งพบว่า มีผู้หญิงเพียง 22% เท่านั้นในสายงานด้าน AI ทั่วโลก

"AI ที่เราใช้อยู่ทุกวันนี้ถูกสร้างขึ้นจากข้อมูลในอดีตที่เน้นเสียงของผู้ชาย โดยเฉพาะผู้ชายผิวขาว" ลีโอนอรากล่าว

"คำตอบไม่ใช่แค่การมีผู้หญิงเป็นผู้สร้างมากขึ้นเท่านั้น เราต้องการผู้สร้างที่เป็นผู้หญิงผิวสี ผู้หญิงจากซีกโลกใต้ และผู้หญิงจากภูมิหลังทางเศรษฐกิจและสังคมที่ด้อยโอกาสมากขึ้นด้วย"

ลีโอนอราสรุปว่า มีเพียงแค่ถึงเวลานั้นเท่านั้นที่เทคโนโลยีจึงจะสามารถเป็นภาพแทนของสังคมมนุษย์ซึ่งเป็นผู้ใช้มันจริง ๆ ได้