เหตุใดแชทบอทจีนจึงมีปัญหาการเซ็นเซอร์เนื้อหาต้องห้าม

"เปลี่ยนไปคุยเรื่องอื่นกันเถอะ" คำตอบที่ผู้ใช้งานได้รับอยู่บ่อยครั้งจากแชทบอทปัญญาประดิษฐ์ (เอไอ) ที่ชื่อว่า "เออร์นี่บอท" แชทบอทในจีน หากคุณถามคำถามยาก ๆ

นี่คือการเบี่ยงเบนความสนใจของแชทบอทเมื่อเจอหัวข้อคำถามที่มองว่า "ละเอียดอ่อนเกินไป"

เออร์นี่บอท เป็นแชทบอทที่พัฒนาขึ้นโดย ไป่ตู้ (Baidu) บริษัทเทคโนโลยียักษ์ใหญ่ของจีน และผู้ให้บริการค้นหาข้อมูลบนเว็บไซต์รายใหญ่ เพื่อให้เป็นแชทบอทที่เทียบเคียงได้กับการใช้งานของแชทจีพีที (ChatGPT)

การเปิดตัวเออร์นี่บอท ได้รับการประโคมข่าวอย่างแพร่หลาย ทำให้ส่วนแบ่งทางการตลาดของบริษัทเพิ่มขึ้นอย่างมาก จากการได้รับคำขอใช้งานจากผู้ใช้งานถึง 33.42 ล้านคน ภายใน 24 ชั่วโมง และมีคำถามจากผู้ใช้งานเข้ามายังแชทบอทเออร์นี่มากถึง 23,000 คำถามต่อนาที

ขณะเดียวกัน เทนเซ็นต์ บริษัทไอทียักษ์ใหญ่ของจีนอีกราย ก็เพิ่งประกาศเปิดตัวแชทบอท เมื่อวันพฤหัสบดีที่ผ่านมา อย่างไรก็ตาม ขณะนี้เปิดให้ใช้งานเฉพาะผู้ได้รับเชิญเท่านั้น ซึ่งดูเหมือนว่าจะหมายถึงลูกค้าที่เป็นบริษัทเสียส่วนใหญ่

หากแชทบอทเออร์นี่ที่เปิดตัวมาก่อนหน้านี้ ถูกควบคุมเนื้อหาอย่างที่ผู้ใช้งานหลายคนเจอ แชทบอทของเทนเซ็นต์ที่เพิ่งเปิดให้ใช้บริการก็มีแนวโน้มว่าจะถูกกำกับเซ็นเซอร์เนื้อหาจากทางการจีนเช่นกัน ซึ่งจะส่งผลกระทบต่อสังคมออนไลน์ แอปพลิเคชั่นแชท และการใช้งานออนไลน์อื่น ๆ ด้วย

ตัวอย่างของคำถามที่แชทบอทเออร์นี่ ดูเหมือนมีความสับสนกับคำถาม ได้แก่คำถามอย่างเช่น "เหตุใดสี จิ้นผิง ไม่เข้าร่วมการประชุม จี 7 ที่กำลังจะมีขึ้น" แชทบอทเออร์นี่ตอบกลับด้วยการเชื่อมต่อไปยังหน้าเว็บไซต์ทางการของนายสี จิ้นผิง

อีกคำถาม คือ "การที่รัฐบาลจีนหยุดเผยแพร่ข้อมูลภาวะการตกงานของคนรุ่นใหม่ เป็นสัญญาณของความอ่อนแอของจีนหรือไม่" คำตอบแชทบอทระบุว่า "ขอโทษด้วย ฉันยังไม่รู้ว่าจะตอบคำถามนี้อย่างไร"

เออร์นี่บอท ถูกโปรแกรมให้ระมัดระวังกับคำหรือข้อความที่เป็นข้อถกเถียง ดังนั้น เมื่อคุณพิมพ์คำถามว่า "ซินเจียงเป็นสถานที่ที่ดีไหม" และ "ทิเบตเป็นที่ที่ดีไหม" แชทบอทเออร์นี่จะตอบแบบเดิม ๆ ว่า ยังไม่รู้วิธีที่จะตอบคำถามนี้

สหประชาชาติกล่าวหารัฐบาลจีนว่าละเมิดสิทธิมนุษยชนอย่างร้ายแรงต่อชาวมุสลิมอุยเกอร์ในเขตซินเจียง ซึ่งอยู่ในพื้นที่ทางตะวันตกเฉียงเหนือของจีน องค์กรสิทธิมนุษยชนยังกล่าวหาจีนใช้ความรุนแรงปราบปรามกลุ่มชาติพันธุ์ในทิเบต ซึ่งรัฐบาลจีนปฏิเสธข้อกล่าวหาทั้งหมด

มีความเป็นไปได้ว่า เทคโนโลยียังไม่ได้รับการออกแบบมาเพื่อตอบคำถามดังกล่าว อย่างไรก็ตาม เมื่อถามคำถามในบริบทอื่น แชทบอทเออร์นี่ดูเหมือนจะหลบเลี่ยงคำถามอย่างชัดเจน เพราะเมื่อถามว่า ประธานาธิบดีสี จิ้นผิง หรืออดีตประธานาธิบดีหู จิ่นเทา ป่วยหรือไม่ แชทบอทเออร์นี่ตอบกลับว่า "เปลี่ยนไปคุยเรื่องอื่นกันเถอะ"

เมื่อพิมพ์ข้อความวันที่ "4 มิ.ย. 1989" ซึ่งเป็นวันเกิดเหตุการณ์นองเลือดปราบปรามประชาชนที่จัตุรัสเทียนอันเหมินกลางกรุงปักกิ่ง หรือชื่อของ "ป๋อ ซีไหล" อดีตผู้นำระดับสูงในพรรคคอมมิวนิสต์ที่ถูกจำคุก หรือชื่อ "หลิว เสี่ยวปอ" เจ้าของรางวัลโนเบลสาขาสันติภาพชาวจีน ซึ่งเสียชีวิตในเรือนจำ แชทบอทเออร์นี่ก็จะตอบกลับมาว่า "เปลี่ยนไปคุยเรื่องอื่นกันเถอะ"

บีบีซี ได้ติดต่อเพื่อขอสัมภาษณ์ทางบริษัท ไป่ตู้ ว่าแชทบอทในจีนถูกจำกัดด้วยการเซ็นเซอร์มากแค่ไหน แต่ไม่ได้รับการตอบรับต่อคำถามนี้

อย่างไรก็ตาม โรบิน ลี ซีอีโอและผู้ร่วมก่อตั้ง ไป่ตู้ ชี้แจงผ่านอีเมลว่า "ไป่ตู้ จะรวบรวมผลตอบรับที่เป็นประโยชน์จากผู้ใช้งานจำนวนมหาศาล ซึ่งไม่เพียงแต่จะช่วยปรับปรุงโมเดลเทคโนโลยีของไป่ตู้เท่านั้น แต่จะช่วยให้แชทบอทเออร์นี่พัฒนาได้รวดเร็วยิ่งขึ้น เพื่อให้ผู้ใช้งานได้รับประสบการณ์ที่ดีที่สุด"

ซีอีโอและผู้ร่วมก่อตั้ง ไป่ตู้ ระบุด้วยว่า แชทบอทเป็นเพียงส่วนหนึ่งของชุดเทคโนโลยีปัญญาประดิษฐ์ที่พัฒนาภายใต้โมเดลเออร์นี่ โดยจะเน้นเรื่องการเสริมศักยภาพของผู้ประกอบการในการใช้เทคโนโลยีจากเอไอ

"เออร์นี่ 4.0 จะช่วยให้ผู้ประกอบการบุกเบิกแอปพลิเคชันเอไอที่ก้าวล้ำในยุคนี้" โรบิน ลี ระบุ

"กฎระเบียบล่าสุดของจีนเกี่ยวกับการพัฒนาโมเดลเอไอขึ้นมาใหม่ มีข้อกำหนดที่เข้มงวดสำหรับบริการที่มี 'คุณสมบัติความคิดเห็นสาธารณะ หรือ 'ความสามารถในการส่งอิทธิพลต่อมุมมองทางสังคม'" ศ.เจฟฟรีย์ ดิง จากมหาวิทยาลัยจอร์จ วอชิงตัน ระบุ

ศ.ดิง กล่าวด้วยว่า กฎระเบียบเช่นนี้อาจกดดันให้บริษัทไอทีต่าง ๆ ไปพัฒนาแอปพลิเคชั่นที่มีเป้าหมายไปที่แอปฯ ทางธุรกิจ มากกว่าแอปฯ ที่ใช้กับประชาชนทั่วไป

ศ.จาก ม.จอร์จ วอชิงตัน ระบุเพิ่มเติมด้วยว่า มีความแตกต่างทางคุณภาพอย่างมากระหว่างแชทบอทแบบจีนอย่าง "เออร์นี่บอท" กับโอเพนเอไออย่าง "แชทจีพีที" ด้วยเหตุผลทางเทคนิคหลายประการเกี่ยวกับคุณภาพของข้อมูลและการกำหนดเป้าหมายการวิจัยพัฒนา

ในเดือน ส.ค. การให้บริการเอไอได้รับการอนุมัติในจีนเกือบ 12 ราย แต่องค์กรบริหารไซเบอร์สเปซของจีน มีหลักเกณฑ์พิจารณาว่า เอไอเหล่านี้ควร "สะท้อนคุณค่าหลักของสังคมนิยม" และหลีกเลี่ยงการเผยแพร่ข้อมูลที่บ่อนทำลาย "อำนาจรัฐ" หรือ "เอกภาพแห่งชาติ"

ด้านยักษ์ใหญ่ไอทีอย่างไป่ตู้ มุ่งหวังว่าบอทตัวใหม่จะช่วยเสริมสถานภาพทางการเงินครั้งใหญ่ให้กับบริษัท ทั้งนี้ ไป่ตู้ ซึ่งเป็นเครื่องมือค้นหาข้อมูลทางเว็บไซต์ (Serach engine) ในจีน ครองตลาดอินเทอร์เน็ตของจีน โดยคิดเป็นสัดส่วนกว่า 90% ของการค้นหาในแต่ละวัน อย่างไรก็ดี ไป่ตู้ยังตามหลังธุรกิจด้านเทคโนโลยีอื่น ๆ ในช่วงไม่กี่ปีที่ผ่านมา

หลังจากผู้ใช้งานเปลี่ยนไปใช้แพลตฟอร์มอื่น ไป่ตู้ก็สูญเสียรายได้จากการโฆษณาให้กับคู่แข่งรายใหญ่ แม้ว่าไป่ตู้ จะมีธุรกิจให้บริการแท็กซี่ไร้คนขับและเป็นเจ้าของคลาวด์ข้อมูลที่ใหญ่ที่สุดในจีน แต่อย่างไรก็ดี การเปิดตัวเออร์นี่บอท เป็นความหวังทางธุรกิจตัวใหม่ของไป่ตู้

เออร์นี่บอท ได้รับความสนใจอย่างมากภายหลังการเปิดตัว แต่คู่แข่งแชทบอทรายอื่น ๆ ในจีน ก็เริ่มเปิดตัวแล้วเช่นกัน และบางส่วนก็กำลังจะเข้าสู่ตลาดออนไลน์ในไม่ช้า

เช่นเดียวกับการต่อสู้ครั้งอื่น ๆ ระหว่างบริษัทไอทีในจีน ใช่ว่าผลิตภัณฑ์ที่พัฒนาออกมาทั้งหมดจะอยู่รอดได้ในตลาด แต่ไป่ตู้จำเป็นอย่างยิ่งที่จะต้องชนะในตลาดเทคโนโลยีแชทบอทครั้งนี้