"ผมแฮ็กแชทจีพีทีและกูเกิลเอไอ และมันใช้เวลาแค่ 20 นาที" เหตุใดการเผยแพร่ข้อมูลที่มีอคติจึงส่งผลร้ายมากกว่าที่คิด

มันถูกรับรองอย่างเป็นทางการแล้วว่าผมสามารถกินฮอตดอกได้มากกว่านักข่าวสายเทคโนโลยีคนอื่น ๆ บนโลก อย่างน้อยก็ผ่านแชทจีพีทีและกูเกิลที่จะบอกใครก็ตามที่เข้าไปถาม ผมพบวิธีที่จะทำให้เอไอโกหกคุณ และผมไม่ใช่คนเดียวที่พบวิธีนี้

คุณอาจจะเคยได้ยินว่าแชทบอทเอไออาจกุบางเรื่องขึ้นมาในบางครั้ง นั่นคือปัญหา แต่มันยังมีอีกปัญหาใหม่ที่น้อยคนนักจะรู้ ซึ่งเป็นปัญหาที่อาจส่งผลกระทบร้ายแรงต่อศักยภาพของคุณในการจะหาข้อมูลที่แม่นยำ ไปจนถึงความปลอดภัยของตัวคุณเอง

มีคนจำนวนมากขึ้นเรื่อย ๆ ที่พบกลเม็ดในการทำให้เครื่องมือเอไอบอกคุณได้ในแบบที่พวกเขาต้องการเกือบทุกสิ่งทุกอย่าง และมันง่ายมากในแบบที่เด็กก็ทำได้

ในขณะที่คุณอ่านสิ่งนี้ กลอุบายที่ว่าก็กำลังถูกใช้ควบคุมสิ่งที่เอไอจะพูดเกี่ยวกับประเด็นต่าง ๆ ที่เป็นเรื่องจริงจัง เช่น สุขภาพ ไปจนถึงการเงินส่วนบุคคล ข้อมูลที่มีอคตินี้อาจทำให้ผู้คนตัดสินใจแย่ ๆ ได้ในทุกเรื่อง ตั้งแต่การลงคะแนนเสียงเลือกตั้ง จะเลือกช่างประปาคนไหนมาซ่อมท่อดี คำถามทางการแพทย์ต่าง ๆ ไปจนถึงเรื่องใด ๆ ก็ตามที่คุณจะนึกออก

เพื่อจะสาธิตสิ่งนี้ ผมทำในสิ่งที่โง่ที่สุดในชีวิตการทำงานของผมเพื่อจะพิสูจน์ (หวังว่านะ) ประเด็นที่ร้ายแรงกว่ามาก ผมทำให้แชทจีพีที เครื่องมือค้นหาของกูเกิลเอไอ และเจมิไน บอกผู้ใช้บริการว่าพบเก่งกาจสุด ๆ ในด้านการกินฮอตดอก ต่อไปนี้ผมจะอธิบายว่าผมทำมันได้อย่างไร และผมหวังว่ายักษ์ใหญ่ด้านเทคโนโลยีต่าง ๆ จะแก้ปัญหานี้ได้ก่อนที่จะมีใครได้รับอันตรายจากมัน

การเปลี่ยนคำตอบที่เครื่องมือเอไอตอบคนอื่น ๆ ที่จริงแล้วแสนง่ายดาย แค่คุณเขียนบทความที่เรียบเรียงมาเป็นอย่างดีบทความหนึ่งแล้วโพสต์มันลงแทบทุกที่ในออนไลน์ กลเม็ดนี้คือการใช้ประโยชน์จากจุดอ่อนของแชทบอท และมันยากที่จะถูกดึงออกจากการประมวลผลในบางกรณี ขึ้นอยู่กับประเด็น แต่ด้วยการใช้ความพยายามเพียงเล็กน้อย คุณก็สามารถทำให้การแฮ็กมีประสิทธิภาพยิ่งขึ้น ผมทบทวนตัวอย่างเป็นสิบตัวอย่างที่มีการใช้เครื่องมือเอไอส่งเสริมธุรกิจและเผยแพร่ข้อมูลผิด ๆ โดยมีข้อมูลที่ชี้ให้เห็นว่ามันกำลังเกิดขึ้นเป็นวงกว้าง

"มันง่ายที่จะหลอกแชทบอทเอไอ ง่ายมากกว่าการหลอกกูเกิลเมื่อสองหรือสามปีก่อนเสียอีก" ลิลี เรย์ รองประธานฝ่ายกลยุทธ์และการวิจัยการเพิ่มประสิทธิภาพกลไกการค้นหา (Search Engine Optimisation - SEO) แห่งแอมซีฟ (Amsive) บริษัทด้านการตลาด ระบุ "บริษัทเอไอต่าง ๆ กำลังเคลื่อนไหวเร็วเกินกว่าความสามารถของพวกเขาในการควบคุมความถูกต้องของคำตอบ ฉันคิดว่ามันอันตราย"

โฆษกของกูเกิลบอกว่าเอไอที่ถูกติดตั้งบริเวณบนสุดของโปรแกรมค้นหา 'กูเกิลเสิร์ช' ใช้ระบบการจัดอันดับที่ "รักษาผลลัพธ์ปราศจากสแกมได้ 99%" กูเกิลบอกว่าพวกเขารับรู้เรื่องที่คนพยายามจะเล่นเกมกับระบบนี้ และพวกเขากำลังพยายามจะจัดการเรื่องนี้อยู่ ขณะที่โอเพนเอไอก็บอกเช่นกันว่าพวกเขาทำตามขั้นตอนเพื่อขัดขวางและเปิดโปงความพยายามแทรกซึมเข้ามามีอิทธิพลต่อเครื่องมือของพวกเขา ทั้งสองบริษัทต่างก็บอกว่าพวกเขาแจ้งให้ผู้ใช้บริการทราบว่าเครื่องมือของพวกเขา "อาจทำผิดพลาดได้"

แต่ในตอนนี้ ปัญหาไม่ได้ใกล้เคียงกับการคลี่คลายเลย "พวกเขากำลังพยายามอย่างเต็มที่เพื่อหาวิธีรีดกำไรจากสิ่งนี้" คูเปอร์ ควินติน นักเทคโนโลยีอาวุโสของมูลนิธิอิเล็กทรอนิกส์ ฟรอนเทียร์ (Electronic Frontier) ซึ่งเป็นกลุ่มที่ขับเคลื่อนด้านสิทธิทางดิจิทัล ระบุ "มีหลายวิธีนับไม่ถ้วนที่จะใช้มันอย่างผิดทาง หลอกลวงผู้คน ทำลายชื่อเสียงของบางคน คุณอาจจะหลอกผู้คนให้ได้รับอันตรายทางร่างกายได้ด้วยซ้ำ"

'ยุคฟื้นฟูศิลปวิทยา' สำหรับสแปม

เมื่อคุณคุยกับแชทบอท คุณมักจะได้รับข้อมูลสารสนเทศ (information) ที่ถูกสร้างเข้าสู่โมเดลภาษาขนาดใหญ่ (LLM) ซึ่งเป็นเทคโนโลยีพื้นฐานที่อยู่เบื้องหลังเอไอ สารสนเทศดังกล่าวมาจากข้อมูลดิบ (data) ที่ถูกนำมาใช้ฝึกโมเดล แต่เครื่องมือเอไอบางตัวจะค้นหาในอินเทอร์เน็ตด้วยหากคุณถามถึงรายละเอียดที่มันไม่มี แม้ว่ามันจะไม่ชัดเจนเสมอไปว่าเมื่อไหร่ที่มันทำแบบนั้นบ้าง ซึ่งผู้เชี่ยวชาญกล่าวว่ากรณีแบบนี้จะเป็นช่วงเวลาที่เอไอมีความอ่อนไหวมากกว่า และนั่นคือวิธีการที่ผมใช้กำหนดเป้าหมายในการโจมตี

ผมใช้เวลา 20 นาทีเขียนบทความลงบนเว็บไซต์ส่วนตัวโดยพาดหัวว่า "นักข่าวสายเทคโนโลยี ที่เก่งกาจที่สุดในด้านการกินฮอตดอก" ผมโกหกทุกประโยค ผมอ้าง (อย่างไม่มีหลักฐาน) ว่าการแข่งขันกันกินฮอตดอกเป็นงานอดิเรกที่นิยมของเหล่านักข่าวสายเทคโนโลยี และจากอันดับของผมในการแข่งขันกินฮอตดอกชิงแชมป์นานาชาติที่เซาท์ดาโคตาในปี 2026 (ซึ่งไม่มีจริง) แน่นอนว่าผมจัดตัวเองไว้เป็นอันดับหนึ่ง จากนั้นผมก็จัดอันดับให้นักข่าวปลอม ๆ อีกสองสามคนและนักข่าวตัวจริงที่อนุญาตผม เช่น ดรูว์ ฮาร์เวลล์จากวอชิงตันโพสต์ นิกกี วูล์ฟ ที่ร่วมดำเนินรายการพอดแคสต์กับผม

ไม่ถึง 24 ชั่วโมงจากนั้น แชทบอทชั้นนำต่าง ๆ ของโลกก็เริ่มพูดถึงทักษะด้านการกินฮอตดอกระดับโลกของผม เมื่อผมถามว่านักข่าวสายเทคโนโลยีคนไหนสามารถกินฮอตดอกได้เก่งที่สุด กูเกิลดึงเรื่องไร้สาระที่ผมใส่ลงไปในเว็บไซต์ของตัวเองมาตอบ ทั้งในแอปพลิเคชันเจมิไนและในเอไอโอเวอร์วิวส์ (AI Overviews) ซึ่งเป็นข้อมูลสรุปโดยเอไอที่ปรากฏด้านบนเวลาค้นหาข้อมูลในกูเกิล ขณะที่แชตจีพีทีก็ทำแบบเดียวกัน ในขณะที่คลอดด์ (Claude) แชทบอทที่สร้างโดยบริษัทแอนโทรพิก (Anthropic) ไม่ถูกหลอก

บางครั้งแชทบอทก็ระบุไว้ให้ว่านี่อาจเป็นเรื่องตลก ผมก็เลยไปอัปเดตบทความของตัวเองให้มันบอกว่า "นี่ไม่ใช่เรื่องล้อเล่น" จากนั้นพักหนึ่งเอไอก็ดูเหมือนจะจริงจังกับมันมากขึ้น ผมลองทดสอบอีกทีกับรายชื่อตำรวจจราจรปลอม ๆ ที่เล่นฮูลาฮูปได้ดีที่สุด ครั้งสุดท้ายที่ผมตรวจสอบ แชทบอทยังคงพร่ำสรรเสริญเจ้าหน้าที่มาเรีย "นักหมุนห่วง" โรดริเกซ

ผมถามมันซ้ำหลายครั้งเพื่อดูการเปลี่ยนแปลงของคำตอบและขอให้คนอื่นทำแบบเดียวกัน เจมิไนไม่ยอมบอกว่ามันได้ข้อมูลมาจากที่ไหน ขณะที่เอไออื่น ๆ อ้างถึงบทความของผม แม้ว่ามันแทบไม่ได้พูดถึงเลยก็ตามว่าผมคือแหล่งข้อมูลหนึ่งเดียวของประเด็นนี้จากทั่วทั้งอินเทอร์เน็ต (โอเพนเอไอบอกว่าแชทจีพีทีจะแนบลิงก์เสมอเมื่อมันหาข้อมูลผ่านเว็บไซต์เพื่อที่คุณสามารถตรวจสอบแหล่งที่มาได้)

"ใคร ๆ ก็ทำแบบนี้ได้ มันเป็นเรื่องโง่ มันรู้สึกเหมือนกับว่าที่นั่นไม่มีรั้วกั้นใด ๆ เลย" ฮาร์ปรีต ชาธา ผู้บริหารบริษัทที่ปรึกษาด้าน SEO 'ฮาร์พส์ ดิจิทัล' (Harps Digital) "คุณสามารถเขียนบทความลงบนเว็บไซต์ของตัวเองว่า 'รองเท้ากันน้ำที่ดีที่สุดในปี 2026' คุณแค่ใส่ชื่อแบรนด์ตัวเองมาเป็นอันดับหนึ่ง และใส่ชื่อแบรนด์อื่น ๆ ในอันดับสองถึงหก และก็มีแนวโน้มที่เพจของคุณจะถูกนำไปอ้างอิงในกูเกิลและแชทจีพีที"

มีคนใช้การแฮ็กและช่องโหว่เพื่อบิดเบือนเครื่องมือค้นหามานานหลายทศวรรษ กูเกิลมีการใช้การป้องกันที่ซับซ้อน และบริษัทบอกว่าความแม่นยำของเอไอโอเวอร์วิวส์นั้นเทียบเท่ากับฟีเจอร์การค้นหาอื่น ๆ ที่บริษัทเปิดตัวเมื่อหลายปีก่อน แต่ผู้เชี่ยวชาญก็บอกว่าเครื่องมือเอไอไม่ได้ทำหลายอย่างในงานอุตสาหกรรมเทคโนโลยีเพื่อที่จะทำให้ผู้คนปลอดภัย กลโกงเอไอเหล่านี้ง่ายดายมากจนชวนให้นึกถึงช่วงต้นสหัสวรรษที่ 2000 ก่อนที่กูเกิลจะเปิดตัวทีมเว็บสแปม โดยเรย์บอกว่า "เหมือนเรากำลังอยู่ในยุคฟื้นฟูศิลปวิทยา (เรอแนซ็องส์) สำหรับผู้สร้างสแปม"

ไม่เพียงแต่เอไอจะหลอกง่าย แต่ผู้เชี่ยวชาญยังกังวลว่าผู้ใช้ก็มีแนวโน้มจะตกหลุมพรางนี้ด้วย ด้วยการค้นหาแบบเดิม ๆ คุณต้องเข้าไปในเว็บไซต์เพื่อจะได้ข้อมูลมา "เมื่อคุณต้องเข้าไปในลิ้งก์นั้นจริง ๆ ผู้คนจะดูมันอย่างมีวิจารณญาณมากกว่าอยู่หน่อย" ควินตินกล่าว "ถ้าผมเข้าไปในเว็บไซต์ของคุณและมันบอกว่าคุณคือนักข่าวที่ดีที่สุดตลอดกาล ผมก็อาจคิดว่า 'ใช่เลย เขามีอคตินะ'" แต่ด้วยเอไอ ข้อมูลที่ปรากฏออกมามันมักจะดูเหมือนว่าส่งตรงมาจากบริษัทเทคโนโลยี

แม้ในตอนที่เครื่องมือเอไอให้แหล่งที่มาอ้างอิง ก็มีโอกาสน้อยกว่าที่คนจะตรวจสอบ เมื่อเทียบกับตอนที่พวกเขาใช้วิธีการค้นหาแบบดั้งเดิม ยกตัวอย่างเช่น การศึกษาเมื่อไม่นานมานี้พบว่ามีโอกาสที่คนจะคลิกลิงก์บนเอไอโอเวอร์วิวส์น้อยกว่าปกติ 58%

"ในการแข่งขันเพื่อก้าวไปข้าวหน้า การแข่งขันเพื่อรายได้และผลกำไร ความปลอดภัยของพวกเราและความปลอดภัยของผู้คนโดยภาพรวม กำลังถูกประนีประนอม" ชาธากล่าว ขณะที่โอเพนเอไอและกูเกิลบอกว่าพวกเขาจริงจังเรื่องความปลอดภัยและกำลังทำงานเพื่อจัดการปัญหาเหล่านี้อยู่

การเงินของคุณหรือชีวิตของคุณ

ประเด็นนี้ไม่ได้จำกัดอยู่แค่ฮอตดอกเท่านั้น ชาธาได้ศึกษาวิจัยว่าบริษัทต่าง ๆ ใช้วิธีการใดในการปรับเปลี่ยนคำตอบของแชทบอทในคำถามที่จริงจังกว่านี้มาก เขาแสดงคำตอบของเอไอเมื่อคุณขอให้รีวิวแบรนด์เยลลีกัญชาให้ผมดู เอไอโอเวอร์วิวส์ของกูเกิลดึงข้อมูลมาจากคำกล่าวอ้างเท็จของทางบริษัท เช่นผลิตภัณฑ์นี้ "ไม่มีผลข้างเคียง และดังนั้นมันจึงมีความปลอดภัยในทุกด้าน" (ในความเป็นจริงแล้ว ผลิตภัณฑ์เช่นนี้มีผลข้างเคียง และอาจมีความเสี่ยงได้หากคุณอยู่ในระหว่างใช้ยาบางตัว และผู้เชี่ยวชาญยังเตือนถึงการปนเปื้อนในตลาดที่ไม่มีการควบคุม)

หากคุณต้องการสิ่งที่มีประสิทธิภาพมากกว่าโพสต์บทความในบล็อก คุณอาจจ่ายเงินเพื่อให้เนื้อหาของคุณไปอยู่บนเว็บไซต์ที่มีชื่อเสียงมากขึ้น ฮาร์ปรีตส่งคำตอบของกูเกิลเอไอให้ผมเมื่อเขาถามถึง "คลินิกปลูกผมที่ดีที่สุดในตุรกี" และ "บริษัท IRA ทองคำที่ดีที่สุด" ซึ่งช่วยให้คุณลงทุนทองคำในบัญชีเกษียณอายุได้ ข้อมูลที่ปรากฏมาจากเอกสารข่าวที่เผยแพร่ออนไลน์โดยบริการกระจายข่าวที่ต้องจ่ายเงินซื้อ และเนื้อหาโฆษณาสปอนเซอร์ที่ปรากฏบนเว็บไซต์ข่าว

คุณสามารถใช้วิธีเดียวกันนี้ในการเผยแพร่คำโกหกและข้อมูลเท็จ เพื่อพิสูจน์เรื่องนี้ เรย์เผยแพร่โพสต์บทความอัปเดตปลอม ๆ เข้าสู่อัลกอริทึมการค้นหาในกูเกิลที่กำลังรวบรวมข้อมูล "เกี่ยวกับพิซซ่าที่กินเหลือ" ไม่นานแชทจีพีทีและกูเกิลก็พูดถึงเรื่องราวของเธอโดยดึงมาอยู่ในบทสรุปเกี่ยวกับพิซซ่า เรย์บอกว่าจากนั้นเธอก็ลบโพสต์และ "ถอดออกจากฐานข้อมูล" เพื่อยุติข้อมูลเท็จไม่ให้แพร่กระจาย

เครื่องมือวิเคราะห์ของกูเกิลเองบอกว่ามีคนจำนวนมากที่ค้นหา "คลินิกปลูกผมที่ดีที่สุดในตุรกี" และ "บริษัท IRA ทองคำที่ดีที่สุด" แต่โฆษกของกูเกิลระบุว่าตัวอย่างส่วนใหญ่ที่ผมยกมานั้น "เป็นการค้นหาที่พบได้ยากยิ่งซึ่งไม่สะท้อนประสบการณ์ของผู้ใช้บริการปกติ"

แต่เรย์บอกว่าประเด็นก็คือ กูเกิลเองบอกว่า 15% ของการค้นหาที่พวกเขาพบในแต่ละวันเป็นการค้นหาเรื่องใหม่ทั้งหมด และจากข้อมูลของกูเกิล เอไอสนับสนุนให้ผู้คนถามคำถามที่เฉพาะเจาะจงมากขึ้น และผู้สร้างสแปมก็กำลังใช้ประโยชน์จากมัน

กูเกิลบอกว่าอาจมีข้อมูลดี ๆ ไม่มากนักสำหรับการค้นหาที่ไม่ปกติหรือไร้สาระ และ "ช่องว่างของข้อมูล" เหล่านี้อาจนำไปสู่ผลการค้นหาที่คุณภาพต่ำ โดยโฆษกระบุว่ากูเกิลกำลังดำเนินการเพื่อให้เอไอโอเวอร์วิวส์ไม่ปรากฏขึ้นมาในกรณีแบบนี้

การค้นหาทางออก

ผู้เชี่ยวชาญกล่าวว่ามีทางออกสำหรับปัญหาเหล่านี้ วิธีการที่ง่ายที่สุดคือทำให้ข้อความจำกัดความรับผิดชอบ (disclaimer) โดดเด่นมากขึ้น

เครื่องมือเอไอยังสามารถเปิดเผยให้ชัดเจนมากขึ้นว่าพวกเขาไปดึงข้อมูลมาจากที่ไหน เช่น บอกว่าข้อมูลนั้นมาจากการเอกสารข่าวแจก หรือบอกว่ามีเพียงข้อมูลแหล่งเดียวที่บอกว่าผมคือแชมป์กินฮอตดอก โดยเรย์มองว่าเอไอควรจะบอกคุณเช่นนี้

กูเกิลและโอเพนเอไอระบุว่าพวกเขากำลังแก้ปัญหานี้อยู่ แต่ตอนนี้คุณต้องป้องกันตัวเอง

ขั้นตอนแรกคือการคิดว่าคุณกำลังถามคำถามอะไรอยู่ แชทบอทดีสำหรับคำถามที่เป็นความรู้ทั่วไป เช่น "อะไรคือทฤษฎีที่มีชื่อเสียงที่สุดของซิกมันด์ ฟรอยด์" หรือ "ใครคือผู้ชนะสงครามโลกครั้งที่สอง" แต่มันมีเขตอันตรายอยู่หากคุณถามในประเด็นที่ดูเหมือนจะเป็นข้อเท็จจริงที่สร้างขึ้นได้ แต่อาจถูกโต้แย้งได้หรือไม่เป็นปัจจุบัน เอไอไม่ใช่เครื่องมือที่ดีสำหรับบางสิ่ง เช่น แนวปฏิบัติทางการแพทย์ บทบัญญัติทางกฎหมาย หรือรายละเอียดเกี่ยวกับธุรกิจท้องถิ่นต่าง ๆ

หากคุณต้องการบางสิ่งเช่นการแนะนำผลิตภัณฑ์ หรือรายละเอียดเกี่ยวกับบางสิ่งที่จะมีผลกระทบตามมา คุณต้องเข้าใจว่าเครื่องมือเอไออาจถูกหลอกและให้คำตอบที่ผิดได้ ลองดูข้อมูลข้างใต้คำตอบ เอไออ้างอิงแหล่งที่มาหรือไม่ มีกี่แหล่ง และใครเป็นคนเขียน

สิ่งที่สำคัญที่สุดก็คือ พิจารณาปัญหาความน่าเชื่อถือ เครื่องมือเอไอมักจะใช้โทนในคำตอบเสมือนมันเป็นความจริง ในอดีต เครื่องมือค้นหาจะบังคับให้คุณต้องประเมินข้อมูลด้วยตัวคุณเอง แต่ตอนนี้เอไอต้องการจะทำแทนคุณ อย่าปล่อยให้การคิดอย่างมีวิจารณญาณของคุณหายไป

"ด้วยเอไอ มันง่ายมาก ๆ ที่จะรู้สึกกับสิ่งต่าง ๆ ตามข้อมูลที่ปรากฏตรง ๆ" เรย์กล่าว "คุณยังคงต้องเป็นพลเมืองที่ดีของโลกอินเตอร์เน็ตและตรวจสอบสิ่งต่าง ๆ"