Hallucination

Hallucination คืออาการที่ model AI สร้างข้อมูลเท็จขึ้นมาเองแล้วนำเสนอราวกับเป็นข้อเท็จจริง: อ้างงานวิจัยที่ไม่มีอยู่จริง แต่งชื่อคดีความ ให้ตัวเลขผิด หรือเขียนโค้ดเรียก function ที่ไม่เคยมีในโลก จุดที่ทำให้อันตรายคือคำตอบพวกนี้อ่านลื่น เขียนด้วยน้ำเสียงมั่นใจเต็มร้อย และหน้าตาสมจริงจนแยกจากของจริงแทบไม่ออกถ้าไม่ตรวจสอบ

สาเหตุมาจากวิธีทำงานของโมเดลภาษาโดยตรง: ตอน inference มันตอบด้วยการทาย token ถัดไปจากแพทเทิร์นทางสถิติที่เรียนมา ไม่ได้เปิดฐานข้อมูลข้อเท็จจริงมาค้น งานวิจัยของทีม OpenAI ปี 2025 นิยามอาการนี้ว่าเป็นการสร้าง "plausible yet incorrect statements instead of admitting uncertainty" และชี้ว่าเกิดจากสองแรงประกอบกัน: แรงกดดันทางสถิติในขั้น pretraining ที่ทำให้โมเดลแยกเรื่องจริงกับเรื่องแต่งไม่ได้เสมอไป บวกกับระบบ benchmark ที่ให้คะแนนการเดาแบบมั่นใจมากกว่าการยอมตอบว่า "ไม่รู้" เหมือนนักเรียนทำข้อสอบปรนัย: เดายังมีลุ้นได้คะแนน แต่เว้นว่างได้ศูนย์แน่นอน ผลคือโมเดลถูกหล่อหลอมให้เป็นนักเดาที่เก่ง ไม่ใช่นักรายงานความจริงที่ยอมรับขีดจำกัดของตัวเอง

คนทำงานยุค AI ต้องรู้จักคำนี้เพราะความเสียหายเกิดขึ้นจริงซ้ำแล้วซ้ำอีก: ทนายในคดี Mata v. Avianca (2023) ยื่นคำร้องที่อ้างคดีตัวอย่างปลอม 6 คดีจนโดนศาลปรับ 5,000 ดอลลาร์ · chatbot ของ Air Canada แต่งนโยบายส่วนลดที่ไม่มีอยู่จริง แล้ว tribunal ตัดสินให้บริษัทต้องทำตามนโยบายที่ AI แต่งขึ้นนั้น (2024) · Deloitte Australia ต้องคืนเงินบางส่วนของรายงานมูลค่า 440,000 ดอลลาร์ออสเตรเลียที่พบแหล่งอ้างอิงปลอมปนอยู่ (2025) · ฐานข้อมูลที่รวบรวมคดีซึ่งพบ hallucination ในเอกสารศาลมียอดทะลุ 1,300 กรณีภายในเมษายน 2026 วิธีลดความเสี่ยงที่ใช้ได้จริงในที่ทำงาน: ป้อนเอกสารจริงเข้าไปใน context ให้โมเดลตอบจากเอกสารแทนการตอบจากความจำ ให้ agent ใช้ tool ค้นข้อมูลสดก่อนตอบ และตั้งกติกาว่าทุก claim สำคัญต้องมี source ที่มนุษย์ตามไปเช็คได้เสมอ

ตัวอย่างจากบทสนทนาจริง

พี่แนน ฝ่ายบัญชี: "น้อง พี่ถาม chatbot เรื่องเลขข้อของมาตรฐานบัญชี มันตอบมั่นใจมากนะ พอพี่ไปเช็คกับสภาวิชาชีพ ไม่มีข้อนั้นอยู่จริง สรุปมันตั้งใจโกหกพี่เหรอ"

น้องทีม IT: "ไม่ได้ตั้งใจครับพี่ อาการนี้เรียกว่า hallucination: ตอนตอบมันไม่ได้เปิดฐานข้อมูลจริง แต่ทายคำตอบจากแพทเทิร์นที่เคยเห็นมา เลยแต่งเลขข้อที่หน้าตาเหมือนของจริงออกมาได้เนียนมาก ทางแก้คือขอให้มันแนบลิงก์ source ทุกครั้งแล้วพี่กดตามไปเช็คเอง หรือใช้ระบบที่ต่อกับฐานข้อมูลมาตรฐานบัญชีตัวจริงครับ"

ระวังสับสนกับ

• ข้อมูลล้าสมัย (knowledge cutoff): อันนี้คือโมเดลตอบสิ่งที่เคยถูกต้อง แต่โลกเปลี่ยนไปแล้ว เช่นบอกราคาหรือเวอร์ชันเก่า เป็นความรู้หมดอายุ ส่วน hallucination คือข้อมูลที่ไม่เคยเป็นจริงเลยตั้งแต่ต้น
• Bias: ความเอนเอียงของคำตอบตามข้อมูลที่ใช้ฝึก เช่นเหมารวมหรือเล่าแค่มุมเดียว คำตอบอาจไม่ผิดข้อเท็จจริงแต่ไม่เป็นกลาง ขณะที่ hallucination คือผิดข้อเท็จจริงตรงๆ