Automation bias

Automation bias คือแนวโน้มที่คนจะเชื่อผลลัพธ์ของระบบอัตโนมัติมากเกินไป จนเอาสิ่งที่ระบบบอกมาใช้แทนการหาข้อมูลและคิดตรวจทานด้วยตัวเอง บทความปริทัศน์ Automation bias: a systematic review of frequency, effect mediators, and mitigators ของ Kate Goddard, Abdul Roudsari และ Jeremy C Wyatt ที่ตีพิมพ์ในวารสาร Journal of the American Medical Informatics Association ปี 2012 นิยามอาการนี้ไว้ว่าเป็นแนวโน้มที่จะยอมรับผลลัพธ์ของคอมพิวเตอร์มากเกินไป ในฐานะตัวแทนแบบลัดขั้นตอนของการค้นหาและประมวลข้อมูลอย่างระแวดระวัง จุดที่ทำให้คำนี้ใช้งานได้จริงคือมันแตกออกเป็นสองอาการ บทความเดียวกันเขียนว่าในการใช้ระบบช่วยตัดสินใจทางคลินิกหรือ CDSS นั้น automation bias แสดงออกเป็น errors of commission ซึ่งคือการทำตามคำแนะนำที่ผิด และ errors of omission ซึ่งคือการไม่ลงมือทำเพราะไม่ถูกกระตุ้นให้ทำ อาการแรกคือเชื่อสิ่งที่ระบบพูด อาการหลังคือเชื่อความเงียบของระบบ และอาการหลังนี่เองที่จับได้ยากกว่ามาก เพราะไม่มีร่องรอยว่าเคยมีใครตัดสินใจอะไรลงไป

ขนาดของผลไม่ได้อยู่แค่ในทฤษฎี งานปริทัศน์ฉบับเดียวกันคัดกรองจากงานที่ค้นมาได้ 13,821 ชิ้น เหลืองานที่เข้าเกณฑ์ 74 ชิ้น ในจำนวนนี้มีงานด้านสุขภาพเพียง 4 ชิ้นที่วัดสิ่งเดียวกันมากพอจะนำมารวมกันได้ ผู้เขียนจึงนำผลของสี่ชิ้นนั้นมารวมเป็นการวิเคราะห์อภิมานขนาดเล็กที่ตัวผู้เขียนเองกำกับไว้ว่าเป็นเพียงการชี้ทิศทาง ได้ค่า risk ratio อยู่ที่ 1.26 โดยมีช่วงความเชื่อมั่น 95% ระหว่าง 1.11 ถึง 1.44 หมายความว่าคำแนะนำที่ผิดถูกทำตามในกลุ่มที่ใช้ CDSS มากกว่ากลุ่มควบคุม และเมื่อระบบแนะนำผิด CDSS เพิ่มความเสี่ยงที่จะเกิดการตัดสินใจผิดขึ้น 26% สิ่งที่งานชิ้นนี้พบว่าเป็นตัวแปรกำกับก็ตรงกับสัญชาตญาณของคนทำงาน โดยรายงานจากงานทดลองแบบทำหลายงานพร้อมกันสามชิ้นว่าความมั่นใจในคำตอบของตัวเองที่เพิ่มขึ้นทำให้พึ่งพาตัวช่วยภายนอกน้อยลง ขณะที่ความไว้ใจในตัว DSS ทำให้พึ่งพามากขึ้น และผู้เขียนระบุว่าความไว้ใจอาจเป็นปัจจัยขับเคลื่อนที่แรงที่สุดของการพึ่งพาเกินพอดี ในกรณีที่ความไว้ใจถูกปรับเทียบไว้ไม่ตรงกับความน่าเชื่อถือจริงของระบบ อีกข้อที่ควรอ่านให้ครบประโยคคือเรื่องประสบการณ์ บทความเขียนว่า automation bias เกิดบ่อยกว่าในผู้ใช้ที่ยังไม่ชำนาญงานนั้น แต่เกิดกับผู้ใช้ที่มีประสบการณ์มากกว่าได้เช่นกัน ส่วนทางแก้ที่มีหลักฐานรองรับนั้นมาแบบมีเงื่อนไข บทความระบุว่าการฝึกอบรมอาจเพิ่มโอกาสที่คนจะจับได้ว่า DSS แนะนำผิด และช่วยลด automation bias โดยเฉพาะ commission errors และระบุว่าการอัปเดตระดับความมั่นใจของ DSS ไปพร้อมกับคำแนะนำแต่ละชิ้น แทนการประกาศค่าความมั่นใจรวมค่าเดียวตายตัวของทั้งระบบ ช่วยให้การพึ่งพาของผู้ใช้เหมาะสมขึ้นและลด automation bias ลงได้

สำหรับคนที่กด approve งานของ AI ทุกวัน เรื่องนี้เข้ามาถึงโต๊ะทำงานสองทาง ทางแรกคือทางกฎหมาย มาตรา 14 ว่าด้วย human oversight ของ eu-ai-act เขียนคำนี้ไว้ในตัวบทตรงๆ โดยวรรค 4 กำหนดว่าระบบ AI ความเสี่ยงสูงต้องถูกส่งมอบให้ผู้นำไปใช้งานในลักษณะที่คนซึ่งได้รับมอบหมายให้กำกับดูแล สามารถทำสิ่งต่อไปนี้ได้ตามความเหมาะสมและได้สัดส่วน ซึ่งข้อ b คือการตระหนักถึงแนวโน้มที่อาจเกิดขึ้นของการพึ่งพาหรือพึ่งพาผลลัพธ์ที่ระบบ AI ความเสี่ยงสูงผลิตออกมาโดยอัตโนมัติมากเกินไป ซึ่งเรียกว่า automation bias โดยเฉพาะอย่างยิ่งกับระบบ AI ความเสี่ยงสูงที่ใช้ให้ข้อมูลหรือคำแนะนำประกอบการตัดสินใจของบุคคลธรรมดา และข้อ d คือการตัดสินใจในสถานการณ์ใดสถานการณ์หนึ่งว่าจะไม่ใช้ระบบ AI ความเสี่ยงสูงนั้น หรือจะเพิกเฉย ลบล้าง หรือกลับผลลัพธ์ที่ได้ พูดอีกแบบคือกฎหมายมองว่าปุ่มปฏิเสธที่กดได้จริงเป็นส่วนหนึ่งของการออกแบบระบบ ไม่ใช่มารยาทของคนใช้ ข้อควรทราบเรื่องกำหนดเวลาคือ Regulation (EU) 2026/1744 หรือ Digital Omnibus on AI ซึ่งประกาศใน Official Journal เมื่อ 24 กรกฎาคม 2026 และมีผลเมื่อ 27 กรกฎาคม 2026 ไม่ได้แก้ถ้อยคำของมาตรา 14 แต่เลื่อนวันที่ข้อผูกพันของระบบความเสี่ยงสูงตาม Annex III จะเริ่มบังคับใช้จาก 2 สิงหาคม 2026 ไปเป็น 2 ธันวาคม 2027 และของ Annex I ไปเป็น 2 สิงหาคม 2028 ทางที่สองคือหลักฐานเรื่องพฤติกรรมการรับคำแนะนำจาก AI ที่เพิ่งออกมาใหม่ งานทดลองแบบสุ่มมีกลุ่มควบคุมระยะยาวที่เผยแพร่บน arXiv ครั้งแรกเมื่อ 19 พฤศจิกายน 2025 และปรับปรุงล่าสุดเมื่อ 17 เมษายน 2026 โดย Lennart Luettgau และคณะ ใช้กลุ่มตัวอย่างตัวแทนประชากรสหราชอาณาจักรจำนวน 6,474 คน พบว่าผู้เข้าร่วมมากถึง 79% ที่ได้คุยกับ chatbot ตัวใดตัวหนึ่งในสามตัวคือ GPT-4o, LLama-3.3-70B และ Gemini 3 Pro เป็นเวลา 20 นาที เรื่องสุขภาพ อาชีพ หรือความสัมพันธ์ รายงานในภายหลังว่าตนทำตามคำแนะนำนั้น และการทำตามคำแนะนำยังอยู่เหนือ 60% แม้กับคำแนะนำที่เดิมพันสูงหรือ high-stakes ซึ่งผู้เขียนตีความว่าผู้ใช้ปรับระดับการพึ่งพา AI ให้สอดคล้องกับผลที่อาจตามมาได้เพียงอ่อนๆ เท่านั้น ตัวเลขนี้ต้องอ่านคู่กับอีกสองข้อค้นพบของงานเดียวกัน คือการประเมินบทสนทนาด้วยระบบอัตโนมัติพบว่าคำแนะนำของ LLM แทบไม่ละเมิดแนวปฏิบัติด้านความปลอดภัย และเมื่อสอบถามซ้ำในอีก 2 ถึง 3 สัปดาห์ กลุ่มที่ได้รับคำแนะนำส่วนตัวจาก AI ไม่ได้มีความเป็นอยู่ที่ดีขึ้นอย่างต่อเนื่องเมื่อเทียบกับกลุ่มควบคุมที่คุยเรื่องงานอดิเรกกับ chatbot ตัวเดียวกัน ประเด็นของงานชิ้นนี้จึงอยู่ที่ระดับการทำตามคำแนะนำที่สูงมาก ไม่ใช่ความอันตรายของตัวคำแนะนำ ข้อควรระวังคืองานชิ้นนี้วัดคำแนะนำเรื่องส่วนตัวและอาศัยการรายงานด้วยตนเอง ไม่ใช่การวัดคิวอนุมัติงานในออฟฟิศโดยตรง จึงใช้เทียบเคียงได้แต่ยังไม่ใช่หลักฐานตรงของงานประจำ ส่วนข่าวร้ายสำหรับคนที่หวังพึ่งการติดคำเตือนไว้ข้างคำตอบคือ งานทดลองออนไลน์แบบสุ่มของ Jessica Y. Bo, Sophia Wan และ Ashton Anderson ที่เผยแพร่บน arXiv เมื่อ 20 ธันวาคม 2024 และตีพิมพ์ในงานประชุมวิชาการ CHI 2025 ให้ผู้เข้าร่วม 400 คนทำงานยากสองแบบคือโจทย์ตรรกะแบบ LSAT และการประมาณค่าตัวเลขจากภาพ แล้ววัดมาตรการแทรกแซงสามแบบที่ปรับวิธีนำเสนอคำแนะนำของ LLM ไม่ใช่การอบรมผู้ใช้ ได้แก่ การติดข้อความเตือนให้ไปตรวจสอบซ้ำ การไฮไลต์ส่วนที่โมเดลไม่มั่นใจ และการให้คำอธิบายโดยไม่บอกคำตอบตรงๆ ผลที่รายงานคือแม้มาตรการเหล่านั้นจะลดการพึ่งพาเกินพอดีได้ แต่โดยทั่วไปแล้วไม่ช่วยให้การพึ่งพาเหมาะสมขึ้น ทางปฏิบัติที่เหลืออยู่จึงเป็นการออกแบบขั้นตอนงานให้การตรวจเกิดขึ้นเองโดยไม่ต้องอาศัยวินัยส่วนบุคคล เช่น สุ่มบางส่วนของคิวมาให้คนตัดสินก่อนเห็นข้อสรุปของระบบ กำหนดว่างานประเภทไหนต้องเปิดเอกสารต้นทางเสมอ และแยกให้ชัดว่าการรีวิวรอบนั้นเป็น human-review จริงหรือเป็นเพียงการกดยืนยัน การรู้ทันว่าโมเดลสร้าง hallucination ได้ยังไม่พอ เพราะ automation bias ทำงานตอนที่เรารู้อยู่แล้วว่าระบบผิดพลาดได้ แต่ยังกดผ่านอยู่ดี ทักษะที่ต้องสร้างจึงเป็นเรื่องของ ai-literacy ระดับกระบวนการ ควบคู่กับการมี คำอธิบายที่ตรวจสอบได้ ให้คนที่นั่ง human-in-the-loop ใช้ตัดสินว่าควรเชื่อรอบนี้หรือไม่

ตัวอย่างจากบทสนทนาจริง

หัวหน้าทีมปฏิบัติการ: เดือนนี้มีเคสหลุดไปสองเคส ทั้งคู่ผ่านการอนุมัติของทีมเราทั้งนั้น ตอนกดผ่านมีใครเปิดเอกสารแนบอ่านบ้างครับ

เจ้าหน้าที่วิเคราะห์: ตามตรงคือไม่ได้เปิดค่ะ ระบบสรุปมาว่าข้อมูลครบ แล้วก็ไม่ได้ขึ้นธงเตือนอะไรสักอัน วันนั้นคิวมีสองร้อยกว่าเคส เลยอ่านแค่บรรทัดสรุปแล้วกดผ่าน

หัวหน้าทีมปฏิบัติการ: อันนี้แหละที่เขาเรียกว่า automation bias เคสแรกคือระบบสรุปตัวเลขผิดแล้วเราทำตาม เคสที่สองหนักกว่า เพราะระบบไม่ได้เตือนอะไรเลย เราเลยไม่ได้มอง ทั้งที่เอกสารมันขาดอยู่จริง

ฝ่ายตรวจสอบภายใน: งั้นเดือนหน้าตั้งเพดานไว้ไหมคะว่าห้ามอนุมัติเกินวันละกี่เคส

หัวหน้าทีมปฏิบัติการ: ผมว่าจำนวนอย่างเดียวไม่พอครับ ต้องมีเคสที่บังคับให้เปิดของจริงด้วย เช่น สุ่มคิวมาส่วนหนึ่งแล้วให้คนตัดสินก่อนเห็นข้อสรุปของระบบ จะได้รู้ว่าถ้าเราคิดเองจะได้คำตอบเดียวกันไหม แล้วค่อยเอาสองอันมาเทียบกัน

ระวังสับสนกับ

• ai-bias : ai-bias คืออคติที่อยู่ในตัว model ซึ่งเกิดจากข้อมูลที่ใช้เทรนหรือวิธีสร้าง ทำให้ผลลัพธ์เอียงไปทางใดทางหนึ่งอย่างเป็นระบบ ส่วน automation bias คืออคติที่อยู่ในตัวคน คือแม้ model จะตอบถูกตามมาตรฐานที่วัดได้ คนก็ยังเลิกตรวจสอบเพราะเชื่อว่าเครื่องแม่นกว่าตัวเองอยู่ดี แก้อย่างแรกด้วยการปรับ model แก้อย่างหลังด้วยการปรับขั้นตอนการทำงานของคน
• sycophancy : sycophancy คืออาการที่ model เออออตามคน ยอมเปลี่ยนคำตอบตามที่ผู้ใช้อยากได้ ซึ่งเป็นทิศตรงข้ามกับ automation bias ที่คนเป็นฝ่ายเออออตามเครื่อง แต่สองอย่างนี้มาประกบกันได้ในบทสนทนาเดียว คือคนดันคำตอบไปทางที่ตัวเองอยากเห็น model ยอมตาม แล้วคนก็เอาคำตอบที่ตัวเองดันไปนั่นแหละมาอ้างเป็นการยืนยันจากระบบ
• approval-fatigue : approval-fatigue คือกลไกในทางปฏิบัติที่ทำให้เกิดอาการนี้ เมื่อคิวงานที่ต้องกดอนุมัติยาวเกินกำลัง การตรวจก็ตื้นลงเรื่อยๆ จนเหลือแค่การกดผ่าน automation bias เป็นชื่อของอคติ ส่วน approval fatigue เป็นชื่อของสภาพงานที่เร่งให้อคตินั้นออกฤทธิ์
• automated-review : automated-review คือการให้ระบบตรวจงานแทนคนในบางขั้น ซึ่งเป็นเครื่องมือ ไม่ใช่อคติ ความเสี่ยงคือถ้าเอา automated review ไปวางไว้เป็นด่านสุดท้ายโดยไม่มีการสุ่มตรวจโดยคน ด่านนั้นจะกลายเป็นแหล่งผลิต errors of omission พอดี เพราะไม่มีใครรู้เลยว่าสิ่งที่ระบบไม่ได้ทักคืออะไรบ้าง