Automation bias

Automation bias คือแนวโน้มที่คนจะเชื่อผลลัพธ์ของระบบอัตโนมัติมากเกินไป จนเอาสิ่งที่ระบบบอกมาใช้แทนการหาข้อมูลและคิดตรวจทานด้วยตัวเอง บทความปริทัศน์ Automation bias: a systematic review of frequency, effect mediators, and mitigators ของ Kate Goddard, Abdul Roudsari และ Jeremy C Wyatt ที่ตีพิมพ์ในวารสาร Journal of the American Medical Informatics Association ปี 2012 นิยามอาการนี้ไว้ว่าเป็นแนวโน้มที่จะยอมรับผลลัพธ์ของคอมพิวเตอร์มากเกินไป ในฐานะตัวแทนแบบลัดขั้นตอนของการค้นหาและประมวลข้อมูลอย่างระแวดระวัง จุดที่ทำให้คำนี้ใช้งานได้จริงคือมันแตกออกเป็นสองอาการ บทความเดียวกันเขียนว่าในการใช้ระบบช่วยตัดสินใจทางคลินิกหรือ CDSS นั้น automation bias แสดงออกเป็น errors of commission ซึ่งคือการทำตามคำแนะนำที่ผิด และ errors of omission ซึ่งคือการไม่ลงมือทำเพราะไม่ถูกกระตุ้นให้ทำ อาการแรกคือเชื่อสิ่งที่ระบบพูด อาการหลังคือเชื่อความเงียบของระบบ และอาการหลังมักจับได้ยากกว่าในทางปฏิบัติ เพราะไม่มีร่องรอยว่าเคยมีใครตัดสินใจอะไรลงไป

ขนาดของผลไม่ได้อยู่แค่ในทฤษฎี งานปริทัศน์ฉบับเดียวกันคัดกรองจากงานที่ค้นมาได้ 13,821 ชิ้น เหลืองานที่เข้าเกณฑ์ 74 ชิ้น ในจำนวนนี้มีงานด้านสุขภาพเพียง 4 ชิ้นที่วัดสิ่งเดียวกันมากพอจะนำมารวมกันได้ ผู้เขียนจึงนำผลของสี่ชิ้นนั้นมารวมเป็นการวิเคราะห์อภิมานขนาดเล็กที่ตัวผู้เขียนเองกำกับไว้ว่าเป็นเพียงการชี้ทิศทาง ได้ค่า risk ratio อยู่ที่ 1.26 โดยมีช่วงความเชื่อมั่น 95% ระหว่าง 1.11 ถึง 1.44 หมายความว่าคำแนะนำที่ผิดถูกทำตามในกลุ่มที่ใช้ CDSS มากกว่ากลุ่มควบคุม และเมื่อระบบแนะนำผิด CDSS เพิ่มความเสี่ยงที่จะเกิดการตัดสินใจผิดขึ้น 26% สิ่งที่งานชิ้นนี้พบว่าเป็นตัวแปรกำกับก็ตรงกับสัญชาตญาณของคนทำงาน โดยรายงานจากงานทดลองแบบทำหลายงานพร้อมกันสามชิ้นว่าความมั่นใจในคำตอบของตัวเองที่เพิ่มขึ้นทำให้พึ่งพาตัวช่วยภายนอกน้อยลง ขณะที่ความไว้ใจในตัว DSS ทำให้พึ่งพามากขึ้น และผู้เขียนระบุว่าความไว้ใจอาจเป็นปัจจัยขับเคลื่อนที่แรงที่สุดของการพึ่งพาเกินพอดี ในกรณีที่ความไว้ใจถูกปรับเทียบไว้ไม่ตรงกับความน่าเชื่อถือจริงของระบบ อีกข้อที่ควรอ่านให้ครบประโยคคือเรื่องประสบการณ์ บทความเขียนว่า automation bias เกิดบ่อยกว่าในผู้ใช้ที่ยังไม่ชำนาญงานนั้น แต่เกิดกับผู้ใช้ที่มีประสบการณ์มากกว่าได้เช่นกัน ส่วนทางแก้ที่มีหลักฐานรองรับนั้นมาแบบมีเงื่อนไข บทความระบุว่าการฝึกอบรมอาจเพิ่มโอกาสที่คนจะจับได้ว่า DSS แนะนำผิด และช่วยลด automation bias โดยเฉพาะ commission errors แต่บทความเดียวกันก็อ้างอีกงานหนึ่งที่ชี้ว่าการฝึกอบรมไม่มีผลต่ออาการนี้ อีกทางที่บทความยกมาคืองานทดลองหนึ่งชิ้นของ McGuirl และ Sarter ที่พบว่าการอัปเดตระดับความมั่นใจของ DSS ไปพร้อมกับคำแนะนำแต่ละชิ้น แทนการประกาศค่าความมั่นใจรวมค่าเดียวตายตัวของทั้งระบบ ช่วยให้การพึ่งพาของผู้ใช้เหมาะสมขึ้นและลด automation bias ลงได้

สำหรับคนที่กด approve งานของ AI ทุกวัน เรื่องนี้เข้ามาถึงโต๊ะทำงานสองทาง ทางแรกคือทางกฎหมาย มาตรา 14 ว่าด้วย human oversight ของ eu-ai-act เขียนคำนี้ไว้ในตัวบทตรงๆ วรรค 4 กำหนดว่าระบบ AI ความเสี่ยงสูงต้องส่งมอบให้ผู้นำไปใช้งานในแบบที่คนซึ่งได้รับมอบหมายให้กำกับดูแลทำสิ่งต่อไปนี้ได้ตามสมควรและได้สัดส่วนกับสถานการณ์ ข้อ b คือรู้ทันแนวโน้มที่จะพึ่งพาผลลัพธ์ของระบบโดยอัตโนมัติหรือมากเกินไป ซึ่งเรียกว่า automation bias โดยเฉพาะระบบที่ให้ข้อมูลหรือคำแนะนำประกอบการตัดสินใจของบุคคลธรรมดา ข้อ d คือตัดสินใจในสถานการณ์หนึ่งๆ ว่าจะไม่ใช้ระบบนั้น หรือเพิกเฉย ลบล้าง หรือกลับผลลัพธ์ที่ได้ พูดอีกแบบคือกฎหมายมองว่าปุ่มปฏิเสธที่กดได้จริงคือส่วนหนึ่งของการออกแบบระบบ ไม่ใช่มารยาทของคนใช้ ส่วนกำหนดเวลา Regulation (EU) 2026/1744 หรือ Digital Omnibus on AI ประกาศใน Official Journal เมื่อ 24 กรกฎาคม 2026 และมีผล 27 กรกฎาคม 2026 ไม่ได้แก้ถ้อยคำมาตรา 14 แต่เลื่อนวันบังคับใช้ข้อผูกพันของระบบความเสี่ยงสูงตาม Annex III จาก 2 สิงหาคม 2026 ไปเป็น 2 ธันวาคม 2027 และกำหนดวันบังคับใช้ของระบบตาม Annex I ไว้ที่ 2 สิงหาคม 2028 ทางที่สองคือหลักฐานใหม่เรื่องพฤติกรรมการรับคำแนะนำจาก AI Lennart Luettgau และคณะ ทดลองแบบสุ่มมีกลุ่มควบคุมระยะยาวกับกลุ่มตัวอย่างตัวแทนประชากรสหราชอาณาจักร 6,474 คน ให้คุยเรื่องสุขภาพ อาชีพ หรือความสัมพันธ์ 20 นาที กับ chatbot หนึ่งในสามตัวคือ GPT-4o, LLama-3.3-70B และ Gemini 3 Pro ผลคือผู้เข้าร่วมมากถึง 79% รายงานภายหลังว่าทำตามคำแนะนำนั้น และยังเหนือ 60% แม้กับคำแนะนำเดิมพันสูงหรือ high-stakes ผู้เขียนตีความว่าผู้ใช้ปรับการพึ่งพา AI ตามผลที่อาจตามมาได้เพียงอ่อนๆ ตัวเลขนี้ต้องอ่านคู่กับอีกสองข้อค้นพบของงานเดียวกัน คือการประเมินบทสนทนาอัตโนมัติพบว่าคำแนะนำของ LLM แทบไม่ละเมิดแนวปฏิบัติด้านความปลอดภัย และเมื่อสอบถามซ้ำอีก 2 ถึง 3 สัปดาห์ กลุ่มที่ได้คำแนะนำส่วนตัวไม่ได้มีความเป็นอยู่ดีขึ้นต่อเนื่องกว่ากลุ่มควบคุมที่คุยเรื่องงานอดิเรกกับ chatbot ตัวเดียวกัน ประเด็นจึงอยู่ที่ระดับการทำตามคำแนะนำที่สูงมาก ไม่ใช่ความอันตรายของตัวคำแนะนำ ข้อควรระวังคืองานนี้เป็น preprint ที่ยังไม่ผ่าน peer review ขึ้น arXiv ครั้งแรกเมื่อ 19 พฤศจิกายน 2025 และปรับปรุงล่าสุด 17 เมษายน 2026 และวัดคำแนะนำเรื่องส่วนตัวจากการรายงานด้วยตนเอง ไม่ใช่คิวอนุมัติงานในออฟฟิศ จึงเทียบเคียงได้แต่ไม่ใช่หลักฐานตรงของงานประจำ ส่วนข่าวร้ายสำหรับคนที่หวังพึ่งคำเตือนข้างคำตอบคือ งานทดลองออนไลน์แบบสุ่มของ Jessica Y. Bo, Sophia Wan และ Ashton Anderson ขึ้น arXiv เมื่อ 20 ธันวาคม 2024 ตีพิมพ์ในงานประชุมวิชาการ CHI 2025 ให้ผู้เข้าร่วม 400 คนทำโจทย์ยากสองแบบคือตรรกะแบบ LSAT และประมาณค่าตัวเลขจากภาพ แล้ววัดมาตรการสามแบบที่ปรับวิธีนำเสนอคำแนะนำของ LLM ไม่ใช่การอบรมผู้ใช้ ได้แก่ ติดคำเตือนให้ไปตรวจสอบซ้ำ ไฮไลต์ส่วนที่โมเดลไม่มั่นใจ และบอกใบ้คำตอบโดยไม่ระบุตรงๆ ผลที่รายงานคือมาตรการเหล่านั้นลดการพึ่งพาเกินพอดีได้ แต่โดยทั่วไปไม่ช่วยให้การพึ่งพาเหมาะสมขึ้น เมื่อการปรับวิธีนำเสนอคำแนะนำยังไม่พอ สิ่งที่เหลือให้ทำคือออกแบบขั้นตอนงานให้การตรวจเกิดเองโดยไม่ต้องอาศัยวินัยส่วนบุคคล เช่น สุ่มคิวบางส่วนมาให้คนตัดสินก่อนเห็นข้อสรุปของระบบ บังคับเปิดเอกสารต้นทางในงานบางประเภท และแยกให้ชัดว่ารีวิวรอบนั้นเป็น human-review จริงหรือแค่กดยืนยัน การรู้ว่าโมเดลสร้าง hallucination ได้ยังไม่พอ เพราะ automation bias ออกฤทธิ์ตอนที่เรารู้อยู่แล้วว่าระบบผิดพลาดได้ แต่ยังกดผ่าน สิ่งที่ต้องสร้างจึงเป็น ai-literacy ระดับกระบวนการ ควบคู่กับ คำอธิบายที่ตรวจสอบได้ ให้คนที่นั่ง human-in-the-loop ตัดสินว่าควรเชื่อรอบนี้หรือไม่

ตัวอย่างจากบทสนทนาจริง

หัวหน้าทีมปฏิบัติการ: เดือนนี้มีเคสหลุดไปสองเคส ทั้งคู่ผ่านการอนุมัติของทีมเราทั้งนั้น ตอนกดผ่านมีใครเปิดเอกสารแนบอ่านบ้างครับ

เจ้าหน้าที่วิเคราะห์: ตามตรงคือไม่ได้เปิดค่ะ ระบบสรุปมาว่าข้อมูลครบ แล้วก็ไม่ได้ขึ้นธงเตือนอะไรสักอัน วันนั้นคิวมีสองร้อยกว่าเคส เลยอ่านแค่บรรทัดสรุปแล้วกดผ่าน

หัวหน้าทีมปฏิบัติการ: อันนี้แหละที่เขาเรียกว่า automation bias เคสแรกคือระบบสรุปตัวเลขผิดแล้วเราทำตาม เคสที่สองหนักกว่า เพราะระบบไม่ได้เตือนอะไรเลย เราเลยไม่ได้มอง ทั้งที่เอกสารมันขาดอยู่จริง

ฝ่ายตรวจสอบภายใน: งั้นเดือนหน้าตั้งเพดานไว้ไหมคะว่าห้ามอนุมัติเกินวันละกี่เคส

หัวหน้าทีมปฏิบัติการ: ผมว่าจำนวนอย่างเดียวไม่พอครับ ต้องมีเคสที่บังคับให้เปิดของจริงด้วย เช่น สุ่มคิวมาส่วนหนึ่งแล้วให้คนตัดสินก่อนเห็นข้อสรุปของระบบ จะได้รู้ว่าถ้าเราคิดเองจะได้คำตอบเดียวกันไหม แล้วค่อยเอาสองอันมาเทียบกัน

ระวังสับสนกับ

• ai-bias : ai-bias คืออคติที่อยู่ในตัว model ซึ่งเกิดจากข้อมูลที่ใช้เทรนหรือวิธีสร้าง ทำให้ผลลัพธ์เอียงไปทางใดทางหนึ่งอย่างเป็นระบบ ส่วน automation bias คืออคติที่อยู่ในตัวคน คือแม้ model จะตอบถูกตามมาตรฐานที่วัดได้ คนก็ยังเลิกตรวจสอบเพราะเชื่อว่าเครื่องแม่นกว่าตัวเองอยู่ดี แก้อย่างแรกด้วยการปรับ model แก้อย่างหลังด้วยการปรับขั้นตอนการทำงานของคน
• sycophancy : sycophancy คืออาการที่ model เออออตามคน ยอมเปลี่ยนคำตอบตามที่ผู้ใช้อยากได้ ซึ่งเป็นทิศตรงข้ามกับ automation bias ที่คนเป็นฝ่ายเออออตามเครื่อง แต่สองอย่างนี้มาประกบกันได้ในบทสนทนาเดียว คือคนดันคำตอบไปทางที่ตัวเองอยากเห็น model ยอมตาม แล้วคนก็เอาคำตอบที่ตัวเองดันไปนั่นแหละมาอ้างเป็นการยืนยันจากระบบ
• approval-fatigue : approval-fatigue คือกลไกในทางปฏิบัติที่ทำให้เกิดอาการนี้ เมื่อคิวงานที่ต้องกดอนุมัติยาวเกินกำลัง การตรวจก็ตื้นลงเรื่อยๆ จนเหลือแค่การกดผ่าน automation bias เป็นชื่อของอคติ ส่วน approval fatigue เป็นชื่อของสภาพงานที่เร่งให้อคตินั้นออกฤทธิ์
• automated-review : automated-review คือการให้ระบบตรวจงานแทนคนในบางขั้น ซึ่งเป็นเครื่องมือ ไม่ใช่อคติ ความเสี่ยงคือถ้าเอา automated review ไปวางไว้เป็นด่านสุดท้ายโดยไม่มีการสุ่มตรวจโดยคน ด่านนั้นจะกลายเป็นแหล่งผลิต errors of omission พอดี เพราะไม่มีใครรู้เลยว่าสิ่งที่ระบบไม่ได้ทักคืออะไรบ้าง