AI Bias

AI Bias (อคติของ AI) คือความเอนเอียงอย่างเป็นระบบของระบบ ai ที่ทำให้ผลลัพธ์ออกมา "ไม่แฟร์" กับคนบางกลุ่มซ้ำแล้วซ้ำอีก เช่น ระบบคัดใบสมัครที่ให้คะแนนผู้หญิงต่ำกว่าผู้ชายทั้งที่คุณสมบัติพอกัน จุดสำคัญคือมันไม่ใช่ความผิดพลาดแบบสุ่ม แต่เป็นความผิดพลาดที่เทไปทางเดิมตลอด เพราะ model เรียนรู้แพทเทิร์นจาก dataset ที่มนุษย์เป็นคนรวบรวมและคัดเลือก ซึ่งมักแบกประวัติศาสตร์ความเหลื่อมล้ำและอคติของสังคมติดมาด้วย เมื่อโมเดลผ่านการ training ด้วยข้อมูลแบบนั้น มันก็ทำซ้ำอคติเดิมได้ในสเกลที่ใหญ่และเร็วกว่ามนุษย์มาก

อคติไหลเข้าระบบได้หลายทาง: จากข้อมูลที่ไม่ครอบคลุมคนทุกกลุ่ม จากการตัดสินใจออกแบบของทีมพัฒนา และจาก feedback loop เช่น ระบบ predictive policing ที่ส่งตำรวจไปพื้นที่ที่มีรายงานคดีเยอะ พอตำรวจไปเยอะก็ยิ่งพบคดีเยอะ ข้อมูลใหม่ก็ยิ่งตอกย้ำให้ระบบส่งตำรวจไปที่เดิมอีก · NIST เปรียบปัญหานี้เป็นภูเขาน้ำแข็ง: ส่วนที่โผล่พ้นน้ำคือ bias เชิงสถิติและการคำนวณในข้อมูล แต่ใต้น้ำยังมี human bias (วิธีที่คนตีความและใช้ผลลัพธ์) และ systemic bias (แนวปฏิบัติของสถาบันและสังคมที่เอื้อบางกลุ่มมานาน) การแก้จึงต้องใช้มุมมอง socio-technical คือมองทั้งระบบสังคมรอบตัว AI ไม่ใช่แก้แค่โค้ด

เคสจริงที่ถูกบันทึกไว้มีตั้งแต่เครื่องมือคัดเรซูเม่ของ Amazon (2015) ที่กดคะแนนใบสมัครที่มีคำว่า "women's" จนบริษัทต้องเลิกใช้ · งานวิจัยปี 2018 ที่พบว่าระบบ facial recognition เชิงพาณิชย์ผิดพลาดกับผู้หญิงผิวเข้มถึง 35% แต่ผิดกับผู้ชายผิวขาวไม่ถึง 1% · ไปจนถึงระบบประเมินความเสี่ยงในกระบวนการยุติธรรมสหรัฐฯ (COMPAS) ที่ ProPublica พบว่าติดป้าย "เสี่ยงสูง" ให้จำเลยผิวดำผิดพลาดบ่อยกว่าจำเลยผิวขาวราวสองเท่า · เรื่องนี้สำคัญกับคนทำงานทุกสาย ไม่ใช่แค่ developer เพราะ AI ถูกใช้ตัดสินเรื่องที่กระทบชีวิตคนจริง: คัดคนเข้างาน อนุมัติสินเชื่อ จัดสรรการรักษาพยาบาล และเรามักเผลอเชื่อว่าผลจากคอมพิวเตอร์ "เป็นกลาง" ทั้งที่ไม่จริง แนวทางป้องกันที่วงการใช้คือ audit ผลลัพธ์แยกตามกลุ่มคน สร้างทีมพัฒนาที่หลากหลาย ให้มนุษย์ร่วมตัดสินใจแบบ human-in-the-loop และทำตามกรอบอย่าง nist-ai-rmf หรือกฎหมายอย่าง eu-ai-act ซึ่งทั้งหมดเป็นหัวใจของ responsible-ai

ตัวอย่างจากบทสนทนาจริง

ผู้จัดการฝ่ายบุคคล: ปีนี้เราจะเอา AI มาช่วยคัดใบสมัครรอบแรกค่ะ น่าจะแฟร์ขึ้นเยอะ เพราะคอมพิวเตอร์ไม่มีอารมณ์ ไม่ลำเอียงเหมือนคนสัมภาษณ์

วิทยากร: ต้องระวังครับ ถ้าเทรนระบบด้วยประวัติการรับคนของบริษัทเราเอง ซึ่งสิบปีที่ผ่านมารับผู้ชายสายวิศวะเป็นส่วนใหญ่ ระบบจะเรียนแพทเทิร์นนั้นแล้วกดคะแนนผู้สมัครกลุ่มอื่นโดยที่เราไม่รู้ตัว นี่คือ AI Bias : ระบบหน้าตาเป็นกลางแต่ทำซ้ำอคติเดิมในสเกลใหญ่กว่าเดิม บริษัทเทคระดับโลกยังเคยพลาดจนต้องถอดระบบทิ้งมาแล้ว ใช้ได้ครับ แต่ต้องวัดผลลัพธ์แยกตามกลุ่มผู้สมัครเป็นระยะ และให้คนเป็นผู้ตัดสินใจขั้นสุดท้ายเสมอ

ระวังสับสนกับ

• hallucination : hallucination คือการที่โมเดลแต่งข้อมูลที่ผิดจากข้อเท็จจริงออกมาแบบคาดเดายาก เป็นครั้งเป็นคราว ส่วน AI Bias คือความเอนเอียงที่ผิดซ้ำไปทางเดิมอย่างเป็นระบบ คำตอบอาจตรงกับข้อมูลเทรนเป๊ะ แต่ตัวข้อมูลนั้นเองไม่เป็นธรรมตั้งแต่ต้น
• alignment : alignment คือโจทย์ที่กว้างกว่า: ทำอย่างไรให้ AI ทำตามเจตนาและคุณค่าของมนุษย์โดยรวม ส่วน bias เป็นปัญหาย่อยหนึ่งในนั้นที่เจาะจงเรื่องความไม่เป็นธรรมต่อคนบางกลุ่ม