Explainable AI

Explainable AI หรือ XAI คือกลุ่มวิธีที่ทำให้มนุษย์กำกับดูแลอัลกอริทึม AI ได้ด้วยความเข้าใจ โดยมุ่งทำให้เหตุผลเบื้องหลังการตัดสินใจโปร่งใสและเข้าใจได้ แทนที่จะทำงานเป็นกล่องดำที่ไม่มีใครรู้ว่าข้างในเกิดอะไรขึ้น คำถามที่สาขานี้พยายามตอบคือเมื่อระบบปฏิเสธคำขอสินเชื่อของใครสักคน เราบอกได้ไหมว่าเพราะอะไร

เหตุผลที่เรื่องนี้สำคัญเป็นพิเศษอยู่ที่งานที่มีความเสี่ยงสูงและมีกฎหมายกำกับ ทั้งการแพทย์ การเงิน และกระบวนการยุติธรรม ซึ่งความโปร่งใสเป็นสิ่งจำเป็น กฎหมายคุ้มครองข้อมูลของสหภาพยุโรปกำหนดสิทธิที่จะได้รับคำอธิบายสำหรับการตัดสินใจโดยอัลกอริทึม บนหลักที่ว่าผู้ใช้ต้องเข้าใจได้ว่าระบบส่งผลต่อตัวเองอย่างไร กรอบความรับผิดชอบนี้ช่วยสร้างความไว้วางใจที่มีเหตุผลรองรับ ไม่ใช่ความไว้วางใจแบบเชื่อไปก่อน

ข้อจำกัดที่ต้องพูดให้ตรงคือมันมีเพดาน เอกสารระบุว่า XAI เป็นการบีบอัดแบบสูญเสียข้อมูล และยิ่งโมเดลใหญ่ขึ้นก็ยิ่งได้ผลน้อยลง ระบบการเรียนรู้เชิงลึกที่ซับซ้อนต้านทานการอธิบายอย่างครบถ้วนโดยธรรมชาติ เพราะจำนวนพารามิเตอร์ที่มหาศาลทำให้ความโปร่งใสแบบสมบูรณ์เป็นไปไม่ได้ในเชิงทฤษฎี และมีข้อสังเกตเพิ่มว่าคำอธิบายที่ละเอียดก็ไม่ได้ทำให้ผู้ใช้ไว้ใจมากขึ้นโดยอัตโนมัติ สำหรับองค์กรไทยที่อยู่ในภาคที่มีผู้กำกับดูแล สิ่งที่ควรทำคืออย่ารอให้อธิบายได้ครบก่อนแล้วค่อยใช้ เพราะจะไม่มีวันนั้น แต่ให้ออกแบบกระบวนการรอบตัวโมเดลแทน คือบันทึกว่าตัดสินอะไรจากข้อมูลชุดไหน ใครเป็นคนอนุมัติ และมีช่องทางให้ผู้ได้รับผลกระทบอุทธรณ์กับคนจริงได้ ซึ่งเป็นสิ่งที่ผู้กำกับดูแลถามหาจริงมากกว่าคำอธิบายเชิงเทคนิคว่าโมเดลคิดอย่างไร งานสาขานี้ยังทับซ้อนกับงานด้าน ai-safety ในส่วนที่ว่าด้วยการตรวจสอบและทำให้ระบบโปร่งใสพอจะเฝ้าระวังได้

ตัวอย่างจากบทสนทนาจริง

ฝ่ายกำกับ: "ผู้กำกับดูแลถามว่าถ้าเราใช้ AI ช่วยคัดกรองใบสมัครสินเชื่อ เราอธิบายได้ไหมว่าทำไมรายนี้ถึงถูกปฏิเสธคะ"

หัวหน้าฝ่ายข้อมูล: "อธิบายได้ระดับหนึ่งครับแต่ไม่ถึงขั้นชี้ได้ว่าตัวเลขไหนในโมเดลทำให้ผลออกมาแบบนี้ ซึ่งเป็นข้อจำกัดของโมเดลซับซ้อนทุกตัว สิ่งที่ผมเสนอคือสองชั้น ชั้นแรกใช้เครื่องมือที่บอกได้ว่าปัจจัยไหนมีน้ำหนักมากที่สุดในเคสนั้น ชั้นที่สองซึ่งสำคัญกว่าคือกำหนดให้ AI เป็นแค่ผู้ช่วยจัดลำดับ ส่วนการปฏิเสธจริงต้องมีคนตัดสินและบันทึกเหตุผลไว้ แบบนี้เราตอบผู้กำกับได้ว่ามีคนรับผิดชอบทุกเคส ซึ่งเป็นสิ่งที่เขาถามหาจริงครับ"

ระวังสับสนกับ

• model-card : model card คือเอกสารที่อธิบายภาพรวมของโมเดลว่าเทรนมาอย่างไรและมีข้อจำกัดอะไร ซึ่งอธิบายที่ระดับโมเดล ส่วน explainable AI มุ่งอธิบายการตัดสินใจรายกรณีว่าทำไมเคสนี้ถึงได้ผลแบบนี้
• chain-of-thought : chain of thought คือข้อความที่โมเดลเขียนอธิบายขั้นตอนคิดของตัวเอง ซึ่งดูเหมือนคำอธิบาย แต่มีงานวิจัยชี้ว่าข้อความนั้นอาจไม่ตรงกับกระบวนการที่เกิดขึ้นจริงข้างในโมเดล จึงใช้แทนคำอธิบายที่ตรวจสอบได้ไม่ได้
• ai-governance : AI governance คือกระบวนการกำกับดูแลการใช้ AI ในองค์กรทั้งระบบ ส่วน explainable AI เป็นเครื่องมือทางเทคนิคชิ้นหนึ่งที่ใช้ประกอบกระบวนการนั้น และไม่ใช่ชิ้นที่สำคัญที่สุดเสมอไป