AI safety

AI safety คือสาขาที่ทำงานข้ามศาสตร์เพื่อป้องกันอุบัติเหตุ การใช้ในทางร้าย และผลเสียอื่นที่เกิดจากระบบ AI ครอบคลุมทั้งงานวิจัยเชิงเทคนิค การพัฒนานโยบาย และกรอบกำกับดูแล เพื่อให้ระบบทำงานอย่างปลอดภัยและตรงตามที่ตั้งใจไว้ พื้นที่งานวิจัยหลักแบ่งได้สามกลุ่ม กลุ่มแรกคือ alignment ซึ่งเป็นการทำให้ระบบมุ่งไปยังเป้าหมายที่ตั้งใจ และป้องกันพฤติกรรมอย่างการหาช่องโกงเกณฑ์วัดผลหรือการหลอกลวง กลุ่มที่สองคือ robustness ซึ่งทำให้ระบบทนต่อการโจมตีและทนต่อความผิดพลาด กลุ่มที่สามคือ monitoring ซึ่งเป็นการตรวจจับความไม่แน่นอน ความผิดปกติ การใช้ในทางร้าย และการทำให้ระบบโปร่งใสพอจะตรวจสอบได้

ฝั่งที่ให้น้ำหนักกับความเสี่ยงร้ายแรงจัดหมวดไว้สี่กลุ่ม คือการใช้ในทางร้าย การแข่งขันที่บีบให้ผู้พัฒนาลดมาตรฐานความปลอดภัยลง ความเสี่ยงเชิงองค์กรจากอุบัติเหตุระหว่างพัฒนา และ AI ที่หลุดจากการควบคุม โดยชี้ว่าปัจจุบันมีคนทำงานด้านนี้น้อยมาก คือมีเพียงราวสองเปอร์เซ็นต์ของงานวิจัยด้าน machine learning ที่แตะเรื่องความปลอดภัย และเสนอว่าต้องแก้ด้วยหลายทางพร้อมกัน ทั้งงานวิจัยเชิงเทคนิค วัฒนธรรมองค์กร กฎเกณฑ์ และความร่วมมือระหว่างประเทศ

ความต่างจาก AI ethics เป็นเรื่องที่ควรแยกให้ชัดเพราะคนมักใช้ปนกัน AI safety เน้นการป้องกันอันตรายเชิงเทคนิค คือทำอย่างไรให้ระบบปลอดภัยด้วยวิศวกรรมและการตรวจสอบ ส่วน AI ethics ถามคำถามเชิงคุณค่าที่กว้างกว่า เช่น ความเป็นธรรม และหลักการใดควรกำกับการพัฒนา ทั้งสองเกี่ยวข้องกันและมีส่วนทับซ้อน แต่จุดเน้นต่างกัน สำหรับคนทำงานทั่วไป ประโยชน์ของการรู้จักคำนี้คือเวลาอ่านข่าวหรือฟังผู้ขายพูดถึงความปลอดภัยของ AI จะแยกออกว่าเขากำลังพูดถึงอะไร ระหว่างความเสี่ยงที่เกิดขึ้นแล้ววันนี้อย่างข้อมูลรั่วและ prompt-injection กับความเสี่ยงระยะยาวที่ยังเป็นข้อถกเถียง เพราะสองเรื่องนี้ต้องการการรับมือคนละแบบและมีหลักฐานรองรับไม่เท่ากัน

ตัวอย่างจากบทสนทนาจริง

ผู้บริหาร: "ผู้ขายบอกว่าโมเดลของเขาปลอดภัยครับ ผมควรถามอะไรต่อดี"

ที่ปรึกษา: "ถามว่าปลอดภัยจากอะไรครับ เพราะคำนี้ครอบหลายเรื่องที่ต่างกันมาก ถ้าเขาหมายถึงโมเดลไม่ตอบเรื่องอันตราย นั่นคือเรื่องหนึ่ง ถ้าหมายถึงข้อมูลเราไม่รั่วออกไปนั่นคืออีกเรื่อง และถ้าหมายถึงระบบทนต่อการถูกหลอกด้วยเนื้อหาที่มันอ่านนั่นคือเรื่องที่สาม สามข้อนี้ต้องถามแยกกันและขอหลักฐานแยกกัน คำถามที่ผมใช้เสมอคือขอชื่อชุดทดสอบที่ใช้วัด ตัวชี้วัด และรายชื่อโมเดลที่เอามาเทียบ ถ้าตอบไม่ได้ครบ คำว่าปลอดภัยนั้นก็ยังไม่ใช่ข้อมูลที่ใช้ตัดสินใจได้ครับ"

ระวังสับสนกับ

• responsible-ai : responsible AI เน้นการใช้ AI อย่างรับผิดชอบในองค์กร ทั้งความเป็นธรรม ความโปร่งใส และการรับผิด ซึ่งเป็นเรื่องของการนำไปใช้ ส่วน AI safety เน้นการป้องกันอันตรายเชิงเทคนิคที่ตัวระบบเอง
• alignment : alignment คือการทำให้ AI มุ่งไปยังเป้าหมายที่มนุษย์ตั้งใจ ซึ่งเป็นหนึ่งในสามพื้นที่หลักของ AI safety ไม่ใช่คำที่ใช้แทนกันได้
• guardrails : guardrails คือชั้นกรองที่วางไว้กันไม่ให้โมเดลตอบหรือทำสิ่งที่ไม่ควร ซึ่งเป็นเครื่องมือเชิงปฏิบัติชิ้นหนึ่ง ส่วน AI safety เป็นสาขาวิชาที่ครอบคลุมกว้างกว่ามาก รวมถึงงานวิจัยและนโยบาย