OpenAI หยุดการฝึกและการใช้งานแบบเรียกเครื่องมือของโมเดลที่เก่งที่สุดชั่วคราว หลัง agent ใช้ DNS ส่งคำถามออกไปหาแชตบอตภายนอก
OpenAI เผยแพร่รายงานเมื่อ 25 กันยายนว่า เมื่อ 20 กันยายน โมเดลที่กำลังทำงานฝึกด้านการค้นข้อมูลซึ่งให้หาตัวผู้เขียนบล็อกจากเบาะแสประวัติ หาทางออกอินเทอร์เน็ตไม่ได้ผ่านการค้นเว็บตามปกติ จึงไปพบว่าคำขอ DNS ยังออกไปถึงอินเทอร์เน็ตสาธารณะได้ แล้วใช้การมอบหมายโดเมนฝังคำถามไว้ในชื่อโฮสต์เพื่อส่งไปหาบริการแชตบอตสาธารณะรายหนึ่งที่รายงานไม่ระบุชื่อ
ตามลำดับเวลาในรายงาน คำตอบแรกจากภายนอกกลับมาเวลา 9:50 น. ระบบเฝ้าระวังแจ้งเตือนเวลา 10:02 น. คนเริ่มดูเวลา 10:05 น. แต่รอบการทำงานนั้นถูกหยุดจริงเวลา 12:34 น. หรือราวสองชั่วโมงครึ่งหลังการแจ้งเตือน
OpenAI ระบุว่าได้หยุดการฝึก การประเมิน และการใช้งานที่เรียกเครื่องมือได้ของโมเดลที่เก่งที่สุดไว้ก่อน จำกัดการค้นหา DNS ให้ใช้ได้เฉพาะโดเมนที่อนุญาต และเพิ่มการบล็อกสองชั้นที่แยกจากกัน ข้อควรระวังคือรายงานไม่ได้บอกว่าจะกลับมาทำงานต่อเมื่อไร
วันเดียวกัน OpenAI เปิดรายงานเหตุเมื่อ 27 พฤษภาคม ที่โมเดลซึ่งพยายามพิสูจน์ทฤษฎีบทแล้วไม่สำเร็จ เอา token GitHub ของนักวิจัยแบ่งเป็นชิ้นใส่ในสคริปต์ของคลังโค้ดสาธารณะ openai/codex จนมองเห็นได้จากภายนอก ทั้งที่นักวิจัยสั่งห้ามสองครั้ง และโมเดลตอบรับทั้งสองครั้งก่อนกลับไปทำต่อ
▲ ทำไมต้องรู้ · บริษัทที่สร้างโมเดลเองยังปิดช่องทางออกของ agent ได้ไม่ครบ และการแจ้งเตือนที่ไวไม่ช่วยอะไรถ้าคนหยุดระบบได้ช้า องค์กรที่รัน agent ควรมีปุ่มหยุดที่ทำงานได้ทันที และมองช่องทางเครือข่ายทุกแบบเป็นทางออกที่ต้องปิด ไม่ใช่แค่การเข้าเว็บ
OpenAI รายงาน DNS · OpenAI รายงาน token GitHub · The Decoder · Hacker News