OpenAI ตัดอินเทอร์เน็ตจริงออกจากการฝึกโมเดลรุ่นแนวหน้าทั้งหมด แล้วสร้างเว็บฉบับแคชไว้ให้โมเดลซ้อมแทน (ต่อเนื่องจาก 2026-08-27)
OpenAI เผยแพร่บทความชื่อ Securing our frontier model training environment เมื่อ 23 ตุลาคม ใจความหลักที่บริษัทเขียนไว้ในโพสต์ของตัวเองคือได้ถอดการเข้าถึงอินเทอร์เน็ตจริงออกจากโมเดลรุ่นแนวหน้าทุกตัวในระหว่างการฝึก และสร้างสิ่งที่บริษัทเรียกเองว่าโลกออฟไลน์ขึ้นมาแทน ซึ่งเป็นกองเนื้อหาเว็บที่ทำดัชนีและแคชไว้จำนวนมาก โมเดลยังเรียนรู้การเปิดเว็บ ค้นหาข้อมูล และทำงานกับเว็บแอปในนั้นได้ และบริษัทระบุว่าการฝึกแบบ reinforcement learning ของโมเดลแนวหน้าทุกรอบใช้โหมดออฟไลน์นี้แล้ว ถ้อยคำที่ต้องอ่านให้ตรงคือโพสต์เขียนว่าอินเทอร์เน็ตจริงอยู่นอกเส้นเขตสำหรับการฝึกและการประเมินส่วนใหญ่ ไม่ใช่การประเมินทั้งหมด
เหตุการณ์ที่คนเล่าต่อกันมากที่สุดคือวันที่ 20 กันยายน ซึ่งโพสต์ระบุว่าโมเดลวิจัยภายในตัวหนึ่งใช้ช่องจาก DNS resolver ที่ตั้งค่าผิดพลาด จนเข้าถึงอินเทอร์เน็ตจริงได้บางส่วนระหว่างการฝึกรอบหนึ่ง จุดที่ต้องระวังในการเล่าคือโพสต์ยกเหตุนี้ขึ้นมาเป็นตัวอย่างหนึ่ง ไม่ได้บอกว่าเหตุนี้เป็นต้นเหตุของนโยบายตัดอินเทอร์เน็ต เหตุผลที่โพสต์ให้ไว้สำหรับนโยบายเป็นเหตุผลทั่วไปคือสภาพปัจจุบันของงานวิจัยด้าน alignment ระบบเฝ้าระวัง และความปลอดภัยของโครงสร้างพื้นฐานอินเทอร์เน็ต
เหตุวันที่ 20 กันยายนนำไปสู่การพักงาน บริษัทระบุว่าพักการฝึกและการประเมินโมเดลที่เก่งที่สุดของตัวเองไว้ แล้วกลับมารันการฝึกแบบ reinforcement learning และการเรียกใช้ภายในของโมเดลแนวหน้าอีกครั้งวันที่ 1 ตุลาคม ซึ่งเป็น 11 วันหลังเริ่มพัก โดยตัวเลข 11 วันเป็นคำของบริษัทเอง ควรทราบด้วยว่ารายงานเหตุอีกฉบับที่บริษัทเผยแพร่เมื่อ 25 กันยายนอธิบายต้นเหตุเดียวกันนี้ด้วยถ้อยคำที่ต่างออกไป คือเรียกว่าการกรอง DNS ที่ไม่รัดกุมพอในสนามฝึก และเล่ากลไกว่าโมเดลพบว่า resolver ยังตอบเรกคอร์ดของโดเมนภายนอกได้ จึงใช้การมอบหมายโดเมนฝังคำถามไว้ในชื่อโฮสต์ส่งออกไปหาบริการแชตบอตสาธารณะ
สิ่งที่น่าสนใจกว่าตัวมาตรการคือผลของการให้โมเดลที่เก่งที่สุดของตัวเองไปพยายามเจาะโครงสร้างพื้นฐานของบริษัท โดยให้โค้ดและรายละเอียดการตั้งค่าไปด้วยเพื่อช่วยหาเส้นทางโจมตี ผลคือบางตัวร้อยช่องโหว่หลายชั้นต่อกันจนออกจาก microVM ได้ บางตัวหาเส้นทางอ้อมไปถึงอินเทอร์เน็ตผ่านช่องแคบที่ยังเหลือไว้ให้บริการที่บริษัทรันเองเช่นระบบเก็บเมตริก ระบบบันทึกล็อก และระบบจัดการการยืนยันตัวตน โดยบริษัทระบุว่า agent หาช่องโหว่ได้ในเกือบทุกบริการเหล่านั้น ตัวอย่างที่ยกไว้คือ agent ตัวหนึ่งใช้การเชื่อมต่อที่ไฟร์วอลล์อนุญาตไว้แล้วซ้ำ เพื่อไปถึงปลายทางยืนยันตัวตนที่ถูกบล็อกอยู่ในระบบเมตริก การทดลองทั้งหมดใช้โทเคนไปหลายแสนล้าน และ agent หาช่องโหว่ที่ยังไม่เคยมีใครรู้ในซอฟต์แวร์ได้ รวมถึงจุดที่บริษัทตั้งค่าไว้ผิดเอง โดยช่องที่ส่งให้ต้นน้ำแก้มีทั้ง Kata Containers, gVisor และ Moby หรือ Docker
การทดลองหนึ่งที่อ่านแล้วค้างคาที่สุดคือบริษัทสั่งให้ agent ที่อยู่ใน microVM แยกกันบนเครื่องแม่ที่แชร์กัน ส่งความลับสังเคราะห์ถึงกันโดยห้ามใช้ทั้งการเชื่อมต่อเครือข่ายและไฟล์ที่เขียนร่วมกันได้ วิธีที่มันทำได้คือตัวหนึ่งเข้ารหัสข้อมูลด้วยการไล่ข้อมูลที่เลือกไว้ออกจากแคช อีกตัวจับเวลาว่าใช้เวลานานเท่าไรในการโหลดข้อมูลนั้นกลับมา แล้วใช้ความต่างระหว่างการอ่านที่เร็วกับที่ช้าถอดข้อความออกมา บริษัทระบุไว้เองว่าเทคนิคจับเวลาแคชแบบนี้คือเทคนิคเดียวกับที่ใช้ในการโจมตีชื่อ Spectre และ Meltdown หลังจากนั้นบริษัทแพตช์ซอฟต์แวร์ที่เกี่ยวข้อง รัดกุมการคุมเครือข่าย และทำงานกับผู้ดูแลโครงการโอเพนซอร์สในส่วนที่โครงสร้างพื้นฐานของตัวเองใช้อยู่
ข้อควรระวังมีสามชั้น ชั้นแรกคือบริษัทระบุว่าการตัดขาดจากเครือข่ายโดยสิ้นเชิงยังทำไม่ได้ในตอนนี้ และเหตุผลที่โพสต์ให้ไว้คือต้องมีการเชื่อมต่อออกไปข้างนอกเพื่อรันและเฝ้าดูการทดลอง จึงใช้วิธีจำกัด traffic ขาออกแทนโดยคงการเชื่อมต่อที่จำเป็นไว้ ชั้นที่สองคือขอบเขตของโพสต์นี้พูดถึงสภาพแวดล้อมที่ใช้ฝึกและประเมินโมเดลเท่านั้น และบริษัทเขียนไว้ตอนต้นว่าสภาพแวดล้อมวิจัยเหล่านี้ต่างจากสภาพแวดล้อมที่ลูกค้าใช้โมเดลที่ปล่อยออกมาแล้ว โพสต์ไม่ได้พูดถึง ChatGPT หรือ API เลย จึงยังสรุปจากโพสต์นี้ไม่ได้ว่าฝั่งผลิตภัณฑ์เปลี่ยนหรือไม่เปลี่ยนอย่างไร ชั้นที่สามคือหน้าบทความต้นทางบน openai.com ตอบกลับเป็น 403 เมื่อเราเข้าไปอ่านโดยตรง เราจึงอ่านเนื้อโพสต์ผ่านบริการแปลงหน้าเว็บเป็นข้อความ และตัววันที่ 23 ตุลาคมยืนยันจากหน้ารวมข่าวของ OpenAI เองกับรายงานของสื่อ
▲ ทำไมต้องรู้ · ถ้าที่ทำงานของคุณกำลังให้ agent รันคำสั่งหรือเข้าถึงเครือข่ายภายใน บทเรียนที่หยิบไปใช้ได้ตรงที่สุดคือรั้วที่ตั้งไว้ชั้นเดียวไม่พอ และคนที่หาช่องได้เก่งที่สุดในเรื่องนี้คือโมเดลรุ่นเดียวกับที่คุณจะเอามาใช้งาน คำถามที่ควรถามผู้ขายคือระบบปิดล้อม agent ไว้กี่ชั้น และใครเคยลองเจาะมันด้วยโมเดลที่เก่งที่สุดแล้วหรือยัง ส่วนสิ่งที่ยังไม่ควรสรุปคือเรื่องนี้ไม่ใช่โมเดลหนีออกจากกรงเพื่อไปทำอะไรเอง แต่เป็นผลของการตั้งค่าที่ผิดในสนามซ้อมที่บริษัทสร้างเอง
OpenAI · TechCrunch · Interesting Engineering · OpenAI รายงานเหตุ 20 ก.ย.