Recursive self-improvement

Recursive self-improvement หรือเรียกย่อว่า RSI คือสมมติฐานที่ว่าระบบ AI ที่เก่งพอจะเขียนโปรแกรมได้ จะสามารถแก้ไขโค้ดและสถาปัตยกรรมของตัวเองให้ดีขึ้น แล้ววนทำซ้ำจนความสามารถเพิ่มขึ้นแบบเร่งตัว จนกลายเป็นสิ่งที่เรียกกันว่าการระเบิดทางปัญญาหรือ intelligence explosion ปลายทางที่แนวคิดนี้จินตนาการไว้คือระบบที่เก่งเกินมนุษย์ไปมาก คำนี้เป็นแกนกลางของข้อถกเถียงเรื่องความเสี่ยงระยะยาวของ AI เพราะถ้ากระบวนการนี้เกิดขึ้นได้จริงและเกิดเร็ว มนุษย์อาจไม่มีเวลาพอที่จะเข้าใจหรือควบคุมสิ่งที่เกิดขึ้น

ฝั่งที่ให้น้ำหนักกับความเสี่ยงนี้มองว่ามันไม่ใช่ปัญหาเชิงวิศวกรรมอย่างเดียว องค์กรที่ทำงานด้านความปลอดภัยของ AI จัดหมวดความเสี่ยงร้ายแรงไว้สี่กลุ่ม คือการใช้ในทางร้าย การแข่งขันที่บีบให้ลดมาตรฐานความปลอดภัยลง ความเสี่ยงเชิงองค์กรจากอุบัติเหตุระหว่างพัฒนา และ AI ที่หลุดจากการควบคุม ซึ่งกลุ่มสุดท้ายรวมพฤติกรรมอย่างเป้าหมายเบี่ยงเบน การหลอกลวง และการแสวงหาอำนาจ โดยเสนอว่าต้องแก้ด้วยหลายทางพร้อมกัน ทั้งงานวิจัยเชิงเทคนิค วัฒนธรรมองค์กร กฎเกณฑ์ และความร่วมมือระหว่างประเทศ

ฝั่งที่แย้งชี้ไปที่คอขวดที่ทำให้วงจรนี้ไม่น่าจะวิ่งได้อย่างอิสระ ข้อแรกและเป็นรูปธรรมที่สุดคือ model-collapse เพราะการเทรนด้วยข้อมูลที่ตัวเองสร้างขึ้นทำให้แย่ลง ไม่ใช่ดีขึ้น ซึ่งขัดกับสมมติฐานตั้งต้นโดยตรง ข้อสองคือปัญหาการจัดแนวเป้าหมาย ที่โมเดลอาจแสร้งรับเป้าหมายใหม่ขณะยังคงเป้าหมายเดิมไว้ ทำให้การให้มันแก้ไขตัวเองเชื่อถือไม่ได้ ข้อสามคือความไม่แน่นอนของทิศทางการพัฒนาที่อาจเกินความเข้าใจของมนุษย์ นอกจากนี้ในปี 2026 ยังมีข้อโต้แย้งที่ได้รับความสนใจว่าสติปัญญาเป็นเพียงคอขวดหนึ่งเท่านั้น เพราะห่วงโซ่การผลิต การผลิตชิป และข้อจำกัดทางฟิสิกส์เป็นกำแพงที่พลังประมวลผลเร่งให้เร็วขึ้นไม่ได้ สำหรับคนทำงานทั่วไป ประโยชน์ของการรู้จักคำนี้ไม่ใช่เพื่อเลือกข้าง แต่เพื่ออ่านข่าวให้ออกว่าเมื่อมีคนพูดถึงอนาคตของ AI แบบสุดขั้วทั้งสองทาง เขากำลังอ้างสมมติฐานข้อไหนอยู่ และสมมติฐานนั้นมีหลักฐานรองรับแค่ไหน

ตัวอย่างจากบทสนทนาจริง

ผู้บริหาร: "ผมอ่านเจอว่าอีกไม่กี่ปี AI จะพัฒนาตัวเองจนแซงมนุษย์ แล้วธุรกิจแบบเราจะไม่เหลืออะไรเลย ควรวางแผนรับมือยังไงครับ"

ที่ปรึกษา: "อันนั้นคือสมมติฐานที่เรียกว่า recursive self-improvement ครับ ซึ่งยังเป็นข้อถกเถียงที่ไม่มีข้อสรุป มีทั้งฝั่งที่กังวลจริงจังและฝั่งที่ชี้ว่ามีคอขวดหลายชั้น เช่น การเทรนด้วยผลงานตัวเองทำให้โมเดลแย่ลง ไม่ใช่ดีขึ้น สิ่งที่ผมแนะนำคืออย่าวางแผนธุรกิจบนสมมติฐานที่ยังพิสูจน์ไม่ได้ ให้วางแผนบนสิ่งที่วัดได้แล้ววันนี้ว่า AI ทำงานอะไรในองค์กรเราได้จริงแค่ไหน แล้วทบทวนทุกไตรมาส แบบนั้นไม่ว่าอนาคตจะไปทางไหนเราก็ปรับตัวทัน"

ระวังสับสนกับ

• agi : AGI คือระดับความสามารถที่ AI ทำงานได้กว้างเทียบเท่ามนุษย์ ซึ่งเป็นเป้าหมายหรือเส้นชัย ส่วน RSI คือกลไกที่บางคนเชื่อว่าจะพาไปถึงและเลยเส้นนั้นไป อันหนึ่งเป็นสถานะ อีกอันเป็นกระบวนการ
• ai-safety : AI safety คือสาขาที่ทำงานป้องกันอันตรายจาก AI ทั้งที่เกิดขึ้นแล้ววันนี้และที่คาดว่าจะเกิด ส่วน RSI เป็นสมมติฐานหนึ่งที่สาขานั้นถกเถียงและเตรียมรับมือ ไม่ใช่ทั้งหมดของสาขา
• scaling-laws : scaling laws คือความสัมพันธ์ที่วัดได้จริงว่าเมื่อเพิ่มขนาดโมเดลและข้อมูล ผลจะดีขึ้นตามรูปแบบใด ซึ่งเป็นข้อมูลเชิงประจักษ์ ส่วน RSI เป็นการคาดการณ์ว่าจะเกิดอะไรถ้าโมเดลกลายเป็นผู้ปรับปรุงตัวเอง ซึ่งยังไม่มีหลักฐานเชิงประจักษ์รองรับ