Next-token prediction

Next-token prediction คือกลไกหัวใจของ model ภาษาที่อยู่เบื้องหลัง ChatGPT หรือ Claude: โมเดลอ่านข้อความที่มีอยู่ทั้งหมด แล้วประเมินความน่าจะเป็นว่า token ถัดไป (หน่วยย่อยของข้อความ อาจเป็นคำเต็ม เศษของคำ หรือตัวอักษร) ควรเป็นอะไร คอร์สปูพื้น LLM ของ Google ยกตัวอย่างประโยคเว้นช่องว่างทำนอง "พอได้ยินเสียงฝนบนหลังคา ฉัน ______ อยู่ในครัว" โมเดลจะให้คะแนนความน่าจะเป็นกับตัวเลือกหลายตัว เช่น "ต้มซุป" ได้ราว 9.4% ส่วน "ตั้งกาน้ำร้อน" ได้ราว 5.2% แล้วหยิบคำจากตัวเลือกเหล่านี้มาเติมลงไป

ความสามารถที่ดูเหมือน "คิดเองได้" ของ AI มาจากการเล่นเกมทายคำนี้ซ้ำมหาศาล ตอน training โมเดลถูกฝึกแบบ self-supervised: ระบบเอาข้อความจริงจากคลังขนาดใหญ่มาปิดท้ายประโยคไว้ ให้โมเดลทาย แล้วใช้ข้อความจริงเป็นเฉลย จึงไม่ต้องมีมนุษย์มานั่งติดป้ายคำตอบทีละข้อ (Wikipedia ระบุว่าโมเดลตระกูล GPT ถูก pre-train มาเพื่อทายคำถัดไปโดยตรง และโมเดลภาษาส่วนใหญ่ก่อนผ่านการปรับจูนก็คือ "นักทาย token ถัดไป" ดีๆ นี่เอง) ส่วนตอนใช้งานจริงใน inference โมเดลสร้างคำตอบแบบ autoregressive: ทาย token หนึ่งตัว เอาไปต่อท้ายข้อความเดิม แล้วใช้ทั้งหมดนั้นเป็น context สำหรับทายตัวถัดไป วนอย่างนี้ไปเรื่อยๆ คำตอบยาวเป็นหน้าที่เราเห็นจึงเกิดจากการทายทีละหน่วยเล็กๆ ต่อกันล้วนๆ

คนทำงานยุค AI ควรเข้าใจเรื่องนี้เพราะมันอธิบายพฤติกรรมแปลกๆ ของ AI ได้เกือบทั้งหมด: เป้าหมายของโมเดลคือทายให้ "เนียนตามรูปแบบภาษา" ไม่ใช่ตรวจสอบว่าจริง ข้อความที่ไหลลื่นเป็นธรรมชาติแต่ผิดข้อเท็จจริงอย่าง hallucination จึงเป็นผลข้างเคียงโดยธรรมชาติของกลไกนี้ และเมื่อหลายตัวเลือกมีความน่าจะเป็นใกล้เคียงกัน คำตอบแต่ละรอบก็ออกมาไม่เหมือนกันได้ (non-determinism) ความเข้าใจนี้ยังบอกด้วยว่าทำไมการเขียน prompt ให้ชัดถึงสำคัญ: ทุกคำที่เราป้อนคือวัตถุดิบที่โมเดลใช้คำนวณการทายทั้งสาย

ตัวอย่างจากบทสนทนาจริง

ฝ่ายกฎหมาย: "ให้ AI ช่วยหาเลขที่หนังสือเวียนของหน่วยงานราชการ มันตอบมาเป็นฉากๆ มีทั้งเลขที่และวันที่ครบ แต่พอไปค้นจริงไม่มีเอกสารฉบับนี้อยู่เลย ตกลงระบบพังหรือมันจงใจโกหกเรา"

วิทยากร: "ไม่พังและไม่ได้จงใจครับ โมเดลทำงานด้วย next-token prediction คือทายคำถัดไปให้เนียนที่สุดตามรูปแบบภาษาที่เคยเห็นมา ไม่ได้เปิดค้นฐานข้อมูลเอกสารจริง เลขที่ที่หน้าตาสมจริงจึงถูก 'ทาย' ออกมาได้ทั้งที่ไม่มีอยู่จริง ถ้างานต้องอ้างอิงเอกสารจริง ให้แนบไฟล์ให้มันอ่าน หรือใช้ระบบที่ต่อ rag แล้วตรวจกับต้นฉบับก่อนใช้ทุกครั้ง"

ระวังสับสนกับ

• inference : inference คือชื่อขั้นตอน "รันโมเดลเพื่อสร้างคำตอบ" ทั้งรอบ ส่วน next-token prediction คือกลไกที่หมุนซ้ำอยู่ข้างในขั้นตอนนั้นทีละ token จนได้คำตอบเต็ม
• fine-tuning : การปรับจูนภายหลังทำให้โมเดลคุยเป็นบทสนทนาหรือทำตามคำสั่งเก่งขึ้น แต่ไม่ได้เปลี่ยนกลไกใต้ฝากระโปรง: โมเดลยังสร้างคำตอบด้วยการทาย token ถัดไปเหมือนเดิม