Chain-of-Thought

Chain-of-Thought (เรียกย่อว่า CoT) คือเทคนิคการสั่งงาน llm ให้ "แสดงวิธีทำ" ก่อนตอบ: แทนที่จะให้ model พ่นคำตอบสุดท้ายออกมาทันที เราให้มันเขียนขั้นตอนการคิดตรงกลาง (intermediate reasoning steps) ออกมาเป็นข้อความทีละขั้น เหมือนนักเรียนที่ทดเลขในกระดาษก่อนเขียนคำตอบลงช่องว่าง งานวิจัยต้นทางจากทีม Google (Wei et al., 2022) พบว่าแค่แนบตัวอย่างการคิดเป็นขั้นตอนไม่กี่ตัวอย่างลงใน prompt (แนวทางแบบ few-shot-learning) ก็ทำให้โมเดลภาษาขนาดใหญ่ทำโจทย์ reasoning ที่ซับซ้อนได้ดีขึ้นอย่างมีนัยสำคัญ ทั้งโจทย์เลขคณิต โจทย์ commonsense และ symbolic reasoning

ผลลัพธ์ในเปเปอร์นั้นชัดมาก: โมเดลขนาด 540,000 ล้าน parameters ที่ได้ตัวอย่าง chain of thought เพียง 8 ตัวอย่าง ทำคะแนนชุดโจทย์เลข GSM8K ได้ระดับ state of the art ณ เวลานั้น (ปี 2022) ชนะแม้แต่ GPT-3 ที่ผ่านการ fine-tune มาพร้อมตัวตรวจคำตอบ และจุดที่น่าสนใจคือเปเปอร์สรุปว่าความสามารถนี้ "โผล่ขึ้นมาเอง" เมื่อโมเดลใหญ่ถึงระดับหนึ่งเท่านั้น (ปรากฏการณ์แบบ emergent-abilities) โมเดลเล็กใช้เทคนิคเดียวกันแล้วไม่ได้ผลเท่า ข้อสรุปเรื่อง emergent นี้ยังไม่ปิดจบ: มีงานวิจัยฝั่งตรงข้าม (Schaeffer et al., 2023) แย้งว่าการเห็นความสามารถโผล่แบบก้าวกระโดดอาจเกิดจากการเลือก metric ที่ไม่ต่อเนื่อง มากกว่าจะเป็นการเปลี่ยนเชิงคุณภาพของตัวโมเดลจริง

ทำไมคนทำงานยุค AI ต้องรู้: แนวคิดนี้ถูกฝังเข้าไปในโมเดลรุ่นใหม่แล้วในรูปโหมด "thinking" ที่โมเดลคิดในใจก่อนตอบ เอกสารของ Anthropic ระบุว่าการให้โมเดลคิดเป็นขั้นตอนช่วยงานที่ต้อง reasoning หลายชั้นและการวางแผนหลังใช้ tool แต่แลกกับความหน่วง (latency) และจำนวน token ที่เพิ่มขึ้น จึงควรใช้กับงานที่การคิดช่วยยกระดับคำตอบจริง ไม่ใช่ทุกคำถาม ซึ่งตรงกับ meta-analysis ปี 2024 (Sprague et al.) ที่รวมงานกว่า 100 ชิ้นแล้วพบว่าผลได้ของ CoT กระจุกอยู่ที่โจทย์เลขและตรรกะเป็นหลัก ส่วนงานประเภทอื่นได้ผลน้อยกว่ามาก จึงเลือกใช้เป็นจุด ๆ ได้โดยไม่เสียคุณภาพและประหยัดค่า inference สำหรับผู้ใช้ทั่วไป ประโยชน์ตรงที่สุดคือ: ถ้า AI ตอบเพี้ยนในโจทย์ที่ต้องคิดหลายขั้น ลองสั่งให้มันแสดงวิธีคิดทีละขั้นก่อนสรุป มักได้คำตอบที่แม่นขึ้น และเรายังไล่ตรวจได้ด้วยว่าตรรกะของมันพลาดตรงขั้นไหน การยอมให้โมเดลไล่ขั้นตอนยาวขึ้นแบบนี้คือรูปแบบพื้นฐานที่สุดของการเติม แรงคิดตอนตอบ นั่นคือจ่ายโทเค็นและเวลาเพิ่มเพื่อแลกกับความแม่นยำ

ตัวอย่างจากบทสนทนาจริง

ถาม: ผมให้ AI คำนวณโปรโมชั่นส่วนลดซ้อนกันสามชั้น มันตอบตัวเลขมาทันทีแล้วผิดบ่อยมาก แบบนี้ต้องยอมจ่ายอัปเกรดไปใช้โมเดลแพงกว่าเดิมเลยไหมครับ

ตอบ: ยังไม่ต้องครับ ลองใช้ Chain-of-Thought ก่อน: เพิ่มคำสั่งว่า "แสดงวิธีคิดทีละขั้นก่อนสรุปตัวเลข" หรือแนบตัวอย่างวิธีทำโจทย์ลักษณะเดียวกันสักหนึ่งข้อไว้ใน prompt โมเดลจะไล่คำนวณส่วนลดทีละชั้นแทนการเดาคำตอบรวดเดียว ความแม่นมักดีขึ้นทันที แถมพอมันแสดงวิธีทำ เราก็เช็คได้ว่ามันคูณผิดชั้นไหนด้วย โจทย์แนวคำนวณแบบนี้คือจุดที่หลักฐานยืนยันว่า CoT ช่วยได้จริงที่สุด

ระวังสับสนกับ

• reasoning-model : Chain-of-Thought เป็นเทคนิคฝั่งคนเขียน prompt ที่ขอให้โมเดลทั่วไปแสดงขั้นตอนคิดออกมา ส่วน reasoning model คือโมเดลที่ถูกเทรนให้คิดเป็นขั้นตอนในตัวเองโดยอัตโนมัติ: แนวคิดเดียวกัน แต่ย้ายจากมือคนเขียน prompt เข้าไปอยู่ในตัวโมเดล
• prompt-engineering : prompt engineering คือศาสตร์ภาพรวมของการออกแบบคำสั่งให้ AI ทำงานได้ดีขึ้น ส่วน Chain-of-Thought เป็นเพียงเทคนิคหนึ่งในกล่องเครื่องมือนั้น