Context

Context คือข้อมูลทั้งหมดที่ถูกส่งให้ model "อ่าน" ในจังหวะที่มันกำลังสร้างคำตอบหนึ่งครั้ง วัดกันเป็น token และครอบคลุมทุกอย่างที่โมเดลมองเห็นในตอนนั้น: system-prompt ที่กำหนดบทบาท ประวัติบทสนทนาทุก turn ที่ผ่านมา ไฟล์หรือรูปที่แนบเข้าไป นิยามของ tool ที่เปิดให้ใช้ รวมถึง tool-result ที่ย้อนกลับมาจากการเรียกเครื่องมือ และข้อมูลจากระบบภายนอกที่ต่อผ่าน mcp เอกสารของ Anthropic เปรียบ context ว่าเป็น "working memory" หรือความจำใช้งานชั่วคราวของโมเดล ซึ่งเป็นคนละส่วนกับความรู้ที่ฝังมาจากการเทรน: ความรู้จากการเทรนแก้ไม่ได้ระหว่างคุย แต่ context คือสิ่งที่เราควบคุมได้เต็มที่ในแต่ละคำขอ

จุดที่คนทำงานยุค AI ต้องเข้าใจคือ โมเดลไม่มีความจำถาวร มันรู้เฉพาะสิ่งที่อยู่ใน context ของคำขอนั้นเท่านั้น เมื่อคุยต่อเนื่อง ข้อความของเราและคำตอบของ AI จะสะสมเข้าไปใน context เรื่อยๆ แต่พอเปิด session ใหม่ ทุกอย่างเริ่มจากศูนย์ และ context ก็มีเพดานความจุที่เรียกว่า context-window (รุ่นใหม่ๆ รองรับได้ถึง 1 ล้าน token แล้วแต่โมเดล) สิ่งที่ไม่ได้อยู่ใน context เท่ากับสิ่งที่โมเดลไม่รู้ ต่อให้เราเคยพิมพ์บอกมันไปเมื่อสัปดาห์ก่อนก็ตาม

ที่สำคัญ ใส่เยอะไม่ได้แปลว่าดี: งานวิจัยที่ Anthropic อ้างถึงพบว่ายิ่งจำนวน token ใน context เพิ่มขึ้น ความแม่นยำในการดึงข้อมูลจากมันกลับลดลง (ปรากฏการณ์ที่เรียกว่า context rot) เพราะโมเดลมี "attention budget" จำกัด คล้ายสมาธิของคนที่ถูกดึงไปหลายทางพร้อมกัน จึงเกิดศาสตร์ที่เรียกว่า context engineering: การคัดเลือกว่าจะให้อะไรเข้าไปอยู่ใน context บ้างในแต่ละจังหวะ โดยเฉพาะกับ agent ที่ทำงานยาวหลายชั่วโมง ซึ่งใช้เทคนิคอย่าง compaction (สรุปย่อบทสนทนาเก่า) การจดโน้ตเก็บไว้นอก context แล้วค่อยดึงกลับมา และการแตกงานให้ subagent ที่มี context สะอาดของตัวเอง สำหรับผู้ใช้ทั่วไป บทเรียนเดียวกันนี้แปลง่ายๆ ว่า: แนบเฉพาะข้อมูลที่เกี่ยวกับงานตรงหน้า และถ้า AI เริ่ม "หลงลืม" ในแชทที่ยาวมาก ให้เริ่มแชทใหม่พร้อมสรุปสั้นๆ แทน

ตัวอย่างจากบทสนทนาจริง

ถาม: เมื่อเดือนก่อนผมสอน AI เรื่องฟอร์แมตรายงานของบริษัทไปละเอียดมาก วันนี้เปิดแชทใหม่ให้ทำรายงาน มันทำหน้าตาไม่เหมือนเดิมเลย ทำไมมันโง่ลงครับ

ตอบ: โมเดลไม่ได้โง่ลงครับ มันไม่เคย "จำ" สิ่งที่เราสอนตั้งแต่แรก ทุกอย่างที่คุยกันอยู่ใน context ของแชทเก่าเท่านั้น พอเปิดแชทใหม่ context ก็ว่างเปล่า วิธีที่ถูกคือเก็บกติกาฟอร์แมตไว้เป็นไฟล์หรือใส่ใน system prompt แล้วแนบเข้าไปทุกครั้งที่เริ่มงาน ให้มันอยู่ใน context เสมอครับ

ระวังสับสนกับ

• context-window : context คือ "เนื้อหา" ที่ใส่เข้าไปจริง ส่วน context window คือ "ความจุสูงสุด" ที่ใส่ได้ เทียบง่ายๆ context คือของในกระเป๋า ส่วน context window คือขนาดกระเป๋า
• ความรู้จากการเทรน (training data) : หลายคนคิดว่า AI ดึงทุกคำตอบมาจาก "สมอง" ก้อนเดียว จริงๆ ความรู้จากการเทรนคือของตายตัวที่ฝังมาในตัวโมเดล ส่วน context คือข้อมูลสดที่เราป้อนเพิ่มได้ในแต่ละครั้ง คำถามที่ AI ตอบผิดเพราะข้อมูลไม่อยู่ในทั้งสองแหล่ง มักจบด้วยการเดาจนกลายเป็น hallucination