Contextual knowledge

Contextual knowledge คือความรู้ที่ model ได้รับ "ณ ขณะทำงาน" ผ่านสิ่งที่ถูกใส่เข้าไปใน context ของบทสนทนา: ข้อความที่เราพิมพ์ เอกสารที่แนบ ไฟล์ในโปรเจกต์ ผลการค้นเว็บ หรือผลลัพธ์จากการเรียกใช้ tool ต่างๆ เอกสาร glossary ของ Anthropic อธิบายว่า context-window คือพื้นที่ข้อความที่โมเดลมองย้อนกลับไปอ้างอิงได้ระหว่างสร้างคำตอบ ซึ่ง "ต่างจากคลังข้อมูลมหาศาลที่ใช้ตอน training" และทำหน้าที่เหมือน working memory ของโมเดล · ความรู้ทั้งหมดที่อาศัยอยู่ในพื้นที่ชั่วคราวนี้แหละคือ contextual knowledge

ฝั่งตรงข้ามของมันคือ parametric-knowledge: ความรู้ที่ฝังอยู่ในน้ำหนักของโมเดลจากการเทรน ซึ่งแก้ไขไม่ได้และหยุดอยู่แค่ knowledge-cutoff ดังนั้น contextual knowledge จึงเป็นช่องทางหลักในการป้อนข้อมูลใหม่ ข้อมูลภายในองค์กร หรือข้อมูลเฉพาะงานให้ AI โดยไม่ต้องเทรนโมเดลใหม่ เทคนิคอย่าง rag คือตัวอย่างตรงตัว: ดึงข้อมูลจากคลังภายนอกมาใส่ context window ตอน runtime เพื่อให้โมเดล "เข้าถึงและใช้ข้อมูลที่อยู่นอกเหนือ training data" ลดการพึ่งความจำของโมเดลและช่วยให้คำตอบอ้างอิงหลักฐานจริงได้

คนทำงานยุค AI ต้องเข้าใจเรื่องนี้เพราะมันตอบคำถามคลาสสิกที่ว่า "ทำไม AI ไม่รู้เรื่องบริษัทเรา": ก็เพราะความรู้พวกนั้นไม่เคยถูกส่งเข้า context นั่นเอง และในทางกลับกันก็ยัดทุกอย่างเข้าไปไม่ได้ด้วย บทความ context engineering ของ Anthropic ชี้ว่า context เป็นทรัพยากรที่สำคัญแต่มีจำกัด: ทุก token ใหม่กิน attention-budget ของโมเดล และยิ่ง context ยาว ความแม่นยำในการดึงข้อมูลจากมันยิ่งลดลง (อาการที่เรียกว่า context rot) agent สมัยใหม่จึงใช้วิธี just-in-time: เก็บเพียงตัวชี้เบาๆ เช่น file path หรือ link แล้วค่อยเปิดอ่านข้อมูลจริงผ่าน tool เมื่อจำเป็น บทเรียนสำหรับผู้ใช้ทั่วไปคือ ผลงานของ AI ขึ้นกับคุณภาพของ contextual knowledge ที่เราจัดให้ พอๆ กับความเก่งของตัวโมเดลเอง

ตัวอย่างจากบทสนทนาจริง

พี่แนน (ฝ่ายบุคคล): เดือนที่แล้วเราแนบคู่มือสวัสดิการบริษัทให้ AI อ่านไปแล้วนะ ทำไมวันนี้เปิดแชทใหม่ถามเรื่องวันลา มันตอบผิดหมดเลย มันเคยเรียนไปแล้วไม่ใช่เหรอ

ทีม AI: อันนั้นคือ contextual knowledge ครับพี่: ความรู้ที่มีผลเฉพาะบทสนทนาที่เราแนบไฟล์เข้าไปเท่านั้น มันไม่ได้ถูก "เรียน" เข้าตัวโมเดลถาวร พอเปิดแชทใหม่ context ก็เริ่มจากศูนย์ ต้องแนบคู่มือเข้าไปใหม่ หรือให้ระบบดึงเอกสารเข้ามาให้อัตโนมัติแบบ RAG ครับ

ระวังสับสนกับ

• parametric-knowledge : ความรู้ที่ฝังในตัวโมเดลจากการเทรน แก้ไม่ได้และเก่ากว่าปัจจุบันเสมอ ส่วน contextual knowledge คือความรู้ที่เราป้อนสดๆ ตอนใช้งาน เปลี่ยนได้ทุกบทสนทนา
• context-window : อันนี้คือ "พื้นที่" หรือความจุที่โมเดลมองเห็นได้ ส่วน contextual knowledge คือ "เนื้อหาความรู้" ที่เราเลือกใส่ลงไปในพื้นที่นั้น