Parametric knowledge

Parametric knowledge คือความรู้ที่ model AI แบกติดตัวมาในรูปของ parameters : ตัวเลขหลายพันล้านค่าที่ถูกปรับจูนระหว่าง training จนซึมซับข้อเท็จจริง ภาษา และความสัมพันธ์ของสิ่งต่างๆ จากข้อมูลมหาศาลที่ใช้เทรน เวลาเราถามแชตบอตว่า "เมืองหลวงของฝรั่งเศสคืออะไร" แล้วมันตอบได้ทันทีโดยไม่ต้องเปิดเว็บค้น นั่นคือการดึงคำตอบจาก parametric knowledge ล้วนๆ งานวิจัย "Language Models as Knowledge Bases?" (Petroni และคณะ, 2019) พิสูจน์เรื่องนี้ไว้ว่าโมเดลภาษาที่เทรนเสร็จแล้วเก็บ relational knowledge ไว้ในตัวจริง ถึงขั้นตั้งคำถามแบบเติมคำในช่องว่างแล้วได้คำตอบที่แข่งกับวิธี NLP แบบดั้งเดิมที่ใช้สร้างฐานความรู้ได้ โดยไม่ต้องสอนเพิ่มเลย

ความรู้แบบนี้เปรียบเหมือนการสอบแบบ closed-book : ตอบจากความจำอย่างเดียว ซึ่งมีจุดอ่อนชัดเจน งานวิจัย RAG ของ Lewis และคณะ (2020) ชี้ไว้สามข้อ คือ โมเดลเข้าถึงและจัดการความรู้ในตัวเองได้อย่างจำกัด, บอกไม่ได้ว่าคำตอบมาจากแหล่งไหน (provenance), และอัปเดตความรู้ไม่ได้ถ้าไม่เทรนใหม่ ผลคือความรู้จะแช่แข็งอยู่ที่ knowledge-cutoff และไม่ได้จำทุกเรื่องเท่ากัน : Petroni และคณะพบว่าข้อเท็จจริงบางประเภทถูกเรียนรู้ง่ายกว่าประเภทอื่นมาก ช่องว่างตรงนี้เองที่มักกลายเป็น hallucination เพราะโมเดลถูกออกแบบให้ตอบต่อเนื่องแม้ความจำส่วนนั้นจะเลือน

สำหรับคนทำงานยุค AI เรื่องนี้สำคัญเพราะมันตอบคำถามพื้นฐานว่า "อะไรที่ AI รู้เอง และอะไรที่เราต้องป้อนให้" ข้อมูลภายในองค์กร ระเบียบที่เพิ่งแก้ ราคาสินค้าล่าสุด ไม่มีทางอยู่ใน parametric knowledge เพราะโมเดลไม่เคยเห็นตอนเทรน ทางแก้ที่นิยมคือ rag : สถาปัตยกรรมที่ Lewis และคณะเสนอ โดยผสม parametric memory เข้ากับ non-parametric memory คือฐานข้อมูลภายนอกที่ค้นได้สดๆ ผ่านตัว retriever ซึ่งช่วยให้คำตอบเจาะจงและตรงข้อเท็จจริงมากขึ้น ฝั่ง IBM Research อธิบายเสริมว่าการ ground คำตอบด้วยข้อมูลภายนอกแบบนี้ลดโอกาสที่โมเดลจะดึงข้อมูลผิดๆ ที่ฝังอยู่ใน parameters ออกมาใช้ และประหยัดกว่าการ retrain โมเดลทุกครั้งที่ข้อมูลเปลี่ยน

ตัวอย่างจากบทสนทนาจริง

ฝ่ายบุคคล: ลองถาม AI เรื่องสวัสดิการของบริษัทเราดู มันตอบมั่วหมดเลยค่ะ ทั้งที่โฆษณากันว่าฉลาดมาก ตกลงรุ่นที่เราซื้อมามันไม่ดีหรือเปล่า

ทีมไอที: ไม่เกี่ยวกับรุ่นครับ มันตอบจาก parametric knowledge คือความรู้ทั่วไปที่ฝังมาตั้งแต่ตอนเทรน ซึ่งไม่มีเอกสารภายในของเราอยู่ในนั้นแน่นอน ถ้าอยากให้ตอบถูก ต้องแนบระเบียบสวัสดิการเข้าไปในบทสนทนา หรือทำระบบ RAG ให้มันค้นเอกสารจริงของเราก่อนตอบครับ

ระวังสับสนกับ

• contextual-knowledge : ความรู้ที่เราป้อนให้โมเดล ณ ตอนใช้งาน ผ่าน prompt หรือไฟล์แนบใน context-window อยู่แค่ชั่วบทสนทนาแล้วหายไป ส่วน parametric knowledge ฝังถาวรในตัวโมเดลตั้งแต่เทรนเสร็จ
• fine-tuning : หลายคนเข้าใจว่า "สอนข้อมูลใหม่ให้ AI" ทำได้ด้วยการอัปโหลดไฟล์ · จริงๆ การแนบไฟล์คือการให้ contextual knowledge ชั่วคราว ส่วน fine-tuning คือการเทรนต่อเพื่อปรับ parameters จริง ซึ่งเป็นงานที่มีต้นทุนและใช้เวลา ไม่ใช่ปุ่มกดครั้งเดียวจบ