GPU

GPU ย่อมาจาก graphics processing unit คือวงจรอิเล็กทรอนิกส์ที่คำนวณทางคณิตศาสตร์ได้ด้วยความเร็วสูง จุดเด่นของมันคือทำการคำนวณแบบเดียวกันกับข้อมูลหลายชุดพร้อมกันได้ ต่างจาก CPU ที่ออกแบบมาให้จัดการงานทั่วไปและงานที่ต้องทำเรียงตามลำดับ เปรียบง่ายๆ คือ CPU เหมือนผู้เชี่ยวชาญไม่กี่คนที่ทำงานซับซ้อนได้หลากหลาย ส่วน GPU เหมือนคนงานหลายพันคนที่ทำงานง่ายๆ แบบเดียวกันพร้อมกันทั้งหมด GPU ถือกำเนิดในยุค 1990 เพื่องานกราฟิกโดยเฉพาะ แล้วค่อยพัฒนาจากตัวควบคุมการแสดงผลธรรมดามาเป็นหน่วยประมวลผลที่เขียนโปรแกรมสั่งงานได้

เหตุผลที่มันกลายเป็นหัวใจของ AI คือลักษณะของงานตรงกันพอดี การเทรนโมเดลต้องใช้พลังประมวลผลมหาศาลในการทำการคำนวณคล้ายกันซ้ำๆ กับข้อมูลจำนวนมาก ซึ่งเป็นโจทย์ที่แบ่งงานขนานกันได้ตามธรรมชาติ GPU จึงเร่งกระบวนการนี้ได้อย่างมาก อีกปัจจัยที่คนมองข้ามแต่สำคัญมากในทางปฏิบัติคือหน่วยความจำ การ์ดที่มีหน่วยความจำแยกของตัวเองมีแบนด์วิดท์สูงกว่าการ์ดที่ใช้หน่วยความจำร่วมกับ CPU หลายเท่าตัว ซึ่งส่งผลโดยตรงต่อความเร็วของงาน AI และเป็นเหตุผลที่งานจริงจังต้องใช้การ์ดแยก

สำหรับองค์กรไทยที่กำลังพิจารณาว่าจะเช่าใช้บนคลาวด์หรือซื้อเครื่องมาตั้งเอง ตัวเลขที่ต้องดูไม่ใช่แค่ความเร็วของชิป แต่คือขนาดหน่วยความจำบนการ์ด เพราะมันเป็นตัวกำหนดว่าโมเดลขนาดเท่าไรที่รันได้เลย ถ้าโมเดลใหญ่เกินหน่วยความจำของการ์ด ก็ต้องแบ่งรันหลายใบซึ่งซับซ้อนและแพงขึ้นมาก นี่คือเหตุผลที่เทคนิคย่อขนาดโมเดลกับการเลือกใช้ slm ได้รับความสนใจมาก และเป็นเหตุผลที่ธุรกิจให้เช่า GPU โดยเฉพาะอย่าง neocloud เติบโตขึ้นมาเป็นอุตสาหกรรมของตัวเอง

ตัวอย่างจากบทสนทนาจริง

ผู้บริหาร: "ทีมขอซื้อการ์ดจอตัวละสามแสนมารันโมเดลเองครับ ทำไมต้องแพงขนาดนั้น การ์ดจอเกมราคาสองหมื่นใช้แทนไม่ได้เหรอ"

หัวหน้าฝ่ายเทคนิค: "ใช้ได้ครับแต่ได้แค่โมเดลเล็ก ตัวแปรที่ชี้ขาดไม่ใช่ความเร็วแต่คือหน่วยความจำบนการ์ด โมเดลที่เราอยากใช้ต้องการหน่วยความจำมากกว่าที่การ์ดเกมมีให้ ถ้าใส่ไม่พอมันรันไม่ได้เลย ไม่ใช่แค่ช้าลง ทางเลือกคือซื้อการ์ดใหญ่ ใช้โมเดลเล็กลง หรือเช่าบนคลาวด์เป็นรายชั่วโมงไปก่อนจนกว่าจะรู้ว่าใช้จริงมากแค่ไหน ผมแนะนำทางที่สามครับ จะได้ไม่จมทุนกับของที่อาจใช้ไม่คุ้ม"

ระวังสับสนกับ

• neocloud : neocloud คือธุรกิจที่เอา GPU จำนวนมากมาสร้างศูนย์ข้อมูลแล้วให้เช่าเป็นรายชั่วโมง ส่วน GPU คือตัวชิป อันหนึ่งเป็นฮาร์ดแวร์ อีกอันเป็นรูปแบบธุรกิจที่สร้างบนฮาร์ดแวร์นั้น
• inference : inference คือขั้นตอนที่โมเดลทำงานตอบคำถามจริง ซึ่งใช้ GPU เหมือนกันแต่ต้องการทรัพยากรน้อยกว่าการเทรนมาก องค์กรส่วนใหญ่ต้องการ GPU สำหรับ inference ไม่ใช่สำหรับเทรน
• parameters : parameters คือจำนวนค่าตัวเลขภายในโมเดล ซึ่งเป็นตัวกำหนดว่าโมเดลต้องการหน่วยความจำบน GPU เท่าไร จึงเป็นตัวเลขที่ต้องดูคู่กันเสมอเวลาเลือกฮาร์ดแวร์