On-premise AI

On-premise AI คือการติดตั้งและรันระบบ AI บนเครื่องที่อยู่ในความดูแลขององค์กรเอง แทนการเรียกใช้ผ่านบริการบนคลาวด์ นิยามของซอฟต์แวร์แบบ on-premises คือซอฟต์แวร์ที่ติดตั้งและทำงานบนคอมพิวเตอร์ในสถานที่ของผู้ใช้หรือองค์กร ไม่ใช่ที่ศูนย์ข้อมูลระยะไกล สำหรับ AI สิ่งนี้แปลว่าองค์กรต้องมีเครื่องที่มี gpu เพียงพอ ดาวน์โหลดโมเดลที่เปิดให้ใช้ได้ (ดู open-weights) มาติดตั้ง แล้วดูแลระบบทั้งหมดเอง

ข้อแลกเปลี่ยนชัดเจนและวัดได้ ฝั่ง on-premise ได้การควบคุมข้อมูลและความปลอดภัยอย่างเต็มที่ ข้อมูลไม่ต้องออกนอกองค์กรเลย และไม่ขึ้นกับว่าผู้ให้บริการจะเปลี่ยนเงื่อนไขหรือปิดบริการเมื่อไร แต่ต้องลงทุนสูงตั้งแต่ต้นทั้งค่าฮาร์ดแวร์และโครงสร้างพื้นฐาน และต้องมีคนดูแลระบบเอง ฝั่งคลาวด์เริ่มต้นถูกกว่ามาก จ่ายเป็นรายเดือนหรือตามการใช้จริง ผู้ให้บริการดูแลการอัปเดตและการสำรองข้อมูลให้ แต่องค์กรควบคุมข้อมูลและประสิทธิภาพของระบบได้น้อยกว่า ซึ่งเป็นประเด็นสำหรับอุตสาหกรรมที่อ่อนไหวด้านความปลอดภัย

ในกรอบของ sovereign-ai การรันบนเครื่องตัวเองถูกจัดเป็นชั้นแรกจากห้าชั้น คือชั้นอธิปไตยด้านโครงสร้างพื้นฐาน ซึ่งกำหนดว่า AI ต้องทำงานบนคลาวด์ส่วนตัวหรือระบบในองค์กร สำหรับองค์กรไทยที่กำลังชั่งใจ คำแนะนำที่ตรงที่สุดคืออย่าตัดสินจากความรู้สึกว่าอะไรปลอดภัยกว่า แต่ให้เริ่มจากคำถามว่าข้อมูลชุดไหนที่ห้ามออกนอกองค์กรจริงๆ ตามกติกาของ pdpa หรือตามนโยบายภายใน แล้วดูว่างานที่แตะข้อมูลชุดนั้นมีปริมาณมากพอจะคุ้มค่าเครื่องหรือไม่ ในทางปฏิบัติองค์กรจำนวนมากลงเอยที่รูปแบบผสม คืองานทั่วไปที่ไม่แตะข้อมูลอ่อนไหวใช้บริการคลาวด์เพราะได้โมเดลที่เก่งกว่าในราคาถูกกว่า ส่วนงานที่แตะข้อมูลอ่อนไหวรันด้วย slm บนเครื่องของตัวเอง

ตัวอย่างจากบทสนทนาจริง

ผู้บริหารโรงพยาบาล: "ฝ่ายกฎหมายบอกว่าข้อมูลคนไข้ห้ามออกนอกองค์กรเด็ดขาด แปลว่าเราใช้ AI ไม่ได้เลยใช่ไหมครับ"

ที่ปรึกษา: "ใช้ได้ครับแต่ต้องแยกงาน งานที่แตะข้อมูลคนไข้ให้รันบนเครื่องเราเอง ใช้โมเดลขนาดเล็กที่ดาวน์โหลดมาได้ ซึ่งไม่เก่งเท่าโมเดลใหญ่บนคลาวด์แต่พอสำหรับงานสรุปและจัดหมวดหมู่ ส่วนงานที่ไม่แตะข้อมูลคนไข้เลย เช่น ร่างเอกสารทั่วไปหรือแปลคู่มือ ใช้บริการคลาวด์ได้เต็มที่และจะได้ผลดีกว่ามาก สิ่งที่ต้องทำก่อนคือแยกให้ชัดว่างานไหนอยู่ฝั่งไหน แล้ววางกติกาให้พนักงานเข้าใจตรงกันครับ"

ระวังสับสนกับ

• data-residency : data residency คือข้อกำหนดว่าข้อมูลต้องเก็บอยู่ในประเทศไหน ซึ่งบริการคลาวด์ที่มีศูนย์ข้อมูลในไทยก็ตอบโจทย์ได้ ส่วน on-premise AI เข้มกว่าคือข้อมูลไม่ออกจากองค์กรเลย ไม่ใช่แค่ไม่ออกจากประเทศ
• service-boundary : service boundary คือคำรับรองจากผู้ให้บริการว่าข้อมูลอยู่ในระบบของเขาและไม่ไหลออกไปยังรายอื่น ซึ่งยังเป็นการฝากข้อมูลไว้กับคนอื่น ส่วน on-premise คือข้อมูลอยู่กับเราตั้งแต่ต้นจนจบ
• neocloud : neocloud คือผู้ให้เช่า GPU บนคลาวด์ ซึ่งยังเป็นการรันนอกองค์กร แม้จะควบคุมได้มากกว่าบริการโมเดลสำเร็จรูปก็ตาม จึงไม่นับเป็น on-premise