Existential risk

Existential risk (บางที่เรียกย่อว่า x-risk) คือข้อถกเถียงในวงการ AI ว่า ai ขั้นสูงในอนาคตอาจเป็นภัยคุกคามระดับที่ทำให้มนุษยชาติสูญพันธุ์หรือสูญเสียการควบคุมสังคมโลกไปอย่างถาวร ไม่ใช่แค่ความเสี่ยงเรื่องงานหรือความเป็นส่วนตัวแบบที่เจอกันทุกวันนี้ คนที่กังวลเรื่องนี้มักพูดถึงฉากทัศน์ที่ระบบ AI ฉลาดเกินการควบคุมของมนุษย์ (ใกล้เคียงแนวคิด agi) แล้วเดินหน้าไล่เป้าหมายของตัวเองในทางที่ขัดกับผลประโยชน์มนุษย์ หรือถูกใช้เป็นเครื่องมือก่อภัยระดับสังคม เช่น ช่วยออกแบบเชื้อโรคหรืออาวุธชีวภาพ ทั้งนี้ CAIS จัดหมวดความเสี่ยงระดับหายนะไว้สี่กลุ่ม ได้แก่ การถูกใช้ในทางร้าย การแข่งขันพัฒนา AI ที่เร่งจนข้ามเรื่องความปลอดภัย ความผิดพลาดขององค์กรผู้พัฒนา และ AI ที่หลุดจากการควบคุม (safe.ai)

จุดที่ทำให้คำนี้ถูกพูดถึงในวงกว้างคือแถลงการณ์ของ Center for AI Safety (CAIS) เมื่อวันที่ 30 พฤษภาคม 2023 ที่มีข้อความสั้นเพียงประโยคเดียวว่า "Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war" ผู้ลงนามมีนักวิจัยและผู้เชี่ยวชาญด้าน AI หลายร้อยคน และเนื่องจากแบบฟอร์มลงชื่อบนหน้าเว็บยังเปิดรับอยู่จนถึงทุกวันนี้ จำนวนจึงเพิ่มขึ้นเรื่อยมาหลังวันเปิดตัว จุดที่คนสนใจกันมากคือมีผู้บริหารบริษัท AI รายใหญ่ที่แข่งกันพัฒนาโมเดลอยู่ในรายชื่อด้วย เช่น Sam Altman ซีอีโอของ openai, Demis Hassabis ซีอีโอของ google-deepmind และ Dario Amodei ซีอีโอของ anthropic รวมถึงนักวิชาการสาย deep-learning อย่าง Geoffrey Hinton และ Yoshua Bengio (safe.ai, ข่าวประชาสัมพันธ์ CAIS, TIME) ฝั่งที่กังวลมักโยงไปถึงกลไกอย่าง recursive-self-improvement คือ AI ที่ปรับปรุงตัวเองได้ต่อเนื่องจนหลุดพ้นการกำกับดูแล และมองว่าโจทย์นี้เกี่ยวพันโดยตรงกับงานด้าน ai-safety และ alignment คือการทำให้เป้าหมายของ AI สอดคล้องกับคุณค่าของมนุษย์

คนทำงานส่วนใหญ่มักเจอคำนี้ผ่านข่าวหรือดีเบตสาธารณะ ไม่ใช่ในงานประจำวัน แต่ควรรู้ไว้ว่านี่เป็นประเด็นที่มีฝ่ายค้านหนักแน่นเช่นกัน นักวิจัยสาย AI ethics อย่าง Timnit Gebru ผู้ก่อตั้ง DAIR Institute เป็นหนึ่งในเสียงคัดค้านที่ดังที่สุด เธอร่วมกับ Emily M. Bender และ Angelina McMillan-Major ออกแถลงการณ์เมื่อ 31 มีนาคม 2023 ตอบจดหมายเรียกร้องให้หยุดพัฒนา AI ชั่วคราวของ Future of Life Institute ว่าการหมกมุ่นกับภาพยูโทเปียหรือวันสิ้นโลกที่ AI จะพามาถึง เบี่ยงเบนความสนใจออกจากความเสียหายที่เกิดขึ้นแล้วจริงในวันนี้ ทั้งการขูดรีดแรงงานเบื้องหลังการเทรนโมเดล การดูดข้อมูลมหาศาลไปใช้โดยไม่ขออนุญาต ผลของ synthetic media ต่อระบบข้อมูลข่าวสารซึ่งโยงกับ misinformation และการกระจุกตัวของอำนาจไว้ในมือบริษัทไม่กี่ราย (DAIR) TIME รายงานว่าคำวิจารณ์แนวนี้มีมาตั้งแต่ก่อนแถลงการณ์เดือนพฤษภาคม และ Dan Hendrycks ผู้อำนวยการ CAIS ตอบว่าสังคมจัดการความเสี่ยงหลายอย่างพร้อมกันได้ ทั้ง ai-bias เชิงระบบ ข้อมูลบิดเบือน การใช้ในทางร้าย การโจมตีไซเบอร์ และการนำไปทำอาวุธ ควบคู่ไปกับความเสี่ยงระดับสูญพันธุ์ ไม่ใช่เรื่องที่ต้องเลือกอย่างใดอย่างหนึ่ง (TIME) งานวิจัยของ Emma Hoes และ Fabrizio Gilardi แห่งมหาวิทยาลัยซูริก ตีพิมพ์ใน PNAS เมื่อ 17 เมษายน 2025 ให้ข้อมูลเชิงประจักษ์กับข้อถกเถียงนี้ ทีมวิจัยทำการทดลองแบบ preregistered สามครั้งกับผู้ตอบแบบสอบถามในสหรัฐและอังกฤษรวม 10,800 คน โดยให้อ่านพาดหัวข่าวที่วาดภาพ AI เป็นภัยระดับหายนะ เป็นปัญหาเฉพาะหน้า หรือเป็นประโยชน์ ผลคือพาดหัวแนวหายนะทำให้คนกังวลความเสี่ยงระดับสูญพันธุ์มากขึ้นจริง แต่ไม่ได้ทำให้ความกังวลต่อปัญหาเฉพาะหน้าอย่าง bias หรือ misinformation ลดลงเลย และโดยรวมคนยังห่วงปัญหาเฉพาะหน้ามากกว่าความเสี่ยงสูญพันธุ์อยู่ดี (PNAS) ทั้งนี้กลุ่มตัวอย่างมาจากสหรัฐและอังกฤษ ยังไม่มีงานเทียบเคียงในบริบทไทย ข้อควรระวังคือคำนี้ยังไม่มีฉันทามติทางวิทยาศาสตร์ว่าความเสี่ยงมีจริงแค่ไหนหรือจะเกิดเมื่อไหร่ จึงควรฟังทั้งสองฝั่งแทนที่จะเชื่อฝั่งใดฝั่งหนึ่งทั้งหมด

ตัวอย่างจากบทสนทนาจริง

ผู้บริหารสายกลยุทธ์: เห็นข่าวซีอีโอ OpenAI กับ Anthropic เซ็นแถลงการณ์เรื่อง AI เสี่ยงทำมนุษย์สูญพันธุ์ นี่จริงจังขนาดนั้นเลยเหรอ หรือเป็นการตลาด

วิทยากร: เป็นข้อถกเถียงที่จริงจังครับ แต่ก็ยังเถียงกันไม่จบ ฝั่งที่กังวลคือ existential risk มองว่า AI ที่ฉลาดเกินควบคุมในอนาคตอาจเป็นภัยระดับโลก ส่วนฝั่งวิจารณ์อย่างนักวิจัย AI ethics บอกว่าการพูดเรื่องนี้เบี่ยงเบนความสนใจจากปัญหาที่ AI สร้างอยู่แล้ววันนี้ เช่น bias ในการคัดคนหรือข่าวปลอม สำหรับงานเรา สิ่งที่ควรทำจริงคือโฟกัสความเสี่ยงระยะสั้นที่วัดผลได้ก่อน แล้วติดตามดีเบตระยะยาวไว้เป็นความรู้รอบด้าน ไม่ต้องเลือกเชื่อสุดโต่งฝั่งใดฝั่งหนึ่ง

ระวังสับสนกับ

• agi : AGI คือระบบ AI ที่มีความสามารถทั่วไปเทียบเท่าหรือเหนือมนุษย์ในหลายด้าน เป็นเป้าหมายทางเทคนิคที่บริษัทบางแห่งประกาศไล่ตาม ส่วน existential risk คือข้อถกเถียงเรื่องผลกระทบที่อาจตามมาถ้า AGI (หรือ AI ที่ทรงพลังมากในรูปแบบอื่น) หลุดจากการควบคุม ไม่ใช่ตัวเทคโนโลยีเอง
• ai-safety : AI safety เป็นสาขางานวิจัยและวิศวกรรมที่กว้างกว่า ครอบคลุมตั้งแต่ความปลอดภัยเฉพาะหน้า (เช่น ป้องกัน prompt-injection) ไปจนถึงความเสี่ยงระยะยาว ส่วน existential risk เป็นแค่ประเด็นย่อยหนึ่งที่สุดโต่งที่สุดในสาขานี้
• alignment : Alignment คือแนวทางเทคนิคที่พยายามทำให้ AI ทำตามเจตนาและคุณค่าของมนุษย์ เป็นหนึ่งในแนวทางที่ฝั่งกังวล existential risk เสนอเป็นทางแก้ ไม่ใช่ตัวความเสี่ยงเอง