Deepfake

Deepfake คือภาพ วิดีโอ หรือเสียงที่ถูกสร้างหรือดัดแปลงด้วย ai จนบุคคลจริงดูเหมือนพูดหรือทำในสิ่งที่ไม่เคยเกิดขึ้นจริง เช่น สลับใบหน้าคนหนึ่งไปใส่ในวิดีโอของอีกคน เปลี่ยนการขยับปาก หรือสังเคราะห์เสียงพูดเลียนแบบคนจริง คำนี้เกิดปลายปี 2017 จากชื่อผู้ใช้ Reddit ที่ใช้ชื่อว่า "deepfakes" ซึ่งเป็นการผสมคำระหว่าง deep-learning กับ fake

เบื้องหลังเทคนิคหลักคือ neural-network สองตระกูล: autoencoder ที่เรียนรู้การบีบอัดใบหน้าแล้วสร้างขึ้นใหม่ กับ GAN (Generative Adversarial Network) ที่ให้ model สองตัวแข่งกันเอง ตัวหนึ่งสร้างของปลอม อีกตัวทำหน้าที่จับผิด วนซ้ำไปเรื่อยๆ จนของปลอมสมจริงขึ้นทุกรอบ รายงานของ GAO (หน่วยงานตรวจสอบของรัฐบาลสหรัฐ) ชี้ว่าทุกวันนี้คนที่มีทักษะคอมพิวเตอร์ระดับพื้นฐานกับเครื่องที่บ้านก็สร้าง deepfake ได้ เพราะเครื่องมือและบทเรียนเปิดให้ใช้ทั่วไป นั่นทำให้ deepfake กลายเป็นความเสี่ยงของคนทำงานทุกคน ไม่ใช่แค่เรื่องของวงการเทคโนโลยี

ตัวอย่างความเสียหายที่บันทึกไว้จริง: รายงาน Deeptrace ปี 2019 พบว่า 96% ของ deepfake ที่พบออนไลน์ในตอนนั้นเป็นสื่อลามกที่เหยื่อ (ส่วนใหญ่เป็นผู้หญิง) ไม่ได้ยินยอม · ปี 2019 ผู้บริหารบริษัทพลังงานในอังกฤษถูกเสียงปลอมของ CEO บริษัทแม่หลอกให้โอนเงิน 220,000 ยูโร · ปี 2022 มีวิดีโอปลอมของประธานาธิบดี Zelenskyy ประกาศยอมแพ้ระหว่างสงคราม ซึ่งเป็นการใช้ deepfake สร้าง misinformation ทางการเมืองโดยตรง ที่น่ากังวลคือมนุษย์แยกของปลอมได้แค่ราว 69 ถึง 72% ตามงานศึกษาของ MIT และแม้แต่ระบบ ai-content-detection ที่ชนะการแข่งขัน Deepfake Detection Challenge ก็ทำความแม่นยำได้เพียง 65% ผลข้างเคียงที่ลึกกว่านั้นตามที่ GAO เตือนคือความเชื่อถือในหลักฐานภาพและเสียงโดยรวมจะพังลง: ต่อไปของจริงก็อาจถูกปัดว่า "เป็นแค่ deepfake" ได้เช่นกัน ทางป้องกันที่แนะนำกันคือการยืนยันตัวตนผ่านช่องทางที่สอง การให้ความรู้พนักงาน แนวทาง watermarking หรือการตรวจสอบที่มาของสื่อ และการสร้าง ai-literacy ในองค์กร ทั้งนี้เทคนิคเดียวกันก็มีการใช้แบบถูกต้องเปิดเผย เช่น การลดอายุนักแสดงในภาพยนตร์ หรือ avatar สำหรับวิดีโอเทรนนิ่งในองค์กร

ตัวอย่างจากบทสนทนาจริง

ถาม: "เมื่อกี้มีคลิปเสียง CEO ส่งมาใน LINE สั่งให้โอนเงินให้ vendor ด่วนเลย เสียงเหมือนท่านเป๊ะ แบบนี้ของจริงแน่นอนใช่ไหมคะ"

ตอบ: "อย่าเพิ่งโอนครับ เสียงเหมือนไม่ได้แปลว่าเป็นของจริง เพราะ deepfake เสียงทำได้สมจริงมากแล้ว เคยมีเคสที่ผู้บริหารในอังกฤษถูกเสียงปลอมของ CEO หลอกให้โอนเงินหลักแสนยูโรมาแล้ว ให้ยืนยันผ่านช่องทางที่สองก่อนเสมอ เช่น โทรกลับเบอร์จริงของท่าน หรือถามคำถามที่มีแต่คนในรู้ ค่อยตัดสินใจ"

ระวังสับสนกับ

• misinformation : ข้อมูลเท็จเป็นเรื่องของ "เนื้อหา" ซึ่งจะอยู่ในรูปข้อความล้วนก็ได้ ส่วน deepfake เป็นรูปแบบสื่อปลอมที่มักถูกใช้เป็นเครื่องมือแพร่ข้อมูลเท็จ แต่ deepfake บางชิ้นไม่ใช่ misinformation เช่น เอฟเฟกต์ในภาพยนตร์ที่เปิดเผยว่าสร้างด้วย AI
• ai-slop : เนื้อหา AI คุณภาพต่ำที่ผลิตจำนวนมากเพื่อเรียกยอดวิว ไม่ได้ตั้งใจปลอมเป็นบุคคลใดเจาะจง ส่วน deepfake ตั้งใจเลียนแบบตัวตนของคนจริงคนหนึ่งให้แนบเนียนที่สุด
• synthesia : เป็นตัวอย่างแพลตฟอร์มที่ทำ AI avatar ของคนจริงพูดแทนได้ ใช้เทคโนโลยีตระกูลเดียวกับ deepfake จึงต้องมีเงื่อนไขขอความยินยอมจากเจ้าของหน้าตา/เสียงและการตรวจเนื้อหาก่อนปล่อยวิดีโอ เพื่อไม่ให้ถูกใช้ผิดทางกลายเป็น deepfake