Content provenance

Content provenance คือแนวคิดที่แนบประวัติที่มาของไฟล์สื่อไว้กับตัวไฟล์เอง เพื่อให้ใครก็ตรวจย้อนได้ว่าไฟล์นั้นเกิดขึ้นอย่างไรและผ่านการแก้ไขอะไรมาบ้าง มาตรฐานเปิดที่เป็นตัวหลักของเรื่องนี้ชื่อ C2PA ซึ่งย่อมาจาก Coalition for Content Provenance and Authenticity ส่วนสิ่งที่ผู้ใช้เห็นเรียกว่า Content Credentials โดยองค์กรอธิบายเปรียบเทียบไว้ว่ามันทำงานเหมือนฉลากโภชนาการของเนื้อหาดิจิทัล คือเปิดให้ใครก็ได้ดูประวัติของไฟล์นั้นได้ทุกเมื่อ ผู้สนับสนุนมาตรฐานนี้เป็นบริษัทใหญ่หลายเจ้าทั้งฝั่งเครื่องมือสร้างเนื้อหา ฝั่งแพลตฟอร์ม และฝั่งสื่อ

โครงสร้างของความพยายามนี้แบ่งเป็นสองส่วน ส่วนที่ทำมาตรฐานเชิงเทคนิคคือ C2PA ซึ่งก่อตั้งเมื่อกุมภาพันธ์ 2021 ส่วนที่ทำหน้าที่ผลักดันให้เกิดการนำไปใช้จริงคือ Content Authenticity Initiative ซึ่งก่อตั้งก่อนหน้านั้นเมื่อพฤศจิกายน 2019 เป้าหมายร่วมคือรับมือกับข้อมูลบิดเบือนในยุคที่ใครก็สร้างภาพและวิดีโอที่ดูสมจริงได้ด้วย AI

จุดที่ต้องเข้าใจให้ชัดที่สุดคือขอบเขตที่มันทำได้ เพราะคนมักคาดหวังเกินจริง ข้อมูล provenance บอกได้เพียงว่าไฟล์นั้นมาจากไหนและถูกแก้อะไร แต่ไม่ได้บอกว่าเนื้อหานั้นจริงหรือถูกต้อง ภาพที่มีประวัติครบถ้วนว่าถ่ายด้วยกล้องรุ่นไหนก็ยังเป็นภาพที่ใช้ประกอบข่าวผิดบริบทได้ ข้อจำกัดที่สองคือระบบไม่ได้รับประกันความถูกต้องของตัวข้อมูลประวัติเอง เครื่องมือที่เซ็นรับรองมักไม่ได้ตรวจสอบว่าข้อมูลที่ถูกเซ็นนั้นถูกต้องจริงหรือไม่ และมีผู้เชี่ยวชาญบันทึกวิธีที่ผู้โจมตีใช้ทำลายกลไกป้องกันของ C2PA ได้ ทั้งการแก้ข้อมูลประวัติและการปลอมลายนิ้วมือ ข้อจำกัดที่สามซึ่งเป็นปัญหาในทางปฏิบัติมากที่สุดคือข้อมูลประวัติหลุดหายง่ายมาก เพราะการอัปโหลดผ่านแพลตฟอร์มที่บีบอัดภาพใหม่หรือการแคปหน้าจอก็ทำให้หายไปแล้ว การไม่มีข้อมูลประวัติจึงไม่ได้แปลว่าไฟล์นั้นปลอม

ตัวอย่างจากบทสนทนาจริง

ฝ่ายสื่อสารองค์กร: "ทีมกฎหมายอยากให้เราตรวจทุกภาพก่อนเผยแพร่ว่าเป็นภาพจริงหรือ AI สร้าง เห็นว่ามีมาตรฐานที่ฝังข้อมูลไว้ในไฟล์ ใช้อันนั้นตรวจได้เลยไหมคะ"

ที่ปรึกษา: "ใช้ประกอบได้แต่ใช้ตัดสินอย่างเดียวไม่ได้ครับ มาตรฐานนี้บอกได้แค่ว่าไฟล์มาจากไหนและแก้อะไรมา ไม่ได้บอกว่าเนื้อหาจริงหรือเปล่า และปัญหาใหญ่กว่านั้นคือข้อมูลประวัติหลุดง่ายมาก แค่แคปหน้าจอหรืออัปโหลดผ่านแพลตฟอร์มที่บีบอัดภาพใหม่ก็หายแล้ว ถ้าเราตั้งกติกาว่าไม่มีข้อมูลประวัติเท่ากับปลอม เราจะตีตกภาพจริงเป็นจำนวนมาก ผมเสนอให้ใช้เป็นสัญญาณเสริม แล้วยังคงขั้นตอนตรวจสอบที่มาจากคนไว้เหมือนเดิมครับ"

ระวังสับสนกับ

• watermarking : watermarking คือการฝังร่องรอยไว้ในตัวเนื้อหาเองเพื่อให้ตรวจได้ว่ามาจาก AI ตัวไหน ส่วน content provenance เป็นข้อมูลประวัติที่แนบมากับไฟล์ ซึ่งอ่านได้ตรงๆ แต่ก็ลบออกได้ง่ายกว่า สองอย่างนี้ใช้เสริมกัน
• deepfake : deepfake คือตัวปัญหา คือสื่อปลอมที่สร้างด้วย AI จนดูสมจริง ส่วน content provenance เป็นหนึ่งในความพยายามแก้ปัญหานั้น โดยเน้นพิสูจน์ของจริงมากกว่าไล่จับของปลอม
• primary-source : primary source คือการไปดูแหล่งต้นทางเพื่อยืนยันข้อเท็จจริง ซึ่งเป็นการตรวจที่เนื้อหา ส่วน content provenance ตรวจที่ตัวไฟล์ว่าใครสร้างและแก้อะไร ไฟล์ที่ประวัติครบอาจยังถูกเอาไปใช้ผิดบริบทได้อยู่ดี