"ไซเบอร์สเปซจีน" คุมเข้ม AI แอบอ้างปลอมเป็น "ดารา-นักกีฬาดัง" ไลฟ์สดขายของ

สำนักบริหารไซเบอร์สเปซแห่งจีน เผยว่าได้เร่งปราบปรามการใช้เทคโนโลยีดีปเฟก (deepfake) เพื่อแอบอ้างเป็นบุคคลสาธารณะในไลฟ์สตรีมมิงและการขายสินค้าออนไลน์ หลังพบการระบาดหนักในแพลตฟอร์มอีคอมเมิร์ซ

ช่วงที่ผ่านมา ทางการได้ลบบัญชีและเนื้อหาจำนวนมากที่ใช้ AI สร้างใบหน้าเลียนแบบคนดัง โดยลบเนื้อหาที่ผิดกว่า 8,700 รายการ และปิดบัญชีแอบอ้างกว่า 11,000 บัญชี

หนึ่งในกรณีที่ถูกพูดถึงมากที่สุดคือ “เวินเจิงหรง” นักแสดงสาวที่ถูกนำภาพไปใช้ไลฟ์ขายสินค้าซ้ำหลายครั้ง แม้เธอจะเข้าไปโต้แย้งในไลฟ์แต่กลับถูกบล็อก ทำให้เห็นปัญหาที่ทวีความรุนแรงขึ้นในอีคอมเมิร์ซจีน เมื่อผู้ไม่หวังดีใช้ภาพลักษณ์คนดังขายสินค้าคุณภาพต่ำหรือสินค้าปลอม

ยังมีกรณีแอบอ้างบุคคลมีชื่อเสียงอีกหลายราย เช่น “หลี่จื่อเหมิง” พิธีกรทีวี ที่ถูกใช้หน้าโปรโมตสินค้าน้ำมันปลาทะเลลึกซึ่งแท้จริงเป็นเพียงลูกอม รวมถึงการปลอมเป็นนักกีฬาโอลิมปิกอย่าง “เฉวียนหงฉาน” และ “ซุนอิ่งซา” เพื่อขายไข่

ผู้เชี่ยวชาญด้านกฎหมายระบุว่า พฤติกรรมเหล่านี้ละเมิดกฎหมายแพ่งและสิทธิของบุคคลสาธารณะ โดยแม้จีนจะเริ่มบังคับใช้กฎให้ติดป้ายกำกับเนื้อหา AI ตั้งแต่ 1 ก.ย. แต่ผู้กระทำผิดยังหาวิธีหลบเลี่ยง เช่น ซ่อนลายน้ำหรือแบ่งเนื้อหาออกเป็นชิ้นเล็ก ๆ เพื่อเผยแพร่ผ่านหลายบัญชี

แพลตฟอร์มโซเชียลเองก็เจอปัญหาในการกลั่นกรอง เช่น โต่วอิน (Douyin) หรือติ๊กต็อกเวอร์ชันจีน ต้องลบวิดีโอปลอมหน้าเวินกว่า 10,000 คลิป และลงโทษผู้ใช้งาน 37 บัญชี โดยผู้บริหารยอมรับว่าการตรวจจับเนื้อหา AI เป็นความท้าทายทางเทคนิค

ด้านเหยื่อการแอบอ้างเองก็ลำบากไม่แพ้กัน การพิสูจน์ว่าเป็นเนื้อหา AI ใช้เวลานานและซับซ้อน ทีมงานของเวินเคยรายงานบัญชีปลอมถึง 50 บัญชีภายในวันเดียว แต่หลายบัญชีก็กลับมาเปิดใหม่อย่างรวดเร็ว

ผู้เชี่ยวชาญเสนอว่าต้องแก้ปัญหานี้ด้วยหลายมาตรการ ทั้งการเพิ่มบทลงโทษ พัฒนาเทคโนโลยีตรวจจับให้แม่นยำขึ้น และกำหนดความรับผิดชอบของแพลตฟอร์มให้ชัดเจน

สำนักบริหารไซเบอร์สเปซฯ ระบุว่าจะเดินหน้าปราบปรามอย่างเข้มงวด พร้อมผลักดันให้แพลตฟอร์มออนไลน์รับผิดชอบมากขึ้น และกำจัดบัญชีที่ทำการตลาดแบบหลอกลวง เพื่อรักษาสภาพแวดล้อมออนไลน์ให้ปลอดภัยและเป็นธรรม