AI ก่อกระแสกังวลในหมู่นักกฎหมาย หลังทนายใช้ “คดีปลอม” อ้างอิงในศาล

AI ปลุกวิกฤตความน่าเชื่อถือ! ทนายจีนอ้างอิง "คดีปลอม" กลางศาล ชี้เป็นอาการ "ประสาทหลอน" ของเทคโนโลยี

เมื่อไม่นานมานี้ เจิ้ง จี๋เจ๋อ ผู้พิพากษาในกรุงปักกิ่ง ประเทศจีน ได้พบกับกรณีที่น่ากังวล เมื่อทนายฝ่ายโจทก์รายหนึ่งได้อ้างอิงคำพิพากษาคดีความที่มีความน่าสงสัยระหว่างการพิจารณาข้อพิพาททางการค้า ในตอนแรกการอ้างอิงคดีดังกล่าวดูน่าเชื่อถือและมีความเกี่ยวข้องกับข้อพิพาทอย่างมาก แต่ผู้พิพากษาเจิ้งรู้สึกถึงความไม่ชอบมาพากล จึงทำการตรวจสอบและพบว่าข้อเท็จจริงไม่ได้เป็นเช่นนั้น

ทนายยอมรับว่าใช้ AI สร้าง "คดีปลอม"

หลังจากถูกซักไซ้ไล่เลียง ทนายฝ่ายโจทก์ก็ยอมรับว่า "คำพิพากษาอ้างอิง" ที่นำมาใช้นั้นมาจากการใช้เครื่องมือ ปัญญาประดิษฐ์ (AI) โดยเขาได้ป้อนข้อมูลสำคัญของข้อพิพาทปัจจุบันเข้าไปในโมเดลภาษาขนาดใหญ่ จากนั้นจึงคัดลอกคดีความตัวอย่างที่ AI สร้างขึ้นมาบรรจุลงในคำฟ้องฉบับลายลักษณ์อักษรโดยตรง และไม่ได้ตรวจสอบความถูกต้องก่อนยื่นต่อศาล

ศาลประชาชนเขตทงโจวได้กำหนดให้การอ้างอิงคดีที่สร้างขึ้นโดย AI เป็น โมฆะ พร้อมออกหนังสือตักเตือนพฤติกรรมของทนายรายนี้อย่างเป็นทางการในคำพิพากษา โดยเน้นย้ำถึงความจำเป็นที่จะต้องไม่ปล่อยให้ข้อมูลเท็จที่สร้างจากปัญญาประดิษฐ์มาทำลายระเบียบความถูกต้องทางตุลาการ

นักกฎหมายชี้ นี่คืออาการ "ประสาทหลอน" ของ AI

เฉิน หางผิง อาจารย์กฎหมายจากมหาวิทยาลัยชิงหัว มองว่าการอ้างอิงคำพิพากษาอันเป็นเท็จนี้เป็นตัวอย่างของ "อาการหลอน" (hallucination) ของปัญญาประดิษฐ์ ซึ่งหมายถึงสถานการณ์ที่ AI สร้างข้อมูลที่เป็นเท็จหรือทำให้เข้าใจผิด แต่มีรูปแบบและบริบทที่ดูน่าเชื่อถือ นักกฎหมายจึงต้องทราบขอบเขตที่เหมาะสมในการใช้งานปัญญาประดิษฐ์

โจว จวิ้นอู่ หุ้นส่วนอาวุโสของสำนักงานกฎหมายในปักกิ่ง เสริมว่า แม้บางครั้งมีการค้นหาคดีด้วยเครื่องมือ AI แต่ต้องระวังอย่างมาก และไม่สามารถไว้วางใจผลลัพธ์ได้อย่างเต็มที่ ตัวอย่างเช่น หมายเลขคดีที่เรียงลำดับง่ายๆ เช่น 1234 หรือ 000 มีแนวโน้มสูงที่จะเป็นข้อมูลที่สร้างขึ้นมาเพื่อหลอกลวง

เนื้อหา AI ทะลักท่วมวงการศาลยุติธรรม

เมื่อไม่นานมานี้ ผู้พิพากษาในศาลท้องถิ่นทางตะวันออกของจีนยังพบเจอคำฟ้องร้องที่ดูเหมือนจะถูกเขียนขึ้นโดย AI ซึ่งมีการระบุเอกสารรายละเอียดอันเป็นเท็จและหมายเลขคดีความที่ไม่ถูกต้อง กรณีเหล่านี้ตอกย้ำความกังวลว่าเนื้อหาที่สร้างขึ้นโดยปัญญาประดิษฐ์กำลังแทรกซึมเข้าสู่วงการศาลยุติธรรมอย่างรวดเร็ว

สื่อสหรัฐฯ รายงานผลการศึกษาของ Graphite ว่า บทความใหม่ที่เขียนโดย AI เพิ่มขึ้นอย่างมากหลังการเปิดตัว ChatGPT ในปี 2023 และมีจำนวนมากกว่าที่เขียนโดยมนุษย์ ณ จุดหนึ่ง อาจารย์เฉินกล่าวว่า กรณีที่ทนายยื่นฟ้องร้องด้วยข้อมูลจากการหลอนของ AI นั้นเกิดขึ้นทั่วโลก ทำให้หลายประเทศ เช่น สหรัฐฯ และสิงคโปร์ ต้องออกกฎระเบียบใหม่เพื่อตรวจสอบรับรองความถูกต้องของเอกสารที่ใช้ AI ช่วยจัดทำก่อนยื่นต่อศาล

การกำกับดูแลและการใช้งานอย่างชาญฉลาด

เมื่อเร็วๆ นี้ สภานิติบัญญัติระดับสูงสุดของจีนได้อนุมัติการแก้ไขกฎหมายความมั่นคงทางไซเบอร์ เพื่อปรับปรุงการกำกับดูแล มาตรฐานจริยธรรม และการประเมินความเสี่ยงของเทคโนโลยี AI อาจารย์เฉินกระตุ้นให้หน่วยงานทางการต่างๆ เสริมสร้างการควบคุมเพิ่มเติม เพื่อป้องกันการใช้ AI ในทางที่ผิดจนทำลายระเบียบทางตุลาการ

แม้เทคโนโลยีปัญญาประดิษฐ์จะช่วยให้งานกฎหมายมีประสิทธิภาพมากขึ้น แต่โจวก็เน้นย้ำว่า นักกฎหมายต้องเรียนรู้ที่จะใช้เครื่องมือเหล่านี้อย่างชาญฉลาด ขณะเดียวกัน บางประเทศก็เริ่มทดลองใช้ AI ช่วยพิจารณาคำตัดสินคดีอาญาอย่างสร้างสรรค์ เพื่อหาทางใช้ประโยชน์จากเทคโนโลยีอย่างถูกต้อง