ทนายความ Steven A. Schwartz ที่ฟ้องร้องสายการบิน Avianca ของโคลอมเบียได้ยื่นคำร้องเกี่ยวกับคดีหลายคดีก่อนหน้า ที่ได้มาจากการใช้งาน ChatGPT แต่สุดท้ายข้อมูลดังกล่าวกลับเป็นข้อมูลเท็จ ยืนยันด้วยคำพูดของ Kevin Castel ผู้พิพากษาเขตของสหรัฐฯ ว่า “6 คดีที่ส่งมาให้พิจารเป็นคดีที่มีการตัดสินจากศาลด้วยคำที่หลอกลวง และการอ้างอิงภายเอกสารก็หลอกลวงด้วยเช่นกัน”
Schwartz ยอมรับเป็นลายลักษณ์อักษรว่าเขาใช้แชทบอทของ OpenAI เพื่อการวินิจฉัยของเขาในการยืนยันคดีว่าเป็นจริงหรือเป็นเท็จ เมื่อเขาทำการพิมพ์ถึงแหล่งที่มา ทาง ChatGPT ก็กล่าวขอโทษสำหรับความสับสนก่อนหน้านี้ และยืนยันว่าคดีนี้เป็นเรื่องจริง โดยบอกว่าสามารถพบได้ใน Westlaw และ LexisNexis และเขายังถามถึงกรณีอื่นๆ อีกว่าเป็นเท็จหรือไม่ ChatGPT ยืนยันว่าเป็นของจริงทั้งหมด
ที่ปรึกษาฝ่ายตรงข้ามทำให้ศาลทราบถึงปัญหาโดยละเอียดว่าการส่งทนายความของ Levidow & Oberman นั้นเต็มไปด้วยเรื่องโกหก ยกตัวอย่างคดีที่ไม่มีอยู่จริง Varghese v. China Southern Airlines Co., Ltd. แต่แชทบอทดูเหมือนจะอ้างอิงถึงกรณีจริงอีกกรณีหนึ่งที่มีชื่อว่า Zicherman v. Korean Air Lines Co., Ltd., แต่ระบุวันที่ (และรายละเอียดอื่นๆ) ผิด โดยบอกว่าคดีนี้ถูกตัดสิน 12 ปีหลังจากที่มีการพิพากษาไปแล้วในปี 1996
ในปัจจุบัน Schwartz ออกมาขอโทษและยอมรับผิดในกรณีดังกล่าว ปัจจุบันถูกส่งตัวไปทำงานอยู่ที่ขต Southern District ของนิวยอร์ก นี่ถือว่าเป็นกรณีตัวอย่างที่บอกว่าแชทบอท AI ไม่สามารถนำทุกอย่างมาอ้างอิงได้ ต้องทำการตรวจสอบให้แน่ใจก่อนอย่างน้อย 2-3 รอบเพื่อความถูกต้องก่อนนำไปใช้ในการอ้างอิงจริง
ที่มา: The Verge
