อาการหลอนคืออะไร
อาการหลอนเกิดเมื่อ AI สร้างคำตอบที่ฟังดูสมเหตุสมผลแต่ไม่ตรงความจริง เช่น อ้างเลขคดีจำลองที่ 00/2569 พร้อมรายละเอียดที่แต่งขึ้น หรือสร้างชื่อพยานที่ไม่เคยมีตัวตน สิ่งเหล่านี้อันตรายเป็นพิเศษในงานคดี เพราะดูน่าเชื่อถือจนเผลอเอาไปใช้.
เมื่อไรความเสี่ยงสูงที่สุด
ความเสี่ยงหลอนเพิ่มขึ้นเมื่อถามเรื่องที่เฉพาะเจาะจงมาก เช่น ตัวเลขสถิติ มาตรากฎหมายเฉพาะ คำพิพากษา หรือข้อมูลล่าสุดที่อยู่นอกช่วงข้อมูลที่แบบจำลองเคยเรียน รวมถึงเมื่อผู้ใช้ตั้งคำถามชี้นำให้ตอบในทางใดทางหนึ่ง.
วิธีลดและตรวจจับ
ออกแบบคำสั่งให้ AI ระบุได้ว่าไม่แน่ใจหรือไม่มีข้อมูล แทนการบังคับให้ตอบ ขอให้แยกข้อเท็จจริงออกจากความเห็น และตรวจทุกชื่อ ตัวเลข วันที่ และการอ้างกฎหมายกับแหล่งทางการก่อนใช้ หากอ้างอิงใดตรวจไม่พบของจริง ให้ถือว่าเป็นข้อสงสัยทันที.