文｜彭辉

随着生成式人工智能技术的迅猛发展与普及应用，法律这一高度严谨的专业领域正迎来一场深刻的效率革命。然而，与之伴生的“数字幻觉”现象——即人工智能生成看似合理但实则虚构或失真的信息——正如同无形的暗流，对司法活动的真实性根基与公信力防线构成严峻挑战，这不仅干扰了个案的公正审理，更侵蚀“以事实为依据，以法律为准绳”这一司法灵魂。

法律从业者：

职业伦理失守与法律风险滋生

部分律师过度依赖AI生成法律文书却疏于核验，导致数字幻觉以虚假法律依据的形式渗透司法流程，这既违背职业伦理又触犯法律红线。《律师法》明确要求律师需“勤勉尽责”，但实践中仍有律师直接提交含AI伪造内容的代理意见，如英国Ayinde金融诉讼案中，原告律师援引的18个关键判例全为AI生成，北京通州法院股权代持案中代理人提交的“上海一中院判例”亦系AI编造。这些行为不仅违反最高法AI司法应用“辅助审判”原则，还可能误导法庭，严重损害法律职业群体的专业公信力。

当事人：

权益诉求异化与法律责任叠加

当事人对AI工具的误用或滥用，使其成为数字幻觉的制造者与受害者。部分当事人为获取诉讼优势，用AI篡改微信聊天记录虚构合同合意，或生成AI图片后谎称享有著作权提起索赔，北京一中院就曾审理此类案件并揭穿原告的虚假陈述。另有当事人因缺乏核验能力，误用AI生成的错误上诉状导致诉求表述偏差。这些行为均违反《民事诉讼法》禁止提交虚假证据的规定，表现看似“助力”维权，实则适得其反——不仅诉求会被驳回，还可能被处以罚款，福建泉州就有当事人因用AI伪造户籍证明，以涉嫌伪造国家机关公文罪被刑事追责，原本的权益主张最终演变为法律责任。

司法程序：

审判效率损耗与司法公正受损

数字幻觉通过污染司法信息链条，对审判流程造成多重冲击，侵蚀司法效率与公正的双重价值。AI生成的虚假类案、伪造证据常需法院投入额外资源核验，美国怀俄明州法院因律师提交AI虚假材料，导致庭审延期；上海某法院审理商标案时，需逐一甄别AI操纵的虚假搜索结果，大幅增加司法成本。这种干扰还可能误导裁判方向。更严重的是，虚假信息若未被识破，将动摇“以事实为依据”的司法根基，损害公众对司法权威的信任。

构建技术、职业与制度协同的防御体系

防范“数字幻觉”风险，必须坚持“人工主导、技术辅助”的根本原则，构建一个涵盖技术研发者、法律职业者、司法机关三方主体的协同治理体系。

技术方是风险源头治理的第一关，应致力于开发负责任的“法律人工智能”。一是建设权威专业的高质量语料库。改变依赖开放网络数据训练的模式，与司法机关、学术机构合作，构建以权威法律法规、标准司法案例、正统法学文献为核心的专用训练数据池，从源头提升信息生成的可靠性。二是实施领域精调与知识增强。通过检索增强生成（RAG）技术，确保模型输出严格基于检索到的真实法律条文和案例，限制其“自由发挥”，对引用内容强制标注来源，对模型推断部分进行醒目提示。三是嵌入内部验证与纠错机制。在系统内部部署多模型交叉验证、对抗性训练等手段，提升模型对自身“幻觉”的识别与预警能力。

法律职业与诉讼参与人，则应恪守勤勉核查的“最终责任底线”。无论技术如何进化，法律职业者都是确保诉讼材料真实性的最终责任人。一是确立不可委托的核实义务。必须明确，使用AI进行辅助工作，绝不意味着核查义务的免除。美国律师协会等机构已发布指引，要求律师审查AI生成的一切内容的准确性。我国可加借鉴，要求律师对AI生成的法律引注、事实陈述等进行独立、实质核查。二是建立全流程使用规范。律师事务所需建立内部AI使用指引，要求对AI辅助起草的重要文书进行人工复核并留痕。对专家证人，律师应主动询问其是否使用了AI以及如何验证生成内容。三是加强职业伦理教育与技能培训。将“数字幻觉”风险识别与防范纳入法律职业继续教育的必修内容，提升法律从业者“人机协同”的能力，使其善用AI而不盲从。

司法机关作为裁判者和秩序维护者，应主动作为，通过规则引导和必要惩戒，规范AI在诉讼中的使用。一是探索发布专项诉讼指引。由最高人民法院研究制定《诉讼参与人使用人工智能指引》，明确要求诉讼参与人若使用AI生成诉讼文书核心内容，需予以声明，并承诺已履行核实义务。二是强化司法审查与应对措施。法官应提升对“数字幻觉”的警惕性和识别能力。对于律师提交的明显失实AI生成材料，可依法发送司法建议函至相关主管部门，建议进行执业纪律调查；对于情节严重、可能构成妨碍诉讼的，应依法采取罚款等强制措施。三是推动构建分层责任体系。对于无主观恶意、因技术认知不足导致的轻微失实，以批评教育、不予采纳为主；对于明知可能虚假仍提交，或经法庭指出后仍坚持不更正的，应依据《民事诉讼法》或《律师法》相关规定，追究其妨碍民事诉讼或违反执业纪律的责任。

特约评论员|彭辉

上海社会科学院法学研究所教授、博士生导师