律师因AI智能体编造证人被罚5000美元

新墨西哥州最高法院对律师斯蒂芬·阿伦斯罚款5000美元,并以藐视法庭为由追究其责任。原因是他在为客户谋杀罪定罪提起的上诉中,加入了AI编造的证人和不存在的警方证词。法院认定他在提交文件前从未核实这些事实陈述和法律引用是否真实。

这起案件暴露了一个更普遍的风险:生成式AI能够编出看起来十分可信的姓名、引语和案件细节,不经过独立核实几乎无法分辨真假。全球越来越多律师用聊天机器人起草文件以求提速,而法院已经开始对这种走捷径的做法开出罚单——名誉和法律代价的到来,往往比省下的时间更快。

不妨检查一下,公司里由AI起草的合同、报告或客户信函,发出之前是否经过人工复核。区别在于:1Cifer的智能体只依据企业自身的真实数据回答——1C系统、CRM、银行流水——而不会凭空编造事实,复核也就变成了确认,而不是在虚构中找漏洞。