一家合伙人时薪逾2000美元的顶级律所，因AI生成“幻觉”导致庭审文件出现虚假法律引文，被迫向法官致歉。

据英国《金融时报》报道，顶级律师事务所Sullivan & Cromwell（S&C）在一起备受关注的破产案件中公开承认，其向法院提交的文件包含多处由AI软件生成的“幻觉”错误，涉及错误引用法律条文和案例，引发法律行业对AI工具使用风险的新一轮关注。

S&C重组业务负责人Andrew Dietderich上周六致函纽约联邦法官Martin Glenn，就该所4月9日提交文件中出现的错误正式道歉，内容包括对美国破产法典的错误引述及案例引用不当。“我们对此深感遗憾，”他在信中写道。Dietderich同时表示，涉事文件在准备过程中未遵循该所关于AI使用的内部政策，该所正评估是否需对内部培训和审查流程作出“进一步改进”。

此次AI错误由案件对手方律所Boies Schiller Flexner（BSF）率先发现。BSF在上周提交的文件中指出，S&C动议中引用的措辞“并未出现在美国破产法典第15章”，并点名多处存在“错误引述或错误识别”问题。BSF还指出，S&C引用的某一案例“并非真实存在的案例”，相关引用实为“不同司法巡回区的另一判决”。

面对质疑，S&C向法院表示，该所在使用AI工具方面维持“严格”标准，要求律师“不信任任何内容，对一切进行核实”，未能核实AI生成内容“构成对公司政策的违反”。然而，此次事件表明内部政策并未得到有效执行。

AI“幻觉”频现法律界，技术滥用敲响警钟

此次事件并非孤例。 去年，Latham & Watkins律所承认其一名律师使用Anthropic的Claude模型协助起草文件，导致文中出现虚构的期刊文章标题及作者信息。新奥尔良一家联邦上诉法院则对一名律师处以2500美元罚款，因其提交的简报中包含21处由AI生成或篡改的错误内容。

值得注意的是，BSF自身亦有类似前车之鉴。据报道援引知情人士，BSF前合伙人John Kucera去年9月在一起针对亚马逊的案件中承认，其使用AI工具准备的文件因“未能核实”细节而包含“重大引用错误”，并表示“对这些错误感到羞愧，深感遗憾”。

知情人士透露，S&C持有ChatGPT的企业授权许可。S&C另向法官表示，文件审查中还发现了本案其他文件存在“非实质性和/或文书性错误”，并说明这些系人为失误，而非AI所致。WilmerHale律师Jeffrey Dennhardt此前指出，法律行业当前存在一场“军备竞赛”，但“仍存有一定程度的怀疑”。此次事件或将进一步加剧业界对AI工具可靠性的审视。