顶级律师事务所承认在与涉嫌诈骗网络相关的破产申请中出现人工智能“幻觉”

###简要说明

• 律师事务所Sullivan & Cromwell已承认在一起备受关注的案件中的最新文件中包含AI“幻觉”。
• 该事务所表示，AI输出未经过适当验证，包含虚构的引文。
• 此案涉及法院指定清算人试图追索与被制裁机构Prince Group相关的索赔。

律师事务所Sullivan & Cromwell已向美国破产法院承认，在一份备受关注的案件中，最近提交的文件中包含由人工智能生成的错误，包括虚构的引文。 “我们对发生此事深感遗憾，”该事务所重组负责人Andrew Dietderich写信给法官Martin Glenn，表示该文件中包含AI“幻觉”，产生了虚构的权威资料并扭曲了现有资料。 这一披露是在向纽约南区美国破产法院提交的信中披露的，该法院由该事务所代表来自英属维尔京群岛的法院指定清算人。错误出现在4月9日的动议中，事务所表示在准备过程中未遵守AI使用规则。

此案涉及这些清算人试图追索与Prince Group及其所有者陈志相关的索赔。检察官指控陈志指挥诈骗团伙，针对全球受害者，并试图追回数十亿美元的加密货币，他们声称这些货币与相关活动有关。今年早些时候，他在柬埔寨被拘留，随后被遣返回中国。 通过美国第15章程序，清算人正寻求确认其代表债权人和受害者行事的权限。Prince Group注册在英属维尔京群岛，被美国当局指控在东南亚进行大规模欺诈活动，并受到英国和美国政府的制裁。 根据更正后的提交文件，4月的文件在多个地方误述了案例法，并包含未支持其所引述主张的引文，而一些甚至毫无依据。事务所已撤回原始动议，并提交了修订版本。 Prince Group和陈的律师在Boies Schiller Flexner最初指出了这些错误。他们表示，引用的美国破产法条款找不到，且多个权威资料被误解或误认。在某些情况下，他们指出，引用的案例涉及不同地区的判决。

在另一份文件中，被告方表示至少有28个引文错误，包括引用法院不存在的引述。他们认为更正的时机具有偏见性，因为修订后的文件是在他们提出异议之后提交的，并请求法院推迟预定的听证会并举行状态会议。 Sullivan & Cromwell表示，其政策要求律师在使用AI工具前完成培训，并独立验证所有输出。 “在任何事务所律师获得生成式AI工具的访问权限之前，必须完成两个必修培训模块，完成情况将被追踪和验证。培训反复强调AI‘幻觉’的风险，包括虚构案例引文、误解权威资料和不准确的引用，”该事务所表示。 “它指导律师‘一切都不相信，全部验证’，并明确指出未能独立验证AI生成的输出即违反事务所政策。” 该事务所表示，广泛审查发现其他文件中存在一些细微的起草问题，归因于人为错误而非AI。它未披露起草原始动议的律师身份。 AI被置于被告席 这一事件增加了法律实践中与AI相关失误的案例数量，随着事务所测试旨在加快研究和起草的工具。法院最近对提交虚假或不准确引用的AI生成文件的律师进行了制裁或批评。在澳大利亚，一名律师去年因使用AI而被剥夺了作为主要律师的执业资格。 法学院开始要求教授相关技术，同时高级法官警告称，误用可能影响诉讼的公正性。

近期裁决还涉及AI在现有法律框架中的适用，包括与此类工具的互动是否受到特权保护。同时，一些法院也在试点使用AI系统，以帮助管理繁重的案件负载。