澳大利亚法院AI乌龙：律师提交虚假文件引争议

一名澳大利亚知名律师向最高法院法官致歉，原因是在一起谋杀案审判中提交的法律文件包含了由人工智能生成的虚构引文和不存在的判例。这起发生在维多利亚州最高法院的事件，再次凸显了人工智能引发的错误在全球司法系统中造成的干扰。

辩护律师、御用大律师里希·纳特瓦尼（Rishi Nathwani）对一名被控谋杀的青少年提交的文件中的不准确之处“负全部责任”。纳特瓦尼代表辩护团队向詹姆斯·埃利奥特法官表示：“我们对所发生的一切深感抱歉和羞愧。”人工智能生成的错误导致庭审延误了24小时，而埃利奥特法官原本希望早些结束庭审。次日，埃利奥特裁定纳特瓦尼的当事人（一名身份受保护的未成年人）因精神障碍不构成谋杀罪。

埃利奥特法官对这种情况表达了强烈不满，称“这些事件的发展方式令人不满意”。他强调了可靠法律文件提交的极端重要性，并补充道：“法院依赖律师提交文件的准确性，这对于正当司法管理至关重要。”这些具有欺骗性的文件中，包括了虚假归属于州立法机构演讲的引文，以及声称来自最高法院但实际不存在的判例引用。

这些错误是在埃利奥特法官的助理试图核实所引用的判例时发现的，他们发现这些判例缺失，于是要求辩护团队提供副本。律师们随后承认这些引文“不存在”，并且提交的文件中包含了“虚构的引用”。他们解释说，虽然他们核实了最初的引文，但错误地认为其他引文也会是准确的。这些误导性文件也已发送给检察官丹尼尔·波尔切杜（Daniel Porceddu），但他并未核实其真实性。法庭文件中未指明律师们使用的具体生成式人工智能系统。

这起澳大利亚的失误与全球法律系统面临的类似挑战不谋而合。2023年，在美国，两名律师及其事务所被联邦法官处以5000美元罚款，原因是在一起航空伤害索赔案件中提交的文件被发现包含虚构的法律研究，并归因于ChatGPT。P·凯文·卡斯特尔法官在指出他们的恶意行为的同时，也肯定了他们的道歉和纠正措施，选择了较轻的制裁。同年晚些时候，美国前总统唐纳德·特朗普的私人律师迈克尔·科恩（Michael Cohen）提交的法律文件中，再次出现了更多由人工智能编造的法院裁决。科恩承担了责任，承认他不知道自己用于法律研究的谷歌工具能够生成所谓的“AI幻觉”。

司法机构一直在积极应对这些新出现的问题。埃利奥特法官指出，维多利亚州最高法院去年发布了关于律师使用人工智能的指南。这些指南强调：“除非人工智能的使用成果经过独立和彻底的验证，否则不应接受其使用。”在大西洋彼岸，英国高等法院法官维多利亚·夏普（Victoria Sharp）在去年六月警告说，将虚假材料作为真实材料提交可能导致藐视法庭的指控，在最严重的情况下，甚至可能构成妨碍司法公正罪，该罪名最高可判处无期徒刑。这些事件凸显了全球法律专业人士和法院日益增长的担忧：确保人工智能的整合能够增强而非损害司法系统准确性和完整性的基本原则，这一点势在必行。