加州一名法官在收到一份补充简报后，严厉批评两家律师事务所未披露使用人工智能的情况，该简报“充斥着大量虚假、不准确和误导性的法律引证和语录”。法官迈克尔·威尔纳（Michael Wilner）在上周提交的裁决中对涉案律师事务所处以3.1万美元的罚款，并表示“任何胜任的律师都不应该将研究和写作外包给”人工智能。
“我读了他们的诉状，被他们引用的权威性说服了（或者至少是好奇），于是我查阅了相关判决，想了解更多信息——结果却发现根本不存在，”米尔纳法官写道。“这太可怕了。这几乎导致了更可怕的结果（在我看来），那就是把这些虚假材料纳入司法命令。”
如文件中所述，原告在针对State Farm的民事诉讼中的法律代表使用人工智能生成了一份补充辩护状的提纲。然而，这份提纲在被发送给另一家律师事务所K&L Gates时，却包含“虚假的人工智能研究”。K&L Gates将这些信息添加到了辩护状中。“这两家律师事务所的律师或工作人员在提交辩护状之前，显然没有对这项研究进行引用核查或其他审查，”米尔纳法官写道。
米尔纳法官审查了这份诉状后，发现“至少有两项引用的依据根本不存在”。在要求高盖茨律师事务所澄清后，该事务所重新提交了诉状，米尔纳法官表示，诉状中“除了最初的两处错误外，还包含大量捏造的引证和引用”。随后，他签发了出庭令，要求律师们宣誓作证确认使用了人工智能技术。编写该提纲的律师承认使用了Google Gemini以及CoCounsel旗下Westlaw Precision的人工智能法律研究工具。
这并非律师首次被发现在法庭上使用人工智能。特朗普前律师迈克尔·科恩（Michael Cohen）曾将Google双子座（当时名为Bard）误认为是“超级搜索引擎”而非人工智能聊天机器人，并在一份法律文件中引用了虚假的法庭案件。一位法官还发现，起诉哥伦比亚一家航空公司的律师在其辩护状中包含了一系列由ChatGPT生成的虚假案件。
米尔纳法官写道：“最初未披露地使用人工智能产品生成辩护状初稿的做法完全是错误的。将这些材料发送给其他律师，却不披露其模糊的人工智能来源，实际上会将这些专业人士置于危险之中。”
