英格兰和威尔士高等法院表示，律师需要采取更强有力的措施，防止人工智能在工作中被滥用。在一项涉及最近两起案件的裁决中，维多利亚·夏普 (Victoria Sharp) 法官写道，像 ChatGPT 这样的生成式人工智能工具“无法进行可靠的法律研究”。
“这类工具可以对提示做出看似连贯且合理的回答，但这些连贯且合理的回答最终可能完全错误，”夏普法官写道。“这些回答可能会做出完全不真实的自信断言。”
这并不意味着律师不能在研究中使用人工智能，但她表示，他们有专业责任“在将人工智能用于专业工作之前，通过参考权威来源来检查此类研究的准确性”。
夏普法官表示，越来越多的案件中，律师（包括美国方面代表主要人工智能平台的律师）引用了疑似人工智能生成的虚假信息，这表明“需要采取更多措施确保遵循指导意见，律师履行对法院的义务”，她表示，她的裁决将转发给包括律师公会和律师协会在内的专业机构。
在其中一起案件中，一名代表一名男子向两家银行寻求赔偿的律师提交了一份包含 45 条引文的申请，其中 18 条并不存在，而其他许多引文“没有包含归于它们的引文，不支持它们所引用的主张，并且与申请的主题没有任何关联”，夏普法官说。
在另一起案件中，一名代表被赶出伦敦住所的男子的律师撰写了一份法庭文件，列举了五起看似不存在的案件。（该律师否认使用了人工智能，但她表示，这些引文可能来自“Google或Safari”浏览器中出现的人工智能生成的摘要。）夏普法官表示，虽然法院决定不启动藐视法庭诉讼程序，但这“并非先例”。
她补充道：“不履行这方面专业义务的律师将面临严厉制裁。”
两位律师均已被移交或自行移交专业监管机构。夏普法官指出，当律师未能履行其对法院的义务时，法院的权力范围广泛，从“公开警告”到征收诉讼费、提起藐视法庭诉讼，甚至“移交警方”。
