英格兰和威尔士高等法院表示,律师需要采取更强有力的措施,防止在工作中滥用人工智能。

在将最近的两起案件联系起来的裁决中,维多利亚·夏普(Victoria Sharp)法官写道,像ChatGPT这样的生成式人工智能工具“无法进行可靠的法律研究”。

“这些工具可以对提示产生明显连贯和合理的反应,但这些连贯和合理的反应可能被证明是完全不正确的,”夏普法官写道。“这些回应可能会做出完全不真实的自信断言。

这并不意味着律师不能在研究中使用人工智能,但她表示,他们有专业职责“在专业工作过程中使用之前,通过参考权威来源来检查此类研究的准确性。

夏普法官建议,随着越来越多的案件,律师(包括美国方面,代表主要人工智能平台的律师)引用了似乎是人工智能产生的谎言,“需要做更多的工作来确保遵循指导并遵守他们对法院的职责”,她说,她的裁决将转交给包括律师委员会和法律协会在内的专业机构。

在其中一个案件中,一名代表一名律师代表一名寻求对两家银行进行赔偿的男子提交了一份文件,其中45次引用 – 其中18起案件不存在,而许多其他案件“不包含归因于他们的报价,不支持他们引用的主张,并且与申请的主题没有任何关系,”夏普法官说。

另一方面,一名代表一名被驱逐出伦敦家的男子的律师撰写了一份法庭文件,引用了五起似乎不存在的案件。(律师否认使用AI,尽管她说引用可能来自“Google或Safari”中出现的AI生成的摘要。夏普法官说,虽然法院决定不提起藐视法庭诉讼,但这“不是先例”。

“不遵守这方面职业义务的律师面临严厉制裁的风险,”她补充说。

两名律师要么被转介,要么被转介给专业监管机构。夏普法官指出,当律师不履行对法院的职责时,法院的权力范围从“公开警告”到强加费用,藐视法庭程序,甚至“转介给警察”。