斯坦福大学专家杰夫·汉考克在法庭文件中使用ChatGPT整理文献，却出现了AI生成的错误引用，即所谓的“幻觉”。这引发了争议，批评者认为该文件可信度受损。汉考克承认使用了ChatGPT辅助整理引用，但否认用其撰写内容，并表示对宣誓证词中的观点负责。他将错误归因于AI工具的“幻觉”，并为由此造成的混乱道歉。此事也凸显了在使用AI辅助工作时，人工审核和验证的重要性，避免AI工具的错误影响工作结果。

🤔斯坦福大学专家杰夫·汉考克在法庭文件中使用ChatGPT辅助整理文献，但出现了AI生成的错误引用，即所谓的“幻觉”，引发争议。

💼汉考克承认使用了ChatGPT，但否认用其撰写内容，强调自己撰写并审查了宣誓证词，并坚信其观点得到了学术研究支持。

⚠️批评者认为汉考克的文件可信度受损，认为该文件“不可靠”，并要求在审议中将其排除在外。

💡汉考克将错误归因于ChatGPT生成的错误引用，并为由此造成的混乱道歉，强调自己无意误导法院。

🧐此次事件凸显了在使用AI辅助工作时，人工审核和验证的重要性，避免AI工具的错误影响工作结果。

IT之家 12 月 5 日消息，斯坦福大学社会媒体实验室创始人、错误信息专家（misinformation expert）杰夫・汉考克（Jeff Hancock）承认，他在一份法庭文件中使用了人工智能工具 ChatGPT 来帮助整理引用文献，但出现了所谓的“幻觉”（hallucinations）。批评者指出，这已经严重影响了该文件的可信度。

据IT之家了解，汉考克向法庭提交了这份宣誓证词，以支持明尼苏达州的“使用深度伪造技术影响选举”法案。该法案目前正在联邦法院受到挑战。挑战者包括保守派 YouTuber 克里斯托弗・科尔斯（Christopher Khols）和明尼苏达州众议员玛丽・弗兰森（Mary Franson），他们的律师发现，汉考克的宣誓证词中似乎包含不存在的引文，因此认为该文件“不可靠”，并要求在审议中将其排除在外。

汉考克随后承认使用了 ChatGPT，但否认用它来撰写任何内容。他表示，自己撰写并审查了宣誓证词的内容，并坚信其中的每一项主张都得到了该领域最新学术研究的支持，并反映了他作为专家对人工智能技术对虚假信息及其社会影响的看法。

对于引用文献出现错误的问题，汉考克解释说，他使用了 Google Scholar 和 GPT-4 来识别可能与宣誓证词相关的文章，以便将自己已知的知识与新的学术研究相结合。他表示，他使用 GPT-4 创建了引文列表，并没有意识到该工具生成了两个错误的引文，即所谓的“幻觉”，并为另一个引文添加了错误的作者。

汉考克表示：“我无意误导法院或律师。我对由此造成的任何混乱表示诚挚歉意。尽管如此，我仍然坚定地支持宣誓书证词的所有实质性观点。”

此次事件凸显了在使用 AI 辅助工作时，人工审核和验证的重要性。