本文探讨了人工智能（AI）技术中的“AI幻觉”现象，即大型语言模型因无法真正理解上下文而可能编造虚假信息。文章重点关注了挪威男子Arve Hjalmar Holmen因ChatGPT编造其杀害儿子的诽谤信息而遭受的困扰。隐私权倡导组织Noyb介入调查，并向挪威数据保护局投诉，认为ChatGPT违反了欧盟《一般数据保护法规》（GDPR）。文章强调了AI技术在生成信息时的准确性问题，以及对个人隐私和名誉的潜在威胁。

😮 **AI幻觉的定义与表现**: AI幻觉是指大型语言模型因无法真正理解上下文，而可能凭空捏造信息，例如不正确的医疗建议或编造的“小常识”。

😱 **ChatGPT编造诽谤事件**: 挪威男子Arve Hjalmar Holmen的案例，ChatGPT在输入他的名字后，编造了他杀害儿子的谎言，并描述了他“完整的一生”。

🧐 **Noyb的介入与调查**: 隐私权倡导组织Noyb介入调查，未能找到任何Holmen犯下相关罪行的证据，但ChatGPT停止了诽谤性指控。

😡 **违反GDPR的投诉**: Noyb认为ChatGPT违反了欧盟《一般数据保护法规》（GDPR），要求删除不准确数据，并确保ChatGPT不再生成类似诽谤信息。

⚠️ **OpenAI的免责声明**: OpenAI目前的做法是在用户会话底部显示免责声明“ChatGPT可能会犯错。请考虑检查重要信息”。

在 AI 技术中，有一个术语叫“AI幻觉”，由于大型语言模型只能尽力猜测下一个最有可能出现的单词，但并不是实际理解上下文内容，因此它们经常会凭空捏造内容，例如完全不正确的医疗建议或是像是编造的“小常识”。然而，这些虚假信息并非完全无害，实际上你甚至能以此起诉公司。

最近，一位名叫 Arve Hjalmar Holmen 的挪威男子就在与 ChatGPT 交谈时，在输入自己的名字后发现，ChatGPT编造了一个谎言，称他杀死了自己的儿子，并被判处了 21 年监禁。他感到十分震惊，因为自己竟然被 AI 编造了子虚乌有的罪行，而且 ChatGPT 还围绕这个“事实”编造了他“完整的一生”。隐私权倡导组织Noyb 很快介入。该组织告诉媒体 TechCrunch，他们调查了ChatGPT为何会输出这些指控，并检查是否有人犯下了与该名字相似但犯下的严重罪行。最终，他们没有找到任何实质性的证据，因此ChatGPT 输出令人毛骨悚然的指控背后的“原因”仍不清楚。

聊天机器人的底层AI 模型已经更新，现在它不再重复诽谤性指控。然而，Noyb之前曾以ChatGPT 输出有关公众人物的不准确信息为由提出投诉，但并不满足于就此了结。该组织现已向Datatilsynet（挪威数据保护局）提出投诉，理由是ChatGPT 违反了欧盟的《一般数据保护法规》（GDPR）。

根据欧盟法律第5(1)(d) 条，处理个人数据的公司必须确保其准确性——如果不准确，则必须更正或删除。 Noyb 认为，仅仅因为ChatGPT 停止了对Holmen 的污蔑，并不意味着数据已被删除。

目前，Noyb 要求 Datatilsynet 命令 OpenAI 删除有关Holmen 的不准确数据，并确保该公司确保ChatGPT 不会产生关于其他人的恐怖故事。OpenAI目前的做法只是在每个用户会话底部以小字体显示免责声明“ChatGPT可能会犯错。请考虑检查重要信息”。