IT之家 05月23日 23:43
Anthropic CEO 阿莫代伊:AI 模型出现“幻觉”的频率可能比人类还低
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

Anthropic 首席执行官达里奥·阿莫代伊在开发者活动上表示,AI 模型产生“幻觉”的频率可能低于人类。他认为,AI 出错并不阻碍 Anthropic 迈向通用人工智能(AGI)的目标,并强调目前看不到 AI 能力的限制。尽管如此,谷歌 DeepMind 的 CEO 哈萨比斯认为当前 AI 模型“漏洞百出”,OpenAI 的一些新模型在处理复杂推理任务时幻觉率反而更高。阿莫代伊同时指出,AI 以极高信心讲出错误信息确实容易引发问题。

🧠 Anthropic CEO 达里奥·阿莫代伊认为,AI 模型产生“幻觉”的频率可能低于人类。他表示,AI 出错并不说明它“不够聪明”,并且这不会阻碍 Anthropic 迈向 AGI 的目标。

💡 阿莫代伊认为,人们总想找出 AI 能力的“上限”,但目前根本看不到这样的限制。

⚠️ 谷歌 DeepMind CEO 哈萨比斯认为,当前的 AI 模型“漏洞百出”,连一些基本问题都回答错误。OpenAI 的 o3 和 o4-mini 版本幻觉率甚至比此前的推理模型更高,OpenAI 自身也无法解释原因。

🤔 阿莫代伊坦言,AI 以极高信心讲出错误信息确实容易引发问题。

IT之家 5 月 23 日消息,据外媒 TechCrunch 今日报道,在 Anthropic 于旧金山举办的首场开发者活动“Code with Claude”上,CEO 达里奥・阿莫代伊表示,现在的 AI 模型产生“幻觉”的频率可能比人类还低

IT之家注:所谓“幻觉”是指 AI 虚构内容却以事实的形式呈现出来。

阿莫代伊强调,AI 出现幻觉并不会阻碍 Anthropic 迈向 AGI 的目标。“这取决于你用什么标准衡量,但我怀疑 AI 模型的幻觉频率可能低于人类,只是它们出错的方式更出人意料。”

阿莫代伊一向是业界对 AGI 持最积极态度的声音之一。他说:“人们总想找出 AI 能力的‘上限’,但目前根本看不到这样的限制。”

不过,并非所有人都认同这种看法。谷歌 DeepMind CEO 哈萨比斯本周指出,当前的 AI 模型“漏洞百出”,连一些基本问题都回答错误。

也有迹象表明,在处理复杂推理任务时,一些新模型的幻觉反而更严重。比如 OpenAI 的 o3 和 o4-mini 版本幻觉率就比此前的推理模型更高,甚至连 OpenAI 自己也搞不清楚原因。

阿莫代伊还提到,人类本身也经常出错。因此,他认为 AI 出错并不说明它“不够聪明”。不过他也坦言,AI 以极高信心讲出错误信息,确实容易引发问题

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Anthropic AI幻觉 AGI AI发展
相关文章