深度财经头条 2024年12月20日
“苹果智能”引发讨论:AI总结新闻摘要出大错
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

苹果公司近期推出的“苹果智能”AI功能在新闻摘要方面频频出错,引发广泛关注。英国广播公司和《纽约时报》等媒体的新闻推送均被苹果AI错误总结,甚至出现“CEO自杀”和“内塔尼亚胡被捕”等虚假信息。这些错误主要源于苹果自研的30亿参数端侧模型能力不足,其新闻摘要准确率仅为70%左右。尽管苹果智能在其他方面表现尚可,但其在关键信息领域的失误可能导致严重的认知偏差,引发人们对人工智能可靠性的担忧。

📰苹果AI新闻摘要功能频频出错,英国广播公司和《纽约时报》等媒体的新闻推送均被错误总结,甚至出现虚假信息。

🤖 苹果自研的30亿参数端侧模型被认为是出错的主要原因,其新闻摘要准确率仅为70%左右,远未达到“不出重要差错”的标准。

⚠️ 苹果AI在时事新闻领域的失误可能导致严重的认知偏差,关键信息出错可能会对用户产生误导,引发人们对人工智能可靠性的担忧。


财联社12月20日讯(编辑 史正丞)就在中国股民热议苹果公司与某些科技公司洽谈AI模型合作的同时,海外投资者则在讨论另一个话题:全球市值最高上市公司的AI,似乎在关键领域不太靠得住。

作为近几天最热的案例,英国广播公司近一周接连发表报道,指责苹果公司上周在英国上线的“苹果智能”,错误地归纳了这家媒体的新闻推送。

截图显示,苹果的AI推送摘要错误地表示,近期因为枪杀联合健康保险公司CEO引发全球关注的路易吉·曼乔内“对自己开枪”——事实上并没有这回事。令媒体机构难以忍受的是,苹果AI在推送错误总结时,看上去还像是BBC新闻终端推送的信息。

(来源:BBC)

事实上,这并不是一个孤例。在社交媒体上还有苹果AI归纳《纽约时报》的新闻推送,得出“内塔尼亚胡被捕”的虚假结果。

(来源:X)

BBC的发言人表示,已经向苹果公司表达了担忧,但整整一周还未收到回复。

类似报告层出不穷

这次事件的中心是“苹果智能”的通知摘要功能,引发这些问题的一个潜在可能性,会是苹果用来总结内容的模型——安装在设备端的30亿参数量“小”模型能力不足——而且这是苹果自研的模型,怪不了别人。

苹果官网发布的研究也显示,端侧模型总结能力的满意度,大致就在70%左右。虽然结果比起竞品的迷你模型稍好一些,但依然距离“不出重要差错”相去甚远。

(来源:苹果机器学习研究)

事实上,在社交媒体上不乏“苹果智能”生成的笑话。例如苹果会总结智能家居摄像头的通知,然后在凌晨1点通知用户——你家的前门、后门和车道上有好多人。

(来源:The Verge主编Nilay Patel的手机)

就目前而言,“苹果智能”的通知摘要只是一个存在缺点,偶尔还能制造一些笑点的工具。但是在时事新闻领域,关键信息出错可能会带来严重的认知偏差(想想看如果你下单交易完,发现手机总结的新闻是错的)。人工智能目前依然是一种“以一定概率生成正确内容”的软件,但信息能否准确传播,恐怕不应该由概率来决定。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

苹果智能 AI模型 新闻摘要 信息偏差 可靠性
相关文章