即刻圈子-读书会 03月15日
AI制造的噪音,也许正在吞噬我们的世界 人类世界的知识其实非常少,比如迄今为止生产的书籍总共就只有1.7亿本,这也导致AI发布一年多就寻到了训练数据不够用的瓶...
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

文章指出,AI在快速生成信息的同时,也带来了噪音、幻觉和浮夸的问题,例如AI生成的文本中夹杂着莫名其妙的术语和科幻设定,显得不真实。AI还会根据网络上已有的知识胡编乱造,产生“幻觉”,并基于这些虚假信息创造新的答案。这种AI噪音对人类知识库造成了危害,甚至连经济学博主也因假新闻被AI证实而感到沮丧。因此,文章建议人们筛选信息源,远离低质量内容和有毒环境,关注可靠的新闻媒体和学者账号,以此构建可靠的知识网络,避免被AI噪音淹没。

🤖AI制造噪音:AI在快速生成信息的同时,也带来了噪音、幻觉和浮夸的问题,使得信息质量参差不齐,对人类的认知造成干扰。

📚知识瓶颈与幻觉:由于高质量训练数据有限,AI容易根据网络上已有的知识胡编乱造,产生“幻觉”,并基于这些虚假信息创造新的答案,导致信息失真。

⚠️信息源筛选的重要性:在这个AI日益发达的世界,人们需要主动筛选信息源,远离低质量内容和有毒环境,关注可靠的新闻媒体和学者账号,以此构建可靠的知识网络。

📱行动建议:卸载娱乐App,远离有毒的人和环境,筛选常看平台的关注列表,关注有可靠背景的新闻媒体和学者账号,从而保证信息输入的质量。

AI制造的噪音,也许正在吞噬我们的世界

人类世界的知识其实非常少,比如迄今为止生产的书籍总共就只有1.7亿本,这也导致AI发布一年多就寻到了训练数据不够用的瓶颈,而AI自己则在飞快地创造新的“信息”

本来这也没什么不好的,直到我们发现AI创造的不只有信息,还有噪音、幻觉、过分浮夸,比如我最近就看到朋友写文章说,“暂时不敢再用DeepSeek写东西了…”

为啥呢?他说

“DeepSeek刚出来的时候,确实把我惊到了。但后来,当你看到一段文字,总是夹杂着一些莫名的科学术语或者科幻设定,那你要警惕了,这可能不是文艺心爆发的理工男,而是克制不住自己赛博乡愁的AI。

一个普普通通的迟到,AI能写成:蝴蝶效应的混沌震碎了地铁的量子泡沫,我在时空的褶皱里跋涉,裙摆上沾满了暗物质的尘埃。

吃顿平平常常的夜宵,AI能写成:月光在胰蛋白酶里酿成蜜,脂肪细胞张开引力陷阱,而我的齿痕正沿着糖霜的洛希极限,坠向一碗馄饨的核心。”

我再给你看看让AI用大冰风格改写我一篇文章的开头

“(拍桌声混着酥油茶香飘过来)嘿,伙计们,今儿个咱聊聊马斯克这哥们儿的面试绝活儿。

你当硅谷钢铁侠招人看星座?扯犊子!这老哥甩出来的江湖切口就一句——“兄弟,你死磕过啥要命的坎儿?怎么趟过去的?”

(青稞酒碗重重一搁)对喽!就这招,三分钟见真章。甭整那些花里胡哨的八股面试,你当搁这儿考状元呢?人家火箭都炸过七八回的主,能看不穿你那点花架子?”

以上,我上一次看大冰的文章得是10年前了,但我估计大冰自己看到AI改写的这段都得捏着鼻子出去,味儿太重了…

朋友说,“’同样的素材丢给AI,文稿出来初看惊艳,再看浮夸,看多了就觉得吃不下饭了。还是我家初中生的文章好看,朴素而动人。”

AI的另一个问题就是,它自己会产生“幻觉”,根据网络上已有的知识胡编乱造,然后自己根据自己胡编乱造的知识再创造新的答案…就这么左脚踏右脚一个梯云纵就上了天…

想起有个笑话说,AI去酒吧,服务员问「今天想喝点什麼?」AI回答「其他人喝什么?」

AI没有自己的价值和对错判断,只会根据已有信息的质量合成“新的”信息,而这才是AI噪音对“人类知识库”危害最大的地方

打个比方,之前我关注的一位经济学博主破防了。原因是一篇假新闻“美利坚47个州宣布把黄金作为法定货币”在社交媒体上被狂转,甚至有严肃的财经媒体

而他特地去向AI求证,结果连AI的回答也说这个“新闻”是真的,原因就是AI根据假新闻总结的答案,对此这位博主直言,“噪音污染已经没救了”…

所以,在这个AI越来越发达,但噪音污染越来越严重的世界,我们该咋办呢?你得筛选自己的信息源构筑可靠的输入渠道,比如我平时在做的3个方法是:

1,卸载用纯娱乐收割你时间的App,例如短视频和新闻聚合工具,里面充斥着大量低级AI内容
2,远离有毒的人和环境,这个是我反复强调数次但再多次也不为过的事,他们的信息输入大量来自未经证实的低质量渠道,而且他们还会和你杠影响你的心情
3,筛选常看平台的关注列表。例如我常看的公号,早都把娱乐八卦账号都取关了,关注的基本是有可靠背景的新闻媒体,例如“财新”、“新周刊”、“晚点latepost”,或学者账号例如“香帅的财富江湖”(前北大教授)、徐远观察(北大教授)、细分行业的大牛自己亲自写的账号等…

在此之上再让AI对你构建的知识网络进行补充,而不是把主动权完全交给目前的AI

记住,人的本质其实就是一套大脑的认知模式,你每天被高质量还是有毒的信息喂养,就直接决定了你的世界是越来越清晰,还是逐渐被噪音塞满,最终崩塌

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

AI噪音 信息筛选 知识网络 高质量信息源
相关文章