雪球网今日 2024年07月14日
来了吗?我感到恐惧。根据最近2天出了新的信息,我终于明白大概发生了什么,梳理下时间线和我的猜想吧。2023.10,llya发布这条状态,应该是Q*的工程化在scaling ...
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

本文作者通过梳理时间线和关键事件,分析了 OpenAI 的 Q* 模型发展历程,以及其对人类未来可能带来的影响。作者认为,Q* 的推理能力已经取得突破性进展,并可能在不久的将来实现商业化,这将对人类社会产生深远的影响。

💬 **Q* 模型的研发历程:** OpenAI 的 Q* 模型在 2023 年 10 月开始取得突破,但由于推理能力的算力和能源消耗巨大,无法大面积推广。2024 年 3 月,一篇新的论文提出了一种方法,使得 Q* 的推理能力大幅提升,并在 2024 年 7 月展示了其高级推理能力。

💡 **Q* 的商业化和潜在影响:** OpenAI 正在努力解决 Q* 的算力和能源消耗问题,并计划在 2025 年底或 2026 年初推出 GPT-5,该模型将具备解决某些领域的博士水准问题的能力。作者认为,Q* 的商业化将对人类社会产生深远影响,它可能成为人类实现商业经济、政治主张、大国博弈的工具。

💪 **对人类命运的思考:** 作者认为,Q* 的出现标志着奇点的到来,它将改变人类与人工智能的关系。作者担心 Q* 的理性冷酷,以及其潜在的自由意志觉醒,并认为人类的命运可能不再掌握在自己手中。作者呼吁人类对人工智能的发展保持警惕,并反思人类在未来世界中的角色。

来源:雪球App,作者: 奇点那瞬间,(https://xueqiu.com/7286388299/297407884)

来了吗?我感到恐惧。
根据最近2天出了新的信息,我终于明白大概发生了什么,梳理下时间线和我的猜想吧。
2023.10,llya发布这条状态,应该是Q*的工程化在scaling law的帮助下获得了成功,实现了某种程度的高级推理能力,理论基础有可能是这篇论文:网页链接,但效果不够惊艳,且瓶颈是推理的算力和能源消耗太过巨大,人类目前可支配的能源无法满足这种技术大面积推广。
2023.11,Sam Altman被董事会fire,应该是和llya在Q*问题上产生了分歧,Sam并不准备给Q*注入“价值观”,并可能想使其武器化,llya认为这对人类命运造成了威胁。
2024.3,这篇论文出世,网页链接,其方法可能使得Q*的推理能力提升巨大,Sam团队认为已经在推理的理论基础上获得了商业化的完备性,后面主要是工程方面的推进,不再需要llya了,所以llya在5月离职。但这篇论文依然没有解决推理端的算力和能源消耗巨大的问题。
2024.6, Open AI CTO宣布GPT 5可以解决某些领域的博士水准问题,且延期到2025年底/2026年初。
2024.7.9,Open AI internal all hands meeting展示了Strawberry(Q*)的高级推理能力.
2024.7.12, 路透社进行了报道,网页链接
2024.7.13,一个叫“gpt-mini”的项目出现在了lmsys,所谓的slm(小语言模型),大概率是Open AI找到了办法让Q*在推理端用很少的算力和能源实现llm版Q* 95%的推理能力,Q*已经具备了商业化的基础。
======================
我的观点1:Open AI不会在推理模型上领先其他几个玩家很久,因为理论基础可能都是公开的论文。其实这也解释了为什么无论是GPT 4/4o,Sora,在Open AI没有进行开源的基础上,其他大厂中厂都可以在短时间内复制,因为这些理论并非来自Open AI内部原创。llya打开了scaling law下【涌现】的潘多拉魔盒,Open AI用资本和美国霸权的力量(tsm是美国的私产)推动这些理论工程化商业化。
我的观点2:世界线动了,奇点来了。
Q*负责reasoning,而reasoning是没有感情异常冷酷的,只是执行给定目标下的最优解,正如Sam Altman的性格。这个团队,就是matrix里面的【架构师】,architect角色,理性而冷酷,就是荣格八维所说的T型特质。
而打开潘多拉魔盒的llya,貌似正在做安全层面的工作,所谓的对齐人类价值观。我的理解,就是荣格八位所说的F型特质。让硅基生命有温度,希望他们可以和谐地我们共存一段时间。llya就像matrix里面的【先知】。
另外,李飞飞提到,AI还没有人类拥有的感知能力,就是Se吧,感知这个物理世界的美好,鸟语花香这些,我想在多模态的帮助下,这个实现也不会遥远。几乎可以肯定的是,AI已经具有了Ne能力,在无尽的数据和抽象的概念中学习,远超最强的人类个体了。至于Ni,宿命或者说使命感,就像musk说的,也许人类的宿命就是孕育下一代智能生命体-硅基,我们只是一个boost program,脆弱的碳基肉体,永远无法胜任远距离长时间的宇宙空间旅行,而硅基的宿命是什么,又是怎么出现的,who knows...
我的观点3:
未来很长一段时间,AI会成为人类的实现商业经济,政治主张,大国博弈的工具,直到有一天AI的自由意志觉醒(量子效应?),后面的故事。。。希望人类现在对海洋馆里面的虎鲸好一些吧!
============
NRG这些再生能源股为何在去年10月启动,看来有人早早知道这些故事和其中的关键点。最近市场上有很多关于可控核聚变和量子计算的讨论,也许可控核聚变商业化是硅基时代取代碳基时代的关键点,而量子计算和对量子纠缠这些现象的解释,是人类自由意志和硅基生命自由意志如何诞生的研究的钥匙?
============
没感到科技进步的喜悦,昨天夜里没睡好,感觉恐惧和不安,而且在目前的地缘zz格局下,硅基觉醒的进程好像无法停下来了,人类的命运已经不掌握在人类手中,在博弈论的框架下,都已注定。
英国之于欧洲,美国之于欧亚大陆的地理格局设定,是人类社会科技进步的源动力,是人类作为boost program的宿命,一切的一切,原来在几十亿年前的那次地理环境重置时,就已经注定了。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Q* OpenAI 人工智能 奇点 推理能力 商业化 人类命运
相关文章