2024-12-29 15:16 湖北
2025年将出现真正的AI Agents~
即将迈入2025年之际，AI搜索公司Exa的CEO Vill Bryk发表了一篇长文“AGI前夜的思考（Thoughts of the eve of AGI）”。
对 AGI 到来的前的一段时间社会行业角色变化做了一些预测：
首先受到严重影响的是数学家，然后是开发人员
每个开发人员都会变成技术主管
前端工程师这样的角色可能在 3 年后就不存在了
之后是理论物理学
AGI前夜思考
AI发展迅速
OpenAI的o3模型标志着AI，2个月从本科水平就进化成了博士水平
这种转变速度之快令人震惊，但趋势是不可逆的
AI对工作影响
2025年将出现真正的AI Agents，让计算机完成各种工作流程（浏览网页、搬运数据）
受影响最大的可能是数学家。数学家的工作领域范围是符号空间。他们的工作与物理世界几乎没有联系，因此不会受到物理世界的阻碍。LLM 是符号空间之王。
短期内（2年内），AI 将助益软件工程师（提效10倍）。每位软件工程师都能晋升为技术主管，很不错。AI 自动化将很快接替所有人类软件工程师吗？并不会。不同于数学家，软件工程师需要不断与物理世界（也就是其他人）互动。
长期看（大于2年），软件工程将变得完全不同，但很难说会变成怎样。当 o6 系统问世并且完全整合进我们的应用，又怎么会不变呢？3 年后，前端工程师这样的岗位可能就不存在了。
物理领域的改变会相对较慢，因为需要处理现实世界的限制
AI发展的阻碍和风险
阻碍人工智能发展的最大瓶颈将是人类。
另一个风险是，人工智能会失控
未来十年可能实现的目标
一些疯狂酷炫的物理学发现
最初由机器人建造的火星和月球基地
完美的导师/建议系统(几乎实现,需要良好的检索、记忆和更多个性)
零副作用的生物增强药物
乘坐超级优化的无人机飞行
通过核聚变、地热和大量太阳能实现全面清洁能源
意外发现:AI 天文学家在望远镜数据中发现外星信号？AI 化学家轻松设计室温超导体？AI 物理学家统一一些理论？AI 数学家解决黎曼假设？这些不再像科幻小说,而是感觉像近在咫尺的科学现实。
最终我们会得到超级智能
对未来建议
年轻人需要适应快速变化的世界
重点发展问题解决能力和团队协作能力
从个人成功转向追求集体成功来获得人生意义
https://x.com/WilliamBryk/status/1871946968148439260推荐阅读
• 对齐LLM偏好的直接偏好优化方法：DPO、IPO、KTO
• RAG全景图：从RAG启蒙到高级RAG之36技，再到终章Agentic RAG！
• Agent到多模态Agent再到多模态Multi-Agents系统的发展与案例讲解（1.2万字，20+文献，27张图）
欢迎关注我的公众号“PaperAgent”，每天一篇大模型（LLM）文章来锻炼我们的思维，简单的例子，不简单的方法，提升自己。
