36kr 03月10日
Manus AI 被「越狱」了?创始人紧急回应,并官宣开源计划
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

近日,Manus AI因用户“越狱”获取沙盒运行时代码引发关注。联合创始人季逸超回应称,这并非漏洞,而是设计的一部分,旨在提供独立的沙盒环境供开发者测试。他强调,即使获取沙盒代码也不会威胁系统安全,Manus采用多agent协作架构,并使用检索增强生成(RAG)机制,工具描述动态变化。“越狱”所得信息多为幻觉。Manus未采用MCP,而是受《Executable Code Actions Elicit Better LLM Agents》研究启发,使用可执行Python代码增强LLM agent能力。团队秉持开源传统,未来将开源更多成果。

🔐**沙盒机制设计**:Manus的沙盒并非安全漏洞,而是有意为之的设计,旨在为用户提供独立的测试环境,每个会话拥有隔离的沙盒,用户可直接进入。

🤖**多Agent协作架构**:Manus采用多agent协作,用户仅与执行agent通信,执行agent不掌握其他agent详细信息,控制上下文长度,避免性能下降,这也是“越狱”信息多为幻觉的原因。

🧑‍💻**CodeAct的启发**:Manus未采用MCP,而是借鉴《Executable Code Actions Elicit Better LLM Agents》的研究,利用可执行Python代码增强LLM agent能力,将多种行为统一到灵活的动作空间中。

🧩**开源与技术选择**:Manus团队秉持开源传统,未来将开源更多成果。基础模型方面,早期使用Claude 3.5 Sonnet v1,现正内部测试Claude 3.7,并使用辅助模型弥补不足。

今天凌晨,网友 @jianxliao 在 X 平台上分享了其与 Manus AI 的互动经历,并迅速引来了近百万网友的围观。 

据用户描述,他仅通过简单的请求(如访问 /opt/.manus/ 文件夹)便成功获取了 Manus 的沙盒运行时代码。 

并揭示了 Manus 使用 Claude Sonnet 模型等技术细节。 一时间,关于 Manus 被成功「越狱」的消息甚嚣尘上。

就在刚刚,Manus 联合创始人 @peakji(季逸超)作出了回应,他表示, 这并非意外或漏洞,而是 Manus 设计的一部分。

其实,这并不复杂——每个用户都可以直接访问沙盒。 

简单来说,沙盒是一个被严格限制的环境,开发者可以在沙盒里测试新功能,不用担心代码出错会破坏整个系统。

据介绍,Manus 的沙盒机制具有以下特点: 

每个会话都有独立的沙盒环境,与其他会话完全隔离。用户可以通过 Manus 的界面直接进入沙盒。 

沙盒中的代码主要用于接收 agent 发出的指令,因此仅被轻微混淆处理。 

即使用户获取了沙盒代码,也不会对系统的整体安全构成威胁。 

Peak 强调,Manus 的设计并不神秘,其行动空间的设计与学术界常见的方法类似。 

且由于采用了检索增强生成(RAG)机制,工具描述会根据任务的不同而动态变化。这意味着,即使通过「越狱」手段获取工具信息,也无法得到一致的结果。 

Peak 表示 Manus 采用多 agent 协作的架构设计。 用户在与 Manus 交互时,实际上只与执行 agent 通信,而执行 agnet 本身并不掌握其他 agent 的详细信息。 

这种设计不仅有助于控制上下文长度,还能有效避免因过多信息导致性能下降。 「这也是为什么通过『越狱』获得的提示大多是幻觉的原因。 」Peak 解释道。 

Peak 坦言,团队使用了许多开源技术。与此同时也一直秉持开源传统,「在不久的将来,我们将开源不少好东西。」 

他本人也长期在 Hugging Face 上分享训练后的模型。 

当被问及 Manus 的基础模型时,Peak 称目前使用的是 Claude 和 Qwen 微调模型。团队早期只能使用 Claude 3.5 Sonnet v1(不支持长链推理),因此需要大量辅助模型来弥补不足。

Peak 还表示正在内部测试 Claude 3.7,并将尽快发布更新。 

值得一提的是,Peak 也谈到了 Manus 是否使用 MCP(Model Context Protocol,模型上下文协议)的热议话题。 

简单来说,你可以把 MCP 想象成一个「万能接口」,就像电脑上的 USB-C 接口一样。这个接口让 AI 模型能够轻松地连接到各种外部资源,比如文件、数据库、在线服务等。

通过 MCP,AI 助手不仅能获取数据,还能直接对数据进行操作,比如读取文件内容、更新数据库记录等。 

对此, Peak 回应该网友称: 

「 实际上,Manus 并没有使用 MCP。我们更多地受到了我的朋友王星尧( @xingyaow_ )的研究工作的启发。」 

名为《Executable Code Actions Elicit Better LLM Agents》的研究论文,引入可执行 Python 代码(CodeAct),提出了一种新的方法来增强大型语言模型(LLM)agent 的能力。 

该方法使得 LLM agent 能够直接执行代码行为,从而将多种行为统一到一个更加灵活和强大的动作空间中。 

附上论文链接:https://openreview.net/forum?id=jJ9BoXAfFa

尽管 Manus 研究团队并未完全采用 CodeAct,但这项研究提供了三个关键见解: 

1️⃣ 编写代码并不是最终目标,而是一种通用的解决问题的方法。 3️⃣ 由于 LLM 在编程方面表现出色,因此让智能体执行与其训练分布最接近的任务是合理的。 3️⃣ 这种方法大大减少了上下文长度,并且能够组合复杂的操作。 

当被问及为啥不使用 MCP 时,Peak 无奈地表示:「因为……Manus 早在 Model Context Protocol 推出之前就已经开始开发了?

APPSO 也曾实测 Manus,欢迎回看此前文章 ? 

实测 Manus :我用它生成了 10 个邀请码……好玩,但崩溃 

附上参考链接:https://x.com/peakji/status/1898994802194346408

本文来自微信公众号“APPSO”,作者:发现明日产品的,36氪经授权发布。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Manus AI 越狱 沙盒机制 多Agent协作 开源
相关文章