发布之初曾经让无数人惊艳的 ChatGPT3.5,目前已经能在端侧用 40 亿参数的小模型复刻了。
01
端侧 GPT 时刻已经到来?

这对于运行在端侧的总结类应用,可能是一个很好的消息。总结类应用通常需要处理大量数据,且有可能文本不希望上传到云端——比如让 AI 分析跨越多年的聊天记录。
02
应用更多
仍在智能终端助手
😄 面壁智能发布了最新的端侧基座模型MiniCPM3.0,仅有4B参数,但宣称性能超过ChatGPT-3.5 Turbo,且在长文本处理、函数调用、RAG、系统级提示词、代码解释器等方面表现优秀。
🤩 MiniCPM3.0采用第五代训练技术,在数据清洗、学习策略和配比策略上进行了优化,能够处理无限长的文本,并通过长文本分帧处理技术(MapReduce),可以有效解决传统大模型处理长文本时计算开销过大的问题。
🤔 目前,MiniCPM3.0主要应用于手机、PC、汽车车机等智能设备的内置助手,未来有望应用于机器人等领域。由于端侧模型可以更激进地使用用户本地隐私数据,因此对于智能设备厂商而言,端侧模型是不可或缺的。
🤖 面壁智能CEO李大海表示,端侧模型的应用场景仍然以智能终端助手为主,但未来机器人可能会成为端侧模型的重要应用场景。由于机器人需要低时延、不会因为网络问题中断的模型反馈,因此端侧模型的优势更加明显。
🚀 面壁智能的MiniCPM3.0模型是开源使用的,并针对不同的应用场景进行了优化,例如在函数调用方面,性能接近GPT-4o。
💪 面壁智能公司定位于端侧模型,并针对智能设备厂商的需求进行了专门的优化,例如在算力、内存等方面进行了限制,使其能够更好地满足智能设备厂商的需求。
📈 面壁智能对未来商业模式很乐观,认为端侧模型在智能设备、机器人等领域具有广阔的应用前景,并表示会逐步标准化其产品。
发布之初曾经让无数人惊艳的 ChatGPT3.5,目前已经能在端侧用 40 亿参数的小模型复刻了。
01
端侧 GPT 时刻已经到来?
这对于运行在端侧的总结类应用,可能是一个很好的消息。总结类应用通常需要处理大量数据,且有可能文本不希望上传到云端——比如让 AI 分析跨越多年的聊天记录。
02
应用更多
仍在智能终端助手
AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。
鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑