面壁智能 2024年10月25日
2024世界机器人大会,刘知远最新演讲:大模型、知识密度定律与端侧智能
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

8月21日下午,2024世界机器人大会「大模型技术赋能机器人产业新范式论坛」举行,面壁智能联合创始人刘知远受邀发表演讲。他回顾人工智能发展三阶段,并强调提升大模型知识密度的重要性,还提到面壁定律及最新端侧模型的成果。

🎯面壁智能联合创始人刘知远在2024世界机器人大会上发表演讲,回顾人工智能发展的三阶段,即符号智能、专用智能、通用智能,分别对应不同的知识存储方式。

💡刘知远指出OpenAI推出ChatGPT拉开通用人工智能序幕,证明规模法则可提高模型性能,行业努力方向是持续改进模型制程,提升大模型知识密度,他提出知识密度的计算公式。

🚀面壁发现过去四年大模型知识密度平均每8个月翻一倍,称为「面壁定律」。面壁努力将更多知识集成到更小模型中,其最新MiniCPM-V 2.6端侧模型已达到对标GPT-4V的性能水平,并具备实时视频理解能力。

2024-08-21 20:57 北京

面壁智能受邀出席世界机器人大会

8 月 21 日下午,2024 世界机器人大会 (WRC)「大模型技术赋能机器人产业新范式论坛」正式举行,面壁智能联合创始人、首席科学家刘知远受邀出席并发表《大模型、知识密度定律与端侧智能》主题演讲。

2024 世界机器人大会由中国电子学会、世界机器人合作组织主办,北京市经济和信息化局、北京经济技术开发区管委会支持。在大会首日「大模型技术赋能机器人产业新范式」论坛上,面壁智能联合创始人、首席科学家刘知远,与猎豹移动董事长兼 CEO 傅盛、宇树科技联合创始人陈立、优必选副总裁焦继超、逐际动力联合创始人兼 CEO 张力等行业代表一道,共同探讨机器人产业的技术创新与未来发展趋势。

现场,刘知远回顾人工智能发展,给出了三阶段的清晰总结:符号智能、专用智能、通用智能,它们分别代表以知识库等符号系统存储专家知识,以专用任务小模型存储任务知识,以通用大模型存储通用知识。

“OpenAI 推出 ChatGPT 拉开了通用人工智能的序幕。OpenAI 证明了规模法则(Scaling Law),更多数据,更大规模的参数,可以提高模型性能。如果大模型数据驱动技术方向大致确定,下一步持续改进模型制程,极致提升大模型的知识密度,突破「大模型科学化」,正成为行业努力的方向。”

刘知远强调,“未来高效大模型第一性原理的关键词便是知识密度。其中知识密度 = 模型能力 / 模型参数。”

“面壁观察到,类似半导体的摩尔定律,集成电路上可容纳的晶体管数目,约每隔两年增加一倍。过去四年大模型知识密度平均每 8 个月翻一倍,这是大模型的‘摩尔定律’我们称为「面壁定律」。随着数据-算力-算法协同发展,模型知识密度持续增强,2020 年GPT-3 175B 能力到 2024 年 MiniCPM 2.4B 模型即可达到,知识密度提高约 86 倍!

“面壁正在努力的,将更多知识集成到更小的模型中。最新的 MiniCPM-V 2.6 端侧模型,已达到全面对标闭源多模态模型 GPT-4V 的性能水平,而且让端侧模型首次具备实时视频理解能力,这一切都是 8B 的参数规模上实现的。”


欢迎加入 OpenBMB 开源社区一起讨论:

面壁官网https://modelbest.cn

商务合作business@modelbest.cn

加入我们career@modelbest.cn

跳转微信打开

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

面壁智能 世界机器人大会 大模型 知识密度
相关文章