2024-08-21 20:57 北京
面壁智能受邀出席世界机器人大会
8 月 21 日下午,2024 世界机器人大会 (WRC)「大模型技术赋能机器人产业新范式论坛」正式举行,面壁智能联合创始人、首席科学家刘知远受邀出席并发表《大模型、知识密度定律与端侧智能》主题演讲。
2024 世界机器人大会由中国电子学会、世界机器人合作组织主办,北京市经济和信息化局、北京经济技术开发区管委会支持。在大会首日「大模型技术赋能机器人产业新范式」论坛上,面壁智能联合创始人、首席科学家刘知远,与猎豹移动董事长兼 CEO 傅盛、宇树科技联合创始人陈立、优必选副总裁焦继超、逐际动力联合创始人兼 CEO 张力等行业代表一道,共同探讨机器人产业的技术创新与未来发展趋势。
现场,刘知远回顾人工智能发展,给出了三阶段的清晰总结:符号智能、专用智能、通用智能,它们分别代表以知识库等符号系统存储专家知识,以专用任务小模型存储任务知识,以通用大模型存储通用知识。
“OpenAI 推出 ChatGPT 拉开了通用人工智能的序幕。OpenAI 证明了规模法则(Scaling Law),更多数据,更大规模的参数,可以提高模型性能。如果大模型数据驱动技术方向大致确定,下一步持续改进模型制程,极致提升大模型的知识密度,突破「大模型科学化」,正成为行业努力的方向。”
刘知远强调,“未来高效大模型第一性原理的关键词便是知识密度。其中知识密度 = 模型能力 / 模型参数。”
“面壁观察到,类似半导体的摩尔定律,集成电路上可容纳的晶体管数目,约每隔两年增加一倍。过去四年大模型知识密度平均每 8 个月翻一倍,这是大模型的‘摩尔定律’,我们称为「面壁定律」。随着数据-算力-算法协同发展,模型知识密度持续增强,2020 年GPT-3 175B 能力到 2024 年 MiniCPM 2.4B 模型即可达到,知识密度提高约 86 倍!”
“面壁正在努力的,将更多知识集成到更小的模型中。最新的 MiniCPM-V 2.6 端侧模型,已达到全面对标闭源多模态模型 GPT-4V 的性能水平,而且让端侧模型首次具备实时视频理解能力,这一切都是 8B 的参数规模上实现的。”
欢迎加入 OpenBMB 开源社区一起讨论:
? 面壁官网:https://modelbest.cn
? 商务合作:business@modelbest.cn
? 加入我们:career@modelbest.cn