2024-11-28 18:12 北京
MiniCPM端侧模型，AIPC的高能时刻
11 月 26 日，英特尔新质生产力技术生态大会（Intel Connection）在成都举办，面壁智能作为英特尔重要战略合作伙伴出席，并演示了基于英特尔最新一代桌面级旗舰芯片深度适配和加速的多模态端侧模型。
本届英特尔新质生产力技术生态大会云集了大模型、AI 计算、AI 应用的行业高管、技术专家、专业开发者代表，共同探索端侧AI的最新技术趋势，特别是 AI PC 为代表端侧硬件的创新成果与案例。在生态大会专题论坛现场，面壁智能副总裁缪钧玮发表了“面壁小钢炮：高效端侧多模态模型，AI PC 的高能时刻”的专题演讲。
缪钧玮分享道，面壁智能团队正在与英特尔伙伴团队一起紧密合作，面壁小钢炮 MiniCPM 端侧模型正在全系适配酷睿 Ultra 旗舰芯片。面壁研发团队充分利用英特尔新一代旗舰芯片性能显著增强的 AI 计算加速单元，充分吃透英特尔更高效的异构 AI 计算微架构，在芯片底层进行计算资源的调度优化、推理框架深度适配。在英特尔 OpenVINO 工具的支持下，以高效著称的面壁 MiniCPM 端侧模型，在AI PC 上正在迎来「高能」时刻：AI 推理提速 167%，首 Token 延迟降低 17%。
在专题论坛现场，缪钧玮深入介绍了 MiniCPM 基座模型和多模态端侧模型。自今年 2 月份 MiniCPM 面世以来，不断刷新小参数模型在数学、代码、知识、Function Calling、RAG、单图/多图理解、高清 OCR 识图、实时视频理解的多维度性能和新功能纪录。
端侧模型面壁「小钢炮」MiniCPM 系列，包含基座模型 MiniCPM 和多模态模型 MiniCPM-V 双旗舰，凭借以小博大、高效低成本的特性享誉全球，目前已经在性能上开启「端侧 ChatGPT 时刻」，多模态方向达到全面对标 GPT-4V 级水平。面壁智能正通过追求更高的知识密度（知识密度 = 模型能力 / 参与计算的模型参数）来提升大模型的智能水平，将高性能的端侧 AI 带入千家万户、千行百业。
AI PC 是主流消费电子近年来最受瞩目的升级。高效端侧模型运行在最具生产力的计算平台 PC，对于工作、学习、娱乐将带来深刻的变革。英特尔作为 50 多年全球用户最为熟悉和信赖的 PC 算力底座，面壁智能携手英特尔，MiniCPM 将获得巨大的市场推动力，更快速、更有价值融入最广大用户的“桌面”。
在 AI PC 领域，英特尔正在引领市场前行。英特尔目前已出货了超过 2000 万台 AI PC 设备，构建了拥有超过 100 家 ISV、300 多项 AI 应用、500 多个 AI 模型的庞大生态系统。英特尔也在与 OEM 厂商密切合作，推出以酷睿 Ultra 处理器为核心的 AI PC，同时实现了出色的性能和续航能力。
凭借基于强大 x86 架构的 XPU 带来的强大算力和广泛的软件生态优势，英特尔持续深耕本土 AI 应用的开发，携手面壁智能等生态伙伴落地知识助手、办公助手、娱乐助手、创作助手和垂类助手五大 AI 应用场景，并积极聚焦 AI、商用、娱乐、计算、低碳这五大市场热点，努力满足用户的多样需求，带来更加卓越的使用体验。
在英特尔大会现场，来自多家合作伙伴的超过四百款产品及解决方案亮相展区，形成了一呼百应之势，充分展现了英特尔不断探索创新机会，深耕生态并推动 AI PC 行业发展的决心，为智能化生活带来无限可能。
欢迎加入 OpenBMB 开源社区一起讨论：
🔗 面壁官网：https://modelbest.cn
💼 商务合作：business@modelbest.cn
🙌 加入我们：career@modelbest.cn
