原创 面壁智能 2024-10-25 17:05 北京
基于x86平台的异构计算AI加速，面壁小钢炮打造AIPC的关键拼图
10 月 25 日，英特尔酷睿 Ultra 处理器（第二代）品鉴会暨以“强大的 不止 AI ”为主题的 AI PC 生态大会在北京举办，作为英特尔 AI PC 产业生态的重要合作伙伴，面壁智能携手英特尔深度优化采用最新一代 x86 平台的酷睿 Ultra 200S（Arrow Lake）的端侧模型部署和计算加速，在英特尔酷睿 Ultra 处理器和 OpenVINO 工具套件的帮助下，面壁 MiniCPM 端侧模型的 PC 端应用性能得到跨越式提升。
生态大会现场，面壁智能 CTO 曾国洋指出，面壁智能与英特尔通力协作，为英特尔 OpenVINO 工具套件加入 MiniCPM 标准端侧模型和端侧多模态模型的部署支持，并且在最新一代酷睿 Ultra 200S 台式机处理器上进行深入硬件底层的计算加速和调度优化。实际性能测试表明，MiniCPM 在 PC 端的首 Token 延迟相比上一代减少 17%，推理速度也明显加快，提速高达 167%，由此，模型上“桌”的用户体验将更加丝滑，端侧模型融入桌面系统、应用、专用工具，也将获得“加速”。
在品鉴会现场，面壁智能深入介绍了 MiniCPM 端侧大模型系列， 特别是在标准测试集、知识密度、模型轻量化、多模态功能端侧“首创”等亮眼的成绩。端侧模型面壁「小钢炮」MiniCPM 系列，包含基座模型 MiniCPM 和多模态模型 MiniCPM-V 双旗舰，凭借以小博大、高效低成本的特性享誉全球，目前已经在性能上开启「端侧 ChatGPT 时刻」，多模态方向达到全面对标 GPT-4V 级水平。面壁智能正通过追求更高的知识密度（知识密度 = 模型能力 / 参与计算的模型参数）来提升大模型的智能水平，将高性能的端侧 AI 带入千家万户、千行百业。
全新英特尔酷睿 Ultra 200S 处理器在保证非凡计算能力的情况下大大降低功耗，得益于 NPU 和卓越的媒体性能，图形产品组合的性能也有较大提升。处理器的 CPU、GPU 和 NPU 共同为整体AI提供动力，发烧友能够在降低能耗的同时得到内容创作和游戏所需的智能和强大性能。英特尔酷睿 Ultra 200S 台式机处理器的推出，在 PC 终端进行 CPU 通用计算和AI异构计算，同时达到了出色的水平，并且 OpenVINO 工具套件的适配支持扩大和深度优化下，软硬件共同发力，更进一步提升了大模型在 PC 端的运行效率。
AI PC 是主流消费电子近年来最受瞩目的升级。大模型与 PC 的融合，不仅仅对于工作、学习、娱乐有着根本性的变革，同时蕴藏了巨大的市场空间。AI PC 将刺激终端出货量再度增长，赋能传统 PC 新的价值增量，也为终端厂商的产品布局和品牌升级带来此前未有的新增益。
英特尔作为全世界用户最熟悉和最坚实的消费 PC 算力底座，50 多年来，英特尔对世界产生了深远的影响，通过创造彻底改变我们生活方式的大力创新，来推动企业和社会向前发展。面壁智能通过与英特尔最新一代酷睿 Ultra 旗舰 CPU 的模型深度适配和优化，MiniCPM 将获得巨大的市场推动力，快速进入最广大用户的“桌面”。
面壁智能与英特尔的合作标志着 AI PC 从模型层到终端硬件全面打通。在英特尔卓越的芯片设计和制造赋能下，AI PC 两块“关键拼图”端侧模型与底层算力芯片之间的协调兼容、适配优化和计算加速正跃升到一个全新的水平。高效端侧模型加持下，更安全、更敏锐、生产力更强的 AI PC，将掀起消费电子的新浪潮！
欢迎加入 OpenBMB 开源社区一起讨论：
? 面壁官网：https://modelbest.cn
? 商务合作：business@modelbest.cn
? 加入我们：career@modelbest.cn
