第四范式先知AIOS 5.1版本正式发布，新增GPU资源池化（vGPU）能力，实现对硬件集群平台化管理、算力资源的按需分配和快速调度，最多节省80%的硬件成本，提高GPU综合利用率多达5-10倍。该版本旨在提升企业核心竞争力，提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力，实现端到端的行业大模型的构建、部署、管理服务。

🚀 **GPU资源池化技术**：第四范式先知AIOS 5.1版本新增GPU资源池化（vGPU）能力，实现对硬件集群平台化管理，将GPU资源进行虚拟化，并根据实际需求进行分配和调度。

📈 **算力资源优化**：vGPU技术能够实现算力和显存的超分复用，算力切分精细到1%，显存切分以M兆为单位，有效提高GPU的综合利用率，最多可节省80%的硬件成本，并提升GPU利用率5-10倍。

🤖 **多任务协同处理**：vGPU支持千卡级别分布式调度与管理能力，并利用多任务共享及处理优化技术，实现共享或独享算力池，提升推理性能10倍以上。

🌐 **算力适配性强**：vGPU功能全面适配国产/非国产算力，支持混合部署与统一调度，提供更灵活的算力配置和管理方案。

原创 第四范式 2024-07-23 10:19 北京

GPU利用率跃升5-10倍

     产品上新

      Product Release

今天，第四范式先知AIOS 5.1版本正式发布。该版本新增GPU资源池化（vGPU）能力，实现对硬件集群平台化管理、算力资源的按需分配和快速调度，最多节省80%的硬件成本，提高GPU综合利用率多达5-10倍。

第四范式先知AIOS 5是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标，在支持接入企业各类模态数据的基础上，提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力，实现端到端的行业大模型的构建、部署、管理服务。

在行业大模型的构建过程中，为进一步提高算力资源利用率，第四范式先知AIOS 5.1版本新增GPU资源池化（vGPU）能力，拥有五大技术亮点：

全面适配国产/非国产算力，支持混合部署与统一调度

算力和显存超分复用，算力切分精细到1%，显存切分以M兆为单位

具备千卡级别分布式调度与管理能力

支持自定义隔离策略，实现共享或独享算力池

利用多任务共享及处理优化技术，推理性能提升10倍以上

vGPU功能介绍

了解产品详情，可致电400-898-7788，也可扫描下方二维码或点击【阅读原文】。

阅读原文

跳转微信打开