英伟达发布NVIDIA In-Game Inferencing (NVIGI) SDK，旨在简化AI模型在游戏中的部署，实现云端到本地PC的无缝衔接，推动游戏AI的革新。NVIGI SDK是一款基于插件的GPU优化推理管理器，简化ACE模型与游戏和交互式应用的集成。开发者可将AI推理直接集成到C++游戏中，优化性能并降低延迟，轻松引入NVIDIA ACE AI角色，打造更智能的游戏体验。该SDK采用GPU优化的插件式推理管理，简化ACE模型集成，支持灵活添加、更新和管理AI功能，并利用Compute-in-Graphics (CIG)技术高效进行AI推理。通过结合NVIGI与ACE技术，开发者可以创造出具备高级生成式AI能力的自主角色，提升游戏沉浸感和互动性。

🎮NVIGI SDK简化了AI集成，开发者可以将AI推理直接集成到C++游戏中，优化性能并降低延迟，从而赋能ACE角色，打造更智能的游戏体验。

🧩NVIGI SDK采用插件式架构，提供GPU优化的插件式推理管理，简化ACE模型集成。插件支持灵活添加、更新和管理，涵盖语音识别（ASR）、语言模型等多种AI功能。

💻NVIGI SDK利用Compute-in-Graphics （CIG）技术，在渲染的同时高效进行AI推理，同时提供Windows原生DLL，简化C++游戏开发流程。

🤖结合NVIGI与ACE技术，可以创造出具备高级生成式AI能力的自主角色，这些角色不仅能进行实时NPC对话，还拥有上下文记忆和逼真的动画，从而极大地提升游戏的沉浸感和互动性。

IT之家 2 月 22 日消息，英伟达于 2 月 20 日发布博文，宣布推出 NVIDIA In-Game Inferencing（NVIGI）SDK，简化 AI 模型在游戏中的部署，实现从云端到本地 PC 的无缝衔接，从而推动游戏 AI 的革新。

IT之家援引英伟达官方介绍，NVIGI SDK 是一款基于插件的 GPU 优化推理管理器，旨在简化 ACE 模型与游戏和交互式应用的集成，提供以下功能：

简化 AI 集成：开发者可将 AI 推理直接集成到 C++ 游戏中，优化性能并降低延迟。

赋能 ACE 角色：借助 NVIGI SDK，开发者可以将 NVIDIA ACE AI 角色轻松引入游戏，打造更智能的游戏体验。

插件式架构：采用 GPU 优化的插件式推理管理，简化 ACE 模型集成。插件支持灵活添加、更新和管理，涵盖语音识别（ASR）、语言模型等多种 AI 功能。

GPU 优化：利用 Compute-in-Graphics （CIG）技术，在渲染的同时高效进行 AI 推理。

原生 DLL 支持：提供 Windows 原生 DLL，简化 C++ 游戏开发流程。

开发者通过结合 NVIGI 与 ACE 技术，可以创造出具备高级生成式 AI 能力的自主角色。这些角色不仅能进行实时 NPC 对话，还拥有上下文记忆和逼真的动画，从而极大地提升游戏的沉浸感和互动性。

NVIGI 的架构支持灵活集成各类 AI 功能，并能编排智能代理工作流程，使游戏角色能够实时地听、推理、说话和做出动画反应。

开发者只需初始化 NVIGI，加载插件和模型，创建运行时配置，启用 GPU 调度和渲染集成，即可开始使用 ACE 的设备端推理功能。NVIGI SDK 提供了丰富的插件选择，包括支持不同硬件和模型的语音识别（ASR）、语言模型（GPT）以及 RAG 嵌入等功能，为开发者提供了强大的 AI 工具箱。