IT之家 02月15日
英特尔发布 OpenVINO 2025.0:新增图像生成场景与 DeepSeek 蒸馏模型支持
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

OpenVINO 2025.0版本正式发布,本次更新重点在于性能提升,并增加了对更多生成式AI模型的支持,特别是针对英特尔神经处理单元(NPU)的关键优化。新版本正式支持FLUX.1图像生成模型,包括Dev与Schnell变体,可在英特尔CPU/GPU上通过GenAI流水线运行。开发者可以通过Optimum-Intel导出Flux模型,并结合Text2ImagePipeline生成图像。此外,还加入了Image2Image与Inpainting的支持,提升了结果的可控性与局部内容再生能力。LLMPipeline API引入了对提示词查找解码的预览支持,有助于减少生成延迟。该版本还首次实现了NPU加速支持,开发者可通过PyTorch的torch.compile接口调用英特尔NPU算力。

🚀OpenVINO 2025.0版本正式支持FLUX.1图像生成模型,包括Dev与Schnell变体,并针对其精度敏感特性进行了深度优化,确保图像生成性能与准确度兼得。开发者可以通过Optimum-Intel导出Flux模型,并结合Text2ImagePipeline生成图像。

🖼️新版本加入了Image2Image与Inpainting的支持。Image2Image允许以图像+文本为输入生成新图像,提升结果可控性;Inpainting支持通过掩码图像替换输入图像的指定区域,实现局部内容再生。这两种流水线均兼容LoRA适配器,满足定制化需求。

💡LLMPipeline API引入了对提示词查找解码的预览支持,通过在输入提示词本身中用直接查找机制取代传统的草稿模型,显著减少生成延迟。尤其在处理具有高相似性的请求时,例如对一组文档的问答,性能优势明显。

🧠OpenVINO 2025.0版本首次实现NPU加速支持,开发者可通过PyTorch的torch.compile接口调用英特尔NPU算力。OpenVINO在CPU和GPU上已经得到支持,并且在性能方面非常接近原生OpenVINO推理。

IT之家 2 月 15 日消息,IT之家从英特尔开发人员专区获悉,2025 年首个 OpenVINO 版本(2025.0)于 14 日正式发布,本次更新聚焦性能提升、更多生成式 AI 模型的支持,并针对英特尔神经处理单元(NPU)推出关键优化。

官方表示:OpenVINO 2025.0 版本正式支持 FLUX.1 图像生成模型(含 Dev 与 Schnell 变体),可在英特尔 CPU / GPU 上通过 GenAI 流水线运行。开发者现可通过 Optimum-Intel 导出 Flux 模型,并结合 Text2ImagePipeline 生成图像。针对 Flux 模型对精度变化非常敏感的特点,我们进行了深度优化,确保图像生成性能与准确度兼得。

例如,INT8 量化版 FLUX.1-dev 模型在应用 Yarn 风格 LoRA 前后的对比如下(提示词:"albert einstein, yarn art style",初始种子 = 420,迭代次数 = 20):

此次还加入了 Image2Image 与 Inpainting 的支持。

本次新版本在 LLMPipeline API 中引入了对提示词查找解码的预览支持,这是对推测解码的简化,它在输入提示词本身中用直接查找机制取代了传统的草稿模型。这有助于在具有高相似性的请求的情况下显著减少生成延迟。例如,通过对一组文档的问答可以观察到性能优势,因为答案将根据作为提示词本身一部分的文档来生成。

英特尔称目前正在努力支持和验证最新模型,包括 Mistral-7B-Instruct-v0.2、Qwen2.5,“当然我们也支持基于 LLama 和 Qwen 架构的 DeepSeek 蒸馏模型。”

此外,2025.0 版本首次实现 NPU 加速支持,开发者可通过 PyTorch 的 torch.compile 接口调用英特尔 NPU 算力。OpenVINO 已经在 CPU 和 GPU 上得到支持,并且在性能方面非常接近原生 OpenVINO 推理。如下为启用方式:

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

OpenVINO AI模型 NPU 图像生成
相关文章