在Build 2025大會上,除了雲端AI開發工具,微軟宣布Windows AI Foundry 給桌機AI程式的開發人員。
對許多開發人員來說,Windows還是最普及的開發平臺。Windows AI Foundry即是為了提供AI應用程式的開發生命周期管理。它前身為Windows Copilot Runtime,支援本地端或雲端AI應用完整生命周期,涵括模型選擇、優化、微調和部署開發。
Windows AI Foundry重要元件之一是Windows ML。它是Windows 內建AI推論runtime,也是Windows AI平臺的基礎,允許開發人員在AMD、Intel、Nvidia、Qualcomm CPU、GPU、NPU-based機器上,使用或部署自己喜歡的模型。Windows AI Foundry可整合微軟模型目錄(model catalog)稱為Foundry Local,用以管理和執行開源LLM,也可整合第三方的模型目錄如Ollama和Nvidia NIM,以便在本地App中使用、測試模型、或與模型互動。
在Copilot+ PC電腦上,Windows AI Foundry將提供AI API,可應用Windows內建模型執行文字、語言和視覺化任務,像是生成文字、圖說、文字辨識或是從圖片中移除某項物件等。微軟宣布新加入低秩適應(LoRA,low-rank-adaption)技術,可用於以自訂資料微調Windows內建小語言模型Phi Silica。此外還宣布了用於語義搜尋和知識檢索的新API,使開發人員得以開發App的自然語言搜尋及檢索擴增生成(retrieval-augmented generation,RAG)功能。
微軟另外也宣布Windows 11原生支援MCP(Model Context Protocol)協定,可讓代理人更無礙整合外部資料。
而在雲端開發平臺Azure AI Foundry 方面,微軟也宣布了代理人服務(Agent Services)上線,整合現有開源工具Semantic Kernel及AutoGen為單一SDK,支援Agent to Agent(A2A)及MCP協定,以便讓開發者同時使用多個專門化的 AI 代理人,並協調它們完成複雜工作流程,該服務也內建管理工具以確保其效能、成本、品質和安全性。而配合Entra Agent ID,開發人員也能為其在Copilot Studio及Azure AI Foundry中建立的代理人指派獨一的身份,利於管理且免於代理人氾濫的問題。