AI & Big Data 前天 16:08
從IT現代化轉向AI推論需求,博通亞太高層揭露VMware策略如何瞄準GenAI
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

博通在收購VMware后,正积极调整产品策略以应对生成式AI浪潮。VMware的基础设施软件业务营收显著增长,主要得益于向订阅模式的转型。博通推出了VMware Private AI Foundation,旨在帮助企业在本地数据中心管理GPU资源,并支持混合云架构。博通观察到企业重新平衡公有云和私有云策略,尤其是在数据主权和成本考量下。VMware计划通过VCF 9新版和对GPU虚拟化的支持,满足企业对生成式AI的需求,并优化客户支持。

🚀 **博通的战略转型:** 博通在收购VMware后,专注于私有云软件发展,并通过订阅模式推动VCF产品的销售,以增强对混合云架构的支持。

💰 **营收增长与订阅模式:** 基础架构软件部门的收入大幅增长,主要来自VMware的贡献,其中60%的企业客户已转向订阅制,预示着行业趋势。

💡 **私有AI解决方案:** 博通与Nvidia合作推出VMware Private AI Foundation,使企业能够在本地数据中心管理GPU资源,满足AI工作负载需求。

🔄 **混合云与数据主权:** 企业重新评估公有云与私有云策略,私有云在数据主权和成本方面更具优势,尤其是在生成式AI时代。

🛠️ **VCF的未来发展:** VCF 9新版将开放API,整合开源模型,并关注企业未来的推论需求,同时利用GenAI改善客户支持,提供更便捷的故障排除平台。

IT現代化是企業數位轉型的前一波焦點,尤其是雲原生技術和在K8s容器化技術的採用,是資訊基礎架構最重要的轉型方向。但在生成式AI爆紅之後,隨之而來的代理型AI應用快速崛起,甚至掀起一股,未來每一個應用系統都是 生成式AI的應用,這也帶來了軟體開發與資訊基礎架構維運的新課題。

但在這一波生成式AI浪潮中,在資訊基礎架構技術產業中,除了三大公雲積極帶頭擁抱生成式AI之外,其餘資訊基礎架構業者,對於生成式AI技術的著墨較少,尤其是過去高度聚焦IT現代化需求的傳統虛擬化龍頭VMware產品,如何因應生成式AI浪潮,Broadcom(博通)亞太與日本區總裁Sylvain Cazard日前來臺,對臺灣企業說明VMware產品的下一波方向。  

博通在2023年11月完成VMware併購後,隔年7月賣掉了用戶端運算業務(End-user Computing),專注於私有雲軟體產品的發展。當博通收購VMware時,就包括了三個開發中的VCF版本(2024年7月版,2025年3月版和2025年7月版),除了部分在2024年發布,其餘計畫於今明兩年推出。

VMware相關產品現在已經是博通基礎架構產品的主力,從博通年度總淨收入就可以看到VMware的影響。博通年度總淨收入中,基礎架構軟體部門的比重,從2023會計年度的21%,在2024年度幾乎翻倍增加到42%的比例,金額也從76億多美元,大幅提高到214億多美元,增加的收入主要來自VMware的貢獻。

過去一年多來,博通一方面將VMware相關產品的銷售模式,轉為訂閱制,另一方面也大力簡化產品組合。目前VCF銷售策略採取訂閱制,可支援軟體授權移動,可在內部資料中心和雲端環境中轉移,來提高對混合雲架構的支援。

今年第一季已有60%企業轉換到訂閱制

根據今年初,博通第一季電話會議揭露的數據,博通基礎架構軟體業績,在第一季達到67億美元,比前一年增加了快5成,主要來自將永久授權轉換成完全訂閱制的銷售,目前有60%企業顧客已經轉換到訂閱制。永久授權的產品主要是vSphere,博通現在則力推用於全資料中心虛擬化的VCF產品。統計到2025年第一季,用量最多的前1萬家企業顧客中,已有70%採用VCF。Sylvain Cazard補充,臺灣也有大型銀行,政府機構開始導入VCF,臺灣企業市場正處於轉換到訂閱制的過渡階段。

不過,在博通宣布VMware轉為訂閱制後,後續軟體授權相關做法,往往成為眾人關注的焦點,過去一年來,引發了幾次授權熱議的事件。

博通很清楚,資料中心虛擬化需求的變化,決定了博通軟體業務的發展,越多企業將運算工作負載轉移到公雲,就會限制本地資料中心虛擬化產品的市場規模。

博通預估,隨著大型企業導入AI,需要在本地端資料中心執行AI工作負載,包括GPU伺服器和傳統CPU。博通和Nvidia合作,打造了一個VMware Private AI Foundation軟體產品,讓VCF也將成為GPU虛擬化的通用平臺,讓企業能像運在傳統CPU虛擬化一樣,在本地端部署AI模型來處理自己的資料。目前有39家企業採用這套新軟體產品。

Sylvain Cazard表示,不只臺灣,全球各地的企業都在重新平衡公雲和私有雲策略,尤其是政府,銀行和電信業者,為了資料主權考量和成本考量,重新聚焦私有雲的發展。

他觀察,一方面因為,將應用程式搬遷到雲端的複雜度很高,另一方面是因為生成式AI浪潮,企業有機敏資料的考量,所以,「企業想要讓私有雲增加生成式AI的能力,來測試GenAI的價值。」換句話說,對私有雲來說,就需要同時執行傳統CPU的應用和容器化的應用,以及最新的生成式AI應用需求。

目標是像管理CPU一樣地管理GPU

Sylvain Cazard認為,不論是想要測試AI案例,或要支援適合的成熟GenAI應用,企業需要像是管理CPU工作負載般的能力,來管理GPU工作負載,包括了在資安、備份、調度等方面的管理能力。

「博通的挑戰是,要滿足具有這類需求的企業,來提供一套企業等級的平臺,不只能支援Nvidia GPU,還要能用API來運用市場上各種不同的LLM。」他強調。

Sylvain Cazard 觀察,企業目前常見GAI用法是,訂閱公雲業者提供的大型語言模型,再將模型放到地端私雲環境中,進行微調和優化。一種做法會採用整套式的NvidiaGPU產品,另一種做法是各種他廠伺服器中搭載GPU。目前常見的私有企業AI架構,可分成兩大類用途,一類是完全整合到CUDA架構,完全靠Nvidia來打造企業AI。另一種是則用於推論端的工作架構。

因為VMware產品本來就具備GPU虛擬化的技術,VCF可以直接提供GPU虛擬化,例如一個叢集有16個GPU節點,VCF可以讓不同需求共享這些GPU資源,用於訓練或用於推論,等於可以優化企業的GPU利用。Sylvain Cazard表示:「不少企業看上這一項能力而開始轉向VCF,臺灣有不少企業如此。」

不過,Sylvain Cazard認為,雖然企業對GPU的需求提高了,但有些模型只需要CPU處理就夠用,如何分配算力需要經驗。再加上,訓練模型,需要一定的資料處理技巧和人員能力。「我們認為市場發展還不會那麼快,企業可以先用VCF打造自己的架構,用企業原本就熟悉的資安管理做法,來使用GPU資源。VCF可以讓你像使用CPU算力一樣地用GPU算力。」

他舉例,臺灣有家超大型高科技業者,就是用VCF來將GPU叢集虛擬化。過去是要針對不同部門來分配不同的叢集,現在可以依照使用時間來切割使用權,讓GPU資源取用也能達到多租戶的效果。

VCF的目標不只如此,傳統的AI應用多半在VM中執行,而新興的生成式AI則慣用容器來執行。「可以讓這兩種需求取得CPU和GPU資源,不需要兩套平臺。」Sylvain Cazard表示:「推論是企業未來主要的AI工作負載,這是CPU也能做到的工作。」不過,他認為,企業AI需求的爆發潮,可能還要1、2年,現在還是非常早期的階段。

2年前,VMware和Nvidia合作發表的這套VMware Private AI Foundation,在2024年5月釋出正式版,這就是一套VCF的外掛模組。

今年,博通即將推出新一代的VCF 9版,產品定位的價值一樣鎖定了企業算力需求,VCF 9新版的主要API也會開放,可以用來整合各種新興的開源模型。而VMware Private AI Foundation發展藍圖也將瞄準企業未來的推論需求趨勢,成為一個中間層,連結各種基礎架構資源,讓企業整合到不同的大型語言模型。

雖然代理型AI今年爆紅,不過,Sylvain Cazard表示,VCF不會特別支援半年多前爆紅的MCP,「我們不會特別鎖定一項技術來發展,而是瞄準企業一直存在的私有資料保護需求。未來將會有各種優化模型和提示的方法,關鍵是在,這都要在私有雲環境中執行。」

Sylvain Cazard 表示,VMware的產品策略是,盡可能對不同需求進行優化,讓資源盡可能地開放,企業可以靠慣用的管理方式、安全機制和平臺來管理這些算力資源。

目前VMware則正嘗試用GenAI改善對顧客支援,讓技術支援更簡單易用,「就像銀行客服一樣,我們想要用GenAI提供更準確的回答給顧客,這是我們運用GenAI的第一優先重點。」他說。

例如一款產品版本升級時,如何評估對其他產品相容性的影響,這類資料分散在不同的來源,過去得靠專家彙整才能提供意見,博通希望可以整合這些答案,更快速提供給顧客。

除此之外,VCF未來也會提供一個對話式的除錯平臺,因為不少企業將運算、儲存、網路都透過VCF平臺來管理,遇到故障當機,經常尋求VMware的支援服務,VMware擁有許多不同基礎架構不同層面的除錯經驗,博通將整合過去累積的大量案例,來打造這個除錯平臺。

 

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

VMware 博通 生成式AI 私有云 GPU
相关文章