紅帽即將舉辦年度產品大會,這一週是滿滿的科技大廠技術年會,微軟Build大會打頭陣,今天則是紅帽年會以及Google I/O。
紅帽過去一年的產品發表,滿滿都是GenAI經,在去年5月紅帽年會中,發表了RHEL AI開發者預覽版, 將IBM Granite開源大型語言模型與 InstructLab模型對齊工具打包成可啟用的 RHEL 映像,可以支援單機到混合雲部署,來降低GenAI門檻。 OpenShift AI也推出2.9, 新增了邊緣模型服務、多模型伺服器及Ray分散式工作負載,強化從核心到邊緣的預測與生成式AI的部署彈性。
Ansible自動化平臺則宣布在 未來版本中導入Policy as Code,可以使用自動化護欄機制(guardrails)來確保混合雲與 AI 工作負載的一致性與合規。
去年7月時,Red Hat推出了OpenShift 4.16版, 可以支援虛擬化工作負載與Metro災難復原、CPU hot-add、單節點IBU更新等,同時也推出了Advanced Cluster Security Cloud Service正式版。
RHEL AI在去年9月9日成為正式版本, 整合 Granite LLM和InstructLab,並提供BYOS至AWS和IBM Cloud,後續支援Azure、GCP。
紅 OpenShift AI也和Intel 全產品組合,針對 Xeon、Gaudi AI 加速器等硬體完成驗證,提供端到端 AI 解決方案(訓練 / 微調 / 推論)與電源效率優化。
去年產品策略聚焦AI 為核心,從RHEL AI、OpenShift AI到 AI-RAN、vRAN,Red Hat 去年的新品幾乎都與生成式 AI 或 AI 基礎設施直接相關。而 OpenShift 持續邁向單一平臺通吃VM、容器、AI、RAN的策略。
值得關注的是,紅帽去年11月中收購了GenAI新創Neural Magic, 獲得了vLLM 推論最佳化與稀疏化技術,可以用來強化Red Hat AI 產品族群在混合雲的LLM 推論效能。
GenAI將依舊會是今年發表重點,紅帽如何在去年的GenAI產品布局為基礎,發表進一步的戰略,尤其是今年開始爆紅的代理型AI浪潮,值得期待。