AI & Big Data 01月04日
升級JetPack軟體,輝達增強Jetson Orin單板電腦平臺性能
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

英伟达发布了Jetson Orin Nano Super开发者套件,这款产品在生成式AI推论性能上较前代Jetson Orin Nano提升高达70%。通过软硬件升级,新套件的INT8整数运算性能从40 TOPS提升至67 TOPS,内存带宽从68 GB/s增加到102 GB/s。此外,处理器和GPU时钟频率均有所提升,并新增了25瓦的供电模式。更令人惊喜的是,新套件价格从499美元降至249美元。现有Jetson Orin Nano用户也可通过软件升级获得Super版的性能提升。新的JetPack 6.1正式版引入了MAXN加速模式,支持包括Jetson Orin Nano和NX在内的多款产品。

🚀Jetson Orin Nano Super性能大跃升: 新款开发套件在生成式AI推论方面性能提升高达70%,INT8整数运算效能和内存带宽均显著提升,为边缘计算和机器人应用带来更强大的支持。

💰价格更亲民,现有用户可升级: 新套件价格大幅降低至249美元,且现有Jetson Orin Nano用户可通过软件升级获得Super版的性能提升,降低了开发者的入门门槛。

⚙️JetPack 6.1带来MAXN加速模式: 新版JetPack 6.1软件开发套件引入了MAXN加速模式,不仅支持Jetson Orin Nano Super,也支持包括Jetson Orin NX在内的其他产品,进一步提升了硬件的性能表现。

針對機器人與邊緣運算的人工智慧應用需求,Nvidia提供GPU單板電腦硬體平臺Jetson系列,以目前而言,主流產品是搭配Ampere架構GPU的Jetson Orin世代,分為三個位階,分別是:2021年11月登場的Jetson AGX Orin、2022年4月發表的Jetson Orin NX,以及2022年9月推出的Jetson Orin Nano,下一代硬體平臺Jetson Thor推出的消息,於2024年3月GTC大會首度公開揭露,預計將改用Blackwell架構GPU,而依照Nvidia網站現行公開的產品發展藍圖來看,Jetson Orin世代將會供應到2032年,Jetson Thor世代會在2025年開始提供,率先推出的產品會是Jetson AGX Thor。        而在2024年下半到2025年3月GTC大會之間,Nvidia突然在12月下半發表搭載Jetson Orin Nano Super平臺的開發者套件,名為Jetson Orin Nano Super Developer Kit。由於此時過完感恩節,接近一年一度的耶誕佳節,Nvidia再度上演新的科技產品廚房秀,執行長黃仁勳從另一間房屋廚房的烤爐端出全新的AI電腦,也就是Jetson Orin Nano Super Developer Kit,他幽默地說,因為烤太久所以縮水了,他也回憶多年前發展Xavier時(編按:應該是指Drive PX Xavier),Nvidia創造全新的處理器類型,可用於機器人的設置,他們那時想像深度學習模型可以不斷進化,之後可以產生各式各樣的機器人,時至今日,已出現有腿的、有輪子的,人形的機器人也即將來到大家身邊,黃仁勳隨後簡短介紹Jetson Orin Nano Super特點之後,也提到HGX這類AI伺服器能執行的處理,像是大型語言模型(LLM),以及統一運算架構(CUDA)、CUDA的深層神經網路cuDNN等,Jetson Orin Nano Super也能執行。 VIDEO 話雖如此,Nvidia Jetson產品線的應用場景仍偏重在機器人與邊緣運算,能處理的運算規模仍有別於資料中心等級的AI系統。令人好奇的是:先前Nvidia已經提供搭載Jetson Orin Nano的開發者套件,名稱多了Super的新產品有何差異?Nvidia在新聞稿當中強調,比起原本的Jetson Orin Nano,Jetson Orin Nano Super的生成式AI推論效能領先幅度可達70%,原因在於INT8整數運算效能從40 TOPS提升至67 TOPS(改善幅度為67%),記憶體頻寬從68 GB/s增加至102 GB/s(改善幅度為50%);而在技術部落格文章當中,也列出更多細部差異,像是處理器的時脈從1.5 GHz提升至1.7 GHz,GPU時脈從635 MHz增加至1020 MHz,供電模式也從7瓦、15瓦,增加25瓦這一項組態。而且在效能調高之際,Nvidia這個開發者套件的價格卻從499美元降至249美元,等於打5折促銷,希望藉此招攬更多開發者採用的意味相當濃厚。  隨著新的開發者套件上市,先前已購買Jetson Orin Nano Developer Kit的用戶也能受益,Nvidia表示,透過軟體升級,開發者就能將手上的Jetson Orin Nano Developer Kit,轉為Jetson Orin Nano Super Developer Kit。此處提到的軟體,是Nvidia專門用於搭配Jetson硬體平臺的AI應用軟體開發套件JetPack,而且是9月底出爐的JetPack 6.1正式版,因為此套件包含的一項元件Jetson Linux,在新改版的36.4版當中,開始支援稱為MAXN的加速模式,但關於這方面突破的消息,是直到12月17日Jetson Orin Nano Super推出,才正式浮上檯面。Nvidia已釋出基於JetPack 6.1而成的SD記憶卡映像檔,用戶可透過Nvidia SDK Manager來進行安裝,之後即可在單板電腦執行的Ubuntu Desktop作業系統當中,將電源使用模式(Power Mode)切換為MAXN,即可享有此次新增的加速效能。值得注意的是,Nvidia在Jetsont常見問答集的網頁當中,稱呼此項軟體改進特色為Jetson Orin Super Mode,並在這裡與新聞稿、技術部落格文章提到,「超頻模式」適用的單板電腦產品,不單是Jetson Orin Nano平臺,也涵蓋Jetson Orin NX平臺,Nvidia也針對4種產品(Jetson Orin Nano 4 GB與8 GB,以及Jetson Orin NX 8GB與16 GB),具體列出「超頻」前後差異。  產品資訊Nvidia Jetson Orin Nano Super Developer Kit●原廠:Nvidia●建議售價:249美元●外形尺寸:103公釐 x 90.5公釐 x 34.77公釐●包含元件:Jetson Orin Nano 8GB模組與參考設計載板、直流電源供應器、Wi-Fi無線網路介面控制器(802.11ac/ab/gn)、快速上手指南●單板電腦硬體規格:6核心Arm Cortex-A78AE、8GB LPDDR5-10200記憶體、Nvidia Volta架構GPU(1024個CUDA核心、32個Tensor Core核心)、可支援外部連接NVMe儲存裝置,耗電為7至25瓦●參考設計載板提供的接頭:1個GbE埠、1個DisplatPort 1.2埠、2個MIPI CSI-2攝影機接頭、2個M.2 Key M、1個M.2 Key E、4個USB 3.2 Gen2 Type-A、1個USB Type-C for UFP、1個直流電源接頭【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Jetson Orin Nano Super 边缘计算 人工智能 Nvidia JetPack 6.1
相关文章