chen2929 發達集團總裁
來源:財經刊物   發佈於 2024-12-18 05:42

輝達推出生成式AI超級電腦 價格僅249美元

鉅亨網編譯段智恆 綜合外電  2024-12-18 01:00

輝達推出生成式AI超級電腦 價格僅249美元(圖:輝達)


輝達 (NVDA-US) 周二 (17 日) 推出一款名為「Jetson Orin Nano Super」的生成式人工智慧 (AI) 超級電腦。輝達執行長黃仁勳表示,這款開發者套件透過軟體升級實現更高性能和更低價格,僅售 249 美元,尺寸小巧、可放在手掌中,可將生成式 AI 性能提高達 1.7 倍。

該公司表示,這款產品適合商業 AI 開發者、愛好者和學生,與其前代產品相比,其生成式 AI 推理性能提升了 1.7 倍,性能提高了 70%,每秒可執行高達 67 兆次的 INT8 運算 (67 INT8 TOPS),記憶體頻寬也提升了 50%,達到了 102GB/s。



黃仁勳在替這款產品錄製的影片中表示,無論是創建基於檢索增強生成 (Retrieval-Augmented Generation RAG) 的大型語言模型 (LLM) 聊天機器人,構建視覺 AI 代理,還是部署基於 AI 的機器人,Jetson Orin Nano Super 都是理想的選擇,這款套件都能以更低的成本提供強大的運算效能。
黃仁勳錄製影片說明新產品。(圖:輝達)

因為該產品支援低功耗設計,能以 7 瓦到 25 瓦的功耗運行,適合各種邊緣設備雲算場景,無論是智慧城市、智慧農業還是機器人開發。

黃仁勳還說,Jetson Orin Nano Super 非常適合希望在生成式 AI、機器人技術或電腦視覺領域發展技能的人士。在 AI 領域從任務專用模型轉變為基礎模型的趨勢下,也為開發者提供了一個將創意變成現實的易用平台。

輝達強調,隨著 AI 技術逐漸從雲端走向終端,實體 AI 將是下一波發展重點,Jetson Orin Nano Super 不僅可以用於開發聊天機器人,也適合視覺 AI 代理或部署 AI 機器人等應用。

該公司也宣布將替 Jetson Orin NX 和 Nano 系列的系統模組提供軟體更新,讓它們也能享受 Super 模式的效能提升,最高可達 70%。這些更新將透過 Jetpack SDK 管理器發不在輝達網站和 GitHub 上。

Jetson Orin Nano Super Developer Kit 預估很快就會透過全球經銷商開始供貨。對於想要入門 AI 開發的學生、工程師或創客來說,這款開發套件提供一個經濟實惠且功能強大的平台選擇。

輝達將 Jetson Orin Nano Super Developer Kit 定位為推動生成式 AI 技術普及化的關鍵產品,希望在智慧交通、零售管理以及物聯網 (IoT) 應用中大放異彩。

評論 請先 登錄註冊