- 遊客
- Lv.0
0
認同0
銅幣
阿里巴巴自主研發的「平頭哥」AI晶片傳出捷報,MLPerf基準聯盟今(7)日公布首輪AI(人工智能)推理基準測試結果,平頭哥的AI晶片含光800在Resnet50基準測試中獲得單晶片性能第一。
澎湃新聞網報導,MLPerf是包括Google、Intel、百度、NVIDIA等多家業界領導廠商與學界,針對將AI性能的量化所開發的測試基準,將多項業界常用的AI模型訓練作為基礎,越快完成訓練也意味著有更好的AI效能。
MLPerf 推理基準測試設有五個基準,每個對應四種場景,重點面向圖像分類、對像檢測和機器翻譯等常見機器學習任務。測試者可以選擇提交任何基準及相應場景的結果。
據阿里巴巴方面披露的信息,含光800參加適用於圖像分類任務的Resnet50 v1.5基準測試,在離線模式(Offline mode)、服務模式(Server mode)、多路模式(Multi stream mode)和單路模式(Single stream mode)四個場景都取得了單晶片第一的成績。
離線模式測試的是晶片推理的最大吞吐量,最能考驗晶片的計算、存儲、通信等基本功。據阿里介紹,含光800的成績為69306.60 IPS,單晶片性能是谷歌TPU v3的8.5倍、Nvidia T4的12倍。
今年9月問世的含光800,是阿里巴巴第一款正式流片的AI晶片,基於台積電12奈米工藝生產,其性能突破得益於軟硬件的協同設計:採用平頭哥自研架構,有效降低內存訪問延時;集成達摩院的創新算法,深度優化CNN及視覺類算法,大幅提升視覺計算效率。
含光800主要用於雲端視覺場景,現已大規模應用於阿里巴巴集團內多個場景,如視頻圖像識別/分類/搜索、城市大腦等,未來還可應用於醫療影像、自動駕駛等領域。今後,含光800的算力將通過阿里雲對外輸出。