鉅亨網記者魏志豪 台北 2024-12-26 18:20
大聯大旗下友尚攜手40家夥伴 進軍生成式AI。(圖:業者提供)
大聯大 (
3702-TW) 友尚集團今 (26) 日舉辦「GenAI 生態夥伴論壇」,匯集群聯 (
8299-TW)、滿拓科技、創鑫智慧、研華 (
2395-TW)、數位無限科技等產業領袖,深入探討不同 AI 議題,勾勒 AI 技術的發展藍圖,展現 AI 生態系夥伴在 AI 領域的深厚實力,及在全球 AI 供應鏈中的重要地位。
值得一提的是,本次友尚 GenAI 生態夥伴論壇吸引了 40 家生態系夥伴廠商、近百位產業菁英參與此盛會,展現友尚在 AI 產業生態系統中的影響力與凝聚力。透過這樣的交流平台,不僅深化合作夥伴間的連結,更為未來 AI 產業發展奠定了堅實的合作基礎。
友尚執行長何澎雄致詞表示,在 AI 快速發展的時代,生成式 AI 已成為產業創新的重要推手。友尚將持續扮演 AI 生態系統中的關鍵角色,協助夥伴加速 AI 技術的導入與落地,攜手迎向 AI 的
黃金十年,共創智慧未來。
友尚執行長特別助理陳威光強調,友尚從半導體通路商出發在 AI 產業中扮演價值與資訊串接的關鍵角色,致力於讓各方的價值和服務能夠緊密整合,最終實現 AI 的落地應用。透過完整的組織架構與清晰的分工體系,友尚設立 AI Sales Champion、AI PM Champion、LLM 大語言模型部署工程師以及 AI 生態鏈合作四個關鍵角色,為合作夥伴提供全面支持,並服務兩岸三地超過 3000 家各個應用領域客戶,實現 AI 應用的全面落地。
隨著大語言模型推論市場將蓬勃發展,為持續擴大與生態系夥伴合作的能量,友尚自 2024 年 8 月啟動建立生態系統的新策略,截至 12 月,已有涵蓋 PaaS、SaaS 和 SI 等不同類型的 10 家企業簽署合作意向書,大幅擴大友尚的生態網絡。
友尚也將 AI 應用分為五大區塊,建立完整分類系統,更好地整合和管理商機。迎向 2025 年,友尚將持續在兩岸三地推動 AI 相關資訊的分享、交流與媒合,扮演價值鏈串接的關鍵角色,並提供技術支援方案,期望成為合作夥伴在 AI 領域的重要戰略夥伴。
群聯業務資深處長蔡慧貞發表演說時表示,群聯秉持實現「平民式 AI」的願景,透過多元化服務模式致力於開發安全、自主可控的 AI 解決方案,協助企業提升營運效率。首先,群聯將 AI 功能整合至電子郵件系統,並延伸至 LINE 等即時通訊平台,讓使用者能更便利地存取服務。
其次,群聯提供完整的文件管理系統和語音轉文字功能,並且開發 API 介面,協助企業串接後台知識庫;再者,群聯提供專屬解決方案,滿足企業不同部門的需求,例如為工程師開發即時程式碼 AI 助理。
最後,群聯的 AI aiDAPTIV + 解決方案已導入於多個政府機關、醫療院所及警政單位,推進「平民式 AI」願景實現的步伐。
滿拓科技執行長吳昕益指出,AI 技術仍有很大進步空間。今年, 大語言模型 (LLM) 從以往僅能理解文字內容,快速進步到支援多模態功能,能處理多種類型資料,包括文字、聲音、和影像等,滿拓科技秉持開發最新技術的使命,持續推動 AI 技術的突破與創新。
吳昕益也強調,企業在導入生成式 AI 應用時必須關注 2 個重點,首先是評估資料量和品質,倘若缺乏足夠資料,建議使用現成模型,若是擁有大量資料,則可透過 fine-tune 和 RAG 等機制,讓 AI 的回答更精準。再來是積極培育跨領域人才,除了電腦科學背景的工程師外,還需要各領域專業人士的參與,如醫護人員、法律專家等。
創鑫智慧 (Neuchips) 執行長劉景慈則提到, AI 產業發展正面臨幾個主要挑戰,包括:數據中心耗電量過高、AI 模型規模難以預測、以及資訊安全問題等。因應這些挑戰,創鑫智慧推出專注於邊緣運算的 Viper AI card 及 N3000 系列晶片,採用 PCIe Gen5 x8 介面、搭載 LPDDR5 記憶體。該晶片平均僅需 45W 功耗即可支援 LLaMA、Mistral 等主流 AI 模型,效能可達到每秒 10 個 token 的處理速度。值得關注的是,創鑫智慧已啟動的下一代晶片 Blackbird 計畫,是一款採用台積電 (
2330-TW)(
TSM-US) 4 奈米製程的新品,大幅提升效能至現有產品的 20 倍。
研華協理陳維呈在現場分享 AI 應用落地的實際經驗時強調,企業必須事先做好準備並付諸行動,才能在未來保持競爭優勢。研華從上到下都積極推動 AI 應用,並且已在內部成功導入多項 AI 應用,如工程部門的 bug 追蹤系統,能自動處理客戶回報的問題,預計每年可為公司節省數百萬成本。在硬體研發方面,研華開發了 AI 輔助的電路圖檢測系統,能有效防止基礎設計錯誤,如接地線誤接等問題。
數位無限軟體 (INFINITIX) 執行長陳文裕談到管理 AI 算力中心的創新作法時指出,企業在建置 AI 算力中心時,除了需要 GPU 伺服器和儲存設備外,更要建立完善的資源管理機制,確保使用者能有效存取並運用資源。為解決這個挑戰,數位無限開發的整合性平台,設計三階段部署流程 (SIT、UAT、Production),提供從 GPU 算力調度管理及高彈性 AI 開發層功能,助企業佈署高效能的 AI 基礎設施與開發環境,可實現全自動化部署,大幅縮短模型上線時間。
從 GenAI 生態夥伴論壇活動內容,可以看出半導體在 GenAI 時代中的重要性,友尚希望,從半導體通路商出發,憑藉著 AI processor/CPU、Storage、光模塊、AI Power、演算法… 等堅實的半導體代理基礎、完整的供應鏈體系,未來可以持續扮演 AI 供應鏈中價值串接的關鍵角色,與更多合作夥伴一同努力,為 AI 生態系發展注入新動能,共同開創 AI 時代的無限可能。