個股：ChatGPT爆紅，華碩(2357)旗下台智雲搶商機，領先推出AI 2.0一站式服務
2023/02/14 13:05 財訊快報／記者王宜弘報導
聊天機器人ChatGPT問世後爆紅，全球掀起AI熱，華碩(2357)搶商機，旗下台智雲領先全台，推出「AI 2.0大算力顧問服務」一站式整合方案。
台智雲指出，「AI 2.0大算力顧問服務」可以整合新世代AI的基礎建設、開發環境及專業技術團隊服務。企業透過台智雲的服務，可即刻投入AI應用研發，進入AI 2.0世代。
台智雲指出，大型語言模型(Large Language Model，LLM)及生成式AI(Generative AI)的快速發展，開啟新世代AI的新範疇。而該公司領先全台，宣布成為第一個成功建置1760億個參數的BLOOM(BigScience Large Open-science Open-access Multilingual Language Model)大模型，推出「AI 2.0大算力顧問服務」一站式整合方案，搶攻AI商機。
台智雲技術長陳忠誠指出，AI技術結合大型語言模型已是產業科技發展趨勢，企業要單獨執行LLM專案的難度極高，利用一站式AI 2.0大算力顧問服務，可更專心投入研發專案，大幅降低進入門檻。台智雲AIHPC高速運算平台結合技術資源團隊，以全新服務模式，提供完整AI外部支援，現已有高科技研發製造、金融和零售領域企業洽談合作。
他表示，以台智雲完成的BLOOM大模型成果為例，資料集就包含了46種人類語言、13種程式語言，參數量達到1760億個，整體資料量高達1.5TB以上，且運用了840個GPU做跨節點(node)的訓練，除了效能可逼近線性理論值之外，也可收斂訓練結果，而若欲增加效能，亦能用線性的方式擴容(scale out)，以增加GPU來提升平行運算能力。
此外，企業自行推動LLM專案，需熟悉分布式訓練架構、建置AIHPC系統、理解微調技術(fine-tune)、大模型推論(inference)，門檻極高，使用AI 2.0大算力顧問服務可快速降低投入時間、技術、開發風險、硬體設備和人力投資等成本，打造自有生成式AI應用。