馬斯克等千位專家 籲暫停訓練先進AI系統
工商時報陳怡均、數位編輯 2023.03.29
AI示意圖。圖／Freepik

FacebookLineTelegramTwitterWeChatPrintFriendly

特斯拉執行長馬斯克和多位人工智慧（AI）專家、產業高層署名發表一封公開信，警告AI技術對社會與人類具有潛在風險，要求業界針對訓練比GPT-4更強大AI系統的計畫，應該暫停6個月。
由非營利組織生命未來研究所（Future of Life Institute）發布的公開信獲得逾1000位產業高層與專家簽名連署，包括馬斯克、蘋果共同創辦人Steve Wozniak、Stability AI創辦人暨執行長Emad Mostaque等知名人士。
該信提及與人類競爭的AI系統可能以擾亂經濟與政治的型式，對社會與文明造成潛在風險，業界應該先開發出共享安全協定，此協定必須經由獨立專家審核，否則在此之前應該暫停先進AI發展。
（工商時報 陳怡均）
AI危害人類文明?馬斯克等人呼籲暫停開發
一群人工智慧（AI）專家以及包括特斯拉執行長馬斯克、蘋果共同創始人Steve Wozniak在內的產業高層公開呼籲暫停訓練比OpenAI新推出的模型GPT-4更強大的系統6個月，稱這些系統可能對社會和人類帶來許多風險。
非營利組織「未來生命研究所」（ Future of Life Institute）發布這封獲得1000多人簽署的公開信，包括馬斯克、蘋果共同創始人Steve Wozniak、Stability AI執行長Emad Mostaque、Alphabet旗下DeepMind研究人員，以及AI領域的重量級人物Yoshua Bengio和Stuart Russell都加入呼籲暫停先進AI技術的開發，直到完成相關安全協議的制定、實施與審核。
這封公開信指出，只有當我們確信它們的影響是正面的、風險是可控的時候，才應該去開發強大的AI系統。
這封信亦詳細說明了具有和人類競爭的AI系統對社會和文明造成的潛在風險，稱經濟和政治可能陷入混亂。這些專家和產業高層並呼籲開發人員與決策官員在如何治理與規畫監管單位等方面進行合作。
馬斯克雖然經常與證券監管機關和高速公路安全部門槓上，但AI的快速崛起讓這位特斯拉與推特掌門人也忍不住出聲要政府出面管管。本月早些時候，在特斯拉的「投資人日」活動上，馬斯克脫口說出了「AI讓我超焦慮」。
馬斯克在這場活動上提出「總體規畫Part 3」（Master Plan Part 3），其中，特斯拉充滿野心的AI計畫扮演著重要角色。在該公司發布的影片中，其開發的人形機器人「Optimus」操作著其他Optimus機器人的零組件，就像是要組裝自己的複製品一樣。公司高層並詳細介紹了特斯拉如何運用AI技術訓練自家電動車進行無人自動駕駛。
但是當一位分析師提問AI可否幫助特斯拉製造汽車時，馬斯克卻語帶保留，他表示：「我認為AI不會很快幫我們製造汽車，到那時候……我們任何人的工作都將失去意義」。
馬斯克當著Autopilot部門主管等公司高層，以及在場所有分析師面前表達他的擔憂與不安，他表示：「我有點擔心AI這件事，我們需要某種監管機構或能監督AI發展的東西，以確保其運作符合公眾利益。這是一項非常危險的技術。我擔心我可能已經做了一些事情來加速這件事」。
根據高盛日前發布的研究報告，生成式AI技術的興起可能衝擊3億個工作。高盛亦預估美國約有三分之二的工作職位可能受到AI自動化的影響。但報告也指出大部分的職位將因為AI技術而得到補強，只有約7%的職位可能會AI取代。此外，AI不僅能節省人力成本、提高工作人員的生產效率，也能創造新的就業機會。隨著AI日益普及，未來10年全球創造的商品和服務總價值可望提高7%。
OpenAI的AI聊天機器人ChatGPT一夕爆紅，促使競爭對手加速開發類似的大型語言模型，繼大力支持OpenAI的微軟之後，越來越多公司也宣布旗下產品與生成式AI模型進行整合。
「未來生命研究所」發言人表示，OpenAI執行長Sam Altman尚未在這封信上簽名。OpenAI沒有回應媒體的置評請求。
簽署這封信的紐約大學名譽教授Gary Marcus表示，這封信並不完美，但精神是正確的：我們需要放慢腳步，直到我們更加了解其後果。AI可能造成嚴重傷害，「大咖們」對他們正在做的事情越來越保密，這使得我們的社會很難防禦可能造成的傷害。
（時報資訊 柯婉琇）