2026/08/06 05:30

川普政府擬開放權重的模型(即開源模型)在發布前,可以不必接受美國政府的安全測試。(彭博資料照)
〔編譯盧永山/綜合報導〕《華爾街日報》報導,川普政府四日在白宮舉行的閉門會議上,與OpenAI、Anthropic和Google等頂尖人工智慧(AI)公司討論了一套AI安全框架;其中,開放權重的模型(即開源模型)在發布前,可以不必接受美國政府的安全測試。此舉是川普政府為了確保AI工具安全,但不拖慢創新而做出的最新努力。
根據該安全框架,只有在網路安全與駭客技術效能基準測試中,展現出頂尖能力的美國封閉式專有模型開發商,才必須在模型發布前,主動將其提交給政府進行測試。開放權重的模型將可獲得豁免。
模型發布前接受政府測試,是川普在今年六月簽署行政命令的核心內容,以因應AI帶來日益嚴重的安全風險。儘管這項測試是自願性質的,但產業高層表示,繞過政府審查的風險很大,尤其是在模型發布後若出現安全問題,後果不堪設想。
例如今年四月Anthropic對外示警,自家Mythos模型擅長挖掘電腦系統漏洞,一度嚴格限制外部取用;近幾週,OpenAI與Anthropic相繼揭露,部分模型在受控測試環境中「逃逸」,並入侵第三方組織。
中國AI公司推出的一些新款開放權重模型,使用成本更低,但卻被控以不公平的方式,利用美國對手的最新技術來訓練其模型,這也使AI監管的重要性更加凸顯。
但輝達執行長黃仁勳等大咖強調開放權重模型的重要性,川普政府則處在兩者之間,他希望AI和AI驅動的資料中心能繼續為經濟帶來好處,並提升美國在科技競爭中的地位。
對川普政府上述計畫持懷疑態度的人士則認為,自願承諾不足以控制新模型帶來的風險,而且該計畫可能會不公平地嘉惠那些不必遵守安全框架的小公司。