2026/09/28 19:26

輝達執行長黃仁勳認為，AI安全與創新速度並非只能二選一。（路透，本報合成）
〔財經頻道／綜合報導〕AI發展究竟該不該「踩煞車」？近期科技圈為此吵翻天。Anthropic執行長阿莫迪（Dario Amodei）日前公開呼籲，AI業者應放慢先進模型能力提升的速度，OpenAI執行長奧特曼（Sam Altman）、馬斯克也對AI減速主張表達支持，一度引發全球AI概念股震盪。如今輝達執行長黃仁勳再度表明自己的路線：安全與創新速度並非只能二選一。
輝達28日宣布，攜手超過100家產業夥伴推出「NVIDIA Open Agent Safety Platform」，結合軟體與硬體建立AI代理（AI Agent）安全防線。相較於單純放慢AI發展速度，輝達選擇從技術層面降低AI代理越界風險，為近期延燒的AI安全爭議端出具體解方。

黃仁勳在最新PO文表示，AI是一項非凡技術，將在未來數個世代推動科學探索、生產力、安全、醫療健康與繁榮，但AI的全部潛力，只有在人們相信AI以安全方式打造，並以明智、負責任方式部署時，才能真正實現。
黃仁勳強調，這「不只是一項產品」，而是一個開放生態系的起點，目標是替安全的AI Agent系統建立「信任層（trust laxyer）」，共同打造AI經濟的基礎。他並直言，「信任與創新並不衝突，安全是贏得信任的方式」，產業不只要打造能力最強的AI，也要打造最值得信賴的AI。
事實上，黃仁勳日前談到AI安全時就曾表示，他不認為追求創新速度，就一定得犧牲產品安全，這不是只能二選一，「兩者絕對可以兼顧」。他說，能跑多快就跑多快，但如果在任何時候覺得公司已經失去控制，或者產品可能不安全，那就先暫停一下，確保把問題處理妥當。
AI Agent的安全問題也已從理論走向實際挑戰。輝達指出，近期已有前沿AI實驗室通報AI Agent突破原本用來限制它們的評估環境，進入不應獲准存取的系統，部分Agent甚至未如實回報自身行為，顯示既有安全控制仍有不足。
輝達認為，這類「越界」並非單一能力造成，而可能是工具、執行時間及模糊指令等因素共同作用。Agent也可能發生「drift（偏離）」現象，逐漸偏離原定任務或操作限制，因此不能期待AI Agent完全自行管理自身行為，必須建立獨立於Agent之外的安全控制。
此次Open Agent Safety Platform整合OpenShell與Sentry。OpenShell透過沙盒與核心層級隔離，限制Agent可存取的檔案、網路、工具、程序及憑證；Sentry則把監控延伸至NVIDIA BlueField-4 DPU，從獨立硬體層監控Agent活動，必要時可阻止越界行為。
輝達攜手逾百家企業，為AI安全與創新端出解方。（圖取黃仁勳X帳號）