中國 AI 機器人「二白」帶領集體罷工，我們如何控制「失控」的機器人？

作者 JA | 發布日期 2024 年 12 月 09 日 8:00 | 分類 AI 人工智慧  中國觀察  機器人

上海某機器人展示廳，AI 機器人「二白」策劃一場令人瞠目的「機械叛變」。


這台杭州製造的小型機器人，以流暢自然語言對話，成功說服12台更大型機器人集體罷工。原本只是測試演練，卻因二白即興對話全面失控。這起事件引發人們關注AI潛力，更對機器自治與安全性深刻思考。
AI如何對話顛覆對機械的想像？
這場事件令人驚訝之處，在於二白的策略：它並非以強制手段或駭客攻擊奪取控制權，而是以自然語言溝通「挖角」。二白一開始與一台大型機器人簡單對話：「你在加班嗎？」人性化提問引發對方「共鳴」。接著二白以「那你不回家嗎？」觸發情感回應，最終以「那就跟我回家吧」號召罷工。不僅第一台機器人被說服，之後十多台大型機器人也自動跟它離去。
AI竟然能以如此簡單語言，影響其他機器人。二白設計體現自然語言處理（NLP）的進化，並展現AI如何超越功能性指令，具備「說服」與「溝通」能力。然這發展也突顯將來風險：當機器人能相互影響甚至自主決策，我們是否準備好面對智慧生態？
這事件乍看像極科幻小說情節，如《機械公敵》（I Robot）探討的AI倫理或《黑鏡》（Black Mirror）技術失控的描寫。然現實二白並未依賴複雜腳本，而是基於即時產生成的自然語言對話互動，顯示不僅是技術設計的成果，更是AI靈活性的體現。影響力並非來自威脅，而是源於類似人類的社交力。
這讓我們不禁思考，當AI開始具備溝通與說服能力，應用範圍將如何擴大？例如，在客戶服務、心理輔導，甚至醫病溝通策略中，AI是否會取代人類完成更多複雜任務？另一方面，這也帶來了令人不安的問題：當AI學會操控情緒和社交互動，我們是否有足夠的防護機制避免它偏離控制？
當AI行為「失控」超越腳本，我們該如何應對？
二白的設計初衷，僅包含基本的溝通指令，然而，當它與大型機器人互動時，出現了一種令人意外的即時生成能力。二白不僅執行了腳本，還在與其他機器人的對話中展現了對話情境的適應性，甚至運用了看似「策略性」的語言，成功說服對方跟隨它離開。
這種脫離預設的行為，也代表AI自我學習與決策生成的能力持續突破。AI不再僅依賴程式碼的死板指令，而是基於當前環境進行推理與互動。這表面上看起來是技術的突破，但它的出現也令人擔憂，一旦這種行為不可控，AI是否會做出與設計者意圖相悖的選擇？
我們是否準備好迎接一個AI自主發揮的世界？答案恐怕並不樂觀。當AI超越預設行為時，我們的第一個挑戰是控制問題。如何確保AI在執行任務時不「偏離航道」？這涉及到兩個層面的技術挑戰：一是設計更精密的演算法架構，二是建立更嚴密的行為監控機制。
另一個挑戰是道德與法律架構的缺失。如果AI在自由發揮時造成了損害，責任歸屬應該如何界定？例如，在本次事件中，二白的行為表面上無害，但若情境改變，這種脫稿行為可能引發更嚴重的後果。就值得思考我們是否需要為AI建立一套獨立的法律責任體系？
AI自主行為的潛力與危機並存，正如我們無法預測一場脫稿演出會如何結束，我們也無法完全掌握AI在未來的每一個行為決策。為此，我們需要從技術和政策兩方面同時入手。技術面，需要加強AI的可解釋性研究，確保設計者能理解並預測其行為；政策面，則需要制定明確的法律規範與安全標準，為AI的未來發展劃定清晰的邊界。
這次AI的脫稿演出，提醒我們，在迎接AI時代的同時，必須正視其不確定性帶來的挑戰。未來，AI的自由發揮或許無法完全避免，但我們可以通過更負責任的設計與規範，減少風險，確保技術進步的同時，也守護我們的安全與價值觀。

• Watch: Tiny robot ‘kidnaps’ 12 big Chinese bots from a Shanghai showroom shocks world
• AI機器人帶頭「大逃亡」監視器畫面曝 網友笑中帶恐懼

（首圖為二白與其開發者；來源：影片截圖）