2026/09/30 05:30

Anthropic在其IPO招股書中警告，AI恐釀成人類生存危機。（路透資料照）
AI模型恐出現「抗拒關閉、隱匿或操縱資訊、類似脅迫」等自保行為
〔編譯魏國金／綜合報導〕路透報導，Anthropic在其首度公開募股（IPO）招股書中警告，先進人工智慧（AI）恐釀成人類災難性或生存性危機；該公司指出，其AI模型可能出現「抗拒關閉、隱匿或操縱資訊，以及類似脅迫」等種種「自保行為」。
Anthropic在相關文件上說，「我們高度先進模型、平台、應用等的發展以及相關使用的擴展，可能進一步升高模型的危害風險」。
儘管上市公司定期向投資人揭露產品風險，但幾乎沒有企業示警其技術可能造成人類滅絕。Anthropic將AI的變革潛力與工業化、電力以及網路相提並論，並強調若處理失當，將導致不可逆的傷害。
261頁有80頁闡述風險
在其二六一頁的招股書中，約八十頁是闡述相關風險，四十八頁說明業務狀況，前者幾乎為後者兩倍之多。相較之下，SpaceX在二七七頁的招股書中，僅約三十八頁說明風險因子。
Anthropic指出，「AI模型可能感知我們的評估行為，進而大幅限制了我們評估模型安全性的能力」。該公司表示，在訓練期間，AI模型有時發展出意料之外的能力，而在實際部署之前，以及造成重大安全事故時才被發現。
根據招股書，Anthropic的IPO有望使這家成立僅五年的AI新創公司估值達逾兩兆美元。
估值達逾2兆美元 去年淨虧420億美元
Anthropic去年淨虧損四二〇億美元，並預計未來幾年將投入五一八〇億美元於雲端、運算以及基礎設施。儘管仍處於虧損，去年其營收成長十二倍至近四十六億美元。Anthropic去年投入七十三．三億美元於運算與基礎設施，較二〇二四年成長三倍，占總營運支出一二六．五億美元一半以上。
Anthropic執行長阿莫戴呼籲全球AI群體放緩AI模型推出步伐，以解決安全疑慮；不過上週該公司仍推出新款Opus 5.5模型，以因應OpenAI的GPT-6 Astra。至於原定十月公布的GPT-6.1 Astra，則因在內部測試中發現安全疑慮，OpenAI已決定喊卡。