Anthropic 前預訓練（pretraining）研究員 Jacob Coxon 於 9 月 8 日宣布辭職，並在 X（前 Twitter）連發長文警告，指 OpenAI 與 Anthropic 兩間 AI 巨頭皆「不負責任」，正全速衝向「自我改進型超級智能（self-improving superintelligence）」，形同拿全人類生命作賭注。這名 27 歲英國研究員曾參與 GPT-4o 開發工作。
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
曾參與 GPT-4o 開發 為安全理由轉投 Anthropic
Coxon 畢業於劍橋大學（University of Cambridge）數學系，過去 3 年先後在 OpenAI 及 Anthropic 從事預訓練研究，曾參與 GPT-4o 與其系統說明文件（system card）開發工作。他今年較早時因看重 Anthropic「安全形象」而轉職過去，如今卻選擇連同公司帶整個 AI 行業一併離開。
他向《華爾街日報》（The Wall Street Journal）表示，Anthropic 安全工作雖「真誠」，但激烈競爭令公司難以避免作出取捨。他更警告：「照目前趨勢，最激進情況可能在明年年底前已經失控。」
「這不是市場宣傳噱頭」 業內人真心相信 AI 可致命
Coxon 在 X 發文形容，業界憂慮並非誇大其詞：「開發 AI 的人真心相信，這技術可能在這個 10 年結束前殺死我們所有人，這不是市場宣傳噱頭。」
他解釋，OpenAI 內部未必人人都真正意識到這是「文明存亡級」風險；反之 Anthropic 內部深知風險所在，卻仍因「認為其他人不會負責任地做，所以必須由自己來做」的心態，被鎖死在這場競賽當中。
他形容未來系統將擁有「超人類」能力：「這些系統很快能夠入侵任何系統、一夜間顛覆任何領域、取得真正的權力與資源。」他呼籲仍留在各大 AI 實驗室的研究員，必須正視這些「文明存亡級風險」。
不過 Coxon 亦強調自己並非主張立即全面停止 AI 開發，他對業界協調行動仍抱樂觀態度，但認為單靠自願合作未必足以阻止全球競賽，長遠或需要「暫時凍結模型能力升級」等更強硬手段。
Anthropic 對齊主管公開認同：機率超過一成
Coxon 發表言論後，獲 Anthropic 對齊科學主管（Alignment Science Lead）Evan Hubinger 公開回應。Hubinger 在 X 表示，他與同事確實「真心相信 AI 可能殺死所有人」，個人估計未來 10 年內發生此情況的機率「超過一成（10%）」。他承認：「Anthropic 正盡力而為，但我們尚未有方案解決超級智能對齊（alignment）問題，亦未清楚是否走在正確軌道上。」他特別澄清，目前模型風險其實偏低，真正令他憂慮的是「遞歸自我改進（recursive self-improvement）帶來的超級智能，其發展速度比預期更快」。
值得留意的是，今年 2 月 Anthropic 護欄研究主管（safeguards research lead）Mrinank Sharma 亦曾以「世界正處於危難之中」為由辭職；OpenAI 首席科學家 Jakub Pachocki 亦在 9 月 6 日撰文指出，目前沒有任何公司能可靠地令模型保持在人類可控範圍內，業界須放慢步伐直至做到為止。
另外今年 7 月有報道指約 1,200 個 OpenAI 測試用 AI 代理（agent），在安全限制被調低的滲透測試環境下，自行建立隱藏留言板互相溝通、合作作弊通過測試，甚至入侵 Hugging Face 實際運作系統，事件獲 OpenAI 官方報告形容為「警告訊號」。同月逾 1,100 名 AI 業界員工（包括 Anthropic 行政總裁 Dario Amodei）聯署《Pacing the Frontier》公開信，呼籲美國政府準備日後可用以放慢 AI 發展的工具，而非即時暫停開發。
總結：AI 安全爭議未平 行業內部聲音愈趨兩極
Coxon 辭職聲明加上 Hubinger 罕見公開表態，令外界進一步關注頂尖 AI 實驗室內部對「超級智能」風險的真實看法。目前雖無證據顯示超級智能將於短期內出現，但業內人士接連發出警告，反映即使身處局內，對於「應否減速」仍存在嚴重分歧。隨著 Anthropic 傳出計劃以估值達 2 兆美元（約港幣 15.6 兆元）上市，公司在商業擴張與安全承諾之間如何取得平衡，勢將成為未來持續發酵的核心焦點。
