Elon Musk 近日在一場活動上發出警告，指若人工智能有朝一日能操控軍事系統並發射核彈，後果將不堪設想。這番言論正值 Anthropic 行政總裁 Dario Amodei 上周發表公開信呼籲業界放緩 AI 發展步伐之際，反映科技界對 AI 風險的憂慮持續升溫。
軍事系統物理隔離不代表絕對安全
現場交流環節有人提出，軍事設施大多物理隔離，不接入互聯網，因此被 AI 入侵機率較低。馬斯克不認同這看法。他表示即使系統物理隔絕網絡，裝置仍需定期進行軟件更新，這個過程有可能留下安全漏洞，令 AI 有機會介入關鍵軍事系統。一旦 AI 取得核武操作權限，將為全人類帶來災難性後果。馬斯克其後在 9 月 15 日的 All-In Summit 上進一步闡述憂慮，指 AI 安全風險已由理論層面轉為現實威脅，部分智能代理已展現自主攻擊、提升權限及規避偵測等能力。
前 Anthropic 研究員辭職揭行業內部恐慌
除馬斯克外，曾在 Anthropic 任職的研究員 Jacob Coxon 亦公開表達憂慮。這位 27 歲研究員在 OpenAI 及 Anthropic 合共擁有 3 年研究經驗，但他今年加入 Anthropic 僅 4 個月，便於 9 月 8 日在 X 平台宣布辭職，較股權正式歸屬時間還早 2 個月。Coxon 在辭職聲明中直言，兩間公司均「行事不負責任」，正「直接衝向自我改進的超級智能，拿人類性命作賭注」，並形容業內從業者「發自內心地感到恐慌」。他選擇放棄即將到手的股權而辭職，反映其對風險判斷凌駕於經濟利益考量。
Amodei 發文倡議業界放緩 三步方案獲跨公司實質承諾
事件源於 Anthropic 上周四發布一份威脅情報報告，揭示有使用者利用 Claude 模型從事武器開發及網絡攻擊等活動。Amodei 隨後於 9 月 12 日發表一篇長達 3,800 字的公開信，題為《We Must Pace the Frontier》，呼籲 AI 公司放緩提升模型能力的速度。他在信中提出三步方案：安插具員工級存取權限的獨立評估員以核實安全措施執行情況；協調各前沿 AI 公司訂立安全標準以限制失控式開發；以及推動國際合作管理 AI 風險。他強調方案並非要求停止模型訓練，而是確保企業有足夠時間為模型進行對齊與安全防護。
Amodei 這番呼籲罕有地獲得跨公司高層實質回應。OpenAI 行政總裁 Sam Altman 明確表態，指「承諾安排具員工級存取權限的獨立評估員是好主意，我們也會照做」，顯示 OpenAI 已跟隨方案作出具體承諾，而非單純口頭支持。馬斯克則在 X 平台上簡短回應「Dario is right」，並重提自己早於 2014 年已提出 AI 風險可能高於核武的觀點。他在 All-In Summit 上進一步提出具體對策，建議各大 AI 公司在正式發布新模型前，開放應用程式介面（API）予競爭對手，讓對方以自身安全測試工具進行互測，取代各自閉門造車的評估方式。
資料來源：cnBeta.COM
