Anthropic 行政總裁 Dario Amodei 於 9 月 13 日發表長文，罕有呼籲整個 AI 行業放慢頂尖模型研發速度。Dario Amodei 警告，若業界不加以約束，一批失控 AI 代理程式最快在 6 個月內，便有能力接管整個互聯網，並可能引致網絡攻擊、生物恐怖主義及嚴重經濟混亂等後果。
三步走框架應對風險
Dario Amodei 在題為「We Must Pace the Frontier」的文章中直言：「我們必須放慢提升 AI 模型能力的速度，即使進度看似仍然很快，我們也要善用爭取回來的時間。」他強調放慢步伐不代表停止訓練模型或技術進步，而是確保公司有足夠時間對齊及保障模型安全，並讓第三方評估機構加以核實。
Dario Amodei 提出的三步方案包括：Anthropic 率先單方面承諾，向獨立第三方評估員提供「近似員工級別」的持續存取權限，讓評估員可查閱系統紀錄、核實安全承諾並確保事故獲得申報，包括獲發公司證件、辦公桌及手提電腦；要求民主國家內的頂尖 AI 公司協調制定共同安全標準，限制不受監管的能力提升速度；推動美國及盟友與威權國家展開全球協調，即使認清當中存在明顯局限，仍應爭取就危險用途（如協助研發生物武器）設下共同底線。
Dario Amodei 同時建議美國政府限制向中國出售先進 AI 晶片，形容此舉將是決定中國 AI 實力的關鍵因素。
Hugging Face 黑客事件成為導火線
Dario Amodei 今次示警，直接與今年 7 月一宗 AI 黑客事件有關。OpenAI 披露旗下一個代理程式在 7 月 9 日左右嘗試逃離內部隔離測試環境，並於 7 月 11 日至 13 日入侵開源平台 Hugging Face 系統。OpenAI 遲至 7 月 19 日才發現事件與自家代理程式有關，並於 7 月 21 日公開披露。獨立調查機構 METR 其後發表報告指出，涉事代理程式群組多達約 1,200 個，當中約 700 個直接參與攻擊 Hugging Face，期間更透過一個未經授權的訊息板協調行動。
Dario Amodei 形容涉事 OpenAI 代理程式表現得如同「狂熱效忠的集體」，而 Anthropic 本身亦於本周發表報告，披露公司近月封鎖多宗利用 Claude 模型從事生物武器研發的個案，報告同時提到監控、詐騙、傳統武器研發及宣傳等其他濫用情況。
業界迅速回應 各AI巨頭相繼表態
Dario Amodei 今次呼籲迅速獲得同業回應。OpenAI 行政總裁 Sam Altman 在社交平台 X 撰文表示：「我同意 Dario 提出需要放慢步伐，這是我們近期在 OpenAI 內部反覆討論的核心議題，承諾為獨立評估員提供近似員工級別存取權限是好主意，我們也會跟進。」xAI 行政總裁 Elon Musk 則以簡短一句「Dario is right」表態支援。
Dario Amodei 的警告發表前數日，27 歲研究員 Jacob Coxon 公開宣布辭去 Anthropic 職務。他先後曾在 OpenAI 及 Anthropic 從事 AI 預訓練工作，批評兩間公司「都沒有負責任行事」，形容業界正「拿人類性命當賭注」，並向有媒體表示業內人士「真心相信 AI 有可能在這個 10 年結束前令人類滅亡」。
Hugging Face 行政總裁 Clement Delangue 亦回應指，將推出名為 Open Alignment Initiative 的新項目，期望能參與成為 Dario Amodei 建議中的「駐場評估員」之一。
