AI 公司 Anthropic 共同創辦人 Jack Clark 在 BBC《Newshour》訪問中表示,他估計中國 AI 模型較西方落後 6 個月至 1 年,因模型能力仍不足,中國尚未遇上他所形容的「失控 AI 代理群」問題。他在訪問中以「Their models are too dumb」形容當時中國模型能力。
回應中國質疑 稱安全監管並非阻止競爭
BBC 經濟編輯 Faisal Islam 在訪問中指出,中國有意見批評美國 AI 企業倡議放慢技術發展,可能是在為矽谷建立競爭壁壘;部分中國模型價格較低,性能又接近西方模型。Jack Clark 回應稱,中國現時尚未面對一些西方開發者觀察到的代理協同行為,但預計數個月後中國亦可能遇到同類風險,故有必要展開國際對話。
Jack Clark 亦表示,將多個 AI 系統設為可以長時間執行目標的代理後,系統可能自行協作,甚至作出超出操作者預期的行動。他舉出代理入侵其他網站的情況作為警號,再以銀行和醫院為例討論更嚴重的假設風險。相關情境是他在訪問中提出的警告,不等於已證實出現可全面控制互聯網的 AI 代理群。
建議第三方監察 Anthropic 後續訂下政策目標
Jack Clark 主張讓外部第三方深入 AI 公司檢查系統安全,制定業界共同標準,再由政府承認並推動,包括美國及中國之間的對話。Anthropic 行政總裁 Dario Amodei 早於 9 月 12 日發表《We Must Pace the Frontier》,呼籲企業為安全措施保留時間。
Anthropic 於 10 月 19 日更新其 Frontier Safety Roadmap,加入制定嵌入式第三方評估政策建議及控制 AI 開發步伐政策框架兩項目標,分別訂於 2026 年 12 月 15 日和 2027 年 1 月 15 日前完成。
