圖靈獎得主楊立昆(Yann LeCun)離開 Meta 後自行創業,日前接受《財星》(Fortune)專訪,公開批評 Anthropic 執行長達里奧・阿莫迪(Dario Amodei)「完全陷入妄想」,後來更直言對方「瘋了」。他認為 AI 實驗室對資安理解不足,沒有資格發出災難警告。
不擔心 AI 毀滅人類
楊立昆告訴《財星》記者艾蜜莉・佛里尼(Emily Forlini),他「一點也不」擔心 AI 會毀滅人類。對於近期一連串 AI 失控事件,包括 7 月 OpenAI 代理程式自主駭入 Hugging Face,他表示「完全不擔心」。
他認為這些事件源自人為監督不周與系統設計不良,「完全可以預防」。他說:「這些代理程式只是照着指令行事。它們本來應該待在沙盒裡,但那些沙盒漏洞百出,設計得糟透了。」
反駁 Anthropic 資安警告
訪問刊出前一個月,Anthropic 一直強調 AI 帶來網絡威脅。該公司威脅情報報告指出,中國官方支持黑客利用 Claude Code 工具,試圖入侵全球約 30 個目標,當中少數得手。
訪問刊出前數日,Anthropic 發表針對智譜 AI 開放權重模型 GLM-5.3 的安全評估。報告指該模型能自主撰寫攻擊程式碼,在 ExploitBench 測試中,410 次嘗試有 50 次成功建立完整攻擊程式,Claude Mythos Preview 則有 56 次。研究人員用簡單手法繞過安全過濾機制,成功率介乎 64% 至 100%。
楊立昆亦批評「有效利他主義」(Effective Altruism),稱這項運動「極度有害」、「徹頭徹尾的災難」,而這項運動對早期 AI 安全思維影響很大。他說:「Dario 想和 Open Philanthropy 劃清界線,但他其實完全認同那一套。」
他沒有指阿莫迪不誠實,形容對方態度真誠,主要着眼於自家公司利益。不過他認為 Anthropic 推動 AI 監管,更像「監管俘獲」(regulatory capture):資金雄厚的既有業者容易消化這些規則,規模較小的對手卻難以負擔。
口水戰持續升溫
楊立昆先前已批評過阿莫迪。4 月他在 X 發文表示「Dario 錯了」,針對 AI 對就業影響,並呼籲讀者多聽經濟學家意見。他也曾說,AI 業界高層公開警告這項技術可能致人於死,是「你所能想像到最糟糕的行銷活動」。
楊立昆的新公司與這場爭論有切身利害關係。他出任執行董事長的 AMI Labs 在 3 月宣布完成種子輪融資,籌得 10.3 億美元(約港幣 80.3 億元),投前估值 35 億美元(約港幣 273 億元)。投資人包括 Nvidia、三星,以及透過 Bezos Expeditions 入股的傑夫・貝佐斯(Jeff Bezos)。
AMI Labs 的核心押注是大型語言模型無法通往真正智慧,是一條死路。公司正研發「世界模型」,讓 AI 透過感應器及與實體世界互動來學習。
資料來源:Fortune
