OpenAI 人工通用智能準備（AGI Readiness）高級顧問 Miles Brundage 早前宣佈辭職，其後表示包括 OpenAI 在內，沒有任何 AI 公司準備好迎接 AGI。
Miles Brundage 在 OpenAI 的 AI 安全計劃工作了 6 年，因此今次發言也引起 AI 社群的注意。除了 Miles Brundage 之外，近來也陸續有不少 OpenAI 的高層離職，例如研究員 Jan Leike 就因認為 OpenAI 的「安全文化和流程已讓位於炫目的產品」而離職。
I just sent this message to my colleagues, and elaborate on my decision and next steps in a blog post (see next tweet): pic.twitter.com/NwVHQJf8hM
— Miles Brundage (@Miles_Brundage) October 23, 2024
Miles Brundage 曾任職的「AGI 準備」團隊以及專注於長期 AI 風險研究的「超級對齊」(Superalignment) 團隊相繼解散，也令更多人擔心 OpenAI 在追求盈利的同時會否忽略安全。但雖然離開 OpenAI，Brundage 表示他與前公司的關係並不惡劣，OpenAI 已承諾無條件支持他未來的工作，包括提供資金、API 積分和早期模型存取權。
來源：Verge
分享到 :
最新影片
