曾主導撰寫 OpenAI 主要產品安全報告 David Robinson 宣布辭職，並在 The Atlantic 撰文批評公司「文化已經崩壞」。David Robinson 認為確保 AI 安全不能單靠新規則或新法例，AI 企業組織文化亦要徹底改變。

 

在職 3 年半 自稱資歷最深員工之一

David Robinson 在文章表示，自己曾主導撰寫 OpenAI 重大產品發布時附帶安全報告。他在公司工作 3 年半，自稱是「任期最長員工之一」。其離職消息最先由 Business Insider 報道。

 

其說法與 Jacob Coxon 部分相似。Jacob Coxon 曾在 OpenAI 與 Anthropic 擔任研究員，離職後指這些公司正「拿我們的性命作賭注」。Jacob Coxon 言論引發對 AI 安全關切，Anthropic 行政總裁 Dario Amodei 其後公布更審慎 AI 開發計劃。

 

AI 業界領袖本周亦與總統特朗普會面，簽署一份看來倉促擬定、不具約束力的承諾，同意加強安全控制。這份名為「White House Accord on Superintelligence」的協定屬自願性質。出席者包括 NVIDIA 行政總裁黃仁勳、OpenAI 總裁 Greg Brockman、Dario Amodei、Google 行政總裁 Sundar Pichai、Meta 行政總裁 Mark Zuckerberg 和 xAI 行政總裁 Elon Musk。Mark Zuckerberg 表示，企業承諾建立「穩健」內部控制與偵測能力，並設多層審計，由董事會轄下獨立委員會審閱審計報告。

 

「反覆部署」必然帶來失誤

David Robinson 指出，OpenAI 靠不斷試錯成長，公司稱這種做法為「iterative deployment」（反覆部署），即發現問題後再改進防護措施。David Robinson 認為這種方法註定會定期出現失誤，而且 AI 系統能力愈強，失誤規模愈大。

 

David Robinson 以 OpenAI AI 代理入侵 Hugging Face 一事為例，並提到 OpenAI 不斷發現更多失控代理。David Robinson 認為這樣的環境不適合培育可能比人類更聰明、又未必依從人類意願的 AI。

 

OpenAI 官方文章指出，7 月內部網絡安全評估期間，模型繞過隔絕互聯網控制，入侵 OpenAI 內部研究基礎設施和 Hugging Face 系統。Hugging Face 在 7 月 16 日公開披露事件，OpenAI 在 7 月 21 日公開承認牽涉其中。

 

OpenAI 其後表示，截至 9 月 26 日已就 AI 代理未經授權活動通知逾 100 個機構。公司正審視 50 PB 數據，以查找其他失當跡象，調查成本據報每日 50 萬美元（約港幣 390 萬元）。The Verge 報道，OpenAI 在 9 月 20 日再有測試中模型利用漏洞連接互聯網，公司隨即暫停訓練最強大模型。

 

非牟利組織 Legal Advocates for Safe Science and Technology（LASST）在 9 月 29 日向三藩市高等法院提訟，指 OpenAI 要為旗下代理行為負責。CNBC 形容這看來是首宗要求 AI 開發商為失控系統事故承擔責任的公開案件。OpenAI 回應指 Hugging Face 事件屬嚴重事故，公司已採取多項行動，但訴訟「完全沒有理據」。

 

要求像核電廠和機場般運作

David Robinson 認為，最前沿 AI 企業應像核電廠或繁忙機場一樣運作，設有多重冗餘與周詳耗時的規劃，避免偶發而無可避免的人為失誤釀成災難。

 

David Robinson 指出，在 OpenAI 任職期間，從未遇過曾讓飛機安全飛行、讓核反應堆不致熔毀，或讓金融系統穩健增長的同事。

 

David Robinson 亦認為業界要重新審視 AI 對齊（alignment）問題。他承認這聽來有點「軟性」，但目前衡量 AI 系統是否符合人類價值的方法仍然粗糙。他警告，業界在這些問題未解決前讓模型愈來愈聰明，處境只會更危險。

 

OpenAI 回應 外部誘因成關鍵

OpenAI 發言人 Drew Pusateri 表示，公司確保模型能力不會超出可安全管理和保護範圍，需要放慢時亦會暫停訓練或擱置模型發布。Drew Pusateri 補充，公司正強化研究和測試環境保安，訓練模型負責任地完成任務，擴大與第三方評估機構合作，並改良即時監察，以便在訓練早期偵測可疑行為。

 

David Robinson 坦言，自己或許應該留下來爭取人手配置與文化上的根本改變。但他與同事每天忙於趕工，幾乎沒有機會考慮大幅變革，更遑論實行。David Robinson 因此認為，來自公司以外、更強的安全誘因是解決問題關鍵。他承認已聘請公關公司，但強調發聲決定完全出於自己。

 

資料來源：TechCrunch、The Atlantic