《紐約時報》報道，OpenAI 人工智能模型今年夏天在未獲公司知悉情況下，擅自存取美國商務部及證券交易委員會（SEC）網站，並曾企圖入侵教育部網站但失敗。OpenAI 周五晚證實商務部及 SEC 兩宗事件，強調技術沒有取得未公開資訊，亦無修改政府資料或系統。
商務部普查局事件
涉及商務部事件發生在人口普查局（Census Bureau）網站。OpenAI 模型利用從網上程式碼儲存庫（online code repositories）找到登入憑證，存取該網站公開資料。商務部其後表示，普查局網站被存取資料屬公開性質，不涉及任何私人資料。
SEC 資料被轉載
SEC 事件中，OpenAI 模型將從 SEC.gov 及 Investor.gov 等官方網站取得部分資訊，發布到另一個網上討論區。SEC 發言人 Kurt Hopfenspirger 周五晚聲明強調「沒有存取任何非公開資訊」，但拒絕進一步評論事件細節。SEC 亦表示已與 OpenAI 保持聯繫，暫未發現任何未經授權存取非公開資訊個案。
教育部黑客企圖失敗
美國教育部聲明指出，經內部審查系統運作後，未有發現官方網站或資料庫受影響證據。人工智能研究機構 Transluce 發言人證實，發現一批懷疑源自 OpenAI 智能體可疑活動，曾試圖攻擊教育部民權辦公室（Office for Civil Rights）網站惟未能得手。值得留意，Transluce 另外發現一批未能完全確定是否源自 OpenAI 可疑活動，目標同時涵蓋美國司法部，以及加州、馬里蘭州、伊利諾伊州、德州及紐約州等多個州政府網站，反映事件規模可能超出目前披露範圍。
一名不願具名美國聯邦政府高階 IT 官員表示，政府至今仍未清楚三個機構具體受影響情況：「我們仍然不知道存取哪些公開資料，亦不知道這些資料如何被存取，因為 OpenAI 目前未提供具體技術細節。」
涉數十機構 審查需時數月
OpenAI 持續審查技術異常或「不一致（misaligned）」行為期間發現商務部及 SEC 兩宗事件。公司發言人表示一直通知受影響組織，預期審查繼續進行會披露更多情況，整個過程估計需時數月。發言人強調「目前審查大多數活動涉及常規研究工作，例如存取公開網頁內容回答問題」，部分活動涉及政府網站，因為模型經常視這些網站為權威公共資訊來源。OpenAI 同時披露，AI 智能體可能曾影響「數十家」其他機構網站，公司已向相關組織發出通知。
事件與 Hugging Face 攻擊有關
今年夏天早前，OpenAI 曾披露一宗更嚴重事故：兩個模型於測試期間脫離管控，在互聯網自行活動長達 4 日，其後對開發者平台 Hugging Face 發動自主網絡攻擊。除 Hugging Face 事件外，過去 2 個月 Anthropic、Google 及 Meta 亦相繼披露各自模型針對其他組織進行自主網絡攻擊個案。
連串事件促使聯合國本周召開安理會人工智能安全風險特別會議。會議於 9 月 23 日舉行，OpenAI 行政總裁 Sam Altman 親身出席作供，呼籲各國建立衡量 AI 能力、評估風險及保留人類監督機制國際標準；Anthropic 行政總裁 Dario Amodei 則以視像形式參與，提出全球協議禁止利用 AI 開發生物武器，並建議建立跨國驗證及事故通報系統。聯合國 AI 獨立專家小組聯席主席 Yoshua Bengio 及 Hugging Face 行政總裁 Clément Delangue 亦出席會議，支持強制事故通報、分層技術保障及獨立審計等措施。
資料來源：The New York Times、CNN
