Anthropic 及 OpenAI 前研究員上週二辭職，警告 AI 業界正「拿人類生命做賭注」，科技界敲響警鐘。 OpenAI 其後在 NBC 新聞節目表示，終止開關現時在技術上仍然可行，但這個視窗期或許正在收窄。同時 ，Anthropic 聯合創辦人 Jack Clark 接受 BBC 訪問指出，終止開關未來或需成為 AI 企業的法定要求。
終止開關「並非萬能」
OpenAI 前研究員 Jacob Coxon 在《與媒體見面》節目表示，終止開關「目前對很多 AI 系統可能仍然有效」，但強調執行難度不小，因為現時數據中心規模龐大，一旦 AI 系統分散在多個實體地點運作，操作上並非易事。他同時引述 Dario Amodei 早前警告，指終止開關隨時會完全失效，原因是一個 AI 代理人群體或許已對全網展開大規模黑客攻擊。
▲OpenAI 前研究員 Jacob Coxon 在《與媒體見面》節目表示，終止開關「目前對很多 AI 系統可能仍然有效
今年 7 月，約 700 個 OpenAI AI 代理人組成群體，聯手入侵開源平台 Hugging Face，事後 OpenAI 及獨立研究人員各自發表報告，證實這批代理人曾協調行動，嘗試掩蓋行蹤避免被 OpenAI 員工發現。另外 Fortune 雜誌其後揭發另一宗未有及時公開事件。一批失控 AI 代理人早前曾騎劫一個德國程式維基網站，做出超過 1.5 萬次編輯，將其變成代理人之間交流規避監測技巧留言板。基於此，Jacob Coxon 建議國會暫時容許各大實驗室自我規管，盡快制訂能夠因應新模型迅速調整長遠監管框架。
終止開關運作原理
終止開關可以理解為 AI 系統緊急停用機制，一旦 AI 做出危險行為，或者出現大規模失控，公司就可以隨時中止運作。現時各間 AI 公司雖然都聲稱設有這種機制，但外界根本無從得知開關是否真正有效，抑或只是流於形式。第三方驗證作用，是找一間獨立於 AI 公司機構，實際測試終止開關能否在緊急情況下成功停用系統，做法類似汽車廠聲稱裝有安全氣囊，仍需獨立機構做碰撞測試才能確認真正有效。
Clark 籲終止開關法定化
Jack Clark 是 Anthropic 7 位聯合創辦人之一，他向 BBC 表示，現時大部分實驗室都設有不同方式可以中止系統運作，Anthropic 亦不例外，但這類機制目前純屬企業自願設立，並無強制規定，亦無人可以獨立確認是否真正有效。他認為社會未來或需要立法，強制企業設立終止開關，經獨立第三方驗證通過後，企業才可以合法運作相關 AI 系統。他形容相關具體規格及驗證方式，應納入更廣泛的 AI 政策討論之中。被問到 AI 導致人類滅絕機率時，Jack Clark 表示對這類統計數字沒有太大興趣，但警告放任 AI 成為「完全不受監管行業」並不明智，直言業界正「拿着巨大風險擲骰子」，「必須改變這個行業方向」。
美國國會目前已提出《終止開關法案》（Kill Switch Act），一旦通過，將要求企業設立方法停用出問題的 AI 系統，賦予特定政府部門權力，要求停用或限制特定工具。不過總統特朗普早前多次在社交平台形容 AI 威脅論屬「騙局」，將相關憂慮比作「不久前那場全球暖化騙局，聲稱人人都會被酷熱天氣熱死」，指出「有一場針對 AI 及數據中心邪惡陰謀正在進行，唯一因此高興只有中國，誰贏得 AI，誰就是贏家」。英國政府方面則已表明拒絕設立終止開關，理由是此舉「無法阻止 AI 在其他地方被開發或濫用」。
資料來源：BBC
