來自 OpenAI、Google DeepMind 和 Anthropic 一共 13 名的現任和前任員工共同簽署了一封公開信，要求 AI 公司有更大的透明度，令那些提出 AI 有潛在問題的員工能夠得到保護。他們指政府沒有有效地監管這些 AI 公司，嚴厲的保密協議亦令他們無法提出 AI 可能的風險，對公眾負責。
▲圖片來源：公開信內容
Vox 早前的一項調查就揭示了 OpenAI 曾經試圖強制即將離職的員工，在簽署非貶低協議（防止前僱員發表負面評論）和可能失去公司股權之間作選擇，壓榨了他們發聲的權利。OpenAI CEO Sam Altman 事後表示感到丟臉並聲稱已將相關條款從離職文件中刪除。這 13 位簽署者包括前 OpenAI 員工 Jacob Hinton、William Saunders 和 Daniel Kokotajlo。他們認為對 AI 的盲目追求將有機會加劇不平等的問題，人類失去對自主系統的控制導致人類滅絕。他們不確定 AI 變得更聰明且各方面超越人類時，是否還能保持以人類利益為最大前提。
9/15: Meanwhile, there is little to no oversight over this technology. Instead, we rely on the companies building them to self-govern, even as profit motives and excitement about the technology push them to "move fast and break things."
— Daniel Kokotajlo (@DKokotajlo67142) June 4, 2024
Daniel Kokotajlo 在 X 上表示 AI 技術現時幾乎沒有任何監管，只依賴公司的自我監管。他又指研究人員保持沉默並害怕提出問題會被報復是十分危險的。這 13 名員工在公開信上希望 AI 公司能承諾四大原則，不對提出安全關注的員工進行報復，建立一個匿名系統向公眾和監管機構匿名報告，建立開放批評的文化和避免限制員工發聲的非貶低或保密協議。
資料來源：Engadget
圖片來源：PYMNTS.com
相關文章:
傳 OpenAI 準備明年推出 AI 助理 可控制電腦自主行動 Elon Musk 與 OpenAI 官司繼續 Microsoft 被納入為新被告 OpenAI 成立廿人開發團隊 自研晶片減少第三方依賴
分享到 :
最新影片
