正當 OpenAI 因為 Superalignment 安全團隊前途不明造成爭議時,OpenAI 就公佈他們整成立新的安全委員會,對經營決策和相關開發項目進行審查和建議。
據 OpenAI 表示,這個安全委員會將會由總裁 Sam Altman、董事會成員 Adam D’Angelo 和 Nicole Seligman 所領導,成員包括「就緒 (Preparedness)」安全主管 Aleksander Madry、安全主管 Lilian Weng、「對齊 (Alignment)」科學主管 John Schulman、安全主管 Matt Knight 和首席科學家 Jakub Pachocki。
其初步工作是評估並進一步發展 OpenAI 的流程和保障措施。該委員會將向 OpenAI 董事會提交評估結果,然後董事會將決定如何實施這些建議,旨在增強 OpenAI 各項舉措的整體安全性。
不過由於安全委員會的三名負責人本身都是董事會成員,這個安全委員會的獨立性就存在疑問,因此之前離職的聯合創辦人 Ilya Sutskever 以及 Jan Leike 和 Gretchen Krueger 對 OpenAI 漠視安全的批評和相關爭議,在這個新的安全委員會成立後看來仍然難以解決。
來源:OpenAI
相關文章:
傳 Apple 為保險兩邊下注 iOS 18 或同時採用 OpenAI、Google 人工智能
分享到 :
最新影片
![](https://cdn.unwire.hk/wp-content/uploads/2024/06/co_web2-694x390.jpg)