人工智能

OpenAI 宣佈籌組安全委員會 總裁 Sam Altman 親自領導

Published by
藍骨
Share

正當 OpenAI 因為 Superalignment 安全團隊前途不明造成爭議時,OpenAI 就公佈他們整成立新的安全委員會,對經營決策和相關開發項目進行審查和建議。

據 OpenAI 表示,這個安全委員會將會由總裁 Sam Altman、董事會成員 Adam D’Angelo 和 Nicole Seligman 所領導,成員包括「就緒 (Preparedness)」安全主管 Aleksander Madry、安全主管 Lilian Weng、「對齊 (Alignment)」科學主管 John Schulman、安全主管 Matt Knight 和首席科學家 Jakub Pachocki。

其初步工作是評估並進一步發展 OpenAI 的流程和保障措施。該委員會將向 OpenAI 董事會提交評估結果,然後董事會將決定如何實施這些建議,旨在增強 OpenAI 各項舉措的整體安全性。

不過由於安全委員會的三名負責人本身都是董事會成員,這個安全委員會的獨立性就存在疑問,因此之前離職的聯合創辦人 Ilya Sutskever 以及 Jan Leike 和 Gretchen Krueger 對 OpenAI 漠視安全的批評和相關爭議,在這個新的安全委員會成立後看來仍然難以解決。

來源:OpenAI


相關文章:
  • 傳 Apple 為保險兩邊下注 iOS 18 或同時採用 OpenAI、Google 人工智能

  • Published by
    藍骨