人工智能

OpenAI 吸收 AI 安全公司 Indent 填補安全研究人員空缺

Published by
藍骨
Share

OpenAI 首席科學家 Ilya Sutskever 之前宣佈辭職,連同負責 Superalignment 安全團隊的 Jan Leike 也離開公司,令人擔心其未來發展會否不再重視安全問題。不過很快的他們就吸收了 AI 安全公司 Indent 的成員,負責相關工作。

AI 安全公司 Indent 本身是在 2018 年成立的數據安全公司,主力提供自動化處理存取權限的審批工具,以及在大模型系統中針對數據權重、訓練和微調的安全方案。而 OpenAI 總裁 Sam Altman 在 2021 年也曾經投資 Indent。

雖然並未正式對外公佈,不過 Indent 總裁 Fouad Matin 在 X 上宣佈「我們」將會加入 OpenAI 負責最新模型的「就緒 (Preparedness)」到客戶數據控制等不同安全層面。Indent 公司網站也宣佈會在幾個月後結束營運,暗示 OpenAI 很大機會是完全吸收了 Indent 的團隊。

值得一提的是,今次 Indent 團隊加入 OpenAI 如果確實是擔當 Fouad Matin 所說的工作範疇,則代表 Superalignment 安全團隊不會復活,而 OpenAI 所注重的安全範疇會更集中於已有和最新模型的部分,而不包括未來「超級智能模型」的安全研究。

來源:36kr


相關文章:
  • Samsung Galaxy AI 人工智能 短期內登陸 Galaxy A 系列手機

  • Published by
    藍骨