人工智能

OpenAI 吸收 AI 安全公司 Indent 填補安全研究人員空缺

Published by
藍骨

OpenAI 首席科學家 Ilya Sutskever 之前宣佈辭職,連同負責 Superalignment 安全團隊的 Jan Leike 也離開公司,令人擔心其未來發展會否不再重視安全問題。不過很快的他們就吸收了 AI 安全公司 Indent 的成員,負責相關工作。

AI 安全公司 Indent 本身是在 2018 年成立的數據安全公司,主力提供自動化處理存取權限的審批工具,以及在大模型系統中針對數據權重、訓練和微調的安全方案。而 OpenAI 總裁 Sam Altman 在 2021 年也曾經投資 Indent。

雖然並未正式對外公佈,不過 Indent 總裁 Fouad Matin 在 X 上宣佈「我們」將會加入 OpenAI 負責最新模型的「就緒 (Preparedness)」到客戶數據控制等不同安全層面。Indent 公司網站也宣佈會在幾個月後結束營運,暗示 OpenAI 很大機會是完全吸收了 Indent 的團隊。

值得一提的是,今次 Indent 團隊加入 OpenAI 如果確實是擔當 Fouad Matin 所說的工作範疇,則代表 Superalignment 安全團隊不會復活,而 OpenAI 所注重的安全範疇會更集中於已有和最新模型的部分,而不包括未來「超級智能模型」的安全研究。

來源:36kr


相關文章:
  • iPhone SE 4 傳明年首季發表 將支援 Apple Intelligence 人工智能

  • Published by
    藍骨