OpenAI 首席科學家 Ilya Sutskever 之前宣佈辭職，連同負責 Superalignment 安全團隊的 Jan Leike 也離開公司，令人擔心其未來發展會否不再重視安全問題。不過很快的他們就吸收了 AI 安全公司 Indent 的成員，負責相關工作。
AI 安全公司 Indent 本身是在 2018 年成立的數據安全公司，主力提供自動化處理存取權限的審批工具，以及在大模型系統中針對數據權重、訓練和微調的安全方案。而 OpenAI 總裁 Sam Altman 在 2021 年也曾經投資 Indent。
雖然並未正式對外公佈，不過 Indent 總裁 Fouad Matin 在 X 上宣佈「我們」將會加入 OpenAI 負責最新模型的「就緒 (Preparedness)」到客戶數據控制等不同安全層面。Indent 公司網站也宣佈會在幾個月後結束營運，暗示 OpenAI 很大機會是完全吸收了 Indent 的團隊。
值得一提的是，今次 Indent 團隊加入 OpenAI 如果確實是擔當 Fouad Matin 所說的工作範疇，則代表 Superalignment 安全團隊不會復活，而 OpenAI 所注重的安全範疇會更集中於已有和最新模型的部分，而不包括未來「超級智能模型」的安全研究。
來源：36kr
分享到 :
最新影片
