ChatGPT 是 OpenAI 開發的聊天式人工智能,其中一個插件系統「ChatGPT Plugin 」可添加「收集互聯網上的最新信息」等功能。而據外媒報道,一名黑客表示發現 OpenAI 的 ChatGPT API 中有 80 多個秘密插件。
一個名為「rez0__」的黑客在 Twitter上發布推文表示,他通過從 OpenAI 提供的 ChatGPT API 調用中刪除的某些參數,發現了超過 80 個秘密插件。其中一些插件,包括「Crypto Prices Plugin」可讓用戶獲取虛擬貨幣的價格;一個名為「DAN Plugin」的插件則可以個性化所使用的 ChatGPT。
This morning I was hacking the new ChatGPT API and found something super interesting: there are over 80 secret plugins that can be revealed by removing a specific parameter from an API call.
The secret plugins include a "DAN plugin", "Crypto Prices Plugin", and many more. pic.twitter.com/Q6JO1VLz5x
— Joseph Thacker (@rez0__) March 24, 2023
據「rez0__」指,可以通過 HTTP 代理設置匹配替換規則來使用這些未發布的插件。此外,該 API 還公開了一個不適合用戶使用的「description_for_model」參數,能讓人深入了解如何指示 AI 模型使用插件。
目前,OpenAI 已經就黑客提出的情況解決了問題並修復漏洞。不過有人認為 OpenAI 聲稱「安全受到重視」的言論並不可靠。
—
unwire.hk Mewe 專頁: https://mewe.com/p/unwirehk
相關文章:
ChatGPT 進階語音功能 即日起登陸 Windows、Mac 程式 OpenAI 自家搜尋引擎正式推出 已整合至 ChatGPT 初步只限付費用戶使用 Meta 或將開發 AI 搜尋引擎 減少依賴 Google、微軟