OpenAI 緊急移除 ChatGPT 允許用戶將對話設為可被搜尋引擎發現的功能，原因是調查發現重大私隱洩露問題。網上研究專家 Henk van Ess 發現超過 500 個公開分享的 ChatGPT 對話，揭露大量「自證其罪和洩露機密數據」內容，包括企業高管承認犯罪、內幕交易計劃和針對哈馬斯的網絡攻擊策劃。
Digital Digging 的網絡研究專家 Henk van Ess 進行的調查分析了超過 500 個公開分享的 ChatGPT 對話，發現企業高管和政府僱員在對話中承認犯罪並暴露內幕交易計劃。這些令人震驚的對話還包括針對哈馬斯的網絡攻擊計劃，以及一名用戶試圖操縱 ChatGPT 生成「涉及未成年人的不當內容」，系統最初拒絕執行，但該用戶透過特別的繞道方法，最終讓 ChatGPT 生成了未成年相關影像。
Henk van Ess 報告指出：「雖然 ChatGPT 最初拒絕，但用戶找到方法繞過限制，導致系統產生所要求的圖像，這既展示了平台的脆弱性，也顯示了一些用戶對 AI 互動帶來的令人擔憂意圖。」調查還發現一個案例，疑似醫護工作者要求 ChatGPT 扮演腫瘤科醫生治療患肺癌的年長男性，獲得「包括 durvalumab（度伐利尤單抗）和 pembrolizumab（帕博利尤單抗）等特定藥物的詳細治療方案」。
這項功能允許用戶透過建立超連結來分享聊天記錄。建立連結後，用戶可以選擇是否希望該連結可被搜尋引擎發現。但許多用戶可能沒有預期搜尋引擎會索引他們分享的 ChatGPT 連結，導致私人對話意外曝光在 Google 等搜尋結果中。
OpenAI 資訊安全總監 Dane Stuckey 週四宣布移除這項功能，形容為「幫助人們發現有用對話的短期實驗」，但因私隱問題而終止。他在 X 平台寫道：「這項功能要求用戶選擇加入，首先選擇要分享的聊天，然後勾選與搜尋引擎分享的複選框。」
Stuckey 表示：「最終我們認為這項功能為人們意外分享他們不打算分享的內容提供了太多機會，因此我們移除這個選項。我們也正努力從相關搜尋引擎中移除已索引的內容。安全和私隱對我們至關重要，我們將繼續努力在產品和功能中最大限度地體現這一點。」
調查發現的其他令人擔憂對話包括意大利律師尋求在亞馬遜能源項目中移除原住民社區的建議，以及埃及異見人士批評國家總統的內容。對話經常涉及學童要求聊天機械人代寫論文，顯示學術誠信問題的普遍性。
雖然對話是匿名的，但在許多情況下用戶包含個人資訊，無論是透過聊天還是他們上載的檔案。Henk van Ess 表示，透過 Internet Archive 的 Wayback Machine 工具還可以找到進一步 110,000 個對話。
OpenAI 行政總裁 Sam Altman 最近表示，與 ChatGPT 對話沒有法律保密性。他說：「人們向 ChatGPT 談論他們生活中最私人的事情。人們使用它，特別是年輕人，作為治療師、生活教練。如果你向治療師、律師或醫生談論這些問題，有法律特權保護。我們還沒有為與 ChatGPT 對話時解決這個問題。」
這起事件突顯了 AI 聊天機械人在私隱保護方面的挑戰。用戶可能誤以為與 AI 的對話完全私密，但分享功能的存在創造了意外洩露的風險。專家呼籲 AI 公司需要更明確地告知用戶私隱設定和潛在風險。
來源：Telegraph
分享到 :
最新影片
