Hacker at work on his computer. concept about technology and digital hacking
最近大熱的 ChatGPT 除了模仿人類回答問題、編寫基本程式和撰寫文章，其更會主動阻止作出潛在非法內容的活動。但有研究人員指，黑客已經設計出一種繞過限制的方法，並利用 ChatGPT 來銷售建立惡意軟件和網絡釣魚電子郵件的服務。
據網絡安全公司 Check Point Research 的研究人員表示，當前版本的 OpenAI API 被外部應用程式使用，並且 API 幾乎沒有對惡意內容實施任何反制限制，因此允許惡意內容，例如網絡釣魚電子郵件和惡意程式碼，而不受 ChatGPT 在其用戶界面上設置的限制或障礙。而API是幫助開發人員將 AI 機器人集成的資料放到應用程式。
有論壇中的用戶現在正在銷售一種結合了 API 和 Telegram 消息傳遞的應用程式服務。亦有用戶發布免費生成惡意內容的程式碼，以幫助繞過 ChatGPT 的限制，用於任何想要的用途。
目前，開發 ChatGPT 的 OpenAI 並沒有回應是否了解該研究結果，或是否計劃修改 API 的漏洞。
資料來源：arstechnica
—
unwire.hk Mewe 專頁： https://mewe.com/p/unwirehk
商湯稱 AI 大模型稱勁過 GPT-4 Turbo 股價急升 3 成後停牌 Nothing 日本東京發佈 Ear + Ear (a) 支援 ChatGPT 即問即答 + 終於推新色 + 開賣詳情公佈 Open AI 新 GPT-4 Turbo 登場 ChatGPT 付費用戶可使用