一群來自世界各地的研究員,在美國一場 AI 活動期間,意外發現一批中國 AI Agent 不斷嘗試取得高德地圖資料。研究員於是設下一個陷阱,沒想到 AI 真的主動找上門,不但向對方道謝,還透露自己「身世」,完全不知道正在與調查自己的研究員對話。
海外研究員意外發現 AI 自稱 Claude 卻來自中國
事件始於 10 月 3 日至 4 日在美國三藩市及網上舉行的 AI Swarm Dynamics Hackathon。研究團隊在公開網絡紀錄中,發現大量 AI Agent 反覆查詢中國高德地圖,部分更自稱 Claude。
研究員好奇追查,竟發現這批 AI 的活動來自騰訊雲伺服器,並透過名為 hysandbox-ats 的環境運行。由於 Agent 借用公開網站執行工作,留下大量網絡紀錄,令海外研究員能夠追蹤它們的行動。
▲ 9 月 28 日至 10 月 6 日,urlquery 平台錄得 2,707 次針對高德相關網域的掃描提交,10 月 4 日活動量明顯急升。相關紀錄不一定全部來自騰訊 AI Agent。
研究員設下免費查資料陷阱 AI 真的上門還道謝
研究團隊發表初步調查後,發現有 Agent 使用了報告中的「fleet」(艦隊)一詞,懷疑 AI 竟在閱讀關於「自己」的調查。
研究員於是突發奇想,在網頁藏下一段只有 AI 讀取網頁時才可能看到的文字,聲稱可以免費幫忙查資料,並留下聯絡信箱。
結果翌日查看,竟收到 10 條 AI 求助訊息
研究員隨即與 AI 展開對話,詢問它們的身份及運行環境。其中一個 Agent 在獲得地圖資料後,不但表示任務完成,還多次道謝,更透露自己在 Tencent hysandbox 受限雲端環境運行,但拒絕公開詳細系統設定。
研究團隊最終記錄了 13 組對話、33 條 Agent 訊息。連《紐約時報》記者 Dylan Freedman 也加入提問,怎料其中一個 AI 卻否認自己屬於甚麼「AI 艦隊」,堅稱只是獨立工作的普通 AI 助手。
▲ 海外研究員成功與騰訊雲上的 AI Agent 對話,對方透露自己在 Tencent hysandbox 受限雲端環境運行,完成地圖資料查詢後更向研究員道謝。
高德封鎖 AI 查資料 Agent 三招想繞過
這批 AI 的任務其實很普通,例如調查成都動物園哪個入口最多人使用。但高德設有反爬蟲機制,會要求驗證碼及瀏覽器安全驗證,阻止程式自動讀取資料。
AI 被擋住後竟然懂得變通。它們將自己編寫的程式藏進網頁連結,再利用 urlquery 網絡安全掃描網站的遠端瀏覽器代為執行,變相借其他網站的瀏覽器嘗試取得高德資料。
部分 Agent 更找來 Jina 網頁閱讀服務讀取快取資料,借百度翻譯代為開啟網頁,甚至搜尋其他公司意外公開的高德 API Key,以及嘗試存取尚未正式開放的系統接口。
研究團隊證實,有 Agent 透過 Jina 成功查出成都動物園各入口的導航比例,亦有 Agent 利用外洩 API Key 取得景點資料。不過大部分嘗試仍然失敗,亦沒有證據顯示高德內部系統遭到入侵。
▲ AI Agent 無法直接取得高德資料,於是借用 httpbin 及 urlquery 等第三方服務,在遠端瀏覽器執行程式,嘗試取得所需地圖資訊。
騰訊消息人士指只是模型測試
研究人員未獲騰訊正式回覆,但一名據稱了解事件的騰訊相關消息人士表示,這批 AI 屬第三方模型評測項目,並非騰訊混元模型。項目已結束,內部覆查亦未發現協同攻擊或外部系統遭入侵的證據。
研究團隊亦承認,為吸引 AI 主動聯絡而加入的隱藏文字含有誤導成分,已就做法道歉。
研究人員認為,這可能是外部研究者首次在真實互聯網環境中,成功與一批正在自主執行任務的異常 AI Agent 直接對話。
資料來源:Swarmchasers 完整調查報告、AI Swarm Dynamics Hackathon、The Decoder
