Signal 主席 Meredith Whittaker 近日就 AI 聊天機械人的私隱風險提出嚴厲警告，直指 AI 代理服務的大規模整合正逐步演變為全面監控架構。
AI 聊天機械人「並非你的朋友」
Whittaker 接受 Bloomberg 訪問時對 ChatGPT 及 Claude 等 AI 聊天機械人的定性毫不留情，她明言：「These are not your friends. These are not conscious beings. These are not sentient interlocutors.」直接否定了外界對 AI 聊天機械人具備情感或意識的想像，她雖然承認偶爾使用 AI 工具整理文件格式，但強調自己絕不向 AI 提問，因為她不希望一個「平均化現有內容」的系統主導或取代其思考與寫作的過程。
AI Agent 構成「後門」威脅
訪問中 Whittaker 就 Microsoft AI 行政總裁 Mustafa Suleyman 預言 Microsoft Copilot 將能代用戶完成聖誕購物的構想提出強烈質疑，她指出要實現這個願景，等同向 AI 開放信用卡、瀏覽器、Signal 私訊、代用戶向家人發訊、家庭住址及日曆等大量敏感個人資料，她警告這種跨多個應用程式及服務的全面存取，對 Signal 而言實際上等同一個後門 backdoor，從根本上破壞端對端加密的意義。
早在今年 1 月 Whittaker 於達沃斯論壇已提出類似警告，直指 AI Agent 若獲得 root 系統存取權限，黑客便可輕易進行惡意劫持，並以「打破應用程式與作業系統之間的血腦屏障」來形容這種威脅，加密技術一旦面對能存取整個系統脈絡的 AI Agent，將形同虛設。
監控商業模式的核心問題
Whittaker 的憂慮不限於單一產品，而是指向整個 AI 產業背後的商業邏輯，她點出依賴數據收集的商業模式、AI 助手的興起，乃至以保護兒童為名的網上監控措施，正共同演化成一種新型監控架構，Signal Foundation 由密碼學家 Moxie Marlinspike （本名 Matthew Rosenfeld） 與 WhatsApp 聯合創辦人 Brian Acton 共同創立，旗下 Signal 較 WhatsApp 等主流平台收集極少元數據，至今仍堅持不妥協的加密標準。
來源： TechCrunch
