諾貝爾物理學獎得主、被譽為「AI 之父」的 Geoffrey Hinton，上週出席在紐約舉行的 Sana AI Summit，分享對人工智能未來的深刻警示。Geoffrey Hinton 預言 AI 將在他有生之年超越人類智能，更將成為人類智識史上繼哥白尼、達爾文之後的第三次大革命。
AI 反駁愛因斯坦級數學難題
Geoffrey Hinton 並非泛泛而談。Geoffrey Hinton 提到，就在演講當天早上，一個 OpenAI 模型運用代數數論，成功推翻著名數學家 Paul Erdős 提出逾 80 年的「單位距離猜想」，令 Geoffrey Hinton 大感振奮。這是人類史上首次由 AI 自主解決一個數學領域的重要開放難題，結果已獲獨立數學家驗證。
Geoffrey Hinton 認為，在數學這類封閉系統中，AI 能自行生成猜想、測試、從失敗中學習，並不斷累積進步。正如 AlphaGo 一旦開始生成自身訓練數據後，便徹底擊潰人類棋手一樣。語言模型亦走在同一軌道上。Geoffrey Hinton 指出，只要讓模型推論出與自身既有信念相矛盾的結論，就產生一個毋須新數據的訓練訊號，「這意味著語言模型無需大量新數據，就能變得遠比現在聰明。」Geoffrey Hinton 預測，AI 在 10 年內將超越全球最頂尖的數學家；從更長遠來看，AI 與愛因斯坦之間的差距，在未來 20 年內亦將消失。
對自己一生心血感到後悔 「是資本主義的問題」
Geoffrey Hinton 於 2023 年離開 Google，公開表示對自己一生心血感到後悔。Geoffrey Hinton 的憂慮自此不斷深化，從最初擔心惡意行為者，演變成對整個經濟結構的質疑。Geoffrey Hinton 去年直言，「富人將用 AI 取代工人。這不是 AI 的問題，這是資本主義制度的問題。」
在 Sana AI Summit，Geoffrey Hinton 把這條思路說得更完整。Geoffrey Hinton 以演化生物學作比喻：人類的部落主義、對強勢領袖的服從，以及對「外族」的敵意，都是數百萬年競爭演化的產物，自然選擇並不鑒定善良，只改良生存。現在，資本主義正以同樣邏輯驅動 AI 發展，「各公司競相建造最強大的 AI，這將造就對我們並不友善的東西。」
Geoffrey Hinton 特別指出，各大科技公司至今仍未認真思考要創造什麼「性格」的 AI 存在體。Geoffrey Hinton 以養育子女作比喻：「你會用連環殺手的日記教孩子讀書嗎？大概不會。那你就明白了。」Geoffrey Hinton 早前亦曾建議，應為 AI 注入「母性本能」，令它們天生想要保護和照顧人類。Geoffrey Hinton 估計，AI 在未來 30 年內造成人類滅絕的機率介乎 10% 至 20% ，且這數字因 AI 發展加速而有所上升。
▲Geoffrey Hinton 於 2023 年離開 Google，公開表示對自己一生心血感到後悔
Marcus 反駁：不是「存在體」
認知科學家、AI 懷疑論者 Gary Marcus 在 Sana AI Summit 後數天發表文章，直接批評 Geoffrey Hinton 的論點。Gary Marcus 寫道：「LLM 研究人員並非在創造存在體，他們創造的是被訓練來預測真實存在體語言的互動式虛構物。」Gary Marcus 認為，意識來自內在狀態，而非行為輸出，並引用教宗 Leo XIV 的話：「真正的理解來自經驗，而非文字近似。」
這場辯論至今懸而未決。若 Geoffrey Hinton 對 AI 作為新型存在體的判斷有誤，大部分警示的緊迫性便大打折扣；若 Geoffrey Hinton 是對的，而這些存在體將很快比人類更聰明，那麼「我們正在創造什麼樣的存在體」，就是當下唯一真正重要的問題。
Geoffrey Hinton 以一個笑話作結。有人問 Geoffrey Hinton，跟領導曼哈頓計劃的 J. Robert Oppenheimer 相比如何——同樣建造了改變世界之物，同樣追悔莫及。Geoffrey Hinton 答道：「Oppenheimer 從沒得過諾貝爾物理學獎。」
資料來源：Fortune
