日前有 Tesla CEO Elon Musk、Apple 聯合創始人 Stephen Gary Wozniak 等超過 30,000 人簽署了一封公開信，呼籲人工智能實驗室針對比 GPT-4 更強大的 AI 系統暫停至少 6 個月的訓練。不過，有人卻指一些簽署是假冒的，更有人工智能研究人員和專家公開反對這封信的提議和方法。
該公開信由非牟利組織「Future of Life Institute」所撰寫，信呼籲所有 AI 實驗室立即暫停至少6個月訓練比 GPT-4 更強大的 AI 系統，並在這段時間裏共同開發和實施一套對高級 AI 設計和開發的共享安全協議，以減少強大技術帶來的全球災難性和生存風險。
不過此信有許多虛假簽署者，包括中國國家主席習近平、冒充 OpenAI 首席 CEO Sam Altman、Meta首席AI科學家 Yann LeCun 等。目前，Future of Life Institute 已清理了名單，並在驗證每個簽名後暫停了在信上顯示簽名。
Stability AI 首席 CEO Emad Mostaque 指，OpenAI 是一家真正「開放」的 AI 公司，認為暫停訓練 6 個月時間不是最好的主意，也不同意信中的很多觀點。而一些 AI 專家則批評這封信進一步推動了「AI 炒作」，但卻沒有列出或呼籲對現存 AI 危害採取的具體行動。
不過有許多公開信的簽署者，例如研究機構 Mila 創辦人人兼科學主任 Yoshua Bengio 反駁， 6 個月的暫停時間對於包括政府在內的管治機構去理解、審計和驗證 AI 系統是必要的，因可以確保這些系統對公眾是安全 。他又補充， AI 工具有可能破壞民主的穩定，因民主價值觀和開發這些工具的方式之間存在衝突。
資料來源：vice
—
unwire.hk Mewe 專頁： https://mewe.com/p/unwirehk
分享到 :
最新影片
