今日（31 日） 開發 ChatGPT 的公司 OpenAI 之創始人 Sam Altman 和 350 位 AI 界別的權威聯名簽署了一封只有一句的公開信，指現在開發的 AI 技術或會對人類未來的生存構成威脅。「ChatGPT 之父」 Sam Altman 與業界權威公開表示：「AI 滅絕人類的風險與流行病及核彈相若，應當成為全球優先關注事項」。
▲圖片來源：Center for AI Safety
包括 Sam Altman 在內，有超過 350 名於 AI 行業工作的管理層、研究員及工程師等簽署了 Center for AI Safety 發表的公開信。Center for AI Safety 是非牟利組織，他們的目標是透過研究降低 AI 對人類社會造成的風險。簽署公開信的業界人士表示，AI 有能力滅絕人類，應當以處理流行大疫情及核彈的準則來處理這種社會風險。
自去年末 OpenAI 發布 ChatGPT 吹起 AI 熱後，AI 業界不斷以「軍備競賽」式發展 AI，業界有聲音反映 GPT-4 在一般任務上已經能夠媲美人類，甚至與人類相比亦具有競爭力，故反對繼續在不受控的狀態下開發 AI，以免 AI 在未來未經選舉成為領袖，屆時人類亦會失去對文明的控制，將對社會造成覆水難收的破壞。
AI 發展一日千里，但現時尚未有具體法例及針對 AI 的監管機構。這表示現時並無有效措施保證 AI 工具不會為人類帶來威脅，同時亦無法保證使用 AI 時的安全性，於是上周 Sam Altman 及 OpenAI 2 位高層等 AI 業界巨擘便提出應該建立類似監管核能的國際原子能總署般的國際性組織以監管 AI 發展和使用。 Sam Altman 同時呼籲 AI 業各方展開合作，並建議政府加強監管 AI 開發者。
早在今年 3 月份 Tesla 行政總裁 Elon Musk、Apple 聯合創始人 Stephen Gary Wozniak 等科技業界翹楚簽署了一封公開信，呼籲所有 AI 實驗室暫停訓練比 GPT-4 更強大的 AI 系統，為期至少 6 個月。
資料來源：Center for AI Safety
