美國政府近日通過委託 Gladstone AI 公司進行深入調查，發布了一份關於人工智能（AI）帶來的國家安全風險的重要報告，標題為「提升先進人工智能安全與保障的行動計劃」。這份報告基於與超過 200 名來自不同領域的專家，包括政府官員、大規模毀滅性武器專家、頂尖人工智能公司高層主管及網絡安全研究人員等一年多的訪談，揭示了人工智能快速發展背後潛藏的「災難性」風險。
報告指出，若不加以嚴格控制，最先進的人工智能系統可能對人類種族構成「滅絕級」的威脅。為了應對這一巨大挑戰，報告建議美國政府採取一系列前所未有的措施，包括限制 AI 模型訓練時使用的計算能力，並要求處於行業前沿的 AI 公司在訓練和部署新模型時需取得政府許可。此外，還建議成立一個全新聯邦 AI 機構，負責設定和管理這些門檻，以及嚴格限制AI晶片的生產和出口。
這份由美國國務院於 2022 年 11 月委託編撰的報告，目的在於了解是否應將 AI 納入其監控範圍，同時強調所提建議並不反映美國國務院或美國政府的觀點。隨著 AI 技術的快速發展，以及新工具如 ChatGPT 的推出，全球對 AI 潛在威脅的關注不斷升溫。
報告中還提到，許多 AI 安全工作人員對其公司高層所追求的錯誤激勵機制表示擔憂，認為這可能會加劇 AI 帶來的風險。因此，報告建議美國政府考慮立法禁止開源先進 AI 模型的「權重」，以防止其被災難性地武器化或失去控制。
儘管這些建議可能面臨政治上的困難，但鑒於 AI 潛在的風險如此之大，報告的作者，包括前國防部官員，強調慎重行事變得尤為重要。他們希望透過提出這些建議，能夠在享受 AI 技術帶來的巨大好處的同時，避免可能的災難性後果。
【教學】Change Face With AI 換臉術 一鍵即換頭 美國考慮限制對華出口 AI 模型 恐 AI 被利用發動侵略性網絡攻擊 科技巨企爭相追逐發展 AI 員工抱怨犧牲產品質素和員工待遇