紐約州議會週四通過 RAISE Act 法案，目標是防止 OpenAI、Google 和 Anthropic 等先進先進 AI 模型導致災難，包括超過 100 人死傷或超過 10 億美元損失。法案要求 AI 實驗室發佈詳細安全報告，並在發生安全事故時進行通報。
法案共同發起人紐約州參議員 Andrew Gounardes 表示：「考慮到這項技術發展速度，設立防護欄的時間窗口正在快速縮小。最了解 AI 的人士表示這些風險極可能發生，這令人警惕。」法案獲得諾貝爾獎得主 Geoffrey Hinton 和 AI 研究先驅 Yoshua Bengio 等安全倡導者支持。
RAISE Act 透明度要求適用於 AI 模型訓練使用超過 1 億美元運算資源的公司，並向紐約居民提供的服務。這個門檻下目前仍未有任何可用的 AI 模型達到，但未來可用作針對性規管各科技巨企，包括 OpenAI、Google、DeepSeek 甚至阿里巴巴等。
與加州被否決的 SB 1047 法案相比，RAISE Act 經過設計以解決先前 AI 安全法案的批評。法案不要求 AI 模型開發者在模型中包含「終止開關」，亦不會讓對先進 AI 模型進行後訓練的公司為嚴重危害承擔責任。參與法案制定的 Encode 副總裁 Nathan Calvin 表示這些設計旨在避免阻礙初創企業或學術研究者的創新。
法案要求 AI 實驗室發佈全面的安全和保安報告，並在發生安全事故時進行通報，例如 AI 模型出現令人擔憂的行為或惡意行為者竊取 AI 模型。如果科技公司未能達到這些標準，RAISE Act 授權紐約州總檢察長實施最高 3,000 萬美元的民事罰款。
科技企業方面則對法案強烈反對。Andreessen Horowitz 合夥人 Anjney Midha 在 X 平台發文稱：「紐約 RAISE Act 是另一項愚蠢的州級 AI 法案，只會在我們的對手領先時傷害美國。」
來源：TechCrunch
相關文章:
Xbox 製作人建議被裁員工求助 AI 減輕失業帶來的情緒和認知負擔 Meta 測試 AI 主動發訊功能 聊天機械人可根據過往對話自動跟進 芬蘭用 AI 衛星監測水域健康 從太空追蹤有毒藍綠藻更便宜準確
分享到 :
最新影片
