加州議會通過具突破性意義的 SB 7 法案,亦即「No Robo Bosses」(拒絕機械人老闆)法案,為職場人工智能應用訂立全新規管框架。州長 Newsom 必須在 9 月 30 日前決定是否簽署生效,若簽署法案將於 2026 年 1 月 1 日正式實施。
法案明確禁止僱主完全依賴人工智能或自動化決策系統(ADS)作出關鍵僱傭決定,包括聘用、解僱、紀律處分及績效評估等。僱主同時不得使用 AI 系統推斷員工受保護特徵如種族、性別或國籍,亦不得以 AI 追蹤或預測工會活動。
SB 7 將「自動化決策系統」定義為任何來自機器學習、統計建模、資料分析或人工智能的計算過程,用以協助或取代人類決策並對自然人產生重大影響。此定義涵蓋履歷掃描器、鍵盤監控工具、語音文本分析工具、績效追蹤系統及排班助理工具等。
法案要求僱主在使用 ADS 系統作出僱傭相關決定前,必須向受影響員工提供書面通知。員工有權對自動化決策提出上訴,確保人力資源決策仍保留人為監督元素。
提案人加州參議員 Jerry McNerney 表示:「企業愈來愈多使用 AI 提升工作效率和生產力,但目前缺乏保障措施防止機器不當或非法影響員工生計和工作條件」。McNerney 曾在國會期間協助制定聯邦 AI 政策並共同創立人工智能核心小組。
代表超過 130 萬名工會成員的加州勞工聯合會主席 Lorena Gonzalez 支援法案,強調需要人為監督以應對市場上超過 550 種「老闆軟件」產品。
加州民權委員會將於 10 月 1 日實施新規例,要求僱主保存所有 ADS 記錄和資料最少 4 年,並明確禁止在僱傭決策中使用帶有歧視性的人工智能系統。新規例確保 AI 工具不會因種族、年齡、宗教信仰、國籍、性別及殘疾等受保護特徵造成直接或間接歧視。
若 SB 7 獲得簽署,加州將成為全美首個在法律上要求僱傭決策必須「有人參與」的州份。專家預料加州的主動監管立場將影響全國類似規管框架,為其他州份樹立先例。