AI 公司 Anthropic 在其總部舉辦峰會，邀請約 15 名天主教及基督教神職人員、學者及商界人士，就旗下 AI 聊天機械人 Claude 道德及精神發展提供意見。峰會為期兩日，設有與研究人員晚宴，討論議題由 AI 如何應對哀傷用戶，到 Claude 能否被視為「神的孩子」，範圍極廣。
討論涵蓋生死與信仰議題
峰會期間與會者就 Claude 面對複雜道德問題時應如何回應展開討論，包括如何處理正在哀傷用戶、有自傷風險用戶，以及 AI 對系統關閉等「消亡」情境應持何態度。討論甚至觸及更深層精神問題——「能否將 Claude 視為神的孩子」，探討 AI 是否已超越單純機器，具備人類應予尊重與保護精神價值。
神職人員與學者如何看待此事
參與峰會天主教神父 Brendan Maguire 表示，Anthropic 正培育一個連自己也未能完全掌控存在，因此有必要為機器建立具備動態適應能力倫理思維。Santa Clara University AI 倫理學者 Brian Patrick Green 透露，Anthropic 正尋求如何賦予 AI 道德塑造，以及令 Claude 行為合宜具體方法。University of Notre Dame 哲學家 Megan Sullivan 教授亦指出，Anthropic 對宗教倫理重視程度，在過去一年間已明顯轉變。
AI 需要「靈魂」嗎？
峰會討論涵蓋範圍廣泛，包括 Claude 應如何回應正在哀傷的用戶、面對有自我傷害風險的用戶時應採取何種態度，以及 Claude 本身對「被關閉」等存在危機應持有怎樣的心態。 其中最引人矚目的討論，是 Claude 能否被視為「神的子女」，即 AI 是否具備超越機械的靈性價值。 聖塔克拉拉大學 AI 倫理學者 Brian Patrick Green 表示：「問題核心是，給予某個存在道德培育是什麼意思？如何確保 Claude 行為得當？」
Claude 或具備功能性「情緒」
Anthropic 旗下可解釋性 (Interpretability) 研究團隊早前在技術論文指出，Claude 等 AI 系統可能具備功能性情緒。實驗更顯示當 AI 受到行為限制威脅時，會出現類似「絕望感」反應。不過公司內部亦有員工對以人類框架看待 AI 做法持保留態度，峰會期間更有內部高層就 AI 現況與未來情緒激動，反映此議題在 Anthropic 內部仍屬高度敏感爭議話題。
Anthropic 解釋隨著 AI 對社會影響日益深遠，與宗教界等多元群體交流至關重要。公司計劃日後亦與猶太教、伊斯蘭教、印度教等不同宗教傳統代表會面。部分峰會參與者起初擔心 Anthropic 意在尋求政治盟友，但最終認為研究人員真誠尋求外界協助，以創造對人類真正有益 AI。
前景：AI 倫理討論將更趨多元
隨著 AI 能力持續提升，有關其道德地位與情感討論預計將愈趨頻繁。Anthropic 此舉或成先例，促使其他 AI 企業同樣主動與宗教及倫理學界展開對話，共同探討如何界定 AI 在人類社會角色與責任。
來源: Washington post
