人工智能對人類構成威脅的橋段經常在科幻電影中出現，而現實中的人工智能，技術上也越來越接近科幻電影裏的描述。面對這個問題，Google 最近就講解了他們如何避免惡夢成真。
對於人工智能的擔心，並不只在一般人之間會有，連 Tesla 總裁 Elon Musk 最近也有提及過人工智能有可能會達到好像 Terminator 電影中 Skynet 一樣的技術水平，失控的話會對人類構成威脅。Google 旗下的 Deep Mind 正正就是現時頂尖的人工智能開發團隊，他們並沒有為人工智能的潛在風險開脫，反而努力開發緊急停止設計，在人工智能失控的時候，人類仍然有能力停止它的運作。
這個設計首先防止人工智能學習如何避開人類的控制，確保人類可以隨時手動中斷人工智能的運作。這樣一來在人工智能出現預期外的行動或有機會帶來不能逆轉的後果時，控制者都可以有效地制止，或者利用這個機能，更改它的功能或者達成原先設計之外的任務等等。如果人工智能能夠學習規避人類的控制，失控的機會就會變大而難以制止。Deep Mind 團隊已經發表一份文件講解這個設計，暫時仍然未知這個設計能否應用到所有算法之中。人類的未來會是怎樣，也只能自求多福了。
來源：Google
WhatsApp 直接加入 Copilot 教學 輕鬆與 Microsoft AI 助理對話 【評測】Google Pixel 9 Pro Fold 詳細評測 機身偏闊手感一般 + 雙熒幕表現出色 + 終原生支援香港 5G + 定價偏貴不夠抵玩 台北捷運 AI 智能客服遭濫用 網民發現可以用來協助編寫程式