人工智能對人類構成威脅的橋段經常在科幻電影中出現，而現實中的人工智能，技術上也越來越接近科幻電影裏的描述。面對這個問題，Google 最近就講解了他們如何避免惡夢成真。
對於人工智能的擔心，並不只在一般人之間會有，連 Tesla 總裁 Elon Musk 最近也有提及過人工智能有可能會達到好像 Terminator 電影中 Skynet 一樣的技術水平，失控的話會對人類構成威脅。Google 旗下的 Deep Mind 正正就是現時頂尖的人工智能開發團隊，他們並沒有為人工智能的潛在風險開脫，反而努力開發緊急停止設計，在人工智能失控的時候，人類仍然有能力停止它的運作。
這個設計首先防止人工智能學習如何避開人類的控制，確保人類可以隨時手動中斷人工智能的運作。這樣一來在人工智能出現預期外的行動或有機會帶來不能逆轉的後果時，控制者都可以有效地制止，或者利用這個機能，更改它的功能或者達成原先設計之外的任務等等。如果人工智能能夠學習規避人類的控制，失控的機會就會變大而難以制止。Deep Mind 團隊已經發表一份文件講解這個設計，暫時仍然未知這個設計能否應用到所有算法之中。人類的未來會是怎樣，也只能自求多福了。
來源：Google
【教學】ChatGPT 視像隔空教你養魚 用相機攝取現場環境 實時 AI 回應用家問題 【教學】冗長文章 AI 變成有趣電台節目 Reader by ElevenLabs「聽」文章不再暈車浪 + 學習外語方便 【教學】MacWhisper 語音轉錄文字 AI 工具 本地 AI 模型處理 + 支援廣東話、多國語言 + 輸出字幕檔