Google 最近推出搜尋新功能 AI Overviews，啟用 AI Overviews 後搜尋結果的頂部會顯示 AI 針對搜尋內容所生成的答案，而下方亦會附上引用了與答案相關的連結。但有網民發現 AI Overviews 對防止薄餅上芝士滑落的建議竟然是用膠水，被指 AI Overviews 所生成的答案並不準確，甚至十分危險。
Google 以推出 AI Overviews 來回應 Microsoft 和 OpenAI 的 Bing Copilot，並認為 AI Overviews 的相關功能可以協助到一些比較小型的網站，網站的內容能夠接觸到更加多的用戶。但先有網民分享 Google 建議薄餅加膠水防止芝士滑落，再有網民分享 AI Overviews 建議使用漂白水和白醋來為洗衣機消毒，但兩者混合會產生大量吸入會致命的氯氣，令人質疑 AI Overviews 的可靠程度。
OpenAI 的 ChatGPT 和 Meta 的 LLaMA 一直因未經許可就在互聯網使用不同網站的資料作訓練數據的爭議而為人詬病，但 Google 的 AI Overviews 似乎更加明顯地抄襲其他網站的文章，因 AI 不會有小孩但生成的答案中出現「我小孩的最愛」等字眼，被發現是直接將整篇文章的內容搬過來，令人擔心沒有人會再點擊入原作者的網站，小型網站反而更加得不到幫助。
隨著美國大選日益臨近，不少團體希望聯邦選舉委員會能夠及時監管選舉期間 AI 生成資訊。聯邦政府至今尚未採取行動。法案不打算禁止使用深度偽造技術發布資訊，以免觸犯言論自由，而是專注於資訊內容的真實性。如果候選人或公眾能夠向法院提交足夠的證據，法官即可聲明該深度偽造內容為虛假，為候選人提供拆穿 AI 生成假資訊的途徑。亞利桑那州日前簽署並生效的法案，可以說是提前作好準備。
News Corp 行政總裁 Robert Thomson 表示，數碼時代常常是發行者佔主導地位，犧牲創作者的利益，此協議提供了一個天賜良機，讓新聞工作者的價值得到承認。此協議還能讓新聞集團的內容在 AI 平台上得到更廣泛的應用，提升其影響力和收入。OpenAI 行政總裁 Sam Altman 表示，此協議將幫助 OpenAI 提升 AI 技術的可信度和可靠性，為用戶提供更準確的信息。雙方合作預計將對新聞出版業產生深遠影響，因為更多新聞內容將被用來訓練 AI 模型，改變用戶獲取信息的方式。
歐盟理事會（Council of the EU）於 5 月 21 日正式通過全球首個針對人工智能（AI）監管法案。法案希望設立全面的規則，對不同風險級別的 AI 系統施加相應的要求和限制，成為全球首個監管標準。法案將於歐盟高峰會主席及歐洲議會議長簽署後生效，最快可能在下月正式生效。
▲歐盟理事會（Council of the EU）通過全球首個針對人工智能監管法案
AI 系統將根據風險程度進行分類，分別是「不可接受風險」、「高風險」、「有限風險」和「極低風險」。法案禁止使用被認為具有「不可接受風險」的 AI，例如社會評分系統、預測性執法以及在工作場所和學校中使用的情感識別系統。「高風險」AI系統，例如自動駕駛汽車、醫療設備、航空業及車輛安全等，法案要求有嚴格的風險評估和高透明度措施。規定主要適用於商業用途的 AI 服務，而軍事或研究用途的 AI 則可能根據情況獲得豁免。法案還對於政府在公共場所使用即時生物辨識監控作出限制，可在預防恐怖襲擊或嚴重犯罪的情況下例外。
違反新法案的企業將面臨最高可達 3,500 萬歐元（約 2.7 億港元）或全球營業額的 7% 的罰款。禁止使用最高風險等級 AI 系統的規定將在 6 個月內生效；對於通用型 AI 系統（如 OpenAI ChatGPT、Google Gemini 和 Microsoft Copilot），限制將在法案生效 12 個月後適用，而大部分條款將在 24 個月內實施，部分高風險 AI 系統的規則將在 36 個月內實施。
