大型語言模型 Grok 是 Elon Musk 旗下 xAI 人工智能公司的產物，Elon Musk 一直相信 Grok 將會成為社交平台上主要的新聞來源，但這個想法似乎比他所期望的還要遙遠。《華爾街日報》日前報導指美國總統候選人特朗普遇刺後，Grok 於生成新聞摘要時一直出現「幻覺」，更發佈了與現實不符的假新聞。
報導指 Grok 聲稱是現任副總統賀錦麗被槍擊，而不是候選人特朗普，而行刺者的資訊亦完全失實。儘管調查人員尚未作出確定，Grok 卻自行編造行刺動機。在某些情況下，這個機械人生成的標題含糊不清，極容易造成誤導。現時社交網絡充斥著陰謀論和虛假資訊，Grok 發佈的錯誤訊息只會進一步惡化今年美國大選前的社交網絡虛假資訊問題。Elon Musk 早前宣佈支持特朗普，但他和 Grok 的開發者 xAI 仍未就生成假新聞發表聲明。自從他將社交網絡 X 轉型為「萬能應用」，xAI 就一直大力推廣 Grok 聊天機械人。
Grok 並非首次生成涉及美國政治的虛假新聞，今年 6 月，網民對對最近總統辯論的反應，就被 Grok 錯誤生成了加州州長 Gavin Newsom 贏得辯論的錯誤摘要。事實上，Newsom 據報只是出席了評論，但並沒有參與其中。xAI 嘗試為 Grok 辯護，稱其答案會隨著更多資訊出現而逐步改善，又強調 AI 亦有可能犯錯。
資料及圖片來源：itechpost
