Categories: 科技新聞

Google員工:AI Bard 是「騙子」 懇求公司不要推出

Published by
EMMA
Share

據外媒報道,Google員工在內部討論時多次批評早前推出的AI聊天機械人Bard,稱該系統是「病態的騙子」(pathological liar),並懇求公司不要推出。

 

員工在內部討論中表示,如何向用戶提供危險的建議,例如向Bard詢問如何降落飛機及關於潛水的建議時,機械人給出會導致墜機和重傷或死亡的建議。在看到不穩定的反應後,有員工將Bard描述為「病態的騙子」,又有員工稱Bard的表現「令人畏懼」。

 

多名前及現職員工又批評,作為一家互聯網搜索巨頭,Googlr 通過 Bard 提供低質素資訊,同時將科技倫理承諾放在很低的位置來考慮,此行為雖然能加快技術發展速度,但亦可能會給社會產生深遠的影響。

 

外媒報導指 Google 明顯地忽視機械人的道德問題,以追趕上上microsoft和 OpenAI 等競爭對手的步伐。而該公司亦經常吹噓其在 AI 領域的安全和道德工作,但事實上卻一直優先考慮業務。

 

員工透露BardGoogle承諾加強的科技倫理團隊並沒有話語權,士氣十分低落,而負責新產品安全和科技倫理影響的員工則被通知不要妨礙,或試圖扼殺正在開發中的任何生成式人工智能工具。

 

今年 2 月,一名不願透露姓名的員工在一個內部論壇上揶揄Bard 「比沒用還糟糕」,並要求高層不要以目前的狀態推出聊天機器人。

 

資料來源:thevergenypost

Published by
EMMA