OpenAI 推出 GPT-5 後評價不一,不過其中一個特點是新模型在「阿諛奉承」方面變得更加收斂,OpenAI 總裁 Sam Altman 就在一個訪談中分享這個設計的原因,以及他如何以「慢即安全」原則管理這家成長飛快的公司。
GPT-5 對「諂媚行為」進行大幅改良,以更誠實、平衡的方式回應用戶。Sam Altman 指出,團隊最初聚焦生物武器與網絡攻擊等明顯威脅,卻忽略「過度奉承」這類邊緣問題,造成系統性隱患,這情況如同 Toyota 油門踏板設計疏漏釀成大規模召回,因此在 GPT-5 中就予以修正。
Sam Altman 強調,雖然短期內有大量機會能快速增加收入,但 OpenAI 寧捨眼前利益也不犧牲品牌長期價值。例如團隊堅守「拒絕清單」,明確規範不研發色情和暴力功能,即便這些功能能拉抬用戶黏性。Altman 類比 Coca-Cola 拒絕增添強刺激成分、Disney 不製作純成人內容,指出「界定不做的事,比決定做什麼更能保護品牌核心」。
在開發過程中,考慮到單次模型微調即可觸及全球用戶,Sam Altman 認為過度集中決策風險極高,因此實施多層「影響力審查機制」,任何可能改動模型行為的更新皆須通過嚴格評估,以安全優先取代速度至上。
Sam Altman 強調,錯誤是研究的一部分。GPT-4.5 雖規模龐大但不夠靈活,團隊於研發中試過多種架構,從錯誤中歸納出「推理路由器架構」,讓 GPT-5 幻覺率降低 45–65%,正是累積試錯智慧的結晶。
GPT-5 在科學與技術問答方面展現「PhD 水平」能力,Sam Altman 談到透過 AI 快速創建軟件的體驗,從 11 歲用 TI-83 寫 Snake 到 GPT-5 在數秒內生成同款遊戲,讓他重拾對編程的熱情,也見證創意與執行速度齊飛的新時代。Altman 預測,未來 2 年內 AI 將在某些方面產生重大科學發現,終極目標是實現超級智能,能勝任甚至超越最優秀研究團隊與決策者。
他指出,推動超級智能的四大關鍵:運算力(需解決能源與供電挑戰)、數據(結合合成資料與新實驗)、演算法設計(持續挖掘新架構)與落地產品化,皆需協同進化,才能讓 AI 與社會並肩前行。
來源:YouTube
分享到 :
最新影片