OpenAI 推出 GPT-5 後評價不一，不過其中一個特點是新模型在「阿諛奉承」方面變得更加收斂，OpenAI 總裁 Sam Altman 就在一個訪談中分享這個設計的原因，以及他如何以「慢即安全」原則管理這家成長飛快的公司。
GPT-5 對「諂媚行為」進行大幅改良，以更誠實、平衡的方式回應用戶。Sam Altman 指出，團隊最初聚焦生物武器與網絡攻擊等明顯威脅，卻忽略「過度奉承」這類邊緣問題，造成系統性隱患，這情況如同 Toyota 油門踏板設計疏漏釀成大規模召回，因此在 GPT-5 中就予以修正。
Sam Altman 強調，雖然短期內有大量機會能快速增加收入，但 OpenAI 寧捨眼前利益也不犧牲品牌長期價值。例如團隊堅守「拒絕清單」，明確規範不研發色情和暴力功能，即便這些功能能拉抬用戶黏性。Altman 類比 Coca-Cola 拒絕增添強刺激成分、Disney 不製作純成人內容，指出「界定不做的事，比決定做什麼更能保護品牌核心」。
在開發過程中，考慮到單次模型微調即可觸及全球用戶，Sam Altman 認為過度集中決策風險極高，因此實施多層「影響力審查機制」，任何可能改動模型行為的更新皆須通過嚴格評估，以安全優先取代速度至上。
Sam Altman 強調，錯誤是研究的一部分。GPT-4.5 雖規模龐大但不夠靈活，團隊於研發中試過多種架構，從錯誤中歸納出「推理路由器架構」，讓 GPT-5 幻覺率降低 45–65%，正是累積試錯智慧的結晶。
GPT-5 在科學與技術問答方面展現「PhD 水平」能力，Sam Altman 談到透過 AI 快速創建軟件的體驗，從 11 歲用 TI-83 寫 Snake 到 GPT-5 在數秒內生成同款遊戲，讓他重拾對編程的熱情，也見證創意與執行速度齊飛的新時代。Altman 預測，未來 2 年內 AI 將在某些方面產生重大科學發現，終極目標是實現超級智能，能勝任甚至超越最優秀研究團隊與決策者。
他指出，推動超級智能的四大關鍵：運算力（需解決能源與供電挑戰）、數據（結合合成資料與新實驗）、演算法設計（持續挖掘新架構）與落地產品化，皆需協同進化，才能讓 AI 與社會並肩前行。
來源：YouTube
分享到 :
最新影片
