AI 模型的開發規模越來越龐大,所需的成本億不斷增加。Anthropic 總裁最近就表示,AI 模型開發的成本在 3 年內將會大幅上漲至 10 億美元水平。
Anthropic 總裁 Dario Amodei 最近表示,類似 ChatGPT-4 的模型訓練成本約為 1 億美元,但目前正在開發中的 AI 模型訓練成本最後可達 10 億美元。而他預計在短短三年內,AI 模型的訓練成本將上升到 100 億甚至 1000 億美元。Amodei 指出,在這樣高成本的訓練下,加上算法和晶片如果繼續以現時的速度改良,屆時很有可能得到在大多數方面都比大多數人類更優秀的模型。
Dario Amodei 認為:「我們不會突然達到 AGI,而是會逐步發展,模型會在過去模型的基礎上不斷進步,就像人類兒童學習一樣。如果 AI 模型每年變得強大 10 倍,我們可以合理地預期訓練它們所需的硬件也至少要強大 10 倍。」
考慮到 Nvidia 最新的 B200 AI 晶片價格在 3 萬到 4 萬美元之間,Dario Amodei 的 10 億美元推算其實合理,而當 AI 模型效能繼續提升,如果在訓練效率上沒有重大進步,未來指數式上漲的成本也是可以預期,不過這樣一來市場上要有新的挑戰者加入就變得難上加難,可能鞏固寡頭壟斷的狀態。
相關文章:
Samsung Galaxy Book5 Pro 發表 同時提供 Galaxy AI、Copilot+ 人工智能 iPhone SE 4 傳明年首季發表 將支援 Apple Intelligence 人工智能