為保持競爭力,企業紛紛採用 AI 來幫助他們壓低成本和提高效率。能物色到低成本、高效率的大型語言模型可謂他們的當務之急。而隨著 Amazon Nova 強勢推出,不少企業都正考慮從 OpenAI 的模型系列遷移到 Amazon Nova。當中不僅代表後者以價取勝,更意味著企業從戰略上對可擴充性、效率和用途更廣泛的多模態功能的全盤考慮。以下會比併兩者的性價比,以及略陳 Amazon Nova 旗下模型分別。
根據獨立分析大模型表現的 Artificial Analysis 數據所示,OpenAI 的模型表現仍然很強大,但在擴展時,其營運成本或令不少企業望而卻步。以下是綜合 GPT-4o 及 Amazon Nova 3 個模型的價格 (以美元計算) 與表現:
| 模型 | 輸入 Token 成本 (每百萬Token 計) | 輸出 Token 成本 (每百萬Token 計) | 上下文窗口 | Token 輸出速度 (每秒計) | 輸出首 Token 時延(每秒計) |
| GPT-4o | ~$2.50 | ~$10.00 | 高達 128K tokens | ~63 | ~0.49 |
| GPT-4o Mini | ~$0.15 | ~$0.60 | 高達 128K tokens | ~90 | ~0.43 |
| Nova Micro | ~$0.035 | ~$0.14 | 高達 128K tokens | ~195 | ~0.29 |
| Nova Lite | ~$0.06 | ~$0.24 | 高達 300K tokens | ~146 | ~0.29 |
| Nova Pro | ~$0.80 | ~$3.20 | 高達 300K tokens | ~90 | ~0.34 |
從以上可見,如果企業需要用到 AI 作全球客戶服務或大規模檔案分析,這些成本差異將會非常顯著。Amazon Nova Pro 比起 GPT-4o 不僅具三倍以上的成本效益,其更長的上下文視窗還使其能夠處理更廣泛和更複雜的指令。
Amazon Nova 下的三個模型為滿足不同需求而設:
Amazon Nova 強勢推出標誌著 AI 的重大轉變。它以極低成本提供卓越性能模型,並在多模態處理和擴展上下文處理方面具有擴展功能:
由 OpenAI 遷移到 Amazon Nova 需要注意指令撰寫格式和採用參數,有興趣可參閱原文以理解遷移時重寫指令的實例。