GenAI 與雲端科技專區

當最強 GPU 遇上大型雲端平台 NVIDIA 與 AWS 的協同效應

Published by
藍骨
Share

近年 AI 技術大盛,「生式成 AI」的應用已是滲透到各層面,但回望這波 AI 熱,除了「機器學習」技術日益完善,「雲端」的普及也協助降低用家使用 AI 的門檻,讓更多企業以至個人用戶,無需額外花費高昂成本追求日新月異的硬件軟件,便能夠在「雲端」訓練各種企業專屬的 AI 模型,當中,NVIDIA 與 AWS 的合作可說是人工智能雲端服務的最佳例子。

回看這波 AI 熱潮,機器學習(Machine Learning)技術當然扮演著重要角色,但要支撐著人工智能背後所需的強大電腦運算能力,各類型硬件如 CPU(處理器)、GPU(圖像處理器)、RAM(隨機存取記憶體 )、SSD(固態硬碟)也不可或缺。但伴隨著 AI 崛起,不少高規格的 AI 硬件(如 NVIDIA 推出的 GPU )也因需求大增而水漲船高,令廣泛使用機器學習仍有一定難度。直至近年雲端網絡平台興起,各大平台均挾著一站式數據整合、低成本儲存、高安全性和多樣化的機器學習服務,配合各類高效 CPU、GPU 硬件,替用戶提供極具成本效益的人工智能雲端服務。

當中,大型雲端網絡服務平台 AWS 與 AI 範疇龍頭企業 NVIDIA 的合作即為箇中的最佳例子,已合作超過 12 年的兩間公司,早前亦推出了電子書《Fast-track innovation with generative AI and machine learning Delight》,講解如何使用 AWS 及 NVIDIA 的雲端服務整合 AI 技術,讓客戶進行智能文書處理、電腦視覺、個性化體驗、生成式 AI 等各類工作。

書中提到,AWS 最新的 Amazon EC2 P4d (Amazon Elastic Compute Cloud,在雲端提供高效能機器學習訓練和高效能運算的應用程式)就採用了 NVIDA 最新的 A100 Tensor Core GPU,讓訓練 AI 模型的時間從數天大幅縮壓到數分鐘,這意味著開發者能夠快速驗證、訓練和調整模型,加速創新,提高工作效能;此外,Amazon EC2 P4d 程式亦能通過超級電腦 EC2 UltraClusters 進行更複雜的多節點 AI 模型訓練,甚至在有需要時,將 NVIDIA A100 Tensor Core GPUs 的使用量快速擴展至數千個。因此,Amazon EC2 P4d 作為首個在雲端中支援 400 Gbps 的應用程式,其效能較前代的 Amazon EC2 P3、Amazon EC2 P3dn 提高了平均 2.5 倍,

書中亦提及另一款產品 Amazon EC2 G5,指其就是採用了 NVIDIA 新一代的 GPU,讓 AWS 雲端服務提供的機器學習效能,足較前一代提高多達 3.3 倍,並支援最多 192 個虛擬 CPU、最多 100 Gbps 的寬頻、最多 7.6 TB 的本地 NVMe SSD 儲存量,意味著用家可以在雲端情況下,訓練更大、更複雜的自然語言處理(NLP)、電腦視覺和 AI 模型,讓雲端服務用家能夠以更符合成本效益的費用,持續追求更高效的 AI 運算速度。

在軟件或應用程式方面,《Fast-track innovation》電子書亦提到 AWS 與 NVIDIA 如何創造協同效應,例如,AWS Marketplace 上有提供 NVIDIA AI Enterprise,一個能夠提供超過 100 種架構、預訓練模型(pretrained models)、AI 工作流程的雲端原生軟件平台,讓用戶可以簡化生成 AI、語音 AI、視覺 AI、網絡安全等應用程式的開發和實施程序,並能讓 NVIDIA AI Enterprise 協助監控常見漏洞和暴露(CVE)、API 穩定性等情況,及時作出修補;NVIDIA AI Enterprise 亦能協助開發人員.利用 AWS SageMaker (AWS 的機械學習中心)加快開發,提供更多、更完善的演算法、模組、機器學習解決方案予用家,最終讓用家更容易探索和使用 Amazon Bedrock 的開源基礎模型(FMs),例如 OpenLLaMA、RedPajama、Mosaic MPT-7B、FLAN-T5/UL2、GPT-J-6B/Neox-20B 和 Bloom/BloomZ 等模型,相得益彰。

總結而言,在人工智能科技愈發先進的情況下,「AI 雲端服務」讓用戶突破自身的硬件、軟件限制,更容易使用及訓練適合自己的人工智能模組,進行如生成內容、數據處理、電腦視覺等工作,其中 AWS 與 NVIDIA 的合作,更成了雲端服務與最新型 GPU 合作的最佳例子,進一步降低了使用 AI 的門檻,讓 AI 普及至不同行業、階層之中。

如有興趣了解更多 AI 使用實例、AWS 與 NVIDIA 的協同效應,不妨到以下網址(按此連結),瀏覽電子書《Fast-track innovation with generative AI and machine learning Delight》。


相關文章:
  • 由「字典」到「軟件」 聯合培進的數碼轉型之路
  • AWS 引入 Stability AI 三大模型 為客戶提供更多選擇
  • 人工智能概念大解密 從 AI 到機器學習再到生成式 AI

  • Published by
    藍骨