作為全球最大型雲端 AI 服務平台的 Amazon AWS ,早前就舉辦以「企業應用生成式 AI 模型」為題的網絡研討會,詳細介紹 AI 模組的發展現況,並講解了現時 AWS 服務下提供的 Mistral 及 Claude 3 AI 模型與企業使用實況。
近年「生成式 AI」浪潮席捲全球, AI 模組百花齊放,各有勝場,開展出一個 AI 模型的爭鳴局面。在此浪潮下,不少行業亦躍躍欲試,務求從各類 AI 模組中挑選、訓練出最符合自身企業要求的 AI 模型。
是次 AWS 網絡研討會由 AWS 解決方案架構師(Solution architect)主講,深入淺出介紹了現時 Amazon Bedrock 上提供的各種 AI 模組。要理解「生成式 AI」技術的浪潮,先要了解講者所言:現時坊間並沒有一家獨大、一鍵通用的 AI 模型(No “one size fit all”)。AI 發展走向專精,演變成各個於運算速度、演算效能、性價比等各有擅長的模型,切實地應對了各類有不同需求的使用者,因此,實際操作上,企業比過往更需要專門的技術人才、訓練、支援,目的是透過試驗各類 AI 模組,尋求及訓練出最符合公司業務的 AI ,增強工作效能,提高工作效率。
作為向企業提供雲端平台及技術支援的 AWS,正好扮演了其中的關鍵角色,AWS 旗下服務 Amazon Bedrock 正好切合現時使用者對 AI 模組的渴求,能讓使用者透過建立不同身份,設置及測試各類型 AI 模組。
要數到現時 Amazon Bedrock 旗下模組,講者特別介紹了 Mistral AI 及 Claude 3 兩大 AI 模型。Mistral 方面,講者點出了其效能、靈活性、個性化的三大特點。講者以型號 Mistral 8x7b 為例,指出其模型內含八個不同 AI 專家模型,能按指令快速整理出專家模型交互而生的答案,效能顯著,運算速度高。在靈活性上,Mistral 除了能提供英語、法語、西班牙語、德語、意大利語作為訓練語言,亦開放碼源讓使用者能透過 AI 模型連結外部或第三方工具與服務,提供極大靈活性。講者亦指出 Mistral 的個性化程度高,能按使用者的需求、測試結果去調整 AI 模組的使用方式。
Claude 3 方面則三款模型(Sonnet、Haiku、Opus)各有勝場,甚至在與其他生成式 AI 模型如 ChatGPT、Llama 2 70b 等相比時(MMLU、ARC chanllenge、MBPP 等測試),Claude 3 opus 在數學運算、編碼、多語言支援等範疇中,屬眾多模型之中評分最高。其他如支援圖像輸入,即使用者能輸入保單索償圖片並讓 AI 協助整理資料,或如將手寫的筆記與圖像數碼化,降低拒絕率,即「因謹慎而不回答問題」情況減少,及支援 JSON 格式、運算效能、內容長度等各方面,Claude 3 相較前代均大大改善並提高表現。
去到實際應用情景,講者重申「No “one size fit all”」的原理,提到企業可按自己的服務要求、預算選擇合適的 AI 模組。而現時 Mistral AI 及 Claude 3 這些 AI 模型能處理的工作已非常廣泛,當中就包括以「對話/角色扮演」功用為主的顧客服務、售前對話服務、諮詢服務;「處理文件」如完成逐字稿、字幕、訂立合約、紀錄等工作;可以根據使用者提高的資料作參考,撰寫文稿、電郵、論文大綱、小說、演講辭的「內容生成」工作;對資料進行「內容審核」,協助使用者排除不適當或違反使用守則的內容的檢視工作;能整理各類大量文本資料的「分類、分析、提取」工作;及協助使用者完成或修改程式設計的「編碼」工作。
AWS 解決方案架構師更於研討會示範如何運用 AWS 雲端 AI 平台,即場透過 Bedrock 將圖像及文字數碼化,並直接將所需資料呈現為 JSON 格式。其後,講者亦利用 Claude 3 分析網絡上的波鞋圖片,驗證 Claude 3 能夠提取甚麼資訊,最後 Claude 3 亦不負所託,提供包括波鞋牌子、顏色、型號等 metadata。最後,講者亦透過 claude 3 比較不同圖像的差異, claude 3 亦能以圖表形式將不同波鞋的資料一一列出。
總結而言,此次 AWS 的「企業應用生成式 AI 模型」網絡研討會前半段聚焦於企業如何選擇適合自身公司使用的 AI 模型,惜本文篇幅有限,有興趣的讀者不妨自行上 AWS 網站觀看此次免費重溫的研討會。下篇我們亦會繼續講述研討會上 AWS 講者分享的實用資訊,包括 Prompt Engineering (提示工程)的原理、操作流程、思考脈絡與實用技巧。
相關文章:
Amazon EC2 釋放 UltraClusters 與 P5e 實例潛能 企業實現 AI 轉型更輕鬆 AWS 與 NVIDIA 兩強聯手 共同邁向 AI 研發競賽之路 UD 與 AWS 合作保障數碼金融安全 重新定義雲端安全