作為全球最大型雲端 AI 服務平台的 Amazon AWS ，早前就舉辦以「企業應用生成式 AI 模型」為題的網絡研討會，詳細介紹 AI 模組的發展現況，並講解了現時 AWS 服務下提供的 Mistral 及 Claude 3 AI 模型與企業使用實況。
近年「生成式 AI」浪潮席捲全球， AI 模組百花齊放，各有勝場，開展出一個 AI 模型的爭鳴局面。在此浪潮下，不少行業亦躍躍欲試，務求從各類 AI 模組中挑選、訓練出最符合自身企業要求的 AI 模型。
是次 AWS 網絡研討會由 AWS 解決方案架構師（Solution architect）主講，深入淺出介紹了現時 Amazon Bedrock 上提供的各種 AI 模組。要理解「生成式 AI」技術的浪潮，先要了解講者所言：現時坊間並沒有一家獨大、一鍵通用的 AI 模型（No “one size fit all”）。AI 發展走向專精，演變成各個於運算速度、演算效能、性價比等各有擅長的模型，切實地應對了各類有不同需求的使用者，因此，實際操作上，企業比過往更需要專門的技術人才、訓練、支援，目的是透過試驗各類 AI 模組，尋求及訓練出最符合公司業務的 AI ，增強工作效能，提高工作效率。
作為向企業提供雲端平台及技術支援的 AWS，正好扮演了其中的關鍵角色，AWS 旗下服務 Amazon Bedrock 正好切合現時使用者對 AI 模組的渴求，能讓使用者透過建立不同身份，設置及測試各類型 AI 模組。
要數到現時 Amazon Bedrock 旗下模組，講者特別介紹了 Mistral AI 及 Claude 3 兩大 AI 模型。Mistral 方面，講者點出了其效能、靈活性、個性化的三大特點。講者以型號 Mistral 8x7b 為例，指出其模型內含八個不同 AI 專家模型，能按指令快速整理出專家模型交互而生的答案，效能顯著，運算速度高。在靈活性上，Mistral 除了能提供英語、法語、西班牙語、德語、意大利語作為訓練語言，亦開放碼源讓使用者能透過 AI 模型連結外部或第三方工具與服務，提供極大靈活性。講者亦指出 Mistral 的個性化程度高，能按使用者的需求、測試結果去調整 AI 模組的使用方式。
Claude 3 方面則三款模型（Sonnet、Haiku、Opus）各有勝場，甚至在與其他生成式 AI 模型如 ChatGPT、Llama 2 70b 等相比時（MMLU、ARC chanllenge、ＭBPP 等測試），Claude 3 opus 在數學運算、編碼、多語言支援等範疇中，屬眾多模型之中評分最高。其他如支援圖像輸入，即使用者能輸入保單索償圖片並讓 AI 協助整理資料，或如將手寫的筆記與圖像數碼化，降低拒絕率，即「因謹慎而不回答問題」情況減少，及支援 JSON 格式、運算效能、內容長度等各方面，Claude 3 相較前代均大大改善並提高表現。
去到實際應用情景，講者重申「No “one size fit all”」的原理，提到企業可按自己的服務要求、預算選擇合適的 AI 模組。而現時 Mistral AI 及 Claude 3 這些 AI 模型能處理的工作已非常廣泛，當中就包括以「對話/角色扮演」功用為主的顧客服務、售前對話服務、諮詢服務；「處理文件」如完成逐字稿、字幕、訂立合約、紀錄等工作；可以根據使用者提高的資料作參考，撰寫文稿、電郵、論文大綱、小說、演講辭的「內容生成」工作；對資料進行「內容審核」，協助使用者排除不適當或違反使用守則的內容的檢視工作；能整理各類大量文本資料的「分類、分析、提取」工作；及協助使用者完成或修改程式設計的「編碼」工作。
AWS 解決方案架構師更於研討會示範如何運用 AWS 雲端 AI 平台，即場透過 Bedrock 將圖像及文字數碼化，並直接將所需資料呈現為 JSON 格式。其後，講者亦利用 Claude 3 分析網絡上的波鞋圖片，驗證 Claude 3 能夠提取甚麼資訊，最後 Claude 3 亦不負所託，提供包括波鞋牌子、顏色、型號等 metadata。最後，講者亦透過 claude 3 比較不同圖像的差異， claude 3 亦能以圖表形式將不同波鞋的資料一一列出。
總結而言，此次 AWS 的「企業應用生成式 AI 模型」網絡研討會前半段聚焦於企業如何選擇適合自身公司使用的 AI 模型，惜本文篇幅有限，有興趣的讀者不妨自行上 AWS 網站觀看此次免費重溫的研討會。下篇我們亦會繼續講述研討會上 AWS 講者分享的實用資訊，包括 Prompt Engineering （提示工程）的原理、操作流程、思考脈絡與實用技巧。
本地科技初創推出 AWS 教學 協助企業發揮「真」雲端優勢 ACG 致力以領先技術促進數碼營銷 AWS 雲端服務成有力後盾 Sei 促進高效區塊鏈交易 認同 AWS 雲端服務速度與安全俱佳