生成式 AI 與 AI 代理人技術急速發展，正悄悄改變桌上電腦市場生態。Apple 自研晶片資深產品經理 Doug Brooks 接受科技媒體《The Deep View》專訪時透露，Mac mini 與 Mac Studio 已成為開發者與企業執行全天候 AI 代理人工作負載的首選裝置，這全憑 Apple 10 多年前開始佈局統一記憶體與晶片異構運算架構。

 

24 小時全天候獨立運作 Mac mini 迎來需求爆發

Doug Brooks 表示，Apple 近期公開談及市場對 Mac mini 及 Mac Studio 需求相當強勁，因為這兩款機款已成為執行大量 AI 代理人工作負載的平台。Doug Brooks 解釋，用戶執行 AI 代理人工作負載時，通常希望系統完全受自己控制，並與日常主力機器物理隔離，同時能夠 1 週 7 天、每天 24 小時不間斷運作，Mac mini 正好符合這個情境。Doug Brooks 亦提到，目前業界許多 AI 工具都屬於 Mac 獨佔或 Mac 優先性質，令能夠運行尖端 AI 軟件的強大 Apple 晶片平台，大大推動客戶採用這技術。

 

AI 不只是 GPU 的事 Apple 強調全晶片協同實力

Doug Brooks 提出，現代 AI 代理人工作流程關乎整個晶片如何共同分擔任務，包括工具調用及周邊工作流程處理。除了由 GPU 運算大型語言模型，CPU、GPU、統一記憶體與神經網絡引擎亦各自貢獻效能。Doug Brooks 形容 Apple 晶片架構「非常平衡」，早在神經網絡引擎推出時，已專為高效能、低功耗矩陣數學運算而設計。CPU 內部亦設有專用神經加速器（原稱 ML 加速器），擅長處理語音等低延遲任務。近年 Apple 再將神經加速器帶入 GPU，由於 GPU 是 Apple 晶片中最具擴充性運算引擎，能提供可擴充運算能力、記憶體頻寬，並直接連接統一記憶體架構。

 

Apple 自研晶片應對 AI 代理人核心優勢

晶片架構組件在 AI 代理人工作流中的角色與戰略優勢：統一記憶體（UMA）讓 CPU、GPU 與神經網絡引擎共享同一記憶體池，毋須像傳統 PC 般在顯示卡記憶體間複製資料；神經網絡引擎處理高效能、低功耗矩陣數學運算，支撐裝置長時間低功耗運作；CPU 內建神經加速器負責語音等低延遲任務，加快邊緣邏輯判斷，毋須依賴雲端；GPU 內建神經加速器則提供可擴充運算力與記憶體頻寬，隨系統規模擴大持續提升 AI 算力。

 

Apple 今年 3 月推出的 M5 Pro 與 M5 Max 晶片首發於新款 MacBook Pro，採用全新 Fusion 架構，GPU 核心內建神經加速器。M5 Max 記憶體頻寬最高達 614 GB/s，GPU 運算效能較上代提升逾 4 倍，展示了 Apple 晶片家族在 AI 算力上的整體演進方向，而非專指 Mac mini 或 Mac Studio 所搭載晶片。

 

從雲端走向在地端 未來將是混合式架構

Doug Brooks 觀察到，推動地端運算興起除了私隱與資料安全考量，更因為 AI 代理人令 Token 消耗量急增，Doug Brooks 估計增幅介乎 3 倍至 10 倍不等。Doug Brooks 認為毋須將所有運算送上雲端，由於現時裝置運算能力已相當強大，配合現代模型最佳化與量化技術，700 億甚至 1,200 億參數模型已可在手提電腦上流暢運行。Doug Brooks 相信未來屬於混合式架構，由 AI 代理人自主判斷哪些任務該在地端執行，哪些送往雲端運算。Doug Brooks 特別提到他形容為「透明化 AI」的概念，即許多 AI 功能已融入作業系統與應用程式，用戶未必察覺背後由 AI 驅動，並列舉 Draw Things 及 SwingVision 作為例子，前者可在 iPhone、iPad 與 Mac 上完全在地端運行圖像生成，後者則利用 iPhone 鏡頭即時分析網球及匹克球擊球軌跡。Doug Brooks 形容現時 AI 發展速度驚人，難以想像 1 個月後技術會走到哪裡。

 

資料來源：The Deep View