近年來，生成式 AI 發展一日千里，但多數人仍依賴需要持續連線的雲端大型語言模型（如 ChatGPT 或 Gemini）。但將敏感資訊上傳至雲端伺服器，總會讓人對資料外洩感到擔憂。而過去要在本地端運行 AI，用家往往需要依賴如 Ollama 或 LM Studio 等第三方開源平台。但現在Google 「官方 App」——Google AI Edge Gallery 全面登陸 macOS，我們不再需要依賴第三方應用程式，就能以最安全、直接的方式體驗 Google 精心微調的本地 AI 模型「Gemma 4 12B」。這個最新輕量化模型不只能在手提電腦上運作（仍需安裝足夠數量的記憶體），而效能奇高，讓你的手提電腦輕鬆化身為強大的專屬離線 AI 助理。
下載網址：https://developers.google.com/edge/gallery
適用平台：macOS, iOS, Android
挑選並載入合適的本地語言模型
AI Edge Gallery 的核心功能在於提供多款經過精製的本地 AI 模型供使用者選擇。有別於允許安裝任意模型的開放平台，這款應用程式專注於提供 Google 自家精心微調的 5 款模型。這些模型名稱中都帶有「it」字樣（代表 instruct），表示它們是專門為了理解並執行使用者指令而設計的指令調校版本。
要開始使用這項功能，用家首先需要打開應用程式的主介面。在畫面中，你會看到一個模型列表。強烈建議您點擊列表中的「Gemma-4-12B-it」選項，這是最新發布、以高效能但耗 RAM 數量較少的精製模型。這款模型雖然擁有120 億的參數，根據官方效能測試，它能媲美 260 億參數的專家混合模型，仍依然足夠精巧，能在配備 16GB RAM 的消費級手提電腦上流暢地本地運行。點擊選擇後，系統會自動將該模型配置為目前的對話核心。
透過指令進行安全的離線互動
當模型成功載入後，你便可在 AI Edge Gallery 直接同 AI 對答。這是一個完全封閉、安全的對話環境。用家可以在這裡提出任何問題、要求總結長篇文章，或是協助撰寫各類文案，而這一切都會在毫秒之間透過電腦的晶片運算完成。
你只要在提示詞輸入框，利用鍵盤打上您需要的具體指示，例如輸入協助整理會議重點或是草擬計劃書的要求。確認指令輸入無誤後，只需點擊輸入框旁邊的發送按鈕即可。此時，您會發現即使在完全關閉流動數據和 Wi-Fi 的情況下，應用程式依然能迅速且流暢地在畫面上逐字生成詳細的解答，完美實現真正的本地 AI 助理體驗。
速度方面，我們今次測試的電腦為 Mac mini M4 內置 24GB 統一記憶體。在輸入一條「建立日本京都4日行程」的要求後，模型在思考約 8 秒後開始輸出文字，至到完成文章約需 40 秒。雖然會比網路上 Gemini 模型慢一點，但考慮到在本地運行，如用來處理不希望上網的數據、內容時，其實這個速度對於我們的工作流程來說，並非很長的時間。
▲在選單中，你可再微調模型，包括可剔選「Enable thinking」令 AI 模型進行更深度的發掘答案
強大多模態視覺功能：秒速分析多圖資訊
除了基本的文字對話，AI Edge Gallery 更具備強大的圖片辨識與分析能力。在應用程式的左側選單中點擊「Ask Image」功能，你就能讓 AI 充當你的專屬視覺助理。與其他只能單張處理的簡易工具不同，它支援同時上載多張圖片進行綜合分析，非常適合用來整理活動記錄或大量截圖。第一次使用時，你需要下載相關模型，在畫面右上角的模型選單中，我們以「Gemma-4-E2B-it」為例，將其設定為本次的視覺分析引擎。
下載後就可實際向 AI 輸入圖片發問問題。首先，點擊畫面下方輸入框左側的「+」號按鈕，並選擇「Photo Library」來開啟檔案總管。如同範例中所示，我們一次過選取了六張關於「Computex 2026」的展場截圖與照片。
載入所有圖片後，只需在下方的文字框輸入你的具體要求。例如我們輸入了「請從圖片總結今年 Computex 2026」，然後點擊右下角的紅色發送按鈕。即使是同時處理六張包含複雜資訊的圖片，系統依然只需約五秒鐘的時間，便能透過電腦顯示卡的強大運算能力迅速給出精準的答案。它完美地將六張圖片的內容消化，並摘要成汽車科技與新能源、運算與 AI 平台等條理分明的重點分類。這一切繁重的圖像處理工作，同樣是在斷網狀態下於本地端安全又極速地完成。
