一部 M5 Max MBP 玩 AI 行 Local LLM 可以有幾盡?
時間不多,但都為大家進行了基本測試。最新的 Qwen3.5-122B-A10B 在 128GB RAM 下行到 — 這就是 Unified Memory 的威力。
最強 Apple Desktop AI 對決:M5 Max MacBook Pro vs M3 Ultra Mac Studio,結果竟然做到桌面 AI 旗艦八成算力!要知道 M3 Ultra 是兩顆 M3 Max 合體,1 vs 2 在流動功耗下仍有這個表現,足見 M5 Max 架構進步有幾大。非常期待 M5 Ultra Mac Studio!
想用 128GB M5 Max MBP 玩 Local AI?推薦兩個 RTX 5090(32GB)都載唔到嘅模型:
Qwen3.5-122B-A10B Q4(~74GB)— tool use 贏 GPT-5 mini 三成
DeepSeek R1-Distill-70B Q4(~40GB)— 有 chain-of-thought 推理能力
兩個都免費、離線,智力超越任何 RTX 5090 能跑嘅開源模型,好適合做「龍蝦」大腦,慳番一大筆 token 錢
分享到 :
最新影片