美國 Deep Tech 初創公司 Tiiny AI 推出獲健力士世界紀錄認證、全球最小個人 AI 超級電腦 Pocket Lab。產品尺寸僅 14.2×8×2.53 公分，重約 300 克，大小相當於一個流動電源，卻能運行高達 1,200 億參數大型語言模型。Tiiny AI 這款裝置主打完全離線運算，挑戰目前 AI 運算高度依賴雲端數據中心現狀，期望能為用戶提供更高私隱保障及能源效率。
挑戰雲端依賴 強調私隱與能效
Tiiny AI 全球市場總監 Samar Bhoj 表示，當前 AI 發展瓶頸不在於運算能力，而在於對雲端依賴。他強調智能運算應歸用戶所有而非數據中心，Pocket Lab 設計目標是將伺服器級運算能力縮小至手掌大小，令先進 AI 技術更個人化。裝置所有運算均在本地完成，用戶資料儲存在裝置內並採用銀行級加密標準，有效解決雲端 AI 帶來的私隱風險、能源成本上升及網絡連線中斷等問題。
硬件規格與技術創新
Pocket Lab 搭載最新 ARMv9.2 12 核心 CPU 及異構 AI 模組，提供約 190 TOPS 運算能力，配備 80GB LPDDR5X 記憶體和 1TB SSD 固態硬碟。裝置支援 GPT-OSS、Llama、Qwen、DeepSeek、Mistral 和 Phi 等多款開源模型，並可一鍵部署 OpenManus、ComfyUI、Flowise 等 AI Agent 框架。系統整合兩項關鍵技術：TurboSparse 採用神經元級稀疏激活方法提升推理效率，PowerInfer 則是異構推理引擎，將 AI 工作量分配到 CPU 和 NPU，實現伺服器級性能同時保持約 65W 典型功耗，遠低於傳統 GPU 配置。
市場定位與競品比較
相比市場上其他小型 AI 運算裝置，Pocket Lab 定位更具吸引力。NVIDIA 推出的 DGX Spark（前身為 Project Digits）售價 3,000 美元（約港幣 23,400 元），功耗 170W，支援最高 200 億參數模型，記憶體頻寬 273 GB/s。Pocket Lab 主打 100 億至 1,000 億參數「黃金區間」，涵蓋超過 80% 實際應用場景，並可擴展至 1,200 億參數，提供媲美 GPT-4o 博士級推理及複雜多步驟分析能力。
公司背景與市場展望
Tiiny AI 於 2024 年成立，團隊成員來自 MIT、Stanford、HKUST、SJTU、Intel 和 Meta，研究成果曾發表於 SOSP、OSDI、ASPLOS 和 EuroSys 等學術會議，2025 年獲得數百萬美元種子輪融資。根據 Grand View Research 數據，全球大型語言模型市場 2025 年估值 74 億美元（約港幣 577.2 億元），預計 2030 年增長至 354 億美元（約港幣 2,761.2 億元），年複合增長率達 36.9%。Tiiny AI 計劃於 2026 年 CES 消費電子展展示 Pocket Lab，惟目前尚未公布具體售價和發售日期。
資料來源：TechNews, DigitalTrends
分享到 :
最新影片
