微軟最近在 Build 大會上公布最新的小型語言模型 Phi Silica,這款模型專為微軟最新公布的 Copilot+ PC 中的神經處理單元(NPU)而設計,並會搭載於 Copilot+ PC 上。
▲微軟最近在 Build 大會上公布最新的小型語言模型 Phi Silica
Phi Silica 是 Phi 系列中最小的模型,擁有 33 億個參數,每秒能夠處理 650 個 token,功耗只為 1.5 瓦。Phi Silica 的處理能力可讓 CPU 與 GPU 有更多資源處理其他工作。Phi Silica 的 token 生成精妙地重用 NPU 的 KV 快取,並在 CPU 上運行,每秒生成約 27 個 token。預料每部 Copilot+PC 將會搭載 Phi Silica。
開發者可以通過 Windows App SDK 使用 Phi Silica API,還包括其他 AI 驅動功能,如 OCR、Studio Effects、Live Captions 和 Recall User Activity API。微軟計劃在未來發布更多 API,包括 Vector Embedding、RAG API 及 Text Summarization。
資料及圖片來源:maginative、PC World
相關文章:
微軟計劃幾年後推出 Xbox 掌機 或支援雲端和本地下載遊戲 微軟或向 Apple 致敬 消息指 Copilot+ 將改名為 Windows Intelligence 整合 AI 功能