微軟最近在 Build 大會上公布最新的小型語言模型 Phi Silica,這款模型專為微軟最新公布的 Copilot+ PC 中的神經處理單元(NPU)而設計,並會搭載於 Copilot+ PC 上。
▲微軟最近在 Build 大會上公布最新的小型語言模型 Phi Silica
Phi Silica 是 Phi 系列中最小的模型,擁有 33 億個參數,每秒能夠處理 650 個 token,功耗只為 1.5 瓦。Phi Silica 的處理能力可讓 CPU 與 GPU 有更多資源處理其他工作。Phi Silica 的 token 生成精妙地重用 NPU 的 KV 快取,並在 CPU 上運行,每秒生成約 27 個 token。預料每部 Copilot+PC 將會搭載 Phi Silica。
開發者可以通過 Windows App SDK 使用 Phi Silica API,還包括其他 AI 驅動功能,如 OCR、Studio Effects、Live Captions 和 Recall User Activity API。微軟計劃在未來發布更多 API,包括 Vector Embedding、RAG API 及 Text Summarization。
資料及圖片來源:maginative、PC World
相關文章:
英國調查 Windows 11「Recall」功能 AI 記錄用家 PC 操作歷史涉私隱風險 微軟疑將中國 AI 團隊「打包赴美」 員工憂慮「變相裁員」 Xbox 手機遊戲商店將於 7 月推出 挑戰 App Store 和 Google Play
分享到 :
最新影片
![](https://cdn.unwire.hk/wp-content/uploads/2024/06/aiweb2-694x390.jpg)