桌上電腦

微軟 Copilot+PC 搭載小型 AI 模型 Phi Silica 擁有 33 億參數

Published by
Pickle Rick
Share

微軟最近在 Build 大會上公布最新的小型語言模型 Phi Silica,這款模型專為微軟最新公布的 Copilot+ PC 中的神經處理單元(NPU)而設計,並會搭載於 Copilot+ PC 上。

 

▲微軟最近在 Build 大會上公布最新的小型語言模型 Phi Silica

 

Phi Silica 是 Phi 系列中最小的模型,擁有 33 億個參數,每秒能夠處理 650 個 token,功耗只為 1.5 瓦。Phi Silica 的處理能力可讓 CPU 與 GPU 有更多資源處理其他工作。Phi Silica 的 token 生成精妙地重用 NPU 的 KV 快取,並在 CPU 上運行,每秒生成約 27 個 token。預料每部 Copilot+PC 將會搭載 Phi Silica。

 

開發者可以通過 Windows App SDK 使用 Phi Silica API,還包括其他 AI 驅動功能,如 OCR、Studio Effects、Live Captions 和 Recall User Activity API。微軟計劃在未來發布更多 API,包括 Vector Embedding、RAG API 及 Text Summarization。

 

資料及圖片來源:maginativePC World


相關文章:
  • 英國調查 Windows 11「Recall」功能 AI 記錄用家 PC 操作歷史涉私隱風險
  • 微軟疑將中國 AI 團隊「打包赴美」   員工憂慮「變相裁員」
  • Xbox 手機遊戲商店將於 7 月推出 挑戰 App Store 和 Google Play

  • Published by
    Pickle Rick