人工智能

Apple 論文展示 Ferret-UI AI 能理解 App 畫面內容

Published by
Oscar

Apple 早前發表了一篇有關開發「Ferret-UI」AI 人工智能的論文,據悉 Ferret-UI 是一個生成式人工智能系統,能夠理解智能電話應用程式螢幕顯示的內容。

 

 

大家耳熟能詳的 AI ChatGPT 屬於大型語言模型 (Large Language Models,LLMs),主要訓練素材取材自文字內容,而更先進的多模態大語言模型(Multimodal Large Language Models,MLLMs)旨在擴展 AI 理解圖片、影片、音訊等非文字資訊的能力,但是現時大部份 MLLM 還無法有效理解智能電話上面的應用程式,主要因為以下原因:

  1. 手機螢幕長闊比例與平時訓練素材不同;
  2. 手機應用程式的按鈕尺寸較小,對目前的 MLLMs 而言難以識別;
  3. 目前的 MLLM 暫時未有與應用程式按鈕互動的理解能力。

Apple 因此構思開發名為 Ferret-UI 的全新 MLLM,以解決上述問題。Apple 指,Ferret-UI 加入了「任意解像度」,讓這個 MLLM 得以放大畫面細節,增強視覺能力。Apple 又表示從廣泛的基本 UI 任務裏收集了不少訓練樣本,例如圖標識別、尋找文字、小清單等,以提高精確度。

 

資料來源:9to5Macarxiv.orgithome


相關文章:
  • M4 Mac Mini + MBP + iMac 全系列評測:Apple Intelligence AI 全平台體驗影片
  • 【評測】Mac mini M4 2024:進階用家最應該買的 Apple 電腦    效能、日常應用詳細評測分析
  • 【教學】iOS 18.1 如何用 Apple Intelligence 只需 2 個設定 + 香港免 VPN 也可用

  • Published by
    Oscar