Anthropic 於去年 10 月推出了 Claude「Computer Use」功能，可以讓大型語言模型直接控制電腦，進行各種操作。新加坡國立大學 Show Lab 對此進行深入測試，研究目前 AI 代理的能力與限制。
Claude 的 Computer Use 功能屬於 GUI（圖形使用者介面）代理，也就是透過分析真人用戶看到的介面，針對指令進行互動，讓用戶無需 API 即可自動化各種操作。研究團隊測試了 Claude 在網頁搜尋、工作流程、辦公生產力和遊戲等方面的表現，並從規劃、執行和評估三個維度進行評估。
研究結果顯示，Claude 在執行複雜任務方面表現出色。它能夠合理規劃多步驟任務、協調不同應用程式之間的操作，並持續評估進度。然而，模型也經常出現一些真人不會犯的基本錯誤，例如未能滾動網頁找到按鈕，或是在簡單的文字編輯時失誤，而且模型往往無法正確評估自己的錯誤。
研究認為對企業而言，目前這項技術尚未成熟到可大規模部署的程度。模型行為的不穩定性可能帶來不可預測的結果，且透過 GUI 介面執行工作的效率遠低於 API。研究人員建議，這類工具更適合用於產品團隊的創意探索和方案迭代，而非直接用於生產環境。
來源：VentureBeat
