Apple 於 10 月 16 日更新 App Review Guidelines,明確要求應用程式主動防範及移除未經當事人同意製作的親密影像,包括 AI 生成內容,公司同時新增第 2.5.19 條,明確禁止開發者隱瞞功能或欺騙審核,違規應用程式可能遭下架,開發者亦可能被取消 Apple Developer Program 資格。
AI 創作平台須設過濾及舉報機制
更新後的第 1.2 條明確涵蓋容許用戶創作、生成、上載或分享內容的應用程式,包括社交媒體、用戶生成內容平台及 AI 內容創作工具,開發者須提供內容過濾及舉報機制,並及時回應舉報,同時讓用戶封鎖濫用帳戶,以及公開聯絡資料。
Apple 在公告中指出,內容管理要求現已明確涵蓋未經當事人同意製作的親密影像,包括利用 AI 工具生成的內容,開發者若未有建立足夠防護措施,或在收到通知後仍未糾正違規情況,便可能違反開發者行為守則。
指引列明,Apple 可要求開發者移除違規內容及提交改善方案,再根據開發者的回應決定是否將應用程式下架,若涉及嚴重或重複違規,Apple 可立即將應用程式下架,並終止開發者計劃資格。
既有色情內容禁令仍然適用
App Store 早已禁止露骨色情內容,Apple 今次重申,禁令亦涵蓋用來生成裸露或露骨影像的應用程式,例如未經真人同意製作露骨影像的「nudification」工具,並非今次更新才首次禁止相關功能。
今次修訂亦不代表 Apple 全面禁止所有 deepfake 深偽內容,公告主要針對未經同意製作的親密影像、相關內容管理責任,以及開發者透過欺騙手段繞過應用程式審核的行為。
新增條文明確禁止隱藏及未申報功能
新增的第 2.5.19 條禁止開發者在應用程式中加入隱藏、未啟用或未申報的功能,並要求開發者向用戶及 App Review 審核團隊清楚交代應用程式功能,若開發者利用程式碼混淆等手段隱藏未申報功能,Apple 可將應用程式下架並終止開發者帳戶。
Apple 以「bait-and-switch」形容部分開發者在審核期間虛報應用程式用途,待獲批後才顯示有害功能的行為,並以「nudification」作為例子,公司強調今次修訂是進一步釐清既有禁令,重點在於防止開發者隱瞞功能及繞過審核,並非禁止開發者透過正常更新加入新功能。
Grok 曾接獲下架警告 今次公告未點名
據報道,Apple 曾於 1 月警告 xAI,若未能有效阻止 Grok 生成裸露或涉及色情內容的深偽影像,可能將相關應用程式從 App Store 下架。
Apple 曾認為 xAI 首輪修改仍有不足,其後在 xAI 進一步改善後才批准新版應用程式,但獲批並不代表濫用風險已完全消除,而 Apple 今次公告亦未有點名 Grok,因此不能斷言新規則是專門針對 Grok 而設。
Apple 同時更新第 5 節,明確指出涉及協助人口販運或兒童剝削的應用程式,包括涉及兒童性虐待材料的應用程式,將遭 App Store 下架,並禁止透過其他應用程式分發渠道提供。
資料來源:Apple 開發者公告
