AI助手借助讀屏或截屏功能，可能輕易獲取用戶手機(jī)屏幕上的各類信息
文｜《財(cái)經(jīng)》研究員 樊朔
編輯｜朱弢
2024年，全球手機(jī)市場迎來反彈。市場調(diào)研機(jī)構(gòu)Counterpoint的最新報(bào)告，2024年全球智能手機(jī)銷量同比增長4%。國際數(shù)據(jù)公司（IDC）預(yù)測，2025年中國智能手機(jī)市場出貨量將達(dá)到2.89億，同比增長1.6%。市場復(fù)蘇之際，AI被手機(jī)廠商視為前往下一個(gè)時(shí)代的船票，紛紛在各自最新的產(chǎn)品中部署大模型，競逐AI賽道。因此這一年也被認(rèn)為是AI手機(jī)元年。2024年10月24日，OPPO發(fā)布搭載ColorOS 15操作系統(tǒng)的旗艦手機(jī)Find X8系列，實(shí)現(xiàn)了“AI一鍵問屏”功能。在綜合分析用戶指令和屏幕信息后，AI助手可以實(shí)現(xiàn)回答、修圖、辦公處理等場景。隨后的10月28日，蘋果公司上線了全新的AI功能“Apple Intelligence”。10月29日，小米操作系統(tǒng)澎湃OS2帶來了“AI重塑系統(tǒng)應(yīng)用”，包括AI寫作、識音、字幕等功能，同時(shí)小米智能語音助手“小愛同學(xué)”升級為“超級小愛”，成為全生態(tài)AI助手，具備記事、精準(zhǔn)搜索、跨設(shè)備操作等功能。10月30日，榮耀發(fā)布Magic7系列手機(jī)，其中內(nèi)嵌的AI智能體YOYO能夠?qū)W習(xí)和認(rèn)知用戶的行為習(xí)慣，通過分析理解用戶意圖，自動執(zhí)行相關(guān)操作，如“一句話取消自動扣款”“一句話點(diǎn)2000杯咖啡外賣”。11月，華為發(fā)布了Mate 70 Pro+，其中搭載盤古大模型，可實(shí)現(xiàn)AI動態(tài)照片、AI互動主題、AI隔空傳送、AI降噪通話等功能。不只是手機(jī)廠商，大模型企業(yè)也在展示其操作手機(jī)的AI能力。11月29日，在智譜Open Day活動中，該公司CEO（首席執(zhí)行官）張鵬向公眾展示了其手機(jī)助手產(chǎn)品AutoGLM。他僅用一句話指令“幫我在智譜開放日的群聊里發(fā)個(gè)2萬元的紅包，數(shù)量定為100個(gè)，紅包名字就叫‘AI給你發(fā)的第一個(gè)紅包’”，AutoGLM便能自動打開微信，精準(zhǔn)選擇紅包數(shù)量、設(shè)置總金額、修改紅包名稱，最后輸入支付密碼完成發(fā)送。在人工智能的創(chuàng)新浪潮中，手機(jī)助手智能化是重要的應(yīng)用場景與發(fā)展方向，正在為人們創(chuàng)造全新的使用體驗(yàn)，但其間的用戶隱私與數(shù)據(jù)安全等風(fēng)險(xiǎn)也亟待在發(fā)展中得以規(guī)范。
2024年關(guān)于AI手機(jī)一個(gè)極具傳播度的熱詞是“2000杯咖啡”。“幫我點(diǎn)2000杯喝的?！?024年10月30日晚，在榮耀手機(jī)新品發(fā)布會的現(xiàn)場，時(shí)任榮耀CEO趙明使用AI智能體YOYO下單了2000杯瑞幸。一時(shí)間，周邊的瑞幸咖啡門店陷入手忙腳亂的忙碌狀態(tài)，“自動化”的AI和令瑞幸咖啡門店應(yīng)接不暇的訂單成為網(wǎng)友關(guān)注、調(diào)侃的對象。這一功能被榮耀稱為手機(jī)進(jìn)入“自動駕駛”時(shí)代。根據(jù)榮耀的介紹，在MagicOS 9.0的支持下，Magic7系列手機(jī)不再局限于簡單的指令執(zhí)行，而是實(shí)現(xiàn)了對用戶需求的深度理解和自主決策。在北京的多家榮耀線下門店，自動點(diǎn)餐功能作為YOYO的亮點(diǎn)之一，被銷售人員反復(fù)提及、展示。我們在門店試用了榮耀Magic7，并對YOYO下達(dá)指令“幫我點(diǎn)四杯咖啡”，之后YOYO根據(jù)用戶習(xí)慣提出了多個(gè)產(chǎn)品及規(guī)格的選擇，并提示用戶需要點(diǎn)擊“開始點(diǎn)單”按鈕后才能夠主動下單。在用戶點(diǎn)擊“開始點(diǎn)單”后，YOYO自動打開外賣軟件搜索瑞幸咖啡，并選擇了搜索結(jié)果第一位的門店，下單四杯美式咖啡。在完成自動點(diǎn)單的流程后，屏幕上提示需要用戶手動點(diǎn)擊提交訂單。記者在多個(gè)手機(jī)品牌門店試用了其AI手機(jī)助手，并給出了相同的指令——“幫我點(diǎn)四杯咖啡”。以蘋果手機(jī)為例，iPhone手機(jī)助手在收到指令后在地圖搜索相關(guān)門店，并表示可以查詢路線或打電話給門店。而小米、華為、vivo、OPPO等多個(gè)品牌的手機(jī)在收到指令后僅僅只能打開外賣軟件頁面，其中部分AI手機(jī)助手會在外賣軟件搜索關(guān)鍵詞“咖啡”后再停止。
AI手機(jī)助手自動點(diǎn)咖啡是如何實(shí)現(xiàn)的？網(wǎng)絡(luò)安全機(jī)構(gòu)“知道創(chuàng)宇404實(shí)驗(yàn)室”總監(jiān)隋剛解釋，端側(cè)大模型在手機(jī)應(yīng)用時(shí)需要RAG（Retrieval-augmented Generation，檢索增強(qiáng)生成）、微調(diào)（Fine-tuning）、智能體（Agent）以及工作流（Workflow）配合私有領(lǐng)域數(shù)據(jù)實(shí)現(xiàn)落地。“RAG和微調(diào)是讓智能體對當(dāng)前環(huán)境的有感知，比如一些規(guī)章制度、財(cái)務(wù)知識等私有領(lǐng)域的知識，主要目的就是越精準(zhǔn)越好。智能體相當(dāng)于是一個(gè)代理人。Workflow則是告訴AI助手整體的操作流程?！彼鍎傉f。隋剛表示，結(jié)合上述邏輯對點(diǎn)咖啡進(jìn)行拆解，會發(fā)現(xiàn)這一動作包含幾個(gè)業(yè)務(wù)系統(tǒng)：支付系統(tǒng)；咖啡店的業(yè)務(wù)接口，主要信息有訂單量、送貨地址，聯(lián)系電話等；此外還需要手機(jī)的語音識別功能。隋剛告訴我們，在這一場景下，端側(cè)大模型所做的就是：通過大模型將人類的語音、文字等模糊指令變成計(jì)算機(jī)能理解的精確指令。某手機(jī)廠商的一位端側(cè)大模型工程師告訴我們，在這樣的總體運(yùn)行框架下，AI助手操作手機(jī)主要有兩種方式。第一種是使用手機(jī)系統(tǒng)內(nèi)置的標(biāo)準(zhǔn)API接口調(diào)用App，這種方式需經(jīng)過第三方App許可，較為穩(wěn)健和安全，也有利于多方獲益。目前，蘋果和華為都在推出其意圖框架，即標(biāo)準(zhǔn)接口合作方案。這些方案旨在設(shè)計(jì)統(tǒng)一的合作模式，并在開發(fā)者文檔中提供詳細(xì)的接入指引。App開發(fā)者可以根據(jù)自己的需求，自主選擇是否接入這些框架，以及如何接入。開發(fā)者還可以決定開放哪些應(yīng)用場景和接口，以便更好地利用這些平臺提供的功能和服務(wù)。一位手機(jī)行業(yè)人士表示，盡管一些國產(chǎn)安卓手機(jī)廠商也推出了各自的意圖框架，但一方面由于生態(tài)號召力不足，需要與App開發(fā)者一對一談合作，另一方面因?yàn)楫?dāng)前手機(jī)端側(cè)部署的大模型能力依然有限，不能很好地實(shí)現(xiàn)用戶所期待的真正的AI功能，而且速度較慢，因此目前接入的App數(shù)量仍相對較少。因此，它們選擇另一種能短期見效，但對用戶而言存在風(fēng)險(xiǎn)的方式——調(diào)用手機(jī)系統(tǒng)的無障礙功能。據(jù)谷歌開發(fā)者官網(wǎng)介紹，無障礙服務(wù)（AccessibilityService）是一種系統(tǒng)級別的API，旨在輔助殘障人士更便捷地使用安卓設(shè)備及應(yīng)用。它能夠代表應(yīng)用與用戶進(jìn)行交互，比如將文本內(nèi)容轉(zhuǎn)換成語音朗讀，或者在用戶將鼠標(biāo)指針懸停于屏幕上的關(guān)鍵區(qū)域時(shí)，給予用戶觸覺反饋。安卓官方文檔中對無障礙服務(wù)的使用有著明確規(guī)范，強(qiáng)調(diào)無障礙權(quán)限的用途僅限于協(xié)助殘障用戶更好地操作安卓設(shè)備和應(yīng)用。此外，該權(quán)限的啟用需由用戶在設(shè)備的設(shè)置選項(xiàng)中主動開啟，以確保用戶對權(quán)限的使用有清晰認(rèn)知和明確授權(quán)。智能助手使用的識屏、模擬點(diǎn)擊，均為無障礙權(quán)限范疇。據(jù)安卓幫助官方文檔介紹，無障礙服務(wù)的主要功能有：使用屏幕閱讀器，即通過輕觸和語音反饋功能與設(shè)備進(jìn)行互動；更改顯示設(shè)置，例如使用屏幕放大功能、開啟深色主題或顏色反轉(zhuǎn)功能等；互動控件，例如開關(guān)控制、自動點(diǎn)擊等；音頻和字幕，例如放大周圍說話聲和設(shè)備上音頻的聲音，更改字幕格式等。
無障礙功能的初衷是為了讓殘障人士得以與健全人一樣使用智能手機(jī)，但有時(shí)卻被濫用在用戶使用的其他軟件中。由于無障礙功能強(qiáng)大，一些人借此開發(fā)出了自動關(guān)閉彈窗廣告、搶紅包、搶票等軟件，成為被灰黑產(chǎn)利用的主要技術(shù)漏洞之一，違背了無障礙功能的初心。福建省龍巖市中級人民法院2019年的一份判決書顯示，多位被告開發(fā)的“超級雷神”應(yīng)用程序，在未經(jīng)授權(quán)的情況下，利用無障礙功能增加了“自動搶紅包”等功能，構(gòu)成侵入計(jì)算機(jī)信息系統(tǒng)程序罪，其中三名被告獲刑三年。2021年，百豪公司利用無障礙權(quán)限及監(jiān)聽消息通知等功能，開發(fā)出的自動搶紅包外掛“紅包獵手”“多多搶紅包”。這一行為被杭州鐵路運(yùn)輸法院認(rèn)定為構(gòu)成不正當(dāng)競爭，一審判處賠償騰訊公司70萬元，二審、終審均維持原判。谷歌曾多次限制App使用無障礙功能。早在2017年時(shí)，谷歌就曾要求開發(fā)者在使用無障礙功能時(shí)，必須嚴(yán)格限制權(quán)限；同時(shí)必須明確描述使用無障礙功能的目的，否則將拒絕開發(fā)者的使用請求。在2022年的安卓13中，谷歌再次縮窄使用范圍，拒絕側(cè)載的App使用無障礙功能。當(dāng)用戶要開啟授權(quán)時(shí)，安卓系統(tǒng)會提示“為了您的安全，此設(shè)置當(dāng)前不可用”。2024年，谷歌又在新版本的安卓系統(tǒng)中新增了“增強(qiáng)確認(rèn)模式”，使側(cè)載App更難以使用無障礙權(quán)限。但值得注意的是，谷歌的限制囿于App層面，由于手機(jī)廠商可以充分個(gè)性化定制操作系統(tǒng)，谷歌無法監(jiān)管手機(jī)廠商如何使用無障礙權(quán)限。無障礙權(quán)限近乎于手機(jī)系統(tǒng)級別的最高權(quán)限，開啟后，手機(jī)廠商或App能夠監(jiān)控整個(gè)系統(tǒng)的運(yùn)行，甚至完全控制手機(jī)。過往曾有多起惡意程序借由無障礙權(quán)限盜取資金的案例。2021年，一款安卓木馬應(yīng)用SharkBot將自己隱藏在“RecoverFiles”的文件恢復(fù)工具中，一旦安裝，就會以改進(jìn)功能的幌子，要求開啟無障礙訪問權(quán)限。隨后它通過自動填充網(wǎng)銀App中的字段、繞過App設(shè)置的身份驗(yàn)證機(jī)制，實(shí)現(xiàn)了資金竊取。2024年3月，360手機(jī)衛(wèi)士發(fā)現(xiàn)，一批色情App通過誘導(dǎo)用戶安裝“xx加速器”“xx高速下載助手”等，實(shí)則是遠(yuǎn)程操控的木馬應(yīng)用。這類應(yīng)用被下載后，會引導(dǎo)用戶開啟無障礙權(quán)限，隨后監(jiān)控頂層頁面和鍵盤，竊取支付密碼、設(shè)備解鎖密碼，并將信息上傳到遠(yuǎn)程操控的后臺。在監(jiān)聽到用戶半小時(shí)未使用手機(jī)后，木馬應(yīng)用會偷偷點(diǎn)開轉(zhuǎn)賬網(wǎng)頁，輸入轉(zhuǎn)賬密碼，甚至完成后清理瀏覽器的痕跡，再自動卸載。一位不愿具名的網(wǎng)絡(luò)安全人士表示，在沒有AI大模型的年代，對單個(gè)App開啟無障礙權(quán)限的風(fēng)險(xiǎn)已經(jīng)很高，而如果有大模型加持，手機(jī)系統(tǒng)一旦默認(rèn)開啟了無障礙權(quán)限，將會帶來極大的風(fēng)險(xiǎn)。通過讀屏（截屏）方式，用戶手機(jī)頁面上所有信息一覽無余，甚至包括通過金融App安全鍵盤輸入的銀行支付密碼。大模型還可以通過進(jìn)一步分析，獲得用戶的身份、定位等敏感信息。這位人士擔(dān)心，一旦黑客控制了手機(jī)端側(cè)AI，例如使用了Prompt（提示詞）注入攻擊，便可通過誘導(dǎo)智能助手訪問惡意網(wǎng)站，并下載精心構(gòu)造的惡意程序，導(dǎo)致用戶終端被遠(yuǎn)程控制，獲取個(gè)人隱私，甚至資金被盜。隋剛表示，目前來看，借用無障礙權(quán)限“走捷徑”的一些AI手機(jī)蘊(yùn)含著巨大的安全風(fēng)險(xiǎn)。AI可以通過數(shù)學(xué)函數(shù)公式對人類的聲音進(jìn)行克隆。而在人類與大模型的交互過程中，基本沒有鑒權(quán)等安全措施，唯一的鑒權(quán)點(diǎn)是輸入手機(jī)屏幕解鎖密碼以及支付密碼時(shí)?！皩?shí)際上，輸入支付密碼也可以委托給智能體?！彼鍎傉f。
AI手機(jī)時(shí)代，如何堵住安全漏洞？隨著AI技術(shù)飛速發(fā)展，手機(jī)智能助手作為其中重要的應(yīng)用場景，也暴露出了一些新型監(jiān)管盲區(qū)問題。雖然目前相關(guān)部門尚未出臺專門針對手機(jī)智能助手的監(jiān)管政策，但根據(jù)已有的政策法規(guī)，可以大致梳理出相關(guān)的監(jiān)管要點(diǎn)。首先，智能助手本身屬于App應(yīng)用，與其他第三方App一樣，都要受到現(xiàn)有App監(jiān)管規(guī)范約束。2021年，國家網(wǎng)信辦、工信部、公安部、市場監(jiān)管總局四部門制訂《常見類型移動互聯(lián)網(wǎng)應(yīng)用程序必要個(gè)人信息范圍規(guī)定》中明確，App包括移動智能終端預(yù)置、下載安裝的應(yīng)用軟件。就此而言，手機(jī)出廠自帶的手機(jī)智能助手也是App，與第三方App一樣需要遵循App監(jiān)管規(guī)則。然而，通過實(shí)測發(fā)現(xiàn)，盡管目前市面上大部分手機(jī)智能助手需要用戶授權(quán)后才可以輔助接管手機(jī)，也提供了關(guān)閉授權(quán)的按鈕，如華為、小米、vivo等，但也有一些手機(jī)廠商未嚴(yán)格遵守個(gè)人信息收集的相關(guān)規(guī)定。比如，榮耀MagicOS 9.0上的YOYO智能助手，開啟無障礙權(quán)限，并不需要用戶授權(quán)，也有沒有提供關(guān)閉選項(xiàng)。在榮耀2024年9月30日更新的《關(guān)于YOYO助理與隱私的聲明》中，“設(shè)備權(quán)限調(diào)用”部分未標(biāo)明YOYO助理使用了讀屏、模擬點(diǎn)擊等無障礙權(quán)限。同時(shí)，設(shè)置中也沒有提供管理YOYO助理權(quán)限的選項(xiàng)，但并不妨礙該App使用讀屏和模擬點(diǎn)擊等無障礙功能。即使是榮耀端側(cè)AI相關(guān)的“榮耀AI·基礎(chǔ)服務(wù)”“情景感知”兩項(xiàng)功能，用戶均可以選擇開啟或關(guān)閉無障礙權(quán)限，但YOYO助理卻無法選擇。此外，綜合對比榮耀YOYO、榮耀信息及其他手機(jī)智能助手的權(quán)限開啟按鈕后，可以發(fā)現(xiàn)，榮耀YOYO向用戶開放的權(quán)限選擇有限。也就是說，YOYO助理實(shí)際上獲得了超越一般App的系統(tǒng)級特權(quán)?！毒W(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》均強(qiáng)調(diào)，網(wǎng)絡(luò)產(chǎn)品、服務(wù)具有收集用戶信息功能的，其提供者應(yīng)當(dāng)向用戶明確告知并取得同意。而根據(jù)2019年11月上述四部門印發(fā)的《App違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法》，以下行為被認(rèn)定為“未經(jīng)用戶同意收集使用個(gè)人信息”：征得用戶同意前就開始收集個(gè)人信息或打開可收集個(gè)人信息的權(quán)限；用戶明確表示不同意后，仍收集個(gè)人信息或打開可收集個(gè)人信息的權(quán)限，或頻繁征求用戶同意、干擾用戶正常使用。其次，手機(jī)智能助手的重大更新，也已涉及新的涉詐風(fēng)險(xiǎn)或數(shù)據(jù)安全風(fēng)險(xiǎn)問題。在App層面，此類安全風(fēng)險(xiǎn)評估早已啟動。多位App開發(fā)企業(yè)相關(guān)負(fù)責(zé)人表示，自2024年4月1日起，App等電信和互聯(lián)網(wǎng)業(yè)務(wù)若涉及重大業(yè)務(wù)功能更新，如業(yè)務(wù)提供的功能模塊、使用方式、信息傳播方式或渠道等發(fā)生較大變化時(shí)，應(yīng)當(dāng)啟動涉詐風(fēng)險(xiǎn)安全評估，并上報(bào)工信部。2024年10月1日，中國通信標(biāo)準(zhǔn)化協(xié)會還頒布了《電信領(lǐng)域數(shù)據(jù)安全風(fēng)險(xiǎn)評估規(guī)范》，指出評估團(tuán)隊(duì)?wèi)?yīng)綜合分析數(shù)據(jù)處理活動存在的安全風(fēng)險(xiǎn)。數(shù)據(jù)一旦遭到篡改、破壞、泄露或者非法獲取、非法利用，可能對國家安全、公共利益產(chǎn)生的影響及影響程度。而一些手機(jī)智能助手的AI功能更新后，因開啟了無障礙權(quán)限，數(shù)據(jù)泄漏、財(cái)產(chǎn)轉(zhuǎn)移等詐騙風(fēng)險(xiǎn)將大大提升。不僅如此，個(gè)人數(shù)據(jù)、App數(shù)據(jù)的規(guī)?；孤┮嘤锌赡茉斐芍卮缶W(wǎng)絡(luò)安全事故。但是，這些手機(jī)智能助手App在上架前是否通過涉詐安全風(fēng)險(xiǎn)及數(shù)據(jù)安全風(fēng)險(xiǎn)評估，尚不可知。再次，智能助手對于第三方APP的數(shù)據(jù)侵入引發(fā)的數(shù)據(jù)安全風(fēng)險(xiǎn)需引起重點(diǎn)關(guān)注。根據(jù)《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》第十二條規(guī)定，兩個(gè)以上的網(wǎng)絡(luò)數(shù)據(jù)處理者共同決定個(gè)人信息和重要數(shù)據(jù)的處理目的和處理方式的，應(yīng)當(dāng)約定各自的權(quán)利和義務(wù)。第十八條規(guī)定，網(wǎng)絡(luò)數(shù)據(jù)處理者使用自動化工具訪問、收集網(wǎng)絡(luò)數(shù)據(jù)，應(yīng)當(dāng)評估對網(wǎng)絡(luò)服務(wù)帶來的影響，不得非法侵入他人網(wǎng)絡(luò)，不得干擾網(wǎng)絡(luò)服務(wù)正常運(yùn)行。如果智能助手通過調(diào)用無障礙權(quán)限獲取數(shù)據(jù)，模擬點(diǎn)擊方案未經(jīng)第三方App許可，則違反了上述數(shù)據(jù)收集處理規(guī)范，相關(guān)數(shù)據(jù)安全責(zé)任也難以被清晰界定。例如，通過手機(jī)智能助手點(diǎn)外賣、充會員，若出現(xiàn)售后糾紛，是手機(jī)廠商負(fù)責(zé)還是外賣平臺負(fù)責(zé)？更嚴(yán)重的情況，若通過手機(jī)助手轉(zhuǎn)賬匯款，出現(xiàn)差錯(cuò)，是手機(jī)廠商負(fù)責(zé)還是金融類App負(fù)責(zé)？再有，開啟無障礙權(quán)限后的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)極高，如果用戶手機(jī)被黑客劫持，盜取錢財(cái)或個(gè)人隱私、商業(yè)機(jī)密，應(yīng)該由手機(jī)廠商還是App負(fù)責(zé)？事實(shí)上，早在2017年，中國互聯(lián)網(wǎng)協(xié)會就發(fā)布了《移動智能終端應(yīng)用軟件分發(fā)服務(wù)自律公約》（下稱《自律公約》），首批簽署者包括華為、小米、OPPO、vivo、騰訊、阿里、百度、360等16家成員單位。為了防止未來可能發(fā)生的不正當(dāng)競爭手段，在《自律公約》的公平競爭規(guī)則中明確了不得濫用無障礙功能，就是防止對這一為殘障人士特別設(shè)計(jì)的特殊權(quán)限，被用作干擾、破壞或者侵入他人產(chǎn)品的渠道。在大模型時(shí)代，端側(cè)AI及其智能助手是不容忽視的應(yīng)用創(chuàng)新場景，但為實(shí)現(xiàn)AI功能，有的手機(jī)廠商選擇了無障礙這種“技術(shù)捷徑”，可能給用戶隱私帶來風(fēng)險(xiǎn)，并可能侵犯第三方App合法權(quán)益。因此，有業(yè)內(nèi)人士建議，手機(jī)智能助手調(diào)用第三方App應(yīng)該嚴(yán)格合規(guī)、采用標(biāo)準(zhǔn)接口合作模式。同時(shí)，明確手機(jī)智能助手與第三方App的平等地位，嚴(yán)格參照App相關(guān)監(jiān)管要求，規(guī)范其對個(gè)人信息的收集和處理，并對其進(jìn)行數(shù)據(jù)安全監(jiān)管。“手機(jī)智能助手實(shí)現(xiàn)‘智能駕駛’的今天，安全仍是底線，要把選擇權(quán)真正交給用戶?！鄙鲜鰳I(yè)內(nèi)人士表示。
責(zé)編 | 王 寧
