以AI對(duì)抗AI，金融行業(yè)如何利用AI提高安全水位？

2024-12-20 11:46| 發(fā)布者: admin| 查看: 98| 評(píng)論: 0

摘要: 日新月異的AI技術(shù)，猶如達(dá)摩克里斯之劍，不僅帶來機(jī)遇，更有挑戰(zhàn)和風(fēng)險(xiǎn)。今年5月，AI詐騙在全國(guó)爆發(fā)的話題沖上熱搜第一，引發(fā)網(wǎng)友熱議。湖北網(wǎng)警巡查執(zhí)法稱，AI技術(shù)正在改變?cè)p騙，某些新騙局詐騙成功率接近100%。騰 ...

日新月異的AI技術(shù)，猶如達(dá)摩克里斯之劍，不僅帶來機(jī)遇，更有挑戰(zhàn)和風(fēng)險(xiǎn)。

今年5月，AI詐騙在全國(guó)爆發(fā)的話題沖上熱搜第一，引發(fā)網(wǎng)友熱議。湖北網(wǎng)警巡查執(zhí)法稱，AI技術(shù)正在改變?cè)p騙，某些新騙局詐騙成功率接近100%。

騰訊安全副總裁、玄武實(shí)驗(yàn)室負(fù)責(zé)人于旸

在金融行業(yè)，如何以AI對(duì)抗AI，最終在AI時(shí)代的攻防對(duì)抗中取勝？12月6日，2024首屆騰訊云金融安全峰會(huì)上，騰訊安全副總裁、玄武實(shí)驗(yàn)室負(fù)責(zé)人于旸表示，隨著大模型技術(shù)被黑灰產(chǎn)惡意使用，金融行業(yè)面臨更“定制化、針對(duì)性”的安全威脅。但與此同時(shí)，大模型技術(shù)也可提升安全人員在漏洞挖掘、滲透分析等方面的效率。

“安全運(yùn)營(yíng)不是新的需求，并非依靠AI能實(shí)現(xiàn)0到1的提升，在細(xì)分領(lǐng)域需要慢慢積累行業(yè)性的沉淀，數(shù)據(jù)的準(zhǔn)備、對(duì)接、場(chǎng)景的顆粒度細(xì)化將實(shí)現(xiàn)步步推進(jìn)，不斷達(dá)成進(jìn)步?！彬v訊安全副總經(jīng)理、科恩實(shí)驗(yàn)室專家聶森告訴澎湃新聞?dòng)浾?，以AI對(duì)抗AI是金融行業(yè)保障安全的必經(jīng)之路，攻防雙方只有在同一起跑線，才能達(dá)到“勢(shì)均力敵”的效果。

硬幣的兩面：AI的機(jī)遇和挑戰(zhàn)

說起AI帶來的金融風(fēng)險(xiǎn)，在2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)上，業(yè)內(nèi)人士曾將AI帶來的安全危機(jī)總結(jié)為“三化”，即黑箱化、黑產(chǎn)化、武器化。黑產(chǎn)化強(qiáng)調(diào)了深度偽造的危害。在AI的加持下，深度偽造越來越貼近真實(shí)，無論是公眾還是企業(yè)，都很難逃脫深偽詐騙的陷阱。

黑箱化指的是在生成AI大模型的過程中存在黑箱，模糊了攻擊者可能采取的具體破壞手段，從而導(dǎo)致有害內(nèi)容及錯(cuò)誤信息的泛濫。

武器化指的是人工智能可以生成惡意軟件、釣魚郵件，也可以快速發(fā)現(xiàn)目標(biāo)系統(tǒng)中的漏洞，大幅降低網(wǎng)絡(luò)攻擊門檻，讓不懂代碼、不懂技術(shù)的普通人也能成為黑客，使攻擊數(shù)量大幅增加。

不過，在業(yè)內(nèi)人士看來，AI帶來的更多是幫助，既能用推理能力應(yīng)對(duì)繁重工作，也能通過其潛力提高決策的智能化。

騰訊安全威脅情報(bào)產(chǎn)品規(guī)劃負(fù)責(zé)人高睿告訴記者，在AI+威脅情報(bào)的實(shí)際應(yīng)用中，效果最為顯著的是降噪功能。從現(xiàn)實(shí)來看，降噪的過程相當(dāng)于將最基礎(chǔ)、每天需要人工重復(fù)處理的任務(wù)交給了AI，從而解放了人力資源，這樣安全運(yùn)營(yíng)人員就能轉(zhuǎn)向研究更深入、更具挑戰(zhàn)性的安全問題。

此外，AI在安全運(yùn)營(yíng)方面還能起到進(jìn)一步的幫助。騰訊安全提出以AI輔助安全運(yùn)營(yíng)，將端側(cè)、流量側(cè)的數(shù)據(jù)匯總到“安全湖”，再利用AI大模型技術(shù)對(duì)“安全湖”進(jìn)行綜合研判，將威脅和指標(biāo)、響應(yīng)相結(jié)合，輸出成為自動(dòng)的指令，從而實(shí)現(xiàn)自動(dòng)化、閉環(huán)的響應(yīng)和處置流程。

AI如何為金融行業(yè)賦能

“在我的觀察中，金融機(jī)構(gòu)正在變得越來越有信心，在真正使用國(guó)產(chǎn)軟硬件后，發(fā)現(xiàn)不僅‘可用’也是‘好用’的，事情越來越靠譜了。”對(duì)于AI產(chǎn)品的具體應(yīng)用，騰訊金融云副總經(jīng)理王豐輝談到了自己的感受。

他介紹，騰訊安全已經(jīng)推出騰訊云數(shù)據(jù)安全審計(jì)（DSAudit），通過大模型來保障金融行業(yè)的數(shù)據(jù)合規(guī)和安全。

對(duì)于金融機(jī)構(gòu)來說，其擁有的數(shù)據(jù)大多是敏感數(shù)據(jù)，包括信息數(shù)據(jù)（如姓名、身份證等）、金融資產(chǎn)特征信息、股票賬號(hào)信息，還包括了微信號(hào)、GPS定位、QQ號(hào)碼等新型身份特征，以及新能源車輛信息等等。因此，保障數(shù)據(jù)安全不僅是合規(guī)需要，還是對(duì)自身業(yè)務(wù)的有力保障。

騰訊的云數(shù)據(jù)安全審計(jì)基于大數(shù)據(jù)+AI，構(gòu)建一個(gè)全面的數(shù)據(jù)安全監(jiān)控、異常行為分析和細(xì)粒度安全審計(jì)體系。產(chǎn)品自研了規(guī)則引擎、語義引擎、UEBA行為分析引擎這三大安全引擎，預(yù)置了700+規(guī)則模型，通過對(duì)事中數(shù)據(jù)風(fēng)險(xiǎn)監(jiān)測(cè)和事后異常行為審計(jì)能力，切實(shí)有效地保護(hù)數(shù)據(jù)的安全，防止數(shù)據(jù)泄露和濫用。

在規(guī)則引擎中，當(dāng)監(jiān)測(cè)到的操作或行為與規(guī)則相匹配時(shí)，引擎會(huì)觸發(fā)相應(yīng)的告警動(dòng)作。在語義引擎中，可以深度解析SQL語句，理解數(shù)據(jù)操作的真實(shí)意圖和目的，從而更準(zhǔn)確地識(shí)別潛在的安全威脅、不合規(guī)操作，減少誤報(bào)和漏報(bào)。

當(dāng)前中國(guó)已經(jīng)步入數(shù)字經(jīng)濟(jì)時(shí)代，銀行99%的業(yè)務(wù)都可以在線上完成，金融行業(yè)的重點(diǎn)也從業(yè)務(wù)變成服務(wù)。近年來，銀行等金融機(jī)構(gòu)正在面臨著新增零售信貸業(yè)務(wù)風(fēng)控難與存量零售風(fēng)控業(yè)務(wù)風(fēng)險(xiǎn)上升的雙重挑戰(zhàn)。

具體來看，零售信貸業(yè)務(wù)風(fēng)控主要圍繞在貸前調(diào)查和貸中、后管理。在這期間，隨著深度偽造技術(shù)的泛濫，銀行在風(fēng)控過程中容易面臨借款人主體資格不合規(guī)、提供虛假申請(qǐng)資料或還款能力不足等欺詐風(fēng)險(xiǎn)。

面對(duì)這一現(xiàn)狀，騰訊安全提出了天御金融風(fēng)控大模型，這也是業(yè)內(nèi)首個(gè)針對(duì)金融風(fēng)控的大模型。

據(jù)了解，騰訊云天御金融風(fēng)控大模型以騰訊安全20多年與黑產(chǎn)對(duì)抗經(jīng)驗(yàn)以及海量安全數(shù)據(jù)為基礎(chǔ)，集成了大模型、遷移學(xué)習(xí)和蒸餾學(xué)習(xí)等業(yè)界先進(jìn)技術(shù)，融合了多模態(tài)金融風(fēng)控?cái)?shù)據(jù)與知識(shí)的強(qiáng)大生成式智能風(fēng)控模型。

內(nèi)容+數(shù)據(jù)，全鏈路保障AI安全

對(duì)于金融行業(yè)來說，既然擁抱AI技術(shù)是一種必然，那么保障AI大模型的安全也是一種必然。

AI安全已成為業(yè)內(nèi)最重要的風(fēng)險(xiǎn)之一，主要包括三個(gè)方面：首先是模型訓(xùn)練階段，高風(fēng)險(xiǎn)、違規(guī)數(shù)據(jù)需要剔除，高質(zhì)量、連貫的對(duì)話需要審校。其次是內(nèi)容生成階段，包括新風(fēng)格的違規(guī)內(nèi)容、偽造類內(nèi)容和版權(quán)風(fēng)險(xiǎn)。最后是事后階段，對(duì)輿論不適或者內(nèi)容違規(guī)要及時(shí)改進(jìn)和響應(yīng)。

如果大模型在運(yùn)轉(zhuǎn)過程中出錯(cuò)，無疑將帶來高額的成本。在監(jiān)管方面，國(guó)家也在重拳出擊，重點(diǎn)提升AI安全。4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《生成式人工智能服務(wù)管理辦法（征求意見稿）》公開征求意見的通知，規(guī)定AIGC內(nèi)容不得含有暴恐、低俗、歧視、侵權(quán)等違法違規(guī)內(nèi)容，明確提出“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息”。

對(duì)于金融行業(yè)來說，更要兼顧政策合規(guī)等宏觀環(huán)境的制約，騰訊安全在AI內(nèi)容安全上的實(shí)踐可以作為很好的參考對(duì)象。

在內(nèi)容安全方面，騰訊安全推出了AIGC全鏈路內(nèi)容安全解決方案，提供包含審校服務(wù)、安全專家服務(wù)、機(jī)器審核服務(wù)、版權(quán)保護(hù)服務(wù)四大能力板塊，包含風(fēng)險(xiǎn)場(chǎng)景定義、風(fēng)險(xiǎn)語料庫服務(wù)、語料版權(quán)檢測(cè)、輸出價(jià)值觀檢測(cè)、業(yè)務(wù)傳播風(fēng)險(xiǎn)監(jiān)測(cè)等能力，覆蓋生成式AI應(yīng)用從模型訓(xùn)練到內(nèi)容生成到事后運(yùn)營(yíng)全過程的內(nèi)容安全建設(shè)。這套方案覆蓋AIGC類應(yīng)用從模型訓(xùn)練到內(nèi)容生成再到事后運(yùn)營(yíng)全過程的內(nèi)容安全建設(shè)，并已在多個(gè)場(chǎng)景實(shí)踐落地。

在數(shù)據(jù)合規(guī)和安全方面，為防范數(shù)據(jù)安全問題造成的隱私侵犯、經(jīng)濟(jì)損失、法律責(zé)任、聲譽(yù)損失等系列問題，需要對(duì)數(shù)據(jù)工程師、算法工程師等人員做好身份認(rèn)證、數(shù)據(jù)訪問控制以及操作管控，對(duì)數(shù)據(jù)做好防篡改、敏感數(shù)據(jù)去標(biāo)識(shí)化、以及數(shù)據(jù)行為審計(jì)和異常監(jiān)測(cè)。騰訊安全打造了數(shù)據(jù)安全治理解決方案，通過對(duì)大模型的用戶、實(shí)體、模型文件實(shí)施分級(jí)別的訪問控制，實(shí)現(xiàn)權(quán)限分離。同時(shí)，騰訊云通過數(shù)據(jù)安全治理中心、數(shù)據(jù)安全防護(hù)網(wǎng)關(guān)、機(jī)密計(jì)算平臺(tái)等產(chǎn)品能力，實(shí)現(xiàn)大模型業(yè)務(wù)全流程從數(shù)據(jù)采集、數(shù)據(jù)處理、訓(xùn)練、精調(diào)、發(fā)布、推理到應(yīng)用的過程中，海量數(shù)據(jù)和大模型的完整性和保密性。

目前，騰訊安全已經(jīng)在AI方面的投入正在逐漸加大，騰訊大模型基礎(chǔ)能力和應(yīng)用結(jié)合整體處在趨于加速的狀態(tài)。期望騰訊安全能夠進(jìn)一步推廣“AI+安全”，幫助金融機(jī)構(gòu)進(jìn)一步提高安全水位。

澎湃新聞?dòng)浾?范佳來

(本文來自澎湃新聞，更多原創(chuàng)資訊請(qǐng)下載“澎湃新聞”APP)