人工智能時(shí)代,以大模型為代表的技術(shù)已成為國(guó)際競(jìng)爭(zhēng)新焦點(diǎn)與經(jīng)濟(jì)發(fā)展新引擎,深刻改變社會(huì)格局并廣泛應(yīng)用于目標(biāo)檢測(cè)、語(yǔ)音識(shí)別、自然語(yǔ)言處理等關(guān)鍵領(lǐng)域。以DeepSeek等為代表的大模型正迅速滲透各行各業(yè),驅(qū)動(dòng)新一代AI發(fā)展浪潮。

然而,在帶來巨大便利與機(jī)遇的同時(shí),大模型也暴露出嚴(yán)峻的安全挑戰(zhàn):模型訓(xùn)練與使用過程中的隱私泄露、自身安全性問題日益凸顯;其風(fēng)險(xiǎn)深藏于語(yǔ)義與算力層,使得僅關(guān)注協(xié)議與流量的傳統(tǒng)防火墻無力應(yīng)對(duì)提示詞注入攻擊、敏感數(shù)據(jù)泄露及GPU算力惡意消耗等新型威脅;同時(shí),全球日益收緊的AI與數(shù)據(jù)安全法規(guī),也使大模型生成內(nèi)容的合規(guī)性審查成為企業(yè)必須面對(duì)的嚴(yán)峻課題。這些“系統(tǒng)性短板”涵蓋安全架構(gòu)、漏洞響應(yīng)、數(shù)據(jù)合規(guī)等方面,亟待通過技術(shù)突破、管理強(qiáng)化與多方協(xié)同,建立完善的內(nèi)生安全機(jī)制,以保障大模型在各個(gè)關(guān)鍵領(lǐng)域安全運(yùn)行。

面對(duì)AI時(shí)代的系統(tǒng)性挑戰(zhàn),6月24日,騰訊云舉辦“開箱吧,騰訊云”大模型安全發(fā)布會(huì),正式推出面向大模型應(yīng)用場(chǎng)景的全棧安全解決方案。發(fā)布會(huì)上,騰訊云重磅發(fā)布兩大全新產(chǎn)品——LLM-WAF大模型防火墻和AISPM大模型安全態(tài)勢(shì)管理平臺(tái),并揭示GuardLM技術(shù)的突破。三位來自騰訊的安全專家登臺(tái),通過直觀的產(chǎn)品功能演示,深入剖析在復(fù)雜多變的大模型安全態(tài)勢(shì)下,企業(yè)普遍面臨的各類通用安全問題,并結(jié)合金融、泛互、零售等不同行業(yè)領(lǐng)域的實(shí)際案例,分享騰訊云在大模型安全防護(hù)方面的成功實(shí)踐經(jīng)驗(yàn)和行業(yè)領(lǐng)先的安全策略,助力企業(yè)構(gòu)建可信賴的大模型安全防線。

從技術(shù)到組織體系:縱深應(yīng)對(duì)大模型多重安全風(fēng)險(xiǎn)

AI技術(shù)帶來新的生產(chǎn)驅(qū)動(dòng)力,企業(yè)數(shù)字化進(jìn)入“大模型時(shí)代”。在企業(yè)將大模型投入實(shí)際應(yīng)用的過程中,騰訊云安全總結(jié)了大模型企業(yè)應(yīng)用十大常見安全風(fēng)險(xiǎn),涵蓋樣本投毒、提示詞注入攻擊、第三方代碼或開源模型帶來的供應(yīng)鏈風(fēng)險(xiǎn),以及自動(dòng)化Agent權(quán)限濫用、模型推理被劫持等新型AI應(yīng)用威脅。這些風(fēng)險(xiǎn)貫穿于企業(yè)應(yīng)用大模型的各個(gè)環(huán)節(jié),構(gòu)成關(guān)鍵挑戰(zhàn)。騰訊云安全總經(jīng)理李濱分析,這些風(fēng)險(xiǎn)并非孤立存在,而是從數(shù)據(jù)采集、處理、模型訓(xùn)練、部署到最終應(yīng)用的整個(gè)AI技術(shù)生命周期中端到端傳導(dǎo)的。

李濱總結(jié),大模型安全問題本質(zhì)上是一次全方位的安全體系升級(jí),而非局限于局部對(duì)抗,需要從全局視角建立系統(tǒng)框架。為此,騰訊云安全從技術(shù)、管理、合規(guī)、倫理四大維度出發(fā),全面覆蓋數(shù)據(jù)隱私、模型自身、應(yīng)用集成、基礎(chǔ)設(shè)施以及治理倫理等領(lǐng)域,構(gòu)建 AI 時(shí)代的動(dòng)態(tài)安全生態(tài)。

騰訊云大模型安全治理框架以安全基準(zhǔn)、安全運(yùn)營(yíng)和安全合規(guī)三大支柱為基礎(chǔ),形成了覆蓋模型基礎(chǔ)設(shè)施到應(yīng)用全生命周期的立體化技術(shù)防護(hù)方案,針對(duì)不同階段風(fēng)險(xiǎn)部署相應(yīng)策略,構(gòu)建起大模型安全的縱深防御體系。

在內(nèi)容輸入和輸出環(huán)節(jié),由于樣本劫持、數(shù)據(jù)投毒或者模型本身的幻覺等原因,大模型可能會(huì)生成有風(fēng)險(xiǎn)的內(nèi)容,而騰訊云天御基于多年內(nèi)容安全的能力,能幫助企業(yè)進(jìn)行大模型應(yīng)對(duì)這一安全隱患。

在攻防對(duì)抗與情報(bào)方面,騰訊云安全建立了大模型安全Red Team對(duì)抗機(jī)制,以騰訊的安全專家能力為基礎(chǔ),建立針對(duì)大模型的安全測(cè)試方法,主動(dòng)發(fā)現(xiàn)大模型及生態(tài)存在的風(fēng)險(xiǎn),并依托這些安全研究成果,研發(fā)了專門針對(duì)大模型進(jìn)行安全保護(hù)的大模型安全態(tài)勢(shì)感知系統(tǒng)AISPM和大模型智能安全網(wǎng)關(guān)LLM-WAF,為企業(yè)大模型應(yīng)用進(jìn)行全生命周期保障護(hù)航。

在合法合規(guī)標(biāo)準(zhǔn)方面,騰訊云安全也積極參與大模型相關(guān)標(biāo)準(zhǔn)的制定工作,如參與起草《生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》和《大語(yǔ)言模型安全測(cè)試方法》國(guó)際標(biāo)準(zhǔn)等,依托自研大模型混元為企業(yè)保駕護(hù)航。

LLM-WAF:大模型服務(wù)“專業(yè)門衛(wèi)”

據(jù)IDC數(shù)據(jù),2024年全球AI IT總投資達(dá)3158億美元,預(yù)計(jì)2028年將增至8159億美元,五年復(fù)合增長(zhǎng)率32.9%。AI大模型從實(shí)驗(yàn)室走向各行業(yè),成為企業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵力量。然而,隨著AI與企業(yè)業(yè)務(wù)融合加深,安全問題和需求也日益凸顯。騰訊云安全高級(jí)產(chǎn)品經(jīng)理王軍從案例出發(fā)揭示大模型四大安全痛點(diǎn),從BOT濫爬、API風(fēng)險(xiǎn),到提示詞注入攻擊,再到不當(dāng)信息濫用,大模型提升業(yè)務(wù)效率的同時(shí)也帶來安全隱患。只有在上線初期就將大模型安全防護(hù)能力“一體化”接入業(yè)務(wù),才能避免效率紅利被安全風(fēng)險(xiǎn)吞噬。

基于此,騰訊云WAF在原有基礎(chǔ)上,正式面向大模型業(yè)務(wù)推出大模型安全防護(hù)模塊LLM-WAF。該產(chǎn)品采用創(chuàng)新的架構(gòu)理念,專為大模型應(yīng)用場(chǎng)景打造,能夠在多模型、多場(chǎng)景、高并發(fā)環(huán)境下提供全鏈路防護(hù)。LLM-WAF支持企業(yè)大模型業(yè)務(wù)5分鐘快速接入防護(hù),兼容騰訊混元、DeepSeek等多種主流大模型。其智能安全防護(hù)引擎可高效檢測(cè)并攔截算力濫用、提示詞攻擊、不當(dāng)內(nèi)容、數(shù)據(jù)泄露等各類安全風(fēng)險(xiǎn),為大模型業(yè)務(wù)運(yùn)行提供全面保障。

騰訊云安全高級(jí)產(chǎn)品經(jīng)理王軍介紹,LLM-WAF的核心優(yōu)勢(shì)具體表現(xiàn)在:一支持輕松接入,即刻防護(hù),5分鐘內(nèi)完成配置;二是智能守護(hù)算力資源,實(shí)時(shí)監(jiān)測(cè)攔截異常算力濫用行為;三是內(nèi)容安全雙重保障,通過兩道防線識(shí)別不當(dāng)及敏感信息;四是API安全縱深防御,覆蓋API全生命周期,降低數(shù)據(jù)泄露風(fēng)險(xiǎn);五是BOT流量精準(zhǔn)管理,結(jié)合AI驅(qū)動(dòng)精準(zhǔn)識(shí)別和動(dòng)態(tài)挑戰(zhàn)機(jī)制確保核心接口資源安全;六是合規(guī)有保障,提供詳細(xì)攻擊日志記錄,滿足審計(jì)需求。基于此,LLM-WAF在真實(shí)業(yè)務(wù)場(chǎng)景下能夠提供強(qiáng)大防護(hù)能力——無論是防止惡意提示詞注入,還是攔截高風(fēng)險(xiǎn)內(nèi)容輸出,LLM-WAF都能實(shí)現(xiàn)實(shí)時(shí)防護(hù),并為企業(yè)提供可定制化的攔截響應(yīng)與完整的攻擊溯源能力,助力構(gòu)建安全、合規(guī)、可控的大模型應(yīng)用環(huán)境。

目前,LLM-WAF在多個(gè)行業(yè)有典型應(yīng)用場(chǎng)景。金融行業(yè)用于智能投顧、對(duì)話銀行等業(yè)務(wù),可防護(hù)提示攻擊、API套利等風(fēng)險(xiǎn),保障交易、數(shù)據(jù)合規(guī)和系統(tǒng)可用性。泛互行業(yè)用于內(nèi)容平臺(tái)等,應(yīng)對(duì)爬蟲、越獄Prompt等威脅,平衡內(nèi)容生產(chǎn)與合規(guī)治理。零售行業(yè)用于智能客服等,防范品牌聲譽(yù)受損和利潤(rùn)侵蝕,確保業(yè)務(wù)穩(wěn)定可靠。

AISPM:大模型安全“園區(qū)天眼”

當(dāng)前大模型部署與使用呈現(xiàn)泛濫趨勢(shì),一方面源于大模型能力提升及應(yīng)用場(chǎng)景拓展,另一方面因云廠商方案簡(jiǎn)化、API 服務(wù)發(fā)展及開源模型迭代降低了部署使用門檻,使業(yè)務(wù)接入成本大幅下降。然而,安全團(tuán)隊(duì)未能及時(shí)制定大模型應(yīng)用體系的管理方案,將使大模型應(yīng)用脫離安全管控。同時(shí),大模型應(yīng)用還引入了新的風(fēng)險(xiǎn)如引用的大模型組件存在漏洞,以及組件配置不當(dāng)導(dǎo)致的未授權(quán)訪問等問題。

AISPM通過持續(xù)檢測(cè)、評(píng)估AI模型和數(shù)據(jù)的安全態(tài)勢(shì),協(xié)助企業(yè)應(yīng)對(duì)挑戰(zhàn)。對(duì)于企業(yè)來說,基于AISPM掌握自身全部的模型、訓(xùn)練數(shù)據(jù)、供應(yīng)鏈和web接口安全情況,都是非常必要的。

為此,騰訊云推出AISPM大模型安全態(tài)勢(shì)管理產(chǎn)品以應(yīng)對(duì)大模型專項(xiàng)安全治理場(chǎng)景。該系統(tǒng)提供網(wǎng)絡(luò)掃描和主機(jī)端檢測(cè),提供資產(chǎn)識(shí)別、風(fēng)險(xiǎn)檢測(cè)、攻擊示警等核心能力,支持80余種大模型組件的識(shí)別,能夠檢測(cè)200多個(gè)大模型組件漏洞,并實(shí)時(shí)監(jiān)控針對(duì)大模型的網(wǎng)絡(luò)攻擊行為,使企業(yè)安全團(tuán)隊(duì)能夠及時(shí)掌握大模型應(yīng)用情況,避免敏感數(shù)據(jù)被用于推理或訓(xùn)練而引發(fā)的法律合規(guī)風(fēng)險(xiǎn)。

發(fā)布會(huì)上,騰訊云安全高級(jí)產(chǎn)品經(jīng)理毛武斌全方位演示了AISPM在AI資產(chǎn)識(shí)別、風(fēng)險(xiǎn)檢測(cè)、攻擊行為監(jiān)控等方面的相關(guān)能力。AISPM在騰訊云安全中心上是一個(gè)獨(dú)立的頁(yè)面,可根據(jù)企業(yè)具體場(chǎng)景需求進(jìn)行全量資產(chǎn)或指定部分資產(chǎn)進(jìn)行檢測(cè),進(jìn)而全面清晰呈現(xiàn)當(dāng)前資產(chǎn)面臨的暴露路徑、網(wǎng)絡(luò)攻擊來源及風(fēng)險(xiǎn),幫助企業(yè)掌握大模型資產(chǎn)的安全態(tài)勢(shì),以便及時(shí)響應(yīng),守護(hù)企業(yè)的AI安全生態(tài)。

大模型技術(shù)的興起為網(wǎng)絡(luò)安全領(lǐng)域帶來了全新的挑戰(zhàn)與機(jī)遇,企業(yè)需要以開放的心態(tài)、創(chuàng)新的思維和務(wù)實(shí)的行動(dòng),攜手平衡挑戰(zhàn)與機(jī)遇。騰訊云也將持續(xù)快速迭代,以更創(chuàng)新、場(chǎng)景化的安全產(chǎn)品及解決方案,幫助客戶增強(qiáng)AI系統(tǒng)的安全性、提升防御主動(dòng)性、降低攻擊面,與行業(yè)伙伴攜手共建一個(gè)更加安全、可信的AI時(shí)代。

免責(zé)聲明：市場(chǎng)有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎！此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：