在當(dāng)今數(shù)字化轉(zhuǎn)型的浪潮中,大數(shù)據(jù)、云計算、人工智能等技術(shù)的飛速發(fā)展正深刻改變著各行各業(yè)。而網(wǎng)絡(luò)安全作為數(shù)字經(jīng)濟(jì)的基石,其重要性日益凸顯。隨著大模型技術(shù)的不斷突破和應(yīng)用,網(wǎng)絡(luò)安全領(lǐng)域正迎來一場由AI賦能的新革命。
7月31日,在ISC.AI 2024數(shù)字安全峰會上,360集團(tuán)創(chuàng)始人兼CEO周鴻祎表示,2024年網(wǎng)絡(luò)安全行業(yè)將迎來新革命,作為大模型重要場景,要“以模制!敝厮馨踩,而打造安全大模型是安全邁向“自動駕駛”的必由之路。
大模型持續(xù)賦能網(wǎng)絡(luò)安全
據(jù)工業(yè)和信息化部網(wǎng)絡(luò)安全管理局?jǐn)?shù)據(jù)顯示,2023年我國網(wǎng)絡(luò)安全產(chǎn)業(yè)規(guī)模已達(dá)約2200億元,上市企業(yè)達(dá)28家,產(chǎn)業(yè)綜合實力顯著增強。
另據(jù)業(yè)內(nèi)人士分析,AI將全面賦能網(wǎng)絡(luò)安全行業(yè)。以360集團(tuán)為例,其推出的360安全大模型由攻擊檢測、運營處置、追蹤溯源、知識管理、數(shù)據(jù)保護(hù)、代碼安全等六大專家子模型組成,幫助某國有大型企業(yè)用戶實現(xiàn)告警降噪效率提升900%,事件研判時間縮短96%。
騰訊發(fā)布的《2024大模型十大趨勢》報告顯示,大型語言模型(LLM)為人工智能帶來了前所未有的推理能力,能夠提供深入的分析和復(fù)雜的決策支持,為威脅檢測與響應(yīng)提供了更強大的智力支持。
“目前,我國網(wǎng)絡(luò)安全人才缺口達(dá)150萬人,隨著大模型成本的下降,一方面可以解決安全人才的缺口問題;另一方面,可以讓更多企業(yè)享受大模型和人工智能帶來的科技普惠!敝茗櫟t向《證券日報》記者表示。
一位不愿具名的行業(yè)分析師向《證券日報》記者表示,AI大模型通過持續(xù)對網(wǎng)絡(luò)環(huán)境進(jìn)行掃描,能夠及時發(fā)現(xiàn)和修復(fù)安全漏洞,提供具體的修復(fù)建議,甚至可以自動化的進(jìn)行修補。
“隨著技術(shù)的不斷進(jìn)步和應(yīng)用場景的不斷拓展,AI大模型將持續(xù)提升威脅檢測、欺詐預(yù)防、漏洞管理、安全運營優(yōu)化等方面的能力。并且將推動網(wǎng)絡(luò)安全產(chǎn)業(yè)的轉(zhuǎn)型升級,催生出新的技術(shù)、產(chǎn)品和模式!鄙鲜龇治鰩熣f。
網(wǎng)絡(luò)安全再遇挑戰(zhàn)
事實上,隨著人工智能的深入發(fā)展,大模型在賦能網(wǎng)絡(luò)安全防護(hù)的同時,網(wǎng)絡(luò)攻擊的方式和手段也在不斷演變,傳統(tǒng)的安全防護(hù)手段已難以有效應(yīng)對日益復(fù)雜的網(wǎng)絡(luò)威脅。相關(guān)數(shù)據(jù)顯示,2023年受供應(yīng)鏈安全威脅和風(fēng)險攻擊的比例高達(dá)所有網(wǎng)絡(luò)攻擊的一半,同比增長78%。
有業(yè)內(nèi)人士表示,AI大模型可以更快速地篡改企業(yè)數(shù)據(jù)、攻擊企業(yè)核心系統(tǒng)。
“AI時代是標(biāo)志人類數(shù)字化更充分的時代,網(wǎng)絡(luò)安全攻擊對人身安全、對社會都有更大影響,而微軟此次藍(lán)屏事件提醒公眾,數(shù)字化、智能化導(dǎo)致互聯(lián)網(wǎng)世界變得特別脆弱,網(wǎng)絡(luò)攻擊已從點上升到面!敝茗櫟t說。
“當(dāng)前,AI應(yīng)用系統(tǒng)安全責(zé)任與風(fēng)險嚴(yán)重失衡!敝袊こ淘涸菏浚瑖覕(shù)字交換系統(tǒng)工程技術(shù)研究中心(NDSC)主任鄔江興表示,基于內(nèi)生安全架構(gòu)可發(fā)現(xiàn)或糾正AI應(yīng)用系統(tǒng)安全問題,AI應(yīng)用系統(tǒng)中必須包含必要多樣性和相對正確公理的內(nèi)生安全構(gòu)造,在不可信的過程中找到相對可信的結(jié)果。智能時代需要選擇正確的技術(shù)路徑,實現(xiàn)更安全的AI應(yīng)用系統(tǒng)。
艾媒咨詢CEO張毅對《證券日報》記者表示,目前AI大模型的可靠性、可解釋性、安全性等問題亟待解決,且AI技術(shù)的濫用和誤用也可能帶來問題。
“因此,未來在推動AI與網(wǎng)絡(luò)安全深度融合的過程中,需要不斷加強技術(shù)研發(fā)、標(biāo)準(zhǔn)制定、法律法規(guī)建設(shè)等方面的工作,確保AI技術(shù)的健康有序發(fā)展。”張毅說。