近一段時間，AI作畫工具Midjourney火爆全網(wǎng)、“AI孫燕姿”翻唱刷屏等新聞層出不窮，使得AI技術(shù)在大眾視野中持續(xù)活躍。

然而，盡管大家已經(jīng)體驗到AI帶來的顛覆，但伴隨而來的網(wǎng)絡(luò)安全挑戰(zhàn)已不容小覷。根據(jù)Darktrace的最新報告，攻擊者使用ChatGPT等生成式AI，通過增加文本描述、標點符號和句子長度，讓社會工程攻擊量增加了135%。

當然，技術(shù)從來都是雙刃劍，AI如今也被廣泛應(yīng)用于網(wǎng)絡(luò)攻防對抗。事實上，諸多研究數(shù)據(jù)表明，AI的加速應(yīng)用將驅(qū)動AI安全市場爆發(fā)增長。根據(jù)MarketsandMarkets的研究，2023年全球組織預(yù)計將在網(wǎng)絡(luò)安全AI解決方案上花費224億美元。PrecedenceResearch則預(yù)測，2032年網(wǎng)絡(luò)安全AI市場的規(guī)模將超過1000億美元。

市場火爆之際，國內(nèi)外的主要安全廠商，如IBM、谷歌、PaloAltoNetworks、微軟、安恒信息、網(wǎng)宿科技等，紛紛加大AI的研發(fā)，在行業(yè)內(nèi)掀起“AI安全軍備競賽”。

AI驅(qū)動安全行業(yè)市場爆發(fā)

眾所周知，AI對網(wǎng)絡(luò)安全領(lǐng)域的影響尤為深遠。在AI之前，網(wǎng)絡(luò)安全的本質(zhì)是人與人的對抗，而隨著AI的出現(xiàn)，AI的應(yīng)用給網(wǎng)絡(luò)安全帶來了新的威脅和挑戰(zhàn)。

一方面，AI的脆弱性、不可預(yù)測性和不可解釋性，使得AI自身存在信任問題、隱私數(shù)據(jù)竊取問題、自身漏洞被攻擊等問題。同時，AI濫用會引發(fā)安全隱患，包括深度造假、大規(guī)模高效率攻擊等。比如，傳統(tǒng)網(wǎng)絡(luò)攻擊中，攻擊規(guī)模和攻擊效率難以兼顧，而使用AI自動執(zhí)行網(wǎng)絡(luò)攻擊，黑客可以用低成本發(fā)起大規(guī)模、自動化的攻擊，造成嚴重危害。

根據(jù)MIT Technology Review的采訪數(shù)據(jù)，2021年60%的采訪對象已經(jīng)難以應(yīng)對自動化的網(wǎng)絡(luò)攻擊，96%的人已經(jīng)在開始遭受AI網(wǎng)絡(luò)攻擊。

而雙刃劍的另一面，AI又可以賦能網(wǎng)絡(luò)安全，推動攻防技術(shù)向主動化、自動化、智能化方向演進。依托高算力和機器學(xué)習(xí)特征，AI通過對海量數(shù)據(jù)進行分析、自動研判，可以提高網(wǎng)絡(luò)安全中預(yù)測、防范、檢測、響應(yīng)等環(huán)節(jié)的自動化和智能化程度，提升防護速度和準確率，減少人為失誤和管理成本。

目前，AI已被應(yīng)用于威脅分析、策略生成、態(tài)勢感知、攻防對抗等方面，防護有效性得到充分驗證。Capgemini研究結(jié)果顯示，80%的公司都依靠AI來幫助識別威脅和阻止攻擊。IBM指出，缺乏AI安全的企業(yè)，在抵御網(wǎng)絡(luò)攻擊方面的成本是部署了AI自動化防御系統(tǒng)的企業(yè)的三倍。

網(wǎng)絡(luò)安全AI市場隨之呈現(xiàn)爆發(fā)態(tài)勢。IDC預(yù)測,全球基于AI帶來的網(wǎng)絡(luò)安全市場將從2022 年的174億美元增長到2023年的1027.8億美元,年復(fù)合增長率為19.43%。ResearchAndMarkets報告預(yù)測，2030年網(wǎng)絡(luò)安全中AI產(chǎn)值將突破千億美元，年復(fù)合增長率達到25.7%。

值得注意的是，眼下，以ChatGPT為首的AIGC浪潮再次引發(fā)各界對AI安全性問題的關(guān)注，隨之而來的防護需求涌現(xiàn)，正驅(qū)動AI安全市場加速爆發(fā)。

國內(nèi)外廠商加速布局“AI安全”

從近期的網(wǎng)絡(luò)安全行業(yè)動態(tài)來看，顯然國內(nèi)外的主要安全廠商已經(jīng)嗅得積極信號，對AI的布局悄然提速。

在國外，3月底，微軟推出了下一代AI產(chǎn)品Microsoft Security Copilot，將AI技術(shù)應(yīng)用于網(wǎng)絡(luò)安全領(lǐng)域，為安全專業(yè)人員提供一個有效的工具，以快速檢測和響應(yīng)威脅，并更好地洞察威脅態(tài)勢。

4月底的RSAC 2023上，谷歌云發(fā)布了最新的Security AI Workbench產(chǎn)品，基于名為Sec-PaLM的新型安全專用大型語言模型，充分結(jié)合谷歌云豐富的威脅數(shù)據(jù)以及Mandiant在漏洞和惡意軟件方面的情報數(shù)據(jù)，旨在幫助企業(yè)緩解安全運營壓力。

同一時間，IBM推出了新安全套件IBM Security QRadar Security Suite，基于核心開源技術(shù)構(gòu)建，專為多云運營設(shè)計，嵌入了AI和自動化，以加快安全團隊對攻擊鏈每個步驟的響應(yīng)速度。

國內(nèi)的話，在日前舉辦的2023西湖論劍·數(shù)字安全大會上，安恒信息表示已經(jīng)在云端數(shù)據(jù)大腦、云端AI模型生成及應(yīng)用進行了積極布局，基于強化學(xué)習(xí)的AI模型已在安恒信息AiSort數(shù)據(jù)安全分級產(chǎn)品中部署應(yīng)用，大幅提高數(shù)據(jù)梳理的工作效率。

網(wǎng)宿科技表示，旗下網(wǎng)宿安全通過“3+X+AI”SASE架構(gòu)，整合自身的安全、網(wǎng)絡(luò)、邊緣計算能力，構(gòu)建能力開放平臺，并將AI能力融入到安全防御各環(huán)節(jié)，已經(jīng)落地了邊緣計算全棧防護體系。此前，網(wǎng)宿科技曾宣布將在五年時限內(nèi)投入10億元安全業(yè)務(wù)專項資金，重點研究前沿的攻防技術(shù)，推動大數(shù)據(jù)、AI等新技術(shù)的應(yīng)用創(chuàng)新，提升智能安全防護水平。

AI時代已至，隨著AI成為各行各業(yè)的底層能力和必選應(yīng)用，不斷涌現(xiàn)的新型威脅和防護需求，將對安全防護技術(shù)提出更高要求。AI+安全作為公認的應(yīng)對之策，將迎來深度融合。