AI技術(shù)的使用讓惡意攻擊的效率得以顯著提升，利用AI技術(shù)的網(wǎng)絡(luò)詐騙等手段也層出不窮。網(wǎng)絡(luò)安全的攻防已經(jīng)從原來(lái)人和人之間、技術(shù)與技術(shù)的對(duì)抗，升級(jí)到了AI和AI之間的對(duì)抗。如何利用好AI技術(shù)、安全大模型，智能快速地識(shí)別并應(yīng)對(duì)各類網(wǎng)絡(luò)安全威脅，為企業(yè)提供了更加智能化的網(wǎng)絡(luò)安全保障，是業(yè)界共同關(guān)注的焦點(diǎn)。
抵御AI安全威脅
隨著AI的廣泛應(yīng)用，F(xiàn)raudGPT、WormGPT等生成式AI病毒工具也相繼出現(xiàn)，這使得每年新增病毒數(shù)量攀升至傳統(tǒng)病毒工具時(shí)代的十倍以上。據(jù)一項(xiàng)數(shù)據(jù)統(tǒng)計(jì)，70%的網(wǎng)絡(luò)攻擊采用無(wú)文件形式，網(wǎng)絡(luò)安全因AI而面臨嚴(yán)峻挑戰(zhàn)。
派拓網(wǎng)絡(luò)大中華區(qū)售前總經(jīng)理董春濤
派拓網(wǎng)絡(luò)大中華區(qū)售前總經(jīng)理董春濤表示：在AI技術(shù)使用和研發(fā)的同時(shí)，我們也看到一些隱患。比如我們?cè)诟蛻魷贤ㄟ^(guò)程中發(fā)現(xiàn)，50%的員工其實(shí)不知道在什么情況下使用AI APP，很多研發(fā)人員在用AI工具做代碼的審核，或者直接用AI開(kāi)發(fā)一些應(yīng)用，所以也因此產(chǎn)生了很多黑洞。同時(shí)這些公開(kāi)的AI模型中，也有80%的模型是可以被“越獄”的情況發(fā)生，同時(shí)有一百多種惡意的模型在被傳播，所以AI的大規(guī)模采用，給整個(gè)安全態(tài)勢(shì)產(chǎn)生了新的挑戰(zhàn)。
派拓網(wǎng)絡(luò)提出從源頭開(kāi)始規(guī)劃部署AI安全成為企業(yè)必然，董春濤談到，這在整個(gè)IT發(fā)展中也是前所未有的，任何一個(gè)企業(yè)的IT業(yè)務(wù)發(fā)展都是領(lǐng)先的，但是我們今天看到AI推出的時(shí)候，安全被提到了非常高的角度上。我們希望跟蹤并了解員工使用AI的情況，確保AI的應(yīng)用、開(kāi)發(fā)、生命周期以及供應(yīng)鏈的每一個(gè)環(huán)節(jié)都是安全的，在任何時(shí)候都要確保AI數(shù)據(jù)不被沒(méi)授權(quán)的訪問(wèn)，防止使用AI過(guò)程中數(shù)據(jù)泄露。所以以現(xiàn)有的平臺(tái)擴(kuò)展能力來(lái)交付，是我們希望立刻能起到一些作用的。
所以派拓網(wǎng)絡(luò)對(duì)從源頭設(shè)計(jì)上保護(hù)AI提出了三個(gè)大的產(chǎn)品線以及一個(gè)咨詢服務(wù)：第一個(gè)大的產(chǎn)品線是AI的訪問(wèn)安全，如何確保員工訪問(wèn)AI都是安全的；第二，AI的安全態(tài)勢(shì)管理AI-SPM，主要是在AI應(yīng)用開(kāi)發(fā)的全生命周期中對(duì)整個(gè)安全態(tài)勢(shì)的可見(jiàn)性；第三，AI Runtime Security，無(wú)論是自研的AI應(yīng)用還是第三方的AI應(yīng)用上線以后對(duì)它的保護(hù)；最后是AI Security Assessment，可以幫助客戶對(duì)整個(gè)AI使用做一個(gè)前期調(diào)研，發(fā)現(xiàn)一些隱患，對(duì)客戶提出一些有益的咨詢。
以AI對(duì)抗AI是必然
雖然企業(yè)遭受AI普及帶來(lái)的更多安全威脅，但是不可否認(rèn)的是，AI技術(shù)與安全的融合，令企業(yè)得到了更多的網(wǎng)絡(luò)安全成效，比如基于AI的風(fēng)險(xiǎn)異常檢測(cè)更加智能和快速，安全關(guān)聯(lián)分析、事件處置和調(diào)查溯源更加準(zhǔn)確，AI在實(shí)現(xiàn)安全事件的智能響應(yīng)、聯(lián)動(dòng)防御和應(yīng)急處置等方面起到了巨大的推動(dòng)作用。
董春濤在談到以AI防御AI的能力時(shí)表示，首先我們看到現(xiàn)在的攻擊者、黑客也在采用AI技術(shù)來(lái)快速產(chǎn)生新的威脅，通過(guò)AI賦能，他們可以輕松地攻擊更多目標(biāo)，以閃電般的速度擴(kuò)大攻擊范圍，每次攻擊都是零日攻擊，因?yàn)锳I讓他們很快就有新的攻擊方法。
AI時(shí)代的安全需要實(shí)時(shí)性和自動(dòng)化，需要做安全的所有同仁與威脅賽跑，持續(xù)監(jiān)測(cè)和檢測(cè)異常和破壞行為，做到立刻反應(yīng)和對(duì)事件發(fā)生的實(shí)時(shí)應(yīng)對(duì)，采用高度自動(dòng)化，抑制和消除威脅，從而減少人工介入。
派拓網(wǎng)絡(luò)首先提出的概念Precision AI，能夠構(gòu)建更精準(zhǔn)的攻擊檢測(cè)率和識(shí)別率，達(dá)到更高可信度的實(shí)時(shí)檢測(cè)響應(yīng)能力。董春濤介紹道，用Precision AI技術(shù)，基本上賦能了所有安全平臺(tái)，包括網(wǎng)絡(luò)安全、云安全、端點(diǎn)安全和安全運(yùn)營(yíng)中心。
派拓網(wǎng)絡(luò)在三大平臺(tái)上都致力于研發(fā)Copilots工具，它也是采用了大語(yǔ)言模型的技術(shù)。董春濤表示，派拓網(wǎng)絡(luò)充分利用自己的數(shù)據(jù)和經(jīng)驗(yàn)，不斷培訓(xùn)大模型，使它基本具備了跟安全管理人員有自然語(yǔ)言的交互能力，在逐漸優(yōu)化的過(guò)程中，使整個(gè)安全管理系統(tǒng)、安全工具系統(tǒng)之間的使用門檻降低，讓安全從業(yè)人員更輕松地使用繁雜的系統(tǒng)，這也是安全廠商都在致力于的一項(xiàng)非常重大的改進(jìn)。
Copilots以Precision AI賦能所有的產(chǎn)品線，為我們?cè)L問(wèn)AI應(yīng)用做到防護(hù)。隨著AI技術(shù)的發(fā)展，將會(huì)走到自主化運(yùn)營(yíng)全自動(dòng)化，最終AI與整個(gè)安全融為一體，達(dá)到自適應(yīng)、自學(xué)習(xí)，完全做到自主安全，這是我們的最終目標(biāo)，董春濤最后表示。
隨著AI技術(shù)的不斷發(fā)展和網(wǎng)絡(luò)安全領(lǐng)域的不斷深入應(yīng)用，AI安全治理將面臨更加復(fù)雜的局面。AI安全治理是確保AI技術(shù)健康、有序、可控發(fā)展的重要保障。全行業(yè)都應(yīng)加強(qiáng)AI安全治理的探究和實(shí)踐，為AI安全技術(shù)的提供更多的技術(shù)創(chuàng)新動(dòng)力和環(huán)境。
