AI技術(shù)的使用讓惡意攻擊的效率得以顯著提升，利用AI技術(shù)的網(wǎng)絡(luò)詐騙等手段也層出不窮。網(wǎng)絡(luò)安全的攻防已經(jīng)從原來人和人之間、技術(shù)與技術(shù)的對抗，升級到了AI和AI之間的對抗。如何利用好AI技術(shù)、安全大模型，智能快速地識別并應(yīng)對各類網(wǎng)絡(luò)安全威脅，為企業(yè)提供了更加智能化的網(wǎng)絡(luò)安全保障，是業(yè)界共同關(guān)注的焦點。
抵御AI安全威脅
隨著AI的廣泛應(yīng)用，F(xiàn)raudGPT、WormGPT等生成式AI病毒工具也相繼出現(xiàn)，這使得每年新增病毒數(shù)量攀升至傳統(tǒng)病毒工具時代的十倍以上。據(jù)一項數(shù)據(jù)統(tǒng)計，70%的網(wǎng)絡(luò)攻擊采用無文件形式，網(wǎng)絡(luò)安全因AI而面臨嚴(yán)峻挑戰(zhàn)。
派拓網(wǎng)絡(luò)大中華區(qū)售前總經(jīng)理董春濤
派拓網(wǎng)絡(luò)大中華區(qū)售前總經(jīng)理董春濤表示：在AI技術(shù)使用和研發(fā)的同時，我們也看到一些隱患。比如我們在跟客戶溝通過程中發(fā)現(xiàn)，50%的員工其實不知道在什么情況下使用AI APP，很多研發(fā)人員在用AI工具做代碼的審核，或者直接用AI開發(fā)一些應(yīng)用，所以也因此產(chǎn)生了很多黑洞。同時這些公開的AI模型中，也有80%的模型是可以被“越獄”的情況發(fā)生，同時有一百多種惡意的模型在被傳播，所以AI的大規(guī)模采用，給整個安全態(tài)勢產(chǎn)生了新的挑戰(zhàn)。
派拓網(wǎng)絡(luò)提出從源頭開始規(guī)劃部署AI安全成為企業(yè)必然，董春濤談到，這在整個IT發(fā)展中也是前所未有的，任何一個企業(yè)的IT業(yè)務(wù)發(fā)展都是領(lǐng)先的，但是我們今天看到AI推出的時候，安全被提到了非常高的角度上。我們希望跟蹤并了解員工使用AI的情況，確保AI的應(yīng)用、開發(fā)、生命周期以及供應(yīng)鏈的每一個環(huán)節(jié)都是安全的，在任何時候都要確保AI數(shù)據(jù)不被沒授權(quán)的訪問，防止使用AI過程中數(shù)據(jù)泄露。所以以現(xiàn)有的平臺擴(kuò)展能力來交付，是我們希望立刻能起到一些作用的。
所以派拓網(wǎng)絡(luò)對從源頭設(shè)計上保護(hù)AI提出了三個大的產(chǎn)品線以及一個咨詢服務(wù)：第一個大的產(chǎn)品線是AI的訪問安全，如何確保員工訪問AI都是安全的；第二，AI的安全態(tài)勢管理AI-SPM，主要是在AI應(yīng)用開發(fā)的全生命周期中對整個安全態(tài)勢的可見性；第三，AI Runtime Security，無論是自研的AI應(yīng)用還是第三方的AI應(yīng)用上線以后對它的保護(hù)；最后是AI Security Assessment，可以幫助客戶對整個AI使用做一個前期調(diào)研，發(fā)現(xiàn)一些隱患，對客戶提出一些有益的咨詢。
以AI對抗AI是必然
雖然企業(yè)遭受AI普及帶來的更多安全威脅，但是不可否認(rèn)的是，AI技術(shù)與安全的融合，令企業(yè)得到了更多的網(wǎng)絡(luò)安全成效，比如基于AI的風(fēng)險異常檢測更加智能和快速，安全關(guān)聯(lián)分析、事件處置和調(diào)查溯源更加準(zhǔn)確，AI在實現(xiàn)安全事件的智能響應(yīng)、聯(lián)動防御和應(yīng)急處置等方面起到了巨大的推動作用。
董春濤在談到以AI防御AI的能力時表示，首先我們看到現(xiàn)在的攻擊者、黑客也在采用AI技術(shù)來快速產(chǎn)生新的威脅，通過AI賦能，他們可以輕松地攻擊更多目標(biāo)，以閃電般的速度擴(kuò)大攻擊范圍，每次攻擊都是零日攻擊，因為AI讓他們很快就有新的攻擊方法。
AI時代的安全需要實時性和自動化，需要做安全的所有同仁與威脅賽跑，持續(xù)監(jiān)測和檢測異常和破壞行為，做到立刻反應(yīng)和對事件發(fā)生的實時應(yīng)對，采用高度自動化，抑制和消除威脅，從而減少人工介入。
派拓網(wǎng)絡(luò)首先提出的概念Precision AI，能夠構(gòu)建更精準(zhǔn)的攻擊檢測率和識別率，達(dá)到更高可信度的實時檢測響應(yīng)能力。董春濤介紹道，用Precision AI技術(shù)，基本上賦能了所有安全平臺，包括網(wǎng)絡(luò)安全、云安全、端點安全和安全運營中心。
派拓網(wǎng)絡(luò)在三大平臺上都致力于研發(fā)Copilots工具，它也是采用了大語言模型的技術(shù)。董春濤表示，派拓網(wǎng)絡(luò)充分利用自己的數(shù)據(jù)和經(jīng)驗，不斷培訓(xùn)大模型，使它基本具備了跟安全管理人員有自然語言的交互能力，在逐漸優(yōu)化的過程中，使整個安全管理系統(tǒng)、安全工具系統(tǒng)之間的使用門檻降低，讓安全從業(yè)人員更輕松地使用繁雜的系統(tǒng)，這也是安全廠商都在致力于的一項非常重大的改進(jìn)。
Copilots以Precision AI賦能所有的產(chǎn)品線，為我們訪問AI應(yīng)用做到防護(hù)。隨著AI技術(shù)的發(fā)展，將會走到自主化運營全自動化，最終AI與整個安全融為一體，達(dá)到自適應(yīng)、自學(xué)習(xí)，完全做到自主安全，這是我們的最終目標(biāo)，董春濤最后表示。
隨著AI技術(shù)的不斷發(fā)展和網(wǎng)絡(luò)安全領(lǐng)域的不斷深入應(yīng)用，AI安全治理將面臨更加復(fù)雜的局面。AI安全治理是確保AI技術(shù)健康、有序、可控發(fā)展的重要保障。全行業(yè)都應(yīng)加強(qiáng)AI安全治理的探究和實踐，為AI安全技術(shù)的提供更多的技術(shù)創(chuàng)新動力和環(huán)境。
