《連線》雜志的一篇文章提到，一些人認(rèn)為生成式AI像原子彈一樣，具備改變世界的強(qiáng)大能力，但也有人注意到，生成式AI比原子彈更危險(xiǎn)。

　　在曼哈頓計(jì)劃中，只有奧本海默等少數(shù)物理學(xué)家了解這項(xiàng)技術(shù)，技術(shù)發(fā)明以來(lái)也一直被全球嚴(yán)格控制。而現(xiàn)在，生成式AI則是所有人都觸手可及的能力，可以被輕易濫用。

　　當(dāng)然，技術(shù)本身是中立的，它的使用和影響取決于使用它的人。對(duì)于更多企業(yè)來(lái)說(shuō)，既要應(yīng)對(duì)生成式AI帶來(lái)的安全威脅，也要正確合理地確保生成式AI安全落地，保障生成式AI系統(tǒng)的安全。

　　在網(wǎng)絡(luò)安全領(lǐng)域，生成式AI是不折不扣的雙刃劍

　　在網(wǎng)絡(luò)安全領(lǐng)域，生成式AI會(huì)被黑客用濫用在網(wǎng)絡(luò)攻擊領(lǐng)域，也會(huì)被安全工作人員當(dāng)做絕佳的防御工具。

　　我們能看到，2023年上半年，市場(chǎng)上出現(xiàn)WormGPT和FraudGPT這樣的工具，可以用于網(wǎng)絡(luò)詐騙和網(wǎng)絡(luò)勒索等惡意活動(dòng)，能讓黑客發(fā)起更復(fù)雜的攻擊。

　　Darktrace的研究顯示，自ChatGPT為代表的生成式AI技術(shù)興起以來(lái)，復(fù)雜的網(wǎng)絡(luò)釣魚(yú)攻擊數(shù)量上升了135%。

　　我們也欣喜地看到，2023年3月，微軟推出了SecurityCopilot工具，這是一個(gè)可以強(qiáng)化安全防護(hù)能力的工具，該工具可以通過(guò)自動(dòng)化任務(wù)，匯集來(lái)自多個(gè)來(lái)源的安全數(shù)據(jù)和警報(bào)，從而快速檢測(cè)和響應(yīng)威脅，以幫助安全團(tuán)隊(duì)提升工作效率。

　　2023年6月，OpenAI宣布計(jì)劃投入超過(guò)100萬(wàn)美元來(lái)啟動(dòng)一項(xiàng)網(wǎng)絡(luò)安全創(chuàng)新扶持計(jì)劃。該項(xiàng)目為的是提升由人工智能技術(shù)驅(qū)動(dòng)的新一代網(wǎng)絡(luò)安全能力建設(shè)，并促進(jìn)高水平人工智能技術(shù)和網(wǎng)絡(luò)安全應(yīng)用間的協(xié)同效應(yīng)。

　　企業(yè)安全領(lǐng)域的工作者應(yīng)該意識(shí)到，生成式AI已成為網(wǎng)絡(luò)安全領(lǐng)域不可忽視的重要組成部分。它既帶來(lái)了更嚴(yán)重的安全威脅，同時(shí)也開(kāi)辟了新的安全防護(hù)路徑，只有充分認(rèn)識(shí)到生成式AI的影響力，才能在不斷變化的威脅環(huán)境中為企業(yè)保駕護(hù)航。

　　生成式AI帶來(lái)強(qiáng)大而高效的安全工具

　　生成式AI不僅可以創(chuàng)建逼真的圖像、文本或視頻，能極大地提升我們處理和分析信息的能力，還能不斷學(xué)習(xí)和進(jìn)化，準(zhǔn)確地理解和執(zhí)行復(fù)雜任務(wù)。在安全領(lǐng)域，這種能力將帶來(lái)強(qiáng)大而高效的工具，更好地識(shí)別和應(yīng)對(duì)威脅，保護(hù)數(shù)據(jù)和系統(tǒng)不受侵害。

　　具體而言，生成式AI在六個(gè)方面都能提供很大幫助。

　　首先，生成式AI可以提高威脅檢測(cè)和響應(yīng)的有效性。與剛才提到的SecurityCopilot類似一樣，生成式AI可以快速分析海量數(shù)據(jù)，快速檢測(cè)到網(wǎng)絡(luò)流量中的異常，反常的用戶行為，可疑的電子郵件，從而快速識(shí)別惡意軟件、釣魚(yú)攻擊或內(nèi)部攻擊等威脅。

　　同時(shí)，生成式AI的預(yù)測(cè)能力能更主動(dòng)地做出預(yù)防措施。通過(guò)從以往的事件和網(wǎng)絡(luò)安全趨勢(shì)中汲取經(jīng)驗(yàn)，生成式AI可以預(yù)測(cè)未來(lái)威脅或識(shí)別潛在的漏洞。從而使組織能夠積極主動(dòng)地采取安全措施，在漏洞被利用之前就加以解決。

　　生成式AI提高了安全防護(hù)的自動(dòng)化程度和工作效率。通過(guò)自動(dòng)執(zhí)行的威脅檢測(cè)，生成式AI可以加快發(fā)現(xiàn)和應(yīng)對(duì)威脅的速度，從而減少潛在損失。此外，大量日常網(wǎng)絡(luò)安全任務(wù)也可以自動(dòng)化來(lái)執(zhí)行。這不僅能提高效率，還能讓安全人員專注于更具戰(zhàn)略性和更復(fù)雜的任務(wù)。

　　生成式AI提高取證分析的效率和準(zhǔn)確性。通過(guò)與威脅情報(bào)平臺(tái)和數(shù)據(jù)庫(kù)集成，生成式AI利用模式檢測(cè)和識(shí)別代碼相似性等功能來(lái)揭示可能會(huì)被手動(dòng)操作遺漏的隱藏證據(jù)，快速分析惡意軟件樣本，解決一系列復(fù)雜的數(shù)字取證調(diào)查問(wèn)題。

　　生成式AI也可用于個(gè)性化安全培訓(xùn)。生成式AI還可以根據(jù)員工的角色、過(guò)往行為和可能面臨的威脅，為員工設(shè)計(jì)個(gè)性化的安全意識(shí)培訓(xùn)內(nèi)容。這有助于減少人為錯(cuò)誤，而人為錯(cuò)誤是造成許多安全漏洞的重要因素。

　　生成式AI還有助于擴(kuò)大安全運(yùn)營(yíng)規(guī)模。生成式AI在安全方面提供的諸多便利，讓安全團(tuán)隊(duì)可以更快地獲取更豐富的見(jiàn)解，并據(jù)此采取行動(dòng)，將更多精力放在更重要的事項(xiàng)上。

　　如何保障生成式AI系統(tǒng)的安全

　　生成式AI在帶來(lái)巨大安全優(yōu)勢(shì)的同時(shí)，也帶來(lái)了新的挑戰(zhàn)。企業(yè)希望生成式AI在企業(yè)落地并幫助企業(yè)構(gòu)建競(jìng)爭(zhēng)優(yōu)勢(shì)時(shí)，還應(yīng)該注意如何確保生成式AI安全運(yùn)行。因?yàn)樯墒紸I系統(tǒng)也可能會(huì)成為網(wǎng)絡(luò)攻擊的目標(biāo)，如果得不到適當(dāng)?shù)谋Ｗo(hù)，它們的功能可能被惡意利用。

　　由于生成式AI系統(tǒng)依賴于海量數(shù)據(jù)進(jìn)行學(xué)習(xí)和決策，因此，對(duì)于數(shù)據(jù)的隱私和完整性有很高要求。通常需要對(duì)數(shù)據(jù)實(shí)施數(shù)據(jù)分類加密，需要有強(qiáng)有力的訪問(wèn)控制機(jī)制以及安全的數(shù)據(jù)存儲(chǔ)和傳輸技術(shù)。

　　戴爾科技作為全球大型IT基礎(chǔ)設(shè)施服務(wù)商，不僅有久經(jīng)考驗(yàn)的企業(yè)級(jí)服務(wù)器、存儲(chǔ)系統(tǒng)技術(shù)方案，還提供了備份、容災(zāi)和CyberRecovery數(shù)據(jù)避風(fēng)港“三位一體”的數(shù)據(jù)保護(hù)解決方案。無(wú)論是存儲(chǔ)、處理還是傳輸過(guò)程，都能夠幫助企業(yè)將數(shù)據(jù)隱私和數(shù)據(jù)完整性提高到很高的水平。

　　在解決數(shù)據(jù)隱私和數(shù)據(jù)完整性問(wèn)題的同時(shí)，還應(yīng)該注意“對(duì)抗攻擊”的問(wèn)題，防范通過(guò)惡意操縱AI系統(tǒng)的輸入數(shù)據(jù)來(lái)欺騙AI系統(tǒng)，讓系統(tǒng)發(fā)生故障或做出錯(cuò)誤的決定。因此，企業(yè)還需要執(zhí)行強(qiáng)有力的測(cè)試和驗(yàn)證程序，并研究如何防御此類攻擊。

　　同樣的，還要防止AI系統(tǒng)被惡意濫用。企業(yè)必須監(jiān)視生成式AI系統(tǒng)的使用，并采取措施來(lái)檢測(cè)和應(yīng)對(duì)濫用行為。比如，要驗(yàn)證視頻或音頻的真實(shí)性，防止利用生成的虛假內(nèi)容制造假新聞或者用于誹謗、欺詐等，從而造成負(fù)面影響。

　　此外，與所有AI一樣，生成式AI系統(tǒng)基于大量數(shù)據(jù)訓(xùn)練而來(lái)，如果這些數(shù)據(jù)中包含了某些偏見(jiàn)，生成式AI系統(tǒng)也受到影響，從而作出不公平或歧視性的決策。要解決這個(gè)問(wèn)題，需要定期審計(jì)，采用減少偏見(jiàn)的技術(shù)并遵守道德準(zhǔn)則。

　　最后，生成式AI是非常強(qiáng)大的智能系統(tǒng)，企業(yè)應(yīng)該對(duì)落地的生成式AI系統(tǒng)實(shí)施強(qiáng)有力的訪問(wèn)控制措施，以零信任架構(gòu)來(lái)管理訪問(wèn)權(quán)限，這對(duì)于防止未經(jīng)授權(quán)的訪問(wèn)和阻止?jié)撛诘南到y(tǒng)濫用有積極作用。

　　戴爾科技集團(tuán)可顯著簡(jiǎn)化零信任的落地，不僅在產(chǎn)品方案中內(nèi)置了零信任架構(gòu)，而且還在構(gòu)建集成的零信任架構(gòu)。戴爾科技提供零信任相關(guān)服務(wù)，可協(xié)助制定路線圖、集成關(guān)鍵技術(shù)并實(shí)施主動(dòng)管理。同時(shí)，還有專業(yè)的安全咨詢服務(wù)以及廣泛的合作伙伴生態(tài)幫助企業(yè)落地零信任架構(gòu)。

　　結(jié)束語(yǔ)

　　總之，AI對(duì)網(wǎng)絡(luò)安全來(lái)說(shuō)是一把雙刃劍。一方面，它將帶來(lái)新的安全威脅，另一方面，它可以幫助企業(yè)安全體系提高威脅檢測(cè)和響應(yīng)能力，提高預(yù)測(cè)能力和安全運(yùn)營(yíng)效率。

　　隨著生成式AI時(shí)代的到來(lái)，AI與網(wǎng)絡(luò)安全將相互影響。考慮到生成式AI的強(qiáng)大能力，企業(yè)需要通過(guò)強(qiáng)有力的安全措施來(lái)持續(xù)監(jiān)視、定期更新和修補(bǔ)來(lái)應(yīng)對(duì)風(fēng)險(xiǎn)，保護(hù)好生成式AI系統(tǒng)，讓生成式AI為企業(yè)產(chǎn)出更多價(jià)值。