憑借在模仿和破譯人類思維方面的不懈努力，我們進(jìn)入了人工智能（AI）時(shí)代。作為一款基于文本的AI機(jī)器人，ChatGPT因廣泛應(yīng)用先進(jìn)的AI技術(shù)而備受關(guān)注。從準(zhǔn)確修復(fù)編碼錯(cuò)誤、生成烹飪食譜、創(chuàng)建3D動(dòng)畫(huà)，到制作完整的歌曲，ChatGPT展現(xiàn)了AI的驚人能量，為世界帶來(lái)了不可思議的新能力。
然而與此同時(shí)，AI也一直被視為一把“雙刃劍”。多年來(lái)，全世界都在猜測(cè)AI可能即將統(tǒng)治世界。如今，用戶可以使用AI驅(qū)動(dòng)的安全工具和產(chǎn)品，在幾乎無(wú)需人為干預(yù)的情況下應(yīng)對(duì)大量網(wǎng)絡(luò)安全事件，但業(yè)余黑客也可以利用同樣的技術(shù)開(kāi)發(fā)智能惡意軟件程序并發(fā)起隱形攻擊。
ChatGPT帶來(lái)的網(wǎng)絡(luò)安全隱患不容忽視
自去年11月底ChatGPT問(wèn)世以來(lái)，全球技術(shù)專家和評(píng)論員一直在關(guān)注AI生成的內(nèi)容工具所產(chǎn)生的影響，尤其是對(duì)網(wǎng)絡(luò)安全的影響。那么AI軟件會(huì)使網(wǎng)絡(luò)犯罪走向普及嗎？
在拉斯維加斯舉行的黑帽和Defcon安全大會(huì)上，一個(gè)技術(shù)團(tuán)隊(duì)展示了AI在生成釣魚(yú)郵件和魚(yú)叉式釣魚(yú)信息方面是如何超越人類的。
研究人員將OpenAI的GPT-3平臺(tái)與其他側(cè)重于個(gè)性分析的AI即服務(wù)產(chǎn)品相結(jié)合，生成了根據(jù)他們同事的背景和性格而定制的釣魚(yú)郵件。最終，研究人員開(kāi)發(fā)出一個(gè)在攻擊目標(biāo)之前對(duì)郵件進(jìn)行梳理和完善的流程。令他們驚訝的是，這個(gè)平臺(tái)還能自動(dòng)提供具體內(nèi)容，例如當(dāng)被要求生成針對(duì)特定國(guó)家的人的內(nèi)容時(shí)，會(huì)提到該國(guó)的法律。
ChatGPT的開(kāi)發(fā)者明確表示，這款A(yù)I工具具有質(zhì)疑錯(cuò)誤前提和拒絕不當(dāng)請(qǐng)求的能力。雖然該系統(tǒng)自帶用于防止任何形式犯罪活動(dòng)的護(hù)欄，但經(jīng)過(guò)調(diào)整，它生成了一封看上去極其像人類寫(xiě)出來(lái)的近乎完美的釣魚(yú)郵件。
采取智能化行動(dòng)，實(shí)現(xiàn)自動(dòng)化響應(yīng)
根據(jù)派拓網(wǎng)絡(luò)威脅情報(bào)團(tuán)隊(duì)Unit 42的調(diào)查，勒索軟件攻擊是最主要的安全事件，發(fā)展呈現(xiàn)愈演愈烈的態(tài)勢(shì)——不僅案例數(shù)量超過(guò)總量的三分之一（36%），而且攻擊者索要和獲得的贖金也在不斷增加。究其原因，主要是由于暗網(wǎng)中的工具價(jià)格低廉——甚至不到10美元，而且還出現(xiàn)了勒索軟件即服務(wù)模式和ChatGPT等AI工具，大大降低了網(wǎng)絡(luò)犯罪的門檻。
鑒于日益智能和先進(jìn)的黑客技術(shù)所帶來(lái)的威脅迫在眉睫，網(wǎng)絡(luò)安全行業(yè)必須擁有同等資源才能對(duì)抗這些AI驅(qū)動(dòng)的攻擊。從長(zhǎng)遠(yuǎn)來(lái)看，安全行業(yè)的目標(biāo)不是僅讓一群人類威脅獵手通過(guò)猜測(cè)來(lái)零散地解決問(wèn)題。
當(dāng)務(wù)之急是采取智能化的行動(dòng)來(lái)化解這些不斷發(fā)展的威脅。好消息是自主響應(yīng)如今能夠在無(wú)需人類干預(yù)的情況下有效解決威脅。但隨著AI驅(qū)動(dòng)的攻擊成為常態(tài)，受到自動(dòng)化惡意軟件攻擊的企業(yè)、政府和個(gè)人需要越來(lái)越多地依靠AI和機(jī)器學(xué)習(xí)（ML）等新興技術(shù)做出自動(dòng)化響應(yīng)。
更負(fù)責(zé)且道德地使用AI工具
從技術(shù)的復(fù)雜性到人為因素，企業(yè)在確保AI網(wǎng)絡(luò)安全的過(guò)程中面臨著諸多挑戰(zhàn)，尤其是需要高度重視機(jī)器、人類和道德因素之間的平衡。
制定企業(yè)策略對(duì)于兼顧經(jīng)營(yíng)道德和網(wǎng)絡(luò)安全至關(guān)重要。建立有效的治理和法律框架能夠增強(qiáng)人們對(duì)AI技術(shù)的信任，并促進(jìn)社會(huì)公平和可持續(xù)發(fā)展。因此，AI和人類之間的微妙平衡將成為實(shí)現(xiàn)網(wǎng)絡(luò)安全的關(guān)鍵因素，其中信任、透明度和責(zé)任感為機(jī)器帶來(lái)了補(bǔ)充優(yōu)勢(shì)。
本文作者：
Sean Duca，派拓網(wǎng)絡(luò)副總裁兼亞太及日本地區(qū)首席安全官
