過去幾年中，盡管企業在網絡安全解決方案方面投入巨資，網絡犯罪造成的經濟損失卻逐年上升。根據Cybersecurityventures的報告，2024年全球網絡犯罪造成的損失將超過10萬億美元，成為全球“第三大經濟體”。
近年來黑客活動向“基于身份的攻擊”轉型，2024年用于竊取身份、憑據和隱私的社會工程攻擊，尤其是網絡釣魚和商業電子郵件入侵(BEC)將是企業安全團隊的頭號威脅。根據Verizon的數據泄露報告，82%的數據泄露事件涉及社會工程攻擊。KnowBe4的調查顯示，2023年，70%的員工至少經歷過一次網絡釣魚攻擊。
過去三年，一些最重大的網絡安全事件往往始于社會工程攻擊：
2021年，Colonial Pipeline遭到勒索軟件攻擊，導致美國東海岸汽油供應中斷。攻擊者通過網絡釣魚電子郵件獲得了員工的登錄憑據，從而進入公司網絡。
2022年，微軟遭到SolarWinds供應鏈攻擊。攻擊者通過向SolarWinds客戶發送惡意軟件更新，在全球范圍內感染了數千個組織。
2023年，Uber遭到數據泄露。攻擊者通過社會工程攻擊獲得了員工的登錄憑據，從而竊取了公司7700萬用戶的數據。
社會工程攻擊利用的是人性心理而非技術漏洞，因此具有隱蔽性和難以通過純技術手段防御的特點。除了加強員工安全意識培訓、實施MFA和零信任方法外，企業還必須積極創新，擁抱主動防御方法，從根本上扭轉在社會工程攻擊中所處的不利局面。
安全意識創新方法勢在必行
為應對這些挑戰，越來越多的企業安全團隊轉向采用創新策略來加強社會工程攻擊防御能力。作為對抗社會工程攻擊最重要的措施，安全意識培訓的重要性日益凸顯，Sage的調查顯示，投資安全意識計劃可以將修復漏洞的時間縮短82%。但值得注意的是，依然有超過半數的CISO對安全意識培訓的效果并不滿意。
在人工智能快速武器化的今天，安全意識培訓本身也正面臨一場技術革命，人工智能大型語言模型(LLM)有望成為安全意識培訓創新的關鍵催化劑，徹底改變甚至逆轉社會工程攻擊的攻防態勢。
例如，LLM可以生成模仿網絡釣魚電子郵件的通信內容，但其目的是教育用戶識別此類攻擊的標志，將模擬攻擊轉化為實時學習機會。此外，LLM可以訓練識別網絡犯罪分子使用的語言和策略模式，從而及時預測并阻止攻擊。LLM還可以分析社會工程攻擊者不斷變化的策略，幫助制定欺詐反制措施，誤導攻擊者、浪費他們的資源并最終阻止他們實現惡意目標。
將人工智能LLM集成到網絡安全策略中是企業從被動防御機制向主動防御機制的范式轉變。通過針對社會工程攻擊的心理基礎分析，企業可以破壞這些攻擊的有效性，不僅通過技術手段，還可“以彼之道還施彼身”，利用攻擊者所利用的認知偏差。
黑客機器人：從被動防御到主動出擊
美國國會技術大學的Mary Aiken和Diane Janosek以及應用研究協會的Michael Lundie、Adam Amos-Binks和Kira Lindke在最新研究論文中提出了“黑客機器人”(Hackbot)的進攻性防御策略。
“黑客機器人”的實驗設計
該論文題為“企業反擊：構想黑客機器人-在網絡防御環境中逆轉社會工程攻擊”(標題致敬了星球大戰的“帝國反擊戰”)，提出了“黑客機器人”的概念-一種自動反擊的創新方法，專門用于在網絡防御環境中反擊社會工程攻擊。
論文作者指出，網絡防御正從被動轉向主動，研究人員正在評估“是否可以將破壞性的認知技術應用于攻擊者的認知限制和認知偏差”。類似地，英國國家網絡部隊(NCF)最近的一份報告也介紹了英國如何采取一種新的方式進行進攻性網絡行動，重點破壞信息環境。
這種方法引入了“認知效應”學說，旨在通過利用對數字技術的依賴來對抗敵對行為。因此，進攻性網絡行動可以限制對手收集、分發和信任信息的能力。
“黑客機器人”的概念強調網絡安全既涉及技術因素也涉及人類心理，理解網絡攻擊的人為因素對于有效防御至關重要，并列舉了網絡犯罪分子的十個心理漏洞，“黑客機器人”可以利用這些漏洞來建立相應的反擊模式。這些漏洞包括：
信任偏差
在線去抑制
沖動
冒險
認知超負荷
尋求獎勵
性變態
黑暗人格特質
情感屬性
注意力隧道效應
根據研究論文，“黑客機器人”的任務是生成可以在社會工程攻擊框架中使用的文本。這需要理解特定攻擊類型的背景，能夠處理各種不同的攻擊，并生成符合攻擊者目標的對話。可以使用預訓練的LLM，并使用真實世界的社會工程攻擊事件報告對其進行微調。LLM非常適合這項任務，因為開源LLM易于獲取，只需要相對較少的下游任務示例，并且可以輕松適應新的環境。
“黑客機器人”的目標是成為社會工程攻擊的“蜜罐”，讓攻擊者參與長時間的欺騙性互動，分散注意力并消耗資源，并專門設計用于在網絡防御環境中逆轉社會工程攻擊。
在網絡犯罪的軍備競賽中，心理反擊策略是逆轉社會工程攻防態勢的關鍵一步。隨著網絡威脅變得越來越復雜，針對攻擊者的心理漏洞，利用人工智能大語言模型通過“心理戰”反擊社會工程攻擊，為網絡安全領域開辟了新的前沿陣地。該方法不僅增強了現有的防御措施，而且還為企業建立更具適應性、智能化和更高效的網絡安全態勢鋪平了道路。
