惡意攻擊者現(xiàn)在可以通過(guò)云計(jì)算、人工智能工具和人工智能算法來(lái)制造惡意信息。這些惡意攻擊成功的結(jié)果既有技術(shù)基礎(chǔ)，也有社會(huì)基礎(chǔ)，為國(guó)家和非國(guó)家的攻擊者提供了制造和傳播虛假信息的強(qiáng)大渠道和工具。上述數(shù)字平臺(tái)和網(wǎng)站服務(wù)還為惡意攻擊者提供了實(shí)驗(yàn)、監(jiān)控、迭代和優(yōu)化虛假信息活動(dòng)影響的能力。這些攻擊通常是發(fā)起其他網(wǎng)絡(luò)攻擊(如網(wǎng)絡(luò)釣魚(yú)、社會(huì)工程或惡意軟件感染)之前的預(yù)熱行動(dòng)。
例如，全球數(shù)據(jù)公司(GlobalData)2022年的一項(xiàng)研究估計(jì)，推特上10%的活躍賬戶(hù)都在發(fā)布垃圾內(nèi)容。推特稱(chēng)這一數(shù)字遠(yuǎn)低于5%。
表：虛假信息和虛假信息威脅的目標(biāo)、手段和后果表：虛假信息和虛假信息威脅的目標(biāo)、手段和后果
虛假信息或錯(cuò)誤信息的流動(dòng)以及國(guó)家和非國(guó)家人士的相關(guān)網(wǎng)絡(luò)行動(dòng)正在充斥網(wǎng)絡(luò)空間，目的是造成不確定性的信息、引起人們對(duì)真相的冷漠、疲于尋找真相甚至畏懼尋找真相。更加嚴(yán)重的是，虛假信息和不實(shí)信息已變成對(duì)民主、公開(kāi)辯論和自由的現(xiàn)代社會(huì)的主要威脅，政策制定者應(yīng)該把虛假信息的解決方案放在議程的核心位置，同時(shí)也應(yīng)考慮安全和隱私問(wèn)題。隨著俄羅斯和烏克蘭戰(zhàn)爭(zhēng)的爆發(fā)，大量虛假信息的攻擊浪潮進(jìn)一步加劇了這一情況，并引起了研究界、政府和公眾的注意。因此，歐洲議會(huì)于2022年3月9日發(fā)布了一項(xiàng)關(guān)于外國(guó)干涉歐盟所有民主進(jìn)程的決議。
趨勢(shì)
與2021年類(lèi)似，世界經(jīng)濟(jì)論壇2022年發(fā)布的《全球風(fēng)險(xiǎn)報(bào)告》指出，數(shù)字化和日益增長(zhǎng)的網(wǎng)絡(luò)威脅之間的相互作用也會(huì)產(chǎn)生潛在的后果。深度造假和“雇傭假信息”的業(yè)務(wù)數(shù)量增長(zhǎng)可能會(huì)加深社會(huì)、企業(yè)和政府之間的信任割裂。例如，深度造假可能會(huì)影響選舉或政治結(jié)果。除此之外，虛假信息還影響著國(guó)家之間的合作，因?yàn)榫W(wǎng)絡(luò)安全已成為分歧而非合作的來(lái)源。根據(jù)全球風(fēng)險(xiǎn)認(rèn)知調(diào)查(GRPS)，跨境網(wǎng)絡(luò)攻擊和錯(cuò)誤信息被認(rèn)為是目前緩解風(fēng)險(xiǎn)的努力“尚未開(kāi)始”或處于“早期發(fā)展”的領(lǐng)域。
根據(jù)歐盟CONCORDIAH2020項(xiàng)目平臺(tái)，深度造假、宣傳虛假信息和傳謠運(yùn)動(dòng)無(wú)處不在，它們旨在引導(dǎo)用戶(hù)認(rèn)知出錯(cuò)，直接影響人們的日常生活和社會(huì)。
俄烏戰(zhàn)爭(zhēng)
虛假信息作為一種信息戰(zhàn)方法可以追溯到冷戰(zhàn)時(shí)期，并在2016年美國(guó)大選后在美國(guó)復(fù)蘇，源于當(dāng)時(shí)俄羅斯被指控干預(yù)了美國(guó)選舉過(guò)程。在俄羅斯和烏克蘭之間的戰(zhàn)爭(zhēng)中，虛假信息在網(wǎng)絡(luò)戰(zhàn)中的核心作用得到了證實(shí)，網(wǎng)絡(luò)戰(zhàn)從攻擊骨干網(wǎng)演變?yōu)樘摷傩畔⑤浾摴簟Ｉ踔猎?ldquo;物理”戰(zhàn)爭(zhēng)開(kāi)始之前，虛假信息攻擊就被用作俄羅斯入侵烏克蘭的準(zhǔn)備計(jì)劃，并在入侵期間大規(guī)模地實(shí)施。
例如，歐洲新聞?lì)l道(Euronews)發(fā)布了歐洲專(zhuān)家協(xié)會(huì)(EuropeanExpertAssociation)的一份報(bào)告，該報(bào)告最近由全球虛假信息指數(shù)(GlobalDisinformationIndex)獨(dú)立評(píng)估，內(nèi)容是俄羅斯用來(lái)為軍事行動(dòng)辯護(hù)的各種未經(jīng)證實(shí)的說(shuō)法，比如烏克蘭正準(zhǔn)備攻擊頓巴斯的新聞。在此背景下，根據(jù)歐洲專(zhuān)家協(xié)會(huì)烏克蘭創(chuàng)始人兼研究總監(jiān)瑪麗亞·阿夫迪娃的說(shuō)法，虛假信息傾向于數(shù)量而非質(zhì)量，試圖耗盡人們辨別真實(shí)信息和事實(shí)的能力。這種方法類(lèi)似于旨在耗盡物理機(jī)器資源的傳統(tǒng)DDoS攻擊。
戰(zhàn)爭(zhēng)中的所有參與者都使用了虛假信息。俄羅斯的虛假信息集中在入侵的動(dòng)機(jī)(例如，去納粹化，解放烏克蘭)，烏克蘭和北約的侵略，或美國(guó)向?yàn)蹩颂m提供生物武器。烏克蘭的虛假信息集中在激勵(lì)軍隊(duì)和強(qiáng)調(diào)俄羅斯的軍事?lián)p失上。其他國(guó)家也助長(zhǎng)了虛假信息的傳播，例如在烏克蘭使用的化學(xué)武器據(jù)傳由中國(guó)提供。
此外，基于深度偽造的人工智能虛假信息在戰(zhàn)爭(zhēng)中發(fā)揮了重要作用，并導(dǎo)致偽造了俄羅斯總統(tǒng)弗拉基米爾·普京和烏克蘭總統(tǒng)弗拉基米爾·澤連斯基的視頻，其中的視頻信息出現(xiàn)了支持?jǐn)硨?duì)方的觀點(diǎn)。然而，這些視頻是假的，并在網(wǎng)上大肆傳播開(kāi)來(lái)。
在這場(chǎng)由人工智能、深度造假和社交網(wǎng)絡(luò)引發(fā)的虛假信息完美風(fēng)暴中，包括Meta、YouTube和Twitter在內(nèi)的互聯(lián)網(wǎng)網(wǎng)站大公司宣布了一波又一波的新措施，以回應(yīng)烏克蘭政府、世界領(lǐng)導(dǎo)人和公眾日益增長(zhǎng)的要求。
人工智能技術(shù)支持下的虛假信息和深度造假
人工智能支持的虛假信息在制造和傳播虛假信息方面的作用越來(lái)越重要，它可以使未來(lái)虛假信息的供應(yīng)無(wú)限大。模擬真人的機(jī)器人激增很容易破壞“通知-評(píng)論”規(guī)則制定過(guò)程，以及社區(qū)互動(dòng)，因?yàn)檎畽C(jī)構(gòu)會(huì)充斥著虛假評(píng)論。
在2021年的ETL（歐盟網(wǎng)絡(luò)安全威脅態(tài)勢(shì)）中，我們已經(jīng)觀察到人工智能驅(qū)動(dòng)的社交媒體是虛假信息傳播的基礎(chǔ)，導(dǎo)致社會(huì)混亂。在這種背景下，深度造假技術(shù)正在迅速發(fā)展。輔助技術(shù)使得深度造假的創(chuàng)作更加簡(jiǎn)單，而社交媒體則有助于深度造假的傳播。此外，由于還無(wú)法完全消除深度造假，虛假信息和虛假信息運(yùn)動(dòng)正變得越來(lái)越可信。
特別是，政治領(lǐng)導(dǎo)人制作或傳播的內(nèi)容幾十年來(lái)一直被操縱或斷章取義，且這種趨勢(shì)正在加劇。深度造假的出現(xiàn)將這種做法提升到了一個(gè)全新的水平，為惡意行為者提供了更智能和簡(jiǎn)單易用的工具，用于生成幾乎不可能與真實(shí)內(nèi)容區(qū)分開(kāi)來(lái)的虛假內(nèi)容(音頻、視頻、圖像和文本)。人工智能的力量允許惡意行為者（包括國(guó)家和非國(guó)家行為者）進(jìn)行有針對(duì)性的攻擊，一方面針對(duì)個(gè)人和用戶(hù)進(jìn)行攻擊，另一方面定制個(gè)性化的虛假信息。
深度造假和基于人工智能的虛假信息傳播的結(jié)果是信息、媒體和新聞業(yè)可信度的喪失。這種情況可能會(huì)導(dǎo)致騙子紅利，這是文獻(xiàn)作者Chesney和Citron描述的主要風(fēng)險(xiǎn)，虛假信息攻擊的目標(biāo)不是創(chuàng)造假新聞，而是否認(rèn)真相。
如果虛假信息被用來(lái)針對(duì)整個(gè)社區(qū)，制造意識(shí)形態(tài)沖突，擾亂選舉，抵消限制大流行病傳播的努力，那么它在很大程度上也被用來(lái)傷害個(gè)人。據(jù)微軟稱(chēng)，超過(guò)96%的深度偽造視頻與色情有關(guān)，而不同的攻擊針對(duì)的是人的聲譽(yù)。這些攻擊造成的損害在虛假信息被正確揭穿后仍然存在。
定制化造假服務(wù)
ETL2021觀察到，專(zhuān)業(yè)的虛假信息是由主要政府、政黨和公關(guān)公司大規(guī)模制造的。自2019年以來(lái)，越來(lái)越多的第三方一直在提供虛假信息服務(wù)，為客戶(hù)提供有針對(duì)性的攻擊方案。許多國(guó)家都提供服務(wù)，越來(lái)越多的非國(guó)家和私營(yíng)商業(yè)組織正在使用這些服務(wù)。
這種雇傭虛假信息的趨勢(shì)正在增加，使得虛假信息宣傳活動(dòng)易于實(shí)施和管理。這些服務(wù)加上深度造假很可能會(huì)增加整個(gè)社會(huì)的不信任。根據(jù)國(guó)際媒體評(píng)估中心(CIMA)的說(shuō)法，雇傭虛假信息是一個(gè)蓬勃發(fā)展的行業(yè)，在這個(gè)行業(yè)中，私人營(yíng)銷(xiāo)、傳播和公關(guān)公司通過(guò)在網(wǎng)上傳播虛假信息和操縱內(nèi)容來(lái)制造不和。CIMA稱(chēng)，自2009年以來(lái)，用于宣傳服務(wù)的資金總額至少為6000萬(wàn)美元。
新冠肺炎與綠色轉(zhuǎn)型
2019冠狀病毒病(COVID-19)是2021年虛假信息攻擊的首要話(huà)題，導(dǎo)致世界衛(wèi)生組織(世衛(wèi)組織)警告稱(chēng)，網(wǎng)上虛假信息和錯(cuò)誤信息泛濫。這些虛假信息運(yùn)動(dòng)旨在傳播人們對(duì)冠狀病毒疫苗有效性的恐懼、不確定性和懷疑。企業(yè)和個(gè)人成為虛假信息運(yùn)動(dòng)的目標(biāo)，其攻擊重點(diǎn)是綠色通行證(根據(jù)COVID-19疫苗接種為邊境過(guò)渡提供便利)、強(qiáng)制疫苗接種、衛(wèi)生護(hù)照、大規(guī)模免疫檢測(cè)和封鎖。2022年，圍繞COVID-19以及虛假信息和不實(shí)信息的辯論仍在繼續(xù)，努力尋找抵消或至少容忍虛假信息和不實(shí)信息的方法。
路透社研究所《2021數(shù)字新聞報(bào)道》（TheReutersInstituteDigitalNewsReport2021）報(bào)告稱(chēng)，對(duì)于新冠肺炎的虛假和誤導(dǎo)性信息位居調(diào)查榜首，54%的受訪(fǎng)者聲稱(chēng)看到了有關(guān)新冠肺炎的虛假和誤導(dǎo)性信息，其中虛假信息和不實(shí)信息來(lái)自政客(29%)、普通人(16%)、活動(dòng)家(15%)、記者(11%)和外國(guó)政府(9%)通過(guò)社交網(wǎng)絡(luò)、搜索引擎和其他信件程序傳播的。
新型冠狀病毒對(duì)能源部門(mén)和綠色轉(zhuǎn)型產(chǎn)生了強(qiáng)烈影響。在疫情期間，我們的能源消耗有所減少，但碳密集型技術(shù)和化石燃料的消耗仍大得令人印象深刻。后新冠時(shí)期的恢復(fù)能源措施大多忽視了綠色轉(zhuǎn)型，而傾向于短期穩(wěn)定的能源政策，而寬松的貨幣政策進(jìn)一步扭曲了綠色、基于市場(chǎng)的解決方案或投資。與此同時(shí)，不同的行為群體投入了大量精力來(lái)減緩綠色轉(zhuǎn)型，比如分享虛假信息和錯(cuò)誤信息，以及表達(dá)對(duì)氣象科學(xué)領(lǐng)域的不信任。
相關(guān)虛假信息攻擊事件
1．選舉仍然是虛假信息攻擊的主要目標(biāo)和關(guān)注重點(diǎn)。微軟聲稱(chēng)已經(jīng)關(guān)閉了許多針對(duì)民選官員和候選人、促進(jìn)民主的組織、活動(dòng)人士和媒體的網(wǎng)站。在這種情況下，社交媒體平臺(tái)的操縱者試圖傳播虛假信息和錯(cuò)誤信息。
2．根據(jù)PwC的數(shù)據(jù)顯示，在3602名受訪(fǎng)者中，分別有19%和33%的人對(duì)以下問(wèn)題回答“顯著增加”和“增加”:“您預(yù)計(jì)組織中這些事件的可報(bào)告事件將如何變化?與2021年相比，您預(yù)計(jì)2022年來(lái)自這些信息載體/行為群體的威脅會(huì)發(fā)生什么變化?”
3．虛假信息運(yùn)動(dòng)越來(lái)越復(fù)雜，虛假信息的范圍越來(lái)越大。現(xiàn)代的計(jì)算基礎(chǔ)設(shè)施、社交媒體、數(shù)據(jù)生成工具和人工智能方法的技術(shù)結(jié)合，正在瞄準(zhǔn)攻擊民主的基礎(chǔ)。
4．根據(jù)微軟的說(shuō)法，越來(lái)越多的惡意攻擊者同時(shí)使用網(wǎng)絡(luò)安全和虛假信息進(jìn)行攻擊以實(shí)現(xiàn)他們的目標(biāo)。
5．在對(duì)未經(jīng)審查的平臺(tái)進(jìn)行的一項(xiàng)分析中發(fā)現(xiàn)，在20萬(wàn)篇Telegram帖子中，那些鏈接到誤導(dǎo)性信息來(lái)源的帖子比那些鏈接到專(zhuān)業(yè)新聞內(nèi)容的帖子被分享得更多，但只有少數(shù)幾個(gè)頻道成為了目標(biāo)。
6．澳大利亞制定了《關(guān)于虛假信息和錯(cuò)誤信息的澳大利亞行為準(zhǔn)則》，該準(zhǔn)則已被澳大利亞的Twitter、谷歌、Facebook、微軟、Redbubble、TikTok、Adobe和蘋(píng)果公司采用。
7．TikTok一直被用于傳播虛假信息，得益于其對(duì)視頻的不審核和快速投放的軟件設(shè)計(jì)。
8.生成對(duì)抗網(wǎng)絡(luò)(GANs)越來(lái)越多地被用于傳播虛假信息。2021年，業(yè)余的攻擊者利用GAN傳播了虛假信息活動(dòng)，并偽造了社交媒體檔案。
參考文獻(xiàn)
1.CarolineJack,'LexiconofLies:TermsforProblematicInformation'(NewYork:Data&Society,2017),
2.Europol,EUSERIOUSANDORGANISEDCRIMETHREATASSESSMENT(SOCTA2021),2021
3.MicrosoftFY21DigitalDefenseReport
4.ENISAThreatLandscape2021.
5.TheGlobalEconomicForum,TheGlobalRisksReport202116thEdition,2021
6.Chesney,RobertandCitron,DanielleKeats,DeepFakes:ALoomingChallengeforPrivacy,Democracy,andNationalSecurity(July14,2018).107CaliforniaLawReview1753(2019),UofTexasLaw,PublicLawResearchPaperNo.692,UofMarylandLegalStudiesResearchPaperNo.2018-21,AvailableatSSRN:https://ssrn.com/abstract=3213954orhttp://dx.doi.org/10.2139/ssrn.3213954
7.ChuckBrooks,AlarmingCybersecurityStats:WhatYouNeedToKnowFor2021,March2021,
8.SamanthaBradshaw,HannahBailey,PhilipN.Howard,IndustrialisedDisinformation2020GlobalInventoryofOrganisedSocialMediaManipulation,2020,
9.PwC,2022GlobalDigitalTrustInsights,October2021
