DeepFake檢測技術(shù)具有許多現(xiàn)實應(yīng)用場景的價值，比如攻擊者將不雅視頻主角人臉換成目標(biāo)人臉進(jìn)行傳播等場景時，DeepFake檢測技術(shù)可“鑒偽求真”，追溯真相。
目前業(yè)界針對DeepFake換臉視頻的檢測方案主要分兩類：幀級檢測和視頻級檢測。幀級檢測方法標(biāo)注成本高，還要將幀級預(yù)測轉(zhuǎn)化為視頻級預(yù)測，對融合技術(shù)要求高，極易導(dǎo)致漏檢或誤檢，視頻級檢測研究過多專注于按照時序構(gòu)建的檢測模型，導(dǎo)致檢測效果受到一定限制。
阿里安全圖靈實驗室算法工程師向溪介紹，為更好地檢測部分篡改的DeepFake視頻，阿里安全圖靈實驗室提出了一種全新的檢測方法，這種方法標(biāo)注簡單，并能幫助神經(jīng)網(wǎng)絡(luò)更好地學(xué)習(xí)人臉特征，實現(xiàn)更好的檢測效果。
阿里安全圖靈實驗室還發(fā)現(xiàn)了攻擊者篡改視頻時露出的馬腳，由于攻擊者對視頻實行單幀篡改，導(dǎo)致同一人臉在相鄰幀上會有一些抖動，因此研究人員設(shè)計了新檢測模塊來發(fā)現(xiàn)這些抖動，輔助識別。
此外，此前業(yè)界提出的檢測方法多適用于針對單人視頻臉部篡改或多人視頻所有人臉篡改，阿里安全構(gòu)建了一個部分攻擊數(shù)據(jù)集，彌補(bǔ)了DeepFake檢測數(shù)據(jù)集在多人臉視頻中只對一個人臉或者幾個人臉篡改場景里的空白。
圖片包含三張人臉，攻擊者如果只對一個人的人臉進(jìn)行DeepFake換臉攻擊，阿里安全新技術(shù)也可成功檢測圖片來源：YouTube
通過技術(shù)革新，阿里安全圖靈實驗室DeepFake檢測技術(shù)在視頻級檢測和幀級檢測領(lǐng)域均名列前茅。該技術(shù)的共同研究者、中科院計算所副研究員王樹徽認(rèn)為，該研究成果對于一般性視頻多實例學(xué)習(xí)與標(biāo)注技術(shù)研究也具有重要啟發(fā)意義。
今年3月，阿里發(fā)布新一代安全架構(gòu)，致力于從源頭防范安全威脅，構(gòu)建安全體系，并打造數(shù)字基建安全樣板間，阿里安全研發(fā)的DeepFake檢測技術(shù)作為新一代安全架構(gòu)的核心AI技術(shù)，為數(shù)字基建的安全建設(shè)起到重要作用，并成功實現(xiàn)落地應(yīng)用。
阿里安全圖靈實驗室資深算法專家華棠介紹稱，截止目前，阿里已經(jīng)將該檢測技術(shù)使用在內(nèi)容安全場景中，后續(xù)也會在直播場景中進(jìn)行布局。
