DeepFake檢測技術(shù)具有許多現(xiàn)實(shí)應(yīng)用場景的價(jià)值，比如攻擊者將不雅視頻主角人臉換成目標(biāo)人臉進(jìn)行傳播等場景時(shí)，DeepFake檢測技術(shù)可“鑒偽求真”，追溯真相。
目前業(yè)界針對(duì)DeepFake換臉視頻的檢測方案主要分兩類：幀級(jí)檢測和視頻級(jí)檢測。幀級(jí)檢測方法標(biāo)注成本高，還要將幀級(jí)預(yù)測轉(zhuǎn)化為視頻級(jí)預(yù)測，對(duì)融合技術(shù)要求高，極易導(dǎo)致漏檢或誤檢，視頻級(jí)檢測研究過多專注于按照時(shí)序構(gòu)建的檢測模型，導(dǎo)致檢測效果受到一定限制。
阿里安全圖靈實(shí)驗(yàn)室算法工程師向溪介紹，為更好地檢測部分篡改的DeepFake視頻，阿里安全圖靈實(shí)驗(yàn)室提出了一種全新的檢測方法，這種方法標(biāo)注簡單，并能幫助神經(jīng)網(wǎng)絡(luò)更好地學(xué)習(xí)人臉特征，實(shí)現(xiàn)更好的檢測效果。
阿里安全圖靈實(shí)驗(yàn)室還發(fā)現(xiàn)了攻擊者篡改視頻時(shí)露出的馬腳，由于攻擊者對(duì)視頻實(shí)行單幀篡改，導(dǎo)致同一人臉在相鄰幀上會(huì)有一些抖動(dòng)，因此研究人員設(shè)計(jì)了新檢測模塊來發(fā)現(xiàn)這些抖動(dòng)，輔助識(shí)別。
此外，此前業(yè)界提出的檢測方法多適用于針對(duì)單人視頻臉部篡改或多人視頻所有人臉篡改，阿里安全構(gòu)建了一個(gè)部分攻擊數(shù)據(jù)集，彌補(bǔ)了DeepFake檢測數(shù)據(jù)集在多人臉視頻中只對(duì)一個(gè)人臉或者幾個(gè)人臉篡改場景里的空白。
圖片包含三張人臉，攻擊者如果只對(duì)一個(gè)人的人臉進(jìn)行DeepFake換臉攻擊，阿里安全新技術(shù)也可成功檢測圖片來源：YouTube
通過技術(shù)革新，阿里安全圖靈實(shí)驗(yàn)室DeepFake檢測技術(shù)在視頻級(jí)檢測和幀級(jí)檢測領(lǐng)域均名列前茅。該技術(shù)的共同研究者、中科院計(jì)算所副研究員王樹徽認(rèn)為，該研究成果對(duì)于一般性視頻多實(shí)例學(xué)習(xí)與標(biāo)注技術(shù)研究也具有重要啟發(fā)意義。
今年3月，阿里發(fā)布新一代安全架構(gòu)，致力于從源頭防范安全威脅，構(gòu)建安全體系，并打造數(shù)字基建安全樣板間，阿里安全研發(fā)的DeepFake檢測技術(shù)作為新一代安全架構(gòu)的核心AI技術(shù)，為數(shù)字基建的安全建設(shè)起到重要作用，并成功實(shí)現(xiàn)落地應(yīng)用。
阿里安全圖靈實(shí)驗(yàn)室資深算法專家華棠介紹稱，截止目前，阿里已經(jīng)將該檢測技術(shù)使用在內(nèi)容安全場景中，后續(xù)也會(huì)在直播場景中進(jìn)行布局。
