深度偽造（Deepfake）不僅是社工釣魚攻擊、BEC商務(wù)郵件攻擊的下一個“熱點”，同時也對業(yè)務(wù)欺詐檢測、生物特征身份認證等安全技術(shù)構(gòu)成嚴重威脅，更是未來“毫秒級”數(shù)字化現(xiàn)代戰(zhàn)爭的重大隱患。
而對抗“深度偽造”最好的方法就是“深度檢測”，用AI來檢測惡意AI。
近日，陸軍研究人員宣布開發(fā)出一種深度偽造檢測方法，可以開發(fā)出先進的軍用技術(shù)來幫助士兵快速檢測和識別深度偽造相關(guān)威脅。
這項研究工作的目標是開發(fā)出輕量化的、低訓(xùn)練成本、高性能的面部生物特征識別技術(shù)，可以滿足士兵在戰(zhàn)斗中對隨身設(shè)備的尺寸、重量和功率要求。
美國陸軍作戰(zhàn)能力發(fā)展指揮部（DEVCOM）、陸軍研究實驗室（ARL）與南加州大學(xué)教授c-c Jay Kuo的研究小組著手解決深度偽造對社會和國家安全構(gòu)成的重大威脅。研究成果就是一個稱為DefakeHop的創(chuàng)新技術(shù)解決方案。
深度檢測：用DefakeHop檢測Deepfake
ARL研究人員Suya You博士和Shuowen（Sean）Hu博士指出，深度偽造是人工智能合成的、超現(xiàn)實的視頻內(nèi)容，偽造某人的言行。大多數(shù)最新的深度偽造視頻檢測和媒體取證方法都是基于深度學(xué)習(xí)的，而深度學(xué)習(xí)在健壯性、可伸縮性和可移植性方面具有許多固有的弱點。
You博士表示：“由于生成神經(jīng)網(wǎng)絡(luò)的發(fā)展，AI驅(qū)動的深度偽造迅速地發(fā)展，以至于缺乏可靠的技術(shù)來檢測和防御。”“我們迫切需要另辟蹊徑，找到新的方法來理解深度偽造驚人性能背后的機制，并在堅實的理論支持下開發(fā)出有效的防御解決方案。”
通過將團隊成員的經(jīng)驗與機器學(xué)習(xí)，信號分析和計算機視覺相結(jié)合，研究人員開發(fā)了一種創(chuàng)新的理論和數(shù)學(xué)框架——連續(xù)子空間學(xué)習(xí)（SSL），這是一種創(chuàng)新的神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)。研究人員指出，SSL是DefakeHop的關(guān)鍵創(chuàng)新。
Kuo指出：“SSL是從信號轉(zhuǎn)換理論發(fā)展而來的用于神經(jīng)網(wǎng)絡(luò)架構(gòu)的全新數(shù)學(xué)框架。”“它與傳統(tǒng)方法完全不同，它提供了一種新的信號表示和過程，其中涉及級聯(lián)的多個變換矩陣。它非常適合具有短、中和遠程協(xié)方差結(jié)構(gòu)的高維數(shù)據(jù)。SSL在其設(shè)計中就融合了這種特性。它是一個完整的數(shù)據(jù)驅(qū)動的無監(jiān)督框架，為圖像處理和理解諸如面部生物特征識別等任務(wù)提供了全新的工具。”
You指出，目前大多數(shù)用于深度偽造視頻檢測和媒體取證的最新技術(shù)都是基于深度學(xué)習(xí)機制的。
DefakeHop大幅領(lǐng)先業(yè)界先進水平
研究人員認為，DefakeHop的性能大幅領(lǐng)先目前業(yè)界最先進的技術(shù)，主要表現(xiàn)為以下四點：
DefakeHop基于全新的SSL信號表示和轉(zhuǎn)換理論。它在數(shù)學(xué)上是透明的，其內(nèi)部模塊和處理都是可以解釋的。
DefakeHop是一種弱監(jiān)督的方法，它提供了一種通過（無需反向傳播）的學(xué)習(xí)機制，從而節(jié)省了（數(shù)據(jù)）標注成本，并且大大降低了培訓(xùn)的復(fù)雜性。
生成的模型尺寸和參數(shù)要小得多。復(fù)雜度遠低于最新技術(shù)，并且可以在戰(zhàn)術(shù)邊緣設(shè)備和平臺上有效實現(xiàn)。
具有對抗攻擊性的強大功能。基于深度學(xué)習(xí)的方法很容易受到對抗性攻擊。這項研究提供了魯棒的空間光譜表示來純化對抗性輸入，因此可以有效地防御對抗性擾動。
You教授指出：
這項研究通過引入和研究一種創(chuàng)新的機器學(xué)習(xí)理論及其應(yīng)用于智能感知、表示和處理的計算算法，為美國陸軍和實驗室的AI和ML研究工作提供了支持。
我們希望未來的士兵在戰(zhàn)場上能夠攜帶體積輕巧的智能視覺設(shè)備。今天的機器學(xué)習(xí)解決方案對特定的數(shù)據(jù)環(huán)境過于敏感。當以不同的設(shè)置獲取數(shù)據(jù)時，需要對網(wǎng)絡(luò)進行重新訓(xùn)練，這在嵌入式系統(tǒng)中很難進行。
目前開發(fā)的解決方案具備許多理想的特性，包括較小的模型尺寸，需要的訓(xùn)練數(shù)據(jù)不多，訓(xùn)練復(fù)雜度低，并且能夠處理低分辨率輸入的圖像。這是一個足以導(dǎo)致改變（現(xiàn)代戰(zhàn)爭）游戲規(guī)則的解決方案，有望在未來陸軍中得到廣泛應(yīng)用。
解決了數(shù)個面部生物識別的難題
研究人員成功地將SSL原理應(yīng)用到解決多種面部生物識別以及通用的場景理解問題上。結(jié)合DefakeHop的工作，他們開發(fā)了一種新穎的方法，即基于SSL原理的FaceFop，以解決在低圖像質(zhì)量和低分辨率的具有挑戰(zhàn)性的環(huán)境下進行問題識別和面部分類的難題。
據(jù)悉，該團隊將繼續(xù)為面部生物特征識別和通用場景理解（例如目標檢測、識別和語義場景理解）開發(fā)創(chuàng)新的解決方案。
Hu教授表示：“我們都看到了人工智能對社會的重大影響，有好的一面也有陰暗的一面，但不可否認的是人工智能正在改變很多事情。”“深度偽造就是一個負面的例子。過去數(shù)十年中，娛樂業(yè)已經(jīng)為我們展示了計算機可以生成以假亂真的，高度復(fù)雜的視覺效果，如今人工智能和機器學(xué)習(xí)的最新技術(shù)極大地降低了內(nèi)容偽造的技術(shù)門檻，相關(guān)工具也極容易獲取。”
最后，研究團隊認為，深度偽造技術(shù)對軍事和日常生活都有影響（威脅），而在對抗深度偽造的研究領(lǐng)域，DefakeHop方案相比現(xiàn)有技術(shù)有著顯著優(yōu)勢，為人工智能、計算機視覺、智能場景理解和面部生物特征識別等人工智能領(lǐng)域的研究提供了全新的范型和知識。
