聯合視頻專家組 JVET 官網顯示，字節跳動設立在美國的研發團隊于今年初發起了一項視頻壓縮技術提案，并命名為 DAM（Deep-filtering with Adaptive Model-selection）。相比 H.266/VVC 最新標準，DAM 能夠為視頻編碼性能帶來顯著提升，亮度信號 Y 可實現 10.28% 的性能增益。兩個色度信號 U 和 V 的性能增益也分別達到 28.22% 和 27.97%。這是業界公開的單個智能編碼工具的最佳性能增益。

　　視頻編解碼是視頻應用的底層核心技術，作用是對圖像進行壓縮和數字編碼，以盡可能小的帶寬傳送盡可能高質量的視頻數據。H.264 是現在被廣泛使用的視頻編解碼標準，在同等視頻質量下，H.265/HEVC 標準可以讓視頻體積減小一半。H.265 尚未完全普及，新一代標準 H.266/VVC 比 H.265 讓視頻又減小一半。

　　這并不是視頻編碼技術的盡頭。

　　今年初，字節跳動先進視頻團隊（AVG）向聯合視頻專家組 JVET 發起了一項 JVET-U0068 技術提案，可以為視頻壓縮的三個顏色分量（Y, U, V）分別實現約 10%、28%、28% 的性能增益，這是業界公開的單個智能編碼工具的最佳性能增益。在優化壓縮質量的同時，視頻體積相比 H.266 最新標準至少還可以縮小 13%。就其實際效果而言，如果新技術得以應用，與現在主流的 H.264 標準相比，我們看同樣質量的視頻，大約只需要 22% 的帶寬和存儲空間。

　　這項技術名為 DAM（Deep-filtering with Adaptive Model-selection），它是通過深度學習技術構建減少視頻壓縮失真的濾波器，主干是基于殘差單元堆疊的深度卷積神經網絡，輔以自適應模型選擇以最大程度適應特性復雜的自然視頻。該技術由字節跳動 AVG 的美國加州研發團隊實現，成員來自高通、英特爾、微軟等巨頭以及海內外多家頂級院校。

　　我們先從下圖示例中對比 H.264 與 H.266+DAM 的視頻壓縮效果：

　　可以看到，相同壓縮比條件下，H.266+DAM 編碼壓縮質量遠遠優于 H.264。

　　除了視頻壓縮質量提升之外，應用 DAM 技術可以比H.266再縮小 13% 的數據體積，以下圖片來自國際標準組織的測試視頻。其中，圖（左）為原圖，每像素 12 字節；圖（中）使用 VTM11.0 壓縮（qp=42），每像素 0.00216字節，峰值信噪比 27.78dB；圖（右）使用 VTM11.0+DAM（qp=42），每像素 0.00184 字節，峰值信噪比 28.02dB。

　　對比圖（中）和圖（右）可以看出，應用 DAM 技術后，圖（右）壓縮比更高，峰值信噪比（客觀質量）更好，主觀質量也相對更好。

　　圖1. 左：原圖， 12bpp，中：VTM-11.0壓縮，QP42，0.00216bpp,27.78dB,右：VTM-11.0+DAM，QP42, 0.00184bpp，28.02dB

　　技術細節

　　DAM 的構建方法

　　提案 JVET-U0068 所介紹的 DAM 是字節跳動 AVG 此前一項提案 JVET-T0088 的擴展版本。

　　在具體實現上，為了減輕深度網絡的訓練難度，DAM 算法利用殘差單元作為基本模塊，并多次堆疊來構建最終網絡。所謂殘差單元是指通過引入跳層連接，允許網絡把注意力放在變化的殘差上。為了處理不同類型的內容，新技術針對不同類型的 slice 和質量級別訓練不同網絡。此外，還引入了一些新特性來提高編碼性能。

　　圖 1：（a）是卷積神經網絡濾波器的架構，M 代表特征圖的數量，N 代表特征圖的空間分辨率；（b）是（a）中殘差塊的結構。

　　DAM 濾波方法的主干如上圖 1 所示，為了增加感受野，降低復雜度，此方法包含一個步幅為 2 的卷積層，該層將特征圖的空間分辨率在水平方向和垂直方向都降低到輸入大小的一半，這一層輸出的特征圖會經過若干順序堆疊的殘差單元。最后一個卷積層以最后一個殘差單元的特征圖作為輸入，輸出 4 個子特征圖。最后，shuffle 層會生成空間分辨率與輸入相同的濾波圖像。

　　與此架構相關的其他細節如下：

　　對于所有卷積層，使用 3x3 的卷積核。對于內部卷積層，特征圖數量設置為 128。對于激活函數，使用 PReLU；

　　針對不同 slice 類型訓練不同的模型；

　　當為 intra slice 訓練卷積神經網絡濾波器時，預測和分塊信息也被輸入網絡。

　　新特性：自適應模型選擇

　　在 JVET-T0088 的卷積神經網絡結構基礎上，JVET-U0068 引入了以下幾種新特性：

　　首先，每個 slice 或 CTU 單元可以決定是否使用基于卷積神經網絡的濾波器；

　　其次，當某個 slice 或者 CTU 單元確定使用基于卷積神經網絡的濾波器時，可以進一步確定使用三個候選模型中的哪個模型。為此目的，使用 {17,22,27,32,37,42} 中的 QP 數值訓練不同模型。將編碼當前 slice 或 CTU 的 QP 記作 q，那么候選模型由針對 {q，q-5，q-10} 訓練的三個模型構成。選擇過程基于率失真代價函數，然后將相關模式表征信息寫入碼流；

　　第三，基于卷積神經網絡的濾波器在所有層都被啟用；

　　最后，現有濾波器中的去塊濾波和 SAO 被關掉，而 ALF（和 CCALF）則被置于基于卷積神經網絡濾波器后面。

　　在線推斷及訓練

　　推斷過程中使用 PyTorch 在 VTM 中執行 DAM 深度學習的在線推斷，下表 1 是根據 JVET 建議給出的網絡信息：

　　表 1。

　　訓練過程中以 PyTorch 為訓練平臺，采用 DIV2K 和 BVI-DVC 數據集，分別訓練針對 intra slice 和 inter slice 的卷積神經網絡濾波器，并且訓練不同的模型以適應不同的 QP 點，訓練階段的網絡信息根據 JVET 建議列于下表 2 中。

　　注意，當訓練 inter slice 濾波器時，預測信息也被用作輸入，而在 JVET-T0088 中，它僅用于 intra slice。

　　表 2。

　　下圖 2 給出了訓練集和驗證集損失函數的一個示例。

　　圖 2。

　　實驗結果：三個顏色分量（亮度 Y 和色度 Cb、Cr）性能增益顯著

　　考慮到 VTM-9.0 和 VTM-10.0 之間的微小差異，并根據 JVET 定義的常規測試條件，在 VTM-9.0 上測試了字節跳動 AVG 的 DAM 技術提案，測試結果如下表 3 和表 4 所示。

　　結果顯示，在 RA 構型下，Y、Cb 和 Cr 的 BD-rate 節省分別為 10.28%、28.22% 和 27.97%；在 AI 配置下，對 Y、Cb 和 Cr 分別可帶來 8.33%、23.11% 和 23.55% 的 BD-rate 節省。

　　表 3：AVG 提案在 VTM9.0（RA）上的性能表現。

　　表 4：AVG 提案在 VTM9.0（AI）上的性能表現。

　　總結

　　實測證明，字節跳動 AVG 的這項視頻編碼技術創新，可以讓視頻的數據體積相比 H.266 最新國際標準再縮小 13%。對視頻服務商來說，存儲和帶寬成本將顯著降低；對用戶來說，在網速較慢的情況下也可以流暢觀看高清視頻。

　　但正如前文所述，早在 2013年正式通過的 H.265，如今還沒有完全普及。一方面，高昂的專利授權費用導致生產硬件設備和生產內容的廠商無法承擔，用戶也只能買并不支持 H.265 標準的設備；另一方面，H.265 的專利收費很復雜，想要使用 H.265 得分別多次繳專利費。因此，目前最常見的還是 18 年前的 H.264 標準。

　　盡管 H.266 新一代標準的推廣還有很長的路要走，字節跳動 AVG 的技術探索并不會停止，其研究成果也會通過自主研發的 BVC 編碼器投入應用，為抖音、西瓜視頻、今日頭條等 App 的視頻類內容處理，以及云計算、云游戲等基礎架構領域創造更高清畫質、更流暢播放的視頻體驗。