近年來，多媒體通信領域有了長足的發展，高效的視頻編碼標準是其中的關鍵因素。相較于傳統的編碼標準，H.264視頻編碼標準在低比特率下提供了更高的編碼效率，然而其編碼復雜度也明顯增加[1]。目前在減少H.264視頻編碼計算復雜度方面，已有大量算法研究。這些算法側重于預測模式并提前終止預測，目的是減少總編碼時間，從而降低視頻編碼器的計算復雜度,但并不適于維持恒定幀編碼的實時應用。

    本文提出了一種減小H.264視頻編碼計算復雜度的快速模式決策算法。該方法以帕累托最優宏塊定義和率失真代價模式預測指標為基礎，制定類決策指標，劃分宏塊類，優化了已有的模式決策算法。同時，提高了H.264視頻編碼器實時軟件編碼的效率。
1減小H.264編碼復雜度分析
    通常對減少H.264標準復雜度的研究包括兩方面：非實時低復雜度算法和實時算法實現。
1.1 實時H.264編碼算法
　 實時編碼器要求保持恒定的幀編碼時間，有多種H.264編碼器實時動態復雜度控制算法，如幀內預測編碼算法[1]。該算法利用宏塊分割進行邊界方向檢測，得到圖像紋理方向，只對最可能的幾種模式進行預測，從而減少運算量；另有算法根據時域和空域活動指標限制搜索模式，并考量拉格朗日參數以降低計算復雜度和率失真代價[2]。上述方法并不包含前向SKIP預測和幀緩沖技術，導致計算復雜度高；而缺乏幀緩沖則意味著必須保守估計幀編碼時間，從而導致20%的時鐘周期閑置。
1.2 低復雜度H.264編碼
    H.264編碼的關鍵創新是它提供了多達7種幀間編碼模式：16×16、16×8、8×16、8×8、8×4、4×8和4×4[3]，從而獲得更準確的預測和更高的編碼效率。
    傳統模式決策算法分析了所有可能的宏塊類型，遍歷每種編碼模式，以選擇率失真代價最小的模式，運算量極大。率失真代價J的計算公式為：

2.4 實驗結果與分析
    為考量本文算法的性能，從輸出碼率、總編碼時間和PSNR三方面，將其與H.264參考軟件JM10.2進行比較。采用經典視頻序列的前300幀進行測試，測試條件：圖像大小為CIF，幀率為30 f/s,CABAC編碼,選用5個參考幀；編碼幀結構QP為IBBP,打開率失真優化。統計每個序列在QP為28、32、36和40時的輸出碼率BR、編碼時間t和PSNR，并按下述公式計算?駐BR、Δt和ΔPSNR,本文算法與JM10.2編碼性能參數的比較結果如表2所示。
 
     Mobile視頻序列的率失真曲線如圖2所示。本算法的率失真曲線幾乎和參考編碼器的曲線一致。

     本文算法在最低編碼效率損失的前提下顯著降低了復雜度。E指標的最大值是5.21，而參考編碼器的E值約為10；本算法的率失真曲線幾乎和參考編碼器的曲線一致；視頻序列的總編碼時間減少了57.2%~70%。由于算法相對于原來的編碼器產生了略高的SKIP速率,導致低運動序列的比特率有所降低，PSNR存在0.08~0.26 dB的退化是合理的。
    本文研究了實時H.264高效視頻編碼，對宏塊進行了分類，將類決策算法與率失真代價指標用于提前結束算法和前向SKIP預測，并給出了基于帕累托最優宏塊分類的快速模式決策算法。該算法降低了H.264視頻編碼的總復雜度，減少了編碼時間。后續的工作包括改善宏塊類的J預測模型；優化閾值的標準，使用自適應閾值進一步改善類決策的精確度。
參考文獻
[1] 何宜寶,陳再秀,畢篤彥，等.利用邊緣方向檢測實現H.264幀內預測編碼的新算法[J].西安電子科技大學學報, 2009,36(6):1126-1131.
[2] 高蒿，陳耀武.基于紋理區域分割的SVC快速模式決策算法[J]. 計算機工程，2011，37(22):256-249.
[3] 王喆,劉貴忠,錢學明.一種高效的基于H.264/AVC壓縮域信息的全局運動估計方法[J].電子學報,2011,39(3A):19-22.
[4] 王曉,鄧云,朱柳.一種低碼率下的H.264跳幀算法[J].計算機工程,2010,36(23),223-226.
[5] JING X, CHAU L P. Fast approach for H.264 inter mode  decision[J]. Electronic Letters,2004,40(17):1050-1052.
[6] ZENG H, CAI C, MA K K. Fast mode decision for H.264/AVC based macroblock motion activity[J]. IEEE Transaction.on Circuits and System for Video Technology, 2009,19(1):1-11.
[7] 何輝．H.264的算法優化[D].山東:山東大學,2006:38-40．