摘? 要： 首先介紹了視頻信號處理的相關概念和視頻信號處理技術面臨的挑戰等問題；然后對多媒體應用中的視頻編碼技術、交互式三維視頻技術、智能視頻處理技術等進行了介紹與比較分析；最后以智能視頻監控、視頻服務器和可視電話為例介紹了一些典型的視頻處理技術的應用案例。
關鍵詞： 視頻處理；視頻編碼；三維視頻；智能視頻
?
視覺是人類最重要的感覺，也是人類獲取信息的主要來源。據統計，人類從外界獲取的信息中，75%來自視覺。與其他的信息形式相比，視頻信息具有直觀、具體、生動等諸多顯著優點，并且所包含的信息量很大。“百聞不如一見”、“一圖值千言”等成語都說明了這一點。因此，各種視頻信號處理技術的研究和應用一直吸引著國內外廣大科技人員的關注。20世紀90年代，計算機技術、信息技術、網絡技術及其他各種相關技術的發展，進入了信息的數字化時代。在此階段，視頻信號處理技術得到了快速發展，特別是視頻、音頻和多媒體通信等方面的國際標準不斷推出，有力促進了視頻信號處理技術逐步進入實用化階段，如視頻會議、可視電話、數字電視等應用的出現。以視頻信息處理為主的多媒體技術已經成為21世紀最具有時代特征和最富有活力的研究和應用領域之一。
視頻信號處理主要包括視頻信號的采集、處理、編碼和傳輸。近年來的研究熱點主要集中在視頻信號的高效壓縮編碼、智能視頻處理、三維立體視頻信號的高效傳輸與重建等。
視頻信號處理的相關概念
視頻是一組在時間軸上有序排列的圖像，是二維圖像在一維時間軸上構成的圖像序列，又稱為動態圖像。它不僅包含靜止圖像所包含的內容，還包含場景中目標運動信息和客觀世界隨時間變化的信息。早期的視頻主要是模擬的視頻信號，隨著各種電子技術的發展以及全球數字化進程的推進，數字化技術以其易存儲、易傳輸、無誤碼積累等特點大大促進了圖像和視頻的發展與應用。
模擬視頻信號由視頻模擬數據和視頻同步數據構成，用于監視器正確地顯示圖像，圖像的細節取決于所應用的視頻標準或制式。模擬視頻主要有三種制式：NTSC(National Television Standards Committee)、PAL(Phase Alternation Line)和SECAM(Sequential Couleur Avec Memoire)等，這三種制式皆屬兼容制，其共同點是都采用能與黑白電視兼容的亮度信號和兩個色差信號作為傳輸信號，其不同點是兩個色差信號對副載波采用不同的調制方式。三種視頻制式的主要參數如表1所示。
?
為了在不同的應用和產品之間交換數字視頻，需要數字視頻格式標準。為了便于國際節目交換以及PAL制系統與NTSC制系統之間兼容，這就導致了通用數字視頻標準的出現。通用數字視頻標準主要包括國際無線電通信咨詢委員會(CCIR)所制定的數字分量視頻標準CCIR-601及CCIR-656。CCIR-601定義了對應于525行和625行電視系統的電視演播數字視頻標準，建立在帶有一個亮度(Y)和兩個色差(Cr和Cb)信號的分量視頻的基礎上，在525行和625行系統中，采樣頻率均選擇水平掃描頻率的整數倍。CCIR-656是在CCIR-601的基礎上發展的一種新數字視頻標準，使用27MHz的時鐘對視頻信號進行采樣，其中亮度(Y)信號采樣頻率為13.5MHz，色差(U和V)采樣頻率為6.75MHz，量化比特為8bit或10bit。由于CCIR-656視頻數據流采用8根信號線(傳統方式需要19根信號線)就可以傳輸所有的圖像信息和行同步、場同步、偶同步信息，因此采用CCIR-656方式進行接口設計時，便于實時數字圖像處理硬件平臺以功能單元為單位進行模塊化設計。
嵌入式視頻信號處理技術面臨的挑戰
視頻信號傳輸的帶寬需求
視頻信號數字化后的數據量非常龐大，如一路PAL制的數字電視的數據速率高達216Mb/s，這無疑給存儲器的存儲容量、通信線路的信道傳輸率以及計算機的計算速度都帶來了極大的壓力。同時，這也是制約多媒體技術發展的一個瓶頸問題。解決這一問題，單純通過擴大存儲器容量、增加通信線路的傳輸率是不現實的，因此需要對視頻數據進行壓縮編碼。近年來，國際標準化組織ISO、國際電工委員會IEC、國際電信聯盟ITU-T以及中國音視頻編碼標準化工作組相繼制定了一系列數字視頻圖像編碼的國際標準。
視頻信號處理對計算能力的需求
在嵌入式應用中，視頻信號處理主要包括視頻編碼應用等，新一代視頻編碼標準H.264以實現視頻的高壓縮比、高圖像質量、良好的網絡適應性等優點，為廣大視頻應用產業所接納。相對于傳統視頻標準MPEG-2、MPEG-4而言，H.264在碼率壓縮效率上具有無可比擬的優勢，在相同畫面質量的情況下，H.264需要的帶寬只有MPEG-4的1/2、MPEG-2的1/8。但是，H.264 算法非常復雜，其編解碼的實時性難以保證，通常只能實現對中低分辨率視頻的實時編碼。
視頻信號處理對能量的需求
作為便攜式系統的移動視頻終端，通常使用電池進行供電，其供能系統的容量受到很大的限制。因為視頻業務的處理算法相對復雜，并且用戶在享受業務時需要長時間開啟終端屏幕，所以必然會消耗大量的能量。這一問題大大制約了移動視頻通信業務的發展，因而需要設計低能耗的視頻信號處理算法，減少視頻終端的能量消耗。
視頻數據對傳輸質量的要求
隨著無線網絡的飛速發展，無線視頻應用越來越普及。但是由于無線信道受多徑影響，誤碼率高，時變性強，而實時視頻在無線網絡傳輸中容易受誤碼、抖動等影響，直接導致終端數據流信息無法完整回放，因此如何保證視頻傳輸服務質量顯得異常重要。
多媒體應用中視頻信號處理技術的發展情況
視頻壓縮編碼技術
視頻壓縮編碼技術是視頻信號處理的核心技術之一，理論和應用領域都致力于該技術的研究，并且制定了一系列國際標準。目前影響最大并被廣泛應用的是ISO的MPEG系列、ITU-T的H.26x系列和中國自主制定的AVS系列標準(參見圖1)。
?
H.261是首個獲得廣泛應用的視頻編碼標準，它是為在ISDN上開展可視電話、視頻會議而制定的，速率為64kb/s的整數倍(也稱p×64標準)。MPEG-1在H.261編碼算法的基礎上改進，主要增加了B幀（雙向預測幀）和GOP（圖組），這些改進取得了更高的壓縮比，MPEG-1標準是VCD工業標準的核心。MPEG-2標準擴展了MPEG-1標準，能夠支持高分辨率圖像，目標碼率是在3～15Mb/s傳輸速率條件下提供廣播級的圖像。MPEG-2是工業標準DVD的核心標準，是MPEG-1的一個超集。H.263是針對甚低碼率(低于64kb/s)視頻會議和可視電話的窄帶信道視頻編碼標準。MPEG-4標準是針對數字電視、交互式繪圖應用、交互式多媒體等整合及壓縮技術的需求而制定的國際標準，MPEG-4既能夠支持碼率低于64kb/s的視頻應用，也能夠支持廣播級的視頻應用。H.264/AVC標準是目前由ITU-T的視頻編碼專家組及ISO/IEC的活動圖像專家組共同大力發展研究的、適應于低碼率傳輸的新一代壓縮視頻標準。與原有的視頻編碼標準相比，H.264/AVC具有更高的編碼效率，在相同的重建圖像質量下，能夠比H.263節約50%左右的碼率。
AVS視頻編碼標準是由我國“數字音視頻編解碼技術標準工作組”自主制定的，相比于第一代標準MPEG-2，編碼效率提高2～3倍，實現方案簡潔。AVS視頻標準可以廣泛應用于IPTV、數字電視廣播等。AVS與MPEG-4/H.264采用的技術方案比較如表2。
?
?
交互式三維視頻
交互式三維視頻是近年來興起的一種新型媒體，在傳統的二維視頻的基礎上，它增加了視覺的現實感和逼真感，用戶在欣賞節目的同時，能夠自由的選擇視點與視角，交互性是這種媒體的重要特征。根據不用的應用場景，交互式三維視頻主要分為交互式全方位視頻、交互式立體視頻、交互式多視角視頻等幾種類型。
(1)交互式全方位視頻
交互式全方位視頻（Interactive Omnidirectional Video)也被稱為沉浸式視頻(Immersive Video)。觀察者視點不變，改變觀察方向能夠觀察到周圍的全部場景，普通的二維視頻只反應了全方位視頻的某個局部，難以使人產生身臨其境的沉浸感，利用全方位視頻可以建立起供用戶觀察的虛擬環境，用戶通過在其中的漫游，能夠交互地從不同觀察點和方向了解環境。全方位視頻攝像機的示意圖如圖2所示，由多個攝像機對同一視點周圍的場景進行采集處理，任何一個視角的二維場景都可以由這些采集的圖像繪制出來。全方位視頻可以應用于廣播、存儲和交互式的在線應用等。
?
(2)交互式立體視頻
交互式立體視頻利用人眼的雙目視差原理，雙目各自獨立地接收來自同一場景、特定攝像點的左右圖像，從而獲得具有深度感的立體圖像。立體視頻由于能獲得景物的深度信息而具有強烈的真實感和逼真度。立體視頻的采集設備如圖3所示，攝像頭并行排列在一條直線上，模擬在水平位置上分開的人眼，為了能夠使觀察者體驗到視角的變化，有時需要多個攝像機同時采集多個不同位置的圖像。
?
(3)交互式多視角視頻
交互式多視角視頻也被稱為任意視角視頻(Free Viewpoint Video)，用戶可以從不同的視點以任意的視角進行觀察，中間視角的視頻圖像可以根據左右兩個視角的原始視頻圖像來插值生成。它是交互式視頻更一般的定義，上述的交互式全方位視頻和交互式立體視頻都是交互式多視角視頻的一個特例。這種視頻數據的采集設備如圖4所示，除了采集視頻信號之外，還可能需要攝像機的校正參數(包括一些內置參數和外置參數)、場景的幾何信息等，當然這些參數和幾何信息也可以用合適的算法從采集的圖像中估計出來。
?
隨著交互式三維視頻采集和繪制技術的發展，編碼技術也就成為推廣交互式三維視頻應用的一個關鍵因素。與普通的二維視頻相比，三維視頻要處理的數據量非常大，所以必須充分利用空間、時間和視角之間的信息冗余，采用運動補償預測、視差補償預測技術，對三維視頻進行有效的存儲和傳輸。
智能視頻技術
智能視頻技術是計算機視覺和模式識別技術在視頻中的應用，它對視頻圖像中的目標進行自動檢測、跟蹤和分析，從而過濾掉用戶不關心的信息，通過分析理解視頻畫面中的內容，提供有用的關鍵信息。其中運動目標檢測、運動目標分類和運動目標跟蹤是智能視頻處理中的低級和中級處理部分，而行為理解和描述則屬于高級處理部分。
????(1)運動目標檢測
運動目標檢測是從視頻序列中將變化區域從背景圖像中提取出來。運動區域的有效分割對于目標分類、跟蹤和行為理解等后期處理是非常重要的，因為以后的處理過程僅僅考慮圖像中對應于運動區域的像素。然而，由于背景動態變化，如天氣、光照、影子及混亂干擾等的影響，使得運動檢測成為一項相當困難的工作。目前幾種常用的方法有：背景減除、時間差分、光流、擴展的EM算法、能量運動檢測、基于數學形態學的場景變化檢測等。
(2)運動目標分類
目標分類是識別運動目標所屬的類別，不同的運動區域可能對應于不同的運動目標，比如交通道路上監控攝像機所捕捉的視頻序列中可能包含行人、車輛及其他諸如飛鳥、流云、搖動的樹枝等運動物體，為了便于進一步對行人進行跟蹤和行為分析，運動目標的正確分類是完全必要的。目前的分類方法主要有：基于形狀信息的分類、基于運動特征的分類以及時間共生矩陣進行分層分類的方法等。
(3)運動目標跟蹤
對目標進行分類和分割之后，在連續視頻幀中將相同的目標對應起來，實現目標的連續跟蹤。人體的跟蹤有兩層含義，一是在二維圖像坐標系下的跟蹤，二是在三維空間坐標系下的跟蹤。前者的實質是指在二維圖像中，建立運動區域和運動人體(或人體的某部分)的對應關系，并在一個連續的視頻序列中維持這個對應關系。從運動檢測得到的一般是人的投影，要進行跟蹤就首先要給需要跟蹤的對象建立一個模型。對象模型可以是整個人體，這時，形狀、顏色、位置、速度、步態等等都是可以利用的信息；也可以是人體的一部分，如上臂、頭部或手掌等，這時需要對這些部分單獨進行建模。之后，將運動檢測到的投影匹配到這個模型上去。一旦匹配工作完成，就得到了最終有用的人體信息了。常用的數學工具有卡爾曼濾波(Kalman Filtering)、Condensation算法及動態貝葉斯網絡等。
(4)行為理解與描述
行為理解與描述是近年來被廣泛關注的研究熱點。它是指對運動模式進行分析和識別，并用自然語言等加以描述。行為理解可以簡單地被認為是時變數據的分類問題，即將測試序列與預先標定的代表典型行為的參考序列進行匹配。行為理解的關鍵問題是如何從樣本學習中獲取行為序列，并且學習和匹配行為序列能夠處理在相似的運動模式類別中空間和時間尺度上輕微的特征變化。對于人的行為識別而言，目前主要有模板匹配方法與狀態空間方法。采用模板匹配技術的行為識別方法首先將圖像序列轉換為一組靜態形狀模式，然后在識別過程中與預先存儲的行為標本相比較。基于狀態空間模型方法是定義每個靜態姿勢作為一個狀態，這些狀態之間通過某種概率聯系起來。任何運動序列可以看作這些靜態姿勢的不同狀態之間的一次遍歷過程，在這些遍歷期間計算聯合概率，其最大值被定義為分類行為的標準。目前，狀態空間模型已經被廣泛地應用于時間序列的預測、估計和檢測。
總之，智能化是視頻應用發展的必然趨勢，國際上很多科研機構對智能視頻技術的研發和應用部署已有多年，特別是“911”事件之后，出于反恐、國家公共安全和社會安定等多方面的需要，智能化視頻監控和預警技術已經成為國際上最被關注的前沿研究領域。
應用案例
(1)智能視頻監控
視頻監控系統是安全防范系統的組成部分，它是一種防范能力較強的綜合系統。視頻監控以其直觀、方便、信息內容豐富而被廣泛應用于許多場合。近年來，隨著計算機、網絡以及圖像處理、傳輸技術的飛速發展，視頻監控技術也有長足的發展。同時，隨著智能技術特別是模式識別技術在理論和實踐上的逐漸成熟，將機器智能概念引入常規視頻監控系統成為該領域的重要突破點。
我們設計的智能視頻監控系統采用ARM微處理器為主控芯片，同時以TI TMS320C642為視頻處理的協處理器，充分發揮了ARM的控制優勢和DSP的信號處理優勢。系統結構如圖5所示。DM642主要負責視頻數據的采集、編碼和智能分析，通過HPI和ARM進行通訊，ARM可以通過網絡與監控中心相連，同時也可以進行對視頻數據存盤處理。
(2)嵌入式WEB視頻服務器
嵌入式WEB視頻服務器利用MPEG-4專用芯片采集壓縮視頻信號，經過服務器網絡接口傳送到監控中心，服務器同時可以接收監控中心發送的控制信號。視頻服務器硬件結構如圖6所示。服務器上電后，系統被加載到與ARM相連的SDRAM中運行，ARM通過串口控制云臺，轉動攝像機獲取視頻信號，經過SAA7114采樣芯片實現A/D轉換，轉換后的數字視頻數據傳給視頻壓縮芯片，完成視頻壓縮，壓縮后的數據緩存在一個FIFO中，當FIFO達到一定的數據量時，觸發ARM中斷，由處理器的中斷服務子程序獲取該數據并存放于系統緩沖區中，等待發送程序讀取。當服務器監聽到監控端的視頻請求時，服務器將視頻數據打包并以流媒體的形式傳輸到監控端上去。
(3)基于SIP的可視電話終端
可視電話終端由于使用方便、安裝方便等優點，是目前國內外的研究熱點。實現方案也有很多種，如采用DSP、ARM或者專用的會議電視芯片等。這里采用的方案是：使用TI公司的通用DSO芯片TMS320DM642，利用純軟件方式實現音視頻編解碼，用三星公司的ARM9芯片S3C2410實現各種接口，嵌入式操作系統和傳輸控制協議等。這樣既不存在芯片成本過高的問題，又能保證很高的性能，可以通過簡單的程序下載實現軟件升級或者增加新的編解碼標準。系統的硬件結構框架如圖7所示。其中，TMS320DM643完成音頻壓縮編解碼G.711/G.729/G.723.1和視頻壓縮編解碼H.264，S3C2410完成SIP協議和嵌入式OS及各種接口。
?
參考文獻
[1] WANG Yao，OS-TERMANN J，ZHANG Ya Qin.Video Processing and Communications[M].New?Jersey：Pearson Education，2003.
[2] Sadka A H.Compressed Video Communication[M].Hoboken：Wiley，2002.
[3] 沈蘭蓀，卓力.小波編碼與網絡視頻傳輸[M].北京：科學出版社，2005.
[4] 畢厚杰.新一代視頻壓縮編碼標準－H.264/AVC[M].北京：人民郵電出版社，2005.
[5] 智能視覺監控技術的研究[DB/OL].http：//www.zhi-leng.com.cn/Html/2007-04-08/7121.shtml.
[6] 王亮.人運動的視覺分析綜述.計算機學報，2002(3)：3-16.
[7] Millan Sonka，Vaclav Hlavac，Roger?Boyle著.圖象處理分析與機器視覺，第二版，艾海舟，武勃等譯.北京：人民郵電出版社，2003.