摘 要： 在對目標進行分類識別過程中，對其特征的有效提取直接影響最后分類的精度。針對此類問題，提出了基于Tri-training算法對圖像進行多特征融合分類，通過利用Principal Component Analysis（PCA）主成分分析法，并結合目前比較實用的半監督學習Tri-training算法對圖像顯著目標進行分類，其中Tri-training算法是以Support Vector Machine（SVM）、Na?觙ve Bayes（NB）、Back Propagation（BP）為基分類器，將圖像的多特征數據值作為圖像在Tri-training分類器的輸入對分類器進行訓練和測試。實驗表明，在進行了有效的預處理之后，再對樣本進行多特征融合在一定程度上明顯提高了分類精度。
關鍵詞： 分類器；多特征融合；半監督；顯著目標
0 引言
半監督學習是近年來提出的一種新的學習策略，它不僅有效結合了監督學習和非監督學習的優點，而且完善了它們的不足。它通過同時使用標記樣本和未標記樣本的數據，然后利用未標記樣本的信息數據來幫助其建立學習模型，使其可以獲得很好的學習泛化性能和學習效果。所以在近年來該理論及其算法得到快速的發展和應用，Blum和Mitchell提出的Co-training算法[1]，通過使用兩個不同的分類器來實行協同訓練，然后再將單個分類器所產生的新標記數據加入到另一個分類器中，通過迭代的方法，不停地擴充有標記樣本集并反復訓練。但是該算法不僅要求其數據屬性可以分為兩個不同的子集，而且要求其中每個子集能獨立訓練產生出分類器，所以在實際應用中很難得到滿足。Zhou等人提出的Tri-training算法[1]，它沒有充分冗余視圖的局限，同時也不需要采用不同的分類方法，其實用性更廣。將Co-training算法和Tri-Training算法結合的SVM分類方法，也可以獲得很好的分類精度。
為了提高對圖像中顯著目標的分類精度，本文提出了基于Tri-training算法對目標進行多特征融合分類的方法，首先對圖像中的目標進行預處理，消除圖像中的噪聲干擾，同時有效克服其強度敏感性。然后在此基礎上分別提取中心矩特征，仿射不變矩特征以及其灰度共生矩特征，然后再利用PCA方法將以上特征融合，最后基于Tri-training算法進行分類。
1 特征提取
1.1 數據預處理
在對圖像數據實行有效的預處理過程中，一般主要對其實行去噪處理。本文主要利用小波方法對圖像實行有效的降噪處理。小波變換降噪方法通過將數據變換到其小波域中，然后再利用小波分解獲得的高頻系數將其去除，最后再對圖像信號進行小波反變換來達到降噪目的。其公式如下：
g（x，y）=f（x，y）+n（x，y）（1）
其中g（x，y）為要得到的理想圖像，f（x，y）為輸入圖像，n（x，y）為噪聲，通過頻域變化將噪聲去除就得到了想要的理想圖像。
1.2 圖像中心矩特征提取
假設x={x（i），i=0，1，2，…，I-1}表示距離像幅度，其中x（i）為第i+1個距離單元的回波幅度，I為距離單元的個數，然后對其歸一化處理可得：
f=[f（1），f（2），…，f（J-1）]T=[W2，W3，…，WJ]T（4）
其中中心矩WJ的幅度與階數關系為遞增關系，為了能夠有效地抑制指數增長造成的影響，一般通過對中心矩作極差變換來達到消除數量級造成干擾的目的。在對中心矩特征作向量極差變換時，實質上是做了歸一化處理，從而有效地解決了特征不在同一個數量級的問題。所以可得其中心矩特征為f=[f（1），f（2），…，f（J-1）]，其中J表示中心矩的最高階數。
1.3 圖像灰度共生矩陣特征提取
灰度共生矩陣一般定義為從灰度級為i的點離開某個固定位置關系d=（Dx，Dy）達到灰度為j的概率。這里用Pd=（i，j）（i，j=0，1，2，…，L-1）來表示灰度共生矩陣。其中L指圖像的灰度級，i，j分別表示像素的灰度。圖像中像素間的距離和方向由d的值決定。?茲為灰度共生矩陣的生成方向，通常取0°，45°，90°和135°四個方向。灰度共生矩陣的像素對如圖1所示。
當選定像素間位置關系d后，就能基于關系d生成灰度共生矩陣[2]。
Pd= Pd（0，0） Pd（0，1） … Pd（0，j） … Pd（0，L-1） Pd（1，0） Pd（1，1） … Pd（1，j） … Pd（1，L-1） … … … … … … Pd（i，0） Pd（i，1） … Pd（i，j） … Pd（i，L-1） … … … … … …Pd（L-1，0） Pd（L-1，1） … Pd（L-1，j）… Pd（L-1，L-1）（5）
1.4 圖像仿射不變特矩特征提取
一般二維仿射線性變換的數學變換模型可表示為：
x′y′=Axy+b（6）
假設p是坐標平面上任一點，p′點是其仿射線性變換對應點，變換后坐標系下的兩點坐標可表示
如果通過歸一化中心矩來獲得仿射不變矩，只需要合適的扭曲不變性和拉伸不變性就可以實現仿射變換的不變性。通過利用構造的中心矩多項式方法，可達到消除仿射變換矩A的目的，這樣就能實現一般情況下的仿射不變性。這里是利用Jan Flusser等人構造的六個仿射不變矩變量來作為目標圖像的特征不變量[3]。
2 特征融合
PCA的基本思想是用一組維數最少的特征以最精確的方式描述原始樣本特征[4-5]。仿真實驗中從圖像中提取三種有效特征，然后使用主成分分析法再將三種特征融合成一種綜合特征對目標進行分類。實驗取每類樣本100張圖片，一共兩類樣本數據，其中每一組樣本數據中包含7維中心矩特征、6維仿射不變矩特征以及3維灰度共生矩特征。將上述三種特征生成一個16維的特征向量為x=（?準1，?準2，…，?準16）T，那么由200個特征向量構成的特征矩陣為X=（x1，x2，…，x200），其中向量xk表示第k張樣本圖像的中心矩特征，仿射不變矩特征及灰度共生矩特征組成列向量。實驗仿真中先將三種特征數據進行串聯，然后通過PCA來將串聯后的數據進行有效的融合。目的有兩方面：一是將三種特征數據中的相關性消除；二是將三種特征數據從高維矢量降為低維矢量。
3 基于Tri-training的圖像目標分類
基于Tri-training算法的多特征融合圖像分類流程圖如圖2所示。將圖像數據轉換成算法程序能夠處理的數據格式（xls文件）并輸入到Tri-training算法的MATLAB程序中，由算法進行樣本集的劃分。當完成初始的三種基分類器之后，按百分比輸入已標記樣本，然后通過三個基分類器對未標記樣本進行相互標記以獲得置信度高的樣本，再加入到已標記樣本中進行模型的訓練。以此迭代直至結束，最后獲得由三個基分類器組成的集成分類器。在測試階段，通過三個分類器分別對測試樣本集進行有效的分類，使用多數投票法來獲得最后的分類結果。
Tri－training分類算法流程圖如圖3所示。Tri－training[4]算法采用三個基分類器，再通過隨機采樣算法bootstrap來獲得存在差異的訓練數據子集，從而能夠有效地保證基分類器之間的差異性。在Tri－training訓練結束后，采用多數投票法對三個分類器進行集成，得到最終的分類器進行分類。
4 實驗結果與分析
本文中選取飛機和越野車各100張照片作為實驗數據，首先提取圖像的中心矩特征、放射不變矩特征和灰度共生矩特征，再將這些數據融合得到一個多特征數據來作為Tri-training分類器的輸入數據，實驗中基于MATLAB 7.0平臺進行仿真。部分樣本如圖4所示。
4.1 樣本分配
選用25%的特征數據作為測試樣本集，剩余的75%作為訓練樣本集。在訓練樣本集中，未標記樣本的比例依次選用80%，60%，40%和20%進行測試和比較。Tri-training算法中采用了SVM，NB，BP作為分類器。
4.2 算法的性能評價標準
采用算法對于測試集的分類錯誤率作為分類器的評價指標。
其中，E是算法分類錯誤率，Ncorrect是分類正確的樣本數目，N是總樣本數。
4.3 實驗結果
實驗中對未標記樣本的比例依次選用80%，60%，40%和20%進行測試和比較，結果如圖5~圖12所示。以下各圖中，（a）為PCA融合得到的方差圖，（b）為訓練之后與最優線的比較，（c）是最后分類的精度。
表1是在4種不同百分比下未標記樣本的半監督學習（PCA+Tri-training）與對應的PCA特征融合分類錯誤率的比較。
從表1中可以看出，當標記的樣本比較多時，PCA多特征融合法與基于Tri-training算法的PCA多特征融合法的分類精度差不多，但是當樣本開始減少時，就能看出兩種方法的差異性，所以在少數樣本情況下第二種方法更實用，分類精度更高，操作性很強。
5 結束語
本文主要是將機器學習領域的Tri-training半監督學習方法應用在圖像的顯著目標分類，并基于Tri-training算法提出了與多特征融合相結合的圖像分類方法，通過有效地將圖像的中心矩特征、仿射不變矩特征和灰度共生矩特征進行融合，利用SVM，NB，BP三個基分類器進行協同訓練，達到了很好的分類效果。仿真結果表明其在小樣本分類中具有很好的分類效果。
參考文獻
[1] 周志華.機器學習及其應用2007[M].北京：清華大學出版社，2007.
[2] 陸麗珍，劉仁義，劉南.一種融合顏色和紋理特征的遙感圖像檢索方法[J].中國圖象圖形學報，2004，9（3）：328-332．
[3] 楚稼，張桂林.基于顏色和邊緣信息融合的背景建模方法[J].計算機工程，2008，34（4）：42-45．
[4] LOWE D G. Distinctive image features from scale invariant key points[J]. In Journal of Computer Vision， 2004，60（2）： 91-110.
[5] 謝輝，陸月明，孫松林.基于半監督學習的一種圖像檢索方法[J].計算機應用研究，2013，30（7）：2210-2212．