基于支持向量機方法的車(chē)型分類(lèi)技術(shù)

　　0引言

　　智能交通系統是隨著(zhù)公路交通的迅速發(fā)展而發(fā)展起來(lái)的，它是以交通流檢測系統為基礎完成各種功能。經(jīng)過(guò)近年來(lái)的發(fā)展，檢測系統的研究取得了諸多成果，但車(chē)型的準確分類(lèi)一直是檢測系統中的難點(diǎn)問(wèn)題。目前具有車(chē)型分類(lèi)功能的檢測器主要有：壓電式檢測器、磁感應式檢測器、超聲波檢測器以及視頻檢測器等。與其他類(lèi)型的檢測器相比，視頻檢測器具有安裝簡(jiǎn)單、維修方便、投資成本低以及可獲信息多等優(yōu)點(diǎn)，目前已成為智能交通系統研究的熱點(diǎn)。

　　基于視頻的車(chē)型分類(lèi)方法主要包括兩大類(lèi)：一類(lèi)是直接利用車(chē)輛的輪廓或像素的空域分布特征進(jìn)行分類(lèi)，如模板匹配算法等；另一類(lèi)是從待識別車(chē)輛圖像中提取出能描述該類(lèi)型的車(chē)輛又能與其他類(lèi)型的車(chē)輛進(jìn)行區分的特征，利用某種分類(lèi)器對特征進(jìn)行分類(lèi)，以實(shí)現車(chē)型分類(lèi)的目的。由于交通車(chē)輛種類(lèi)多、特征差異大，采用模板匹配算法進(jìn)行車(chē)型分類(lèi)時(shí)需要大量的模板，況且對每一車(chē)輛，所有的模板都必須對其匹配打分，選取匹配度最大的模板作為該車(chē)輛的類(lèi)型，這使得算法繁瑣耗時(shí)，不利于滿(mǎn)足系統實(shí)時(shí)性要求。因此，該方法在現實(shí)中應用較少，而主要采用第2類(lèi)方法。采用第2類(lèi)方法進(jìn)行車(chē)型分類(lèi)時(shí)，分類(lèi)器的選擇很關(guān)鍵。目前多數車(chē)型分類(lèi)算法中都采用了神經(jīng)網(wǎng)絡(luò )作為分類(lèi)器，但其目前遇到了網(wǎng)絡(luò )模型難以確定、容易出現過(guò)學(xué)習與欠學(xué)習以及局部最優(yōu)等問(wèn)題。由Vapnik等人發(fā)展的SVM(較支持向量機)方法被看做是對傳統學(xué)習分類(lèi)方法的一個(gè)較好的替代，特別在小樣本、非線(xiàn)性情況下，具有較好的泛化性能。SVM方法建立在統計學(xué)習理論的VC維(Vapnik-Cher-vonenkis Dimension)理論和結構風(fēng)險最小化原理基礎上，根據有限樣本信息在模型的復雜性和學(xué)習能力之間尋求最佳折衷，以獲得最好的泛化能力。作為一種新的學(xué)習分類(lèi)方法，SVM方法目前已經(jīng)在人臉識別、紋理分類(lèi)等領(lǐng)域得到了成功的應用。

　　本文采用了SVM方法對車(chē)型分類(lèi)進(jìn)行了研究，并從核函數、模型參數等方面對其分類(lèi)性能進(jìn)行了分析。 

　　1 SVM方法

　　1.1兩類(lèi)SVM

　　考慮n維兩類(lèi)非線(xiàn)性分類(lèi)情況。給定訓練樣本集：{(xi，yi)，i=1，2，…，l}，其中，xi∈Rn，yi ∈{+1，-1}。首先通過(guò)一個(gè)非線(xiàn)性映射將輸入數據空間映射到高維特征空間：

　　在高維特征空間中，如果訓練樣本集線(xiàn)性可分，則存在分類(lèi)超平面+6=0將訓練樣本正確分開(kāi)。通過(guò)規范化權向量w和偏移量b，有下列不等式成立：
 
　　高維特征空間中任意訓練樣本點(diǎn)到分類(lèi)超平面的距離為：
 
　　所以，兩類(lèi)訓練樣本中距分類(lèi)超平面的最小距離均為1／‖w‖，亦即兩類(lèi)的分類(lèi)間隔(margin)為2／‖w‖。因此，尋找最優(yōu)的分類(lèi)超平面，就是在式(3)約束條件下尋找分類(lèi)間隔最大的超平面，也就是尋找權向量范數‖w‖最小的超平面。

　　在高維特征空間中，如果訓練樣本集線(xiàn)性不可分，或事先不知道它是否線(xiàn)性可分，將允許存在一定數量的誤分類(lèi)樣本，引入非負松弛變量ξi，i=1，2，…，l，則式(3)變?yōu)椋?br />  
　　式中：若ξi=0，表示對應的訓練樣本被正確地分類(lèi)；若ξi>0，表示對應的訓練樣本被誤分類(lèi)。

　　為了得到一個(gè)最大間距的分類(lèi)超平面，可以將上述問(wèn)題轉化為線(xiàn)性約束條件下的二次規劃問(wèn)題：

 　　式中：C>0，是一個(gè)自定義的懲罰參數，控制著(zhù)對誤分樣本的懲罰程度，C越大，懲罰就越大，對誤分樣本的約束程度就越高。

　　通過(guò)Lagrangian乘子法，式(6)可以轉化為如下對偶問(wèn)題：
 
　　由式(9)和式(10)可知，當ξi=0，亦即樣本被正確分類(lèi)時(shí)，0≤λi*

　　這樣，最優(yōu)分類(lèi)函數可以寫(xiě)為：

 
　　由式(11)可知，計算分類(lèi)函數只涉及高維特征空間中的輸入向量與SV的內積。因此，甚至沒(méi)有必要知道非線(xiàn)性映射φ的具體形式，而只需要它的內積運算即可。假定高維特征空間的內積為：

 
　　稱(chēng)式(12)的內積為核函數，它將高維特征空間的內積運算轉化為低維輸入空間上的一個(gè)簡(jiǎn)單的函數運算。統計學(xué)習理論指出，根據Hilbert-Schmidt原理，只要一種運算滿(mǎn)足Mercer條件，它就可以作為核函數。

　　1.2多類(lèi)SVM

　　SVM方法是針對兩類(lèi)分類(lèi)問(wèn)題提出的，如何將兩類(lèi)分類(lèi)推廣到多類(lèi)分類(lèi)是SVM方法研究的重要內容之一。目前主要有兩種方法來(lái)解決這個(gè)問(wèn)題：

　　a)直接求解一個(gè)含多類(lèi)問(wèn)題的優(yōu)化問(wèn)題，相對其他方法而言，該方法需要較長(cháng)的時(shí)間來(lái)求解一個(gè)大的優(yōu)化問(wèn)題。

　　b)通過(guò)構造或組合多個(gè)兩類(lèi)分類(lèi)器來(lái)實(shí)現多類(lèi)問(wèn)題的分類(lèi)，其中包括兩種方法：一種是一對多(one-against-the rest)方法，它的實(shí)現策略是針對N類(lèi)分類(lèi)問(wèn)題構造N個(gè)兩類(lèi)SVM分類(lèi)器，第i(1≤i≤N)個(gè)SVM分類(lèi)器將第i個(gè)類(lèi)中的訓練樣本作為正的訓練樣本，而將其他訓練樣本作為負的訓練樣本，最終的分類(lèi)結果是N個(gè)兩類(lèi)分類(lèi)器中輸出為最大的那一類(lèi)；另一種是一對一(one-against-one)方法，它是在N類(lèi)訓練樣本中構造所有可能的兩類(lèi)分類(lèi)器，每一個(gè)分類(lèi)器僅僅在N類(lèi)中的兩類(lèi)訓練樣本上訓練，結果共構造Ⅳ(N-1)／2個(gè)分類(lèi)器。對所有組合進(jìn)行投票，得票最多的類(lèi)為測試樣本所屬的類(lèi)。Huang等人研究表明，一對多方法需要的訓練時(shí)間較一對一方法長(cháng)。本文通過(guò)一對一方法將兩類(lèi)SVM推廣到多類(lèi)SVM。

　　2車(chē)型分類(lèi)

　　本文的車(chē)型分類(lèi)標準是按交通部規定，分為典型的7種：大客、小客、大貨、中貨、小貨、托掛以及摩托

　　2.1輸人空間

　　SVM方法是一種學(xué)習分類(lèi)方法，因此，輸入空間的選擇對其分類(lèi)性能有著(zhù)重要的影響。根據交通檢測的實(shí)際情況，經(jīng)過(guò)長(cháng)期觀(guān)察，結合大量實(shí)驗，從定位出來(lái)的車(chē)輛中(見(jiàn)圖1)提取了由長(cháng)度和寬度2個(gè)幾何特征、7個(gè)不變矩特征和5個(gè)由灰度共生矩陣導出的紋理特征共14個(gè)特征形成SVM的輸入向量x。