基于英文字母識別的三種人工神經(jīng)網(wǎng)絡(luò )的設計方案

1引言

人工神經(jīng)網(wǎng)絡(luò )是在人類(lèi)對其大腦神經(jīng)網(wǎng)絡(luò )認識理解的基礎上人工構造的能夠實(shí)現某種功能的神經(jīng)網(wǎng)絡(luò )。代寫(xiě)論文 它是理論化的人腦神經(jīng)網(wǎng)絡(luò )的數學(xué)模型，是基于模仿大腦神經(jīng)網(wǎng)絡(luò )結構和功能而建立的一種信息處理系統。因其自組織、自學(xué)習能力以及具有信息的分布式存儲和并行處理，信息存儲與處理的合一等特點(diǎn)得到了廣泛的關(guān)注，已經(jīng)發(fā)展了上百種人工神經(jīng)網(wǎng)絡(luò )。

一般來(lái)說(shuō)，人工神經(jīng)網(wǎng)絡(luò )從結構上可分為兩種:前向網(wǎng)絡(luò )和反饋網(wǎng)絡(luò )。典型的前向網(wǎng)絡(luò )有單層感知器、BP網(wǎng)絡(luò )等，反饋網(wǎng)絡(luò )有霍普菲爾德網(wǎng)絡(luò )等[1]。

人工神經(jīng)網(wǎng)絡(luò )已經(jīng)被廣泛應用于模式識別、信號處理、專(zhuān)家系統、優(yōu)化組合、智能控制等各個(gè)方面，其中采用人工神經(jīng)網(wǎng)絡(luò )進(jìn)行模式識別具有一些傳統技術(shù)所沒(méi)有的優(yōu)點(diǎn):良好的容錯能力[2j、分類(lèi)能力、并行處理能力和自學(xué)習能力，并且其運行速度快，自適應性能好，具有較高的分辨率。單層感知器、BP網(wǎng)絡(luò )和霍普菲爾德網(wǎng)絡(luò )均可以用于字符識別。

本文通過(guò)具體采用感知器網(wǎng)絡(luò )、BP網(wǎng)絡(luò )和霍普菲爾德反饋網(wǎng)絡(luò )對26個(gè)英文字母進(jìn)行識別的應用，通過(guò)實(shí)驗給出各自的識別出錯率，通過(guò)比較，可以看出這3種神經(jīng)網(wǎng)絡(luò )的識別能力以及各自的優(yōu)缺點(diǎn)。

2 字符識別問(wèn)題描述與網(wǎng)絡(luò )識別前的預處理

字符識別在現代日常生活的應用越來(lái)越廣泛，比如車(chē)輛牌照自動(dòng)識別系統[3，4]，手寫(xiě)識別系統[5]，辦公自動(dòng)化等等[6]。代寫(xiě)畢業(yè)論文 本文采用單層感知器、BP網(wǎng)絡(luò )和霍普菲爾德網(wǎng)絡(luò )對26個(gè)英文字母進(jìn)行識別。首先將待識別的26個(gè)字母中的每一個(gè)字母都通過(guò)長(cháng)和寬分別為7×5的方格進(jìn)行數字化處理，并用一個(gè)向量表示。其相應有數據的位置置為1，其他位置置為O。圖1給出了字母A、B和C的數字化過(guò)程，其中最左邊的為字母A的數字化處理結果所得對應的向量為:IetterA~「00100010100101010001111111000110001〕’，由此可得每個(gè)字母由35個(gè)元素組成一個(gè)向量。由26個(gè)標準字母組成的輸人向量被定義為一個(gè)輸人向量矩陣alphabet，即神經(jīng)網(wǎng)絡(luò )的樣本輸人為一個(gè)35×26的矩陣。其中alphabet=[letterA，letterB，lettere，……letterZj。網(wǎng)絡(luò )樣本輸出需要一個(gè)對26個(gè)輸人字母進(jìn)行區分輸出向量，對于任意一個(gè)輸人字母，網(wǎng)絡(luò )輸出在字母對應的順序位置上的值為1，其余為O，即網(wǎng)絡(luò )輸出矩陣為對角線(xiàn)上為1的26×26的單位陣，定義target=eye(26)。

本文共有兩類(lèi)這樣的數據作為輸人:一類(lèi)是理想的標準輸人信號;另一類(lèi)是在標準輸人信號中加上用MATLAB工具箱里的噪聲信號，即randn函數。

3 識別字符的網(wǎng)絡(luò )設計及其實(shí)驗分析

3.1單層感知器的設計及其識別效果

選取網(wǎng)絡(luò )35個(gè)輸人節點(diǎn)和26個(gè)輸出節點(diǎn)，設置目標誤差為0.0001，最大訓練次數為40。設計出的網(wǎng)絡(luò )使輸出矢量在正確的位置上輸出為1，在其他位置上輸出為O。代寫(xiě)醫學(xué)論文 首先用理想輸人信號訓練網(wǎng)絡(luò )，得到無(wú)噪聲訓練結果，然后用兩組標準輸入矢量加上兩組帶有隨機噪聲的輸人矢量訓練網(wǎng)絡(luò )，這樣可以保證網(wǎng)絡(luò )同時(shí)具有對理想輸人和噪聲輸人分類(lèi)的能力。網(wǎng)絡(luò )訓練完后，為保證網(wǎng)絡(luò )能準確無(wú)誤地識別出理想的字符，再用無(wú)噪聲的標準輸入訓練網(wǎng)絡(luò )，最終得到有能力識別帶有噪聲輸人的網(wǎng)絡(luò )。下一步是對所設計的網(wǎng)絡(luò )進(jìn)行性能測試:給網(wǎng)絡(luò )輸人任意字母，并在其上加人具有平均值從。~0.2的噪聲，隨機產(chǎn)生100個(gè)輸人矢量，分別對上述兩種網(wǎng)絡(luò )的字母識別出錯率進(jìn)行實(shí)驗，結果如圖2所示。其中縱坐標所表示的識別出錯率是將實(shí)際輸出減去期望輸出所得的輸出矩陣中所有元素的絕對值和的一半再除以26得到的;虛線(xiàn)代表用無(wú)噪聲的標準輸人信號訓練出網(wǎng)絡(luò )的出錯率，實(shí)線(xiàn)代表用有噪聲訓練出網(wǎng)絡(luò )的出錯率。從圖中可以看出，無(wú)噪聲訓練網(wǎng)絡(luò )對字符進(jìn)行識別時(shí)，當字符一出現噪聲時(shí)，該網(wǎng)絡(luò )識別立刻出現錯誤;當噪聲均值超過(guò)0.02時(shí)，識別出錯率急劇上升，其最大出錯率達到21.5%。由此可見(jiàn)，無(wú)噪聲訓練網(wǎng)絡(luò )識別幾乎沒(méi)有抗干擾能力。而有噪聲訓練出的網(wǎng)絡(luò )具有一定的抗干擾能力，它在均值為。~0.06之間的噪聲環(huán)境下，能夠準確無(wú)誤地識別;其最大識別出錯率約為6.6%，遠遠小于無(wú)噪聲訓練出的網(wǎng)絡(luò )。

3.2BP網(wǎng)絡(luò )的設計及其識別效果

該網(wǎng)絡(luò )設計方法在文獻[lj中有詳細介紹。網(wǎng)絡(luò )具有35個(gè)輸人節點(diǎn)和26個(gè)輸出節點(diǎn)。目標誤差為0.0001，采用輸人在(0，l)范圍內對數S型激活函數兩層109519/109519網(wǎng)絡(luò )，隱含層根據經(jīng)驗選取10個(gè)神經(jīng)元。和單層感知器一樣，分別用理想輸人信號和帶有隨機噪聲的輸人訓練網(wǎng)絡(luò )，得到有噪聲訓練網(wǎng)絡(luò )和無(wú)噪聲訓練網(wǎng)絡(luò )。由于噪聲輸人矢量可能會(huì )導致網(wǎng)絡(luò )的1或o輸出不正確，或出現其他值，所以為了使網(wǎng)絡(luò )具有抗干擾能力，在網(wǎng)絡(luò )訓練后，再將其輸出經(jīng)過(guò)一層競爭網(wǎng)絡(luò )的處理，使網(wǎng)絡(luò )的輸出只在本列中的最大值的位t為1，保證在其他位置輸出為O，其中網(wǎng)絡(luò )的訓練采用自適應學(xué)習速率加附加動(dòng)量法，在MATLAB工具箱中直接調用traingdx。在與單層感知器相同的測試條件下對網(wǎng)絡(luò )進(jìn)行性能測試，結果如圖3所示。其中虛線(xiàn)代表用無(wú)噪聲訓練網(wǎng)絡(luò )的出錯率，實(shí)線(xiàn)代表用有噪聲訓練網(wǎng)絡(luò )的出錯率。從圖中可以看出，在均值為o一0.12之間的噪聲環(huán)境下，兩個(gè)網(wǎng)絡(luò )都能夠準確地進(jìn)行識別。在0.12~0.15之間的噪聲環(huán)境下，由于噪聲幅度相對較小，待識別字符接近于理想字符，故無(wú)噪聲訓練網(wǎng)絡(luò )的出錯率較有噪聲訓練網(wǎng)絡(luò )略低。當所加的噪聲均值超過(guò)。.15時(shí)，待識別字符在噪聲作用下不再接近于理想字符，無(wú)噪聲訓練網(wǎng)絡(luò )的出錯率急劇上升，此時(shí)有噪聲訓練網(wǎng)絡(luò )的性能較優(yōu).

3.3離散型，霍普菲爾德網(wǎng)絡(luò )的設計及其識別效果

此時(shí)網(wǎng)絡(luò )輸人節點(diǎn)數目與輸出神經(jīng)元的數目是相等的，有r=s=35，采用正交化的權值設計方法。在MATLAB工具箱中可直接調用函數newh叩.m。要注意的是，由于調用函數newhoP.m，需要將輸人信號中所有的。代寫(xiě)英語(yǔ)論文 變換為一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕’。設計離散型霍普菲爾德網(wǎng)絡(luò )進(jìn)行字符識別，只需要讓網(wǎng)絡(luò )記憶所要求的穩定平衡點(diǎn)，即待識別的26個(gè)英文字母。故只需要用理想輸人信號來(lái)訓練網(wǎng)絡(luò )。對于訓練后的網(wǎng)絡(luò )，我們進(jìn)行性能測試。給網(wǎng)絡(luò )輸入任意字母，并在其上加人具有平均值從。~0.5的噪聲，隨機產(chǎn)生100個(gè)輸人矢量，觀(guān)察字母識別出錯率，結果如圖4所示。從圖中可以看出，在均值為0~0.33之間的噪聲環(huán)境下，網(wǎng)絡(luò )能夠準確地進(jìn)行識別。在0.33~0.4之間的噪聲環(huán)境下，識別出錯率不到1%，在0.4以上的噪聲環(huán)境下，網(wǎng)絡(luò )識別出錯率急劇上升，最高達到大約10%?？梢钥闯?，該網(wǎng)絡(luò )穩定點(diǎn)的吸引域大約在0.3~。.4之間。當噪聲均值在吸引域內時(shí)，網(wǎng)絡(luò )進(jìn)行字符識別時(shí)幾乎不出錯，而當噪聲均值超過(guò)吸引域時(shí)，網(wǎng)絡(luò )出錯率急劇上升。

4結論

本文設計了3種人工神經(jīng)網(wǎng)絡(luò )對26個(gè)英文字母進(jìn)行了識別?？梢钥闯?，這3種人工神經(jīng)網(wǎng)絡(luò )均能有效地進(jìn)行字符識別，并且識別速度快，自適應性能好，分辨率較高。由圖2和圖3可以看出，單層感知器的有噪聲訓練網(wǎng)絡(luò )在均值為O~0.06之間的噪聲環(huán)境下可以準確無(wú)誤的識別，而有噪聲訓練的BP網(wǎng)絡(luò )可以在o~0.12之間的噪聲環(huán)境下準確無(wú)誤的識別，故BP絡(luò )網(wǎng)絡(luò )容錯性比單層感知器的容錯性好;此外，噪聲達到0.2時(shí)，單層感知器的有噪聲訓練網(wǎng)絡(luò )的識別出錯率為6.6%，而有噪聲訓練的BP網(wǎng)絡(luò )的識別出錯率為2.1%，故BP網(wǎng)絡(luò )比單層感知器識別能力強。另外，由圖2、圖3和圖4可以看出，這3種網(wǎng)絡(luò )中霍普菲爾德網(wǎng)絡(luò )識別率最高，它在噪聲為0.33以前幾乎不會(huì )出錯，BP網(wǎng)絡(luò )次之，感知器最差。

通過(guò)設計、應用與性能對比，我們可得單層感知器網(wǎng)絡(luò )結構和算法都很簡(jiǎn)單，訓練時(shí)間短，但識別出錯率較高，容錯性也較差。BP網(wǎng)絡(luò )結構和算法比單層感知器結構稍復雜，但其識別率和容錯性都較好?；羝辗茽柕戮W(wǎng)絡(luò )具有設計簡(jiǎn)單且容錯性最好的雙重優(yōu)點(diǎn)。因此，我們應根據網(wǎng)絡(luò )的特點(diǎn)以及實(shí)際要求來(lái)選擇人工神經(jīng)網(wǎng)絡(luò )對字符進(jìn)行識別。