BP神經(jīng)網(wǎng)絡(luò )的電路最優(yōu)測試集的生成設計

1 引言

　　人工神經(jīng)網(wǎng)絡(luò )是基于模仿生物大腦的結構和功能而構成的一種信息處理系統。國際著(zhù)名 的神經(jīng)網(wǎng)絡(luò )專(zhuān)家Hecht Nielsen 給神經(jīng)網(wǎng)絡(luò )的定義是：“神經(jīng)網(wǎng)絡(luò )是一個(gè)以有向圖為拓撲結構的動(dòng)態(tài)系統，它通過(guò)對連續或斷續式的輸入作狀態(tài)響應而進(jìn)行信息處理”。神經(jīng)網(wǎng)絡(luò )系統[1,2] 是由大量的、同時(shí)也是很簡(jiǎn)單的處理單元（或稱(chēng)神經(jīng)元），通過(guò)廣泛地互相連接而形成的復雜網(wǎng)絡(luò )系統。神經(jīng)網(wǎng)絡(luò )具有的超高維性、強非線(xiàn)性等動(dòng)力學(xué)特性，使其具有原則上容錯、結構拓撲魯棒、聯(lián)想、推測、記憶、自適應、自學(xué)習、并行和處理復雜模式等功能，帶來(lái)了提 供更佳診斷性能的潛在可能性。

　　目前神經(jīng)網(wǎng)絡(luò )應用在模擬電路上主要是神經(jīng)網(wǎng)絡(luò )故障字典法。把模擬電路的故障診斷看成是一個(gè)分類(lèi)問(wèn)題，利用神經(jīng)網(wǎng)絡(luò )的分類(lèi)功能來(lái)診斷故障。在測前把神經(jīng)網(wǎng)絡(luò )訓練成一部故障字典，字典的信息蘊含在網(wǎng)絡(luò )的連接權值中，只要輸入電路的測量特征，就可以從其輸出 查出故障。目前用于模擬電路故障診斷的神經(jīng)網(wǎng)絡(luò )主要有BP 神經(jīng)網(wǎng)絡(luò )和SOM 神經(jīng)網(wǎng)絡(luò )兩 種類(lèi)型。BP 是一種多層網(wǎng)絡(luò )誤差反向傳播網(wǎng)絡(luò )，SOM 神經(jīng)網(wǎng)絡(luò )一種自組織特征映射神經(jīng)網(wǎng)絡(luò )(Self-organizing Feature Map)。本文采用標準BP 神經(jīng)網(wǎng)絡(luò )來(lái)實(shí)現對最優(yōu)測試集的生成。

　　2 基于神經(jīng)網(wǎng)絡(luò )的最優(yōu)測試集的生成實(shí)現設計

　　BP 神經(jīng)網(wǎng)絡(luò )對最優(yōu)測試集的生成事先沒(méi)有標準的樣本，只有設定的約束條件，對目標 問(wèn)題的求解是一個(gè)反復比較選擇、自我建立并不斷更新其樣本庫的過(guò)程。

　?。?）神經(jīng)元激活函數

　　激活函數又稱(chēng)傳遞函數。對于模擬電路故障診斷，神經(jīng)元激活函數可以采用對稱(chēng)的 sigmoid 函數y(x)=1/(1+e-x)-0.5，也可以采用非對稱(chēng)的sigmoid 函數y(x)=1/(1+e-x)。

　?。?）輸入層

　　輸入層從電路拓撲結構接受各種狀態(tài)信息提取。神經(jīng)網(wǎng)絡(luò )的輸入節點(diǎn)數應與輸入特征的 維數相同，輸入節點(diǎn)與電路的節點(diǎn)數一一對應。

　?。?）輸出層

　　輸出層輸出診斷結果。輸出結點(diǎn)數與預期節點(diǎn)選擇數目相同，每個(gè)輸出結點(diǎn)與目標一一對應。當神經(jīng)網(wǎng)絡(luò )用于選擇時(shí)，若所有輸出結點(diǎn)的輸出值均非空，則認為本次生成最多數目 的節點(diǎn)；若有幾個(gè)輸出結點(diǎn)的輸出值為0，則認為生成了較少的測試節點(diǎn)。

　?。?）隱層數

　　BP 網(wǎng)絡(luò )的輸入結點(diǎn)數和輸出結點(diǎn)數是由實(shí)際問(wèn)題本身決定的。隱層用于對信息進(jìn)行處理和轉化。網(wǎng)絡(luò )結構設計的難點(diǎn)和重點(diǎn)在于隱層結構的設計，具體是指隱層數目和各隱層的神經(jīng)元數目。確定隱層的結構很大程度上決定著(zhù)網(wǎng)絡(luò )質(zhì)量。隱層用于對信息進(jìn)行處理和轉化。 隱層的層數取決于問(wèn)題的特點(diǎn)。Funahashi 證明了對于任何在閉區間內的一個(gè)連續函數都可 以用單隱層BP 網(wǎng)絡(luò )逼近，因而一個(gè)三層BP 網(wǎng)絡(luò )可以完成任意的n 維到m 維的映射，說(shuō)明了單隱層的可行性[4]，但并不確定是最合理的。本文采用最常用的單隱層BP 網(wǎng)絡(luò )構造神經(jīng) 網(wǎng)絡(luò )。

　?。?）隱結點(diǎn)數

　　隱層結點(diǎn)數的選擇非常重要，隱節點(diǎn)數與問(wèn)題的復雜程度有關(guān)，不存在一個(gè)理想的解析 式。隱結點(diǎn)的數目與問(wèn)題的要求、輸入、輸出數目有關(guān)。隱結點(diǎn)數目太多會(huì )導致學(xué)習時(shí)間過(guò) 長(cháng)，誤差不一定最佳，數目太少則可能會(huì )使網(wǎng)絡(luò )訓練不出來(lái)，網(wǎng)絡(luò )的學(xué)習和聯(lián)想能力降低。

　　除了一些參考選擇公式外，還可以先放入足夠多的隱結點(diǎn)，通過(guò)學(xué)習將作用甚微的隱結點(diǎn)逐 步剔除直到不可收縮為止；或者反向添加至合理數目為止。 神經(jīng)網(wǎng)絡(luò )故障診斷系統的訓練方法如下：

　　(1)權初值確定

　　系統是非線(xiàn)性的，不合適的權初始值會(huì )使學(xué)習過(guò)程陷入局部最優(yōu)，甚至不收斂。權一般取隨機數，而且權值要小，這樣可使初始權要在輸入累加時(shí)使每個(gè)神經(jīng)元的狀態(tài)值盡可能接近于零，保證每個(gè)神經(jīng)元都在它們的傳輸函數導數最大的地方進(jìn)行，這樣就不至于一開(kāi)始就落在誤差平坦區上。本文的神經(jīng)網(wǎng)絡(luò )故障診斷系統中，網(wǎng)絡(luò )初始值均取在閉區間[-0.1，0.1] 內均勻分布的隨機數。

　　(2)樣本輸入方式

　　批處理方式存在局部最優(yōu)，在線(xiàn)輸入方式容易引起權值調節的振蕩現象。避免振蕩往往 根據樣本集的特點(diǎn)進(jìn)行多次嘗試，局部最優(yōu)可以通過(guò)修改網(wǎng)絡(luò )輸出誤差來(lái)緩解。本文樣本輸 入采用批處理方式。

　　(3)誤差函數的選擇 神經(jīng)網(wǎng)絡(luò )訓練容易出現局部最優(yōu)，因此本文設計網(wǎng)絡(luò )不要求輸出誤差很小，通過(guò)適當增 加訓練時(shí)間來(lái)提高準確度。

　　3 BP 網(wǎng)絡(luò )在最優(yōu)測試集上的應用

　?。?）分析電路，構造網(wǎng)絡(luò )結構 對電路中的各節點(diǎn)支路進(jìn)行分析，建立改進(jìn)的關(guān)聯(lián)矩陣。取得用于選擇的測試向量。根 據測試向量維數和目標要求數來(lái)選擇網(wǎng)絡(luò )各層的結點(diǎn)數。

（2）輸入特征向量抽取 取電路節點(diǎn)對支路的關(guān)聯(lián)信息作為神經(jīng)網(wǎng)絡(luò )的輸入特征。由于各節點(diǎn)的關(guān)聯(lián)信息相差可 能會(huì )比較大，神經(jīng)網(wǎng)絡(luò )輸入特征的各分量量限也不同。

　　其中xi 是輸入特征的第i 個(gè)分量，vi 是同類(lèi)關(guān)聯(lián)信息的平均值，這樣使輸入特征的各分 量量限基本相同，而且仍然可以表征原輸入特征。

　?。?）輸出特征值設定

　　輸出特征維數取決于輸出的表示方法和要識別或分類(lèi)的數目，當電路有M 個(gè)待監測節 點(diǎn)時(shí)，電路狀態(tài)有M 類(lèi)，本文把無(wú)節點(diǎn)輸出做為輸出節點(diǎn)坐標為0，輸出特征維數選擇為M， 輸出特征分量與輸出節點(diǎn)一一對應。

　?。?）訓練樣本集的選擇

　　同故障字典的樣本集選擇不同，最優(yōu)測試集的訓練樣本一開(kāi)始時(shí)不存在的，是在制定的 約束條件下，不斷反復運算的動(dòng)態(tài)過(guò)程，是一個(gè)自我學(xué)習更新的過(guò)程。因此本網(wǎng)絡(luò )將樣本集 訓練融合到網(wǎng)絡(luò )的學(xué)習過(guò)程中。

　　4 仿真結果

　　本文所選擇的目標電路模型為實(shí)際某設備的使用組件。電路板屬于較為典型的模擬電路 板，電路板的原理圖如圖1。