Matlab語(yǔ)言的Neural Network Toolbox 及其在同步中的應用

1 引 言

神經(jīng)網(wǎng)絡(luò )工具箱擴充了Matlab的設計、應用、顯示和仿真神經(jīng)網(wǎng)絡(luò )的工具。如今神經(jīng)網(wǎng)絡(luò )能夠用來(lái)解決常規計算機和人難以解決的問(wèn)題，神經(jīng)網(wǎng)絡(luò )已經(jīng)在各個(gè)領(lǐng)域中應用，以實(shí)現各種復雜的功能。這些領(lǐng)域包括：模式識別、非線(xiàn)性系統鑒定和系統控制。神經(jīng)網(wǎng)絡(luò )工具箱除了提供方便用戶(hù)設計和管理網(wǎng)絡(luò )的可視化接口(GUI)外，還提供了大量已經(jīng)證實(shí)的網(wǎng)絡(luò )設計的支持。標準、開(kāi)放、可擴張的工具箱設計方便了用戶(hù)自定義函數和網(wǎng)絡(luò )的生成。

像生物學(xué)神經(jīng)系統一樣，一個(gè)神經(jīng)網(wǎng)絡(luò )會(huì )學(xué)習，因此，也就可以被訓練去解決問(wèn)題，識別模式，劃分數據和預測事態(tài)發(fā)展。神經(jīng)網(wǎng)絡(luò )的行為由它的各個(gè)計算參數的結合方式以及它們的權重來(lái)決定。一般的神經(jīng)網(wǎng)絡(luò )都是可調節的，或者說(shuō)可訓練的，這樣一個(gè)特定的輸入便可得到要求的輸出。這里，網(wǎng)絡(luò )根據輸出和目標的比較而調整，直到網(wǎng)絡(luò )輸出和目標匹配。神經(jīng)網(wǎng)絡(luò )工具GUI使神經(jīng)網(wǎng)絡(luò )變得簡(jiǎn)單，它使你能夠導人大量復雜的數據，并能夠很快地產(chǎn)生、初始化、訓練、仿真和管理網(wǎng)絡(luò )。簡(jiǎn)單的圖像表示有助于明確和理解網(wǎng)絡(luò )的結構。因為神經(jīng)網(wǎng)絡(luò )需要復雜的矩陣計算，Matlab提供一個(gè)神經(jīng)框架，幫助快速地使用神經(jīng)網(wǎng)絡(luò )和學(xué)習它們的行為和應用。

文獻[5]討論了用擴充的神經(jīng)系統工具的方法在仿真環(huán)境里解決現存的問(wèn)題。這種新方法簡(jiǎn)化了網(wǎng)絡(luò )結構，并且也實(shí)現對其他軟件工具的利用。目前還沒(méi)有論文公開(kāi)討論NNT在同步機制中的應用，而這一部分的研究也是具有現實(shí)意義的。

2 Matlab神經(jīng)網(wǎng)絡(luò )工具箱

NNT使在Matlab中使用神經(jīng)網(wǎng)絡(luò )變得簡(jiǎn)單。其工具箱中包含了大量函數和網(wǎng)絡(luò )結構框圖(圖1是一個(gè)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò )框圖，圖中獨立的符號簡(jiǎn)化了對網(wǎng)絡(luò )結構的理解)，因此，這里不需要介紹所有的將用到的函數、訓練算法等。

2.1 NNT的結構

工具箱是基于網(wǎng)絡(luò )對象的。網(wǎng)絡(luò )對象包括關(guān)于神經(jīng)網(wǎng)絡(luò )的所有信息，例如：網(wǎng)絡(luò )的層數和結構、層與層之間的連接等。Matlab提供了高等網(wǎng)絡(luò )層的創(chuàng )建函數，比如：newlin(創(chuàng )建一個(gè)線(xiàn)性層)，newp(創(chuàng )建一個(gè)感知機)，newff(創(chuàng )建一個(gè)反向傳播網(wǎng)絡(luò ))等。舉例說(shuō)明，這里創(chuàng )建了1個(gè)感知機，2個(gè)輸入向量p1=[0 1]，p2=[-2 2]，神經(jīng)元數為1。

子對象結構中包含了網(wǎng)絡(luò )單個(gè)對象的信息。神經(jīng)元的每一層有相同的傳輸函數net.transferFcn和網(wǎng)絡(luò )輸入函數net.netInputFcn，對于創(chuàng )建感知機采用hardlim和netsum函數。如果神經(jīng)元要有不同的傳輸函數，則將設計不同的層以滿(mǎn)足要求。參數net.Input-Weights和net.layerWeights描述了被應用的訓練函數以及它們的參數。

接下來(lái)敘述訓練函數、初始化函數和性能函數。

trainFcn和adaptFcn是2種不同的訓練方式，分別指批處理方式和增加方式或稱(chēng)在線(xiàn)方式。通過(guò)設置trainFcn的參數，就可以告訴Matlab哪種運算法被使用；在運用循環(huán)順序增加方式時(shí)，多用trainc函數。ANN工具箱包含大約20個(gè)訓練函數。性能函數用來(lái)測定ANN完成規定任務(wù)時(shí)的性能。對于感知機，它的平均差錯性能測定用函數mae；對于線(xiàn)性衰退系統，它的均方根差錯性能測定用函數mae。initFcn函數用來(lái)初始化網(wǎng)絡(luò )的權重和偏置。神經(jīng)網(wǎng)絡(luò )工具箱包含在nnet目錄中，鍵入help nnet可得到幫助主題。如果要將這些函數替換為工具箱里的其他函數或者是自己編寫(xiě)的函數，只需把這些函數名配置新的參數即可，例如：

通過(guò)改變參數，可以改變上面提到的函數的默認行為。最經(jīng)常用到的函數的參數就是：trainParam，格式：net.trainParam.epochs，用來(lái)設置運算的時(shí)間點(diǎn)的最大數目；格式：net.trainParam.show，用來(lái)設置性能測定間隔的時(shí)間點(diǎn)的數目?？梢酝ㄟ^(guò)輸入幫助help獲得更多信息。

網(wǎng)絡(luò )的權重和偏置也被存儲在下面的結構體里面：

IW(i，j)部分是一個(gè)二維的元胞矩陣，存儲輸入j與網(wǎng)絡(luò )層i的連接的權重。LW(i，j)部分，用來(lái)存儲網(wǎng)絡(luò )層j和網(wǎng)絡(luò )層i間連接的權重。元胞數組b存儲每一層的偏置向量。

2.2 模式分類(lèi)

如果一個(gè)問(wèn)題可以被分解為多個(gè)模式級別，則可以用神經(jīng)網(wǎng)絡(luò )來(lái)解決這一問(wèn)題。在大多數情況下，利用神經(jīng)網(wǎng)絡(luò )解決問(wèn)題是可能的。神經(jīng)網(wǎng)絡(luò )的函數用來(lái)接收輸入模式，然后輸出適合這一級別的模式。

這方面的例子由產(chǎn)生和訓練一個(gè)感知機對屬于3個(gè)不同等級的點(diǎn)進(jìn)行正確的分級。神經(jīng)網(wǎng)絡(luò )的輸入數據被定義如下：

X矩陣的每一行代表一個(gè)采樣點(diǎn)，采樣點(diǎn)的等級用矩陣C的相應元素值來(lái)描述。因為想要對3個(gè)不同的等級進(jìn)行區分，所以需要3個(gè)感知機，每一個(gè)等級有1個(gè)。相應的目標函數描述如下：

2.3 訓練與泛化

神經(jīng)網(wǎng)絡(luò )是模式分級的，但并不是所有的模式分級都指的是神經(jīng)網(wǎng)絡(luò )。下面將講述神將神經(jīng)網(wǎng)絡(luò )與其他分級的一些區別。它們的主要區別在2個(gè)屬性上：學(xué)習與泛化。

在使用電子存儲器解決數字分級器時(shí)，管理存儲器，特別是完成輸入的合并方面，花費很大精力。要求能夠通過(guò)給它較少數目的簡(jiǎn)單且具有正確響應的例子來(lái)解決問(wèn)題，這就指的是學(xué)習或稱(chēng)為訓練：系統學(xué)習識別默寫(xiě)特定的模式，然后給出正確的輸出響應。

某種程度上，這一部分已經(jīng)被如今的電子存儲器實(shí)現了。首先初始化設置存儲器的所有值為0，然后，調用范例對存儲器的值進(jìn)行訓練，將結果存入存儲器的相應位置。在相應的位置用1替換原來(lái)的0。1顯示了相應的輸入模式等級。訓練階段結束后，進(jìn)入實(shí)際操作。如果這些模式與訓練階段的模式是一樣的，則輸出結果就是正確的。

理想的，器件應該給出正確的響應，即使有些例子沒(méi)有明確的顯示。這部分被稱(chēng)為泛化。系統能夠推斷出例子給的不同模式等級的屬性。神經(jīng)網(wǎng)絡(luò )能夠做這種事，如果他們被正確操作，他們將對那些在訓練階段學(xué)習的模式非常相似的模式做出響應。那么，對于數字分級器來(lái)說(shuō)，這意味著(zhù)神經(jīng)網(wǎng)絡(luò )被數據范例進(jìn)行訓練，它就能正確地區分相似的數據，而以前這些都是次要的。這里設：

訓練參數一般都依賴(lài)于選擇的訓練函數。兩個(gè)重要的參數：net.trainParam.epochs設置所有數據全部用于訓練的最多次數，net.trainParam.show設置訓練函數狀態(tài)報告的時(shí)間。例如：

3 在同步中的應用

在加性高斯白噪聲條件下，接收端對信號進(jìn)行高速采樣，根據香農定理，在一個(gè)模擬信號持續時(shí)間內至少要保證4個(gè)采樣點(diǎn)，才能完整和準確地恢復信號的信息，由此決定了系統的采樣要求。軟件上主要由若干BP(Back-Propagation)前向神經(jīng)網(wǎng)絡(luò )完成，網(wǎng)絡(luò )的個(gè)數與算法精度有關(guān)。

在搜索長(cháng)度一定的條件下，根據整個(gè)搜索區間上采樣點(diǎn)個(gè)數確定各個(gè)神經(jīng)網(wǎng)絡(luò )的輸出節點(diǎn)數目。使用的網(wǎng)絡(luò )個(gè)數由捕獲精度來(lái)確定，即整個(gè)捕獲區間上劃分為N個(gè)搜索相位，則采樣N個(gè)網(wǎng)絡(luò )并行執行。每個(gè)網(wǎng)絡(luò )都具有相同的一組輸入信號，一個(gè)輸出為0或者1。

為體現神經(jīng)網(wǎng)絡(luò )對信號進(jìn)行捕獲的思想，訓練樣本為不含噪聲的高斯脈沖信號，搜索的相位區間為6個(gè)，識別的結果是6維向量，在出現信號相應得區間位置上對應的元素為1，其他元素為0，測試樣本信噪比為30dB。圖2是6個(gè)不含噪聲的訓練樣本；圖2和圖3左邊是信噪比為30 dB的分別出現在6個(gè)不同區間的測試樣本，右邊是網(wǎng)絡(luò )輸出的識別結果，在向量的對應元素上出現尖峰。仿真結果說(shuō)明在30 dB信噪比的情況下，利用神經(jīng)網(wǎng)絡(luò )能夠準確檢測到信號的出現時(shí)刻。由于仿真使用的訓練樣本比較少，神經(jīng)網(wǎng)絡(luò )沒(méi)有充分提取樣本的統計特性，也沒(méi)有足夠的網(wǎng)絡(luò )結構和訓練過(guò)程對神經(jīng)網(wǎng)絡(luò )檢測信號能力的影響和噪聲對訓練過(guò)程和測試過(guò)程及性能的影響。通過(guò)仿真看來(lái)，在特定情況下神經(jīng)網(wǎng)絡(luò )對信號具有一定的檢測能力。

4 結 語(yǔ)

本文在介紹Matlab神經(jīng)網(wǎng)絡(luò )工具箱的基礎上，結合簡(jiǎn)單例子進(jìn)一步對神經(jīng)網(wǎng)絡(luò )工具箱中的一些函數及神經(jīng)網(wǎng)絡(luò )結構進(jìn)行解釋和說(shuō)明。然后利用神經(jīng)網(wǎng)絡(luò )在同步中的應用進(jìn)行了簡(jiǎn)單的說(shuō)明，并通過(guò)仿真驗證了神經(jīng)網(wǎng)絡(luò )在同步中的可行性。