基于優(yōu)化神經(jīng)網(wǎng)絡(luò )的FIR濾波器的設計方案
首先定義權值矩陣:

設置性能指標:

為訓練樣本數。
于是權值修正的公式為:

式中:α為學(xué)習速率。
迭代的終止條件可設為性能指標J滿(mǎn)足一定條件,而關(guān)于學(xué)習速率α的選取會(huì )直接影響到神經(jīng)網(wǎng)絡(luò )的穩定性。目前,已經(jīng)有人提出了其適當的選取范圍,例如羅玉雄等人已經(jīng)證明,當滿(mǎn)足0α(2/|| C ||2)時(shí)(這里||·||2表示的是歐氏范數的平方),神經(jīng)網(wǎng)絡(luò )是穩定的;曾湊訓熱艘蔡岢霾⒅っ髁說(shuō)甭足0α(4/N)時(shí),神經(jīng)網(wǎng)絡(luò )是穩定的。
3 模擬退火算法
由于以上的網(wǎng)絡(luò )學(xué)習算法從本質(zhì)上來(lái)說(shuō),還是一種BP算法,所以不可避免地會(huì )存在BP算法的缺陷,初始值的選取會(huì )影響最終結果,且容易陷入局部極小值。
模擬退火算法與初始值無(wú)關(guān),算法求得的解與初始解狀態(tài)(是算法迭代的起點(diǎn))無(wú)關(guān);模擬退火算法具有漸近收斂性,在理論上已得到嚴格證明,當初溫充分高,降溫足夠慢,每一溫度下抽樣足夠長(cháng),最終溫度趨于零時(shí),算法最終以概率1收斂到全局最優(yōu)解。模擬退火算法通過(guò)概率判斷來(lái)接受新?tīng)顟B(tài)是算法在局部極小解處有機會(huì )跳出并最終趨于全局最優(yōu)的根本原因。于是將模擬退火算法加到前面的算法中去,就可以很好地彌補上述算法的不足。
模擬退火算法的步驟如下:
(1)由一個(gè)產(chǎn)生函數從當前解S產(chǎn)生一個(gè)位于解空間的新解S'。
(2)計算與新解所對應的目標函數差。這里以最小阻帶衰減為評價(jià)函數C(S),這個(gè)函數可以由所得解S輕易地求出,于是目標函數差△t=C(S')-C(S);
(3)判斷新解是否被接受,其依據是一個(gè)接受準則,最常用的接受準則是Metropolis準則。若△t≥0,則接受S'作為新的當前解S;否則,以概率exp(-△t/T)接受S'作為新的當前解S。
(4)當新解被確定接受時(shí),用新解代替當前解,同時(shí)修正評價(jià)函數。此時(shí),當前解實(shí)現了一次迭代,可在此基礎上開(kāi)始下一輪試驗;當新解被判定為舍棄時(shí),則在原當前解的基礎上繼續下一輪試驗。
將模擬退火融入原算法,其實(shí)主要是用原算法來(lái)實(shí)現模擬退火中第(1)步的產(chǎn)生解S,于是可得到總的算法:
(1)初始化,初始溫度T(充分大),初始解狀態(tài)S(是算法迭代的起點(diǎn)),每個(gè)T值的迭代次數L,初始權值W,性能指標J,學(xué)習速率α,并且設定目標向量(理想幅頻響應Hg(ωk));
(2)對k=1,2,…,L做第(3)~(8)步驟;
(3)計算誤差E(k),使用權值修正公式:W=W+αE(k)C(Ωk)修正權值;
(4)滿(mǎn)足性能指標J轉步驟(5),否則轉步驟(3);
(5)由步驟(4)產(chǎn)生的W得出新解S';
(6)以濾波器的最小阻帶衰減為評價(jià)函數,計算△t,其中△t=C(S)-C(S);
(7)若△t>0,則接受S'作為新的當前解,否則以概率exp(-△t/T)接受S'作為新的當前解;
(8)如果滿(mǎn)足終止條件,則輸出當前解作為最優(yōu)解,終止條件通常取為連續若干個(gè)新解都沒(méi)有被接受;
(9)減小T,轉步驟(2)。當T→0時(shí),終止算法。
評論