一種RBF神經(jīng)網(wǎng)絡(luò )的自適應學(xué)習算法
整個(gè)算法的流程大體可分成三個(gè)部分。第一個(gè)部分是調節隱層節點(diǎn)的中心位置和隱層與輸出層之間的權值。本文采用梯度下降法,每循環(huán)一次,相應地調節一次。第二個(gè)部分是執行添加操作。添加的策略是根據輸出誤差在輸入空間分布的不均勻性而提出的。如果執行該操作過(guò)頻,不但會(huì )減小隱層節點(diǎn)的中心位置和權值的調節速度,而且會(huì )造成隱層節點(diǎn)數目過(guò)多,計算量增大,導致過(guò)度擬合??紤]到以上因素,采用間歇的方式執行添加操作,只有當i=4n+1(n=0,1,2,…)時(shí),才執行添加操作。第三個(gè)部分是執行刪除操作。如果執行該操作過(guò)頻,對于一些新增加的隱層節點(diǎn),其中心位置和權值有可能還沒(méi)來(lái)得及調整就已經(jīng)被刪除了,所以也采用間歇的方式執行。當i=8m+7(m=0,1,2,…)時(shí),才執行刪除操作。
2.4 RBF網(wǎng)絡(luò )參數調整算法
本文采用梯度下降法調整RBF的隱層節點(diǎn)中心位置和權值。設隱層節點(diǎn)的數目為m,一共有N組訓練樣本:(x,y)={(x1,y1),(x2,y2),…,(xN,yN)}。神經(jīng)網(wǎng)絡(luò )的實(shí)際輸出為:。選取均方差為誤差函數,取ρ1和ρ2為學(xué)習率。
(1)調整隱層節點(diǎn)的權值
(2)調整隱層節點(diǎn)中心的位置
3 仿真實(shí)例
(1)對隨機曲面進(jìn)行恢復
仿真中定義曲面方程如下:
原始數據集所得曲面圖像如圖2所示。
評論