神經(jīng)網(wǎng)絡(luò )預測編碼器的設計及應用
Tawel等提出了一種動(dòng)態(tài)調整溫度系數的方法,即在sigmoid函數中加入閾值和溫度系數,如式3所示:
式中θ稱(chēng)為闞值,λ稱(chēng)為溫度系數。
2.4 權值和閾值的初始化
權值和偏置值的初始化一般有如下幾種方法:
(1)隨機初始化。
(2)逐步搜索法。
(3)根據Nguyen-Widrow初始化算法為層產(chǎn)生初始權重和偏置值,使得每層神經(jīng)元的活動(dòng)區域能大致平坦的分布在輸入空間。
2.5 輸入樣本
采集數據樣本時(shí)主要考慮兩方面:
(1)數據樣本要充分。
(2)減小數據樣本的冗余度。
本文設計神經(jīng)網(wǎng)絡(luò )預測器時(shí),采用的訓練圖像都是和測試圖像類(lèi)似的自認圖像,包括人物,建筑物,風(fēng)景,動(dòng)植物等24bits的全彩色圖像,這些全彩圖像采用CFA圖像。然后將每幅CFA訓練圖像轉化成的歸一化的輸入訓練的80%作為訓練樣本,其余的20%作為驗證樣本。
2.6 歸一化
即通過(guò)簡(jiǎn)單的線(xiàn)性變換,將網(wǎng)絡(luò )的輸入和輸出數據化為[O,1]區間或[一1,1]區間的數。
通過(guò)大量試驗并結合所采用的傳輸函數的特性發(fā)現將輸入輸出限制在[O.2,O.9]網(wǎng)絡(luò )可以取得較好的預測效果,歸一化方法如式4所示:
式中,x即原始輸入,x′是歸一化后的輸入。
網(wǎng)絡(luò )得到預測值時(shí),按式5即可將預測結果映射到[O,255]之間:
式中,net是神經(jīng)網(wǎng)絡(luò )預測器的輸出,y是映射后的輸出。
3 實(shí)驗結果分析
訓練好的多層前饋網(wǎng)絡(luò ),具有預測評價(jià)功能??蓪⒍鄬忧皞骶W(wǎng)絡(luò )看作一“黑箱”,將由實(shí)測獲得的輸入和輸出數據作為樣本送入“黑箱”中讓其學(xué)習,各輸入變量對輸出變量的影響在對樣本的學(xué)習過(guò)程中由“黑箱”自動(dòng)記錄下來(lái)。由于節點(diǎn)神經(jīng)元傳遞函數是非線(xiàn)性的,因此,“黑箱”也具有非線(xiàn)性。整個(gè)學(xué)習過(guò)程就是預測模型的建立過(guò)程,只要節點(diǎn)數和訓練樣本數足夠多,“黑箱”便能實(shí)現對任意輸入的輸出預測。
由表1可以看出由于神經(jīng)網(wǎng)絡(luò )預測器可以利用不同色分量的像素間的相關(guān)性和高階特性,以及神經(jīng)網(wǎng)絡(luò )本身的非線(xiàn)性,它得到的誤差圖像的熵的平均值最低,為5.2408,證實(shí)了神經(jīng)網(wǎng)絡(luò )預測器相對于結構分離法和插值法的有效性,同時(shí)其結構簡(jiǎn)單,易于硬件實(shí)現。
評論