基于CS-AGA-BP神經(jīng)網(wǎng)絡(luò )的房?jì)r(jià)預測分析

摘要：經(jīng)過(guò)MATLAB編程對GA-BP神經(jīng)網(wǎng)絡(luò )、PSO-BP神經(jīng)網(wǎng)絡(luò )、RBF神經(jīng)網(wǎng)絡(luò )與傳統BP神經(jīng)網(wǎng)絡(luò )進(jìn)行精度對比；另外經(jīng)過(guò)計算發(fā)現CS-AGA-BP神經(jīng)網(wǎng)絡(luò )預測精度得到提升，多次運行均方差要低于GA-BP神經(jīng)網(wǎng)絡(luò )，可以認為模型優(yōu)化取得良好的效果。

1   算法基本原理

1.1 BP神經(jīng)網(wǎng)絡(luò )簡(jiǎn)介

BP（back propagation）神經(jīng)網(wǎng)絡(luò )是一種多層前饋型神經(jīng)網(wǎng)絡(luò )，其具有三層及三層以上的多層結構，每層均由若干神經(jīng)元組成，相鄰層間的神經(jīng)元均實(shí)現全連接，而上下層各神經(jīng)元間無(wú)連接。BP 神經(jīng)網(wǎng)絡(luò )分為輸入層、隱含層和輸出層，輸入層和輸出層均為一層結構，節點(diǎn)數目分別為自變量與因變量的數目，隱含層數不設限制，依據Kolrnogorov 定理，所有3 層的BP 神經(jīng)網(wǎng)絡(luò )均可以趨近于任意的非線(xiàn)性函數，因此隱含層一般取1 層，節點(diǎn)數目由經(jīng)驗函數確定。BP 神經(jīng)網(wǎng)絡(luò )按有導師的學(xué)習方式進(jìn)行訓練，當一對學(xué)習模式提供給網(wǎng)絡(luò )后，網(wǎng)絡(luò )神經(jīng)元將按“輸入層- 隱含層- 輸出層”路徑傳播，輸出層輸出網(wǎng)絡(luò )響應，信號誤差沿“輸出層- 隱含層-輸入層”路徑傳播以逐層修正各連接權和閾值，此過(guò)程被稱(chēng)為“誤差逆傳播算法”，隨著(zhù)修正次數的增加，網(wǎng)絡(luò )對輸入模式響應的正確率不斷提高，輸出值逐步逼近期望輸出。BP 神經(jīng)網(wǎng)絡(luò )示意圖如圖1 所示。

圖1 BP神經(jīng)網(wǎng)絡(luò )模型結構

有監督的BP 神經(jīng)網(wǎng)絡(luò )機器學(xué)習步驟：BP 神經(jīng)網(wǎng)絡(luò )共有輸入層、隱含層和輸出層3 層結構，設輸入層有m個(gè)變量，隱含層有l 個(gè)變量，輸出層有n 個(gè)變量。輸入層、隱含層和輸出層的節點(diǎn)分別用下標g、h、j 表示；用ω gh 表示輸入層和隱含層節點(diǎn)間的權值，用ah 表示閾值；用ω hi 表示隱含層和輸出層節點(diǎn)間的權值，用bi 表示偏置；學(xué)習速率設置為θ 。對于輸入的因變量數據x，設其目標輸出值為y* ，實(shí)際輸出值為y 。將選定的數據組作為樣本進(jìn)行網(wǎng)絡(luò )訓練，根據目標輸出值與實(shí)際輸出值間的誤差進(jìn)行正、反向傳遞處理。

計算正向反饋：當輸入第j 個(gè)數據時(shí)，由輸入層節點(diǎn)g 到隱含層節點(diǎn)h 的總輸入（加權和）為：

輸入值和隱含層之間的關(guān)系通過(guò)激勵函數——Sigmoid 函數處理，隱含層節點(diǎn)h 的輸出值為：

則輸出層節點(diǎn)i 的輸出值為：

因為Sigmoid 激勵函數連續可微，所以訓練指標函數也連續可微。

反向傳遞調整各層權值：為使誤差盡量減小，進(jìn)行網(wǎng)絡(luò )訓練時(shí)需要逐步對網(wǎng)絡(luò )結構進(jìn)行優(yōu)化，采用梯度下降法對權值 ω_gh 、ω_hi 和閾值a_h 、b_i 進(jìn)行更新以?xún)?yōu)化網(wǎng)絡(luò )結構。

多次對權值和閾值進(jìn)行修正后網(wǎng)絡(luò )達到預先設定的目標誤差或者最大學(xué)習次數則結束算法，網(wǎng)絡(luò )訓練成功。

1.2 遺傳算法簡(jiǎn)介

遺傳算法（genetic algorithms，GA）是一種基于達爾文進(jìn)化論中的自然選擇原理和自然遺傳機制的搜索（尋優(yōu)）算法，其通過(guò)模擬自然界中的生命進(jìn)化機制在人工系統中的特定目標進(jìn)行逐步優(yōu)化。遺傳算法實(shí)質(zhì)類(lèi)似于粒子群算法和模擬退火等智能算法，屬于群體搜索技術(shù)，其中的種群會(huì )依據適者生存的原則逐代進(jìn)化，最終得到最優(yōu)解或準最優(yōu)解。其必備步驟包含以下幾種：初始群體的產(chǎn)生、計算群體中個(gè)體的適應度、依據適者生存的原則選擇適應度較大的優(yōu)良個(gè)體、被選出的優(yōu)良個(gè)體兩兩配對，隨機交叉染色體基因并隨機變異某些基因生成新群體，按此方法逐代進(jìn)化，直至達到迭代次數或滿(mǎn)足精度時(shí)終止進(jìn)化，找出最優(yōu)解。

生物中的遺傳概念在遺傳算法中的對應關(guān)系如表1所示。

1.3 GA-BP神經(jīng)網(wǎng)絡(luò )簡(jiǎn)介

傳統BP 神經(jīng)網(wǎng)絡(luò )存在收斂速度慢且不利于尋求全局最優(yōu)解的缺點(diǎn)，而利用遺傳算法對原始BP 神經(jīng)網(wǎng)絡(luò )進(jìn)行優(yōu)化可以對BP 神經(jīng)網(wǎng)絡(luò )的權值和閾值進(jìn)行更加精確的修正與優(yōu)化，遺傳算法的加入可以有效克服BP 神經(jīng)網(wǎng)絡(luò )容易陷入局部最優(yōu)且收斂速度慢的缺陷。遺傳算法部分參數需要根據經(jīng)驗進(jìn)行設定，本研究涉及的遺傳算法參數如下。

進(jìn)化終止代數：進(jìn)化終止代數即最大迭代次數，進(jìn)化終止代數過(guò)小可能不會(huì )得到收斂的結果，過(guò)大則會(huì )造成過(guò)擬合現象。本研究選取最大迭代次數為20。種群規模：種群規模過(guò)小會(huì )造成病態(tài)基因的出現概率增大，不利于種群的進(jìn)化，過(guò)大則會(huì )造成難以收斂且會(huì )浪費資源。本研究選取種群規模為10。交叉概率：交叉概率關(guān)系到種群的更新速率，過(guò)大會(huì )破壞已有的較好的種群，捕捉不到最優(yōu)解，過(guò)小則不能有效更新種群。本文選取交叉概率為20%，后續采用自適應更新公式自行確定交叉概率。變異概率：變異概率關(guān)系到種群的多樣性變化，變異概率過(guò)小會(huì )造成種群多樣性下降過(guò)快，部分缺陷基因迅速丟失且不易修補，過(guò)大則會(huì )造成高階模式的破壞概率增大。本研究選取變異概率為10%，后續采用自適應更新公式自行確定變異概率。利用遺傳算法對BP 神經(jīng)網(wǎng)絡(luò )進(jìn)行優(yōu)化的具體流程如下。

1）遺傳算法參數初始化：對遺傳算法中的迭代次數、種群規模、交叉概率和變異概率進(jìn)行初始化，迭代次數取20，種群規模取10，交叉概率取20%，變異概率取10%。

2）種群初始化：將種群的信息定義為一個(gè)結構體，存儲10 個(gè)個(gè)體的適應度值和染色體的編碼信息。

3）染色體編碼和適應度計算：遍歷10 個(gè)種群的循環(huán)，通過(guò)對各種群中每個(gè)個(gè)體的染色體隨機賦值并測試其取值是否位于變量邊界限制內，只保留符合條件的編碼；將編碼后的染色體分段，分為輸入層與隱含層連接的權值、隱含層神經(jīng)元閾值、隱含層與輸出層連接的權值和輸出層神經(jīng)元閾值，將編碼作為神經(jīng)網(wǎng)絡(luò )權值的賦值，設置網(wǎng)絡(luò )的進(jìn)化參數，迭代次數為20，學(xué)習率為10%，最小目標值誤差為0.000 1，訓練網(wǎng)絡(luò )并進(jìn)行模擬預測，將預測值與實(shí)際值之差的絕對值作為染色體對應的適應度值。

4）確定最優(yōu)染色體：根據適應度值挑選出最好的染色體適應度。

5）優(yōu)良個(gè)體的選擇：將個(gè)體適應度值取倒數得到的數值作為其被選中的可能，將所有個(gè)體的可能值歸一化處理作為概率，該值越大說(shuō)明適應度值越小，該個(gè)體越優(yōu)良，越容易作為父代經(jīng)歷交叉變異的過(guò)程，采用輪盤(pán)賭算法隨機產(chǎn)生選擇值，根據其落在哪個(gè)個(gè)體的概率區間內，將該個(gè)體作為父代并儲存信息。輪盤(pán)賭規則的算法流程和轉盤(pán)概率分布示意如圖2 所示。

6）交叉和變異：對種群所有個(gè)體進(jìn)行遍歷，依據交叉概率隨機選取2 條染色體并隨機選擇交叉位進(jìn)行交叉，如果2 條染色體均可行則進(jìn)行交叉，然后對新的種群信息進(jìn)行存儲；依據變異概率隨機選取2 條染色體并進(jìn)行變異，如果2 條染色體均可行則進(jìn)行變異，然后對新的種群信息進(jìn)行存儲。

7）最優(yōu)初始閾值和權值的賦值：將進(jìn)化了20 代的種群的最優(yōu)的基因賦值給神經(jīng)網(wǎng)絡(luò )用來(lái)預測。

8）神經(jīng)網(wǎng)絡(luò )的訓練與測試：得到最優(yōu)權值和閾值以及輸入層、隱含層和輸出層的數值后，利用訓練數據對網(wǎng)絡(luò )進(jìn)行訓練，然后利用后面較少的數據進(jìn)行預測以及誤差檢驗。

圖2 輪盤(pán)賭規則的算法流程和轉盤(pán)概率分布示意圖

1.4 CS-AGA-BP神經(jīng)網(wǎng)絡(luò )的改進(jìn)簡(jiǎn)介

為更大程度地增強BP 神經(jīng)網(wǎng)絡(luò )的優(yōu)化效果，本文最終采用CS-AGA-BP 神經(jīng)網(wǎng)絡(luò )對原模型進(jìn)行改進(jìn)。改進(jìn)分為兩個(gè)方向：①交叉概率和變異概率采用自適應算法確定；②通過(guò)Logistic 混沌序列對交叉位置進(jìn)行確定，并進(jìn)行多基因變異。

普通遺傳算法中的交叉率和變異率是人為給定的，其對遺傳算法的行為和性能有著(zhù)關(guān)鍵影響。交叉率過(guò)大，新個(gè)體產(chǎn)生的速度就越快，但是很容易破壞遺傳模式，一些高適應度的個(gè)體結果很快就會(huì )被破壞，如果交叉率過(guò)小，個(gè)體間不能傳遞信息產(chǎn)生新個(gè)體，搜索過(guò)程會(huì )變得緩慢甚至停滯不前；變異率過(guò)大，遺傳算法就變成了隨機搜索算法，變異率過(guò)小就不易產(chǎn)生新個(gè)體?；诖?，Srinvivas 等人提出用自適應遺傳算法來(lái)控制交叉率和變異率的大小，使其隨適應度自動(dòng)改變，適應度越接近最大適應度值，交叉率和變異率就越小，為防止進(jìn)化初期最優(yōu)個(gè)體不發(fā)生交叉和變異，對其交叉率和變異率進(jìn)行初始化，同時(shí)為了防止每一代的最優(yōu)個(gè)體被破壞，通過(guò)精英選擇策略將它們直接復制到下一代。交叉率和變異率的調整公式為：

其中， f_max 為全體中最大的適應度值， f_avg 為全體的平均適應度值， f ′ 為交叉的2 個(gè)個(gè)體中較大的適應度值， f為變異個(gè)體的適應度值。該式中Pc1 取值為0.2， Pm1 取值為0.1。

遺傳算法跳出局部最優(yōu)解尋求全局最優(yōu)解時(shí)依賴(lài)于交叉和變異操作，在交叉操作中，單點(diǎn)交叉（段交叉）、多點(diǎn)交叉和均勻交叉使用較多；變異操作一般使用Guassian 分布的隨機變異來(lái)實(shí)現。許多學(xué)者采用不同方法進(jìn)行變異操作以?xún)?yōu)化遺傳算法，但改進(jìn)效果并不明顯。而混沌系統可以對交叉和變異操作同時(shí)進(jìn)行改進(jìn)，在交叉操作中，以“門(mén)當戶(hù)對”原則進(jìn)行個(gè)體配對，通過(guò)混沌序列確定交叉點(diǎn)，確保算法收斂精度，削弱和避免尋優(yōu)抖振問(wèn)題；在變異操作中，混沌序列可以對染色體中多個(gè)基因進(jìn)行變異，以避免算法早熟。本文采用Logistic 混沌序列進(jìn)行遺傳改進(jìn)，如式所示：

x(n +1) = 4x(n)[1? x(n)]   （6）

CS-AGA-BP 神經(jīng)網(wǎng)絡(luò )優(yōu)化過(guò)程如圖3 所示。

圖3 CS-AGA-BP神經(jīng)網(wǎng)絡(luò )流程設計

2   算法的基本算例

2.1 數據來(lái)源與處理

本文采用數據是數據挖掘領(lǐng)域常用的美國波士頓房?jì)r(jià)數據集，格式為506?14，取前 500 行數據，前80% 行用作訓練數據，后20% 行用作測試數據。以前13 個(gè)指標作為模型自變量，以MEDV 作為模型因變量。

為便于將輸入樣本矩陣的輸入范圍控制在（-1，1）內以消除量綱影響，需運用MATLAB 軟件中的mapminmax 函數對所有數據進(jìn)行歸一化處理，即：

其中， α 是歸一化前的變量； α_max 和α_min分別為α 的最大值和最小值；是歸一化后的變量。

2.2 隱含層節點(diǎn)確定

神經(jīng)網(wǎng)絡(luò )隱含層節點(diǎn)數的選擇相當重要，其對神經(jīng)網(wǎng)絡(luò )的性能影響很大，如果隱含層節點(diǎn)數過(guò)少，神經(jīng)網(wǎng)絡(luò )很難建立復雜的判斷界，達不到合適的訓練精度，容錯性差；隱含層節點(diǎn)數過(guò)多，雖然會(huì )降低誤差，提高精度，但是神經(jīng)網(wǎng)絡(luò )會(huì )趨向于復雜，從而造成訓練時(shí)間增加和過(guò)擬合的情況。為確保在滿(mǎn)足精度的前提下降低網(wǎng)絡(luò )復雜性，即選取合適的隱含層節點(diǎn)數目，本研究采取以下經(jīng)驗函數來(lái)確定BP 神經(jīng)網(wǎng)絡(luò )隱含層的節點(diǎn)數目：

其中， hiddennum 是隱含層節點(diǎn)的數目， inputnum 是輸入層節點(diǎn)的數目，outputnum 是輸入層節點(diǎn)的數目，α是1~10 之間的取整調節常數。本研究中inputnum =13 ，outputnum = 1 ， hiddennum 取值范圍為5~14。為了挑選出最優(yōu)的隱含層節點(diǎn)數，此處采用均方差誤差（RMSE）進(jìn)行衡量，其計算公式如下所示：

其中，n 表示樣本數目， yi 表示實(shí)際房?jì)r(jià)， y?i 表示預測的房?jì)r(jià)。

將hiddennum 從5~14 共10 個(gè)值分別代入MATLAB程序中獨立運行，最后選取RMSE 最小時(shí)的10 作為隱含層節點(diǎn)數。

2.3 訓練函數的選取

本文運用MATLAB 中newff 函數構建前饋型神經(jīng)網(wǎng)絡(luò )，newff 函數中的訓練方法有基本梯度下降法（traingd）、帶有動(dòng)量項的梯度下降法（traingdm）和帶有動(dòng)量項的自適應學(xué)習算法（traingdx）等。本研究選取適用于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò )的訓練函數train 進(jìn)行訓練。網(wǎng)絡(luò )進(jìn)化參數分別設置最大迭代次數為100，學(xué)習率為0.1，最小目標值誤差為0.000 1。

3   算例的MATLAB計算結果與解析

為了便于探究GA-BP 神經(jīng)網(wǎng)絡(luò )的優(yōu)化效果，本文選取PSO-BP、傳統BP 和RBF 神經(jīng)網(wǎng)絡(luò )與GA-BP 神經(jīng)網(wǎng)絡(luò )的預測效果進(jìn)行對比。神經(jīng)網(wǎng)絡(luò )的學(xué)習率為0.1，迭代次數為100，隱含層節點(diǎn)數為10。針對后100 組數據進(jìn)行預測，并將預測數據與實(shí)際數據進(jìn)行對比分析誤差，如圖4 所示。

圖4 四種神經(jīng)網(wǎng)絡(luò )預測的誤差

通過(guò)MATLAB 計算可以看出GA-BP 神經(jīng)網(wǎng)絡(luò )和PSO-BP 神經(jīng)網(wǎng)絡(luò )預測精度較高，但是經(jīng)多次運算發(fā)現PSO-BP 神經(jīng)網(wǎng)絡(luò )預測精度并不穩定。RBF 神經(jīng)網(wǎng)絡(luò )和傳統神經(jīng)網(wǎng)絡(luò )誤差較大，但是RBF 神經(jīng)網(wǎng)絡(luò )的優(yōu)點(diǎn)是輸出結果非常穩定。

通過(guò)CS-AGA-BP 神經(jīng)網(wǎng)絡(luò )對數據進(jìn)行訓練與預測，與原始GA-BP 神經(jīng)網(wǎng)絡(luò )誤差百分比進(jìn)行對比，如圖5 所示。

圖5 GA-BP神經(jīng)網(wǎng)絡(luò )和ACS-GA-BP神經(jīng)網(wǎng)絡(luò )的誤差百分比

經(jīng)過(guò)MATLAB 此次計算，精度提升14.97%，雖然遺傳算法對神經(jīng)網(wǎng)絡(luò )權值和閾值的更新具有隨機選擇性，但經(jīng)過(guò)多次計算對比取平均數，CS-AGA-BP 神經(jīng)網(wǎng)絡(luò )的均方差要低于GA-BP 神經(jīng)網(wǎng)絡(luò )的均方差，誤差百分比也有所減小，因此可以認為模型優(yōu)化取得良好的效果。

參考文獻：

[1] GEN?AY R,YANG X.A forecast comparison of residential housing prices by parametric versus semiparametric conditional mean estimators[J].Economics Letters,1996,52(2):129-135.

[2] 王宇星,黃俊,潘英杰.GA-BP神經(jīng)網(wǎng)絡(luò )在老人負性情緒預測中的應用[J].小型微型計算機系統,2020,41(8):1702-1706.

[3] 羅博煒,洪智勇,王勁屹.多元線(xiàn)性回歸統計模型在房?jì)r(jià)預測中的應用[J].計算機時(shí)代,2020(6):51-54.

[4] 楊再宋,謝菊芳,胡東,等.基于A(yíng)W-GA-BP算法的配電網(wǎng)設備運行環(huán)境相對濕度的預測方法及應用[J].重慶師范大學(xué)學(xué)報(自然科學(xué)版),2019,36(6):104-109,2.

[5] 惠天宇,杜尚勉,陳樂(lè )至,等.基于GA-BP神經(jīng)網(wǎng)絡(luò )的手足口病疫情預測[J].教育教學(xué)論壇,2020(38):133-134.

[6] 魯明.基于PCA-GA-BP模型對污水BOD的預測[J].湖北汽車(chē)工業(yè)學(xué)院學(xué)報,2019,33(4):57-61,76.

[7] 羅成.基于SVD-GA-BP神經(jīng)網(wǎng)絡(luò )模型的股價(jià)預測[J].佳木斯大學(xué)學(xué)報(自然科學(xué)版),2019,37(6):988-991.

[8] 趙銘生,劉守強,紀潤清,等.基于遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò )的華北型煤田礦壓破壞帶深度預測[J].礦業(yè)研究與開(kāi)發(fā),2020,40(6):89-93.

[9] 司守奎,孫兆亮.數學(xué)建模算法與應用[M].北京:國防工業(yè)出版社,2015.

[10] 閔江濤,楊杰,馬晨原.基于改進(jìn)GA-BP網(wǎng)絡(luò )算法的邊坡力學(xué)參數反演分析[J].水電能源科學(xué),2019,37(11):152-155.

[11] NING M,GUAN J,LIU P,et al.GA-BP air quality e v a l u a t i o n m e t h o d b a s e d o n f u z z y t h e o r y [ J ] .Computers,materials & continua,2019,58(1):215-227.

[ 1 2 ] TANG T , Y u a n S, T a n g Y, e t a l .Op t i m i z a t i o n o f impulse water turbine based on GA-BP neural network a r i t h m e t i c [ J ] . J o u r n a l o f m e c h a n i c a l s c i e n c e a n d technology,2019,33(1):241-253.

（本文來(lái)源于《電子產(chǎn)品世界》雜志2021年12月期）