使用深度學(xué)習網(wǎng)絡(luò )估算氮氧化物排放

使用擅長(cháng)學(xué)習、處理、分類(lèi)序列數據的長(cháng)短期記憶（LSTM）網(wǎng)絡(luò )，建立輸出從車(chē)輛引擎所產(chǎn)生的氮氧化物（NOX）的模型，藉由使用MATLAB和深度學(xué)習工具箱建立LSTM，并訓練出預測NOX排放的模型網(wǎng)絡(luò )，讓新一代零排放車(chē)輛的開(kāi)發(fā)技術(shù)能達到高度準確率。
雷諾（Renault）汽車(chē)現正積極地開(kāi)發(fā)新一代零排放車(chē)輛（zero-emissions vehicles；ZEVs）的技術(shù)，同時(shí)，也在努力希望使內燃機（internal combustion engine；ICE）車(chē)輛更干凈、更有效率。減少有害物質(zhì)的排放是其中一項重點(diǎn)項目。內燃機會(huì )產(chǎn)生氮氧化物（oxides of nitrogen；NOX），導致了煙霧、酸雨、溫室氣體。為了降低NOX，需要精確地估計各種引擎操作點(diǎn)的排放–舉例來(lái)說(shuō)，各種扭力和引擎速度的組合。

在真實(shí)的引擎上進(jìn)行測試不但昂貴，而且通常很耗時(shí)。而傳統上，是透過(guò)查找表（lookup tables）或氧化（combustion）模型的計算來(lái)進(jìn)行NOX估計。
不過(guò)，這些方法有幾個(gè)缺點(diǎn)，例如查找表不夠精確，而氧化模型也會(huì )因為方程式需擷取排放的動(dòng)態(tài)復雜性，使得要建立模型的難度特別高，導致NOX物理模型的高復雜度，因此很難用于完整的引擎操作范圍；而且，這些模型無(wú)法在ECU上實(shí)時(shí)的執行。
我們最近開(kāi)始使用長(cháng)短期記憶（long-short-term memory；LSTM）網(wǎng)絡(luò )來(lái)建立從引擎輸出NOX的模型（直接從引擎排放，而不是從后處理（aftertreatment）系統）。
LSTM網(wǎng)絡(luò )是一種擅長(cháng)學(xué)習、處理、分類(lèi)序列數據的神經(jīng)網(wǎng)絡(luò )，LSTM建立起來(lái)比氧化模型容易許多。透過(guò)MATLAB，即使本身并不是深度學(xué)習的專(zhuān)家，也可以使用MATLAB和深度學(xué)習工具箱（Deep Learning Toolbox）建立，并訓練出預測NOX排放的模型網(wǎng)絡(luò )，準確率幾乎高達90%。

LSTM網(wǎng)絡(luò )模型的設計與訓練
除了執行真實(shí)引擎的測試，并且取得了訓練數據。在測試進(jìn)行期間，引擎會(huì )經(jīng)過(guò)常見(jiàn)的駕駛型態(tài)循環(huán)，包含全球調和輕型車(chē)輛測試循環(huán)（Worldwide harmonized Light vehicles Test Cycles；WLTC）和歐盟現行之歐洲駕駛循環(huán)（New European Driving Cycle；NEDC），還有實(shí)際駕駛排放（Real Driving Emissions；RDE）測試。這些擷取下來(lái)的數據將做為模型網(wǎng)絡(luò )的輸入值，包含引擎扭力、引擎速度、冷卻劑溫度，以及文件位的排放。
接著(zhù)使用MATLAB程序語(yǔ)法來(lái)建立簡(jiǎn)單的LSTM網(wǎng)絡(luò )。雖然這個(gè)初始的網(wǎng)絡(luò )的組成僅有一個(gè)LSTM層、一個(gè)整流線(xiàn)性單位函式（rectified linear unit；ReLU）層、一個(gè)全連接（fully connected；FC）層、一個(gè)回歸輸出，它的表現卻意料之外的好。
不過(guò)，我們猜想應可再透過(guò)增加更多網(wǎng)絡(luò )的層數來(lái)提升精準度，并小心注意不要讓模型網(wǎng)絡(luò )規模膨脹到可能造成過(guò)度擬合（overfitting），或者占據太多ECU內存。
接下來(lái)，更新MATLAB程序來(lái)增加神經(jīng)網(wǎng)絡(luò )層數，并且進(jìn)行幾種模型網(wǎng)絡(luò )的配置探索。由于網(wǎng)絡(luò )模型尺寸較小，最適網(wǎng)絡(luò )配置和架構的選擇是由人工來(lái)進(jìn)行。采用試誤法（trial-and-error method）可以利用系統的物理資產(chǎn)。舉例來(lái)說(shuō)，對于具有高度非線(xiàn)性的系統，通常會(huì )選擇多重ReLU層，而對于熱系統，多重LSTM層可能更為適合。
我們選擇一個(gè)包含單一個(gè)LSTM層、三個(gè)ReLU層、三個(gè)FC層，以及一個(gè)回歸輸出層的網(wǎng)絡(luò )，此版本的LSTM網(wǎng)絡(luò )針對NOX等級預測可以達到85-90%的精確度，相較之下，使用查找表時(shí)則僅有60-70%的精確度（圖1）。


圖1 : 從真實(shí)的引擎量測到的NOX排放量（藍色）和以L(fǎng)STM網(wǎng)絡(luò )建構的NOX排放模型（橘色）。

將模型并入系統層級仿真
當有了訓練好的LSTM網(wǎng)絡(luò )，我們讓其他雷諾的團隊也可以使用這個(gè)模型來(lái)進(jìn)行他們的Simulink模擬。其中一個(gè)團隊將網(wǎng)絡(luò )合并到模型，把網(wǎng)絡(luò )內的從引擎輸出（engine-out）NOX層級作為后處理系統的輸入。此團隊接著(zhù)執行仿真來(lái)衡量后處理系統在各種引擎操作點(diǎn)的NOX轉換效率，透過(guò)將LSTMs導入系統仿真，該團隊因此可以獲得很難透過(guò)物理（physical）或經(jīng)驗（empirical）模型取得的信息。雷諾團隊也在仿真時(shí)使用LSTM神經(jīng)網(wǎng)絡(luò )來(lái)評估車(chē)上診斷（onboard diagnostics；OBD）系統的表現，以及估算新駕駛循環(huán)下的引擎排放量。

后續的深度學(xué)習項目計劃
此項利用LSTM網(wǎng)絡(luò )模型來(lái)預測NOX排放等級的成功經(jīng)驗，在雷諾內部已催生了好幾個(gè)后續的項目計劃。其中一項計劃，使用MathWorks的顧問(wèn)服務(wù)建立了一套工具，可從LSTM網(wǎng)絡(luò )產(chǎn)生C程序代碼來(lái)作為概念驗證展示，產(chǎn)生的程序代碼能夠將NOX排放的估計器部署至ECU上，作為OBD系統仿真平臺的一部分，這個(gè)LSTM可依照排放標準的規范，提供實(shí)時(shí)、全天候的不良或故障狀況偵測。
在進(jìn)行ECUs的嵌入時(shí)，深度神經(jīng)網(wǎng)絡(luò )（特別是深度LSTMs）是其中的一大挑戰。我們的ECU并不是非常強大的計算機，意味著(zhù)需要在LSTM復雜性（這也代表預測的質(zhì)量）與ECU執行運算的能力之間進(jìn)行取舍。以我們的應用來(lái)說(shuō)，網(wǎng)絡(luò )尺寸相對較小，如果需要的話(huà)，可以很容易地被整合進(jìn)卡爾曼濾波器（Kalman filters）。
最近，我們已經(jīng)再擴大使用透過(guò)MATLAB進(jìn)行的深度學(xué)習，致力使用強化學(xué)習來(lái)開(kāi)發(fā)雷諾引擎的航行路徑控制策略。

（本文由鈦思科技提供；作者Nicoleta-Alexandra Stroe、Vincent Talon任職于Renault汽車(chē)公司）