OpenVINO賦能智慧交通 架構加速車(chē)牌識別推理

在智慧交通的整體體系中，車(chē)牌識別無(wú)疑是基礎性的應用之一。車(chē)牌識別應用要求將靜止或運動(dòng)中的汽車(chē)牌照從復雜背景中提取并識別出來(lái)，通過(guò)車(chē)牌提取、圖像預處理、特征提取、車(chē)牌字符識別等技術(shù)，識別車(chē)輛牌號、顏色等信息。車(chē)牌識別是自動(dòng)化交通控制的基礎應用，其識別成功率以及準確率會(huì )對交通運行效率、收費、違規行為處罰等帶來(lái)較大影響。

為了進(jìn)一步提升車(chē)牌識別平臺的推理性能，加速面向海外車(chē)牌場(chǎng)景的算法訓練速度，搭載了第二代英特爾? 至強? 可擴展處理器與英特爾? OpenVINOTM 的組合解決方案，并使用了針對英特爾? 架構進(jìn)行優(yōu)化的 Caffe* 應用，實(shí)現了數十倍的性能提升。

挑戰：海外市場(chǎng)給車(chē)牌識別帶來(lái)嚴峻考驗

要對每個(gè)國家與地區的車(chē)牌識別算法進(jìn)行針對性訓練，無(wú)疑需要本地化的數據作為支撐。如果通過(guò)傳統的車(chē)牌算法，將需要海量的車(chē)牌樣本，同時(shí)需要長(cháng)達數月的交付周期，才能將車(chē)牌識別的準確率提升到可用的水平。而這一速度，顯然無(wú)法滿(mǎn)足快速的市場(chǎng)競爭需求，智芯原動(dòng)希望能夠基于少量的車(chē)牌樣本完成快速的產(chǎn)品部署，這要求其對于算法進(jìn)行不斷創(chuàng )新，同時(shí)也要部署更高效的基礎設施平臺與深度學(xué)習加速工具。

此外，車(chē)牌識別系統本身也對于深度學(xué)習性能帶來(lái)要求。根據智芯原動(dòng)的工程師測算，目前單核處理器做一次車(chē)款識別需要40ms，按照停車(chē)高峰期每10秒一輛車(chē)計算，深云識車(chē)服務(wù)總共需要1000個(gè)4核處理器。一旦再提供公安警用服務(wù)的話(huà)，壓力更會(huì )成倍增加，因此需要實(shí)現更高效的深度學(xué)習計算能力。

面向海外市場(chǎng)的領(lǐng)先算法平臺

面向海外市場(chǎng)的車(chē)牌識別需求，智芯原動(dòng)推出了海外車(chē)牌識別解決方案，在技術(shù)上，海外車(chē)牌算法的實(shí)現是通過(guò)車(chē)牌提取、字符分割和字符識別三個(gè)步驟來(lái)搭配完成，即從背景復雜的含有車(chē)牌的圖像中提取出車(chē)牌圖像，然后對提取圖像進(jìn)行必要的預處理、分離出單個(gè)字符，接著(zhù)提取字符的特征并與標準字符進(jìn)行比對，輸出待識別車(chē)牌的車(chē)牌號碼。智芯原動(dòng)針對不同的車(chē)牌類(lèi)型會(huì )采用不同的車(chē)牌定位和字符分割算法，以確保識別的準確率。

方案最大的亮點(diǎn)即基于自研車(chē)牌算法框架，能夠在少量（＞1K）車(chē)牌樣本條件下快速迭代，僅需2-4周的交付周期即可實(shí)現新國家車(chē)牌的開(kāi)發(fā)任務(wù)，且綜合準確率可高達90%-95%。目前，該方案已經(jīng)在全球二十幾個(gè)國家和地區實(shí)現了規?；逃?。此外，方案還具備以下特點(diǎn)：

方案特點(diǎn)

支持二十多個(gè)國家與區域的車(chē)牌識別

適用卡口、出入口、停車(chē)位等場(chǎng)景

算法框架采用靈活模型匹配策略和模塊化設計，在少量樣本下能夠實(shí)現新國家車(chē)牌的開(kāi)發(fā)和實(shí)現

算法支持跨平臺設計，滿(mǎn)足前端相機、后端服務(wù)器不同方案需求

在該方案中，智芯原動(dòng)使用了基于卷積神經(jīng)網(wǎng)絡(luò )深度學(xué)習的車(chē)款識別方法，并通過(guò)MobileNet*、GoogleNet* 等拓撲結構來(lái)實(shí)現分類(lèi)推理優(yōu)化。在智芯原動(dòng)對車(chē)牌識別算法進(jìn)行優(yōu)化之后，有助于在小樣本的前提下實(shí)現應用的快速開(kāi)發(fā)及部署。

解決方案：基于英特爾? 架構加速推理性能

在基礎設施架構方面，智芯原動(dòng)面向不同國家及地區的實(shí)際應用環(huán)境，推出了不同的參考方案，車(chē)牌識別的工作負載可以靈活的由云數據中心，或是邊緣設備來(lái)承載，可以滿(mǎn)足用戶(hù)對于延遲、部署成本、網(wǎng)絡(luò )等方面的不同要求。

在服務(wù)器端，智芯原動(dòng)搭載了第二代英特爾? 至強? 可擴展處理器與英特爾? OpenVINOTM 的組合解決方案。第二代英特爾? 至強? 可擴展處理器采用矢量神經(jīng)網(wǎng)絡(luò )指令 (VNNI) 的全新英特爾? 深度學(xué)習加速功能，提高了人工智能推理的表現，與上一代產(chǎn)品相比，性能有了顯著(zhù)提升，第二代英特爾? 至強? 可擴展處理器有助于在整個(gè)數據中心到邊緣之間實(shí)現充分的 AI 支持。

相較于智芯原動(dòng)之前所使用的第一代英特爾? 至強? 可擴展處理器，第二代英特爾? 至強? 可擴展處理器進(jìn)一步提升了性能表現，特別是其支持的 VNNI 等技術(shù)提高了將推理性能提升到新的層次。在具體的應用實(shí)例中，性能的提升將允許用戶(hù)部署更少的節點(diǎn)，同時(shí)支撐更多的推理負載，實(shí)現更低的總體擁有成本 (TCO)。

英特爾? OpenVINO? 工具套件分發(fā)版則支持開(kāi)發(fā)人員使用行業(yè)標準人工智能框架、標準或自定義層，將深度學(xué)習推理輕松集成到應用中。通過(guò)在底層的英特爾? 至強? 可擴展處理器上運行，英特爾? OpenVINO? 工具套件分發(fā)版可實(shí)現具有競爭力的推理速度和極低的精度損失。同時(shí)，借助 AVX-512 和 MKL/MKL-DNN boost 庫的支持，這一解決方案還可實(shí)現卓越的計算性能。

效果：實(shí)現接近30倍的性能提升

為了驗證第二代英特爾? 至強? 可擴展處理器與英特爾? OpenVINOTM 在不同拓撲結構中的推理性能，智芯原動(dòng)搭建了測試平臺，測試平臺的配置如表1所示：

在視頻圖像分析推理性能的測試中，測試人員分別測試了在MobileNet、MobileNet-V2、GoogleNet、VGG-16等多個(gè)拓撲結構中，使用公共版Caffe*、英特爾優(yōu)化版本Caffe，以及OpenVINOTM 的推理性能。測試數據如圖1所示，與英特爾優(yōu)化版本 Caffe 相比，使用OpenVINOTM 在 MobileNet 中實(shí)現了28.4倍的性能提升。

同時(shí)，在SSD、RPN 檢測推理優(yōu)化的測試中（測試數據如圖2所示），相比帶有 FP32 的英特爾優(yōu)化 Caffe，帶有 SSD-VGG、RPN-VGG 拓撲結構且使用 Int8 量化的英特爾優(yōu)化 Caffe 可分別實(shí)現 2.58 倍和 2.09 倍的性能提升。

未來(lái)：為車(chē)輛識別應用負載提供靈活、高效的算力支持

除了車(chē)牌識別之外，基于人工智能與深度學(xué)習技術(shù)的檢測推理還廣泛應用于車(chē)輛識別的其它場(chǎng)景之中，并用于檢測車(chē)輛型號、顏色、大小、位置等用途。這些應用負載在依賴(lài)先進(jìn)算法的同時(shí)，也對于平臺的算力提出了一定的要求。智芯原動(dòng)的云端車(chē)款識別平臺可識別1600種左右車(chē)款，車(chē)款信息包括：品牌、型號、年代，識別準確率超過(guò)99％，該平臺同時(shí)也可應用于警用安防系統、高速公路收費等領(lǐng)域的車(chē)款識別。

通過(guò)與英特爾進(jìn)行合作，智芯原動(dòng)能夠為車(chē)輛識別深度學(xué)習應用提供更加靈活的基礎設施平臺，如在數據中心通過(guò)CPU、GPU、FPGA的組合實(shí)現深度學(xué)習異構計算，或是在邊緣端部署統一的邊緣計算服務(wù)器，承載車(chē)輛、車(chē)牌的識別負載，滿(mǎn)足用戶(hù)對于檢測精度、速度等方面的需求，助力智慧交通的實(shí)現。

想要查看更多OpenVINO相關(guān)技術(shù)與資料，請戳>> http://dyxdggzs.com/openvino