研究顯示：警車(chē)、救護車(chē)閃爍車(chē)燈會(huì )引發(fā)智能駕駛“數字癲癇”

11 月 27 日消息，汽車(chē)制造商宣稱(chēng)，他們日益復雜的自動(dòng)駕駛系統能夠提升駕駛安全性并減輕駕駛員的壓力，因為這些系統能夠識別即將發(fā)生的碰撞并采取措施避免。然而，最新研究表明，某些系統可能會(huì )在關(guān)鍵時(shí)刻產(chǎn)生適得其反的效果。

以色列內蓋夫本-古里安大學(xué)和日本科技公司富士通集團的研究人員聯(lián)合發(fā)表了一篇論文，指出某些基于攝像頭的自動(dòng)駕駛系統在遇到應急車(chē)輛閃爍燈光時(shí)，可能無(wú)法準確識別道路上的物體。研究人員將這一現象形象地稱(chēng)為“數字癲癇發(fā)作”（Digital Epileptic Seizure），簡(jiǎn)稱(chēng)“epilepticar”。這些系統雖然經(jīng)過(guò)人工智能訓練，可以區分不同的道路物體圖像，但在應急車(chē)輛燈光閃爍的影響下，其識別效果會(huì )顯著(zhù)下降，尤其是在黑暗環(huán)境中更為明顯。

換句話(huà)說(shuō)，應急車(chē)輛的燈光可能讓自動(dòng)駕駛系統對前方形似汽車(chē)的物體產(chǎn)生疑慮，難以準確判斷。研究人員在論文中指出，這一漏洞存在重大風(fēng)險，可能導致開(kāi)啟自動(dòng)駕駛系統的車(chē)輛在應急車(chē)輛附近發(fā)生碰撞，甚至可能被惡意利用來(lái)制造事故。

盡管這一研究結果引發(fā)了擔憂(yōu)，但研究人員也提出了幾點(diǎn)說(shuō)明。首先，他們尚未在具體的駕駛系統上驗證該理論，例如特斯拉的 Autopilot 系統。而是選擇了五款嵌入市售行車(chē)記錄儀的現成自動(dòng)駕駛系統進(jìn)行實(shí)驗，這些記錄儀均通過(guò)亞馬遜購買(mǎi)。雖然這些產(chǎn)品被宣傳為具有一定的碰撞檢測功能，但在本研究中僅作為攝像頭使用。

研究人員將這些系統捕獲的圖像通過(guò)四個(gè)開(kāi)源對象檢測器進(jìn)行處理，這些檢測器通過(guò)圖像訓練來(lái)區分不同的物體。然而，研究人員尚不確定是否有汽車(chē)制造商使用了這些對象檢測器。這可能是因為大多數系統已經(jīng)針對應急車(chē)輛燈光漏洞進(jìn)行了改進(jìn)。

內蓋夫本-古里安大學(xué)的網(wǎng)絡(luò )安全與機器學(xué)習研究員本?納西（Ben Nassi）表示，這項研究受到 2018 年至 2021 年間特斯拉 Autopilot 系統與約 16 輛靜止應急車(chē)輛發(fā)生碰撞事故的啟發(fā)。他指出：“我們一開(kāi)始就懷疑，這些碰撞可能與應急車(chē)輛的閃爍燈光有關(guān)。無(wú)論是救護車(chē)、警車(chē)還是消防車(chē)，它們的形狀和大小各不相同，因此導致問(wèn)題的并不是車(chē)輛本身，而是燈光?！?/p>

美國國家公路交通安全管理局（NHTSA）對上述事故進(jìn)行了長(cháng)達三年的調查，最終促使特斯拉召回了 Autopilot 軟件。該系統旨在無(wú)需駕駛員干預的情況下完成轉向、加速、制動(dòng)和變道等任務(wù)。然而，NHTSA 調查顯示，Autopilot 未能確保駕駛員在系統啟用時(shí)保持足夠的注意力并控制車(chē)輛。

其他汽車(chē)制造商的高級駕駛輔助系統（如通用汽車(chē)的 Super Cruise 和福特的 BlueCruise）也能完成部分駕駛任務(wù)，但要求駕駛員在駕駛過(guò)程中保持專(zhuān)注，并且這些系統僅能在地圖繪制好的特定區域內運行，這與 Autopilot 有所不同。

NHTSA 發(fā)言人露西婭?桑切斯（Lucia Sanchez）在一份聲明中表示，應急車(chē)輛燈光確實(shí)可能對某些先進(jìn)駕駛輔助系統的性能產(chǎn)生影響?！霸谀承┣闆r下，當應急車(chē)輛出現在車(chē)道上時(shí)，我們發(fā)現部分高級駕駛輔助系統未能對其閃爍燈光做出適當反應，”她指出。

特斯拉在 2021 年解散了公關(guān)團隊，因此未對相關(guān)置評請求作出回應。研究人員在測試中使用的攝像系統來(lái)自 HP、Pelsee、Azdome、Imagebon 和 Rexing，這些公司同樣未回應置評請求。

研究人員強調，他們無(wú)法斷言特斯拉的 Autopilot 與應急車(chē)輛燈光之間的具體關(guān)聯(lián)。納西表示：“我并未聲稱(chēng)了解特斯拉車(chē)輛為何與應急車(chē)輛發(fā)生碰撞，也不確定這種情況是否仍然是一個(gè)漏洞?！?/p>

研究人員的實(shí)驗主要集中在基于圖像的物體檢測技術(shù)上。然而，許多汽車(chē)制造商還使用雷達和激光雷達等其他傳感器來(lái)檢測道路障礙物。特斯拉等少數技術(shù)開(kāi)發(fā)者主張，通過(guò)復雜的人工智能訓練增強的圖像系統不僅能支持駕駛輔助，還能實(shí)現完全自動(dòng)駕駛。特斯拉首席執行官埃隆?馬斯克（Elon Musk）上個(gè)月表示，該公司計劃明年利用基于視覺(jué)的系統實(shí)現自動(dòng)駕駛。

自動(dòng)駕駛系統如何應對應急車(chē)輛燈光，取決于汽車(chē)制造商的設計思路。有些制造商選擇調整技術(shù)，對不完全確定是障礙物的物體做出反應。然而，這種策略可能導致“誤報”，例如誤將一個(gè)形似兒童的紙箱當成真實(shí)障礙物，從而緊急剎車(chē)。其他制造商則可能選擇僅對高度確信是障礙物的物體做出反應。這種策略在極端情況下可能導致車(chē)輛未能及時(shí)剎車(chē)，與另一輛車(chē)發(fā)生碰撞，因為系統未能正確識別該車(chē)輛。

為了解決這一問(wèn)題，本-古里安大學(xué)和富士通集團的研究人員開(kāi)發(fā)了一款名為“Caracetamol”的軟件修復程序。這一名稱(chēng)結合了“car”（汽車(chē)）和“Paracetamol”（撲熱息痛）。該程序通過(guò)專(zhuān)門(mén)訓練識別帶有應急燈光的車(chē)輛，顯著(zhù)提升物體檢測的準確性。

加州大學(xué)圣地亞哥分校計算機科學(xué)與工程助理教授勞倫斯?費爾南德斯（Earlence Fernandes）評價(jià)該研究“合理且有意義”。他指出：“就像人類(lèi)可能因應急燈光的閃爍而短暫‘致盲’，高級駕駛輔助系統的攝像頭也可能短暫‘失明’?！?/p>

麻省理工學(xué)院 AGE 實(shí)驗室研究車(chē)輛自動(dòng)化與安全的研究員布萊恩?雷默（Bryan Reimer）認為，這項研究揭示了基于人工智能的駕駛系統存在的更廣泛局限性。他強調，汽車(chē)制造商需要開(kāi)展“可重復、可靠的驗證”來(lái)識別盲點(diǎn)，如對應急燈光的敏感性。他擔憂(yōu)部分汽車(chē)制造商“技術(shù)發(fā)展速度已超過(guò)其測試能力”。