自動(dòng)駕駛：新算法公平分配風(fēng)險

在允許自動(dòng)駕駛車(chē)輛大規模上路之前，技術(shù)實(shí)現并不是唯一需要克服的障礙。道德問(wèn)題在相應算法的開(kāi)發(fā)中起著(zhù)重要作用：軟件必須能夠處理不可預見(jiàn)的情況，并在即將發(fā)生的事故時(shí)做出必要的決定。TUM 的研究人員現在已經(jīng)開(kāi)發(fā)了第一個(gè)道德算法來(lái)公平分配風(fēng)險水平，而不是根據非此即彼的原則進(jìn)行作。

測試了大約 2,000 個(gè)涉及危急情況的場(chǎng)景，分布在歐洲、美國和中國等各種類(lèi)型的街道和地區。發(fā)表在《自然機器智能》雜志上的研究工作是 TUM 汽車(chē)技術(shù)教席和 TUM 人工智能倫理研究所 （IEAI） 商業(yè)道德教席合作的共同成果。

TUM 汽車(chē)技術(shù)教席的科學(xué)家 Maximilian Geisslinger 解釋了這種方法：“到目前為止，自動(dòng)駕駛汽車(chē)在遇到道德決定時(shí)總是面臨非此即彼的選擇。但街道交通不一定能分為明確的、非黑即白的情況;更重要的是，還必須考慮介于兩者之間的無(wú)數灰色陰影。我們的算法權衡各種風(fēng)險，并從數千種可能的行為中做出合乎道德的選擇——而且在幾分之一秒內就完成了。

危急情況下的更多選擇

2020 年，專(zhuān)家小組代表歐盟委員會(huì )確定了軟件風(fēng)險評估所依據的基本道德參數作為書(shū)面建議。該建議包括基本原則，例如優(yōu)先考慮最差的人以及在所有道路使用者之間公平分配風(fēng)險。為了將這些規則轉化為數學(xué)計算，研究小組根據它們在街道交通中移動(dòng)的車(chē)輛和人員對它們對他人構成的風(fēng)險以及各自承擔風(fēng)險的意愿進(jìn)行分類(lèi)。

例如，卡車(chē)可能會(huì )對其他交通參與者造成嚴重損害，而在許多情況下，卡車(chē)本身只會(huì )受到輕微損壞。自行車(chē)的情況正好相反。在下一步中，算法被告知在各種相應的街道情況下不要超過(guò)最大可接受風(fēng)險。此外，研究小組在計算中添加了變量，這些變量說(shuō)明了交通參與者的責任，例如遵守交通規則的責任。

以前的方法只用少量可能的機動(dòng)來(lái)處理街道上的危急情況;在不清楚的情況下，車(chē)輛只是停了下來(lái)?，F在集成到研究人員代碼中的風(fēng)險評估帶來(lái)了更多可能的自由度，同時(shí)降低了所有人的風(fēng)險。一個(gè)例子將說(shuō)明該方法：一輛自動(dòng)駕駛汽車(chē)想要超車(chē)一輛自行車(chē)，而一輛卡車(chē)正在迎面駛來(lái)?，F在，有關(guān)周?chē)h(huán)境和各個(gè)參與者的所有現有數據都已得到利用。

是否可以在不在迎面而來(lái)的車(chē)道上行駛，同時(shí)與自行車(chē)保持安全距離的情況下超車(chē)？每輛車(chē)都面臨什么風(fēng)險，這些車(chē)輛對自動(dòng)駕駛汽車(chē)本身構成什么風(fēng)險？在不清楚的情況下，配備新軟件的自動(dòng)駕駛汽車(chē)總是會(huì )等待，直到所有參與者的風(fēng)險都可以接受。避免了激進(jìn)的機動(dòng)，同時(shí)自動(dòng)駕駛汽車(chē)不會(huì )簡(jiǎn)單地凍結并突然卡住剎車(chē)。Yes 和 No 無(wú)關(guān)緊要，取而代之的是包含大量選項的評估。

“僅僅考慮傳統倫理理論導致了一條死胡同”

“到目前為止，人們經(jīng)?？紤]使用傳統的倫理理論來(lái)推導出自動(dòng)駕駛汽車(chē)做出的道德上允許的決定。這最終導致了一條死胡同，因為在許多交通情況下，除了違反一項道德原則之外別無(wú)選擇，“TUM 商業(yè)道德主席科學(xué)家 Franziska Poszler 說(shuō)?！跋啾戎?，我們的框架將風(fēng)險道德置于中心。這使我們能夠考慮概率，做出更具差異化的評估。

研究人員強調，即使是基于風(fēng)險道德的算法——盡管它們可以在每一種可能的交通情況下根據基本道德原則做出決策——但它們仍然無(wú)法保證街道交通無(wú)事故。將來(lái)，還需要考慮進(jìn)一步的差異化，例如道德決策中的文化差異。

軟件現在將在街道交通中進(jìn)行測試

到目前為止，TUM 開(kāi)發(fā)的算法已在仿真中得到驗證。未來(lái)，該軟件將使用研究車(chē)輛 EDGAR 在街道上進(jìn)行測試。包含研究活動(dòng)結果的代碼以開(kāi)源軟件的形式提供。因此，TUM 正在為開(kāi)發(fā)可行且安全的自動(dòng)駕駛汽車(chē)做出貢獻。