這項(xiàng)將在 4 月底正式發(fā)表于 NDSS 2022（計(jì)算機(jī)安全四大頂會(huì)之一）的研究，揭示了自動(dòng)駕駛場(chǎng)景下多個(gè)以前未知的語(yǔ)義 DoS 漏洞。

• 論文鏈接：https://www.ndss-symposium.org/wp-content/uploads/2022-177-paper.pdf

• 項(xiàng)目網(wǎng)站和演示視頻：https://sites.google.com/view/cav-sec/planfuzz 

如今，高等級(jí)自動(dòng)駕駛（AD）車輛，即在大多數(shù)情況下可以在沒(méi)有人類駕駛員的情況下自動(dòng)駕駛的車輛，已經(jīng)公開上路。一些公司，如 Waymo、百度、GM Cruise，也已經(jīng)在提供沒(méi)有安全駕駛員公共服務(wù)。在大規(guī)模部署之前，了解此類系統(tǒng)中可能存在的安全風(fēng)險(xiǎn)非常重要。典型的自動(dòng)駕駛系統(tǒng)具有傳感、規(guī)劃和控制步驟。傳感步驟使用不同的傳感器（例如，相機(jī)、激光雷達(dá)、GPS）來(lái)了解周圍環(huán)境。規(guī)劃步驟根據(jù)周圍環(huán)境生成駕駛軌跡。規(guī)劃將為自動(dòng)駕駛車輛做出關(guān)鍵任務(wù)決策，例如避免碰撞、變道?？刂撇襟E將為車輛生成控制命令，使其可以完成計(jì)劃的軌跡。先前的工作研究了在各種物理世界攻擊下感知的安全風(fēng)險(xiǎn)，例如傳感器欺騙或設(shè)計(jì)具有惡意外觀、紋理或形狀的對(duì)象。
在這項(xiàng)工作中，我們完成了第一個(gè)特定于規(guī)劃的安全分析。我們想研究攻擊者是否可以通過(guò)簡(jiǎn)單地以正常方式改變周圍環(huán)境（例如在另一條車道上駕駛另一輛車，或?qū)⒊Ｒ?jiàn)物體放置在車道外）來(lái)將規(guī)劃決策變?yōu)橐庀氩坏降臎Q策。
研究工作概覽和亮點(diǎn)

Fig. 1：自動(dòng)駕駛規(guī)劃語(yǔ)義 DoS 漏洞的問(wèn)題定義

由于我們的目標(biāo)是了解可能導(dǎo)致意外決策的安全風(fēng)險(xiǎn)，因此需要一個(gè)新的漏洞和攻擊模型的定義。我們假設(shè)攻擊者可以使用自動(dòng)駕駛車輛周圍的可控物體來(lái)改變規(guī)劃的輸入。這些物體可以是被丟棄的紙板箱、停放的自行車或移動(dòng)的車輛，而對(duì)形狀、質(zhì)地或外觀沒(méi)有任何要求。這使我們的攻擊變得切實(shí)可行。此外，我們要求物體遵循正常駕駛規(guī)范，例如物體不得放置在車道內(nèi)，因此攻擊是隱蔽的。
我們還定義了自動(dòng)駕駛規(guī)劃中的語(yǔ)義漏洞，這與一般漏洞的癥狀不同。自動(dòng)駕駛規(guī)劃中的語(yǔ)義漏洞是那些可以被利用并因此導(dǎo)致意外駕駛決策的漏洞。意外的決定可能是過(guò)于激進(jìn)的決定（例如撞到障礙物）或過(guò)于保守的決定（例如緊急停止或不必要的永久停止）。我們將重點(diǎn)放在后面的一個(gè)，因?yàn)槲覀冋J(rèn)為這在當(dāng)今的系統(tǒng)中更為普遍。我們也將它們稱為語(yǔ)義 DoS 漏洞。
新動(dòng)態(tài)測(cè)試工具 PlanFuzz

Fig. 2：Planfuzz 系統(tǒng)設(shè)計(jì)總覽
我們?cè)O(shè)計(jì)了一種名為 PlanFuzz 的新型動(dòng)態(tài)測(cè)試工具 (Fig. 2)，用于自動(dòng)化語(yǔ)義 DoS 漏洞的發(fā)現(xiàn)過(guò)程。
由于漏洞定義是特定于域的，因此我們將規(guī)劃不變量 (PI) 定義為測(cè)試標(biāo)準(zhǔn)。對(duì)此的定義是，在特定的規(guī)劃場(chǎng)景下，無(wú)論攻擊者可控物體如何變化，規(guī)劃決策都應(yīng)該始終相同。我們已經(jīng)用時(shí)序邏輯形式化表達(dá)了規(guī)劃不變量。在論文中，我們定義了 8 種不同駕駛場(chǎng)景下的通用約束，包括對(duì)靜態(tài)物體和移動(dòng)行人 / 車輛的約束。此外還有一個(gè)三步輸入生成策略，以強(qiáng)制生成的輸入能滿足給定的條件，同時(shí)在為測(cè)試生成輸入的過(guò)程中仍保持多樣性和繼承性。
為了提高測(cè)試效率，我們還設(shè)計(jì)了一個(gè)新的距離度量，稱為 BP 漏洞距離，用于指導(dǎo)決策向意外的變化。我們的關(guān)鍵思想是利用那些與決策相關(guān)的條件中兩個(gè)操作數(shù)之間的距離來(lái)導(dǎo)致決策變化。我們執(zhí)行靜態(tài)分析以提取控制 / 數(shù)據(jù)依賴關(guān)系。并且我們?cè)谠诰€測(cè)試之前基于依賴關(guān)系修改了程序的 binary 加入了用于計(jì)算這個(gè)距離的指令。因此，程序可以在在線測(cè)試階段直接生成此距離度量。
我們的工具可以在百度 Apollo 和 Autoware.AI 的 3 種不同實(shí)現(xiàn)中成功發(fā)現(xiàn) 9 個(gè)以前未知的語(yǔ)義 DoS 漏洞。這些漏洞是在不同的駕駛場(chǎng)景下發(fā)現(xiàn)的，包括車道跟隨、車道變換、車道借用和不同的交叉路口行車。觸發(fā)語(yǔ)義 DoS 漏洞的方式也多種多樣，包括將靜態(tài)物體或停放的自行車放置在道路旁，以及在受害車輛周圍駕駛車輛。

漏洞利用案例分析

Fig. 3：Autoware.AI 車道行駛的語(yǔ)義 DoS 漏洞以及可能帶來(lái)的追尾。
攻擊視頻鏈接: https://www.youtube.com/watch?v=P5IdQ_R5WWY.完整視頻信息鏈接:https://sites.google.com/view/cav-sec/planfuzz#h.wxdo4hk0wfac.
在 Fig. 3 中，攻擊者可以通過(guò)放置兩個(gè)偏離車道的靜態(tài)物體來(lái)利用 Autoware.AI 中發(fā)現(xiàn)的一個(gè)漏洞，并在高速公路出口匝道上車道完全是空的情況下觸發(fā)一個(gè)急劇且永久的停車。我們的案例分析表明，一種可能的安全后果是追尾碰撞。

Fig. 4：Autoware.AI 車道行駛的語(yǔ)義 DoS 漏洞的真車軌跡案例分析。
攻擊和正常場(chǎng)景對(duì)比視頻鏈接: https://www.youtube.com/watch?v=eb7bEXrUPE4&t=1s. 完整視頻集合: https://sites.google.com/view/cav-sec/planfuzz#h.4h1r5aah9kyo.
我們還通過(guò)從真實(shí) AD 車輛收集的駕駛軌跡證明了此漏洞 (Fig. 4)。

Fig. 5：Apollo 停止標(biāo)志和變道場(chǎng)景下的語(yǔ)義 DoS 漏洞跡案例分析。
停止標(biāo)志場(chǎng)景攻擊視頻: https://www.youtube.com/watch?v=dCWJTyiE_-s. 變道場(chǎng)景攻擊視頻: https://www.youtube.com/watch?v=DRvot2-9pOg. 完整視頻集合: https://sites.google.com/view/cav-sec/planfuzz#h.n3txvyhytxt1.
此外，我們還展示了攻擊者可以在停止標(biāo)志的場(chǎng)景下使用停在十字路口周圍的自行車來(lái)觸發(fā)停車線前的永久停車。此外，在變道場(chǎng)景中，如果攻擊者在特定條件下跟隨受害車輛，它則放棄變道決定 (Fig. 5)。
漏洞原因和披露
我們還對(duì)發(fā)現(xiàn)的語(yǔ)義 DoS 漏洞的根本原因進(jìn)行了調(diào)查。在發(fā)現(xiàn)的 9 個(gè)漏洞中，一個(gè)是由程序?qū)崿F(xiàn)的錯(cuò)誤引起的，另一個(gè)是由過(guò)于保守的規(guī)劃參數(shù)（例如安全緩沖區(qū)、角度閾值）和對(duì)于周圍行人和車輛運(yùn)動(dòng)趨勢(shì)過(guò)于保守的估計(jì)引起的。
此外，我們已經(jīng)通知了 24 家正在開發(fā)自動(dòng)駕駛車輛的公司。他們中的一些回復(fù)了我們，他們目前正在針對(duì)此安全風(fēng)險(xiǎn)進(jìn)行調(diào)查。
團(tuán)隊(duì)介紹
本次研究作者團(tuán)隊(duì)，來(lái)自加州大學(xué)爾灣分校、加州大學(xué)洛杉磯分校，一共 7 名研究人員。其中第一作者 Ziwen Wan 和第二作者 Junjie Shen 都是加州大學(xué)爾灣分校在讀博士生。Jalen Chuang 以本科生身份參與本項(xiàng)目。Alfred Chen 和 Joshua Garcia 是加州大學(xué)爾灣分校計(jì)算機(jī)系和信息學(xué)系的助理教授。Xin Xia 和 Jiaqi Ma 分別是加州大學(xué)洛杉磯分校土木工程系的博士后和教授。