在汽車(chē)電動(dòng)化、網(wǎng)聯(lián)化、智能化發(fā)展趨勢(shì)下，由于汽車(chē)自動(dòng)駕駛技術(shù)的快速發(fā)展，汽車(chē)產(chǎn)業(yè)正日益逼近一場(chǎng)根本性的變革。然而，近年來(lái)自動(dòng)駕駛汽車(chē)的安全挑戰(zhàn)日益凸顯，相關(guān)事故在一定程度上削弱了社會(huì)公眾對(duì)自動(dòng)駕駛汽車(chē)的信心和信任。為有效應(yīng)對(duì)自動(dòng)駕駛算法帶來(lái)的安全挑戰(zhàn)，需要構(gòu)建一個(gè)統(tǒng)一的自動(dòng)駕駛算法安全框架，推動(dòng)自動(dòng)駕駛汽車(chē)從研發(fā)測(cè)試階段加快轉(zhuǎn)向商業(yè)化應(yīng)用階段。

01、自動(dòng)駕駛算法安全問(wèn)題的主要表現(xiàn)

我國(guó)當(dāng)前的自動(dòng)駕駛汽車(chē)立法主要側(cè)重在道路測(cè)試、示范應(yīng)用、汽車(chē)數(shù)據(jù)安全這幾個(gè)方面，尚未針對(duì)以人工智能算法為核心的自動(dòng)駕駛系統(tǒng)形成一個(gè)完整統(tǒng)一的安全監(jiān)管框架。未來(lái)立法需要重點(diǎn)回應(yīng)三個(gè)方面的問(wèn)題。

1.1一般性技術(shù)安全

一般性技術(shù)安全是最主要、最相關(guān)的變量。與受制于一套既定監(jiān)管框架（涵蓋安全標(biāo)準(zhǔn)、檢測(cè)認(rèn)證、產(chǎn)品審批等事項(xiàng)）的傳統(tǒng)汽車(chē)和受到駕照與責(zé)任機(jī)制約束的人類(lèi)駕駛員相比，自動(dòng)駕駛系統(tǒng)的安全標(biāo)準(zhǔn)尚待建立，所以自動(dòng)駕駛汽車(chē)還不能像傳統(tǒng)汽車(chē)那樣證明其安全性與合規(guī)性。因此在現(xiàn)階段，最核心的問(wèn)題乃是確立自動(dòng)駕駛系統(tǒng)的安全門(mén)檻、安全標(biāo)準(zhǔn)、檢測(cè)認(rèn)證方法、審批機(jī)制等要求。
一個(gè)關(guān)鍵問(wèn)題是，自動(dòng)駕駛系統(tǒng)的安全性需要達(dá)到何種程度，政策制定者和監(jiān)管者才可以允許自動(dòng)駕駛汽車(chē)的商業(yè)化部署。社會(huì)大眾對(duì)技術(shù)的偏見(jiàn)可能導(dǎo)致可接受的安全門(mén)檻被不恰當(dāng)?shù)靥Ц?。例如，認(rèn)為自動(dòng)駕駛汽車(chē)需要達(dá)到足以實(shí)現(xiàn)零事故的絕對(duì)安全水平。
在筆者看來(lái)，自動(dòng)駕駛算法的安全門(mén)檻不應(yīng)是基于絕對(duì)目標(biāo)（例如零事故、零傷亡）的自動(dòng)駕駛水平，而應(yīng)以一般人類(lèi)駕駛水平為衡量之基準(zhǔn)，來(lái)確定科學(xué)合理的安全門(mén)檻。例如，2022年8月英國(guó)發(fā)布的自動(dòng)駕駛政策文件《互聯(lián)和自動(dòng)出行2025：在英國(guó)釋放自動(dòng)駕駛汽車(chē)的效益》明確提出了自動(dòng)駕駛汽車(chē)的安全門(mén)檻，即自動(dòng)駕駛汽車(chē)應(yīng)當(dāng)達(dá)到與“勝任且謹(jǐn)慎的人類(lèi)司機(jī)”（Competent and Careful Human driver）同等水平的安全性，這一標(biāo)準(zhǔn)高于一般人類(lèi)司機(jī)。

1.2網(wǎng)絡(luò)安全挑戰(zhàn)

網(wǎng)絡(luò)安全作為影響自動(dòng)駕駛汽車(chē)發(fā)展應(yīng)用的關(guān)鍵性因素，與之相關(guān)的風(fēng)險(xiǎn)與威脅將成為自動(dòng)駕駛汽車(chē)最復(fù)雜、最難解決的威脅。
整體而言，自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò)安全挑戰(zhàn)主要呈現(xiàn)以下特征：
一是自動(dòng)駕駛汽車(chē)比傳統(tǒng)汽車(chē)更容易遭受網(wǎng)絡(luò)安全風(fēng)險(xiǎn)與攻擊。自動(dòng)駕駛汽車(chē)是“車(chē)輪上的機(jī)器人”，除了需要面對(duì)傳統(tǒng)意義上的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，還將面對(duì)自動(dòng)駕駛算法所帶來(lái)的全新的網(wǎng)絡(luò)安全挑戰(zhàn)、風(fēng)險(xiǎn)和威脅。
二是自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)來(lái)源主體更加多元化，在生產(chǎn)制造、運(yùn)營(yíng)、維修、智能基礎(chǔ)設(shè)施、保險(xiǎn)、監(jiān)管等多個(gè)環(huán)節(jié)，不同主體對(duì)自動(dòng)駕駛汽車(chē)的訪問(wèn)或控制，都可能帶來(lái)網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)。
三是自動(dòng)駕駛汽車(chē)面臨的網(wǎng)絡(luò)攻擊方式更加多樣化。例如，黑客可以針對(duì)軟件漏洞發(fā)起攻擊，可以通過(guò)連接惡意設(shè)備對(duì)自動(dòng)駕駛汽車(chē)發(fā)起物理攻擊，也可以攻擊智能道路基礎(chǔ)設(shè)施等自動(dòng)駕駛汽車(chē)生態(tài)系統(tǒng)的組成部分。此外，就攻擊效果而言，黑客可以采取多種類(lèi)型的攻擊，包括失效攻擊、操作攻擊、數(shù)據(jù)操縱攻擊、數(shù)據(jù)竊取等，這些攻擊的影響可大可小，不容小覷。
四是自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)同時(shí)呈現(xiàn)廣度和深度特征，帶來(lái)全方位、多層次的危害后果。在廣度上，自動(dòng)駕駛汽車(chē)的軟件和硬件漏洞可能是廣泛的，這意味著網(wǎng)絡(luò)攻擊會(huì)被放大；在深度上，自動(dòng)駕駛汽車(chē)被入侵、控制后可能造成不同層次的不利后果，包括人員傷亡、財(cái)產(chǎn)損害、數(shù)據(jù)竊取等。
1.3倫理安全挑戰(zhàn)自動(dòng)駕駛算法的最首要的倫理安全問(wèn)題是，在面對(duì)不可避免的事故（Unavoidable Accident）時(shí)，算法該如何抉擇并行動(dòng)？尤其是在面對(duì)兩難處境（即道德困境）時(shí)該如何抉擇？是選擇最小化人員傷亡，還是不惜代價(jià)地保護(hù)車(chē)乘人員，即使這可能意味著選擇犧牲行人等其他道路參與者？
自動(dòng)駕駛汽車(chē)道德困境的可能性，讓技術(shù)與倫理之間的互動(dòng)成為不可回避的問(wèn)題，即如何將復(fù)雜的人類(lèi)道德編程到自動(dòng)駕駛算法的設(shè)計(jì)當(dāng)中去。對(duì)于這個(gè)問(wèn)題，社會(huì)各界尚未形成共識(shí)。

02、構(gòu)建自動(dòng)駕駛汽車(chē)的算法安全框架
為了確保實(shí)現(xiàn)《智能汽車(chē)創(chuàng)新發(fā)展戰(zhàn)略》提出的“到2025年，中國(guó)標(biāo)準(zhǔn)智能汽車(chē)的技術(shù)創(chuàng)新、產(chǎn)業(yè)生態(tài)、基礎(chǔ)設(shè)施、法規(guī)標(biāo)準(zhǔn)、產(chǎn)品監(jiān)管和網(wǎng)絡(luò)安全體系基本形成。實(shí)現(xiàn)有條件自動(dòng)駕駛的智能汽車(chē)達(dá)到規(guī)模化生產(chǎn)，實(shí)現(xiàn)高度自動(dòng)駕駛的智能汽車(chē)在特定環(huán)境下市場(chǎng)化應(yīng)用”的目標(biāo)，需要加快修訂、革新針對(duì)傳統(tǒng)汽車(chē)和人類(lèi)司機(jī)的立法和監(jiān)管框架，為自動(dòng)駕駛汽車(chē)融入現(xiàn)行道路交通體系建立新的法律制度和監(jiān)管框架。其中的一個(gè)核心層面是，構(gòu)建以自動(dòng)駕駛算法為核心的安全監(jiān)管框架，需要涵蓋技術(shù)安全標(biāo)準(zhǔn)與審批認(rèn)證、網(wǎng)絡(luò)安全認(rèn)證、倫理風(fēng)險(xiǎn)管理三大維度。
2.1建立新的自動(dòng)駕駛系統(tǒng)安全標(biāo)準(zhǔn)和認(rèn)證機(jī)制國(guó)家亟須為自動(dòng)駕駛汽車(chē)建立新的、統(tǒng)一的安全標(biāo)準(zhǔn)，從傳統(tǒng)上以汽車(chē)硬件和人類(lèi)司機(jī)為核心的安全標(biāo)準(zhǔn)，轉(zhuǎn)向以自動(dòng)駕駛算法為核心的安全標(biāo)準(zhǔn)，這意味著允許創(chuàng)新性的汽車(chē)設(shè)計(jì)——無(wú)需駕駛艙、方向盤(pán)、腳踏板、后視鏡的自動(dòng)駕駛汽車(chē)。
此外，為了更加準(zhǔn)確可靠地評(píng)估、驗(yàn)證自動(dòng)駕駛系統(tǒng)的安全性，將來(lái)立法和政策需要為自動(dòng)駕駛系統(tǒng)設(shè)定科學(xué)合理的安全門(mén)檻與基準(zhǔn)，可以考慮要求自動(dòng)駕駛汽車(chē)至少達(dá)到與“勝任且謹(jǐn)慎的人類(lèi)司機(jī)”同等水平的安全性，并確立一套基于道路駕駛技術(shù)水平的科學(xué)合理的檢測(cè)方法。

2.2需要為自動(dòng)駕駛汽車(chē)建立新的網(wǎng)絡(luò)安全架構(gòu)政策制定者需要考慮融入傳統(tǒng)的網(wǎng)絡(luò)安全原則，從整體上保障自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò)安全。
一是建立自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò)安全認(rèn)證機(jī)制，只有通過(guò)網(wǎng)絡(luò)安全認(rèn)證的自動(dòng)駕駛汽車(chē)才允許銷(xiāo)售、使用。而且該機(jī)制需要延伸到軟硬件供應(yīng)鏈。
二是需要明確自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò)安全防護(hù)能力和要求，包括技術(shù)措施和非技術(shù)措施。
三是需要在行業(yè)與政府之間實(shí)現(xiàn)B2B、B2G、G2B等形式的數(shù)據(jù)共享，尤其是安全事故、網(wǎng)絡(luò)安全、自動(dòng)駕駛系統(tǒng)脫離等安全事件相關(guān)的數(shù)據(jù)。建立事故數(shù)據(jù)報(bào)告與分享機(jī)制，對(duì)于提升整個(gè)自動(dòng)駕駛行業(yè)的發(fā)展水平意義重大。
2.3建立自動(dòng)駕駛算法等倫理風(fēng)險(xiǎn)管理機(jī)制一方面，需要明確的政府監(jiān)管給自動(dòng)駕駛算法設(shè)計(jì)中的倫理選擇設(shè)定標(biāo)準(zhǔn)，以確保自動(dòng)駕駛算法在倫理上符合一般的社會(huì)公共利益，并在公眾的接受度和道德要求之間實(shí)現(xiàn)某種平衡。
另一方面，自動(dòng)駕駛汽車(chē)企業(yè)需要加強(qiáng)汽車(chē)自動(dòng)駕駛技術(shù)的科技倫理治理，積極履行科技倫理管理主體責(zé)任，堅(jiān)守科技倫理底線，針對(duì)汽車(chē)自動(dòng)駕駛技術(shù)開(kāi)展科技倫理風(fēng)險(xiǎn)評(píng)估審查、建立科技倫理風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警機(jī)制、強(qiáng)化科技人員的倫理培訓(xùn)等。例如，英國(guó)的監(jiān)管者提出建立“自動(dòng)駕駛汽車(chē)倫理與安全委員會(huì)”（Committee on AV Ethics and Safety），以更好支持自動(dòng)駕駛汽車(chē)的治理。



03、總    結(jié)

自動(dòng)駕駛汽車(chē)的廣泛部署和使用，是實(shí)現(xiàn)其諸多正向效益的必要條件。而其廣泛部署和使用的必要條件則是建立合適的安全框架，加快實(shí)現(xiàn)自動(dòng)駕駛汽車(chē)從測(cè)試到商用的飛躍。

但任何合理的法律政策都不能對(duì)公眾的接受度視而不見(jiàn)。換句話說(shuō)，自動(dòng)駕駛汽車(chē)要想成為最優(yōu)選的交通方式，就必須考慮其使用者和社會(huì)整體的預(yù)期，這些預(yù)期包括使用者的滿意和安全以及信任、責(zé)任、透明等設(shè)計(jì)價(jià)值。

對(duì)自動(dòng)駕駛汽車(chē)的安全規(guī)制也必須考慮這些預(yù)期，甚至去調(diào)和其中的過(guò)高預(yù)期。基于這些考慮，本文創(chuàng)新性地提出了一個(gè)全新的自動(dòng)駕駛算法安全監(jiān)管框架，來(lái)應(yīng)對(duì)自動(dòng)駕駛汽車(chē)邁向商業(yè)化應(yīng)用之前必須直面的算法安全挑戰(zhàn)。

從長(zhǎng)遠(yuǎn)來(lái)看，自動(dòng)駕駛汽車(chē)的商用只是未來(lái)交通法治的起點(diǎn)，而非終點(diǎn)，汽車(chē)設(shè)計(jì)、交通法規(guī)、責(zé)任承擔(dān)、保險(xiǎn)賠償、駕駛習(xí)慣等一系列變革將紛至沓來(lái)。