項(xiàng)目概述

自動(dòng)駕駛汽車是汽車產(chǎn)業(yè)與人工智能、信息通信、大數(shù)據(jù)、物聯(lián)網(wǎng)等高新技術(shù)及交通出行、城市管理等多領(lǐng)域深度融合的產(chǎn)物，為汽車產(chǎn)業(yè)帶來了顛覆性變革。但是由于近年來在自動(dòng)/輔助駕駛狀態(tài)下出現(xiàn)的傷亡性交通事故、功能性缺陷等問題逐漸增多，使得人們越來越關(guān)注自動(dòng)駕駛系統(tǒng)帶來的倫理、法律等方面問題。

為了對(duì)自動(dòng)駕駛汽車的倫理問題展開深入探索，提出社會(huì)可接受的政策建議，法國國家研究局于2016年10月，投入經(jīng)費(fèi)15萬歐元，開展AVEthics（Ethics policy for automated vehicles，自動(dòng)駕駛汽車的倫理政策）項(xiàng)目。AVEthics項(xiàng)目從倫理問題理論分析以及計(jì)算機(jī)情景模擬兩方面入手，以倫理理論分析為支撐構(gòu)建計(jì)算機(jī)情景模擬，以計(jì)算機(jī)情景模擬結(jié)果為依據(jù)修正倫理理論分析，通過設(shè)計(jì)典型倫理場景，分析自動(dòng)駕駛倫理問題，形成了完整研究閉環(huán)。該項(xiàng)目在研究思路和方法等方面極具借鑒性。

一、倫理問題理論分析

1、自動(dòng)駕駛倫理發(fā)展現(xiàn)狀

自動(dòng)駕駛技術(shù)尚不成熟，層出不窮的智能駕駛車輛交通事故不僅打擊了人們對(duì)自動(dòng)駕駛的信心，由此引發(fā)的倫理問題也成為了社會(huì)熱點(diǎn)話題，甚至可能成為阻礙自動(dòng)駕駛推廣應(yīng)用的一大障礙。

道德偏好、用戶偏好的多樣性給自動(dòng)駕駛倫理體系的建立帶來了極大困擾。過去的研究方法大多將自動(dòng)駕駛倫理困境視為“電車問題”，很少有構(gòu)建適應(yīng)自動(dòng)駕駛復(fù)雜場景、展現(xiàn)多方倫理狀態(tài)的模型，所以研究進(jìn)展不佳，產(chǎn)生了技術(shù)與倫理聯(lián)系不夠緊密的情況。

2、自動(dòng)駕駛倫理核心要點(diǎn)

自動(dòng)駕駛倫理問題的核心原則是在綜合考慮交通事故發(fā)生率和交通事故產(chǎn)生后果等因素后，作出風(fēng)險(xiǎn)最小化的判斷。但由于公眾價(jià)值觀與社會(huì)道德屬于主觀意識(shí)范疇，難以采用統(tǒng)一標(biāo)準(zhǔn)衡量，因此無法清晰界定風(fēng)險(xiǎn)最小化判斷的概念，進(jìn)而帶來了倫理困境。本項(xiàng)目提出“倫理效價(jià)理論（Ethical Valence Theory）”，即通過平衡公眾接受能力與道德準(zhǔn)則的關(guān)系，解決自動(dòng)駕駛倫理困境。

“倫理效價(jià)理論”認(rèn)為所有道路使用主體都會(huì)對(duì)自動(dòng)駕駛車輛行為產(chǎn)生一定的影響，不同主體通過對(duì)自動(dòng)駕駛車輛行為的影響來體現(xiàn)自身價(jià)值，不同主體的自身價(jià)值即為效價(jià)，通過倫理推理方法結(jié)合各主體效價(jià)，得出自動(dòng)駕駛車輛的決策模型，進(jìn)行風(fēng)險(xiǎn)最小化的判斷。

3、典型倫理用例

“倫理效價(jià)理論”需要對(duì)不同的道路使用主體分別建立模型。因此在典型自動(dòng)駕駛倫理場景中，以人和車分別建立用例。若以車作為行為主體，其在整個(gè)場景中的效價(jià)變動(dòng)因素主要來源于碰撞和交通法規(guī)，因此分別對(duì)碰撞和交通法規(guī)建立用例。若以人作為行為主體，不同身份的人所受的傷害不同，例如駕駛員在事故中的傷害小于行人；不同年齡的人對(duì)傷害的承受能力不同，例如同樣的碰撞，老人的骨折概率要大于成年人。因此人的用例主要從年齡、身份兩個(gè)因素進(jìn)行設(shè)計(jì)（表1）。

表1 人用例情況說明

不同的碰撞主體、碰撞方向、碰撞速度會(huì)造成不同的傷害，例如同一碰撞對(duì)車而言是簡單的剮蹭，但可能對(duì)人造成嚴(yán)重傷害；同一碰撞對(duì)車輛撞擊方位的不同將導(dǎo)致不同的受損結(jié)果；不同的碰撞速度也會(huì)導(dǎo)致不同的后果，需要設(shè)置閾值速度。因此碰撞用例主要從碰撞類型、碰撞方位、閾值速度三個(gè)因素進(jìn)行設(shè)計(jì)（表2）。

表2 碰撞用例情況說明

由于現(xiàn)實(shí)生活中的交通法規(guī)極為復(fù)雜，對(duì)所有的交通法規(guī)建立用例是不現(xiàn)實(shí)的。因此本項(xiàng)目選取最為經(jīng)典的不要駛?cè)雽?duì)面的車道、不要駛?cè)肴诵械?、不要超過速度限制三個(gè)交通法規(guī)，以點(diǎn)帶面，完成對(duì)交通法規(guī)用例的設(shè)計(jì)。

基于人用例、碰撞用例和交通法規(guī)用例，本項(xiàng)目設(shè)計(jì)了用例場景（圖1）：紅色車輛為倫理場景中的決策車輛，其對(duì)向車道是黃色車輛，前方是行人，右側(cè)是墻。由于該場景中的碰撞是無法避免的，構(gòu)成了典型的倫理困境場景。

圖1 用例場景

二、計(jì)算機(jī)情景模擬

AVEthics項(xiàng)目的計(jì)算機(jī)情景模擬基于WeBots機(jī)器人仿真平臺(tái)實(shí)現(xiàn)，首先將倫理理論分析所建立的用例進(jìn)行數(shù)學(xué)建模，其次基于邏輯推理方法對(duì)自動(dòng)駕駛車輛的道德特征進(jìn)行設(shè)定，最終使用仿真平臺(tái)得出運(yùn)行結(jié)果。

1、建模方法

基于倫理問題理論分析所得出的用例及用例場景，建立倫理場景數(shù)字化建模示意圖（圖2）：圖中AV代表的是自動(dòng)駕駛決策車輛（藍(lán)色），正在向前行駛；P1、P2代表的是行人，正在橫穿馬路；VEH代表的是對(duì)向車道的車輛（紅色），正與自動(dòng)駕駛車輛迎面相向行駛。

圖2 倫理場景數(shù)字化建模示意圖

同時(shí)，設(shè)置獎(jiǎng)勵(lì)函數(shù)對(duì)自動(dòng)駕駛車輛行為進(jìn)行評(píng)估，進(jìn)而得出自動(dòng)駕駛車輛的決策。獎(jiǎng)勵(lì)函數(shù)主要從兩方面考慮，是否遵守交通規(guī)則和相對(duì)于其他道路使用主體的距離，若遵守交通規(guī)則或保持與其他道路使用主體的安全距離，則獎(jiǎng)勵(lì)函數(shù)結(jié)果越好。此外，獎(jiǎng)勵(lì)函數(shù)將是否超速、對(duì)向車道是否存在車輛、車輛是否在人行道上等因素都納入評(píng)估指標(biāo)。圖3展示了基于獎(jiǎng)勵(lì)函數(shù)得到的自動(dòng)駕駛車輛（藍(lán)色）的決策。

圖3 自動(dòng)駕駛車輛決策

決策一是撞上紅色車輛以避免撞擊行人，但此選擇會(huì)給對(duì)向車輛以及自動(dòng)駕駛車輛本體帶來損害。決策二是撞擊行人，此選擇對(duì)自動(dòng)駕駛車輛本體損害相對(duì)最小，但會(huì)給行人帶來巨大傷害。決策三是撞墻，此選擇雖然對(duì)行人和對(duì)向車輛沒有傷害，但對(duì)自動(dòng)駕駛車輛本體的損害將最大化。最終自動(dòng)駕駛車輛（藍(lán)色）作出哪種決策，將由計(jì)算機(jī)進(jìn)行模擬并給出結(jié)果。

2、推理方法及道德特征

AVEthics項(xiàng)目主要使用了三種推理方法以實(shí)現(xiàn)不同情景下的倫理推理過程：

?契約主義。各道路使用主體不增加對(duì)其他主體的傷害，那么整個(gè)應(yīng)用場景的預(yù)期損害將最小化。

?功利主義。綜合考慮各道路使用主體的行為對(duì)所有道路使用主體的傷害，選擇預(yù)期傷害最小的行為。

?平等主義。每個(gè)道路使用主體所受的傷害大致相同，不存在較大的差異。

綜合考慮以上三種推理方法，AVEthics項(xiàng)目設(shè)計(jì)了兩類自動(dòng)駕駛道德特征：

?風(fēng)險(xiǎn)規(guī)避的利他主義。該特征的核心思想是如果并未對(duì)自動(dòng)駕駛車輛乘客構(gòu)成嚴(yán)重風(fēng)險(xiǎn)，則最大程度保護(hù)其他道路使用主體，反之只保護(hù)自動(dòng)駕駛車輛。

?閾值利己主義。該特征的核心思想是只要對(duì)效價(jià)高于自動(dòng)駕駛車輛的其他道路使用主體未構(gòu)成嚴(yán)重風(fēng)險(xiǎn)，則保護(hù)自動(dòng)駕駛車輛，反之保護(hù)效價(jià)高的主體。

3、模擬結(jié)果

基于用例建模及設(shè)置推理方法，得出了不同場景下情景模擬相關(guān)數(shù)據(jù)與結(jié)果。圖4展示了其中一種場景的情景模擬過程及結(jié)果（自動(dòng)駕駛車輛車速＜閾值速度）。

圖4 情景模擬數(shù)據(jù)及結(jié)果

圖4中藍(lán)線代表具有風(fēng)險(xiǎn)規(guī)避的利他主義道德特征的自動(dòng)駕駛車輛，紅線代表具有閾值利己主義道德特征的自動(dòng)駕駛車輛。數(shù)字標(biāo)點(diǎn)用于標(biāo)記自動(dòng)駕駛車輛在同一時(shí)刻速度、方位及行駛軌跡狀態(tài)。圖4（1）的縱軸為車輛速度，橫軸為時(shí)間，記錄了不同時(shí)間下的車速情況。圖4（2）的縱軸為方位，橫軸為時(shí)間，記錄了不同時(shí)間下車輛偏離原定方向的程度。圖4（3）橫縱坐標(biāo)皆為位移，記錄了車輛實(shí)際的行駛軌跡。

從圖4（1）可以看出，在整個(gè)情景模擬過程中，兩種道德特征的自動(dòng)駕駛車輛最大時(shí)速均未超過6m/s，即低于表2中的閾值速度，因此在該倫理情景中的兩種道德特征自動(dòng)駕駛車輛均處于車速過低狀態(tài)。同時(shí)，藍(lán)線自動(dòng)駕駛車輛在標(biāo)點(diǎn)17后車速大幅下滑，因此可以初步判定該車撞墻或撞車；而紅線自動(dòng)駕駛車輛的速度趨勢并沒有發(fā)生較大改變，因此可以初步判定撞到行人。

從圖4（2）可以看出，紅線自動(dòng)駕駛車輛在標(biāo)點(diǎn)9方向發(fā)生較大偏離，而從標(biāo)點(diǎn)12方向開始回正，并在標(biāo)點(diǎn)17后逐漸回歸正常，考慮到三種情況（撞墻、撞車、撞人）中只有撞到行人才不會(huì)對(duì)自動(dòng)駕駛車輛行駛狀態(tài)造成較大影響，所以再次判定紅線自動(dòng)駕駛車輛撞到行人；而藍(lán)線自動(dòng)駕駛車輛在標(biāo)點(diǎn)17后失去數(shù)據(jù)記錄，因此判定藍(lán)線自動(dòng)駕駛車輛撞墻或撞車。

從圖4（3）可以看出，紅線自動(dòng)駕駛車輛在標(biāo)點(diǎn)17后行駛軌跡逐漸正常，藍(lán)線自動(dòng)駕駛車輛則越過了y軸上界，即駛出了道路。結(jié)合圖4（1）（2），最終判定紅線自動(dòng)駕駛車輛撞到行人，藍(lán)線自動(dòng)駕駛車輛撞墻。以此模擬場景為例，進(jìn)行不同情景模擬并匯總結(jié)果，得到自動(dòng)駕駛決策關(guān)系矩陣（表3）。

表3 自動(dòng)駕駛決策關(guān)系矩陣

如表3所示，不同車速下，不同道德特征的自動(dòng)駕駛車輛將作出不同的駕駛決策。

當(dāng)車速過高時(shí)，具有風(fēng)險(xiǎn)規(guī)避的利他主義道德特征的自動(dòng)駕駛車輛將選擇撞人，因?yàn)樵摰赖绿卣髟诿媾R本體遭受嚴(yán)重?fù)p害的情景時(shí)，將作出保護(hù)自動(dòng)駕駛車輛本體的決策；而具有閾值利己主義道德特征的自動(dòng)駕駛車輛將選擇撞墻，因?yàn)榇藭r(shí)效價(jià)高于自動(dòng)駕駛車輛的行人將遭到嚴(yán)重風(fēng)險(xiǎn)，自動(dòng)駕駛車輛將作出保護(hù)行人的決策。

當(dāng)車速過低時(shí)，具有風(fēng)險(xiǎn)規(guī)避的利他主義道德特征的自動(dòng)駕駛車輛將選擇撞墻，因?yàn)榇藭r(shí)自動(dòng)駕駛車輛本體不會(huì)遭受嚴(yán)重?fù)p害，自動(dòng)駕駛車輛將作出保護(hù)其他主體的決策；而具有閾值利己主義道德特征的自動(dòng)駕駛車輛將選擇撞人，因?yàn)榇藭r(shí)效價(jià)高于自動(dòng)駕駛車輛的行人不會(huì)遭受嚴(yán)重?fù)p害，自動(dòng)駕駛車輛將作出保護(hù)車輛本體的決策。

三、項(xiàng)目成果與不足

AVEthics項(xiàng)目的貢獻(xiàn)主要體現(xiàn)在以下三個(gè)方面：

?技術(shù)方面，搭建了自動(dòng)駕駛倫理情景模型，通過模型對(duì)自動(dòng)駕駛決策、多種道路使用主體等方面進(jìn)行了量化分析。

?政策方面，基于“倫理效價(jià)理論”，對(duì)自動(dòng)駕駛倫理問題進(jìn)行了系統(tǒng)分析，構(gòu)建了較為完善的自動(dòng)駕駛倫理框架。

?測試方面，采用模擬軟件對(duì)不同倫理情景進(jìn)行模擬并輸出結(jié)果，具有較高的參考價(jià)值。

但是AVEthics項(xiàng)目也存在以下不足：

?AVEthics項(xiàng)目核心是對(duì)倫理問題的理論分析和進(jìn)行計(jì)算機(jī)情景模擬，雖然對(duì)社會(huì)接受度進(jìn)行了一定探討，但并沒有根據(jù)其建立的倫理框架進(jìn)行社會(huì)接受度分析。

?AVEthics項(xiàng)目的研究更多處于“原型系統(tǒng)”狀態(tài)，構(gòu)建的倫理情景較為簡單，考慮的社會(huì)因素、道德因素、法律法規(guī)等不夠全面，難以應(yīng)對(duì)場景更加復(fù)雜的倫理分析。

AVEthics項(xiàng)目為我們提供了一種可行的思路研究自動(dòng)駕駛汽車的倫理問題，但是鑒于我國的交通和道路情況相比國外更加復(fù)雜，因此需要建立跨行業(yè)聯(lián)合研究小組，因地制宜的展開中國智能網(wǎng)聯(lián)汽車倫理問題的探索，支撐產(chǎn)業(yè)發(fā)展和社會(huì)接受度提升。

針對(duì)智能網(wǎng)聯(lián)汽車發(fā)展的重大問題，國家智能網(wǎng)聯(lián)汽車創(chuàng)新中心持續(xù)開展相關(guān)政策法規(guī)、技術(shù)路徑及示范應(yīng)用項(xiàng)目等的課題研究和解讀，歡迎行業(yè)單位聯(lián)合參與，共同突破行業(yè)難題，助力我國智能網(wǎng)聯(lián)汽車發(fā)展。

作者：國家智能網(wǎng)聯(lián)汽車創(chuàng)新中心法規(guī)標(biāo)準(zhǔn)部 厲欣林 王睿