圖靈獎得主Joseph Sifakis

為何制造自動駕駛汽車，以及值得信賴的自主系統(tǒng)如此困難？

在我看來，自主系統(tǒng)對實(shí)現(xiàn)工業(yè)物聯(lián)網(wǎng)愿景而言至關(guān)重要。因?yàn)槭袌鲂枨?，自主系統(tǒng)應(yīng)運(yùn)而生，它讓現(xiàn)有系統(tǒng)變得更為自動化，并通過自主智能逐步取代人類操作員。自主系統(tǒng)與游戲NPC或智能個(gè)人助理截然不同，自主系統(tǒng)可以管理可能沖突目標(biāo)的動態(tài)變化集，可以應(yīng)對復(fù)雜、無法預(yù)測的網(wǎng)絡(luò)物理環(huán)境的不確定性，最終還將實(shí)現(xiàn)與人類智慧的和諧相處與協(xié)調(diào)合作，形成的“共生”自主。

今天，為了實(shí)現(xiàn)自主系統(tǒng)的愿景，我們需要從單一任務(wù)、單一目標(biāo)、單一領(lǐng)域系統(tǒng)轉(zhuǎn)變到集成眾多協(xié)調(diào)任務(wù)的反應(yīng)性/主動性智能系統(tǒng)，如自動駕駛汽車，智能電網(wǎng)，智能工廠等。

自動駕駛“為時(shí)過早”

目前來看，自動駕駛汽車是個(gè)非常熱門的話題，大型科技公司和汽車企業(yè)積極參與并投入巨資，但關(guān)于自動駕駛汽車“即將到來”的樂觀預(yù)測卻是錯誤的。

埃隆·馬斯克也承認(rèn)：“現(xiàn)實(shí)世界人工智能的問題必須解決，才能進(jìn)行無人監(jiān)督的、全面的自動駕駛工作”。對自動駕駛汽車前景的過度樂觀導(dǎo)致了他們認(rèn)知上出現(xiàn)了一些錯誤，這些錯誤反映了他們對問題的本質(zhì)和潛在的技術(shù)難題缺乏認(rèn)識。

現(xiàn)有的兩種不同技術(shù)方法都無法應(yīng)對自主系統(tǒng)的挑戰(zhàn)。一種是傳統(tǒng)的關(guān)鍵系統(tǒng)工程，我們已經(jīng)將這種方法應(yīng)用到飛行控制器生產(chǎn)系統(tǒng)之中，但該方法并不適用于自動駕駛汽車。而大型科技公司采用了的產(chǎn)業(yè)端到端的人工智能解決方案卻不能提供強(qiáng)有力的可信度。

如果能成功構(gòu)建自主系統(tǒng)，自主交通系統(tǒng)將會極大地縮小機(jī)器和人類智慧之間的差距。且目前實(shí)現(xiàn)起來還有些困難，我們需要新的科學(xué)和工程基礎(chǔ)來實(shí)現(xiàn)這個(gè)愿景。

為何制造自動駕駛汽車如此困難？首先要了解自主智能體的概念，自主智能體是一個(gè)主動的系統(tǒng)，不斷與新環(huán)境進(jìn)行交互。圖示的汽車中有內(nèi)部環(huán)境和外部環(huán)境。傳感器將感官信息發(fā)送給情景意識模塊，并根據(jù)環(huán)境語義模型進(jìn)行情景分析，知識管理模塊為分析提供支持，為決策模塊提供決策支持，最終決策模塊向車輛執(zhí)行器發(fā)出指令并進(jìn)行執(zhí)行動作。這一架構(gòu)讓車輛實(shí)現(xiàn)在長距離道路上自動駕駛的功能。

知識管理模塊很重要，有了知識，AI才能有更高的能力去理解人類可能永遠(yuǎn)遇不到的情況，但這在今天并不實(shí)用。

汽車工程師學(xué)會（SAE）提出的自動駕駛等級表更好地解釋了自動化和自主之間的區(qū)別。從L0開始，L0代表的就是非自動駕駛，L5代表的就是全自動駕駛。L0至L2是自動化的級別，擁有高級駕駛輔助功能，但責(zé)任主體依然是駕駛員。L3級起，汽車會主動監(jiān)督環(huán)境，被稱為“監(jiān)控自主”的自動駕駛。還有“區(qū)域自主”自動駕駛，即在受控的環(huán)境下進(jìn)行自動駕駛。以及L5級“完全自主”自動駕駛。

需要強(qiáng)調(diào)的是，SAE等級表造成了很多誤解，它僅僅表明了從自動高級駕駛輔助系統(tǒng)到自動駕駛系統(tǒng)的過渡可以通過升級自主級別來進(jìn)行從自動化數(shù)據(jù)系統(tǒng)過渡到自動駕駛系統(tǒng)是可以漸進(jìn)的。但人們卻沒有看到L2和L3等級之間的巨大差距。

事實(shí)上，用L3級自動駕駛系統(tǒng)監(jiān)控環(huán)境這個(gè)想法很危險(xiǎn)，當(dāng)緊急情況下自動駕駛系統(tǒng)要求人類干預(yù)時(shí)，人類應(yīng)該有足夠的信息和充足的時(shí)間來了解情況并采取行動。所以這不僅是人機(jī)交互問題，還是一個(gè)把人的責(zé)任轉(zhuǎn)移到機(jī)器上的問題。

同樣，L4和L5級之間也有很大差距，但由于L4級別是“區(qū)域監(jiān)控”自動駕駛，在限定的區(qū)域環(huán)境中，外部環(huán)境比較容易預(yù)測，并且可以使用各種儀器來提高感知質(zhì)量，相信很快就會實(shí)現(xiàn)，例如高速路上的卡車隊(duì)列駕駛。

打造混合架構(gòu)自主系統(tǒng)

增加整體置信度

現(xiàn)有兩種途徑來打造自助系統(tǒng)，一種是基于模型的關(guān)鍵系統(tǒng)工程，根據(jù)標(biāo)準(zhǔn)制定，從需求出發(fā)設(shè)計(jì)系統(tǒng)，設(shè)計(jì)架構(gòu)，設(shè)計(jì)模型并進(jìn)行編碼，隨后測試。該方法可以提供證明該系統(tǒng)是安全的證據(jù)。但基于模型的范式被自動駕駛所需自主系統(tǒng)的復(fù)雜性和多樣性打敗了。這也是為什么，端到端機(jī)器學(xué)習(xí)技術(shù)無法保障絕對的安全，但是行業(yè)還是要采取這種技術(shù)。

今天，我們擁有構(gòu)建值得信賴的自主系統(tǒng)的專業(yè)知識，也擁有大型科技公司的端到端解決方案。我們應(yīng)該構(gòu)建混合架構(gòu)，充分從每種方法中汲取精華之處。對這種混合架構(gòu)系統(tǒng)的某些組件，我們必須使用機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)技術(shù)，但至于諸如決策等其他方面，我們可以使用基于模型的技術(shù)來解決問題。

如何以最佳的方式組合這些方法是一個(gè)開放性的問題，另一個(gè)非常開放的問題是怎么驗(yàn)證自動駕駛汽車是不是足夠安全？

“我們模擬了100億英里的自動駕駛里程，來保證自動駕駛系統(tǒng)的安全”，類似的信息或許十分常見，但這些論點(diǎn)是基于一些統(tǒng)計(jì)結(jié)果形成的。問題是模擬時(shí)，模擬英里跟“真實(shí)英里”效果是不是一樣？讓自動駕駛汽車在理想高速路條件下行駛數(shù)百年都不會發(fā)生事故，而模擬究竟能涵蓋多少種情況？我們需要證據(jù)。

還有一點(diǎn)要強(qiáng)調(diào)，那就是神經(jīng)網(wǎng)絡(luò)機(jī)器學(xué)習(xí)技術(shù)也可能被愚弄。最近，特斯拉的自動駕駛系統(tǒng)把月亮誤認(rèn)為是黃色交通指示燈，為什么這從來不會發(fā)生在人類身上？

人類的理解能力結(jié)合了從傳感器水平到思維語義模型的自下而上的推理，以及從語義模型到感知水平的自上而下的推理，因?yàn)槲覀兊哪X海里有這個(gè)世界的語義模型。如果我們看到一張被雪覆蓋的紅綠燈的照片，就會推斷這是一個(gè)被雪覆蓋的紅綠燈。但對機(jī)器來說，你得訓(xùn)練它在各種情境、各種不同天氣條件下識別紅綠燈。

如果我們看到一張父親背著孩子的照片，不用解釋誰是父親誰是孩子，人類同樣具備把象征知識結(jié)合來理解世界的能力。這是如今自主系統(tǒng)所缺失的。我們需要開發(fā)“自學(xué)系統(tǒng)”，可以構(gòu)建基于環(huán)境的漸進(jìn)式語義模型。對此，機(jī)器學(xué)習(xí)遠(yuǎn)遠(yuǎn)不夠，還需要結(jié)合推理技術(shù)，而這是一個(gè)難題。

所以，構(gòu)建可信賴的自動駕駛系統(tǒng)不僅僅關(guān)乎智能，也涉及到很多非常重要的系統(tǒng)工程問題。應(yīng)采取混合設(shè)計(jì)的方法，但挑戰(zhàn)之處在于將符號知識和非符號知識聯(lián)系起來，例如將感官信息和環(huán)境模型聯(lián)系起來。并且我們還需要優(yōu)秀的仿真模擬系統(tǒng)和測試技術(shù)來進(jìn)行全局系統(tǒng)驗(yàn)證。另外，應(yīng)該依靠隱式或顯式系統(tǒng)模型上定義的標(biāo)準(zhǔn)進(jìn)行技術(shù)可靠性的安全評估。

最后，我想說的是自動化系統(tǒng)和自主系統(tǒng)之間存在很大的差距，這兩者之間無法逐漸轉(zhuǎn)化，高級駕駛輔助系統(tǒng)無法逐漸發(fā)展為自動駕駛系統(tǒng)。盡管如此，由于情景意識和環(huán)境的可預(yù)測性有所提升，自主系統(tǒng)的復(fù)雜性大大降低，自動駕駛并不是不可能實(shí)現(xiàn)，只可能是需要花費(fèi)大量時(shí)間，出產(chǎn)新的科學(xué)成果、開發(fā)新的工程技術(shù)才能實(shí)現(xiàn)這一愿景。

來源丨2021世界智能網(wǎng)聯(lián)汽車大會、智能網(wǎng)聯(lián)汽車雜志
記者 | 溫昕
編輯丨譚科兆
審核 | 詹可凡