日本无码免费高清在线|成人日本在线观看高清|A级片免费视频操逼欧美|全裸美女搞黄色大片网站|免费成人a片视频|久久无码福利成人激情久久|国产视频一二国产在线v|av女主播在线观看|五月激情影音先锋|亚洲一区天堂av

  • 手機(jī)站
  • 小程序

    汽車(chē)測(cè)試網(wǎng)

  • 公眾號(hào)

    • 汽車(chē)測(cè)試網(wǎng)

    • 在線課堂

    • 電車(chē)測(cè)試

基于結(jié)構(gòu)化的Informer模型的自動(dòng)駕駛軌跡預(yù)測(cè)

2024-10-09 08:06:42·  來(lái)源：同濟(jì)智能汽車(chē)研究所  
　
2）ProbSparse自注意：圖11給出了查詢向量Q稀疏度測(cè)量過(guò)程。圖中的縱軸表示查詢向量的長(zhǎng)度，橫軸表示查詢向量的維數(shù)，圖中的點(diǎn)表示查詢向量的值。如圖11a所示，在達(dá)到稀疏之前，查詢向量的分布，其中，。測(cè)量過(guò)程是不均勻的，有許多接近零的點(diǎn)，這導(dǎo)致了式（32）中許多無(wú)意義的點(diǎn)積運(yùn)算。為了解決這個(gè)問(wèn)題，本文使用的高效ProbSparse自注意機(jī)制在自注意力計(jì)算中對(duì)查詢向量Q進(jìn)行特征重采樣，即稀疏性測(cè)量過(guò)程。圖11b顯示了重新采樣的和，其中與相比突出了更多的特征區(qū)域，缺少了許多接近零的點(diǎn)，從而保留了更多的重要點(diǎn)，省去了點(diǎn)積計(jì)算中的大量冗余操作，將長(zhǎng)短期存儲(chǔ)器中的內(nèi)存使用從改變?yōu)?，提高了?xùn)練和預(yù)測(cè)的效率。

圖片

a)分布; b）分布 

圖 11 查詢向量稀疏度測(cè)量過(guò)程 

3）多頭注意力：圖12描述了通過(guò)式（32）計(jì)算的多頭注意力。該圖展示了與歷史軌跡相關(guān)的某個(gè)預(yù)測(cè)軌跡的四頭注意力分布。縱軸和橫軸分別表示歷史軌跡和預(yù)測(cè)軌跡的節(jié)點(diǎn)，圖中的點(diǎn)表示注意力值。注意力分布表明，多頭注意力機(jī)制可以計(jì)算和提取預(yù)測(cè)軌跡和歷史軌跡之間的聯(lián)系。例如圖中歷史軌跡的近13點(diǎn)和28點(diǎn)附近的注意力值總是較大，說(shuō)明這些點(diǎn)和附近的點(diǎn)對(duì)目標(biāo)車(chē)輛未來(lái)的軌跡有著較大的影響。因此，在訓(xùn)練過(guò)程中，網(wǎng)絡(luò)不斷地為這些位置附近的點(diǎn)分配更大的權(quán)重。這種權(quán)重分配的差異表明歷史軌跡的每個(gè)點(diǎn)與預(yù)測(cè)軌跡有不同的聯(lián)系。通過(guò)提取這些連接，本文采用的多頭注意力機(jī)制可以使網(wǎng)絡(luò)更加關(guān)注歷史軌跡中的特定點(diǎn)，從而提高預(yù)測(cè)的準(zhǔn)確性。

圖片

圖 12 多頭注意力分布 

例如，圖中歷史軌跡中的近13點(diǎn)和28點(diǎn)附近總是具有較大的關(guān)注值，這表明這些點(diǎn)和附近的點(diǎn)對(duì)TV的未來(lái)軌跡具有重大影響。因此，在訓(xùn)練過(guò)程中，網(wǎng)絡(luò)會(huì)不斷為這些位置附近的點(diǎn)分配更大的權(quán)重。權(quán)重分配的這種差異意味著歷史軌跡的每個(gè)點(diǎn)與預(yù)測(cè)軌跡具有不同的連接。通過(guò)提取這種連接，本文采用的多頭注意機(jī)制可以使網(wǎng)絡(luò)更多地關(guān)注歷史軌跡中的特定點(diǎn)，從而提高預(yù)測(cè)的準(zhǔn)確性。

B.軌跡預(yù)測(cè)精度分析

表II和III分別列出了結(jié)構(gòu)化的Informer模型和參考模型的FPE和APE值。如在LSTF過(guò)程中觀察到的，預(yù)測(cè)精度隨著預(yù)測(cè)時(shí)間的增加而劣化，這由最終仿真結(jié)果證實(shí)。然而，與參考模型相比，所提出的結(jié)構(gòu)化Informer模型表現(xiàn)出更優(yōu)越的性能?？v向和橫向FPE以及APE在每個(gè)預(yù)測(cè)時(shí)間都達(dá)到最小值。即使在第5秒時(shí)，結(jié)構(gòu)化Informer模型的縱向和橫向FPE分別為2.93%和2.33%，而縱向和橫向APE分別為1.39%和1.21%。結(jié)構(gòu)化Informer模型在網(wǎng)絡(luò)結(jié)構(gòu)方面增強(qiáng)了Transformer。圖13可視化了Informer和Transformer下隨機(jī)選擇的四輛車(chē)的完整軌跡的預(yù)測(cè)比較。如圖所示，通過(guò)對(duì)結(jié)構(gòu)化Informer在預(yù)測(cè)精度上與Transformer的比較，驗(yàn)證了這種改進(jìn)的有效性。此外，所提出的結(jié)構(gòu)化Informer模型在預(yù)測(cè)精度方面顯著優(yōu)于傳統(tǒng)的基于LSTM的模型。

圖片

圖 13 軌跡預(yù)測(cè)可視化 

分享到：
 
反對(duì) 0 舉報(bào) 0 收藏 0 評(píng)論 0
滬ICP備11026917號(hào)-25