《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 深度解析百度 L4 自動駕駛整體系統(tǒng)安全設(shè)計思路

深度解析百度 L4 自動駕駛整體系統(tǒng)安全設(shè)計思路

2023-01-04
來源:談思實(shí)驗(yàn)室
關(guān)鍵詞: 自動駕駛 感知算法 傳感器

  “安全第一”是自動駕駛的核心理念和價值觀。自動駕駛車輛的整體系統(tǒng)安全設(shè)計是一項(xiàng)復(fù)雜的系統(tǒng)工程, 涉及車載自動駕駛系統(tǒng)的核心算法策略設(shè)計、 硬件和軟件冗余安全設(shè)計、遠(yuǎn)程云代駕技術(shù)、 全流程測試驗(yàn)證技術(shù)等, 并遵循功能安全(ISO 26262) 和預(yù)期功能安全(ISO/PAS 21448) 的要求和設(shè)計思路。 下面梳理一下百度 L4 級自動駕駛的安全系統(tǒng)實(shí)踐, 分為主系統(tǒng)安全、 冗余安全系統(tǒng)、 遠(yuǎn)程云代駕系統(tǒng)三層安全體系。

  80.JPG

  圖 1 百度 L4 整體系統(tǒng)安全設(shè)計思路

  自動駕駛主系統(tǒng)安全

  主系統(tǒng)安全體系即通過車載自動駕駛系統(tǒng)的核心算法層來保證駕駛策略和駕駛行為的安全性, 也可稱為“策略安全”。使用最先進(jìn)可靠的感知與定位算法、 預(yù)測決策規(guī)劃與控制算法來應(yīng)對道路行駛中的各種場景, 尤其是需要保證在遇到難度場景時也可以從駕駛策略和行為上確保安全。

  自動駕駛主系統(tǒng)安全是軟硬件組合套件的安全設(shè)計。軟件算法是整個自動駕駛系統(tǒng)的核心, 典型的 L4 級自動駕駛算法系統(tǒng)架構(gòu)主要包括車載操作系統(tǒng)、 環(huán)境感知、 高精地圖與定位、 預(yù)測決策與規(guī)劃、 控制與執(zhí)行模塊等。

  操作系統(tǒng)

  基礎(chǔ)操作系統(tǒng)是運(yùn)行在自動駕駛汽車上用于管理、 調(diào)度、 控制車載軟硬件資源的基礎(chǔ)軟件。其主要任務(wù)是為自動駕駛系統(tǒng)提供任務(wù)實(shí)時調(diào)度、 實(shí)時計算任務(wù)資源隔離、 實(shí)時消息通訊、 系統(tǒng)級訪問控制等能力, 有效管理系統(tǒng)資源, 提高系統(tǒng)資源使用率, 向無人車算法模塊屏蔽硬件軟件物理特性及操作細(xì)節(jié), 承載運(yùn)行感知、 定位、 規(guī)劃決策與控制等自動駕駛核心組件。操作系統(tǒng)具有高穩(wěn)定、 實(shí)時性、 低時延(反應(yīng)速度高于人類駕駛員 250ms) 等特點(diǎn)。

  泛感知系統(tǒng)

  環(huán)境感知是自動駕駛的前提條件。環(huán)境感知系統(tǒng)融合激光雷達(dá)、 毫米波雷達(dá)、 攝像頭等多傳感器的優(yōu)勢, 實(shí)現(xiàn)車身周圍 360 度視距, 在復(fù)雜變化的交通環(huán)境中穩(wěn)定檢測并跟蹤交通者的行為和速度朝向等信息, 為決策規(guī)劃模塊提供場景理解信息。

  感知算法采用多傳感器融合的框架, 能夠提供最遠(yuǎn) 280 米外的障礙物的檢測。基于深度神經(jīng)網(wǎng)絡(luò)及海量的自動駕駛數(shù)據(jù), 能夠準(zhǔn)確的識別出障礙物類型、 并穩(wěn)定跟蹤障礙物行為,為下游決策模塊提供穩(wěn)定的感知能力。基于多傳感器融合方案的感知系統(tǒng), 通過異源感知通路形成冗余, 為自動駕駛系統(tǒng)提供高容錯能力從而提升系統(tǒng)安全。

  除此之外, 感知算法還通過水霧噪聲識別、 低矮障礙物檢測、 異形交通信號燈和標(biāo)識的檢測等能力, 有效支持場景擴(kuò)展。在紅綠燈識別上, 可將自車感知識別的紅綠燈燈色和倒計時與高精地圖提供的先驗(yàn)信息進(jìn)行交叉驗(yàn)證, 同時提高臨時紅綠燈識別能力, 確保可靠性和安全性。

  高精地圖與高精定位為自動駕駛車輛提供預(yù)先的道路信息、 精準(zhǔn)的車輛位置信息和豐富的道路元素數(shù)據(jù)信息, 強(qiáng)調(diào)空間的三維模型以及精度, 非常精確的顯示路面上的每一個特征和狀況。高精地圖與定位采用激光雷達(dá)、 視覺、 RTK 與 IMU 多傳感器融合的方案, 通過多種傳感器融合使得定位精度可以達(dá)到 5-10 厘米, 滿足 L4 級自動駕駛需求。

  預(yù)測決策與規(guī)劃控制

  預(yù)測決策與規(guī)劃控制技術(shù)模塊相當(dāng)于自動駕駛汽車的大腦。預(yù)測決策與規(guī)劃是軟件算法核心模塊, 直接影響車輛自動駕駛的能力和效果。該算法模塊基于交通安全規(guī)范與共識規(guī)則,為車輛規(guī)劃出安全、 高效、 舒適的行駛路徑和軌跡。為了更好提升算法的泛化能力, 應(yīng)用數(shù)據(jù)挖掘和深度學(xué)習(xí)算法來實(shí)現(xiàn)智能規(guī)劃駕駛行為。

  在給定車輛設(shè)定的出發(fā)地與目的地后, 系統(tǒng)生成最優(yōu)的全局規(guī)劃路徑。車輛能夠?qū)崟r接收感知模塊提供的環(huán)境和障礙物信息, 結(jié)合高精度地圖, 跟蹤并預(yù)測周邊車輛、 行人、 騎行者或其他障礙物的行為意圖和預(yù)測軌跡, 綜合考慮安全性、 舒適性和效率, 生成駕駛行為決策(跟車、 換道、 停車等) , 并按照交通規(guī)則和文明交通禮儀對車輛進(jìn)行運(yùn)行規(guī)劃(速度、軌跡等) , 最終輸出到控制模塊實(shí)現(xiàn)車輛加減速和轉(zhuǎn)向動作。車輛控制部分是最底下一層,直接與車輛底盤通信, 將車輛的目標(biāo)位置和速度通過電信號傳給底盤來操作油門、 剎車和方向盤。

  自動駕駛的目標(biāo)是應(yīng)對城市道路的復(fù)雜交通場景, 在任何道路交通狀況下都能保證自動駕駛車輛處于安全駕駛狀態(tài)。在軟件算法層, 有基于海量測試數(shù)據(jù)訓(xùn)練的深度學(xué)習(xí)模型, 保證自動駕駛車輛在常規(guī)駕駛場景下安全高效平穩(wěn)的通行;在安全算法層, 針對各種典型危險場景設(shè)計了一系列安全駕駛策略, 保證自動駕駛車輛在任何場景下都能做出安全的駕駛行為。如在惡劣天氣、 視野遮擋等極端場景下, 會觸發(fā)防御性駕駛策略, 通過多觀察減速駕駛降低安全風(fēng)險等。

  自動駕駛車輛更加遵守交通規(guī)則和道路優(yōu)先通行權(quán), 在道路交叉口與其他交通參與者交匯場景下, 在高路權(quán)情況下遇到搶行車輛, 也會以安全第一原則考慮減速讓行, 避免風(fēng)險。在遇到“鬼探頭”等高危風(fēng)險場景時, 也會堅持安全第一原則采取緊急制動策略盡可能避免傷害。隨著自動駕駛道路測試數(shù)據(jù)和大量的極端場景數(shù)據(jù)的積累, 自動駕駛核心算法通過數(shù)據(jù)驅(qū)動的深度學(xué)習(xí)算法模型, 得以持續(xù)不斷進(jìn)化, 成為能夠提前預(yù)判、 安全謹(jǐn)慎駕駛的“老司機(jī)”。

  車路協(xié)同

  車路協(xié)同自動駕駛是在單車智能自動駕駛的基礎(chǔ)上, 通過車聯(lián)網(wǎng)將“人-車-路-云”交通參與要素有機(jī)地聯(lián)系在一起, 實(shí)現(xiàn)車與車、 車與路、 車與人之間動態(tài)實(shí)時信息交互共享, 保證交通安全。車路協(xié)同自動駕駛通過信息交互協(xié)同、 協(xié)同感知與協(xié)同決策控制, 可以極大地拓展單車的感知范圍、 提升感知的能力, 引入高維數(shù)據(jù)為代表的新的智能要素, 實(shí)現(xiàn)群體智能。可以幫助解決單車智能自動駕駛遇到的技術(shù)瓶頸, 提升自動駕駛能力, 從而保證自動駕駛安全, 擴(kuò)展自動駕駛設(shè)計運(yùn)行域(OperaTIonal Design Domain, ODD) 。

  例如, 車路協(xié)同自動駕駛可以解決單車智能易受到遮擋、 惡劣天氣等環(huán)境條件影響, 在動靜態(tài)盲區(qū)/遮擋協(xié)同感知方面的問題。單車智能自動駕駛受限于傳感器感知角度限制, 在出現(xiàn)靜態(tài)障礙物或動態(tài)障礙物(如大型車輛) 遮擋時, AV 無法準(zhǔn)確獲取盲區(qū)內(nèi)的車輛或行人的運(yùn)動情況。車路協(xié)同則通過路側(cè)多傳感器部署, 實(shí)現(xiàn)對多方位、 長距離連續(xù)檢測識別,并與 AV 感知進(jìn)行融合, 實(shí)現(xiàn)自動駕駛車輛對盲區(qū)內(nèi)車輛或行人的準(zhǔn)確感知識別, 車輛可提前做出預(yù)判和決策控制, 進(jìn)而降低事故風(fēng)險。

 79.JPG

  圖 2 動靜態(tài)盲區(qū)非機(jī)動車/行人鬼探頭協(xié)同感知

78.JPG

  圖 3 路口遮擋車路協(xié)同感知

  自動駕駛安全冗余系統(tǒng)

  根據(jù)《ISO 26262 道路車輛功能安全》, 系統(tǒng)功能安全必須考慮功能冗余的要求。按照功能安全的設(shè)計標(biāo)準(zhǔn), 功能冗余從部件級、 系統(tǒng)級和整車級三個層面來完成。冗余的系統(tǒng)設(shè)計是保證自動駕駛安全可控的關(guān)鍵, 依托全線冗余設(shè)計可有效應(yīng)對車輛控制系統(tǒng)、 硬件平臺、軟件平臺三個層次單點(diǎn)故障或功能失效, 為完全無人自動駕駛系統(tǒng)提供基礎(chǔ)支撐。

  L4級自動駕駛系統(tǒng)在車載主計算單元和傳感系統(tǒng)之外又配置了安全冗余實(shí)現(xiàn)了軟件和硬件的異構(gòu)冗余設(shè)計, 避免了各個系統(tǒng)的單點(diǎn)失效, 主計算系統(tǒng)和冗余安全系統(tǒng)分工不同且互為校驗(yàn), 整體上實(shí)現(xiàn)安全性和可靠性極大提升。冗余安全系統(tǒng)在功能和算法策略設(shè)計上,側(cè)重于對主計算系統(tǒng)軟硬件的實(shí)時監(jiān)控, 并進(jìn)行危害識別, 當(dāng)檢測到主計算系統(tǒng)異常時將觸發(fā) MRC 機(jī)制, 通過告警、 緩剎、 靠邊停車、 緊急制動等方法讓車輛進(jìn)入最小風(fēng)險狀(Minimal Risk CondiTIon, MRC) 。

  硬件和傳感器冗余

  從傳感器、 計算單元到車輛控制系統(tǒng), 都具備兩套互為獨(dú)立冗余的系統(tǒng), 避免單點(diǎn)失效,提升系統(tǒng)整體可靠性和安全性。

  計算單元冗余

  安全系統(tǒng)通過配置一套 SafetyDCU 作為冗余計算單元, 實(shí)時運(yùn)算并監(jiān)控主系統(tǒng)工作狀態(tài)。當(dāng)主計算單元故障時, 能夠支持冗余系統(tǒng)的算法運(yùn)算繼續(xù)控制車輛, 做出風(fēng)險最小回退的緩剎、 靠邊停車等動作。

  傳感器冗余

  安全系統(tǒng)通過冗余設(shè)計兩套獨(dú)立的自動駕駛傳感器系統(tǒng), 采用激光雷達(dá)、 攝像頭、 定位設(shè)備等零部件冗余方案, 在任何單一零部件失效的情況下, 都能夠觸發(fā)冗余系統(tǒng), 提供完善環(huán)境感知能力, 從而安全控制車輛, 保障系統(tǒng)的運(yùn)行更加可靠。

  車輛控制系統(tǒng)冗余

  車輛底盤具備冗余能力, 包括轉(zhuǎn)向、 動力、 制動等關(guān)鍵部件, 能夠在單一系統(tǒng)故障失效時, 切換到備用系統(tǒng)控制車輛, 幫助安全停車, 防止車輛失控的發(fā)生。

  故障監(jiān)控系統(tǒng)與軟件冗余

  故障監(jiān)控系統(tǒng)為部署在主計算單元與安全計算單元之間的一套完整故障檢測系統(tǒng), 能夠?qū)ο到y(tǒng)運(yùn)行中的所有軟硬件類失效、 故障、 超出 ODD 范圍、 系統(tǒng)算法缺陷等做到實(shí)時檢測監(jiān)聽, 并且通過主系統(tǒng)和冗余系統(tǒng)進(jìn)行交叉驗(yàn)證, 互相校驗(yàn)和監(jiān)控, 確保故障沒有遺漏。同時進(jìn)行風(fēng)險預(yù)測, 對易發(fā)生問題的數(shù)據(jù)進(jìn)行挖掘分析、 特征提取, 在車端進(jìn)行實(shí)時安全風(fēng)險計算。

  軟件冗余系統(tǒng)是一套完整的輕量化的感知定位與決策控制的軟件。例如完善的定位系統(tǒng)冗余, 增加多重交叉驗(yàn)證提升定位異常檢測和容錯的能力;感知 360 度環(huán)視檢測覆蓋, 對車身周圍和前向風(fēng)險做到實(shí)時感知;當(dāng)檢測到主系統(tǒng)故障或失效時, 備份系統(tǒng)代替其接管車輛的操控, 通過限速、 緩慢剎車、 靠邊停車、 剎停等進(jìn)行功能降級或進(jìn)入 MRC, 實(shí)現(xiàn)車輛的安全停車。

 77.JPG

  圖 4 故障監(jiān)控系統(tǒng)與軟件冗余

  遠(yuǎn)程云代駕

  遠(yuǎn)程云代駕系統(tǒng)是在車輛遇困或極端場景下, 由遠(yuǎn)程駕駛員接管車輛, 通過環(huán)繞屏展示環(huán)境建模型及主視覺、 俯視角, 為安全員提供身臨其境的平行駕駛感受。當(dāng)遠(yuǎn)程駕駛員將車輛開到安全地帶后再將控制權(quán)移交給車端, 整個過程端到端時延比人類司機(jī)的反應(yīng)時間更短,且車端和遠(yuǎn)程的控制權(quán)切換完全平滑無感。在遠(yuǎn)程駕駛艙, 通過配置多屏監(jiān)控, 以及通過風(fēng)險預(yù)警和動態(tài)調(diào)度等功能, 可以實(shí)現(xiàn)車隊(duì)級實(shí)時監(jiān)控。

  遠(yuǎn)程云代駕設(shè)有包含主動安全、 安全預(yù)警以及安全基礎(chǔ)功能在內(nèi)的全面安全分層設(shè)計,可實(shí)時監(jiān)測駕駛艙、 網(wǎng)絡(luò)、 無人駕駛車輛狀態(tài), 并根據(jù)不同故障或風(fēng)險等級做出安全處理,進(jìn)一步為自動駕駛運(yùn)營全面護(hù)航。當(dāng)前自動駕駛技術(shù)在常規(guī)城市道路下主要由車端自動駕駛系統(tǒng)實(shí)現(xiàn)自主駕駛, 僅在極端場景下借助遠(yuǎn)程云代駕, 因此可以實(shí)現(xiàn)遠(yuǎn)程駕駛員一人控制多車的高效運(yùn)營服務(wù)。

 76.JPG

  圖5 遠(yuǎn)程云代駕產(chǎn)品設(shè)計

  平行駕駛基于 5G 技術(shù), 遠(yuǎn)程控制中心的安全操作員能夠?qū)崟r了解車輛所處環(huán)境與狀態(tài),車云無縫對接, 在自動駕駛無法通過的場景下完成遠(yuǎn)程協(xié)助, 結(jié)束后使車輛回到自動駕駛狀態(tài), 實(shí)現(xiàn)極端場景下的車輛脫困和避險。

  5G 云代駕是未來無人駕駛的重要配套設(shè)施, 基于 5G、 智慧交通、 V2X 等新基建設(shè)施,實(shí)現(xiàn)自動駕駛車輛車內(nèi)、 車外視頻實(shí)時回傳監(jiān)控, 可在車上無駕駛員的情況下為自動駕駛系統(tǒng)的能力缺口補(bǔ)位。

75.JPG

  圖 6 遠(yuǎn)程云代駕適用場景

  自動駕駛汽車測試與驗(yàn)證

  自動駕駛系統(tǒng)從研發(fā)到應(yīng)用, 需要進(jìn)行充分的功能安全和性能安全測試驗(yàn)證來證明其運(yùn)行安全性, 以保障乘車用戶和其他交通參與者的人身安全。虛擬仿真需要進(jìn)行數(shù)億至上百億公里的驗(yàn)證測試, 真實(shí)道路測試需要百萬公里以上的測試積累。

  測試流程體系

  自動駕駛測試以場景化的測試方法, 驗(yàn)證在每個場景下是否都具備安全駕駛能力。自動駕駛測試場景庫是測試體系的基礎(chǔ), 驅(qū)動自動駕駛車輛測試各個環(huán)節(jié)。

  測試場景庫包含典型的日常行駛場景、 高碰撞風(fēng)險場景、 法律法規(guī)場景等, 同時也包含已經(jīng)形成行業(yè)標(biāo)準(zhǔn)的場景,例如 AEB 功能的標(biāo)準(zhǔn)測試場景。具體分為不同自然條件(天氣、 光照) 、 不同道路類型(路面狀態(tài)、 車道線類型等) 、 不同交通參與者(車輛、 行人位置、 速度等) 、 不同環(huán)境類型(高速公路、 小區(qū)、 商場、 鄉(xiāng)村等) 的多類型虛擬仿真測試場景和真實(shí)交通環(huán)境的測試試驗(yàn)場景。測試內(nèi)容包括傳感器、 算法、 執(zhí)行器、 人機(jī)界面以及整車等, 從應(yīng)用功能、 性能、 穩(wěn)定性和魯棒性、 功能安全、 預(yù)期功能安全、 型式認(rèn)證等各個方面來驗(yàn)證自動駕駛系統(tǒng)的合理性、 安全性和穩(wěn)定性, 從而確保車輛能夠自主上路。

  自動駕駛汽車的測試流程體系主要包括離線環(huán)境測試、 車輛在環(huán)測試(Vehicle in theLoop, VIL) 、 道路在環(huán)測試(Road in the Loop, RIL) 三個階段, 對軟件、 硬件、 車輛進(jìn)行逐層環(huán)環(huán)相扣測試, 確保自動駕駛系統(tǒng)上路測試的安全性。在離線測試階段, 每一行代碼都能被充分及時的測試, 當(dāng)軟件發(fā)生修改后, 系統(tǒng)會逐一自動觸發(fā)各個測試環(huán)節(jié), 直至達(dá)到安全的上車測試標(biāo)準(zhǔn)方進(jìn)入車輛在環(huán)測試階段及道路在環(huán)階段。道路在環(huán)測試階段發(fā)現(xiàn)問題會進(jìn)行下一輪的代碼修改, 開始下一次的循環(huán)。經(jīng)過一輪又一輪的閉環(huán), 使得自動駕駛能力不斷提升。

  離線測試

  離線是指未包含車輛的測試, 大部分工作是在實(shí)驗(yàn)室里完成的。這個階段包含了模型在環(huán)測試(Model in the Loop, MIL) 、 軟件在環(huán)測(Software in the Loop, SIL) 、 硬件在環(huán)測試(Hardware in the Loop, HIL) 。

  模型在環(huán)測試?yán)么笠?guī)模數(shù)據(jù)集對感知、 預(yù)測、 定位、 控制等核心算法模型進(jìn)行精確的評估, 通過模型評估后的各項(xiàng)指標(biāo)度量模型能力變化, 通過自動化挖掘在早期暴露算法問題和 BadCase, 避免遺留到后續(xù)測試過程。

  軟件在環(huán)測試階段, 仿真測試是自動駕駛測試體系的關(guān)鍵環(huán)節(jié), 通過將海量的道路測試數(shù)據(jù)灌入仿真系統(tǒng), 反復(fù)回歸驗(yàn)證新算法的效果。同時在仿真系統(tǒng)中構(gòu)造大量的極端場景,并且通過參數(shù)擴(kuò)展的方法將單一的場景自動化生產(chǎn)規(guī)模化的場景, 以提高測試的覆蓋度。此外, 仿真平臺還有一套精細(xì)的度量體系, 可以自動化地判斷仿真過程中發(fā)生的碰撞問題、 違反交規(guī)問題、 體感問題、 路線不合理問題。

  硬件在環(huán)測試階段, 把軟件和硬件集成到一起, 以測試軟硬件系統(tǒng)的兼容性和可靠性。通常硬件的故障發(fā)生都有一定的概率, 帶有一定的偶然性, 在硬件在環(huán)測試階段基于真實(shí)和虛擬硬件結(jié)合方式進(jìn)行成千上萬真實(shí)場景的還原測試, 并且 24 小時不間斷的對自動駕駛系統(tǒng)施加壓力, 以模擬系統(tǒng)在不同資源極限條件下(比如:GPU 資源不足, CPU 使用率過高)的性能和穩(wěn)定性表現(xiàn)。同時在這個階段模擬了大量的硬件故障, 測試在硬件故障的情況下系統(tǒng)的反映, 如硬件失效、 斷電、 丟幀、 上下游接口異常等, 確保系統(tǒng)符合 ISO26262 功能安全要求。

  車輛在環(huán)測試

  車輛在環(huán)測試階段會先進(jìn)行基于臺架的測試, 在臺架上完成各項(xiàng)車輛線控功能、 性能和穩(wěn)定性測試, 以確保自動駕駛系統(tǒng)可以按照意圖控制車輛。完成對車輛線控的測試之后 VIL環(huán)節(jié)會進(jìn)入封閉場地, 基于真實(shí)的道路構(gòu)建虛實(shí)結(jié)合的場景測試自動駕駛系統(tǒng)在真實(shí)車輛上的表現(xiàn)。

  道路在環(huán)測試

  在離線測試和車輛在環(huán)測試階段通過后(每個環(huán)節(jié)都有嚴(yán)格的測試通過標(biāo)準(zhǔn)) , 接下來進(jìn)入封閉場地內(nèi)構(gòu)建真實(shí)的場景來測試車輛的自動駕駛各項(xiàng)能力和安全性。封閉測試場涵蓋了常見的城市道路及高速道路, 包括直行道路、 彎道、 路口、 坡路、 隧道及停車場等。另外,通過假人、 假車等測試設(shè)備構(gòu)造各種低頻場景。這類低頻場景在社會道路上存在, 但是出現(xiàn)的頻率較低, 在開放道路上不易得到充分驗(yàn)證。例如逆行的自行車、 突然沖出的行人、 路段積水等場景。

  開放道路測試是道路在環(huán)測試的最終環(huán)節(jié), 也是自動駕駛車輛完成測試評估所必須經(jīng)過的重要環(huán)節(jié)。開放道路測試是循序漸進(jìn)開展的, 通常最新的系統(tǒng)部署在少量車上進(jìn)行測試,確認(rèn)安全后再部署到更大規(guī)模的車隊(duì)。通過部署規(guī)模化自動駕駛車輛不斷在實(shí)際道路上進(jìn)行測試和驗(yàn)證, 形成實(shí)際路上場景和自動駕駛能力不斷閉環(huán), 使自動駕駛車輛在智能度、 安全性等方面持續(xù)提升, 從而逐漸接近具備自動駕駛車輛走進(jìn)千家萬戶的能力。

  “安全第一”是自動駕駛的核心理念和價值觀。自動駕駛車輛的整體系統(tǒng)安全設(shè)計是一項(xiàng)復(fù)雜的系統(tǒng)工程, 涉及車載自動駕駛系統(tǒng)的核心算法策略設(shè)計、 硬件和軟件冗余安全設(shè)計、遠(yuǎn)程云代駕技術(shù)、 全流程測試驗(yàn)證技術(shù)等, 并遵循功能安全(ISO 26262) 和預(yù)期功能安全(ISO/PAS 21448) 的要求和設(shè)計思路。 下面梳理一下百度 L4 級自動駕駛的安全系統(tǒng)實(shí)踐, 分為主系統(tǒng)安全、 冗余安全系統(tǒng)、 遠(yuǎn)程云代駕系統(tǒng)三層安全體系。

 74.JPG

  圖 1 百度 L4 整體系統(tǒng)安全設(shè)計思路

  自動駕駛主系統(tǒng)安全

  主系統(tǒng)安全體系即通過車載自動駕駛系統(tǒng)的核心算法層來保證駕駛策略和駕駛行為的安全性, 也可稱為“策略安全”。使用最先進(jìn)可靠的感知與定位算法、 預(yù)測決策規(guī)劃與控制算法來應(yīng)對道路行駛中的各種場景, 尤其是需要保證在遇到難度場景時也可以從駕駛策略和行為上確保安全。

  自動駕駛主系統(tǒng)安全是軟硬件組合套件的安全設(shè)計。軟件算法是整個自動駕駛系統(tǒng)的核心, 典型的 L4 級自動駕駛算法系統(tǒng)架構(gòu)主要包括車載操作系統(tǒng)、 環(huán)境感知、 高精地圖與定位、 預(yù)測決策與規(guī)劃、 控制與執(zhí)行模塊等。

  操作系統(tǒng)

  基礎(chǔ)操作系統(tǒng)是運(yùn)行在自動駕駛汽車上用于管理、 調(diào)度、 控制車載軟硬件資源的基礎(chǔ)軟件。其主要任務(wù)是為自動駕駛系統(tǒng)提供任務(wù)實(shí)時調(diào)度、 實(shí)時計算任務(wù)資源隔離、 實(shí)時消息通訊、 系統(tǒng)級訪問控制等能力, 有效管理系統(tǒng)資源, 提高系統(tǒng)資源使用率, 向無人車算法模塊屏蔽硬件軟件物理特性及操作細(xì)節(jié), 承載運(yùn)行感知、 定位、 規(guī)劃決策與控制等自動駕駛核心組件。操作系統(tǒng)具有高穩(wěn)定、 實(shí)時性、 低時延(反應(yīng)速度高于人類駕駛員 250ms) 等特點(diǎn)。

  泛感知系統(tǒng)

  環(huán)境感知是自動駕駛的前提條件。環(huán)境感知系統(tǒng)融合激光雷達(dá)、 毫米波雷達(dá)、 攝像頭等多傳感器的優(yōu)勢, 實(shí)現(xiàn)車身周圍 360 度視距, 在復(fù)雜變化的交通環(huán)境中穩(wěn)定檢測并跟蹤交通者的行為和速度朝向等信息, 為決策規(guī)劃模塊提供場景理解信息。

  感知算法采用多傳感器融合的框架, 能夠提供最遠(yuǎn) 280 米外的障礙物的檢測。基于深度神經(jīng)網(wǎng)絡(luò)及海量的自動駕駛數(shù)據(jù), 能夠準(zhǔn)確的識別出障礙物類型、 并穩(wěn)定跟蹤障礙物行為,為下游決策模塊提供穩(wěn)定的感知能力。基于多傳感器融合方案的感知系統(tǒng), 通過異源感知通路形成冗余, 為自動駕駛系統(tǒng)提供高容錯能力從而提升系統(tǒng)安全。

  除此之外, 感知算法還通過水霧噪聲識別、 低矮障礙物檢測、 異形交通信號燈和標(biāo)識的檢測等能力, 有效支持場景擴(kuò)展。在紅綠燈識別上, 可將自車感知識別的紅綠燈燈色和倒計時與高精地圖提供的先驗(yàn)信息進(jìn)行交叉驗(yàn)證, 同時提高臨時紅綠燈識別能力, 確保可靠性和安全性。

  高精地圖與高精定位為自動駕駛車輛提供預(yù)先的道路信息、 精準(zhǔn)的車輛位置信息和豐富的道路元素數(shù)據(jù)信息, 強(qiáng)調(diào)空間的三維模型以及精度, 非常精確的顯示路面上的每一個特征和狀況。高精地圖與定位采用激光雷達(dá)、 視覺、 RTK 與 IMU 多傳感器融合的方案, 通過多種傳感器融合使得定位精度可以達(dá)到 5-10 厘米, 滿足 L4 級自動駕駛需求。

  預(yù)測決策與規(guī)劃控制

  預(yù)測決策與規(guī)劃控制技術(shù)模塊相當(dāng)于自動駕駛汽車的大腦。預(yù)測決策與規(guī)劃是軟件算法核心模塊, 直接影響車輛自動駕駛的能力和效果。該算法模塊基于交通安全規(guī)范與共識規(guī)則,為車輛規(guī)劃出安全、 高效、 舒適的行駛路徑和軌跡。為了更好提升算法的泛化能力, 應(yīng)用數(shù)據(jù)挖掘和深度學(xué)習(xí)算法來實(shí)現(xiàn)智能規(guī)劃駕駛行為。

  在給定車輛設(shè)定的出發(fā)地與目的地后, 系統(tǒng)生成最優(yōu)的全局規(guī)劃路徑。車輛能夠?qū)崟r接收感知模塊提供的環(huán)境和障礙物信息, 結(jié)合高精度地圖, 跟蹤并預(yù)測周邊車輛、 行人、 騎行者或其他障礙物的行為意圖和預(yù)測軌跡, 綜合考慮安全性、 舒適性和效率, 生成駕駛行為決策(跟車、 換道、 停車等) , 并按照交通規(guī)則和文明交通禮儀對車輛進(jìn)行運(yùn)行規(guī)劃(速度、軌跡等) , 最終輸出到控制模塊實(shí)現(xiàn)車輛加減速和轉(zhuǎn)向動作。車輛控制部分是最底下一層,直接與車輛底盤通信, 將車輛的目標(biāo)位置和速度通過電信號傳給底盤來操作油門、 剎車和方向盤。

  自動駕駛的目標(biāo)是應(yīng)對城市道路的復(fù)雜交通場景, 在任何道路交通狀況下都能保證自動駕駛車輛處于安全駕駛狀態(tài)。在軟件算法層, 有基于海量測試數(shù)據(jù)訓(xùn)練的深度學(xué)習(xí)模型, 保證自動駕駛車輛在常規(guī)駕駛場景下安全高效平穩(wěn)的通行;在安全算法層, 針對各種典型危險場景設(shè)計了一系列安全駕駛策略, 保證自動駕駛車輛在任何場景下都能做出安全的駕駛行為。如在惡劣天氣、 視野遮擋等極端場景下, 會觸發(fā)防御性駕駛策略, 通過多觀察減速駕駛降低安全風(fēng)險等。

  自動駕駛車輛更加遵守交通規(guī)則和道路優(yōu)先通行權(quán), 在道路交叉口與其他交通參與者交匯場景下, 在高路權(quán)情況下遇到搶行車輛, 也會以安全第一原則考慮減速讓行, 避免風(fēng)險。在遇到“鬼探頭”等高危風(fēng)險場景時, 也會堅持安全第一原則采取緊急制動策略盡可能避免傷害。隨著自動駕駛道路測試數(shù)據(jù)和大量的極端場景數(shù)據(jù)的積累, 自動駕駛核心算法通過數(shù)據(jù)驅(qū)動的深度學(xué)習(xí)算法模型, 得以持續(xù)不斷進(jìn)化, 成為能夠提前預(yù)判、 安全謹(jǐn)慎駕駛的“老司機(jī)”。

  車路協(xié)同

  車路協(xié)同自動駕駛是在單車智能自動駕駛的基礎(chǔ)上, 通過車聯(lián)網(wǎng)將“人-車-路-云”交通參與要素有機(jī)地聯(lián)系在一起, 實(shí)現(xiàn)車與車、 車與路、 車與人之間動態(tài)實(shí)時信息交互共享, 保證交通安全。車路協(xié)同自動駕駛通過信息交互協(xié)同、 協(xié)同感知與協(xié)同決策控制, 可以極大地拓展單車的感知范圍、 提升感知的能力, 引入高維數(shù)據(jù)為代表的新的智能要素, 實(shí)現(xiàn)群體智能。可以幫助解決單車智能自動駕駛遇到的技術(shù)瓶頸, 提升自動駕駛能力, 從而保證自動駕駛安全, 擴(kuò)展自動駕駛設(shè)計運(yùn)行域(OperaTIonal Design Domain, ODD) 。

  例如, 車路協(xié)同自動駕駛可以解決單車智能易受到遮擋、 惡劣天氣等環(huán)境條件影響, 在動靜態(tài)盲區(qū)/遮擋協(xié)同感知方面的問題。單車智能自動駕駛受限于傳感器感知角度限制, 在出現(xiàn)靜態(tài)障礙物或動態(tài)障礙物(如大型車輛) 遮擋時, AV 無法準(zhǔn)確獲取盲區(qū)內(nèi)的車輛或行人的運(yùn)動情況。車路協(xié)同則通過路側(cè)多傳感器部署, 實(shí)現(xiàn)對多方位、 長距離連續(xù)檢測識別,并與 AV 感知進(jìn)行融合, 實(shí)現(xiàn)自動駕駛車輛對盲區(qū)內(nèi)車輛或行人的準(zhǔn)確感知識別, 車輛可提前做出預(yù)判和決策控制, 進(jìn)而降低事故風(fēng)險。

73.JPG

  圖 2 動靜態(tài)盲區(qū)非機(jī)動車/行人鬼探頭協(xié)同感知

72.JPG

  圖 3 路口遮擋車路協(xié)同感知

  自動駕駛安全冗余系統(tǒng)

  根據(jù)《ISO 26262 道路車輛功能安全》, 系統(tǒng)功能安全必須考慮功能冗余的要求。按照功能安全的設(shè)計標(biāo)準(zhǔn), 功能冗余從部件級、 系統(tǒng)級和整車級三個層面來完成。冗余的系統(tǒng)設(shè)計是保證自動駕駛安全可控的關(guān)鍵, 依托全線冗余設(shè)計可有效應(yīng)對車輛控制系統(tǒng)、 硬件平臺、軟件平臺三個層次單點(diǎn)故障或功能失效, 為完全無人自動駕駛系統(tǒng)提供基礎(chǔ)支撐。

  L4級自動駕駛系統(tǒng)在車載主計算單元和傳感系統(tǒng)之外又配置了安全冗余實(shí)現(xiàn)了軟件和硬件的異構(gòu)冗余設(shè)計, 避免了各個系統(tǒng)的單點(diǎn)失效, 主計算系統(tǒng)和冗余安全系統(tǒng)分工不同且互為校驗(yàn), 整體上實(shí)現(xiàn)安全性和可靠性極大提升。冗余安全系統(tǒng)在功能和算法策略設(shè)計上,側(cè)重于對主計算系統(tǒng)軟硬件的實(shí)時監(jiān)控, 并進(jìn)行危害識別, 當(dāng)檢測到主計算系統(tǒng)異常時將觸發(fā) MRC 機(jī)制, 通過告警、 緩剎、 靠邊停車、 緊急制動等方法讓車輛進(jìn)入最小風(fēng)險狀(Minimal Risk CondiTIon, MRC) 。

  硬件和傳感器冗余

  從傳感器、 計算單元到車輛控制系統(tǒng), 都具備兩套互為獨(dú)立冗余的系統(tǒng), 避免單點(diǎn)失效,提升系統(tǒng)整體可靠性和安全性。

  計算單元冗余

  安全系統(tǒng)通過配置一套 SafetyDCU 作為冗余計算單元, 實(shí)時運(yùn)算并監(jiān)控主系統(tǒng)工作狀態(tài)。當(dāng)主計算單元故障時, 能夠支持冗余系統(tǒng)的算法運(yùn)算繼續(xù)控制車輛, 做出風(fēng)險最小回退的緩剎、 靠邊停車等動作。

  傳感器冗余

  安全系統(tǒng)通過冗余設(shè)計兩套獨(dú)立的自動駕駛傳感器系統(tǒng), 采用激光雷達(dá)、 攝像頭、 定位設(shè)備等零部件冗余方案, 在任何單一零部件失效的情況下, 都能夠觸發(fā)冗余系統(tǒng), 提供完善環(huán)境感知能力, 從而安全控制車輛, 保障系統(tǒng)的運(yùn)行更加可靠。

  車輛控制系統(tǒng)冗余

  車輛底盤具備冗余能力, 包括轉(zhuǎn)向、 動力、 制動等關(guān)鍵部件, 能夠在單一系統(tǒng)故障失效時, 切換到備用系統(tǒng)控制車輛, 幫助安全停車, 防止車輛失控的發(fā)生。

  故障監(jiān)控系統(tǒng)與軟件冗余

  故障監(jiān)控系統(tǒng)為部署在主計算單元與安全計算單元之間的一套完整故障檢測系統(tǒng), 能夠?qū)ο到y(tǒng)運(yùn)行中的所有軟硬件類失效、 故障、 超出 ODD 范圍、 系統(tǒng)算法缺陷等做到實(shí)時檢測監(jiān)聽, 并且通過主系統(tǒng)和冗余系統(tǒng)進(jìn)行交叉驗(yàn)證, 互相校驗(yàn)和監(jiān)控, 確保故障沒有遺漏。同時進(jìn)行風(fēng)險預(yù)測, 對易發(fā)生問題的數(shù)據(jù)進(jìn)行挖掘分析、 特征提取, 在車端進(jìn)行實(shí)時安全風(fēng)險計算。

  軟件冗余系統(tǒng)是一套完整的輕量化的感知定位與決策控制的軟件。例如完善的定位系統(tǒng)冗余, 增加多重交叉驗(yàn)證提升定位異常檢測和容錯的能力;感知 360 度環(huán)視檢測覆蓋, 對車身周圍和前向風(fēng)險做到實(shí)時感知;當(dāng)檢測到主系統(tǒng)故障或失效時, 備份系統(tǒng)代替其接管車輛的操控, 通過限速、 緩慢剎車、 靠邊停車、 剎停等進(jìn)行功能降級或進(jìn)入 MRC, 實(shí)現(xiàn)車輛的安全停車。

 71.JPG

  圖 4 故障監(jiān)控系統(tǒng)與軟件冗余

  遠(yuǎn)程云代駕

  遠(yuǎn)程云代駕系統(tǒng)是在車輛遇困或極端場景下, 由遠(yuǎn)程駕駛員接管車輛, 通過環(huán)繞屏展示環(huán)境建模型及主視覺、 俯視角, 為安全員提供身臨其境的平行駕駛感受。當(dāng)遠(yuǎn)程駕駛員將車輛開到安全地帶后再將控制權(quán)移交給車端, 整個過程端到端時延比人類司機(jī)的反應(yīng)時間更短,且車端和遠(yuǎn)程的控制權(quán)切換完全平滑無感。在遠(yuǎn)程駕駛艙, 通過配置多屏監(jiān)控, 以及通過風(fēng)險預(yù)警和動態(tài)調(diào)度等功能, 可以實(shí)現(xiàn)車隊(duì)級實(shí)時監(jiān)控。

  遠(yuǎn)程云代駕設(shè)有包含主動安全、 安全預(yù)警以及安全基礎(chǔ)功能在內(nèi)的全面安全分層設(shè)計,可實(shí)時監(jiān)測駕駛艙、 網(wǎng)絡(luò)、 無人駕駛車輛狀態(tài), 并根據(jù)不同故障或風(fēng)險等級做出安全處理,進(jìn)一步為自動駕駛運(yùn)營全面護(hù)航。當(dāng)前自動駕駛技術(shù)在常規(guī)城市道路下主要由車端自動駕駛系統(tǒng)實(shí)現(xiàn)自主駕駛, 僅在極端場景下借助遠(yuǎn)程云代駕, 因此可以實(shí)現(xiàn)遠(yuǎn)程駕駛員一人控制多車的高效運(yùn)營服務(wù)。

70.JPG

  圖5 遠(yuǎn)程云代駕產(chǎn)品設(shè)計

  平行駕駛基于 5G 技術(shù), 遠(yuǎn)程控制中心的安全操作員能夠?qū)崟r了解車輛所處環(huán)境與狀態(tài),車云無縫對接, 在自動駕駛無法通過的場景下完成遠(yuǎn)程協(xié)助, 結(jié)束后使車輛回到自動駕駛狀態(tài), 實(shí)現(xiàn)極端場景下的車輛脫困和避險。

  5G 云代駕是未來無人駕駛的重要配套設(shè)施, 基于 5G、 智慧交通、 V2X 等新基建設(shè)施,實(shí)現(xiàn)自動駕駛車輛車內(nèi)、 車外視頻實(shí)時回傳監(jiān)控, 可在車上無駕駛員的情況下為自動駕駛系統(tǒng)的能力缺口補(bǔ)位。

69.JPG

  圖 6 遠(yuǎn)程云代駕適用場景

  自動駕駛汽車測試與驗(yàn)證

  自動駕駛系統(tǒng)從研發(fā)到應(yīng)用, 需要進(jìn)行充分的功能安全和性能安全測試驗(yàn)證來證明其運(yùn)行安全性, 以保障乘車用戶和其他交通參與者的人身安全。虛擬仿真需要進(jìn)行數(shù)億至上百億公里的驗(yàn)證測試, 真實(shí)道路測試需要百萬公里以上的測試積累。

  測試流程體系

  自動駕駛測試以場景化的測試方法, 驗(yàn)證在每個場景下是否都具備安全駕駛能力。自動駕駛測試場景庫是測試體系的基礎(chǔ), 驅(qū)動自動駕駛車輛測試各個環(huán)節(jié)。

  測試場景庫包含典型的日常行駛場景、 高碰撞風(fēng)險場景、 法律法規(guī)場景等, 同時也包含已經(jīng)形成行業(yè)標(biāo)準(zhǔn)的場景,例如 AEB 功能的標(biāo)準(zhǔn)測試場景。具體分為不同自然條件(天氣、 光照) 、 不同道路類型(路面狀態(tài)、 車道線類型等) 、 不同交通參與者(車輛、 行人位置、 速度等) 、 不同環(huán)境類型(高速公路、 小區(qū)、 商場、 鄉(xiāng)村等) 的多類型虛擬仿真測試場景和真實(shí)交通環(huán)境的測試試驗(yàn)場景。測試內(nèi)容包括傳感器、 算法、 執(zhí)行器、 人機(jī)界面以及整車等, 從應(yīng)用功能、 性能、 穩(wěn)定性和魯棒性、 功能安全、 預(yù)期功能安全、 型式認(rèn)證等各個方面來驗(yàn)證自動駕駛系統(tǒng)的合理性、 安全性和穩(wěn)定性, 從而確保車輛能夠自主上路。

  自動駕駛汽車的測試流程體系主要包括離線環(huán)境測試、 車輛在環(huán)測試(Vehicle in theLoop, VIL) 、 道路在環(huán)測試(Road in the Loop, RIL) 三個階段, 對軟件、 硬件、 車輛進(jìn)行逐層環(huán)環(huán)相扣測試, 確保自動駕駛系統(tǒng)上路測試的安全性。在離線測試階段, 每一行代碼都能被充分及時的測試, 當(dāng)軟件發(fā)生修改后, 系統(tǒng)會逐一自動觸發(fā)各個測試環(huán)節(jié), 直至達(dá)到安全的上車測試標(biāo)準(zhǔn)方進(jìn)入車輛在環(huán)測試階段及道路在環(huán)階段。道路在環(huán)測試階段發(fā)現(xiàn)問題會進(jìn)行下一輪的代碼修改, 開始下一次的循環(huán)。經(jīng)過一輪又一輪的閉環(huán), 使得自動駕駛能力不斷提升。

  離線測試

  離線是指未包含車輛的測試, 大部分工作是在實(shí)驗(yàn)室里完成的。這個階段包含了模型在環(huán)測試(Model in the Loop, MIL) 、 軟件在環(huán)測(Software in the Loop, SIL) 、 硬件在環(huán)測試(Hardware in the Loop, HIL) 。

  模型在環(huán)測試?yán)么笠?guī)模數(shù)據(jù)集對感知、 預(yù)測、 定位、 控制等核心算法模型進(jìn)行精確的評估, 通過模型評估后的各項(xiàng)指標(biāo)度量模型能力變化, 通過自動化挖掘在早期暴露算法問題和 BadCase, 避免遺留到后續(xù)測試過程。

  軟件在環(huán)測試階段, 仿真測試是自動駕駛測試體系的關(guān)鍵環(huán)節(jié), 通過將海量的道路測試數(shù)據(jù)灌入仿真系統(tǒng), 反復(fù)回歸驗(yàn)證新算法的效果。同時在仿真系統(tǒng)中構(gòu)造大量的極端場景,并且通過參數(shù)擴(kuò)展的方法將單一的場景自動化生產(chǎn)規(guī)模化的場景, 以提高測試的覆蓋度。此外, 仿真平臺還有一套精細(xì)的度量體系, 可以自動化地判斷仿真過程中發(fā)生的碰撞問題、 違反交規(guī)問題、 體感問題、 路線不合理問題。

  硬件在環(huán)測試階段, 把軟件和硬件集成到一起, 以測試軟硬件系統(tǒng)的兼容性和可靠性。通常硬件的故障發(fā)生都有一定的概率, 帶有一定的偶然性, 在硬件在環(huán)測試階段基于真實(shí)和虛擬硬件結(jié)合方式進(jìn)行成千上萬真實(shí)場景的還原測試, 并且 24 小時不間斷的對自動駕駛系統(tǒng)施加壓力, 以模擬系統(tǒng)在不同資源極限條件下(比如:GPU 資源不足, CPU 使用率過高)的性能和穩(wěn)定性表現(xiàn)。同時在這個階段模擬了大量的硬件故障, 測試在硬件故障的情況下系統(tǒng)的反映, 如硬件失效、 斷電、 丟幀、 上下游接口異常等, 確保系統(tǒng)符合 ISO26262 功能安全要求。

  車輛在環(huán)測試

  車輛在環(huán)測試階段會先進(jìn)行基于臺架的測試, 在臺架上完成各項(xiàng)車輛線控功能、 性能和穩(wěn)定性測試, 以確保自動駕駛系統(tǒng)可以按照意圖控制車輛。完成對車輛線控的測試之后 VIL環(huán)節(jié)會進(jìn)入封閉場地, 基于真實(shí)的道路構(gòu)建虛實(shí)結(jié)合的場景測試自動駕駛系統(tǒng)在真實(shí)車輛上的表現(xiàn)。

  道路在環(huán)測試

  在離線測試和車輛在環(huán)測試階段通過后(每個環(huán)節(jié)都有嚴(yán)格的測試通過標(biāo)準(zhǔn)) , 接下來進(jìn)入封閉場地內(nèi)構(gòu)建真實(shí)的場景來測試車輛的自動駕駛各項(xiàng)能力和安全性。封閉測試場涵蓋了常見的城市道路及高速道路, 包括直行道路、 彎道、 路口、 坡路、 隧道及停車場等。另外,通過假人、 假車等測試設(shè)備構(gòu)造各種低頻場景。這類低頻場景在社會道路上存在, 但是出現(xiàn)的頻率較低, 在開放道路上不易得到充分驗(yàn)證。例如逆行的自行車、 突然沖出的行人、 路段積水等場景。

  開放道路測試是道路在環(huán)測試的最終環(huán)節(jié), 也是自動駕駛車輛完成測試評估所必須經(jīng)過的重要環(huán)節(jié)。開放道路測試是循序漸進(jìn)開展的, 通常最新的系統(tǒng)部署在少量車上進(jìn)行測試,確認(rèn)安全后再部署到更大規(guī)模的車隊(duì)。通過部署規(guī)模化自動駕駛車輛不斷在實(shí)際道路上進(jìn)行測試和驗(yàn)證, 形成實(shí)際路上場景和自動駕駛能力不斷閉環(huán), 使自動駕駛車輛在智能度、 安全性等方面持續(xù)提升, 從而逐漸接近具備自動駕駛車輛走進(jìn)千家萬戶的能力。



更多信息可以來這里獲取==>>電子技術(shù)應(yīng)用-AET<<

mmexport1621241704608.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 嫩草综合 | 亚洲狠狠婷婷综合久久久久图片 | 久久久成人999亚洲区美女 | 极品尤物一区二区三区 | 久久精品免费一区二区三区 | 亚洲ooo欧洲1| 国内精品久久久久久久果冻传媒 | 麻豆天天躁天天揉揉av | 激情 小说 亚洲 图片 伦 | 国产精品色悠悠 | 日韩麻豆视频 | 国产精品高跟丝袜一区 | 97视频免费观看 | 国产成人艳妇aa视频在线 | 优月まりな乳狂在线观看 | 99国产精品国产免费观看 | 粉嫩av一区二区三区入口 | www.国产在线| 久久99精品久久久久久秒播 | 色爱综合另类图片av | 草1024榴社区入口 | 日韩人妻无码精品—专区 | 夜夜操夜夜摸 | 免费国产乱理伦片在线观看 | 欧美69视频 | 久久久蜜桃 | 国产无套粉嫩白浆内谢软件 | 一级大片免费观看 | 国产欧美日韩二区 | 成年人福利 | 91在线| 国产一精品一av一免费爽爽 | 欧美中文字幕 | 日韩免费网站 | 亚洲高清在线观看视频 | 国产69精品久久777的优势 | 插一插射一射视频 | 久久久久久一区二区三区四区别墅 | 成人喂奶露着大乳 | 中文字幕成人在线观看 | 99免费| 欧美特黄一级大片 | 国产对白受不了了 | 国产成人免费视频 | 欧美高清日韩 | 妩媚尤物娇喘无力呻吟在线视频 | 四色网址 | 在线视频天堂 | 成人婷婷 | 日本人与黑人做爰视频网站 | 成人三级无码视频在线观看 | 国产在线观看www | 国产人妖乱国产精品人妖 | 男女爽爽无遮挡午夜视频 | av影音先锋最大资源网 | 亚洲人成色7777在线观看不卡 | 不卡av中文字幕 | 欧美性猛交xxxx乱大交丰满 | 久久久www成人免费毛片女 | 四虎884aa成人精品 | 一区二区三区在线播放视频 | 看全色黄大色大片免费久久 | 免费高清av | 三级精品在线 | 欧美色图第一页 | 日韩久久久精品 | 精品亚洲一区二区三区在线播放 | 粉色午夜视频 | √最新版天堂资源网在线 | 欧美日本另类 | 国产精品久久久久久久久免费桃花 | 色妞ww精品视频7777 | 国产一区二区三区四区视频 | 午夜资源站| 鲁一鲁av2019在线 | 久久久精品网 | 国产一区二区三区在线 | 中文区中文字幕免费看 | 欧美成人一区二区三区高清 | 日本少妇被黑人xxxxx | 欧美zzz物交 | 青青草视频黄 | 午夜不卡av免费 | 中文字幕免费高清网站 | 色婷婷视频在线 | 国产欧美在线视频 | 男人的天堂视频在线观看 | 日韩少妇中文字幕 | 欧洲无线码一二三四区 | 欧美精品偷拍 | 少妇出轨乱人伦 | 国产精品精 | 这里只有久久精品 | 精品国产aⅴ无码一区二区 亚洲人成人无码网www国产 | 国产一区二区三区成人欧美日韩在线观看 | 欧美一级黄色网 | 手机在线看永久av片免费 | 91福利一区二区 | 国产精品久久成人 | 一级a性色生活片久久毛片 一级a性色生活片久久毛片明星 | 亚洲精品一区二区久久 | 国产无区一区二区三麻豆 | 成人无码视频在线观看网站 | 欧美成人手机在线视频 | 强行挺进皇后紧窄湿润小说 | 超碰97最新 | 成人免费在线看片 | 国产999视频 | 男女作爱网站 | 国产无套粉嫩白浆内谢在线 | 免费中文熟妇在线影片 | 青青精品视频 | 国产免费最爽的乱淫视频a 国产免国产免费 | 午夜精品久久久久久久爽 | 免费人妻无码不卡中文字幕18禁 | 相泽南av日韩在线 | 国产美女包臀裙一区二区 | 91爱| 天天色综合色 | 国产精品国产三级国产普通话三级 | 成人黄色在线观看 | 成人在线免费视频 | 色综合久久久久久久久久 | 少妇天堂网 | 欧美色图在线视频 | 国产一三四2021不卡 | 激情久久五月天 | 搡女人真爽免费视频大全 | 日韩在线国产精品 | 国产精品久久999 | 精品国产一区二区三区噜噜噜 | 国产欧美一级片 | 国产91九色在线播放 | 亚洲免费在线观看av | 国产不卡一二三 | 先锋影音av最新资源 | 国产嫩草一区二区三区在线观看 | 国内a级毛片 | 久久影院一区 | 无码精品视频一区二区三区 | 伊人天堂网 | 午夜视频日韩 | 中文字幕人成无码人妻综合社区 | 国内精品久久久久影院优 | 91久久夜色精品国产九色 | 国产精品毛片一区二区三区 | 国产毛a片啊久久久久久保和丸 | 亚洲欧美日韩国产手机在线 | 国产做爰xxxⅹ高潮视频在线 | 国产精品国产三级国产aⅴ中文 | 国产毛片在线 | 好男人香蕉影院 | 亚洲美女午夜一区二区亚洲精品 | 成人在线综合 | 又爽又色禁片1000视频免费看 | 免费看毛片在线观看 | 国产又粗又爽又黄 | 欧美 在线 | 老美黑人狂躁亚洲女 | 久久久久久久久淑女av国产精品 | 亚洲一区二区天堂 | 国产视频一区二区三区四区五区 | 免费黄片毛片 | 亚洲福利在线观看 | 国产偷国产偷亚洲清高app | 咪咪色图| 欧美老熟妇喷水 | 182tv福利视频 | 嫩草视频在线观看免费 | 中文字幕乱码视频 | 午夜精品一区二区三区在线视频 | 成人午夜激情网 | 五月婷婷六月婷婷 | 少妇口述公做爰全过程目录 | 国产亚洲精久久久久久叶玉卿 | 欧美色老头又长又大 | 可以免费看av的网址 | 人妻av无码一区二区三区 | 最近更新中文字幕第一页 | 久久网国产| 亚洲欧美婷婷六月色综合 | 久久99热这里只有精品 | 777一区二区 | 国产a级精品| 亚洲风情第一页 | 免费av一级 | 99视频精品全部免费 在线 | 国产区欧美区日韩区 | 成年人视频在线免费观看 | 国产乱人激情h在线观看 | 欧美最顶级丰满的aⅴ艳星 欧美最黄视频 | 激情综合区 | 夜夜爽久久揉揉一区 | 亚洲高清二区 | 美女丝袜合集 | 国产精品视频久久 | 欧美日韩爱爱 | 欧美日韩精品一区二区在线播放 | 久久久久久久岛国免费网站 | 精品欧美一区二区在线观看 | 国产精品黄在线观看免费软件 | 91porny在线 | аⅴ资源中文在线天堂 | 在线精品亚洲欧美日韩国产 | 乱人伦av| 在线观看免费人成视频 | 自拍偷拍在线视频 | 国产成人免费在线观看 | 黄色av网站免费在线观看 | 91网址在线播放 | 久久久久久国产精品日本 | 成人国产在线 | 超碰91在线观看 | 日韩欧美在线一区二区 | 在线观看吃瓜av网站 | 伊人久久影院 | 久久久成人精品视频 | 日韩精品久久久久久久 | 美女视频黄a视频免费全程软件axs | 亚洲欧洲视频在线 | 天天摸天天爽日韩欧美大片 | 国产精品久久久久久麻豆一区 | 欧美大片免费 | 中文字幕视频免费观看 | 99国产精品一区二区 | 少妇愉情理伦片高潮日本 | 伊人黄色网 | av男人的天堂在线观看国产 | 爽交换快高h中文字幕 | 久久九九久久九九 | 四虎成人永久免费视频 | 欧美日韩视频在线观看一区 | 少妇高潮av | 大又大粗又爽又黄少妇毛片 | 91久久婷婷国产一区二区 | 最新欧美大片 | 日韩福利片在线观看 | 亚洲精品v天堂中文字幕 | 午夜视频91 | 国内精品久久久久久久久久久 | 亚洲成av人片天堂网无码】 | 欧美精品无码一区二区三区 | 在线免费观看的av | 免费一级做a爰片久久毛片潮喷 | 亚洲男人的天堂在线播放 | 亚洲乱码国产乱码精品精 | 日本三级在线视频 | 水蜜桃av导航 | 婷婷久久久亚洲欧洲日产国码av | 人人妻人人澡人人爽欧美精品 | 国产麻豆9l精品三级站 | 三浦理惠子av在线播放 | 少妇与公做了夜伦理69 | 国产深夜视频在线观看 | 日本公妇乱偷中文字幕 | 99精品视频免费版的特色功能 | 高潮一区二区三区 | 91久久国产婷婷一区二区 | 日本黑人一区二区免费视频 | 一级黄色短片 | 日本在线小视频 | 缅甸午夜性猛交xxxx | 国产女同玩人妖 | 免费 成 人 黄 色 | 精品日韩一区 | 制服一区 | 国产又爽又黄无码无遮挡在线观看 | 日韩黄色免费视频 | 久久久久www| 亚洲欧美日韩中文字幕一区二区三区 | 成人免费视频网站在线观看 | 久久综合狠狠综合五十路 | 日韩av福利| 91久久国产自产拍夜夜嗨 | 亚洲色图网址 | 国产午夜精品一区二区三区四区 | 国产对白精品刺激二区国语 | 亚洲乱码伦av | 国产小精品 | 欧美一级夜夜爽 | 一级黄色网址 | 大战肉丝少妇在线观看 | 国产色网 | 伦人伦xxx国语对白 伦为伦xxxx国语对白 | 中文字幕在线播 | 自拍偷拍第2页 | 草草影院在线 | 亚洲日本人的毛茸茸 | 午夜爱 | 日韩欧美亚洲综合 | 日日摸夜夜添夜夜躁好吊 | 欧美深夜福利视频 | 国产资源无限好片 | 国产成人免费在线观看 | 男人av的天堂 | 日韩一区二区免费看 | av无码国产在线看免费网站 | 国产成人无码a区视频在线观看 | 国产成人剧情av麻豆果冻 | 久久九九久精品国产 | 国产精品久久久一区二区三区网站 | 激情五月综合色婷婷一区二区 | 欧州一区 | 午夜dj在线观看高清在线视频完整版 | 狂野欧美性猛交xxxx | 色噜噜亚洲男人的天堂 | 中国美女囗交视频免费看 | 明星双性精跪趴灌满h | 91福利视频在线观看 | 女同av亚洲女人天堂 | 免费无码肉片在线观看 | 操干视频 | 十八禁无码免费网站 | 精品久久久一区二区 | 张柏芝ⅹxxxxhd96 | 少妇搡bbbb爽毛片无 | 精品视频免费播放 | 国产精品国产免费无码专区不卡 | www.激情五月.com | 91av俱乐部| 欧美性狂猛xxxxxbbbbb | 中文字幕乱码人妻综合二区三区 | 久久国产热视频 | 91久久精品一区二区三区大 | 香蕉av777xxx色综合一区 | 92看看福利1000集合集免费 | 麻豆视频黄色 | 欧美操女人 | 午夜福制92视频 | 国产一二在线观看 | 国产一区二区三区久久 | 亚洲天堂成人在线视频 | 熟妇高潮一区二区三区 | www.久久艹| 丝袜人妻一区二区三区网站 | 女人两腿打开让男人添野外视频 | 欧美一区二区三区在线播放 | 国产视频h| 一级全黄少妇免费录像片 | 乱女午夜精品一区二区三区 | 国产精品日韩精品欧美精品 | 成人网久久 | 亚欧成人精品一区二区 | 加勒比久久综合网天天 | 欧美三级在线观看视频 | 日韩精品在线不卡 | 国产精品51麻豆cm传媒的特点 | 国产男女猛烈无遮掩视频免费网站 | 毛片入口 | 国产你懂| 日韩精品成人无码专区免费 | 国产真实的和子乱拍在线观看 | 国产午夜精品理论片 | 波多野结衣乱码中文字幕 | 国产精品一区在线观看你懂的 | 亚洲最新av | 亚洲精品丝袜久久久久久 | 欧美午夜一区 | 日本午夜视频 | 一二三区精品视频 | 人人狠狠综合久久亚洲 | 无码精品久久久久久人妻中字 | 亚洲免费网站 | 色久天堂| 丁香花在线观看免费观看图片 | 国产乱码精品一区二区三 | 国产午夜性爽视频男人的天堂 | 亚洲精华国产精华精华液网站 | 国产精品毛片久久久久久久明星 | 超碰95在线 | 色哟哟免费在线观看 | 亚洲成人mv| 欧洲成人午夜精品无码区久久 | 伊人久久久久久久久 | 久久无码中文字幕免费影院蜜桃 | 大学生三级中国dvd 大学生一级片 | 成人在线视频一区 | 久久久久久久国产精品 | 91豆花精品一区 | 老女人激情视频 | 三级av毛片| 国产网红女主播精品视频 | 亚洲欧美日韩中文在线 | 色 综合 欧美 亚洲 国产 | 国产一区二区三区免费播放 | 神马香蕉久久 | 国产在线观看免费视频今夜 | 国产精品日韩欧美一区二区三区 | 国产中文区4幕区2022 | 调教丰满的已婚少妇在线观看 | 麻豆国产人妻欲求不满谁演的 | 午夜激情福利视频 | 天天做天天摸天天爽天天爱 | 精品久久久久久久无码 | 国产伦精品一区二区三区免费观看 | 综合五月天 | 黄色免费在线观看视频 | 中文字幕国产专区 | 久久黄色小视频 | 国产老妇伦国产熟女老妇视频 | 日韩成人精品一区二区 | 国产综合激情 | 欧美色综合天天久久综合精品 | jzzijzzij日本成熟少 | 性盈盈影院中文字幕 | 婷婷久久综合九色综合 | 日本男人天堂 | 亚洲人成伊人成综合网小说 | www久色| 欧美另类xxxx | 国产成人在线免费观看视频 | 亚洲精品一区二区三区蜜桃 | 亚洲区小说 | 国产情侣一区二区 | 九九热只有精品 | 亚洲综合在线网 | 成人精品一区二区三区电影 | 亚洲国产精品成人久久久 | 麻豆久久久9性大片 | 国产成人tv | 亚洲咪咪 | 波多野结衣aⅴ在线 | 中文字幕欧美人妻精品一区 | 国产特黄aaa大片免费观看 | 国产无遮挡一区二区三区毛片日本 | 欧美日韩爱爱 | 一二三区不卡 | 久久婷婷五月综合色国产香蕉 | 一级特黄aa大片免费播放 | 成人国内精品久久久久影院vr | 国产又粗又硬又大爽黄老大爷视 | 天天操天天爽天天射 | 色网站免费观看 | 国内精品视频在线观看 | 性做久久久久久久久 | 欧美三级一区 | 夜夜精品浪潮av一区二区三区 | 亚洲欧美日韩在线播放 | 最新av网址在线观看 | 免费的黄色大片 | www精品 | 无码人妻精品一区二 | 久久中文字幕人妻熟av女蜜柚m | 国产精品无码无卡在线播放 | 精品视频久久久久久久 | 国产果冻豆传媒麻婆 | 国产亚洲va综合人人澡精品 | 国产精品香蕉在线观看 | 国产男女爽爽爽免费视频 | 欧美人妻aⅴ中文字幕 | 欧美亚洲图片小说 | 免费又黄又爽1000禁片 | 欧美图片一区 | 色偷偷88888欧美精品久久久 | 美女性感毛片 | 亚洲激情视频在线播放 | 日韩精品极品视频在线观看免费 | 国产亚洲欧美一区二区 | 亚洲精品1 | 人人看人人看 | 欧美午夜三级 | 国产激情小视频 | 国产女人水真多18毛片18精品 | 动漫av网站| 91福利免费 | 国产视频综合 | 天下第一社区视频www日本 | 国产日韩欧美视频在线 | 精品 日韩 国产 欧美 视频 | 久久久久久久久久久国产 | 高清国产精品人妻一区二区 | 中文字幕第23页在线 | 尹人香蕉久久99天天拍 | 白嫩丰满少妇xxxxx性张津瑜 | 国产精品999. | 久久高清精品 | 性高湖久久久久久久久 | 久久精品一区二区 | 一级特黄bbb大片免费看 | 国产欧美日韩亚洲 | av免费观看网址 | 免费国产裸体美女视频全黄 | 国产精品久久久久久久久久久痴汉 | 爱色av网站 | 亚洲精品国产crm | 国产精品久热 | 国模一区二区三区四区 | 国产精品7| 美女赤身免费网站 | 日韩尤物在线 | 黑人大战亚洲人精品一区 | 国产精品美女在线观看 | 国产69xx | 国产精品特级毛片一区二区三区 | 日日噜噜夜夜狠狠久久av小说 | 久久综合亚洲色hezyo国产 | 久久精品入口九色 | 国产伦精品一区二区三区四区 | 一区二区不卡免费视频 | 99久久国产宗和精品1上映 | 亚洲色偷偷av男人的天堂 | 国产成人影视 | 亚洲精品久久久久久久久久久久久 | 亚洲第三区 | 亚洲乱码视频 | 亚洲人av在线 | 丰满少妇免费做爰大片人 | 在线观看高h | 成人欧美一区二区三区黑人免费 | 国内极品少妇1000激情啪啪千 | 亚洲国产精品999 | 国产精品国产三级国产普通话蜜臀 | 黑人巨大精品欧美一区二区桃花岛 | 国产av熟女一区二区三区 | 在线观看日本www | 亚洲精品人成无码中文毛片 | 国产精品伦子伦免费视频 | 三级在线免费 | 成人午夜激情网 | 国产一卡二| 免费人成在线观看网站 | 台湾佬美性中文网 | 中文字幕av一区二区三区 | 啪啪免费网 | 狠狠色噜噜狠狠狠狠黑人 | 偷拍视频一区二区 | avtt2014天堂网| 麻豆疯狂做受xxxx高潮视频 | 俺也去av | 亚洲日韩国产中文其他 | 中文字幕在线观看一区二区 | 夜夜夜高潮夜夜爽夜夜爰爰 | 在线亚洲不卡 | 亚洲性无码一区二区三区 | 国产美女黄色片 | 国产区av | 五月激情在线 | 另类sb东北妇女av | 男人天堂网在线 | 久久精品入口九色 | 国产做爰xxxⅹ高潮视频12p | 成人精品免费 | 国产视频一区二区不卡 | 看全色黄大色黄大片男爽一次 | 国产a级黄色片 | 久久99精品久久久久久不卡 | 成人无遮挡裸免费视频在线观看 | 黑人巨大精品欧美一区二区免费 | 超碰在线日韩 | 久久伊人成人 | 色丁香在线 | 日韩永久免费 | 少妇精品久久久久久久久久 | 校园春色中文字幕 | 亚洲欧洲免费无码 | 同性做爰猛烈全过程 | 欧美视频黄色 | 激情综合丁香五月 | 九色视频在线免费观看 | yy6080午夜 | 凹凸日日摸日日碰夜夜爽孕妇 | 成人欧美一区二区三区黑人孕妇 | 国产乱子伦一区二区三区四区五区 | 久久99亚洲精品久久99果 | www亚洲色图com| 欧美 日韩 国产 成人 | 黄色片视频在线观看 | 日韩夜色 | 日韩精品在线一区 | 扒开双腿被两个男人玩弄视频 | 欧洲av在线| 中文字幕美女 | 婷婷色在线播放 | 五月婷婷开心网 | 日韩精品无码中文字幕一区二区 | 日本xxxxx九色视频在线观看 | 福利逼站 | 欧美日韩tv | 777中文字幕 | 亚洲欧美国产双大乳头 | 欧美日韩中文字幕在线观看 | 国产精品久久久久久69 | 国产福利一区二区三区视频 | 一级性生活大片 | 欧美成人在线免费观看 | 婷婷五月综合色中文字幕 | 久久综合综合久久综合 | 日本人的性生活视频 | 97人人模人人爽人人少妇 | 久久aⅴ国产紧身牛仔裤 | 久久久久人妻一区精品色 | 蜜桃久久精品成人无码av | 欧美色综合网站 | 一区二区三区视频免费看 | 日本精品在线播放 | 欧美一区二区三区网站 | 亚洲成人自拍 | 国产大陆亚洲精品国产 | 亚洲精品456在线播放第一页 | 第一av| 天天射天天拍 | 欧美色综合天天久久综合精品 | 天天色天天看 | 无码av动漫精品一区二区免费 | 特极黄色片 | 嫩草网站 | 狠狠五月深爱婷婷网 | 国产一区二区精品丝袜 | jzz在线观看| 亚洲性少妇 | 亚洲欧美日韩综合一区 | 久久午夜夜伦鲁鲁片不卡 | 精品视频在线观看免费 | 五月天丁香久久 | 少妇愉情理伦片bd |