欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

稀疏BEV多任務(wù)感知算法:地平線SparseBevFusionMultitask解析與部署實(shí)踐

稀疏BEV多任務(wù)感知算法:地平線SparseBevFusionMultitask解析與部署實(shí)踐 1. 項(xiàng)目概述當(dāng)稀疏化遇上多任務(wù)BEV感知最近在自動(dòng)駕駛感知算法的圈子里地平線推出的“SparseBevFusionMultitaskOE-V1.0”這個(gè)參考算法引起了不少工程師和研究員的好奇。這個(gè)名字聽起來(lái)有點(diǎn)長(zhǎng)但拆開來(lái)看每一個(gè)詞都指向了當(dāng)前感知領(lǐng)域最前沿的幾個(gè)技術(shù)方向Sparse稀疏化、BevFusion鳥瞰圖融合和Multitask多任務(wù)。簡(jiǎn)單來(lái)說(shuō)這是一個(gè)基于地平線征程系列芯片專門為高效、高性能的多任務(wù)鳥瞰圖感知而設(shè)計(jì)的算法參考實(shí)現(xiàn)。如果你正在為車載計(jì)算平臺(tái)上的感知模型部署發(fā)愁尤其是面對(duì)動(dòng)輒幾十個(gè)GFLOPs甚至上百TFLOPs的復(fù)雜BEV模型時(shí)感覺(jué)內(nèi)存和算力都捉襟見肘那么這個(gè)算法可能就是你一直在找的“參考答案”。它核心要解決的就是在有限的車規(guī)級(jí)芯片算力下如何讓一個(gè)模型同時(shí)、高效地完成3D目標(biāo)檢測(cè)、可行駛區(qū)域分割、車道線檢測(cè)等多個(gè)關(guān)鍵感知任務(wù)。這不僅僅是把幾個(gè)任務(wù)的網(wǎng)絡(luò)頭拼在一起更深層的是通過(guò)稀疏化計(jì)算來(lái)大幅降低冗余讓模型跑得更快、更省資源。我之所以花時(shí)間深入研究它是因?yàn)樵趯?shí)際項(xiàng)目中我們常常遇到這樣的困境單個(gè)任務(wù)的BEV模型比如只做3D檢測(cè)已經(jīng)能讓芯片的NPU利用率飆到80%以上再加上其他任務(wù)要么延遲超標(biāo)要么內(nèi)存爆掉。地平線這個(gè)參考算法給出了一種將前沿學(xué)術(shù)思想稀疏BEV、多任務(wù)學(xué)習(xí)與芯片硬件特性如BPU架構(gòu)深度結(jié)合的工程化范例。它不僅僅是論文里的代碼更是考慮了真實(shí)部署約束的解決方案。對(duì)于算法工程師、部署工程師甚至是負(fù)責(zé)技術(shù)選型的架構(gòu)師理解這個(gè)算法的設(shè)計(jì)思路和實(shí)現(xiàn)細(xì)節(jié)都能為自家的感知系統(tǒng)優(yōu)化帶來(lái)直接的啟發(fā)。2. 核心設(shè)計(jì)思路與稀疏化價(jià)值解析2.1 從密集BEV到稀疏BEV的范式轉(zhuǎn)變要理解SparseBevFusionMultitask首先得明白傳統(tǒng)密集BEVBird‘s-Eye-View感知的瓶頸在哪里。經(jīng)典的BEV感知流程通常是將多攝像頭圖像通過(guò)一個(gè)強(qiáng)大的視覺(jué)主干網(wǎng)絡(luò)如ResNet、Swin Transformer提取特征然后通過(guò)一個(gè)稱為“View Transformer”的模塊比如LSS、BEVFormer等方法將這些透視視圖下的特征“抬升”或“變換”到鳥瞰圖坐標(biāo)系下形成一個(gè)密集的BEV特征圖。這個(gè)BEV特征圖就像一張俯視的地圖每個(gè)像素位置都對(duì)應(yīng)著地面上的一個(gè)物理位置并包含了該處的視覺(jué)語(yǔ)義信息。問(wèn)題就出在這個(gè)“密集”上。為了覆蓋車輛周圍足夠大的感知范圍比如前向100米左右各50米并保持足夠高的分辨率比如0.1米/像素這個(gè)BEV特征圖會(huì)非常龐大。假設(shè)范圍是100m x 100m分辨率0.25m那么BEV特征圖就是400x400的網(wǎng)格。如果特征通道數(shù)是256那么單幀的BEV特征數(shù)據(jù)量就是400 * 400 * 256 ≈ 4千萬(wàn)個(gè)元素對(duì)于float32數(shù)據(jù)類型就是約160MB。這僅僅是特征圖還不算后續(xù)檢測(cè)頭、分割頭的計(jì)算量。如此密集的計(jì)算和內(nèi)存訪問(wèn)對(duì)于車載芯片是巨大的負(fù)擔(dān)。稀疏BEV的核心思想就是打破這個(gè)密集網(wǎng)格的約束。它認(rèn)為在真實(shí)的駕駛場(chǎng)景中感興趣的目標(biāo)車輛、行人和可駕駛區(qū)域只占據(jù)了整個(gè)BEV空間的一小部分大部分區(qū)域是空曠的或無(wú)信息的。因此完全沒(méi)有必要為所有位置都進(jìn)行計(jì)算和存儲(chǔ)。稀疏BEV算法會(huì)動(dòng)態(tài)地生成一組“BEV查詢”或“BEV錨點(diǎn)”這些查詢只聚焦在可能有物體的區(qū)域。計(jì)算和特征存儲(chǔ)只發(fā)生在這組稀疏的查詢位置上從而極大地減少了計(jì)算量和內(nèi)存占用。在這個(gè)參考算法中“Sparse”前綴正是體現(xiàn)了這一關(guān)鍵設(shè)計(jì)。它很可能采用了類似Sparse BEV或PETR系列算法的思想使用一組可學(xué)習(xí)的稀疏查詢向量直接與圖像特征進(jìn)行交互生成稀疏的BEV特征從而避免了構(gòu)建龐大密集特征圖的開銷。2.2 多任務(wù)學(xué)習(xí)的協(xié)同與權(quán)衡“Multitask”是這個(gè)算法的另一大支柱。在自動(dòng)駕駛感知中3D目標(biāo)檢測(cè)框出車輛、行人的位置和大小、語(yǔ)義分割劃分出道路、車道線、人行道等區(qū)域通常是獨(dú)立模型。但這帶來(lái)了幾個(gè)問(wèn)題1) 多個(gè)模型重復(fù)計(jì)算底層特征算力浪費(fèi)2) 模型間輸出可能不一致比如檢測(cè)框壓到了分割出的道路上3) 系統(tǒng)集成復(fù)雜調(diào)度開銷大。多任務(wù)學(xué)習(xí)用一個(gè)共享的主干網(wǎng)絡(luò)Backbone來(lái)提取圖像的通用特征然后為不同任務(wù)配備不同的任務(wù)頭Task Head。這樣特征提取只做一次各個(gè)任務(wù)頭在此基礎(chǔ)上進(jìn)行特異性解碼。這能顯著提升計(jì)算效率并可能因?yàn)槿蝿?wù)間的相關(guān)性而提升各自的性能知識(shí)共享。然而多任務(wù)設(shè)計(jì)并非簡(jiǎn)單的“搭積木”。它面臨嚴(yán)峻的挑戰(zhàn)任務(wù)沖突不同任務(wù)的最優(yōu)特征表示可能不同。例如檢測(cè)任務(wù)需要精確的邊界信息而分割任務(wù)需要連貫的區(qū)域信息。強(qiáng)行共享特征可能導(dǎo)致相互干擾性能都不如單任務(wù)模型。損失平衡各任務(wù)的損失函數(shù)量綱、數(shù)值范圍差異巨大。如何平衡檢測(cè)損失如Smooth-L1 Loss和分割損失如交叉熵Loss的權(quán)重是一個(gè)需要精心調(diào)參的難題。部署友好性多個(gè)任務(wù)頭的輸出后處理邏輯不同需要設(shè)計(jì)高效的流水線避免成為新的瓶頸。地平線的這個(gè)參考算法其價(jià)值就在于它提供了一個(gè)經(jīng)過(guò)驗(yàn)證的多任務(wù)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)和損失平衡方案并且是針對(duì)其BPU硬件進(jìn)行過(guò)優(yōu)化的確保了算法高效性的同時(shí)也兼顧了部署的便利性。2.3 BevFusion特征融合的藝術(shù)“BevFusion”指明了算法的另一項(xiàng)關(guān)鍵技術(shù)融合。在自動(dòng)駕駛中感知的可靠性不能只依賴于單一傳感器。雖然這個(gè)算法名稱和當(dāng)前的熱點(diǎn)“BEVFusion”融合激光雷達(dá)和攝像頭在字面上重合但根據(jù)其作為“參考算法”的定位以及地平線芯片主要面向純視覺(jué)方案的特點(diǎn)此處的“Fusion”更可能指的是多攝像頭之間的視覺(jué)特征融合或者是在BEV空間中對(duì)時(shí)序特征的融合。對(duì)于多攝像頭每個(gè)攝像頭只能看到場(chǎng)景的一部分且存在重疊區(qū)域。如何將這些不同視角、不同畸變的圖像特征統(tǒng)一、無(wú)失真地融合到一個(gè)共同的BEV空間表達(dá)中是View Transformer模塊要解決的核心問(wèn)題。這個(gè)參考算法所采用的融合策略直接決定了BEV特征的空間一致性和精度。此外時(shí)序融合也至關(guān)重要。單幀圖像難以判斷靜止或低速目標(biāo)也容易受遮擋影響。引入歷史BEV特征通過(guò)遞歸神經(jīng)網(wǎng)絡(luò)如ConvGRU或Transformer進(jìn)行融合可以顯著提升感知的穩(wěn)定性和對(duì)遮擋目標(biāo)的預(yù)測(cè)能力。這部分如果實(shí)現(xiàn)得好對(duì)于城區(qū)復(fù)雜場(chǎng)景的感知提升將是巨大的。3. 算法模塊深度拆解與實(shí)操要點(diǎn)3.1 圖像主干網(wǎng)絡(luò)與特征提取優(yōu)化圖像主干網(wǎng)絡(luò)Backbone是感知系統(tǒng)的基石負(fù)責(zé)從原始像素中提取豐富、多尺度的語(yǔ)義特征。在車載環(huán)境主干網(wǎng)絡(luò)的選擇必須在性能和效率之間取得完美平衡。常見選型與地平線適配像ResNet、ResNeXt、RegNet這類CNN backbone因其結(jié)構(gòu)規(guī)整、易于優(yōu)化在部署中很受歡迎。而近年來(lái)Swin Transformer等視覺(jué)Transformer憑借其強(qiáng)大的全局建模能力在精度上往往更勝一籌。然而Transformer的自注意力機(jī)制計(jì)算復(fù)雜度高對(duì)芯片的矩陣乘加能力和內(nèi)存帶寬要求苛刻。地平線的BPUBrain Processing Unit對(duì)卷積類操作有深度優(yōu)化。因此這個(gè)參考算法極有可能采用了一種重參數(shù)化卷積網(wǎng)絡(luò)或高效CNN架構(gòu)作為主干例如RepVGG、GhostNet的變體或者地平線自研的、針對(duì)BPU指令集特化過(guò)的基礎(chǔ)網(wǎng)絡(luò)結(jié)構(gòu)。這類網(wǎng)絡(luò)在訓(xùn)練時(shí)可能結(jié)構(gòu)復(fù)雜多分支但在部署時(shí)可以通過(guò)結(jié)構(gòu)重參數(shù)化轉(zhuǎn)換為單一的直連卷積從而獲得極高的推理速度。注意在嘗試替換主干網(wǎng)絡(luò)時(shí)務(wù)必考慮其與后續(xù)View Transformer模塊的兼容性。有些Transformer-based的View Transformer如BEVFormer與CNN主干的配合可能需要調(diào)整特征圖的尺度或通道數(shù)。直接套用可能破壞原有的設(shè)計(jì)平衡。多尺度特征融合目標(biāo)有大有小車道線細(xì)長(zhǎng)這就要求主干網(wǎng)絡(luò)能提供多尺度的特征圖例如1/8, 1/16, 1/32下采樣率。參考算法會(huì)精心設(shè)計(jì)一個(gè)特征金字塔網(wǎng)絡(luò)FPN或雙向特征金字塔BiFPN來(lái)融合這些多尺度特征。這里的一個(gè)實(shí)操技巧是在融合時(shí)可以為不同尺度的特征分配可學(xué)習(xí)的權(quán)重如BiFPN讓網(wǎng)絡(luò)自動(dòng)學(xué)習(xí)哪些尺度對(duì)后續(xù)的BEV生成和不同任務(wù)更重要。在部署時(shí)這些額外的加權(quán)操作可能會(huì)增加一些開銷需要評(píng)估其帶來(lái)的精度收益是否值得。3.2 稀疏BEV查詢生成與視圖變換這是整個(gè)算法的核心創(chuàng)新點(diǎn)所在也是“Sparse”一詞的落腳點(diǎn)。稀疏查詢的初始化算法不會(huì)創(chuàng)建一個(gè)覆蓋全場(chǎng)景的密集BEV網(wǎng)格而是初始化一組固定數(shù)量比如900個(gè)的可學(xué)習(xí)參數(shù)每個(gè)參數(shù)稱為一個(gè)“查詢”Query。每個(gè)查詢可以理解為一個(gè)“虛擬的智能體”它被賦予了一個(gè)初始的3D空間參考位置x, y, z和一個(gè)特征向量。這些初始位置可以是均勻分布在感興趣區(qū)域內(nèi)的錨點(diǎn)也可以是純粹可學(xué)習(xí)、由數(shù)據(jù)驅(qū)動(dòng)的?;趫D像的查詢細(xì)化初始的查詢是“盲目的”。接下來(lái)這些查詢需要與多攝像頭的圖像特征進(jìn)行交互從而獲取視覺(jué)信息并細(xì)化自身。這個(gè)過(guò)程通常通過(guò)交叉注意力Cross-Attention機(jī)制實(shí)現(xiàn)每個(gè)查詢通過(guò)相機(jī)參數(shù)投影到所有攝像頭的圖像平面上找到其對(duì)應(yīng)的圖像區(qū)域。查詢的特征向量與對(duì)應(yīng)圖像區(qū)域的特征進(jìn)行交叉注意力計(jì)算。查詢作為“問(wèn)詢者”圖像特征作為“被檢索的信息源”。通過(guò)注意力機(jī)制查詢從圖像中聚合最相關(guān)的特征更新自身的特征表示同時(shí)也可能微調(diào)其3D位置如果設(shè)計(jì)允許。這個(gè)過(guò)程是稀疏的因?yàn)橹挥羞@有限數(shù)量的查詢參與計(jì)算而不是所有BEV網(wǎng)格。輸出稀疏BEV特征經(jīng)過(guò)多輪通常是幾層Transformer Decoder層與圖像特征的交互后這組查詢就攜帶了豐富的、基于視覺(jué)的3D場(chǎng)景信息。它們的特征集合就構(gòu)成了我們需要的稀疏BEV特征。相比于400x400的密集網(wǎng)格900個(gè)查詢的特征數(shù)據(jù)量小了近兩個(gè)數(shù)量級(jí)。實(shí)操心得查詢數(shù)量的設(shè)置是一個(gè)關(guān)鍵的超參數(shù)。數(shù)量太少無(wú)法充分表達(dá)復(fù)雜場(chǎng)景會(huì)丟失小目標(biāo)或細(xì)節(jié)如遠(yuǎn)處車道線數(shù)量太多則稀疏化的收益降低。需要在實(shí)際數(shù)據(jù)集上進(jìn)行驗(yàn)證。一個(gè)實(shí)用的方法是分析場(chǎng)景中目標(biāo)分布的密度讓查詢數(shù)量略高于平均每幀的目標(biāo)數(shù)并留有一定余量。3.3 多任務(wù)頭設(shè)計(jì)與損失函數(shù)工程在得到稀疏的BEV特征后不同的任務(wù)頭將在此基礎(chǔ)上進(jìn)行解碼。這是體現(xiàn)“Multitask”設(shè)計(jì)水平的關(guān)鍵環(huán)節(jié)。3D目標(biāo)檢測(cè)頭由于BEV特征是稀疏的傳統(tǒng)的基于密集錨框Anchor的檢測(cè)器不再適用。通常采用基于查詢的檢測(cè)頭。每個(gè)BEV查詢本身就蘊(yùn)含了一個(gè)潛在目標(biāo)的位置和特征信息。檢測(cè)頭通常由幾個(gè)全連接層MLP組成直接對(duì)每個(gè)查詢進(jìn)行分類是車、人、自行車等和邊界框回歸中心點(diǎn)偏移、尺寸、朝向。這種“一對(duì)一”的預(yù)測(cè)方式避免了后處理中復(fù)雜且耗時(shí)的非極大值抑制NMS或者只需要很輕量級(jí)的NMS進(jìn)一步提升了效率。語(yǔ)義分割頭可行駛區(qū)域、車道線分割任務(wù)需要輸出每個(gè)BEV位置的類別標(biāo)簽這似乎又回到了密集預(yù)測(cè)。這里有兩種主流策略渲染法利用稀疏BEV查詢的特征和其對(duì)應(yīng)的3D位置通過(guò)一個(gè)輕量級(jí)的解碼器如幾層反卷積網(wǎng)絡(luò)“渲染”出密集的BEV分割圖。因?yàn)椴樵円呀?jīng)包含了關(guān)鍵信息這個(gè)渲染過(guò)程可以做得比較輕量。查詢直接預(yù)測(cè)法將BEV空間預(yù)先劃分為一個(gè)粗糙的網(wǎng)格比如40x40每個(gè)網(wǎng)格單元分配一個(gè)或多個(gè)查詢。分割頭直接預(yù)測(cè)每個(gè)查詢所負(fù)責(zé)的網(wǎng)格單元的類別。這種方法更省計(jì)算但分辨率較低。損失函數(shù)平衡術(shù)這是多任務(wù)訓(xùn)練中最棘手的部分。損失通常由三部分組成L_total w_det * L_det w_seg * L_seg w_lane * L_lane。L_det檢測(cè)損失常用Focal Loss分類和L1/L2損失回歸。L_seg分割損失常用帶權(quán)重的交叉熵?fù)p失或Dice Loss以處理類別不平衡道路區(qū)域遠(yuǎn)大于障礙物。L_lane車道線損失因其細(xì)長(zhǎng)結(jié)構(gòu)可能使用特定損失如親和力損失Affinity Loss。手動(dòng)調(diào)整權(quán)重w_*非常耗時(shí)。參考算法很可能采用了動(dòng)態(tài)損失加權(quán)策略例如不確定性加權(quán)為每個(gè)任務(wù)的損失學(xué)習(xí)一個(gè)可訓(xùn)練的參數(shù)對(duì)數(shù)方差讓任務(wù)難度大的自動(dòng)獲得較小的權(quán)重。GradNorm在訓(xùn)練過(guò)程中動(dòng)態(tài)調(diào)整權(quán)重使得各任務(wù)損失的梯度幅度相近。 我個(gè)人的經(jīng)驗(yàn)是在項(xiàng)目初期可以使用不確定性加權(quán)快速得到一個(gè)基線然后基于驗(yàn)證集上各任務(wù)的表現(xiàn)進(jìn)行微調(diào)。要密切關(guān)注一個(gè)任務(wù)精度快速提升時(shí)是否以另一個(gè)任務(wù)的顯著下降為代價(jià)。4. 基于地平線平臺(tái)的部署與優(yōu)化實(shí)踐4.1 模型量化與BPU適配地平線征程芯片的核心是其BPU。要讓PyTorch或TensorFlow訓(xùn)練出的浮點(diǎn)模型在BPU上高效運(yùn)行必須經(jīng)過(guò)模型量化和編譯器優(yōu)化。量化流程詳解量化是將模型權(quán)重和激活值從高精度如FP32轉(zhuǎn)換為低精度如INT8的過(guò)程能大幅減少內(nèi)存占用和加速計(jì)算。地平線提供了完整的量化工具鏈如天工開物工具鏈。流程一般如下校準(zhǔn)準(zhǔn)備一個(gè)代表性的數(shù)據(jù)集驗(yàn)證集的一部分讓浮點(diǎn)模型在“校準(zhǔn)模式”下運(yùn)行。工具會(huì)統(tǒng)計(jì)每一層激活值的分布最大值、最小值、直方圖為后續(xù)確定量化參數(shù)scale, zero_point做準(zhǔn)備。量化感知訓(xùn)練QAT可選但強(qiáng)烈推薦在訓(xùn)練的最后幾個(gè)epoch在模型中插入“量化模擬器”QAT。前向傳播時(shí)模擬INT8計(jì)算的效果反向傳播仍用FP32。這能讓模型權(quán)重主動(dòng)適應(yīng)量化帶來(lái)的誤差是保證量化后精度不掉點(diǎn)的最關(guān)鍵步驟。參考算法應(yīng)該提供了對(duì)應(yīng)的QAT訓(xùn)練配置。模型轉(zhuǎn)換使用地平線提供的編譯器如hb_mapper將訓(xùn)練好的模型可能是QAT后的轉(zhuǎn)換成BPU支持的指令序列文件.bin。避坑指南量化最容易出問(wèn)題的是那些激活值分布范圍大或不穩(wěn)定的層例如注意力機(jī)制中的Softmax輸出、某些激活函數(shù)如Swish之后。在參考算法中稀疏交叉注意力模塊需要特別關(guān)注。在地平線工具鏈中通常支持分層量化可以為這些敏感層單獨(dú)設(shè)置更高的量化位數(shù)如保持FP16或使用更精細(xì)的校準(zhǔn)方法如KL散度校準(zhǔn)。算子支持與定制BPU有其支持的算子列表。參考算法中使用的所有操作如變形后的稀疏注意力、特定的插值操作都必須落在支持列表中或者能夠被等價(jià)分解為一系列支持的操作。如果使用了不支持的算子就需要進(jìn)行算子替換或子圖重寫。地平線的工具鏈通常提供了常見算子的替代實(shí)現(xiàn)方案。4.2 內(nèi)存與耗時(shí)瓶頸分析即使算法本身是稀疏的在真實(shí)部署中仍需警惕內(nèi)存和耗時(shí)瓶頸。內(nèi)存占用分析模型權(quán)重INT8量化后模型本身大小會(huì)顯著減少。主要關(guān)注點(diǎn)在于模型中間激活值A(chǔ)ctivation占用的內(nèi)存。稀疏算法雖然減少了BEV特征的內(nèi)存但圖像主干網(wǎng)絡(luò)產(chǎn)生的多尺度特征圖仍然是內(nèi)存消耗的大頭。工具鏈的編譯報(bào)告會(huì)詳細(xì)列出每一層的輸出張量大小。輸入輸出緩沖區(qū)多路高清攝像頭如1280x720的輸入數(shù)據(jù)以及多個(gè)任務(wù)檢測(cè)框、分割圖的輸出數(shù)據(jù)也需要預(yù)留連續(xù)的內(nèi)存空間。優(yōu)化策略利用BPU的內(nèi)存復(fù)用機(jī)制至關(guān)重要。編譯器會(huì)嘗試讓不同層的臨時(shí)輸出共享同一塊內(nèi)存區(qū)域。在模型結(jié)構(gòu)設(shè)計(jì)時(shí)有意識(shí)地讓網(wǎng)絡(luò)的計(jì)算圖更“整潔”減少長(zhǎng)距離的跳躍連接有助于編譯器進(jìn)行更優(yōu)的內(nèi)存規(guī)劃。推理耗時(shí)剖析工具鏈生成的性能分析報(bào)告會(huì)給出每個(gè)算子的耗時(shí)。需要重點(diǎn)關(guān)注卷積層尤其是主干網(wǎng)絡(luò)中的大kernel深度可分離卷積通常是耗時(shí)主力。自定義/稀疏操作如果稀疏注意力是通過(guò)一系列基礎(chǔ)算子組合實(shí)現(xiàn)的其整體效率需要評(píng)估。可能需要在算法設(shè)計(jì)階段就采用BPU友好的稀疏計(jì)算模式。后處理檢測(cè)頭的輸出解碼、車道線的多項(xiàng)式擬合等CPU側(cè)的后處理也可能在整體Pipeline中占據(jù)可觀比例不能忽視。一個(gè)實(shí)用的技巧是進(jìn)行端到端E2E性能評(píng)測(cè)即從接收?qǐng)D像數(shù)據(jù)到輸出感知結(jié)果的總時(shí)間。這包括了數(shù)據(jù)預(yù)處理縮放、歸一化、BPU推理、結(jié)果后處理等所有環(huán)節(jié)。只有E2E延遲滿足要求如100ms算法才算真正可用。4.3 多任務(wù)輸出后處理與同步模型在BPU上跑完輸出的是原始的張量數(shù)據(jù)需要經(jīng)過(guò)后處理才能變成應(yīng)用層可用的信息。檢測(cè)輸出處理基于查詢的檢測(cè)頭輸出通常是一個(gè)列表每個(gè)查詢對(duì)應(yīng)一個(gè)預(yù)測(cè)結(jié)果類別得分、邊框參數(shù)。后處理包括得分過(guò)濾根據(jù)置信度閾值如0.3過(guò)濾掉低質(zhì)量預(yù)測(cè)。邊框解碼將預(yù)測(cè)的偏移量解碼為實(shí)際的3D框中心點(diǎn)、長(zhǎng)寬高、朝向。輕量級(jí)NMS由于查詢?cè)O(shè)計(jì)已經(jīng)減少了冗余可能只需要一個(gè)簡(jiǎn)單的、基于3D IoU的NMS即可。分割輸出處理如果分割圖是密集渲染的后處理主要是取argmax獲得每個(gè)像素的類別ID。如果是查詢預(yù)測(cè)的粗糙網(wǎng)格可能需要一個(gè)簡(jiǎn)單的上采樣或插值來(lái)匹配所需的分辨率。關(guān)鍵挑戰(zhàn)——輸出同步檢測(cè)結(jié)果是物體列表分割結(jié)果是二維網(wǎng)格車道線可能是另一套參數(shù)化表示。如何保證這些輸出在時(shí)間和空間上是同步的例如檢測(cè)框的底部應(yīng)該落在可行駛區(qū)域分割圖內(nèi)。這要求所有任務(wù)頭共享完全相同的BEV空間坐標(biāo)系和時(shí)序輸入。在后處理模塊中有統(tǒng)一的時(shí)鐘和幀管理確保處理的是同一時(shí)刻的數(shù)據(jù)。 參考算法的框架應(yīng)該已經(jīng)考慮了這一點(diǎn)提供了統(tǒng)一的結(jié)果封裝接口。在集成到更大的自動(dòng)駕駛系統(tǒng)中時(shí)需要確保從這個(gè)接口獲取的是自洽的一幀感知結(jié)果。5. 復(fù)現(xiàn)環(huán)境搭建、調(diào)試與常見問(wèn)題排查5.1 從零開始搭建復(fù)現(xiàn)環(huán)境復(fù)現(xiàn)官方參考算法是理解它的第一步。環(huán)境配置是第一個(gè)攔路虎?;A(chǔ)環(huán)境配置# 1. 創(chuàng)建并激活conda環(huán)境強(qiáng)烈推薦 conda create -n sparse_bev python3.8 -y conda activate sparse_bev # 2. 安裝PyTorch版本需嚴(yán)格匹配地平線工具鏈要求如1.10.0cu113 pip install torch1.10.0cu113 torchvision0.11.0cu113 -f https://download.pytorch.org/whl/torch_stable.html # 3. 安裝地平線開發(fā)套件以Horizon OpenExplorer為例 # 通常需要從地平線官方渠道獲取安裝包例如 pip install openexplorer-xxx.whl # 具體包名和版本以官方文檔為準(zhǔn) pip install hbdk-xxx.whl # 模型編譯工具項(xiàng)目代碼與依賴從地平線官方Git倉(cāng)庫(kù)或提供的壓縮包獲取SparseBevFusionMultitaskOE-V1.0源代碼。進(jìn)入項(xiàng)目根目錄安裝其特定的Python依賴pip install -r requirements.txt。這里經(jīng)常會(huì)出現(xiàn)版本沖突。特別注意項(xiàng)目可能依賴一些定制化的CUDA算子如Deformable Attention的實(shí)現(xiàn)。需要按照項(xiàng)目README中的說(shuō)明使用python setup.py build_ext --inplace進(jìn)行編譯。編譯失敗通常是CUDA版本、PyTorch版本或編譯器如g不匹配導(dǎo)致的。數(shù)據(jù)集準(zhǔn)備算法通常基于NuScenes、Waymo Open Dataset或自有的標(biāo)注數(shù)據(jù)集。需要下載數(shù)據(jù)集至指定路徑。運(yùn)行項(xiàng)目提供的預(yù)處理腳本將原始數(shù)據(jù)轉(zhuǎn)換為項(xiàng)目約定的格式如.pkl或.bin文件。在配置文件中修改數(shù)據(jù)集路徑。踩坑實(shí)錄最常遇到的問(wèn)題是“內(nèi)存溢出”。尤其是在數(shù)據(jù)加載或模型前向傳播時(shí)。除了檢查硬件內(nèi)存是否足夠更應(yīng)檢查代碼中是否存在不必要的緩存。例如數(shù)據(jù)加載器是否使用了過(guò)大的num_workers導(dǎo)致內(nèi)存翻倍在訓(xùn)練腳本中是否在每個(gè)epoch結(jié)束后沒(méi)有及時(shí)釋放不再需要的變量可以使用torch.cuda.empty_cache()進(jìn)行手動(dòng)清理但這只是治標(biāo)。治本之策是優(yōu)化數(shù)據(jù)流和減少單次加載的數(shù)據(jù)量。5.2 訓(xùn)練過(guò)程中的典型問(wèn)題與調(diào)參即使環(huán)境搭好了訓(xùn)練過(guò)程也可能一波三折。損失震蕩或NaN現(xiàn)象訓(xùn)練初期損失值劇烈跳動(dòng)或突然變成NaN。排查學(xué)習(xí)率過(guò)高這是首要懷疑對(duì)象。多任務(wù)模型對(duì)學(xué)習(xí)率更敏感。嘗試將初始學(xué)習(xí)率降低一個(gè)數(shù)量級(jí)例如從1e-3降到1e-4。數(shù)據(jù)異常檢查數(shù)據(jù)預(yù)處理特別是歸一化Normalization的參數(shù)mean, std是否正確。是否有破損的圖像或標(biāo)注梯度爆炸在反向傳播計(jì)算梯度時(shí)可以使用torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm1.0)進(jìn)行梯度裁剪。損失權(quán)重不當(dāng)如果某個(gè)任務(wù)的損失值遠(yuǎn)大于其他任務(wù)可能導(dǎo)致梯度主導(dǎo)?;仡檮?dòng)態(tài)損失加權(quán)的設(shè)置或手動(dòng)調(diào)整到一個(gè)更平衡的初始值。某個(gè)任務(wù)性能始終很差現(xiàn)象檢測(cè)精度尚可但分割mIoU極低或者反過(guò)來(lái)。排查任務(wù)頭能力不足可能是分割頭或檢測(cè)頭的網(wǎng)絡(luò)容量層數(shù)、通道數(shù)不夠。嘗試輕微增加其復(fù)雜度。特征共享沖突這可能是根本原因??梢試L試在共享主干網(wǎng)絡(luò)和任務(wù)頭之間插入任務(wù)特定適配層。例如為分割任務(wù)和檢測(cè)任務(wù)分別設(shè)計(jì)一個(gè)輕量的卷積模塊讓它們從共享特征中提取出更適合自己的特征再輸入各自的任務(wù)頭。這增加了少量參數(shù)但能有效緩解沖突。數(shù)據(jù)標(biāo)注質(zhì)量仔細(xì)檢查該任務(wù)標(biāo)注數(shù)據(jù)的質(zhì)量。分割的邊界是否模糊檢測(cè)框是否準(zhǔn)確過(guò)擬合現(xiàn)象訓(xùn)練集損失持續(xù)下降驗(yàn)證集損失早早就停止下降甚至上升。對(duì)策數(shù)據(jù)增強(qiáng)加強(qiáng)數(shù)據(jù)增強(qiáng)策略如隨機(jī)裁剪、顏色抖動(dòng)、Mosaic等。對(duì)于BEV任務(wù)在圖像空間做增強(qiáng)要謹(jǐn)慎需同步考慮其對(duì)相機(jī)參數(shù)和BEV空間映射的影響。更安全的增強(qiáng)是在BEV空間進(jìn)行如隨機(jī)旋轉(zhuǎn)、平移。正則化增加Dropout層、權(quán)重衰減Weight Decay。早停監(jiān)控驗(yàn)證集指標(biāo)當(dāng)連續(xù)多個(gè)epoch不再提升時(shí)停止訓(xùn)練。5.3 模型轉(zhuǎn)換與部署驗(yàn)證問(wèn)題訓(xùn)練出一個(gè)精度不錯(cuò)的模型只是成功了一半能否成功部署到芯片上才是終極考驗(yàn)。量化精度損失過(guò)大現(xiàn)象浮點(diǎn)模型mAP為70%量化后模型在驗(yàn)證集上掉到65%以下。排查與解決校準(zhǔn)集不具代表性確保校準(zhǔn)集能覆蓋各種場(chǎng)景白天/黑夜、晴天/雨天、擁堵/暢通。校準(zhǔn)集數(shù)據(jù)量不宜過(guò)少通常需要幾百?gòu)堄写硇缘膱D片。敏感層處理使用工具鏈的分析功能找出量化誤差最大的層。嘗試對(duì)這些層使用定點(diǎn)-浮點(diǎn)混合精度即保持其FP16精度。QAT是關(guān)鍵務(wù)必進(jìn)行充分的量化感知訓(xùn)練。檢查QAT訓(xùn)練時(shí)模擬量化的配置如量化位寬、對(duì)稱/非對(duì)稱是否與最終部署的配置完全一致。使用更先進(jìn)的量化策略探索工具鏈?zhǔn)欠裰С謩?dòng)態(tài)范圍量化或通道級(jí)量化這些方法比傳統(tǒng)的層級(jí)靜態(tài)量化更精細(xì)可能帶來(lái)更好的精度保持。編譯失敗或編譯后模型錯(cuò)誤現(xiàn)象hb_mapper編譯過(guò)程中報(bào)錯(cuò)或編譯出的.bin模型在仿真器上運(yùn)行結(jié)果異常。常見原因不支持的操作符模型中使用了一個(gè)BPU不支持的PyTorch操作。需要根據(jù)錯(cuò)誤信息在代碼中找到該操作并按照地平線提供的算子替換指南進(jìn)行修改。常見需要替換的包括某些特殊的插值模式、自定義的激活函數(shù)等。張量形狀動(dòng)態(tài)模型中存在根據(jù)輸入數(shù)據(jù)動(dòng)態(tài)決定形狀的操作如非固定數(shù)量的查詢。BPU通常需要靜態(tài)圖。需要修改代碼將動(dòng)態(tài)性移除例如設(shè)置一個(gè)固定的最大查詢數(shù)量并用掩碼mask表示有效查詢。中間輸出檢查在編譯前使用工具鏈的check_model功能對(duì)比PyTorch模型和轉(zhuǎn)換后模型在相同輸入下的逐層輸出。如果某層開始出現(xiàn)巨大偏差問(wèn)題就出在這一層或之前。部署后性能不達(dá)標(biāo)現(xiàn)象模型在芯片上運(yùn)行的幀率FPS低于預(yù)期。性能分析使用性能分析工具地平線工具鏈通常提供性能分析工具可以生成詳細(xì)的時(shí)間線顯示每個(gè)算子的耗時(shí)。找出最耗時(shí)的“熱點(diǎn)”算子。優(yōu)化數(shù)據(jù)搬運(yùn)在預(yù)處理CPU和后處理CPU與模型推理BPU之間數(shù)據(jù)搬運(yùn)DDR訪問(wèn)可能成為瓶頸。確保使用零拷貝或高效的內(nèi)存接口。模型輕量化如果某些算子耗時(shí)過(guò)高考慮是否能用更高效的算子組合替代?;蛘咴诰瓤山邮艿姆秶鷥?nèi)是否可以進(jìn)一步減少主干網(wǎng)絡(luò)的深度、寬度或者減少稀疏查詢的數(shù)量。Pipeline優(yōu)化如果是多攝像頭輸入是否可以并行處理多個(gè)攝像頭的預(yù)處理模型推理和前后處理是否可以流水線化隱藏部分延遲這需要系統(tǒng)級(jí)的架構(gòu)設(shè)計(jì)。在整個(gè)復(fù)現(xiàn)和部署的旅程中保持耐心和細(xì)致的日志記錄至關(guān)重要。每一個(gè)報(bào)錯(cuò)信息都是線索每一次性能分析都是優(yōu)化機(jī)會(huì)。地平線的這個(gè)參考算法提供了一個(gè)高起點(diǎn)但真正讓它在你自己的產(chǎn)品中發(fā)揮威力還需要大量的工程打磨和場(chǎng)景適配。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
综合色、色综合| 99色综合久久| Va另类视频| 国产AV一区二区三区最新精品| 日本狠狠爽| 色婷婷六月| 激情婷婷综合| 久久新地址| 国产日韩欧美| 色色激情五月| 亚洲成人黄色网| 99啪啪网| 99热在线网站| 99自拍视频| 成年人看Va免费视频| 欧美 日韩 成人在线| 亚洲中文字幕AV| 66久久视频在线| 天天日P天天射P| WWW.婷婷五月天.COM| 99久热这里有精品| 色综合久久久久| 91色综合网站在线| 亚洲亚洲人成综合网络| 色五月激情五月| 久久婷婷五月天综合| 亚洲欧美综合7777色婷婷| 亞洲自怕| 婷婷婷狠狠| 欧美人人操| 激情婷婷丁香色情五月天| 五月天天堂久久| 激情综合丁香六| 97碰久久| 男人天堂99| 婷婷丁香五月天在线| 99亚洲精品视频在线观看| 色吧网综合| 激情综合五月| 天天综合网91| 综合五月天| 五月婷婷影视| 九九久久综合网站| 国产片色| 天天狠狠色综合| 五月色网| 激情网站五月| 五月婷婷丁香大陆免费| 欧洲亚洲激情五月天在线| 色情性爱视频网址| 色色自拍视频网站| 五月综合婷婷开心网| 日韩在线视频网站| 大香蕉婷婷色| www.xtbsty.cn.com蜜乳AV| 丁香五月婷婷亚洲另类| 五月丁香花激情综合网| 永久无码色| 久久久大香蕉| 丁香五月 综合| 97五月天婷婷综合激情网| 丁香五月天天| 天天做天天爱天天综合| 色婷五月天激情| 五月开心激情网| 天天草狠狠擦| 五月天婷网| 色五月丁香激情视频| 激情综合五月激情XXXX| 日日射天天射| 丁香五月婷老师| 婷婷丁香人妻天天久久| 色婷婷精品视频| 人人草人| 91日日日| 九九热精品| 亚洲综合激情五月久久| 被强行糟蹋的女人A片| 99热啪啪| 丁香九色不卡aaa| 日韩aⅴ视频| Av在线资源| 天综合日日夜综合7799| 九月激情网| 成人丁香五月| 激情五月婷婷在线| 99久在线精品| 成人精品视频99在线观看免费| 极品少妇XXXX精品少妇偷拍 | 欧美色骚婷婷五月天| 丁香六月天婷婷在线| 日韩好吊操| 精品综合五月| 丁香婷婷六月天| 影音先锋一区二区三区| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 神马欧美精| www五月天激情com| 亚洲精品成人| 婷婷五月另类网站| 日韩成人电影在线播放| 婷婷五月色综合| 丁香婷婷视频一区二区| 五月丁香色婷婷| 色五月婷婷影院| 91操在线视频| 精品婷婷丁香五| 国产熟女一区二区三区五月婷| 97碰| 久久久婷丁香五月| 欧美五月婷婷| 99精品视频免费观看| 中国丰满熟女A片免费观| 香蕉97碰碰碰欧美| 思思热天天看| 伊人玖玖精品| 夜色爱爱亚洲| 婷婷五月天激情综合| 天天日日| 九九色精品| 亚洲六月婷| 婷婷月综合| 精品夜夜澡人妻无码AV| 依人大香蕉| 国产色99| 色五月丁香com| 婷婷丁香五另类网站| 激情纯色婷婷五月天在线不卡视频| 99精品小视频| 色婷青青| 久热这里精品免费| 丁香五月成人| 热中文字幕| 久久丁香五月婷| 99热这里有精品| 久99精品视频| WWW五月| 久色| 丁香五月天在线观看视频| 婷婷丁香五月高清| 九九九九九九热| 婷婷色五月开心五月| 99热无码精品| A久久| 大香蕉网站,大香蕉综合| 五月丁香久久激情网| 色婷婷久久综合| 六月丁香AV| 五月丁香综合| 成人va视频| 大香蕉手机视频| 五月婷婷丁香啪啪| 日本天堂免费99| 97成人视频| 婷婷六月丁香综合| 思思久久99热| 国产亚洲99久久精品| 久久婷婷色情7777网站| 99ri国产| 色婷婷黄色网络| 色玖玖综合网| 久青青久| 亚洲亚洲人成综合网络| 激情五月色综合国产精品| 亚洲精品成人| 另类图片五月天婷婷| 久久五月天综合| 久久婷五月| 激情伊人| 综合久色五月| 大大香蕉综合在线| 中文在线成人| 《诡秘之主》在线观看 | 无码少妇高潮喷水A片免费| 精品人人操| 99激情网| 激情五月丁香色婷婷| 操人无码| 五月丁香花婷婷玉莉AV| 1024成人在线观看| www.婷婷五月| 日本成人噜噜| 偷拍91九色| 婷婷娌伦网| 丁香五月婷婷综合精品素人| 97色色色色色| 日日日影院| 五月婷狠狠| 91精品综合久久久久久五月丁香 | 丁香五月乱中文字幕| 激情综合丁香| 九九色婷婷| 天天肏屄夜夜爽| 另类少妇人与禽zOZZ0性伦| 国产阿姨日皮艹逼内射视频| 九九热内射| 五月婷婷官网色| 久久婷婷桃花五月天| 成人丁香五月天| 久久99久久99精品免观看粉嫩| 91综合国免费久入| 99成人无码| 亚洲成人综合网在线免费观看| 青青草五月天| 天天干,噜噜色,狠狠色| 久久婷五月综合| 婷婷五月影院| 色五月五月天色婷婷色五月| 九九热99精品在线| 成人看片网站| 18久久| 97色色综合| 激情婷婷五月天网址| 天天操天天干天天射| 99精品网| 婷婷丁香五月天在线| 玖玖激情五月天| 综合逼五月激情婷婷| 91聚色综合网| 色欲天天综合网| 99爱无码| 天天日狠狠| 牛牛色av| 超碰只有精品在线| 色色色色综合网| 久久婷婷五月综合伊人| 国产一区男女| 婷婷五月天激情四射五月天激情| www91久久| 国产午夜精品AV一区二区麻豆 | 婷婷色网址| 五月丁香狠狠爱| 亚洲无码九九| 激情五月丁香在线观看直播| 婷婷九月| 玖玖爱伊人| 大大香蕉综合在线| 久久久高清| 婷婷99狠狠| 九九亚洲视频| 婷婷五月天美女视频| caop在线视频| 天天插天天爱| 婷婷五月天在线观看第二页| 另类小说五月天激情| 97碰久久| 大香蕉五月天婷婷| 五月丁香啪啪综合| 99re在线视频| 99riAV国产精品视频| 久草免费福利视频| 伊人五月婷| 能看的av| 精品一二三区久久AAA片| 99热99美国在线观看| 另类图片婷婷五月天| 天天拍夜夜撸| 欧美天天综合网站上去吧| 亚洲天堂啪啪| 五月丁香激情啪啪| 婷婷激情丁香五月天综合| 996精品热视频| 婷婷丁香五月天之开心少妇| 91九色 熟| 被强行糟蹋的女人A片| 亚洲色五月| 婷婷五月天激情网| 国産精品| 色中色综合| 色综合网址| 在线看片av| 日韩久久色| 五月婷婷五月| 国产成人网址| 日本精品人妻无码77777| 婷婷五月天av| 蜜臀av 粉嫩av 懂色av| 久久色午夜在线导航| 97丁香视频| 婷婷综合干| 九 九九九AV| 色图亚洲91| 大香蕉婷婷婷| 激情图片婷婷丁香五月| 色五月婷色彩免播放器| 婷婷六月网| 69er小视频| 久久这里只有精品视频26| 婷婷激情五月综合丁香社| 夜夜夜叫天天天做| www.五月天婷婷| 97超碰在线免费观看| 亚洲无码11| 色色色色综合网| 99碰碰| 97五月婷| 天天久综合网永久入口17v| 日本99热| 天天精品视频在线观看视频| 一级二级色大片| 五月丁香婷中文| 99精品热| 激情婷| 丁香五月天黄色片| 亚洲婷婷成人五月天| 久久五月天激情| www.久久爱.com| 五月天色区| 亚洲成人在线在线| 九九九九国产| 美女妹子后射视频网站在线观看| 狠狠干狠狠色| 亚洲视频另类| 日日操夜夜爽天天天| 亚洲色无码| 久久电影4399| 99精品丰满| 国产9色在线/日韩| 亚洲六月色| 67194成I人在线观看线路1| 操91| 天天摸天天肏| 深爱五月激情五月| 久久99热网| 五月丁香综合成人社区| 五月天激情久色| 黄色成人网站在线播放| 成人国产网| 久久性爱视频| 99爽视频| 人妖色AV色综合| 欧美va精品va老师va| 婷婷亚洲欧美丁香五月| 国产看真人毛片爱做A片| 天天干天天曰天天射| 涩涩五月天综合| 可以看的av网站| 丁香六月综合激情| 婷婷色中文字幕| 婷婷色五月丁香六月欧美啪| 婷婷五月天网| 操99| 色色丁香五月天| 狠狠色婷| 99色色最新视频| 99热9999| 人人性久久| 亚洲人人操BD| 五月丁香花成人社区| 另类视频一区| 在线视频你懂得| 久热AⅤ| 艹| 五月丁香色婷婷| 9有码中文| 噜噜久| 婷婷五月丁香综合亚洲| www.久久66| 婷婷色网| 婷婷五月天综合蜜桃| 97狠狠色| 狠狠操狠狠爱| 色五月激情五月| 综合久久影院| 超碰亚洲天堂| 99 r热| 亚洲中文字幕av| 国产日韩av片| 一区二区成人电影| 五月天婷婷色色| 玖玖爱综合网| 九九99免费视频| 婷婷成人五月天| 日韩无码系列| 色婷婷免费观看| 六月婷婷啪啪| 成人精品在线| 精品网站99| AVDV久久| 停停色综合伊人| 丁香五月婷婷基地| 天天天摸夜夜夜玩| 操日本色| 欧美色久| 亚洲激情亚洲激情| 噼里啪啦在线观看免费完整版视频 | 亚洲射激情| 日本操天堂| 激情综合激情五月| 在线成人国产| 99玖玖免费视频| 五月丁香久久网| 激情综合网五月| 蜘蛛女免费观看完整版高清电影| 色综合久久久无码中文字幕999| 五月婷婷综合色拍| www.久久婷婷| 91狠狠综合久久久久久| 九月色婷婷综合| 久久五月天 91| 亚欧州精品视频| 中文av网| 久热播这里只有精品| 丁香五月色色婷| 午夜爱爱网站| 五月天播播综合| 97碰碰叉| 97干97色| 亚洲精品色色色| 97ai婷婷| 欧美色五月| 丁香六月久| 六月丁香色色| www.超碰在线| 黄色av高清| 天天插天天干| 五月丁香六月婷婷不卡免费无码 | 久久精品性爱| 欧美激情 日韩无码 婷婷 五月天| 97很鲁在线视频| 五月天国产| 九九蜜臀精品| 亚洲AV无码一区二| 婷婷五月在线视频| 天天日本夜夜谢| 亚洲免费看片| 97艹| 亚洲五月天激情| 激情五月天www| 婷婷中文在线| 激情五月天婷婷色色色色色色色色色色色| 色播五月婷婷| 久久久人妻| 六月丁香成人| 另类图片激情五月| 久久婷婷在线| 婷婷五六月丁香| 婷婷综合一二三| 国产JK精品白丝AV在线观看| 丁香五月91| www.五月婷婷久久.com| 人妻人人操| 91免费试看| 99操碰| 天天插天天干| 99视频网| 久久久精久人妻| 天天开心天天色| 久久青青日本视频| 99惹 精品在线| 天天爽天天操| 五月婷婷激情综合| 九九热re99re6在线精品| 丁香婷五月天| 日本色婷婷综合| 九九综合伊人| 欧美日比视频| 五月天天爽| 六月激情婷婷综合| 丁香激惜男女| 91操色| 天天插天天玩天天干| 伊人玖玖网| 情色五月天 网站| 老美AA片| 婷婷.com| 人五月天婷婷喷水| 97伦乱| 男人的天堂婷婷色五月| 狠狠婷婷色| 精品无码久久久久久久久| 色色色色热| 日本久久精品| 成人精品在线| 国产看真人毛片爱做A片| 婷婷六月啪啪| 99国产精品久久久久久久久久久| 97人人射| 91性交在线播放| 亚洲精品V天堂中文字幕| 人人播| 99热超碰在线| 色五月激情网| 日本视频不卡123区| 五月激情综合网| 开心激情网五月天| 一起草av| 伊人久久丁香狠狠婷婷综合香蕉 | 91色色色18| 色五月欧美| 一区三区视频有限公司| 色吧五月婷婷| 日本女天天爽| 激情五月天小说视频| 婷婷基地五月色| 日日懆天天懆| 欧洲色色| 婷婷五月天伊人网| 99视频在线观看地址| 激情内射人妻1区2区3区| 国产黄色在线| 综合色色综合| 99热九九这里只有精品| 男人综合网| 天天日天天操天天干| 日日肏夜夜干| 99热亚洲| 国产FREESEXVIDEOS性中国| 日韩精品视频中文字幕| 激情婷婷五月天丁香| 婷婷五月天久久综合88| 婷丁五月| 婷婷亚洲五月| 激情五月丁香五月| 精品五月花| 伊人久久大香蕉网| renrencaoav| 五月天综合激情网| 五月丁香天堂网| 欧洲电影在线观看免费版英语版| 亚洲婷婷丁香五月| 99re这里只有精品国产99| 成人狠狠成人狠狠成人狠狠成人狠狠| 人人摸人人澡人人| 白人荫道BBWBBB大荫道| 在线看黄色| 五月天婷婷综合久久| 颜射 精品性爱av| 五月花激情| 91超级碰碰| 99色热综合| 91人人网| 五月天婷婷爱| 5月婷婷综合| 99性感视频| 久久激情五月婷婷| 沈娜娜av| 五月婷婷狠天天色综合| 色综合久久88色综合天天看| 黄色中文字目| 狠狠五月激情在线| 久99久精品视频| 91精品国产综合久久久不卡电影| 激情黄色小说色五月| 天天天天天天天操| 久久香蕉网| 亚洲婷婷基地| 丁香五月成人社区| 久婷婷视平| 人人草成人视频| 亚洲精品永久久久久久| 丁香五月天久久| 九九热在线观看6| 亚洲va在线∨a天堂va欧美va| 久久大香蕉| 99riAV国产精品视频| 婷婷五月丁香久久| 人妻体体内射精一区二区| 99久久视频| 色五月天在线| 日本欧美成人片AAAA| 秋霞A V毛片| 深爱激清网| 搡BBBB搡BBB搡18 | 99热这里只有在线播放| 天天爽夜爽| 久99热在线观看| 五月婷婷激情视频| 最新婷婷五月丁香| 九九一综合精品| 五月婷婷啪啪| 色婷婷五月开心六月综合| 九九亚洲| www.99精品视频| 激情六月日韩| ww超碰在线| 3www激情| 五月婷婷婷色| 婷婷五月天激情网站| 亚洲精品第一色色色色色色| 青青草蜜臀| 婷婷五月色| 亭亭丁香aV| 天天色天天| 色 免费网站视频| 五月婷久久| 午夜激情婷婷| 亚洲中文乱字字幕在线永久| 性爱先锋AV| 五月激情小说网| 热九九在线| 91chinese在线| 精品网站99| 精品夜夜澡人妻无码AV| 深爱五月亚洲| 999九九九久久久99HD| 色婷婷丁香五月在线观看| 欧美日韩精品一区二区三区钱| 九九精品在线观看视频6| 禁片二区| 丁香婷婷九月| 婷婷丁香六月五月天| 香蕉AV福利精品导航| 97婷婷丁香五月天激情图片| 国产99久| 97婷婷丁香| 丁香五月综合高清在线| 国产偷人爽久久久久久老妇APP| 中文aV网| 久久香蕉婷婷| 色噜噜狠狠色综合日日| 1995年关宝慧版蜘蛛女| 色五月中文字幕| 激情婷婷丁香五月天| 色婷婷五月天中文字幕| 丁香五月婷婷国产av| 99这里只有精| 婷婷五月天成人五月天| 在线超碰免费| 久久久18| 日日操天天爽| 久久xxxx| 丁香婷婷激情四射五月| 开心五月激情网| 亚洲婷婷丁香五月视频| 伊人综合色干| 97在线观视频免费观看| 激情综合色婷婷啪啪六月天| 天天日夜夜B久久| 第四色色六月色综合| 激情五月丁香社区| 亚洲综合色五月| 久久多色| www网站在线观看| 五月婷婷色色| 丁香五月天成人网站| 99er精品| 丁香五月开心亚洲| 97操在线| 99热综合| 9热精品| 色 五月俺去也| 97五月久久丁香婷婷| 99热超碰在线| 激情综合激情综合| 久久久婷丁香五月| 亚洲啪啪啪啪| 欧美毛卡| 亚洲无码性爱| 亚洲精品无码一区二区| 久99久在线观看| 五月丁香六月花| 另类在线| 日本一级一片免费视频| 久草视频大香蕉99| 国产毛片精品一区二区色欲黄A片| 色噜噜狠狠色综合日日| 色五月开心开心五月激情五月| 乱码操操| 狼友超碰| 综合激情sV| 91操黄| 噼里啪啦完整版中文在线观看| 91丨九色丨白浆| 九九亚洲视频| 亚洲成人乱码av网站| 精品在线| 色五月婷婷中文字幕| 色婷婷AV在线| 99热全是精品| 小泽玛利亚视频一区二区| 青青草原亚洲久| 国产精产国品一二三在观看| 中文av网站| 九九九九毛片| 99re免费精品视频| 久久九区| 国产亚洲在线| 激情五月小说婷婷| 天天干狠狠| 久99久视频| A在线观看| www.色九月| 直接看的AV| 激情VA视频| 久久少妇视频| 婷婷五月丁香伊人| 天天综合中文| 激情第四色| 丁香六月婷婷色播| 激情婷婷久久| 伊人久久大香网| 欧美婷婷日本| 亚洲色婷婷五月天| 婷婷中文字幕| 婷婷五月天97干| 99色在线观看视频者| 久久艹 五月天| 久久综合五月天激情小说网站 | 日韩aaaaa| 日本va欧美va国产激情| 婷婷五月色| 成人在线观看国产| 综合久久综合五月天婷婷| 欧美三级级99久久| 五月天成人综合| WWW,激情五月天,COM| 另类五月婷婷| 天天射夜夜骑| 丁香五月在线播放| 东京热免费视频| 久久香蕉网| 青青草青青草五月天| 99操网站| 国产 亚洲 在线| 九九热视频网站| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 天天艹天天色| 婷婷丁香人妻天天爽| 亚洲激情综| 天天日天天舔| 亚洲九九99精品视频在线播放| 91丨九色丨国产打屁股网站| 色综合久久综合中文综合网| 激情综合五月激情| 丁香五月综合AV在线| 伊人www22综合色| 婷婷丁香久久| 男人天堂AV在线一区二区| 久久婷婷激情| www,婷婷五月天,com| 第四色大香蕉| 大地资源色婷婷视频在线| www99xxxx五月丁| 色九网| 开心五月综合| 五月婷婷激情网| 天天日天天爽| 秋霞少妇毛片| 九九这里有精品视频| 久久激情五月婷婷| 99啪啪视频| 色香蕉影院| 亞洲自怕| 五月婷婷高清| 狠狠色噜噜狠狠狠888| 五月天啪啪啪| 久操乱| 日韩色色色色色| 伊人成人宗合网| 婷婷丁香18| www.夜夜| 婷婷的色色五月天| 一二三区视频韩国| 99只有这里有精品在线视频| 99热啪啪| 精品99在线| 在线另类| 五月丁香六月激情| WWW色五月天| 亚洲成人在线五月天| 大香蕉综合| 色五月激情综合| 五月婷丁香亚洲| 六月婷久久| 91人人看| 97色伦另类图片小说视频| 99热这里只有精品9| 国产精产国品一二三在观看| 久热黄色| 亚洲日日日| 大香蕉久久视频久久视频| 激情久久五月天| 天天综合网亚洲网站| 九九热最新地址| 欧美久人人| 激情五月婷婷综合网| 五月婷在线观看| 久久婷婷五月天激情| www.丁香五月| 风流少妇A片一区二区蜜桃| 亚洲成人AV在线播放| 五月婷婷在线观看| 99久久九九视频| 99区视频| 欧美大肥婆大肥BBBBB| 五月婷婷激情刺激| 亚洲综合色色色| 久久综合激情| 亚洲啪啪啪啪| 五月婷婷丁香| 丁香五月天堂网| 久久婷婷五月丁香网| 操九色| 亚洲色图五月丁香| 操操自拍| 色色激情网| 91人人爽狠狠狠| 99超级碰免费视频| www.操.com| 色婷婷五月天av在线| 婷婷五月天丁香| 高潮毛片遮挡费高一百度| 天天爱天天操| 六月婷伊人| 国产看真人毛片爱做A片| 五月天五月色| 伊人九九九久| 久99久99精品免| 丁香婷婷九月| 九九热视频这里只有精品| 操操操www.com| 人妻体体内射精一区二区| www婷婷色情网| 色婷婷av综合网| 99热这里只有精品1| 色婷婷国产精品综合在线观看| 蜜臀av粉嫩av懂色av| 色9999日韩国产| 激情五月丁香五月| 五月丁香花激情综合网| 色色色色色色五月婷婷| 91九色丨国产丨爆乳| 亚洲精久久| 69超碰在线| 色情五月婷婷| 大香网伊人久久综合| 丁香六月啪啪| 色色色色色色色色色色色色色色,网站| 色月丁| 免费黄色视频网址| a v色婷婷| 中文av在线观看| 久久只有18视频| 啪啪啪五月天| 蜜乳人妻一区二区三区| www.婷婷五月| 夜丁香五月婷婷| 色色色国产| 人人人操 超碰| 亚洲人人操| 久久久久久天天日天天爱| 九月丁香婷婷网| 五月婷色色| 婷婷丁香五月天狠狠| 日韩黄色网络| 99噜噜噜在线播放| 久久99精品久久久久久三级| 色婷婷五月丁香在线观看| 丁香五月天堂亚洲社区| 亚洲激情综合网| 色五月婷婷天天操夜夜操| 亚洲啪啪网| 免费无码毛片一区二区A片| 色五月婷婷网| 人妻肉射免费观看| 91色在线/日韩| 67久久| 五月天婷婷激情小说电影| 欧美激情综合色丁香婷婷五月天| 色综合色| 日韩xx在线| 9色91视频| 久久香蕉影院| 五月婷婷五月丁香| 色狠狠综合网| 亚洲欧洲另类| 99热在线看片| 日韩欧美成人网| 色香蕉影院| 日韩人妻无码精品| 五月开心深爱激情网| 婷婷五月 丁香六月| WWW色色色COm| 天天操精品| 久草婷婷网 | 97久久超碰| 久超超碰| 国产精品热搜丁香五月婷婷| 爱草视频在线观看| 日本色道视频网站| 中文字幕成人影视| 怡春院天天干| 激情网 久久| JAPANRCEP老熟妇乱子伦视频| 色色色婷婷五月| 思思久久99| 五月丁香基地| 五月天综合区| 丁香五月天人体| 大香网伊人久久综合| 99热欧美偷拍| 婷婷狠狠狠爱| 五月婷婷亚洲综合在线| 五月伊人91| 国产做爰视频免费播放| 丁香五月激情综合| 五月天久久婷婷| 碰碰91| 99久在线观看| 婷婷激情性爱| 干一干xxxx| 99热在线观看| 天天爽天天| 综合久久99| 婷婷色正月| 天天综合在线网| www.日日夜夜.com| 五月丁香人妻| av五月天婷婷丁香| 色婷五月天激情| 综合久久六月| 99性色| 欧美丁香五月夫妻天| 丁香五月婷婷日本| 色婷婷精品视频| 五月婷婷深深爱| 欧美三级欧美一级| AV九九| av在线资源| 最近中文字幕2019视频1| 搡BBBB搡BBB搡18| 亚洲综合视频一下| 爱爱色五月天| er99免费视频在线| 性天天中文网| 久久九九热视频| 九色无码| 伊人啪啪网| 久久97| 五月桃花网综合| 伊人久热91| 黄色五月婷婷| 五月天婷婷色紫薇阁| 激情狠狠丁香月| 五月婷婷六月开心| 国产成人高清| 色五月播五月| 人妻日日日| 欧美123区免| 久久婷婷五月综合色奶水99啪| 120分钟婬片免费看| 五月丁香激情婷婷综合字幕| 涩婷婷五月天| 色综合网址| 丰满人妻一区二区三区| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 久久嘟嘟丁香| 99色激| 九九九九九九九热| 天天插天天射| 天天干夜晚夜操| 超碰人人操人人干| www.97视频| 狠狠干2007| 色吧婷婷| 五月激情五月婷婷五月天在线| 色五月婷婷丁香五月| 伊人久久99| 丁香婷婷激情| 99九九热视频免费| 六月激情综合| 人妻人人操| 91碰碰碰| 66久久视频在线| 日操夜操天天操不卡| 人人操AV| 99re熱| 怡红院AV亚洲一区二区三区H| 丁香六月婷婷高清| 亚洲成人精品三区| 久久久精品人妻| 9精品在线| 日本色五月| 色宗合久久五月婷婷| 国外亚洲成AV人片在线观看| 亚洲婷婷成人五月天| 91xxxx九色| 777色色色| 丁香五月综合图片在线观看| 97超喷视频在线观看| 久综合| 久久狠色噜噜狠狠狠狠97| 91日在线视频| 操人妻视频91| 婷综合| 午夜天堂一区人妻| 色狠久| 五月天社区| 99久久人妻精品无码二区| 另类图片婷婷五月天| 五月婷免费视频| 99热这里有精力| 天天干天天 亚洲| 久热9热| 色天堂97| 日本三级韩三级99久久| 婷婷六月久久综合导航| 五月婷婷综合激情网| 五月婷婷色在线| 碰碰91| 激情五月天色婷婷| www.zbzhongsen.com| 沈娜娜av| 激情五月天视频| 玖玖热视频| 激情99。| 天堂久久婷婷| 日韩乱轮AV| 五月天狠狠色| 亚洲、热| 婷婷亚洲日本| 大香婷婷| 99国产精品久久久久久久久久久| www.色婷婷.com| www.五月婷婷久久.com| 操操天堂| 在线不卡的视频| 激情综合五| www久久艹| 婷婷五月天在婷| 丁香五月六月久久综合 | 激情综合网激情五月网| 婷婷爱爱蜜臀天天操| 五月婷久久久久综合| wWW九九在线播放| 亚洲狠狠操| 五月丁香婷婷无码中文| 操日视频| 色色999三级片| 色墦五月丁香| 色色色干| 色婷婷五月天视频网站| 开心五月婷婷在线视频免费观看| 精品久热| 久久青草国| 色婷婷丁香五月| 在线中文字幕av| 五月天激情无码| site:jszngf.com| 九月婷婷综合网| 99re资源在线视频导航| 91狠狠综合久久| 性爱网五月天| 这里只有精彩视频| 我要看激情五月天| 五月丁香六月综合情在线观看| 亚洲第二AV| 99riAV成人在线视频| 无码激情AAAAA片-区区| 五月天激情影院| 天天日夜夜拍| 国产精品久久久久久白浆色欲| 婷婷在线激情| 日本熟女二区| 五月婷视屏在线观看| 国精产品久久| 小视频一区 | 秋霞三及片| 色色婷婷综合网| 色亚洲色宗合| 五月花成人网| 五月综合婷婷网| 99热这里只有精品手机在线观看| 五月天丁香六月综合| 婷婷色网站| 亚洲精品成人| 色区久久| 久热这里只精品| 一区色色色色网| 色综合色综合网| www.色99| 五月丁香久人妻中文| 91日韩在线| 久久色五月天| 天天天操天天天爰| WWW,激情五月天,COM| 99热99色| a网站免费观看| 五月丁香激情片| 欧美成人无码高清一区二区三区| 丁香五月婷婷性爱| 婷婷 激情 五月| 婷婷五月天亚洲激情戏精品| 四五月婷婷| 五月婷婷激情中心| 亚洲人成人五月天| 色五月天婷婷| av在线免费网站| 狠狠操综合| 婷婷激情综合网| 激情五月天网站| 无码少妇高潮喷水A片免费| wwwav大香蕉| 99精品网址| 久久久色情| 婷婷五月综合色中文字幕| 成人在线视频一区| 婷婷的99视频网站| 五月天天天操天天爽夜夜操| 99热这里只有精品268| se99在线| 五月丁香六月婷婷久久| 午夜九九九九九九九九九九九九九| 成人短视频在线| 97人人干| 中文字幕不卡网站| 亚洲成人无码片| 色婷亚洲五月丁香| 色五月婷婷操逼| 丁香丁婷五月激情| 天天在线久久综合| 五月婷婷六月丁香在线| 97精品欧美91久久久久久久| 超碰在线成人| 影音先锋AV资源男人站| 狠狠色婷| 99热老司机| 六月丁香射婷婷欧美色图片| 99热这里只有精品22| 婷婷五月激情网| 桃色五月天| 超碰成人在线免费观看| 中美日韩成人在线| 欧美丁香六月激情视频| 五月天婷婷久久视频| 久久538| 91呦呦呦| 五月丁香六月婷婷啪啪| 五月情婷婷五月| 大婷婷色呦呦噜噜色呦呦噜噜| 99热在线看| 99re久热| 大香蕉520| 婷婷五月天亚洲丁香| 五月丁香琪琪| www,婷婷,com| www.色五月.com| 天天做综合网色综合| 超碰不卡在线| 美国少妇性做爰| 久热黄色| 久久久区区一久久久久久| 欧美日韩123| 热91久| 色色色婷婷五月天| 玖玖福利视频资源| 超碰免费人人| www.cao.com久久| 5月婷婷视频网站综合| 国产在这里只有精品| 国外亚洲成AV人片在线观看| 狠狠爱五月婷婷| 思思热热久久| 爆乳熟妇一区二区三区爆乳照片| 久久er99热精品一区二区| 9热在线视频| 五月丁香久久综合| 五月丁香激情综合网| 午夜精品久久久久久久爽| 99五月婷| 久热这里只有精品99re,久热这里只有精品7| 玖玖五月丁香| 99热在线观看| WWW、日本色丁香、co m| 九九热这里只有精品556| 色丁香影院| 99色综合| 9久久精品视频| 激情宗合网激情五月天| 中文av网| 亚洲啪啪精品| 亚洲综合丁香婷婷六月天| 激情小说五月天| 日本丁香久在线| 免费视频这里只有精品| 99国产精品久久久久久久久久久 | 9久久婷婷国产综合精品性色| 亲子乱AV-区二区三区| 久久99最新| 99热9| 色情五月天导航| 激情综合色婷婷啪啪六月天| 婷婷五月天伊人| 色色色五月婷婷| 五月丁香激| 99日视频在线| 五月丁香花激情综合网| 全部老头和老太XXXXX| 丁香五月网址| 久操97| 久久机热这里只有精品| 九九99在线免费在线观看视频| 青青色com久久| 婷婷激情网五月天| 久久五月婷6 9| 色综合xx| 国产SUV精品一区二区883| 天天做天天双| 极品人妻VIDEOSSS人妻| 操操操www.com| 亚洲激情久久| 狠狠色激情在线| 日本少妇裸体做爰高潮片 | 五月天综合在线| 久久九九热视频| 激情婷婷色色| 激情伊人五月天| 丁香六月婷婷综合激情欧美 | 天天日天天做天天舔| 另类图片天天影视在线观看| 丁香五月天.com| 在线观看免费狠狠色丁香香综合| 九九99在线视频| 天天日夜夜爽| 91人人操人人看| 色综合九九| 九九激情| 狠狠色综合精品视频在线| 五月婷丁香久久综合| 婷婷色五月天在线| 五月花激情网| 丁香成人五月天| 婷婷色在线视频| 日韩精品999| 色狠狠综合| 婷婷综合| 开心婷婷五| 成人午夜天| 五月涩涩网| 69人人操人人爽| 丁香午夜天| 九九色大香蕉| 日本高清久久| 婷婷五月成人有| 女人天堂AV| VA日本视频| 激情开心五月天| 免费日韩99| 夫妇交换刺激做爰| 天天插轮理| 久久婷婷综合五月| 婷婷六月色情| 热久91| se影音资源在线观看| 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 天天舔天天插天天干| 性爱激情综合网| 深爱激情婷| 大香蕉99| 99超级碰免费视频| 丁香婷婷啪啪啪| 色站9/| 九九青青草成人| 日日操日日干| 五月丁香久久呀| 五月丁香六月激情在线| 丁香六月婷婷姐网| 色五月婷婷av| 久久全意婷婷| 五月天婷婷AV| 久久在这里有精品| 99久久五月天| 婷婷久久综合| 天天色粽合合合合合合合| 色婷婷黄色网络|