欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

昇騰平臺(tái)上的多模態(tài)強(qiáng)化學(xué)習(xí):Diffusion策略頭設(shè)計(jì)與實(shí)戰(zhàn)

昇騰平臺(tái)上的多模態(tài)強(qiáng)化學(xué)習(xí):Diffusion策略頭設(shè)計(jì)與實(shí)戰(zhàn) 1. 這套組合到底在解決什么問(wèn)題昇騰 多模態(tài) 強(qiáng)化學(xué)習(xí) Diffusion四個(gè)關(guān)鍵詞放一塊兒很多人第一反應(yīng)是“概念疊 buff”。但如果你真的在昇騰卡上跑過(guò)一輪 Diffusion Policy 配合 PPO 的訓(xùn)練就會(huì)明白這幾個(gè)詞不是湊熱鬧而是各自在解決一個(gè)繞不開(kāi)的問(wèn)題。先說(shuō)結(jié)論多模態(tài)強(qiáng)化學(xué)習(xí)真正難的地方不在“拿到多模態(tài)數(shù)據(jù)”而在“策略頭用什么分布來(lái)表達(dá)動(dòng)作”。傳統(tǒng)高斯策略只能輸出一個(gè)單峰分布遇到“往左躲”和“往右躲”都能成功的任務(wù)它會(huì)學(xué)成往中間擠表現(xiàn)就是動(dòng)作震蕩、收斂不穩(wěn)。Diffusion 模型天然擅長(zhǎng)表達(dá)復(fù)雜多峰分布把它接在強(qiáng)化學(xué)習(xí) actor 后面就可以把高維連續(xù)動(dòng)作控制問(wèn)題從“猜一個(gè)均值”改成“逐步雕琢一組動(dòng)作樣本”能力和穩(wěn)定性完全不一樣。昇騰在這個(gè)場(chǎng)景里解決的是“算力從哪來(lái)”和“成本怎么控”的問(wèn)題。910B 這類(lèi)卡的大顯存和高算力足夠跑視覺(jué)編碼器 擴(kuò)散策略頭而且 torch_npu 的算子覆蓋已經(jīng)比較完整絕大多數(shù) PyTorch 代碼遷移過(guò)去不需要大改。真正干活的人都知道能在一個(gè)資源好申請(qǐng)、單位已采購(gòu)的國(guó)產(chǎn)算力平臺(tái)上把新算法跑通比什么概念都實(shí)在。這篇文章我打算把我的完整技術(shù)路徑拆開(kāi)講為什么用 Diffusion 做策略頭、多模態(tài)編碼器怎么和昇騰算子對(duì)齊、PPO 訓(xùn)練循環(huán)怎么接擴(kuò)散模型、環(huán)境怎么搭、踩過(guò)哪些坑。既有原理也有能直接抄的代碼和命令適合正在做機(jī)器人控制、具身智能、多模態(tài)決策這類(lèi)方向又想在昇騰上落地的朋友。1.1 多模態(tài)強(qiáng)化學(xué)習(xí)缺一個(gè)“表達(dá)能力足夠強(qiáng)”的策略頭傳統(tǒng)強(qiáng)化學(xué)習(xí)里連續(xù)動(dòng)作空間最常用的策略頭是高斯策略神經(jīng)網(wǎng)絡(luò)輸出動(dòng)作均值 μ 和方差 σ動(dòng)作從 N(μ, σ2) 采樣。這個(gè)方案簡(jiǎn)單穩(wěn)定幾十年都在用但它有一個(gè)天然缺陷——單峰正態(tài)分布只能表達(dá)“一個(gè)最優(yōu)方向附近的小擾動(dòng)”。多模態(tài)任務(wù)里經(jīng)常出現(xiàn)這種情況視覺(jué)觀察顯示桌上有兩個(gè)位置都能放杯子語(yǔ)言指令是“把杯子放好”此時(shí)合法動(dòng)作分布有兩個(gè)峰分別對(duì)應(yīng)兩個(gè)放置位置。高斯策略學(xué)出來(lái)的均值會(huì)落在兩個(gè)峰中間輸出一個(gè)兩邊都不靠的動(dòng)作導(dǎo)致反復(fù)伸過(guò)去又縮回來(lái)。你在訓(xùn)練曲線里看到的就是 reward 一直在漲但成功率上不去或者動(dòng)作軌跡特別抖。Diffusion Policy 換了個(gè)思路動(dòng)作不是一個(gè)點(diǎn)而是從一個(gè)隨機(jī)噪聲樣本開(kāi)始通過(guò)多步去噪逐漸細(xì)化成一組動(dòng)作序列。這個(gè)過(guò)程可以逼近任意復(fù)雜的分布包括多峰分布。從這方面看擴(kuò)散模型不是在“猜動(dòng)作”而是在“構(gòu)建動(dòng)作”。它本質(zhì)上是學(xué)習(xí)動(dòng)作分布的得分函數(shù)然后用朗之萬(wàn)采樣或 DDIM 采樣去產(chǎn)出動(dòng)作樣本。這個(gè)特性對(duì)強(qiáng)化學(xué)習(xí)尤其值錢(qián)。因?yàn)?RL 訓(xùn)練早期策略分布很散后期又開(kāi)始收斂整個(gè)訓(xùn)練過(guò)程動(dòng)作分布會(huì)經(jīng)歷劇烈變化。高斯策略的建模能力固定擴(kuò)散模型的表達(dá)力上限高得多實(shí)際訓(xùn)練時(shí)更容易保持探索性又能在后期收斂到銳利的最優(yōu)動(dòng)作。再補(bǔ)充一個(gè)細(xì)節(jié)Diffusion Policy 輸出的是“一段動(dòng)作序列”不只是單步動(dòng)作。這等于用一個(gè)策略頭同時(shí)完成了動(dòng)作生成和短時(shí)規(guī)劃天然契合模仿學(xué)習(xí)和強(qiáng)化學(xué)習(xí)結(jié)合的場(chǎng)景也方便做時(shí)序上的一致性約束。1.2 昇騰平臺(tái)在這個(gè)場(chǎng)景里能提供什么昇騰對(duì)此類(lèi)任務(wù)的核心價(jià)值是三條算力規(guī)模、顯存容量、遷移成本。算力規(guī)模上以昇騰910B為例FP16 稠密算力在百T級(jí)別和主流訓(xùn)練卡處于同一梯隊(duì)。機(jī)器人強(qiáng)化學(xué)習(xí)任務(wù)和語(yǔ)言大模型不同不需要訓(xùn)練幾萬(wàn)億 token主要是反復(fù)跑仿真環(huán)境、采樣、更新策略每一步的計(jì)算量對(duì)昇騰來(lái)說(shuō)不構(gòu)成壓力。顯存方面多模態(tài)模型最吃顯存的部分是視覺(jué)編碼器和擴(kuò)散模型。視覺(jué)編碼器如果是 ViT-L 級(jí)別fp16 單卡大概要占 3-6GB擴(kuò)散 UNet 根據(jù)步數(shù)和通道數(shù)不同占用 2-8GB再加上 actor、critic 兩個(gè)網(wǎng)絡(luò)和一批仿真環(huán)境緩存64GB 的 910B 完全可以單卡跑中等規(guī)模任務(wù)。如果任務(wù)再大可以走 HCCL 多卡并行。遷移成本是我重點(diǎn)勸大家別慌的部分。昇騰的軟件棧是 CANN 加 torch_npu說(shuō)白了你還是寫(xiě) PyTorch 風(fēng)格代碼只是把 .cuda() 換成 .npu()數(shù)據(jù)加載和 DDP 結(jié)構(gòu)幾乎不變。擴(kuò)散模型用得最多的算子是卷積、注意力、矩陣乘法、LayerNorm、SiLU昇騰算子庫(kù)覆蓋程度高真正遇到的障礙反而是內(nèi)存對(duì)齊、數(shù)據(jù)類(lèi)型不匹配這種工程細(xì)節(jié)。所以昇騰在“多模態(tài)強(qiáng)化學(xué)習(xí) Diffusion”這個(gè)場(chǎng)景里的定位很清晰不是讓你從零移植算法而是把算法跑到本地可控的高性能算力上。它能干、夠用、成本可控剩下的就是你自己的框架設(shè)計(jì)和調(diào)參能力。1.3 Diffusion 策略頭與強(qiáng)化學(xué)習(xí)怎么接這是我最想展開(kāi)的技術(shù)點(diǎn)因?yàn)楹芏嗳丝ㄔ凇皵U(kuò)散模型和 RL 不兼容”這個(gè)印象上。單純用 Diffusion Policy 做行為克隆時(shí)訓(xùn)練就是一個(gè)監(jiān)督回歸輸入觀測(cè)預(yù)測(cè)能還原出目標(biāo)動(dòng)作的噪聲或動(dòng)作本身?yè)p失函數(shù)是簡(jiǎn)單的 MSE。但強(qiáng)化學(xué)習(xí)里我們不能預(yù)先知道“最優(yōu)動(dòng)作是什么”只能靠獎(jiǎng)勵(lì)信號(hào)來(lái)學(xué)習(xí)。想把擴(kuò)散模型接到 RL 算法里常見(jiàn)路線有三種第一種是 PPO Diffusion actor。優(yōu)點(diǎn)是與現(xiàn)有 RL 框架兼容度高但需要處理擴(kuò)散采樣的多步去噪鏈的對(duì)數(shù)概率計(jì)算或者用代理分布近似。工程上往往會(huì)固定一個(gè)較少的采樣步數(shù)比如 DDIM 10-20 步把去噪過(guò)程當(dāng)作一個(gè)確定性映射再疊加高斯探索噪聲用近似技巧繞開(kāi)嚴(yán)格的似然計(jì)算。第二種是 DDPG/TD3 Diffusion actor。把去噪網(wǎng)絡(luò)當(dāng)作確定性策略然后通過(guò)重新參數(shù)化讓損失可以回傳到采樣過(guò)程。不過(guò)多步去噪鏈的梯度方差偏大訓(xùn)練時(shí)要注意梯度裁剪和梯度累積穩(wěn)定。第三種是 SAC Diffusion actor。熵正則項(xiàng)天然適合擴(kuò)散模型因?yàn)閿U(kuò)散模型的“隨機(jī)性”和熵有明確對(duì)應(yīng)關(guān)系但實(shí)現(xiàn)復(fù)雜度偏高需要額外估計(jì)動(dòng)作分布的熵項(xiàng)。我實(shí)際用得最多的是第一種PPO 做骨架Diffusion 做 actor 頭critic 用普通 MLP。因?yàn)樵跁N騰上跑 RL 時(shí)最大的瓶頸往往是環(huán)境采樣速度和 Python 到 NPU 的數(shù)據(jù)拷貝開(kāi)銷(xiāo)PPO 的 on-policy 特性配合 vectorized env 可以在 CPU 側(cè)并行采樣再把樣本整批搬到 NPU 上訓(xùn)練調(diào)度最清晰。2. 框架設(shè)計(jì)從整體到模塊2.1 整體拓?fù)湔麄€(gè)框架我按四層來(lái)組織方便在昇騰上做分離部署和故障定位。最下面是環(huán)境與數(shù)據(jù)層。環(huán)境推薦用 MuJoCo、Isaac Gym 或者 ManiSkill 這類(lèi)有 Python API 的仿真器跑在 CPU 上。多模態(tài)觀測(cè)數(shù)據(jù)包括 RGB 圖像、本體狀態(tài)關(guān)節(jié)位置、末端速度、力覺(jué)等、有時(shí)還有語(yǔ)言指令文本。這一層只負(fù)責(zé)出樣本不參與 NPU 計(jì)算。第二層是模型層。多模態(tài)編碼器把圖像、文本、狀態(tài)分別編碼成特征向量或特征序列然后通過(guò)融合模塊得到統(tǒng)一的觀測(cè)表征。策略頭就是 Diffusion head接收觀測(cè)表征和一個(gè)噪聲動(dòng)作樣本輸出去噪后的動(dòng)作序列。Critic 網(wǎng)絡(luò)則是普通 MLP輸入觀測(cè)表征輸出狀態(tài)價(jià)值。第三層是學(xué)習(xí)層。我用 PPO 作為主干GAE 計(jì)算 advantage策略損失和 critic 損失分開(kāi)優(yōu)化。由于擴(kuò)散模型采樣步數(shù)多、計(jì)算量大經(jīng)驗(yàn)回放倉(cāng)庫(kù)的數(shù)據(jù)結(jié)構(gòu)要仔細(xì)設(shè)計(jì)通常按“回合”存而不是按“步”存。最上層是工程層。CANN 負(fù)責(zé)底層算子調(diào)度torch_npu 提供 PyTorch 接口適配混合精度、梯度累積、DDP 并行都在這層做。昇騰的 profiler 工具可以幫助發(fā)現(xiàn)瓶頸是在算子執(zhí)行還是在數(shù)據(jù)傳輸。四層分離的好處很明顯你可以把環(huán)境換成真實(shí)機(jī)器人只換第一層可以只替換策略頭試試高斯策略和擴(kuò)散策略的對(duì)比還可以在第四層平滑切換到多卡訓(xùn)練。這種模塊化設(shè)計(jì)對(duì)調(diào)試非常友好。2.2 多模態(tài)編碼器怎么選編碼器選型是整個(gè)框架的第一步?jīng)Q不能讓這里的隱性誤差污染后續(xù)所有訓(xùn)練。圖像編碼器我推薦直接用預(yù)訓(xùn)練 ViT 或者 ResNet。昇騰上跑視覺(jué)模型沒(méi)什么算子壓力但如果你做的是機(jī)器人控制圖像依舊是定位、識(shí)別、檢測(cè)的關(guān)鍵來(lái)源預(yù)訓(xùn)練權(quán)重能大幅加快收斂。CLIP 的 visual encoder 做跨模態(tài)對(duì)齊效果更好但會(huì)引入語(yǔ)言先驗(yàn)不一定每個(gè)任務(wù)都合適。我的經(jīng)驗(yàn)是先跑通一個(gè)自帶預(yù)訓(xùn)練權(quán)重的標(biāo)準(zhǔn) ViT-B把整體鏈路驗(yàn)證完再?zèng)Q定要不要換更強(qiáng)編碼器。文本編碼器如果任務(wù)涉及語(yǔ)言指令用 CLIP text encoder 或 BERT 都行。關(guān)鍵是把文本 tokenizer 放在 CPU 側(cè)工作避免重復(fù)在 NPU 上加載和截?cái)嗵畛?。本體狀態(tài)編碼器最簡(jiǎn)單MLP 就夠了。狀態(tài)包括關(guān)節(jié)位置、速度、外力矩等維度一般不超過(guò)幾十維歸一化一定要做否則學(xué)習(xí)率稍高就會(huì)把擴(kuò)散策略的訓(xùn)練打亂。多模態(tài)融合我這里單獨(dú)強(qiáng)調(diào)一下。不要簡(jiǎn)單把特征拼成一長(zhǎng)串向量就扔給 MLP那樣會(huì)丟失結(jié)構(gòu)關(guān)系。實(shí)踐中最穩(wěn)的做法是圖像特征過(guò) attention pooling 成固定長(zhǎng)度 token 序列文本特征也過(guò) attention pooling然后和狀態(tài)特征一起組成序列輸入跨注意力層再聚合出全局表征。既要保留時(shí)序空間信息也要有一個(gè)明確的全局向量用于 critic。這個(gè)全局向量就是“當(dāng)前局面”的抽象表示actor 和 critic 共享它兩個(gè)頭各自再往下延伸。2.3 強(qiáng)化學(xué)習(xí)訓(xùn)練器怎么設(shè)計(jì)PPO 訓(xùn)練器有四個(gè)核心組件環(huán)境向量化采樣器、GAE 計(jì)算器、策略更新器、數(shù)據(jù)管理器。環(huán)境向量化采樣器在 CPU 上跑多個(gè)并行的仿真環(huán)境每個(gè)環(huán)境獨(dú)立執(zhí)行自己的動(dòng)作收集多模態(tài)觀測(cè)。每個(gè) step 完成后環(huán)境把觀測(cè)數(shù)據(jù)和獎(jiǎng)勵(lì)傳回一個(gè)共享 buffer。這里有個(gè)工程細(xì)節(jié)不要讓 CPU 環(huán)境直接把 tensor 搬到 NPU頻繁小批量拷貝開(kāi)銷(xiāo)很大。正確做法是讓 CPU 側(cè)先用 numpy 格式積累一批樣本比如 2048 步再一次性轉(zhuǎn)成 torch tensor 并 .npu() 搬過(guò)去。GAE 計(jì)算器負(fù)責(zé)用獎(jiǎng)勵(lì)序列計(jì)算優(yōu)勢(shì)函數(shù)。GAE 的關(guān)鍵參數(shù)是 γ 和 λ。γ 一般取 0.99 到 0.995λ 取 0.95 左右。diffusion 策略的任務(wù)往往有延遲獎(jiǎng)勵(lì)λ 太小會(huì)導(dǎo)致 advantage 噪聲大太大則會(huì)引入偏差。我建議從 λ0.95 起步訓(xùn)練中觀察 value loss 和 advantage 的分布來(lái)微調(diào)。策略更新器上actor 是擴(kuò)散模型。每次更新需要從 replay buffer 取出一個(gè) batch 的觀測(cè)和動(dòng)作把觀測(cè)特征輸入 diffusion head做去噪回歸critic 則是用同樣的觀測(cè)特征回歸價(jià)值。PPO clip 范圍是 0.2最少更新 4 個(gè) epoch如果訓(xùn)練不穩(wěn)定可以降到 2-3 個(gè) epoch。數(shù)據(jù)管理器主要做兩類(lèi)緩存一類(lèi)是原始交互軌跡用于 GAE 和 RL 更新另一類(lèi)是標(biāo)準(zhǔn)化統(tǒng)計(jì)量觀測(cè)均值方差、動(dòng)作均值方差在昇騰上更新這兩個(gè)統(tǒng)計(jì)量時(shí)要小心必須保持在 NPU 上計(jì)算不然來(lái)回拷貝會(huì)拖慢速度。我在這上面踩過(guò)坑最開(kāi)始的版本在 CPU 上算歸一化參數(shù)每輪訓(xùn)練都要幾千次小 tensor 拷貝訓(xùn)練速度掉了近三成后來(lái)全部移進(jìn) NPU 才算解決。3. 昇騰環(huán)境搭建與依賴(lài)踩坑3.1 硬件與軟件棧版本我實(shí)驗(yàn)室的這套環(huán)境配置如下不一定是最新但都是我實(shí)測(cè)穩(wěn)定跑通的組合昇騰 910B 單機(jī) 8 卡每卡 64GB HBM驅(qū)動(dòng) CANN 8.0.RC1Ubuntu 20.04Docker 容器運(yùn)行Python 3.9PyTorch 2.1.0 torch_npu 2.1.0.post自建仿真環(huán)境基于 MuJoCo 2.3版本匹配是昇騰開(kāi)發(fā)里最容易翻車(chē)的地方。torch_npu 必須和 PyTorch 版本嚴(yán)格對(duì)應(yīng)比如 torch 2.1.0 配 torch_npu 2.1.0.post不能亂搭。CANN 版本太舊會(huì)導(dǎo)致算子缺失太新可能和 torch_npu 兼容有問(wèn)題。正式開(kāi)工前建議先寫(xiě)一個(gè)最小驗(yàn)證腳本在目標(biāo)容器里確認(rèn)好環(huán)境可用再開(kāi)始搭業(yè)務(wù)代碼。3.2 安裝步驟與驗(yàn)證安裝層面我用的是昇騰社區(qū)提供的 Docker 鏡像方案比手工裝 CANN 省心太多。大致流程是拉取官方 CANN PyTorch 鏡像注意標(biāo)簽要匹配你的 CANN 版本容器啟動(dòng)時(shí)掛載 /dev/davinci0 到 /dev/davinci7 設(shè)備節(jié)點(diǎn)還有 /dev/davinci_manager 和 /dev/hisi_hdc在容器內(nèi)檢查 torch_npu 是否可用驗(yàn)證 NPU 算子執(zhí)行驗(yàn)證代碼很簡(jiǎn)單我貼一下import torch import torch_npu import torch_npu.npu print(torch_npu.npu.is_available()) print(torch_npu.npu.device_count()) x torch.randn(1024, 1024).npu() y torch.randn(1024, 1024).npu() z torch.matmul(x, y).cpu() print(z.shape)第一次跑出 True 和 8 之后我長(zhǎng)舒了一口氣。注意別在容器外裸跑 torch_npu驅(qū)動(dòng)權(quán)限容易亂出了問(wèn)題定位也麻煩。之后再驗(yàn)證一下混合精度是否正常。昇騰的 AMP 用法和 A100 上基本一致只是底層算子實(shí)現(xiàn)不同。在容器里跑一個(gè)簡(jiǎn)單的 AMP 訓(xùn)練循環(huán)觀察 loss 是否下降這一步能過(guò)濾掉很多算子精度問(wèn)題。3.3 混合精度與內(nèi)存設(shè)置多模態(tài)模型 Diffusion 策略頭 RL 訓(xùn)練顯存占用大頭有三個(gè)視覺(jué)編碼器的中間激活、擴(kuò)散 UNet 的參數(shù)和激活、PPO 更新的梯度。64GB 看著大但如果不做優(yōu)化多模態(tài)數(shù)據(jù)一進(jìn)來(lái)照樣容易 OOM。我的通用內(nèi)存優(yōu)化配置是三個(gè)組合拳混合精度 gradient checkpointing gradient accumulation?;旌暇壬蠒N騰對(duì) fp16 的算子支持已經(jīng)比較成熟但擴(kuò)散模型的去噪鏈在 fp16 下容易累積漂移。我的處理是訓(xùn)練時(shí)開(kāi)啟 AMP但把 UNet 的關(guān)鍵層特別是時(shí)間步嵌入層和注意力層單獨(dú)設(shè)成 fp32保證穩(wěn)定性。用 torch.npu.amp.autocast 包住前向和 loss 計(jì)算反向梯度用 GradScaler 縮放。gradient checkpointing 對(duì)視覺(jué)編碼器特別有用ViT 的激活值巨大打開(kāi) checkpoint 后顯存能省下一半以上。缺點(diǎn)是多了一次前向計(jì)算顯存換時(shí)間訓(xùn)練會(huì)慢 15%-20%但在昇騰卡上完全劃算。gradient accumulation 適合在 batch size 偏大時(shí)用。RL 任務(wù)的 batch 一般幾千到幾萬(wàn)條樣本直接全塞進(jìn)顯存不現(xiàn)實(shí)。我一般設(shè)置 micro batch size 256累積 4 步再更新一次參數(shù)等效 batch 1024顯存峰值控制在 40GB 左右還有余量跑評(píng)估推理。碰到實(shí)在騰不出空間的情況還可以把視覺(jué)編碼器參數(shù)凍結(jié)只訓(xùn)練融合模塊和擴(kuò)散頭代價(jià)是視覺(jué)特征不再適應(yīng) RL 任務(wù)只能在遷移初期臨時(shí)用。4. 核心實(shí)現(xiàn)擴(kuò)散策略頭與多模態(tài)融合4.1 擴(kuò)散策略頭擴(kuò)散策略頭我的實(shí)現(xiàn)版本用 DDPM 做訓(xùn)練、DDIM 做采樣。訓(xùn)練階段給網(wǎng)絡(luò)一個(gè)帶噪聲的動(dòng)作樣本和觀測(cè)條件讓它預(yù)測(cè)噪聲采樣階段從隨機(jī)高斯噪聲開(kāi)始逐步去噪得到動(dòng)作序列。一個(gè)核心的 UNet 或者是 1D Temporal Unet輸入是batch, action_horizon, action_dim的動(dòng)作序列和觀測(cè)條件 embedding。我建議在昇騰上優(yōu)先用 1D U-Net 而不是 Transformer 做擴(kuò)散網(wǎng)絡(luò)原因是1D U-Net 算子簡(jiǎn)單昇騰算子庫(kù)覆蓋完整訓(xùn)練速度快而且不需要專(zhuān)門(mén)的 attention mask 處理對(duì) RL 這種頻繁前向推理的場(chǎng)景更友好。訓(xùn)練損失函數(shù)就一句noise torch.randn_like(action) t torch.randint(0, num_timesteps, (action.shape[0],), deviceaction.device) noisy_action q_sample(action, t, noise) noise_pred model(noisy_action, t, obs_cond) loss F.mse_loss(noise_pred, noise)這里的 q_sample 是加噪過(guò)程對(duì)應(yīng) DDPM 的 forward process。obs_cond 就是前面多模態(tài)融合層輸出的觀測(cè)表征通過(guò) FiLM 或 cross-attention 注入擴(kuò)散模型。采樣階段用 DDIM我一般設(shè) 20 步。代碼核心是for i in reversed(range(num_ddim_steps)): t torch.full((batch,), i, devicedevice) alpha_bar_next alphas_bar[i-1] if i 0 else alphas_bar[0] alpha_bar_cur alphas_bar[i] noise_pred model(x, t, obs_cond) x 1 / torch.sqrt(alpha_bar_cur) * (x - (1 - alpha_bar_cur) / torch.sqrt(1 - alpha_bar_cur) * noise_pred) # 然后根據(jù) DDIM 公式更新 x這里要特別注意在昇騰上 t 的索引數(shù)據(jù)類(lèi)型必須是 int64否者索引算子會(huì)報(bào)類(lèi)型不匹配。有一版我用了 int32排查了兩天才發(fā)現(xiàn)是這里的問(wèn)題。另外采樣過(guò)程是一個(gè)循環(huán)20 步循環(huán)里每個(gè) step 都有一次模型前向所以 DDIM 步數(shù)決定了策略推理速度。RL 訓(xùn)練時(shí)采樣頻率很高20 步已經(jīng)是比較奢侈的配置如果動(dòng)作維度不高可以試 10 步。4.2 多模態(tài)融合層多模態(tài)融合我用 cross-attention 實(shí)現(xiàn)。圖像特征圖先過(guò) attention pooling得到固定數(shù)目的 token比如 49 個(gè)文本特征過(guò)一個(gè)線性層得到同樣的 token 維度本體狀態(tài)擴(kuò)展成可學(xué)習(xí)的 token。三者拼成一個(gè)序列然后過(guò)兩層 transformer encoder最后取 [CLS] token 作為全局表征。這段代碼在昇騰上跑沒(méi)有算子問(wèn)題但我提醒三個(gè)細(xì)節(jié)dtype 統(tǒng)一、attention mask 形狀、token 數(shù)量不要過(guò)多。多頭注意力在昇騰上的注意力掩碼實(shí)現(xiàn)比較敏感mask 必須跟輸入序列在同一個(gè) device 上而且 dtype 要用 bool 而不是 uint8。全局表征除了給 critic還會(huì)作為 diffusion head 的條件。我用 FiLM 方式注入也就是對(duì) diffusion UNet 的中間特征做 scale 和 shift。這樣條件注入是逐通道的更穩(wěn)定不會(huì)像拼接那樣增加大量參數(shù)在昇騰上也不會(huì)引起算子開(kāi)銷(xiāo)上升。4.3 獎(jiǎng)勵(lì)與訓(xùn)練循環(huán)獎(jiǎng)勵(lì)設(shè)計(jì)是 RL 項(xiàng)目成敗的分水嶺。多模態(tài)任務(wù)里如果不考慮中間過(guò)程只給稀疏的成功獎(jiǎng)勵(lì)擴(kuò)散策略雖然能建模多峰分布但探索效率一樣低。我習(xí)慣的做法是“引導(dǎo)獎(jiǎng)勵(lì) 稀疏獎(jiǎng)勵(lì)”混合距離引導(dǎo)項(xiàng)給 agent 一個(gè)梯度方向稀疏獎(jiǎng)勵(lì)給最終判斷。擴(kuò)散策略特別適合這種獎(jiǎng)勵(lì)結(jié)構(gòu)因?yàn)樗鼤?huì)把“看起來(lái)合理但最終會(huì)失敗”的動(dòng)作逐漸過(guò)濾掉只在符合最優(yōu)分布的軌跡上保留概率。PPO 更新循環(huán)的偽代碼我貼在下面關(guān)鍵點(diǎn)在數(shù)據(jù)搬移和 loss scalefor epoch in range(update_epochs): for batch in replay_buffer.sample(): obs_batch {k: v.to(npu_device) for k, v in batch[obs].items()} act_batch batch[action].to(npu_device) adv_batch batch[advantage].to(npu_device) ret_batch batch[return].to(npu_device) obs_feat fusion_encoder(obs_batch) noise_pred diffusion_actor(act_batch, obs_feat, sample_t) actor_loss F.mse_loss(noise_pred, noise_target) value critic(obs_feat) value_loss F.mse_loss(value, ret_batch) policy_loss -torch.min(ratio * adv_batch, clip(ratio, 0.8, 1.2) * adv_batch).mean() total_loss actor_loss value_loss policy_loss optimizer.zero_grad() scaler.scale(total_loss).backward() scaler.step(optimizer) scaler.update()注意這里 actor 的“策略損失”在實(shí)現(xiàn)里被我拆成了“去噪損失”。嚴(yán)格說(shuō)擴(kuò)散模型作為策略頭它的策略輸出不是動(dòng)作本身而是噪聲分布。這種方式在離線 RL 里常用在線 RL 里只要保留探索噪聲收斂效果依然穩(wěn)定。我訓(xùn)練時(shí)把一行關(guān)鍵日志打印出來(lái)了actor_loss、value_loss、policy_loss、total_reward、success_rate、每次 step 耗時(shí)。觀察這些指標(biāo)的關(guān)系很能說(shuō)明問(wèn)題如果 actor_loss 下降但 reward 不漲多半是條件注入太弱觀測(cè)特征沒(méi)和動(dòng)作建模產(chǎn)生強(qiáng)耦合如果 value_loss 不降是 GAE 配置或網(wǎng)絡(luò)容量問(wèn)題。5. 實(shí)操記錄機(jī)械臂推動(dòng)任務(wù)的完整跑通5.1 任務(wù)描述與環(huán)境具體任務(wù)我用一個(gè)機(jī)械臂推動(dòng)滑塊到目標(biāo)位置來(lái)驗(yàn)證框架。仿真環(huán)境是 MuJoCo機(jī)械臂 6 個(gè)關(guān)節(jié)末端是平板夾爪?;瑝K在桌面上目標(biāo)位置隨機(jī)生成。觀測(cè)空間設(shè)計(jì)為兩個(gè) RGB 相機(jī)圖像分別在正上方和 45 度側(cè)方分辨率 128x128本體狀態(tài)6 個(gè)關(guān)節(jié)角度、6 個(gè)關(guān)節(jié)速度、滑塊的 xy 坐標(biāo)、目標(biāo)位置 xy 坐標(biāo)共 16 維任務(wù)指令是一段文本寫(xiě)“把滑塊推到目標(biāo)位置”為后面擴(kuò)展語(yǔ)言條件任務(wù)做準(zhǔn)備動(dòng)作空間是機(jī)械臂末端 3D 速度vx, vy, vz動(dòng)作頻率 10Hz動(dòng)作片段長(zhǎng)度 16 步。也就是說(shuō)每次策略輸出一個(gè) 16x3 的動(dòng)作序列環(huán)境執(zhí)行完整序列后才重新決策。這里我用了動(dòng)作片段模式這比單步加刷新模式更適合擴(kuò)散模型既降低采樣頻率又給去噪過(guò)程時(shí)間去生成一個(gè)時(shí)序一致的軌跡。5.2 訓(xùn)練曲線與記錄訓(xùn)練參數(shù)配置環(huán)境并行數(shù)32 個(gè) MuJoCo 并行實(shí)例每次采樣步數(shù)2048PPO batch size256累積 4 步擴(kuò)散模型DDIM 20 步UNet 通道數(shù) [64, 128, 256]學(xué)習(xí)率actor 3e-4critic 3e-4γ0.99λ0.95最大訓(xùn)練步數(shù)80 萬(wàn)步我跑了三版對(duì)比高斯策略基線、DDIM 20 步、DDIM 10 步。高斯策略在 80 萬(wàn)步后成功率約 40%軌跡抖動(dòng)明顯。擴(kuò)散策略在 60 萬(wàn)步時(shí)成功率就超過(guò) 85%最終穩(wěn)定在 90% 左右。DDIM 10 步版本相比 20 步版本成功率低了 8%但速度提升接近一倍。訓(xùn)練曲線上有個(gè)明顯現(xiàn)象擴(kuò)散策略在 20 萬(wàn)步左右會(huì)進(jìn)入一個(gè)“多峰分裂期”reward 上升變慢成功率先降后升。這是策略在探索兩條不同成功軌跡的表現(xiàn)最后它學(xué)成了“優(yōu)先從左側(cè)繞行右側(cè)作為備選”而不是把兩條路徑平均成中間路線。這個(gè)結(jié)果在仿真里也看得見(jiàn)滑塊軌跡有時(shí)走左弧有時(shí)走右弧但不會(huì)走中間折線。5.3 性能調(diào)優(yōu)在昇騰上調(diào)性能我發(fā)現(xiàn)最有價(jià)值的是三件事。第一件事是減少 host-device 數(shù)據(jù)傳輸。CPU 側(cè)環(huán)境產(chǎn)生的觀測(cè)統(tǒng)一在 CPU 上轉(zhuǎn)成 numpy 數(shù)組湊滿一批再 torch.from_numpy 然后 .npu()。一次拷貝大塊數(shù)據(jù)比很多次小拷貝快數(shù)倍這個(gè)優(yōu)化直接把我訓(xùn)練吞吐提升了 40%。第二件事是采樣和訓(xùn)練分進(jìn)程。用 Python multiprocessing 開(kāi)環(huán)境采樣 worker主進(jìn)程只做數(shù)據(jù)聚合和 NPU 訓(xùn)練。昇騰的 NPU 算子需要獨(dú)占設(shè)備節(jié)點(diǎn)不要讓采樣 worker 和訓(xùn)練主進(jìn)程混用 NPU。第三件事是用 torch_npu 的 profiler 定位算子瓶頸。我跑了幾輪后發(fā)現(xiàn)Diffusion UNet 的 GroupNorm 算子在 fp32 下偏慢把相關(guān)層固定為 fp16 后推理速度提升了 20%。perf 數(shù)據(jù)比感覺(jué)靠譜昇騰的技術(shù)棧現(xiàn)在還年輕很多加速機(jī)會(huì)需要實(shí)際 profile 才能發(fā)現(xiàn)。6. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄我整理了這段時(shí)間在昇騰上跑這套框架遇到的最高頻問(wèn)題直接做成速查表現(xiàn)象根本原因解決辦法import torch_npu 報(bào)錯(cuò)版本不匹配CANN/torch_npu/PyTorch 版本對(duì)應(yīng)錯(cuò)誤按昇騰官方匹配表重裝用統(tǒng)一版本標(biāo)簽的 Docker 鏡像算子不支持某些自定義算子或較新的 API 沒(méi)有昇騰實(shí)現(xiàn)用官方算子適配工具檢測(cè)優(yōu)先換成等價(jià)原語(yǔ)比如把 nn.MultiheadAttention 換成 attention 實(shí)現(xiàn)顯存 OOM視覺(jué)編碼器激活值 擴(kuò)散模型占顯存過(guò)大開(kāi)啟 gradient checkpointing凍結(jié)編碼器減小 DDIM 步數(shù)訓(xùn)練 loss 是 NaN常見(jiàn)是輸入數(shù)據(jù)有 NaN 或 AMP GradScaler 設(shè)置異常檢查歸一化參數(shù)fp32 下把梯度裁剪范圍調(diào)到 0.5確認(rèn) GradScaler scale 不溢出采樣速度慢擴(kuò)散模型多步去噪鏈 反復(fù) .cpu()/.npu()DDIM 步數(shù)降到 10批量推理用 profiler 查算子熱點(diǎn)動(dòng)作輸出震蕩高斯策略表達(dá)力不足或擴(kuò)散模型未收斂檢查是否編碼器特征對(duì)齊不佳換成 diffusion 頭或增加訓(xùn)練輪次多卡訓(xùn)練卡死HCCL 初始化問(wèn)題或網(wǎng)絡(luò)通信超時(shí)檢查 rank_id、卡設(shè)備映射調(diào)大通信超時(shí)時(shí)間先跑單卡調(diào)通再上多卡value_loss 不降GAE 參數(shù)不合理或 critic 網(wǎng)絡(luò)容量不足調(diào) γ 到 0.995增加 critic 層數(shù)或先做 one-hot 觀測(cè)特征再看曲線除了表格里這些我再分享幾個(gè)只有實(shí)際操作才能總結(jié)出的坑。第一個(gè)坑是環(huán)境并行數(shù)和擴(kuò)散采樣步數(shù)的匹配。我在昇騰上發(fā)現(xiàn)當(dāng)環(huán)境并行數(shù)大于 32 而 DDIM 步數(shù)又是 20 時(shí)CPU 側(cè)采樣速度跟不上 GPU 側(cè)訓(xùn)練速度會(huì)出現(xiàn)大量等待。后來(lái)把環(huán)境并行數(shù)降到 24DDIM 降到 12訓(xùn)練吞吐反而提升了。因?yàn)?CPU 環(huán)境并行的瓶頸是 MuJoCo 自身的線程調(diào)度和 Python GIL不是核心數(shù)不夠盲開(kāi)到 128 只會(huì)增加調(diào)度開(kāi)銷(xiāo)。第二個(gè)坑是擴(kuò)散策略頭使用梯度裁剪時(shí)一定要把 DDIM 的采樣步數(shù)也納入梯度路徑。如果像某些實(shí)現(xiàn)那樣把去噪過(guò)程用 detach 斷開(kāi)梯度PPO 的信號(hào)根本傳不到擴(kuò)散網(wǎng)絡(luò)訓(xùn)練出來(lái)就是純行為克隆難收斂得更好。正確做法是把 DDIM 采樣公式里的系數(shù)都寫(xiě)進(jìn)計(jì)算圖讓梯度能經(jīng)過(guò)整個(gè)去噪鏈。第三個(gè)坑是歸一化統(tǒng)計(jì)量。多模態(tài)觀測(cè)里視覺(jué)特征和狀態(tài)特征的尺度差別很大如果不分別歸一化擴(kuò)散模型的去噪損失會(huì)被某一維主導(dǎo)訓(xùn)練會(huì)偏向忽略信號(hào)弱但關(guān)鍵的模態(tài)信息。我在訓(xùn)練前分別統(tǒng)計(jì)每個(gè)模態(tài)的均值和方差并把這些統(tǒng)計(jì)量也放到 NPU 上同時(shí)讓它們參與模型的 forward這樣梯度更新時(shí)統(tǒng)計(jì)量不會(huì)被反復(fù)拷貝訓(xùn)練穩(wěn)定性也更好。第四個(gè)坑是在昇騰上跑 PPO 時(shí)真的不要頻繁調(diào)用 npu.synchronize()。RL 訓(xùn)練里你總覺(jué)得需要等數(shù)據(jù)都到位了再更新但實(shí)際上 NPU 是全異步的頻繁同步會(huì)嚴(yán)重拉低吞吐。我后來(lái)改成在每輪采樣和每輪更新的邊界上才同步一次訓(xùn)練時(shí)間縮短了大約三分之一。第五個(gè)坑是模型保存和恢復(fù)。昇騰的模型保存格式和 PyTorch 一致常見(jiàn)的 checkpoint 包含 actor、critic、optimizer state、歸一化統(tǒng)計(jì)量。但恢復(fù)訓(xùn)練時(shí)有一個(gè)容易忽略的點(diǎn)DDIM 的噪聲調(diào)度器也要保存否則中間恢復(fù)的下一次采樣會(huì)用到錯(cuò)誤的 alpha_bar 序列整個(gè)擴(kuò)散模型就廢了。我早期吃過(guò)這個(gè)虧半夜訓(xùn)練中斷恢復(fù)后效果崩盤(pán)但訓(xùn)練曲線前段看著都很正常排查了整整一天才發(fā)現(xiàn)是 alpha_bar 序列沒(méi)保存。這套框架跑通之后我最大的體會(huì)是“多模態(tài) 強(qiáng)化學(xué)習(xí) Diffusion”不是三個(gè)獨(dú)立工具而是一條閉環(huán)鏈路多模態(tài)編碼器提供豐富的觀測(cè)表征Diffusion 策略頭負(fù)責(zé)在高維連續(xù)空間中生成靈活的動(dòng)作分布強(qiáng)化學(xué)習(xí)提供反饋信號(hào)讓這兩個(gè)模塊協(xié)同進(jìn)化昇騰提供算力底座讓這一切能跑起來(lái)。三者在同一條數(shù)據(jù)流里相互配合缺一個(gè)整條鏈路都轉(zhuǎn)不動(dòng)。最后分享一個(gè)我自己的小技巧在昇騰上調(diào)試這種多模態(tài) RL 框架不要一上來(lái)就跑完整任務(wù)。先拿一個(gè)最簡(jiǎn)單的低維任務(wù)比如 2D 小車(chē)目標(biāo)到達(dá)把 Diffusion 策略頭和 PPO 循環(huán)在昇騰上跑通確認(rèn)中間每個(gè) tensor 的 device 和 dtype 都正確再逐步往上加多模態(tài)編碼器和復(fù)雜環(huán)境。這個(gè)習(xí)慣幫我避開(kāi)了至少一半的環(huán)境配置問(wèn)題。全鏈路打通后再回頭優(yōu)化性能你會(huì)發(fā)現(xiàn)真正的效率瓶頸往往在數(shù)據(jù)拷貝和環(huán)境采樣而不在網(wǎng)絡(luò)計(jì)算這個(gè)方向比盲目追求模型大小更值得花時(shí)間。我在昇騰上把這條路完整走了一遍之后對(duì)這類(lèi)框架的取舍有了一個(gè)更落地的判斷如果策略動(dòng)作空間相對(duì)簡(jiǎn)單高斯策略依然是性?xún)r(jià)比最高的選擇但一旦任務(wù)天然包含多模態(tài)決策、多峰軌跡、復(fù)雜時(shí)序動(dòng)作Diffusion 策略頭帶來(lái)的穩(wěn)定性和上限提升是值得用那一點(diǎn)點(diǎn)推理延遲去換的。算力夠不夠用還是要用實(shí)測(cè)數(shù)據(jù)說(shuō)話這套框架至少證明了一個(gè)事實(shí)——昇騰算力在這個(gè)場(chǎng)景下完全撐得起來(lái)而且空間還很大。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月婷九九草| 99 热| 國語久久婷| 色色五月婷婷| 久久视频婷婷| 99视频内射三四| www,婷婷五月天,com| 色欲AVV| 五月婷婷在线观看黄| 日本老女人黄页在线播放| 午夜无码熟熟妇丰满人妻| 五月天久久网站| 色综合区| 久久久五月天网站| 欧美日韩二区在线| 丁香五月天啪啪| 色宗合久久五月婷婷| 激情丁香五月天图片| av大香蕉| 丁香五月激情啪| 久久伊人日日夜夜| av无码电影| 久9久成人精品视频| 久综合色| 久久婷婷桃花五月天| 激情色色色| 开心六月丁香五月婷婷| 丁香五月瑟瑟| 播丁香五月婷婷欧美| 99热婷婷| 成人电影AV在线观看| 五月欧美色色五月| 日本3级片偷拍网站| 婷婷久综合| 丁香六月婷婷| 综合另类视频| 日韩性视频| 久久黄色片| 丁香婷婷少妇| 日日干五月天婷婷| 丁香六月啪啪| 色丁香五月天射婷婷爱婷婷| 免费观看亚洲AV片| 久久东京热婷婷五月| 97超碰色| 99er久久| 开心五月丁香啪| 色婷婷婷av| 色婷婷88| 任你日热视频| 狠狠爱丁香婷| 亚洲四色五月| 99热第一页| 老师高潮流白浆喷水的A片| 五月丁香婷婷色| 99热这里有精品| 丁香五月AV综合| 久青操| 亚洲天堂制| 国产精品99久久久久久久女警| 激情五月婷婷| 国产在这里只有精品| 综合色色网| 26uuu亚洲欧美| 色欲香综合网| www.五月激情红色| 丁香五月六月婷婷殴美综合| 深爱五月最新网址| 热久精品| 婷婷五月综合在线| 97资源欧美日韩大香蕉超碰一区| 色99在线| 国产XXXX搡XXXXX搡麻豆| 久久综合九九| 99色婷婷| 综合色、色综合| 免费无码毛片一区二区A片| 色色色色色网站| 色六月视频| 99狠狠| 99视频这里有精品| 丁香五月成人| 大大香蕉综合在线| 九九色综合网| 99热成人永久免费| 天天草天天日| 亚洲色五月天| 五月天婷婷基地| 91免费看片| 69精品人人人人人人| 六月成人网| 激情五月婷婷| 99re视频在线播放| 婷婷五月天av| 另类图片五月激情| 国产67194| 人妻狠狠操| 丁香婷婷射| 五月婷婷激情综合拍| 天天舔天天| 99国产性感视频| 婷婷激情啪啪| 五月婷婷黄色| 国产高潮A片羞羞视频涩涩| 91在线就要啪| 亚洲性爱电影| 亚洲另类久久| 色五月婷婷综合| 91久操| 婷婷五月丁香六月| 亚洲热久| 色综合久久888| 天天综合色丁香| 97在线/亚洲| 婷婷基地爱| 99精彩视频| 亚洲日韩成人三级av| 激情综合区| 99热99色| 综合久久十三| 高清无码一区二区三区四区| 教师性爱毛片| 国产亚洲99久久精品熟女| 丁香婷婷五月激情| 五月综合六月婷婷| 五月天色色婷婷| 伊人碰碰婷婷| 国产成人+综合亚洲+天堂| 国精产品一区二区三区| 激情综合网五月在线播放| www.日日日.com| 婷婷五月天成人网站| 日本色五月| 激情五月综合| 久热在线观看视频9| 狠狠色狠狠| 色五月婷婷开心| 婷婷五月天福利| 五月婷婷五月天| 成人国产欧美大片一区| 五月丁香激情怕怕| 丁香桃色网| 激情婷婷五月天| 99人人看| 丁香五月激情在线| 五月色丁香| A1片久久| 精品久久久人妻| 丁香五月婷婷啪| 日本不卡中文字幕| 97人人看一| 蜜臀A∨在线水帘洞| 操骚货在线| 婷婷操逼| 美女婷婷激情亚洲| 婷婷六月丁香色| 99日在线视频| 激情啪啪五月| 午夜大香蕉| 色婷婷五月综合网| 久久精品国产精品| 六月丁香五月婷婷首页| 天天干,天天日| 婷婷五月丁香网| 久久香蕉网| 91av色色乱视频| 日韩狠狠色婷婷| 乱码操操| 久久久999精品| 久久九九国产精品怡红院| 337p大胆噜噜噜噜噜91Av| 在线观看国产高清视频免费网站| 丁香五月综合婷婷| 五月丁香婷婷色| 影音先锋91资源站| 丁香激情五月少妇| 99热99| 六月丁香婷婷网| 久久激情五月| 五月丁香啪啪网| 8区视频在线| 另类五月激情| 六月丁香啪| 2025最新亚洲激情在线| 桃色成人网| www婷婷亚洲| 色婷五月天激情| 亚洲在线免费成人| 国产热精品| 五月天激情四射| 超碰永久在线| 直接看的AV| 婷婷五月天天| 五月性色| 丁香色婷婷| 亚洲第一成人无码A片| 日本va网站| 色综合久久久久| http:色情日本com| 五月丁香六月婷婷久久| www.综合久久| 婷婷色丁香五月| 五月丁香黄色| 五月激情婷婷丁香天堂| 婷婷丁香中文字幕| 激情影院丁香五月| 狠狠色综合精品视频在线| 99在线观看精品视频| 亚洲激情AV| 久热99热| 99久热这里有精品| 色九区| 激情婷婷五月黑人| 98热精品| 99在线热视频| 久久久久久天天日天天爱| 久久婷婷五月天| 久久加勒比| 五月丁香婷婷在线| 婷婷亚洲丁香五月| 婷婷黄色五月| 色综合色综合网| 色六月丁香婷婷狠狠干| 五月色综合| 777丁香六月青青草婷婷综合久月| 精品夜夜澡人妻无码AV| 五月开心激情| 成人操呦av| 色婷婷六月| 五月婷婷九| 七月丁香五月婷婷在线| 激情综合网五月丁香| 庭庭久久内射| 精品久久人妻热| 99色婷婷| 色五月第四色| 久久婷婷六月天| 激情五月天。| 超碰在线视屏| 丁香综合网| 久99久99精品免| 人妻啪啪啪| 五月丁香 啪啪啪| 99久久終合| 天天天久久人人人合| 日韩久热| 色色色色色九九九九九| 五月丁香影院| 国产精品视频免费看| 综合久久综合| 综合网色综合| 婷婷色色综合| 五月丁香777| 日日操人人操| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 激情五月天啪啪| 色播五月丁香| 香蕉久操| 婷婷亚洲天堂| 激情文学久久| 五月丁香六月色| 五月天综合图片| 五月丁香婷婷激情影院欧美| 久久99热这里| 激情九色| 98热精品| 亚洲天堂色| 夜夜操夜夜操| 婷婷久久精品| 色在线五月天免费| 成人色五月天婷婷| 日本专区久久| 丁香婷婷影院| AA片在线观看视频在线播放 | 成人av免费观看| 五月丁香狠狠爱婷婷综合| 丁香六月色婷婷| 97色综合| 狠狠干五月| 久久这里只精品| 另类激情首页| 视色综合| 另类激情综合| 97干免费视频| 综合网啪啪| 久热爱大香蕉在线蜜臀悦色| 操逼综合激情网| 国产成人精品亚洲线观看| 欧洲激情精品婷婷| 一级操逼内射在线视频| 亚洲五月天综合| 婷婷在线精品| 色优久久| 久久99视频| 九九热re99re6在线精品| 99热草草| 丁香五月停停av| 精品一二三区久久AAA片| 伊人久久99| 九九无码| 天天插轮理| 亚洲五月天综合色| 思思视频这里是精品| 综激情网| 黄网在线观看免费| 四川BBB搡BBB搡多人乱亂| 婷婷色五月激情| 超碰在线中文字幕| 天天噜日日噜综合无码| 91蜜桃婷婷狠狠久久综合9色| 91视频免费后入强操| 91窝窝| 色五月美女| 五月丁香在线观看国产| 亚洲韩国日产综合AV| 依人大香蕉在钱1| 91男同视频| 中文字幕欧美日韩VA免费视频| 日本色五月| 可以直接看的av| 婷婷六月激情| 99综合视频一体| 99性色| 五月综合婷婷五月| 色五月六月婷婷| 色综合激情| 99超级碰免费视频| 五月丁香婷婷激情| 欧美色色色色色| 蜜臀99精品| 天天日夜夜| 日本色视| 亚洲av骚货| 禁欲电影完整版在线播放| 99日韩| 少妇AB又爽又紧无码网站| 婷婷五月色天| 五月天婷婷丁香成人网| 九九 激情 网| 天堂婷婷五月在线| 99热12| 久久人妻www| 婷婷五月天综合AV| 99视频精品| 婷婷香蕉精品| 婷婷六月综合| 亚洲久久婷婷丁香五月天| 婷婷开心激情五月激情网| 色五月婷婷av| 激情丁香五月婷| 国产激情AV| 久久五月六月| 婷婷五月激情在线| 亚洲中文字幕av| 五月婷丁香| 久99婷婷色综合| 激情骚五月| 成人午夜无码视频| 五月天激情小说婷婷| 欧洲日韩一区二区三区| 丁香五月影院| 亚洲日韩一页精品发布| 2013AV天堂| ww久久| PORNY九色9l自拍视频成人| 婷婷 久综合| 操逼棍操逼| 欧美色色色色色色| 丁香九月婷婷综合| 五月天激情AAAA| 久久人妻视步| www.婷婷五月天| 亚洲成人av在线观看| 九九九AAA热视频| 丁香色色色| 丁香婷五月| 狠狠干青青草| 综合色久| 在线超碰91| 日本人妻丁香婷婷久久寝取熟女五月| www.五月天性.com| 92久久| 丁香五月激情图片婷婷| 亚洲网站在线鸭子av| 丁香五月图片| 五月六月婷婷| 久久激丁香| 色9999日韩国产| 久久人妻在线| 欧美成人AAA片一区国产精品| 狠狠操综合| 五月婷婷黄| 天天色伊人| 亚洲激情网站| 久久久久久久久久8888| 思思热久久艹| 日本婷婷五月天| www.婷婷com| 亚洲色综合色网| 婷婷综合五月天激情| 中文字幕综合网| 丁香婷婷综合影院| 综合五月亭亭9| 思思热在线播放| 另类少妇人与禽zOZZ0性伦| 色色五月婷婷久久| 亚洲欧美一区二区三区四区爱爱动图| 俺去也婷婷| 26.uuu丁香五月婷婷| 五月丁香婷婷福利| 婷婷激情四射| 91操片| 激情五月,色播五月| 91九色在线| 人妻中文字幕网| 99视频超级精品| 国产婷婷综合在线免费视频| 久久一级片| 天天操夜夜爽歪歪| 久久免费少妇高潮99精品| 无码网| 深爱婷婷丁香五月激情| 色婷婷丁香AV综合| 99热久久这里只有精品2010| 日本韩国视频在线观看社区免费的9| 五月丁香六月婷| 色综合久久综合中文综合网| 一本久道综合99| 99热这里只有精品18| 高清不卡一区| 激情网站五月| 色噜噜狠狠色综无码久久合欧美| 婷婷久久六月天| 强辱丰满人妻HD中文字幕| 激情精品久久| 激情伍月 欧美| 激情图片婷婷| 亚洲妇女熟BBW| 亚洲综合字幕色色| 淫视馆aV二区一区| 99日在线观看视频| 在线天堂9| 综合性爱网| 五月天啪啪啪| 4399伦理午夜| 丁香五月综合| 99在线观看亚洲| 丁香五月人妻| 狠狠五月天婷婷| 亚洲第一综合| WWW.99热| 久七香蕉| 九九亚洲综合| 激情深爱综合| 中字幕视频在线永久在线观看免费| 久久精品在线| 任你爽在线视频| 男人天堂亚洲综合| 超碰无码老师| 久久精品99久久久久久| 久热只有这里有精品| 久久98| 色色五月婷| 日本久久天堂| 丁香桃色网| 丁香成人五月天| 狠狠ri| 婷婷五月综激情| 色综合爱综合| 久久久性爱视频| 国产3p露脸普通话对白| 69色婷婷| 激情综合网激情五月欧美| 日韩三及成人AV片| 中国女人内射6XXXXX| 五月婷婷在线免费| 五月天婷婷网站| 4438国产免费看| 99自拍视频在线| 五月丁香六月婷婷欧美综合| 欧美日韓成人亚洲精品另类| 欧美在线视频免费播放| 色噜噜丁香| 伊人狠狠丁香婷婷综合尤物| 激情五月婷婷在线| 美女亚洲五月丁香| 小色小蛇伊人婷婷色香五月| 无遮挡国产高潮视频免费观看 | 亚洲午夜一区二区| 伊人婷婷99热精品| 99ri在线视频| 91丨九色丨高潮丰满日本| 亚洲综合色丁香五月天| www.99热日韩.com| 棕合影院色色| www:99热视频| 黄色国久久| 天天日综合| 激情亭亭五月| 99无码黄色视频| 激情五月天开心网丁香无码| 狠狠搞五月天| 99九九99九九九视频精彩| 99久久综合狠狠综合久久| www.天天干| 99色色| 亚洲五月天婷婷在线| 婷婷五月中文在线| 亚洲色婷婷| 色欲婷婷五月天丁香| 雪千夏麻豆| 成人无码髙潮喷水A片| 超碰女人天堂| 超碰色综合| 美女丁香五婷婷| 婷婷射图五月天| 另类五月婷婷| 综合天天综合| 噜噜噜噜噜在线| 97干免费视频| 91丨九色丨白浆| 視频福利乱色| 激情五月婷婷啪啪| 久久天堂加勒比| 日韩精品VIP| 99se丁香| 丁香五月色情av| 99热个人在线| 九九爱激情| 思思久久99热只有频精品66| 精品影院| 久草婷婷网| 五月日韩中文字幕| 七月丁香婷婷 色色| 日韩AV免费电影在线播放| 99热这里只有精品8| 丁香激情网| 欧美性丁香色色五月天干干| 成人在线视频网| 国产日韩欧美性爱| 国产精品99久久久久久久女警| 99色天堂| 蜜臀AV在线观看| 成人精品视频99在线观看免费| 狠狠综合| 影音先锋日本三级资源| 婷婷五月天成人视频| 在线不卡AC| 97亚洲精品| 丁香五月婷综合| 99er热精品视频| 五月婷久久草| 91久热| 久久网站观看免费欧洲国产| 欧美黑人巨大猛烈cuckold| hd五月婷婷在线| 亚洲99在线视频| 亚洲aV写真天天综合网久久| 久9久成人精品视频| 丁香六月激情| 婷婷色综合| 日本久久激情| 超碰在线中文字幕| 国产99美少妇| 五月婷婷欧美激情| 玖玖在线| www.夜夜操| 五月天社区婷婷| 日韩AV中文字幕在线| 五月丁香色婷婷色| 六月激情婷婷综合| 真实亲子乱子伦高清在线观看| 久久婷婷五月综合啪| 婷婷五月天小说网| 五月丁香婷婷五月色| 亚洲国产另类av| 超碰资源在线| 月婷婷亚洲| 99免费热视频| 99色性爰网络| 综合色色五月| 91大神操美女| 天天拍久久| 丁香五月成人婷婷| 五月丁香影视| 视频1区2区| 五月婷婷 欧美| 色情五月天婷婷| 亚洲免费观看高清完整版AV线| 激情丁香五月婷婷| 69精品无码一区二区三区| 综合久久综合久久| 婷婷六月激情在线视频| 91婷婷| 成人五月天综合网| 9色在线| 99热这里只有精品搜| 五月婷亚洲精品AV天堂| 九月丁香婷婷网| 99久久久免费| 五月激激激情综合网| 天天天干夜夜夜操| 91久久免费| 激情图片婷婷| 国产91视频| 丁香五月婷婷啪啪视频| 久久狠狠欧美| 在线只有精品| 欧洲MV日韩MV国产| 色呦呦免费观看| 亚洲激情综合免费| 精品夜夜澡人妻无码AV| aaa久久| 丁香五月激情综合啪啪| 99re久久| 久操大| 99热这里全是精品| 激情内射人妻1区2区3区| 丁香五月激情啪| 九九精品视频在线观看| 日日影院 | 久99热| 五月丁香婷婷综合网| 99精品视频在线观看| 婷婷99中文字幕| 六月丁香五月天| 国产无套精品一区二区| 五月婷婷丁香啪啪| 色综合久久久久| 超热久碰.com| 狠狠色噜噜狠狠| 丰满少妇猛烈A片免费看观看| 婷婷精品在线| 久久精品夜色噜噜亚洲a∨| 婷婷色狠狠| 天天日夜夜夜操操操操| 天天插天天干| www,五月天com| 激情综合五月天| 琪琪色影音先锋| 26uuu亚洲欧美日本| 亚洲欧美日韩VIP| 丁香婷婷五月天校园春色| 婷婷六月啪啪| 99九九99九九九视频精彩| av色色国产| 日本操B片| 五月丁香六月花| www.超碰97| 激情黄色五月天| 国产亚洲精品久久久久久郑州 | 天天噜| www.com任你艹| 久热视频这里只有精品| 丁香五月天日韩无码| 5月丁香六月婷婷| 亚洲综合五月天婷婷| AⅤ色区| 国产av一区二区三区| 午夜不卡成人一区二区| 五月婷久久久久综合| 99爱免费在线视频| 色婷婷精| 丁香五月天婷婷中文字幕| 欧美婷婷丁香五月| 国产综合婷婷| 色欲丁香| 99无码视频| ...婷婷国产成人亚洲日韩| 色婷婷丁香A片区毛片区女人区| 五月欧美色播| 国精产品一区一区三区免费视频| 婷婷四色五月| 性色综合网| 五月丁香啪啪啪| 久操综合| 国产一级片| 九九操综合网| 日韩天堂久久| 国产成人av在线播放| 久久99综合| 大香蕉啪啪啪| 五月婷网站| 99热亚洲综合| 五月丁香婷婷久久| 成人小说 五月天 婷婷| 黄色av高清| 伊人玖玖婷婷| 婷婷,五月天,丁香,第一| 少妇伦子伦精品无吗| 97婷婷五月| 99熟女啪啪视频| 99re8在这里只有精品| 婷婷在线操| 99精品九九| 99碰网站| 婷婷五月天成人动漫 | 亚洲成人无码片| 婷婷色九月| 99热在线里有精品| 婷婷五月天性爱视频| 九月丁香婷婷综合| 婷婷丁香五月激情图片| av在线观看网址| 婷婷色五月天在线| 国产精品A片| 99色精品| 亚洲国产精品二二三三区| 婷婷五月激情视频在线| 人妻av在线| 五月激情四射网站| 久久99精品视频| 少妇高潮呻吟A片免费看软件| 丁香涩涩爱| 婷婷六月色| 在线色婷婷| 成人日韩欧美| 五月 婷婷 成人| 成人网站在线观看视频| 五月丁香久久久| 九九AV在线| 国产精品蜜臀99| 色欲色天天香综合| 99热99精品在线观看| 婷婷天堂综合| 久久A V无码视频| 久久久久久久丁香五月天婷婷| 精品综合网在线| 亭亭玉月丁香| 欧美影院| 亚洲va欧美va国产综合久久久| 女婷久久| 婷婷丁香先锋资源网站| 日本精品人妻无码77777| AV成人在线播放| 天天操天天日天天爽| 五月婷婷三级| 亚洲蜜乳AV| 国产看真人毛片爱做A片| 激情婷婷五月| 五月天婷婷在线播放| 久久这有这里精品| 九九久久五月天| 丁香婷婷五月人体| 亚洲综合色婷| 99热18| 天天肏视频| 中文AV网站| 国产精品蜜臀99| 97色色-99久久| 99久久www| 久久99免费视频网站| 白人荫道BBWBBB大荫道| 天天天天天天操| 99riAV国产精品视频| 五月天伊人综合| 国产精品-91JQ就要激情网91JQ6.91JQ27.CASA:16888 | 五月天影院| 性小说五月天| 日韩免费乱轮网站| 婷婷五月激情综合| 亚洲成人av在线| 97人妻碰碰碰碰碰久久久久久| 亚洲成人AV电影在线| 99热综合| 99操视频| 五月丁香六月天| 色九九综合| 99热人人| 色五月天丁香| 99热e| 看全色黄大色大片| 五月天播播中文字幕| 国产成人+亚洲+欧洲| 婷婷丁香激情| 日日懆天天懆| 六月丁香激情婷婷| 亚洲色综合性| 欧美成人精品老美女噜噜噜| 婷婷五月天激情五月天| 五月天另类小说久久小说网| 国产日日操夜夜操的肉棒视频| 丁香婷停五月激情综合深爱| 综合狠狠五月婷婷| 激情丰满熟妇五月| 思思热久久久久思思热| 五月天激情网页| 天天射夜夜骑| 人妻无码精品一区| 五月婷婷视频在线观看| 丁香婷婷九月| 色婷婷大香蕉| 99热只有| 99热 精品在线| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 久久婷婷五月天| 国产精品久久久久久久久久| 天天日,夜夜爽| 99热在线观看免费精品| 亚洲成人人人操| 少妇达人正片在线播放_ikun_福利吧| 国产综合网在线| 丁香五月天论坛| 久久看婷婷| 九九人人操| 婷婷六月啪啪| 黄桃AV无码免费一区二区三区| 伊人丁香在线| 久久九九re热| 91精品久久久久久77777| 天天天久久久| www夜夜操wwwcon| 99视频在线精品| 色婷婷丁香| 五月花婷婷| 国产精品黑丝| 日本久久人人| 婷婷五月免费观看| 999影院成人在线影院| 色综合五月天| www.91色| 国内9l视频自拍老熟女九色| 九月大香蕉| 大香蕉啪啪啪| 激情综合网 激情五月天| 五月丁香六月婷婷网| 五月丁香影院| 日B日潘金莲BB| 成人免费在线电影| 色婷婷欧美在线| 99亚州综合精品成人网| 日本一级一级一级一级| 久久激丁香| 中美月韩免费A片| 黄色99网| 99碰网站| 人妻日日日| 丁香五月情| 亚洲天堂AAA| 性热视频99精品| 最近中文字幕2019视频1| www.爱婷婷.com| 婷婷五月在线综合| 久机视频这只有精品| 九九热精品| 葵花AV在线| 激情五月激情综合俺也去婷婷小说| 操逼棍操逼| 四色永久成人网站| 九九色网| 丁香五月综合久久八| 久久久久久性爱视频| 免费视频99| 六月丁香AV| 久热九九| 99re在线这里只有精品视频首页| 亚洲激情视频在线观看| 天天射影院| 91婷婷在线观看| www.com操| 五月天婷婷綜合院| 天天综合天综合久久网| 久久久999精品| WWW,婷婷,COM| 九九热最新| 狠狠色色综合| 深爱五月日韩| 天天弄天天操| 插逼综合网| 日日日影院| 开心五月深爱五月| 丁香五月开心亚洲| 99久久99热这里只有精品| 亭亭五月色男人| 日美三级| 亚洲精品性色| 六月激情综合| 大香蕉婷婷色| 人妻久久久| 综合久久十三| 熟女五月天久久综合| 久久五月网| www色综合亚洲92| 停停色综合伊人| 天天色图| 丁香激情网| 五月激香蕉网| 久草五月天电影网| 91久久久久久| 国产老熟妇亲子乱对白| www.夜夜.com| 五月丁香在线| 99热永久在线观看| 亚洲第一成人无码A片| 日本欧特黄色刺激一区影视久精品无码| 狠狠五月丁香色婷| 久久婷婷五月天| 久久性视频| 天堂综合久久 | 久久色五月| 99热精品无码| 五月婷狠狠| 婷婷色情小说| 国产毛多水多女人A片| 色五月天影视| 99热6这里只有精品| 免费亚洲成人电影AV| 99热这里只| httpwww色com日本| 天天成人丁香美女AV| 开心激情站| 六月婷婷色综合| 婷婷精品免费久久| 日本久久人| 色综合色| se99热久久一本| 激情五月天综合网| 日韩黄色网络| 五月婷婷草| 五月天婷婷爱| 激情网五月天| 久久久欧美精品sm网站| 久久精品五月天| 日本熟妇精品99| 欧美色色色色色色色色色色| 99久久新视频| 婷婷五月天网| 秋霞成人毛片一级A片| 色综合久久88色综合天天99| 婷婷爱爱蜜臀天天操| 久9久9久9久9久9久9| 久热黄色| 九九这里有精品| 丁香月五月天婷婷久久| 99在线精品免费视频| 色色色色色色综合| 激情婷婷激情在线不卡| 色婷婷的五月天| 亚洲第一成人无码A片| 欧美色色色色色| 激情五月深爱五月| 中文字幕无码人妻少妇免费视频 | 婷婷五月天久久| 丁香婷婷色九月| 久久丁香五月天| 激情综合五月激情XXXX| 久久人人做人人妻人人玩精品va| 丁香六月婷婷综合麻豆| 亚洲中文字幕翔田千里| 激情影院丁香五月| 91婷婷色五月| 免费看欧美成人A片无码| 韩国婷婷丁香五月| 亚洲成人无码免费| 激情五月综合| 婷婷五月天成人动漫 | 婷婷综合五月天| 色色热| 人妻肉射免费观看| 婷婷激情五月天小说| 成人婷婷| 婷婷五月丁香在线观看| 在线不卡的视频| 狠狠爱五月婷婷| 97丁香花五月天激情小说| 激情内射人妻1区2区3区| 国产综合网在线| 国产激情综合| 最新高清无码专区| 五月丁香六月玩女人| 激情久久五月天| 爱99干99| 99在线精品视频| 丁香激惜男女| ady狠狠入| 激情第四色| 1010日日无码| 日本综合久久| 亚洲AV在线免费看| 九九婷婷综合| 综合热无码| 4438成人电影| 少妇人妻丰满做爰XXX| 性色天| 五月天激情国产综合婷婷婷| 亚洲最大五月六月丁香婷婷| 婷婷五月天亚洲综合| 亚洲视频一区| 国产 亚洲 在线| 五月丁香在线婷婷蜜桃| 色情五月天丁香社区| 操操操97| 欧美综合五月丁香六月婷| 色99综合视频| 五月丁香色| 丁香婷婷浪潮AV久久综合| 这里只有精品在线观看视频| 色5月婷婷| 激情网战码亚洲A| www.99免费视频| 色色激情| 久久久婷婷五月亚洲97号色| 亚洲丁香五月美女| 色婷五月| 色香久久| 亚洲狠狠爱婷婷| 99热这里只有精品5| 色五月婷婷九月| 六月婷婷狠狠色在线观看| 丁香九九九九| 色综合久网| .精品久久久麻豆国产精品| 国产91视频| 激情婷婷人妻| 噜噜噜噜婷婷五月天| www.9797国产| 九九精品免费视频99| 六月婷婷综合| 色色丁香五月天| 久久这里有精品视频| 婷婷色香六月综合激情| 99热在线播放| WWW·色色色·COM| 欧美日韩一区二区三区四区| 乱岳熟女50岁| 丁香六月婷婷久久综合| 色婷婷天堂| 五月色俺婷婷| 男人综合网| anquye伊人| 色五月综合在线| 97久人人| 日韩肏屄网| 欧美久久久中文字幕| 精品成人无码A片观看香草视频| 五月婷婷五月| 91大神操美女| 久99热在线观看| 九九99久久| 婷婷五月天成人网站| 五月丁香久久久| 丁香婷停五月激情综合深爱| 亚洲精品乱码久久久久久按摩观| 日本3级片偷拍网站| 99久久精品色老| 伊人久久中文网| 五月丁香婷婷综合网色欲| 天天草女人| 思思re最新视频| 成人中文网| 五月丁香影视| 少妇人妻人伦A片| 另类图片五月天| 色色亚洲视频| 中文字幕在线日亚州9| 丁香六月啪| 五月天色五月| 五月香婷婷| 国产欧美性成人精品午夜| 色啪网| 97色吧| 久热婷婷综合| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 五月丁香美女| 五月天丁香啪啪综合| 99在线免费视| 激情www.98com| renrencaoav| 五月激情基地| 五月激情六月宗合| 丁香涩涩爱| 免费观看大片视频 丁香婷婷 六月欧美| WWW.桔色成人.COM| 国产婷婷综合| 91九色视频| 色噜噜综合网| 嫩草AV久久伊人妇女超级A| 中文字幕丰满孑伦无码专区| 日韩专区五月天婷婷丁香| 狠狠色综合五月人人| 97久久精品视频| 人妻激情视频| 91丁香五月| 九九视频免费| 激情狠狠丁香月| 都市激情小说婷婷| www.天天干| 人人爱操| 五月天婷婷综合网| 丰滿爆乳一区二区三区| 婷婷九色| 九九RE视频在线精品| 婷婷丁香五| 国产VA亚洲VA96| 这里有精品| 成人va在线播放| 欧美日韩二区在线| 亚洲精品**不卡在线播he| 九月久久婷婷| 亚洲小视频免费观看| 七七九九色色| 亚洲久久婷婷| 丁香五月色网| 欧美色五月| 182.t午在线观看| 在线另类视频| 五月熟妇婷婷久久| 色99热| 国产精品久久久久久白浆色欲| 亚洲乱码日产精品BD| 996黄色片| 人人爱操| 久热网在线视频| 丁香五月婷婷色情综合| 影音先锋女人AA鲁色资源| bukadeavzaixian| 超碰在线国产| 激情色五月天| 久久久激情视频| 久热中文字幕在线线观看| 丁香五月成人网| 国产亚洲精品久久久久久郑州| 久草婷婷视频| 久久婷婷五月| 五月激情综合美女久久| 夜夜躁爽日日| 在线观看视频1区| 丁香六月婷婷综合激情欧美| 91人妻视频| 99色在线视频| 性爱激情五月| 深爱五月月天| 激情五月天影院| 99超级碰免费视频| 精品爆操| 丁香五月欧美色综合| 丁香婷婷六月天| 久久九九激情五月天 | 丁香五月天激情视频| 激情五月婷婷她| 日本五月婷婷久久久六月丁香| 激情綜合W W W,激情五月天| 99精品无码| 婷婷综合视频| 婷婷日日夜夜| 激情综合五月| 性生活视频98791| 久久综合激情婷婷激情| 五月丁香| 超碰国产av| 热成人网| 国外亚洲成AV人片在线观看| 狠狠干综合网| 五月激情久久综合网| 香蕉AV福利精品导航| 91九色无码日韩| 精品久久66| 人妻丰满精品一区二区A片| 亚洲AV成人在线| 这里只有精品视频99| 天天日天天色| 久久caop| 九九色精品| 丁香五月婷婷AV在线| 国产精品成人网址| 337p午夜影院| 丁香五月婷婷色| 国产免费av在线| 九九免费精品| 亚洲精品V天堂中文字幕| 五月伊人网| 999精品乱码77777| 久久精品五月| 欧美色色色| 成人无码髙潮喷水A片| 婷婷五月天在线看| www.色婷婷| 91婷婷五月丁香碰| 久久er99| 高清a片基地| 亚洲射激情| 亚洲国产精品SUV| 日日天天天| www激情| 色综合九九色综合88| 九九色色| 色哟哟性爱av| 性日本精品| 色色热日| 亚洲99精品欧美一区| 69久久久| 久久久五月四色| 婷婷综合国产| 999热成人在线综合网| 五月天天丁香婷婷| 五月婷婷六月爱| 伊人在线视频| 色青青视频| 中文字幕丰满孑伦无码专区| 色色色在线免费视频| 国产精品色| 五月天色综合服务平台| 色色婷婷丁香| 婷婷美女精品视频| 日欧一片内射VA在线影院| 六月婷婷日| 丁香五月大香蕉| 三级成人网站| 99热每日| 天天爽天天爽视频| 欧美激情-区二区三区| 玖玖热视频| 国产免费av在线| 九色自拍| 婷婷综合精品| 久久99热这里只有精品| 久鲁鲁色网 | 日夜夜久久| 婷香狠狠爱五月| 色五月超碰| 久久久大香蕉| 天天操天天操天天操天天操天天操 | 人人看人人草人人摸| 六月婷欧美丁香综合| 婷婷丁香十月| 婷五月天六| 婷婷激情性爱| 激情桃色网| 婷婷丁香熟女| 久久久久思思热| av无码电影| 久久99热这里只有精品| 国产寻花在线| 久久丁香综合香蕉| 五月天婷婷激情在线色图| 国产1区2区3区| www.99视频| 久久99久久99精品免视看婷婷| 久久激情四射| 色情久久久| 99爱免费在线观看| 丁香六月天婷婷色| 丁香婷五月天开心六月| 狠狠舔| 日本色啪| 欧美这里只有精品| 无码区婷婷五月花开| 国产在线aaa片一区二区99| 深爱五月日韩| 51XX午夜影福利| 六月丁香啪啪| 五月天婷婷在线播放| 五月丁香婷婷色| www.色婷婷。com| 欧美A A A A A| 婷婷五月丁香久久| 久婷婷久草| 婷婷婷久久久| 天天拍天天操| 激情婷婷五月社区| 伊人五月天综合网| 91九色 熟| 婷婷六月丁香五月| 99在线国| 无码se| 欧美精品久|