欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

深度卷積神經(jīng)網(wǎng)絡(luò)圖像去噪:殘差學(xué)習(xí)與PyTorch工程實(shí)踐

深度卷積神經(jīng)網(wǎng)絡(luò)圖像去噪:殘差學(xué)習(xí)與PyTorch工程實(shí)踐 簡(jiǎn)介資源提供基于深度卷積神經(jīng)網(wǎng)絡(luò)DnCNN的圖像去噪完整實(shí)現(xiàn)涵蓋網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)、TensorFlow訓(xùn)練流程與高斯噪聲去除實(shí)驗(yàn)全過程適合深度學(xué)習(xí)圖像處理學(xué)習(xí)者、算法工程師及需要復(fù)現(xiàn)經(jīng)典模型的入門研究者。壓縮包共45個(gè)文件包含26張JPG訓(xùn)練與測(cè)試樣例圖、12張PNG去噪前后對(duì)比圖、4個(gè)Python腳本網(wǎng)絡(luò)構(gòu)建、配置、算子與主訓(xùn)練程序以及README說明文檔和許可證整體約1.39MB體積輕量。目錄按訓(xùn)練集、測(cè)試集、訓(xùn)練結(jié)果和代碼模塊劃分結(jié)構(gòu)清晰便于按步驟對(duì)照學(xué)習(xí)。目前已有6508人學(xué)習(xí)下載。通過源碼與樣例數(shù)據(jù)可掌握批量歸一化、ReLU激活、噪聲水平自適應(yīng)輸入等關(guān)鍵技術(shù)并可直接運(yùn)行復(fù)現(xiàn)DnCNN去噪效果進(jìn)一步理解如何在TensorFlow中構(gòu)建、訓(xùn)練和評(píng)估圖像復(fù)原模型為后續(xù)改進(jìn)網(wǎng)絡(luò)提供扎實(shí)基礎(chǔ)。1. 基于深度卷積神經(jīng)網(wǎng)絡(luò)圖像去噪為什么“拆噪聲”比“重建圖像”更聰明基于深度卷積神經(jīng)網(wǎng)絡(luò)圖像去噪算法說白了就是讓網(wǎng)絡(luò)從一張帶噪圖里把“噪聲”單獨(dú)拆出來(lái)再用原圖減去噪聲剩下的就是干凈圖。手機(jī)夜景、老照片掃描、低劑量醫(yī)學(xué)影像大量實(shí)際場(chǎng)景都卡在噪聲和細(xì)節(jié)之間降噪太上強(qiáng)度邊緣糊成一片保住了邊緣噪點(diǎn)又賴著不走。深度卷積網(wǎng)絡(luò)用殘差學(xué)習(xí)解決了這個(gè)矛盾在相同噪聲強(qiáng)度下常見結(jié)構(gòu)能比傳統(tǒng)塊匹配類算法高出 1~2 dB 的 PSNR視覺上邊緣和紋理保留得更完整。這篇文章不是給你念論文而是按一條能落地的路徑講先說明網(wǎng)絡(luò)為什么這樣設(shè)計(jì)再講訓(xùn)練數(shù)據(jù)怎么造、模型怎么復(fù)現(xiàn)、參數(shù)怎么調(diào)最后把最常翻車的幾個(gè)坑按“現(xiàn)象—原因—解決”列出來(lái)。適合正在做圖像降噪、準(zhǔn)備把深度學(xué)習(xí)方案接進(jìn)項(xiàng)目的開發(fā)者和算法工程師也適合剛接觸圖像復(fù)原方向、想找一份可抄作業(yè)流程的研究生。2. 深度卷積網(wǎng)絡(luò)去噪的原理殘差學(xué)習(xí)、感受野與批歸一化怎么配合要搞懂這類算法先給“去噪”一個(gè)可計(jì)算的數(shù)學(xué)定義。加性高斯噪聲模型寫作 x y n其中 x 是觀測(cè)到的噪聲圖y 是干凈圖n 是噪聲。網(wǎng)絡(luò)的任務(wù)就是從 x 估計(jì) y。傳統(tǒng)方法把去噪當(dāng)成濾波或優(yōu)化問題而深度卷積網(wǎng)絡(luò)把它當(dāng)成監(jiān)督學(xué)習(xí)問題給網(wǎng)絡(luò)喂大量 (x, y) 對(duì)讓它自己擬合映射關(guān)系。深度卷積神經(jīng)網(wǎng)絡(luò)圖像去噪算法的核心不在“用卷積”這件事上而在于三個(gè)具體設(shè)計(jì)網(wǎng)絡(luò)內(nèi)部學(xué)的是殘差還是完整圖像、卷積層數(shù)決定的感受野有多大、卷積層之間的歸一化怎么加。這三個(gè)點(diǎn)直接決定了模型的上限和訓(xùn)練穩(wěn)定性下面逐一拆開。2.1 殘差學(xué)習(xí)不是預(yù)測(cè)干凈圖而是預(yù)測(cè)噪聲圖早期把殘差學(xué)習(xí)引入圖像去噪的經(jīng)典思路解決了深度網(wǎng)絡(luò)做圖像復(fù)原的一個(gè)根本矛盾如果讓網(wǎng)絡(luò)直接輸出 y輸入是噪聲圖輸出是干凈圖那網(wǎng)絡(luò)要學(xué)習(xí)的是一個(gè)“從污染信號(hào)重建完整圖像”的映射。這個(gè)輸出空間包含大量低頻結(jié)構(gòu)、紋理和邊緣信息網(wǎng)絡(luò)需要花很大容量去記住圖像先驗(yàn)訓(xùn)練起來(lái)既慢又容易欠擬合。換一個(gè)目標(biāo)就不一樣了。定義殘差 r x - y也就是噪聲本身訓(xùn)練時(shí)讓網(wǎng)絡(luò)輸出 f(x)用損失 ‖f(x) - r‖2 去約束。因?yàn)榧有愿咚乖肼曉诳臻g上近似獨(dú)立、均值接近零它的統(tǒng)計(jì)結(jié)構(gòu)比自然圖像簡(jiǎn)單得多網(wǎng)絡(luò)學(xué)會(huì)“預(yù)測(cè)噪聲”比學(xué)會(huì)“重建圖像”容易得多。推理時(shí)的輸出直接寫成 ? x - f(x)一張?jiān)肼晥D減去網(wǎng)絡(luò)預(yù)測(cè)出的噪聲分量剩下的就是相對(duì)干凈的圖像結(jié)構(gòu)。這個(gè)設(shè)計(jì)的另一個(gè)隱性好處是網(wǎng)絡(luò)初始化不穩(wěn)時(shí)輸出接近零意味著 ? 接近 x也就是模型一開始先從“把原圖原樣返回”出發(fā)再逐步修正。相比從空白開始猜一張完整圖像這種做法的訓(xùn)練曲線要平穩(wěn)得多。實(shí)際項(xiàng)目中我一般會(huì)用這個(gè)殘差結(jié)構(gòu)作為默認(rèn)選項(xiàng)除非任務(wù)特殊否則不輕易改成直接回歸干凈圖。2.2 感受野35×35 的上下文到底意味著什么感受野指輸出特征圖上某個(gè)像素能“看到”輸入圖像多大的區(qū)域。對(duì)于 3×3 卷積、stride1 的堆疊結(jié)構(gòu)每增加一層感受野邊界向外擴(kuò) 2 個(gè)像素所以 L 層網(wǎng)絡(luò)的感受野尺寸是 2L 1。17 層網(wǎng)絡(luò)算下來(lái)就是 35×35這是這類去噪網(wǎng)絡(luò)最常見的深度配置。感受野為什么這么重要因?yàn)槿ピ氡举|(zhì)上是用周圍像素估計(jì)中心像素的“干凈值”。如果感受野只有 5×5網(wǎng)絡(luò)能參考的上下文太小遇到大塊邊緣、細(xì)紋理時(shí)很容易把圖像結(jié)構(gòu)當(dāng)成噪聲抹掉。35×35 意味著估計(jì)每個(gè)輸出像素時(shí)網(wǎng)絡(luò)能綜合周圍 35×35 范圍內(nèi)約 1200 個(gè)像素的信息對(duì)大多數(shù)自然圖像的局部結(jié)構(gòu)來(lái)說已經(jīng)夠用。增加到 20 層以上感受野更大但參數(shù)和顯存開銷漲得比收益快PSNR 往往只提升零點(diǎn)零幾 dB。這個(gè)數(shù)值也直接決定了訓(xùn)練時(shí) patch 的最小尺寸。patch 至少要能完整包住感受野否則裁出來(lái)的訓(xùn)練樣本在邊緣處“信息不全”網(wǎng)絡(luò)學(xué)到的映射和推理時(shí)不一致。我一般會(huì)把 patch 設(shè)為 40×40 起步正好略大于 35×35兼顧覆蓋范圍和樣本數(shù)量噪聲強(qiáng)度到了 σ50 時(shí)建議把 patch 提到 48×48 或 50×50。2.3 批歸一化加速收斂之外的另一層作用BatchNorm 加在每層卷積之后、激活函數(shù)之前先把中間特征圖歸一化到零均值單位方差再用可學(xué)習(xí)的縮放和平移恢復(fù)表達(dá)能力。對(duì)去噪網(wǎng)絡(luò)BN 的價(jià)值有兩層第一層很好理解深層網(wǎng)絡(luò)有了 BN 之后梯度傳播更穩(wěn)定直接用 1e-3 的學(xué)習(xí)率也能收斂去掉 BN 的話這個(gè)學(xué)習(xí)率很容易讓 loss 直接發(fā)散第二層是“分布穩(wěn)定化”去噪網(wǎng)絡(luò)的輸入是噪聲圖不同 batch 之間的噪聲分布有波動(dòng)BN 把每層輸入的分布拉回統(tǒng)一尺度相當(dāng)于給訓(xùn)練過程加了一個(gè)緩沖。但 BN 是有代價(jià)的。它依賴 batch 內(nèi)統(tǒng)計(jì)量訓(xùn)練時(shí)如果 batch size 壓到 4 以下BN 算出來(lái)的均值和方差噪聲很大訓(xùn)練會(huì)明顯抖動(dòng)推理時(shí)如果忘了切換到 eval 模式BN 繼續(xù)用當(dāng)前輸入 batch 的統(tǒng)計(jì)量而推理常常一次只進(jìn)一張圖統(tǒng)計(jì)量嚴(yán)重偏移輸出會(huì)直接崩掉。這類去噪網(wǎng)絡(luò)踩過的坑十有八九和 BN 模式切換有關(guān)后面避坑章節(jié)會(huì)展開細(xì)說。3. 訓(xùn)練數(shù)據(jù)從哪來(lái)噪聲合成、Patch 提取與驗(yàn)證集劃分深度卷積去噪是監(jiān)督方法需要成對(duì)的干凈圖和噪聲圖?,F(xiàn)實(shí)里很難拿到“同一場(chǎng)景拍兩次、一次干凈一次帶噪聲”的大量數(shù)據(jù)所以行業(yè)里的通行做法是準(zhǔn)備一批高質(zhì)量干凈圖像人為合成噪聲制造訓(xùn)練對(duì)。這一步聽起來(lái)簡(jiǎn)單但噪聲參數(shù)怎么選、patch 怎么裁、驗(yàn)證集怎么劃分直接影響模型最終能不能用。3.1 用高斯噪聲作為起點(diǎn)sigma 怎么選加性高斯白噪聲是最常用的合成模型控制噪聲強(qiáng)度的參數(shù)是標(biāo)準(zhǔn)差 σ單位是像素灰度值。σ15 對(duì)應(yīng)輕度噪聲σ25 是學(xué)術(shù)界的標(biāo)準(zhǔn)基準(zhǔn)σ50 是強(qiáng)噪聲肉眼已經(jīng)能看到明顯的顆粒感。實(shí)現(xiàn)時(shí)用 numpy 的 randn 函數(shù)生成和圖像同尺寸的高斯隨機(jī)矩陣乘以 σ 再加到干凈圖上即可。選擇 σ 時(shí)要看最終場(chǎng)景。如果任務(wù)是手機(jī)夜景照片去噪真實(shí)噪聲往往比 σ25 更強(qiáng)而且和像素亮度相關(guān)不是單純的高斯白噪聲這時(shí)訓(xùn)練集里應(yīng)該混合多個(gè) σ而不是只做單一等級(jí)。我一般會(huì)先固定 σ25 把整條數(shù)據(jù)管線跑通確認(rèn)訓(xùn)練循環(huán)、驗(yàn)證指標(biāo)都正常再擴(kuò)展到 σ ∈ {15, 25, 50} 混合訓(xùn)練。不要一上來(lái)就追求復(fù)雜噪聲模型否則出了問題都說不清是數(shù)據(jù)問題還是網(wǎng)絡(luò)問題。3.2 Patch 提取40×40 小圖塊背后的權(quán)衡為什么不能拿整張圖直接訓(xùn)練三個(gè)原因。第一是顯存1024×1024 的單張灰度圖直接進(jìn) 17 層 64 通道網(wǎng)絡(luò)一次前向就要占用數(shù) GB 顯存batch 完全跑不起來(lái)。第二是樣本量一張圖只能給一次梯度但按 40×40 大小滑窗裁開后一張圖能產(chǎn)生幾百個(gè) patch訓(xùn)練樣本數(shù)量提升兩個(gè)數(shù)量級(jí)。第三是感受野匹配patch 只需要略大于網(wǎng)絡(luò)感受野就能提供完整上下文再大并不會(huì)帶來(lái)更多有效信息反而拉慢訓(xùn)練速度。代碼實(shí)現(xiàn)可以直接用 OpenCV 讀取灰度圖滑窗裁剪后逐 patch 加噪聲import cv2 import numpy as np def synthesize_noise_pair(clean, sigma25): 輸入 0-255 的干凈灰度圖返回 (噪聲圖, 干凈圖)取值范圍 0-1。 clean clean.astype(np.float32) / 255.0 noise np.random.randn(*clean.shape).astype(np.float32) * (sigma / 255.0) noisy np.clip(clean noise, 0.0, 1.0) return noisy, clean def extract_patches(clean, patch_size40, stride20): 從單張灰度圖滑窗裁剪 patch返回干凈 patch 列表。 h, w clean.shape[:2] patches [] # 步長(zhǎng)小于 patch 尺寸讓相鄰 patch 有重疊數(shù)據(jù)量更大 for i in range(0, h - patch_size 1, stride): for j in range(0, w - patch_size 1, stride): patches.append(clean[i:ipatch_size, j:jpatch_size]) return patches # 讀圖 - 裁 patch - 逐 patch 加噪聲 img cv2.imread(clean_photo.png, cv2.IMREAD_GRAYSCALE) clean_patches extract_patches(img, patch_size40, stride20) train_pairs [synthesize_noise_pair(p, sigma25) for p in clean_patches]這里有兩個(gè)關(guān)鍵細(xì)節(jié)。第一圖像先歸一化到 0-1因?yàn)榫W(wǎng)絡(luò)輸出用 MSE 損失時(shí)0-1 范圍的梯度更穩(wěn)定σ 也同步除以 255如果保留 0-255 范圍梯度量級(jí)會(huì)大 255 倍學(xué)習(xí)率要跟著調(diào)沒有直接歸一化省心。第二stride20 表示 patch 之間有一半重疊一張 256×256 的圖能裁出大約 121 個(gè) patch如果顯存緊張或圖非常多可以調(diào) stride40 減少重疊代價(jià)是樣本總量變小、訓(xùn)練輪數(shù)要相應(yīng)增加。3.3 按圖劃分訓(xùn)練/驗(yàn)證防止數(shù)據(jù)泄漏抬高 PSNR很多初學(xué)者把所有 patch 混在一起隨機(jī)打亂后按比例切訓(xùn)練集和驗(yàn)證集看起來(lái)沒問題實(shí)際埋了一個(gè)大雷同一張干凈圖裁出的不同 patch一個(gè)進(jìn)了訓(xùn)練集、一個(gè)進(jìn)了驗(yàn)證集網(wǎng)絡(luò)訓(xùn)練時(shí)已經(jīng)見過同一張圖的其他區(qū)域驗(yàn)證 PSNR 會(huì)虛高 0.5~1 dB。拿這個(gè)數(shù)字去跟論文對(duì)比、去評(píng)效果完全沒有參考價(jià)值。正確做法是先把干凈圖像按文件列表分組比如前 90% 的圖負(fù)責(zé)裁剪訓(xùn)練 patch后 10% 的圖負(fù)責(zé)裁剪驗(yàn)證 patch保證驗(yàn)證圖在訓(xùn)練階段完全沒出現(xiàn)過。另一個(gè)細(xì)節(jié)是驗(yàn)證時(shí)固定 σ 列表和隨機(jī)種子否則每次驗(yàn)證因?yàn)殡S機(jī)噪聲不同PSNR 上下波動(dòng) 0.2 dB實(shí)驗(yàn)之間沒辦法公平對(duì)比。我習(xí)慣在驗(yàn)證腳本里寫死 np.random.seed(0)讓每一次驗(yàn)證結(jié)果可復(fù)現(xiàn)。4. 用 PyTorch 復(fù)現(xiàn)去噪網(wǎng)絡(luò)模型定義、訓(xùn)練循環(huán)與推理評(píng)估原理清楚了數(shù)據(jù)也備好了接下來(lái)是核心環(huán)節(jié)把網(wǎng)絡(luò)搭出來(lái)、跑通訓(xùn)練、驗(yàn)證有效。這一章給出的是一份可以直接改著用的 PyTorch 實(shí)現(xiàn)結(jié)構(gòu)上以 17 層深度卷積網(wǎng)絡(luò)為主這也是深度卷積神經(jīng)網(wǎng)絡(luò)圖像去噪算法里最經(jīng)典、最穩(wěn)的配置。4.1 17 層卷積網(wǎng)絡(luò)怎么寫第一層和最后一層的特殊處理網(wǎng)絡(luò)結(jié)構(gòu)如下注意首層和末層與中間層不同import torch import torch.nn as nn class DenoiseCNN(nn.Module): 17 層深度卷積去噪網(wǎng)絡(luò)輸入噪聲圖輸出殘差噪聲圖前向返回去噪結(jié)果。 def __init__(self, depth17, num_features64, in_channels1, out_channels1): super().__init__() layers [] # 第一層Conv ReLU不接 BN保留 bias layers.append(nn.Conv2d(in_channels, num_features, kernel_size3, padding1)) layers.append(nn.ReLU(inplaceTrue)) # 中間 depth-2 層Conv BN ReLUbias 置 False for _ in range(depth - 2): layers.append(nn.Conv2d(num_features, num_features, kernel_size3, padding1, biasFalse)) layers.append(nn.BatchNorm2d(num_features)) layers.append(nn.ReLU(inplaceTrue)) # 最后一層Conv 輸出單通道殘差圖不接 BN 和 ReLU layers.append(nn.Conv2d(num_features, out_channels, kernel_size3, padding1)) self.net nn.Sequential(*layers) def forward(self, x): residual self.net(x) return x - residual三個(gè)設(shè)計(jì)點(diǎn)需要說清楚。第一中間層 conv 的 biasFalse是因?yàn)楹竺婢o跟 BatchNormBN 自帶可學(xué)習(xí)的平移參數(shù)卷積的 bias 是冗余的首層和末層不接 BN必須保留 bias否則卷積輸出的均值漂移無(wú)法被補(bǔ)償。第二末層不接 BN 也不接 ReLU因?yàn)闅埐顖D可以是負(fù)值——正噪聲和負(fù)噪聲都要能表達(dá)一旦 ReLU 截?cái)嘭?fù)值網(wǎng)絡(luò)就只能學(xué)“加噪”方向沒法學(xué)“去噪”方向。第三forward 里的 x - residual 就是殘差學(xué)習(xí)的落地訓(xùn)練時(shí)網(wǎng)絡(luò)學(xué)習(xí)的目標(biāo)是殘差噪聲圖推理時(shí)原圖減噪聲得到干凈圖。4.2 訓(xùn)練超參數(shù)學(xué)習(xí)率、Batch Size 與學(xué)習(xí)率衰減訓(xùn)練循環(huán)的框架如下包含優(yōu)化器、學(xué)習(xí)率衰減、驗(yàn)證三個(gè)部分import math import torch import torch.optim as optim from torch.utils.data import DataLoader, TensorDataset # noisy_patches / clean_patches 是形狀為 (N, 1, 40, 40) 的 Tensor dataset TensorDataset(noisy_patches, clean_patches) loader DataLoader(dataset, batch_size32, shuffleTrue, num_workers4) model DenoiseCNN(depth17, num_features64, in_channels1, out_channels1) criterion nn.MSELoss() # 殘差學(xué)習(xí)使用 MSE對(duì)應(yīng)高斯噪聲的最大似然估計(jì) optimizer optim.Adam(model.parameters(), lr1e-3) scheduler optim.lr_scheduler.StepLR(optimizer, step_size10, gamma0.1) def evaluate_psnr(model, loader): model.eval() mse_sum, n_pixels 0.0, 0 with torch.no_grad(): for noisy, clean in loader: out model(noisy) mse_sum ((out - clean) ** 2).sum().item() n_pixels clean.numel() mse mse_sum / n_pixels return 10 * math.log10(1.0 / mse) # 輸入輸出均為 0-1 范圍 for epoch in range(50): model.train() total_loss 0.0 for noisy, clean in loader: optimizer.zero_grad() output model(noisy) loss criterion(output, clean) loss.backward() optimizer.step() total_loss loss.item() * noisy.size(0) scheduler.step() if (epoch 1) % 5 0: val_psnr evaluate_psnr(model, loader) print(fepoch {epoch 1:02d} loss {total_loss / len(dataset):.5f} fpsnr {val_psnr:.2f} dB)訓(xùn)練超參數(shù)按下面的常用值起步再根據(jù)實(shí)際收斂情況微調(diào)參數(shù)常用值調(diào)參方向?qū)W習(xí)率 lr1e-3訓(xùn)練不穩(wěn)時(shí)降到 3e-4batch size32顯存不夠時(shí)用 8~16但要關(guān)注 BN 統(tǒng)計(jì)網(wǎng)絡(luò)深度 depth17強(qiáng)噪聲可加到 20收益遞減特征通道數(shù)64大圖或強(qiáng)噪聲可加到 96epoch 數(shù)30~50驗(yàn)證 PSNR 進(jìn)入平臺(tái)期即停關(guān)于 evaluate_psnr注意它假設(shè)輸入輸出都是 0-1 范圍所以直接用 10log10(1/mse)不需要乘 2552。如果訓(xùn)練和推理走 0-255 范圍這里要相應(yīng)改成 10log10(2552/mse)。兩種口徑一致時(shí)PSNR 數(shù)值才是對(duì)的。4.3 推理階段全卷積推理與 YCbCr 通道處理訓(xùn)練時(shí)用 40×40 的 patch推理時(shí)輸入往往是整張 1024×1024 甚至更大的圖。好在網(wǎng)絡(luò)是全卷積的可以接受任意尺寸輸入不需要重新裁圖。下面是單張灰度圖的推理函數(shù)import torch import numpy as np def denoise_gray(model, noisy_img_bgr_or_gray, devicecuda): # 輸入 0-255 灰度圖輸出 0-255 去噪圖 model.eval() with torch.no_grad(): x torch.from_numpy(noisy_img).float().div_(255.0) x x.unsqueeze(0).unsqueeze(0).to(device) # (1, 1, H, W) out model(x).squeeze(0).squeeze(0).cpu().numpy() return np.clip(out * 255.0, 0, 255).astype(np.uint8)彩色圖一般不直接在 RGB 三通道上跑。常見做法是把圖像從 RGB 轉(zhuǎn)到 YCbCr 色彩空間只對(duì)亮度 Y 通道做深度卷積去噪CbCr 兩個(gè)色度通道保持原樣最多做一次很輕的均值濾波。原因是人眼對(duì)亮度細(xì)節(jié)最敏感色度通道的輕微噪聲感知度低這樣做省掉三分之二的計(jì)算量也避免三通道相互干擾導(dǎo)致偏色。如果場(chǎng)景要求三通道都去噪就把模型 in_channels 和 out_channels 改成 3輸入輸出保持 0-1 歸一化同樣能跑但訓(xùn)練時(shí)要保證每個(gè)通道的噪聲分布一致。5. 深度圖像去噪避坑指南5 個(gè)高頻問題與排查記錄網(wǎng)絡(luò)結(jié)構(gòu)能抄數(shù)據(jù)流程能抄但真正消耗時(shí)間的永遠(yuǎn)是訓(xùn)練和部署時(shí)那些“看著哪都對(duì)、跑出來(lái)就是不對(duì)”的問題。下面幾個(gè)坑我基本都踩過按現(xiàn)象、原因、解決的順序?qū)懩阏罩挪楸戎匦伦x論文快得多。5.1 loss 正常下降PSNR 卻只有幾 dB 甚至負(fù)數(shù)現(xiàn)象訓(xùn)練 loss 從 0.1 一路降到 0.01訓(xùn)練過程看起來(lái)完全正常但每次驗(yàn)證打印出來(lái)的 PSNR 只有幾 dB甚至出現(xiàn)負(fù)值。原因十有八九是 PSNR 的計(jì)算口徑和網(wǎng)絡(luò)輸出的歸一化范圍不一致。網(wǎng)絡(luò)在 0-1 范圍訓(xùn)練和輸出驗(yàn)證時(shí)如果直接拿 0-1 范圍的 MSE 套用標(biāo)準(zhǔn) PSNR 公式 10log10(2552/MSE)就會(huì)多算一個(gè) 10log10(2552) ≈ 48 dB 的偏置結(jié)果自然低得離譜。另一個(gè)常見誘因是網(wǎng)絡(luò)輸出沒有做 clip個(gè)別像素超出 0-1 范圍導(dǎo)致 MSE 被極端值拉大。解決統(tǒng)一口徑。輸入輸出規(guī)范在 0-1 時(shí)用 PSNR 10*log10(1/MSE)如果要在 0-255 域顯示就先把輸出乘 255 再算。順手在 PSNR 之前對(duì)輸出做 np.clip保證像素不越界。5.2 驗(yàn)證時(shí)輸出灰蒙蒙BatchNorm 的模式切換現(xiàn)象訓(xùn)練集上 loss 和肉眼效果都正常一換到驗(yàn)證集或單張推理輸出圖像發(fā)灰、細(xì)節(jié)全無(wú)像蒙了一層霧。原因模型沒有切到 eval 模式。BatchNorm 層在訓(xùn)練時(shí)用當(dāng)前 batch 的均值和方差在 eval 模式才使用訓(xùn)練階段積累的運(yùn)行統(tǒng)計(jì)量。驗(yàn)證時(shí)如果 batch 只有 1~2 張圖BN 臨時(shí)算出來(lái)的統(tǒng)計(jì)量嚴(yán)重偏離訓(xùn)練分布中間特征被錯(cuò)誤縮放輸出直接崩掉。解決推理函數(shù)里第一行必須是 model.eval()再配合 torch.no_grad() 關(guān)閉梯度計(jì)算。這兩句不是優(yōu)化項(xiàng)是 BN 類去噪網(wǎng)絡(luò)的硬性要求。如果切了 eval 模式仍然不對(duì)回頭檢查訓(xùn)練時(shí)的 batch size 是不是太小小于 8導(dǎo)致 BN 的運(yùn)行統(tǒng)計(jì)量本身就沒學(xué)準(zhǔn)。5.3 數(shù)據(jù)泄漏讓驗(yàn)證 PSNR 虛高現(xiàn)象驗(yàn)證 PSNR 高出同配置論文一大截但點(diǎn)開去噪后的圖片細(xì)看視覺上并沒有那么好紋理細(xì)節(jié)明顯不夠。原因所有 patch 混在一起隨機(jī)切分訓(xùn)練/驗(yàn)證同一張干凈圖的不同 patch 同時(shí)出現(xiàn)在兩邊。網(wǎng)絡(luò)在訓(xùn)練時(shí)見過同一張圖的鄰近區(qū)域驗(yàn)證時(shí)相當(dāng)于是“開卷考試”PSNR 被抬高。解決按圖像文件劃分而不是按 patch 劃分。先分出驗(yàn)證圖列表再對(duì)驗(yàn)證圖單獨(dú)裁 patch確保驗(yàn)證圖從不出現(xiàn)在訓(xùn)練流程里。驗(yàn)證時(shí)固定隨機(jī)種子讓每次加噪可復(fù)現(xiàn)。5.4 彩色圖去噪后偏色現(xiàn)象灰度圖效果正常換成彩色圖后輸出出現(xiàn)彩色斑點(diǎn)、整體色調(diào)偏移去噪后顏色比帶噪原圖還怪。原因直接在 RGB 三通道上逐通道訓(xùn)練忽略了通道之間的顏色相關(guān)性。相機(jī)噪聲在 RGB 通道間并不獨(dú)立簡(jiǎn)單逐通道處理會(huì)破壞顏色關(guān)系另一個(gè)常見誘因是網(wǎng)絡(luò)輸出某個(gè)通道越界后沒有 clip導(dǎo)致色平衡被破壞。解決優(yōu)先轉(zhuǎn) YCbCr 只去噪 Y 通道這是最穩(wěn)的做法如果需要 RGB 三通道同時(shí)去噪輸入輸出統(tǒng)一歸一化到 0-1推理時(shí)用 clip 把三通道都限制在合法范圍內(nèi)。還可以在訓(xùn)練時(shí)對(duì)訓(xùn)練圖做顏色擾動(dòng)增強(qiáng)讓模型學(xué)到更魯棒的通道關(guān)系。5.5 真實(shí)噪聲場(chǎng)景效果崩盤高斯預(yù)訓(xùn)練模型的邊界現(xiàn)象在合成高斯噪聲上訓(xùn)練得好好的模型放到真實(shí)夜景照片上細(xì)節(jié)被磨掉的同時(shí)噪聲還剩一大半直觀效果甚至不如傳統(tǒng)塊匹配算法。原因真實(shí)相機(jī)噪聲不是加性高斯它包含傳感器暗電流、ISP 增益放大、去馬賽克帶來(lái)的空間相關(guān)噪聲而且強(qiáng)度通常與像素亮度有關(guān)。高斯噪聲假設(shè)在弱光強(qiáng)噪場(chǎng)景下嚴(yán)重失效。解決交付項(xiàng)目前先定邊界。用真實(shí)設(shè)備采集噪聲-干凈對(duì)或者做噪聲標(biāo)定用少量真實(shí)數(shù)據(jù)在預(yù)訓(xùn)練模型上微調(diào)訓(xùn)練階段把 σ 做成隨機(jī)變量讓模型覆蓋不同噪聲強(qiáng)度對(duì)弱光圖像可以先做亮度歸一化再進(jìn)網(wǎng)絡(luò)。合成高斯噪聲基線只適合算法驗(yàn)證和消融對(duì)比直接拿去做真實(shí)產(chǎn)品一定會(huì)翻車。6. 再往前一步盲噪聲模型、test-time augmentation 與邊緣保持驗(yàn)證固定 σ 訓(xùn)練的模型碰到未知強(qiáng)度的噪聲時(shí) PSNR 掉得很快因?yàn)榫W(wǎng)絡(luò)只在某個(gè)噪聲等級(jí)附近見過樣本。改進(jìn)做法是訓(xùn)練時(shí)每個(gè) batch 隨機(jī)抽取 σ比如每張 patch 的 σ 從 [5, 50] 均勻采樣再合成噪聲。網(wǎng)絡(luò)結(jié)構(gòu)不用改只把數(shù)據(jù)合成里的 σ 從常量變成隨機(jī)變量。這樣訓(xùn)練出的模型在推理時(shí)不需要預(yù)先估計(jì)噪聲強(qiáng)度一張網(wǎng)覆蓋常見強(qiáng)弱噪場(chǎng)景這也是盲去噪的基礎(chǔ)做法。推理階段有個(gè)幾乎零成本的增強(qiáng)技巧把輸入圖水平翻轉(zhuǎn)后再送入網(wǎng)絡(luò)得到去噪結(jié)果后翻轉(zhuǎn)回來(lái)與原圖的結(jié)果取平均。由于網(wǎng)絡(luò)對(duì)翻轉(zhuǎn)后的輸入會(huì)有略微不同的預(yù)測(cè)誤差兩者平均能抵消部分偏差PSNR 通常能提升 0.1~0.3 dB代價(jià)只是多做一次前向。對(duì)彩色圖可以先轉(zhuǎn) YCbCr只對(duì) Y 通道做這個(gè)操作CbCr 通道不參與計(jì)算量可控。評(píng)估去噪效果不要只看 PSNR。我習(xí)慣在驗(yàn)證集上同時(shí)輸出 SSIM并且對(duì)去噪結(jié)果跑一遍 Canny 邊緣檢測(cè)對(duì)比原圖的邊緣響應(yīng)如果邊緣變碎、斷裂說明網(wǎng)絡(luò)把結(jié)構(gòu)當(dāng)噪聲抹了再用局部方差圖檢查平坦區(qū)域是否被過度平滑。這些指標(biāo)比單一 PSNR 更能反映“能不能用”。我自己的教訓(xùn)是別一開始就追最新的網(wǎng)絡(luò)結(jié)構(gòu)先固定 σ25 把數(shù)據(jù)管線、訓(xùn)練循環(huán)、BN 切換這些基礎(chǔ)環(huán)節(jié)跑穩(wěn)再往上面加盲噪聲、TTA 和真實(shí)噪聲微調(diào)否則出了問題根本不知道是網(wǎng)絡(luò)的問題還是流程的問題。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷五月丁香久久| 色哟哟www| 精品久久久人妻| 成人免费网站免费看| 深夜激情网| 99视频极品在线香蕉| 久久超视频| 激情综合网五月婷婷| 人人播| WWW.天天日| 国产成人精品一区二三区熟女在线| 丁香五月婷婷动漫| 日本激情综合| 婷婷五月天影院| 大香蕉狼人久久| 九九这里都是精品| 日韩成人中文字幕| 影音先锋美国A| 六月久久狠狠| 成人AV免费观看| 99热伊人| 日本va欧美va欧美精品88| 91视频一起草| 91人在线观看| 激情六月天婷婷| 九九色色| 亚洲无码影片| 色综合区| 五月天色在线| 九九热中文| 激情六月婷婷| aaaaaa片| 欧美日韩精品一区二区三区钱| 色五月超碰| 五月丁香日本片| 一本大道伊人AV久久综合| 色五月六月| 任你爽精品免费视频6| 丁香六月综合激情| 五月丁香六月综合激情无码软件亮点| 99ri精品视频在线观看| 久久丁香综合香蕉| 婷婷永久在线| 欧美性色五月天| 五月丁香毛片| 裸体做A爰片毛片A片免费| 99热中文字幕久久| 五月丁香六月色婷婷综合五月天| 色吧99| 五月婷婷欧美| 日韩色色视频www| 婷婷综合亚洲| 久久久久9久无码视频| 亚洲性视频| www.粉嫩av.com| 青吴乐视频| 26UUU欧美激情一区二区| 888精品福利地址| 五月婷婷电影院| 婷婷五月激情网| 91精品电影18T| 99婷婷色| 中文字幕 码精品视频网站| 亚洲aV写真天天综合网久久| 色九月婷婷| 婷婷丁香无码专区| 99热这里只有精品22| 亚洲、热| 色情五月天小说| 婷婷丁香色女人| 黄色五月婷婷| 天天做天天爱天天玩夜夜爽 | 天天舔天天摸天天透| 久久狼人天堂| 亚洲成人精品三区| 噼里啪啦在线观看免费完整版视频| 99这里只有精品视频| 一夜福利不卡| h亚洲| 欧美性猛交AAAA片黑人 | 天天做天天爽| 五月婷在线视频免费播放| 欧美人人操| 69热91天堂| 婷婷久久网| 中文字幕婷婷五月天在线观看| 日韩啪啪网| 大香蕉视频99| 福利视频在线播放| AV在线大香蕉| 亚美欧色影院| 亚洲综合五月天综合| 手机在线日韩视频中文字幕| 久久九九99.www| 婷婷在线精品| 性爱网五月天| 亚洲热热视频| 国产乱妇乱子伦| 蜜臀丁香黄色婷婷五月天| 98热精品| 91色五月在线观看| 亚洲激情网| 97色女人在线| 亚洲五月色| 五月丁香六月婷婷,婷| 日日操夜夜操无码免费| 亚洲中文字幕翔田千里| 天天日天天操心| 色狠狠综合网| 欧美成人色婷婷| 丁香五月婷婷色五月| 五月丁香成人| 综合激情专区| 婷婷五月成人社区| 青草视频在线观看视频| www五月| 婷婷五月免费视频| 热成人网| 99在线看片| 大香蕉520| 99免费青青蜜臀| 国产真实乱对白精彩| 天天干天天干天天干天天干天| 欧美xx激情视频在线观看| 六月婷婷色五月| 99操逼| 五月婷免费视频| 色综合99无码| 丰满少妇猛烈A片免费看观看| 婷色五月天| 五月丁香中文字幕| 亚洲激情网站| 伊人婷婷色激情丁香| 丁香五月天在线视频| 国产激情在线| 色播五月综合网| 午夜微拍福利| 日本操天堂| 婷婷色五月天在线| 99久久99九九九99九他书对| 久久婷婷五月综合激情国产 | 亚洲精品色色| 99视频精品| 1024成人在线观看| 丁香五月婷婷99| 五月婷婷影视| 九九热123| 国产成人综合网| 5五月综合网亚洲| 国产精品久久7777777精品无码| 大波美女VA网站| 99久久99视频只有精品| 五月天婷婷激情网| 色综合色色| 麻豆雪千夏| 九九综合88| 六月婷欧美丁香综合| 无码人妻AV久久久一区二区三区| 国产成人片| av在线资源| 丁香色婷婷五月天| 色五月激情婷婷| 超碰色综合| 99精品国产在热久久婷婷| 99久久6| 五月丁香 啪啪啪| 99久99热| 婷婷色香六月综合激情| 天天操天天操| 欧美性丁香色色五月天| 9999热这里只有精品| 九九综合精品| 丁香五月婷婷88在线| 凹凸7777操操操| 丁香 婷婷 激情 综合 五月| 99色色热| 婷婷久久免费看| 中文久久久人妻| 五月色婷婷在线观看| av在线免费播放| 国产欧美第五十五页| 五月天色综合| 中文无码婷婷| 99re最新地址视频| 亚洲熟妇AV综合网五月丁香伊人| 婷婷激情六月中文| 岛国av电影网站| 激情综合网 激情五月天| 九色视频这里只有精品| dingxiangtingtingliuyue| 噜噜噜噜在线| 超碰免费在线| 亚洲色精彩| 丁香综合伊人| 五月丁香欧美综合免费视频| 五月丁香在线婷婷美女| 午夜丁香五月天综合| 九色色| 天天日夜夜操五月| 色婷婷五月天视频在线| 99色综合| 人妻AV在线| 91狠狠色丁香婷婷综合久久精品| 婷婷伊人| 国产精品久久久爽爽爽麻豆色哟哟 | 午夜亚洲国产精品av一区二区| 97视频91| 超碰在线国产| 97色女人在线| 亚洲人妻av| 亚洲综合五月| 爱久久小说下载网| www99xxxx五月丁| 丁香 亚洲 久久| 五月丁香综合成人社区| 亚洲欧美婷婷五月色综合| 色丁香五月天射婷婷爱婷婷| 婷婷五月天伊人网在线观看视频| 五月婷婷激情久久| 色婷婷伊人| 97碰在线视频| WWW.国产| www,99色| 婷婷五月花| 激情丁香婷婷五月天| 久久er九九| 五月婷婷六月奇米网丁香| 五月婷婷丁香瑟瑟视频| 99久久这里只有精品| www色五月| 五月婷婷色播| 7777国产盗摄农村女人| 99九九中文字幕视频| 91成人视频| 欧美噜噜免费观看| 五月婷婷六月婷| 丁香五月天在线| 色五月激情网| 婷婷爱五月天| 玖玖色综合色| 99久久99视频| 亚洲 25P| 97 A I色色| 色色色干| 97超碰免费超级在线观看| 日本9区视频| 丁香五月香蕉| 9999色色色色| 婷婷久久精品| 性无码专区无码| 久久久久久久久久久久久久久久久精典| 天天肏高清在线| 丁香五月天激情网址| 精品久久久久久久久久久久人妻| 九九99热| 五月婷婷六月丁香| 亚洲视频无| 婷婷精品视频| 精品免费99| 97热精品| 九九9久九9国产视频| 日韩无码91| 丁香综合网| 五月丁香婷婷成人伊人网| 六月丁香久久| 激情丁香五月婷婷| 五月婷婷丁香五月| 另类色网| 日本成人噜噜噜| 五月天亭亭俺也| 丁香五月天操B| www.9797国产| 色视五月天婷婷| 五月丁香成人视频| 国产一区二区三区影院| 激情综合网色五月| 五月婷婷中文网| 五月天激情网站| 狠狠综合| 啪啪六月婷婷| 日夜夜天天| 丁香六月色情| 99色在线观看视频| 91无码色色| 性生活视频98791| 日批在线看| 99热99精品| 51精品国自产在线| 丁香综合网| 99er6热在线观看精品6| 第四色五月天| 欧美色色日韩| 亚洲五月丁| 精品99在线| 天天色天天操天天射| 日韩99视频| 五月天影院婷婷在线观看| 色五月婷婷91| 1024成人免费看| 婷婷五月天成人| 久久99热久久99精品| 婷婷伊人网| 无码一区二区三区四区五区91c| 99操| 国产日韩欧美性爱| 色婷婷丁香花五月天| 亚洲99综合| 婷婷丁香五月亚洲综合网在线视频观看| 激情综合网五月| 国产在线视频1234| 色婷綜合网| 日韩成人中文字幕| 99热大| 开心四月婷婷在线色播播| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 五月色欧洲| 激情综合网五月丁香| 99天堂在线观看免费视频| 人妻AV在线| 久久伊人五月天| 亚洲欧洲中文日韩久久AV乱码| 婷婷丁香宗合888| 99热只有这里才是精品| 狠狠精品干练久久久无码中文字幕 | 99网| 色五月婷婷操逼| 激情网综合| 色情综合| 97碰碰人人| 色五月综合在线| 亚洲精品又粗又大又爽A片| 日韩九区| 99色精品| 99九九免费精品| 五月丁香激情综合欧美| www.婷婷五月| 国产脫衣舞一区二区三区| 99在线亚洲| 大陆极品少妇内射AAAAAA| 五月丁香婷婷啪啪| 99热久草| 99五月婷| 精品久久久人妻| 9久久狠狠的| 99久久久国产大片| 啪啪激情网| 69精品人人人人人人| 99色在线观看| 九九激情网| 国产成人av在线| 激情五月天婷婷在线网址发给我| 99久久天堂婷婷| 亚洲欧洲自拍图片专区五月天| 亚洲最大视频| www.五月婷婷| 美欧日韩国产成人在战| g00d人体西西| 这里有精品2| 怎么样可以看免费的一级av| 最新日韩久热免费视频看看| 日日操,夜夜撸| 中文字幕成人| 丁香五月婷婷深爱综合激情| 国产亚洲在线观看| 99热偷拍| 欧美久久婷婷| 国产av基地| 夜夜撸夜夜骑| 狠狠色丁香婷婷| 五月天婷网| 中日韩美欧成人一区二区精品在线| 色五月xxx| 久久五月丁香| 五月丁香啪啪网| 丁香五月激情啪| 久操97| 99热这里只有精品16| 国产女18毛片多18精品| 99久久er| 久久您您综合网| 五月永久激情| 亚洲视频一区| 久久久五月激| 日韩黄色影院| 天天成人综合视频| 婷婷五月丁香综合网| 就爱干 在线| 日日爽夜夜爽| 天天人人天天爽| 久热91| 久久视这里只有精品| 激情五月天电影| 99热老网站| 色99日韩| 久久综合爱| 色啪综合| 噜噜噜噜噜在线| 亚洲激情97五月天| AⅤ网站在线看| 东北婷婷五月天| 国产精品久久久爽爽爽麻豆色哟哟| 日本人妻丁香婷婷久久寝取熟女五月| 国产成人精品亚洲线观看| 婷婷五月天777| 欧美性猛交 XXXX 乱大交| 久久这里面只有精品视频| 色色婷| 九热在线这里有精品6| 91久久久久久| 丁香五月骚喷水视频| 国外亚洲成AV人片在线观看| 色综合网综合| 中文超碰视在线| 视色综合| 亚洲国产网站| 成人在线视频一区| 综合久久综合久久| 五月在线| 婷婷五月天Av| 久草丁香婷婷1024| 99九九精品| 五月丁香趴趴| 玖玖爱综合网| 精热在线综合网| 97色色视频| 日本ww亚洲| 丁香五月婷中字在线| 丁香五月天视频在线播放| 9l视频自拍九色9l黑人| 天天干,天天日| 婷婷丁香宗合888| www.色婷婷| 欧美激情五月天婷婷| 亚洲中文字幕在线观看| 日本欧美国产| 99色久| 丁香花五月天| 亚洲中文字幕翔田千里| 久久丁香五月天| 另类伊人婷婷| 五月天激情综合| 国产六月婷婷| 97操碰免费视频| 另类图片五月天| 超碰免费人妻| 99热精品在线在线| 久久成人综合五月天| 丁香婷婷五月综合欧美另类| 七七色色综合| 日韩色色网| 亚洲V国产V欧美V久久久久久| 五月综合影院| 五月婷婷,狠狠操| 久久精品99| 激情99。| 五月黄色婷婷| 色五月成人| 99色最新在线视频| 婷婷综合国产| 丁香五月首页| 五月丁香婷色| 五月丁香婷婷综合网色欲| 亚洲成人高清在线| 亚洲99激情| 久热久69| 99在线视频播放| 丁香六月 婷婷六月| 国产操B| 婷婷五月丁香色综合| 天天射影| 182无码| 九九99热久久精品66中文字幕| 婷婷大香蕉| 9久久狠狠的| 天天操比比| 成人亚洲精品| 91妻人人爽人人看片| 色色亚洲无码| 91人人人人人人人| 九九色影视| 狠狠999| 亚洲五月天色色| 综合色久| 色5月婷婷| 91ncm视频| 91狠狠综合久久| 久久九九大香蕉电院| 婷婷五月综合色拍| 99国产精品白浆在线观看免费| 五月婷婷啪| 人人爱操| 婷婷热色| 人人摸人人搞| 五月丁香六月婷婷视频| 久久婷婷五月天懂色| 99热个人在线| 色哟哟精品| WWW、日本色丁香、co m| 九月婷婷综合网| 五月婷婷综合激情| 五月婷婷五月| 伊人婷婷激情| 在线观看996精品| 狠狠色婷婷7777久| 亚洲热综合| 婷婷丁香五月天综合AV| 9精品国产在热久久| 天天摸天天肏| 五月天激情网页| 色婷婷先锋| 国产午夜精品AV一区二区麻豆| 亚洲最大激情无码| 丁香六月婷婷高清| 天天综合 99久久婷婷| 99re6在线视频精品免费| 六月婷婷色综合| 美女婷婷六月色| 婷婷色在线播放| 五月丁香六月激情| 插插干干干色| 中文字幕,综合,91| 激情久久伊人| 超碰碰碰碰| 色人妻五月| 怡红院 久久| 色婷婷AV久久| 香蕉久久国产AV一区二区| 色综合久久88色综合天天99| 美女要搞搞天天搞搞搞网站| 人妻AV在线观看| 91热视频| 五月丁香啪啪网| 激情综合五月婷婷| 丁香六月成人网| 日韩久久视频| 激情五月婷婷她| 69精品人人人人| 五月丁香六月成人| 午夜婷婷五月天| 色五月婷婷五月丁香五月激情五月视频| 日韩AV中文字幕在线| 少妇高潮A片无套内谢麻豆传| 婷婷色色丁香五月天| 在线A色| 99在线精品观看99| 综合激情在线观看| 婷婷五月丁香激情| 1024日韩| 亚洲成人av在线| 久久久精品人妻录| 丁香月五月天婷婷久久| 武则天精品久久| 九九精品碰| 国产美女无遮挡裸体毛片A片| 日韩久久视频| 激情六月天婷婷| 欧美亚洲婷婷五月| 婷婷五月情色| 五月天激情综合首页| 九九99精品视频| 婷婷五月丁香综合桃花色网| 激情五月婷婷综合秋霞| 五月丁香影视| 韩国久久少妇视屏| 久久视频婷婷视频| 秋霞性爱AV| 天堂亚洲 在线| 丁香五月婷婷av影院| 超碰在线成人| 精品久久99| 五月天综合在线| 婷婷丁香五月亚洲综合网在线视频观看| 五月天·www·com| 99热婷婷| 色久女| 亚洲无码你懂的| 曰本久久女| 国产亚洲精品AAAAAAA片| 91精品综合久久久久久五月丁香| 五月婷婷色播| 久久婷婷综合五月趴| 五月丁香 啪啪啪| 天堂婷婷五月在线| 激情视频网址| 婷婷午夜精品久久久| 欧美久人人| 久草婷妨| 久久丁香综合香蕉| 天天射天天插天天干| 色色色综合网| 色狠狠综合| 婷婷久久综合久| www.91.com黄| 一起草无码| 99视频在线观看网址| 天天做天天爱天天综合| 色5月婷婷| 中文字幕不卡+婷婷五月| 夜夜www| 婷婷丁香五月天综合AV| 欧美在线干| 久久婷婷国产| 日本99在线视频| 婷婷 伊人 久久| 亚洲成片在线观看| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 日本色色色色色色色色一色二色| 欧美在线| 色优久久| a久久| 九久9精品| 亚洲五月婷婷| 免费做A爰片77777| 久久精品一区二区三区四区| 欧美A级成人婬片免费看理论| 桃色成人网| 91在线操逼视频| 大香蕉AV电影在线| 欧美精品狠狠色丁香婷婷| 操91综合网| 麻豆忘忧草午夜| 国产超碰av| 免费在线a| 热热99爱爱| 黄色一级影片| 五月丁香免费视频| 激情网站五月| 色婷婷丁香五月观看| 99色热视频| 色人妻五月| 久久少妇视频| 99爱视频| 色五月综合网| 久久亚洲婷婷| 亚洲乱码日产精品BD| 日本激情综合| 婷婷久久天堂网| 操日本三片99| 亚洲啪啪啪啪| 婷婷五月花免费视频在线| 亚洲色五月天在线| 天天日天天做天天操| 五月天六月婷| 六月婷婷视频| 久99| 久久xx| 日韩av变天就操逼不卡区| 国内自拍1区| 丁香六月婷婷社区| 日韩成人中文| 亚洲中文AV网站| 波多野结衣AV无码Porn| 99操视频| 狠狠va| 色区域网站视频| 激情五月婷婷综合| 久久综合性| 丁香五月综合| OYIWbGcPu8H| www.久久久久久久久久久| 日韩狠狠色| 日日夜夜狠狠婷婷色| 丁香五月婷婷激情视频播放| 影音先锋777xfplay色资源网站| 日熟女| 996er热| av在线播放网站| 91jiuseshunv| 婷香五月| 天天天天天操| 婷婷五月六| 日韩人妻无码专区| 亚洲精品V天堂中文字幕| 99操不停| 国产成人AV在线| 大波美女VA网站| 五月婷婷综合在线观看| 九热...av| 色色色综合网| 久久精品日| 人人摸人人操人人爽| 99热视| 婷婷五亚洲| 欧美视频五区| 97色吧| 亚洲天堂有码| www.日本久久videos| 丁香五月婷婷激情视频播放| 99热只有| 婷婷激情四射| 国产AV网页| 91色婷婷综合久久中文字幕二区| 亚洲色小说在线综合| 久久免费精彩视频| 9色在线| 国产精品A片在线| 五月天综合久久| 五月色欧美| 精品爆操| 亚洲精品无码一区二区| 婷婷色基地在线看| 婷久久综合| 九九AV在线| 婷婷中文字幕版| 91视频综合网| 人妻体体内射精一区二区| 色天堂操| 一夜福利不卡| 五月丁香在线观看| 九九综合久久| 超碰在线观看成人视| 天天日天天干天天爱| 综合色激情| 久久综合人妻| Av在线资源| 丁香婷婷激情综合五月激情| 99热这里只有免费精品| 激情五月天社区| 神马久久五月天| 大香蕉婷婷| 婷婷.com| 婷婷五月天基地| 亚洲精品444久久久久久| 这里都是精品99| 日韩视频99| 婷婷色色网| 99偷拍视频在线日本| 色色影院aaaav| 色色a| 欧美日本日韩| 色婷婷五月色| 五月丁香六月激情啪| 婷婷丁香人妻天天爽| 九月婷婷在线观看| 热99视频精品| 色情五月天丁香社区| 9久热精品在线视频| 国产在线黄色| 婷婷六月五月天综合| 激情www| 婷婷之玖玖| 天天在线久久综合 | 五月天狠狠网站| 久久偷拍综合五月天| 五月丁香网站| 久操福利| 五月丁香亚洲婷婷| 九九热精品| 亚洲碰碰碰| 99久久综合精品五月天| 色情婷婷五月天| 丁香熟女乱| 综合久色五月| 婷综合| 亭亭丁香97| 成人小说 五月天 婷婷| 超碰在线视屏| 丁香五月婷婷久久久| 久久人妻乱子伦| 五月天色综合| 国产成人+综合亚洲+天堂| 色色综合五月| 国产精品-91JQ就要激情网91JQ6.91JQ27.CASA:16888 | 婷婷永久在线| 激情综合网五月| 婷婷五月中文字幕| 丁香五月停停av| 狠狠色色| 97精品欧美91久久久久久久| 久久九九免费视频| 亚州在线中文字幕| 综合五月天亚洲婷婷| 五月 激情视频| 麻豆忘忧草午夜| 色播五月丁香婷婷| 亚洲五月花| 天堂久久性| 激情五月综合网最新| www.五月天| 五月婷丁香| 婷婷五月色色| 亚洲国产网址| 婷婷综合五月色播| 99精品视频在线观看| 亚洲色啪| 婷婷九月亚洲| 亚洲成人中文字幕| 色情五月天A片| 大地9中文在线观看免费高清| 久热大香蕉| 影音先锋天天日| 特黄三级又爽又粗又大| 色婷婷影音| 日日夜夜天天| 五月丁香六月婷婷综合在线| AV在线观看网站| 伊人激情网| www.色五月天.com| 欧美性生交A片免费看| 影音先锋色色色资源色资源色| 久久综合丁香| 婷婷爱五月| 终合激情网| 亚洲av综合在线| 美女激情婷婷| 99ER热精品视频| 99热这里只有99| 丁香五月性爱| 日本三级中文字幕| 九九精品热播| 成人在线视频一区| 99热在线只有精品| 婷婷性爱五月天丁香网| 婷婷综合网站| 五月婷婷综合在线亚洲视频| 五月天婷婷青青| 玖玖资源站中文| 丁香婷婷浪潮AV久久综合| www,五月丁,com| AA片在线观看视频在线播放| 色色综合日韩| 久/久精品99看9| 五月天激情小说婷婷| 婷婷激情四射| 97精品综合久久| 九九九色综合| 任你爽精品免费视频6| 久久久久婷 | 成人午夜天| 五月丁香好婷婷姑娘综合网| 日本三级日本三级99| 婷婷综合另类小说| 狠狠干夜夜干| 狠狠干综合| 九九热只有精品| 成人看片网站| 激情五月婷婷网| 任你艹| 精品乱码久久久久| 六月色婷婷色| 国产精品色色| 激情五月伊人婷婷| 天天爽夜夜操| 色婷婷丁香五月高清在线| 国产亚洲精品AAAAAAA片| 亚洲综合新99视频| 亚洲无AV在线中文字幕| 婷婷丁香水多多视频| 少妇伦子伦精品无吗| 亚洲久久婷婷丁香五月天| 少妇人妻偷人精品无码视频新浪| 森林影视大全,最好看的2019年视频 | 丁香六月婷婷开心| 噜噜噜狠狠色综合| www.夜夜| 亚洲综合新99视频| 亚洲精品久久久无码| 综合热无码| 99欧美热| 五月花激情| 久色88| 久热黄色| 大香网伊人久久综合| 色色a| 色婷婷在线视频久| 亚洲中文字幕在线观看| 思思久日精品视频| 久久99免费视频| 日本狠狠干| 99热主页日本| 青草五月天| 九九视频这里是精品五月| 国产伦亲子伦亲子视频观看| 青草激情在线| 亚州第一A片| 狠狠操天天干| 国产,欧美,学生妹,视频| 日逼免费视频| 日本一区二区三区精品视频| 色五月亚洲| 97操视频| 91日本在线观看| 涩涩五| 婷婷五月丁香色色| 色婷婷六月| 97碰| 亚洲激情网| 婷婷五月开心中文字幕在线| 九九色插| 超碰高清在线| 99亚洲天堂| 大地9中文在线观看免费高清| 热久久国产视频| 国产第99页| 五月丁香久| 亚洲综合激情五月天婷婷| 成人片黄网站色大片免费毛片| 色婷婷视频综合| 天堂五月婷婷| 精品五月天| 久久婷婷五月综合激情国产| 国产高清视频91九九九久久久| 五月丁香婷婷深深爱| 99热日韩| 少妇被躁爽到高潮无码文| 色性五月天| 91艹人| www.婷婷五月天.com| 97色色色色色色色色色色色色色| 色色色色色色色色色色色色色色,网站| 激情 婷婷| 狠狠色丁香久久久婷| AAA级久久久精品| 这里只有精品在线视频在线观看| 久久网日本| 国产精品18久久久| 六月婷婷久久大全| 久久婷婷91| 成人精品视频99在线观看免费| 深爱1激情网| 午夜九九九九九九九九九九九九九| 亚洲色另类| 激情久久综合网| www.婷婷,com| 婷婷99| av操一操| 亚洲中文字幕网| www.9操| AA丁香综合激情| 婷婷综合另类小说| 丁香六月婷婷激情| 高清不卡一区| 久久99久久99精品免视看婷婷| 人妻操日日| 夜夜谢天天干| 九九精品视频在线6| 99精品在线观看视频| 精品人妻伦九区久久AAA片| 26uuu欧美日本| 99色在线视频| 久cao香蕉影院| 97影院一级片| 丁香六月激情综合网| 丁香五月黄色| 婷婷综合激情| 色导航色婷婷五月天在线观看| 五月激情啪啪啪| 精品99在线| 六月丁香激情最新更新| 狠狠综合区| 97精品综合| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 天天射影院| 欧美成人网99网| 五月开心婷婷极品激情| 色五月婷婷丁香凹凸| 色99在线| 激情婷婷综合五月少妇| 超碰成人电影| 成人AV片播放| 色五月首页| 欧美草久久五月天91| 婷婷激情综合网| 超碰婷婷五月| 亚洲AV免费在线| 99热在线观看免费| 色狠狠综合| 天天肏视奸| 综合色播| 天天爽天天摸天天爱| 狠狠干天天内射| www.激情com| 另类少妇人与禽zOZZ0性伦| 六月婷婷五月丁香| 色婷五月天亚洲| 欧美三级黄色片久久| 日韩成人中文| www久| 深夜激情网| 丁香五月天激情婷婷丁香六月| 婷婷色基地在线看 | 99国产精品久久久久久久久久久 | 婷婷基地五月色| 91美女被操| 夜色爱爱亚洲| 99热这里只有精品9| 99精品在线| 婷婷五月免费在线| 大香蕉五月天| 99啪视频在线观看| 丁香网站| 97干视频| 五月天五月天成人网亭亭成人色网站| 亚洲中文丁香| 久久久久久久8| 婷婷五月综合国产精品| 国产一级片| 亚洲色99| 襙比视频| 99热精品在线| 五月叮香啪| 久久黄色片| 色欧洲| 九九综合| 婷婷五月精品中文字幕| 成人五月天婷婷| 99色在线观看视频| 1024欧美看片| 天天插天天射| 超碰超碰在线| 深爱激情五月婷婷| 婷婷瑟五月天久久综合| 久久精彩视频18| www.色婷婷.com| 99热热这里只精品996小说| 99热色在线精品| 国产在线6| 亚洲成人在线免费| 丁香五月天堂网AV| 激情98色婷婷五| 97精品综合久久| 国产成人在线精品| 亚洲综合色色| 天天射影视综合网| 五月噜噜噜色综合| www.97碰碰com| 熟女国产在线一区二区三区四区| 强辱丰满人妻HD中文字幕| 伊人五月天在线| 中文AV在线观看| 丁香五月六月婷婷怡红院| 五月婷婷激情色情网| 啪啪色激情五月天| 丁香婷婷色九月| 大香蕉伊然在亚洲90| 69超碰在线| 日本久久精品| 色色色99| 色婷婷五月天在线观看| 99青青草| 五月天婷婷伊人| 五月色亭丁香| 狠狠色婷婷7777久| 国产精品色婷婷99久久精品| 综合久久首页| 97色射| 超pen个人视频97| 三级三久久线久久99久目本WW| 99色综合网| 色婷五月天| 人妻操逼视频| 色五月丁香六月婷婷| 狠狠狠狠狠狠狠狠草| 开心 五月 综合| 久热9| 久久激情五月婷婷| 久久99久久久| 九九久久污| 五月婷婷欧洲| 久久五月婷天天干| 精品一二三区久久AAA片| 99色视频| 色五月激情五月天| www.婷婷五月| 久久超级碰碰| 97色操| 99亚洲视频| 俺去也五月| 丁香五月另类小说| 欧美激情综合色综合色| 久久婷婷五月激情网站| 性小说五月天| 电影蜘蛛女| 天天做天天爱天天日| 1024人妻| 久久久婷婷婷| 香蕉综合在线| 激情五婷网| 天天操婷婷| 视频一二区| h亚洲| 婷婷久久内射| 青996青| www热久久yy9| 欧美人人女女精品综合五月天| 欧美婷婷精品激| 啪啪东京热| 欧美日韩日韩成人| 99在线爽| 日韩精品一区二区刘| 久久国产AV| 激情婷婷网| 1234操逼网| 狠狠色丁香久久婷婷综合五月| 久啪欧美| 国产九九一区二区三区| 日亚二欧美| 丁香五月AV| 国产精品日日躁夜夜躁| 欧美日本国产欧美日本韩国99| 丰满人妻妇伦又伦精品国产| 蜜桃五月天| 亚洲A片成人无码久久精品青桔| 国产精品久久久久久久久久免费 | 思思99热| 成人网在线视频| 日韩色五月| 激情综合区| 久久伊人五月天| 五月天色丁香| 97福利视频| 白人荫道BBWBBB大荫道| 国产69久久久欧美黑人A片| 4399啪啪视频| 婷婷在线日韩综合| 欧美精品狠狠色丁香婷婷| 日韩啪啪自拍| 亚洲视频无| 五月婷婷色播| 67194成I人在线观看线路1| 在线另类| 五月丁香六月婷婷,婷| 久久久久综合激动五月天| 《》【无码】想被搞到爽AV应募而来的超M素人 西纯子 10musume-011723-01 | 120分钟婬片免费看| 99久热这里只有精品视频删减版| WWW色综合| 丁香五月婷婷亚洲综合精品在线| av在线资源| 久色大| 久久久99久久| 99热网站| av国产精品| www.wuyuetian啪啪| 色色热日| 国产资源在线视频| 欧美大香蕉视频| 99色色热热| 亚洲精品欧洲精品| 五月天婷婷导航| 色欲色香伊人| 久久超视频| 丁香五月天啪啪| 婷婷五月天成人网| 免费黄网不卡AV| 色婷婷亚洲综合av| 在线中文亚洲| 91久久婷婷| 婷婷丁香午夜综合影视| 极品五月天| www.99热这里精品| 超碰九九热| 丁香婷婷激情| 亚洲春色奇米影视| 久久婷婷桃花五月天| 991精品在线视频| 大香蕉久久伊人婷婷五月丁香| 婷婷五月激情丁香激情| 婷婷五月天成人网站| 96丁香六月婷婷蜜桃综合久久| 五月婷色色| 五月丁香色综合| 色九九中文字幕| 2015超碰| 五月丁香A片| 国产又黄又爽又激情不遮挡视频在线观看| 精品无码99| 五月婷激情影院| 人人草人人爱| 色五月婷婷7777| 久九九热| 99热福利| 青青草日本亚洲| 丁香五月婷婷AV在线| 另类视频在线| 黄色三级毛片中字| 亚洲色色五月| 久久这里精彩免费在线观看| 99操免费视频| 思思99热这里只有精品| 亚洲AAAA网| 日本色爽| 激情丁香五月天| 狠狠操狠狠色| 大香蕉九九热| 五月婷婷内射网| 成人五月天视频播放| 变态另类9| 久久久国产精品黄毛片| 久久久免费图片视频| 亚洲黄色影视| 五月天激情AAAA| 色色99| 任你艹| 五月天婷婷丁香人人操91| 九九热黄色| 青青福利网| 中文字幕av在线播放| 欧美激情综合色综合啪啪五月| 99热黄| 99热婷婷| 五月丁香激情欧洲啪啪| 九色七七| 成人综合网站| 激情久久 婷婷| av在线超清中文| 精品久久久人妻| 九九视频在线观看| 亚洲一区二区色图-亚洲精品国产精品乱码-成人AV | 九九综合| 在线超碰精品| 色五月婷婷中文字幕在线观看 | 日日色综合| 五月婷婷丁香五月| 久久99久久99www| 婷婷五月天成人| 色色cOm| 激情色播| 香蕉久久五月| 97在线精品| SESE无码AV| 欧美日韩成人| 大香蕉久久伊人网| 99热综合| 99re热免费观看视频精品| 久久丁香| 亚洲AV电影av| 亚洲色9| 狠狠草狠狠草| 99热最新网址| 成人在线高清| tingting五月天亚洲| 丁香五月天社区| 夫妇交换刺激做爰| 五月天激情四射网站| 天天撸夜夜爽| 大香蕉啪啪| 七月丁香婷婷 色色| 五月婷婷啪| 夜夜综合色| 另类专区在线观看| 99热99| 色五月婷婷五月久久| 猫咪伊人久久| 伊人久久婷婷五月综合97色| 五月婷婷熟女| 久久66成人网站| 开心激情婷婷| 97艹| 亚洲天堂AAA| 色色色色综合网| 中文字幕综合色| 婷婷五月成人有| 99爱爱网| 五月婷三级片| 91丨九色丨大屁股| 可以免费看的AV网站| 欧亚成人A片一区二区| av在线播放网址| 久久久久人妻中文| 激情六月婷婷| www91精品| 亚洲综合婷婷五月天| 99久在线精品99re8| 婷婷性爱视频在线| 狠狠操.COM|