欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

圖像分類實(shí)戰(zhàn)指南:從數(shù)據(jù)預(yù)處理到ResNet18訓(xùn)練全流程

圖像分類實(shí)戰(zhàn)指南:從數(shù)據(jù)預(yù)處理到ResNet18訓(xùn)練全流程 1. 為什么第五節(jié)要做圖像分類1.1 從全連接到卷積質(zhì)的跨越第五節(jié)了。前面幾節(jié)如果都跟下來了你應(yīng)該已經(jīng)知道了張量是什么、梯度回傳怎么運(yùn)作、也親手搭過一個(gè)幾層的全連接網(wǎng)絡(luò)。但說真的在那個(gè)階段你可能和我當(dāng)年一樣心里一直有個(gè)隱隱的疑惑就這這玩意兒真能認(rèn)圖片答案是肯定的但需要用對(duì)結(jié)構(gòu)。全連接網(wǎng)絡(luò)處理圖像的問題在于一個(gè) 32x32 的彩色小圖就有 3072 個(gè)像素你把它拉平成向量喂進(jìn)全連接層第一層想做透特征就得是幾百上千個(gè)神經(jīng)元參數(shù)量嘩啦啦漲到幾十萬上百萬。小圖湊合能跑一到 224x224 或者更大分辨率的真實(shí)圖片模型直接膨脹到?jīng)]法訓(xùn)練。這個(gè)痛點(diǎn)就是卷積結(jié)構(gòu)登場的直接原因——它用局部連接權(quán)值共享兩個(gè)設(shè)計(jì)把參數(shù)量壓下去幾個(gè)數(shù)量級(jí)同時(shí)保留了圖像的空間結(jié)構(gòu)信息。所以這一節(jié)真正要解決的事情不是把準(zhǔn)確率刷到多高而是讓你親手跑通一條完整的圖像分類流水線數(shù)據(jù)讀取 → 預(yù)處理 → 模型定義 → 訓(xùn)練 → 評(píng)估。這條流水線是后面所有視覺任務(wù)——目標(biāo)檢測、語義分割、圖像生成——的地基你現(xiàn)在踩的每一個(gè)坑后面還會(huì)以變體形式反復(fù)出現(xiàn)。提前把這些坑摸一遍之后會(huì)順暢非常多。1.2 圖像分類在整個(gè)學(xué)習(xí)路線里的位置我見過太多人上來就想啃檢測、啃分割的源碼結(jié)果被一堆數(shù)據(jù)增強(qiáng)、錨框、特征金字塔的術(shù)語勸退。圖像分類之所以被公認(rèn)為計(jì)算機(jī)視覺的練習(xí)曲是因?yàn)樗阉泻诵目颇慷紳饪s在了一個(gè)相對(duì)干凈的框架里特征提取靠卷積網(wǎng)絡(luò)優(yōu)化靠反向傳播評(píng)估靠準(zhǔn)確率指標(biāo)。沒有復(fù)雜的輸出結(jié)構(gòu)沒有多任務(wù)損失你就是把一個(gè)圖塞進(jìn)去出來一個(gè)類別概率分布。同時(shí)分類模型本身也是后續(xù)任務(wù)的骨干。檢測網(wǎng)絡(luò)的分類分支就是分類器分割網(wǎng)絡(luò)的編碼器也常常直接用分類網(wǎng)絡(luò)的預(yù)訓(xùn)練權(quán)重初始化。所以這一節(jié)你學(xué)的不是一個(gè)孤立的小玩具而是整套視覺技術(shù)棧的核心部件。學(xué)完這節(jié)再回頭看檢測、分割的公式你會(huì)覺得很多地方似曾相識(shí)因?yàn)榈讓拥倪壿嬆阍诜诸悓?shí)戰(zhàn)里已經(jīng)親手實(shí)踐過了。1.3 這一節(jié)完成后你應(yīng)該做到什么程度我在帶人的時(shí)候有一個(gè)很樸素的驗(yàn)收標(biāo)準(zhǔn)不查資料能從頭寫出一份包含數(shù)據(jù)加載、模型定義、訓(xùn)練循環(huán)、驗(yàn)證評(píng)估的完整代碼并且能解釋每一步為什么這么寫。能獨(dú)立做到說明你真的吸收了而不是照著教程敲了一遍。所以這篇文章我盡量把為什么講透參數(shù)怎么選、代碼為什么是這個(gè)順序、出了問題從哪查起都給你捋清楚。代碼只是載體背后的決策邏輯才是這五節(jié)課真正想交給你的東西。2. 數(shù)據(jù)準(zhǔn)備與預(yù)處理是真正的分水嶺2.1 數(shù)據(jù)集的目錄組織和加載方式很多人一上來就急著調(diào)模型把數(shù)據(jù)隨便丟進(jìn)一個(gè)文件夾寫了幾行l(wèi)oad_data就開始訓(xùn)練結(jié)果后面踩了各種莫名其妙的坑——類別對(duì)不上啦、標(biāo)簽偏移啦、訓(xùn)練集驗(yàn)證集混在一起啦。我個(gè)人的經(jīng)驗(yàn)是數(shù)據(jù)準(zhǔn)備花的時(shí)間跟后面省下來的調(diào)試時(shí)間絕對(duì)是劃算的。以官方的 CIFAR-10 為例它本身已經(jīng)分好了 train 和 test。用torchvision.datasets.CIFAR10可以直接下載加載適合做快速驗(yàn)證。但真實(shí)項(xiàng)目中你手里的數(shù)據(jù)往往是一堆散亂的圖片我建議從一開始就按標(biāo)準(zhǔn)目錄結(jié)構(gòu)組織data/ ├── train/ │ ├── cat/ │ │ ├── cat_0001.jpg │ │ └── ... │ └── dog/ │ ├── dog_0001.jpg │ └── ... └── val/ ├── cat/ └── dog/這種組織方式的好處是torchvision.datasets.ImageFolder直接就能讀自動(dòng)按二級(jí)目錄名生成類別索引不用手寫標(biāo)簽文件。我自己到現(xiàn)在做項(xiàng)目還是會(huì)先用腳本把數(shù)據(jù)整理成這個(gè)結(jié)構(gòu)因?yàn)樗唵巍⒅庇^、不容易錯(cuò)。用ImageFolder加載就這么幾行train_dataset torchvision.datasets.ImageFolder(rootdata/train, transformtrain_transform) val_dataset torchvision.datasets.ImageFolder(rootdata/val, transformval_transform) train_loader DataLoader(train_dataset, batch_size64, shuffleTrue, num_workers4, pin_memoryTrue) val_loader DataLoader(val_dataset, batch_size64, shuffleFalse, num_workers4, pin_memoryTrue)注意驗(yàn)證集這里shuffleFalse不是為了省那點(diǎn)算力而是為了讓驗(yàn)證結(jié)果可復(fù)現(xiàn)——你每輪驗(yàn)證跑的順序是一致的不至于因?yàn)轫樞蜃兓a(chǎn)生多余的隨機(jī)噪聲。2.2 歸一化的門道m(xù)ean 和 std 是怎么來的圖像本質(zhì)上是 0 到 255 的整數(shù)矩陣直接喂進(jìn)網(wǎng)絡(luò)其實(shí)也能跑但收斂會(huì)很別扭。原因說到底很簡單梯度更新的步幅大小受特征數(shù)值尺度影響深層次特征的數(shù)值稍微抖動(dòng)一下乘起來的梯度就可能爆炸或者消失。把輸入標(biāo)準(zhǔn)化到均值 0、方差 1 附近相當(dāng)于給優(yōu)化器一個(gè)地形平坦的起點(diǎn)。transform transforms.Compose([ transforms.Resize((32, 32)), transforms.ToTensor(), # 把PIL圖片轉(zhuǎn)成Tensor數(shù)值縮放到[0,1] transforms.Normalize(mean[0.4914, 0.4822, 0.4465], std[0.2470, 0.2435, 0.2616]) ])這三組數(shù)不是隨手寫的是 CIFAR-10 訓(xùn)練集在 RGB 三個(gè)通道上各自的均值和方法。每換一個(gè)數(shù)據(jù)集mean 和 std 最好自己算一遍方法很簡單把訓(xùn)練集全圖所有像素累加取平均再用均值算方差。千萬別偷懶直接拿 ImageNet 的那組(0.485, 0.456, 0.406)用在不相關(guān)的小數(shù)據(jù)集上雖然不至于模型崩掉但分布偏移總會(huì)造成收益上的損失。2.3 數(shù)據(jù)增強(qiáng)寧可少調(diào)參也要先做這步數(shù)據(jù)增強(qiáng)是圖像分類里性價(jià)比最高的白嫖算力手段。我的經(jīng)驗(yàn)是一個(gè)有增強(qiáng)、參數(shù)默認(rèn)的簡單模型往往能打過沒增強(qiáng)但精心調(diào)參的復(fù)雜模型。因?yàn)榉诸惾蝿?wù)最缺的不是算力而是數(shù)據(jù)多樣性。你拍一張貓換個(gè)角度再拍一張還是貓模型應(yīng)該從這兩個(gè)不同的像素排列里學(xué)到同一個(gè)概念。對(duì) CIFAR-10 這種 32x32 的小圖常用的增強(qiáng)組合就三板斧隨機(jī)裁剪、隨機(jī)水平翻轉(zhuǎn)偶爾加點(diǎn)顏色擾動(dòng)。train_transform transforms.Compose([ transforms.RandomCrop(32, padding4), transforms.RandomHorizontalFlip(), transforms.ColorJitter(brightness0.2, contrast0.2), transforms.ToTensor(), transforms.Normalize(mean[0.4914, 0.4822, 0.4465], std[0.2470, 0.2435, 0.2616]) ])RandomCrop(32, padding4)的意思是先把圖四周補(bǔ) 4 像素的零再隨機(jī)裁回 32x32。這樣每次訓(xùn)練看到的圖都略有平移等于免費(fèi)把數(shù)據(jù)量翻了若干倍。而RandomHorizontalFlip這種左右翻轉(zhuǎn)對(duì)我們熟悉的交通標(biāo)志這類具有方向性的任務(wù)是禁忌但對(duì)貓、狗、飛機(jī)這些目標(biāo)方向不敏感的數(shù)據(jù)集非常友好。這里有一條鐵律驗(yàn)證集和測試集的 transform 里絕對(duì)不能出現(xiàn)隨機(jī)增強(qiáng)。最多做 resize 和歸一化。我見過同學(xué)把RandomHorizontalFlip寫進(jìn)了驗(yàn)證集結(jié)果準(zhǔn)確率忽高忽低還以為是模型不穩(wěn)定折騰了兩天才發(fā)現(xiàn)是驗(yàn)證的時(shí)候圖被隨機(jī)翻轉(zhuǎn)了純屬自己跟自己過不去。2.4 加載器的細(xì)節(jié)參數(shù)Batch Size 與 Workersbatch_size的選擇直接影響訓(xùn)練速度和穩(wěn)定性。我的建議是先用你的顯存上限去定它比如 8GB 顯存跑 ResNet18 輸入 32x3264 的 batch 完全沒壓力就設(shè) 64。batch 太小比如 2 或 4梯度噪聲太大訓(xùn)練曲線抖得像心電圖batch 太大單個(gè) epoch 里的參數(shù)更新次數(shù)太少反而可能欠擬合。num_workers是數(shù)據(jù)加載用的進(jìn)程數(shù)設(shè)成 0 就在主進(jìn)程里加載速度慢但最兼容設(shè)成 4 或 8 能明顯提高吞吐量。Linux 環(huán)境下我習(xí)慣設(shè)成 CPU 核數(shù)的一半。在 Windows 上如果報(bào)多進(jìn)程相關(guān)的錯(cuò)先把它設(shè)回 0 排查別上來就懷疑模型寫錯(cuò)了。pin_memoryTrue這個(gè)參數(shù)很多人忽略。它把數(shù)據(jù)加載到鎖頁內(nèi)存GPU 拷貝的路徑更短理論上能省下不少數(shù)據(jù)傳輸時(shí)間。代價(jià)是內(nèi)存占用略高但對(duì)大多數(shù)機(jī)器來說利遠(yuǎn)大于弊我基本常開。3. 模型搭建與訓(xùn)練細(xì)節(jié)別急著調(diào)參3.1 第一版模型自建小網(wǎng)絡(luò)還是 ResNet18作為第五節(jié)課的實(shí)戰(zhàn)我強(qiáng)烈不建議你從零手寫卷積層——不是為了偷懶而是因?yàn)榻?jīng)典網(wǎng)絡(luò)的架構(gòu)設(shè)計(jì)經(jīng)過了無數(shù)人的驗(yàn)證它的層數(shù)、通道數(shù)、殘差連接方式每一樣都有道理。你手寫的靈感版CNN在學(xué)術(shù)想象力上是合格的但在 CIFAR-10 這種任務(wù)上很可能收斂得又慢又差然后你陷入是我代碼錯(cuò)了還是網(wǎng)絡(luò)設(shè)計(jì)問題的迷茫非常打擊信心。這個(gè)階段的正確姿勢是直接用torchvision.models里的 ResNet18官方還提供了預(yù)訓(xùn)練權(quán)重。ResNet18 是整個(gè)殘差家族里最輕量、最適合入門的版本結(jié)構(gòu)清晰顯存占用小一張 32x32 的 CIFAR-10 圖跑起來毫無壓力。import torchvision.models as models model models.resnet18(num_classes10)但這里有個(gè)細(xì)節(jié)ResNet18 默認(rèn)的輸入是 3x224x224它的第一個(gè)卷積層是conv1卷積核 7x7、步長 2一下把 224x224 降成 112x112。你要是把 32x32 的 CIFAR-10 圖直接塞進(jìn)去原始下采樣太快信息大量丟失然后全局池化層輸出也跟你預(yù)想的不一樣。所以用 CIFAR-10 這類小圖訓(xùn)練 ResNet要做一處小改造把第一個(gè)卷積層的核心參數(shù)改小。import torch.nn as nn model.conv1 nn.Conv2d(3, 64, kernel_size3, stride1, padding1, biasFalse) model.maxpool nn.Identity() # 去掉7x7分支后的最大池化改完整模型的前向路徑是3x32x32 → conv1(3x3) → 64x32x32 → 殘差塊序列 → 全局平均池化 → 10 維分類頭。這樣才是為 32x32 輸入定制的正確結(jié)構(gòu)。3.2 損失函數(shù)和優(yōu)化器的選擇邏輯分類任務(wù)的標(biāo)準(zhǔn)損失是交叉熵PyTorch 里就是nn.CrossEntropyLoss()。這里有一個(gè)新手經(jīng)常誤解的點(diǎn)CrossEntropyLoss其實(shí)內(nèi)置了 Softmax 操作所以模型的最后一層直接輸出 10 個(gè)類別的 logits 就行不要在輸出層再手動(dòng)加一個(gè) Softmax。加了在數(shù)值上通常不會(huì)出錯(cuò)但會(huì)讓你的損失計(jì)算變得繞而且萬一你用到了混合精度訓(xùn)練數(shù)值穩(wěn)定性還會(huì)受影響。我見過有人一時(shí)糊涂輸出層手動(dòng)加了F.log_softmax又搭配NLLLoss用效果雖然差不多但代碼讀起來繞了一大圈沒必要。優(yōu)化器我推薦直接上 SGD Momentum不是因?yàn)檫@玩意兒效果最好而是因?yàn)樗鼘?duì)超參數(shù)的理解成本最低。optimizer torch.optim.SGD(model.parameters(), lr0.1, momentum0.9, weight_decay5e-4)weight_decay是 L2 正則給大權(quán)重施以懲罰配合數(shù)據(jù)增強(qiáng)一起壓制過擬合是圖像分類訓(xùn)練的標(biāo)準(zhǔn)搭配。為什么不用 AdamAdam 確實(shí)收斂快、對(duì)學(xué)習(xí)率不敏感但它泛化性能在這類任務(wù)上常常不如調(diào)得好的 SGD。作為教學(xué)項(xiàng)目用 SGD 能逼著你理解學(xué)習(xí)率衰減的作用這個(gè)理解對(duì)你以后做任何優(yōu)化都有價(jià)值。3.3 訓(xùn)練集驗(yàn)證集的劃分別自欺欺人CIFAR-10 官方已經(jīng)分好了直接拿來做 train/test 劃分就行。如果用自己的數(shù)據(jù)務(wù)必保證類別分布均衡并且絕對(duì)不能有數(shù)據(jù)泄漏——比如同一張貓的圖既出現(xiàn)在訓(xùn)練集又出現(xiàn)在驗(yàn)證集那你的驗(yàn)證準(zhǔn)確率就是注了水的。劃分比例我默認(rèn)是 8:2 或 9:1關(guān)鍵看數(shù)據(jù)總量。總量幾萬張9:1 完全夠總共有幾千張驗(yàn)證集至少得留幾百張否則驗(yàn)證準(zhǔn)確率的波動(dòng)能大到看不出有沒有改進(jìn)。順帶說一下固定隨機(jī)種子的習(xí)慣。開頭寫三行能讓你的整輪實(shí)驗(yàn)可復(fù)現(xiàn)調(diào)參的時(shí)候不會(huì)因?yàn)殡S機(jī)性把鍋甩給模型import random, numpy as np, torch random.seed(0) np.random.seed(0) torch.manual_seed(0)如果用了 GPU再加一句torch.cuda.manual_seed_all(0)。實(shí)際跑起來因?yàn)槎嗑€程、非確定性算法等因素不可能完全相同但至少能消除換一次運(yùn)行換個(gè)結(jié)果這種最讓人崩潰的問題。4. 訓(xùn)練過程實(shí)錄與核心參數(shù)解讀4.1 一份可直接抄的主干代碼這里我先給你一份完整的訓(xùn)練循環(huán)骨架把注釋寫明白然后逐段拆解里面的關(guān)鍵細(xì)節(jié)import torch import torch.nn as nn from torch.utils.data import DataLoader import torchvision import torchvision.transforms as transforms import torchvision.models as models # ---------- 數(shù)據(jù) ---------- train_transform transforms.Compose([ transforms.RandomCrop(32, padding4), transforms.RandomHorizontalFlip(), transforms.ToTensor(), transforms.Normalize(mean[0.4914, 0.4822, 0.4465], std[0.2470, 0.2435, 0.2616])]) val_transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize(mean[0.4914, 0.4822, 0.4465], std[0.2470, 0.2435, 0.2616])]) train_dataset torchvision.datasets.CIFAR10(root./data, trainTrue, downloadTrue, transformtrain_transform) val_dataset torchvision.datasets.CIFAR10(root./data, trainFalse, downloadTrue, transformval_transform) train_loader DataLoader(train_dataset, batch_size64, shuffleTrue, num_workers4, pin_memoryTrue) val_loader DataLoader(val_dataset, batch_size64, shuffleFalse, num_workers4, pin_memoryTrue) # ---------- 模型 ---------- model models.resnet18(num_classes10) model.conv1 nn.Conv2d(3, 64, kernel_size3, stride1, padding1, biasFalse) model.maxpool nn.Identity() device torch.device(cuda if torch.cuda.is_available() else cpu) model model.to(device) criterion nn.CrossEntropyLoss() optimizer torch.optim.SGD(model.parameters(), lr0.1, momentum0.9, weight_decay5e-4) # ---------- 訓(xùn)練循環(huán) ---------- def train_one_epoch(epoch): model.train() train_loss 0.0 correct 0 total 0 for images, labels in train_loader: images, labels images.to(device), labels.to(device) optimizer.zero_grad() outputs model(images) loss criterion(outputs, labels) loss.backward() optimizer.step() train_loss loss.item() * images.size(0) _, predicted outputs.max(1) total labels.size(0) correct predicted.eq(labels).sum().item() avg_loss train_loss / total acc 100.0 * correct / total print(fEpoch {epoch} | Train Loss: {avg_loss:.4f} | Acc: {acc:.2f}%) return avg_loss, acc def validate(epoch): model.eval() val_loss 0.0 correct 0 total 0 with torch.no_grad(): for images, labels in val_loader: images, labels images.to(device), labels.to(device) outputs model(images) loss criterion(outputs, labels) val_loss loss.item() * images.size(0) _, predicted outputs.max(1) total labels.size(0) correct predicted.eq(labels).sum().item() avg_loss val_loss / total acc 100.0 * correct / total print(fEpoch {epoch} | Val Loss: {avg_loss:.4f} | Acc: {acc:.2f}%) return avg_loss, acc for epoch in range(1, 31): train_one_epoch(epoch) validate(epoch)這段代碼跑在普通顯卡上CIFAR-10 大約十幾分鐘一個(gè) epoch30 個(gè) epoch 大概幾個(gè)小時(shí)能收完。最后驗(yàn)證準(zhǔn)確率可以到 85% 到 90% 之間比瞎猜的 10% 已經(jīng)高出太多了。4.2 訓(xùn)練循環(huán)里最容易寫錯(cuò)的三處細(xì)節(jié)第一處是model.train()和model.eval()的切換。這兩個(gè)方法控制的是 BatchNorm 和 Dropout 在訓(xùn)練/推理時(shí)的不同行為。訓(xùn)練時(shí) BatchNorm 用當(dāng)前 batch 的均值方差推理時(shí)用的是訓(xùn)練階段累積的全局統(tǒng)計(jì)量。如果你忘了切回eval()驗(yàn)證時(shí)每一批數(shù)據(jù)的歸一化統(tǒng)計(jì)量都不一樣結(jié)果會(huì)忽高忽低表現(xiàn)很不穩(wěn)定。這基本是新手報(bào)錯(cuò)榜第一名。第二處是optimizer.zero_grad()的位置。PyTorch 的梯度是默認(rèn)累加的不清零的話每個(gè) batch 的梯度會(huì)疊加在一起相當(dāng)于用一個(gè)巨大無比的 batch 去更新參數(shù)。正確順序永遠(yuǎn)是zero_grad()→ 前向 → 算 loss →backward()→step()。我自己的肌肉記憶就是這個(gè)順序一次都沒錯(cuò)過。第三處是驗(yàn)證階段用with torch.no_grad():包起來。不包也能跑但會(huì)額外計(jì)算一堆根本用不上的計(jì)算圖顯存和速度都會(huì)受影響。更隱蔽的問題是如果你后面要做模型轉(zhuǎn)換或者推理部署就會(huì)發(fā)現(xiàn)這個(gè)多余的計(jì)算圖會(huì)成為各種報(bào)錯(cuò)的源頭養(yǎng)成驗(yàn)證推理都包no_grad的習(xí)慣后面省很多事。4.3 學(xué)習(xí)率衰減SGD 的勝負(fù)手如果你拿著lr0.1不做衰減直接硬跑 60 個(gè) epoch會(huì)發(fā)現(xiàn)前 20 個(gè) epoch 漲得很快后面就卡住了上不去。這不是模型不行是學(xué)習(xí)率太大導(dǎo)致參數(shù)在最優(yōu)解附近來回震蕩、無法收斂到更小的損失盆地。標(biāo)準(zhǔn)做法是步進(jìn)式衰減每過一定 epoch 數(shù)把學(xué)習(xí)率降為原來的十分之一。CIFAR-10 上我習(xí)慣在第 15、25 個(gè) epoch 各衰減一次 0.1 倍scheduler torch.optim.lr_scheduler.MultiStepLR(optimizer, milestones[15, 25], gamma0.1)然后在每個(gè) epoch 結(jié)束時(shí)調(diào)用scheduler.step()。注意調(diào)用時(shí)機(jī)——PyTorch 的MultiStepLR是在調(diào)用step()時(shí)根據(jù)當(dāng)前 epoch 數(shù)決定是否衰減所以通常放在一個(gè) epoch 結(jié)束之后。我盯著訓(xùn)練曲線看的時(shí)候有個(gè)很直觀的經(jīng)驗(yàn)學(xué)習(xí)率衰減那一刻模型會(huì)有一個(gè)明顯的再進(jìn)一步的提升損失和準(zhǔn)確率都突然往好了跳。如果你衰減完了毫無變化通常說明模型早就收斂了衰減不衰減都差不多這時(shí)候就應(yīng)該關(guān)注是不是容量不夠的問題了。4.4 Checkpoint 保存怎么存才算專業(yè)很多人訓(xùn)練的時(shí)候不存模型等最后跑完才發(fā)現(xiàn)中間某個(gè) epoch 效果最好但沒存下來只能重來。我的習(xí)慣是每輪驗(yàn)證結(jié)束如果驗(yàn)證準(zhǔn)確率創(chuàng)了新高就把模型狀態(tài)存成一份best_model.pth。只保存最好的那一個(gè)不用把每一輪的都存不然硬盤很快被撐爆。best_acc 0.0 for epoch in range(1, 31): train_one_epoch(epoch) val_loss, val_acc validate(epoch) if val_acc best_acc: best_acc val_acc checkpoint { epoch: epoch, model_state_dict: model.state_dict(), optimizer_state_dict: optimizer.state_dict(), best_acc: best_acc, } torch.save(checkpoint, best_model.pth) print(f保存最佳模型驗(yàn)證準(zhǔn)確率: {val_acc:.2f}%)注意這里保存的是state_dict()而不是整個(gè)model。前者的好處是文件小、跨環(huán)境兼容好、結(jié)構(gòu)清晰。加載的時(shí)候先創(chuàng)建模型結(jié)構(gòu)再load_state_dict把權(quán)重填進(jìn)去。而torch.save(model)這種整模型保存方式在版本升級(jí)之后很容易加載失敗我踩過這個(gè)坑后來再也沒用過。我把 optimizer 的state_dict也一起存了因?yàn)檎嬉獢帱c(diǎn)續(xù)訓(xùn)的話光有模型權(quán)重、沒有優(yōu)化器動(dòng)量狀態(tài)恢復(fù)出來的訓(xùn)練過程會(huì)跟你中斷之前不完全一樣。完整保存才能在某個(gè) epoch 中斷后接著繼續(xù)跑不用從頭開始。5. 常見問題排查與避坑實(shí)錄5.1 訓(xùn)練 loss 下不去的系統(tǒng)排查法這恐怕是每個(gè)人都會(huì)撞見的頭號(hào)問題。我總結(jié)了一個(gè)從快到慢的排查順序照這個(gè)順序走絕大多數(shù)情況幾分鐘就能定位。第一步先看 loss 初值是否符合直覺。10 分類任務(wù)隨機(jī)初始化后交叉熵應(yīng)該在 ln(10) 約等于 2.30 附近。如果你設(shè)置完模型損失直接是 0 或者幾百那大概率是代碼有 bug而不是訓(xùn)練問題。比如標(biāo)簽沒對(duì)齊、數(shù)據(jù)預(yù)處理方向錯(cuò)了這類基礎(chǔ)性錯(cuò)誤都會(huì)在初值這里暴露。第二步確認(rèn)梯度有沒有真的流動(dòng)起來。挑一批數(shù)據(jù)手動(dòng)來一次loss.backward()然后打印幾層參數(shù)的gradfor name, param in model.named_parameters(): if param.grad is not None: print(name, param.grad.abs().mean().item())如果發(fā)現(xiàn)某層梯度全是 0要么是這一層的輸入本身就斷了要么是前面的層輸出有問題。常見的元兇包括把ReLU錯(cuò)裝成ReLU6導(dǎo)致輸出被截?cái)嗷蛘吣硞€(gè)forward里寫錯(cuò)了張量維度。打印梯度這一步基本能鎖定。第三步拿一個(gè)極小數(shù)據(jù)集做擬合測試。比如只拿 4 張訓(xùn)練圖片反復(fù)跑如果模型連這 4 張都記不住、loss 死活不降說明網(wǎng)絡(luò)結(jié)構(gòu)或者數(shù)據(jù)鏈路有 bug。反之如果極小數(shù)據(jù)能快速過擬合到 100%說明模型沒問題問題在整體訓(xùn)練設(shè)置上——這時(shí)候就該檢查學(xué)習(xí)率、數(shù)據(jù)增強(qiáng)是不是過猛了。5.2 過擬合的三大信號(hào)與標(biāo)準(zhǔn)操作圖像分類里過擬合的識(shí)別其實(shí)很簡單訓(xùn)練準(zhǔn)確率一路爬升接近 100%驗(yàn)證準(zhǔn)確率卻停滯甚至開始掉頭向下訓(xùn)練 loss 和驗(yàn)證 loss 的差距越拉越大。CIFAR-10 用小網(wǎng)絡(luò)跑到 90% 訓(xùn)練準(zhǔn)確率還看不出過擬合但如果你的網(wǎng)絡(luò)是 ResNet50 這種大模型訓(xùn)練集幾萬張那過擬合幾乎是必然的。應(yīng)對(duì)手段按優(yōu)先級(jí)排第一是增強(qiáng)數(shù)據(jù)增強(qiáng)強(qiáng)度隨機(jī)裁剪的 padding 從 4 加到 8再加隨機(jī)旋轉(zhuǎn)或隨機(jī)擦除。第二是調(diào)高weight_decay1e-4 不夠就試 5e-3。第三是加 Dropout對(duì) ResNet 來說其實(shí)不需要它本身有 BatchNorm 也有一定的正則效果。第四是換更小的網(wǎng)絡(luò)實(shí)在不行再從數(shù)據(jù)規(guī)模上想辦法。有一個(gè)很容易混淆的點(diǎn)過擬合和訓(xùn)練完了epoch 不夠經(jīng)常長得很像。前者是訓(xùn)練 loss 低、驗(yàn)證 loss 高后者是兩個(gè) loss 都很高。前者加大正則后者就單純多訓(xùn)幾個(gè) epoch方向完全相反判斷錯(cuò)了等于白折騰。5.3 驗(yàn)證準(zhǔn)確率卡在低位的排查順序如果訓(xùn)練一切正常但驗(yàn)證集準(zhǔn)確率就是上不去比如 10 分類卡在 30% 甚至 20%先別急著罵模型。我見過最多次的原因是驗(yàn)證集的 transform 和訓(xùn)練集的差異處理出了問題比如驗(yàn)證集忘了做ToTensor()導(dǎo)致輸入還是 PIL 格式直接進(jìn)了模型這必炸。第二個(gè)常犯的錯(cuò)誤是model.eval()忘了寫。第三個(gè)可能是什么地方把標(biāo)簽順序給打亂了比如用了shuffleTrue的驗(yàn)證集或者ImageFolder的類別排序和你預(yù)期的不是一回事。再往下排查考慮是不是數(shù)據(jù)增強(qiáng)設(shè)置太強(qiáng)。我有一回做一個(gè)小數(shù)據(jù)集分類訓(xùn)練集用了大角度的隨機(jī)旋轉(zhuǎn)加極端顏色擾動(dòng)結(jié)果模型把增強(qiáng)后的分布學(xué)到了而對(duì)原始風(fēng)格的驗(yàn)證集完全不適應(yīng)。這時(shí)候把增強(qiáng)幅度調(diào)回正常水平準(zhǔn)確率立刻恢復(fù)正常。最后一個(gè)排查方向是類別不均衡。如果你的數(shù)據(jù)里 90% 都是貓模型全猜貓就有 90% 準(zhǔn)確率你還以為模型很強(qiáng)其實(shí)它對(duì)狗一無所知。這種情況不要只看整體準(zhǔn)確率要看每個(gè)類別的召回率、F1。必要的時(shí)候用類別加權(quán)損失或者過采樣。5.4 顯存不足與訓(xùn)練速度異常的實(shí)用對(duì)策顯存爆掉CUDA OOM是入門階段跑模型最常見的技術(shù)性崩潰。標(biāo)準(zhǔn)做法是減小 batch size,但減到 1 還不夠用就得換思路了。我在比較短的教程里會(huì)提t(yī)orch.cuda.empty_cache()但它治標(biāo)不治本。更好的辦法是用torch.backends.cudnn.benchmark True讓 cuDNN 自動(dòng)選最快的卷積算法提升速度。數(shù)據(jù)加載num_workers加大訓(xùn)練循環(huán)里的 CPU 瓶頸優(yōu)先解決。如果模型實(shí)在太大考慮凍結(jié)前面幾層的梯度只訓(xùn)后面的分類頭參數(shù)顯存占用和計(jì)算量都會(huì)明顯下降。訓(xùn)練速度異常慢還有一種隱蔽原因num_workers0數(shù)據(jù)加載完全串行GPU 大部分時(shí)間在空等。我見過有人用默認(rèn)設(shè)置跑 224x224 的 ImageNet 子集GPU 利用率只有 30%把num_workers加到 8 之后利用率直接拉到 90% 以上訓(xùn)練時(shí)間縮短了一半還多。5.5 常見問題速查表現(xiàn)象最可能的根源首選排查動(dòng)作訓(xùn)練 loss 完全不降代碼 bug 或數(shù)據(jù)鏈路斷裂先打印初始 loss再做極小集過擬合測試初始 loss 遠(yuǎn)偏離 2.30標(biāo)簽錯(cuò)位、預(yù)處理錯(cuò)誤檢查數(shù)據(jù)集樣本和標(biāo)簽對(duì)應(yīng)關(guān)系訓(xùn)練 loss 降驗(yàn)證不降過擬合或驗(yàn)證集泄露檢查驗(yàn)證集是否被增強(qiáng)加大正則準(zhǔn)確率忽高忽低驗(yàn)證集出現(xiàn)了隨機(jī)增強(qiáng)刪掉驗(yàn)證 transform 里所有隨機(jī)操作顯存不足batch size 過大減小 batch size 或凍結(jié)部分層梯度訓(xùn)練慢到懷疑人生num_workers 太小調(diào)大 num_workers 并確認(rèn) pin_memory 開啟重啟程序后結(jié)果變樣隨機(jī)種子未固定在開頭固定 seed加載 checkpoint 報(bào)錯(cuò)結(jié)構(gòu)對(duì)不上或格式不符只存 state_dict加載時(shí)先建模型結(jié)構(gòu)6. 讓模型再進(jìn)一步三條務(wù)實(shí)的優(yōu)化路線6.1 數(shù)據(jù)增強(qiáng)加碼自動(dòng)增強(qiáng)與隨機(jī)擦除如果你跑完上面的基線心里有點(diǎn)數(shù)了最值得花時(shí)間的就是數(shù)據(jù)增強(qiáng)加碼。CIFAR-10 上常用的梯度是三段式第一段是 RandomCrop 翻轉(zhuǎn)第二段加 ColorJitter第三段上 RandomErasing 或者 Cutout——隨機(jī)用一塊黑色矩形遮住圖中某個(gè)區(qū)域強(qiáng)迫模型不能只依賴局部特征做判斷這個(gè)思路非常實(shí)用。# 在已有的增強(qiáng)鏈末尾追加 train_transform.transforms.append( transforms.RandomErasing(p0.5, scale(0.02, 0.2), ratio(0.3, 3.3)) )隨機(jī)擦除的本質(zhì)是正則化它逼著模型去利用全局信息而不是偷懶抓某一個(gè)局部特征下結(jié)論。我自己的實(shí)測里CIFAR-10 加上它一般能再漲 1 到 2 個(gè)點(diǎn)代價(jià)是訓(xùn)練時(shí)間稍微長一點(diǎn)收益完全值得。6.2 遷移學(xué)習(xí)用預(yù)訓(xùn)練權(quán)重就是降維打擊如果不想在這份小數(shù)據(jù)集上默默煉丹遷移學(xué)習(xí)是一條公認(rèn)的捷徑。用在 ImageNet 上預(yù)訓(xùn)練好的 ResNet18 權(quán)重只不過 ImageNet 是 1000 分類最后的分層頭是 1000 維換成 CIFAR-10 時(shí)把最后一層換成 10 維輸出即可model models.resnet18(weightsmodels.ResNet18_Weights.IMAGENET1K_V1) num_features model.fc.in_features model.fc nn.Linear(num_features, 10)這里要注意用預(yù)訓(xùn)練模型時(shí)輸入圖上采樣到 224x224 才符合它原來的輸入分布你要把Resize((224, 224))加到 transform 里。訓(xùn)練策略上也跟從頭訓(xùn)不一樣先用一個(gè)比較小的學(xué)習(xí)率比如 0.001把新加的最后一層訓(xùn)幾個(gè) epoch 預(yù)熱然后可以放寬到全部層。前面的卷積層特征已經(jīng)足夠通用微調(diào)幅度不用太大不然容易災(zāi)難性遺忘。遷移學(xué)習(xí)真正的威力體現(xiàn)在小數(shù)據(jù)集上——幾百張到幾千張的數(shù)據(jù)從頭訓(xùn)一個(gè)網(wǎng)絡(luò)幾乎必過擬合但用預(yù)訓(xùn)練模型微調(diào)往往能直接到 80% 以上。6.3 測試期增強(qiáng)與模型集成的小技巧最后分享兩個(gè)實(shí)驗(yàn)階段很好用的提分手段成本低、直接有效。測試期增強(qiáng)TTA的思路是推理的時(shí)候不只看原圖一次而是把圖做若干次輕微變換比如隨機(jī)裁剪、翻轉(zhuǎn)然后把所有輸出的概率取平均再取 argmax。這個(gè)思路能平滑掉單次預(yù)測的偶然性。CIFAR-10 上實(shí)測可以穩(wěn)定漲 0.5 到 1 個(gè)點(diǎn)。def predict_tta(model, image, transforms_list, device): probs [] with torch.no_grad(): for t in transforms_list: img_tensor t(image).unsqueeze(0).to(device) output torch.softmax(model(img_tensor), dim1) probs.append(output) avg_probs torch.mean(torch.cat(probs, dim0), dim0) return avg_probs.argmax().item()模型集成就更簡單粗暴了訓(xùn)練兩個(gè)不同初始化和增強(qiáng)配置的模型推理時(shí)把概率平均。兩個(gè)模型都能到 90% 左右集成一下往往能再漲 1 到 2 個(gè)點(diǎn)。代價(jià)是訓(xùn)練時(shí)間翻倍、推理時(shí)間翻倍競賽里很實(shí)用工程上則要看業(yè)務(wù)能不能接受這個(gè)延遲。到這里一條完整的圖像分類流水線你已經(jīng)親手走通了。我個(gè)人在實(shí)際帶項(xiàng)目的過程里最深的一點(diǎn)體會(huì)是圖像分類看起來就這點(diǎn)東西但數(shù)據(jù)、模型、訓(xùn)練、評(píng)估四個(gè)環(huán)節(jié)沒有一個(gè)是能糊弄過去的——每個(gè)環(huán)節(jié)的錯(cuò)誤都會(huì)以各種詭異的面貌出現(xiàn)在結(jié)果里。如果你跑通了這份代碼不妨再自己動(dòng)手做一次實(shí)驗(yàn)把數(shù)據(jù)增強(qiáng)刪掉跑一輪、把學(xué)習(xí)率衰減去掉跑一輪、把 batch size 改成 16 跑一輪親眼看曲線變化。這個(gè)過程比看十篇教程都有用。等你真正理解了這些超參數(shù)在曲線上的投影再去看檢測、分割那些復(fù)雜模型會(huì)發(fā)現(xiàn)自己已經(jīng)能讀懂它們在做什么了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
91操操| 超碰在线日夜| 99色热| 色婷五月天激情| 精品婷婷五| 91 原创 在线 九色| 亚洲AV影片在线观看| 丁香久久| 五月丁香成人| 久久99热免费最新版| 久色中文| 六月丁香婷啪射| 综合色播| 91九色|疯狂|高潮|对白|| 97涩婷婷婷婷基地| 四LLL少妇BBBB槡BBBB| 亚洲AV人人操| 蜜臀av粉嫩av懂色av| 人妻久久久久久久久久| 激情亚洲色图片丁香综合| 性韩日色婷婷五月天激情啪啪XXX| 五月天丁香婷婷社区| 婷婷五月天天| 国产精产国品一二三在观看| 天天弄天天操| 色婷婷综合网| 五月丁香六月欧美综合网站| 97久久久久| 丁香六月啪啪啪| 在线不卡的视频| 影音先锋91在线资源站| 大地资源色婷婷视频在线| 丁香色六月婷婷| 另类综合色| 播五月丁香六月| 中文aV网| 色约约视频一区二区三区四区五区| 色婷婷丁香五月| 婷婷五月天亚洲综合| 天天做天天双| 成人小说 五月天 婷婷| 婷婷五月天视| 亚洲国产色婷婷| 4399在线日本A片| 伊人五月综合网| 毛片九九九九九九| 婷婷五月欧美| 97在线日韩| 97一区二区| 欧美成人精品A片免费一区99 | 99精品热| 久久婷婷成人综合色怡春院| 亚洲五月天婷婷| 婷婷天堂综合| 青青草原爱爱网| 操久久精| 日韩无码亚欧无码| 色播色丁香五月| 无码AV免费精品一区二区三区| 99性爱视频| 激情www| AV在线中文| 五月天婷婷免费视频| 这里只有免费精品| 开心深爱激情网| 天天激情| 这里只有精品1| 色五月婷婷激情| 亚洲人成人五月天| 六月婷婷色综合| 色婷婷免费视频| 日本97在线视频| 在线观看免费狠狠色丁香香综合| 欧美综合五月丁香六月婷| 久久99久久99精品免观看粉嫩| 超碰97久久| 婷婷五月色图| 婷婷精品免费久久| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 五月丁香激情四射综合| 色婷婷五月综合| 香蕉狠狠爱视频| 免费看成人747474九号视频在线观看| www.91.com黄| sesesesezonghe| 婷婷五月激情四月综合| 五月婷无码| 亚洲欧洲自拍图片专区五月天| 五月婷婷丁香大陆免费| www.minyis.com【JT】币址百万U预算可预付QQ2101460746 | 久久激情五月| 欧美激情综合色综合啪啪五月| www五月| 婷婷操逼| 91人久| 色和综合网| 婷婷97色| 99热亚洲| 五月天激情婷婷| 五月花婷婷| 色墦五月丁香| 图片区 小说区 区 亚洲五月| 亚洲亚洲人成综合网络| 婷婷天天五月天| 欧美日韩中国| 影音先锋一区| 丁香色五月婷婷17C| 婷婷色无码| 天天拍夜夜爽| 欧美色色色色色| 五月花免费视频| z色五月播播久久| 亚洲综合视频网| 欧美在线干| 99这里| 狠狠操狠狠| 97色干在线观看| 色婷婷91激情小说| 99a级片| 久久曰曰| 岛国av网| 大香蕉五月天婷婷| 天天肏高清在线| 欧美99热| 被强行糟蹋的女人A片| 五月婷婷很很色| 丁香五月婷婷激情中文| 成人在线视频网| 亚洲 综合中文| 狠狠 婷婷| 九九视频在线免费视频| 激情综合自拍五月婷婷色五月| 欧洲精品欧洲情| 99re思思热这里| 79精品视频| 婷婷五月丁香五月| 婷婷丁香六月| 婷婷五月欧美AA片免费| 久久婷婷五月天蜜桃| 婷婷综合激情| 伍月婷婷六月丁香| 国产精品日日躁夜夜躁| 成人国产欧美大片一区| 影音先锋五月天婷婷丁香在线观看| 97碰人人操| 色色日本欧美| 99热只有| 啪啪91| 亚洲六月综合激情久久下卡| 婷婷五月综合色拍| 久久综合网免费视频| 99爱精品视频| 六月色丁香婷婷| 五月婷婷视频28| av首页在线| 高清无码中文字幕aVDV| 亚洲成av人影院| 激情五月,色五月| 婷婷五月天Av| 婷婷基地成人五月天| 六月丁香射婷婷欧美色图片| 丁香婷婷五月综合色情| 五月婷丁香| 精品成人在线观看| 青青草原亚洲久| 亚洲乱码日产精品BD在线观看| 午夜丁香六月婷| 伊人91| 亚洲妇女熟BBW| 丁香六月婷婷久久亚洲天堂| 人人干人人干骚美女| 五月婷AV| 五月婷婷色情| 日本久久久97| 99re视频在线播放| 久久亚洲婷婷| 伊人久久婷婷| OYIWbGcPu8H| 五月丁香六月成人| 日日夜夜爽爽| 99性视频| 超爽内射| 777久久综合视频 | 五月婷啪啪| 人人干av| 欧美99| 99热在线爱| 欧美狠狠一在草| 五月天婷婷在线AN| 久久人妻精品| 成人在线综合| 丁香丝袜五月| 色色色热| 69人妻人人澡人人爽久久| 九九99视频精品| 五月丁香中文字幕| 搡BBBB搡BBB搡18| 狠狠做婷婷| 91趴趴| 在线观看996精品| 综合色五月天| 91久久| av网站不卡在线| 丁香婷婷五月激情| 婷婷五月天免费视频| 五月香婷婷| 成人人操| 婷婷中文字幕版| 国产97色在线| 色欲色香,www,com| 狠狠色狠狠鲁| 人人爱操| 99人人操| 色情五月天婷婷| 久久九九99| 综合久久8| 色色色色色色色综合| 亚洲va国产va天堂va综合va| 99燥99日| 偷偷狠狠久久婷婷五月天| 免费不卡狠操美女视频网| 伊人激情| 97久久人人| 插插五月天| 五月丁香777| www亚洲无码| 秋霞三级影视资源| 五月婷婷AV| 久99精品视频| 色综合综合网| 无码人妻精品一区二区蜜桃色欲| 色色五月丁香| 久re热视频| A片天天| 99免费综合网| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 亚洲操b| 69综合在线| 在线观看玖玖资源免费观看| 色婷婷综合网| 丁香六月婷婷综合| 蜜臀av粉嫩av懂色av| 丁香六月成人| www.狠狠狠狠| 狠狠色成人影片| 丁香五月综合激情性爱| 99热97| 色狠狠色综合久久久绯色aⅴ影视| 欧美99热| 丁香色综合| 91九九热| 激情美女五月天激情在线| 99热只有| 91精品久久久久久综合五月天| 91婷婷五月天嫩女| 国产av第一专区| 五月婷婷亚洲综合网| 久久激情五月| 另类伊人婷婷| 激情深爱五月天| 不卡在线中文字幕无| 第二色AⅤ| 五月天婷婷影院| 丁香五月激情欧美| 欧洲第一久色| 久久大香蕉丁香| 人妻操逼| 久9视频| 碰碰91| 婷婷五月色惰| 婷婷六月综合基地| 色五月丁香六月欧美综合| 无码激情AAAAA片-区区| 丁香桃色综合网| 成人va在线播放| 91色噜噜狠狠狠狠色综合| 久久久久久性爱视频| 97爱艹婷婷开心丁香激情综合| 亚洲成人色五月婷婷综合| 91婷婷| 亚洲性视频| 婷婷五月色播放| 真实的国产乱XXXX在线91| 五月丁香WWW| 91狠狠综合久久| 91 九色 熟女| 国产日比| 大香蕉九九| 九九99免费理论| 日本久久人| 五月丁香六月在线| 欧美色色日韩| 激情五月天婷婷丁香 | 日本久久精品18| 99热精品无码| 天堂久久大香蕉| 欧美婷婷五月丁香| 丁香花五月天社区| www.操.com| 久久99jiu9| www激情com| 大香蕉视频99| 激情五月四色| 极品五月天| 五月天影院| 99久久欧美| 五月婷婷久久网| 1024在线一区| site:feetmall.com| 2018夜夜草| α久久| 99热99艹在线观看| 久久机热这里只有 | 狠狠色大香蕉| 丁香 久久| 婷婷丁香五月色偷偷| 99久久精品国产色欲| 久久hd| 99玖玖在线视频| 加勒比日本一区二区三区| 丁香五月六月综合欧美| 激情图片久久| 久久停停超碰| 99久久精彩视频。| 麻豆AV一区二区三区| 五月丁香网av| 色网五月婷婷| 天天高潮夜夜爽| 色婷婷啪啪综合网| site:pnnrt.com| 久久在线大香蕉| 97影院一级片| 女人露出p毛视频www网站| 亚洲五月婷婷| 久久五月婷综合网| 99热亚洲只有色| 啪到高潮激情丁香五月| 综合网狠狠| 五月婷婷色| 色色五月婷婷久久| 色五月在线观看| 亚洲另类婷婷五月丁香在线播放| 99色在线观看免费| 狠狠色情婷婷| 十月丁香九月婷婷综合| 一级二级色大片| 五月丁香欧美综合| A片试看50分钟做受视频| 色www久视频| 欧美性生交A片免费看| 久久婷婷五月天激情四射| WWW.五月天9999| 日亚二欧美| 伊人五月天久久| 蜜乳国产网站| 99热精品在线观看| AAA亚洲AV| 毛片蕉地一二| 成人电影在线免费试看| 天堂久热| 国产在这里只有精品| 婷婷五月丁香香蕉| 色色色图| 天天综合图片| 在线免费观看激情视频| 激情综合网五月| 99色色爰| 亚洲欧洲另类图片| 五月婷婷中文字幕| 五月丁香啪啪啪啪| 国产成人精品123区免费视频| 丁香色五月婷婷91桃色| 狠狠色噜噜狠狠| 欧美婷婷| 天天日夜夜操五月| 婷婷色片| 天天爱天天爽| 婷婷五月骚厕所| 97五月天婷婷综合激情网| 综合色五月| 婷婷美女精品视频| 丁香狠狠操| 99久在线精品99re8| 久久久久久久久久久久久久人妻视频 | 五月天婷婷基地| 玖久精品视频9| 色99www.| 五月婷婷在线视频| 99亚洲无码| 色综合中文| AV九九| 天天夜夜操| 97热精品| 丰满少妇猛烈A片免费看观看| 色色色色色网站| 亚洲综合无码| 校花娇喘呻吟校长陈若雪视频| 婷婷激情五月综合| 婷婷五月播| 色五月婷婷777| 日日操夜夜爽| 色婷婷狠狠干| 黄色av网站在线免费播放| 久99在线视频| 久婷婷久草| 五月天基地| 婷婷六月丁香五月| 激情六月婷| 婷婷九九| 超碰天堂网| 色婷婷19| 五月丁香婷婷伊人| 久久久性爱视频| 日本综合色图| 丰满人妻一区二区三区| 婷婷六月开心网| 五月婷婷色白丝| 色五月天综合网| 99热这里精| 色五月婷婷自拍| 天天弄天天操| 色色99| 丁香婷婷五月天亚洲| 好大好粗嗯啊-一级黄色大片免费观看-成人AV | 五月丁香成人| 91婷婷伊人牛牛| 天天做天天爱天天爽| 久久九九免费视频| 人妻内射麻豆视频| 九月婷婷色色| 色色婷婷综合| 色优久久| 99热免| 五月丁香手机在线| 色播五月丁香综合| 香蕉AV福利精品导航| 日日天天干| 伊人婷婷青青cao| www.1024久久| 婷婷亚洲色| 狠狠色成人影片| 九九综合精品| 4399在线观看免费高清黄色视频| 日日操夜夜擼| 色99在线| 婷婷99狠狠躁| www.夜夜操.con| 大香AV| 亚洲亚洲人成综合网络 | 五月情四婷婷| 91色色色18| 五月综合激情啪啪啪啪啪| 亚洲色啪| 婷婷五月色情天| 激情久久久| 碰超在线九色| 成人无码髙潮喷水A片| 成人版视频在线观看| 五月亭亭六月激情| 先锋五月婷婷丁香草草| www网站在线观看| 91啪啪| 26uuu丁香婷婷五月| 久久婷婷丁香六月天| 五月婷婷激情综合| 五月婷婷黄| 免费做A爰片77777| 亚洲成人高清在线| 久机视频这只有精品| 5月色亭亭视频| 97久久精品| 婷婷婷久久| 丁香五月激情综合| www.91久久| 五月婷婷香| 五月婷婷 六月丁香| 性视频久久| Caoub青青超碰 | 伊人在线视频| 天天干天天射综合网| 99这里是99在线视频| 97色啪| 果冻传媒A片一二三区| 99久视频| 色婷婷AV在线| 久久开心五月天激情| 五月婷成人网| 久久久人妻久久久| 久久天堂网| 国产在线网址1| 成人综合网站| 99精品免费视频| 国产精品色婷婷久久久精品| 99er热精品视频| 婷婷五月天777| 色色色色色色色色五月先| 丁香五月婷婷激情中文| 伊人丁香在线| 欧美大肥婆大肥BBBBB| 激情AV| 丁香五月av| 99热99热不卡| 五月婷婷这里都是精品| 久久久久久久综合狠狠综合| 丁香五月91| 色噜久| 五月丁香亭亭A片| 激情又色又爽又黄的A片| 无码任你操| 99无码精品| 丁香美女主播视频在线观看| www.伊人天堂偷偷婷婷| 色情五月丁香婷婷网| www.黄色片-久久成人国产精品在线播放-999AV | 97成人在线视频| 久99999热视频在线观看免费| 亚洲精品视频在线播放| 成人丁香五月| 久久婷婷热| 五月婷婷激情| 色五月色五天免费视频| 五月天激情AV| 九九婷婷五月天影视| 五月天六月丁香| 99操视频| 在线视频另类| 五月久久婷婷天堂视频| 97碰在线免费观看| 日韩有码久久| 99re免费视频| 99在线小视频| 五他月天啪啪啪| 九九九激情网| 欧美成人精品A片免费一区99| 色婷婷丁香五月| VA色婷婷| 国产精品久久久久久白浆色欲| 五月丁香六月婷| 九九色综合视频| 五月婷综合网| 影音先锋人妻出差| 伊人六月无码视频| 色插综合网| 天天舔天天摸天天射| 91精品久久久久久综合五月天| AV五月丁香| 激情丁香九九五月综合网| 丁香五月天天| 神马欧美精| 日韩综合久| 91丨九色丨国产在线| 色久一| 久久婷婷五月综合色天| 月色色综合婷婷网| 91视频久久久| 激情图片久久| 色伊人啪| 九洲一级A片| 91黄操| 天天噜日日噜综合无码| 久久99操| ww亚洲ww在线观看| 欧美成人无码高清一区二区三区| 26uuu色噜噜精品一区| 婷婷激情丁香五月天综合| 夜夜爽天天| 久久亚洲网| 色五月婷婷成人视频| 亚洲AV激情五月综合网| 婷婷丁香视频| 五月天婷婷激情春色小说| 色五月色五天色情网| www.lingjunshare.com| 日日狠狠久久偷偷四色综合免费| 骚。com| 九九99精品视频在线观看| 日本婷色| 天堂色婷婷| 婷婷综合网站| 日本三级日本三级99| 五月天婷婷基地| 蜜桃人妻无码AV天堂三区| 国产精品久久久爽爽爽麻豆色哟哟| 少妇被下春药玩弄A片| 精品一二三区久久AAA片| 99精品视频免费观看近期发布| 激情五月四色| www九月婷婷| 99热销国产这里有精品| 99精品自拍视频| 九月丁香| 玖玖伦理电影| 偷拍视频五月天| 五月婷婷深爱六月| 日韩无码色色| 久99综合婷婷| 丁香五月在线播放| 国产看真人毛片爱做A片| 国产亚洲成AV人片在线观黄桃| 婷婷六月天国产综合| 4399在线观看免费高清毛片| www.精品久9| 噜噜操操| 人人干天天舔| 丁香五月婷婷激情123| 五月丁香龟婷婷| 色五月婷婷老师| 99热最新| 亚洲国产精品二二三三区| 婷婷天堂伊人| 玖玖色资源| 在线不卡视频| 成人婷婷深爱综合网| 五月天停停成人网| 大香蕉伊人爱在线| 亚洲激情综合| 精品人妻午夜一区二区三区四区 | 天天做天天爱综合| 真实亲子乱子伦高清在线观看| 超碰在线观看9| 六月激情婷婷| 黄色片久久| 久久青青日本视频| 91热久久| 婷婷五月丁香基| 九九视频这里只有精品| 另类激情综合| 综合婷婷| 伊人超碰在线| 99热偷拍| sewuyuejiqingwang| 婷婷五月综合激情免费| 五月丁香免费视频| 欧美性生交XXXXX无码小说| 九九色色| 欧美精品在线观看| 最新日韩久热免费视频看看| 色 免费网站视频| 色五月婷婷激情五月| 97五月天婷婷| 久9热在线视频| 五月天激情国产综合婷婷婷| 影音先锋91视频| 色综合网址| 天干天天干天天天天天| XX色综合| 色色色色网站| 狠狠色综合图片| 色婷精品91| 五月丁香六月婷婷中文版| 五月丁香亚洲综合| 丁香五月天之婷婷影院| 日逼AV影音先锋男人资源站| 密乳Va| 天天爱天天日| 午夜激情五月| 五月丁香婷婷中文| 婷婷99综合| 久久机热探花| 色五月婷婷五月丁香五月激情五月视频| 激情五月婷婷综合色播小说| 色色婷婷丁香| 在线免费视频caop| 成人综合网站| 久热伊人9| 激情 五月 婷婷 丁香| 国产精品五月天婷婷| 五月婷婷激情网| 熟女人妻视频| 色色色97| 狠狠操天天操天天操| 日韩色色视频| 六月色婷婷| 热99久| 久久久er热| 国产在这里只有精品| 免费视频无码| 婷婷五月丁香A∨| 亚洲性爱干干| 激情视频综合| 日本三级成人秘书精品片| 久9热视频| 天色综合网站| ww久久| 午夜不卡久久精品无码免费| 九九色99| 99热这里只有精品最新地址获取| 婷婷99| av人人操| 色播五月丁香| 六月丁香五月天| 色五月综合网| 久久天堂精品| 婷婷五月天xxx| www.色婷婷.com| 91se视频| 成人在线日韩| 日狠狠| 曰韩少妇内射免费播放| 97影院一级片| 天天爽夜夜爽天天爽夜夜爽| 丁香五月天婷婷激情| 91 九色 入口| 六月婷婷影院| 天天操比比| 大香蕉伊在| 五月天全国最大成人网| 99色视频| 91啪啪啪啪| 激情伍月 欧美| 99无码超碰| 99精品综合在线| 国内婷婷丁香社区在线播放| 99热亚洲| 大香伊人婷婷影院| 六月丁香深深爱| 色丁香久久| 99热www| 天天草狠狠擦| 日本美女上人| H亚洲| 这里只有精品,日韩视频| 五月天激情久久| 婷婷.com| www色婷婷久久综合久色| 五月综合激情| 操操操91| 婷婷五月天激情亚洲小说| 夜夜操夜夜操| 九九干视频| 欧美日本一区二区三区| 丁香五月成人| 久9视频| 色五月婷婷在线| 99色免费观看全部| 久久er九九| 久久激情视频| 天天插天天射天天干| 亚洲综合狠狠艹| 综合网色| 激情四射五月天| 99爱在线精品视频免费观看| 久草热8精品视频在线观看| 亚洲综合五月天婷婷丁香| 人人视频人人干人人做| 婷婷色情 | 婷婷激情五月天网站| 色婷婷综合久久久久| 婷婷五月丁香综合桃花色网| 综合综合网| 亚洲综合九九| 超碰九色| 伊人婷婷大香蕉| 久久大香免费| 岛国AV网站| 久久久天堂国产精品女人| 99在线观看视频免费| 色狠狠图片| 开心五月激情网| 色综合com| 天天操天天插| 亚州第一A片| site:feetmall.com| 日本熟妇乱妇熟色A片蜜桃| 六月丁香婷婷拍拍| 天天综合在线网| √天堂资源在线人妻熟女| 五月停停激情网| 五月天婷a在线| 五月综合婷婷网| 一级黄色影片| 色色色777| 亚洲高清在线| 五月天婷婷基地综合网| 久久视频婷婷| 国产激情在线观看| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 91色久| 日韩另类| 久草A片| 色情五月婷| 丁香五月天色婷婷| 九九热99在线视频| 天天色,天天日,天天做| 免费超碰在线观看| er99免费视频在线| 成人午夜天| 精品一区二区三区四区五区六区介绍| 國語久久婷| 大伊香蕉玖玖爱| 五月婷婷开心网| 怡红院91a√| 五月丁香婷婷综合视频| 91干在线视频| 六月丁香综合| 成人色图情色成人网 www.5b5b5bcom 五月天| 狠狠草狠狠草| 99久久高清视频| www夜夜操com| 丝袜熟女一区二区三区| 天天爽日日爽夜夜爽| 97操碰人免费| 蜜乳中文字| 九久九精品| 婷婷色五月色妇| 丁香五月天成人| 五月综合影院| 色五月丁香91| 九九热视频思思| 九九丁香社区欧美激情| 五月丁香激情婷婷综合| 先锋影音男人的天堂AV| 亚洲色模骚货| 亚洲色图啪啪| 99热这里只有精品免费| www.五月天色色色| 丁香六月婷婷| 99九九视频| 男人天堂99| 久久艹 五月天| 久久人妻情侣| 亚洲日比视频| 激情五月天伊人影院| 久久五月天免费网站| 六月婷婷综合| 久草视频一,二三四| 大香蕉精品视频| 色10月婷婷视频| 啪啪91| 五月色欧洲| 伊人热在线大香蕉| 涩五月色婷婷| 亚洲无码黄色| 影视av久久久噜噜噜噜噜三级| 丁香五月婷婷色情综合| 午夜丁香婷婷| 色婷婷欧美在线| 日本99视频| 99精品视频在线| 激情图片亚洲| 丁香桃色网| 国产精品色婷婷99久久精品| 色人久久| 蜘蛛女免费观看完整版高清电影 | 99ri视频在线观看| 色综合色欲综合天天免费| a在线观看| 婷婷综合五月激情| 97精品人人A片免费看| 天天日天天做天天操| 色色97丁香婷婷五月天| 国产激情综合五月久久| 色色五月天网站| 色偷偷综合| 五月丁香六月婷婷亚洲激情综合| 亚洲综合色成丁香五月色| 97色色综合| 色五月五月婷婷| 五月天婷婷小说| 岛国av网| www,99色| 欧美精品99| 九九成人精品免费视频| 五月综合激情网| 久久五月婷婷开心网| 久草婷婷视频| 激情五月丁香社区| wWw色五月| 亚州在线中文字幕| 五月天久久91| 综合AV在线| 少妇性按摩无码中文A片| wwwC0maV五月花| 影音先锋男人资源站一区二区 | 中文字幕成人| WWW.色婷婷.COM| www狠狠com| av狠狠操| 9999色色色色| 久久日韩婷婷五月| 亚洲色婷婷| 丁香五月婷婷激情123| 人妻激情网| 婷婷激情啪啪| 9久9久| 五月天婷婷激情小说电影| 婷婷天天综合| 99久久.www| 色五月播五月| 国精产品一区二区三区| 婷婷五月丁香香蕉| 五月丁香综合网| 伍月婷婷六月丁香| 天堂久久婷婷| 少妇人妻人伦A片| 亚洲 25P| 日韩三级视频一区二区| 人人摸人人摸| 激情AV| 4438亚洲欧美| 超碰网站在线观看| 五月婷婷色影院| 成熟妇人A片免费看网站| 99爱视频在线播放| 中文字幕在线日亚州9| 国产一级片色色| 欧美色频| 日韩99色| 欧美婷婷精品激| 久久婷婷精品| 99超级超级超级碰| 亚洲精品视频在线播放| 开心激情网五月天| 天天插天天很| 成人在线不卡| www.久久色.com| 97色色视频| AV性爱网| 久久婷婷一级片| 色色色99韩| 啪啪激情网| 91se精品国产| 婷婷综合五月天| 色五月成人婷婷| 99欧美精品99日本精品| 色五月第四色| 九九热10| 久久AV无码精品人妻系列试探| 偷偷操99| 五月丁香婷中文字幕| 五月天婷婷青青| 久久婷婷五月丁香蜜桃网| 97在线刺激| 色色日韩无码| 99热在线观看精品| 丁香五月婷婷图片综合| 婷婷精品在线| 狠色狠色综合久久| 成人综合视频在线| 乱乱av| 中文字幕成人影视| 99久久成人| 婷婷伊人综合中文字幕| 久久久久久久久月丁| 色综合激情| 婷婷色五月情| 亚洲操逼网| 日韩av高清| 在线播放成人网站| 五月综合久久| 69er小视频| 99re免费精品视频| 亚洲精品**不卡在线播he| 99热这里有精力| 99re鈥哸鈥唙| 久久国产精品乱子伦_靑青草…| av第一二区| 99热在线观看| 97中文在线| 五月婷婷丁香在线视频| 天天久久人人| 人妖色AV色综合| 丁香五月花| 久久综合激情| 五月丁香综合激情网| 99re在线观看视频| 五月天婷婷操逼视频| 色图亚洲91| 五月婷婷色播| 中文av网站| 婷婷激情六月中文| 色婷婷九月| 六月色婷婷综合影视| 国产精产国品一二三在观看| 91丁香五月| 五月丁香激情六月| 丁香六月婷婷开心| 亚洲色图五月丁香| 免费色婷婷| 五月天激情小说| 亚洲欧洲国产精品| AV片在线观看| 五月天另类小说久久小说网| 久综合九综合99| 久久久国产精品黄毛片| 99国产精品久久久久久久久久久| 专区无日本视频高清8| 男女啪啪做爰高潮无遮挡| 中文字幕按摩做爰| 久久精品99国产精品日本| 亚洲五月婷婷| 亚洲色婷婷| 怎么样可以看免费的一级av| 韩国真做片在线观看| 国产99久久久国产精品免费看 | 91丁香色五月| 婷婷91视频| 97人人超| 99re8在这里只有精品| 粉嫩av懂色av蜜臀av熟妇| 五月激情小说| www热久久yy9| 操人妻AV| 天天色天天| 草婷婷在线| 九九人妻福利| 五月综合丁香婷婷| 天天艹| 丁香狠狠干| www.丁香五月| 久久婷婷色| 日本狠狠干| 欧美成人精品老美女噜噜噜| 五月丁香拍拍激情综合| 欧美色色色| 任你擦免费视频| 久热99久热| 欧美性猛交99久久久久99按摩| 五月婷激情| 久久久久亚洲AV成人无码电影| 五月天 无码| 日本不卡五月婷婷丁香| 五月情丁香色| 日本色道视频网站| 思思99久久| 亚洲AV成人无码电影| 亚洲综合网在线| 99色综合| 成人va在线播放| 亚洲精品电影| 日熟女| 婷婷激情5月| 亚洲色欲欧美一区二区三区| 九九综合视频在线观看| 色五月天丁香| 啪啪婷婷五月天激情| 一区=区操屄高清大全av| 665566 无码| AV中文网| 777米奇影视第四色| 婷婷亚洲影院| 六月色播| 9久久久久| 婷婷六月综合基地| 99综合视频| 激情五月开心五月丁香五月| 思思热再线视频| 欧美综合丁香网| 婷婷激情另类| 4399在线观看免费高清电视剧| 欧洲亚洲免费视频9 | 美女婷婷六月色| 成人看片网站| 久久香蕉网| 第四色激情网| 亚洲综合婷婷五月| 久热黄色| 激情综合色图| 婷婷综合色网| 老妇操B| 99人人操| 五月激情综合婷婷| 67194线路二在线观看| 婷婷久久色五月婷婷久久久| 五月婷婷操操| av免费在线看不卡无毒| 丰满少妇猛烈A片免费看观看| 婷婷成人基地| 熟女少妇内射日韩亚洲| 青青草免费公开视频| 91操人| 九九热在线视频| 五月丁香啪| WWW.桔色成人.COM| 思思久久99热只有频精品66| 亚洲精品无码一区二区| 中文字幕网伦射乱中文| 五月天色五月| 99视频精品| 久久视频在线视频| 青草视频在线观看视频| 国产AV一区二区三区日韩| 拍真实国产伦偷精品| 99久久综合| 久久在线视频免费观看| 亚洲综合色网| 在线观看国产高清视频免费网站 | 婷婷中文字幕| 色噜噜狠狠色综无码久久合欧美| 日本色五月| 日日日日日| 五月丁香成人网| 国产亚洲精品久久久久久豆腐 | 9超碰在线| 99ri精品在线| 青青草原亚洲天堂| 九九人人操| 九九热视频精品2| 天天插综合在线| 色天天狠狠干| 99精品7| 激情五月天激情综合网| 99热这里只有的精品视| 婷婷色丁香六月| 人妻啪啪啪| 五月天丁香| 色欲天天综合| 日韩AV大全| 亚洲成人网站在线观看| 嫩BBB槡BBBB搡BBBB| 熟女人妻视频| 沈娜娜av| www.激情com| 伊人网碰碰| 五月丁香综合啪啪| 日本丁香五月婷婷| 色五月开心开心五月激情五月| 久久欧洲综合网| 五月综合激情视频在线| 99热| 日本久久天堂| 日本色婷婷| 开心五月色婷婷综合开心网| 国产伦亲子伦亲子视频观看| 久777| 99色免费| 大香蕉五月婷婷| 久久久久久久五月婷婷六月丁香综合,开心激情综合网 | 97久人人| 日本在线99| www久久久| 久久er+| 一本综合丁香日日狠狠色| 日日撸夜夜操| 激情丁香婷婷| 男妓跪趴把舌头伸进我的嘴巴| 六月五月天婷婷涩播在线| 99在线爽| 91AV婷婷| 五月丁香怕啪啪| 婷婷丁香激情| 国产五月天欧美色| 99热国内精品| 天天干,天天日| 国产亚洲精品久久久久苍井松| 五月丁香激情综合网官网| 99噜噜| 五月天婷婷三级黄| 日日激情网| 99热在线免费| 五月激情网站| 99这里有精品视频| 99丁香婷婷综合网| 婷婷玖玖五月天| 好好干Av| 婷婷五月天熟妇| 色播五月婷婷| 97色碰| 少妇搡BBBB搡BBB搡毛茸茸| 伦乱人妻| 国产无人区大片| 久久这里都是精品免费| 思思热久久久久思思热| 婷婷五月天成人网站| 婷婷五月AV| 精品亚洲国产成人A片在线鸭王| 色九月综合| 国産精品| 五月丁香婷婷AV天堂| 婷婷六月激情综合| 亚洲日日操| 这里只有精品96| 亚洲xx网| 国产乱码久久| 夜夜爽天天日| 在线网黄| 丁香五月综合| 五月丁香六月综合图| www.五月婷婷.com| 日本激情ⅩXX免费视频| 天天天天天久久久久久| 久久伦乱| 国产毛片欧美毛片久久久| av五月丁香| 亚洲激情网| 丁香五月天BBw| 婷婷色五月婷| 五月开心网| 激情5月婷婷| 91网站黄| 亚洲婷婷月丁香五月| 五月丁香免费看| 国产欧洲欧洲精品久久| 色哟呦av| 人人插9| 久月丁香爱婷婷综合| 国产精品色婷婷AV综合色色| 婷婷伊人綜合中文字幕小说| 日本激情综合| 五月久久婷婷丁香| 综合热无码| 99婷婷国产最新视频| 欧美性猛交XXXX乱大交极品| 久久超级碰视频| 梁铮版《蜘蛛女侠》在线| 亚洲免费婷婷| 9久久精品| 丁香花五月天婷婷成人社区| 六月丁香中文字幕| 婷婷五月丁香基| 婷婷五月天国产| 91狠狠综合久久| 亚洲av无码影院| 色婷婷WWW| 开心色五月天久久久久久久| 婷婷六月啪啪| 大鸡巴伊人网| 久久久久妻| 婷婷五月天综合色| 日韩亚洲视频| 丁香五月大香蕉在线99| 欧美久久网| 五月丁香激情综合六月涩涩爱| 91日日日| 91色呦哟| 久久新地址| 久久婷婷五月综合色丁香| 97人人射| av人人操| 精品一区二区三区四区五区六区介绍 | 26uuu国产| 婷婷五月天福利| 97干婷婷| 天天撸夜夜爽| 九九九九毛片| 五月精品99综合| 99热欧美| 久久开心五月天激情| 天天日夜夜爽| 操日本三片99| 天天舔天天| 黄网在线播放| 国产高潮白浆一区二区| 亚洲VA欧美VA| 天天插天天插| 伊人九九68| 丁香五月婷婷激情小说| 天天爽综合网| 激情五月天丁香| 久久伦乱| 五月婷婷色吧!| 天天操人人干| 91日韩美女被插视频| 插插网爽妇五月丁香| 欧美婷婷丁香五月社区| 日本久碰| 国产婷婷五月中文字幕高清| 99色色| 99超级超级超级碰| 婷婷AV丁香| 狠狠五月天| 天久综合91综合首页| 99色色热热| 五月婷婷激情日本| 欧美97超碰| 狠狠色丁香综合|