欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

PyTorch圖像分類實戰(zhàn):從數據預處理到模型部署的完整指南

PyTorch圖像分類實戰(zhàn):從數據預處理到模型部署的完整指南 1. 搭建開發(fā)環(huán)境與準備數據集1.1 先想清楚框架選型為什么我這次用 PyTorch圖像分類是深度學習里最典型、也最適合上手的任務類型。你在網上隨便一搜這類項目遍地都是但絕大多數教程要么停留在理論層面要么代碼貼了滿屏卻跑不通。這次我拿模擬項目X的實戰(zhàn)過程來做演示從環(huán)境搭建一直帶到模型推理把每個環(huán)節(jié)里的為什么講清楚。框架選型上PyTorch 和 TensorFlow 各自都有龐大的用戶群我這次選 PyTorch 不是因為它比 TensorFlow 高級而是因為在圖像分類這個場景里PyTorch 的動態(tài)計算圖太適合初學者做調試。你在訓練過程中想打印某一層的輸出、想臨時改一下網絡結構都不用重構整個計算圖。加上 torchvision 里直接集成了 CIFAR-10、ImageNet 這類經典數據集的下載接口也有預訓練模型權重做遷移學習非常順手。TensorFlow 當然也能做但 Keras 高層 API 封裝太嚴很多內部機制被隱藏掉了對想深入理解訓練過程的人來說不如 PyTorch 直觀。我這里強調一下版本問題。PyTorch 的 API 在不同版本之間偶有變動比如舊版本的torchvision.transforms里某些函數在新版本已經改了位置。我這次用的是 2.x 版本理論上 1.12 以上都兼容但如果你裝的是很老的版本遇到 API 不存在或者參數對不上的報錯不要懷疑是自己的代碼寫錯了先查一下版本。習慣上我會用pip show torch確認當前版本。1.2 安裝依賴最小可運行環(huán)境裝環(huán)境不需要裝一堆亂七八糟的包最小集合就四個torch、torchvision、numpy、matplotlib。分類任務里 matplotlib 不是必須的但后期看損失曲線、可視化預測結果時沒有它就很痛苦。pip install torch torchvision numpy matplotlib如果你有 NVIDIA 顯卡建議裝 CUDA 版本的 PyTorch。安裝前先用命令nvidia-smi看一下支持的 CUDA 版本然后去 PyTorch 官網選對應的安裝命令。沒有顯卡也不用擔心CPU 版本能跑只是訓練慢一些。我最初跑項目時就是純 CPU 機器CIFAR-10 一個 epoch 要接近兩分鐘雖然慢但對理解訓練流程完全夠用。真實項目里我見過不少人花大量時間折騰 GPU 環(huán)境其實一個簡單的分類任務CPU 也完全能撐到模型收斂頂多多等一會兒。裝完之后寫三行代碼驗證是否安裝成功import torch import torchvision print(torch.__version__) print(torch.cuda.is_available())如果打印出版本號環(huán)境就算就緒。cuda.is_available()返回 False 不代表失敗只是說明當前機器沒有可用的 GPU。1.3 數據集準備自己整理一個貓狗分類數據目錄很多人一上來就直接調用torchvision.datasets.CIFAR10這當然是最省事的方式。但我建議真正的實戰(zhàn)項目還是自己整理一份圖片數據集因為工作里遇到的絕大多數情況都是你自己的圖片需要手動把數據組織成模型能吃的格式。我這次用的是某公開數據集里的貓狗圖片大概 25000 張。目錄結構如下data/ train/ cat/ cat_0001.jpg cat_0002.jpg dog/ dog_0001.jpg val/ cat/ cat_0001.jpg dog/ dog_0001.jpg這個結構看似簡單但它是 torchvision 的ImageFolder直接支持的格式。ImageFolder會自動把每個子目錄當作一個類別目錄名會變成標簽的索引。所以你的目錄命名一定要起對標簽名就是最終的分類類別。數據劃分的比例上我習慣按 8:2 拆訓練集和驗證集。這里有個經驗驗證集的圖片不要從訓練集里復制應該從原始數據里獨立抽樣保證驗證集和訓練集的圖片沒有任何重疊。如果訓練集和驗證集有相同圖片驗證集的準確率就會虛高看起來 99% 的模型上線后可能連 80% 都不到。dataset torchvision.datasets.ImageFolder( root./data, transformtransform ) train_size int(0.8 * len(dataset)) val_size len(dataset) - train_size train_dataset, val_dataset torch.utils.data.random_split( dataset, [train_size, val_size] )這段代碼中random_split是隨機劃分的但它打亂的是索引而不是圖片本身所以圖片不會重復出現(xiàn)在兩個集合中。如果你需要更精細的控制比如確保每類圖片在訓練集和驗證集中的比例都接近 8:2就需要用分層采樣的方式。不過對于大多數分類任務整體 8:2 的比例已經足夠了。2. 數據預處理與數據增強2.1 歸一化為什么要用固定的均值和方差圖像分類的第一步是數據預處理這個環(huán)節(jié)看起來不起眼但對最終準確率的影響非常大。預處理里最關鍵的一步是歸一化。一個常見的誤區(qū)是以為歸一化就是把像素值從 [0, 255] 縮放到 [0, 1]。沒錯這個過程是縮放但真正專業(yè)的做法是用每個通道的均值和標準差做標準化。標準化公式是x_norm (x - mean) / std為什么不能只做簡單的 [0,1] 縮放因為自然圖像的 RGB 三個通道的像素分布并不是均勻的。比如在貓狗照片里綠色通道的均值通常低于紅色通道直接用 [0,1] 縮放會讓網絡在初始階段對不同通道的響應不夠均衡。使用固定均值和標準差后每個通道的像素分布都被拉成標準正態(tài)分布輸入數據的尺度趨于一致網絡收斂速度會明顯加快。torchvision 里對在 ImageNet 上預訓練的模型標準做法是transform_normalize torchvision.transforms.Normalize( mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225] )這三個均值和標準差是從 ImageNet 數據集統(tǒng)計出來的。如果你用的是 torchvision 提供的預訓練權重那就必須用這一組數值否則遷移學習的效果會大打折扣。如果你是自己從零訓練模型理論上可以自己統(tǒng)計數據集的均值和方差但絕大多數人直接用 ImageNet 的那組數值也能取得不錯的效果。2.2 transforms.Compose 中的順序陷阱transforms.Compose是 torchvision 提供的串聯(lián)預處理操作的工具。我把訓練集和驗證集分別定義成兩套不同的預處理流程。訓練集完整配置train_transform torchvision.transforms.Compose([ torchvision.transforms.RandomResizedCrop(224), torchvision.transforms.RandomHorizontalFlip(), torchvision.transforms.ColorJitter( brightness0.2, contrast0.2, saturation0.2 ), torchvision.transforms.ToTensor(), torchvision.transforms.Normalize( mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225] ) ])驗證集配置val_transform torchvision.transforms.Compose([ torchvision.transforms.Resize(256), torchvision.transforms.CenterCrop(224), torchvision.transforms.ToTensor(), torchvision.transforms.Normalize( mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225] ) ])這里有個很關鍵但容易被忽略的點驗證集不能做隨機增強操作。有人圖省事直接給驗證集也套了RandomHorizontalFlip導致每次驗證的結果都不一樣評估指標不穩(wěn)定最終模型的好壞完全沒法判斷。RandomResizedCrop也一樣它是隨機裁剪你每次跑驗證時輸入模型的圖片內容都不同驗證集就失去了穩(wěn)定衡量模型能力的意義。另一個需要注意的點是ToTensor()必須放在Normalize()之前。ToTensor會把 PIL Image 或 numpy 數組轉成 0-1 之間的浮點數張量Normalize才能在這個基礎上做標準化。順序反了會直接報錯。2.3 Dataset 與 DataLoader 的參數細節(jié)DataLoader是 PyTorch 里負責批量喂數據的工具。它的參數里batch_size的選擇會直接影響訓練效果和顯存占用shuffle只在訓練集上設為 Truenum_workers控制子進程數量。以我這次的貓狗分類為例我用的是 64 的 batch size。這個數值不是拍腦袋定的取決于顯存大小和單張圖片的尺寸。輸入圖片是 224×224ResNet18 在 12GB 顯存下可以跑到 128但 64 更穩(wěn)妥。batch size 太小比如 8 或 16梯度更新頻率高訓練過程會很震蕩模型不容易收斂batch size 太大比如 256 或 512每個 epoch 的步數少模型的泛化能力可能變弱。64 是個在多數任務上都不太會翻車的中間值。num_workers的值我最常用的是 4。如果你的機器性能一般也可以設 2甚至 0表示用主進程直接加載。設成 8 不一定更快因為進程調度本身也有開銷而且 Windows 環(huán)境下如果把num_workers設成非 0 值在 Jupyter 里跑經常會遇到重復導入的問題。train_loader torch.utils.data.DataLoader( train_dataset, batch_size64, shuffleTrue, num_workers4, pin_memoryTrue ) val_loader torch.utils.data.DataLoader( val_dataset, batch_size64, shuffleFalse, num_workers4, pin_memoryTrue )pin_memoryTrue是給 GPU 訓練提速用的它讓數據存儲在鎖頁內存里從 CPU 復制到 GPU 的傳速更快。如果使用 CPU 訓練這個參數沒什么意義。這里還有一個隱藏細節(jié)驗證集的shuffleFalse很重要。除了保證驗證結果穩(wěn)定之外后續(xù)分析錯誤樣本時你還需要知道模型預測錯的是哪些圖、原標簽是什么。如果驗證集被打亂了你很難把預測結果和原始圖片對應起來做可視化分析。3. 搭建模型并跑通訓練流程3.1 從零訓練還是用預訓練模型搭建模型的思路分兩條路從零訓練一個 CNN或者用 ImageNet 上預訓練好的模型做遷移學習。對新人來說我建議兩條路都走一遍先搭一個小 CNN 走通全流程再用 ResNet18 做遷移學習對比兩者的差距。一個最簡單的 CNN 結構是這樣import torch.nn as nn class SimpleCNN(nn.Module): def __init__(self, num_classes2): super().__init__() self.features nn.Sequential( nn.Conv2d(3, 32, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(2, 2), nn.Conv2d(32, 64, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(2, 2), nn.Conv2d(64, 128, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(2, 2), ) self.classifier nn.Sequential( nn.Flatten(), nn.Linear(128 * 28 * 28, 256), nn.ReLU(inplaceTrue), nn.Dropout(0.5), nn.Linear(256, num_classes) ) def forward(self, x): return self.classifier(self.features(x))這個結構里卷積層負責提取圖像特征全連接層負責把特征映射到類別。第一次跑的時候你會把大量時間花在調參上最終準確率可能只有 70%-80%。這很正常從零訓練需要大量數據和算力你的數據量和算力都不足以撐起一個非常有表達能力的網絡。用預訓練模型做遷移學習才是效率最高的方案。torchvision 里有很多現(xiàn)成的模型如 ResNet18、ResNet50、MobileNetV3、EfficientNet 等。ResNet18 算是輕量與效果平衡的最佳選擇。核心操作是替換最后一層全連接層讓輸出維度等于你的類別數import torchvision.models as models model models.resnet18(pretrainedTrue) num_features model.fc.in_features model.fc nn.Linear(num_features, 2)這里的關鍵是pretrainedTrue它會把在 ImageNet1000 類上訓練好的權重加載進來。ImageNet 覆蓋了貓、狗等多個類別的通用特征所以預訓練模型已經有很強的特征提取能力你只需要讓它適應貓狗二分類。通常準確率能輕松到 95% 以上。3.2 訓練的核心配置損失函數、優(yōu)化器與學習率圖像分類常用的損失函數是交叉熵損失CrossEntropyLoss。你不需要在前向傳播里單獨加 Softmax 激活函數nn.CrossEntropyLoss內部已經融合了 Softmax 和損失計算。使用的時候就一行criterion nn.CrossEntropyLoss()這里有個細節(jié)模型輸出的是類別數維度的 logits不是概率損失函數內部會對它做 Softmax 變換所以不要在最后一層再接額外的 Softmax。如果你在模型末尾加了 Softmax訓練時就會發(fā)現(xiàn)損失值很奇怪、收斂極慢因為梯度在 Softmax 那里被壓縮了。優(yōu)化器我用過最多的組合是 Adam 和帶動量的 SGD。對新手我推薦先試 Adam因為它對學習率不那么敏感。踩過坑的經驗是Adam 的默認學習率 0.001 在大多數分類任務上都能跑出不錯的效果而 SGD 需要配合學習率調度才能發(fā)揮威力。optimizer torch.optim.Adam( model.parameters(), lr1e-3, weight_decay1e-4 )weight_decay是 L2 正則化項它防止模型過擬合。如果訓練集不大幾千張圖我建議加上。常用值是 1e-4 或 5e-4。如果要用 SGD歷史代碼里最常見的組合是optimizer torch.optim.SGD( model.parameters(), lr1e-2, momentum0.9, weight_decay1e-4 )SGD 的收斂精度通常比 Adam 高一些但對學習率的要求更苛刻。我的建議是先把 Adam 跑通、拿到一個不錯的基線再換 SGD 試試能不能進一步提升。不要一開始就兩邊調參否則工作量直接翻倍。另外學習率調度器建議從一開始就加上。最常見的兩個是StepLR和ReduceLROnPlateau。前者是每隔固定 epoch 數對學習率做衰減后者是當驗證損失不再下降時自動調低學習率。我更常用ReduceLROnPlateau因為它的自適應程度更高。scheduler torch.optim.lr_scheduler.ReduceLROnPlateau( optimizer, modemin, factor0.1, patience3 )含義是連續(xù) 3 個 epoch 驗證損失不下降就把學習率乘以 0.1。這樣你不用手動盯學習率模型基本能自己找到合適的區(qū)間。3.3 訓練循環(huán)train/eval 模式切換是硬性要求訓練循環(huán)的框架可以固定成下面這個模式。這里有一個特別容易踩的坑訓練時模型要切換成訓練模式驗證時一定要切換成評估模式。for epoch in range(20): model.train() train_loss 0.0 for images, labels in train_loader: images, labels images.to(device), labels.to(device) optimizer.zero_grad() outputs model(images) loss criterion(outputs, labels) loss.backward() optimizer.step() train_loss loss.item() # 驗證階段 model.eval() correct 0 total 0 with torch.no_grad(): for images, labels in val_loader: images, labels images.to(device), labels.to(device) outputs model(images) _, predicted torch.max(outputs, 1) total labels.size(0) correct (predicted labels).sum().item() val_acc 100 * correct / total print(fEpoch {epoch1}, Loss: {train_loss/len(train_loader):.4f}, Val Acc: {val_acc:.2f}%) scheduler.step(val_loss)先解釋model.train()和model.eval()這兩個模式切換。它們的關鍵影響在于模型的 Dropout 和 BatchNorm 層行為完全不同。train()模式下 Dropout 會隨機丟棄一部分神經元BatchNorm 會使用當前 batch 的統(tǒng)計量eval()模式下 Dropout 被關閉BatchNorm 使用訓練階段累計的全局統(tǒng)計量。如果你驗證時忘記切換成eval()驗證集的準確率會忽高忽低甚至出現(xiàn)嚴重偏差。這個問題我在初學階段至少踩過三次每次都會浪費大量時間去排查為什么驗證集效果差。optimizer.zero_grad()必須放在每輪迭代前面。PyTorch 默認會累加梯度如果不清零上一 batch 的梯度會疊加到當前 batch 上導致參數更新方向完全錯誤。有人問既然默認累加是不是也有好處確實在個別特殊場景里有人故意不清零梯度的寫法但圖像分類任務不要這么干。驗證階段用torch.no_grad()包住迭代循環(huán)意思是這一階段不需要計算梯度。這樣做能顯著減少內存占用和計算量。如果你不小心漏了這一步你的顯存會在跑驗證時暴漲甚至直接 OOMOut Of Memory。有些人遇到 OOM 以為是 batch size 太大實際原因是沒有關閉梯度計算。訓練循環(huán)里我習慣每輪都打印訓練損失和驗證準確率。損失值的走勢能直接反映訓練狀態(tài)如果訓練損失持續(xù)下降但驗證準確率不再上升甚至下降說明模型開始過擬合可以考慮更早?;蛘呒訌姅祿鰪姟?.4 訓練過程中怎么判斷模型狀態(tài)盯著終端的輸出不要只是看一眼準確率數字就完了。幾個常見的狀態(tài)信號訓練損失穩(wěn)步下降驗證準確率也在同步上升這是最健康的狀態(tài)。你什么都不用動讓它繼續(xù)跑。訓練損失下降很快驗證準確率卻停滯不前甚至下降。這是典型的過擬合信號。解決辦法有三條增強數據增強的強度比如加RandomRotation或RandomAffine加大weight_decay提前停掉訓練。訓練損失在某個數值附近震蕩不下降。這可能是學習率太大或者輸入數據的預處理有問題比如圖片噪聲過大、歸一化的順序錯了??梢栽囍褜W習率調低一個數量級再看看。訓練損失一開始就非常低比如降到 0.001 以下且驗證準確率很高這看起來很好但也要警惕。如果訓練集和驗證集分布不一致這種情況可能是模型學到了某些捷徑比如依賴圖片的背景、水印等非語義特征。做一次錯誤可視化分析就能發(fā)現(xiàn)這個問題。在這個階段我通常還會順手看一下模型預測的置信度分布。用torch.softmax(outputs, dim1)得到概率值再看看最高概率的平均值。如果模型對所有樣本都給出接近 1.0 的置信度很可能模型過擬合了如果置信度普遍在 0.5-0.7 之間徘徊說明模型的區(qū)分能力還不強。4. 評估模型與預測新圖片4.1 準確率不夠補充更多指標很多人訓練完模型只看準確率。單看一個指標很容易被誤導特別是當你面對一個類別不平衡的數據集時。比如 95% 的圖片都是狗模型只需要全部預測成狗就能拿到 95% 的準確率但這顯然不是一個好模型。所以除了準確率我還建議算一下精確率Precision、召回率Recall和 F1-score。這幾個指標在sklearn里有現(xiàn)成實現(xiàn)from sklearn.metrics import classification_report y_true [] y_pred [] model.eval() with torch.no_grad(): for images, labels in val_loader: images, labels images.to(device), labels.to(device) outputs model(images) _, predicted torch.max(outputs, 1) y_true.extend(labels.cpu().numpy()) y_pred.extend(predicted.cpu().numpy()) print(classification_report(y_true, y_pred, target_names[cat, dog]))拿到的報告會顯示每一類的精確率和召回率。簡單解釋一下精確率表示模型預測為貓的樣本中有多少確實是貓召回率表示所有真正的貓中有多大比例被模型正確找了出來。F1-score 是這兩者的調和平均。我這次跑出來的初始模型貓的召回率明顯低于狗的召回率原因是訓練集里狗的圖片比貓多。解決方式有兩個方向一是給少數類樣本過采樣或者降低多數類樣本權重二是換一個帶類別權重的損失函數。nn.CrossEntropyLoss自帶weight參數可以傳入一個權重向量讓損失值偏向少數類。class_weights torch.tensor([1.0, 0.8]).to(device) criterion nn.CrossEntropyLoss(weightclass_weights)這樣一來模型對貓的誤判成本更高訓練時它會更主動地去學習貓的特征。4.2 混淆矩陣一眼看出模型在哪些類別上容易混淆混淆矩陣是評估分類模型最直觀的表格。在二分類任務上就是一個 2×2 的矩陣橫軸是預測標簽縱軸是真實標簽。貓狗分類的混淆矩陣可能長這樣預測為貓預測為狗真實是貓923127真實是狗45905對著這個矩陣看你能快速發(fā)現(xiàn)模型把 127 只貓誤判成了狗卻只把 45 只狗誤判成了貓。這說明模型對貓的特征捕捉能力不足。接下來要做的不是盲目調參而是去查這些被誤判的貓圖看它們是不是本身長得就不典型比如毛發(fā)顏色與狗相近、面部被遮擋、或者拍攝角度傾斜。如果要看更多類別的混淆情況可以用 seaborn 的 heatmap 畫出來但白底黑字打印矩陣就夠了。建議在調整模型過程中每一次實驗都保存一份混淆矩陣這樣你能看到調整前后的改善方向而不是只盯著一個準確率數字。4.3 保存模型與加載模型的最佳實踐訓練結束后保存模型權重是必須做的事。PyTorch 提供了兩種常見方式# 方式一推薦只保存模型參數 torch.save(model.state_dict(), cat_dog_model.pth) # 方式二保存整個模型 torch.save(model, cat_dog_model.pth)我強烈建議用方式一。只保存參數的好處是模型結構變動時權重文件依然可控而且文件的體積更小、安全性更高。裝載時你需要先實例化一個和訓練時完全一樣的模型結構再把權重灌進去model models.resnet18() num_features model.fc.in_features model.fc nn.Linear(num_features, 2) model.load_state_dict(torch.load(cat_dog_model.pth)) model.eval()如果你訓練時用了 GPU 保存在只有 CPU 的機器上加載需要在torch.load里加一個參數map_locationcpu。不加的話會遇到警告或直接報錯。加載后還有一個重要操作model.eval()。如果加載的模型后續(xù)只用于推理這一步一定要加。不切換成 eval 模式推理結果會因為 Dropout 的隨機性而產生微小波動你可能會看到同一個樣本在不同時刻的預測結果不一致。4.4 單張圖片推理的完整流程訓練完模型之后最終目的是讓模型對新圖片做預測。單獨對一張圖片進行推理看起來簡單但還是要走完預處理流程。一個最典型的錯誤是拿原始尺寸的圖片直接丟進模型導致維度不匹配的報錯。完整的推理腳本應該長這樣from PIL import Image def predict_one_image(image_path, model, class_names, device): model.eval() # 必須使用訓練時驗證集的分處理流程尤其是尺寸 transform torchvision.transforms.Compose([ torchvision.transforms.Resize(256), torchvision.transforms.CenterCrop(224), torchvision.transforms.ToTensor(), torchvision.transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225]) ]) img Image.open(image_path).convert(RGB) img_tensor transform(img).unsqueeze(0).to(device) with torch.inference_mode(): outputs model(img_tensor) probabilities torch.softmax(outputs, dim1) conf, pred_idx torch.max(probabilities, dim1) return class_names[pred_idx.item()], conf.item()unsqueeze(0)的作用是增加一個 batch 維度。模型輸入的 shape 是(batch_size, channels, height, width)單張圖沒有 batch 維度所以必須手動加。這里用torch.inference_mode()而不是torch.no_grad()是 2.x 版本更推薦的寫法功能上比 no_grad 多了一些推理優(yōu)化例如不對模型參數做版本跟蹤。二者在結果上沒有差異但新代碼我統(tǒng)一用inference_mode()。另外一個需要注意的點是convert(RGB)。如果你的圖片是 RGBA 四通道或者灰度單通道不轉換為 RGB 會在ToTensor()時產生 4 通道或 1 通道數據導致和訓練時的 3 通道輸入不匹配。這個報錯信息只會在運行到模型輸入階段才會出現(xiàn)處理起來雖然簡單但沒經驗的人容易卡在這。5. 常見報錯與排查技巧5.1 維度不匹配最常見的入門勸退官不管你用什么模型做圖像分類維度不匹配的報錯幾乎一定會遇到。最常見的幾種輸入通道數不對。報錯文本大概是Expected input batch_size X to match target size Y或者 Given groups1, weight of size [32, 3, 3, 3], expected input[1, 4, 224, 224] to have 3 channels。意思就是模型期望 3 通道輸入但你給了 4 通道。查一下你的Dataset返回的張量很可能是沒有做convert(RGB)導致圖片是 RGBA 格式。全連接層的輸入維度不對。這個報錯在自定義 CNN 里非常普遍。全連接層nn.Linear需要預先指定輸入長度但這個長度取決于前面卷積層輸出特征圖的大小。224×224 的輸入經過三次 MaxPool2d(2,2) 之后邊長會變成 224 ÷ 8 28通道數是 128所以特征會展平成128 * 28 * 28。如果你把輸入圖片尺寸改成 64×64 但忘了改全連接層的輸入維度就會報錯。最簡單的解決辦法在前面加一行打印看features(x).shape的結果是多少。標簽維度是 1D 但輸出是 2D。CrossEntropyLoss接受的標簽形狀是一維的索引張量不是 one-hot 編碼。如果你手工做了 one-hot就是自己給自己找麻煩。5.2 損失值變成 NaN 的排查思路訓練過程中 loss 突然變成 NaN這種情況我第一次遇到時真的懵了好一陣。排查順序我是固定的第一步檢查輸入數據是否有 NaN。圖片像素經過歸一化后都是有限數值一般不會有 NaN但如果做了某些特殊的數據增強操作比如把像素值除以了一個錯誤的值可能出現(xiàn)問題。在訓練循環(huán)里打印一下images.min()和images.max()快速確認范圍。第二步檢查標簽是否有問題。標簽的值必須小于類別數。如果你有 3 類但標簽里有數字 4CrossEntropyLoss就會算出一個異常數值反向傳播后梯度爆炸loss 直接變成 NaN。排查方式就是對labels做一次unique統(tǒng)計。第三步檢查學習率是否過大。學習率太大參數更新步長過大可能在損失函數的陡峭區(qū)域直接跨過最小值點造成梯度爆炸。把學習率調小一個數量級從 1e-3 降到 1e-4再跑一遍。如果不再出現(xiàn) NaN問題就在學習率上。第四步也是更隱蔽的一種情況模型某層的數值范圍在訓練后期變得過大??梢栽趽p失函數前后分別打印輸出的均值。輸出值超過 1e3 往往會導致 Softmax 在求指數時溢出。如果實在找不到原因還有一個暴力排查手段把loss.backward()替換成torch.autograd.detect_anomaly()包住整個訓練循環(huán)PyTorch 會在梯度出現(xiàn)異常的第一時間給出具體是哪一層參數出了問題的提示。注意這個方法非常消耗性能只在排查模式下使用。5.3 訓練集精度高但驗證集精度低的應對清單這是最常見的一種訓練現(xiàn)象也是一個需要區(qū)分情況的場景。如果你的訓練準確率已經到 98%但驗證準確率只有 80%說明模型過擬合了也就是模型把訓練集里的一些特殊細節(jié)記住了而沒有學到通用的分類特征。我的排查順序是先檢查驗證集的數據預處理流程。確認是否誤用了隨機強化操作。這是最容易導致驗證集偏低的原因。然后檢查模型的 Dropout 層。如果模型結構里 Dropout 率設得過高比如 0.9訓練階段模型被迫用極少的信息做分類驗證時會處于完全不同的行為模式。通常 Dropout 0.5 已經足夠。接下來檢查數據增強是否過于激進。如果訓練集圖片被旋轉到一個離譜的角度或者裁剪得只剩一小部分模型學到的特征可能無法遷移到正常的驗證圖片上。把數據增強強度降低一些比如RandomResizedCrop的scale參數從(0.08, 1.0)改成(0.5, 1.0)。最后也是最容易被忽略的一個訓練集和驗證集之間是否存在數據泄漏。比如你從整個數據集劃分時沒有打亂或者驗證集里的圖片和訓練集中有重復。這種情況表面上是過擬合實際上是評估方式不科學。5.4 訓練非常慢調優(yōu)方向在 GPU 不夠的情況下訓練慢是一件很折磨人的事。有幾個方向可以嘗試按重要程度排序。第一是檢查當前是否真的在用 GPU 訓練。如果代碼里寫了images.to(device)但 device 沒有正確設置成 cuda那模型還是跑在 CPU 上。先打印一下next(model.parameters()).device確認。第二是調小num_workers和pin_memory的組合。num_workers設得過高不會讓訓練更快反而在數據加載上浪費大量資源。num_workers2加pin_memoryTrue在大多數配置下已經足夠。第三是開啟混合精度訓練。PyTorch 里用torch.cuda.amp可以把浮點運算改成半精度速度提升明顯而且顯存占用更少。以下是最小實現(xiàn)方式scaler torch.cuda.amp.GradScaler() for images, labels in train_loader: with torch.cuda.amp.autocast(): outputs model(images) loss criterion(outputs, labels) scaler.scale(loss).backward() scaler.step(optimizer) scaler.update()不過混合精度和ReduceLROnPlateau有一點不兼容要注意scaler 可能會導致梯度的數值出現(xiàn)輕微誤差但大多數分類任務影響不大。第四是考慮用更輕量的模型。如果數據量只有幾千張ResNet50 并不會比 ResNet18 好多少但訓練時間可能多一倍。換 MobileNetV3 或 EfficientNet-B0 這類輕量模型往往能在更短的時間里達到接近的精確率。6. 進階優(yōu)化從好的結果到穩(wěn)定可用的模型6.1 微調讓預訓練模型更貼合你的數據用預訓練模型做遷移學習一般有兩種做法。第一種是上面講過的凍結所有卷積層權重只訓練最后新增的全連接層。第二種是微調Fine-tuning把預訓練模型作為初始化然后對整個網絡的所有層或者靠近分類層的若干層重新訓練。微調的關鍵在于學習率的控制。預訓練模型前面的卷積層已經學到了通用的圖像特征如果學習率太大會把這些特征直接抹掉模型退化成從頭訓練。我常用的策略是把模型參數分成兩組新加的分類頭用較高的學習率如 1e-3預訓練的卷積層用較低的學習率如 1e-4。optimizer torch.optim.Adam([ {params: model.features.parameters(), lr: 1e-4}, {params: model.classifier.parameters(), lr: 1e-3} ], weight_decay1e-4)微調還有一個注意點不要從第一個 epoch 就對所有層做全面更新。我通常的做法是先凍結所有層只訓練分類頭 3 到 5 個 epoch然后解凍最后一個卷積塊如 ResNet 的 layer4以較低學習率繼續(xù)訓練全網絡。這種漸進式的解凍方式能避免早期訓練不穩(wěn)定。6.2 平滑準確率波動交叉驗證與模型集成當數據量不很大的時候一次隨機劃分的訓練集和驗證集可能會讓結果產生較大波動。有時候你只是換了一個隨機種子準確率就從 94% 變成 96%。為了確認模型的真實水平可以做 K 折交叉驗證。我常用的是 5 折也就是把數據分成 5 份每次取其中 4 份訓練、1 份驗證重復 5 次最終準確率取 5 次結果的平均值和標準差。這樣能更客觀地評估模型穩(wěn)定性。如果你追求極致的準確率可以試一下模型集成。訓練多個不同結構的模型比如 ResNet18 MobileNetV3或者同一個模型用不同的隨機種子訓練多次推理時對所有模型的預測結果做平均投票。這個策略不一定能讓你的模型在開源榜單上提升多少但在數據集量不大、噪聲較多的情況下確實能平滑掉明顯的波動。缺點就是推理耗時增加部署時需要權衡。6.3 導出模型并部署到生產環(huán)境訓練完成之后模型還在 PyTorch 的 Python 環(huán)境里要真正在生產環(huán)境用起來還需要做一步轉化。最常見的做法是導出為 ONNX 格式。ONNX 是個開放的模型交換格式可以跑在 ONNX Runtime 上也能轉換到 TensorRT 等推理引擎。導出很簡單model.eval() dummy_input torch.randn(1, 3, 224, 224).to(device) torch.onnx.export( model, dummy_input, cat_dog_model.onnx, input_names[input], output_names[output], dynamic_axes{input: {0: batch_size}, output: {0: batch_size}} )dynamic_axes這個參數很重要。加上它之后模型的輸入 batch 維度可以變化部署時就不限制每次只能預測一張圖。導出后可以用onnxruntime進行驗證確保導出的模型和 PyTorch 原始模型輸出一致。實際部署中ONNX Runtime 的推理速度通常比 PyTorch 原生態(tài)更快尤其是在 CPU 環(huán)境里。而且它不依賴 Python 的神經網絡框架可以用 C 調用對生產環(huán)境的依賴更干凈。6.4 算力不夠時的替代方案輕量模型與量化如果你的模型最后要在嵌入式設備或者低算力環(huán)境里跑ResNet50 這種規(guī)模的網絡是不現(xiàn)實的。這時 MobileNetV3、EfficientNet-Lite 這類專為移動端設計的模型會更合適。它們在保持不錯精確率的同時把計算量壓到了很低。除了換小模型量化也是常見的優(yōu)化手段。Quantization 可以把模型的浮點權重從 FP32 壓縮到 INT8模型體積縮小為原來的四分之一推理速度卻可能提高 2 到 4 倍。PyTorch 本身就提供了量化工具接口最常用的是訓練后動態(tài)量化import torch quantized_model torch.quantization.quantize_dynamic( model, {torch.nn.Linear}, dtypetorch.qint8 ) torch.save(quantized_model.state_dict(), cat_dog_model_quantized.pth)這個操作在 CPU 上對全連接層的壓縮效果最明顯。但如果模型以卷積層為主動態(tài)量化收益有限可以考慮試一下感知訓練量化Quantization Aware Training。這條路做完模型體積和推理耗時都能顯著下降代價是需要在訓練階段就引入量化相關的計算。我在實際項目里的經驗是如果從頭到尾都要自己維護一套深度學習訓練流程最容易出問題的地方其實不在模型結構而在數據加載和預處理這些邊緣環(huán)節(jié)。這些坑雖然都不大也沒有太高深的理論但每一個都足以讓你的實驗白白跑上好幾個小時最后得到一個錯誤的結論。把這一整套流程理順之后圖像分類對你的門檻就已經被踏平了后續(xù)再往目標檢測、圖像分割這類任務上走也會順手很多。最后再分享一個小技巧實驗過程中每一次訓練結果都順手存一份帶時間戳的權重文件和對應的驗證指標。很多人訓練完就隨手把權重覆蓋了等到要對比不同方案時才發(fā)現(xiàn)找不到之前的權重只能重新訓練。做好版本管理你能省下的時間不是一個小時兩個小時而是一整天的量。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
激情綜合W W W,激情五月天| 五月综合色| 婷婷丁香五月天狠狠| 91婷婷丁香五月天免费视频网站| 玖玖爱综合网| 久热69| 69热91天堂| 香蕉久久国产AV一区二区| 97人人操在线| 久操福利| 综合色色婷婷| 五月婷婷六月丁香在线| 亚洲99热| 婷婷精品综合| 色天天综合| 丁香久久AV| 丁香五月婷婷老师网站| 91色呦哟| 亚洲亚洲人成综合网络| 久久精品99国产精品日本| 五月婷婷之综合激情| 91精品国产99久久久久久天美| 婷婷瑟瑟五月天| 草婷婷在线| 精品国产va久| 久久人妻伊人| 丁香五月婷婷天| 狠狠婷婷色| 丁香五月天激情综合| 久久综合丁香激情五月| 日韩视频99| 99热在线精品播放| 丁香六月激情| 91丨九色丨熟女|新版| 第五色婷婷| 天天色激情| 丁香开心深爱| 2020久久婷婷五月| 日韩成人五月天| 五月丁香色情| 亚洲精品成人| 91五月天| 色丁香五月天射婷婷爱婷婷| 亚洲综合字幕色色| 狠狠大香婷婷爱| 色婷婷久久久| 久99久在线| 丁香激情网| 思思热在线| 超碰在线国产| 99热6这里只有精品| 色爱综合网| 六月婷婷久久| 激情久久五月天| 五月丁香激情综合啪啪| www.五月天色色.com| 日日操天天操| 色五月婷婷综合在线| 天天做天天爱天天爽| 亚洲激情97五月天| 五月丁香婷婷激情视频| www.婷婷五月| 99视频激情四射| 殴美日韩成人| 99re在线精品视频| 久/久精品99看9| 97碰碰人人| 99九无网码| 婷婷久久免费| 超碰在线看| 亚洲无码另类| 开心婷婷五月| 亚洲乱码日产精品BD| 欧美大片| 在线看AV| 91亚洲免费片| 婷婷趴趴| www色色com| 爱射综合| 美臀自射自家人妻| 婷婷丁香五月天狠狠| 色噜综| 色丁香久久久| 五月天综合婷婷| 99视频在线精品免费观看2| 色婷视频| 五月综合在线| 丁香婷婷性爱| 久久性视频| 色九九综合| 久草热8精品视频在线观看| 婷婷色中文字幕| 欧美在线视频99| 欧美交换配乱吟粗大25P| 成人精品视频99在线观看免费| 亚洲精品久久久久AV无码| 国产暴力强伦轩1区二区小说| 桃色成人网| 伊久大香蕉| 五月激情综合婷婷| 偷偷操99| 婷婷激情中文综合| hd五月婷婷在线| 色六月天| 丁香五月天激情综合| 99九无网码| 成人精品在线| 丰满少妇猛烈A片免费看观看| 久久婷婷六月综合国际| 婷婷综合九月| 久热九九| 99热这里只有精品一| 伊人色综在线| 九九无码| 五月婷婷深深爱| .精品久久久麻豆国产精品| 精品欧美一区二区三区久久久| 播丁香五月婷婷欧美| 婷婷六月香| 婷婷丁香91| 操操人人| 夜夜天天久久婷婷| 九九这里都是精品| 99玖玖在线视频| 26uuu| 内射爽无广熟女亚洲| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 狠狠色色色| 九九中文色色| 999热在线视频| 五月丁香色色综合| 夜夜爽天操| 五月天com| 99久.| 综合激情婷婷| 六月色 亚洲| 99九九玖玖| 久久婷婷五月国产色综合激情| 另类丁香五月天区图| 丁香六月亭亭久久综合| 亚洲99综合| 色婷婷久久| 91在线观看九区| 久久一品区| 欧美婷婷丁香五月社区| 色婷婷五月网| 久久综合影院| CHINESE熟女老女人HD视频| 9999热在线| 手机在线日韩视频中文字幕| 久久久月丁香| 九九热最新| 久99久视频| 色色五月天婷婷| 97超级啪啪在线观看| 五月丁香综合成人社区| 九九热视频网站| 九九热视频免费| 九九99热| 国产做爰视频免费播放| 激情亚洲婷婷| 新激情五月开心五月婷婷五月丁香五月 | 色一情一乱一乱一区91Av| 色五月丁香激情| 五月开心激情| 久色网| 色婷婷AV久久| 色狠狠狠干| 婷婷丁香激情五月天色色| 激情综合网激情五月天| 欧美成人猛片AAAAAAA| 超热久碰.com| jiujiu无码五区| 99视频在线精品免费观看2| 99综合网| 综合久久十| 九月婷婷久久久| 99秘 在线| 在线观看免费狠狠色丁香香综合| 国产美女无遮挡裸体毛片A片 | 亚洲A片成人无码久久精品青桔| 青青日韩| 男人综合网| 婷婷六月综合基地| 影音先锋91在线资源站| 日韩综合网络男女香蕉a片| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 91中文在线| 综合久久六月| \\五月天婷婷激情| 玖玖爱资源站| 色天使久久综合| 久久99婷婷| wwwC0maV五月花| 9|无码久久久久久| 九九色黄色| 天天情天天狠天天透| 思思热性操| 婷婷五月天狠狠色| 麻豆WWWCOM内射软件| 色色婷婷色色| 狠狠搞综合色| 伊人久久艹| 亚洲图片 丁香婷婷| 欧美激情丁香五月| 思思热在线观看| 熟妇内谢69XXXXXA片| 欧美大片| 色婷婷久久综合| 狠狠干思思热| 99综合| 亚洲综合成人网站| 丁香五月亚洲综合| 九九热免费视频| 五月丁香毛片| 婷婷五月色丁香在线看| 人人操AV| 国产成人高清| 日韩色五月| 色综合婷婷| av第一二区| 噜噜噜色噜噜| 激情深爱五月天| yazhochengrenavwang| 狼人婷婷久久| 男人的天堂五月丁香| 9久精品| 久操干| 亚洲精品五月| www.丁香五月| 久草 天堂| 俺也高清无码高清视频| 无码少妇高潮喷水A片免费| 99精品久久久久久久| 婷婷五月丁香基| 91热在线| 日本天堂久久| 新激情五月天色播| 五月丁香啪| 一级性感黄色内射视频| 婷婷五月激情丁香| 国产99久| 色婷婷丁香五月在线| 久久xxxx| 婷婷色操| 五月丁香色| 丰满少妇乱A片无码| 六月婷婷综合| 97九色视频| 七七色综合| 五月www| 亚洲综合在线视频| 丁香六月狠狠干| 丁香五月婷婷在线观看| www.丁香黄色五月天人与| 五月丁香婷婷在线综合蜜桃| 九九青青草成人| 亚洲av网址| 欧美性爱5月天天天看| 狠狠综合网| 五月婷在线| 91打屁股视频网站| 天天摸天天透天天舔| 色135综合网| 欧美欧盟性爱网| 五月天丁香成人| 丁香五月婷婷久久久| 婷婷五月天激情小说网站| 婷婷丁香五月综合| 在线不卡视频| 五月婷久久| 大伊香蕉玖玖爱| 思思 热 99| 国内一级片| 日日干日日色| 夜夜谢天天干| 欧美噜噜噜草| 超碰在线人妻| 粉嫩av蜜桃av蜜臀av| 99免费视频| 丁香九色不卡aaa| 色噜噜狠狠狠综合曰曰曰| 亚洲乱码日产精品BD| 五月天日日操夜夜操 | 婷婷五月天堂| 六月丁香大香蕉| 99热碰碰| 日韩另类在线观看| 亚洲综合另类| 99人人操人人爱久久久| 国产精品国产| 婷婷五月色影视先锋| 99re8在这里只有精品| 99热黄| 色婷婷激情五月天在线观看| 久热伊人91| 九九热这里只有国产精品| 国产精自产拍久久久久久蜜 | 991精品在线视频| 伊人五月综合网| 激情五月天电影| 青青久久五月| 狠狠五月天激情| 成人 在线观看国产| 欧美综合婷婷欧美综| 色狠狠综合| www.粉嫩av.com| 99热免| 亚洲精品国产成人AV在线| 香蕉国产2013| 日本久久婷| 激情婷婷丁香五月天| 激情久久久久久久久| 成功精品影院| 在线天堂9| 亚洲婷婷基地| 91精品婷婷国产综合久久| 色情丁香五月婷婷精品| 九九99精品| 五月丁香成人| 色九月婷婷综合| 99自拍网| 97色色色色色色色| 国产高潮A片羞羞视频涩涩| 日本在线免费中文com.| 久久er99热精品一区二区| 日本美女天天日天天爽| 北京熟妇搡BBBB搡BBBB| 天天日夜夜夜操操操操| 欧美色激情四射| 日本 @ va 免费| 日韩久久日| 97 A I色色| 四射综合网| 免费看成人747474九号视频在线观看| 久久人人超| 91九九| 伊人五月天综合网| 精品夜夜澡人妻无码AV| 色综合综合色| 九九99偷拍视频| 激情文学五月丁香六月婷婷| 色婷婷色九月| 无码任你操| 五月丁香怕怕综合| 日韩一区二区A片免费观看| 99精品无码网站| 丁香婷婷综合影院| 五月色综合| 五月婷婷六月天| 99只有精品| 婷婷 激情 五月| 久久婷婷综合五月| 亚洲另类视频| 日本激情91| 97 A I色色| 2025中文在线视频字幕免费观看| 熟惀91九色在线| 这里只有精品免费观看网占| 热99在线精品| 九九热在线视频观看| 99热www.| 九月停停| www.97碰碰com| 丁香五月婷婷亚洲人| 亚洲中文字幕在线观看| 噜噜久| 亚洲99在线| 亚洲激情在线| 精品福利911| 欧美碰碰碰| 99丁香五月婷| 97丁香花五月天激情小说| 天久综合91综合首页| 激情深爱综合网| 婷婷五月丁香综合激情| 另类天堂| 久久黄色片| 色色色在线| 婷婷丁香六月天| Va另类视频| 久草五月婷| 精品激情| 五月婷婷激情69| 婷婷色五月天色色| 丁香五月成人| 99热九九在线| 超碰国产AV| 大香蕉五月天| 欧美综合在线五月天色婷婷| 99免费在线视频| 激情小说视频图片| 婷婷成人小说综合| 99婷婷国产最新视频| 久久婷婷五月天| 俺去也在线视频| 色香久久| 五月综合激情婷婷六月色窝| 婷婷五月激情视频在线| 亚洲成人免费电影| 182.t午在线观看| 久久综合影院| 无码毛片992367| 超碰人人操人人9| 色色婷| 六月婷婷网站| 天天肏高清在线| 开心五月婷婷激情| 亚洲狠狠干| 99热网站| 五月婷婷久久爱| www.maotanji.com| 五月丁香在线国产| 色婷婷先锋| 婷婷爱五月| 99精品福利视频| 久久多色| 色色婷婷综合| 久久婷婷内射| 蜜桃婷婷丁香五月天狠狠久久综合| 七七久久婷婷| 免费亚洲婷婷| 色五月婷婷很很操| 免费AV黄在线播放| 色一情一乱一乱一区9| 26uuu成人网| 丁香婷婷在线| 91婷婷丁香五月天免费视频网站| 在线日本www| 色色五月婷婷| 五月婷婷激情久久| 婷婷丁香五月天色播网站| 亚洲无AV在线中文字幕| 日韩 中文 欧美| WWW、日本色丁香、co m| 9热在线观看| 熟妇人妻中文字幕无码老熟妇 | 丁香亭亭久久| 丁香五月综合首页| 国产XXXX搡XXXXX搡麻豆| 色综合久久中文| 久久99久久99精品免视看婷婷| 丁香五月AV| 香蕉久久av一区二区三区| 综合网啪| 9这里只有精品| 亚洲AV网站| 五月天啪啪网| 任你爽视频| 99色色视频| 色婷婷精品小视频| 婷婷 伊人 久久| 成人做爰高潮A片免费视频| 天天弄天天操| 婷婷之六月丁香| 久久综合性| 91seAV| 九九热超碰| 五月天狠狠色| 夜夜做夜夜愛| 99热 在线观看| 91综合在线视频| 激情都市另类| 激情五月天婷婷五月天| 五月天停婷基地| 五月婷婷无码专区| 99久久婷婷国产综合精品青桔 | 亚洲网视屏| 久久日本wwww色| 五月婷视频| 大香蕉天堂| 五月天婷婷中文字幕在线播放| 天天综合网、天天综合色| 欧美人人超级碰| 国产成人精品一区二区三区视频| 色婷婷亚洲精品天天综| 丁香 亚洲 久久| 这里只有精品69| 六月丁香视频网站| 丁香九月综合| 日本欧美999久久久三级片| 亚洲妇女熟BBW| 超碰成人免费| 天天爽天天爽| 包操45分钟网站| www热久久yy9| 啪啪操网| 激情五月丁香五月色| 激情综合婷婷| 99热在线播放| 深爱激情六月| 玖玖精品资源| 91视频久久久| 亚洲成人丁香花| 精品人妻伦九区久久AAA片| 淫视馆aV二区一区| 天天做天天爽| 五月天激情无码| 亚州视频九九99| 亚洲综合激情五月久久| wWW九九在线播放| 六月婷婷日| 欧美色一级色| 99热免费| 欧美这里只有精品| 男女99免费视频| 99国产精品久久久久久久久久久| 激情五月天小说| 超碰狠狠色| 五月综合婷婷开心网| 五月婷婷丁香| 丁香五月日韩| 综合色网站| 26uuu欧美| 91欧美| 99久在线观看| 日本天堂免费99| 五月天综合激情网| 91久久婷婷人人澡草| 激情五月激情综合网一级丸片 | 色综合天堂| 夜夜谢天天干| 99爱视频在线播放| 99热这里只有精品最新| 99热精品9| 六月婷婷狠狠色在线观看| 五月婷婷综合热| 九九九九热99超碰| 精品欧美性爱超级爽| 欧美槡BBBB槡BBB少妇| 婷婷五月天成人网| 天天噜日日噜综合无码| 伊人五月婷婷| 色呦呦美女| 久久五月天网| 97色啪| 人人摸人人澡人人| 五月丁香网站| 丁香婷婷性久久| 精品丁香五月天在线播放| 亚洲综合激情五月| 婷婷五月美女直播| 女人天堂 AV| 婷婷五月天亚洲综合| 99爱免费在线视频| 婷婷综合六| 日夜夜天天| 六月丁香婷婷开心综合基地| 九九热在线视频,| 26uuu国产精品| 色情丁香五月天| 第二色AⅤ| 99er国产| 国产寻花在线| 99热在线中文字幕| xx色综合| 婷婷丁香五月天亚洲| 亚洲六月婷| 天堂婷婷丁香六月网| 99成人精品| 中文不卡一二三区| 天天日夜夜操五月| 丁香激情婷婷网| 久久婷婷丁香六月天| 天天拍久久| 激情综合另类| 五月婷六月婷婷| 婷婷婷婷色| 79精品视频在线观看,| 五月丁香婷婷AV| 天天影视天天爽天天草| 婷婷丁香六月| www.久久久.com| 激情小说五月天| 五月天久久婷婷| 人人草人人舔| 日韩丰满少妇无码内射| 琪琪色网在线| 婷婷六月成人| www.九九婷婷| 国产中文字幕在线视频免费观看| 亚洲XX网| 91玖玖| 另类在线| 激情综合网之激情五月| 五月婷婷色丁香| 九月婷婷丁香| 97色色在线视频| 天天爱夜夜爽| 国产精品色婷婷久久久精品| 99综合在线| www.操.com| 丁香五月av| 香蕉久操| 综合九九久久| 六月婷婷av| 99热99网| 天天添天天摸天天天天做| 日韩十国产极品久久| 99热这里只有精品4| 91九色中文字幕女在线观看| 五月天亭亭俺也| 六月丁香久久| 少妇人妻丰满做爰XXX| #NAME?| 金品在线视频99| 色色色色色色色色五月先| 華人性愛AV在線| 99色丁香婷婷综合网| 激情婷婷网| 色色亚洲| www.狠狠操| 97人妻超级碰碰碰碰碰| 97人人操com| 在线观看av网站| 伊人春天av| 天天cha成人综合网| 色播五月婷婷五月| 久99视频在线观看| 五月丁香影院| 91九九九九九九| 色色色在线观看| 婷婷激情肏屄网| 激情综合网激情五月网| 香蕉AV777XXX色综合一区| 97人妻碰碰碰久久香蕉| 97干在线| 夜色.cnm| 亚洲美女高潮久久久久久69| 99热久只有精品首页| 这里只有精品69| 色五月婷婷亚洲最大| 五月天激情小说| 99精品偷自拍| 人妻中文字幕网| 狠狠操综合| 深爱激情九九五月天| 五月丁香基地| 五月激情婷婷综合| 日本不卡高字幕在线2019| www狠狠爱com| 久久久香| 天天拍夜夜爽日日| 久久久精品人妻| 五月天久久婷婷| 五月婷婷 婷婷五月 一区二区 久久久 | 99这里的视频都是精品| 99精品无码网站| 国产无人区大片| 色一情一乱一乱一区91Av| 日本久碰| 99热国产| 99思思热只有在这里看| 91在线日| 狠狠婷婷色| 久久久久8888| 五月天全国最大成人网| 色五月丁香婷婷久草| 婷婷色婷婷| 玖玖玖婷婷婷| 久热视频A.| 色五月婷婷视频| 色综合天天| 99色在线| 国产操肏网站| 五月人人丁香婷婷五月人人丁香| 人妻精品一区二区三区| 五月丁香综合激情| 涩 五月 婷婷 狠狠| 播五月婷婷开心| 激情婷婷啪啪| 丁香五月AV| 丁香六月婷婷久久亚洲天堂| 五月亭亭六月色| 欧美va在线| 色综合激情| 亚洲无码性爱| 九月色婷婷| 日日夜夜爽| 婷婷五月激情图片| 大香蕉丁香| 日韩好吊操| 日本成人噜噜噜| 99热超碰| 国产九九一区二区三区| 天天日夜夜草进麻麻的子宫| 97香蕉久久超级碰碰高清版| 五月丁香久久综合91| 午夜天堂啪啪| 人人爱人人摸人人澡| 五月色网| 日韩综合久| 久久99久久99精品免视看婷婷| 最新av在线观看| 99天天操夜夜操| 久久婷婷五月天激情新地址| ji'qi'luan'ren'lun| 91色久| 丁香五月婷婷五月| 99亚洲大片精品永久在线观看| 成人欧美日韩| 丁香五月桃花在线激情综合| 五月六月婷婷激情网| 久久怕怕视频| 丰满少妇猛烈A片免费看观看| 人人干99| 狠狠操婷婷| 国产亚洲99久久精品| 色9月| 日日肏夜夜干| www狠狠| 丁香五月婷婷Av| 青青草日本亚洲| 丁香五月天色婷婷| 精品99视频| 六月婷婷色五月| 色99视频| 成人网页在线观看| 婷婷丁香五月天狠狠| 91碰碰| 五月婷婷丁香网| 色 五月俺去也| 亚洲天天| 日本在线99| 夜夜做夜夜愛| 天天做天天爱天天高潮| 婷婷五月丁香久久| 狠狠干夜夜干| 开心五月色婷婷综合开心网| 五月天大香蕉| 五月婷婷色| 日韩日比视频在线| 就爱操www com| 六月 丁香 视频| 色色九九五月天 | 国产乱妇无乱码大黄AA片| 综合激情婷婷| 99ri视频在线播放| 伊人超碰在线| 伊人婷婷五月| 91狠狠综合久久久久久| 99日本在线| 亚洲va欧美va天堂v国产综合| 国产日产亚系列精品版优势| 五月丁香六月色婷婷综合五月天| 97色天堂| 九九久久精品國產| 久久 视频这里只有精总| 99热在线观看| 开心婷婷中文字慕| 超碰在线视屏| 国产超碰人人| 久久久久久人妻久久久久久久久久人妻久久久 | 激情欧美五月丁香| 人操综合| 先锋资源996| 热九九精品| 五月婷婷熟女| 精品久热69| 激情婷婷99| 不卡影院午夜理论片| 欧美成人va| 久久婷综合| 性视频久久| 天堂色色色| 性爱视频99| 婷婷五月丁香综合瑟瑟| 国产精品色一哟哟| 国产真人做爰视频免费| 丁香五月在线视频| 亚洲操操操| 久久综合九九| 久久xxxx| 超碰操网| www.五月天色色.com| 色www.con| 丁香五月婷婷网| 九九综合88| 五月婷婷综合精品| 日韩五月婷婷久久| 国产另类综合| 九九爱激情| WWW.桔色成人.COM| http:色情日本com| 午夜 外网 精品 在线| 亚洲激情av| 久久这里只精品66| 亚洲天天| 99久久精| 天天天天天天操| 六月丁香久久| 影音先锋噜一噜| www.色综合.com| 丁香五月天.com| 欧美性爱中文字幕| 九九热最新| 亚州综合色| 五月丁香六月婷婷网| 丁香视频| 荷兰av一级| 午夜日韩久久久网站| 婷婷狠狠色| 九月丁香欧美综合| 五月天婷婷社区| 在线超碰91| 人人草人人舔| 人人性久久| 亚洲午夜视频| 色欲婷婷五月天| 日本久久精品| 色婷婷五月天中文字幕| 婷婷丁香人妻天天爽| 久久欧洲久久| 激情五月天婷婷| 婷婷综合网在线| 成人做爰A片免费看网站找不到了| 五月婷婷六月爱| 色色欧美。| 婷婷五月六月丁香综合| 草榴成人影片| 五月丁香啪啪伦理电影| 99在线精品视频| 欧美综合激情五月丁香| 大香蕉伊人久久| 亚洲视频丁香网va| 亚洲 在线 另类| 天天成人丁香美女AV| 五月丁香久久激情综合| 欧美成人性爱网| 第四色网婷婷| 五月色色网| 午夜婷婷| 国产精品美女久久久久AV超清| 天天色综合色| 激情五月天天| 婷婷五月花丁香| 先锋男人91资源| 婷婷五月天激情开心网| WWW.久久久久久久| 超碰在线视屏| 欧美日韩成人| 国产亚洲精品AAAAAAA片| xxx日本东京热| yirenjiqingshiping| 直接看的AV| 国产97色在线 | 日韩| 91日本在线| av 一区三区四区| 女人被躁到高潮嗷嗷叫小| 五月婷婷m| 色婷婷久久9.com| 51国精产品自偷自偷综合| 色婷婷777狠狠| 色播五月婷婷| 天天艹夜夜爽| 婷婷桃色网| 99热这里只有精品免费| 国产综合色婷婷精品久久| A久久| 天天日夜夜夜操操操操| 99热综合在线观看| 久久综合五月天| 亚洲最大在线| 99综合视频一体| 日本在线噜噜| 色色五月激情| 亚洲AV网站| 久久99热这里只有精品23| 女同激情久久av久久| 五月欧美色播| 五月Huangsewang| 亚洲va欧美va天堂v国产综合| 91久久综合亚洲鲁鲁五月天| 伊人99热| 日日舔夜夜操| 97色永久免费视频| 夜夜爽天天爽| 色五月婷婷婷婷| 伊人五月婷婷国产视频| 成人午夜无码视频| 99er免费在线观看| 丁香亚洲色综合| 婷婷久久99| 色爱99| 婷婷久久欧美| 99色中文| 2025最新亚洲激情在线| 热久免费视频9| 久久9视频欧美| 色五月丁香一区在线| AV中文字幕夜夜操b天天摸bb| 色色色婷婷五月| 99久99热| 婷婷丁香综合在线| 五月香婷婷| 人人天堂操| 五月香蕉网| 日本欧美成人片AAAA| 人人人操97| 九九这里是免费的视频5| 亚洲综合另类| 五月天另类视频| 综合色久| 99亚洲精品综合在线| 91丁香五月| 激情婷婷综合| 婷婷五月丁香激情图片| 大香蕉久久久| 色五月丁香激情视频| 久久婷婷五月激情综合| 五月激情综合网| 久热A| 97操在线视频| 欧美色男人网站| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 色色色在线观看| 开心激情站| 婷婷五月情| 日日噜狠狠色综| 97sese婷婷| 婷婷五月丁香六月| 这里只有精品网站| 九九色综合| 97日本在线播放| 日本久久高清| 亭亭五月天黑人2014| 91大神操美女| 婷婷五月天免费99| 黄网免费看| 婷婷丁香五月天狠狠| 大香蕉伊人99| 五月丁香花成人社区| 热99在线精品| 亚洲激情免费久久| 日韩情色在线观看| 色色无码| 色爱综合网| 六月婷婷无码观看| 九九热在线99| 精品人妻午夜一区二区三区四区| 成人视频在线免费播放| 综合性视频99| 91超级碰在线视频| 亚洲V国产V欧美V久久久久久| 久久丁香五月天| www.精品99| 日本97在线| 成人国产欧美大片一区| 五月天丁香综合| 密桃激情五月天综合网| 人人爱操| 婷婷丁香先锋资源网站| 丁香五月激情综合| 99人妻碰碰碰久久久久视| 另类综合激情| 久热91精品| 丁香五月天成人| 五月丁香婷婷色| 久久综合丁香激情五月| 丁香五月天色| 亚洲视频无| 精品成人无码A片观看香草视频| 国产色网站| 青草激情在线| 亚洲超碰在线| 激情AV中文| 黄桃AV无码免费一区二区三区| 五月婷婷六月天| 99这里有精品视频视频| 五月丁香色婷婷伊人| 久久综合伊人77777蜜臀| 我淫我色婷婷五月天激情四射| 色欲色香综合网| 成人开心五月天| 欧洲激情五月天| 久久五月视频| 久久久久久9热不雅视频| 丁香五月婷婷色| 免费播放片大片| 综合激情深爱| 色五月涩涩婷婷蜜桃| AV成人在线播放| 沈娜娜av| 丁香五月色| 色色丁香婷婷综合| 天天摸色吧天天摸色吧| 情欲综合网| 五月天激情图片| 色原狠狠综合| 琪琪色五月婷婷老师| 亚洲综合五月天| www.五月天婷婷| 色丁香五月婷婷在线| 狠狠色丁婷婷日日,伊人激情综合网| 中文资源在线a| 婷婷五月激情视频网| 精品香蕉99久久久久网站| 色丁香五月| 黄色一级影片| 婷婷丁香成人五月天| 欧美韩日AAA网站| 久久综合丁香五月| 五月丁香好婷婷A片网| 9在线9在线婷婷在线国产| 日本无码专区| 中文激情网| 九九久久99精品免费观看www| 婷婷五月天高清无码| 五月四色色| 98毛片| 久久久WWW| 激情五月天99色| 无码字幕中文| 中文字幕日产A片在线看| 丁香五月在线观看| 婷婷情色五月天| 99性色| 丁香九月婷婷色| 色欲日日躁| 美女天天艹人人爽| 色综合网址| 综合色网站| 一起操 91N.com| 九九艹女| 五月开心播播网| 日本99视频| av在线中文| 涩婷婷五月天在线精品视频| 久久人妻伊人| 2w在线视频| 色五月天综合| 久月丁香爱婷婷综合| 婷婷久久久| 97婷婷狠狠| 91 九色 入口| 99热在线网站| 五月婷婷黄网站大全| 91久久精品国产91性色TV| 色婷婷六月| 久久人妻精品| 丁香五月电影| 亚洲精品视频在线播放| 天天五月天综合网址| WWW五月| 99综合免费视频| 影音先锋 婷婷| 五月丁香在线婷婷蜜桃| 国产婷婷五月中文字幕高清| 成人五月天在线观看| 色播丁香| 超碰九九热| 久久六月天| 丁香婷婷色| 97干在线播放| 久久久久久99精品无码| 激情九色| 五月丁香九九| 免费观看2018www黄色操逼网站| 九九精品9| 日B日潘金莲BB| 大香蕉久久综合网| 91se精品国产| 蜜乳久AV| 亚洲黄色网址| 欧美日韩二区在线| 精品国产一区二区三区四区阿崩| 99ER热精品视频| 国产69久久久欧美黑人A片| 欧美电影在线播放| 国产精品涩涩涩视频网站| 天天爽天天| 丁香五月综合| 少妇熟女视频一区二区三区 | 国产精女同一区二区三区久 | 亚洲小电影在线观看黄999| wWW九九在线播放| 丝袜激情网| 五月天操逼网| 碰碰女| 超碰人人超碰| 97久久久| 99久久精| 激情综合播播| 婷婷九月| 亚洲色色图片| 久久狠色噜噜狠狠狠狠97| 丁香五月第九色| 26UUU亚洲欧美| 婷婷成人小说综合| 久色五月| www,av好吊操| 婷婷开心五月| 伊人在线视频| 97九色视频| 九九久久五月天| 天天激情站| 大香蕉五月天婷婷| 色色国产| 最新无毒无码AV| 99久久97| 综合日本婷婷| 婷婷色吧| 久热一本| 天天五月丁香五月| 99热这只有| 亚洲久久婷婷丁香五月天| 五月天伊人手机在线播放AV| av五月天婷婷丁香| 六月婷婷开心| 久久婷婷久久| 91青娱乐青青草| 色婷久久| 色婷婷五月天| 人妻熟女一区二区AV| 99欧美精品99日本精品| 色色综合热| 国产亚洲网站在线| 亚洲无码播放| 天天肏屄夜夜爽| 丁香六月激情综合网| 可以直接看的AV网站| 很很干夜夜干| 99超级碰碰| 五月丁香六月成人| 五月丁香啪啪网| 国产真人做爰视频免费| 久热re视频在线观看网站| 久久婷婷五月综合一| 伊人玖玖精品| 天天摸天天肏| 五月丁香婷婷无码A∨| 久色五月婷婷综合| 婷婷综合精品视频97| 综合伊人久久| www.99热这里只有精品| 久久婷婷热| 电影91久久久| 精品无码片| 91碰超| 久久只有这里精品免费| 狠狠干2007| 常久最新免费的色吊丝| 色婷婷色99国产综合精品| 久久九区| 欧美激情综合色综合啪啪五月| 婷婷色色欧美综合网| 欧美精品久| 日本在线视频www色| 99在线精品视频免费| 九六五月天婷婷| 天天色天天色天天色天天色天天色| 五月丁香五月综合欧美| 99re在线精品视频| 久热婷婷| 久热99视频在线观看| 久久超视频| 九九视频免费| WWW.开心五月天.COM| 日本婷婷| 五月婷婷综合网| 精品香蕉99久久久久网站 | 操97| www.国产亚洲69ty.久久久久久久久久久久| 91在线观看www| 国产FREESEXVIDEOS性中国| 五月天大香蕉婷| 婷婷月综合| 思思热99er在线视频| 日本操逼九九九九58日本操逼| 五月天伊人| 热九九精品| AA片在线观看视频在线播放| 久久五月天免费网站| 色婷婷基地| 婷婷五月激情片| 欧美色色色色色| 九九热精品在线| 亚洲第一成人AV| 淫视馆AV在线| 婷久看人爽| 99久久综合| 日本视频99| 99热在线观看| 综合 蜜月 婷婷| 99,色| 日日日影院| 操逼巨乳91| 欧美激情性做爰免费视频| 4399精品一区二区| 色婷婷九月| 思思热热久久| 26uuu丁香婷婷五月| 黄桃AV无码免费一区二区三区| 丁香社92视频| 五月天婷婷色在线视频免费观看 | 2w在线视频| 日韩av在线免费观看| 亚洲亚洲人成综合网络 | 99精品爱| 九九99热| 免费观看18视频网站| 1234操逼网| 六月婷婷五月丁香首页| 天天久久人人| 五月婷婷色男女| 欧美黄色韩日网| 996热| 人人草碰| 亚洲精品乱码久久久久久按摩观| 亚洲色 视频| 亚洲在线操| 中国女人做爰A片| 激情久久 婷婷| 久久人妻爱爱| 婷婷五月综合亚洲| 色综合五月天| 99色久| 婷婷大美在线| 99热资源在线| 激情五月天网站| 99re热在线观看| 久久这里只有精品网| 啪啪综合| 久久精品A片777777| 丁香五月欧美色综合| 丁香五月激情视频在线| 五月丁香婷婷在线| 91久女| 丁香五月婷婷啪| 色综合色色色色色| 九九九热精品| 久久九九99视频| 99久久婷婷国产综合精品青桔| 狠狠色噜噜色狠狠狠综合久久成人波 | 伊人影院久久网| 欧洲婷婷五月天| 婷婷六月天激情| 午夜天堂一区人妻| 婷婷五月综合网| 五月激情黄色小说| 九月婷婷| 婷婷五月综合网激情| 99热国产在| 天天综合 99久久婷婷| 丁香五月婷婷免费视频| 亚洲黄色影视| 99在热线免费视频| 色婷婷丁香五月| 五月丁香在线观看99| 甈你aaaaa| 五月天精品视频| 9 1大香蕉| 最新激情五月天| 女婷久久| 超碰成人在线免费观看| 九九精品片一| 婷婷情色五月天| 婷婷字幕在线| 嫩草AV久久伊人妇女超级A| 狠狠干天天日| 97丨九色丨国产丨PORNY| 97碰在线视频| 99热首页| 人人摸人人操人人爱| 午夜成人AV在线| 色导航色婷婷五月天在线观看|