欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

基于Python的手寫(xiě)數(shù)字識(shí)別系統(tǒng):從MNIST到完整工程實(shí)現(xiàn)

基于Python的手寫(xiě)數(shù)字識(shí)別系統(tǒng):從MNIST到完整工程實(shí)現(xiàn) 簡(jiǎn)介這是一套基于Python與神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)的手寫(xiě)數(shù)字識(shí)別系統(tǒng)選題經(jīng)典且完成度較高適合計(jì)算機(jī)相關(guān)專(zhuān)業(yè)學(xué)生用于畢業(yè)設(shè)計(jì)、課程設(shè)計(jì)或人工智能入門(mén)實(shí)踐。項(xiàng)目以MNIST手寫(xiě)數(shù)字?jǐn)?shù)據(jù)集為訓(xùn)練樣本通過(guò)深度神經(jīng)網(wǎng)絡(luò)模型提取圖像特征并預(yù)測(cè)數(shù)字完整覆蓋數(shù)據(jù)預(yù)處理、模型構(gòu)建、訓(xùn)練評(píng)估與界面集成等環(huán)節(jié)同時(shí)附帶需求分析規(guī)格說(shuō)明書(shū)與登錄模塊測(cè)試用例便于參照規(guī)范撰寫(xiě)畢設(shè)文檔。資源共18個(gè)文件壓縮包約11.11MB主要包括rar格式的MNIST數(shù)據(jù)壓縮包含訓(xùn)練集與測(cè)試集、py格式的模型訓(xùn)練與演示代碼、docx格式的需求分析和測(cè)試文檔、txt與md格式的使用說(shuō)明以及sql格式的登錄注冊(cè)界面腳本結(jié)構(gòu)清晰代碼與文檔配套完整。目前已有96人學(xué)習(xí)或下載讀者可從中獲得一個(gè)可直接運(yùn)行的數(shù)字識(shí)別項(xiàng)目、一套規(guī)范的畢設(shè)文檔框架以及基于神經(jīng)網(wǎng)絡(luò)處理圖像分類(lèi)任務(wù)的完整實(shí)現(xiàn)思路適合快速搭建同類(lèi)課題并補(bǔ)充項(xiàng)目細(xì)節(jié)。1. 數(shù)字識(shí)別系統(tǒng)不是“識(shí)別”問(wèn)題而是“工程化”問(wèn)題把“基于Python的數(shù)字識(shí)別系統(tǒng)”這個(gè)標(biāo)題拆開(kāi)看真正決定畢設(shè)分?jǐn)?shù)高低的不是那幾行模型代碼而是數(shù)據(jù)有沒(méi)有處理好、訓(xùn)練和評(píng)估流程是不是完整、最終能不能給別人演示。數(shù)字識(shí)別系統(tǒng)本身是一個(gè)非常成熟的領(lǐng)域MNIST上隨便一個(gè)簡(jiǎn)單模型都能跑到97%以上所以高分的關(guān)鍵在于你有沒(méi)有把一個(gè)“識(shí)別算法”做成一個(gè)“系統(tǒng)”。這套系統(tǒng)通常包括數(shù)據(jù)采集、預(yù)處理、模型訓(xùn)練、評(píng)估分析、界面展示五部分適合計(jì)算機(jī)、電子信息、自動(dòng)化等方向的畢設(shè)選題。別急著上CNN先把流程跑通再用模型提精度這才是最穩(wěn)的路線。2. 從MNIST到自己的手寫(xiě)數(shù)字?jǐn)?shù)據(jù)準(zhǔn)備與標(biāo)注格式2.1 數(shù)據(jù)集選型為什么首選MNIST而不是自己拍照數(shù)字識(shí)別系統(tǒng)的數(shù)據(jù)來(lái)源有三種常見(jiàn)選擇MNIST公開(kāi)數(shù)據(jù)集、MNIST的擴(kuò)展版本比如USPS、SVHN、自己采集的手寫(xiě)數(shù)字圖片。對(duì)于畢設(shè)來(lái)說(shuō)我一般建議主用MNIST因?yàn)樗沁@個(gè)領(lǐng)域的事實(shí)標(biāo)準(zhǔn)60000張訓(xùn)練圖、10000張測(cè)試圖每張都是28x28像素的灰度圖標(biāo)簽就是0-9的數(shù)字格式干凈不需要花時(shí)間清洗。更重要的是答辯時(shí)評(píng)委一聽(tīng)你用的是MNIST立刻就知道你的任務(wù)定義是清晰的不會(huì)在數(shù)據(jù)來(lái)源上糾纏。但只用MNIST也有問(wèn)題評(píng)委可能會(huì)問(wèn)“你拿別人的數(shù)據(jù)集做的系統(tǒng)能算你自己的成果嗎”。所以高分的常見(jiàn)做法是“公開(kāi)數(shù)據(jù)集做訓(xùn)練和指標(biāo)評(píng)估自己采集的數(shù)據(jù)做系統(tǒng)演示”。你可以用攝像頭拍打印的數(shù)字、用鼠標(biāo)在畫(huà)布上手寫(xiě)數(shù)字、甚至用手機(jī)拍屏幕上的數(shù)字然后跑一遍完整的識(shí)別流程。這不只是為了展示而是能證明你的系統(tǒng)在實(shí)際輸入下確實(shí)能工作而不只是在MNIST這種理想數(shù)據(jù)上有效。2.2 用Python腳本把數(shù)據(jù)集轉(zhuǎn)成訓(xùn)練/驗(yàn)證/測(cè)試三份MNIST原始數(shù)據(jù)格式是IDX文件直接用深度學(xué)習(xí)框架下載倒是很簡(jiǎn)單但如果你想用scikit-learn或者自己寫(xiě)預(yù)處理建議先轉(zhuǎn)成普通格式比如每個(gè)數(shù)字一個(gè)文件夾、或者一個(gè)CSV清單。常見(jiàn)做法是先把數(shù)據(jù)拆成三份訓(xùn)練集、驗(yàn)證集、測(cè)試集。訓(xùn)練集用來(lái)學(xué)參數(shù)驗(yàn)證集用來(lái)調(diào)超參數(shù)測(cè)試集留到最后評(píng)估。很多初學(xué)者只拆兩份最后調(diào)參時(shí)拿測(cè)試集反復(fù)試導(dǎo)致測(cè)試集“被污染”指標(biāo)虛高答辯時(shí)一問(wèn)就翻車(chē)。import numpy as np from sklearn.datasets import fetch_openml from sklearn.model_selection import train_test_split # 第一次運(yùn)行會(huì)下載數(shù)據(jù)之后會(huì)自動(dòng)緩存到本地 mnist fetch_openml(mnist_784, version1, as_frameFalse, parserpandas) X, y mnist.data.astype(np.float32), mnist.target.astype(np.int32) # 先拆訓(xùn)練驗(yàn)證 / 測(cè)試比例 9:1 X_train_val, X_test, y_train_val, y_test train_test_split( X, y, test_size10000, random_state42, stratifyy) # 再?gòu)挠?xùn)練驗(yàn)證里拆訓(xùn)練 / 驗(yàn)證驗(yàn)證集取5000張 X_train, X_val, y_train, y_val train_test_split( X_train_val, y_train_val, test_size5000, random_state42, stratifyy_train_val) np.savez_compressed(mnist_split.npz, X_trainX_train, y_trainy_train, X_valX_val, y_valy_val, X_testX_test, y_testy_test) print(訓(xùn)練集:, X_train.shape, 驗(yàn)證集:, X_val.shape, 測(cè)試集:, X_test.shape)這里的test_size10000表示從MNIST原始6000010000的結(jié)構(gòu)中單獨(dú)留出10000張做最終測(cè)試stratifyy按數(shù)字類(lèi)別比例抽樣避免某類(lèi)數(shù)字在某個(gè)集合里過(guò)多或過(guò)少。驗(yàn)證集5000張是調(diào)參用的調(diào)參過(guò)程中可以反復(fù)看它的結(jié)果但測(cè)試集只在最終評(píng)估時(shí)碰一次。np.savez_compressed把切分結(jié)果打包成一個(gè)文件后面訓(xùn)練時(shí)直接加載不用每次都重新下載和切分。這個(gè)腳本里多加了一個(gè)random_state42保證復(fù)現(xiàn)。2.3 圖像預(yù)處理參數(shù)歸一化、二值化、尺寸統(tǒng)一如果你要做“自己的手寫(xiě)數(shù)字識(shí)別”就一定繞不過(guò)預(yù)處理這一步。MNIST數(shù)據(jù)已經(jīng)是很規(guī)整的28x28灰度圖但攝像頭拍出來(lái)的數(shù)字往往是彩色的、背景復(fù)雜的、位置歪斜的。常見(jiàn)的預(yù)處理流程是讀取圖像 - 轉(zhuǎn)灰度 - 二值化 - 去掉多余空白 - 縮放并居中到28x28 - 歸一化。import cv2 import numpy as np def preprocess_image(img_path, target_size28): 把一張任意尺寸的圖片轉(zhuǎn)成模型可用的28x28灰度圖 img cv2.imread(img_path) if img is None: raise ValueError(f無(wú)法讀取圖片: {img_path}) gray cv2.cvtColor(img, cv2.COLOR_BGR2GRAY) # 常用參數(shù): THRESH_BINARY_INV OTSU自動(dòng)計(jì)算閾值 _, binary cv2.threshold(gray, 0, 255, cv2.THRESH_BINARY_INV cv2.THRESH_OTSU) # 找到數(shù)字區(qū)域并裁剪去掉多余的黑色邊框 coords cv2.findNonZero(binary) x, y, w, h cv2.boundingRect(coords) digit binary[y:yh, x:xw] # 保持寬高比縮放到20x20然后貼在28x28的黑色畫(huà)布中央 scale target_size * 0.8 / max(digit.shape) resized cv2.resize(digit, (int(digit.shape[1] * scale), int(digit.shape[0] * scale))) canvas np.zeros((target_size, target_size), dtypenp.uint8) x_offset (target_size - resized.shape[1]) // 2 y_offset (target_size - resized.shape[0]) // 2 canvas[y_offset:y_offset resized.shape[0], x_offset:x_offset resized.shape[1]] resized # 歸一化到0-1之間并轉(zhuǎn)成(1, 28, 28)的通道格式 normalized canvas.astype(np.float32) / 255.0 return normalized.reshape(1, target_size, target_size)這段代碼有四個(gè)參數(shù)要重點(diǎn)理解。第一個(gè)是cv2.THRESH_BINARY_INV cv2.THRESH_OTSU因?yàn)镸NIST是黑底白字如果用普通二值化白紙黑字的照片會(huì)被反掉模型看到的和訓(xùn)練數(shù)據(jù)正好相反識(shí)別率會(huì)急劇下降。第二個(gè)是findNonZero和boundingRect用來(lái)裁掉數(shù)字周?chē)目瞻鬃寯?shù)字盡量占滿畫(huà)面。第三個(gè)是0.8這個(gè)比例意思是縮放后數(shù)字占28x28畫(huà)布的80%留出10%左右的邊距。第四個(gè)是/255.0歸一化模型訓(xùn)練時(shí)特征范圍是0到1如果你不歸一化直接喂0到255的像素值神經(jīng)網(wǎng)絡(luò)前面幾層的梯度會(huì)非常大訓(xùn)練很難收斂。3. 用scikit-learn先跑通一個(gè)基線KNN與SVM的取舍3.1 為什么先做傳統(tǒng)方法而不是直接上CNN很多畢設(shè)一開(kāi)始就上PyTorch、TensorFlow搭CNN結(jié)果環(huán)境配置就折騰一周訓(xùn)練速度慢中途出錯(cuò)又很難查。我建議先用scikit-learn跑一個(gè)傳統(tǒng)機(jī)器學(xué)習(xí)基線最低目標(biāo)是讓整個(gè)流程通起來(lái)拿到一個(gè)90%以上的準(zhǔn)確率。傳統(tǒng)方法的好處是依賴(lài)少、訓(xùn)練快、原理透明答辯時(shí)你可以講清楚“特征是什么、分類(lèi)器怎么決策”而不是只說(shuō)“神經(jīng)網(wǎng)絡(luò)自己學(xué)的”。在數(shù)字識(shí)別這個(gè)問(wèn)題上KNN和SVM是兩個(gè)最常用的傳統(tǒng)分類(lèi)器。KNN的思路是找最近的K個(gè)訓(xùn)練樣本投票實(shí)現(xiàn)簡(jiǎn)單但預(yù)測(cè)時(shí)要計(jì)算輸入和所有訓(xùn)練樣本的距離所以單張預(yù)測(cè)慢。SVM是找一個(gè)最大間隔的分類(lèi)超平面預(yù)測(cè)時(shí)只用到支持向量速度快。對(duì)畢設(shè)來(lái)說(shuō)我建議兩個(gè)都做對(duì)比一下這本身就是論文里很好的實(shí)驗(yàn)章節(jié)素材。3.2 KNN最小可運(yùn)行代碼與參數(shù)說(shuō)明import numpy as np from sklearn.neighbors import KNeighborsClassifier from sklearn.metrics import classification_report # 加載之前切分好的數(shù)據(jù) data np.load(mnist_split.npz) X_train, y_train data[X_train], data[y_train] X_val, y_val data[X_val], data[y_val] # 把28x28的圖像展開(kāi)成一維784維向量KNN不需要保持二維結(jié)構(gòu) X_train_flat X_train.reshape(len(X_train), -1) X_val_flat X_val.reshape(len(X_val), -1) # n_neighbors3 是KNN核心參數(shù)一般先試3再對(duì)比1/5/7 knn KNeighborsClassifier(n_neighbors3, n_jobs-1) knn.fit(X_train_flat, y_train) y_pred knn.predict(X_val_flat) print(classification_report(y_val, y_pred, digits4))n_neighbors3表示取距離最近的3個(gè)樣本投票數(shù)字越小決策邊界越復(fù)雜容易過(guò)擬合數(shù)字越大邊界越平滑但可能把鄰近的類(lèi)別混淆。n_jobs-1讓sklearn用所有CPU核心并行計(jì)算訓(xùn)練集有55000張、每張784維不用并行的話KNN的暴力搜索會(huì)等很久。這里有個(gè)容易被忽略的點(diǎn)KNN對(duì)特征尺度非常敏感MNIST像素值已經(jīng)是0-255如果不歸一化某些像素的數(shù)值差異會(huì)主導(dǎo)距離計(jì)算。所以如果不用我上一章的預(yù)處理腳本至少要先做X_train / 255.0。3.3 SVM的RBF核參數(shù)怎么調(diào)SVM在MNIST上的表現(xiàn)比KNN好不少用RBF核通常能到97%以上但代價(jià)是調(diào)參。核心參數(shù)有兩個(gè)C和gamma。C是誤分類(lèi)懲罰系數(shù)越大越強(qiáng)調(diào)把訓(xùn)練樣本分對(duì)越小邊界越平滑。gamma是RBF核的寬度參數(shù)越大每個(gè)樣本的影響范圍越小決策邊界越曲折。from sklearn.svm import SVC from sklearn.decomposition import PCA # 先用PCA降到36維既保留主要信息又讓SVM訓(xùn)練時(shí)間從幾分鐘降到十幾秒 pca PCA(n_components36, random_state42) X_train_pca pca.fit_transform(X_train_flat) X_val_pca pca.transform(X_val_flat) # C5, gamma0.05 是在驗(yàn)證集上試出來(lái)的常見(jiàn)范圍值 svm SVC(C5, gamma0.05, kernelrbf) svm.fit(X_train_pca, y_train) y_pred_svm svm.predict(X_val_pca) print(classification_report(y_val, y_pred_svm, digits4))為什么先用PCA降到36維因?yàn)镾VM訓(xùn)練復(fù)雜度大約在O(n^2)到O(n^3)之間784維的原始像素直接訓(xùn)練會(huì)非常慢。PCA把維度降低到36維保存了絕大部分方差訓(xùn)練時(shí)間大幅下降準(zhǔn)確率損失很小。n_components這個(gè)值建議設(shè)成20到50之間你可以在驗(yàn)證集上跑幾組對(duì)比。gamma0.05是RBF核的經(jīng)驗(yàn)起點(diǎn)如果驗(yàn)證集準(zhǔn)確率上不去就按10倍步長(zhǎng)搜索0.01、0.05、0.1、0.5。C5同理可以試1、3、5、10。Sklearn的GridSearchCV可以自動(dòng)搜索但網(wǎng)格太大會(huì)很慢我建議手動(dòng)寫(xiě)兩層循環(huán)打印每組結(jié)果。4. 用PyTorch搭一個(gè)CNN數(shù)字識(shí)別模型網(wǎng)絡(luò)結(jié)構(gòu)與訓(xùn)練策略4.1 網(wǎng)絡(luò)結(jié)構(gòu)選型LeNet-5的變體傳統(tǒng)方法能幫你拿到95%左右但“高分畢設(shè)”一般會(huì)要求更好CNN是必須上的一步。CNN在MNIST上的常見(jiàn)結(jié)構(gòu)是LeNet-5的變體兩層卷積、兩層池化、一層全連接。為什么不用更深的ResNet因?yàn)镸NIST每張圖只有28x28太深的網(wǎng)絡(luò)參數(shù)量大、訓(xùn)練慢而且很容易過(guò)擬合到99.9%訓(xùn)練準(zhǔn)確率但驗(yàn)證集沒(méi)跟著漲。我的網(wǎng)絡(luò)設(shè)計(jì)如下全部用3x3卷積第一層32個(gè)通道第二層64個(gè)通道中間插一個(gè)2x2最大池化最后接一個(gè)帶Dropout的全連接層。import torch import torch.nn as nn class DigitCNN(nn.Module): def __init__(self, num_classes10, dropout0.25): super().__init__() self.features nn.Sequential( nn.Conv2d(1, 32, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.Conv2d(32, 64, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size2, stride2), nn.Dropout(pdropout), ) # 經(jīng)過(guò)兩次padding1的3x3卷積 2x2池化特征圖從28x28變成14x14 self.classifier nn.Sequential( nn.Flatten(), nn.Linear(64 * 14 * 14, 128), nn.ReLU(inplaceTrue), nn.Dropout(pdropout), nn.Linear(128, num_classes), ) def forward(self, x): return self.classifier(self.features(x)) model DigitCNN(dropout0.25) print(model)這里的關(guān)鍵參數(shù)是卷積層的padding1作用是讓3x3卷積不改變特征圖尺寸否則28x28經(jīng)過(guò)一次卷積變成26x26再經(jīng)過(guò)一次變成24x24最后全連接層的輸入維度會(huì)算錯(cuò)。Dropout(p0.25)是防止過(guò)擬合的常用值如果驗(yàn)證集在訓(xùn)練后期開(kāi)始下降就把p提高到0.4。4.2 訓(xùn)練代碼數(shù)據(jù)加載、損失函數(shù)、優(yōu)化器import torch.optim as optim from torch.utils.data import DataLoader, TensorDataset # 把numpy數(shù)據(jù)轉(zhuǎn)成torch張量并組織成DataLoader def make_loader(X, y, batch_size128, shuffleTrue): X_t torch.from_numpy(X).float().unsqueeze(1) y_t torch.from_numpy(y).long() dataset TensorDataset(X_t, y_t) return DataLoader(dataset, batch_sizebatch_size, shuffleshuffle) train_loader make_loader(X_train, y_train, batch_size128, shuffleTrue) val_loader make_loader(X_val, y_val, batch_size256, shuffleFalse) device torch.device(cuda if torch.cuda.is_available() else cpu) model DigitCNN().to(device) criterion nn.CrossEntropyLoss() optimizer optim.Adam(model.parameters(), lr0.001) for epoch in range(10): model.train() for X_batch, y_batch in train_loader: X_batch, y_batch X_batch.to(device), y_batch.to(device) optimizer.zero_grad() outputs model(X_batch) loss criterion(outputs, y_batch) loss.backward() optimizer.step() # 每個(gè)epoch結(jié)束在驗(yàn)證集上評(píng)估一次 model.eval() correct, total 0, 0 with torch.no_grad(): for X_batch, y_batch in val_loader: X_batch, y_batch X_batch.to(device), y_batch.to(device) outputs model(X_batch) preds torch.argmax(outputs, dim1) correct (preds y_batch).sum().item() total y_batch.size(0) val_acc correct / total print(fEpoch {epoch1}/10, Val Acc: {val_acc:.4f})batch_size128是常用的起點(diǎn)如果顯存夠可以改256但要注意batch太大容易收斂到平坦的極小值太小則訓(xùn)練震蕩大。lr0.001是Adam最常用的默認(rèn)學(xué)習(xí)率我試過(guò)0.01會(huì)震蕩0.0001收斂太慢。CrossEntropyLoss內(nèi)部已經(jīng)包含Softmax不需要在網(wǎng)絡(luò)末尾額外加Softmax。訓(xùn)練時(shí)切記在optimizer.step()之前調(diào)用optimizer.zero_grad()否則梯度會(huì)累加在舊值上這一步是新手最容易漏掉的。4.3 訓(xùn)練過(guò)程中的關(guān)鍵參數(shù)epoch、學(xué)習(xí)率與設(shè)備選擇epoch設(shè)為多少合適我習(xí)慣設(shè)10到15并在每個(gè)epoch結(jié)束后記錄驗(yàn)證集準(zhǔn)確率。如果到第8個(gè)epoch驗(yàn)證集準(zhǔn)確率還在上升就繼續(xù)訓(xùn)練如果連續(xù)3個(gè)epoch不升反降那就早停用之前保存的最優(yōu)模型。環(huán)境上如果電腦沒(méi)有NVIDIA顯卡就用CPU版本PyTorchMNIST這種小圖訓(xùn)練一輪也就幾十秒完全能接受。安裝時(shí)用pip加鏡像源即可不需要在環(huán)境上花太多時(shí)間。Python版本建議3.9或3.10太高的版本個(gè)別依賴(lài)可能還沒(méi)有對(duì)應(yīng)包。還有一個(gè)容易被忽視的點(diǎn)model.eval()和model.train()的切換。PyTorch的Dropout層在訓(xùn)練時(shí)隨機(jī)失活在評(píng)估時(shí)要關(guān)閉隨機(jī)性。如果你在驗(yàn)證或測(cè)試時(shí)忘記切到eval()每次預(yù)測(cè)結(jié)果都會(huì)不同指標(biāo)忽高忽低看上去就像“玄學(xué)”。這就是我常說(shuō)的“黑匣子”問(wèn)題其實(shí)只是沒(méi)切模式。4.4 模型保存與評(píng)估準(zhǔn)確率、混淆矩陣、錯(cuò)誤樣本訓(xùn)練完成后不要只存一個(gè)準(zhǔn)確率就完事。答辯時(shí)最有說(shuō)服力的材料是混淆矩陣和幾張錯(cuò)誤案例圖。import matplotlib.pyplot as plt from sklearn.metrics import confusion_matrix, ConfusionMatrixDisplay torch.save(model.state_dict(), digit_cnn.pth) # 在測(cè)試集上做最終評(píng)估 def predict(model, X, batch_size256): model.eval() preds [] with torch.no_grad(): for i in range(0, len(X), batch_size): X_batch torch.from_numpy(X[i:ibatch_size]).float().unsqueeze(1).to(device) outputs model(X_batch) preds.extend(torch.argmax(outputs, dim1).cpu().numpy()) return np.array(preds) y_test_pred predict(model, X_test) cm confusion_matrix(y_test, y_test_pred) print(測(cè)試集準(zhǔn)確率:, (y_test_pred y_test).mean()) disp ConfusionMatrixDisplay(cm) disp.plot(cmapBlues) plt.savefig(confusion_matrix.png, dpi150)torch.save存的只是參數(shù)不是整個(gè)模型對(duì)象。加載時(shí)要用DigitCNN()創(chuàng)建同結(jié)構(gòu)網(wǎng)絡(luò)再調(diào)用load_state_dict。混淆矩陣比準(zhǔn)確率更有信息量比如從矩陣?yán)锬隳芸闯觥?”和“8”經(jīng)?;ハ嗾`判這說(shuō)明哪些數(shù)字在筆畫(huà)結(jié)構(gòu)上確實(shí)接近后續(xù)可以針對(duì)性地增加這類(lèi)樣本或做數(shù)據(jù)增強(qiáng)。錯(cuò)誤樣本圖同樣很重要找10張預(yù)測(cè)錯(cuò)的圖拼在一張畫(huà)布上旁邊標(biāo)注“真實(shí)值/預(yù)測(cè)值”答辯現(xiàn)場(chǎng)放出來(lái)比空口說(shuō)“準(zhǔn)確率99%”更有說(shuō)服力。5. 數(shù)字識(shí)別系統(tǒng)的避坑指南7個(gè)讓我翻過(guò)車(chē)的細(xì)節(jié)5.1 訓(xùn)練準(zhǔn)確率99%、驗(yàn)證準(zhǔn)確率85%數(shù)據(jù)切分或預(yù)處理不一致現(xiàn)象訓(xùn)練集準(zhǔn)確率一路漲到99%以上驗(yàn)證集卻卡在85%左右怎么都上不去。每輪驗(yàn)證的結(jié)果波動(dòng)還特別大。原因最常見(jiàn)的有三種。第一切分時(shí)沒(méi)做隨機(jī)抽樣直接把原始數(shù)據(jù)集前60000張當(dāng)訓(xùn)練集、后10000張當(dāng)測(cè)試集MNIST原始數(shù)據(jù)本身是按標(biāo)簽順序排列的這樣驗(yàn)證集里某些數(shù)字一個(gè)都見(jiàn)不到。第二驗(yàn)證時(shí)忘了做和訓(xùn)練一樣的預(yù)處理訓(xùn)練數(shù)據(jù)是零均值歸一化驗(yàn)證時(shí)卻用像素值0到255直接喂進(jìn)去。第三標(biāo)簽沒(méi)有對(duì)齊比如按索引加載圖像和標(biāo)簽時(shí)用了兩個(gè)不同的遍歷順序。解決切分時(shí)用train_test_split并指定stratifyy和random_state42。把預(yù)處理邏輯封裝成同一個(gè)函數(shù)訓(xùn)練集和驗(yàn)證集都走這同一個(gè)函數(shù)。加載數(shù)據(jù)后抽10張圖打印出shape和標(biāo)簽肉眼確認(rèn)對(duì)應(yīng)關(guān)系。這個(gè)檢查最多花兩分鐘能省掉一整天的排查。5.2 模型預(yù)測(cè)一張新圖片總是錯(cuò)白底黑字與黑底白字的反轉(zhuǎn)問(wèn)題現(xiàn)象MNIST測(cè)試集準(zhǔn)確率99%但拍一張白紙黑字的數(shù)字照片喂進(jìn)去預(yù)測(cè)結(jié)果完全不對(duì)而且錯(cuò)得很有規(guī)律比如把所有“3”都識(shí)別成“7”。原因MNIST是黑底白字你的照片是白底黑字。模型學(xué)到的特征是“亮的部分代表筆畫(huà)”輸入反色后筆畫(huà)變成暗色區(qū)域背景變成亮色區(qū)域特征分布完全反轉(zhuǎn)。而且有些預(yù)處理腳本里加了THRESH_BINARY_INV反二值化有些沒(méi)加兩邊不一致結(jié)果就會(huì)亂。解決統(tǒng)一預(yù)處理流程。判斷標(biāo)準(zhǔn)很簡(jiǎn)單預(yù)處理后的圖應(yīng)該和MNIST樣本一樣數(shù)字是白色、背景是黑色。如果你不確定把預(yù)處理結(jié)果保存成圖片看一眼。用cv2.threshold時(shí)白紙黑字就用THRESH_BINARY_INV黑底白字就用THRESH_BINARY。如果某些圖片背景不是純色先用OTSU自動(dòng)閾值再根據(jù)前景占比判斷是否需要反轉(zhuǎn)。5.3 攝像頭實(shí)時(shí)識(shí)別卡頓嚴(yán)重每幀都跑完整預(yù)處理和模型推理現(xiàn)象用OpenCV打開(kāi)攝像頭每幀畫(huà)面延遲2到3秒轉(zhuǎn)動(dòng)一下攝像頭畫(huà)面就卡死。原因攝像頭分辨率通常是640x480每幀都做全圖掃描、找輪廓、裁剪、縮放、跑模型四件事加起來(lái)耗時(shí)嚴(yán)重?;蛘呤窃谘h(huán)里反復(fù)加載模型文件、反復(fù)創(chuàng)建Session資源開(kāi)銷(xiāo)巨大。解決把模型初始化放到循環(huán)外全局只加載一次。預(yù)處理時(shí)先縮小感興趣區(qū)域比如用cv2.selectROI框出數(shù)字區(qū)域之后每一幀只處理這個(gè)ROI而不是全圖掃描。線程上可以拆成兩個(gè)一個(gè)線程負(fù)責(zé)讀攝像頭一個(gè)線程負(fù)責(zé)識(shí)別用隊(duì)列傳遞最新一幀避免畫(huà)面幀率和推理幀率互相拖累。5.4 用PyInstaller打包后“閃退”路徑和動(dòng)態(tài)庫(kù)缺失現(xiàn)象Python腳本運(yùn)行正常打包成exe后一啟動(dòng)就閃退或者點(diǎn)擊“識(shí)別”按鈕時(shí)直接報(bào)錯(cuò)??刂婆_(tái)模式能看到報(bào)錯(cuò)信息窗口模式只有崩潰提示。原因第一代碼里的模型文件路徑用的是相對(duì)路徑或絕對(duì)路徑打包后程序運(yùn)行在臨時(shí)解包目錄找不到digit_cnn.pth。第二OpenCV和PyTorch的動(dòng)態(tài)庫(kù)沒(méi)有被PyInstaller自動(dòng)收集完整。第三--onefile模式啟動(dòng)時(shí)要先把所有文件解壓到臨時(shí)目錄殺毒軟件或系統(tǒng)策略可能攔截這次解壓。解決打包時(shí)用--add-data把模型文件和代碼資源一起打進(jìn)去運(yùn)行時(shí)用sys._MEIPASS拼接臨時(shí)資源路徑。用--hidden-import顯式聲明cv2和torch的子模塊。如果仍然閃退先用命令行方式運(yùn)行exe看報(bào)錯(cuò)內(nèi)容按報(bào)錯(cuò)逐個(gè)補(bǔ)依賴(lài)。我之前就吃過(guò)這個(gè)虧打包出來(lái)發(fā)給朋友測(cè)試人家的電腦上沒(méi)有Python環(huán)境閃退后根本看不出是缺DLL還是缺模型文件后來(lái)乖乖加了一個(gè)日志文件記錄異常信息才定位到問(wèn)題。5.5 在另一臺(tái)電腦上跑不起來(lái)Python版本和依賴(lài)版本不一致現(xiàn)象自己電腦上跑得好好的換臺(tái)電腦部署報(bào)ModuleNotFoundError或者ImportError: DLL load failed。原因目標(biāo)電腦沒(méi)有安裝依賴(lài)庫(kù)或者安裝的版本不對(duì)。PyTorch的CUDA版本、scikit-learn的numpy版本要求、OpenCV的Python版本對(duì)應(yīng)關(guān)系任何一個(gè)對(duì)不上都會(huì)報(bào)錯(cuò)。最坑的是DLL load failed通常不是缺P(pán)ython包而是缺Microsoft Visual C Redistributable運(yùn)行時(shí)。解決在項(xiàng)目根目錄放一個(gè)requirements.txt列出所有依賴(lài)及版本號(hào)用pip install -r requirements.txt一鍵安裝。深度學(xué)習(xí)模型可以不依賴(lài)GPUPyTorch裝CPU版就能跑MNIST推理。另外在README里寫(xiě)清楚Python版本范圍不要只寫(xiě)“需要Python 3”要精確到3.9.x或3.10.x。如果你是打包成exe分發(fā)那就不需要對(duì)方裝Python前提是PyInstaller把所有依賴(lài)都包好了。6. 讓畢設(shè)從“能用”變成“高分”GUI、實(shí)時(shí)識(shí)別與演示腳本6.1 做一個(gè)帶置信度的分類(lèi)結(jié)果展示從準(zhǔn)確率到可靠性的表達(dá)高分的識(shí)別系統(tǒng)不能只輸出一個(gè)數(shù)字至少要有“識(shí)別結(jié)果 置信度 預(yù)處理可視化”三樣?xùn)|西。用Tkinter做一個(gè)最簡(jiǎn)界面可以在沒(méi)有Web框架的情況下快速交付。import tkinter as tk from tkinter import filedialog from PIL import Image, ImageTk import numpy as np def predict_image(): path filedialog.askopenfilename(filetypes[(Image, *.png *.jpg *.jpeg)]) if not path: return x preprocess_image(path) # 調(diào)用第2章的函數(shù) x_t torch.from_numpy(x).float().unsqueeze(0).to(device) with torch.no_grad(): logits model(x_t) probs torch.softmax(logits, dim1).cpu().numpy()[0] top_idx int(np.argmax(probs)) top_conf float(probs[top_idx]) label_var.set(f識(shí)別結(jié)果: {top_idx}) conf_var.set(f置信度: {top_conf:.3f}) img_display.config(imageImageTk.PhotoImage(Image.open(path).resize((140, 140)))) root tk.Tk() root.title(數(shù)字識(shí)別系統(tǒng)) label_var tk.StringVar(value請(qǐng)選擇圖片) conf_var tk.StringVar(value) tk.Label(root, textvariablelabel_var, font(SimHei, 24)).pack() tk.Label(root, textvariableconf_var, font(SimHei, 16)).pack() img_display tk.Label(root) img_display.pack() tk.Button(root, text選擇圖片, commandpredict_image).pack(pady10) root.mainloop()置信度用softmax把所有類(lèi)別得分轉(zhuǎn)成概率分布最大概率就是置信度。只要置信度低于0.5就說(shuō)明模型處于“不確定”狀態(tài)這本身就是一個(gè)值得寫(xiě)進(jìn)論文的分析結(jié)論。不建議在GUI里直接把整個(gè)頁(yè)面做得非?;ㄉ诠δ芮逦葮邮街匾菔緯r(shí)你更想展示的是“點(diǎn)開(kāi)圖片、瞬間出結(jié)果”而不是動(dòng)畫(huà)效果。6.2 部署成可執(zhí)行文件PyInstaller的推薦參數(shù)與驗(yàn)證清單如果你最終要交一個(gè)可以雙擊運(yùn)行的演示程序我推薦用PyInstaller的--onedir模式而不是--onefile。--onefile把所有依賴(lài)打成一個(gè)exe優(yōu)點(diǎn)是分發(fā)方便缺點(diǎn)是啟動(dòng)速度慢、誤報(bào)率高、排查困難。--onedir生成一個(gè)包含exe和DLL的目錄雖然要發(fā)整個(gè)文件夾但穩(wěn)定得多。pyinstaller --onedir --name DigitRecognition \ --add-data digit_cnn.pth;. \ --add-data config.yaml;. \ --hidden-import torch \ --hidden-import cv2 \ main.py打包完成后把生成的文件夾拷貝到一臺(tái)干凈虛擬機(jī)或另一臺(tái)電腦上運(yùn)行測(cè)試三件事能不能啟動(dòng)、能不能加載模型、識(shí)別一張測(cè)試圖是否正確。注意--add-data在Windows下用分號(hào)分隔源路徑和目標(biāo)路徑Linux和macOS用冒號(hào)。路徑問(wèn)題最好的解法是寫(xiě)一個(gè)resource_path()函數(shù)把資源文件查找邏輯統(tǒng)一封裝別在代碼里寫(xiě)死絕對(duì)路徑。6.3 答辯演示腳本三句話講清系統(tǒng)設(shè)計(jì)最后一個(gè)技巧是準(zhǔn)備一份演示腳本控制在三分鐘以內(nèi)。第一句講任務(wù)和數(shù)據(jù)集“系統(tǒng)針對(duì)手寫(xiě)數(shù)字識(shí)別場(chǎng)景使用MNIST的60000張圖像訓(xùn)練并用自采樣本驗(yàn)證泛化能力?!钡诙渲v關(guān)鍵設(shè)計(jì)“傳統(tǒng)方法選用KNN和SVM對(duì)比深度學(xué)習(xí)使用兩層卷積網(wǎng)絡(luò)測(cè)試集準(zhǔn)確率98.6%?!钡谌渲v創(chuàng)新點(diǎn)“增加了攝像頭實(shí)時(shí)識(shí)別和置信度分析可以處理白底黑字和黑底白字兩種輸入?!边@三句話把全程串起來(lái)評(píng)委問(wèn)你細(xì)節(jié)時(shí)你再展開(kāi)講數(shù)據(jù)切分、預(yù)處理和調(diào)參過(guò)程。我自己做這個(gè)題目時(shí)最后悔的一件事是沒(méi)有留一份完整的“調(diào)參記錄表”。當(dāng)時(shí)調(diào)了幾十組K值和gamma值過(guò)程全在腦子里寫(xiě)論文時(shí)只能重跑浪費(fèi)了不少時(shí)間。你現(xiàn)在做這個(gè)系統(tǒng)建議從第一天就建一個(gè)CSV記錄每組參數(shù)的驗(yàn)證集準(zhǔn)確率、訓(xùn)練耗時(shí)、模型文件名。這個(gè)表格最后可以直接復(fù)制進(jìn)論文的實(shí)驗(yàn)章節(jié)比任何形式化描述都真實(shí)可信。技術(shù)上的路我已經(jīng)替你踩過(guò)一遍了希望這個(gè)方向能幫你做出一份經(jīng)得起答辯追問(wèn)的作品也希望你能比我早一步養(yǎng)成記錄的習(xí)慣。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
99热6色| 九九热这里只有精品6| 神马欧美精| 婷婷激情四射| 亚洲综合色五月| 日熟女| 五月婷婷色| 五月天俺去也| 六月婷婷色| 新激情五月开心五月婷婷五月丁香五月| 日本一级黄色片。| 97色干| 色宗合久久五月婷婷| 色玖玖玖| 伊人激情网| 99热.com| 色99自拍| 丁香激情五月| 色色AV色色色东莞| 丁香婷婷色六月| 五月丁香偷拍| 无码人妻一区二区一牛影视| 日韩乱轮AV| 日韩欧洲亚洲| 91超级碰在线| 激情影院丁香五月| 九九婷婷五月天| 五月丁香五月丁香| 天天日天天舔天天摸| 综合99在线| 亚洲精品V天堂中文字幕 | 日韩性视频| 婷婷五月天99| 色婷婷成人在线| 中文无码婷婷| 91男同| 久久日曰| 男人天堂AV在线一区二区| 青草青草视频2免费观看| 影音先锋一区| 91狠狠综合久久久| 久久女婷| 五月丁香网站| 五月丁香激情综合| 五月婷婷综合网| 久久久久久激情| 婷婷五月色天| 一级二级香港秋霞欧美欧美秋霞| 综合五月天天天天天五月| 亚洲国产精品成人免费一区久久久在线观看AAAA | 激情超碰网| 亚洲精品国产熟女久久久| 亚洲免费看片| 天天干天干| 丁香婷婷九月| 综合网色| 97福利视频| 日本九九视频| AV大香蕉| AA片在线观看视频在线播放| 国产精品色色色色| 久久成人综合五月天| 色婷婷五月天中文字幕| 丁香六月 婷婷六月| 日韩操人| 婷婷五月天视| 亚洲日本激情| 色综合性视频| 色播激情五月天| 五月婷婷福利| 亚洲天天| 另类综合激情| 亚洲激情另类| 丁香五月大香蕉在线99| 激情五月天婷婷色色色色色色色色色色色| 99热国产婷婷| 久久婷婷成人视频| 五月天停停基地| 凹凸操Av| 五月丁香av中文| 9 1超碰九色| 中文字幕av久久爽一区| 乱精品一区字幕二区| 色99在线| 91九九精品| 中文字幕免费高清电视剧| 亚洲黄色网址| 狠狠干综合网| 丁香五月天婷婷在线视频| 成人丁香五月| 丁香婷婷啪啪啪| 五月婷婷网站| 狠狠干夜夜干| 日韩人妻在线播放| 99热99色| 狠狠色噜噜色狠狠狠综合久久成人波| 中文字幕不卡+婷婷五月| 日韩AV片| 91碰碰视频在线观看| 五月九九综合| 操91| 开心五月天激情网站| 激情开心五月天| 丁香五月天黄色片| 色99久草在线| 99在线精品视频| 亚洲综合视频天天精品| 99热这里只有精品13| www。五月天。com| 激情色色| 精品操逼一区二区| WWW.久久久久久久| 99热这里只有精品热| 99这里只有精| 内射干少妇亚洲69XXX| 大香蕉网 久久| 99自拍视频网站| 婷婷亚洲影院| 九九这里都是精品| 成人无码精品1区2区3区免费看| www..com色爱| 人妻视频在线| 色呦呦在线| 大香蕉婷婷丁香| 欧美性丁香色色五月天综合爱爱| 婷香五月激情视频| 99婷婷精品推荐在线视频| 九九精品少妇| renrencaoav| 久久久久久久人妻| 曰韩少妇内射免费播放| 99网址在线看| 色婷婷狠狠| 超碰在线中文字幕| 丁香婷婷久久综合在线| 热久久66| JAPANRCEP老熟妇乱子伦视频| 激情五月天婷婷丁香| 色婷婷丁香五月| 天天爽天天日天天舔| 91热久久| 久久久五月五丁香| 99热精品在线免费观看| WW婷婷五月天com| 色五月色五天色情网| 婷婷视频在线| 超碰人妻公开在线| 婷婷爱在线观看| 亚洲AV无码久久精品色欲| 色九月婷婷综合| 人碰人人人玩91| 玖玖视频福利| 婷婷五月天伊人网| 五月综合久久| 亚洲欧洲另类| 色五月琪琪| 五月婷婷乱| 日韩aaa| 日韩xx在线| 99热这里只有精品13| 欧美六月| www.黄色片-久久成人国产精品在线播放-999AV| 久热视频这里只有精品68| 色色五月丁香| 久热9| 婷婷 伊人 久久| 性做久久久久久久免费看| 99热日韩| 久久丁香五月| 天天射夜夜爽| 大香蕉啪啪啪| 午夜九九电影| 最近免费中文字幕大全高清大全1| 久九色| 99熟女啪啪视频| 日韩激情网站| 69久久99精品久久久久婷婷| 色吧五月婷婷| 日韩欧美成人片| 9久久久| 欧美激情综合色丁香婷婷五月天| 丁香五月激情综合久久| 色99网站| 色色色在线观看| 婷婷开心激情| 婷婷伊人久久| 91丨九色丨大屁股| 色99视| 亚州美女| 99热在线免费| 丁香五月大香蕉AV| 天天色宗合| 久久9久久| 久久九精品| 婷婷综合偷拍| www.天天干| 五月婷婷www| 热久久视频99| 99热亚州综合| 92久久| 99热大香蕉| 天天做天天爽| 99热在线观看免费中文| 思思re最新视频| 日逼免费视频| www.久久爱.c n| 五月丁香人人婷婷在线观看| 久久色吧| 99精品性爱| 九九热黄色| 九九热最新地址| oumeisesewang| 五月丁香婷婷钟和色图| 色婷婷久久综合久色综| 99热99在线| 97精品人人A片免费看| 亚洲五月综合色播| 国产日韩av片| 成人做爰高潮A片免费视频| 99热这里精| www.com在线操视频免费观看| Www.激情| 五月丁香久人妻中文| 色99色| www.99热日韩.com| av在线不卡播放| 国产 亚洲 在线| 婷婷久久免费看| 丁香色婷婷色手机免费在线| 日本色色色| 婷婷亚洲丁香五月| 手机在线日韩视频中文字幕| 荫道BBWBBB高潮潮喷| 五月激情婷婷六月| 91精品电影18T| 天堂婷婷综合| 久久激情五月| 日韩av网址大全| 亚洲婷婷91丁香| 欧美大片免费播放器| 九一99| 丁香花色色网| 9久热在线视频| 99久在线精品99re8| 婷婷色女| www.9797国产| 伊人久久婷婷五月综合97色| 天天爱天天狠天天透| 婷婷五月黄色激情在线| 久久精品夜色噜噜亚洲a∨| 久久激情网| 色婷綜合网| 99热这里有精品首页10| 日本三级第一页| 黄网免费看| 婷婷四色五月| 7777激情基地| Aα在线免费观看| 久久婷婷五月| 日日操夜夜撸| 伊人久久婷| 色婷婷五月天小说网| 丁香六月综合激情| 婷婷综合97| 色综合99无码| 91肏肏肏| 中文字幕网伦射乱中文| 激情六月丁香| 99热精品观看| 久久久久人妻精品| 五月婷丁香久久久| 色五月婷婷狠狠撸| 九九精品网站| 亲子乱AV一区二区三区下载| 五月天AV大香蕉| 大香蕉久久综合网| 国产精品久久久爽爽爽麻豆色哟哟| 九九热10| 亚洲综合1024| 精品爆操| 日韩性爱无码| 五月丁香 狠狠爱| 专区无日本视频高清8| 丁香婷婷基地| 色婷婷AV在线| 9久热在线视频精品| 丁香六月激情综合啪啪| 五月丁香龟婷婷| 亭亭玉立国色天香| 六月婷婷成人| 五月天色婷婷激情综合| 精品久久婷婷五月天| 丁香激情四射| 国产免费AV网站| 激情久久丁香| 99riAV国产精品视频| 婷婷中文字幕在线| 九九热大香蕉| 99热色无码| 欧美精品99| 久久丁香婷婷五月| 天天综合网色欲香| 另类亚洲视频| 影音先锋一区二区三区| 婷婷五月播| 久久丁香五月婷婷| 再綫Av免费視品| 色久婷婷五月| sewuyuejiqingwang| 国产成人VA| 欧美精品久久久久久视频观看| 欧美性二区| 99久久久免费| 青青操绿aaa一区日v| 亚洲激情在线| 欧美色五月| 人人爱操| 人人操9| 久热99狠| 99热碰碰| 99这里有精品视频3| 这里只有精品在线视频精品| 丁香五月丁香伊人| 婷香五月激情视频| 99久久婷| 精国产品一区二区三区A片| 五月天丁香网| 成人无码髙潮喷水A片| 亚洲视频一区| 久一网站| 玖玖色综合| 九九综合视频在线观看| 五月婷深深爱激情网| 思思热国产| 久久99热这里只有精品| 久机视频这只有精品| 日韩成人精品中文字幕| 成人va在线| 丁香五月影视| 琪琪秋霞| 五月天激情久久| 97人妻碰碰碰久久香蕉| 国精产品一区一区三区免费视频| 色婷婷五月综合色婷婷| 天天日天天做天天舔| 婷婷成人综合免费视频| 996热re视频精品视频这里| 五月丁香六月欧美综合网站| 99热这里有精力| XX色综合| 国产色色视频| 激情五月综合| 中文字幕在线人妻| 五月六月丁香激情视频| 婷婷五月草| 思思热精品在线视频| 99色色| 精品人妻午夜一区二区三区四区 | 亚洲激情.com| 日本色婷婷| 丁香五月婷婷综合激情啪啪啪| 久久久性爱网| 亚洲激情97五月天| 91精品综合久久久久久五月丁香| 久久日婷婷| 9精品视频在线观看| aaaaa不卡| 激情婷婷五月基地| 99热99在线| 99caobi| 色五月综合激情| 五月天玖玖狠狠色色| 激情五月综合网最新| 四川女人毛多水多A片| 欧美碰碰碰| 五月天婷婷基地丁香| 狠狠狠夜夜夜| 96精品成人无码A片观看金桔| 99久久新视频| 婷婷香五月| 玖玖无码中文| 丁香五月天影院| 人妻射精AV| 蜜臀99精品| 蜜桃婷婷丁香| AA丁香综合激情| 99草视频在线观看| 婷婷精品性性性性性性性| 色婷婷狠狠| 91 久热| 蜜臀A∨在线水帘洞| 色综合九九| www.丁香黄色五月天人与| 十区av| 99婷婷五月天| www.99热视频| 69精品人妻不卡视频| 99精彩视频在线观看| 久久九九网| 综合超碰熟| 开心五月丁香啪| 久久综合五月| 大香蕉九九| 五月丁香综合影院| 色色色色色日韩午夜激情| 五月丁香六月婷婷不卡免费无码| 二色av| 久久五月视频| 操97| 日韩av在线电影| 五月天播播中文字幕| 91久女| 99精品热| 99久久综合网| sS丁香五月婷婷| 亚洲视频五区| 99ri精品视频在线观看| 五月丁香性爱| 日韩成人综合网| 91超碰在线观看| 思思热视频| 亚洲图片 丁香婷婷| 色色色.com| 最新高清无码专区| 婷婷爱婷婷| 久久A极片| 亚洲色五月| 思思热在线播放| 大香蕉五月天婷婷| 激情九月婷婷| 色的色综合| 国产成人精品一区二区三区视频| 天天做综合网色综合| 婷婷五月丁香综合网| 久久aaa| 免费视频无码| 青青草视频福利| 国产亚洲AV人片在线| 五月情涩综合婷婷| 天堂五月婷婷| 久久久久久久97| 婷婷丁香色情| 激情五月婷婷| 久青青久| 丁香六月婷婷色XXXX| 色大综合| 九九中文字幕九| 九艹在线| 色八月婷婷| 国产精产国品一二三在观看| 激情婷婷五月基地| 久久99大全| 久草大| 人妻爽爽爽久久久久久久久| 日本不卡高字幕在线2019| 激情综合丁| 狠狠色综合五月人人| 婷婷WWW久久| 婷婷五月天欧美图片在线播放电驴| 99久久婷婷五月| 五月综合激情| 99在线观看亚洲| 丁香六月综合激情| 激情婷婷网| 六月久久婷婷| 国产又爽又猛又粗的视频A片| 丁香五月乱中文字幕| 五月天婷婷色综合| 97福利视频| 激情丁香五月激情婷婷| 亚洲AV第二区国产精品| 色色国产| 色色国产| 伊人久久激情图区五月| 四季日韩AV无码综合| 婷婷五月色色| 五月丁香六月激情狠狠| 婷婷内射视频在线| 无遮羞AV| 99热综合| 九九热视频精品| 五月香蕉婷婷| 极品人妻XXXXOOOO| 久久99综合网| 五月激情黄色小说| 丁香九月婷婷综合| 五月丁香色停停啪啪啪| 中文字幕在线日亚州9| 亚洲五月天伊人| 69人人操人人爽| 99久在线精品99re8热| 色高清无码视频| 99日精品视频| 日操熟女| 亚洲操b| 日本va欧美va欧美va| 九月婷婷| 色狠狠999综合| 国产精品色色666| 免费观看2018www黄色操逼网站| 久热免费| 99热无码首页| 麻豆123区| 色婷婷av在线观看| 97五月天婷婷综合激情网| 日本不卡高字幕在线2019| 五月丁香六月婷婷综合| 五月丁香六月欧美综合| 丁香五月激情六月欧亚激情综合导航| 精品九九网| 国产精品涩涩涩视频网站| 97香蕉久久超级碰碰高清版 | 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 玖玖色综合| 婷婷五月婷| 五月婷伊人| 色五月婷婷基地| 激情骚五月| 色五月丁香com| 深爱五月激情| 丁香婷婷性爱| 五月丁香六月激情综合| 婷婷无码视频| 亚洲久久婷婷丁香五月天| 婷婷精品视频| 成人国产综合| 六月丁香色色| 激情綜合網址| 碰碰人人漕| 一本色综合色| 欧美色片中文字幕久久久久| 中文字幕无码人妻少妇免费视频| 99精品无码| 女婷久久| 婷久久| 一级性感毛片| 色yeye色综合| 99视频日韩| 色婷婷狠狠禁18久久| 五月色网| 久久亚洲婷婷| 丁香五月色情| 色婷婷成人做爰A片免费看网站| 99热九九热| 婷婷五月天色色| 激情综合五月婷婷丁香| 亚洲99在线| 五月丁香婷婷视频| 婷婷五月电影| 永久免费视频| 丁香五月婷婷AV在线| 狠狠做深爱婷婷久久综合一区| 丁香综合网| 亚洲色欲AAAAAA| 这里只有免费的精品| 天天射射夜| 丁香五月激情六月综合| 激情综合五月色丁香婷婷| 欧美亚洲婷婷五月| 五月天,激情四射,婷婷频道| 天天色视频| 狠狠干在线| 五月天另类视频| 五月丁香六月色| 五月天 婷 欧美亚洲| 综合伊人久久| 久久天天| 日木WWW视频| www.com在线操视频免费观看| 爱狠射| 欧美视频五区| 97婷婷丁香五月天激情图片| 99r这里| 色色色热| 婷婷伊人五月天| 激情五月婷| 综合久久激情久久| 99色日本| 久久香蕉网| 色99在线| 91a片爽| 秋霞AV淫| 2025最新亚洲激情在线| 天天干夜夜想| 深爱激情六月天| 国产精品久久久久9999小说| 丁香婷婷六月| 九九热九九| 色播丁香五月婷婷操:屄| www色中色综合| 丁香五月天.com| 色色操| 婷婷五月丁香激情图片 | 天天综合色综合| 五月婷婷激情综合网| 亚洲综合久| 中文字幕日本最新乱码视频| 99久久精品国产色欲| 欧日美女Va| 欧洲亚洲精品| 亚洲字幕AV一区二区三区四区| 久久色9| 五月丁香六月婷婷免费视频| 成人短视频在线| 国成人网| 久久久久久久久久久久久久人妻视频 | 色综合开心五月深爱五月| 玖玖婷婷色五月| 色婷婷五月天av在线| 操人91| 99这里只有精| 七月丁香五月婷婷在线| 综合五月丁香久久| 啪啪 综合网| 久热99中文字幕| 少妇丁香婷婷 | 99精在线| 成人国产综合| 欧美成人日韩| 69人人操人人爽| 国产寻花在线| 五月天综合缴情网网站0| 色五婷婷开心缴| 琪琪布丁香社区激情五月天| 这里只有视频精品| 狠狠狠狠狠狠狠狠| 婷婷丁香97| 日本色爽| 五月丁香婷婷激情四射迷人| 天天爽天天草| 婷婷五月丁香青青草在线| 538在线| 综合婷婷| 少妇激情基地| 国产 亚洲 在线| www.99热这里精品| 丁香五月亚综合图片| 青青草伊人婷婷| 色五月亚洲五月天| 天天爽夜夜操| 99视频久久免费视频| 天天玩夜夜操| 99五月丁香丁| 99热这里只有精品8| 久久婷婷精品| 久久大香蕉| 九九99在线免费在线观看视频| 五月丁香久| 99视频网址| 五月天成人综合| 国产成人亚洲综合亚洲| 欧美成人色婷婷| 色97啪啪| 99免费视频| 五月丁香综合成人社区| 丁香婷婷五月六月久久| 99热老司机| 日本久久99| 色色婷婷丁香| 91啪啪视频| 色婷婷最爱五月| 麻豆AV一区二区三区| 久久成人综合五月天| 91se精品国产| 欧美激情综合五月色丁香| 日韩 mm 不卡| 9久久久久| 亚洲成人免费在线| 丁香五月色情| 99九九视屏| 夜夜操天天干| 色一情一乱一乱91Av| 在线观看av网站| 午夜天堂啪啪| 亚洲乱码日产精品BD| 99久久er| 97色操| 日韩成人综合网| 深爱五月婷婷开心中文字幕| 4399无码视频| 久久婷婷视频| 婷婷丁香人妻天久久| www.激情| 亚洲色情网站| 影音先锋一区二区三区| 日日爽夜夜爽| 五月婷婷五月天激情网| 久碰久操| 国产精品久久久爽爽爽麻豆色哟哟| 日韩精品无码99| 91精产品自偷自偷综合| 丁香婷婷大香蕉| 婷婷五月天综合色| 狠狠爱激情网| 无码激情AAAAA片-区区| 久久这里有精品| 五月停停色色丁香| 久久人妻熟女一区二区| 五月天综合视频| 婷婷色网站| 色婷婷基地 | 色婷婷成人五月| 91九色首页| 日本色色色色色色色色一色二色| 婷婷色综合av| 亚洲欧洲色色| 停停综合色色| 中文字幕日产A片在线看| 噜噜色com| 妇激情基地| 色九四色| 国产一级片| 激情网综合| 婷婷丁香六月| 色都都狠狠色都都色综合色| 亚洲婷婷五月天| 五月婷婷中文字幕| 中文字幕丰满乱孑伦无码专区| 日逼影音先锋AV男人资源站| 99久久这里只有精品| 中文乱子伦视频| 久久久久久xxxxx| 久草网大香视频| 婷婷五月丁香五月| 26UUU欧美激情一区二区| 99久久思思| 91九色国产| 人妻Av在线| 婷婷五月天成人| 色五月激情网| 五月天激情无码高清| 伊人婷婷大香蕉| 草榴视频黄色网| 五月婷婷影院| 色色色五月婷| 欧美色色色色色色色| 梁铮版蜘蛛女在线观看| 五月丁香婷中文| 亚洲成人中文字幕| 色色色五月天婷婷| 天天综合网站| 99热婷婷| 国产97色在线| 婷婷六月啪啪| 天天干天天爽天天操| 99色最新在线视频| 大香蕉AV在线| 中文字幕av在线| 9久9久| 黄色AAAA韩国guochansanji| 亚洲精品白浆高清久久久久久| 狠狠爱综合| 天天做天天爱天天高潮| 色亚洲激情| 五月天色裸体视频| 嫩BBB槡BBBB搡BBBB视频| 深爱五月综合网| 玖玖国产视频一区| 97干视频| 九色91国产| 开心五月婷婷婷美女| 91九色成人原创视频| 色五月,com| 亚洲色无码A片一区二区麻豆| 99无码精品| 亚洲综合激情五月久久| 超碰免费人人| 激情五月综合网| 亚洲操逼网| 久热九九| 五月婷婷香| 五月激情小说网| 国产激情久久| 日本va欧美va国产激情| 欧美丁香婷婷五月| 亚洲九九视频| 国产成人+综合亚洲+天堂| 激情五月婷婷网| 丁香五月色| 久久九九免费视频| 五月婷婷丁香| 另类少妇人与禽zOZZ0性伦| 丁香五月婷婷色| 99热这里有精品| 亚洲欧洲中文日韩久久AV乱码| 熟女人妻一区二区三区免费看 | 色伦专区97中文字幕| 国产肥白大熟妇BBBB视频| 97精品人人A片免费看| 国产FREESEXVIDEOS性中国 | 色99在线视频| 天天日夜夜拍| 成人无码精品1区2区3区免费看| 天天射影院| 操B视频在线播放| www。五月,com| 狠干综合| 九九AV在线| 婷婷五月天在线看| 五月丁香六月婷婷亚洲激情综合| 婷婷久久六月费| 五月天久久综合婷婷丁香| 五月丁香777| 色域五月婷婷丁香| 99精品综合| 黄急一级视频| 亚洲人人艹| 久久婷婷五月丁香网| 久久99热只有精品| 久久有码| 丁香五月婷婷基地| 激情五月天综合| 无遮挡国产高潮视频免费观看| 亚洲一区二区色图-亚洲精品国产精品乱码-成人AV| AV网在线观看| av久热| 五月天成人网婷婷| 日本五月婷婷| 五月婷婷色| 亚洲欧美日韩VIP| 操婷婷基地| 五月丁香久久| 日本五月视频| 国产成人av在线播放| 婷婷五月天福利| 色护士综合| 五月丁香狠狠爱| 开心综合激情综合| 婷婷射图| 97人妻超级碰碰碰碰碰| 日韩黄色电影| 婷婷五月天成人动漫| 五月激情综合美女久久| 激情五月天婷婷丁香| 色99综合色88| 97香蕉碰碰人妻国产欧美| 夜夜做天天爽| 九九99九九99九九99视频网| 少妇被躁爽到高潮无码文| 久久婷婷的综合色丁香五月| 99热99成人| 色五月丁香五月天| 97碰在线视频| 久碰综合| 五月天影院婷婷在线观看| 久热这里| 久久激情中文| 97碰在线| 色婷婷综合视频| av中文在线| www久久艹| 另类综合国产| 激情五月天视频| 免费99色| 狠狠色婷婷丁香六月| 久久久.COM| 欧美熟女视频 色婷婷| 久久五月丁香婷婷| Www,五月天| www.天天干| 碰碰女| 激情五月丁香六月综合AVXXXX| 少妇综合网| 天天操五月天| 99久久婷婷五月天| 婷婷91| 丁香五月激情棕合| 99热99热在线| 日韩乱轮AV| 五月丁香色婷婷婷基地| 五月丁香亭亭操逼| 丁香五月婷婷欧美成人色图| 五月婷婷免费| 中文字幕成人| 亚洲精品国产成人AV在线| 六月激情久久| 九九热内射| 五月天婷婷开心| 婷婷在线视频| 99热99色| 婷婷狠狠18禁久久| 五月丁香趴趴| 看国产探花操逼三级片| av亚洲国产小电影| 婷婷五月天播| 夜夜操夜夜操| 欧美97色| 92久久| 五月婷久久草| 五月天国产| 真实熟女-91九色| 日本性激情色播| 日本不卡一区二区三区| 成人色站,在线视频,看片-SS1AV| 婷婷99| 色五月天激情| 九九热99视频| 大香蕉婷婷丁香视频在线| 狠狠色大香蕉| 91久久九久久九久久九久久九久久| 激情五月天小说| 五月刺激丁香月综合| 免费观看的AV| 婷婷5月久久综合网站| 激情婷婷五月色| 91人人人人人| 色情久久久| 九九婷婷激情综合网| 五月丁香婷中文字幕| 国产午夜成人免费看片无遮挡| 天天综合.com| 国产精品色情AAAAA片软件 | 五月丁香六月婷| 亚洲中文无码成人| 嫩BBB槡BBBB搡BBBB| 思思99热在线| 97在线观视频免费观看 | 99在线观看视频| 欧美熟女99| 色婷婷电影网| 97久久超碰| www.狠狠操.con| 一区二区成人电影免费播放| 色人妻五月| 任你搞在线观看视频| 六月激情综合| 色丁香五月天| 婷婷丁香六月| 天天干-天天日| 五月天婷婷Av| 欧美狠狠色| 成人婷99最新| 欧美日韩999| 99色1| 丁香花五月天社区| 色色色在线观看| 这里只有精品免费在线视频| 激情综合五月天| www,婷婷五月天,com| 激情综合另类| 亚洲旡码| 99色色网站| 五月丁香花成人社区| 六月婷婷在线| 91vip在线观看| 噼里啪啦在线观看免费完整版视频| 婷婷色色播五月天| 黄色毛片精品| 久久XX| 久热最新视频| 丁香五月综合无码趴趴| 亚洲色五月| 五月天自拍视频| 久久日韩婷婷五月| 99热这里只| 五月丁香婷在线| www.综合久久.com| 丁香五月社区| 噜噜久| 亚洲操人| seuuu婷婷| 在线天堂9| 日日色五月天| 99热九九在线| 99色在线| 激情影院丁香五月| 五月丁香综合激情在线观看| 怡春院天天干| 色综合激情| www.亭亭五月天| PORNY九色9l自拍视频成人| 国产特级毛片AAAAAAA高清| 日韩无码色色| 九九sese| www91在线| 99国产精品久久久久久久久久久 | 九九色色| 深爱激情丁香五月| 午夜色色色极品视频| 久久九九婷婷| 五月天伊人| 91啪啪网| 久色网五月| 婷婷久久五月天| 操逼综合网| 伊人无码高清| 五月丁香婷婷色色色| 中出内射的人妻视频| 久久视频婷婷视频| 97色综合| 婷婷六月天| 91成人视频| 婷婷色5月激情网| ri电影在线| 啪啪 综合网| 日本婷婷色| 色五月婷婷在线| 任你日视频| 热思思| 婷婷丁香一月| 久久之人妻| 超碰97久久| 骚逼视频一区2区| 色播五月婷婷| 综合大香蕉| 久久人妻人人| 五六月丁香激情视频| 久久久久久9| 五月婷婷六月丁香综合在线| 人人操av| 久久久久久久久月丁| 天天影院色| 五月丁香啪啪综合| 天天干 夜夜爽| 激情五月综合网最新| 丁香六月婷婷激情综合| 日本97人人| 日韩五月婷婷| 99久久综合| 99热99这里有免费的精品| 亚洲另类视频| 久热99| 最新无毒无码AV| 久久婷中文字幕| 久久这里只有精彩| 夜夜骑福利资源| 五月色网| AV国产有码| 182TV大香蕉| 激情婷婷五月天| 国产黄色大片| 五月丁香啪啪网| 怡红院精品视频久久久久久久久| 五月婷婷激情综合av| 色婷婷六月天| 91九九热| 伊人网欧美在线男人天堂五月丁香 | 99热综合| 日韩中文欧美| 综合网网欲色| 激情综合综合综合| 丁香桃色网| 久久婷婷热| 婷婷五月欧美AA片免费| 97操操| 伊人AV五月婷| 99热这里只有精品首页| 在线观看日韩12345区| 五月婷色色| 丁香美女主播视频在线观看| 丁香六月激情综合| 97在线天堂| 人人色婷婷五月天| 五月天亚洲综合网| 亚洲爆乳无码精品AAA片蜜桃| 九九99在线视频| 久色视频首页| 成人版视频在线观看| 五月丁香婷婷成人网| 婷婷五月综合社区| 人人人va亚洲视频在线| www.婷婷.com| 婷婷九月丁香天堂丁香天堂| 五月丁香六月激情综合啪啪| 日韩色五月| 骚逼视频一区2区| 99热免费精品热久久66| 婷婷久久丁香| 欧美色男人网站| 色综合色| 色偷偷五月天| 中文字幕婷婷9月天| 亚洲色色色色色色色色色| 丰满熟女人妻一区二区三| 国产成人精品一区二三区熟女在线| 欧美色色色色色色色色色色| 99日这里只有精品| 欧美在线视频99| 日韩久久色| 五月天开心激情综合网| 少妇搡BBBB搡BBB搡毛茸茸| 婷婷五月天黄色| 婷婷五月丁香五月综合网| 思思 热 99| 五月激情在线| 99视频久久| 丁香五月在线观看| 碰超亚洲| 六月婷伊人| 思思热在线视频精品| 婷婷激情视频| 久久爱婷婷| 综合久久婷婷99| 五月色丁香成人| 夜夜操夜夜操| 999激情视频| 久久这里只精品| 97涩婷婷| 久久精彩视频99| 丁香六月激情| 婷婷六月激情小说网| 色婷婷狠| 永久免费一区二区三区| 欧美va在线| 九九99精品视品| 五月天色婷婷图片| 婷婷五月丁香五月| 色欲人妻综合aaaaaaaa网| 嫩草视频在线观看| 视频一二区| 99热这里只有精品9| 婷婷五月超碰| 这里只有精品2| 狠狠狠狠狠狠草| 五月婷婷婷婷婷婷艺术| 熟女少妇内射日韩亚洲| 人妻系列久久久久久久久久久| 99热色精品| 思思热这里只有精品视频666| 五月色色网| 婷婷五月电影| 99热99极品观看| 久操干| 九九 激情 网| 久久综合婷婷五月| 五月天婷综合| 91超级碰在线| 97色啪| 任你搞网站| 五月停停999| 黄色激情久久| 色五月婷婷av| 日韩亚洲视频| 天天天干夜夜夜操| 狠狠看狠狠| 少妇大叫太大太粗太爽了A片| oumeisesewang| 农村熟妇高潮精品A片| 婷婷热婷婷色| 精品久久久久成人码免费动漫| 96性爱视频| 大香蕉综合视频在线| 视色综合| 人人操人| 五月天婷婷久久| 蜜桃婷婷狠狠久久| 久久久91| 色色无码日韩| 97碰碰碰免费公开在线视频| 亚洲国产精品成人va在线观看| 五月丁香色停停啪啪啪| 天天操狠狠操| www.激情com| 九九热re99re6在线精品| 97超碰人人操| 五月婷婷六月丁香| 夜夜骑日日夜夜| 日比视频91| 日本丁香五月| 91人人操.COM| 六月丁丁香| www.五月天婷婷姐姐| 亚洲99精品九九在线| 这里只有精品在线观看视频| 桃色激情五月天| 深爱激情五月网| 五月婷婷丁香大陆免费| 嫩模草| 亚洲欧洲午夜成人精品av| 色五月激情综合网| 99热这里有精品| 思思国产99| 大香蕉婷婷久久| 久久久五月天| 色久激情在线| 亚洲AV第二区国产精品| 久久五月天婷婷| 亚洲成人乱码av网站| 午夜丁香 婷婷| 亚洲成人五月天| 人妻久久久久久久久妻久久久久| 丁香五月激情啪啪啪啪| 午夜九九九九九九九九九九九九九| 异能之下短剧免费观看全集| 国产人妻777人伦精品HD| 五月婷婷无码| 九九AV在线| 极品人妻VIDEOSSS人妻| 性爱视频99| 国产日比| 丁香五月婷婷社区| 精品人妻在线| 久久激情综合| AV网址大全在| 婷婷六月久久综合导航| 色婷婷丁香五月天激情综合网| 色综合av超碰| 狠狠五月天| 五月婷婷基地| 97色碰| 99精品视频播放| 久久视频婷婷视频| www.五月天。com| 九九久久高清| 久久综合99| 99色视频在线| 激情五月图| 丁香五月成人丝袜| 婷婷综合五月| 日本高清综合网五月丁香| 婷婷五月综合色中文字幕| 日韩AV免费| 激情五月天色播| 终合激情网| 538午夜激情| 久久99免费视频| 久久久激情视频| 伊人五月天| 五月丁香拍拍激情综合| 91 九色 入口| 夜夜骑福利资源| 一级精品999WWW| 狠狠干.com| 狠狠干夜夜干| 夜夜爱网站| 五月天婷婷网站| 日韩色久| 六月婷婷天堂| 亚洲色综合| 五月天婷婷成人网| 天天干天天干天天干天天干天天干天天| 操操自拍| 欧洲综合一区| 91精品久久久久久77777| 成功精品影院| 久久婷婷一级片| 精品九九在线观看视频| 伊人久久中文网| 色日本颜射| 五月婷婷av| 五月天激情国产综合婷婷婷| 日日干夜夜撸夜夜骑| 99九九在线| 婷婷色五月天色色| 97人妻超级碰碰碰碰碰| 久久久久er热| 日韩精品一品二区三区的使用体验| 国产熟女日日骚五月丁香爱| www.婷婷| 婷婷网影院| 亚洲色图五月丁香五月婷婷| 亚洲综合五月天| 日韩啪啪视频| AV性爱网| 99综合免费视频| 综合色天天| ay2区| 99热综合网| 青青草Avb在线| 丁香激情综合| 内射爽无广熟女亚洲| AA丁香综合激情| 五月天丁香成人| 婷婷六月激情| 五月天婷婷在线播放免费| 99精品视频在线|