欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

隨機(jī)森林MATLAB代碼:TreeBagger調(diào)參與排錯

隨機(jī)森林MATLAB代碼:TreeBagger調(diào)參與排錯 簡介隨機(jī)森林MATLAB代碼壓縮包面向希望在MATLAB環(huán)境中實現(xiàn)隨機(jī)森林分類與回歸的學(xué)習(xí)者和開發(fā)者適合機(jī)器學(xué)習(xí)課程實驗、算法復(fù)現(xiàn)及小規(guī)模數(shù)據(jù)建模練習(xí)。包內(nèi)共14個文件約211KB包含m函數(shù)腳本、txt示例數(shù)據(jù)、Fortran源碼、dll動態(tài)庫以及readme和doc說明文檔其中m文件對應(yīng)分類、回歸與模型打印入口txt提供訓(xùn)練測試樣本dll與Fortran部分承擔(dān)底層計算便于理解從接口調(diào)用到核心實現(xiàn)的完整結(jié)構(gòu)。該資源已有6072人學(xué)習(xí)配套示例覆蓋分類與回歸兩條使用路徑讀者可借此觀察隨機(jī)森林的樣本與特征采樣、決策樹集成輸出及特征重要性查看方式并對照說明文檔梳理目錄組織、依賴配置與模型評估思路作為算法學(xué)習(xí)和代碼研讀的參考資料。1. 一段跑不通的腳本暴露了隨機(jī)森林 MATLAB 代碼的三個前提很多人找隨機(jī)森林 MATLAB 代碼拿到的第一份東西通常是三五行l(wèi)oad 一份數(shù)據(jù)TreeBagger 建三十棵樹predict 完打印一個準(zhǔn)確率。這段腳本在自帶示例數(shù)據(jù)上能刷到 0.9 以上換到自己的表上就翻車——要么類別變量直接報類型錯誤要么準(zhǔn)確率死死卡在多數(shù)類占比上不動看著像模型沒學(xué)實際上是數(shù)據(jù)和接口沒對齊。隨機(jī)森林在 MATLAB 里上手門檻很低但 TreeBagger 與 fitcensemble 兩條路線各有硬性輸入約束樹數(shù)、葉子大小、每次分裂的特征數(shù)這三個需要調(diào)整的參數(shù)又互相牽制調(diào)錯一個結(jié)果就不可信。這篇按「選哪條路 → 數(shù)據(jù)怎么喂 → 參數(shù)怎么調(diào) → 報錯怎么查」的順序給一份能改能跑、踩過坑再寫出來的實現(xiàn)說明適合手里已經(jīng)有一張?zhí)卣鞅?、打算?RF 當(dāng)基線模型的從業(yè)者也適合課設(shè)階段需要一份既能運行又能解釋清楚的同學(xué)。2. 三條實現(xiàn)路線的選型TreeBagger、fitcensemble 與手寫腳本MATLAB 里做隨機(jī)森林本質(zhì)上是三種東西一個封裝好的老牌類、一個能接進(jìn)交叉驗證流水線的建模函數(shù)、一份可以完全控制分裂準(zhǔn)則的自寫腳本。選錯路線不是精度問題而是后面每一步都別扭——想算 OOB 誤差卻發(fā)現(xiàn)沒開預(yù)測、想接超參搜索卻發(fā)現(xiàn)接口不兼容、想把模型導(dǎo)出到別的語言卻只能對著對象干瞪眼。所以先把選型擺清楚。2.1 TreeBagger分類回歸一套接口的老牌實現(xiàn)TreeBagger 是最直接的入口一行構(gòu)造自動完成自助采樣bootstrap、隨機(jī)特征子集、多樹匯總投票還內(nèi)置了袋外樣本out-of-bagOOB的評估能力。它的價值在于「不用自己寫循環(huán)」每棵樹的訓(xùn)練樣本由有放回抽樣產(chǎn)生約 36.8% 的樣本不進(jìn)袋這些樣本天然構(gòu)成一個不花錢的驗證集能在不切分?jǐn)?shù)據(jù)的前提下給出誤差估計。對樣本量小、切出去一塊驗證集就心疼的場景這一點很實用。% X: n×p 數(shù)值特征矩陣Y: n×1 的 categorical 標(biāo)簽 rng(2024); % 固定隨機(jī)種子保證結(jié)果可復(fù)現(xiàn) rf TreeBagger(200, X, Y, ... Method, classification, ... % 分類任務(wù)回歸改成 regression OOBPrediction, on, ... % 開啟袋外預(yù)測后面才能算 OOB 誤差 OOBPredictorImportance, on, ... % 同時計算置換重要性 MinLeafSize, 5, ... % 葉節(jié)點最小樣本數(shù)控制單棵樹深度 NumPredictorsToSample, all, ... % 每次分裂考察的特征數(shù) PredictorSelection, allsplits, ... % 用標(biāo)準(zhǔn) CART 窮舉分裂而非曲率檢驗 InBagFraction, 1, ... % 自助采樣比例1 表示抽 n 個 UseParallel, true); % 需要并行工具箱否則會報錯 Yfit predict(rf, X); % 返回 cell 數(shù)組元素是字符標(biāo)簽 Yfit categorical(Yfit); % 轉(zhuǎn)回 categorical 才能直接比標(biāo)簽 acc mean(Yfit Y); fprintf(訓(xùn)練集準(zhǔn)確率 %.4f\n, acc);代碼里幾個參數(shù)值得單獨說清楚。NumTrees取 200 是經(jīng)驗起點不是定值后面 4.1 會用 OOB 曲線判斷到底該停在哪。MinLeafSize從默認(rèn)的 1 提到 5是給噪聲留一點緩沖葉子太純的樹在訓(xùn)練集上幾乎滿分測試集上掉得厲害。NumPredictorsToSample設(shè)成all意味著每次分裂都用全部特征這其實弱化了「隨機(jī)」這一半分類任務(wù)常見做法是取特征數(shù)的平方根取整回歸取三分之一。PredictorSelection默認(rèn)是curvature曲率檢驗偏向能產(chǎn)生強(qiáng)交互的分裂想做教科書式的標(biāo)準(zhǔn) CART 就改成allsplits兩者在小樣本上的結(jié)果差異可能達(dá)到好幾個百分點別默認(rèn)它倆等價。需要留意的是predict的返回類型。分類模型返回的是 cell 數(shù)組里面裝的是字符直接和數(shù)值標(biāo)簽比較會得到一個全 false 的邏輯向量然后你會以為模型廢了。轉(zhuǎn)成 categorical 或者用str2double走一遍是必須補(bǔ)的一步。2.2 fitcensemble能掛進(jìn)交叉驗證和超參搜索的版本如果后面打算做 K 折交叉驗證、網(wǎng)格搜索、或者把模型塞進(jìn)一條預(yù)處理加建模的流水線fitcensemble更順。它把「集成方法」和「基學(xué)習(xí)器」拆開了Method選Bag就是袋裝基學(xué)習(xí)器用templateTree描述樹的參數(shù)寫在模板里而不是散在函數(shù)參數(shù)上。t templateTree( ... MinLeafSize, 5, ... NumVariablesToSample, all, ... % 等價于 TreeBagger 的 NumPredictorsToSample Surrogate, off); % 關(guān)閉代理分裂缺失值需提前處理 mdl fitcensemble(X, Y, ... Method, Bag, ... % 袋裝AdaBoostM2 等是提升法 NumLearningCycles, 200, ... % 基學(xué)習(xí)器個數(shù)對應(yīng) NumTrees Learners, t, ... Prior, uniform); % 類別先驗處理不平衡時改成 empirical cvmdl crossval(mdl, KFold, 5); % 直接得到交叉驗證模型 fprintf(5 折誤差 %.4f\n, kfoldLoss(cvmdl));這套寫法的好處是crossval、kfoldLoss、oobLoss、plotPartialDependence全都認(rèn)這個對象不用自己寫循環(huán)去拼混淆矩陣。Prior參數(shù)也是 TreeBagger 沒有直接對應(yīng)物的東西類別不平衡時把先驗改成uniform或者傳入自定義向量往往比調(diào)閾值更省事。代價是參數(shù)名和 TreeBagger 不完全一樣NumLearningCycles對應(yīng)樹數(shù)、NumVariablesToSample對應(yīng)每次分裂的特征數(shù)來回切換時容易寫錯。兩條路線的取舍可以壓成一張表維度TreeBaggerfitcensembleMethodBag分類/回歸統(tǒng)一接口靠Method一個參數(shù)切換同一個函數(shù)靠標(biāo)簽類型自動判斷OOB 誤差oobError/oobLossoobLoss(mdl,Mode,cumulative)交叉驗證需自己寫 K 折循環(huán)直接crossvalkfoldLoss超參自動搜索不支持需外層包 bayesopt支持OptimizeHyperparameters特征重要性O(shè)OBPermutedPredictorDeltaErrorpredictorImportance 置換法偏依賴圖需手動計算plotPartialDependence直接出圖數(shù)據(jù)量大、只想要一個能跑的基線TreeBagger 更省事要做實驗對比、要出可復(fù)現(xiàn)的交叉驗證數(shù)字fitcensemble的流水線更穩(wěn)。2.3 手寫版只在這三種情況下值得自己寫遞歸建樹不是炫技絕大多數(shù)場景純屬浪費時間。真正值得動手的情況只有三類一是分裂準(zhǔn)則要改比如你需要代價敏感的分裂或者自定義的不純度二是模型要導(dǎo)出到 C 或嵌入式環(huán)境MATLAB 的對象沒法直接落地得自己序列化成數(shù)組三是教學(xué)或答辯場景需要指著每一層節(jié)點解釋「這棵樹為什么在這里切」。給一份最小骨架能說明 bagging 內(nèi)部到底在干什么function node growTree(X, y, depth, maxDepth, minLeaf, mtry) % 單棵 CART 分類樹的最小實現(xiàn)省略缺失值處理與剪枝 if depth maxDepth || numel(unique(y)) 1 || size(X,1) 2*minLeaf node struct(leaf, true, label, mode(y)); return; end p size(X,2); featIdx randperm(p, min(mtry,p)); % 隨機(jī)挑 mtry 個特征這是隨機(jī)森林的一半 bestGain -inf; bestFeat 0; bestThr 0; parentImp giniImp(y); for f featIdx vals unique(X(:,f)); if numel(vals) 2, continue; end thrCand vals(1:end-1) diff(vals)/2; % 相鄰取值中點作候選閾值 for t thrCand left X(:,f) t; right ~left; if nnz(left) minLeaf || nnz(right) minLeaf, continue; end gain parentImp - (nnz(left)*giniImp(y(left)) ... nnz(right)*giniImp(y(right))) / numel(y); if gain bestGain bestGain gain; bestFeat f; bestThr t; end end end if bestFeat 0 node struct(leaf, true, label, mode(y)); return; end left X(:,bestFeat) bestThr; node struct(leaf, false, feat, bestFeat, thr, bestThr, ... left, growTree(X(left,:), y(left), depth1, maxDepth, minLeaf, mtry), ... right, growTree(X(~left,:), y(~left), depth1, maxDepth, minLeaf, mtry)); end function g giniImp(y) % 基尼不純度分類樹最常用的分裂指標(biāo) [~,~,idx] unique(y); p accumarray(idx, 1) / numel(y); g 1 - sum(p.^2); end外層再套一層 bootstrap 采樣和投票就是完整森林。這段代碼的性能比內(nèi)置實現(xiàn)差一到兩個數(shù)量級因為它沒有向量化候選閾值、沒有做排序優(yōu)化也完全沒有剪枝和缺失值處理只建議用來理解結(jié)構(gòu)或者做定制化改造不要拿它去跑十萬行數(shù)據(jù)。3. 預(yù)處理鏈路把表、缺失值和類別變量對齊到 RF 的輸入約定隨機(jī)森林對特征縮放不敏感這容易讓人誤以為它對數(shù)據(jù)形態(tài)也沒要求。實際上 MATLAB 的實現(xiàn)有一套明確的輸入約定矩陣還是 table、標(biāo)簽是 categorical 還是字符 cell、缺失值走哪條路徑任何一條不對報錯信息都含糊得讓人抓瞎。3.1 table 輸入與類別變量的三種處理最省事的做法是把整張表連同標(biāo)簽一起喂進(jìn)去讓實現(xiàn)自己去識別哪一列是類別變量。table 的優(yōu)勢是保留了變量名后面看特征重要性時直接輸出名字不用回頭對列號。T readtable(features.csv, TextType, string); labelName label; predictorNames setdiff(T.Properties.VariableNames, labelName, stable); % 字符串列轉(zhuǎn) categorical避免被當(dāng)成 p 個啞變量處理 for k 1:numel(predictorNames) if isstring(T.(predictorNames{k})) || iscellstr(T.(predictorNames{k})) T.(predictorNames{k}) categorical(T.(predictorNames{k})); end end X T(:, predictorNames); Y categorical(T.(labelName)); rf TreeBagger(200, X, Y, Method, classification, ... CategoricalPredictors, all); % 顯式聲明非數(shù)值列按類別變量處理TextType,string這一步容易被忽略。默認(rèn)讀進(jìn)來是 cell 字符數(shù)組某些版本里categorical轉(zhuǎn)換會給出警告甚至失敗統(tǒng)一成 string 再轉(zhuǎn) categorical 就干凈了。CategoricalPredictors寫成all是讓實現(xiàn)自己對非數(shù)值列做處理但如果表里混進(jìn)了 ID 列這種高基數(shù)變量幾千個不同取值隨機(jī)森林會把它當(dāng)成一個極強(qiáng)的分裂特征訓(xùn)練集精度飆高、測試集慘不忍睹——這類列在建表階段就該刪掉別指望模型自己判斷。3.2 缺失值填補(bǔ)、代理分裂、還是直接刪老版本的 TreeBagger 遇到 NaN 會直接拋錯新版本和fitcensemble的templateTree支持Surrogate,all做代理分裂也就是在最優(yōu)分裂特征缺失時用相關(guān)的替代特征頂上。代理分裂在缺失比例低于 5% 時效果不錯缺失比例一高代理分裂本身也沒得選還是老老實實填補(bǔ)靠譜。% 數(shù)值列中位數(shù)填補(bǔ)類別列眾數(shù)填補(bǔ)同時打缺失標(biāo)記 Xnum varfun(median, X, InputVariables, isnumeric, ... OutputFormat, uniform); for k 1:width(X) col X{:,k}; if isnumeric(col) miss isnan(col); if any(miss) X{miss,k} median(col(~miss)); % 中位數(shù)對偏態(tài)分布更穩(wěn) end else miss isundefined(col); if any(miss) X{miss,k} mode(col(~miss)); % 類別列用眾數(shù) end end if any(miss) X.([miss_ X.Properties.VariableNames{k}]) double(miss); % 缺失本身就是信息 end end補(bǔ)一個缺失指示列的做法在小樣本上很值缺失往往不是隨機(jī)的某個字段空著本身就帶信號把它當(dāng)特征喂進(jìn)去比單純填補(bǔ)保留的信息更多。反過來如果某一列缺失超過 30%更常見的處理是直接刪列因為填補(bǔ)出來的值基本上等于在主要分裂上人為制造了一個眾數(shù)堆積會系統(tǒng)性地帶偏重要性排序。3.3 劃分分層 Hold-Out 與 K 折的對象設(shè)計類別不平衡時最怕的就是普通隨機(jī)劃分某次抽樣某個少數(shù)類一個都沒進(jìn)訓(xùn)練集模型直接學(xué)不會。cvpartition的第一參數(shù)傳分類標(biāo)簽時默認(rèn)做分層抽樣這一條能擋掉不少意外。cp cvpartition(Y, HoldOut, 0.3); % 傳標(biāo)簽向量自動分層 idxTrain training(cp); idxTest test(cp); rf TreeBagger(200, X(idxTrain,:), Y(idxTrain), ... Method, classification, OOBPrediction, on); Ytest categorical(predict(rf, X(idxTest,:))); C confusionmat(Y(idxTest), Ytest); acc sum(diag(C)) / sum(C(:)); fprintf(測試集準(zhǔn)確率 %.4f\n, acc);分層之后的第二個坑是順序cvpartition給出的是邏輯索引如果先對整張表做了標(biāo)準(zhǔn)化、特征篩選或者缺失值填補(bǔ)再劃分那么測試集的信息已經(jīng)漏進(jìn)訓(xùn)練過程OOB 誤差和測試誤差會出現(xiàn)明顯背離。正確順序永遠(yuǎn)是「先切分、再在訓(xùn)練集上擬合任何變換、最后用訓(xùn)練集的統(tǒng)計量去處理測試集」。4. 參數(shù)調(diào)整樹數(shù)、葉子大小、特征子集與自動調(diào)參隨機(jī)森林被叫「幾乎不用調(diào)參的模型」這句話只在「能跑出個結(jié)果」的前提下成立。真實項目里樹數(shù)決定訓(xùn)練成本葉子大小決定過不過擬合每次分裂的特征數(shù)決定樹之間的相關(guān)性三個參數(shù)串起來看才有效。4.1 NumTrees看 OOB 曲線什么時候走平樹數(shù)不是越多越好而是「加到 OOB 誤差不再明顯下降」為止。判斷方法很直接開OOBPrediction,on用oobError取隨樹數(shù)累積的誤差序列畫出來看拐點。rf TreeBagger(300, X, Y, Method, classification, ... OOBPrediction, on, MinLeafSize, 5); err oobError(rf); % 長度 300第 k 個是前 k 棵樹的 OOB 誤差 [~, kBest] min(err); fprintf(OOB 最優(yōu)樹數(shù) %d誤差 %.4f\n, kBest, err(kBest)); fprintf(300 棵樹時誤差 %.4f進(jìn)一步增加樹數(shù)收益有限\n, err(end)); figure; plot(err, LineWidth, 1.2); grid on; xlabel(樹的數(shù)量); ylabel(OOB 分類誤差);曲線在 100 到 150 棵之間通常已經(jīng)形成平臺之后再加樹只是線性增加訓(xùn)練時間。需要注意的是oobError返回的是累積誤差第 k 個元素對應(yīng)前 k 棵樹的投票結(jié)果所以它天然單調(diào)性很差、會抖動——抖動幅度大的時候說明數(shù)據(jù)本身噪聲重這時候盯著最小值去取樹數(shù)反而過擬合了 OOB取平臺起點更穩(wěn)。300 棵是個保守上限演示夠用生產(chǎn)環(huán)境按數(shù)據(jù)量自己壓。4.2 MinLeafSize偏差與方差最直接的旋鈕葉子最小樣本數(shù)是控制單棵樹復(fù)雜度的主要參數(shù)。值越小樹越深訓(xùn)練集誤差越低方差越大值越大樹越淺偏差上升但對噪聲的容忍度更好。分類任務(wù)上1 到 10 是常見搜索區(qū)間回歸任務(wù)建議從 5 起步。leafList [1 3 5 10 20 50]; oob zeros(size(leafList)); for i 1:numel(leafList) rf TreeBagger(150, X, Y, Method, classification, ... OOBPrediction, on, MinLeafSize, leafList(i)); oob(i) oobError(rf, Mode, last); % 只看最終樹的 OOB 誤差 end [bestErr, bestIdx] min(oob); fprintf(最優(yōu) MinLeafSize %dOOB 誤差 %.4f\n, leafList(bestIdx), bestErr);oobError(rf,Mode,last)跟默認(rèn)的累積序列不是一回事加Mode,last拿到的是最終集成的單個誤差值做網(wǎng)格循環(huán)時用它更省事。如果這條曲線一路往下走到 1 才停通常說明數(shù)據(jù)里的噪聲不多、或者樣本量夠大如果曲線在 10 附近觸底再往上走就要考慮特征里是不是混進(jìn)了大量弱相關(guān)列。4.3 NumPredictorsToSamplemtry 的經(jīng)驗值與實測這是隨機(jī)森林「隨機(jī)」的核心參數(shù)。每次分裂只從 p 個特征里抽 m 個候選m 越小樹之間越不相關(guān)集成的方差降得越多但單棵樹的精度也越低。經(jīng)驗值是分類取 √p、回歸取 p/3這個起點在大部分?jǐn)?shù)據(jù)上不會太離譜但不是最優(yōu)。p size(X, 2); mtryList unique(round([sqrt(p), p/3, p/2, p])); % 經(jīng)驗值加兩個擴(kuò)展點 for i 1:numel(mtryList) rf TreeBagger(150, X, Y, Method, classification, ... OOBPrediction, on, NumPredictorsToSample, mtryList(i)); fprintf(mtry%3d OOB誤差%.4f\n, mtryList(i), oobError(rf,Mode,last)); end一個常見誤用是把 mtry 設(shè)成 p也就是每次分裂都用全部特征然后把模型叫作隨機(jī)森林。這時候它退化成了純 bagging樹之間的相關(guān)性明顯提高集成降方差的效果打折在特征高度相關(guān)的數(shù)據(jù)上尤其明顯。實測中如果 mtryp 和 mtry√p 的 OOB 誤差差不多選 √p 更劃算因為訓(xùn)練快、樹之間更獨立。4.4 自動調(diào)參與并行把網(wǎng)格交給 bayesopt參數(shù)超過三個之后手寫循環(huán)的組合爆炸會吞掉大量時間。fitcensemble支持內(nèi)置的貝葉斯優(yōu)化把搜索空間一次性描述清楚讓它自己找。rng(2024); t templateTree(Surrogate, off); mdl fitcensemble(X, Y, Method, Bag, Learners, t, ... OptimizeHyperparameters, {NumLearningCycles, MinLeafSize, ... NumVariablesToSample}, ... HyperparameterOptimizationOptions, struct( ... MaxObjectiveEvaluations, 30, ... % 目標(biāo)函數(shù)評估次數(shù)30 起步 UseParallel, true, ... % 并行評估需要并行工具箱 Repartition, true, ... % 每輪重新劃分降低劃分偏差 Verbose, 1));Repartition,true值得開著它讓每輪評估用不同的交叉驗證劃分避免某組參數(shù)恰好抽到一份「好切分」而虛高。MaxObjectiveEvaluations給 30 次是在時間和收益之間的折中數(shù)據(jù)量大的時候可以先在小樣本上搜一輪拿到大致范圍再回到全量數(shù)據(jù)上手工微調(diào)。并行開啟前最好先手動起一次本地池否則第一次調(diào)用會額外花時間初始化。5. 常見排查隨機(jī)森林 MATLAB 代碼跑不動、跑不準(zhǔn)的五個現(xiàn)場調(diào)參投入再多也擋不住輸入層面的一些低級錯誤??偨Y(jié)下來有五類高頻現(xiàn)場每次排查都從這幾條過一遍能省掉大量猜測。5.1 準(zhǔn)確率恰好等于多數(shù)類占比現(xiàn)象測試集準(zhǔn)確率 0.83而訓(xùn)練集里正類占比正好 83%混淆矩陣顯示模型把所有樣本都判成了多數(shù)類。原因類別嚴(yán)重不平衡隨機(jī)森林的投票機(jī)制下少數(shù)類的票數(shù)被壓過去樹在分裂時也傾向于先把多數(shù)類分干凈因為它對整體不純度的貢獻(xiàn)更大。這時準(zhǔn)確率這個指標(biāo)本身已經(jīng)失效。解決三條一起上更穩(wěn)——cvpartition傳標(biāo)簽做分層抽樣保證每折里少數(shù)類都有fitcensemble把Prior設(shè)成uniform壓制先驗帶來的偏置評估指標(biāo)換成confusionmat之外看召回率或者 F1別只看準(zhǔn)確率。如果少數(shù)類樣本少于幾百條還要考慮過采樣但過采樣必須在訓(xùn)練折內(nèi)部做不能在劃分前對全量數(shù)據(jù)做。5.2 標(biāo)簽類型報錯或者預(yù)測結(jié)果全 false現(xiàn)象訓(xùn)練階段報Y must be a vector或者代碼沒報錯但Yfit Y全是 false。原因標(biāo)簽是字符串 cell 或者表格里的 string 列predict返回的是字符 cell 數(shù)組直接和數(shù)值或 categorical 標(biāo)簽比較類型不匹配比較結(jié)果全是 false看起來像模型完全沒用。解決訓(xùn)練前統(tǒng)一Y categorical(T.label)預(yù)測后立刻Yfit categorical(predict(rf, Xtest))再做比較?;貧w任務(wù)同理TreeBagger的回歸模型predict返回的是數(shù)值矩陣但如果是多輸出或者用了 cell 輸入也要檢查維度對齊。這類問題不會給明確報錯只能靠打印前幾行class(Y)和class(Yfit)定位。5.3 內(nèi)存爆掉或者訓(xùn)練慢到無法接受現(xiàn)象樹數(shù)加到 500 之后訓(xùn)練要跑半小時內(nèi)存占用飆到十幾 G機(jī)器開始交換。原因每棵樹都把完整訓(xùn)練集副本存進(jìn)對象里MinLeafSize太小時單棵樹節(jié)點數(shù)暴漲再加上OOBPrediction會額外保存袋外索引內(nèi)存是乘法級增長的。解決先把MinLeafSize從 1 提到 5 到 10節(jié)點數(shù)能降一個量級UseParallel打開用多核分?jǐn)倳r間但要確認(rèn)并行池的進(jìn)程數(shù)不要超過物理核數(shù)超了反而更慢樹數(shù)按 4.1 的 OOB 曲線取平臺起點別一上來就 1000 棵。特征維度超過幾百列時先做一輪基于重要性的粗篩再重新訓(xùn)練比硬扛著跑全量特征劃算得多。5.4 OOB 誤差很低但測試集一塌糊涂現(xiàn)象訓(xùn)練時 OOB 誤差 0.06交叉驗證或者獨立測試集誤差 0.25差距大得不正常。原因數(shù)據(jù)泄漏。最常見的是在劃分之前對整張表做了標(biāo)準(zhǔn)化、缺失值填補(bǔ)、特征篩選或者 SMOTE 過采樣測試集的分布信息通過這些步驟滲進(jìn)了訓(xùn)練過程。另一種是同一實體有多條記錄被分到了訓(xùn)練集和測試集兩側(cè)模型實際上在背答案。解決把整條流水線重排成「切分 → 訓(xùn)練集上擬合變換 → 應(yīng)用到測試集」。如果有分組結(jié)構(gòu)同一個體多次測量、同一批次多個樣本用cvpartition的分組形式保證整組進(jìn)同一側(cè)。改完之后 OOB 和測試誤差的差距通常會收斂到 3 到 5 個百分點以內(nèi)還收不攏就要懷疑特征里混了標(biāo)簽派生的列。5.5 特征重要性全是零或者與業(yè)務(wù)直覺相反現(xiàn)象OOBPermutedPredictorDeltaError返回一列數(shù)前幾個全是 0或者排第一的是一個業(yè)務(wù)上明顯無關(guān)的字段。原因三個可能——一是特征之間高度相關(guān)重要性被平攤到幾個相關(guān)列上單獨看每個都不高二是標(biāo)簽編碼或者 ID 列被當(dāng)成了有效特征模型找到了捷徑三是樹太淺某些特征根本沒被用到重要性自然為 0。解決先把 ID 類、時間戳類、索引類列手工剔掉再重跑一次。相關(guān)特征的問題用分組置換重要性處理把一組相關(guān)特征同時打亂再算精度下降而不是逐個打亂。樹太淺就按 4.2 把MinLeafSize降回來。排查時用predictorImportance和置換重要性各算一遍兩個結(jié)果差異很大的那幾列往往是需要單獨看一眼的。6. 進(jìn)階把 OOB 誤差、置換重要性和偏依賴用成決策依據(jù)模型跑通只是起點真正決定這份代碼有沒有用的是后面三件事誤差估計可不可信、特征排序能不能指導(dǎo)下一步采集、單特征的影響方向說不說得清。誤差估計上我習(xí)慣同時看三個數(shù)OOB 誤差、5 折交叉驗證誤差、獨立測試集誤差。三個數(shù)互相之間的差距比絕對值更有信息量——OOB 和交叉驗證差得多說明樣本順序有結(jié)構(gòu)交叉驗證和測試集差得多說明分布漂移或者泄漏。這三個數(shù)都穩(wěn)定在同一個量級模型才算立住。特征重要性不要只信內(nèi)置那一列。手寫一遍置換重要性邏輯簡單但可控把某一列打亂重新預(yù)測看精度掉多少掉得越多越重要。重復(fù)多次取均值能壓掉隨機(jī)性。baseAcc mean(categorical(predict(rf, Xtest)) Ytest); imp zeros(1, size(Xtest,2)); nRepeat 10; for j 1:size(Xtest,2) drop zeros(nRepeat,1); for r 1:nRepeat Xp Xtest; Xp{:,j} Xp(randperm(height(Xp)), j); % 打亂第 j 列其余不動 drop(r) baseAcc - mean(categorical(predict(rf, Xp)) Ytest); end imp(j) mean(drop); end [~, order] sort(imp, descend); disp(Xtest.Properties.VariableNames(order(1:10)));randperm打亂整列是關(guān)鍵不能只交換相鄰行否則相關(guān)性結(jié)構(gòu)還在重要性會被嚴(yán)重低估。重復(fù) 10 次的成本可以接受如果預(yù)測很慢降到 5 次也夠看趨勢。單特征影響方向用偏依賴看fitcensemble訓(xùn)練出的模型直接plotPartialDependence(mdl, j)就能出圖看的是「把第 j 列固定在不同取值上其余列保持原樣時預(yù)測概率的平均變化」。圖上出現(xiàn)明顯的臺階或者非單調(diào)折線通常意味著樹在這個特征上切出了硬閾值這時候回頭去看MinLeafSize是不是設(shè)得太小。TreeBagger 對象沒有這個接口需要自己構(gòu)造網(wǎng)格、替換列、批量預(yù)測再取均值代碼不長但容易寫錯列索引建議封裝成小函數(shù)復(fù)用。血淚經(jīng)驗是這三件事里最容易被跳過的是置換重要性因為內(nèi)置的OOBPermutedPredictorDeltaError一行就能出結(jié)果看起來已經(jīng)夠了。但在相關(guān)特征多的表上內(nèi)置結(jié)果和置換結(jié)果能差出完全不同的排序而排序錯了后面所有的特征采集和工程投入都會跟著錯。從那以后我每次拿到新的特征表都強(qiáng)制把分組置換重要性跑一遍再下結(jié)論。希望幫到你。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
丁香九月激情在线视频| 99精品国产在热久久婷婷| 久久精品五月天| 色婷婷丁香五月| 丁香婷婷综合激情五月色| 精品久久99码| 久久这里只有精品22| 五月婷婷中文网| 五月停停直播| 丁香婷婷视频| 久热免费| 1024久婷| 激情久久肏屄视频| 天天cha成人综合网| 狠狠搞亚洲| 天天日天天草| 午夜大香蕉| 成人做爰黄A片免费看直播室男男| 婷婷在线日韩综合| 六月丁香久久| 色婷婷丁香五月色综合网| 深爱激情综合网| 五月激情视频| 五月丁香婷婷激情爱爱| 婷婷八月激情| 天天日综合| 亚洲啪啪视频| 99亚洲精品综合在线| 人妻操日日| 99热免费精品| 五月激情综合五月| 热久精品| 成人无码精品1区2区3区免费看| 婷婷五月综激情| 丁香五月欧美| 丁香五月大香蕉AV| 涩涩网五月天| 九九久久网| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 婷婷色五月天在线| 婷婷五月天综合网| 99福利导航| 春色激情第四色| 可以看的av| 中文字幕在线免费观看视频| 秋霞日本免费毛片A片| 美女丁香五月天| 欧美日韩AAA| 99操视频| 五月婷婷色白丝| 97中文在线| 99视频热| 天天射影院| 国产精品丝| 妻久久久久| 色婷婷五月天在线观看| 五月天丁香婷婷久久九| 免费的日逼视频| www婷婷| 色色五月婷婷| 综合99视频| 色综合久久天天综合网| 色色丁香| 在线视频你懂得| 亚洲综合狠狠艹| 一级黄色影片| 丁香六月色| 开心久久xxx色| 99久在线精品99re8| 狠狠精品干练久久久无码中文字幕 | WWW.99热| 人妻丰满精品一区二区A片| 97操碰视频| 亚洲激情精品| 综合AV网| 色色综合无码| 操操碰| 男人視頻站| 99热这里只有精品96| 亚洲天堂久久| 91人人网| 久操无码| 青青草tp| www久久99| 丁香五月婷婷激情尤物| 日亚二欧美| 激情丁香婷婷| 久久五月六月| 热久久这里只有精品| 五月天AV大香蕉| 五月丁香另类网| 欧洲色色| 婷婷热婷婷色| 欧美叉叉叉BBB网站| 99热这里在线精品| 日韩无码专区| 五月丁香激情五月天| 影音先锋色婷婷| 69人人操人人爽| 亚洲性图一区二区| 在线播放 精品| 婷婷美女精品视频| 99ER热精品视频| 99色色热| 欧美肉大捧一进一出免费视频| 婷色五月| 色色五月丁香| 色欲五月天| 色99色| 五月婷婷六月天| 亚洲性爱电影| 九月丁香| 爱射综合| 五月婷婷之六月丁香| 婷婷伊人| 五月天天天开心激情网| 香蕉AV777XXX色综合一区| 九九家庭影院| 亚洲国产精品成人午夜| 夜夜骑天天玩天天日| 久婷狼色诱惑在线| 五月婷婷丁香五月天| 婷婷久久图片| 4438激情网| 玖玖五月| 99这里有精品视频| 色色精品色| 狠狠色噜噜狠狠狠狠综合| 91操操| 夜夜谢天天干| 99这里只有精品在线| 丁香网五月天| 六月丁香六月婷婷欧美| 婷婷色五月激情强奸四射| 国产性爱一级| 六月丁香婷婷视频综合在线观看| 五月激情综合网| 婷婷五月丁香狠狠| 色噜婷婷| 亚洲精品亚洲人成人网| 色综合色欲综合天天免费 | 亚洲色模骚货| 色婷婷综合成人| 美女精品一级不卡视频| 五月天·www·com| 北条麻妃伊人| 色99色| 97色婷婷成人综合在线观看| 国外亚洲成AV人片在线观看| 激情五月四色| 永久免费视频| 亚洲V国产V欧美V久久久久久| 热热久久久久久久久| 色啦啦视频| 日日夜夜天天综合| 99久久久| 桃色五月婷婷| 九九人人精品| www.激情在线| 婷婷丁香综合在线| 天天色综网| 五月天无码视屏播放| 婷婷97色| 婷婷中文在线| 天天擼久久擼在线| 操碰99| 婷婷五月天在线观看| 久久婷婷丁香六月天| 91九九热| 99热超碰| 婷婷开心激情五月激情网| 色婷久| 999热这里只有精品| 色色婷婷综合网| 99久久新视频| 久久久天堂国产精品女人| 热成人网| 国产日产成人亚洲欧美国产VA| 亚洲精品V天堂中文字幕| 99热这里只有在线| 天天日天天狠狠操| 久久综合网桃花| 黄色AV日韩| 99久久综合网| 婷婷99视频精品| 五月天婷婷基地| 亚州AV超碰人人操| 色五月首页| 一起草AV入口| 激情丁香婷婷| 俺也去在线视频 | 久久婷婷超碰| 丁香五月婷婷亚洲综合精品| 国产性色蜜乳| 无码激情AAAAA片-区区| 成人va在线播放| 五月天婷婷三级黄| 99啪99| 日日夜夜天天| 天堂五月婷婷| 思思热再线视频| 激情啪啪五月| 秋霞九九无码| 97人人草| 五月丁香久久综合| 伊人五月综合网| 玖月婷婷爱丁香| 东京热人妻一区二区三区在线| 五月激情啪啪| 天天日夜夜| 丁香五月婷婷亚洲综合精品在线| 日本高清久| 久久婷婷九月国产精品| 99热99色| 色欲丁香| 激情99| 激情性爱婷婷| 成人无码精品1区2区3区免费看| 欧美激情VA永久在线播放| 丁香婷婷免费| 无码色色色色色| 91精品视频男人的天堂| 性按摩玩人妻HD中文字幕| 久久精品99久久久久久| 丁香六月欧美| 99热免| 夜夜骑操AV| 久久99综合网| 婷婷色片| 97干在线看| 激情性爱五月天网页| 久久这里只精品| 丁香六月激情综合| 欧美婷婷五月丁香| av网站中文| 天天综合久久| 中文字幕黄色片| 99啪啪骑| 性色综合网| 五月婷婷涩涩爱| 思思热视频在线观看| 天天拍天天操| 婷婷激情图片| 婷婷五月天第三页| 亚洲va在线∨a天堂va欧美va| 丁香伊人激情| 激情伊人六| 开心五月婷婷五月| 五月天激情小说| 成人五月天丁香婷| www.99热在线观看| 大香蕉久久久久| bukadeavzaixian| 最近中文字幕2019视频1| 五月激情站| 91婷婷丁香五月| 人人干av| 天搞天天天天天| WWW.久久久久久久久久久久久| 午夜69成人做爰视频| 天天色综网| 91色逼| 涩五月婷婷| 五月亚洲| 五月开心网| 五月婷色激情五月| 婷婷五月激情五月激情| 99热在线播放| 丁香婷婷色色| 99热伊人| 日本三级日本三级99| www.五月.com| 色播播五月天| 最近中文字幕2019视频1| 99热综合| 在线观看免费人成视频无码| 亚洲日韩久久婷婷伊人| 婷婷五月天av小说| 婷色视频| 9久精品视频| av操一操| 丁香婷婷网| 五月丁香狠狠爱| 久久五月婷婷电影| 伊人五月人妻精品| 99亚洲无码| 五月天色婷婷伊人网| 五月天色五月天| 99色视频在线观看| 99热免| 五月丁香六月色| 人人草人人舔| 色五月丁香五月| 久碰视频| 少妇人妻丰满做爰XXX| 91av传媒高清在线视频网| 成人在线观看国产| 久久精品五月| 婷婷丁香在线| 牛牛热这里只有jingpin| 亚洲操逼网| 婷婷伊人綜合中文字幕| 八戒青柠影视剧在线观看| 国产婷婷色综合AV蜜臀AV | 偷拍丁香九月激情| 久9精品| 色色激情网| 九九九九国产| 五月婷婷m| 99亚洲无码| 欧美丁香五月夫妻天| 激情婷婷五月天| 在线播放中文字幕| 天天日中文| 色婷婷五月综合色婷婷| 性爱五月婷婷| 丁香六月婷婷久久高清| 天天人人天天爽| 色人妻五月| 97碰碰视频| 99在线观看| 天天综合精品| www.色情五月天.com| 色婷婷av在线| 六月婷伊人| 婷婷综合六月| 玖玖资源在线视频| 青青草伊人婷婷| 亚洲AV无码成人精品电影| 色播婷婷大香蕉| 欧美成人无码一区二区三区| 玖玖资源站中文| 丝袜人妻| 伊人高清无码| 久久99精品久久久久久三级| 日本激情ⅩXX免费视频| 五月婷婷丁香俺日污视频| 午夜成人AV在线| 无码少妇高潮喷水A片免费| 亚洲国产网址| 精品国产va久久久久| 极品 少妇 内射| 婷婷五月天堂| 国精产品一区一区三区免费视频 | SS丁香五月婷婷| 五月婷丁香| 91操碰| 亚洲精品另类| 思思视频久久| 天堂色婷婷| 无码中文一区二区三区| 182TV大香蕉| 久久99久久99久久99人受| 大鸡巴伊人网| 天天干夜夜操A片| 丁香六月婷婷激情| 色五月综合网| 激情视频综合| 婷婷五月天首页| 99久re热视频精品98| 超碰97在线观看免费| 九九99热| 99热在线这里只有精品| 五月婷婷色| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 日韩成人无码人妻| 五月婷婷六月少妇激情| 色狠狠综合| 久久久精品99| 美女激情婷婷| 色婷婷综合视频| 激情综合在线播放| 色丁香在线视频| 4399人妻无码久久久| 久久婷婷九月国产精品| 久久久妻人人人| 久久五月丁香| 天堂呦 呦百度搜索-百度搜索| 婷婷99狠狠| 久久538| 99热这里只有精品9| 色婷婷yy久| WWW、日本色丁香co m| 亚洲婷婷激情综合激情999精品| 97高清国语自产拍| 、激情六月天| 97操操操| 伦99热| 五月天狠狠干| 婷婷综合在线| 偷拍91九色| 丁香美女主播视频在线观看| 中文字幕有多少字| 秋霞午夜理论| 丁香五月天激情综合| 91人人超碰在线| 久久伊人日日夜夜| 国产精品色| 五月婷婷激情综合| 亚洲成人在线免费| 啪啪婷婷五月天激情| 天天插插天天| 丁香五月花影院| 婷婷激情五月天激情在线| 婷婷无码视频| 99综合熟女| 99热99re6国产在线播放| 五月天综合网| 九九视频精品这里只有| 91啪啪视频| 91超碰人人操| 日韩淑女人妻luan伦激情精品一区二| 激情五月婷婷啪啪| 深爱激情综合| 五月天婷综合| 日本九九网| 丁香六月婷婷色播| 久久99精品久久久久久三级| 人人插9| 色五月丁香婷婷| 午夜丁香久久久久久| hd五月婷婷在线| 狠狠狠狠狠| 日日操夜夜爽白洁| 丁香六月激情| 欧洲激情五月天| 韩国真做片在线观看| 六月亚洲婷婷6月中文字幕| 99爱这里只有精品免费视频| 在线日韩视频| 五月丁香综合| 六月丁香综合999| 激情五月婷| 亚洲久久日| 激情五月天综合网| 五月天天综合| 久久精品9| 91久久综合亚洲鲁鲁五月天| 国产91视频| 日本3级片偷拍网站| 日韩超碰在线| 99色热| 色丁香五月| 开心五月六月婷婷| 双性美人被调教到喷水A片| 99热6这里只有精品6| 色五月综合| 琪琪理论片| 疯狂做受XXXX高潮A片动画| 五月欧美色播| 六月丁香五月婷婷| 婷婷丁香五月,狠狠综合| 久久综合图片| 国产婷婷五月天| 色婷操逼| 欧美日综合| www.婷婷五月天啪啪| 欧美三级A做爰在线观看| 森林影视大全,最好看的2019年视频| 六月成人网| http://www.sd-xiangsu.com/| 91丨人妻丨国产丨丝袜| 亚洲啪啪视频| 婷婷五月丁香高清无码| 中文超碰视在线| 激情五月天影院| 综合视频久久| 中文AV网站| 五月婷婷色播网| AV片在线观看| 婷婷五月激情图片| 激情五月天综合图片小说网站| 久久综合26p| 色婷婷成人| aa久久| 五月天激情婷婷| 婷婷十月丁香| 91久久五月天| 激情五月激情综合网| 午夜丁香六月婷| 大香蕉网 久久| 97干视频在线| 超碰人妻在线| 丁香久久在线| 日本99在线| 午夜色色色极品视频| 日本eVa一区=区视频| 五月六月伦理| 干亚洲天堂| 色9999综合久久| 97碰| 婷婷综合五月色播| 五月天激情图片| 精品无码久久久久久久久| 婷婷五月婷| 日本三级日本三级99| 国产午夜精品AV一区二区麻豆| 色狠狠综合| 98色花堂98t.R| 日韩成人无码| 丁香婷婷五月六月久久| 69午夜成人影片| WWW.久久久久久久久久久久久| 偷拍五月丁香| 久久婷婷综合五月天| 天天开心天天色| 在线观看日韩12345区| 黄色五月婷婷| 中文字幕色色色| 97资源碰碰| 九九色网专区| 婷婷五月激情丁香| 天天天天天久久久久久| 啪啪色激情五月天| 精品九九网| 99∨VTV| www.色五月| 色婷婷精品小视频| 色哟哟精品| 久热超碰| 玖玖爱伊人| 亚洲AV成人无码久久精品老人法拉利| 激情综合网丁香| 丁香五月婷婷高清| 熟女少妇内射日韩亚洲| 涩涩涩五月天| 天天爽天天干| 亚洲男人的天堂婷婷色五月| 色五月网址| 狠狠 久久| 日本狠狠干| 日韩啪| 女人天堂 AV| 玖玖色资源站| 99性视频| 五月天狠狠色| 日韩黄在免| 99啪啪| 99精品在线观看视频| 超碰renrenai| 婷丁五月| 白人荫道BBWBBB大荫道| 久草天堂| 丁香综合婷婷五月天| 五月天自拍网| 久久网站免费亚洲| 欧美日本黄色| 99爱这里只有精品| 日99网站| 丰满女老板BD高清A片| 色丁香五月| 久久这里只| 五月天五月色| 99re在线观看视频| 五月色婷婷在线观看| 99超级碰碰| 免费V片在线| 国产一级视频a| 99精在线| 综合激情五月丁香| 婷久久| 婷婷五月天色播| 久久思思精品| 深爱五月婷| 亚洲性图一区二区| w婷婷五月婷婷w| 99热个人在线| 亚洲乱码日产精品BD| 久久综合激情| 五月叮香啪| 日韩九区| 婷婷五月天视频免费在线观看| 色婷婷九月| 99热首页在线30| 天天在线天天综合网色| 99视频地址| 丁香五月天欧洲在线| 狠狠色丁香| 午夜不卡久久精品无码免费| 在线理论片| 精品一区二区三区四区五区六区| 91丨九色丨大屁股| 国产精品99久久久久久久女警| 另类视频五月天| 99性色| 久久9久| 婷婷五月电影院| 91成人视频| 狼人婷婷综合| 亚洲精品成人| 婷婷丁香色五月| 色99网| 99色热| 婷婷六月久久综合导航| 99热成人| 精品国产AV色一区二区深夜久久| 青草视频在线观看视频| 久草婷婷在线| 久热伊人在91| 色婷av| 国产色网站| 99热这里| 九九日本视频| 轮奸综合网| 综合激情五月丁香9999久久精| 99 频99热国里只有精品| 婷五月天在线草| 五月丁香综合久久| 婷婷五月天激情影片| 国精产品久久| 久久久精品人妻| 色婷婷888| 久热伊人| 99热久久这里只有精品| 久777| 亚洲视频久久| 中文字幕AV在线| eeuss人妻| 激情网第四色| 色五月婷婷五月天激情综合| 91久久电影| 欧美婷婷| 五月婷婷大香蕉| 亚洲经典三级| 97久久超视频| 亚洲av免费在线| anquye伊人| 精品人妻伦| 我要射综合| www.婷婷五月| 九九免费视频| 热思思九九| 男人的天堂在线婷婷 | 久久婷婷色| 婷婷五月天网| 五月婷婷影视| 在线中文亚洲| 性爱在线播放av| 5月丁香六月婷婷| 伊人玖玖网| 日本色婷婷| 六月婷综合| 亚洲色区17| 婷婷黄色| 色青青五月| 九九热最新地址| 久久五月综合| 久热99狠| 久久九九网| 天天日天天操天天干| 亚洲成人五月| 九九热精品| 最近中文字幕2019视频1| 九九激情视频| 五月丁香激情五月天| 五月激情六月婷婷| 思思re99视频在线观看| 亚洲成av人影院| 久久影视婷婷五月| 同性gv国产精品一区二区| 丁香婷婷视频| 久热超碰| 98热精品| 亚洲精品操一操、噜一噜、摸一摸、爽 | 综合丁香婷婷五月天| 丁香五月综合网亚洲综合欧美狠狠 | 婷婷五月电影| 久久婷婷五月综合色欧美| 91综合色| 中文字幕久久一区二区三区| 97色婷婷成人综合在线观看| 六月婷婷色色网| 综合AV在线| 五月天黄色激情小说| 中文字幕成人| 国产精品成人网址| 久久婷婷激情五月天一区二区| www夜夜操com| 激情五月天色播| 天堂久久性| 欧美英丁香开心快乐六月天网| 五月天另类小说| 婷婷激情五月| 棕合影院色色| A色色| 99热精品中文字幕| www色综合亚洲92| 天天噜天天爱| 亚洲中文字幕av| 亚洲国产黄色电影| 思思热性操| 欧美婷婷日本| 超级久久久| 97色五月天| 4399人妻无码久久久| 黄色激情网站在线观看| 欧美亚洲999| 51XX午夜影福利| 色吊操色妞| 管管補管管紱| 丁香五月天色婷婷| 中文字幕日韩成人| 日日.c| 日本三级成人秘书精品片| 99热啪啪| 天天舔天天摸| 97sese婷婷| 日日夜夜青青草| 日日操日日撸| 91综合国免费久入| 五月天婷婷AV| 色婷婷色五月综合| 五月丁香 啪啪啪| 91chinese在线| 亚洲成人网在线观看| 99热这里只有精品最新网址| 91操人视频| 久久久8| 九九热最新地址| 亚洲爆乳无码精品AAA片蜜桃| 久色网址| 夜夜干夜夜操| 99操不停| 婷婷情色激情| 久久九九激情五月天 | 狠狠狠激情网| 色吧综合网| 丁香色情五月综合激情| 久热99| 激情久久久久久| 激情丁香九九五月综合网| 99日视频在线| 日本婷婷| 九九www| www.婷婷五月| 欧美啪啪五月天| 5月丁香啪啪啪| 亚洲9久久精品| 丁香六月无码| 久久黄色片| 婷婷丁香成人在线视频| 精品一二三区久久AAA片| 激情五月图| 大香蕉520| 伊人干综合| 99热亚洲精品| 五月丁香久久色| 婷婷综合在线| 大香蕉娱乐| 综合婷婷都市激情| 国产免费av在线| 99色视频| 男人天堂99| 久久曰曰| 性韩日色婷婷五月天激情啪啪XXX| 综合AV在线| 日本久久高清| 天天天天干| 色综合xx| 91919191919久久成人视频| 偷拍视频五月天| 亚洲中文字幕在线观看| 丁香五月在线观看完整版| 七七久久综合| 少妇搡BBBB搡BBB搡毛茸茸 | 婷婷丁香激情综合色情| 色欧洲| 五月丁香WWW| 99ER热精品视频| 五月色精品| 五月婷中文娱乐综合| 丁香五月欧美午夜视频| 四虎成人精品永久免费AV九九| 成人丁香五月天| 亚洲色五月| 可以免费观看的av| 五月天激情小说婷婷基地| 五月婷中文娱乐综合| 伊人玖玖网| 久久婷婷热| 色五月大香蕉| 伊人久久丁香婷婷六月五月综合| 99久久久精品| 色七七九九| 99惹在线精品免费观看| 99原创自拍视频在线观看| 日韩在线婷婷五月天综合| 五月久久网| 久色激情| 丁香5月婷婷| 婷婷刺激综合| 女人天堂AV| 五月噜噜| 久久综合播放| 婷婷五月天福利| 五月天婷爱综合| 色婷婷综合丁香五月天| 超碰人人草| 秋霞电影理论| 538任你爽视频不一样的| 思思久久精品| 久久久99精品| www.婷婷.com| 99精品偷自拍| 婷香五月激情视频| 久久久久久久综合狠狠综合| 超碰操日| 操碰99| 丁香五月激情综合网激情五月| 1囯产午夜仑鲁鲁| 婷婷五月激情五月激情| 久久这里99| 182TV大香蕉| 国产精品VIDEOSSEX久久发布| 综合色五月天| 久久五月婷综合网| 狠狠操天天日| 天天射综合网夜夜操| 丁香婷婷激情网站| 婷婷五月天无码| 天天精品视频免费观看| 五月丁香婷爱在线| 久久99热免费最新版| 在线观看亚洲AV| 99爱在线免费视频| 激情五月天在线视频| 99精品国产在热久久| 成人婷婷色综合| AA久久| 久久3p| 五月婷婷六月色| 九九re精品视频在线观看| 五月天国产| 亚洲精品另类| 天天色色天天| 91人人爽久久涩噜噜噜| 性爱AV天堂| 五月天婷婷色色首页| 婷婷综合在线| 天天日夜夜拍| 天天干天天日天天插| 婷婷五月色影视先锋| 疯狂做受XXXX高潮A片| 中文在线视频久1| 久久人妻视频| 天天色粽合合合合合合合| 婷婷五月六月| 5月色婷婷| 五月婷婷激情综合视频| 丁香美女五月天婷婷| 97综合在线| 亚洲黄网AV| 嫩草视频观看| 99免费热在线精品| 天天拍夜夜爽日日| 久久免费丁香| 婷婷色网站| 夜夜www| 99久久玖玖| 五月婷婷激情久久| 天天激情站| 2017狠狠干| VA色婷婷| 色色色色网站| 亚洲AAA| 婷婷综合激情| av在线免费网站| 99热在线极品极品| 婷婷五月丁香五月| 婷婷激情五月色综合| 色综合播放| 色婷婷久久| 91综合在线视频| 69精品人人人人| 狠狠综合| 99九九在线精品热动漫| 这里只有精品在线视频在线观看| 久久久区区一久久久久久| 开心婷婷五| 欧美日韩91| 97九色视频| 日韩AV中文字幕在线| www.ywav| 九九热123| 淫视馆aV二区一区| 91丨九色丨白浆秘| 播五月开心婷婷欧美综合| 婷婷五月天激情丁香| 久久这里只有精品视频26| 国产永久一二一起草| www.色五月| 婷婷综合色| 成人 在线 日韩| 激情婷婷久久| 91精产品自偷自偷综合| 久久综合婷| 久久精彩视频99| 黄色激情网站在线观看| 欧美成人AAA片一区国产精品| 色婷婷亚洲婷婷| 久久久网站| 九九碰九九爱97| 欧美日韩成人在线| 99视频在线| 99碰碰| 五月天婷婷影院| 天天射美女| 色五月91| 九九久久精品| 婷婷大香蕉| 97色碰| 亚洲天天| 99热这里| 五月丁香婷婷成人网| 五月天婷婷在线AN| 少妇激情五月天| 久久这里只有精品8| AVDV久久| 色综合五月| 九九人人操| 久色网| 成人精品一区日本无码网| 久色激情| 专区无日本视频高清8| A片试看50分钟做受视频| 婷婷色综合| 欧美性生交XXXXX无码小说| 色情成人五月天| 九九在线精品| 成人精品一区日本无码网| 日产精品久久久久久久蜜臀| 四川女人毛多水多A片| 婷婷五月激情四射手| www.婷婷五月.com| 五月婷婷九九久久| 六月婷婷久久| 成人Av在线大片| 97久久超碰| 丁香婷婷五月天校园春色| 最新激情五月天| 婷婷五月激情在线| 天天插综合| AV色婷婷| 超碰99在线观看| 99性爱| 风流少妇A片一区二区蜜桃 | 激情六月天婷婷| 久久久五月天| 国产肥白大熟妇BBBB视频| 黄网在线免费观| 日本波多野结衣视频| 亚洲激情五月| 亚洲色婷婷五月天| 人妻人人操| 婷婷国产日本欧美| 久久A区B区| 蜜臀99精品| 丁香六月在线| 日日操夜夜擼| 中文字幕亚洲-区久久99婷婷| 五月婷婷人人人操| 丁香五月色| 日日射天天射| 这里只有精品视频在线| 99久久6| 亚洲V国产V欧美V久久久久久| 色综啪啪啪啪啪啪| 亚洲综合久| 狠狠人妻久久久久久综合丁香| 激情综合网五月激情| 99日本黄站| 极品人妻VIDEOSSS人妻| 日操夜操天天操不卡| 99人人操人人操人人精| caop在线视频| 日批在线看| 99热亚洲| 久久人妻视频| 久久五月婷综合网| 色五月综合激情| 精品九九视频| 九九热re99re6在线精品| 久久久网站| 亚洲成人AV一区在线观看| www.99热视频| 久久这里只有精品视频26| 天天色天天操天天射| 丁香六月婷| 91九色超碰| 综合久久综合| 久久 这里只有精品1| 色婷婷六月天| 欧美私人家庭影院| 婷婷久久免费| 综合五月天亚洲婷婷| 五月天久久综合婷婷丁香| 日韩九区| 五月婷婷香蕉| 亚州操操| www开心激情网| 99免费视频| 国产精品久久久久9999小说| 3p久久| 婷婷五月天激情小说网站| 日本色天堂| 久久婷婷五月综合网| 欧美久热| 五月综合无码| 极品人妻VIDEOSSS人妻| 99精品高潮| 九九热这里只有精品12| 欧美激情综合色综合啪啪五月| 99国产精品白浆在线观看免费| 婷婷五月综合色拍| 日本激情五月| 丁香九月综合| 在线视频九色97| 国产成人网站在线观看| 五月天六月婷婷电影| 五月激情站| 嘿嘿视频免费看9| 思思久ren热| 伊人玖玖精品| 日韩不卡123| 五月丁香综合激情在线观看| 少妇人妻人伦A片| 丁香五月-激情综合| 色色综合成人网| 丁香久久| 国产真实乱对白精彩| 五月丁香激情综合网| 婷婷午夜天| 男女啪啪做爰高潮无遮挡 | 色小说婷婷五月天天天| 97色色网| 日韩黄在免| 日木狠狠干| 婷婷激情六月综合| 九月丁香网婷婷| 99小精品| 中文字幕在线免费观看视频| 婷婷综合在线视频| 色色色色av777| 九九香蕉网| 丁香伊人网| 五月婷婷在线播放| 日韩成人中文| 77799热| 九九碰九九爱97| 91人碰| 五月丁香六月婷婷视频| 婷婷五月天久久久| 丁香色六月婷婷| 99爱在线视频| 久久久久久久久月丁| 亚洲亚洲激情| 9久热在线视频精品| 黄色aa观看aaguochan| 丁香综合伊人AV| 色区久久| 伊人91| 玖玖色综合网| 噜噜色五月| 野战毛片三一3| 日本久碰| 另类图片婷婷五月天| 日本熟妇乱妇熟色A片蜜桃| 国产激情久久| 五月激情啪啪啪| 四色五月视频| 可以观看的AV| 丁香五月天久久| 亚洲综合色丁香五月天| 九九热在线精品视频| 五月婷婷深深的爱| 久久婷婷五月天懂色| 七月激情六月婷婷综合在线播放| 六月丁香影院| 日本久久激情| 久色网五月| 亚洲无AV在线中文字幕| 人人人人人人人人人草| AA丁香综合激情| 天天插天天玩天天干| 五月天色丁香| 26uuu视频欧美| 婷婷激情六月| 色色色干| 91碰视频| 色五月综合| 婷婷金品综合视频| 无码色色色色色| 成人丁香五月天| 另类激情五月天。| 丁香五月婷婷色| 九九热视频网站| 欧美性猛交99久久久久99按摩| 激情伊人六| 久99婷婷色综合| 丁香五月色五月婷婷宗合| 久久久天堂国产精品女人| 五月激情婷婷女| 9久热视频| 五月天久久91| 中文字幕av亚洲| 日韩人妻无码专区| www.日本久久videos| 大香蕉久久| 日日干夜夜撸夜夜骑| 五月丁香婷婷欧美色图视频五月丁香777电影 | 亚洲丁香五月天视频| 久久影视婷婷五月| 五月天婷婷成人网| 激情丁香久久久久久| 午夜九九九九九九九九九九九九九| 综合久久综合久久| 色婷婷www| 五月婷婷播| 久在线88综合| 丁婷婷五月天在线播放| 九月av在线| 五月丁香啪啪综合| sS丁香五月婷婷| 国产熟妇乱子伦hd| 久久久久久性爱视频| 人橾人| 九九久久精品| 五月色婷婷影视在线电影| 色天使色综合| 色婷婷五月天激情在线观看| 日本久久视频| 丁香六月天| 激情九九这里只有精品| 无码色综合| 91性高潮久久久久久久久| 五月天另类综合网| 五月婷婷婷色| 99久在线观看| 亭亭玉立国色天香| 大香蕉伊人丁香五月| 日本色爽| 超碰免费在线| 97碰碰九九视频| 五月丁香激情综合啪啪| 亚洲一色色色色色色色色| 婷婷五月天久草在线| 激情图片五月天| 99热亚洲| av操逼网| 欧美性猛交99久久久99| 欧韩性爱| 亚洲一区二区 成人网站戴套| 色色五月天网站| 最新五月天婷婷影| 色婷婷人人| 午夜丁香婷婷| 色婷婷五月天视频在线| 丁香色色色| 婷婷丁香六月天| 日本三久久| 三十路磁力链接| 偷拍91九色| 色五月婷婷网| 99在线免费视频| 66精品国产成人| 果冻传媒A片一二三区| 婷婷射综合| 九玖欧洲亚洲| 99精品视频偷拍| 麻豆AV一区二区三区| 97九色视频| 激情五月伊人婷婷| 欧美碰碰碰| 婷婷激情九月| 五月天伊人手机在线播放AV| 五月丁香六月激情综合| 青青久在线视频免费观看| 香蕉人在线香蕉人在线 | 婷婷五月天成人动漫 | 中文字幕高清av| 天天日天天插| 五月综合六月婷婷| 92久久| 国产高清视频91九九九久久久| 色情综合| 丁香婷婷噜噜| 一夜福利不卡| 超碰男人色| 五月婷婷激情啪啪| 97人人干| 五月婷婷激情五月| 婷婷五月综合欧美在线播放| 毛片新网地| 日本久久色| 天天色天天日| 五月婷婷六月丁香玖玖玫瑰91| 色色色精品无码区| 激情九月天天天天婷婷| 亚洲天堂婷婷| 这里只有精彩视频| 婷婷五月综合啪| 婷婷五月色花丁香社区| 超碰不卡在线| 丁香啪啪中文字幕| 亚洲男女激情| 性色天| 一级A片天天操夜夜操| 99精色| 日韩在线99| 五月婷无码| 亚洲av免费在线| 婷婷综合精品视频97| 丁香六月 婷婷六月| 玖玖爱综合网| 亚洲xx在线| AV九九| 五月激情视频| 狠狠高潮精品亚洲1| 婷婷五月激情片| 大功率国产在线| 另类激情五| 丁香五月婷综合| 成人国产欧美大片一区| 色99视频| 五月婷婷AV| 五月色综合| 亚洲丁香五月在线观看| 色五月天天| 性韩日色婷婷五月天激情啪啪XXX| 婷婷久久性爱| 狠狠久久婷五月综合色| 国产毛多水多女人A片| 人妻久久久久久久| 久久伊人9| 婷婷丁香十月| 99re这里只有精品视频了| 五月天婷五月天综合网在线观| 色愛综合网| 五月婷婷导航| 热99一二三| www.99操.com| 婷婷综合中文| 亚洲天堂婷婷丁香| 丁香五月婷婷啪啪| 120分钟婬片免费看| 日韩久热| 成人电影在线免费试看| 裸体美女丁香五月天。| 啪啪亚洲综合| 六月婷婷狠狠色在线观看| 亚洲色婷婷色| 色吧五月| 色v综合网| 五月天婷婷綜合院| 色婷婷久久综| 中文字幕网站在线观看| 91日精品| 久久图色4| 九九精品re免费视频| 亚洲不卡123| 人人人操 超碰| 国产SUV精品一区二区6| 精品成人无码A片观看香草视频| 五月丁香777| 五月婷丁香| 中文AV网|