欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Matlab實(shí)現(xiàn)GA-XGBoost回歸預(yù)測與SHAP可解釋分析完整方案

Matlab實(shí)現(xiàn)GA-XGBoost回歸預(yù)測與SHAP可解釋分析完整方案 簡介本資源是一套面向科研人員與工程實(shí)踐者的MATLAB智能建模工具包聚焦于XGBoost回歸模型的參數(shù)優(yōu)化、可解釋性分析與實(shí)際預(yù)測應(yīng)用。針對傳統(tǒng)XGBoost超參數(shù)調(diào)優(yōu)依賴經(jīng)驗(yàn)、特征貢獻(xiàn)難以量化的問題資源集成遺傳算法GA自動尋優(yōu)、SHAP值深度解釋及新樣本預(yù)測全流程適用于環(huán)境監(jiān)測、工業(yè)預(yù)測、金融風(fēng)控等需高精度與強(qiáng)可解釋性的回歸任務(wù)。壓縮包共47個文件含13個核心MATLAB腳本如main.m、GA.m、shapley_function.m、4個Excel數(shù)據(jù)集含訓(xùn)練數(shù)據(jù)與預(yù)測結(jié)果、22張可視化圖表擬合圖、誤差分布、蜂群圖、雷達(dá)圖等以及C編譯依賴文件與詳細(xì)運(yùn)行說明整體56.52MB。目前已有157人學(xué)習(xí)下載提供從數(shù)據(jù)預(yù)處理→GA優(yōu)化→XGBoost建模→SHAP解釋→多維可視化的完整閉環(huán)代碼所有模塊解耦清晰、注釋詳盡支持開箱即用與二次開發(fā)。 做回歸預(yù)測的同行肯定都有體會模型效果是一關(guān)解釋性是另一關(guān)兩個都做到位才算真正能交付。我去年在做一個工業(yè)過程參數(shù)預(yù)測項(xiàng)目時用XGBoost精度雖然不錯但超參數(shù)調(diào)起來極其費(fèi)勁而且模型像個黑箱業(yè)務(wù)方拿著預(yù)測結(jié)果也不敢直接拍板。后來我把遺傳算法和SHAP加了進(jìn)去在Matlab里把整條流水線串起來形成了這套“GA-XGBoost回歸SHAP分析新數(shù)據(jù)預(yù)測”的完整方案。從超參數(shù)尋優(yōu)到模型訓(xùn)練再到對新樣本預(yù)測和解釋每一個預(yù)測值每步都有章可循而且數(shù)據(jù)、代碼都在本地可復(fù)現(xiàn)。這篇文章就是這套方案的完整復(fù)盤。我會從方案選型、環(huán)境準(zhǔn)備、核心代碼實(shí)現(xiàn)、SHAP可解釋性分析到實(shí)際問題排查把整個過程捋一遍。如果你正在用Matlab做回歸預(yù)測受困于手動調(diào)參、模型不好解釋或者想把“訓(xùn)練-預(yù)測-解釋”串成一套自動化流程這篇文章應(yīng)該能幫你省下不少試錯時間。1. 方案整體設(shè)計(jì)為什么把GA和SHAP加到XGBoost上1.1 XGBoost精度高但超參數(shù)調(diào)起來是真麻煩XGBoost在結(jié)構(gòu)化數(shù)據(jù)回歸上的能力不需要多吹業(yè)界早就驗(yàn)證過了。它本質(zhì)上是梯度提升決策樹的進(jìn)階版本通過不斷擬合上一輪殘差用一堆弱學(xué)習(xí)器組合成一個強(qiáng)回歸器。相比傳統(tǒng)隨機(jī)森林XGBoost引入了二階導(dǎo)數(shù)、正則化項(xiàng)、特征列采樣和近似直方圖算法所以在精度和泛化上都有明顯優(yōu)勢。但問題在于它的超參數(shù)空間非常龐大。稍微數(shù)一下就有l(wèi)earning_rate、max_depth、min_child_weight、subsample、colsample_bytree、reg_alpha、reg_lambda等等。這些參數(shù)之間還有交互作用比如max_depth大一些可能就需要把learning_rate調(diào)小subsample太高可能導(dǎo)致過擬合調(diào)太低又欠擬合。手動一個個試不僅效率低而且很容易陷進(jìn)局部最優(yōu)。用網(wǎng)格搜索呢參數(shù)組合是爆炸式增長我遇到過一組三參數(shù)網(wǎng)格搜索跑了一整夜都沒跑完的經(jīng)歷更別說七參數(shù)同時調(diào)了。所以在工程上超參數(shù)尋優(yōu)一般交給智能優(yōu)化算法。我選遺傳算法GA而不是貝葉斯優(yōu)化或者粒子群原因是GA實(shí)現(xiàn)相對直觀而且Matlab自帶的Global Optimization Toolbox里有現(xiàn)成的ga函數(shù)不需要額外裝包。GA的思想簡單說就是模擬自然選擇先隨機(jī)生成一批參數(shù)組合作為“個體”用交叉驗(yàn)證結(jié)果算適應(yīng)度然后通過選擇、交叉、變異一代代進(jìn)化最后收斂到一組比較優(yōu)秀的超參數(shù)。它不依賴梯度信息對XGBoost這種非連續(xù)、非光滑的目標(biāo)函數(shù)特別友好。1.2 SHAP讓黑箱回歸模型有了透明的解釋模型訓(xùn)練完業(yè)務(wù)方第一個問題往往不是“精度多少”而是“哪些因素影響了預(yù)測結(jié)果這個預(yù)測值憑什么這么高”如果回答不上來再好的模型也難落地。XGBoost雖然自帶feature_importance但它只能給一個粗粒度的特征重要性排序無法解釋單個樣本的預(yù)測值是怎么構(gòu)成的。SHAPSHapley Additive exPlanations解決的就是這個問題。它源于博弈論中的Shapley值把每個特征想象成合作博弈中的一個“玩家”通過計(jì)算每個玩家在不同組合下的邊際貢獻(xiàn)公平地分配總預(yù)測值給各個特征。在回歸模型里SHAP值表示某個特征對預(yù)測結(jié)果貢獻(xiàn)的正負(fù)和大小正數(shù)表示把預(yù)測值往上推負(fù)數(shù)則往下拉。相比LIME這類局部解釋工具SHAP有堅(jiān)實(shí)的數(shù)學(xué)基礎(chǔ)而且全局一致性好。對XGBoost這種樹模型還有專門的TreeExplainer計(jì)算效率極高不用采樣就能算出精確的SHAP值。我用下來最大的感受是SHAP能把“模型為什么預(yù)測成這樣”這個問題從只能講“大概這個特征重要”推進(jìn)到“這個樣本因?yàn)锳特征高、B特征低所以預(yù)測值偏高”這完全是兩種說服力。1.3 整體技術(shù)棧Matlab調(diào)用Python兩邊優(yōu)勢都吃滿標(biāo)題里直接寫了Matlab那就得說清楚一個現(xiàn)實(shí)Matlab原生并沒有XGBoost和SHAP的官方工具箱。網(wǎng)上有人用fitcensemble之類的方法模擬XGBoost但本質(zhì)不是一回事很多參數(shù)和特性都沒有。真正成熟的方案是Matlab調(diào)用Python讓Python環(huán)境負(fù)責(zé)xgboost、shap這些庫Matlab負(fù)責(zé)數(shù)據(jù)預(yù)處理、遺傳算法尋優(yōu)、結(jié)果可視化和工程調(diào)度。好處很明顯。機(jī)器學(xué)習(xí)生態(tài)最強(qiáng)的庫都在Python這邊而Matlab在數(shù)據(jù)處理、矩陣運(yùn)算、圖形可視化以及很多傳統(tǒng)工程領(lǐng)域有不可替代的價值。兩者通過Python接口打通等于同時拿了兩邊的長處。我們項(xiàng)目里前端界面和數(shù)據(jù)處理都在Matlab里做模型訓(xùn)練和解釋調(diào)用Python庫整個流程對終端用戶完全透明。需要提醒的是這種方式要求電腦上同時裝好Matlab和Python環(huán)境并且版本要匹配。我在2.1節(jié)會給出具體的配置步驟。2. 環(huán)境準(zhǔn)備與數(shù)據(jù)工程先踩平這些坑2.1 環(huán)境搭建Matlab調(diào)用Python的3個關(guān)鍵步驟環(huán)境這一塊我在最開始折騰了不少時間。最主要的坑就是Matlab內(nèi)置的Python版本和系統(tǒng)Python不一致或者庫裝到了不同環(huán)境里結(jié)果調(diào)用的時候報(bào)ModuleNotFoundError。所以第一步一定要在Matlab里用pyenv確認(rèn)當(dāng)前加載的Python解釋器路徑。% 查看當(dāng)前Python環(huán)境 pyenv % 如果路徑不對手動指定系統(tǒng)Python % pyenv(Version, D:\ProgramData\Python\Python311\python.exe)指定好之后需要確認(rèn)Matlab能正常導(dǎo)入Python庫。我一般習(xí)慣在命令行里敲一行py.importlib.import_module(numpy); py.importlib.import_module(xgboost); py.importlib.import_module(shap); disp(Python環(huán)境OK);如果某個庫沒裝回到系統(tǒng)命令行用pip install xgboost shap numpy pandas補(bǔ)上。這里要注意如果你的Python是Anaconda環(huán)境最好在conda環(huán)境里裝好后再把Matlab的pyenv指向這個環(huán)境的python.exe否則極容易出現(xiàn)版本錯亂。另外一個容易忽略的點(diǎn)是Matlab R2021b之前和之后對Python版本的支持差異不同新版Matlab支持更新的Python版本。裝Python時不要裝太新比如某些庫還沒適配也不要太舊Matlab可能不支持。我測試過Python 3.9到3.11都能比較好地和xgboost、shap配合。2.2 數(shù)據(jù)準(zhǔn)備與預(yù)處理歸一化參數(shù)必須保存數(shù)據(jù)和預(yù)處理是整個流程的地基。以我當(dāng)時做的工業(yè)過程數(shù)據(jù)為例特征有溫度、壓力、轉(zhuǎn)速、進(jìn)料流量等十幾個維度目標(biāo)是一個質(zhì)量指標(biāo)。原始數(shù)據(jù)量約2000條樣本。這種量級下XGBoost訓(xùn)練很快GA尋優(yōu)也扛得住。數(shù)據(jù)文件我習(xí)慣用CSV格式Matlab用readtable讀進(jìn)來。預(yù)處理主要做三件事去缺失值、去異常值、特征歸一化。對于XGBoost其實(shí)特征歸一化不是必須的因?yàn)闃淠P蛯μ卣鞒叨炔幻舾械绻粴w一化后續(xù)SHAP解釋時不同特征的量綱差異會影響圖的觀感所以我一般還是會把特征歸一化到均值為0、方差為1或者縮放到[0,1]區(qū)間。更重要的是歸一化的均值和標(biāo)準(zhǔn)差必須在訓(xùn)練集上計(jì)算然后把同一組參數(shù)保存下來后續(xù)處理新數(shù)據(jù)時再調(diào)用。這一步很多人會漏導(dǎo)致新數(shù)據(jù)預(yù)測時歸一化不一致結(jié)果完全失真。我項(xiàng)目里直接用Matlab的mapminmax或手動計(jì)算mean/std并保存到mat文件后面預(yù)測時加載。% 讀取數(shù)據(jù) data readtable(industrial_process_data.csv); % 分離特征和標(biāo)簽 features data{:, 1:end-1}; target data{:, end}; % 用訓(xùn)練集計(jì)算歸一化參數(shù) xmean mean(features); xstd std(features); features_norm (features - xmean) ./ xstd; save(data_scaler.mat, xmean, xstd);然后劃分訓(xùn)練集、驗(yàn)證集和未來的新數(shù)據(jù)預(yù)測集。這里的新數(shù)據(jù)預(yù)測集是模擬未來線上進(jìn)來一批新樣本只有特征沒有標(biāo)簽需要用到訓(xùn)練好的模型去預(yù)測。劃分的時候要注意隨機(jī)種子固定保證實(shí)驗(yàn)可復(fù)現(xiàn)。3. 核心實(shí)現(xiàn)GA優(yōu)化XGBoost回歸模型的完整流程3.1 目標(biāo)函數(shù)與適應(yīng)度設(shè)計(jì)遺傳算法優(yōu)化的核心是目標(biāo)函數(shù)也就是給一組超參數(shù)返回模型表現(xiàn)好壞。這里我用的評價指標(biāo)是K折交叉驗(yàn)證的負(fù)均方根誤差NRMSE或者直接取均方根誤差RMSE的相反數(shù)因?yàn)間a函數(shù)默認(rèn)是求最小值。目標(biāo)函數(shù)的輸入是GA種群中的一個個體也就是一組超參數(shù)。我需要定義編碼方式通常是給GA傳入變量邊界和整數(shù)約束。比如我想優(yōu)化的超參數(shù)有5個learning_rate0.01~0.3浮點(diǎn)數(shù)max_depth3~10整數(shù)min_child_weight1~10整數(shù)subsample0.5~1.0浮點(diǎn)數(shù)colsample_bytree0.5~1.0浮點(diǎn)數(shù)目標(biāo)函數(shù)里要做的事情是把這些參數(shù)傳給Python的xgboost訓(xùn)練函數(shù)完成K折交叉驗(yàn)證返回平均RMSE作為適應(yīng)度值。function rmse ga_xgb_fitness(params) % params: [lr, max_depth, min_child_weight, subsample, colsample_bytree] lr params(1); max_depth round(params(2)); min_child_weight round(params(3)); subsample params(4); colsample_bytree params(5); % 將Matlab數(shù)組轉(zhuǎn)換為Python列表 X_train_py py.numpy.array(py.numpy.asarray(training_features)); y_train_py py.numpy.array(training_target); % 調(diào)用Python函數(shù)執(zhí)行訓(xùn)練和交叉驗(yàn)證 cv_rmse py.main.xgb_cv_eval(X_train_py, y_train_py, ... lr, lr, max_depth, max_depth, ... min_child_weight, min_child_weight, ... subsample, subsample, colsample_bytree, colsample_bytree); rmse double(cv_rmse); endPython側(cè)對應(yīng)的xgb_cv_eval函數(shù)基本就是一個標(biāo)準(zhǔn)的train加cv組合。在實(shí)際寫代碼時我用Matlab的ga函數(shù)設(shè)置種群大小30最大代數(shù)20這在小數(shù)據(jù)量下幾分鐘就能跑完。種群太小容易早熟太大則非常耗時。參數(shù)邊界需要根據(jù)經(jīng)驗(yàn)設(shè)得合理一些比如max_depth如果允許到20模型很容易過擬合且訓(xùn)練速度慢一般3~10就夠了。3.2 用交叉驗(yàn)證評估每組超參數(shù)跑通GA主流程GA尋優(yōu)的主流程其實(shí)不長。核心是定義變量邊界和整數(shù)索引然后調(diào)用ga。這里有一個容易被忽視的細(xì)節(jié)目標(biāo)函數(shù)不能在Matlab的并行池里調(diào)用Python對象否則容易導(dǎo)致Python環(huán)境不穩(wěn)定。所以我建議GA尋優(yōu)期間不要開并行或者在parpool之前先確認(rèn)Python接口沒問題。% 定義參數(shù)邊界 lb [0.01, 3, 1, 0.5, 0.5]; ub [0.3, 10, 10, 1.0, 1.0]; IntCon [2, 3]; % max_depth 和 min_child_weight 是整數(shù) % 調(diào)用遺傳算法 options optimoptions(ga, ... PopulationSize, 30, ... MaxGenerations, 20, ... Display, iter, ... UseParallel, false); [best_params, best_rmse] ga(ga_xgb_fitness, 5, [], [], [], [], lb, ub, [], IntCon, options);跑完之后把最優(yōu)參數(shù)保存下來。先不要急著訓(xùn)練最終模型而是用最優(yōu)參數(shù)在完整訓(xùn)練集上訓(xùn)練并在測試集上做一次驗(yàn)證確保泛化能力。此時RMSE一般會比交叉驗(yàn)證的均值好或者相近如果差太多說明數(shù)據(jù)劃分或隨機(jī)種子有問題。訓(xùn)練最終模型時我會把Python側(cè)的訓(xùn)練函數(shù)封裝好在Matlab里包一層。這里的關(guān)鍵是numpy數(shù)組在Matlab和Python之間的類型轉(zhuǎn)換。Matlab里的double矩陣要轉(zhuǎn)成Python能接受的形式用py.numpy.array(py.numpy.asarray(data))通常是可以的。但如果數(shù)據(jù)是表格類型或者存在NaN就要先清理干凈否則Python那邊直接報(bào)錯。3.3 新數(shù)據(jù)預(yù)測流程加載模型、特征對齊、反歸一化新數(shù)據(jù)預(yù)測是這套流程的出口。寫代碼時一定要把預(yù)測封裝成一個函數(shù)這樣以后每來一批新數(shù)據(jù)只需要調(diào)用一次。我這里寫了一個predict_new_data.m做的事情是加載訓(xùn)練階段保存的歸一化參數(shù)xmean和xstd加載最優(yōu)模型文件Python側(cè)把模型保存為json格式讀入新數(shù)據(jù)的特征按同樣的順序?qū)R列做同樣的歸一化調(diào)用Python xgboost的predict接口得到歸一化預(yù)測值對預(yù)測值做反歸一化還原到真實(shí)量綱。不需要對預(yù)測值做歸一化嗎這里要注意如果訓(xùn)練target是原始值那么預(yù)測值直接就是原始量綱如果訓(xùn)練時也對target歸一化了那么預(yù)測值要反歸一化。我習(xí)慣上不對target歸一化因?yàn)闃淠P筒恍枰疫€能少一層麻煩。所以預(yù)測出來的值就是最終結(jié)果。function pred predict_new_data(model_path, new_features) load(data_scaler.mat, xmean, xstd); new_norm (new_features - xmean) ./ xstd; X_py py.numpy.array(py.numpy.asarray(new_norm)); model py.xgboost.Booster(); model.load_model(model_path); dnew py.xgboost.DMatrix(X_py); pred py.array.array(d, model.predict(dnew)); pred double(pred); end這里有個細(xì)節(jié)xgboost.Booster加載模型后再用DMatrix封裝特征。如果新數(shù)據(jù)特征順序和訓(xùn)練時不一致預(yù)測結(jié)果會完全亂掉。所以我在訓(xùn)練階段會把特征列名順序存成一個order.mat預(yù)測時按這個順序重新排列新數(shù)據(jù)的列。這也是很多新手踩坑最多的地方。4. SHAP可解釋性分析與結(jié)果解讀4.1 全局解釋用SHAP值看哪個特征真正驅(qū)動預(yù)測模型訓(xùn)練好之后SHAP閃亮登場。這塊我分成全局和局部兩個層面。全局層面是看所有樣本的平均特征貢獻(xiàn)。使用shap.TreeExplainer傳入訓(xùn)練好的模型然后計(jì)算整個訓(xùn)練集或測試集的SHAP值矩陣最后畫summary plot也就是那個經(jīng)典的蜜蜂圖。import shap import xgboost as xgb import numpy as np import matplotlib.pyplot as plt model xgb.Booster() model.load_model(best_model.json) X np.loadtxt(train_features_norm.csv, delimiter,) explainer shap.TreeExplainer(model) shap_values explainer.shap_values(X) shap.summary_plot(shap_values, X, feature_namesfeature_names, showFalse) plt.savefig(shap_summary.png, bbox_inchestight)SHAP值矩陣的維度是樣本數(shù) × 特征數(shù)每行代表一個樣本每個值代表該特征對該樣本預(yù)測值的貢獻(xiàn)。summary plot中橫軸是SHAP值正負(fù)代表方向顏色代表特征值高低。如果一個特征在高值時SHAP值為正說明這個特征與目標(biāo)正相關(guān)反之則負(fù)相關(guān)。從這片圖里能直接看出業(yè)務(wù)上的關(guān)鍵驅(qū)動因素。比如我們項(xiàng)目里“熔爐溫度”特征的SHAP值范圍最大說明它對目標(biāo)指標(biāo)的影響最強(qiáng)而“冷卻水流量”主要是負(fù)向影響流量越高目標(biāo)值越低。這種信息對于工藝調(diào)整非常有價值。4.2 局部解釋單個新數(shù)據(jù)的預(yù)測值是怎么算出來的光有全局解釋還不夠?qū)γ恳粋€新預(yù)測樣本我一般還會生成一個force plot或者waterfall plot把預(yù)測值拆解給業(yè)務(wù)方看。比如某天來了一個新樣本模型預(yù)測質(zhì)量指標(biāo)是86.5那就可以解釋為基準(zhǔn)值大概是72這個樣本的“熔爐溫度”偏高把預(yù)測值推高了8.2“進(jìn)料流量”中等偏高推高了4.1“雜質(zhì)含量”偏低貢獻(xiàn)了-2.3最后得到86.5。這樣一來預(yù)測就不再是一個無源可溯的數(shù)字了。在實(shí)際代碼中我會把單個樣本的SHAP值保存到Excel表格里同時生成waterfall圖。single_row X[0].reshape(1, -1) shap.waterfall_plot(shap.Explainer(model)(single_row), showFalse) plt.savefig(shap_waterfall.png, bbox_inchestight)waterfall圖放在報(bào)告里很直觀。上面是最終預(yù)測值往下逐步分解每個特征的貢獻(xiàn)。Matlab端可以把生成的圖片直接顯示到figure窗口也可以嵌入到自動生成的Word/Excel報(bào)告中。4.3 模型診斷SHAP還能當(dāng)異常檢測工具用這是我自己摸索出來的一個用法SHAP值不僅能解釋還能輔助模型監(jiān)控和異常檢測。當(dāng)新數(shù)據(jù)的某條預(yù)測結(jié)果嚴(yán)重偏離預(yù)期時我會計(jì)算它的SHAP值然后和訓(xùn)練集所有樣本的SHAP值分布比較看看是不是某個特征的SHAP值特別極端。比如工業(yè)數(shù)據(jù)里經(jīng)常出現(xiàn)傳感器漂移溫度讀數(shù)失真。這種樣本喂給模型預(yù)測值往往很怪但僅從預(yù)測值本身看不出來是輸入數(shù)據(jù)有問題還是模型失效。用SHAP加一個特征貢獻(xiàn)對比如果一個特征的SHAP值遠(yuǎn)超訓(xùn)練集的正常范圍多半就是輸入數(shù)據(jù)可疑。這個方法我在兩個項(xiàng)目里都真正用上了能提前抓住幾批有問題的數(shù)據(jù)避免錯誤預(yù)測流到下游系統(tǒng)。5. 常見問題與排查技巧實(shí)錄5.1 GA收斂慢或陷入局部最優(yōu)怎么辦GA跑起來最惱火的不是慢而是跑到十幾代之后適應(yīng)度曲線基本平了找到的參數(shù)仍然不理想。這種情況我遇到幾次主要原因有三個一是種群大小太小我一開始用20后面調(diào)成4060效果明顯改善。二是參數(shù)范圍定得太窄導(dǎo)致最優(yōu)解不在搜索范圍內(nèi)。比如我把learning_rate上限設(shè)為0.3實(shí)際最優(yōu)解可能在0.05附近雖然在里面但隨機(jī)初始種群如果都落在0.2附近就很難探索到低學(xué)習(xí)率區(qū)域。三是交叉和變異概率不匹配Matlab默認(rèn)參數(shù)一般沒問題但如果發(fā)現(xiàn)早熟可以降低交叉比例、適度提高變異比例或者使用自適應(yīng)變異。另一個實(shí)用技巧是先用粗糙的GA跑一輪找到較好的參數(shù)區(qū)域后縮小邊界再跑一輪。這種“二次精搜”比一次加大種群更高效我實(shí)測能節(jié)省一半以上的計(jì)算時間。5.2 Matlab與Python數(shù)據(jù)類型轉(zhuǎn)換的經(jīng)典報(bào)錯在Matlab里調(diào)用xgboost時最常見的報(bào)錯是“Python argument types did not match”或者“Unable to resolve the name py.xgboost.Booster”。前者多半是數(shù)據(jù)類型沒轉(zhuǎn)對后者多半是Python庫沒裝好或路徑?jīng)]配對。數(shù)據(jù)轉(zhuǎn)換上我總結(jié)了一個簡單規(guī)則凡是傳給Python的數(shù)據(jù)一律用py.numpy.array(py.numpy.asarray(data))。如果是目標(biāo)向量建議用一維數(shù)組如果是特征矩陣確保是二維。Matlab里的矩陣是列優(yōu)先存儲Python的numpy是行優(yōu)先但在通過py.numpy.asarray轉(zhuǎn)換時通常能自動處理維度只有當(dāng)矩陣是稀疏矩陣或包含NaN/Inf時才會出問題。如果碰到類型不對可以先用class(X_py)和py.type(X_py)檢查類型。另外字符串參數(shù)一定要轉(zhuǎn)成Python字符串。比如model.load_model(best_model.json)這里Matlab字符串對象會自動轉(zhuǎn)換但如果有多個參數(shù)可能需要用py.args顯式處理。5.3 SHAP計(jì)算慢或內(nèi)存溢出怎么辦TreeExplainer雖然快但當(dāng)樣本數(shù)和特征數(shù)都很大時計(jì)算整個數(shù)據(jù)集的SHAP值仍然會占不少內(nèi)存。我試過用2萬條樣本、80個特征的數(shù)據(jù)集一次性計(jì)算直接把內(nèi)存干爆了。解決辦法很簡單在計(jì)算全局SHAP值時先用k-means或者隨機(jī)采樣選一個背景數(shù)據(jù)集一般500~1000條足夠了。TreeExplainer支持傳入一個背景數(shù)據(jù)子集用來計(jì)算期望值。這樣不僅快結(jié)果也幾乎沒差別。如果要計(jì)算單樣本的SHAP解釋直接用該樣本本身的特征向量即可不涉及背景集計(jì)算量很小。X_background X[:500, :] # 或者隨機(jī)采樣 explainer shap.TreeExplainer(model, X_background) shap_values explainer.shap_values(X)5.4 新數(shù)據(jù)預(yù)測結(jié)果異常大概率是特征對齊問題預(yù)測階段最容易翻車的不是模型而是數(shù)據(jù)管道。比如新數(shù)據(jù)的列順序變了或者訓(xùn)練時的特征工程步驟沒有復(fù)用。我有一次因?yàn)榧恿艘粋€新特征訓(xùn)練時用了13個特征預(yù)測時只傳了12個結(jié)果xgboost直接報(bào)錯。還有一次是列順序變了模型沒報(bào)錯但預(yù)測結(jié)果明顯偏移排查了很久才發(fā)現(xiàn)是列順序錯了。所以我把特征列名的順序在訓(xùn)練階段固定保存下來預(yù)測前強(qiáng)制重新排序。另一個細(xì)節(jié)是新數(shù)據(jù)里的某個類別特征如果出現(xiàn)了訓(xùn)練時沒有的取值XGBoost可能無法處理。這種情況要么在訓(xùn)練前做類別編碼時保留一個“未知”類別要么在預(yù)測前做合法值檢查。附完整代碼結(jié)構(gòu)參考到這里這套流程的核心部分已經(jīng)全部講完了。我最后列一下我在Matlab工程里常用的代碼結(jié)構(gòu)方便你整體把握project/ ├── main_ga_xgb_train.m % 主訓(xùn)練腳本讀數(shù)據(jù)、GA尋優(yōu)、訓(xùn)練模型 ├── predict_new_data.m % 新數(shù)據(jù)預(yù)測函數(shù) ├── data/ │ ├── train_data.csv │ └── new_data.csv ├── lib/ │ ├── ga_xgb_fitness.m % GA目標(biāo)函數(shù) │ └── plot_shap.py % SHAP分析與畫圖腳本 ├── outputs/ │ ├── best_model.json │ ├── best_params.mat │ ├── data_scaler.mat │ └── shap_summary.png分享一個小技巧我習(xí)慣把Python側(cè)的可復(fù)用函數(shù)封裝到一個py文件里比如main.py然后在Matlab中通過py.main.func()調(diào)用。這樣比在Matlab里一行行拼Python代碼清晰得多也方便Python端單獨(dú)調(diào)試。項(xiàng)目上線后這個main.py基本上沒怎么改過所有改動都在Matlab側(cè)。這套方法我已經(jīng)在不止一個回歸預(yù)測場景里驗(yàn)證過了。個人最大的體會是GA-XGBoost加SHAP并不是“為了高級而高級”而是在精度、可解釋性和工程可維護(hù)性三者之間找到了一個很好的平衡點(diǎn)。如果你也在做類似的預(yù)測項(xiàng)目建議先拿小數(shù)據(jù)量把流程打通再慢慢放大前期多花半天調(diào)試環(huán)境后面能省下好幾個星期。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
丁香五月欧美色综合| 久操人妻| 疯狂做受XXXX高潮A片动画| 久久探花91swag| 欧美五月婷婷| 99热99热| 亚洲激情网| 日本理论久久| 婷婷五月天99| 国产精品美女| 色婷婷香蕉丁丁网| 少妇久久诱惑视频| 99热最新| 99色五月| 99视频在线观看网址| 中文字幕丰满孑伦无码专区| 99热 这里只有精品 国产 日韩| 久久久人妻门| 日本大人久久| 婷婷欧美激情| 六月丁香好婷婷| 大香蕉啪啪网| 色.五月综合网| 99re在线精品视频| 欧美婷婷五月| 91干婷婷| 色五月丁香激情| 日本精品99| 人妻日日日| 色五月激情五月丁香五月婷婷啪啪综合 | 亭亭色网| 婷婷五月激情六月| 任你爽在线视频| 伊人婷婷五月| 国产成人精品一区二三区熟女在线 | 五月天天堂久久| www激情com| 久久AV无码精品人妻系列试探| 综合久久五月天| 激情婷婷啪啪| 婷婷五月丁香成人网| 天天操天天日天天爽| 丁香六月婷婷综合激情欧美| 97九色视频| 久久久久人妻中文| 色婷婷aV四虎| 欧美xx激情视频在线观看| 免费视频WWW在线观看网站| 欧美久热| 在线视频另类| 视频综合网| 99色视频在线| 亚洲精品操一操、噜一噜、摸一摸、爽 | 色五月婷婷777| 天天上天天爽| 久久婷婷东京热| 人妻无码精品一区| 激情综合青草| 久久五月天网| 9视频在线成人网站| 91九色精品女同系列| 五月婷婷九| 五月天天堂久久| 人妻丰满精品一区二区A片| 色婷婷五月天偷拍| 日本va视频| 婷婷久久五月丁香| 曰韩五月丁香色婷婷无码| 五月丁香激情四射| 五月婷婷六月丁香在线| 99精品女人天堂| 天天干一干| 婷婷八月丁香激情综合| 青草激情在线| 六月丁香射婷婷欧美色图片| 色人久久| 成人在线日韩欧美| 五月九九综合| 欧美大片免费观看| 丁香五月性爱| 婷婷五月丁香六月| 天天操婷婷| 色婷婷五月基地在线| 91丨九色丨熟女|老版| 久久婷婷九月国产精品| 拍真实国产伦偷精品| 九九热re99re6在线精品| 欧美成人精品一区二区 | 激情五月黄色小说| 国産精品| WWW免费视频碰碰碰碰| 无码激情AAAAA片-区区| 色婷久久| 国产67194| 丁香成人视频| 日韩乱玛久久| 九九热在这里只有精品| 五月婷婷这里都是精品| 婷婷六月成人| 亚洲黄网AV| www婷婷| 天天插,天天射| 色另类五月天| 成年AAAA色情| 色五月成人婷婷| 色婷婷五月在线| 久久人视频| 婷婷丁香无码专区| 激情五月综合网丁| 蜜桃婷婷丁香综合久久开心亚洲| 亚洲字幕AV一区二区三区四区| www色五月| 天天色天天操天天射| 丁香五月人妻熟女| 99精品在| 五月丁香婷中文字幕| 欧美激情丁香五月| 激情五月天婷婷直播| www.婷婷.com| 97碰久久| 久99热| 久久永久视频| 99在线精品观看99| 婷婷欧美偷拍综合| 99综合网| 九九热色视频| 国内婷婷丁香社区在线播放| 婷婷丁香六月激情综合| 米奇影视资源777狠狠色婷婷五月天激情网| 色视频2025| 色色五月婷婷| 丁香色五月AV在线| 深爱五月激情网| 丁香六月婷婷综合| 久久婷丁香五月| 色久女| 在线观看国产高清视频免费网站| 婷婷激情人妻| 啪啪六月婷婷| 丁香五月激情图片婷婷| ,99视频久久| 欧美综合123区| 超碰成人在线免费观看| 天天成人五月天| 亚洲九九99精品视频在线播放| 男女99免费视频| 影音先锋男人av资源站| 丁香色播五月天| www色五月| 一级二级色大片| 六月婷婷激情小说网| 夜夜撸天天操| 91超碰九色| 欧美va在线观看| 婷婷中文字幕欧美| 伊人日日干| 涩涩涩五月天| 97九色| 久久丁香五月| 丁香狠狠操| 激情五月婷婷综合网| 99热在线观看免费精品| 亚洲无码另类| 91黄址| 黄色毛片精品| 欧美α√| 色99超碰| 亚洲国产99| 中文AⅤ大全| 色五月丁香激情视频| 91丨九色丨丰满人妖| 亚洲无码性爱| 免费观看欧美成人AA片爱我多深| 精品AV无码超碰| 亚洲激情综| 日本在线va| 久久探花91swag| 婷婷五月开心中文字幕在线| 丁香香蕉射射射| 久久AAAA片一区二区| 99无码视频| 91色综合网| 噜一噜在线| 97人人操com| 79色色免费| 国产性爱在线| 亚洲国产色色| 超碰免费电影| 色播五月婷婷| 日本99视频精品免费播放| 婷婷五月丁综合| 大香伊人久色| 丁香婷婷中文字幕| 丁香六月婷婷社区| 亚洲精品在线视频| 婷婷精品在线| 日日杆天天| 激情五月深爱五月观看| 久久久免费精彩视频| 成人网址在线观看| 婷婷在线播放| 色婷婷丁香综合中文字幕| 色女人久久| 97色视频网| 色色色综合色| 狠狠爱婷婷爱| 播播网色播播| 亚洲综合五月天综合| 日韩成人中文| 激情五月,激情综合网| 影音先锋日本三级资源| 婷婷激情六月天视频| 激情综合网婷婷五夜| 六月五月婷婷| 久久婷婷东京热大香樵| 99在线观看精品| 天天射天天干天插色综合| 嫩草视频在线观看| 亚洲丁香婷婷五月天综合色| 免看黄大片AA | 丁香五月天激情小说| 97色五月婷婷在线| 美女五月狠狠| 亚洲成人综合在线| 欧美大肥婆大肥BBBBB| 五月色导航| 可以看的AV| 丁香五月婷婷婷婷欧美综合| 在线看九一V图片| 日韩久久这里只有精品| 免费成人网在线观看| 9热在线观看| 五月丁香啪啪综合网| 26UUU欧美| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 草榴成人影片| 色在线99| 梁铮版《蜘蛛女侠》在线| AA片在线观看视频在线播放| 超碰1999| 九九99精品视频在线观看| 久99视频| 开心五月深爱婷婷| 91操人视频| 中文字幕无码人妻少妇免费视频| 99性色| 久久激情五月婷婷| 麻豆WWWCOM内射软件| 狠狠插日日干撸| 97操操网| 久久婷婷五月天蜜桃| 婷婷午夜激情| 99原创自拍视频在线观看| 伊人久久丁香婷婷六月五月综合| 台湾无码A片一区二区| 色偷偷综合| 日本在线免费中文com.| 五月丁香六月婷婷综合| 日本九九九九| 五月的色婷婷高潮| 婷婷五月天免费小说| 亚洲网综合在线| 狠狠干夜夜干| 婷婷五月香蕉| 日韩ww| www.色五月| 五月婷婷另类| 激情综合丁香| 精品人妻一区二区三区四区不卡在| 激情五月丁香在线观看直播| 久久九九国产| 激情内射人妻1区2区3区| 精品成人a v无码内射| 操B五月天| 狠狠干最新地址| 99久在线精品99re5热视频| 国产VA播放| 色婷婷激情| 欧美va视频| 五月天婷婷Av| 婷婷色色五月| 五月天婷婷人妻| 91啪啪视频| 黄色视频网站在线播放| 久久婷狠狠色| 丁香五月 六月婷婷首页| 99手机在线精品视频| 婷婷久久综合| 色情五月婷| wwW天天干| 婷婷新网址| 亚洲色视频| 亚洲bt丁香五月天婷婷激情小说| 久操大香蕉| 五月婷婷丁香日韩在线| 丁香久久| 六月激情综合| 天天爱天天做天天爽| 中文字幕人妻在线| 色播激情| 狠狠精品干练久久久无码中文字幕 | 99色综合| 激情五月天在线视频| 伊人春天av| 开心五月婷婷综合在线精品素人| 日日鲁鲁鲁夜夜爽爽狠狠视频97 | 欧美天天性| 91超级碰在线视频| 日本操B片| 26UUU精品一区二区| www.99成人视频| 做爱夜夜干天天操| www.精品久9| 无码少妇高潮喷水A片免费| 久99在线视频| 国产综合网在线| 欧洲精品欧洲情| 久久伊人9| 啪啪啪丁香五月| 香蕉久久国产AV一区二区| 天天爽天天日| 亚洲小视频免费播放| 九九亚洲天堂| 99热这里只有精| www,五月天com| 互月天综合| 亚洲日韩一页精品发布| 中文字幕在线播放视频| 亚洲视色| 丁香五月综合亚洲| 日日干夜夜撸夜夜骑| 色欲九区| 丁香玖玖| 爱狠射| 国产精产国品一二三在观看| 99热国产精品| 欧美色婷婷| 国产精品色一哟哟| www.99热最新视频8| 九九99精品视频| 成人在线免费网址| 亚洲无码性爱| 久久五月天激情| 色色色欧美| 婷婷丁香花五月天| 99性爱视频| 天天色域综合网| 玖玖爱导航| 视色网在线播放| 99热精地址| 丁香六月婷婷综合| 久er免费视频| 五月丁香六月香香蕉| 久青草大香蕉| 丁香av网| 久久久全国免费视频| 99在线精品免费视频| 狠狠狠狠狠干| 五月丁香网站| 99视频| av在线观看网站| 激情五月色婷婷| 婷婷免费无视频| 婷婷激情五月天天天开心| 99综合| 97热精品| 涩综合网| 91精品在线看| 久久婷婷网站| 狠狠丁香| 久99久热| 欧美影院婷婷| 综合婷婷久久| 91九色精品熟女内射| 亚洲视频操| 婷婷的色色五月天| 99热在线资源| 91婷婷五月丁香碰| 碰碰人人漕| 六月激情婷婷综合| 99人人操| 99资源在线视频| 伊人久久大香天蕉亚洲特级| 好色婷婷| 天堂中文国产| 亚洲免费看片| 色婷婷色五月另类综合| 九九爱这里只有精品| 成人操呦av| 日本色频| 密臀久久| 丁香五月天BBw| 久热这里只有精品在线观看 | 超热久碰.com| 激情文学第四色婷婷丁香五月| 丁乡久久| 成人在线视频一区| 69综合在线| 超碰99资源站| 91久热| www久| WWW,激情五月天,COM| 激情丁香婷婷六月天| 日本精品。999| 春色激情第四色| 激情久久天天| 免费观看欧美成人AA片爱我多深 | 99在这里有精品| 丁香五月婷综合网| 精品爆操| 婷婷激情综合| 免费观看全黄做爰的视频| 思思久久精品| 99色在线视频| 大香蕉在九| 伊人九九九久| 曰曰久久| 丁香六月av| 五月丁香六月婷婷中合网| 丁香婷婷五色月| 狠狠插日日干撸| 综合在线色婷婷| WWW,五月| 成人精品在线观看| 大鸡巴伊人网| 亚洲不卡欧洲| 九九热九九| 九九久久综合网站| 九九热最新| 99自拍视频在线观看| 另类天堂| www.色欲丁香婷婷| 97色97干| 狠狠88综合久久久久噜噜噜| 中文字幕色色| 伊人激情啪啪| 99这里都是精品6| 久久婷婷久久| 五月丁香六月婷婷综合伊人| 五月婷天堂视频| 婷婷性爱视频在线| 青草网在线观看| 亚洲网站999| 国产精品第一国产精品| 成人 AV播放| 久久精品五月天| 2014天天爽| 久久这里只有精品16| 五月色影院| 操人91| 中文字幕丰满孑伦无码专区| 欧美超碰亚洲| 五月婷婷三级| 人妻 性久久久久久| 五月丁香天堂网| 五月婷婷中文字幕| A片女女女女女女BBBB| 欧美123区免| YJLZZJLZZ亚洲乱熟无码| 欧美激情xxxXX| 九九热视| 九九热只有精品| 久久激情五月婷婷| 色婷婷激情| se婷97| 婷婷色九月| 婷婷狠狠18禁久久| 婷婷亚洲丁香五月| 久婷久婷| www.97视频| 任你操精品免费| 噜一噜免费视频| 天天综合图片| 人人综合久| 欧美性猛交99久久久久99按摩| 伊人9草在线观看| 激情五月婷婷免费视频| 天天干天干| 99久视频| 天天综合网色欲香| 777久久综合视频| 婷婷五月丁香在线视频| AV性爱网| 九九人人看| \\五月天婷婷激情| www.五月丁香| 香蕉久操| 五月婷视频久久| 99re鈥哸鈥唙| 99成人| 在线中文亚洲| 色综合久久天天综合网| 九月丁香| 久激情| 日韩欧美四五区| 99热最新精品| 4399精品一区二区| 五月天丁香网| 天天摸天天舔天天天天爽| 九九在线精品| 日韩在线观看亚洲| 欧美性色五月天| 99爱视频在线| 伊人喵咪a V| 777色婷婷爱五月| 色噜噜狠狠色综合日日| 色色五月婷婷网| 色综合网上班开心婷婷久久| 99热这里只有精| 91在线就要啪| 日韩色色小视频| 91狠狠综合网| 成人视频婷婷| 色色三级视频| 五月婷婷内射网| 97热在线精品| 欧亚中文A V| 五月综合婷婷网| 久久久WWW| 中文字幕精品推荐免费在线观| 99热香港| 大香蕉久久婷婷| 999热在线观看视频| 激情综合五月激情XXXX| 9色视频在线| 东北黄色一级| 色久五月| 九月婷婷综合| 东京热免费视频| 激情网婷婷五月天| 久久玖玖99| 五月丁香少妇A| 超碰91在线| 五月婷婷六月丁香首页| 丁香五月婷婷色| 亚洲精品V天堂中文字幕 | 中文字幕无码人妻少妇免费视频| 伊九九三级区| 97干视频| 91久久九久久九久久九久久九久久| 丁香婷婷人妻| 五月婷婷亚洲综合在线| 夜夜骑日日操| 99热这里是精品| 天堂久久婷婷| 色五月婷婷五月天| 日美三级| 激情五月丁香综合蜜桃| 久热久| 9热在线观看| 婷综合六月| 少妇激情五月天| 国产干逼片| 天天色爽| 五月婷婷啪| 99精品网| 深爱激情六月天| 亚洲激情综| 五月丁香成人网| 人妻六月天| 婷婷色情五月| 日99网站| 狠狠操狠狠狠| 婷婷伊人綜合中文字幕小说| 婷婷五月天天天日日夜夜| 色婷婷久久综合中文久久一本| 婷婷丁香九月| 97婷婷狠狠| 2021日韩无码| 婷婷六月综合激情| www.99热这里精品| 五月婷婷导航| 欧美日韩成人一区二区| www.91.com黄| 久久婷婷亚洲| www激情| 五月大香蕉| yellow视频在线观看91| 中美日韩成人在线| 五月天社区婷婷丁香社区| 伊人五月天97| 九色PORNY自拍成人精彩视频| 99男人天堂| 日韩在线观看亚洲| www、丁香五月天| 91精品国产99久久久久久天美| 91成人看片| 区美毛片子| 日韩综合天堂| 亚洲操B| 操人91| 五月丁香综合激情| 美女100%露全身无挡网站| 99热精品在线观看| 日韩综合大黄| 日本在线wwww| 在线天堂9| 大香蕉婷婷色| 九热视频| 欧美一区二区三区不卡影视| 九九精品9| 六月丁香久久| 91色在线| 96丁香六月婷婷蜜桃综合久久| 精品五月视频婷婷在线观看| AA丁香综合激情| 色青青视频| 色呦呦在线| 亚洲综合五月天婷婷| 国产亚洲99久久| 五月丁香福利| 思思久ren热| 六月丁香五月婷婷| 五月婷婷六月基地| 久久99jiu9| 色五月在线播放| www.9797国产| 色色色色热| 五月色导航| 婷婷99狠| 欧美影院| 2014天天爽| 狠狠插.com| 亚洲激情婷婷| 国产成人av在线| 天天干,夜夜爽| 思思99re这里只有| 五月丁香花激情啪啪网| 99婷婷国产最新视频| 色很很96| 亚洲天堂色| 色婷六月| 五月婷六月| 欧美日韩91| 久久色五月天综合网| 波多野结衣AV无码Porn| 久久色情| 秋霞簧片| 色五月婷婷大香蕉| 五月综合久久| 69er小视频| 狠狠色丁香婷婷五月| 99热久| 婷婷成人丁香色情基地30 | 激情久久 婷婷| 深爱激情五月婷婷| 蜜乳A√| 国产黄色大片| 天天狠天天叉| 99日这里只有精品| 97超碰人人操| 国产成人AV不卡| 色丁香五月婷婷| 五月色婷婷亚洲| 欧美A A A A A| 色综合网址| 人人爱天天摸摸天天爱| 狠狠色狠狠爱| 91精品91久久久中77777| 日日噜狠狠色| 亚洲成人在线播放| 九日日夜夜69| 97色色色色色| 五月天激情亚洲| 婷婷开心深爱五月天| 操操操97| 五月伊人网| 五月婷婷成人| 婷婷丁香激情综合色情| 大香蕉久久久久久久久| 51XX午夜影福利| 色小说五月婷婷| 综合婷婷久久| 99热e| 快乐激情五月色婷婷| 日韩AC在线免费观看| 男女99免费视频| 激情网五月婷婷| 夜丁香五月婷婷| 国产性av| 日本色道视频网站| 国产精品香蕉| 日本综合色图| 综合99在线| 五月丁香久久| 色99自拍| www夜夜操comwww| 日本色婷婷| 9久9久9久女女女九九九一九| 久久久久9| 天天插天天插天天插| 久久婷婷五月天激情新地址| 1234操逼网| 亚洲第一成人无码A片| www.91九色| 呦呦v线| 武则天精品久久| 99热免费18| 久久人妻视频| 丁香五月手机在线| 色狠狠色综合| 五月丁香六月欧美综合| 99热综合| 狠狠干总合| 婷婷综合婷婷| 人人播| 色播五月天激情| 婷婷六月综合在线| 婷婷玖玖五月天| 丰满少妇乱A片无码| 婷婷在线免费| 婷婷 色 丁香 夜| 99这里只有免费的精品| 激情四射网| 日韩欧美性爱| 99国产精品久久久久久久久久久| 男女99免费视频| 婷香五月激情视频| 精品成人无码A片观看香草视频| 色五月综合在线| 久久天堂婷婷五月| 久月久在线视频| 五月婷婷久久综合| 五月婷婷偷拍| 丁香五月手机在线| 丁香久久久| 26uuu亚洲色| 五月综合激情久久| 五月天色色网站| 影音先锋91资源站| av操一操| 可以免费看的av网站| 美女婷婷六月色| 怡红院 久久| 影音先锋一区| 一操久久| 97丁香视频| 国产视频色色色色色色色| 91色色色| 欧美日韩123| 日韩五月丁香| 99精品在| 久久婷婷五月国产激情综合片| 91精品婷婷国产综合久久| 狠狠色五月| 久久一级免费黄色片| 激情五月婷婷色综合| 婷婷五月天成人网| 久久婷婷亚洲| 五月天婷婷综合| 亚洲成人五月天| 久久99综合| 99日本精品视频热| 色综合网址| 五月婷婷与六月丁香图片激情| 日日夜夜干| 这里只有精品无码| 色五月天综合网| 婷婷色中文字幕| 在线不卡视频| 色色射| 中文字幕丰满孑伦无码专区| www..999热久| 婷婷射综合| 91色综合网| 国产在线黄色| 91视频五月丁香| 狠狠色成人影片| 性爱视频久久| 播五月丁香三月婷婷| 婷婷五月天六点丁香五月| 3www激情| 色色色9| 99er6热在线观看精品6| 色婷婷视频综合| 五月丁香色婷婷基地| 99福利视频| www.亚洲激情| 丁香六月久| 丁香五月天论坛| 一本色道久久综合狠狠躁小说| 99这里| 五月精品| 激情婷婷丁香五月天| 色婷婷久久综合| 五月丁香| 丁香六月婷婷久久综合| 九九在线视频| 成人视频网| 99riav 亚洲| 久热99狠| 操操日韩| 99热免费精品| 婷婷午夜激情| 丁香婷婷五月综合色情| 久久综合激情五月天| 人人色性网| 婷婷丁香五月激情中文字幕版| 思思热在线精品视频网站| 激情九九这里只有精品| 久色婷婷200| 99超级碰碰| 久久久中文| 99这里有精品视频| 欧美97超碰| 风流少妇A片一区二区蜜桃| 婷婷碰碰| 在线综合亚洲欧美65| 91超级碰人人操| 伊人无码高清| 婷婷综合婷婷| 99精彩视频在线观看| 国产亚洲色婷婷99精品| 久久香蕉丁香| av色婷婷| 五月色综合网欧美网| 五月天婷婷色播综合在线| 激情五月网站| 丁香五月另类小说| 天天干一干| 综合激情站| 国产精品99久久久久久久女警| 97操碰98| 97资源碰碰在线| 久久激情五月| RenRenSe在线视频网站| 终合激情网| 婷婷五月丁香综合| 第九色区av天堂| 蜜乳AV成人| 色色色五月婷| 91超级碰碰碰| 九九婷婷五月天影视| 五月丁香六月婷婷国产视频| 五月丁香亭亭| 亚洲操b| 亚洲乱码日产精品BD| 日韩成人电泉AV| 久久婷婷综| 伊人狠狠狠综合| 五月天婷婷丁香| 开心五月婷婷激情| 天天做天天爽| 狠狠色狠狠| 成人做爰高潮A片免费视频| 久久五月婷综合网| 色色婷婷五月天| 青青草a在线| 久草热视频在线观看| 成人电影在线免费试看| www.超碰| 婷婷五月综合网激情| 日本熟妇精品99| 美女主播野战视步页| 天天色宗合| AV在线免费播放| 少妇搡BBBB搡BBB搡毛茸茸| 99re青青草| 五月色综合| 五月丁香六月婷婷a v| 超碰人人操| 中文字幕按摩做爰| Caop在线| 五月激情综合婷婷| 在线可以看的av网址| 久久婷五月婷| 国产乱子轮XXX农村| 六月激情丁香一道本7777| 天天综合激情| 亚洲视频99| 国产亚洲在线| 激情深爱五月天| 六月婷婷五月天| www狠狠| 大香蕉太香蕉视频97| 久久激情五月| 欧美爆乳一区二区三区| 婷婷五月情| 天天综合网~91| 7777精品伊人久久久大香线蕉最新版| 国产Va视频| 97干在线播放| 亚洲A片成人无码久久精品青桔| 五月天天综合| http://www.lingjunshare.com/ | 婷婷六月丁香激情综合| 婷婷五月天成人网| 99在线精品免费视频| 99热主页日本| 国产精品五月天婷婷| 欧美激情VA永久在线播放| 婷婷五月丁香综合桃花色网| 99免费成人网| 丁香五月AV| 91丁香综合| 五月丁香啪啪综合| 色五月婷婷五月丁香五月| 婷婷五月激情小说| 五月天婷婷色情| 开心五月综合激情综合五月| 丁香五月婷久久| 婷婷五月综合基地| 99这里只有精品国产| 夜色综合网| 色婷婷基地 | 成人网站在线观看视频| 狠狠色丁香久久婷婷综合五月| 天天爱天天操| 久久色午夜在线导航| 青青草深爱激情网| 丁香五月综合婷婷| 丁香花五月天婷婷成人社区| 天天AV导航网| 色色丁香婷婷| 色综合女人99| 亚洲精99| 婷婷五月天色| 日噜噜色| 激情综合五月激情XXXX| 69色婷婷| 色欧美色色色| 伊人青草成人| 丁香婷婷性久久| 99久久婷婷国产综合亚洲| XXXX岛国| 九九热精品| 色五月婷婷综合在线| 日日夜夜久| 91中文狠狠综合| 人妻久久久久久久久妻久久久久久久久 | 久久一操| 91人妻视频| 国产99久久久国产精品免费看| 中文字幕AV在线| 五月婷婷在线免费观看| 农村熟妇高潮精品A片| 五月丁香六月综合情在线观看| 玖玖99免费视频| 美女91一起草| 婷婷综合爱| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 日本丁香久在线| 人妻久久久久久久久久| 91妻人人爽人人看片| 日日爱678| 婷婷五月天伊人| 99超级超级超级碰| 毛片新网地| 国产精品国产成人国产三级| 亚洲国产精品成人免费一区久久久在线观看AAAA | 五月丁香婷婷啪啪网| 五月丁香啪啪综合网| 亚洲乱码日产精品BD| 色婷婷五月影视| 久99| 人人摸人人操人人爽| 丁香五月人妻| 99ri视频在线观看| 五月综合久久| 中国女人做爰A片| 操碰99| 亚洲色婷婷| 婷婷激情九月| 激情六月婷婷| 成人 视频免费观看网站| 九九热视| 久久久九九视频精品18| 激情婷婷啪啪| 五月天怕怕| 有哪些A片网站| 碰超亚洲| 这里只有精品在线免费视频| www五月婷婷| 天天射天天射一道本日本社区| 少妇搡BBBB搡BBB搡毛茸茸| 亚洲五月丁| 久久99热网| 三十路磁力链接| 五月天久久色| 久久96热| 亚洲黄网在线| 综合久久五月天| 婷婷五月天av小说| 天天做 天天爱| 人妻免费网站| 丁香婷婷六月激情综合| 无码成人AAAAA毛片AI换脸| 九九热在线观看视频网站| 国产亚洲精品AAAAAAA片| 无码地址| 九九av| 婷婷六月网| 五月婷婷香蕉| 天天狠狠色综合| 日本人妻伦在线中文字幕 | 亚洲综合视频网| 成人电影一区| 99re熱| 欧美槡BBBB槡BBB少妇| 狠狠色激情在线| 三级av在线| 性生活视频98791| 丁香婷婷久久综合在线| a久久| 91色在线/日韩| 狠狠穞A片一區二區三區| 99热国产在| A短视频免费在线观看| 色播丁香婷婷五月激情| 高清 码 免费看片短视频| 婷婷干五月综合在线播放| 婷婷第一页| 综激情网| 色色综合无码| 国产精品久久久久久久久久免费 | 婷婷 久综合| 久久538| 婷婷五月情色| 精品影院| 五月天俺去也| 久久精品系列| 成人丁香五月| 伊人丁香五月| 五月丁香狠狠爱婷婷综合| 天天色噜| 亚洲五月婷婷| 欧美成人精品三区综合A片 | 真实的国产乱XXXX在线91| 婷婷五月草| 99精品自拍视频| 中文字幕人妻熟女在线| 99热日韩| 99热天堂| 91九九| 五月丁香成人| www.ywav| 激情小说五月天| 丁香六月开心| 免费无码毛片一区二区A片| 99亚洲无码| 外国碰视频网站97| WWW.桔色成人.COM| 日日操日日爽| 丁香婷婷五月综合影院| 97在线视频观看| 精品九九视频| 在线观看欧美3区| AV在线观看网站| 五月婷免费视频久久久| www.激情五月天.com| 中文字幕综合网| 五月丁香激情综合网官网| 99热黄| 激情无码网| 精品一二三区视频立| 色九九九综合| 色99热| 777精品成人a v久久| 伊人久久大香线蕉综合网站| 色情综合网| WWW.桔色成人.COM| 伊人久久大香蕉网| 大地资源色婷婷视频在线| 热99这就是精品视频| 色情综合网| 久久性综合| 9久久久久久久久久久| 5月婷婷激情6月| 97成人在线视频精品| 国产这里只有精品| 色五月激情五月天| 99热99成人| a毛片二逼wwwwwwwwww| 激情五月天色色| 九九精品在线网| 67194成I人在线观看线路1| AV在线不卡播放| 狠狠草在线观看| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | www.ywav| 久久婷婷综合基地| 日韩乱玛久久| 亚洲啪视频| 亚洲AV久久久久久久久久久久久久久久 | 91人人人人人人人| 五月婷婷av| 99热免| 五月天色婷好好| 嫩草视频观看| 亚洲经典三级| 成人网在线视频| 视频这里只有精品16| 婷婷黄色| 婷婷成人av| 丁香五月天婷婷激情| 99精品在这里| 99在线观看视频蜜臀| 久久9999| 丁香五月天成人| 丁香大香蕉| av操一操| 九九热这里都是精品6| 偷偷操99| 婷婷六月天国产综合| 激情综合色图| 久久aaaa片一区二区| 噜噜狠狠| 五月丁香综合中文| 2050人人操免费工开爱| 狠狠草在线观看| 狠狠干在线| 亚洲色情免费网| 色综合中文| 无毒黄色网址| 日本色婷婷| 日韩AV大全| 亚洲激情高潮| 六月婷欧美| 一区二区你懂的| 婷婷综合久久| 欧美大香蕉视频| 激情五月婷婷网| 五月综合激情图片| 午夜大香蕉| 久久日婷婷| 中文字幕人妻熟女在线| 婷综合| 精品一区二区三区木瓜| 欧亚色色| 婷婷丁香激情综合色情| 色色色色色日韩午夜激情 | 激情99。| 国产激情综合五月| 亚洲最大在线| 人人操AV| 狠狠色婷婷7777久| 超级碰碰碰碰视频| 丁香五月婷婷欧美激情-中文天堂最新版在线观看| 国产高潮白浆一区二区| 一本色道久久综合狠狠躁一二三| 国产做爰视频免费播放| 黄桃AV无码免费一区二区三区| 年轻的妺妺伦理HD中文| 婷婷五月天激情网| 婷五月天| 天天天天干| 96自拍视频九色在线观看| 久久国产AV| 国产精品国产| 色吧婷婷| 婷婷色播色五月五色五月天色妇| 亚洲国产精品成人免费一区久久久在线观看AAAA | 丁香五月婷婷色| 亚洲综合久| 欧美操人| 青草视频在线观看视频| 亚洲免费看片| 丰满少妇乱A片无码| 色婷婷精| 热九九在线| 九九综合色| 激情久久五月天| 国产日韩欧美性爱| 五月激情综| 婷婷五月天六月| 五月天激情Av| 日日撸日日操| 中文字幕在线资源| 婷婷综合在线播放| av五月丁香| 97人人操人人插| 欧美性猛交XXXX乱大交极品| 女人天堂AV| www.99热| 亚洲99综合| 九九热在线精品| 亚洲久久婷婷| www.五月婷婷久久.com| 五月六月丁香激情视频| 亚洲综合久| 97在线/亚洲| 97色视频网| 99久久天堂婷婷| 日本性视频| 免费无码毛片一区二区A片| 婷婷色婷婷| 91超碰人人操| 婷婷五月天综合网| 五月丁香激情综合网| 六月婷婷五月丁香| 在线日韩视频| 任你艹| 97色色色| 九九热精品视频| 成人电影一区| www色色色com| 丁香五月天啪啪| www.婷婷五月天| 色色色综合| 色婷婷狠狠| 亚洲精品久久久无码| 久热九九| 国外亚洲成AV人片在线观看| 爱射综合| 99色热| 国产亚洲精品AAAAAAA片| 亚洲日韩一页精品发布| 日本欧美成人片AAAA| 欧美成人AAA片一区国产精品| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 色九月婷婷综合| 超碰成人在线观看| 亚洲色综合| 色九月婷婷| 涩综合在线 | 超碰免费人人肏| 31色区视频免费看| 亚洲激情| 九九色之九九色之88| 性爱网五月天| 69热在线| 久久九区| 熟女色专区| 亚洲精品操一操、噜一噜、摸一摸、爽 | 92久久| 丁香婷婷欧美综合| 96精品久久久久久久久| 天天摸人人摸| 极品少妇XXXX精品少妇偷拍| 欧美 日韩 成人 在线| 91久久婷婷人人澡草| 丁香六月婷婷久久综合| 狠狠操狠狠色| 99小精品| 色婷婷天堂| 人人操91色| 天天做综合网色综合| 五月丁香啪啪| Caop在线| 2025天天爽天天摸| 亚洲天堂啪啪| 熟女网站久久| 色亚洲激情| 91丨九色熟女丨首页| 丁香婷婷九月| 99久久婷婷国产综合| 丁香婷婷五月| 91人妻人人做人碰人人爽九色| 五月婷婷,六月丁香| 亚洲丁香婷婷| 噜噜噜精品欧美成人在线观看| 久久9热好| 久久婷婷五月天| 99热在线精品播放| 91好好热日本在线| 色五月婷婷一二| 婷婷五月天天激情| 成人性爱精品视频| 婷婷丁香九色| 五月婷婷综合潮喷| av婷婷六月丁香社区在线观看| 激情五月综合免费| 婷婷五月六月丁香| 男人的天堂999| 久久久久久欧美精品se一二三四| 国产精品美女|