欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

Python實戰(zhàn):從零構建金融風控預測模型,解決數據不平衡與特征工程難題

Python實戰(zhàn):從零構建金融風控預測模型,解決數據不平衡與特征工程難題 簡介機器學習中的分類問題是預測建模的核心任務之一旨在根據輸入特征將樣本劃分到預定義的類別中。其基本原理是通過算法學習歷史數據中的模式構建一個從特征到類別標簽的映射函數。在金融科技領域分類模型的技術價值尤為突出它能夠自動化、精準化地處理海量數據識別復雜非線性關系從而支持關鍵業(yè)務決策。典型的應用場景包括信用評分、欺詐檢測和客戶流失預警等。本文聚焦于金融信貸中的個貸違約預測這是一個典型的二分類問題但面臨數據高度不平衡的挑戰(zhàn)。文章深入探討了如何使用SMOTE等過采樣技術和調整類別權重來應對這一難題并詳細介紹了基于業(yè)務理解的特征工程方法如構建負債收入比等衍生特征以提升模型對風險客戶的識別能力。1. 項目緣起從業(yè)務痛點到一個Python預測模型的誕生在金融信貸業(yè)務里最讓風控和業(yè)務部門頭疼的事情之一就是“壞賬”。你放出去的貸款總有一部分人因為各種原因還不上錢這筆錢就成了銀行的損失。傳統(tǒng)上銀行依賴專家經驗、規(guī)則引擎和簡單的統(tǒng)計模型來做審批和預警但面對海量的客戶數據和復雜的還款行為這些方法越來越力不從心。我最近用業(yè)余時間基于公開可獲取的思路和一份模擬數據集用Python完整地走了一遍“個貸違約預測”的建模流程。這不僅僅是一個技術Demo它更像是一次對信貸風控核心邏輯的深度還原和實操演練。通過這個項目你能清晰地看到如何從一堆雜亂的客戶信息數據開始一步步清洗、分析、構建特征最終訓練出一個能相對準確判斷客戶“好壞”的機器學習模型。整個過程涉及數據科學、機器學習以及金融風控的交叉知識對于想進入金融科技領域的數據從業(yè)者或者對信貸業(yè)務邏輯感興趣的技術人員來說是一次絕佳的動手機會。2. 理解風控預測的核心什么是個貸違約預測在深入代碼之前我們必須先搞清楚我們要解決的究竟是什么問題。這決定了我們后續(xù)所有技術選型和評估標準。2.1 預測的本質一個二分類問題個貸違約預測本質上是一個二分類Binary Classification問題。我們的目標是為每一個貸款申請客戶或在貸客戶打上一個標簽“好客戶”會正常還款或“壞客戶”會違約。在建模時我們通常將“違約”定義為正例Positive Class 標簽為1將“正?!倍x為負例Negative Class 標簽為0。這樣模型輸出的就是一個介于0到1之間的概率值表示該客戶違約的可能性有多大。注意定義誰是正例很關鍵它直接影響模型評估指標的選擇。在風控中我們更關心能否準確地抓住“壞人”違約者所以通常將“違約”設為正例。2.2 業(yè)務目標與模型目標的銜接模型預測概率本身不是終點它必須服務于業(yè)務決策。常見的業(yè)務應用場景包括貸前審批在放款前根據模型預測的違約概率結合其他規(guī)則決定是否批準貸款、以及批準多少額度、什么利率。這時模型需要一個閾值Threshold。例如設定閾值為0.3那么預測概率高于0.3的申請將被拒絕或進入人工復核。貸中監(jiān)控對于已放款的客戶定期如每月用其最新的行為數據如還款記錄、消費行為通過模型重新計算違約概率對概率升高的客戶提前預警采取催收或風險化解措施??蛻舴謱痈鶕L險評分將客戶分為不同等級如A、B、C、D級用于差異化營銷或風險定價。因此我們構建的模型最終要能輸出一個穩(wěn)定、可解釋的風險評分并能通過調整閾值來平衡業(yè)務中的“誤殺”拒絕了好客戶損失利息收入和“漏殺”通過了壞客戶造成本金損失。2.3 項目數據集的構成與挑戰(zhàn)一個典型的個貸違約預測數據集通常會包含以下幾類信息這些也是我們后續(xù)特征工程的主要來源客戶基本信息年齡、職業(yè)、教育程度、婚姻狀況、居住城市等。這些是靜態(tài)的、相對穩(wěn)定的信息。財務狀況收入水平、負債收入比、資產情況、歷史信用記錄長度等。貸款信息本次申請的貸款金額、期限、利率、貸款用途、擔保方式等。歷史信用表現(xiàn)如果有過去信用卡的逾期次數、逾期天數、其他貸款的還款記錄等。這是最具預測力的信息但往往難以獲取。外部數據如征信分、多頭借貸信息、消費行為數據等。本項目使用的模擬數據集雖然并非真實銀行數據但會盡可能模擬上述字段的結構。我們面臨的典型挑戰(zhàn)包括數據不平衡違約客戶正例的數量通常遠少于正常客戶負例比例可能達到1:99甚至更懸殊。直接在這種數據上訓練模型會傾向于把所有樣本都預測為“正常”導致對違約客戶完全失效。特征缺失客戶信息填寫不完整存在大量空值。特征異常收入為0或極高年齡超過合理范圍等。數據泄露不小心使用了未來才能知道的信息如“是否最終違約”衍生出的指標作為特征導致模型在訓練時表現(xiàn)虛假的優(yōu)秀上線后完全失效。3. 環(huán)境搭建與核心工具鏈選型工欲善其事必先利其器。一個高效、穩(wěn)定且易于復現(xiàn)的分析環(huán)境是項目成功的基礎。下面是我選擇的工具鏈及理由。3.1 Python環(huán)境管理Anaconda的絕對優(yōu)勢我強烈推薦使用Anaconda來管理Python環(huán)境尤其是數據科學項目。理由如下隔離性可以為這個項目創(chuàng)建一個獨立的環(huán)境例如命名為loan_risk里面只安裝項目所需的包避免與系統(tǒng)或其他項目的包版本沖突。包管理簡便通過conda install命令可以輕松安裝大多數科學計算包如numpy, pandas, scikit-learn它會自動處理復雜的C庫依賴這是pip有時做不到的。集成性自帶Jupyter Notebook/Lab非常適合進行探索性數據分析EDA和交互式建模。創(chuàng)建環(huán)境的命令如下# 創(chuàng)建一個名為loan_risk的Python3.9環(huán)境 conda create -n loan_risk python3.9 # 激活環(huán)境 conda activate loan_risk3.2 核心庫介紹與安裝在激活的loan_risk環(huán)境中我們需要安裝以下核心庫# 使用conda安裝基礎科學計算包 conda install numpy pandas scipy matplotlib seaborn jupyter # 使用pip安裝機器學習相關庫conda通道可能版本較舊 pip install scikit-learn xgboost lightgbm catboost imbalanced-learn # 用于模型解釋 pip install shap # 用于生成分析報告可選但推薦 pip install pandas-profiling ydata-profilingpandas numpy數據操作的基石。pandas的DataFrame是處理表格數據的標準容器numpy提供高效的數值計算。scikit-learn機器學習的“瑞士軍刀”。提供了從數據預處理標準化、編碼、特征選擇、到模型訓練邏輯回歸、隨機森林、評估交叉驗證、ROC曲線的全套工具。它是本項目的主力。XGBoost/LightGBM/CatBoost三大梯度提升樹GBDT框架。它們在結構化數據的表格分類任務上尤其是金融風控領域表現(xiàn)通常優(yōu)于傳統(tǒng)的隨機森林或邏輯回歸是當前競賽和工業(yè)界的首選。我會在后續(xù)對比它們的使用。imbalanced-learn專門處理不平衡數據集的庫。提供了過采樣如SMOTE、欠采樣、以及結合采樣等多種策略是解決風控數據不平衡問題的利器。shap模型解釋領域的王牌工具??梢詫碗s的樹模型預測結果分解到每個特征的貢獻度讓我們知道模型是“憑啥”做出判斷的這對于通過風控模型評審至關重要。matplotlib seaborn數據可視化。Seaborn基于matplotlib提供了更美觀、更簡單的統(tǒng)計圖形接口。3.3 項目目錄結構規(guī)劃一個清晰的項目結構能極大提升協(xié)作效率和代碼可維護性。建議按如下方式組織loan_default_prediction/ ├── data/ # 存放所有數據 │ ├── raw/ # 原始數據只讀 │ ├── processed/ # 清洗處理后的數據 │ └── external/ # 外部數據如有 ├── notebooks/ # Jupyter Notebook用于EDA和實驗 │ ├── 01_eda.ipynb │ ├── 02_feature_engineering.ipynb │ └── 03_model_experiment.ipynb ├── src/ # 源代碼模塊化 │ ├── __init__.py │ ├── data_preprocessing.py │ ├── feature_engineering.py │ ├── modeling.py │ └── utils.py ├── models/ # 保存訓練好的模型文件.pkl或.joblib ├── reports/ # 生成的分析報告、圖表 ├── config.yaml # 配置文件數據庫連接、路徑、參數等 ├── requirements.txt # 項目依賴包列表 └── README.md # 項目說明文檔這種結構將數據、探索性代碼、生產代碼、產出物清晰分離。src下的模塊化代碼最終可以被一個主腳本如train.py調用實現(xiàn)從數據到模型的一鍵化訓練。4. 數據探索性分析用眼睛“看見”風險在動任何模型之前我們必須深入了解數據。探索性數據分析EDA的目標是發(fā)現(xiàn)數據的特點、問題以及潛在的規(guī)律。這個過程我通常在Jupyter Notebook中完成。4.1 數據加載與初窺首先使用pandas加載數據集假設為CSV格式文件loan_data.csv。import pandas as pd import numpy as np import matplotlib.pyplot as plt import seaborn as sns sns.set_style(whitegrid) # 設置顯示所有列 pd.set_option(display.max_columns, None) # 加載數據 df pd.read_csv(./data/raw/loan_data.csv) print(f數據集形狀: {df.shape}) print(df.head()) print(df.info()) print(df.describe())df.info()會告訴我們每列的非空值數量、數據類型是發(fā)現(xiàn)缺失值的第一步。df.describe()則展示數值型特征的統(tǒng)計摘要均值、標準差、分位數等能快速發(fā)現(xiàn)異常值比如年齡為200歲。4.2 目標變量分布直面不平衡現(xiàn)實接下來首要任務是查看目標變量假設列名為is_default的分布。target_dist df[is_default].value_counts(normalizeTrue) print(f目標變量分布:\n{target_dist}) plt.figure(figsize(6,4)) sns.countplot(xis_default, datadf) plt.title(Distribution of Loan Default (0No, 1Yes)) plt.show()如果違約比例is_default1遠低于10%我們就確認了這是一個嚴重不平衡數據集。這是風控數據的常態(tài)也決定了我們不能用準確率Accuracy作為核心評估指標而應關注精確率Precision、召回率Recall和F1-Score尤其是召回率我們抓住了多少比例的違約客戶。4.3 單變量與多變量分析單變量分析查看每個特征的分布。對于連續(xù)型特征如收入、貸款金額繪制直方圖Histogram或核密度估計圖KDE查看其分布形態(tài)是否偏態(tài)、是否有異常值。fig, axes plt.subplots(2, 3, figsize(15, 8)) num_cols [income, loan_amount, debt_to_income_ratio, credit_history_length, age, loan_term] for idx, col in enumerate(num_cols): ax axes[idx//3, idx%3] sns.histplot(df[col], kdeTrue, axax) ax.set_title(fDistribution of {col}) plt.tight_layout() plt.show()對于類別型特征如職業(yè)、教育程度繪制柱狀圖查看各類別的樣本數量。同時可以計算每個類別下違約率的差異初步判斷該特征是否與違約相關。# 分析‘education’與違約的關系 edu_default_rate df.groupby(education)[is_default].mean().sort_values(ascendingFalse) print(edu_default_rate) edu_default_rate.plot(kindbar) plt.title(Default Rate by Education Level) plt.ylabel(Default Rate) plt.show()多變量分析相關性分析計算數值特征之間的皮爾遜相關系數并繪制熱力圖。這有助于發(fā)現(xiàn)高度相關的特征后續(xù)可以考慮去除或合并以降低模型復雜度、避免多重共線性。plt.figure(figsize(12, 8)) # 選擇數值型列 numeric_df df.select_dtypes(include[np.number]) correlation_matrix numeric_df.corr() sns.heatmap(correlation_matrix, annotTrue, fmt.2f, cmapcoolwarm, center0) plt.title(Correlation Matrix of Numerical Features) plt.show()特征與目標的關系對于重要的連續(xù)特征可以繪制箱線圖Boxplot或小提琴圖Violin Plot按違約與否分組觀察其特征分布的差異。plt.figure(figsize(10, 6)) sns.boxplot(xis_default, ydebt_to_income_ratio, datadf) plt.title(Debt-to-Income Ratio vs. Default Status) plt.show()如果違約組和非違約組在某個特征上的分布有顯著差異那么這個特征很可能是一個強預測因子。4.4 發(fā)現(xiàn)數據問題并記錄通過EDA我們可能會發(fā)現(xiàn)缺失值某些特征如annual_income存在大量空值。異常值age列中出現(xiàn)0或150等不合理數值income列中有個別極大值可能是錄入錯誤或特殊富豪客戶。數據不一致employment_length列中有的寫“5 years”有的寫“5”需要統(tǒng)一。類別不平衡某些類別特征如job_type的某個類別樣本極少。潛在泄露特征是否存在如days_past_due已逾期天數這類在貸前根本不可能知道的信息。將這些問題一一記錄它們是下一步數據預處理和特征工程的輸入。5. 數據預處理與特征工程將原始數據轉化為模型“語言”原始數據就像未經加工的礦石特征工程就是冶煉和提純的過程目的是提取出對預測目標最有用的信息。這一步直接決定了模型性能的上限。5.1 缺失值處理策略缺失值不能直接丟給模型必須處理。策略因特征類型和缺失原因而異連續(xù)型特征均值/中位數/眾數填充最常用。如果數據分布對稱用均值如果存在偏態(tài)或異常值用中位數更穩(wěn)健。對于風控數據我通常優(yōu)先使用中位數填充因為它對異常值不敏感。from sklearn.impute import SimpleImputer # 對收入用中位數填充 median_imputer SimpleImputer(strategymedian) df[income] median_imputer.fit_transform(df[[income]])基于模型的填充用其他特征預測缺失值。更復雜但可能更準確。例如用年齡、職業(yè)、教育程度來預測收入??梢允褂肒NN或隨機森林回歸。增加缺失指示器創(chuàng)建一個新的布爾特征標記該位置是否缺失。有時“缺失”本身也是一種信息例如拒絕填寫收入可能意味著收入不穩(wěn)定。類別型特征單獨作為一個類別如‘Unknown’填充。用眾數出現(xiàn)最頻繁的類別填充。5.2 異常值檢測與處理異常值可能是錯誤也可能是特殊但真實的個案如超高凈值客戶。粗暴刪除可能損失信息。檢測方法標準差法假設數據服從正態(tài)分布將超出均值±3倍標準差的值視為異常。但金融數據常不服從正態(tài)分布。分位數法IQR更穩(wěn)健。計算第一四分位數Q1和第三四分位數Q3定義異常值為小于Q1 - 1.5*IQR或大于Q3 1.5*IQR的值。Q1 df[loan_amount].quantile(0.25) Q3 df[loan_amount].quantile(0.75) IQR Q3 - Q1 lower_bound Q1 - 1.5 * IQR upper_bound Q3 1.5 * IQR outliers df[(df[loan_amount] lower_bound) | (df[loan_amount] upper_bound)]處理方法刪除僅當確信是數據錄入錯誤且占比極小時使用??s尾Winsorization將超出指定分位數如1%和99%的值用該分位數的值替換。這是風控中處理極端值的常用方法能保留樣本但削弱極端值的影響。lower_limit df[income].quantile(0.01) upper_limit df[income].quantile(0.99) df[income] np.where(df[income] lower_limit, lower_limit, df[income]) df[income] np.where(df[income] upper_limit, upper_limit, df[income])視為缺失值并用中位數等填充。分箱Binning將連續(xù)變量離散化異常值會被歸入最高或最低的箱中。5.3 類別型特征編碼機器學習模型只能處理數值。需要將文本類別轉化為數字。標簽編碼Label Encoding為每個類別分配一個整數如[‘高中’ ‘本科’ ‘碩士’]-[0, 1, 2]。適用于有序類別如學歷等級。對于無序類別模型可能會錯誤地認為數字大小有意義。獨熱編碼One-Hot Encoding為每個類別創(chuàng)建一個新的二進制特征0或1。這是處理無序類別的標準方法。但若類別很多如“職業(yè)”有上百種會產生大量稀疏特征增加計算負擔和過擬合風險。from sklearn.preprocessing import OneHotEncoder encoder OneHotEncoder(sparse_outputFalse, dropfirst) # dropfirst避免多重共線性 encoded_features encoder.fit_transform(df[[education, job_type]]) # 將編碼后的特征合并回原DataFrame需處理列名目標編碼Target Encoding / Mean Encoding用該類別下目標變量的均值對于回歸或違約率對于分類來替換類別。例如“職業(yè)學生”的違約率是5%就用0.05替換所有“學生”。這種方法能捕捉類別與目標的關系但容易引起過擬合需要配合交叉驗證進行平滑處理。category_encoders庫提供了穩(wěn)健的實現(xiàn)。5.4 創(chuàng)造新特征領域知識的體現(xiàn)這是特征工程中最有價值的部分需要結合對信貸業(yè)務的理解。衍生比率特征負債收入比DTI 總月負債 / 月收入。這是風控的核心指標。貸款收入比LTI 貸款金額 / 年收入。月供收入比 月還款額 / 月收入。分箱與離散化將連續(xù)年齡分為[18-25, 26-35, 36-50, 51-65, 65]。將收入分為[低 中 高]。分箱后可以作為類別特征處理或者進行目標編碼能更好地捕捉非線性關系并且對異常值更魯棒。交互特征年齡 * 收入或許年輕高收入者和年輕低收入者的風險模式不同。貸款期限 * 貸款利率反映總利息負擔。時間維度特征如果有時間序列數據歷史逾期次數、最大逾期天數、最近一次逾期距今月份數等?;谶^去6/12個月的消費、還款行為計算出的趨勢指標如月均消費增長率。實操心得特征工程不是一蹴而就的。我通常先構建一個基礎特征集原始特征少量關鍵衍生特征訓練一個基線模型。然后通過特征重要性分析如樹模型提供的feature_importances_或SHAP值找出重要特征再圍繞它們進行更精細的加工和創(chuàng)造。這是一個迭代的過程。6. 應對不平衡數據讓模型“看見”少數派在不平衡數據上直接訓練模型會嚴重偏向多數類。我們必須采取策略讓模型“公平”地學習。6.1 評估指標的選擇放棄準確率首先要確立正確的評估標準。假設我們有10000個樣本其中9900個正常100個違約。一個將所有樣本都預測為“正常”的傻瓜模型準確率高達99%。但這毫無用處。我們更關心在所有的違約客戶中我們抓住了多少召回率 Recall/Sensitivity以及在我們預測為違約的客戶中有多少真的是違約精確率 PrecisionF1-Score是精確率和召回率的調和平均數是一個不錯的綜合指標。ROC-AUC接收者操作特征曲線下面積。它衡量的是模型將正例違約排在負例正常前面的能力。AUC越接近1越好0.5相當于隨機猜測。AUC對類別不平衡相對不敏感是風控模型常用的核心指標。PR-AUC精確率-召回率曲線下面積。在正例非常少的不平衡場景下PR-AUC有時比ROC-AUC更能反映模型在正例上的表現(xiàn)。在sklearn中我們可以方便地計算這些指標from sklearn.metrics import classification_report, roc_auc_score, average_precision_score # y_true 真實標簽 y_pred 預測標簽 y_pred_proba 預測概率 print(classification_report(y_true, y_pred)) print(fROC-AUC: {roc_auc_score(y_true, y_pred_proba)}) print(fPR-AUC (Average Precision): {average_precision_score(y_true, y_pred_proba)})6.2 采樣技術改變數據分布過采樣Oversampling增加少數類樣本。隨機過采樣簡單復制少數類樣本。容易導致過擬合。SMOTESynthetic Minority Oversampling Technique在少數類樣本之間進行插值生成“合成”新樣本。這是目前最流行的方法之一。from imblearn.over_sampling import SMOTE smote SMOTE(random_state42) X_resampled, y_resampled smote.fit_resample(X_train, y_train)ADASYN在SMOTE基礎上根據樣本密度自適應地生成不同數量的新樣本關注那些更難學習的少數類樣本。欠采樣Undersampling減少多數類樣本。隨機欠采樣隨機丟棄多數類樣本。會損失大量信息。Tomek Links移除多數類中與少數類樣本非常接近的樣本“邊界”樣本使類別邊界更清晰。Cluster Centroids使用K-Means對多數類進行聚類然后用聚類中心代替整個簇實現(xiàn)有代表性的欠采樣。結合采樣如SMOTEENN先SMOTE過采樣再用Edited Nearest Neighbours清理噪聲樣本。注意事項采樣必須在訓練集上進行絕對不能在整個數據集上做也絕對不能影響測試集標準的流程是先劃分訓練集和測試集然后在訓練集內部進行交叉驗證和采樣。測試集必須保持原始分布以評估模型在真實不平衡世界中的表現(xiàn)。6.3 算法層面的調整改變模型目標許多算法本身提供了處理不平衡的選項。調整類別權重Class Weight在訓練時給少數類的樣本更高的權重讓模型更關注它們。Scikit-learn的許多模型如LogisticRegression,RandomForestClassifier,SVC都支持class_weight參數??梢栽O置為‘balanced’讓算法自動按類別頻率的倒數調整權重。from sklearn.ensemble import RandomForestClassifier model RandomForestClassifier(class_weightbalanced, random_state42)使用對不平衡不敏感的算法梯度提升樹如LightGBM, XGBoost本身對不平衡數據有一定魯棒性并且它們也提供了scale_pos_weightXGBoost或is_unbalanceLightGBM等參數來進一步調整。我的常用策略我會先嘗試在不采樣的情況下使用帶有class_weightbalanced的邏輯回歸或隨機森林作為基線。然后嘗試SMOTE過采樣結合LightGBM/XGBoost。通過交叉驗證對比ROC-AUC和PR-AUC選擇效果最好的組合。通常樹模型配合適當的采樣或權重調整效果最佳。7. 模型構建、訓練與評估尋找最優(yōu)風險識別器現(xiàn)在我們有了干凈、平衡或加權的訓練數據可以開始構建和選擇模型了。7.1 數據劃分與交叉驗證首先將特征X和目標y分離并劃分訓練集和測試集。測試集在整個訓練過程中絕對不能觸碰它用于最終評估模型的泛化能力。from sklearn.model_selection import train_test_split # 假設df是經過預處理和特征工程后的DataFrame X df.drop(columns[is_default, loan_id]) # 去掉目標列和ID列 y df[is_default] # 劃分訓練集和測試集通常70%-80%用于訓練 X_train, X_test, y_train, y_test train_test_split(X, y, test_size0.2, stratifyy, random_state42)stratifyy參數非常重要它保證在劃分后訓練集和測試集中正負樣本的比例與原始數據集一致。為了在訓練集上可靠地評估模型性能并調參我們使用K折交叉驗證K-Fold Cross-Validation。特別是對于不平衡數據使用分層K折交叉驗證Stratified K-Fold更好它能確保每一折中類別比例相同。from sklearn.model_selection import StratifiedKFold, cross_val_score cv StratifiedKFold(n_splits5, shuffleTrue, random_state42) # 以ROC-AUC為評估指標進行交叉驗證 model RandomForestClassifier(class_weightbalanced, random_state42) cv_scores cross_val_score(model, X_train, y_train, cvcv, scoringroc_auc) print(f交叉驗證ROC-AUC得分: {cv_scores.mean():.4f} (/- {cv_scores.std()*2:.4f}))7.2 模型選型與對比我們將對比幾種在風控領域常用的模型邏輯回歸Logistic Regression線性模型可解釋性強是風控模型的傳統(tǒng)主力。它可以輸出概率并且可以通過系數大小判斷特征影響的方向和程度。作為優(yōu)秀的基線模型。隨機森林Random Forest集成樹模型能捕捉非線性關系對異常值和缺失值不敏感能輸出特征重要性??惯^擬合能力較強。梯度提升樹Gradient Boosting TreesXGBoost速度、精度和功能性的標桿提供了豐富的正則化選項防止過擬合。LightGBM微軟出品采用基于直方圖的算法和Leaf-wise生長策略訓練速度更快內存消耗更小在大數據集上表現(xiàn)優(yōu)異是當前工業(yè)界風控建模的“標配”之一。CatBoost擅長處理類別特征無需單獨編碼且對過擬合有很好的抵抗。我會用交叉驗證的ROC-AUC來初步比較這些模型。通常LightGBM和XGBoost會表現(xiàn)最好。7.3 超參數調優(yōu)讓模型發(fā)揮最佳性能模型有很多“旋鈕”超參數如樹的深度、學習率等需要調整以獲得最佳性能。手動調參費時費力我們使用自動化工具。網格搜索GridSearchCV指定一組超參數值窮舉所有組合。適用于參數較少的情況。隨機搜索RandomizedSearchCV在指定的參數分布中隨機采樣一定數量的組合。效率更高尤其當參數空間很大時。貝葉斯優(yōu)化Bayesian Optimization使用如scikit-optimize或optuna庫根據歷史評估結果智能地選擇下一組要嘗試的參數通常能以更少的嘗試找到更優(yōu)解。以下是一個使用GridSearchCV對LightGBM進行調優(yōu)的示例from lightgbm import LGBMClassifier from sklearn.model_selection import GridSearchCV # 定義模型 lgb LGBMClassifier(random_state42, verbosity-1, n_jobs-1) # n_jobs-1使用所有CPU核心 # 定義要搜索的參數網格 param_grid { n_estimators: [100, 200, 300], max_depth: [3, 5, 7, -1], # -1表示不限深度 learning_rate: [0.01, 0.05, 0.1], num_leaves: [31, 63, 127], # 葉子節(jié)點數與max_depth相關 subsample: [0.8, 1.0], # 樣本采樣比例 colsample_bytree: [0.8, 1.0], # 特征采樣比例 } # 使用分層K折交叉驗證進行網格搜索 grid_search GridSearchCV( estimatorlgb, param_gridparam_grid, cvStratifiedKFold(n_splits3, shuffleTrue, random_state42), # 調參時可以用少一些的折數加快速度 scoringroc_auc, n_jobs-1, verbose1 ) grid_search.fit(X_train, y_train) print(f最佳參數: {grid_search.best_params_}) print(f最佳交叉驗證ROC-AUC: {grid_search.best_score_:.4f}) # 獲取最佳模型 best_lgb_model grid_search.best_estimator_7.4 模型評估與閾值選擇用最佳模型在測試集上進行最終評估。記住測試集是模型從未見過的數據。from sklearn.metrics import roc_curve, precision_recall_curve, confusion_matrix # 預測概率 y_pred_proba_test best_lgb_model.predict_proba(X_test)[:, 1] # 計算測試集ROC-AUC test_auc roc_auc_score(y_test, y_pred_proba_test) print(f測試集 ROC-AUC: {test_auc:.4f}) # 繪制ROC曲線 fpr, tpr, thresholds_roc roc_curve(y_test, y_pred_proba_test) plt.figure() plt.plot(fpr, tpr, labelfLightGBM (AUC {test_auc:.3f})) plt.plot([0, 1], [0, 1], k--) # 對角線 plt.xlabel(False Positive Rate) plt.ylabel(True Positive Rate) plt.title(ROC Curve on Test Set) plt.legend() plt.show()模型輸出的是違約概率。我們需要一個閾值來將其轉化為“違約”或“不違約”的決策。閾值的選擇是一個業(yè)務決策取決于我們更看重召回率抓住更多壞人還是精確率減少誤殺好人。如果業(yè)務目標是嚴格控制壞賬率寧愿錯殺好客戶也不放過壞客戶可以選擇一個較低的閾值如0.3提高召回率。如果業(yè)務目標是擴大業(yè)務規(guī)模容忍一定壞賬但希望盡可能減少對好客戶的誤拒可以選擇一個較高的閾值如0.7提高精確率。我們可以通過分析不同閾值下的精確率-召回率曲線來輔助決策precisions, recalls, thresholds_pr precision_recall_curve(y_test, y_pred_proba_test) # 找到使F1-Score最大的閾值 f1_scores 2 * (precisions * recalls) / (precisions recalls) optimal_idx np.argmax(f1_scores) optimal_threshold thresholds_pr[optimal_idx] print(f基于最大F1-Score的最佳閾值: {optimal_threshold:.3f}) print(f對應精確率: {precisions[optimal_idx]:.3f}, 召回率: {recalls[optimal_idx]:.3f}) # 使用選定的閾值做最終預測 final_threshold 0.4 # 根據業(yè)務需求調整 y_pred_final (y_pred_proba_test final_threshold).astype(int) # 輸出分類報告和混淆矩陣 print(classification_report(y_test, y_pred_final)) cm confusion_matrix(y_test, y_pred_final) sns.heatmap(cm, annotTrue, fmtd, cmapBlues) plt.xlabel(Predicted) plt.ylabel(Actual) plt.title(Confusion Matrix) plt.show()混淆矩陣能直觀地展示真正例TP實際違約且被預測為違約抓對了。假正例FP實際正常但被預測為違約誤殺。真負例TN實際正常且被預測為正常放對了。假負例FN實際違約但被預測為正常漏殺。業(yè)務人員可以根據混淆矩陣和成本誤殺損失利息漏殺損失本金來量化模型帶來的價值。8. 模型解釋與部署準備從黑盒到白盒在金融風控領域模型的可解釋性至關重要。監(jiān)管要求、內部風控評審都需要知道模型為什么做出某個決策。8.1 全局解釋哪些特征最重要樹模型如LightGBM自帶特征重要性屬性可以告訴我們哪些特征對模型預測的貢獻最大。importances best_lgb_model.feature_importances_ feature_names X_train.columns # 創(chuàng)建DataFrame并按重要性排序 feat_imp_df pd.DataFrame({feature: feature_names, importance: importances}) feat_imp_df feat_imp_df.sort_values(importance, ascendingFalse).reset_index(dropTrue) plt.figure(figsize(10, 8)) sns.barplot(ximportance, yfeature, datafeat_imp_df.head(20)) plt.title(Top 20 Feature Importances (LightGBM)) plt.tight_layout() plt.show()通常你會發(fā)現(xiàn)debt_to_income_ratio負債收入比、credit_history_length信用歷史長度、annual_income年收入等特征排名靠前這符合業(yè)務直覺。8.2 局部解釋為什么這個客戶被拒絕對于單個客戶的預測我們可以使用SHAP (SHapley Additive exPlanations)值進行解釋。SHAP值基于博弈論公平地將模型預測值分配到每個特征上。import shap # 初始化JS可視化用于Notebook shap.initjs() # 創(chuàng)建一個解釋器 explainer shap.TreeExplainer(best_lgb_model) # 計算測試集前100個樣本的SHAP值計算全部可能較慢 shap_values explainer.shap_values(X_test.iloc[:100]) # 1. 單個樣本的解釋例如第一個被預測為高風險的用戶 shap_index 0 # 選擇你想解釋的樣本索引 shap.force_plot(explainer.expected_value[1], shap_values[1][shap_index], X_test.iloc[shap_index]) # 2. 匯總圖看特征的整體影響方向 shap.summary_plot(shap_values[1], X_test.iloc[:100])力Force圖展示單個預測中每個特征是如何將基礎值所有樣本的平均預測推向最終預測值的。紅色特征推高預測概率增加風險藍色特征推低預測概率降低風險。匯總圖每個點代表一個樣本。x軸是SHAP值對預測的影響大小顏色表示特征值的大小??梢钥刺卣髦蹬c風險的關系例如debt_to_income_ratio越高SHAP值越大即風險越高。當模型拒絕一個客戶的貸款申請時風控人員可以調出該客戶的SHAP解釋圖清晰地告訴客戶“您的申請被拒絕主要是因為您的負債收入比過高0.15且信用歷史較短0.08?!?這大大增強了模型的透明度和可信度。8.3 模型持久化與部署準備訓練好的模型需要保存下來以便在新的數據上做預測。import joblib # 或使用 pickle # 保存模型 model_filename ./models/lgbm_default_predictor_v1.pkl joblib.dump(best_lgb_model, model_filename) print(f模型已保存至 {model_filename}) # 加載模型 loaded_model joblib.load(model_filename) # 對新數據進行預測 # new_data 是經過完全相同預處理和特征工程后的DataFrame new_pred_proba loaded_model.predict_proba(new_data)[:, 1]在實際部署中你可能會封裝成API服務使用Flask或FastAPI創(chuàng)建一個Web服務接收客戶數據返回風險評分和決策建議。集成到風控系統(tǒng)將模型預測邏輯寫成函數嵌入到銀行現(xiàn)有的信貸審批流程中。定期監(jiān)控與更新模型會隨著時間“老化”因為客戶行為和宏觀經濟在變化。需要定期如每季度用新數據評估模型性能必要時重新訓練或更新。9. 項目總結與避坑指南走完整個流程你會發(fā)現(xiàn)一個完整的風控預測項目遠不止“調個包跑個模型”那么簡單。它融合了業(yè)務理解、數據處理、算法應用和工程實踐。最后分享幾點我在這個項目復現(xiàn)和實際工作中的深刻體會第一數據質量決定天花板特征工程決定你能摸多高?;ㄔ跀祿逑春吞卣鞴こ躺系臅r間通常占整個項目的60%-70%。一個聰明的特征如“近三個月查詢征信次數”可能比換一個更復雜的模型提升更大。務必警惕數據泄露確保所有特征在預測時都是可獲得的。第二不平衡處理是風控建模的必修課。不要只看準確率。ROC-AUC和PR-AUC是你的好朋友。多嘗試幾種采樣方法和算法內置的類別權重調整并在驗證集上仔細評估其對召回率抓壞人能力的影響。第三模型解釋性與性能同等重要。特別是在金融領域一個無法解釋的“黑盒”模型即使AUC再高也很難通過內審和監(jiān)管的挑戰(zhàn)。LightGBM/XGBoost SHAP 是目前兼顧性能與可解釋性的黃金組合。在特征設計時也要盡量使用業(yè)務上可理解的變量。第四交叉驗證是防止過擬合的保險繩。永遠不要用測試集來調參或做模型選擇。堅持使用交叉驗證來評估模型在訓練集上的泛化能力。隨機種子random_state要固定確保結果可復現(xiàn)。第五從實驗到生產有很長的路要走。Notebook里的模型只是原型。要將其轉化為生產系統(tǒng)你需要考慮特征工程的代碼如何模塊化、自動化模型如何版本管理預測服務如何保證低延遲、高并發(fā)預測結果如何與業(yè)務系統(tǒng)聯(lián)動監(jiān)控指標如何設計如模型穩(wěn)定性PSI、預測分數分布變化這是一個更大的系統(tǒng)工程。這個基于Python的個貸違約預測項目就像一張精細的“風險地圖”繪制指南。它從數據源頭開始教你如何清理、加工信息如何選擇合適的“繪圖工具”模型如何校準“圖例”閾值以適應不同的業(yè)務場景最后還教你如何向別人解釋這張地圖為什么這么畫。希望這份詳盡的指南能幫你不僅跑通代碼更能理解背后每一步的“為什么”真正掌握用數據驅動信貸風險決策的核心能力。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧美激情综合色综合色| 丁香五月日韩| 久久久天天啊| 欧洲亚洲午夜| 日韩一级片| 婷婷刺激综合| 九九色99| www.色婷婷.com| 99热日本| 丁香六月婷| 99在线小视频| 精品一二三区久久AAA片| 国产亚洲精品久久久久久郑州| 久久久免费精彩视频| 欧美婷婷五月丁香| 午夜69成人做爰视频| 五月天婷婷色| 日韩av一区二区在线/日产精品久久久| 9久久狠狠的| 国产av一区二区三区| 亚洲V国产V欧美V久久久久久| 最近中文字幕2019视频1| 大色鬼综合| 日日操夜夜擼| 99婷婷五月天激情| 五月天婷婷操逼视频| 99A级片| 91人人操.COM| 激情五月综合视频| 国产另类综合| 五月久久婷婷天堂视频| 五月婷婷开心网| www99热| ..真实国产乱子伦对白在线_欧| 538在线精品| 无码AV久久久久久久久| 大香蕉综合视频在线| 91狼友视频在线观看| 中文av在线观看| 婷婷精品综合| 涩综合在线| 中文aV网| 狠狠草在线观看| 久久视频婷婷| 婷婷五月色天| 天天干天天日蜜臀av| 久久久五月天婷婷成人网| 五月天婷综合| 丁香五月AV综合| 午夜不卡成人一区二区| 五月婷婷综合在线| 激情婷婷五月天| 久久a热| 丁香五月天婷婷激情| 67194成I人在线观看线路1| 可以看的av| 亚洲第一成人无码A片| 精品AV无码超碰| 888久久久| 婷婷色丁香五月| 99色在线视频观看| 五月香六月婷| AAA久久| 激情五月综合| 丁香五月激情五月色综合| 97热久久| 桃色激情婷婷伊人网| 色五月丁香六月婷婷| 超碰高清在线| 久久激情视频| 亚洲视频无| 久久婷婷亚洲| 色婷五月| 久99热| 午夜天堂一区人妻| 国产亚洲网站在线| 99热精这里只有精品| 五月丁香六月激情欧美综合| 婷婷久久五月| 亚洲AV无码成人精品区电影网| 超碰99在线| 婷婷丁香五月天欧美| 婷婷干五月综合在线播放| 日韩久热| 人妻有码乱操| 婷婷五月天成人五月天| 婷婷五月天伊人| 伊人五月综合网| 精品热九九| 五月天婷婷綜合院| 午夜婷婷六月天| 成人视频在线免费播放| 国产精品日本一区二区在线播放| 五月婷婷丁香大陆免费| 久久这里只有国产视频| 色99色| 天天操天天插天天射| 91婷婷| 99精品久久久久久久婷婷久久| 五月天婷婷激情| 五月丁香啪啪啪| WWW色色色COM| 热九九在线| 99久久玖玖| 99久久激情视频| 97色碰碰公开视频| 安息电影在线观看完整版| 国产综合网在线| 99热地址| 日韩高清久久| 97色伦另类图片小说视频 | 丁香九月久久| 26uuu成人网| 丁香六月综合激情| 狠狠做婷婷| 亚洲成人五月| 丁香六月色婷婷| 99这里只有精品|v| 影音先锋天天日| 天天综合色| 婷婷五月天黄色小说| 99无码黄色视频| 91久久九| 69er小视频| 五月婷婷色色色| 亚洲色频| 99成人无码| 东京热免费视频| 91综合视频在线| 天天色天天搡| 天天干天天插| cao视频,现在观看| 狠狠色丁香99| 丁香婷婷基地| 狠狠色色综合| 九九婷婷网五月天| 五月婷婷性爱网| 欧美狠狠草| www热久久yy9| 九九偷拍网| 五月婷婷综合网在线播放| 2020日日干| 另类婷婷五月天啪帕帕| 激情综合网激情五月网| 中文字幕在线观看视频www| 色v综合网| 国产裸舞表演WWWW| 99干免费视频| 久久久中文| 中文字幕AV在线播放| 99热这里只有国产精品| 99re6在线视频精品免费| BT综合在线视频观看| 色婷婷六月丁香综合欲精品| 五六月婷婷久久| 精品国产va久| 成人在线日韩| 色五月激情问网站| 色香欲综合| 99噜噜| 色欲色香综合网| 婷婷丁香综合网| 夜夜躁狠狠| 九九99九九99| 天天射天天干天插色综合| WWW,五月| 日本人妻久久| A A色色| 777精品久无码人妻蜜桃| 丁香五月婷婷啪啪| 精品人妻一区二区三区四区不卡在| 超碰无码318604| 亭亭五月色男人| 亚洲狠狠爱婷婷| 婷婷五月天激情偷拍| 99人人干| 操笔无码| 青草青草视频2免费观看| 亚洲精99| 无码免费人妻A片AAA毛片西瓜| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 欧美交换配乱吟粗大25P| 五月丁香网视频| 99色天堂| 婷婷色激情网| 丁香五月久久| 新久久五月天激情| 色婷婷av在线观看| 亚洲五月丁| 九九热精品视频| 91人人看| 激情深爱五月天| 91九色PORNY中文啦| 欧美激情综合色丁香婷婷五月天| 碰久久精品w| 国产日韩亚洲欧美在线观看| 婷婷色情五月| 六月丁香婷婷综合狠狠爱夜夜爱| 成人AV在线电影| 99re久久| 99在线观看这里都是精品| 五月丁香激情综合网| 99热网站| 国内外色色色色色成人视频| 亚洲99视频| 日产精品久久久久久久蜜臀| 天天爽天天草| 99热色婷婷| www.色九月| 色婷婷A| 日韩另类在线观看| 色玖玖| 色色色综合| 久久久婷婷五月天| 丁香五月天激情免费在线观看AV777| Y11111111111少妇电影院| 天天插AV丝袜中| 婷婷在线日韩综合| 激情五月综合| 婷婷在线精品| 国产国产乱老熟女视频网站97| 人妻熟妇六区| 9久热在线精品| 日本色爽| 久久XX| 婷婷色五月激情| 狠色狠色狠色狠色狠色网| 六月五月天婷婷涩播在线| 五月天激情网页| 久操大屁股女人av| 六月激情综合| 欧美噜噜噜草| 婷婷五月天久草在线| 丁香五月激情五月开心五月| 亚洲激情婷婷| 欧美顶级少妇做爰HD| 天堂婷婷丁香六月网| 亚洲中文AV网站| 九九 激情 网| 888精品福利地址| 思思久久99热只有频精品66| 婷婷干五月综合在线播放| 成人网丁香五月| 成人短视频在线| 一区二区三区四区五区| 亚洲av无码影院| www.久久爱.com| Av狠狠色丁香婷| 97超碰免费超级在线观看| 色久天| 色色丁香五月天| 亚洲精品无码一区二区| 综合一本道| 人人性久久| 伊人久久婷婷| 99精品久久久久久久婷婷久久| 日韩无码亚欧无码| 99无码黄色视频| 激情丁香五月激情婷婷| 天天干天天曰天天射| 久久九九国产精品怡红院| 色五月色综合| 色玖玖综合网| 97超美国视频在线观看| 超碰在线观看99| 99热这里只有精品21| 97干在线视频精品店| 成人五月天丁香婷| 99aese| 97婷婷丁香五月天激情图片| 欧美性爱五月天| 玖玖资源站蜜臀| 日韩成人AV在线| 少妇搡BBBB搡BBB搡毛茸茸| 九九热这里| 色色色色热热| 婷婷综合另类| 精品一二三区久久AAA片| 丁香六月无码播放| 第2色五月婷| 亚洲精品九九| 伊人久久婷婷| 亚洲人人操| 26uuu淫色| 婷婷久久婷婷| 亚洲综合色网| 久久九九@| 天天操夜夜夜拍拍拍| 六月丁香婷婷色狠狠久久| 激情五月天综合网| 一区二区免费看| 99热20| 大香蕉人人人| yazhoujiqingav| 国産精品| 婷婷婷婷婷婷婷五月丁香| 26uuu青青| 久久女人九九| 欧美成人AAA片一区国产精品| av在线激情| 亚洲丁香网| 午夜大香蕉| 91丨九色丨国产打屁股网站| 老司机伊人| 五月丁香六月婷婷开心网| 26UUU一区二区| 99re免费视频| 久久综合九色综合97婷婷| 九九热99免费视频| 亚洲色在线观看| 99r这里只有精品哦| 99人人操人人爱久久久| 97日本在线播放| 91九色国产在线| 97韩国久久电影院| 青青草a在线| 狠狠色丁香婷婷久久综合| 开心色色五月天综合| 久久女婷| 操逼视频一区| 五月丁香六月婷婷欧美综合| 无码婷婷五月天| 成人噜噜网| 色色影院黄大片| 九九热123| 久久久精品色| www超碰| 天天操天天曰天天射| 三十熟女| 青草激情在线| 久久综合首页| 色婷综合| 亚洲最大五月天成人网| 日韩99视频| 色综合久久88色综合天天| 九九综合| 九九黄色网| 国产成人精品一区二三区熟女在线 | 桃色五月天| 久99久在线观看| 思思re99视频在线观看| 成人性爱精品视频| 狠狠色无码| 色五月激情问网站| 婷婷五月丁香基地在线视频官网| 日本三日本三级少妇三级66| 中文不卡av| 少妇AB又爽又紧无码网站| 亚洲第一第二网站| 激情综合色| 综合99久久天天综合| 天天摸色吧天天摸色吧| 99日这里只有精品| 天天色天天爱天天爽| 欧美色骚婷婷五月天| 亚洲中文字幕网| 亚洲AV免费国产电影| 99re视频在线精品| 99热在线播放精品| 六月激情婷婷综合| 九九av| 9久久精品| 99热成人| 六月丁香激情网| 五月激情婷婷图片基地| 婷婷五月大| 六月激情婷婷| 婷婷在线视频| 人妻久久久久| 天天插天天狠| 激情的五月婷婷蜜桃| 色婷婷五月综合| 久99久视频免费观看| 久久九⑨| 色色日本欧美| 操九色| 丁香五月停停基地| 色五月中文字幕| 91美女艹逼网站| 182无码| 婷婷五月丁香第四色超碰在线| 久草热8精品视频在线观看| 天天干天天拍| 91.www综合| 丁香六月婷婷缴情欧美| 第四色色色色色丁香五月天| 婷久久久| 9热在线视频精品| 婷婷激情97| 91N 一起草| 亚洲色区17| chaopeng在线人人| 日本三级色| 色 五月 天 婷婷 丁香 九月| 大香蕉75线| 日韩综合久| 激情五月色婷婷| 久久久香| 性色播| 99热在线里有精品| 9这里只有精品| 99这里只有精彩视频| 这里精品| 五月丁香影院| 久99热在线观看| 成人在线不卡| 啪啪啪大香蕉| 国产一级黄色影片,| 激情性爱婷婷| 丁香久久五月婷综合| 91人人爽狠狠狠| 亚洲小视频免费看| 欧美噜一噜| 丁香五月激情视频在线| 中文字幕色色| 99丁香五月婷| 丁香五月婷婷基地| 操大屄五月天视频| 婷婷五月色情| 99er这里只有精品| 六月五月久久丁香| 五月天亚洲色| 99re免费精品视频| 少妇性BBB搡BBB爽爽爽视頻| 国产AV网页| 久99热在线观看| 人人爱操| 婷婷五月丁香伊人网| 日本颜色视频人人爱| 色婷婷先锋| 九九在线精点品| 91九色首页| 激情婷婷丁香五月| 丁香密臀AV激情网| 丁香婷婷五月天网站| 婷婷激情五月天亚洲综合| 噜噜色com| 在线网黄| 亚洲字幕AV一区二区三区四区| 色爱爱综合网| 久久久久久久97| 丁香五月成人论坛| av狠狠操| 色五月综合| 欧美熟女视频 色婷婷| 亚洲午夜Av| 国在线激情网| 婷婷.com| 激情黄色小说五月天| 日韩AAAAA| 色色色欧美| 久九男女天堂| 激情四射婷婷色色色| 国产日产成人亚洲欧美国产VA| 五月天性色| 怡红院一二三| 色五月天综合网| 成人无码精品1区2区3区免费看| 婷婷丁香五月基地| 色色综合无码| 亚洲精品激情| 婷婷五月天av| 亚洲性爱AV| 九九亚洲视频| 久久AV电影| 91avse| 精品久久久久成人码免费动漫| 九九精品婷| 热99国产精品| 亚洲热久久| 99这里都是精品6| 95精品区一区二| 综合久久久| 五月六月激情婷婷| 大香蕉婷婷久久| 国产精品日本一区二区在线播放| 久久色五月| 内射激情在线| Av九九| 亚洲午夜在线视频| 91九色国产| 狠狠五月天激情| 99热婷婷| 99色.com| 丁香五婷| 精品99网站| 99九九热在线观看| 五月天另类小说久久小说网| 丁香六月婷婷久久综合八月| 色情婷婷五月天| 欧美三级A做爰在线观看| 激情综合色婷婷啪啪六月天| 99黄色| 天天干夜夜谢| 久久久国产精品黄毛片| 五月婷婷AV| 开心五月天激情网| 五月丁香综合影院| 五月天激情久色| 九九这里都是精品| 婷婷色色欧美| 思思热久久久久思思热| 午夜AV网| 欧美色狠婷久| 99婷婷国产最新视频| 蜜臀综合久草| 天天摸,天天爽| 色噜噜狠狠色综合成人网| 日本www免费九九| 人妻性爱av网站| 丁香五月婷婷大香蕉| 7777国产盗摄农村女人| 亚洲另类婷婷五月丁香在线播放| 9月色婷婷| 亚洲成人日韩无码精品| 色噜噜狠狠色综合日日免费| 婷婷丁香在线| 日日操夜夜操无码免费| 五月 婷婷 成人| www.夜夜操| 五月婷啪| 色婷婷久久综合久色综| 色婷狠狠| 夜夜操天天干| 国产欧美性成人精品午夜| 91要啪| 开心激情播播五月天| 九月丁香婷婷| 天天情天天狠天天透| 丁香五月天激情免费在线观看AV777| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 婷婷五月天最新综合你懂的 | 色一情一乱一乱91Av| 婷婷五月综合视频| 乱精品一区字幕二区| 亚洲精品网站色视频| 婷婷射丁香| 婷婷国产五月天17c| 天天操夜夜肏| 五月丁香综合精品欧美| 99久久成人| 激情五月综合| 天天人人综合| 五月婷激情| 九热精品| www久久艹| 性爱网六月丁香| 九九热这里只有精品在线观看| 97超碰免费超级在线观看| 99热这里只有精品26| 五月婷婷激情久久| 天堂在线9| 开心五月深爱五月| 亚洲国产网站| 日本va欧美va欧美精品88| 视频一区二区在线| 色综合综合网| 久久婷婷五月综合色区| 激情www.98com| 香蕉久久av一区二区三区| 狠狠草天天草| 99色综合| 一本久久亚洲五月婷婷 | 婷婷五月丁香六月| 日韩成人AV在线| 国产在线6| 97热这里只有精品| 丁香色六月| 久久九九色| 成人精品在线观看| www.激情五月| 超碰免费在线| 丁香六月综合激情| 婷婷五月天激情在线观看 | 青草青草视频2免费观看| 天天噜天天爱| 国产亚洲成AV人片在线观黄桃| 日韩抽插操逼| 99人妻碰碰久久久禁片| 丁香五月婷婷欧美成人色图| 婷婷桃色网| 色婷婷五月中文字幕在线dvd| 无码碰碰| 99热地址| 久久婷五月综合| 天天操加勒比| 日韩成人电影AV| 四色99久久| 丁香五月天激情婷婷丁香六月 | 99这里有精品| 深爱激情小说五月婷婷| 天天草女人| 丁香激情婷婷网| 91丨九色丨国产打屁股网站| 色色色热| AV网站免费在线| 大香蕉av在线| 久久成人性爱| 色婷婷狠狠禁18久久| 国产一二三四五六七八视频| 777久久久| 黄色一级影片| 91seav| 思思热在线视频精品| 天天草狠狠擦| 五月九九综合| 色九月婷婷丁香| 亚洲精品视频在线播放| 丁香六月啪啪| 99热加勒比| 日韩在线9| 天天舔天天摸天天透| 丁香五月婷婷少妇| 久久五月丁香综合17C| 狠狠色噜噜狠| 国产,欧美,学生妹,视频| 极品人妻videosss人妻| 玖玖热99| 丁香五月91| 思思热这里只有精品视频666| 欧美色色色| 天天综合天天玩夜夜玩天天玩夜夜玩 | 亚洲天堂九九九| 狠狠va| 亚洲精品第一国产综合亚AV | 国自产拍偷拍精品啪啪一区二区| 日日射天天射| 色五月天丁香婷婷色| 亚洲AV成人精品日韩在线播放| 综合激情五月天| 欧美性生交XXXXX无码小说| 婷婷丁香五月综合激情小说| 综合一区二区三区| 婷婷五月在线视频| www,99热| 久久久婷婷五月亚洲97号色| 另类天堂| 色五月婷婷色五月| 婷婷伊人久久| 亚洲精品又粗又大又爽A片| 久久久精品色| 五月天大香蕉| 男人的天堂av俄罗斯热| 99无码免费视频| 九色综合五月天婷五月| 婷婷色五月激情强奸四射| 久久久妻人人人| 天天干人人奸97| 手机旧版看人妻1025| 亚洲99激情| 丁香婷婷五月天成人| 超碰人人艹| 丁香婷停五月激情综合深爱| 天天操综合网| 99青青草| 91性高潮久久久久久久久| 蜜乳av一级av| 五月丁香色综合| 激情开心五月婷婷| 91人人操人人看| 丝袜大香蕉| 天天做天天爱天天要| 色婷婷视频| 久久男人网婷婷| av在线资源| 五月婷婷黄色视频| 在线视频另类| 久久九九激情五月天 | 久久免费操| 成人精品视频99在线观看免费| 久久玖玖综合| 79成人网| 大香蕉精品视频| 久久婷婷一级片| 婷婷五月天亚洲综合| 淫荡家庭AV| 综合精品啪啪| 免费视频WWW在线观看网站| 亚洲va成人va成人va在线观看| 秋霞午夜理论| aaa9区免费在线观看| 婷婷色狠狠| www.91九色| 国产高清RV综合aVa| 99操视频| 国外亚洲成AV人片在线观看| 玖玖爱资源站| 亚洲第79页| 亚洲人人96@| 综合久久高清| 婷婷五月激情欧美大胆视频| 五月天激情电影| 激情五月婷婷丁香| 天天射综合网天天插| 久婷五月| 中文字幕婷婷在线| 日本操B视频在线观看| 五月天激情四射| 欧美中文五月天| 欧美成人网婷婷综合在线| 在线婷婷| 五月婷婷日本| 婷婷伊人综合| 国产精品美女久久久久AV超清| 99热综合色图| 五月天夜夜爱夜夜操| 婷婷五月天美女| 99热99美国在线观看| 人妻在线观看视频| 99热在线观看| 五月天婷婷色综合| 日日夜夜狠狠操| 激情小说五月天中文字幕| 久久久久9| 日韩无码人妻一区二区| 欧美色激情四射| 新伍月婷婷| 亚洲色色爱| 97人妻碰碰碰久| 九九精品热播| 狠狠综合久久综合| 91919191919久久成人视频| 天天日夜夜爽| 伊人久久婷| 丁香五月天视频在线播放| 五月婷婷狠天天色综合| 色婷婷五月开心六月综合| 在线观看av网站| 狠狠色综合网站久久久久| 五月婷婷影视| 国产偷人爽久久久久久老妇APP | 97色97干| 成年人最刺激的综合网| 婷婷久久亚洲| 青草激情在线| 99精品视频免费观看,| 深爱女色婷婷丁香五月亚洲图区| 久热9| 欧美综合五月丁香六月婷| 色青五月天| 久久日本wwww色| 99久久超级| AV成人在线网站| 亚洲国产精品二二三三区| 大香蕉九九| 99热婷婷| 成人日韩欧美| 色色五月婷| 91大神操美女| 九色PORNY自拍成人精彩视频| 丁香五月AV| 激情综合一| 五月激情六月丁香| 五月天婷婷乱论小说| 丁香六月五月天| 激情六月综合| 99热九九热| www.99热. com这里只有精品| 99精品爱| 亚洲色综久久五月| 九九综合久久| 五月婷婷啪啪啪啪| 婷婷五月18永久免费视频| 99久久婷婷五月天| 色综合性视频| 婷婷激情啪啪| 97五月天婷婷| 色丁香影院| 婷婷激情社区| 天天爱天天吃狠天天透| 五月丁香六月婷婷综合在线| 五月天婷婷基地| 一区色色色色网| 亚洲另类婷婷五月丁香在线播放| 中文字幕丰满乱孑伦无码专区| 思思视频这里是精品| 久久亚洲色导航| 久久久月丁香| 久久狠狠色| 五月天婷婷乱| 天天综合色综合| 激情五月天色爱| 五月婷婷伊人久久| 99re热免费观看视频精品| 天天色天天爱天天爱天天爱y| 人人草开心五月天| 99热精品99| 色情综合| 97干在线| 91色色五月天| 禁片二区| 2015超碰| 五月天激情影院| 久久网站免费亚洲| 精品福利911| 超碰狠狠色| 欧美va在线| 无码人妻一区| 啪啪婷婷五月天激情| 日本99视频| 五月天婷婷久久| 日韩精品视频中文字幕| 亚洲成人av在线观看| 婷婷中文字幕网| 91凹凸在线| jiqingtaose五月天| 色亚洲视频| 激情综合网亚洲色图| 丁香六月婷婷激情| 五月天色不卡| 婷婷五月天久久久| 亚洲亚洲人成综合网络| 色婷婷亚洲综合网站| 百度4399有码精品V在线观看| 91久久久久久久91| 色愛综合网| 婷婷丁香视频| 婷婷五月天视频亚洲| 香蕉国产2013| 欧美成人精品A片免费一区99| 91热爆在线| 91无码一起草| 色色日本欧美| 欧美欧盟性爱网| 亚洲综合在线丁香五月| 久播影院免费观看电视剧大全最新网| 丁香五月婷婷激情尤物| 色五月婷婷五月天| 婷婷成人AV| 激情综合一| AA片在线观看视频在线播放| 97人人操人人拍| 婷婷五月色综合| 精品一区二区三区四区五区六区介绍| 26uuu亚洲| 色婷婷丁香五月| 国产在这里只有精品| 国产99久久久国产精品免费看| 2050人人操免费工开爱| 五月婷婷色播| 色播五月丁香婷婷| 人妻久久久久久久| 精品久久人妻| 亚洲精级| 9久视频| 色婷婷影音| 亚洲婷婷五月| 99热在线播放| 日本三级片片| 五月欧美色播| 五月草视频| 9色在线| 我淫我色婷婷五月天激情四射| 色九月婷婷综合| 色五月五月丁香| 色丁香五月| 香蕉久久国产AV一区二区| 亚洲无码黄色| 丁香五月婷婷姐| 停婷丁五月在线| 婷婷丁香五月综合| 五月亭亭欧美女人| 综合久久9| 99re这里有精品手机在线| 久久免费操| 9热网站| 五月婷婷天堂| 色小说五月婷婷| 天天久久狠狠色综合| 激情涩播| 五月丁香激情四射综合| 六月婷婷激情小说网| 亚洲中文字幕AV| 亚洲久久天堂| 婷婷在线播放av| 五月天国产婷婷精品视频在线| 另类图片天天影视在线观看| 日韩熟女啪啪视频| 91热在线| 开心五月婷| 1024人妻| 五月天丁香婷婷视频网址| 亚洲网视屏| 99热这里只有精品18| 99热只有| 久久综合色五月| 国产五月天激情小说| 色婷五月天| 风流少妇A片一区二区蜜桃| 超碰99在线| 九月色婷婷婷| 小视频在线亚洲| 九九人人精品| 丁香五月婷婷社区| 综合久久婷婷| 天天天久久人人人合| 超碰免费在线| 91色色色18| 丁香五月综合在线观看| 五月天成人综合| 亚洲五月激情| 人人摸人人干人人做| 91丨九色丨43老版熟女| 色女人久久| 久久婷婷五月天亚洲欧美| 五月丁香婷婷啪啪| 午夜爱插插| 伊人啪啪网| AA片在线观看视频在线播放| 亚洲思思热久| 婷婷九月在线| 丁香五月欧美婷婷| 高潮毛片遮挡费高一百度| 五月天天久久香| 日韩欧美成人一区二区三区| 人人干天天舔| 婷婷四色五月| 狠狠婷婷综合| 亚洲AV激情五月综合网| 五月丁香免费视频| 九九偷拍网| 婷婷激情丁香六月| 男同91 | 91午夜激情| 丁香,开心成人,久久| 亚洲精品网站色视频| 九艹在线| 九月大香蕉| 久久99成人性爱高清视频| 丁香五月AV| 色丁香五月婷婷| 狠狠干在线| 色综合色综合色综合| 五月综合六月丁| 免费观看欧美成人AA片爱我多深| 色六月丁香婷婷啪啪啪| 色玖玖爱| 国产综合81p| 五月天桃色深爱网| 色综合女人99| 六月婷婷亚洲| www.色五月| 色婷五月天亚洲| 天天日天天操心| 国产激情视频在线观看| 色婷婷88| 毛片新网地| 五月丁香六月婷婷色情| 超级碰碰一区| 牛牛碰免费| 精品9久| 色五月婷婷婷婷| 国产露脸150部国语对白| 99热热九九| 99自拍视频| 五月激情丁香六月狠狠干| 天天日天天爽夜夜爽| 色婷婷欧美| 久操热| 武则天精品久久| 婷婷人人操| 在线观看av网站| 日本在线视频播放91| 六月激情婷婷综合| 99精品视频网| 丁香花婷婷五月天| 人人色婷婷| 亚洲操B视频| 激情四射网| 久久99性爱视频| 色天使久久综合| 日本成人小说婷婷六月| 亚洲三A| 激情综合网激情五月欧美| 天天日中文| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 蜜桃人妻无码AV天堂三区| 99热思思在线观看| 成人无码精品1区2区3区免费看| 日本色婷婷久久99精品91| 欧美美女视频| 丁香五月宝贝激情网| 天天揷综合网| 日日日影院| 丁香五月天堂亚洲社区| 亚洲成人黄色网| CAoub青青超碰| 中文成人在线| 五月丁香亭亭操逼| 99操逼| 色五月丁香五月五月婷婷| 久久久天堂国产精品女人| tingting五月天亚洲| 强壮公让我夜夜高潮A片视频| 五月天成人手机在线视频| 波多野结衣不卡AV| 综合啪啪| 美女激情综合| 婷婷色播婷婷| 五月色丁香综合| 性av| 婷婷五月色亚洲| 夜夜AVV| www.91在线观看| 久久综合爱| 人人操AV| 久久996re热这里只有精品无码| av网址在线播放| 色综合久久88色综合天天| 欧美婷婷精品激| 色人久久| 再次出发二| 蜜乳久AV| 99热最新| 91丨九色丨熟女|新版| 99热在线观看免费精品| 久久ER视频com| 大香蕉伊人丁香五月| 噜噜色婷婷| 91婷婷伊人牛牛| 婷婷五月激情图片| 五月天自拍视频| 九色视频入口91| 亚洲成人在线综合| 996热| 97超碰婷婷五月天| 久久久久久性爱视频| 久久久久8888| 少妇做爰免费视看片| 这里只有精品免费视频在线观看| 久久久久久久五月| 97碰啪啪| 丁香五月婷婷88在线| 丁香青青五月天| 久久婷婷色色| 狠狠狠狠狠狠狠狠狠狠狠色宗合图片| 五月婷婷性爱网| 九九大香视频| 久久丝丝热| 婷婷丁香色五月天| 五月综合在线| 99视频这里只有免费精品| aaaa久久| 久久总和99| 99久热这里有精品| 婷婷性爱综合| 婷婷中文字幕| 色色色色av777| Av免费网站在线| 99啪啪视频| 婷婷性爱无码视频| 91婷婷五月丁香碰| 97久久超碰| 婷婷五月天堂一本在线| 玖玖在线视| 99热在线观看| 五月丁香综合中文| 玖玖伦理电影| 91丁香色五月| 久久久五月天| 天天干天天色天天干| 人人操 色| 99热精品在线| 精品无吗va视频免费观看| 色婷婷XXXXX| 五月婷婷性爱视频| 操骚货在线| 久热A| 成人在线不卡| 果冻传媒A片一二三区| 色婷婷www| 丁香婷婷五月六月天| 五月婷婷影| 国产精品久久久久9999小说| 开心五月深爱五月| 天天综合插插| 婷婷七月丁香色色| 国产精品久久久久久久久久| 九九在线精品| 五月香蕉婷婷| 玖玖婷婷婷丁香五月| 欧美性生交XXXXX无码小说| www,超碰| 日日鲁鲁夜夜爽爽| 九九精彩久久| 超碰只有精品在线| 91久久1118| 天天爽夜夜爽天天爽夜夜爽| 91丨九色丨东北熟女| 996re热精品视频| 天天日天天色| 伊人五月天| 丁香五月综合在线| 色五月超碰| 婷婷色综合网日韩国产| 天天干天天干天天干天天干天天干| 天天搞天天色综合| 伦乱美欧| 大香蕉免费9| 日韩综合成人| 久草热在线视频| 五月天激情图片| 人妻videos人妻高清| 丁香六月久久| 丁香五月婷婷国产在线| www.夜夜操| 男女免费视频999| 深爱丁香激情| 色色吧综合| 亚洲精品中文字幕成人片| 日本人妻伦在线中文字幕| 午夜激情综合| 五月天婷婷在线播放| 婷婷亚洲五月丁香综合在线| 丝袜激情网| 奇米四色五月天| 色色色网站| 青青草原亚洲天堂| 99这里只有| 五月天色综合服务平台| 狠狠色综合网| 色五月大| 婷婷五月天淫荡| 五月天婷婷色| 超碰成人在线观看| 情久久综合五月天| 丁香五月综合在线| 国产精品久久99| 超碰在线超碰| 99热香港| 狠狠干综合| 亭亭色色五月天| 五月天淫乱视频| 99热12| 欧美天天综合网站上去吧| 色色色欧美| 97人碰人操| 午夜丁香婷婷| 婷婷久久五月| 97色在线观看视频| 色婷婷小说| 亚洲精| 视频免费精品免费精品免费精品免费精品免费精品免费精品免费99 | 影音先锋天天日| 这里只有精彩视| 三级成人网站| 新久久五月天激情| 五月婷婷啪啪网| 亚洲成人无码网站| 亚洲国产成人AV在线 | 91在线操| 丁香六月天婷婷| 午夜AV网| 精品久久久91久久影视网| 九九色婷婷| 超碰大香蕉网| 婷婷五月色| 九九这里都是精品| 婷婷五月伦理网站| 丁香五月激情视频在线| 99免费综合网| 91性高潮久久久久久久久| 超碰在线中文字幕| 婷五月天| 中文字幕不卡网站| 爱99干99| 超碰97在线操| 狠狠干综合| AA丁香综合激情| 激情五月婷| 六月丁香啪啪| AV性爱网| 五月婷婷六月丁香在线| 亚洲视频伍月婷婷| 婷婷色五月综合| 69色色视频| 婷婷开心激情综合五月天| 五月丁香六月婷婷综合伊人| 欧美色播综合在线观看| 狠狠色狠狠干| 激情五月深爱五月| 99色区| 人人爽在线视频综合网| 婷婷色亚洲| 99精品久久| 亚洲艹网| 天天综合情| 丁香综合伊人| 5月婷婷综合| 天天日天天干天天爱| 日本va欧美va精品发布视频| av婷婷丁香 六月| 色婷婷中文字母五月丁香| 五月婷婷在线视频免费观看| 五月丁香婷婷色色| 大香蕉精品视频| www.99在线| 久久五月天大美女| av 一区三区四区| 婷婷爱综合| 五月婷婷色丁香| 九九这里有精品视频| 五月丁香六月婷婷不卡免费无码| 五月婷人妻| 色综合网综合| 欧洲免费视频色| 丁香五月在线看| 99思思| 五月丁香婷婷综合网| 激情久久久久久久久| 婷婷丁香色情| 色九亚洲| 五月激情啪啪| 久久五月丁香| 免费视频WWW在线观看网站| 国产3p露脸普通话对白| 夜夜嗨一区二区三区直播内容 | 五月婷婷色吧!| 这里只有精品9| 激情六月色| 色狠狠999综合| 五月天另类小说| 99热精品在线| 国产亚洲在线| 激情五月婷婷综合秋霞| 五月丁香婷婷狠狠操| 婷婷 丁香 久久| 日本久久视频| 色一区高清| 狠狠色丁香婷婷基地| 天天天天做夜夜夜夜做| 91午夜激情| 亚洲AV网站在线观看| 色婷婷久久综合中文久久一本| 婷婷色婷婷| 91欧美| 久草x色在线观看99 | 婷婷丁香九月| 91精品国产91久久久久青草| 婷婷综合另类小说| 精品福利911| 黄色激情五月天| 五月天丁香成人| 色五月激情| 99久久人妻精品无码二区| 亚洲AV成人在线观看| www.婷婷,com| 无码色色色色色| 人妻videos人妻高清| 99久久6| 日韩啪| 婷婷丁香五月综合| 97操资源婷婷| 91打屁股视频网站| 99re6热在线精品视频播放速度| 无码激情精品色婷婷久久久久| 草逼大片| 棕合影院色色| 激情五月天色播| 丁香婷婷五月色综合| 丁香五月婷婷激情尤物| 天天做天天要天天爱| 婷婷色情小说| 91se在线观看| 婷婷亚洲综合| 五月做爱|