欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實戰(zhàn)洞察。

R語言穩(wěn)健回歸實戰(zhàn):從lm到rlm的異常值診斷與處理

R語言穩(wěn)健回歸實戰(zhàn):從lm到rlm的異常值診斷與處理 簡介R語言穩(wěn)健性估計實例分析資源面向數(shù)據(jù)分析、統(tǒng)計建模及回歸診斷學(xué)習(xí)者。壓縮包共1個pptx文件大小僅716KB以幻燈形式系統(tǒng)展示線性回歸診斷與穩(wěn)健回歸的完整思路。內(nèi)容從lm()基礎(chǔ)擬合與plot()四聯(lián)診斷圖出發(fā)逐步講解殘差、異常點、高杠桿點與強(qiáng)影響點的判別方法涵蓋學(xué)生化殘差、帽子矩陣及Cook距離等關(guān)鍵指標(biāo)的計算與應(yīng)用同時理清三類特殊點的聯(lián)系與區(qū)別在此基礎(chǔ)上引入Huber與Bisquare兩種M估計穩(wěn)健回歸方法通過實例演示如何在異常值存在時進(jìn)行加權(quán)迭代獲得更可靠的參數(shù)估計。整體框架緊湊適合教學(xué)演示、課后復(fù)習(xí)或項目參考能幫助讀者快速構(gòu)建回歸穩(wěn)健性分析的知識體系。目前已有1129人學(xué)習(xí)對于需要處理含異常值數(shù)據(jù)的分析人員具有較高參考價值。1. R 語言穩(wěn)健性估計從 lm() 到 rlm() 的完整實例分析做回歸分析時我經(jīng)常碰到一種場景數(shù)據(jù)里混進(jìn)了幾個“不老實”的點普通最小二乘回歸OLS的結(jié)果被它們牽著鼻子走模型系數(shù)變得面目全非。R 語言里處理這類問題有一套成熟的工具鏈從lm()擬合、plot(lm.fit1)出四張診斷圖到cooks.distance()計算 Cook 距離再到穩(wěn)健回歸中的 Huber 和 Bisquare M 估計每一步都有對應(yīng)的函數(shù)和判斷標(biāo)準(zhǔn)。這篇文章圍繞一套完整的 R 實例分析展開包含可直接運(yùn)行的 R 代碼和一份 crime 數(shù)據(jù)集的分析流程適合正在做回歸診斷、異常值處理或需要提高模型穩(wěn)健性的數(shù)據(jù)分析師和統(tǒng)計專業(yè)學(xué)生。你將看到普通殘差、學(xué)生化殘差、杠桿率、Cook 距離這幾個概念如何串成一條識別異常點的完整鏈路以及rlm()在 Huber 和 Bisquare 兩種權(quán)重函數(shù)下的實際表現(xiàn)——這些內(nèi)容在多數(shù)教材里只講公式很少告訴你參數(shù)怎么選、輸出怎么讀、哪些“經(jīng)驗分界點”其實有爭議。文章會以一份真實可跑通的 R 代碼為主線把每個函數(shù)的作用、每段輸出的含義、每個閾值的由來都拆開講清楚。2. 從普通殘差到學(xué)生化殘差異常點的識別邏輯與帽子矩陣2.1 普通殘差為什么不能直接用方差不等齊問題任何一本回歸分析教材都會告訴你殘差是觀測值Y與預(yù)測值?的差表達(dá)式為e Y - ?。但實際用 R 做診斷時直接比較普通殘差的大小是有問題的。問題出在方差上普通殘差的方差不是常數(shù)它依賴于帽子矩陣的對角線元素h_ii具體形式是Var(e_i) σ2(1 - h_ii)。這意味著什么不同觀測點的殘差天然具有不同的方差如果直接比較e_i的絕對值大小那些h_ii較大的點即遠(yuǎn)離自變量均值的點殘差方差更小同樣的偏差會被放大從而被誤判為異常點。我一般會在 R 里這樣獲取普通殘差# 讀取數(shù)據(jù)并擬合普通線性回歸模型 c1 - read.csv(E:/RData/20170917.csv) attach(c1) lm.fit1 - lm(Weight ~ Height, data c1) # 提取普通殘差和擬合值 resid_ols - resid(lm.fit1) fitted_ols - fitted(lm.fit1) # 查看前六個殘差 head(resid_ols)這段代碼中resid()函數(shù)提取 OLS 回歸的普通殘差fitted()提取模型對每個樣本的預(yù)測值。attach(c1)把數(shù)據(jù)框的列變量直接暴露到工作環(huán)境中方便后續(xù)直接引用Weight和Height但要注意使用后建議用detach(c1)釋放避免變量名沖突。plot(lm.fit1)是診斷的第一道工序它一次生成四幅圖殘差對擬合值圖、殘差的正態(tài) Q-Q 圖、標(biāo)準(zhǔn)化殘差絕對值平方根對擬合值圖、Cook 距離圖。這里面第三幅圖橫軸是擬合值縱軸是sqrt(|standardized residuals|)主要用來檢查方差齊性。如果你看到散點呈現(xiàn)漏斗形分布說明方差不穩(wěn)定這時普通殘差的可比性進(jìn)一步下降。2.2 帽子矩陣與杠桿率h_ii 如何刻畫點的“偏遠(yuǎn)程度”杠桿率衡量的是自變量X對自身均值的偏異程度。公式為h_ii (1/n) (X_i - X?) (XX)^{-1} (X_i - X?)從公式可以直接讀出兩層含義第一項1/n是基礎(chǔ)杠桿所有點共享第二項是第i個點到樣本中心X?的 Mahalanobis 距離。在樣本空間中h_ii較大的點位于自變量空間的邊緣它們可能把回歸線拉向自己對回歸系數(shù)的 LS 估計影響可能很大。在 R 中提取杠桿率有很多路徑常見做法是# 通過 lm.influence 獲取帽子矩陣對角線元素 H - hatvalues(lm.fit1) # 查看杠桿率最高的幾個樣本 head(sort(H, decreasing TRUE), 5) # 結(jié)合模型矩陣手動計算杠桿率 X - model.matrix(lm.fit1) H_manual - diag(X %*% solve(t(X) %*% X) %*% t(X))代碼中hatvalues()返回帽子矩陣的對角線元素是官方推薦做法。model.matrix()提取設(shè)計矩陣X包括截距列和自變量列然后用矩陣運(yùn)算手動復(fù)現(xiàn)X(XX)^{-1}X的對角線。手動計算的目的是驗證對帽子矩陣的理解實際項目中直接用hatvalues()即可。注意1/n這一項說明即使所有自變量都等于均值杠桿率也至少是1/n所以看杠桿率時不要只看絕對值還要結(jié)合2p/n或3p/n這類經(jīng)驗閾值判斷。2.3 學(xué)生化殘差的計算公式拆解與 R 實現(xiàn)由于普通殘差存在方差不齊的問題需要標(biāo)準(zhǔn)化后比較。學(xué)生化殘差的形式是r_i e_i / (s * sqrt(1 - h_ii))其中s是剩余標(biāo)準(zhǔn)差h_ii是帽子矩陣對角線元素。從公式可以看出學(xué)生化殘差同時考慮了殘差本身的偏差程度和杠桿率的影響。h_ii越大分母越小同一個殘差對應(yīng)的學(xué)生化殘差越大。在 R 中可以直接用rstandard()或rstudent()得到內(nèi)部學(xué)生化殘差和外部學(xué)生化殘差# 內(nèi)部學(xué)生化殘差使用當(dāng)前模型的誤差方差估計 r_int - rstandard(lm.fit1) # 外部學(xué)生化殘差刪除第i個點后重新估計誤差方差 r_ext - rstudent(lm.fit1) # 判斷哪些點超過閾值 outlier_flag - abs(r_ext) 3 sum(outlier_flag)rstandard()計算時使用包含所有樣本的誤差方差估計rstudent()則對每個點執(zhí)行“刪除一個樣本后再估計方差”的策略對異常點更敏感。經(jīng)驗上外部學(xué)生化殘差絕對值大于 3 的點值得高度關(guān)注。代碼中最后一行的sum()統(tǒng)計異常點數(shù)量方便批量篩查。2.4 避坑學(xué)生化殘差與普通殘差的三個典型誤用現(xiàn)象直接比較普通殘差的大小把e_i最大的幾個點當(dāng)作異常點結(jié)果剔除后模型反而變得更差某些正常點被誤刪。原因普通殘差方差不齊h_ii較大的點天然殘差方差更小同樣的偏離程度表現(xiàn)為更大的e_i導(dǎo)致高杠桿點被優(yōu)先標(biāo)記為異常點而真正的離群點可能因為杠桿率低被漏掉。解決用rstandard()或rstudent()替代普通殘差。學(xué)生化殘差分母中加入了sqrt(1 - h_ii)修正了方差不等的影響。我在實際項目中基本只用rstudent()它對單個異常點更敏感。現(xiàn)象abs(r_ext) 2標(biāo)記出大量點把閾值放寬到 2 后異常點比例超過 10%模型被削掉太多樣本。原因樣本量較大時學(xué)生化殘差的分布接近t分布在n 50時約 5% 的點可能超過 2但這不代表它們是異常點。閾值設(shè)置過松會把正常波動當(dāng)成異常。解決以abs(r_ext) 3作為首要關(guān)注線同時結(jié)合 Cook 距離判斷強(qiáng)影響性。不要只依據(jù)單一指標(biāo)刪點應(yīng)該綜合殘差、杠桿率、Cook 距離三維度?,F(xiàn)象刪除了所有學(xué)生化殘差超閾值的點后重新擬合發(fā)現(xiàn)刪點前模型系數(shù)還在合理范圍刪點后某個自變量變得不顯著或系數(shù)符號反轉(zhuǎn)。原因一個點既是異常點又是強(qiáng)影響點時它對系數(shù)的拉動作用可能掩蓋了其他點的模式。盲目刪除所有異常點可能破壞本來穩(wěn)定的數(shù)據(jù)結(jié)構(gòu)。解決先看 Cook 距離優(yōu)先關(guān)注“影響大”的點而不是“偏差大”的點。異常點不一定有強(qiáng)影響高杠桿點也不一定是強(qiáng)影響點需要區(qū)分對待。3. Cook 距離與強(qiáng)影響點綜合杠桿率和殘差的判斷標(biāo)準(zhǔn)3.1 Cook 距離公式拆解為什么它同時包含 h_ii 和 r_iCook 距離是回歸診斷中使用頻率最高的影響度量指標(biāo)其公式為D_i (r_i2 / p) * (h_ii / (1 - h_ii))其中r_i是第i個點的學(xué)生化殘差p是模型中參數(shù)個數(shù)含截距h_ii是杠桿率。這個結(jié)構(gòu)很有深意第一項r_i2 / p度量殘差偏離程度第二項h_ii / (1 - h_ii)是杠桿率的單調(diào)變換。兩個因子相乘意味著一個點只有同時具備“殘差大”和“杠桿高”兩個特征時Cook 距離才會顯著。單純殘差大但杠桿低或者杠桿高但殘差小D_i都不會太大。這與強(qiáng)影響點的定義高度吻合強(qiáng)影響點是指剔除后對回歸系數(shù)估計有顯著效應(yīng)的觀測值。在 R 中的計算方式非常直接# 使用基本包的 cooks.distance 函數(shù) d1 - cooks.distance(ols) # 查看 Cook 距離最大的樣本 which.max(d1) # 結(jié)合學(xué)生化殘差和杠桿率構(gòu)成診斷矩陣 r - stdres(ols) h - hatvalues(ols) # 輸出高杠桿、高殘差、高 Cook 距離的樣本 diag_matrix - data.frame( id 1:nrow(cdata), cook_d round(d1, 4), std_resid round(r, 3), leverage round(h, 4) ) head(diag_matrix[order(-diag_matrix$cook_d), ], 10)代碼中cooks.distance()返回每個樣本的 Cook 距離stdres()提取標(biāo)準(zhǔn)化殘差hatvalues()提取杠桿率。構(gòu)建的數(shù)據(jù)框把三個核心診斷量并列展示按 Cook 距離降序排列后可以直觀看到哪些點對模型影響最大。這里的ols是之前l(fā)m(crime ~ poverty single, data cdata)的擬合結(jié)果在 UCLA 的crime.dta數(shù)據(jù)集上運(yùn)行分析crime與poverty、single兩個自變量的關(guān)系。3.2 經(jīng)驗分界點 4/n 的由來與爭議Cook 距離的判斷閾值在學(xué)術(shù)界一直存在爭議。最常用的經(jīng)驗分界點是4/n其中n是樣本量。在 R 中篩選強(qiáng)影響點的標(biāo)準(zhǔn)寫法是# 按 4/n 閾值篩選強(qiáng)影響點 n - nrow(cdata) influential - cdata[d1 4 / n, ] influential # 同時也可以參考 F 分布的分位數(shù) qf_threshold - qf(0.5, df1 2, df2 n - 2) influential_f - cdata[d1 qf_threshold, ]4/n是經(jīng)驗法則來源于 Cook 距離與 F 分布近似關(guān)系中取F(0.5, p, n-p)的近似結(jié)果。另一種做法是用qf(0.5, p, n-p)直接計算 F 分布 50% 分位數(shù)作為閾值這在p2時通常比4/n略寬松。實際問題中我一般兩種都跑一遍把落在兩個閾值之間但又不算極端的樣本標(biāo)記為“重點關(guān)注”。3.3 實際分析crime 數(shù)據(jù)集中第 9、25、51 號樣本的處理在 crime 數(shù)據(jù)集上運(yùn)行plot(ols, las 1)會生成四張診斷圖。從殘差圖和 Cook 距離圖可以清晰看到第 9、25、51 號觀測值位于邊緣位置。進(jìn)一步用數(shù)值確認(rèn)# 查看這3個樣本的具體診斷值 target_ids - c(9, 25, 51) diag_matrix[target_ids, ] # 輸出這些樣本的原始數(shù)據(jù) cdata[target_ids, ]輸出的診斷矩陣顯示這三個點的 Cook 距離都超過了4/51的閾值標(biāo)準(zhǔn)化殘差絕對值也偏高。此時面臨一個典型決策場景如果直接采用 OLS你可能會傾向于刪除這三行數(shù)據(jù)再重新擬合但如果刪除后模型系數(shù)變化巨大說明這些點是強(qiáng)影響點但未必是“錯誤數(shù)據(jù)”。穩(wěn)健回歸提供了第三條路不剔除樣本而是降低它們的權(quán)重。3.4 避坑Cook 距離閾值的兩個常見翻車現(xiàn)場現(xiàn)象使用4/n閾值篩出 5 個強(qiáng)影響點全部刪除后重新擬合發(fā)現(xiàn)某個自變量系數(shù)符號反向擬合優(yōu)度下降。原因強(qiáng)影響點不一定都是“壞點”。如果這個點代表了真實存在的特殊子群體比如高收入低犯罪率的城市刪除它會讓模型喪失對這類群體的解釋能力。4/n是經(jīng)驗閾值樣本量小或自變量維度高時容易誤判。解決先記錄強(qiáng)影響點對應(yīng)的實際業(yè)務(wù)含義再決定是否刪除。通常我會保留這些樣本改用穩(wěn)健回歸或加權(quán)回歸讓數(shù)據(jù)自己決定權(quán)重?,F(xiàn)象plot(lm.fit1)四張圖中 Cook 距離圖看起來沒有超過紅虛線但手工計算cooks.distance()卻發(fā)現(xiàn)值超過4/n兩套結(jié)果不一致。原因plot()函數(shù)繪制的 Cook 距離圖縱軸范圍可能被自動縮放紅虛線是 R 根據(jù) Cook 距離分布計算的可視化閾值而不是嚴(yán)格的4/n邊界。兩種呈現(xiàn)邏輯不同導(dǎo)致肉眼判斷與數(shù)值判斷沖突。解決以cooks.distance()的數(shù)值結(jié)果為準(zhǔn)plot()圖只作為初步篩查。數(shù)值篩選后用identify()或which()定位具體樣本ID再回到業(yè)務(wù)層面判斷。4. rlm() 實現(xiàn)穩(wěn)健回歸Huber 與 Bisquare 兩種 M 估計的完整實戰(zhàn)4.1 為什么選擇 rlm最小二乘在異常點面前的兩個困境最小二乘估計的目標(biāo)是使殘差平方和最小這意味著一個大殘差點會以平方級別拉動回歸線。面對異常點和高杠桿點時OLS 有兩個困境第一如果異常點來自數(shù)據(jù)錄入錯誤理論上應(yīng)該剔除但數(shù)據(jù)分析者很難有充分證據(jù)證明“這個點一定是錯的”第二如果異常點來自另一個總體或特殊子群體直接刪除會造成樣本選擇偏差。穩(wěn)健回歸的思路是在“完全剔除”與“一視同仁”之間折中對殘差較大的觀測值賦予較低權(quán)重對正常樣本保留高權(quán)重。rlm()是 MASS 包中的核心函數(shù)實現(xiàn)了 M 估計的迭代重復(fù)加權(quán)最小二乘算法。其基本流程是先用 OLS 得到初始?xì)埐罡鶕?jù)殘差大小計算觀測權(quán)重再用加權(quán)最小二乘更新系數(shù)然后重新計算殘差和權(quán)重迭代直到收斂。權(quán)重函數(shù)的選擇決定了穩(wěn)健性的具體形式。4.2 Huber 方法的權(quán)重函數(shù)與參數(shù)選擇Huber 方法的權(quán)重函數(shù)是分段函數(shù)w(e) 1當(dāng)|e| cw(e) c / |e|當(dāng)|e| c其中c是截斷常數(shù)R 中默認(rèn)取1.345。這意味著殘差在閾值內(nèi)的觀測獲得權(quán)重 1殘差超過閾值的觀測權(quán)重隨殘差增大而遞減。Huber 估計對中等程度的異常值表現(xiàn)穩(wěn)健同時保留了較高的統(tǒng)計效率。在 R 中的用法# 加載 MASS 包 library(MASS) # Huber 方法的 M 估計 rr.huber - rlm(crime ~ poverty single, data cdata) # 查看模型摘要 summary(rr.huber) # 查看每個觀測的最終權(quán)重 weights_huber - rr.huber$w head(sort(weights_huber, decreasing FALSE), 10)summary(rr.huber)輸出與lm()類似包含系數(shù)估計和t值但注意這里不展示 F 統(tǒng)計量和 R2因為迭代加權(quán)過程讓這些統(tǒng)計量的解釋變得復(fù)雜。rr.huber$w保存了每個觀測的最終權(quán)重權(quán)重最小的點就是被降權(quán)最厲害的點。4.3 Bisquare 方法的權(quán)重函數(shù)與參數(shù)選擇Bisquare也常稱為 Tukeys biweight方法的權(quán)重函數(shù)是w(e) (1 - (e/c)2)2當(dāng)|e| cw(e) 0當(dāng)|e| c與 Huber 方法不同Bisquare 給所有非零殘差的觀測都賦予遞減權(quán)重殘差超過c的觀測權(quán)重直接歸零。R 中默認(rèn)c 4.685。這意味著 Bisquare 比 Huber 更“激進(jìn)”它可以完全剔除極端異常點的影響而 Huber 對極端殘差仍然保留c/|e|的微小權(quán)重。# Bisquare 方法的 M 估計 rr.bisq - rlm(crime ~ poverty single, data cdata, method MM) # 或者顯式指定 psi 函數(shù)為 bisquare rr.bisq2 - rlm(crime ~ poverty single, data cdata, psi psi.bisquare) # 查看權(quán)重分布 summary(rr.bisq$w)代碼中method MM表示使用 MM 估計它結(jié)合了高分解值和高效率特性是處理強(qiáng)影響點時的推薦選擇。psi psi.bisquare顯式指定所用的psi函數(shù)MASS 包中內(nèi)置了psi.huber和psi.bisquare。MM 估計在初始化階段使用高分解值的估計方法然后進(jìn)入 Bisquare 迭代比默認(rèn)的 M 估計更穩(wěn)健。4.4 權(quán)重結(jié)果對比同一批樣本在兩種方法下的待遇差異將兩種方法的權(quán)重提取出來對比是理解穩(wěn)健回歸最直觀的方式# 合并兩種權(quán)重進(jìn)行對比 weight_compare - data.frame( id 1:nrow(cdata), huber_w round(rr.huber$w, 4), bisq_w round(rr.bisq$w, 4), std_resid_ols round(stdres(ols), 3) ) # 查看權(quán)重最低的10個樣本 head(weight_compare[order(weight_compare$huber_w), ], 10) # 計算兩種權(quán)重與 OLS 標(biāo)準(zhǔn)化殘差的相關(guān)性 cor(weight_compare$huber_w, abs(weight_compare$std_resid_ols)) cor(weight_compare$bisq_w, abs(weight_compare$std_resid_ols))通常你會發(fā)現(xiàn)Huber 方法中權(quán)重最小的點對應(yīng)原始 OLS 標(biāo)準(zhǔn)化殘差最大的點但權(quán)重不會降到 0Bisquare 方法則可能將極端殘差點權(quán)重直接置零。兩個模型的系數(shù)估計差異反映了穩(wěn)健回歸的“折中”程度。Huber 適合你懷疑異常點有少量信息但不愿完全放棄的場景Bisquare 適合你認(rèn)為部分點真的來自其他總體的場景。4.5 避坑rlm() 使用中的四個高頻報錯與處理現(xiàn)象rlm()運(yùn)行后提示convergence相關(guān)警告或者迭代次數(shù)未達(dá)到默認(rèn)上限就停止結(jié)果似乎仍未穩(wěn)定。原因M 估計的迭代是從 OLS 初始值開始的如果初始模型中有極端強(qiáng)影響點權(quán)重函數(shù)可能在某些點產(chǎn)生周期性振蕩迭代難以收斂。默認(rèn)最大迭代次數(shù)可能不足。解決增加迭代次數(shù)或調(diào)整初始值??梢詡魅雖axit 100參數(shù)也可以先利用lm()擬合后剔除極端 Cook 距離點再用剩余樣本的系數(shù)作為初值?,F(xiàn)象rlm(crime ~ poverty single, data cdata)報錯提示variable lengths differ或者NA/NaN/Inf in foreign function call。原因數(shù)據(jù)中存在缺失值。rlm()默認(rèn)使用na.omit處理缺失值但部分情況下數(shù)據(jù)框中的NA會在權(quán)重計算中引發(fā)錯誤。解決擬合前手動執(zhí)行cdata - na.omit(cdata)同時檢查是否存在Inf值。如果某個自變量的分布嚴(yán)重偏態(tài)考慮先做對數(shù)變換再進(jìn)入模型?,F(xiàn)象擬合成功但summary(rr.huber)輸出的系數(shù)與lm()差別不大懷疑穩(wěn)健回歸沒有起作用。原因數(shù)據(jù)集中本身沒有嚴(yán)重的異常點或高杠桿點穩(wěn)健回歸和 OLS 自然結(jié)果接近。這不是 bug而是正?,F(xiàn)象。穩(wěn)健回歸的價值在數(shù)據(jù)“臟”的時候才體現(xiàn)。解決在擬合前先畫出散點圖或執(zhí)行診斷矩陣確認(rèn)數(shù)據(jù)中確實存在候選異常點。如果診斷結(jié)果表明數(shù)據(jù)干凈直接報 OLS 結(jié)果即可?,F(xiàn)象Bisquare 方法擬合后大量觀測權(quán)重為 0模型的有效樣本量大幅下降標(biāo)準(zhǔn)誤增大。原因psi.bisquare的默認(rèn)截斷常數(shù)c 4.685對應(yīng)的殘差閾值是在正態(tài)誤差假設(shè)下確定的如果數(shù)據(jù)中存在多個相互靠近的異常點遮蔽效應(yīng)可能導(dǎo)致過多樣本被降權(quán)。解決改用method MM提高分解值或者適當(dāng)調(diào)大c值比如psi psi.bisquare, c 5.5。但注意調(diào)大c會降低穩(wěn)健性需要權(quán)衡。5. 完整 R 代碼實戰(zhàn)從 OLS 診斷到穩(wěn)健回歸的參數(shù)對比5.1 數(shù)據(jù)讀取與模型擬合的完整流程結(jié)合前文提到的crime.dta數(shù)據(jù)集完整流程從讀取外文格式數(shù)據(jù)開始。R 中讀取 Stata 格式數(shù)據(jù)需要使用foreign包# 加載所需包 require(foreign) require(MASS) # 讀取 Stata 格式數(shù)據(jù) cdata - read.dta(https://stats.idre.ucla.edu/stat/data/crime.dta) # 查看數(shù)據(jù)結(jié)構(gòu) str(cdata) names(cdata) # 擬合普通最小二乘回歸 ols - lm(crime ~ poverty single, data cdata) # 輸出模型摘要 summary(ols)read.dta()是讀取 Stata 數(shù)據(jù)文件的標(biāo)準(zhǔn)函數(shù)其網(wǎng)絡(luò)路徑直接加載數(shù)據(jù)。str(cdata)查看各變量的類型和取值分布確保crime、poverty、single都是數(shù)值型。summary(ols)輸出的系數(shù)表中需要重點關(guān)注poverty和single的估計值及顯著性。5.2 四圖診斷與數(shù)值診斷的配合診斷不能只依賴plot()生成的圖形還需要數(shù)值輸出來確定具體樣本編號。完整流程如下# 四圖診斷 opar - par(mfrow c(2, 2), oma c(0, 0, 1.1, 0)) plot(ols, las 1) # 計算 Cook 距離和標(biāo)準(zhǔn)化殘差 d1 - cooks.distance(ols) r - stdres(ols) h - hatvalues(ols) # 構(gòu)建診斷矩陣 a - cbind(cdata, d1, r, h) # 按 4/n 閾值篩選 n - nrow(cdata) a[d1 4 / n, ]代碼中par(mfrow c(2, 2))將圖形區(qū)域分割成 2x2 的網(wǎng)格四張診斷圖依次排列。cbind()將原始數(shù)據(jù)與三個診斷量合并成新數(shù)據(jù)框方便篩選和查看。a[d1 4 / n, ]篩選出 Cook 距離超閾值的全部樣本輸出包括原始變量和診斷量可以直接對照樣本 ID 查看業(yè)務(wù)含義。5.3 穩(wěn)健回歸與 OLS 系數(shù)對比表# OLS 系數(shù) coef_ols - coef(ols) # Huber 穩(wěn)健回歸系數(shù) coef_huber - coef(rr.huber) # Bisquare 穩(wěn)健回歸系數(shù) coef_bisq - coef(rr.bisq) # 合并結(jié)果生成對比表 compare_table - data.frame( OLS round(coef_ols, 4), Huber round(coef_huber, 4), Bisquare round(coef_bisq, 4) ) print(compare_table)對比表的價值在于直觀展示三種方法對同一批數(shù)據(jù)的系數(shù)估計差異。如果 Huber 和 Bisquare 的系數(shù)與 OLS 明顯不同說明異常點對 OLS 的拉動效應(yīng)已經(jīng)被穩(wěn)健回歸修正如果三者結(jié)果接近說明數(shù)據(jù)本身質(zhì)量較好。同時可以對比標(biāo)準(zhǔn)誤# 對比標(biāo)準(zhǔn)誤 se_ols - summary(ols)$coefficients[, 2] se_huber - summary(rr.huber)$coefficients[, 2] se_bisq - summary(rr.bisq)$coefficients[, 2] cbind(OLS_se se_ols, Huber_se se_huber, Bisquare_se se_bisq)5.4 參數(shù)選擇建議不同場景下的 c 值與 method 設(shè)置rlm()的參數(shù)選擇需要結(jié)合數(shù)據(jù)特征和業(yè)務(wù)需求。以下是我常用的參數(shù)設(shè)置參考表數(shù)據(jù)特征methodpsi 函數(shù)c 值理由基本干凈偶發(fā)小異常Mpsi.huber1.345保留效率只修正重尾存在若干個孤立異常值Mpsi.bisquare4.685對極端殘差直接歸零異常點較多或聚集成簇MMpsi.bisquare4.685高分解值抗遮蔽效應(yīng)高杠桿點與異常并存MMpsi.huber3.0杠桿點需要更漸進(jìn)地降權(quán)大樣本追求效率Mpsi.huber1.5放寬閾值減少有效樣本損失這個表的核心邏輯是異常點越多、越極端越傾向于使用分解值更高的估計方法和更激進(jìn)的權(quán)重函數(shù)。method MM比默認(rèn)的M估計多一個高分解值初始化步驟能有效抵抗多個異常點相互遮蔽的情況。5.5 避坑穩(wěn)健回歸結(jié)果解讀中的三個常見錯誤現(xiàn)象用summary(rr.huber)中的 R2 與 OLS 的 R2 比較認(rèn)為穩(wěn)健回歸擬合效果“更好”或“更差”。原因rlm()的輸出并不包含與傳統(tǒng) OLS 直接可比的 R2。迭代加權(quán)過程中使用的權(quán)重改變了目標(biāo)函數(shù)R2 不再具有“解釋方差比例”的標(biāo)準(zhǔn)含義。解決比較模型時使用系數(shù)大小、標(biāo)準(zhǔn)誤、殘差的穩(wěn)健性和預(yù)測效果不要用 R2 作為主要判據(jù)?,F(xiàn)象把 Huber 和 Bisquare 的權(quán)重當(dāng)作樣本質(zhì)量的絕對評分權(quán)重低的樣本被認(rèn)為“一定有問題”。原因權(quán)重反映的是“在當(dāng)前模型設(shè)定下這個樣本對回歸擬合的影響相對較小”不直接等同于“這個樣本是錯誤的”。一個在業(yè)務(wù)上重要但偏離主趨勢的樣本權(quán)重可能被壓低但它仍然包含真實信息。解決將低權(quán)重樣本單獨(dú)輸出到業(yè)務(wù)層面驗證是否符合預(yù)期。若符合業(yè)務(wù)邏輯應(yīng)保留在數(shù)據(jù)集中甚至可以考慮單獨(dú)建?!,F(xiàn)象直接引用rr.huber$w中的權(quán)重進(jìn)行二次加權(quán)分析沒有意識到權(quán)重是在擬合后固定的。原因rlm()的權(quán)重是迭代收斂后的產(chǎn)物它們依賴于最終系數(shù)估計。換個模型設(shè)定權(quán)重會完全改變不能當(dāng)作外生變量使用。解決除非在做敏感性分析否則不要在后續(xù)分析中直接使用rlm()的權(quán)重作為通用樣本權(quán)重。如果需要穩(wěn)定的加權(quán)方案應(yīng)基于領(lǐng)域知識預(yù)先定義權(quán)重。6. 杠桿率、Cook 距離與權(quán)重的聯(lián)動驗證一個手工計算技巧驗證穩(wěn)健回歸是否“做對了事”有一個很實用的技巧把手動計算的杠桿率、Cook 距離與rlm()輸出的權(quán)重放到同一個數(shù)據(jù)框里用相關(guān)性檢驗判斷降權(quán)是否準(zhǔn)確瞄準(zhǔn)了最需要降權(quán)的樣本。具體做法是計算每個樣本的 Cook 距離或者杠桿率與其在穩(wěn)健回歸中權(quán)重的 Spearman 相關(guān)如果降權(quán)邏輯正確高 Cook 距離的樣本應(yīng)該獲得低權(quán)重。這樣做的價值在于它用數(shù)據(jù)驗證了“權(quán)重函數(shù)是否真的在折中處理極端點”而不是只看系數(shù)差異。具體驗證代碼如下# 計算三個診斷量 h - hatvalues(ols) d1 - cooks.distance(ols) r - abs(stdres(ols)) # 提取兩種穩(wěn)健回歸的權(quán)重 w_huber - rr.huber$w w_bisq - rr.bisq$w # 構(gòu)建驗證數(shù)據(jù)框 verify_df - data.frame( leverage h, cook_d d1, abs_stdres r, w_huber w_huber, w_bisq w_bisq ) # 計算 Spearman 相關(guān)系數(shù) cor_leverage_huber - cor(verify_df$cook_d, verify_df$w_huber, method spearman) cor_leverage_bisq - cor(verify_df$cook_d, verify_df$w_bisq, method spearman) # 輸出相關(guān)系數(shù) cat(Cook距離與Huber權(quán)重的Spearman相關(guān):, cor_leverage_huber, \n) cat(Cook距離與Bisque權(quán)重的Spearman相關(guān):, cor_leverage_bisq, \n) # 找出權(quán)重最低但 Cook 距離不高的樣本檢查是否有異常降權(quán) low_w_but_low_cook - verify_df[ verify_df$w_huber quantile(verify_df$w_huber, 0.1) verify_df$cook_d quantile(verify_df$cook_d, 0.5), ] print(low_w_but_low_cook)這種方法在 Huber 下通常表現(xiàn)出高度負(fù)相關(guān)因為 Huber 的權(quán)重直接由殘差大小決定而 Cook 距離的主要驅(qū)動因子恰恰是學(xué)生化殘差但在 Bisquare 下由于權(quán)重函數(shù)在閾值處截斷相關(guān)可能變?nèi)酢_@解釋了為什么 Bisquare 對極端點的處理更徹底對中間型異常點的降權(quán)卻可能更溫和。驗證完成后把注意力放回業(yè)務(wù)層面。我通常會在輸出結(jié)果時保留三樣?xùn)|西OLS 殘差的散點圖、穩(wěn)健回歸權(quán)重的分布直方圖、以及按權(quán)重排序的前十個樣本的業(yè)務(wù)標(biāo)簽。這三樣配合能有效回答“為什么某個樣本被降權(quán)”以及“這個降權(quán)是否合理”。這是我自己比較習(xí)慣的一種做法。從那以后我每次做穩(wěn)健回歸都會強(qiáng)制走一遍這個流程先用plot()和cooks.distance()做診斷確認(rèn)異常點和高杠桿點的位置再用rlm()配合 Huber 或 Bisquare 權(quán)重跑一遍最后用 Spearman 相關(guān)驗證降權(quán)邏輯是否與診斷結(jié)論一致。只有這三步全部完成我才敢把模型結(jié)果寫進(jìn)分析報告。希望幫到你。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲熟妇AV乱码在线观看| 亚洲图色五月天| 婷婷激情五月吧| 色五月综合激情| 97在线观看| VA日本视频| www.婷婷| 2025最新亚洲激情在线| av一级棒av| 狠狠另类视频| 人妻在线观看视频| 婷婷五月天网| 丝袜人妻| 九九热免费视频| 亚洲另类婷婷五月丁香在线播放| 无码日本精品XXXXXXXXX| 丁香五月AV综合| 婷婷伊人综合中文字幕| 丁香五月激情六月欧亚激情综合导航| 色五月综合网| 开心五月深爱五月婷| 成人做爰黄A片免费看直播室男男| 日日想日日夜日日操| 国产精品美女久久久久AV超清| 99色色爰| 天堂久热| 999激情视频| 日本久热| 国产毛片精品一区二区色欲黄A片| 深爱激情五月天色婷婷| 日韩婷久| 婷婷久久亚洲| 岛国av网| 婷婷五月大香蕉| 91超碰在线观看| 婷婷五月在线免费| 色五月亚洲| 九九热精品6| 五月婷婷性爱视频| 色色色色网| 丁香五月色综合色播五月| 国产精品成人AV在线观看春天| 婷婷娱乐丁香综合网| 99在线免费观看| 99精品在线下载| 在线一起草av| 99热这里是精品| 五月激情丁香五月宗合| 久久久久婷| 五月天社区| 日本女天天爽| 亚洲欧洲一二| 国产精品大香蕉| 欧美Va在线| 五月天之色情综合网| 久久人人看| 五月婷婷就去色| 久久五月天丁香花| 欧洲色色| 激情五月天小说| 色欲九区| 久久久.www| 久久综合五月天| 99热这里在线精品| 九九久久精品國產| 国产精品第一国产精品| 丁香婷婷六月天| 五月色婷婷综合色| 久久草中文日韩欧美| 99色视频| 狠狠五月激情丁香六月| 五月婷婷丁香色播网| 97干综合网| 少妇大叫太大太粗太爽了A片| 激情五月天无人视频在线| 激情综合色| 久久婷婷七月丁香| 亚洲色综合| 丁香六月激情国产| 婷婷夜夜夜夜| 日本一级一级一级一级| 综合九色| 91在线操逼视频| 26uuu成人网| 色婷婷WWW| 麻豆观看夏晴子| 五月婷婷狠狠干| 丁香五月激情六月综合| 韩日在线熟女| 91操网| 偷拍九九热| 国产成人网址| 99热精品在线观看| 六月综合在线| 精品怡红九九九| 99综合视频| 久久天堂女人| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 大香蕉婷婷色| 超碰精品国产首页| 五月色亭丁香| 操操操B| www.婷婷五月天.com| 综合激情深爱| 五月激情基地| 色情一区二区播放| a v色婷婷| 日韩成人精品中文字幕| 91AV婷婷| 成人中文字幕在线| 亚洲一区二区无遮挡A片| 91丁香综合| 国产成人网站在线观看| 久久综合五月| 婷婷伊人五月天| 久热这里| 色五月成人| 婷婷5月九九| 99亚洲大片精品永久在线观看| 91人妻色色网| 丁香五月天无码AV| 色之综合网| 久久婷婷亚洲| 久久精品色| 久久婷婷啪啪视频| 五月丁香成人网| 欧美日韩成人高清在线| 七七色色综合| 天天搞天天色综合| 国产精品视频免费看| 久久se 综合网 | 伊人九九热| 九日日夜夜69| 九九久久偷拍| 在线成人视频免费| 久久久99免费视频| 久操人妻| 色色影院aaaav| 婷婷五月天改成什么了| 在线视频色五月| 狠狠做五月| 91人人爽狠狠狠| 日韩狠狠色| 婷婷五月天大香蕉| 综合激情五月天| 超碰人人操人人干| 狠狠操.com| 99精品视频在线观看免费| 99爱爱| 狠狠色噜噜狠狠狠狠综合| 日韩成人电影在线播放| 久热久色| 九九久久99| 综合视频五月| 日日爱激情| 色五月播五月| 五月天婷婷色| 丁香五月婷婷色综合基地| 入口五月婷婷六月香| www色婷婷| 深爱激情中文五月天av| 色五月视频无码播放| 五月综合激情综合久| 先锋av性爱成人电影| 一区二区三区四区无码| 九九热精品| 97九色视频| 黄色AV日韩| 五月婷婷香| www.99热| 国产中文字幕在线视频免费观看 | 伊人婷婷五月天| 丁香婷婷五月| www五月婷婷| 永久天堂日本| www.色综合| 《战争与艾拉》完整版| 亚洲第一精品成人999久久精品| 亭亭五月色男人| 激情九九综合网| 丁香五月亚综合图片| 六月激情网| 色色五月婷| 中文字幕日产A片在线看| 色色欧美。| 狠狠色丁香久久综合婷婷亚洲成人福利| 狠狠情色| 亚洲色爽| 激情五月天视频| 91超碰人人操| 婷婷中文字幕欧美| 五月激情综合网| 色婷婷成人影片| 六月丁香五月激情网| 性爱视频99| 久9热| 99色综合| 国产激情在线| 久久99这里只有精品视频| 五月天com| 久久天天| 日日操夜夜操中国无码| 日本女天天爽| 99狠狠| 色噜噜狠狠色综无码久久合欧美| 激情五月天第四色| 亚洲激情99| 热思思| 久热9| 大香蕉伊人丁香五月| 国产黄色av| 国内外色色色色色成人视频| 日韩综合网络男女香蕉a片| 亚洲五月丁香综合网| 思思热久久爱| 五月丁香久久| 婷婷久久免费| 婷婷网五月| 天天爽综合| 激情久久久久| 婷婷久久性爱| 人妻VideOssS人妻| 丁香六月婷婷色播| 婷婷五月综合激情免费视频| 久久丁香婷婷五月天| 日韩AV片| 天天干天天 亚洲| 婷婷激情五月天在线| 操人妻视频91| 五月丁香啪啪网| 九九99免费视频| 开心婷婷五月| 最新高清无码专区| 青青久久大香蕉| 深夜男女福利刺激影院一区| 色五月天网| av在线免费网站| 色婷婷亚洲婷婷| 亚洲乱啪| 天天操B| 天天做天天要天天爽| 色婷婷色久综| 九九综合精品| 亚洲国产婷婷色五月| 五月开心久久| 五月婷激情影院| 丁香狠狠色婷婷久久无码视频| 丁香六月婷婷姐网| 色久影院| 99九九热在线观看| 开心 五月 综合| 开心五月婷婷| 亚洲综合99| 9久久婷婷国产综合精品性色| 国产美女精品| 亚洲精品成人| 99成人网一区| 久久久久久9| 人人操9| 欧洲激情五月天| 色吧五月婷婷| 玖玖婷婷色| 26UUU欧美| 丁香六月综合激情| 久久婷婷色综合| 99这里只有精品视频| 97婷婷五月丁香| 六月伊人婷婷| 免费99色| 超碰在线国产| 呦呦视频无码播放| 大大香蕉综合在线| 99无码黄色视频| 激情性爱五月天| 丁香六月色婷婷| www久视频com| 精品久久9| 丁香无月在线观看| 久久精品63| 丁香色五月天| 五月丁香六月婷婷网站| 婷婷色情网| 操操啪| 狠狠色五月激情| 色呦精品| 婷婷五月天黄色| 玖玖在线资源视频| 亚洲色情久久| 97在线/亚洲| 伊人五月天| 色五月xxx| 国产高潮白浆一区二区| 婷婷色色五月天| 这里只有精品网| 欧美大片| 色丁香五月婷婷| 色五开心五月五月深深爱| 亚洲成人AV在线观看| 五月丁香性爱| 婷婷五月丁香色播| 天天操天天插天天射| 中文字幕 中文字幕明步| 久久伦乱| 91久久电影| 色色综合成人网| 久久女伦| 久久成人亚洲欧美电影| 丁香五月婷婷影视先锋| 这里只有精品96| 99惹在线精品免费观看| 亚洲色综合| 欧美97色| 亚洲AV第二区国产精品| 五月婷婷,六月婷婷| 色噜噜狠狠色综无码久久合欧美| 性色婷婷| 丁香六月婷婷| 伊人综合网站| 操97| 开心激情五月天网| 天天狠狠夜夜狠狠2023| 三级黄网站| 99re热视频这里只精品5| 婷婷五月天成人| 五月丁香| 日韩av在线播放综合网| 五月婷婷深深爱| 色婷婷小说| 欧洲亚洲免费视频9| 日韩色情亚洲五月天婷婷| 精典久久| 91精产品自偷自偷综合| 中文精品在| 91综合在线视频| 丁香久月婷| 久久R激情| 丁香五月天社区| 五月丁香婷婷婷婷综合网| 日本久久人| 人人97操| 婷婷五月天美女| 婷婷伊人五月丁香天堂网| 久热只有这里有精品| 五月天婷婷网站| 久久这里有精品视频在线免费观看| 五月丁香婷婷深深爱| 九热视频| 狠狠五月婷婷| 成人小说 五月天 婷婷| 成年人看Va免费视频| 99热视| 婷婷色中文字幕| 射婷婷中文字幕| 久99热| 超碰chaompinm| 思思热在线| 97超级免费无码| 伊人九九热| 五月天伊人av| 日本一级特黄大片AAAAA级| 五月婷狠狠| 婷婷五月天视| 99国产精品白浆在线观看免费| 97综合在线| 97在线视频观看| 男人的天堂五月丁香| 久色资源| 亚洲成人在线播放| 一本色道久久88加勒比| 免费试看小视频 99| 狠狠狠狠狠狠狠狠狠狠狠色宗合图片| 色五月天婷婷| 九九av| 久久小视频| 天天性视频| 桃色激情网| 春色激情| av在线超清中文| 激情综合网五月天| 少妇人妻凹凸视频| 成人在线视频一区| Av狠狠色丁香婷| 夜夜夜夜夜骑撸| 久久久精品视频79| 亚洲第一成人无码A片| 丁香六月婷婷一区| 日韩啪啪网| 97色伦另类图片小说视频 | 嫩草视频在线观看| 激情综合网激情五月天| 亚洲人人操BD| 激情婷婷五月亚洲| 色色97丁香婷婷五月天| 婷婷五月天狠狠色| 色99自拍| 婷婷五月天AV在线| 另类激情五月| 九九热10| 欧美在线看| 99精品亚洲| 大香蕉五月天婷婷| 综合色播| 99碰碰。| 六月丁香五月激情婷婷| 日韩三级片一区二区| 成人精品视频99在线观看免费| 精品一区二区三区四区五区六区介绍 | 在线中文字幕视频| 大天天伊人| 老妇六区| 91九色中文字幕女在线观看| 丁香五月骚喷水视频| 色综久久久| 乱码操操| 五月天激情视频五月天| 久久久久久综合88| 天天射综合网站| 96性爱视频| av人人操| 第二色AⅤ| AV九九| 99啪啪网| 99精品视频免费| 国产精品久久久60086| 丁香五月AV综合| 激情综合色婷婷啪啪五月天| 色视频2025| 激情文学 综合 九月| 久久伊人五月天| 97视频久久| 色女人久久| 性爱视频久久| 婷婷色综合| 九九激情| 日本操B视频| 激情综合网五月激情| 一级黄色尤物综合视频手机在线观看| 麻豆精品| 九九大香蕉黄色影院| 五月丁香久久呀| 激情丁香五月婷| 婷婷五月综合啪| 日本色色色色色色色色一色二色| 色五月天堂| 天天久久狠狠色综合| 婷婷99热| 午夜丁香久久久久久| 婷婷色综合| 五月天婷婷激情干干| 丁香五月自拍| 精品九九久久| 五月婷婷啪啪啪| 97精品欧美91久久久久久久| 日韩ac不卡无码| 免费色色色| 99色1| 日本爆乳片手机在线播放| 五月丁香综合网色欲| 欧美日韩国产成人在线| 丁香五月在线自慰| 激情五月丁香六月综合AVXXXX| 亚洲精品久久久久久久久久吃药| 99久久99综合| 97干免费视频| 中文字幕在线不卡| 久久久久久丁香五月| 97 A I色色| 九热网站| 色五月av伊人| 99热在线观看免费精品| 色蜜婷婷| 五月天婷婷在线AN| 午夜成人片400| 五月天网站亭亭| 丁香五月性爱| 涩涩激情五月婷婷| 伊人久久丁香婷婷六月五月综合| 337p大胆噜噜噜噜噜91Av| 色亭亭丁香五月天| 久久狠狠干| 五月大香蕉| 在线免费观看激情视频| 久久网日本| 97色五月天| 激情av| 开心五月激情网| 久久人妻在线| 色综合九九| 欧在线一区| 精品综合久久久久久五月天| 久久开心五月天激情| 天天综合网~91| 99热这里只有精品官网| 久久丁香| 成人精品一区二区三区四区五区 | 色五月婷婷网| 97在线日本| 精品久久人妻| 婷婷色网站| 久草婷| 九九热这里只有精品一| 五月丁香久| 亚洲av无码精品色午夜| 91啪级电影| 亚洲免费婷婷| 亚洲精品国产成人AV在线| 人人综合久| caop在线| 玖玖在线| 深爱激情婷| 五月天激情网站| 99亚洲天堂| 99色精品| 伊人在线婷婷草| 涩五月婷婷| 激情综合4月| 欧美色五月| 国产婷婷色五月| 狠狠色成人影片| 亚洲狠狠狠| 伊人大香蕉毛片| 狠狠色噜噜狠狠狠狠综合| 国产无人区大片| 欧洲亚洲免费视频9| 综合激情sV| 久久9热| 天天插轮理| 七月婷婷色香综合网| 俺也去综合| 五月丁香久久激情综合| www.婷婷| 五月天最新网| 丁香六月婷婷综合欧美| 超碰在线日夜| 亚洲性色XXXXX| 国产看真人毛片爱做A片| 五月丁香成人日| 啪啪操操| 成人午夜天| 久久婷婷五月综合| 日本色爽| 操91| 97影院一级片| 日日夜夜天天| 六月丁香影院| 五月六月播婷婷| 久久精品无码一区| 超碰av在线| xxx综合在线| 二级黄色毛片| 91av传媒高清在线视频网| 色五月综合| 五月丁香影视| 午夜丁香六月婷| 久青草大香蕉| 午夜性做爰电影| 色热久| 成人狠狠成人狠狠成人狠狠成人狠狠| 五月丁香天堂网婷婷| 亚洲激情电影五月天色婷婷丁香一起草 | 中文字幕婷婷在线| 99热这里只是精品| 丁香丝袜五月| 激情综合网 激情五月天| 五月色丁香婷婷中文字幕| 天天插天天插天天日| 一本久久亚洲五月婷婷| 色噜噜在线| 色综合色色色| 99综合视频| 婷婷激情四射| 风流少妇A片一区二区蜜桃| 婷婷五月天色色| 婷婷五月av| ri电影在线| 亚洲操b| 久久99热这里只有精品首| 五月天久久婷婷| 99精品偷自拍| 91免费看片| 日本高清久| 久9无码视频| 99久在线精品99re8| 日韩三级高清无码| 欧美日韩aaa| 五月天综合在线| 三级三久久线久久99久目本WW| 婷婷丁香久久| 五月天婷婷丁香社区| 午夜]香婷婷深深爱| 五月狠狠| 天天爽,夜夜爽| 亚洲V国产V欧美V久久久久久| 亚洲午夜视频| 日本三级中国三级99| 日本片日本片祼观看网站在线看中文版网页在线看 | 色综合丁香| 4399人妻无码久久久| 五月丁香婷婷深深爱| 男人天堂AV在线一区二区| 五月丁香免费看| 五月色激情综合网| 婷婷五月色色| 久久久五月天| 99人妻碰碰碰久久久久视| 婷婷六月视频| www.婷婷六月天| 欧美色图45678| 99热这里是精品| 亚洲欧洲自拍图片专区五月天| 国产精品涩涩涩视频网站| 99色视频在线观看| 人操91在线| 99综合自拍| 五月天色色色| 日韩人妻AV在线| 婷婷亚洲欧美丁香五月| 伊人久久婷| 色婷婷基地| 色婷婷色五月综合| 97综合色片| 中文字幕无码人妻少妇免费视频| 天天色色天天| 日本色色图| 国产AV影片| 五月天啪啪啪| www.xtbsty.cn.com蜜乳AV| 久久99激情| xxxx五月| 1995年关宝慧版蜘蛛女| 久777| 亚洲va在线∨a天堂va欧美va| 色九九九九| 五月天婷婷综合网| 五月丁香婷婷激情澎湃四射 | 伊人在线另类| 五月的丁香六月的婷婷| 丁乡久久| 日本啪啪视频HD| 亚洲综合色网| 欧美色播综合在线观看| 9热在线观看| 日日夜夜狠狠| 久久草中文日韩欧美| 凹凸探花电影| 久久精彩视频18| 激情五月天综合网| 激情 婷婷 插| 日韩色色网| Www.Av网9| 久久久久久久人妻| 岛国av网站| 久久五月天综合视频网站| 91九九热| 99热 精品在线| 在线网黄| 26uuu亚洲精品国产| 任你草| 色播激情婷婷| 天天弄天天操| 91九色精品| 婷婷五月婷婷五月| 天天摸天天舔在线视频| 九九视屏| 色八戒操婷婷| 色综合色色色| 久热 91| 狠狠插日日干撸| 色婷婷综合影院| 五月婷婷六月激情| 99A片| 四月婷婷五月丁香| 香蕉AV777XXX色综合一区| 色色网站免费在线视频| 日韩在线婷婷五月天综合| 欧美婷婷六月丁香综合色| 极品另类| 成人 AV播放| 久久AAAA片一区二区| 色婷婷丁香五月| 丁香五月性爱| www.色五月| 丁香五月欧美午夜视频| 热99AV网站| 婷婷色色狠狠| 99视频在线| AV在线免费播放| 激情综合色婷婷啪啪六月天| www.99免费视频| 日日操夜夜操中国无码| 超碰免费人人肏| 尤物一区二区| 琪琪色五月婷婷老师| 欧美成人精品A片免费一区99| 国产亚洲在线观看| 色婷婷六月| 六月婷婷色| 久久久久久人妻| 五月婷婷激情综合| 色久五月天| 天天色综网| 超碰熟女拍拍| 五月天久久综合婷婷| 99视频精品全部观看10| 久久超视频| 四月丁香五月婷婷久久| 99热免费| 超碰国产AV| 亚洲精品久久久久久久久久吃药| 五月丁香黄色| 五月婷婷啪| 开心五月深爱五月| 五月天激情小说欧美激情| 5月丁香婷婷激情网| 狠狠色综合无线观看| 丁香五月综合狠狠| www.刺激色网站www.| 色婷婷88| 亚洲色色在线| va婷婷| 99视频网址| 99热这里只有精品首页| 最近免费中文字幕大全高清大全1 色狠狠色噜噜AV天堂五区 | 色色性爱视频| 99热精品在线| 色99综合色88| 麻豆AV一区二区三区| 国产操碰| 亚洲字幕AV一区二区三区四区| 久久久久久久久月丁| 99久高清视频| 丁香五月1页| 婷婷成人小说综合| 五月婷婷啪啪啪| 熟妇人妻中文字幕无码老熟妇| 综合网精品99| 国产日产成人亚洲欧美国产VA| 人妻videos人妻高清| 久久小视频免费| 久久人妻视步| 五月天色综合| 婷婷婷狠狠| 99视频在线播放大全| 狠狠va| 色色色9| 操操啪| 天天操天天插天天射| 另类专区在线观看| 亚洲无码成人网| 79色色| 99色色网| 青青久久大香蕉| 久久久97| 色色色色色色网| 久久精彩视频| 狠狠爱婷婷爱| 毛片毛片毛片毛片| www九九| 婷婷五月精品| 综合五月天亚洲婷婷| 婷婷五月天电影网| 超碰在线免费观看日韩| 久碰婷婷视频| 99视频在线观看欧| 精品久9| 久久色五月天| 日韩色五月| www.99在线| 国产老熟妇亲子乱对白| 天天综合亚洲| 五月天婷a在线| 丁香色六月| 在线成人视频免费| 九九99精品视品| 人妻熟妇国产精品| 亚洲五月婷婷| 免费看欧美成人A片无码| 日本色天堂| 激情婷婷五月天伊人在线观看 | 五月天亚洲综合网| 九九无码AV| 丁香六月婷婷综合色| 丁香婷婷色五月| 婷婷色五月激情强奸四射| 婷婷五月天在线综合| .精品久久久麻豆国产精品| 91超级碰碰| 久久东京热婷婷五月| 97婷婷丁香五月天激情图片| 五月丁香婷婷AV天堂| 色99网| 国产成人av在线播放| 开心激情五月天网| 91精品视频男人的天堂| 丁香五月在线观看完整版| 成人精品视频99在线观看免费| 欧美噜噜久久久XXX| 91精品久久久久久综合五月天| 丁香五月综合激情性爱| 久久久18| 淫视馆aV二区一区| 91 九色 熟女| 欧美在线干| 亚洲色综合色网| AV79| 国产成人一区二区三区在线观看 | 国产精品久久久99视频| caop在线视频| 乱码操操| 99久久网站| 五月天婷婷基地| 丁香六月婷| 色之综合网| 国产精产国品一二三在观看| www.婷婷六月天| 激情五月伊人婷婷| 天天摸天天高潮天天爽| 可以直接看的AV网站| 久久久久久久久月丁| 九九久久视频| 五月激情综合性爱| 日韩精品999| a色色色色色| 国产成人精品一区二三区熟女在线| 丁香婷婷六月激情| 蒲京久久无码视频| 日逼免费视频| 婷婷性爱五月天丁香网| 婷婷五月天无码| 亚洲久久日| 色色色999| 久久久久久草黄色片AV在线观看| 99re热视频这里只精品| 狠狠爱综合网| 人妻无码视频网| 婷婷操婷婷干婷婷射| 日韩国产AV播放| 欧美久久婷婷| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 日日夜夜狠狠婷婷色| 国产成人AV| 五月天成人网在线观看| 欧美黑人大吊| 欧美色激情四射| 五月丁香婷婷婷激情爱爱| 九九热这里只有精品7| AV在线观看网站| 亚洲熟妇AV综合网五月丁香伊人| 久久AV无码精品人妻系列试探| 丁香狠狠色婷婷久久无码视频| 玖玖爱资源站| 五月丁香六月片| 五月婷婷五月天| 91操熟女| 欧美久久久中文字幕| 午夜爱爱网站| www.minyis.com【JT】币址百万U预算可预付QQ2101460746 | 中文字幕网伦射乱中文| 婷婷五月色激情欧美激情| 婷婷99中文字幕| 六月婷婷色色网| 婷婷激情综合| 性生活久久朋友人妻| 成人天天爽| 综合亚洲AV| 婷婷的99视频网站| 91九色精品熟女内射| 色婷婷五月天视频在线| 日木狠狠干| 大香蕉99热| 日本色色视频| 五月天婷婷小说| 九九99九九99九九99视频网| 五月天色视频| 亚洲亚洲激情| 六月丁香大香蕉| 色婷婷影视99| 深爱五月激情五月| 久久婷婷综合国产| 五月天无码视屏播放| 欧美日韩国产一区| 日噜噜色| 97超碰,人人舔,人人操,人人摸 | 伊人超碰| 轮奸综合网| 在线看黄色| 91日本在线观看| 国产九九一区二区三区| 91色情播放| 天天爽成人综合网站| 亚洲色人妻| 99情色五月天| 欧美大片免费观看| 99久视频| 99.色| 日本狠狠爽| 综合激情五月四射婷婷| 操久久网| 日本美女上人| 色五月婷婷91| 91岛国片| 99热在线观看99| 丁香五月婷婷综合激情啪啪啪啪啪啪啪 | 色色丁香激情五月| 五月夜丁香| 五月天伊人综合| 久久超级碰视频| 夜夜爽日日躁| site:wpjngj.com| aaa丁香五月天| 黄色99视频| 亚洲色情久久| 国产激情久久| 精热在线综合网| 9九热视频| 99久99久| 欧美日韩一区二区三区四区| 五月天婷婷狂暴白浆| 黄桃AV无码免费一区二区三区| 91啪啪| 成人做爰A片免费看视频| 深爱激情综合| 99精品网| www久久久久久久久久久| 国产精产国品一二三在观看| www.97视频| 91丨九色丨首页| 国产精品A片在线| 白度黄视频| 婷婷黄色五月| 99久久99久久| 久久97| 五月婷婷九九久久| 色婷婷免费视频| 99综合| 伊人六月无码视频| 欧美色欲色欲天天天www| 婷婷日日夜夜| 午夜电影网VA内射| 色婷婷亚洲五月天| 深爱婷婷丁香五月激情| 五月综合激情网| 婷婷的99视频网站| 开心婷婷五月| 99在线视频。| 日本道久久91| 99热免费精品| 青青夜夜狠狠夜夜狠狠| 亚洲性爱99| 色色cOm| 99爱免费视频| 九九综合色综合| 伊人久久婷婷| 久久免费试看120秒| 91爱操| 99视频精品8| 天天做好综合色| 99热91| 激情五月成年| 色婷婷88| 激情五月丁香六月| 色婷婷丁香五月天在线观看| 久久香蕉网| 久草婷婷网| 婷婷人人操| 九九热99精品| 另类A片| 日本少妇裸体做爰高潮片| 9999热精品| 9九热视频| 五月丁香在线综合| 五月婷婷,六月丁香| 九九热狼人| www.婷婷| 精品亚洲VA网站| 色婷婷六月| 六月丁香成人| 五月婷婷在线视频免费观看| 色婷婷五月天视频在线| 五月婷婷激情综合av| 天天日夜夜爽| 丁香五月先锋| 五月婷婷色丁香| 色婷婷五月六月丁香综合视频| 五月丁香龟婷婷| 激情五月天小说网| 九九中文字幕九| 无码人妻激情| 婷婷草| 丁香激情网| 婷婷五月中文字幕| 色五月天激情| 538任你爽| 丁香影院五月综合| AV五月丁香| 婷婷欧美综合| 天天艹| 襙逼网| 婷婷五月综合在线| 91久久综合亚洲鲁鲁五月天| 婷婷五点亚洲| 激情内射人妻1区2区3区| 色婷婷香蕉| 婷婷六月插屄激情| 亚洲色五月天| 婷婷五月天丁香花| 色综合区| 5五月综合网亚洲| 五月久久丁香| 婷婷丁香六月激情综合| 婷婷操婷婷干婷婷射| 五月婷婷啪啪| 欧美97色| 五月激情婷婷开心| 欧美日本免费一道免费视频| 天天弄天天爽| 婷婷丁香十月| 亚洲精品国产成人AV在线| 五月天婷婷基地| 大香蕉在线观看9| 色噜噜在线| 免费视频在线观看的网站| 激情综合五月激情XXXX| www.久久99| 94干大香蕉| 五月激情六月综合| 爆乳熟女-区二区三区| 99久久婷婷五月天| www,黄色在线,con| 天天操天天操综合| 五月天激情久久| 婷婷五月天AV在线| 婷婷五月天在线观看| 一区三区视频有限公司| 激情噜噜噜| 踪合专区啪啪| 97久久精品| 久久久www| 婷婷激情社区| 国产99美少妇| 久久人妻精品| 岛国av网| 国产午夜精品一区二区三区四区| 丁香五月激情宗合网| 思思热在线视频精品| 色吊丝永久访问网址| 丁香婷婷激情六月五月开心| 天堂爱啪啪| 超碰激情网| 色五月婷婷激情基地| 亚洲99综合| 亚洲综合在线伊人婷| 伊人91| 欧美综合五月丁香六月婷| 久久综合五月天激情小说网站 | 14色综合婷婷| 99色色网| 五月激情精品视频| 婷婷五月激情黄色| 色婷婷视频在线| 日本婷久久| 婷婷香五月天| 伊人五月久久| 丁香97综合| 爱久综合| 五月永久激情| 国产人人操| 九九re精品视频在线观看| 丁香五月天堂网AV| 久热 91| 侠女刀之记忆电影在线看免费| 任你躁XXXXX麻豆精品| 99综合婷婷五月| 婷婷5月久久综合网站| 夜夜撸日日操| 色婷婷狠狠18禁| 色色色五月婷| 五月丁香婷婷激情图片| 色婷婷综合影院| 亚洲性天天| 20253AV| 婷婷伊人久久| 九九爱看亚洲| 婷婷五月婷婷| 99r这里| 国产激情AV| 色九九综合色| www.99久| 婷婷五月天亚洲精品| 操碰久| 五月丁香婷婷久久| 欧美成人网婷婷综合在线| 色优久久| 色五月丁香五月婷婷五月成人网| 操比激情五月综合| 狠狠干综合| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 九九成人高清视频| 中文字幕婷婷在线| 99亚洲精品| 亚洲色情一区二区三区四区| 99爱爱网| 成人视频网| 精品色| 免費亭亭成人| 猫咪伊人久久| 欧美日韩一区二区三区四区| 色婷婷视频| 婷婷亚洲影院| 人操人| 三人荫蒂添的好舒服A片| 五月天激情四射网站| 天天爱天天做天天爽| 欧美在线干| 中文字幕无码成人电影| 最近中文字幕大全免费版在线 | 99毛片| 99精吕视频在线观看了| 婷婷5月天激情综合| 大香蕉啪啪| 97日本在线| 99A片| 最近中文字幕大全免费版在线 | 狠狠狠激情网| 网色99| 99热在线观看| 色婷操逼| 成年人最刺激的综合网| 这里只有精品在线免费视频| 九九免费精品在线视频| 妇激情基地| 欧美超级视频97| 亚洲99一级无嗎特制在线| 亚洲无AV在线中文字幕| 婷婷丁香六月天| 婷婷欧美综合| 97人妻碰碰中文无码久热丝袜| 思思热视频| 99A片| 美国色五月天婷婷资源站| 99爱最新免费视频在线观看| 丁香激惜男女| 五月色丁香国产在线视频| 操操操www.com| 开心婷婷五月激情网小说| 大香蕉五月天婷婷| 五月色丁香| WWW·色色色·COM| 欧美一线视频| 婷婷五月天丁香成人社区| 奇米色大香蕉| 国产原创视频91九色| 北条麻妃伊人| 亚洲欧洲美女在线观| 天天色粽合合合合合合合| 久久综合激情| 婷婷99| 大香蕉AV在线| 免费观看的av| 少妇被躁爽到高潮无码文| 狠狠色婷婷| 五月开心网| 开心激情婷婷| 无码人妻少妇色欲AV一区二区| 六月丁丁香| 国产AV一区二区三区最新精品| 五月丁香婷婷在线| 91欧美| 99操碰| 超pen个人视频97| 丁香伍月婷电影全集| 五月天婷婷激情六月久久| 国产精品久久久爽爽爽麻豆色哟哟| 久久九九99| 婷婷五月天伊人网| 九九人人操| 亚洲韩国日产综合AV| 色色五月综合| 五月天开心色色网| 色婷婷aV四虎| 亚洲免费观看高清完整版AV线| 中文字幕精品在线观看| 五月婷婷日本| 91在线日| A√天堂网在线| 中文字幕色色色| 久9热在线视频| 欧美人妻一区二区| 超碰免费人人肏| 日本三级片片| 婷婷久月| 婷婷久久综合久| 开心婷婷五月天电影院| 久久人妻在线| 五月天激情啪啪| 8090在线影视少妇| 色色丁香婷婷五月天| 婷婷色在线播放| 婷婷激情丁香五月婷婷激情丁香五月婷婷 | 噜噜吧天天爱| 婷婷五月花| 色五月色五天色情网址| 亚洲精品色色| 亚洲AV成人精品日韩在线播放| 日本久久精品| 激情婷| 五月开心婷婷极品激情| 五月婷婷六月激情在线| 五月丁香六月婷婷操操操| 人妻22p| 九九热最新| 五月婷视频| 亚洲xx在线| 成人在线网址| 五月综合精品| 久久婷五月| 91在线观看九区| 伊人久久99| 亚洲成人va| 五月天激情小说| #NAME?| 五月开心六月婷婷在线播放网站| 人妻内射视频| 无码 av电影| 激情伊人| 色综合激情| 色综合五月天| 中文在线成人| 色五月婷色彩免播放器| 色噜噜狠狠色综| 婷婷五月天福利| www.色五月| 色色五月天丁香| 新伍月婷婷| 婷婷五月丁香图片人人操| 丁香五月天激情| 五月天激情综合| 日本精品人妻无码77777| a九九热www| 婷婷基地爱| 99久久国产宗和精品1上映| 激情四射网| 成人丁香五月婷| 五月丁香婷婷激情久久| 久久久性爱视频| 97色精品视频 | 99热这里有精品6| 超碰免费大香蕉| 涩涩激情五月婷婷| 中文字幕簧片| 婷婷五月在线观看| 9久国产精品| 色情免费视频播放| 99热资源在线| 婷婷在线中文字幕| 亚洲99视频| 久久女婷| 99精品这里只有免费视频| 婷婷激情网五月天| 久操香蕉| 婷婷五月丁香基地在线视频官网| 综合性爱网| 日韩免费99| 欧美五月丁香| 五月丁香狠狠爱| 婷婷爱爱蜜臀天天操|