欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

CTGAN實踐:合成醫(yī)療數(shù)據(jù)解決隱私與樣本不均衡難題

CTGAN實踐:合成醫(yī)療數(shù)據(jù)解決隱私與樣本不均衡難題 最近幫某團隊做醫(yī)療AI項目碰到一個很現(xiàn)實的難題模型效果已經(jīng)到瓶頸想再提升就得拿更多真實病歷來訓練可醫(yī)院那邊的數(shù)據(jù)管理非常嚴格別說導出原始數(shù)據(jù)連在開發(fā)機上查看脫敏后的樣本都要走審批流程跑一輪下來一周時間就沒了。后來我們換了思路讓原始數(shù)據(jù)留在內(nèi)網(wǎng)先用字段統(tǒng)計和分布分析把數(shù)據(jù)規(guī)律摸清楚再用CTGAN訓練一個生成模型把模型參數(shù)帶出來批量生成合成醫(yī)療數(shù)據(jù)用于后續(xù)開發(fā)。整個過程走完我最大的感受是合成數(shù)據(jù)不是“憑空造數(shù)據(jù)”而是把真實數(shù)據(jù)的統(tǒng)計規(guī)律“遷移”出來。這篇文章會把我的方案選型、訓練配置、質(zhì)量評估方法、隱私風險控制以及幾次翻車后總結(jié)的排查經(jīng)驗都整理出來給正在做同類事情的讀者一份能直接抄作業(yè)的參考。1. 項目背景與整體設(shè)計思路1.1 醫(yī)療數(shù)據(jù)為什么這么難用醫(yī)療數(shù)據(jù)有兩個天然痛點隱私等級高和樣本分布極不均衡。我參與的這個項目屬于慢病管理方向原始數(shù)據(jù)集來自某合作醫(yī)院的信息系統(tǒng)字段包括年齡、性別、主診斷、合并癥數(shù)量、收縮壓、空腹血糖、總膽固醇、是否30天內(nèi)再入院等??倶颖玖考s為12000條聽起來不算少但真正“再入院”的陽性樣本只有800條左右。直接把這種不平衡數(shù)據(jù)丟給模型訓練模型很容易偷懶把所有樣本都預測成“不再入院”因為這樣準確率也能到百分之九十以上。想解決樣本不均衡常規(guī)做法是先做上采樣或者過采樣。但問題是醫(yī)療字段之間不是簡單的線性關(guān)系比如血糖異常和主診斷類別之間、合并癥數(shù)量與再入院風險之間都存在復雜的交互。用傳統(tǒng)插值方式生造出來的樣本醫(yī)生一眼就能看出不合理放到模型里反而會引入噪聲。另一個更棘手的問題是數(shù)據(jù)出不了內(nèi)網(wǎng)。醫(yī)院允許你在內(nèi)網(wǎng)環(huán)境里查看統(tǒng)計結(jié)果但原始記錄級數(shù)據(jù)不能直接拷貝到外部開發(fā)環(huán)境。這就意味著要么開發(fā)團隊全部搬進醫(yī)院駐場要么找到一種能把“數(shù)據(jù)規(guī)律”帶出來但不暴露個體記錄的方法。合成數(shù)據(jù)正好卡在這個需求點上。1.2 合成數(shù)據(jù)在項目里的實際定位很多人對合成數(shù)據(jù)有誤解以為它是用來“以假亂真”糊弄項目的。其實不是。在我們這個項目里合成數(shù)據(jù)的定位非常明確作為研發(fā)階段的模型訓練原料和算法調(diào)試數(shù)據(jù)而絕對不替代真實數(shù)據(jù)做臨床驗證。具體用途有三個第一個是模型訓練。我們把合成數(shù)據(jù)下發(fā)到外部GPU服務(wù)器上用來做特征篩選、超參數(shù)搜索、模型結(jié)構(gòu)對比。這些實驗每天要跑幾十輪如果都用真實數(shù)據(jù)光審批流程就夠讓人崩潰。第二個是算法演示。項目要做成果匯報需要跑一個交互式demo給業(yè)務(wù)方看。真實數(shù)據(jù)不能出現(xiàn)在演示環(huán)境里合成數(shù)據(jù)可以放心展示字段結(jié)構(gòu)、統(tǒng)計分布都跟真實數(shù)據(jù)高度接近演示效果不打折扣。第三個是跨團隊協(xié)作。標注團隊、算法團隊、測試團隊分散在不同地點原始數(shù)據(jù)無法共享。合成數(shù)據(jù)作為“公共數(shù)據(jù)集”讓各團隊在統(tǒng)一的數(shù)據(jù)形態(tài)下工作避免每個人都去申請原始數(shù)據(jù)權(quán)限。但這里必須提醒一句合成數(shù)據(jù)再怎么逼真也不能用于診斷決策支持系統(tǒng)的最終臨床驗證。它保住了分布的“形”但未必保住了所有醫(yī)學邏輯的“神”尤其是罕見并發(fā)癥、極端生理狀態(tài)這些長尾情況合成數(shù)據(jù)很難覆蓋完整。項目里一定要把這條邊界劃清楚。1.3 為什么最終選了CTGAN而不是其他方案做表格式合成數(shù)據(jù)的方案其實不少我在項目初期也做過一輪對比包括SMOTE、VAE、貝葉斯網(wǎng)絡(luò)和CTGAN。簡單說下我的判斷依據(jù)。SMOTE的原理是在現(xiàn)有樣本的近鄰之間做線性插值適合處理連續(xù)值主導的小規(guī)模不平衡數(shù)據(jù)但它幾乎不會產(chǎn)生“新組合”只是在已有樣本的鄰域內(nèi)打轉(zhuǎn)而且對離散特征的支持很差。放在醫(yī)療數(shù)據(jù)這種離散列多、類別組合復雜的場景里效果不好。VAE訓練穩(wěn)定生成速度也快但生成的數(shù)值普遍偏“糊”連續(xù)變量的分布會被過度平滑類別變量容易出現(xiàn)模棱兩可的概率輸出。對于需要精確模擬多峰分布的場景VAE不夠用。貝葉斯網(wǎng)絡(luò)這類方法擅長描述離散變量之間的條件依賴可一旦連續(xù)變量占比高網(wǎng)絡(luò)結(jié)構(gòu)學習就會變得困難而且對字段間復雜非線性交互的表達能力有限。CTGAN屬于GAN家族專門為表格數(shù)據(jù)設(shè)計。它最大的優(yōu)勢是同時處理離散列和連續(xù)列連續(xù)列的多峰分布有對應(yīng)的歸一化機制離散列的稀有類別有專門的條件生成策略。雖然訓練不穩(wěn)定、調(diào)參成本高但在生成質(zhì)量上限上明顯優(yōu)于前面幾種方案。方案連續(xù)值多峰分布離散稀有類別生成新組合訓練穩(wěn)定性SMOTE差差差穩(wěn)定VAE中中中穩(wěn)定貝葉斯網(wǎng)絡(luò)中中中穩(wěn)定CTGAN好好好需調(diào)參實際項目里我們也不是完全排斥其他方法。數(shù)據(jù)量只有幾百條時貝葉斯網(wǎng)絡(luò)反而比CTGAN更實用但如果要生成幾萬條且要求分布接近真實數(shù)據(jù)CTGAN是更合適的選擇。2. CTGAN核心機制拆解它到底改進了什么2.1 把GAN用到表格數(shù)據(jù)上難在哪GAN的基本思路是讓兩個網(wǎng)絡(luò)互相博弈生成器負責從隨機噪聲中偽造樣本判別器負責分辨輸入是真實樣本還是偽造樣本。訓練的目標是讓生成器產(chǎn)出的數(shù)據(jù)越來越接近真實分布直到判別器分不出來。打個通俗的比方生成器是印假鈔的判別器是驗鈔的假鈔印得越真驗鈔的水平也被逼得越高最后兩邊達到動態(tài)平衡。但圖像GAN可以直接把像素矩陣當作連續(xù)向量處理表格數(shù)據(jù)就不一樣了。表格里每一列都有明確的業(yè)務(wù)含義變量類型混合有的列是連續(xù)值比如血糖的數(shù)值有的列是離散值比如性別、診斷類別。離散值不能直接走梯度下降因為“取哪個類別”是一個不可微的選擇。更麻煩的是連續(xù)變量往往不是簡單的高斯分布血糖數(shù)據(jù)可能出現(xiàn)“低、正常、高”三個峰訓練時如果拿單一正態(tài)分布去擬合生成出來的數(shù)值大概率都會聚集在平均值附近完全丟失多峰信息。CTGAN在論文里提出了三個關(guān)鍵設(shè)計來應(yīng)對這些問題模式歸一化、條件生成、以及離散列的softmax映射。下面逐個說。2.2 模式歸一化先選“峰”再定“值”模式歸一化是CTGAN處理連續(xù)列的核心手段也是它區(qū)別于普通GAN的關(guān)鍵設(shè)計。面對一個多峰的連續(xù)變量CTGAN不會嘗試用一個高斯分布去描述整個分布而是先用變分高斯混合模型估計這個變量的概率密度分布自動找出若干個高斯分量每個分量對應(yīng)一個“模式”。以空腹血糖為例模型可能學出“低血糖區(qū)間”“正??崭箙^(qū)間”“偏高區(qū)間”三個模式每個模式都有自己的均值和方差。生成數(shù)據(jù)時分成兩步第一步根據(jù)模式權(quán)重隨機選擇一個模式第二步在選定模式對應(yīng)的歸一化空間里生成一個連續(xù)數(shù)值再逆變換回真實范圍。這樣一來生成器不需要直接預測血糖數(shù)值而是先做一次“模式選擇”再在模式內(nèi)部做精細的數(shù)值生成多峰特性就能被保留下來。這里有一個人工干預的小技巧如果業(yè)務(wù)上你知道某個連續(xù)變量的峰數(shù)或者大概分布形態(tài)可以在預處理階段做一次對數(shù)變換或者分組統(tǒng)計幫助模型更穩(wěn)定地擬合。但別做過頭比如手動把連續(xù)變量強制分箱會讓CTGAN的模式歸一化失去意義生成質(zhì)量反而變差。2.3 條件生成與按頻率采樣保住稀有類別醫(yī)療數(shù)據(jù)里類別不平衡是常態(tài)。比如“30天內(nèi)再入院”這個標簽只有6.7%的陽性率再比如某個主診斷類別只出現(xiàn)了十幾次。傳統(tǒng)GAN訓練時生成器會傾向于只生成高頻類別因為這樣最容易騙過判別器結(jié)果是合成數(shù)據(jù)里罕見類別幾乎消失相當于把本來就稀少的信息又丟掉了一部分。CTGAN的做法是引入條件生成機制。每一條訓練樣本都對應(yīng)一個條件向量用來指定當前批次里應(yīng)該生成哪個類別。訓練時不是按原始頻率均勻抽樣而是按類別頻率的對數(shù)來采樣讓稀有類別被“強制”分配到訓練批次中。這就是log_frequencyTrue這個參數(shù)背后的邏輯原始頻率做log變換后高頻類別和低頻類別的采樣差距被壓縮稀有類別不再被淹沒。我直觀測試過一次同一份數(shù)據(jù)集log_frequency關(guān)閉時占比0.5%的某個診斷類別在生成數(shù)據(jù)里幾乎消失只剩幾條打開之后能恢復到接近真實比例。如果你發(fā)現(xiàn)合成數(shù)據(jù)的離散列分布明顯偏離真實數(shù)據(jù)第一排查點就是這里。2.4 離散列如何參與反向傳播離散列的問題在于“選擇類別”這個動作不可微。CTGAN讓生成器為每個離散列輸出一個softmax概率分布代表各個類別的概率再用Gumbel-softmax之類的技巧做近似采樣從而讓梯度能穿過離散選擇回流到生成器。判別器側(cè)也做了配套處理連續(xù)變量和離散變量經(jīng)過嵌入映射后拼接在一起再送入全連接網(wǎng)絡(luò)。這里的目的是讓離散列不再以孤立的one-hot向量形式參與計算而是先映射到一個稠密向量空間便于神經(jīng)網(wǎng)絡(luò)捕捉類別之間的潛在關(guān)系。理解了這套機制你就明白為什么CTGAN的輸入不能帶空值、不能帶純粹的文本長字符串。它本質(zhì)上是一個數(shù)值和類別概率的處理框架文本字段必須先做編碼或者直接剔除。3. 數(shù)據(jù)準備與關(guān)鍵預處理3.1 字段設(shè)計不是越多越好很多人在做合成數(shù)據(jù)的第一步就栽了跟頭把能拿到的字段全塞進去幾十列往CTGAN里面一丟訓練時間翻倍生成質(zhì)量還稀爛。表格GAN對字段數(shù)量非常敏感。字段越多生成器需要學習的聯(lián)合分布就越復雜但訓練樣本沒有等比例增加最后每個字段都學了個皮毛。我在項目里的做法是先明確業(yè)務(wù)問題需要哪些字段再做回退。比如項目模型預測的是“是否30天內(nèi)再入院”那么核心輸入字段就是年齡、性別、主診斷、合并癥數(shù)量、收縮壓、空腹血糖、總膽固醇、再入院標簽共8個字段。其它像住院編號、科室代碼、醫(yī)生編號這類純標識性字段統(tǒng)計意義不大全部剔除。一個實用的字段清單示例字段名數(shù)據(jù)類型說明ageint年齡genderstr性別diagnosisstr主診斷類別comorbidity_countint合并癥數(shù)量blood_pressure_systolicfloat收縮壓glucosefloat空腹血糖cholesterolfloat總膽固醇readmissionbool是否30天內(nèi)再入院布爾字段要轉(zhuǎn)成字符串類別“是”/“否”或者0/1CTGAN對離散列和連續(xù)列的識別方式不同分類邏輯要明確。3.2 清洗原則別把缺失模式也“洗掉”CTGAN本身不接收空值所以缺失值必須提前處理。但處理方式?jīng)Q定了生成數(shù)據(jù)能否保留真實數(shù)據(jù)的缺失規(guī)律。我見過兩種極端做法一種是把所有含缺失值的行直接刪掉簡單粗暴但樣本量小的場景會損失太多信息另一種是用均值填充所有缺失結(jié)果缺失比例較高的字段被強行填成一個人為的集中值分布被人為拉瘦。更推薦的做法是把“是否缺失”本身作為一個類別特征保留。比如“血糖”字段缺失的樣本不要填血糖均值而是給血糖設(shè)一個“missing”類別或者在另一個字段上標記。這樣CTGAN能學到“什么情況下血糖容易缺失”這種真實模式生成的合成數(shù)據(jù)里缺失分布會更貼近原始數(shù)據(jù)。還有一個細節(jié)離群值的處理尺度要控制。血壓值超過300、血糖值為負數(shù)這類物理上不可能的值直接過濾掉但年齡偏大、血糖偏高等業(yè)務(wù)合理性范圍內(nèi)的“看似異?!辈灰p易刪它們往往是長尾分布的重要組成刪除后生成數(shù)據(jù)會把極端風險人群丟掉后續(xù)建模反而會偏樂觀。3.3 分布檢查提前知道數(shù)據(jù)長什么樣訓練前我會做一張單變量分布概覽把每個連續(xù)字段的直方圖和離散字段的柱狀圖打印出來先做到心里有數(shù)。重點關(guān)注三件事連續(xù)字段是否多峰、是否嚴重右偏、離散字段的類別是否過于稀疏。看清楚之后再決定是否需要預處理。CTGAN自帶的模式歸一化能處理多峰所以一般不需要手動分桶但是如果某個連續(xù)字段嚴重右偏比如住院費用這種動輒偏到幾百倍的字段生成器擬合起來還是有壓力。這種字段可以提前做log變換讓分布更集中。不過要注意變換后的數(shù)值在生成之后還要逆變換回原始業(yè)務(wù)單位否則業(yè)務(wù)方拿到的不倫不類。3.4 樣本量參考幾百條和幾萬條策略完全不同CTGAN對樣本量的容忍度比想象中高但質(zhì)量分水嶺很明顯。樣本量低于500條時生成結(jié)果幾乎沒有實用價值模式學不完整類別組合稀疏。500到5000條時能跑通但需要反復調(diào)參產(chǎn)出只能用于粗篩。5000條以上時生成的合成數(shù)據(jù)基本可以在研發(fā)階段替代真實數(shù)據(jù)使用。我們這次用12000條原始數(shù)據(jù)生成了50000條合成樣本分布對比各項指標都達標。如果你的數(shù)據(jù)量很少建議先用貝葉斯網(wǎng)絡(luò)生成一版做基線不要一上來就硬上CTGAN。4. 完整實操過程訓練、生成與評估4.1 環(huán)境準備和安裝安裝CTGAN只需要Python環(huán)境和pip但它依賴PyTorch所以機器的顯卡驅(qū)動和CUDA環(huán)境要提前確認。如果有GPU訓練速度快很多沒有GPU也能跑只是epoch要適當減少。pip install ctgan我用的Python版本是3.9。需要注意ctgan的版本差異0.x版本和1.x版本的API有些許變化比如個別參數(shù)名不同、默認值不同。建議安裝后先輸出一下版本再對著版本查文檔避免看著別人的老代碼報錯。4.2 訓練代碼與關(guān)鍵參數(shù)直接放核心訓練代碼這段是從項目里抽出來的可用版本。import pandas as pd from ctgan import CTGAN # 讀取原始數(shù)據(jù) real_data pd.read_csv(medical_data.csv) # 指定離散列 discrete_columns [ gender, diagnosis, readmission ] # 初始化CTGAN ctgan CTGAN( epochs300, batch_size500, log_frequencyTrue, verboseTrue, cudaTrue, ) # 訓練 ctgan.fit(real_data, discrete_columnsdiscrete_columns) # 生成50000條合成數(shù)據(jù) syn_data ctgan.sample(50000) # 保存 syn_data.to_csv(synthetic_medical.csv, indexFalse)參數(shù)選擇這里說下我的經(jīng)驗。epochs不是越大越好。300輪在這個數(shù)據(jù)規(guī)模下已經(jīng)足夠繼續(xù)增加到500輪以上生成質(zhì)量提升非常有限訓練時間卻成倍增加。判斷標準不是loss而是看生成數(shù)據(jù)的分布指標是否收斂。我試過一輪200場的實驗真實數(shù)據(jù)和合成數(shù)據(jù)在各項指標上的差異在300輪之后幾乎沒有變化。batch_size建議在256到1024之間嘗試。醫(yī)學數(shù)據(jù)字段不多的話500是一個比較穩(wěn)妥的中間值。batch太小生成器容易被單批次帶偏batch太大訓練過程變慢而且稀有類別的條件生成效果會下降。log_frequencyTrue一定要開上一節(jié)已經(jīng)解釋過原因這里不再重復。cudaTrue在有GPU的環(huán)境下打開。CPU環(huán)境下也能訓只是同一份數(shù)據(jù)可能要多等幾個小時。4.3 生成樣本時的兩個注意事項sample()函數(shù)接收你想要的條數(shù)但一次性生成幾十萬條可能會把內(nèi)存吃爆。建議分批次生成每次生成一兩萬條然后拼接保存對后續(xù)處理也更友好。另外CTGAN的生成過程還依賴隨機種子。如果你希望實驗結(jié)果可復現(xiàn)在訓練前設(shè)置好隨機種子import numpy as np import torch np.random.seed(42) torch.manual_seed(42)不過要說明受PyTorch底層并發(fā)影響即使設(shè)了種子跨機器環(huán)境也不保證完全復現(xiàn)但同一環(huán)境下基本穩(wěn)定。這個特性在做實驗對比時很重要。4.4 訓練過程中的觀察點CTGAN訓練時會打印一個個epoch的進度但GAN的loss不像普通分類任務(wù)那樣單調(diào)下降。生成器和判別器在互相博弈loss上下抖動是正常的。我見過很多人在這個階段被嚇到以為模型崩了。實際上你更應(yīng)該關(guān)注的是每訓練幾十輪后生成一批樣本人工看一下字段分布有沒有逐漸向真實數(shù)據(jù)靠攏。loss數(shù)值本身沒有絕對意義生成結(jié)果才是檢驗標準。實操中還有一個冒煙測試的思路拿真實數(shù)據(jù)里隨機抽200條做一個極小規(guī)模訓練把整個pipeline跑通確認代碼沒報錯、生成數(shù)據(jù)能保存再上全量數(shù)據(jù)。這樣能省下大量排錯時間。5. 質(zhì)量評估與隱私風險控制5.1 相似度評估從三個層面打分很多人覺得合成數(shù)據(jù)“看起來像”就行了這不夠。我用三個層面的指標來評估缺一個都不放心。第一層是單變量分布。對連續(xù)字段比較真實數(shù)據(jù)和合成數(shù)據(jù)的均值、標準差、分位數(shù)再用KS檢驗看分布是否一致p值大于0.05通常說明沒有顯著差異。對離散字段對比每個類別的占比計算相對誤差。第二層是多變量相關(guān)性。單變量分布一致不代表變量之間的關(guān)系也一致。我計算真實數(shù)據(jù)和合成數(shù)據(jù)的Pearson相關(guān)系數(shù)矩陣然后對比兩者差值。比如真實數(shù)據(jù)中“年齡”和“再入院”之間有0.3的正相關(guān)如果合成數(shù)據(jù)里這個相關(guān)系數(shù)變成0.05說明變量關(guān)系丟了。出現(xiàn)這種情況通常要回去調(diào)整epochs和網(wǎng)絡(luò)結(jié)構(gòu)。第三層是模型效用。這是最貼近業(yè)務(wù)的一關(guān)把合成數(shù)據(jù)當作訓練集真實數(shù)據(jù)當作測試集跑一個簡單的邏輯回歸或者樹模型看AUC表現(xiàn)是否接近真實數(shù)據(jù)訓練出來的基準。如果能達到基準的90%以上說明合成數(shù)據(jù)保留了足夠的預測信息。如果連60%都不到說明合成數(shù)據(jù)只是“形態(tài)像”內(nèi)在關(guān)系沒學好。5.2 隱私風險評估別只看分布像不像合成數(shù)據(jù)項目的出發(fā)點往往是為了保護隱私但如果不做風險評估可能會鬧出“偽匿名”的笑話。我主要做兩類風險測試。第一類是最近鄰距離檢查計算每一條合成記錄到所有真實記錄的最小歐氏距離。如果大量合成記錄與某條真實記錄的距離幾乎為零說明生成器把原始樣本“背下來了”這屬于嚴重的記憶泄露。正常情況下合成數(shù)據(jù)和真實數(shù)據(jù)的最小距離分布應(yīng)該與真實數(shù)據(jù)內(nèi)部的最小距離分布接近不能出現(xiàn)大量距離遠小于正常水平的點。第二類是成員推斷測試。拿一部分真實數(shù)據(jù)訓練一個簡單的二分類器特征保持不變標簽是“該樣本是否在訓練集中”用合成數(shù)據(jù)和剩下的真實數(shù)據(jù)做對照看分類器能不能猜中樣本來源。如果準確率明顯高于隨機水平說明合成數(shù)據(jù)攜帶了太多容易被識別的個體特征。如果你打算把合成數(shù)據(jù)對外公開這些測試必須做。如果只在公司內(nèi)部研發(fā)使用風險等級可以適當降低但對極端值字段還是建議做一次最近鄰檢查。5.3 差分隱私擴展什么時候值得上CTGAN本身不提供數(shù)學意義上的隱私保證它只是“讓數(shù)據(jù)不那么容易被還原”。如果業(yè)務(wù)方要求強隱私保證比如對外發(fā)布數(shù)據(jù)集那就得考慮差分隱私版本。差分隱私的核心思想是在模型訓練過程中加入受控噪聲讓輸出結(jié)果對“某一條具體樣本是否存在”不敏感。聽起來很完美但代價是生成質(zhì)量明顯下降。我們項目評估過DP方案的合成數(shù)據(jù)單變量分布還行多變量相關(guān)性損失較大模型效用比普通CTGAN版本低了差不多十個百分點。我的態(tài)度是內(nèi)部研發(fā)用普通CTGAN數(shù)據(jù)不出內(nèi)網(wǎng)的前提下風險可控外部共享或發(fā)布再上DP方案同時接受效果折損。不要一上來就追求最強隱私否則業(yè)務(wù)效果可能會被犧牲到?jīng)]法用。6. 常見問題與排查技巧實錄6.1 生成結(jié)果全是同一類樣本這是典型的模式崩潰。CTGAN的訓練本質(zhì)上是對抗博弈如果生成器找到一個能穩(wěn)定騙過判別器的“捷徑”它就會放棄探索其它模式只輸出同一種樣本。排查時先確認判別器和生成器的結(jié)構(gòu)是否平衡??梢栽龃骲atch_size讓判別器看到更多樣的真實樣本也可以調(diào)整discriminator_steps參數(shù)增加判別器每輪更新的次數(shù)逼它變得更強迫使生成器提高多樣性。還有一個笨但有效的辦法把embedding_dim和gen_dim調(diào)小一點限制生成器的容量減少它“死記硬背”的能力。6.2 連續(xù)變量生成出負值或離譜數(shù)值如果生成數(shù)據(jù)里出現(xiàn)血糖負數(shù)、收縮壓3000這種物理上不可能的值多半是預處理階段出了問題。最常見的原因是原數(shù)據(jù)里的離群值沒有清干凈模式歸一化被極端值帶偏導致某個高斯模式的方差被拉得過大。另一個原因是對連續(xù)字段做了過度變換。比如先做z-score標準化再訓練CTGAN自己會再做歸一化一來一回反而放大誤差。建議只保留業(yè)務(wù)上必要的變換比如log變換其他交給模型自己學。6.3 類別占比和原始數(shù)據(jù)差異大出現(xiàn)這種情況優(yōu)先檢查log_frequency是否開啟。我在項目里做過對照實驗關(guān)閉后低頻類別在合成數(shù)據(jù)中的占比會顯著下降。如果已經(jīng)開啟但問題依舊考慮把樣本量過少的類別適度合并。比如某種主診斷只有幾十條可以合并到“其他”類別里先讓主干分布學對再去補細節(jié)。6.4 訓練速度慢得離譜訓練慢通常不是機器的錯而是參數(shù)和數(shù)據(jù)規(guī)模不匹配。字段數(shù)量多、batch_size大、epochs高都會讓訓練時間成倍增長。我的做法是先用1000條數(shù)據(jù)、50個epoch跑通流程確認管線沒有問題再用全量數(shù)據(jù)正式訓練。正式訓練時初始epochs不要直接飆到1000先用200一輪的配置跑一遍質(zhì)量評估如果分布指標還在明顯提升再往上加。醫(yī)學數(shù)據(jù)字段間的非線性關(guān)系并不像圖像那樣復雜多數(shù)場景300輪已經(jīng)夠用。6.5 問題排查速查表現(xiàn)象可能原因建議解決方式生成樣本類別單一模式崩潰調(diào)大batch_size增加判別器更新次數(shù)限制生成器容量連續(xù)值范圍異常離群值未處理或過度變換清洗極端離群值減少不必要的歸一化/標準化稀有類別比例偏低條件生成未生效確認log_frequencyTrue合并過少類別訓練loss嚴重震蕩GAN對抗正常現(xiàn)象不只看loss定期生成樣本并檢查分布訓練時間過長參數(shù)或字段設(shè)置不合理用少量數(shù)據(jù)冒煙測試先跑200輪看趨勢模型效用差距大變量關(guān)系學得不充分增加epochs檢查關(guān)鍵字段之間的相關(guān)性指標最后再分享一個這幾個月積累下來的習慣每次訓練完我不會直接拿生成數(shù)據(jù)往下游業(yè)務(wù)丟而是先跑一遍“真實數(shù)據(jù)內(nèi)距離分布”和“合成數(shù)據(jù)到真實數(shù)據(jù)最近距離分布”的對比圖如果后者出現(xiàn)明顯的左移峰值說明模型開始記憶個別樣本了需要重新清洗或調(diào)整訓練策略。合成數(shù)據(jù)這件事把它當成一個統(tǒng)計工具來用比把它當成“數(shù)據(jù)魔術(shù)”要踏實得多。你可以先從小規(guī)模項目試起把分布對比和質(zhì)量評估流程固定下來再去挑戰(zhàn)更復雜的場景。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月婷婷亚洲综合在线| 99视频色在线观看| 97碰成超视频免费视频| 欧美日本国产| 亚洲五月六月婷婷| 99在线精品观看99| 超碰人人操| 97色婷婷五月天| 天天人人综合| 少妇激情基地| 成人婷99最新| 国产脫衣舞一区二区三区| 男人大jjc女人免费视频| 色5月婷婷| 婷婷综合五月天| 99re视频精品| 婷婷五月色亚洲| 久久欧洲久久| 婷婷丁香社区网| 日韩成人AV在线播放| 婷婷伊人綜合中文| 亚洲av成人一区二区电影在线| 青柠影视免费高清电视剧| 这里只有精品视频99| 草综合14| 26uuu另类亚洲欧美日本一| 婷婷五月开心中文字幕色| 五月天激情四射| 久久久久网站| 久9精品| 少妇被下春药玩弄A片| 大香蕉婷婷色| 性色婷婷| 婷婷综合色图| 五月婷婷天堂| 91精品婷婷国产综合久久| 天天插天天干| 久久色9| 日韩色五月| 五月丁香六月欧美| 天天插天天| 婷久看人爽| 97天堂| 四月婷婷五月丁香| 欧美性久| 五月天婷婷爱| 五月久久婷婷丁香| 五月天久久婷婷| 婷婷丁香宗合888| 九色在线观看91av| 91九色视频在线观看| 99日本视频在线观看专区| 日本三级第一页| 日韩AV无码影片| EEUSS鲁片一区二区三区| 99热这里只有精品免费| 日日天天干| 激情av| 久久婷婷热| 久久婷婷国产| 丁香九月婷婷| www激情| 久久婷婷综合五月天| 五月99久久| 国产美女视频久| 婷婷色色婷婷| 亚洲免费av在线| 26uuu欧美日本| 伊人久久五月天综合| 五月色丁香视频精品| 婷婷五月天在线观看第二页| 十月色综合| 99av视频| www.天天干| 色综合色色色| aaa久久| 精品女人九九九| 中文字幕综合| 超碰在线成人| 亚洲天堂色色| 国产又色又爽又黄又免费| 国产乱妇无乱码大黄AA片| 九九热AV| 男同91| 激情都市另类| 色色综合五月| 超碰在线观看9| 国产激情在线| 五月开心婷婷极品激情| 色婷婷在线视频久| 午夜电影网VA内射| 夜夜夜夜夜操| 成人网在线视频| 97久久人人| 亚洲精品大片| 国产精产国品一二三在观看| 亚洲人成网站999综合| www狠狠爱com| 九九综合伊人| 久久婷婷五月国产激情综合片| A一级操| 天天日日天天| 六月丁香影院| 久久99热这里只频精品6学生| 97在线刺激| 久久99网站| 99精品无码| 白人荫道BBWBBB大荫道| 二区成人视频| 91se在线视频| www.色婷婷。com| 日日夜夜噜噜爽爽| 5五月综合网亚洲| 91九色视频在线观看| 91人人操人人| 粉嫩AV久久一区二区三区| 久久您您综合网| 色黄啪啪| 五月婷网| 天天舔天天| 欧美成人五月天| 婷婷五月天六月丁香| 超碰免费成人| 99在线精品免费视频| 婷婷丁香五月天之开心少妇| 九艹在线| www色婷婷久久综合久色 | 开心婷婷五月综合| 色v综合网| 婷婷丁香视频在线观看免费| 婷婷五月深深爱| 婷婷五月天亚洲五码| 久/久精品99看9| 国产精品人成A片一区二区| 色欲AVV| 日本免费91| 秋霞免费三级片| 丁香五月aV| 婷婷五月激情视频| 丁香五月激情啪啪| 丁香五月天堂婷婷| 色哟哟精品| 亚洲丁香婷婷五月天综合色| 免费视频舔| 色婷婷丁香AV综合| 婷婷色啪| 亚洲亚洲人成综合网络| 丁香五月开心亚洲| 丁香五月丐人妻| 久久精品66| 综合色影院| 五月激情视频| 人妻中文字幕网| 狠狠操狠狠爱| 深夜A片| 91综合国免费久入| 婷婷丁香综合网| 久婷婷五月天影院| 色综合色欲综合天天免费| 色欲色香综合网| 丁香五月色| 日韩无码AV电影网站| 色天堂97| 婷婷色五月亚洲| www.com五月天| www.婷婷.com| 婷婷五月在线| 日本本土色网第一区| 婷婷五月深爱五月| 色情婷婷五月天| 亚洲中文字幕av| 性欧美大战久久久久久久83| 伊人色综合影院视频| 五月激情丁香五月宗合| www.婷婷.com| 香蕉人妻AV久久久久天天| 久久加勒比| 丁香婷婷丁香五月欧美人| 婷婷六月激情| 国产精品第一国产精品| 色五月婷婷综合在线| 丁香六月婷婷高清| 97干欧美| 色情网综合| 亚洲综合五月天婷婷丁香| 色情丁香五月天| 来吧亚洲综合网| 开心激情站| 亚洲另类av| 狠狠狠狠免费| 色婷婷久久久| 97久久精品视频| 久久精彩综合视频| 色香欲综合| 少妇高潮A片无套内谢麻豆传| www.99精品视频| 99热这里只有精品一| 亚洲视频二区| 亚洲AV无码电影| 五月丁香六月激情综合网| 日韩操人| 国产综合网在线| 色婷婷久久| 五月婷婷色啪| 亭亭五月激情亚洲在线| 色五月播五月| 97热精品| 五月婷婷综合在线观看| 日本色婷婷| 五月丁香婷婷成人版| 亚洲无码成人性爰网| 99久久久久久www| 草草女人亚洲| 色久播播| 另类精品视频在线观看| 日本97人人| 五月丁香六月久久| 激情综合99| 香蕉AV777XXX色综合一区| 好看的国产精品| 成人精品99| 久久久久人妻精品| 色五月婷婷91| 激情VA视频| 婷婷综合久久| 五月婷婷色色色| 色欲色香伊人| 亚洲乱码日产精品BD| 色婷婷中文在线| 久久这里有精品在线观看| 国产毛片精品一区二区色欲黄A片| 婷婷五月18永久免费网站| 亚洲射激情| 久9热在线视频| 色婷婷播放| 亚洲视频色色| 亚洲激情另类| 97人人干人人操| 色五月亚洲| 十二区无码| 婷婷丁香五月天色区| 日本色色色| 久综合九| 亚洲色五月天| 免费观看高清无码| 色情免费视频播放| 日韩少妇内射免费播放| www.国产亚洲69ty.久久久久久久久久久久 | 久久九九99.www| 欧美成人网99网| 99久久综合精品五月天| 亚洲情欲| WWW久久99久久99久久| 五月丁香六月婷精品视频| www.婷婷五月| 色综合色色| 婷婷综合97| 色爱综合五月| 欧美五月丁香| 久久天堂女人| 日日舔夜夜操| 免费色婷婷| 天天日夜夜操五月| 国产无遮挡又黄又爽免费网站| 大香蕉久| 国产成人+综合亚洲+天堂| 国产精品丝| 五月婷综合| 99riAV成人在线视频| 丁香婷婷人妻综合网| 亚洲六月婷婷| 六月丁香婷婷综合色播| 丁香五月综合| 亚洲小说五月婷婷| 五月综合久久| site:picc-up.com| 亚洲人成色A777777在线观看| 天天影院色| 中文字幕丰满孑伦无码专区| 亚洲亚洲激情| 538在线精品| 玖玖伦理电影| 丁香六月综合激情| 婷婷五月天六月综合| AV九九| 免费视频舔| 久久精品性爱| 丁香婷婷精品视频| 99亚洲视频| 九九综合久久| 五月激情在线| www.sd-xiangsu.cpm| 丁香五月婷婷基地| 国产欧美日韩一区二区三区| 性做爰A片免费视频A片直播| 我要射综合| 91丁香色| 婷婷色情五月| 39视频第二区| 激情五月婷黄版| 天天操五月天| 99热1| 97在线/亚洲| 婷婷久久99| 婷婷射丁香| 久综合网| 综合亚洲色色| 婷婷丁香社区| 亚洲一区二区无码蜜乳av| 色婷婷五月综合激情中文字幕| 久久婷婷一级片| 国产女18毛片多18精品| 久久这里都是精品| 婷婷五月天AV在线| 久久婷色| 久去色色| 蜜桃成语时李时珍 免费| 欧美性丁香色色五月天综合爱爱| 精品二区| 五月丁香六月综合激情无码软件亮点| 丁香久久久| 91色逼| 丁香综合网| www,天天干| 青青草原中文字幕| 无码成人AAAAA毛片AI换脸| 青青草婷婷综合五月| 91婷婷视频| 五月天婷婷无码视频| 综合九九日本| 九色91国产| 狠狠色婷婷7777久| 九九热精品视频在线观看| 天天拍夜夜爽日日| 久久综合最新网址| 婷色五月天| 亚洲旡码| 激情综合五月| 99er视频在线| 综合网啪| 亚洲99热| 四虎婷婷五月天| 九九色插| 免费黄色AV| 涩五月婷婷| 99精品在线观看| 综合性视频99| 婷婷色六月| 玖玖爱综合网| 伊人五月天日日夜夜久久久天天| www.wuyuetian啪啪| 天天草比天天爽| 丁香五月激情网| 五月天色影院| 天堂婷婷丁香六月网| 色在线免费观看| 五月丁香亭亭| 在线观看五月婷婷网| 丰满少妇乱A片无码| 五月丁香黄色视频| 丝袜人妻| 国产精品久久久爽爽爽麻豆色哟哟| 婷婷五月天激情综合深爱激情| 激情伊人网| 五月激情六月宗合| 日韩久久这里只有精品| 操碰久| 婷婷激情图片| 婷婷五月天另类网站| 综合五月丁香六月婷婷| 五月天狠狠| 天天拍久久| 看逼中文字幕| 色欲一区二区三区精品A片| 国产综合激情五月久久| 日hao1区| 激情六月天| 五月天停停成人网| 婷色五月天| 色婷婷小说| 99操逼| 五月丁香色| 噼里啪啦完整版中文在线观看| 婷婷五月天开心激情网| 超碰在线人妻| 色综合色香蕉网| 天堂综合久| 5月婷婷视频网站综合| 依人大香蕉在钱1| 久久综合影院| 成人AV在线网站| 9热在线视频| 深爱五月激情五月| 久久这里只| 91超碰人人操| 日本44久久在线| 欧美天堂久久| 另类小说五月天综合网| 99riAV国产精品视频| 最近中文字幕大全免费版在线| 丁香六月色婷婷| 国产成人AV在线| 草草夜夜操| 婷婷五月天AV在线| 久久成人综合五月天| 偷拍九九五月丁香婷婷| 北京熟妇搡BBBB搡BBBB| 丁香婷婷色情| 激情婷婷五月色| 操逼六区| 色吧婷婷五月亚洲| 欧美色色色色色| 99热九九在线| 婷婷综合五月| 色吧网综合| 久久综合丁香激情五月| 日日夜夜爽| 婷婷中文字幕| 国产操逼网站| 免费看欧美成人A片无码| 久久精品性爱| 丁香五月婷婷丫| 六月丁香停| 亚洲情综合五月天| 99精品在线观看视频| 五月天久久成人| 99久在线观看| 色婷婷狠狠久久综合五月| 91九九| 天天色综合图片| 99在线精品视频免费| 欧美激情-区二区三区| 久久人妻视频| 精品99在线观看| 天天日夜夜草进麻麻的子宫| 久久多色| 五月色婷婷夜色| 久99| 婷婷射综合| 婷婷丁香激情| 丁香六月色香蕉视频| 91视频久久久| 丁香五月婷婷免费视频| 怡红院视频| 久久婷婷成人综合色怡春院| 色的色综合| 97资源欧美日韩大香蕉超碰一区| av婷婷丁香| av在线资源| 在线观看婷婷5月| 六月婷婷网站| 淫荡家庭AV| 超碰网站在线观看| 色欲五月丁香| 婷婷97| 狠狠爱激情网| 婷婷色正月| 99热国产国产| 九九综合精品| 9久久AV| 一区二区成人电影免费播放| 婷婷五月天成人网| 中文资源在线a| 天天日,天天射,天天舔| 伊人五月久久| 思恩热国产视频右线观看| 性热视频99精品| 久久久全国免费视频| 狠狠爱综合网| 色婷婷久久| 婷婷五月天国产在线播放| 五月丁香六月激情综合在线| 九九热色视频| 色九月婷婷综合| 综合久久六月| 99A片| 精品一区二区三区四区五区六区| 激情五月婷婷综合| 五月天色色婷婷| 婷婷色狠狠| ji'qing'luan'ren'lun| 久热久色| 五月天啪啪视频| 日韩情色在线观看| 天天婬色综合| 激情五月婷婷综合网| 99热色精品| 色色五月婷| 五月婷婷AV| 婷婷五月天开心激情网| 五月综合影院| 久热这里只有精品99re,久热这里只有精品7| 久久综合九九| 超碰人人射| 五月天丁香婷婷社区| 99在线免费视频播放| 欧美色片中文字幕久久久久| 99ER热精品视频| 成人丁香| 婷婷激情四射| 91丨九色丨高潮丰满日本| 色五月av| 日韩色色视频| 99热国产这里只有精品| 五月丁香婷爱在线| 狠狠操狠狠做| 五月婷AV| 久久99久久99精品免观看软件| 一个色的综合| 亚洲精品乱码久久久久99| 欧美噜噜噜草| 99re热视频这里只有综合亚洲| 国产av基地| 99人妻碰碰碰久久久久视| 大香蕉在线观看9| 美女被操一区二区| 91久女| 香蕉婷婷五月| 激情操逼婷婷| 曰韩五月丁香色婷婷无码| 777米奇影视第四色| 99在线免费观看| 女人天堂AV| 五月天婷婷色综合| 婷婷五月天久久| 大香蕉久久| 99热99在线| 日韩综合久久| 久热大香蕉| 婷婷色网站| 综合久久97| www.五月天色色.com| 丁香五月激情网| 久久久久婷| 欧美色五月| 色五婷婷在线视频| 开心激情站| 亚洲色五月| 超碰国产在线观看| 久热黄色| 国产激情视频在线观看| 亚洲成人免费在线| 久久九九热视频| 九九热99热| 色丁香五月| 国产成人亚洲综合A∨婷婷| 丁香五月天堂网| 99啪啪| 99热精品在线在线| 亚洲综合五月天| 欧美交换配乱吟粗大25P| 色五月激情五月| 亚洲日韩一页精品发布| 丁香六月丁香婷婷激情| 色婷婷丁香AV综合| 九九久久精品國產| 99热加勒比| 色狠狠色综合久久久绯色AⅤ影视| 五月激情婷婷综合| 激情小说五月天| 亚洲网站在线鸭子av| 98毛片| 丁香婷五月天| 婷婷五月天在婷| 思思 热 99| 99性色| h在线看免费版在线看| 五月天丁香婷| 99爱在线精品视频免费观看| 五月天婷婷色色| 免费看成人AA片无码视频吃奶| 色网五月婷婷| 91欧美日韩| 日韩无码91| 久久性刺激| www激情| 丁香五月图片| 丁香六月毛片| 六月综合在线| 久久人人九| 91狠狠综合久久| 久热无码| 丁香五月天天久久综合小说| 一区二区传媒视频| 9191avse| 老司机午夜福利视频金瓶梅| 操操操操操电影网| 欧美婷婷五月天| 婷婷狠狠18禁久久| 另类小说色婷婷| 国产婷婷色综合AV蜜臀AV | 天天综合区| 91 九色 入口| 久久丁香五月天| 五月天成人在线视频丁香| 快色t v在线入口| 欧洲亚洲精品| 第四色激情网| 97精品人人A片免费看| 日本性视频| 中文字幕成人影视| 九九热这里只有精品556| 伊人五月久久| 99热这里只有精品86| 丁香五月综合激情啪啪| 91操操| 色www99| 九九综舍久久| 综合激情啪啪| 婷婷五点亚洲| 91成人视频| 大香蕉手机视频| 久久免费高| 久一网站| 久热这里这里有精品| 五月综合六月婷婷| 婷婷大乡焦噜噜| 日本三级日本三级99| 五月天丁香婷婷久久九| 五月天社区婷婷丁香社区| 丁香婷婷激情综合五月激情 | 亚洲成人中心| 激情丁香婷婷五月天| 丁香五月婷婷俺也要去| 婷婷色九月| 夜精品无码A片一区二区蜜桃| Av在线资源| 中文字幕AV在线| 五月婷色丁香| 五月天成人免费视频| 无码99| 久草婷妨| 综合色图区| 97婷婷丁香五月| 九九在线精点品| 99热这里只有精品9| 99热有精品在线观看| 4399人妻无码久久久| 日本在线免费中文com.| 狠狠色噜噜狠狠狠狠综合| 欧洲色色| 日本大逼91| 六月丁香花婷婷| 国产精品久久7777777精品无码| 思思99久久| 国产肥白大熟妇BBBB视频| 98色丁香五月婷婷综合网| 久热这里只有精品性色AV| 婷婷干五月综合在线播放| 91丨九色丨熟女高潮| 丁香六月成人| 婷婷五月花| 婷婷综合网站| 91一起操| 久久综合最新网址| 啪啪色激情五月天| 婷婷五月综合激情免费| 色综合五月| 国产性爱色| 五月婷婷激情四季| 色色性爱视频| 五月色综合| 香蕉伊人综合| 伊人六月无码视频| 99久久久久久| 九九99精品视品| 99re热在线视频| 亚州AV超碰人人操| 五月天.com| 91seAV| 凹凸7777操操操| 五月丁香六月婷婷姐| 天天干天天插| 国产激情av| 婷婷五月天亚洲精品| 色~性~乱~伦~噜| 99在线资源视频| 色噜噜婷婷| WWW,五月| 久草热8精品视频在线观看| 狠狠干综合网| 这里只有免费的精品| 丁香五月性| Www.se.久久| 激情五月图| 久久久久婷 | 婷婷色导航| 激情綜合網址| 伊人深爱综合| 亚洲综合婷婷| 亚洲色图五月丁香| 婷婷综合色五月天| 婷婷五月天av| 97人凄人人操人人爽| 五月婷婷丁香综合| 色婷婷电影网| 91色噜噜狠狠狠狠色综合| 天天爽日日爽夜夜爽| 久操热线| 99在线免费视频| 日韩99色99| 能看的av| 亚洲精品无码久久| 天天做天天爱天天爽综合网| 91色呦哟| 激情五月天在线观看色婷婷| 欧美久久网| 色色六月| 五月丁香六月婷婷免费| 久9热| yazhochengrenavwang| 五月天四色房丁香| 丁香五月综合| 亚洲AV网址| 俺去也五月天婷婷| 中日韩美欧成人一区二区精品在线| 色五月天.con| 99九九在线精品热动漫| www狠狠爱com| 久热这里只有精品视频6| 99热综合| 五月婷精品| 天天色天天日天天舔| 熟女强人妻一区二区三区四区无| 激情深爱婷婷网| 九热精品| 婷婷欧美激情| 久久99性爱| 六月婷婷毛片| 日本色婷婷五月天成人电影| 五月婷婷激情久久| 丁香六月婷婷久久高清| 丁香五月电影| 99碰碰。| 天天摸日日舔狠狠添婷婷婷| 久久久久久久久久8888| 91viP在线看| 色噜噜五月天| 久久综合五月| 六月 丁香 视频| 激情亚洲五月| 奸逼视频| 国产精品第一国产精品| 丁香色情五月综合激情| 97碰在线视频| 色99日韩| 99热网址| 草草影院爱爱| 色婷婷久久综合久色综| 婷婷九九色| 婷婷之六月丁香| 嫩草AV久久伊人妇女超级A| 精品色情一区二区三区四区| 色欲一区二区三区精品A片| 91黄址| 丁香九月综合激情| 婷婷五月天丁香社区| 婷婷六月天激情| 东京热人妻一区二区三区在线| 99爱精品视频| 九月丁香网婷婷| 五六月丁香激情视频| 老师的粉嫩小又紧水又多A片视频| 日本激情ⅩXX免费视频| 网站免费一站二站| 婷婷五月大| 亚洲日日操| 色九区| 色噜噜婷婷| 色婷婷AAA| 婷婷激情综合| 91精品无码| 超碰人人操人人干| 日日噜噜夜夜狠狠久久丁香六月| 五月丁香六月成人| 婷婷涩涩五月天| 激情丁香九九五月综合网| 九九精彩久久| 97干在线观看视频| 五月丁香亭亭操逼| 九九99九九99| 亚欧州精品视频| 涩综合网| 91超碰人人操| 开心激情网在线| 欧美在线视频99| 色香欲综合| 久久久久久久五月婷婷六月丁香综合,开心激情综合网 | 99热在线观看| 亚州色色色| www.粉嫩av.com| 欧美色婷婷| 激情五月天噢美| 香蕉久久国产AV一区二区| 五月天·www·com| 99在线精品免费视频| caopeng97日韩| 亚洲网站观看视频| 久久思思热视频| 91啦丨九色丨刺激中文| 五月婷婷官网色| 殴美日韩成人| 久久9热| 久久婷婷网| 国产激情综合五月久久| 婷婷五月中文在线| 99热久久这里只有精品| 精品福利911| 大香蕉久久综合网| 可以免费看AV网站| 国产色视频网站2| 五月丁香色婷婷色| 97资源碰碰| 亚洲操B| 婷五月天在线草| 色色欧美色色| 丁香五月综合在线观看| 丁香六月综合激| 久久hd| 超碰人人操人人干| 亚洲1区| 中文字幕簧片| aaaa久久| 色综合天天综合成人网| 庭庭久久内射| 成年人丁香五月| 五月婷婷开心爱| 久久婷婷综合五月| 思思热AV| 色色五月天丁香婷婷| 国产成人网| 99这里只有免费的精品| 国产精品天天狠天天看| 色女伊人| 久久婷网| 狠狠穞A片一區二區三區| 丁香婷五月天| 开心五月婷婷伊人| 美国十月色婷婷在线观看| 大香蕉综合| 天天日天天爽| 天天精品视频在线观看视频| 五月天基地| 五月婷在线观看| 这里只有精品,日韩视频| 1024在线一区| 五月丁香婷婷基地| 超碰成人在线观看| 99性爱视频| 人人人人人人人草| av无码电影| 久久机热/这里只有精品| 丁香六月婷婷高清| 亚洲视频在线网| 色婷婷五月在线| 天天五月香欧美| 涩丁香| 婷婷六月色| 五月丁香啪啪网| 青青草视频免费观看| 亚洲视频图片婷婷五月| 久久婷婷五月丁香网| 色五月婷婷在线| 色综合色综合网| 五月99久久| 五月亭亭开心网| 伊人婷婷色激情丁香| 婷婷五月天丁香成人社区| www.色五月| 激情久久五月网| 久久的爱大香蕉| 九九伊人网| 国产26uuu视频| 人人综合91网| 天天天干夜夜夜操| 婷婷综合伊人丁香| www.日韩国产| 99热在线观看| 丁香五月亚综合图片| 五月丁香六月婷| 五月婷婷涩涩爱| 五月天成人免费视频| 综合久久婷婷五月丁香| 激情婷婷护士激情| 五月婷婷综合激情网| 五月天色导航| 91九色欧美| 久久久人妻| 天天精品视频免费观看| 青青热视频| 超碰天堂网| 538任你爽| 99在线视频在线观看| 久婷婷五月综合欧美| 超碰久热| 丁香五月婷婷日本| 成人va在线观看视频| 大鸡巴伊人网| 二色av| 五月天成人在线| 久久婷丁香五月| 日本不卡一区二区三区| 日亚二欧美| 丁香五月第九色| 亚州综合色| 色婷婷影视| 热99这就是精品视频| 久久无码激情视频| WWW、日本色丁香、co m| www.操.com| 欧美色爱五月天| 婷婷放心五日爱| 免费播放AV| 五月婷婷五月天| 天天婷婷| 新99思思视频| 婷婷五月天综合AV| 禁欲电影完整版在线播放| 亚洲综合五月| 婷婷五月AA五月在线| 99色五月| 4438亚洲欧美| 婷婷色网站| 玖玖资源天天无码| 大香蕉久久| 色婷婷亚洲综合av| 激情五月天综合网| 五月天综合色| 激情五月天之六月婷婷| 久久久久久99精品无码| 丁香五月五月婷婷欧美大香蕉 | 91肏| 热日韩欧美| 色吧五月婷婷| 色五月综合在线| 狠狠88综合久久久久噜噜噜| 婷婷色色欧美| 四川BBB搡BBB爽爽视频| 六月婷婷激情| 丁香五月婷婷色| 五月婷婷六月丁香| 五月天丁香欧美激情| 激情又色又爽又黄的A片| 91狠狠色色丁香婷婷综合久久| 天堂婷婷丁香六月网| 久久激情五月| 免费在线a| 日本不卡一区二区三区| www99精品| 中文字幕色色| 99re久热只有精品6在线直播| 六月丁香六月婷婷欧美| 久久涩视频| 丁香婷婷啪啪| 中文字幕av在线播放| 天天操夜夜肏| 婷婷丁香六月五月天| 国产性爱一级| 色播jjjj| 激情综合五月| 色六月婷婷| 丁香婷婷色| 丁香伊人激情| 欧美日韩99| 激情五月天99色| 91男同视频| 五月天国产| 永久免费一区二区三区| 日本熟女内射| henhencao国产在线| 色婷婷888| 综合激情四射一theav| 成 人片 黄 色 大 片| 9久久精品| 丁香婷婷激情五月天无毒不卡蜜桃| 婷婷性爱无码视频| 色婷婷基地在线| www.maotanji.com| 亚洲殴洲精品Av在线| 亚洲精品无人区| 色色色热热热| 97碰碰在线看视频免费| 婷婷五月激情视频在线| 婷婷操逼网| 国产精品久久99| 99久久www| 加勒比久热| 丁香婷婷九月在线| 五月天激情四射| 97操操操| 天天弄天天操| 婷婷五月天欧美图片在线播放电驴| 成人婷婷桔色| 九九热这里只有精品7| 中文字幕,综合,91| 亚洲无码九九九| www.wuyuetian啪啪| 可以看的av| 五月天综合婷婷| 欧美视频五区| 天天干夜晚夜操| 丁香美女主播视频在线观看 | 亚洲网综合在线| 久热99| 九九热最新地址| 久久92| 狠狠狠狠狠狠| 五月丁香六月婷婷综合| 五月丁香九九九综合| 蜜桃婷婷丁香五月天狠狠久久综合| 亚洲激情四射| 亚韩在线视频| 色色色区| 久久综合五月| 麻豆123区| 欧美A片在线视频免费观看| 成人亚洲精品久久久久| 99热综合| 99精品网| 色色色色色综合| 久久视频婷婷视频| 国产成人高清| 五月丁香影院| 人妻久久人妻久久第一区| 99国产这里只有精品| 五月激情丁香| 思思热热久久| 狠狠色丁香婷婷基地| 丁香六月av| 888精品福利地址| 国产成人网| 丁香婷婷基地| 日本 欧美在线| 久久香蕉福利| 香蕉久久国产av一区二区| 激情伊人网| 婷婷五月天丁香激情| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 成人深爱丁香五月| AV伊人青草丁香六月| 天天开心天天色| 综合网色| 超碰碰碰碰| 激情色色| 国产 码在线成人网站| 综合五月婷婷| 久/久精品99看9| 99热啪啪| 欧美日韩成人在线| 激情五月天婷婷直播| 九九色综合| 亭亭五月丁香综合欧美| 婷婷丁香射射| 大香蕉久久伊人婷婷五月丁香| 久草天堂| 五夜婷婷| 日日爱678| 99这里是99在线视频| 免费视频舔| 夜夜骑操AV| 在线VA视频| 久草五月天电影网| 怡红院院久久| 色综合久久88色综合中文字幕| www.五月婷婷久久.com| 99只有这里是精品| 婷婷五月天另类网站| 狠狠操狠狠干综合| 天天狠狠干| 激情伊人五月天| 亚洲最大激情无码| 五月天伊人久久久久| 超碰男人色| 99在线热| 婷婷99狠狠| 狠狠色噜噜狠狠狠狠综合| 婷婷五月花| 久久精品99国产精品日本| 日本熟妇乱妇熟色A片蜜桃| 日韩在线观看网址| 天天综合区| 9999热精品| 九九人人看| 99婷婷国产最新视频| 色色免费网站| 狠狠舔| 成人婷婷桔色| 天天摸日日舔狠狠添婷婷婷| 99热99热| 日日夜夜狠狠操| 婷婷五月天社区| AV在线观看网站| 婷婷色综合| 成人AV在线电影| 亚洲日本韩国| www.99色在线| 岛国午夜视频| 日本欧美国产| 丁香五月天啪啪| 天天上天天爽| 婷婷激情五月综合丁| 婷婷五月激情视频| 高清无码网址| 狼人久草| 99久久婷婷| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 久久综合天天综合| 26uuu亚洲精品国产| 五月天色五月| 亚洲综合久| 色婷视频| 亚洲中字AV电影在线网站| 香蕉99网| 久久99大全| 99欧美| 五月天婷婷六月| 亚洲成人va| 99狠狠操一| 日日天天干| 国精产品一区一区三区免费视频 | 激情综合五月婷婷六月丁香| 久久婷婷人人| 岛国AV网| 99热久久这里只有精品| 99视频啪啪| 婷婷丁香五月天影院 | 国产亚洲精品久久久久苍井松| 亚韩精品视频1区| 1999天天操夜夜操| 99久热| 天天干天天操天天干天天操天天干天天操| 激情性五月天免费小说视频 | 极品人妻VIDEOSSS人妻| 人妻在线观看视频| 九月激情综合| 色综合爽| 这里只有精品69| 日本九九网| 五月激情小说| 欧美性爱丁香五月| 五月婷婷激情日本| 99色6爱9热| 婷婷丁香五月天亚洲| 久久婷婷五月天| 免费观看的av| 色婷婷很很十八禁| 99人人干人人| 五月婷婷偷| 五月丁香花婷婷玉莉AV| 成人婷婷| 99热久久这里只有精品| 色网站9| 综合AV在线| 婷婷丁香五月天色区| 久久婷婷五月天蜜桃| 99热网站| 婷婷色五月91啪啪| 丁香五月婷婷欧美激情-中文天堂最新版在线观看| 九九精品在线视频观看| 五月婷婷精品视频| 囯产精品久久欠久久久久久九大| 99视频| 伊人大香蕉爱聚| 九九精品自拍| 国产美女精品| 日本狠狠干| 五月天大香蕉| Av在线不卡一区| 超碰99在线观看| www色中色综合| 亚洲啪啪网| 伊人综合网站| 色综合久网| sesesesezonghe| 婷婷开心激情五月激情网| 黄网在线免费观看| ..真实国产乱子伦毛片| 精品久久婷婷| 丁香五月天人体| 久久丁香五月| 久热9| 五月丁香六月婷婷综合| 亚洲色涩视频| 激情小说婷婷五月| 99热九九热| 五月天啪啪网| 婷婷香蕉| 天天舔天天摸视频| 大香蕉手机视频| 伊人婷婷99热精品| 丁香婷婷黄网站| 五月丁香黄色| 九九热中文| 五月丁香综合色婷婷| 草一草avb| 色丁香久久久| 天天爽人人综合免费7799| 操日本99| 九九久久精品| 亚洲激情综合免费| 婷婷色六月| 97久久超视频| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 色噜噜狠狠色综无码久久合欧美| 亚洲天堂玖玖| 人人色人人摸人人看| 777色色色| 天天肏夜夜肏| 亚洲另类毛片| 激情的五月| 99热1| 99ri网站在线观看| 婷婷色在线观看| www色婷婷com| 在线播放成人网站| 五月婷婷色啪| 九九草热在线观看| 就爱射中文字幕资源网| www夜夜操| 久草热久草在线视频| 婷婷五月天丁香社区| 天天干天天干天天干天天干天天干天天 | 99ER热精品视频| 久99久在线观看| 亚洲久久婷婷| 天天插天天插天天插天天插| AV大片在线观看| 国产裸舞福利资源在线视频| 日韩一级网站| 色色五月婷婷狠狠| 五月丁香啪啪啪| 五月婷婷亚洲| 亚洲乱码日产精品BD| 日本99在线视频| 亚洲无码九九| 五月丁香色色网| 六月色激情| 欧洲亚洲激情五月天在线| 九九無妻| 婷婷九色| 欧美婷婷五月天综合| 五月天色区| 九九精品亚洲| 五月婷综合网| 婷婷99狠狠| 成人中文字幕在线| 一区二区三区四区无码| 五月婷婷影院| 婷婷激情视频| 九九激情视频| 久久精品99国产精品日本| 日良久久| 99亚州综合精品成人网| 极品人妻VIDEOSSS人妻| 996热| 日韩色色视频| 亚洲五月六月婷婷| site:901-07.com| 久超超碰| Caoporn公开| www.伊人天堂偷偷婷婷| 欧美日韩999| 五月狠狠| 天天摸天天日天天舔| 日日日日日| 久色网|