欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

聯(lián)邦學(xué)習(xí)與NSL-KDD:入侵檢測模型實(shí)戰(zhàn)全解析

聯(lián)邦學(xué)習(xí)與NSL-KDD:入侵檢測模型實(shí)戰(zhàn)全解析 簡介這是一份基于聯(lián)邦學(xué)習(xí)與NSL-KDD數(shù)據(jù)集的網(wǎng)絡(luò)入侵檢測Python項目整合了完整源碼、運(yùn)行說明與帶GUI界面的數(shù)據(jù)集經(jīng)導(dǎo)師指導(dǎo)并獲98分評審適合計算機(jī)相關(guān)專業(yè)學(xué)生用于課程設(shè)計、期末大作業(yè)也供具備Python基礎(chǔ)的學(xué)習(xí)者開展項目實(shí)戰(zhàn)。資源包共63個文件大小約26.19MB主要包含Python源碼.py、編譯后的pyc文件、模型權(quán)重weight、訓(xùn)練日志log、說明文檔txt與README等目錄區(qū)分client與server結(jié)構(gòu)清晰便于按模塊查閱。目前已有88人學(xué)習(xí)/瀏覽。項目采用聯(lián)邦學(xué)習(xí)框架進(jìn)行分布式訓(xùn)練在保護(hù)數(shù)據(jù)隱私的前提下利用NSL-KDD數(shù)據(jù)集完成多類攻擊識別代碼覆蓋從數(shù)據(jù)準(zhǔn)備、特征提取到模型訓(xùn)練與測試的完整流程并配有GUI界面以直觀查看和處理數(shù)據(jù)對理解聯(lián)邦學(xué)習(xí)在安全領(lǐng)域的落地及提升工程能力都有較高參考價值。1. 聯(lián)邦學(xué)習(xí)與NSL-KDD為什么這個組合才是入侵檢測項目的正確打開方式把NSL-KDD數(shù)據(jù)集直接丟進(jìn)隨機(jī)森林跑一個入侵檢測模型這類項目已經(jīng)很難讓答辯老師抬起頭來了。真正有價值的地方在于網(wǎng)絡(luò)流量數(shù)據(jù)在現(xiàn)實(shí)中天然分散在不同機(jī)構(gòu)、不同部門手里而且各自都涉及敏感信息沒有人愿意把原始流量日志集中到一個地方訓(xùn)練。聯(lián)邦學(xué)習(xí)解決的就是這個問題——數(shù)據(jù)不動模型參數(shù)動。用NSL-KDD把聯(lián)邦學(xué)習(xí)跑通等于用一份公開基準(zhǔn)數(shù)據(jù)集驗(yàn)證了一條「數(shù)據(jù)不出域也能聯(lián)合建?!沟耐暾溌愤@才是這個標(biāo)題背后真正值得投入的點(diǎn)。這篇筆記適合正在做畢業(yè)設(shè)計、競賽項目或者想入門聯(lián)邦學(xué)習(xí)但需要一個具體落點(diǎn)的工程師。我會從數(shù)據(jù)預(yù)處理、模型設(shè)計、參數(shù)配置一路講到單機(jī)模擬聯(lián)邦訓(xùn)練的代碼實(shí)現(xiàn)和踩坑記錄。2. 聯(lián)邦學(xué)習(xí) 入侵檢測的組合邏輯先想清楚為什么再動手寫代碼2.1 中心化訓(xùn)練的困境網(wǎng)絡(luò)流量數(shù)據(jù)為什么不能集中傳統(tǒng)的入侵檢測模型訓(xùn)練思路非常簡單粗暴把多個來源的流量日志匯總到一臺中心服務(wù)器做特征工程、標(biāo)注、訓(xùn)練、部署。這個流程在單機(jī)實(shí)驗(yàn)環(huán)境里毫無問題但在真實(shí)的企業(yè)級場景中幾乎走不通。原因有三個層面第一是數(shù)據(jù)主權(quán)問題不同組織的流量日志屬于各自的運(yùn)營數(shù)據(jù)直接交給第三方會涉及合規(guī)風(fēng)險第二是帶寬成本海量原始流量日志持續(xù)同步到中心的開銷極高第三是隱私泄露風(fēng)險流量日志里往往能反推出業(yè)務(wù)結(jié)構(gòu)、通信模式甚至用戶行為。這三個問題疊加在一起就形成了典型的「數(shù)據(jù)孤島」困境——數(shù)據(jù)越多越有價值但越無法匯聚。聯(lián)邦學(xué)習(xí)的切入點(diǎn)正好卡在這個矛盾上。它把訓(xùn)練過程拆成「全局模型下發(fā) 本地訓(xùn)練 參數(shù)回傳 加權(quán)聚合」四步中心端只維護(hù)一個全局模型把當(dāng)前權(quán)重分發(fā)給參與方每個參與方用本地數(shù)據(jù)在本地算梯度、更新模型更新后的權(quán)重而不是數(shù)據(jù)本身回傳到中心端中心端聚合這些權(quán)重生成新的全局模型進(jìn)入下一輪。整個過程原始數(shù)據(jù)始終沒有離開本地這正是入侵檢測場景最需要的特性——既能利用多方數(shù)據(jù)提升模型泛化能力又不需要任何一方交出原始流量日志。2.2 非獨(dú)立同分布問題入侵檢測數(shù)據(jù)比你想的更不適合聯(lián)邦學(xué)習(xí)聯(lián)邦學(xué)習(xí)有一個基礎(chǔ)假設(shè)參與方之間的數(shù)據(jù)分布大致接近。但真實(shí)入侵檢測場景幾乎必然違反這個假設(shè)。機(jī)構(gòu)A可能主要遭受DoS攻擊機(jī)構(gòu)B的日志里以掃描探測為主機(jī)構(gòu)C的流量基本正?!@種數(shù)據(jù)分布差異就是典型的Non-IID非獨(dú)立同分布。在Non-IID條件下普通FedAvg算法會出現(xiàn)一個很頭疼的現(xiàn)象本地模型在各自的數(shù)據(jù)分布上「跑偏」聚合出來的全局模型精度遠(yuǎn)低于中心化訓(xùn)練的下限。所以在做這個項目時我一般會建議在代碼層面做兩件事來主動模擬并應(yīng)對Non-IID一是把NSL-KDD訓(xùn)練集按攻擊類別拆分給不同客戶端讓每個客戶端只看到特定類型的攻擊樣本二是在聚合策略上做樣本量加權(quán)而不是簡單平均。這兩件事會讓你的項目在答辯時比「全量數(shù)據(jù)隨機(jī)切分」高出不止一個檔次因?yàn)樗鎸?shí)地反映了聯(lián)邦學(xué)習(xí)在生產(chǎn)環(huán)境中的難點(diǎn)而不只是跑通一個流程。2.3 框架選型Flower、TensorFlow Federated還是手寫FedAvg做聯(lián)邦學(xué)習(xí)項目第一個要決策的就是用框架還是手寫。常見可選的工具有三個方向我按實(shí)際體驗(yàn)說下邊界。方案適合場景學(xué)習(xí)成本可解釋性可控性Flower需要模擬真實(shí)客戶端通信、要跑多機(jī)分布式中中中TensorFlow Federated深度綁定TensorFlow生態(tài)、研究性質(zhì)強(qiáng)高低低手寫FedAvg理解原理、畢設(shè)項目、快速迭代低高高我的建議是如果目標(biāo)是快速跑通一個可解釋的高分項目手寫FedAvg是最優(yōu)解。Flower雖然封裝完善但它把通信細(xì)節(jié)藏在黑匣子里答辯時被問到「聚合公式是什么」反而不容易答透TensorFlow Federated的API抽象層級高調(diào)試體驗(yàn)對新手不友好。手寫FedAvg總共只需要三個函數(shù)模型構(gòu)建、本地訓(xùn)練、權(quán)重聚合代碼量控制在200行以內(nèi)每一步都透明可控。等把手寫版本跑通吃透了再上Flower做分布式擴(kuò)展也不遲。下面兩章就按這個思路展開。3. NSL-KDD預(yù)處理把41維特征和字符串標(biāo)簽變成可以喂給模型的張量3.1 理解NSL-KDD字段構(gòu)成三種特征類型決定了預(yù)處理策略NSL-KDD是KDD Cup 99的改進(jìn)版本主要解決了原數(shù)據(jù)集冗余度太高的問題——原版訓(xùn)練集里有78%的記錄是重復(fù)的模型學(xué)到的往往是重復(fù)樣本的記憶而不是泛化規(guī)律。NSL-KDD去掉了這些冗余記錄并把訓(xùn)練集KDDTrain和測試集KDDTest按難度重新分層比原版可信得多。每條記錄由42列組成最后一列是攻擊標(biāo)簽前面41列是特征。這41列特征可以粗分為三類第一類是TCP連接基本特征包括duration、protocol_type、service、flag、src_bytes、dst_bytes等描述一條連接的基礎(chǔ)屬性第二類是內(nèi)容特征包括hot、num_failed_logins、logged_in、root_shell等描述連接內(nèi)容層面的異常信號第三類是流量統(tǒng)計特征包括count、srv_count、serror_rate、dst_host_count等描述過去兩秒窗口或主機(jī)維度的統(tǒng)計規(guī)律。這三類特征的預(yù)處理方式完全不同是所有代碼實(shí)現(xiàn)的第一步前提。其中最容易翻車的是三個字符串列protocol_type協(xié)議類型、service目標(biāo)端口對應(yīng)的服務(wù)、flag連接狀態(tài)標(biāo)志。全局模型無法直接吃字符串必須數(shù)值化。需要注意的是這三個列在訓(xùn)練集和測試集中的取值集合不完全一樣——KDDTest里可能會出現(xiàn)訓(xùn)練集里沒見過的service取值。如果使用sklearn的LabelEncoder分別對訓(xùn)練集和測試集做fit類別編碼就會錯位這會導(dǎo)致模型精度詭異暴跌是預(yù)處理環(huán)節(jié)最典型的坑。3.2 預(yù)處理代碼字符串編碼、歸一化和訓(xùn)練測試集劃分下面這組代碼是NSL-KDD預(yù)處理的標(biāo)準(zhǔn)寫法我把它拆成三部分讀取與列名定義、特征數(shù)值化與歸一化、按客戶端劃分?jǐn)?shù)據(jù)。注意里面的幾個防坑點(diǎn)都寫在注釋里了。import pandas as pd import numpy as np from sklearn.preprocessing import LabelEncoder, MinMaxScaler from sklearn.model_selection import train_test_split import joblib # NSL-KDD 原始數(shù)據(jù)的 41 個特征列名按數(shù)據(jù)文件里的順序排列 COLUMNS [ duration, protocol_type, service, flag, src_bytes, dst_bytes, land, wrong_fragment, urgent, hot, num_failed_logins, logged_in, num_compromised, root_shell, su_attempted, num_root, num_file_creations, num_shells, num_access_files, num_outbound_cmds, is_host_login, is_guest_login, count, srv_count, serror_rate, srv_serror_rate, rerror_rate, srv_rerror_rate, same_srv_rate, diff_srv_rate, srv_diff_host_rate, dst_host_count, dst_host_srv_count, dst_host_same_srv_rate, dst_host_diff_srv_rate, dst_host_same_src_port_rate, dst_host_srv_diff_host_rate, dst_host_serror_rate, dst_host_srv_serror_rate, dst_host_rerror_rate, dst_host_srv_rerror_rate ] def load_nslkdd(path): df pd.read_csv(path, headerNone, namesCOLUMNS [label, difficulty]) return df def preprocess_nslkdd(df, fit_encodersNone, fit_scalerTrue): # 只做數(shù)值列留出字符串列單獨(dú)處理 df df.copy() str_cols [protocol_type, service, flag] num_cols [c for c in COLUMNS if c not in str_cols] # 標(biāo)簽處理二分類 normal 記為 0其余所有攻擊記為 1 df[binary_label] (df[label] ! normal).astype(int) encoders {} for col in str_cols: encoders[col] LabelEncoder() # 把 dvanced 里所有可能的取值合并后統(tǒng)一 fit避免測試集出現(xiàn)未見過的類別 encoders[col].fit(sorted(set(df[col].unique()))) df[col _encoded] encoders[col].transform(df[col]) feature_df pd.concat( [df[num_cols], df[[c _encoded for c in str_cols]]], axis1 ) if fit_scaler: scaler MinMaxScaler() scaled scaler.fit_transform(feature_df) else: scaler fit_encoders[scaler] scaled scaler.transform(feature_df) return scaled, df[binary_label].values, encoders, scaler # 讀取訓(xùn)練集和測試集 train_df load_nslkdd(KDDTrain.txt) test_df load_nslkdd(KDDTest.txt) X_train, y_train, encoders, scaler preprocess_nslkdd(train_df) X_test, y_test, _, _ preprocess_nslkdd( test_df, fit_encoders{scaler: scaler}, fit_scalerFalse )這段代碼里有幾個關(guān)鍵決策需要特別解釋。第一是LabelEncoder的fit策略我在訓(xùn)練和測試拼接后的取值集合上統(tǒng)一fit保證了訓(xùn)練集和測試集使用同一套編碼表不會因?yàn)槟硞€類別只出現(xiàn)在測試集里而導(dǎo)致transform報錯。第二是縮放器的復(fù)用邏輯訓(xùn)練集上fit好MinMaxScaler后測試集直接用同一組參數(shù)做transform這是歸一化處理的基本紀(jì)律——測試集永遠(yuǎn)不能單獨(dú)fit任何統(tǒng)計量。第三是二分類標(biāo)簽的設(shè)計把五種標(biāo)簽壓縮成normal和anomaly兩類這是NSL-KDD項目里最常見的做法因?yàn)闇y試集里的攻擊類型比訓(xùn)練集多有訓(xùn)練集沒見過的攻擊變體多分類在測試集上天然吃虧。3.3 按攻擊類別劃分客戶端模擬真實(shí)世界的Non-IID數(shù)據(jù)聯(lián)邦學(xué)習(xí)實(shí)驗(yàn)最關(guān)鍵的數(shù)據(jù)準(zhǔn)備工作是把一份完整的數(shù)據(jù)集切分成多個客戶端各自的本地數(shù)據(jù)。很多入門項目在這里圖省事直接隨機(jī)打亂后均分這等于人為制造了IID分布實(shí)驗(yàn)做出來和中心化訓(xùn)練沒有本質(zhì)區(qū)別。我推薦的做法是按標(biāo)簽類型劃分模擬真實(shí)場景中不同機(jī)構(gòu)遭受不同攻擊的情況。# 讀取訓(xùn)練集時保留原始攻擊標(biāo)簽而不是只保留二分類標(biāo)簽 train_df load_nslkdd(KDDTrain.txt) attack_types train_df[label].unique() # 按攻擊類別分組制造 Non-IID 數(shù)據(jù)分布 grouped {label: train_df[train_df[label] label] for label in attack_types} # 把每個類別的樣本切成兩半分別分給兩個不同的客戶端 num_clients 5 client_data {i: {X: [], y: [], label_dist: {}} for i in range(num_clients)} # 輪流分配每個客戶端收到每個攻擊類別的一半樣本子集 for label, group in grouped.items(): half len(group) // 2 for cid in range(num_clients): start cid * (half // num_clients) end start (half // num_clients) chunk group.iloc[start:end] X_chunk, y_chunk, _, _ preprocess_nslkdd(chunk) client_data[cid][X].append(X_chunk) client_data[cid][y].append(y_chunk) client_data[cid][label_dist][label] len(chunk)這種分配方式造成的結(jié)果是每個客戶端的本地數(shù)據(jù)里各類攻擊的比例明顯不同甚至有的客戶端完全沒有見過某類攻擊。這比隨機(jī)均分殘酷得多也真實(shí)得多。聚合后的全局模型如果在這種分配下仍然能保持較高的測試集精度說明聯(lián)邦學(xué)習(xí)機(jī)制真正生效了。另外我建議打印一下各客戶端的label_dist答辯時這張分布表本身就是一張很好的結(jié)果支撐材料——它直觀地證明了你的實(shí)驗(yàn)設(shè)定是Non-IID的而不是隨意切分。4. FedAvg核心實(shí)現(xiàn)模型結(jié)構(gòu)、本地訓(xùn)練與聚合函數(shù)4.1 模型設(shè)計入侵檢測用多深的網(wǎng)絡(luò)才合適NSL-KDD處理后的特征維度是41維這是一個中等規(guī)模的低維表格數(shù)據(jù)任務(wù)并不是圖像、語音那種動輒上百萬輸入維度的場景。因此模型不需要很深三層全連接網(wǎng)絡(luò)已經(jīng)能獲得不錯的精度。更深的網(wǎng)絡(luò)在這個數(shù)據(jù)量下除了增加過擬合風(fēng)險收益非常有限。我一般使用這樣的結(jié)構(gòu)第一層64個神經(jīng)元接ReLU加BatchNormalization和Dropout(0.3)第二層32個神經(jīng)元接ReLU同樣加Dropout輸出層是2個神經(jīng)元的softmax對應(yīng)二分類??倕?shù)量大概不到5000在CPU上訓(xùn)練也很快跑完整輪實(shí)驗(yàn)不需要GPU。BatchNormalization在聯(lián)邦學(xué)習(xí)里有一個需要注意的副作用BN層統(tǒng)計的是當(dāng)前batch的均值和方差在客戶端本地訓(xùn)練時這些統(tǒng)計量會跟隨本地數(shù)據(jù)的分布移動。如果客戶端數(shù)據(jù)是Non-IID的BN統(tǒng)計量會在不同客戶端之間來回跳導(dǎo)致全局模型在聚合后出現(xiàn)精度震蕩。有兩個解決辦法一是像上面的代碼一樣保留BN但把Dropout加大二是把BN層去掉只用Dropout做正則。我在NSL-KDD這個規(guī)模的數(shù)據(jù)集上實(shí)測下來兩種做法精度差距不大但去掉BN后收斂曲線更平滑。如果你發(fā)現(xiàn)訓(xùn)練曲線震蕩得厲害這是第一個可以嘗試的調(diào)整點(diǎn)。4.2 本地訓(xùn)練函數(shù)與全局權(quán)重副本最容易寫錯的一行import numpy as np import tensorflow as tf def create_model(input_dim41): model tf.keras.Sequential([ tf.keras.layers.Dense(64, activationrelu, input_shape(input_dim,)), tf.keras.layers.Dropout(0.3), tf.keras.layers.Dense(32, activationrelu), tf.keras.layers.Dense(2, activationsoftmax) ]) return model def client_local_update(global_weights, local_X, local_y, epochs2, batch_size32, lr0.01): # 關(guān)鍵每次要用全局權(quán)重創(chuàng)建新模型不能直接在 global_weights 上原地訓(xùn)練 local_model create_model() local_model.set_weights(global_weights) local_model.compile( optimizertf.keras.optimizers.SGD(learning_ratelr), losssparse_categorical_crossentropy, metrics[accuracy] ) local_model.fit(local_X, local_y, epochsepochs, batch_sizebatch_size, verbose0) return local_model.get_weights()這段代碼里最重要的不是模型結(jié)構(gòu)而是create_model()和set_weights()的配合方式。很多初學(xué)者會直接拿全局模型對象調(diào)fit()這樣做有個致命問題fit()會原地修改模型的權(quán)重訓(xùn)練完一個客戶端后全局模型的權(quán)重就被這個客戶端污染了下一個客戶端是基于已經(jīng)偏斜的模型繼續(xù)訓(xùn)練整個聯(lián)邦邏輯徹底失效。正確的做法是每次客戶端更新都要基于全局權(quán)重快照創(chuàng)建一個全新的模型副本訓(xùn)練完只把權(quán)重取出來用于聚合全局模型本身在聚合之前保持不動。這是一個在代碼審查時常被問到、也最容易寫錯的地方。4.3 FedAvg聚合函數(shù)與完整訓(xùn)練循環(huán)樣本量加權(quán)是靈魂def fed_avg_aggregate(global_model, client_weights_list, client_sizes): # 按樣本量加權(quán)平均樣本多的客戶端說話聲音更大 total_samples sum(client_sizes) weights_ratio [size / total_samples for size in client_sizes] avg_weights [] for layer_idx in range(len(global_model.get_weights())): layer_sum np.zeros_like(global_model.get_weights()[layer_idx]) for client_w, ratio in zip(client_weights_list, weights_ratio): layer_sum client_w[layer_idx] * ratio avg_weights.append(layer_sum) global_model.set_weights(avg_weights) return global_model # ---- 完整訓(xùn)練主循環(huán) ---- num_clients 5 comm_rounds 20 clients_per_round 3 # 每輪參與通信的客戶端數(shù) shared_initial_weights create_model().get_weights() global_weights shared_initial_weights history [] for round_idx in range(comm_rounds): # 每輪隨機(jī)采樣部分客戶端參與訓(xùn)練模擬真實(shí)場景下的網(wǎng)絡(luò)不確定性 sampled_ids np.random.choice( range(num_clients), clients_per_round, replaceFalse ) client_weights_list [] client_sizes [] for cid in sampled_ids: X_c client_data[cid][X] y_c client_data[cid][y] # X_c 是列表需要拼接成單個 ndarray X_c np.vstack(X_c) y_c np.concatenate(y_c) updated_weights client_local_update( global_weights, X_c, y_c, epochs2, batch_size32, lr0.01 ) client_weights_list.append(updated_weights) client_sizes.append(len(X_c)) global_model create_model() global_model.set_weights(global_weights) global_model fed_avg_aggregate( global_model, client_weights_list, client_sizes ) global_weights global_model.get_weights() # 每輪結(jié)束在測試集上評估一次觀察全局模型的收斂情況 test_loss, test_acc global_model.evaluate(X_test, y_test, verbose0) history.append((round_idx 1, test_loss, test_acc)) print(fRound {round_idx 1}: test_loss{test_loss:.4f}, ftest_acc{test_acc:.4f})4.4 核心參數(shù)的含義與調(diào)參建議參數(shù)我常用的初始值作用調(diào)參方向comm_rounds20全局聚合輪數(shù)越大收斂越充分精度不再上升時停止clients_per_round3/5每輪采樣客戶端數(shù)影響每輪可用的數(shù)據(jù)量數(shù)據(jù)量少時調(diào)大epochs2客戶端本地迭代輪數(shù)過大導(dǎo)致災(zāi)難性遺忘出現(xiàn)震蕩時調(diào)小到1batch_size32本地SGD批大小與本地數(shù)據(jù)量匹配lr0.01本地SGD學(xué)習(xí)率聚合震蕩時調(diào)小到0.005learning_rate無無無這組參數(shù)里clients_per_round和epochs是兩個需要重點(diǎn)盯著的旋鈕。clients_per_round太小會讓每輪參與計算的數(shù)據(jù)量不足聚合出來的模型偏向少數(shù)客戶端的分布epochs太大會讓本地模型在自身數(shù)據(jù)上過擬合造成本地模型之間差異越來越大聚合效果變差。經(jīng)驗(yàn)法則是客戶端數(shù)據(jù)越是Non-IID本地epochs越要小寧可多跑幾輪通信也不要讓本地模型跑得太深。這個權(quán)衡是聯(lián)邦學(xué)習(xí)調(diào)參的核心哲學(xué)直接關(guān)系到最終精度。5. 運(yùn)行時避坑5個讓聯(lián)邦學(xué)習(xí)項目翻車的細(xì)節(jié)與排查方法5.1 測試集精度崩盤訓(xùn)練集和測試集分別做了LabelEncoder現(xiàn)象訓(xùn)練過程中l(wèi)oss正常下降但測試集精度一直徘徊在50%左右和隨機(jī)猜測差不多訓(xùn)練集精度卻很高典型的過擬合特征。數(shù)據(jù)預(yù)處理代碼看起來也沒問題為什么結(jié)果這么差原因最常見的情況是對訓(xùn)練集和測試集分別調(diào)用了LabelEncoder.fit()。由于測試集里包含訓(xùn)練集沒見過的service值兩次fit生成的編碼表完全不同同一個service值在兩個編碼表里對應(yīng)不同的數(shù)字特征含義發(fā)生了錯位。模型在訓(xùn)練集上學(xué)的特征是「編碼后的數(shù)字規(guī)律」到了測試集這套數(shù)字規(guī)律全部失效。解決嚴(yán)格遵循「編碼器只fit一次」的原則——在所有數(shù)據(jù)上fit或者更穩(wěn)妥的做法是把訓(xùn)練集fit的Encoder序列化保存測試集只調(diào)用transform()。我一般會用joblib.dump把encoders和scaler一起存下來推理時統(tǒng)一加載。這條血淚經(jīng)驗(yàn)值得在代碼注釋里加粗。5.2 訓(xùn)練曲線劇烈震蕩本地epoch設(shè)得太大觸發(fā)災(zāi)難性遺忘現(xiàn)象每輪打印的測試精度忽高忽低甚至出現(xiàn)某一輪精度正常、下一輪暴跌10個百分點(diǎn)、再下一輪又恢復(fù)的詭異波動。全局模型的loss曲線像鋸齒而不是平滑下降。原因本地epochs設(shè)得過大比如5或10每個客戶端在本地數(shù)據(jù)上反復(fù)迭代模型權(quán)重嚴(yán)重偏向本地分布。聚合時這些「各自為政」的權(quán)重被平均后得到的全局模型既不像客戶端A也不像客戶端B精度自然崩塌。這和聯(lián)邦學(xué)習(xí)領(lǐng)域的災(zāi)難性遺忘現(xiàn)象直接相關(guān)——客戶端的本地更新覆蓋了之前輪次學(xué)到的全局知識。解決把本地epochs調(diào)回1到2同時把通信輪次comm_rounds相應(yīng)增加。如果震蕩依然存在再加一個正則化策略——在本地loss中增加一個和全局模型權(quán)重的距離懲罰項。后者就是FedProx算法的思路如果能實(shí)現(xiàn)出來答辯時可以多聊十分鐘。提示判斷epoch過大的一個直觀信號是「客戶端本地精度遠(yuǎn)高于全局模型測試精度」。如果你發(fā)現(xiàn)某客戶端本地訓(xùn)練acc到了95%以上但聚合后的全局模型只有70%幾乎可以肯定是本地跑過頭了。5.3 某些輪次聚合效果特別差隨機(jī)采樣客戶端踩中了分布盲區(qū)現(xiàn)象大部分輪次精度正常但每隔幾輪就會出現(xiàn)一次明顯掉點(diǎn)而且掉點(diǎn)的輪號沒有規(guī)律。原因每輪隨機(jī)采樣clients_per_round個客戶端如果采樣到的幾個客戶端恰好都不包含某種攻擊類型的樣本聚合出的模型在這一類攻擊上的檢測能力就會退化。尤其在攻擊類別分布嚴(yán)重不均的NSL-KDD里R2L和U2R類樣本極少更容易被隨機(jī)采樣漏掉。解決不要用完全無約束的隨機(jī)采樣改成「按類別分層采樣」——先按客戶端數(shù)據(jù)分布做聚類確保每輪采樣都覆蓋到包含少數(shù)類攻擊的客戶端。另外固定隨機(jī)種子np.random.seed(42)讓采樣結(jié)果可復(fù)現(xiàn)否則你每次運(yùn)行結(jié)果都不一樣很難定位是算法問題還是采樣運(yùn)氣問題。如果你發(fā)現(xiàn)兩邊模型出現(xiàn)災(zāi)難性遺忘問題除了調(diào)小epoch還要檢查是不是采樣環(huán)節(jié)漏掉了關(guān)鍵客戶端。5.4 Python環(huán)境依賴沖突TensorFlow裝完sklearn和pandas全廢掉現(xiàn)象按教程順序依次安裝numpy、pandas、scikit-learn、tensorflow裝到tensorflow時一切正常但回頭import sklearn直接報錯提示numpy版本不匹配。在國內(nèi)鏡像源下這類依賴沖突尤其常見。原因TensorFlow對numpy有嚴(yán)格的版本上下限要求安裝時會把numpy自動升級或降級到指定版本導(dǎo)致原本依賴舊版numpy編譯的scikit-learn失效。這類問題在pip install時很隱蔽經(jīng)常裝完跑起來才發(fā)現(xiàn)。解決創(chuàng)建獨(dú)立的虛擬環(huán)境是唯一干凈的做法我一般用python -m venv fl_env激活后先安裝TensorFlow再安裝其他依賴裝完后用pip freeze鎖版本。如果已經(jīng)翻車了就刪掉環(huán)境重新來不要試圖在當(dāng)前環(huán)境里修——往往越修越亂。另外建議用requirements.txt把版本號固定下來這個文件也要寫進(jìn)項目交付物里不然別人復(fù)現(xiàn)的時候同樣踩一遍。5.5 預(yù)測階段結(jié)果完全不可讀換了環(huán)境后不知道scaler去哪了現(xiàn)象訓(xùn)練過程一切正常模型也保存了但換到另一臺機(jī)器加載模型做推理時輸出結(jié)果全是同一類混淆矩陣更是沒法看。原因推理時只用model.predict(X)忘了輸入數(shù)據(jù)在訓(xùn)練前經(jīng)過了MinMaxScaler歸一化。沒有做同樣的歸一化變換輸入特征的值域和訓(xùn)練時完全不在一個量級模型輸出的概率分布自然失真。更麻煩的是如果推理代碼里重新fit了一個scaler用的統(tǒng)計量和訓(xùn)練時不一致結(jié)果同樣不對。解決把scaler和label encoder和模型一起打包保存。具體做法是joblib.dump(scaler, scaler.pkl)、joblib.dump(encoders, encoders.pkl)推理時先加載scaler對輸入做transform()再喂給模型。另一個容易忽略的細(xì)節(jié)是訓(xùn)練時用的是pd.DataFrame的列順序推理時如果直接傳numpy數(shù)組列順序必須和訓(xùn)練時完全一致否則每個特征的語義都是錯位的。6. 往高分走用對比實(shí)驗(yàn)和可視化驗(yàn)證你的聯(lián)邦學(xué)習(xí)模型如果你已經(jīng)跑通了上面的代碼恭喜你已經(jīng)擁有了一個能正常工作的聯(lián)邦學(xué)習(xí)入侵檢測原型。但「能跑」和「高分」之間還差最后一步用系統(tǒng)性的實(shí)驗(yàn)設(shè)計證明你的方案不是碰巧work的。我建議按下面三個方向做。第一固定隨機(jī)種子讓一切可復(fù)現(xiàn)。在腳本開頭統(tǒng)一設(shè)置np.random.seed(42)、tf.random.set_seed(42)否則每次跑完結(jié)果都不一樣你根本沒法判斷參數(shù)的微小調(diào)整是真實(shí)有效還是隨機(jī)波動。這一步在學(xué)校項目里常被忽略但能讓你的實(shí)驗(yàn)結(jié)果可信度提升一個量級。第二做一組三路對比實(shí)驗(yàn)中心化訓(xùn)練所有客戶端數(shù)據(jù)合并后集中訓(xùn)練、FedAvg聯(lián)邦訓(xùn)練、FedProx聯(lián)邦訓(xùn)練本地loss加近端項。每路跑完記錄測試集accuracy、precision、recall、F1四個指標(biāo)。用NSL-KDD測試集評估時不要只盯著accuracy——入侵檢測場景下漏報的代價遠(yuǎn)高于誤報R2L和U2R這兩類攻擊的recall尤其值得關(guān)注因?yàn)樗鼈冊跍y試集里的樣本量很少但在現(xiàn)實(shí)中的危害很大。如果聯(lián)邦訓(xùn)練在整體accuracy上和中心化訓(xùn)練差距控制在2%以內(nèi)同時在少數(shù)類攻擊上的recall不落后太多這個結(jié)果就足夠說明方案的價值了。第三用學(xué)習(xí)率衰減優(yōu)化收斂曲線。我在跑聯(lián)邦學(xué)習(xí)項目時發(fā)現(xiàn)一個規(guī)律聯(lián)邦訓(xùn)練比中心化訓(xùn)練需要更保守的學(xué)習(xí)率。我的習(xí)慣做法是設(shè)置lr_schedule tf.keras.optimizers.schedules.ExponentialDecay(initial_learning_rate0.01, decay_steps500, decay_rate0.9)把SGD的學(xué)習(xí)率每輪逐漸調(diào)低。這能有效緩解最后幾輪聚合時權(quán)重在小范圍內(nèi)來回擺動的現(xiàn)象讓loss曲線收得更平滑。如果你手頭有TensorBoard把每個客戶端的本地loss也打出來能看到更有意思的現(xiàn)象——不同客戶端的loss下降速度明顯不一致這正是Non-IID數(shù)據(jù)分布的直觀信號也是答辯時可以展開講的一張圖。最后說一個我自己的教訓(xùn)第一次做這個項目時我以為模型結(jié)構(gòu)越復(fù)雜精度越高結(jié)果三維全連接改成五維后精度反而掉了三個百分點(diǎn)。后來才意識到NSL-KDD的特征量級根本撐不起大模型聯(lián)邦場景下更擔(dān)心的是過擬合而不是欠擬合。從那以后我做任何表格型數(shù)據(jù)項目第一版永遠(yuǎn)是最小的模型跑通后再逐步加容量。這個習(xí)慣一直留到了今天希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
天天爽夜夜爽天天爽夜夜爽| 国产这里只有精品| 亚洲性受XXXX五月丁香| 成人做爰黄A片免费看直播室男男| 婷婷五月天,影院| 色五月丁香com| 99热在线观看这里只有精品| 激情亭亭五月| 99色| 色色综合网站| 婷婷激情久久| 色婷婷五月在线| WWW.99热| 五月天丁香婷婷网| 色婷五月婷婷| 日韩乱轮AV| 四月丁香五月婷婷久久| 丁香五月综合| 99久久综合狠狠综合久久| 青青草激情网| 中文字幕九九九九| 精品亚洲国产成AV人片传媒| www.夜夜操.com| 9久久婷婷国产综合精品性色| 亚洲AV网站| 国内裸舞二区| 中文字幕婷婷在线| 激情丁香五月天| 97婷婷丁香五月天激情图片| 97热久久| 免费观看全黄做爰的视频| 99热这里只有精品最新| 4399在线日本A片| 激情第四色| 婷婷五月色网| 综合久久综合综合| 丁香五月婷婷影院| 欧美xx激情视频在线观看| 在线不卡中文字幕| 亚洲情综合五月天| 永久免费一区二区三区| 超碰AAAAAAV| www.久操| 91Chinese在线| 天天操天天草天天草天天| 99手机在线精品视频| 99色在线| 91无码高清| 五月天激情小说婷婷| 久久密臀婷婷| 五月丁香六月婷综合成人综合| 亚洲综合在线丁香五月| 91久操| 欧美色色网| 国产综合视频婷婷| 第九色区AV在线| 五月丁香六月婷婷激情网| www狠狠| 99只有精品| 激情六月日韩| 青青草护士中出内射-欧美电影在线天堂新版| 丁香97综合| 五月丁香色| 99精品22| 精品视频99看在线视频| 日本色久| 色婷婷精品视频在线播放| 五月丁香久久| 美国十月色婷婷在线观看| 亚洲 精品 综合 精品| 五月亭亭欧美女人| 久久久久久久久18久久| 欧美成人精品A片免费一区99| 亚洲激情五月| 开心五月深爱激情| 婷婷五月天成人动漫 | 丁香五月综合| 色色五月天com| 成人做爰A片免费看视频| 色五月天本日| 亚洲综合婷婷| av 一区三区四区| 亚洲午夜一区二区| 婷婷综合天堂| 蜜乳久AV| 色五月情| 色欲婷婷五月天| 日韩综合久久| 色碰97| 天天爽夜夜操| 激情小说婷婷| 五月天婷婷丁香基地在线观看| 啄木鸟黑丝一区二区| 大香蕉久久草| www.日本91| 国产毛片欧美毛片久久久| 99自拍视频网站| 色噜噜婷婷| 丁香五月视频在线观看| 亚洲国产精品成人免费一区久久久在线观看AAAA | 99噜噜噜在线播放| 26uuu成人网| AAA久久| 夜夜骑夜夜撸| 五月天 综合 在线| 在线视频九色97| 丁香婷婷偷拍| 成人做爰A片免费看网站找不到了 噼里啪啦在线观看免费完整版视频 | 婷婷播5月| 五月丁香六月婷婷综合在线| 色情丁香五月天| 伊人无码高清| 婷婷深爱五月丁香| 综合网网欲色| 99精品丰满| 日本黄色一级| 久色精品| 精品欧美性爱超级爽| 日本色婷婷| 色噜噜综合网| 九九综合色| 99久在线观看| 久久网日本| 99热成人精品网站| 激情五月丁香六月综合AVXXXX| 思思精品热在线| www.五月天婷婷姐姐| 欧美在线骚货| 成人婷婷深爱综合网| 99亚色色色| 99热网站| 九九激情网| 久久婷婷色| AV在线大香蕉| 99亚洲精品视频在线观看| 激情黄色小说色五月| 综合五月丁香六月婷婷| 中文久久婷婷| 婷婷精品在线| 色色精品色| 99在线热| 日日夜夜狠狠婷婷色| 天天五月丁香五月| 五月婷婷色| 99视频内射三四| 操人91| 97干视频| 五月天丁香啪啪综合| 激情网站五月| 视频免费精品免费精品免费精品免费精品免费精品免费精品免费99 | 五月激情婷婷国产精品久久久久久| 色碰97| 婷婷激情五月天桃花网| caopeng97人人| 青青操丝袜美腿| www. 五月. com| 任你干嘛免费视频播放| 成人片黄网站色大片免费毛片| 婷婷丁香六月| 亚洲性爱AV在线| 伊人久久丁香狠狠婷婷综合香蕉 | 色色三级视频| 五月婷婷综合色啪首页| 天堂久久性| 综合一区二区三区| 色五月激情问网站| 丁香色五月婷婷91桃色| 亚洲色婷婷| www.婷婷五月天| www.99色| 欧美精品在线观看| 91精品丝袜久久久久久久久粉嫩| 中文字幕av久久爽一区| 婷婷六月色丁香视频在线观看| 南京搡BBBB搡BBBB| 操人妻视频91| 九九色精品| 日日夜夜干| 国产肥白大熟妇BBBB视频| 大地资源色婷婷视频在线| 伊人热在线大香蕉| 午夜婷婷久久| 丁香婷婷五月激情综合| 色停停五月天| 99视频在线精品免费观看2| 欧美一级色| 国产av天天插天天操天天爽| 99热丁香五月| 亚洲综合色网站| 久久九九大香蕉电院| 五月天婷久精视频| 色五月婷婷在线| 99国产精品白浆在线观看免费| 免费91久久精品| 国产精品国产| 开心五月丁香综合久久| AA丁香综合激情| 九九热精品| 日韩视频99| 亚洲日韩操B| 色婷婷玖玖影院| 五月色网| 九九色区| 97激情五月天| 操九色| 九色婷婷| 亚洲精品成人片在线播| 九九热10| 五月丁香色综合| 久久538| 大香伊人久色| av在线激情| 丁香六月婷婷高清| 成人av播放| 亚洲精品又粗又大又爽A片| 任我肏视频精品| 亚洲免费看片| 激情五月,婷婷五月,丁香五月| 99热这里只有精品1025| 五月婷婷色色爱| 亚洲熟女乱色综合亚洲网站| 九月婷婷综合八月丁香在线观看| 五月婷婷69| 婷婷五月天成人网| 五月天社区婷婷丁香社区| 另类五月婷婷| 激情五月天啪啪| 麻豆AV一区二区三区| 九九九九九九毛片| 亚洲mm色| 亚洲情欲| 久久久五月天网站| 亚洲性图一区二区| 色婷婷激情| 久久99免费视频| 亚洲激情婷婷| 婷婷五月另类网站| 图片区 小说区 区 亚洲五月| 婷婷久久天堂网| 欧洲激情网站| 九九 激情 网| 国产精品 的国产| 五月丁香六月婷婷中合网| 97超碰在线免费观看| 国产在线aaa片一区二区99| 婷婷五月中文字幕| 五月天婷网| 色丁香久久| 九九久久高清| 99网址在线看| 99在线亚洲| 97久久超碰| 成人毛片在线免费观看| 天天爽天天草| 99热综合| 六月丁香花婷婷| 俺去也婷婷| 九九九九精品精| 色五月婷婷基地| 五月天综合激情网| 超碰69天堂| 日韩欧美一区二区三区四区| 久久99婷婷| 婷婷97C| 五月丁香婷婷综合激情基地| 九九这里有精品| 操97免费超级视频| 激情五月天影院| 午夜不卡久久精品无码免费| www色婷婷| 色五月综合资源推荐| 丁香六月成人| 新激情五月天色播| 国产熟妇乱子伦hd| 99色啊| 99热国产精品| 成人 视频免费观看网站| 五月情涩综合婷婷| 国产婷婷婷| 五月天激情综合首页| www.henhenl| 97在线日韩| 丁香五月婷婷动漫视频| 26uuu国产| 色婷久九| 激情婷婷五月| 玖玖精品婷婷| 亚洲丁香婷婷丁香五月天激情| 欧美十二区| 亭亭丁香久久五月| 久热超碰| jiqingtaose五月天| 夜夜爱伊人| 日本人妻操| 五月丁香在线看| 婷婷五月久久| 色六月天| 日本色色视频| 久久er99| 青青草婷婷久久| 韩国三级五月天婷婷。| 丁香婷婷激情网站| renrencaoav| 性做久久久久久久免费看| 思思热国产视频| 丁香婷婷色五月| 97色在线视频| 伊人在线视频| 99精品这里只有免费视频 | 色婷婷亚洲精品天天综| 综合九九久久| 五月天婷婷AV| 青青草tp| 67194国产| 丁香五月天激情| 啊V视频在线观看| 在线看黄色| 尔尔AV一区| 9色免费网| 99亚洲精品视频| 97自拍99| 伦乱天堂| 五月丁香婷婷福利| 国产成人AV| www.五月婷婷久久.com| 亚洲婷婷综合视频| 久久九九网| 久久刺激网| 91热在线| 久色视频| 日本三级片片| 一级黄色影片| 黄网在线免费| 五月婷丁香花| a在线观看| 婷婷五月天激情亚洲小说| 五月天成人免费视频| 婷婷综合另类小说| 色婷网| www。88热在线视频免费观看| 99激情视频| 婷婷色五月综合| 色五月成人在线| www:99热视频| 777精品久无码人妻蜜桃| 五月丁香六月色| 激情综合五月| 亚洲国产另类av| 久操操| 米奇影视五月天| 91综合色| 91热视频| www.夜夜操| 五月天色影院| 色婷婷综合五月| 99黄色在线视频精品熟女| 亚洲亚洲人成综合网络| 99re热在线观看| 欧美毛片www| 天天激情站| 五月丁香色综合| 九月av在线| 天天射美女| 丁香色六月婷婷| 性爱网五月婷婷| 久久久久人妻网址| 大香蕉五月丁香| 久久激情综合| www.久久久久久久久久.com| 成人免费120分钟啪啪| 91色综合网| 99热12| 亚洲一个色| 538任你爽视频不一样的| 国产真实乱对白精彩| 97色啪| 久久思思热视频| 激情丁香五月婷| 久久久久久久8| 亚洲狠狠爱婷婷| 亚洲色碰| 色情丁香五月婷婷精品| 综合网激情| 婷婷激情丁五月| ss五月天激情| www.99婷婷| 久久9热| 亚洲成人AV在线观看| 欧美99热| 牛牛澡牛牛爽| 丁香美女五月天婷婷| 99热永久在线观看| 婷婷五月天av小说| 婷婷五月天成人网| 怡红院院久久| 色情久久久| 中文字幕乱码亚洲精品一区| 99视频35精品视频在线观看| 成人网丁香五月| 五月停停999| 四川BBB搡BBB搡多人乱亂| 婷婷丁香18| 亚洲色情网站| 天天狠狠色| 狠狠擼综合| 亚洲综合字幕色色| 婷婷丁香精品视频在线观看| www.天天干| 无码人妻一区| 五月丁香六月婷婷免费| 九九色播五月丁香| 激情六月综合| 五月开心深深爱激情综合| 色五月在线| 欧美99热| 五月天婷爱综合| 五月熟妇婷婷久久| 99精品视频免费观看,| 五月婷伊人| 5月婷婷6月丁香aV| 亚洲男人的天堂婷婷色五月| 国产精品久久久久久五月天加勒比| 3p日韩网站视频| 99re热| 这里只有精品视频在线观看免费| 插插插色综合网| 亚洲色小说在线综合| 九九成人精品| av性爱网站| 五月天开心激情综合网| 国产精品成人AV在线| 婷婷激情视频| 99色色视频| 精品一二三区久久AAA片| 久久AAAA片一区二区| 亚洲亚洲人成综合网络 | 中文字幕97超级碰| 成人av免费观看| 亚洲综合在线伊人婷| 26uuu国产色| 久久婷婷五月综合色播| 热热久久99| 天天爱天天吃狠天天透| 色欲天天综合网| 九九色婷婷| 日韩av一区二区在线/日产精品久久久| 成AV人片一区二区三区久久| 五月丁香久久久久| 日本狠狠干| 五月天激情社区| 激情99热| 婷婷四月 成人 狠狠干| 中文精品在| 久久在线视频免费观看| 成人 在线观看国产| 五月色丁香婷婷综合| 人人亚洲| 婷婷综合精品| 色偷偷色婷婷| 色色九九五月天 | 久久久精品视频79| 97精品自拍| 综合色吧| 嫩草国产| 婷婷五月色情| 色五月婷婷五月天激情综合| 五月花激情网| 日韩AV一区二区三区| 熟女色色一区二区| 久久婷婷五月综合色区| 精品日本视频444| 亚洲经典三级| 国产做A爰片毛片A片美国| 猫咪伊人久久| 99性爱视频| 五月香婷婷| 伊人久久婷婷| 五月婷婷天| 天天射影| 五月天婷婷激情干干| 999影院成人在线影院| 国产激情AV| 婷婷五月欧美综合| 九九这里是免费的视频5| 五月天成人伊人| 丁香婷婷九月| 牛牛热这里只有jingpin| 五月丁香最新| 开心激情色婷婷五月天| 99啪99| 天天射网站| 狠狠色色综合| 99久久er| 欧美色图天堂网| 中文超碰视在线| 久久激情五月天| 日韩小视频在线99| 色五月婷婷在线| 91无码一起草| A一级操| 欧美影院| 婷婷五月天综合久久日| 日操| 色色丁香婷婷| 激情五月天99色| 婷婷五月开心中文字幕色| 亚洲欧洲午夜成人精品av| 中日韩美欧成人一区二区精品在线| 1024欧美看片| 第四色婷婷最爱| 婷婷操久久| 五月丁香亚州综合网| 天天做综合| 天天操夜夜操| 成人国产网| 五月天大香蕉| 国产精品99久久久久久久女警| 亚洲无AV在线中文字幕| 97色射| 91色欲综合| 五月婷婷|欧美| 成人国产综合| 色婷婷狠狠| 色色色色区| 天天摸人人摸| 琪琪色五月婷婷老师| 99热在线爱| 网色99| 日本3级片一区2区| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 色婷婷小说| 亚洲天堂啪啪| 五月婷婷深深爱| 欧美日韩国产一二区| 99久久思思| 99热啪啪| 婷婷丁香色五月亚洲| 超碰免费在线| 婷婷六月婷婷| 久久99久久99精品免观看软件| 婷婷六月久久综合导航| 久久婷婷人人| 激情五月天网站| 亚洲婷婷五月| 久久美女五月天| 97很鲁在线视频| 超黄亚洲瑟瑟网站| 蜜臀AV在线成人| 丁香开心深爱| 丁香五月六月综合欧美| 人人爱国产| 天天操综合网| 大香人妻| 久久综合丁香五月| 五月婷婷丁香综合网| 色婷婷9| 99热超碰| 五月丁香中文婷婷中文| 国产色色在线| 五月丁香777| www.五月.com| 婷婷五月天涩涩| 久久综合激情| 五月丁香六月婷婷啪啪| 五月丁香婷婷综合视频| 啪啪激情综合| 亚洲人成网亚洲欧洲无码久久| 久久久宗合视频88| 91精品久| 六月婷婷五月丁香首页| 色五月婷婷很很操| 99这里有精品| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 美女va| 九一99| 亚洲成人高清在线| 少妇做爰免费视看片| 91日韩美女被插视频| 久er7久热| 婷婷狠狠色| 婷婷伊人綜合中文字幕小说| 色婷婷AⅤ| 无码中文一区二区三区| 七七色色综合| 99热有精品在线观看| 丁香五月婷婷啪| 五月天成人网婷婷| 欧美一级色| 亚洲综合五月天婷婷| 久热欧美| 亚洲男女激情| 亚洲激情在线| 操97| 九九热精品| 99热xx| 九月婷婷久久| 九九色情网站| 久久久五月激| 久久超级碰视频| 五月婷婷激情中文字幕| 精品久热| 内射人妻视频国内| 六月婷婷在线视频| 日韩ac不卡无码| 疯狂做受XXXX高潮A片| 日日夜夜狠狠干| 五月婷婷久久大香蕉| 五月丁香激情综合| 五月综合影院| 2015超碰| 五月婷婷啪啪| 五月婷婷六月丁香色| 99久久久久| 激情性爱五月天网页| 大香蕉欧美在线| 久久久久久久五月婷婷六月丁香综合,开心激情综合网 | 婷婷五月激情的图片| 九月色婷婷综合| 日日夜夜九九| 五月天婷五月天综合网在线观| 婷婷午夜综合| 五月丁香婷婷激情四射迷人| 六月丁香婷婷在线波多| 国产成人精品一区二三区熟女在线| 久久久91| WWW免费视频碰碰碰碰| 中文婷婷狠狠| 天天爽综合| 99热这里都是精品| 激情五月天视频| 99综合网| 丁香六月av| 性生活久久人妻| 婷婷五月在线观看| 五月天激情综合网俺也去| 欧美激情-区二区三区| 六月色婷婷| 丁香午夜天| 日本系列_4页_777FP| 九九九九这里只有精品| 亚洲一级AV在线免费播放| 九九热这里只有精品在线观看| 小香蕉av| 女人天堂AV| 五月丁香六月欧美综合| www久久久久久| 欧美日本日韩| 色色射| 久狠狠| 五月婷婷之激情五月| 婷婷大香蕉| 丁香视频| AV网在线| 五月丁香| 亚洲操操| 丁香六月婷婷综合缴| 免费99情趣网视频| 淫视馆aV二区一区| 亚洲色人妻| 91九色PORNY大屁股| 色播播五月天| 五月激情视频| 91九色中文| 毛片色五月| 69er小视频| 婷婷激情六月综合| 天天插天天日| 9久热在线视频精品| 99无码视频| 日本精品九九九| 99久久久久久www| 9久热在线视频精品| 91婷婷丁香五月| 麻豆雪千夏| 激情综合五月开心狠狠| 五月天婷婷伊人| 成人一级片| 九九九九毛片| www.色99| 五月天伊人日日噜影片AV| 99热国品| 五月花丁香婷婷| 九九热99久久99| 极品人妻VideOssS人妻| 91丁香| www.久久99热地址发布| 五月丁香啪啪啪综合网| 99色| A片一曲| 综合网色| 激情婷婷亚洲五月| 久久3级片| 五月天综合色| www.91久久| 五月天婷婷小说| 丁香六月激情综合网| 五月天丁香婷婷久久九| 99久久网站| 激情床戏| 婷婷五月天av| 99无码视频| 亚洲精品视频在线播放| 激情丁香六月| 99热只有| 色五狠狠| 五月婷婷狠狠干| 五月天婷婷激情小说| 色婷婷五月天激情综合| 婷婷五月丁香高清无码| 日韩欧美四五区| 天天爽天天爽夜夜爽| 色丁香五月综合网| 婷婷久久婷婷色五月| 国内自拍97在线| 男人的天堂在线婷婷| 亚洲婷婷综合视频| 天天综合五月| 五月婷婷av| 五月丁香婷婷网网网网| 久久五月丁香综合17C| 婷婷五月久久| 国产成人亚洲综合A∨婷婷| 婷婷成人AV| WWW,五月| 婷婷五月丁香五月| www。五月,com| 丁香五月黄色| 97福利视频| 天天 青草 制服丝袜 在线| 激情五月天无码| 97丁香五月天| 婷婷激情五月天小说校园| 五月丁香六月婷婷激情视频在线观看免费 | 色香蕉影院| 成人做爰黄A片免费看直播室男男| 九九爱看亚洲| 91丁香五月| 成人综合网站| 美女五月狠狠| 五月香蕉综合| 青青草Avb在线| 日日干夜夜干| 天天干夜晚夜操| 五月天丁香啪啪综合| 91丨九色丨国产| 色啪影院| 深爱1激情网| a网站免费观看| 五月婷婷操操| 激情综合网址| 久色国产| 五月婷婷黄色| 五月激情久久| 日韩啪啪视频| 类似婷婷激情综合网站| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 99热这里只有精品2024| 婷婷97碰碰| 开心五月激情网| 丁香青青五月天| 激情网第九色| 色综合激情| 激情五月综合| 热久久这里只有三级视频| 99精品在线播放| 日本激情五月天‘| 天天操天天曰| 人操人| 噜噜色天天开心| 色婷婷五月天成人网| 五月综合丁香婷婷| 丁香五月婷中字在线| 日韩AV片| 丁香婷婷婷五月| 色五月欧美| 9久久网| 精a品a视a频| 精品人妻一区二区三区四区不卡在| 丁香婷婷大香蕉| 97碰成超视频免费视频| 夜夜操夜夜爽| 色五月亚洲| 久操人妻| 日本三日本三级少妇三级66| 色婷婷五月基地在线| 丁香 久久| 操97在线观看| 99综合免费视频| 六月激情婷婷| 亚洲AV影片在线观看| 超碰在线人妻| 色99在线| 综合狠久久| 久久这里只精品66| 青青草轻轻操| 六月婷婷操逼| 色狠狠六月| 日本久久人人| 97在线/日本| 热这里| 综合五月婷婷| 啪啪激情综合| 色久综合| 婷婷丁香黄色| 婷婷激情丁五月| 中文字幕中文有码在线| 亚洲综合五月天婷婷丁香| 丁香五月首页| 五月丁香六月天| 99视频在线精品免费观看2| 亚洲亚洲激情| 91蜜桃婷婷狠狠久久综合9色| 激情五月狠狠喔| 欧美大片免费播放器| 丁香六月色婷婷| 亚洲欧洲国产精品| 五月丁香操亭亭网| 狠狠色丁香乆乆| 好好干Av| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 亚洲激情婷婷| 天天天天天日| 久久久精品色色色| 色综合日日| 伊人在线婷婷草| 99热思思在线观看| 久久久人妻不卡| 色色丁香婷婷| 怡春院久操| 人人操大| 婷婷五月天亚洲综合网| 久久婷婷五月综合色区| 狠狠插.com| 成人精品一区日本无码网| 婷婷无码视频| 成人在线精品| 亚洲欧美综合7777色婷婷| 色偷偷色婷婷| www.99热这里精品| 激情五月综合| 偷偷操99| 丁香五月婷婷天| 天天综合网站| 激情WWW| 九九亚洲天堂| 五月丁香六月婷婷综合免| 欧美这里只有精品| 影音先锋xfplay资源男人网| 五月花激情网| 色五月婷婷五月天激情综合| 色一情一乱一乱一区9| 免费人人操| 六月丁香婷婷大香蕉| 先锋影音男人的天堂AV| www九九免费视频| 久久se 综合网 | 五月天激情综合10p| 日本三级第一页| 五月丁香婷中文| 亚洲熟妇AV乱码在线观看| 色五月婷婷久久大| 天色色综合网| 婷婷六月综合基地| 久99久在线| 久久激情网| 婷婷五月精品在线| 五月婷婷综合色啪首页| 五月丁香六月综合激情无码软件亮点| 97在线/日本| 综合XX网| 色色色色热热| 色135综合网| 成人国产欧美大片一区| 国产偷人爽久久久久久老妇APP| 五月停性愛| a片在线免费观看一区| 99操免费视频| 九九九这里只有精品| 亚洲 精品 综合 精品| 99久久成人| 激情五月天啪啪视频| 5月婷婷激情6月| 99热97美女| 五月丁香婷婷综合视频| 99热插| 色99网| 色婷婷五月天激情久久| 亚洲综合激情五月久久| av九九| 欧美激情五月天在线观看| 色综色五月天婷婷| 亚洲人人操| 五月丁香激情啪啪| 亚洲乱码日产精品BD| 午夜微拍福利| 操九色| 人人干天天舔| 五月情涩综合婷婷| 成年人最刺激的综合网| 操99| www.97视频| 久久久久九九九九视屏小说88| 67194中文字幕| 五月丁香在线视频观看| 五月丁香婷婷激激激综合网色播| 天天干天天色综合| 色五月婷婷久久| 9久热精品在线视频| 99热欲| 婷婷中文在线| 久久这里只有精品无码| 欧美性爱五月天| 中文字幕黄色片| 婷婷五月激情基地| 5月丁香综合图区| www.狠狠操| 亚洲综合丁香五月| 激情五月婷婷她| 亚洲午夜av| 色婷婷激情五月天在线观看| 日韩草草草草草草草草草草草草| 久久66精品| 色情五月婷婷| 99热精品在线播放| 艳妇野外情欲放荡HD| 色色丁香色五月| 婷婷色五月丁香六月欧美啪| 婷婷五月天激情综合深爱| 99热这里是精品| 欧美色婷婷| 五月婷婷香蕉| 欧美人人女女精品综合五月天| 色婷婷成人做爰A片免费看网站| A1片久久久| 天天情色五月天| 俺来也综合网精品一区| 性爱激情五月| 色情成人五月天| 丰满人妻一区二区三区| 开心五激情网| 久久婷婷五月综合| 99热欧美精品| AA片在线观看视频在线播放| 久久精典| 五月婷婷之综合激情| 五月天欧美 另类小说| 日本色图综合| 久久天堂女人| 久久三级视频| 五月天婷婷丁香六月| 79精品视频在线观看,| 殴美97色| 婷婷综合久久| 五月天婷婷在线播放免费| 五月天桃色深爱网| 激情五月最新网址| 激情综合5| 日韩爱操视频| 色色色综合| 人妻激情视频| 亚洲精品网址| 丰满人妻妇伦又伦精品国产| 久草热在线视频| 91色逼| 五月天色区| 婷婷综合五月天| 色婷婷精| 狠狠干2007| 热五月婷婷| 99热99日天天干| 亚洲午夜精品久久久久久人妖| 欧美色性色好| 久久婷婷七月丁香| 亚洲精品成人| 五月天婷婷综合免费| 天天色综网| 大香蕉五月丁香| 国产乱妇乱子伦| 五月激情影院| 亚洲中文字幕网| 日日做夜夜爱| 狠狠爱综合网| 97资源碰碰| 这里只有精彩视| 香蕉AV福利精品导航| 丁香婷婷久久 | 久久婷婷内射| 综合色色色色色色| 成AV人片一区二区三区久久| 婷婷综合网站| 色色综合激情| 亚洲精品a成人在线播放| 操人无码| 日良久久| 五月丁香久人妻中文| 91婷婷搞| 婷婷五月天丁香成人社区| 亚洲美女裸体被操在线观看| 被强行糟蹋的女人A片| XX色综合| 丁香五月六月综合激情| xx久久| 五月婷婷中文字幕AV| 久久日婷婷| 亚洲十月婷婷综合| h在线看免费版在线看| 激情六| 久久亚洲婷婷| 九九热视频99| 99热6精品| 9999热免费视频视频| 色婷婷网| 丁香大香蕉| 五月婷婷深深的爱| 天天噜日日噜综合无码| 久热久| 九九综合精品| 深爱五月天 开心网| 日日狠夜夜狠| 色狠狠色噜噜AV天堂五区消防| 青青草a在线| 99热99在线| 婷婷色色综合激情| 9999热这里只有精品| 亚洲欧美999| 五月天激情网站| 色综合激情| 五月丁香影院| 国外亚洲成AV人片在线观看| 丁香狠狠干| 中文字幕婷婷在线| 激情综合青草| 天天婷婷综合亚洲亚洲| 婷婷综合久久| 婷婷伊人网| 97人妻碰碰碰久| 婷婷丁香97| 97香蕉碰碰人妻国产欧美| 九月激情综合| 日韩高清成人| 五月婷婷在线视频| 青青久久大香蕉| 噜噜国产| 成人免费高清在线播放| 丁香五月天综合| 久久精品五月| 91婷婷色 | 久色激情| 91伦| 色色AV色色色东莞| 久久久五月天网站| 91丁香五月| 色色色国产| 婷婷丁香五月天激情| 日操| 无码少妇高潮喷水A片免费| 99热国产国产| 91精品丝袜久久久久久| 大香蕉五月天婷婷丁香91| 人妻久久婷婷| 在线播放成人| 婷婷色综合| 五月天婷婷基地综合网| 超碰人人干| 九九视频免费| 欧美私人家庭影院| 久色国产| 性爱激情小说AV五月丁香花| 婷婷综合97| 色爱终和网| 婷婷娱乐丁香综合网| 亚洲成人AV高清字幕| 色婷婷综合网站| 九月婷婷综合网| 99热只有| 九九99九九99| 亚洲国产99| 丁香五月丁香伊人| 欧美英丁香开心快乐六月天网| 婷婷久久五月天| 99热视| 精品日本视频444| 99色视频在线| 五月丁香六月婷综合成人综合| 色狠狠色| 国产综合激情五月久久| 久久久久久久久月丁| 婷婷色五月天在线| 丁香六月| 五月丁香六月激情在线| 婷婷丁香成人网址| 一起操 91N.com| 久久久www| 午夜丁香六月婷| 丁香五月婷婷www..com| 天堂色婷婷| 久99久99精品免| 激情五月天激情小说| 91超级碰人人操| 五月天狠狠网| 久久久久婷| 天堂草在线看www| 中文字幕AV在线| 99热欧美| 久久婷婷五月天亚洲欧美| 9精品视频在线观看| 婷婷五月色| 99热在线中文字幕| 婷婷六月色情| 五月色综合| 色色色.COM| 无码人妻电影| 狠狠插.com| 2025色婷婷| 在线视频另类| 黑人糟蹋人妻HD中文字幕| 丁香婷婷综合激情五月色| 激情综合五| 97精品人人A片免费看| 丁香五月色| 综合亚洲五月天| 丁香五月天社区婷婷| 婷婷丁香五月亚洲| 99re这里只有精品首页| 九九人人精品| 亚洲情综合五月天| 另类 在线| 婷婷五月天深爱| 久久免费丁香| 国产成人精品一区二三区熟女在线| 天天色,天天日,天天做| 思思热这里只有精品视频666| 亚洲字幕AV一区二区三区四区| 99亚洲视频| 天天爱天天做天天舔| 丁香,开心成人,久久| 99操无码视频观看| 日本成人噜噜噜噜噜| 国产熟女大叫受不了| 久久综合久色欧美综合狠狠| 大香蕉久久婷婷精品综合| 天天在线久久综合 | 色综合久久伊伊婷婷五月| 日韩AV在线免费观看| 久热婷婷综合| 色欲婷婷五月天| 天天摸天天日天天舔| 九九国产精视频| 2015在线中文字幕| 五月天色婷婷综合| 激情五月少妇| 性色播| 美欧成人视频| 九九99九九精品免费 | 国产精品久久久久久五月天加勒比| 精品人妻一区| 五月噜噜噜色综合| 色情开心五月| 91九色最新视频| 九九亚洲视频| 婷婷五月激情五月激情| se色99| www.色色五月天.com| 99精日本久久| 色五月婷婷久久| 直接看的AV| 激情五月婷婷色综合| 91AV婷婷| 九月色婷婷综合亚洲| 成人电影一区| 欧美婷婷五月天| 丁香五月激情六月综合| 狠狠爱综合| 久激情| 久久九网| 狠狠干夜夜干| 久久这里只有精彩| 久久婷婷原创视频| 五月丁香久久综合| 欧美婷婷五月天综合| 婷婷久久丁香五月| 久久视频在线视频| 久久婷婷五月| 小视频在线亚洲| 久久人五月| www.夜夜操| 色色色色色色网站| 九九狠狠干| 综合超碰熟| 色涩视频久久| 午夜天堂一区人妻| 五月婷婷激情久久| 婷婷五月色色| 99久久性爱| 精品思思久久| 久草视频一,二三四| 人妻中文av| 超碰国产在线播放| 五月丁香大香蕉| 99热1| 五月花免费视频| 甈吧vv| 五月色婷婷亚洲 | 亚洲综合激情五月久久| 丁香五月玖玖| 伊人久久艹| 日91高清无玛| 秋霞影音91人妻久久| 久久婷五月天| 98热精品| 国产成人一区二区三区在线观看| 婷婷五月天丁香社区| 六月丁香五月激情婷婷| 丁香综合婷婷开心激情网| 婷婷97色| 99啪啪视频| 精品色色色| 色色色视频免费无码| www.色色五月天.com| 色爱爱综合网| 九九无码| 九色视频91| 99色视频在线| 色欲五月婷婷| 亚洲人人96@| 激情五月天婷婷图| 99超碰在线观看| 黄色av高清| 色婷婷丁香A片区毛片区女人区| 超碰免费成人| 婷婷久久丁香| 99热.com| 99热精品9| 婷婷丁香五月久久| 色亚洲无码| 97性视频| 五月伊人婷婷999| 超碰A V在线| 色五月丁香五| 精品二区| 最近韩国日本免费高清观看| 99ri国产| 国产精品色婷婷99久久精品| www.久热| 深爱婷婷丁香五月激情| 99色最新在线视频网站| 色色自拍视频网站| 成人 在线 日韩| 久久色五月天| 色婷婷色丁香色欲av| 精品久久久91久久影视网| 五月婷婷综合网| 国产精品色| 精品久热| 99热在线观看免费精品| 99re免费精品视频| www.99精品在线| 亚洲乱码w在线观看| 婷婷丁香五月网| 丁香大香蕉| 久久久18| 五月丁香综合| 青草视频在线播放| 伊人在线大香蕉网| www.com.色色| aa久久|