欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

貝葉斯優(yōu)化BP神經(jīng)網(wǎng)絡(luò):時(shí)間序列預(yù)測(cè)超參數(shù)調(diào)優(yōu)實(shí)戰(zhàn)

貝葉斯優(yōu)化BP神經(jīng)網(wǎng)絡(luò):時(shí)間序列預(yù)測(cè)超參數(shù)調(diào)優(yōu)實(shí)戰(zhàn) 最近在時(shí)間序列預(yù)測(cè)的項(xiàng)目里折騰了個(gè)貝葉斯優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)模型記錄點(diǎn)實(shí)戰(zhàn)經(jīng)驗(yàn)。直接上代碼干貨邊寫邊聊踩過的坑。先說背景。項(xiàng)目是某跨平臺(tái)系統(tǒng)的負(fù)荷預(yù)測(cè)模塊輸入是歷史負(fù)荷、溫度、濕度、日期類型等特征輸出是未來24小時(shí)的逐時(shí)預(yù)測(cè)值。前期用普通BP神經(jīng)網(wǎng)絡(luò)跑了一版效果能用但一到節(jié)假日或者天氣劇烈波動(dòng)的時(shí)候預(yù)測(cè)偏差就會(huì)飚上去。后來換了個(gè)思路在BP的基礎(chǔ)上引入貝葉斯優(yōu)化來做超參數(shù)搜索替換掉之前手調(diào)參數(shù)的方式實(shí)測(cè)下來整體精度提升明顯驗(yàn)證集上的平均絕對(duì)百分比誤差大約下降了18%左右。這篇文章就把整個(gè)折騰過程記錄下來從核心思路到代碼實(shí)現(xiàn)再到排查過的坑適合正在做時(shí)間序列預(yù)測(cè)、想優(yōu)化神經(jīng)網(wǎng)絡(luò)超參數(shù)但又不想上太復(fù)雜框架的開發(fā)者參考。1. 內(nèi)容整體設(shè)計(jì)與思路拆解1.1 為什么偏偏是貝葉斯優(yōu)化配BP神經(jīng)網(wǎng)絡(luò)先說BP神經(jīng)網(wǎng)絡(luò)。它在時(shí)間序列預(yù)測(cè)里算是老熟人結(jié)構(gòu)簡(jiǎn)單、易于部署、對(duì)數(shù)據(jù)量要求不那么苛刻尤其適合中小規(guī)模樣本的場(chǎng)景。但BP網(wǎng)絡(luò)有個(gè)讓人頭疼的問題——對(duì)超參數(shù)極其敏感。隱層神經(jīng)元數(shù)量、學(xué)習(xí)率、批次大小、激活函數(shù)、正則化系數(shù)這些東西稍微變一變預(yù)測(cè)結(jié)果就可能天差地別。以前的做法是什么網(wǎng)格搜索加經(jīng)驗(yàn)試錯(cuò)。比如學(xué)習(xí)率從0.1、0.01、0.001挨個(gè)試隱層神經(jīng)元從32、64、128這么輪著測(cè)。聽起來很合理但實(shí)際操作下來會(huì)發(fā)現(xiàn)問題網(wǎng)格搜索在參數(shù)維度升高以后搜索次數(shù)是指數(shù)級(jí)膨脹的。假設(shè)我們有5個(gè)超參數(shù)每個(gè)參數(shù)取10個(gè)候選值那就是10的5次方10萬次訓(xùn)練實(shí)驗(yàn)。哪怕每次訓(xùn)練只要30秒也是不間斷跑上一個(gè)月的時(shí)間。而隨機(jī)搜索雖然能減少一些次數(shù)但它完全是盲人摸象試到哪個(gè)算哪個(gè)缺少方向性。貝葉斯優(yōu)化的核心價(jià)值在于它會(huì)利用已有的評(píng)估結(jié)果來建?!俺瑓?shù)→目標(biāo)函數(shù)”的概率模型然后根據(jù)這個(gè)模型去計(jì)算下一步最值得嘗試的參數(shù)組合。簡(jiǎn)單說它不是盲目亂試而是像人一樣“總結(jié)經(jīng)驗(yàn)、尋找方向”。配合BP網(wǎng)絡(luò)之后可以直接在驗(yàn)證集上定義目標(biāo)函數(shù)讓優(yōu)化算法自動(dòng)找到一組泛化性能最好的超參數(shù)。從實(shí)際效果來看這套組合特別適合那種“單次訓(xùn)練成本中等、需要反復(fù)試驗(yàn)調(diào)參”的場(chǎng)景。如果你的項(xiàng)目里已經(jīng)有了一套可運(yùn)行的BP預(yù)測(cè)腳本又不想為了調(diào)參去引入復(fù)雜的深度學(xué)習(xí)框架或者AutoML平臺(tái)貝葉斯優(yōu)化是一個(gè)性價(jià)比很高的升級(jí)方案。1.2 方案選型深入理解參數(shù)空間與目標(biāo)函數(shù)的定義方式貝葉斯優(yōu)化聽上去高深但它的數(shù)學(xué)含義其實(shí)用一句話就能概括清楚在參數(shù)空間中尋找使目標(biāo)函數(shù)值最優(yōu)的點(diǎn)每次迭代都利用之前的信息更新對(duì)目標(biāo)函數(shù)的估計(jì)再做下一次采樣。實(shí)際操作中需要定義兩件事參數(shù)空間和目標(biāo)函數(shù)。參數(shù)空間指的是我們要優(yōu)化的超參數(shù)各自在什么范圍內(nèi)取值。這一步看起來簡(jiǎn)單但坑不少。比如學(xué)習(xí)率如果設(shè)成[1e-4, 1]優(yōu)化器很容易在早期嘗試較大學(xué)習(xí)率導(dǎo)致訓(xùn)練發(fā)散浪費(fèi)大量時(shí)間。而如果把范圍收窄到[1e-4, 1e-2]搜索空間更合理收斂速度和解的質(zhì)量都會(huì)明顯改善。所以參數(shù)范圍的設(shè)定不僅僅是一個(gè)“給個(gè)邊界”的操作更要結(jié)合模型和數(shù)據(jù)特點(diǎn)做預(yù)判。目標(biāo)函數(shù)通常定義為“在訓(xùn)練集上訓(xùn)練模型在驗(yàn)證集上計(jì)算誤差”。誤差指標(biāo)一般選MAPE或者RMSE。時(shí)間序列預(yù)測(cè)場(chǎng)景里我們更關(guān)注相對(duì)偏差的大小所以MAPE更常用。但要注意MAPE有個(gè)毛病——當(dāng)真實(shí)值接近0時(shí)誤差會(huì)變得異常大。如果目標(biāo)變量的值經(jīng)常出現(xiàn)接近0的情況建議改用SMAPE或者帶分母保護(hù)的自定義指標(biāo)。我當(dāng)時(shí)的目標(biāo)函數(shù)設(shè)計(jì)是這樣的每次迭代取出參數(shù)組合用訓(xùn)練集訓(xùn)練BP網(wǎng)絡(luò)訓(xùn)練完畢后在驗(yàn)證集上做多步預(yù)測(cè)返回SMAPE作為目標(biāo)函數(shù)值。這個(gè)過程本身比較耗時(shí)但貝葉斯優(yōu)化可以接受這種成本因?yàn)樗⒉灰髱浊先f次的評(píng)估通常幾十次到上百次迭代就能找到不錯(cuò)的參數(shù)區(qū)域。1.3 相比傳統(tǒng)調(diào)參方式這套方案的核心優(yōu)勢(shì)傳統(tǒng)網(wǎng)格搜索最怕的是參數(shù)維度爆炸。貝葉斯優(yōu)化在我的測(cè)試中通常只需要網(wǎng)格搜索大約15%到20%的計(jì)算量就能達(dá)到相近甚至更好的結(jié)果。這并不是說貝葉斯優(yōu)化一定比網(wǎng)格搜索更“聰明”而是它把每一次評(píng)估的信息都用起來了不像網(wǎng)格搜索那樣孤立地看待每個(gè)實(shí)驗(yàn)。隨機(jī)搜索雖然比網(wǎng)格搜索更高效但它缺少“利用已有信息”的過程。貝葉斯優(yōu)化通過高斯過程代理模型Gaussian Process刻畫目標(biāo)函數(shù)的后驗(yàn)分布在選擇下一個(gè)采樣點(diǎn)時(shí)能夠自動(dòng)平衡“開發(fā)”在已知表現(xiàn)好的區(qū)域繼續(xù)深入搜索和“探索”去尚未嘗試的區(qū)域看看有沒有更好的可能。這種機(jī)制保證了它在有限預(yù)算下能找到更優(yōu)的參數(shù)組合。而且貝葉斯優(yōu)化的工程實(shí)現(xiàn)并不復(fù)雜。直接使用開源的優(yōu)化庫比如 scikit-optimize 或 Optuna都可以很快上手。我最終選擇了 scikit-optimize因?yàn)樗慕涌诤?jiǎn)單和NumPy、pandas等數(shù)據(jù)處理庫配合流暢不需要額外引入復(fù)雜的依賴。2. 核心細(xì)節(jié)解析與實(shí)操要點(diǎn)2.1 數(shù)據(jù)預(yù)處理中的時(shí)節(jié)性特征編碼與平穩(wěn)化處理時(shí)間序列預(yù)測(cè)任務(wù)里數(shù)據(jù)預(yù)處理的重要性不亞于模型本身。我在這部分花了不少時(shí)間踩過的坑比模型調(diào)參還多。先說要預(yù)測(cè)的目標(biāo)變量本身。負(fù)荷序列通常帶有明顯的日周期性、周周期性還有節(jié)假日效應(yīng)。如果不做任何處理直接把原始值丟給神經(jīng)網(wǎng)絡(luò)模型很容易被劇烈的波動(dòng)帶偏。我用的方案是先做差分處理。差分的目的在于把非平穩(wěn)序列轉(zhuǎn)化為相對(duì)平穩(wěn)的序列讓神經(jīng)網(wǎng)絡(luò)更容易學(xué)習(xí)其中的模式。比如當(dāng)前小時(shí)與前一小時(shí)負(fù)荷的差值如果這個(gè)差值是近似平穩(wěn)的那訓(xùn)練難度就會(huì)明顯下降。預(yù)測(cè)完成后再把差分值做逆變換還原成真實(shí)負(fù)荷值。但差分會(huì)帶來一個(gè)問題——誤差會(huì)累積。多步預(yù)測(cè)時(shí)前一步的預(yù)測(cè)誤差會(huì)傳遞到后面的預(yù)測(cè)結(jié)果里。所以差分階數(shù)不宜過大一階差分通常就夠了。特征方面的處理有幾個(gè)關(guān)鍵動(dòng)作時(shí)間特征提取小時(shí)、星期幾、是否工作日、是否節(jié)假日等。這些離散特征要合理編碼。比如小時(shí)可以同時(shí)保留數(shù)值特征0到23和周期特征sin和cos變換避免模型把0點(diǎn)和23點(diǎn)誤解為相差很遠(yuǎn)。溫度濕度特征這類外部變量需要做歸一化否則神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)數(shù)值范圍差異過大會(huì)導(dǎo)致收斂變慢。我用的是MinMaxScaler把所有特征都縮放到0到1之間。滯后特征取前1小時(shí)、前24小時(shí)、前48小時(shí)的負(fù)荷值作為特征。滯后特征對(duì)預(yù)測(cè)精度的提升非常明顯尤其是24小時(shí)前和48小時(shí)前的負(fù)荷可以有效刻畫日周期和周周期的影響。數(shù)據(jù)劃分也要講究。我在訓(xùn)練集、驗(yàn)證集、測(cè)試集劃分時(shí)強(qiáng)制按時(shí)間順序切分絕不隨機(jī)打亂。時(shí)間序列數(shù)據(jù)一旦隨機(jī)打亂模型就偷看到了未來的信息驗(yàn)證結(jié)果會(huì)虛假好看真正上線后表現(xiàn)一塌糊涂。2.2 目標(biāo)函數(shù)和交叉驗(yàn)證設(shè)計(jì)的注意事項(xiàng)貝葉斯優(yōu)化的目標(biāo)函數(shù)是整個(gè)調(diào)參過程的核心。如果目標(biāo)函數(shù)設(shè)計(jì)得有問題那么再先進(jìn)的優(yōu)化算法也沒有用。我第一版的目標(biāo)函數(shù)很簡(jiǎn)單訓(xùn)練BP網(wǎng)絡(luò)返回驗(yàn)證集SMAPE。但很快就發(fā)現(xiàn)這個(gè)做法有一個(gè)隱患——驗(yàn)證集波動(dòng)太大。由于時(shí)間序列數(shù)據(jù)內(nèi)部存在強(qiáng)相關(guān)性驗(yàn)證集不同時(shí)間段的誤差會(huì)有明顯差異單次評(píng)估的結(jié)果噪音很高。貝葉斯優(yōu)化會(huì)把這部分噪音當(dāng)成真實(shí)的性能差異導(dǎo)致選擇到“碰巧在某個(gè)時(shí)間段表現(xiàn)好”的參數(shù)而不是真正泛化能力強(qiáng)的參數(shù)。解決辦法是采用滑動(dòng)窗口式的時(shí)間序列交叉驗(yàn)證。具體做法是把訓(xùn)練數(shù)據(jù)按時(shí)間分成多段每次用其中一段做驗(yàn)證其他段做訓(xùn)練最后取各段驗(yàn)證誤差的平均值。這樣做能顯著降低目標(biāo)函數(shù)評(píng)估的方差。但滑動(dòng)窗口交叉驗(yàn)證有個(gè)代價(jià)——訓(xùn)練次數(shù)成倍增加。比如分5折一次參數(shù)評(píng)估就要訓(xùn)練5次模型。我一開始覺得太耗時(shí)間后來把BP網(wǎng)絡(luò)的最大迭代次數(shù)限定到500輪啟用提前停止early stopping每次訓(xùn)練大概15到20秒5折就是100秒左右。貝葉斯優(yōu)化迭代100次的話總時(shí)長(zhǎng)大約3小時(shí)還能接受。還有一點(diǎn)要提醒的是目標(biāo)函數(shù)的返回值方向。貝葉斯優(yōu)化的庫通常默認(rèn)優(yōu)化目標(biāo)越小越好所以我們要把誤差指標(biāo)直接返回不要畫蛇添足地取負(fù)值。2.3 參數(shù)空間的具體設(shè)置與實(shí)際調(diào)優(yōu)效果對(duì)比參數(shù)空間是貝葉斯優(yōu)化要搜索的候選集合。我在項(xiàng)目里用了6個(gè)超參數(shù)具體如下參數(shù)名稱取值范圍說明隱層神經(jīng)元數(shù)量16~128兩層隱層每層數(shù)量取相同值學(xué)習(xí)率1e-4 ~ 1e-2對(duì)數(shù)均勻分布采樣批大小16~128控制每次參數(shù)更新使用的樣本數(shù)Dropout比率0~0.5防止過擬合L2正則化系數(shù)1e-6 ~ 1e-2對(duì)數(shù)均勻分布采樣訓(xùn)練輪數(shù)上限200~800配合提前停止使用這里特別說明兩個(gè)細(xì)節(jié)。第一學(xué)習(xí)率和L2正則化系數(shù)都采用對(duì)數(shù)尺度因?yàn)檫@類參數(shù)通??缭蕉鄠€(gè)數(shù)量級(jí)線性均勻采樣會(huì)讓小值區(qū)域被嚴(yán)重壓縮大值區(qū)域占比過大搜索效果變差。第二Dropout取值范圍上限設(shè)為0.5因?yàn)槌^0.5以后BP這種基礎(chǔ)網(wǎng)絡(luò)往往會(huì)出現(xiàn)欠擬合收益不大。我做了幾組對(duì)比實(shí)驗(yàn)基線BP手調(diào)參數(shù)隱層64學(xué)習(xí)率0.005批大小64不加Dropout。驗(yàn)證集SMAPE約5.8%。隨機(jī)搜索50次驗(yàn)證集SMAPE約5.2%。貝葉斯優(yōu)化100次驗(yàn)證集SMAPE約4.9%。從結(jié)果看貝葉斯優(yōu)化相比手調(diào)參數(shù)提升約0.9個(gè)百分點(diǎn)對(duì)比隨機(jī)搜索也有可觀的增益。更重要的收獲是貝葉斯優(yōu)化找到的最優(yōu)參數(shù)組合非常“反直覺”——它選擇了中等偏小的隱層48Dropout設(shè)為0.21L2正則系數(shù)選擇了偏小的1e-5學(xué)習(xí)率則是0.003。這些值如果靠人工去試大概率不會(huì)剛好落在這些位置上。3. 實(shí)操過程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 從零搭建BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型的完整步驟我用的開發(fā)環(huán)境是Python 3.9深度學(xué)習(xí)框架選擇PyTorch。PyTorch的靈活性在這種自定義訓(xùn)練邏輯比較多的場(chǎng)景里很占優(yōu)勢(shì)。第一步是準(zhǔn)備數(shù)據(jù)。把原始數(shù)據(jù)處理成特征矩陣X和目標(biāo)向量y所有特征歸一化到[0,1]樣本按時(shí)間順序排列。第二步定義BP網(wǎng)絡(luò)結(jié)構(gòu)包括兩個(gè)隱層和輸出層激活函數(shù)默認(rèn)用ReLU加BatchNorm來穩(wěn)定訓(xùn)練。第三步定義訓(xùn)練邏輯包括損失函數(shù)、優(yōu)化器和提前停止邏輯。第四步把訓(xùn)練邏輯封裝成目標(biāo)函數(shù)接入貝葉斯優(yōu)化模塊。先看BP網(wǎng)絡(luò)本身的定義import torch import torch.nn as nn class BPNET(nn.Module): def __init__(self, input_dim, hidden_dim, output_dim, dropout): super(BPNET, self).__init__() self.model nn.Sequential( nn.Linear(input_dim, hidden_dim), nn.ReLU(), nn.Dropout(dropout), nn.Linear(hidden_dim, hidden_dim // 2), nn.ReLU(), nn.Dropout(dropout), nn.Linear(hidden_dim // 2, output_dim) ) def forward(self, x): return self.model(x)輸入維度取決于特征數(shù)量輸出維度為待預(yù)測(cè)的時(shí)長(zhǎng)步數(shù)。我這里是單步滾動(dòng)多步預(yù)測(cè)所以輸出維度設(shè)成1預(yù)測(cè)完一步以后把它當(dāng)作歷史值繼續(xù)預(yù)測(cè)下一步。訓(xùn)練部分的關(guān)鍵代碼如下注意提前停止的邏輯保證了訓(xùn)練不會(huì)一跑到底節(jié)省了大量無效迭代def train_model(model, train_loader, val_loader, lr, weight_decay, max_epochs): optimizer torch.optim.Adam(model.parameters(), lrlr, weight_decayweight_decay) scheduler torch.optim.lr_scheduler.ReduceLROnPlateau(optimizer, modemin, patience10) criterion torch.nn.MSELoss() best_val_loss float(inf) patience_counter 0 best_state None for epoch in range(max_epochs): model.train() for x_batch, y_batch in train_loader: optimizer.zero_grad() pred model(x_batch) loss criterion(pred, y_batch) loss.backward() optimizer.step() model.eval() val_loss 0.0 with torch.no_grad(): for x_batch, y_batch in val_loader: pred model(x_batch) val_loss criterion(pred, y_batch).item() val_loss / len(val_loader) if val_loss best_val_loss: best_val_loss val_loss patience_counter 0 best_state {k: v.clone() for k, v in model.state_dict().items()} else: patience_counter 1 scheduler.step(val_loss) if patience_counter 15: break model.load_state_dict(best_state) return model這里要特別提一下ReduceLROnPlateau調(diào)度器。它能在驗(yàn)證損失長(zhǎng)時(shí)間不下降時(shí)自動(dòng)減小學(xué)習(xí)率讓模型在接近局部最優(yōu)的區(qū)域做更精細(xì)的“微調(diào)”。原本我擔(dān)心這種調(diào)度器會(huì)引入額外超參數(shù)增加調(diào)參難度實(shí)際用下來發(fā)現(xiàn)它的閾值和耐心值設(shè)置得稍微寬松一點(diǎn)效果就很穩(wěn)定。3.2 貝葉斯優(yōu)化模塊的完整代碼實(shí)現(xiàn)貝葉斯優(yōu)化我用的是scikit-optimize庫里的BayesSearchCV風(fēng)格接口但為了更好地控制訓(xùn)練邏輯我改成了自己寫循環(huán)調(diào)用。from skopt import Optimizer from skopt.space import Real, Integer param_space [ Integer(16, 128, namehidden_dim), Real(1e-4, 1e-2, priorlog-uniform, namelr), Integer(16, 128, namebatch_size), Real(0.0, 0.5, namedropout), Real(1e-6, 1e-2, priorlog-uniform, nameweight_decay), Integer(200, 800, namemax_epochs) ] optimizer Optimizer(param_space, base_estimatorGP, n_initial_points10) for i in range(100): params optimizer.ask() hidden_dim params[0] lr params[1] batch_size params[2] dropout params[3] weight_decay params[4] max_epochs params[5] smape evaluate_params(hidden_dim, lr, batch_size, dropout, weight_decay, max_epochs) optimizer.tell(params, smape) print(f[{i1}/100] SMAPE: {smape:.4f}, params: {params})這里有兩個(gè)關(guān)鍵點(diǎn)要重點(diǎn)解釋。第一個(gè)是n_initial_points。這個(gè)參數(shù)控制優(yōu)化的“冷啟動(dòng)”階段即先用隨機(jī)采樣的方式生成若干個(gè)初始點(diǎn)等積累了一定數(shù)量的評(píng)估結(jié)果以后再開始用高斯過程模型指導(dǎo)搜索方向。初始點(diǎn)數(shù)量太少高斯過程模型對(duì)目標(biāo)函數(shù)的估計(jì)會(huì)很粗糙太多又會(huì)浪費(fèi)不必要的計(jì)算。我試過5、10、20三個(gè)值10是兼顧效果和效率的平衡點(diǎn)。第二個(gè)是Optimizer.ask和Optimizer.tell的配合。ask是獲取下一步要嘗試的參數(shù)組合tell是告訴優(yōu)化器這次評(píng)估的結(jié)果。這種交替調(diào)用模式非常靈活你可以在兩次ask之間插入任何自定義邏輯比如加載數(shù)據(jù)、訓(xùn)練模型、計(jì)算指標(biāo)完全不受庫的限制。evaluate_params是核心環(huán)節(jié)它把數(shù)據(jù)加載、模型訓(xùn)練、驗(yàn)證評(píng)估全部串起來。實(shí)際實(shí)現(xiàn)時(shí)可以用交叉驗(yàn)證來降低評(píng)估方差def evaluate_params(hidden_dim, lr, batch_size, dropout, weight_decay, max_epochs): smapes [] for train_idx, val_idx in cv_splits: train_data, val_data load_data(train_idx, val_idx) model BPNET(input_dim, hidden_dim, 1, dropout) model train_model(model, train_data, val_data, lr, weight_decay, max_epochs) preds model.predict(val_data) smapes.append(calculate_smape(val_data[actual], preds)) return np.mean(smapes)3.3 實(shí)際訓(xùn)練過程中的監(jiān)控與資源管理訓(xùn)練過程中我比較看重三個(gè)指標(biāo)損失曲線、驗(yàn)證集誤差、訓(xùn)練時(shí)長(zhǎng)。因?yàn)槊恳徊絽?shù)評(píng)估都要完整訓(xùn)練模型如果某個(gè)參數(shù)組合導(dǎo)致訓(xùn)練不收斂或者資源消耗異常高需要及時(shí)發(fā)現(xiàn)并跳過。我加了一個(gè)簡(jiǎn)單粗暴的保護(hù)機(jī)制單次訓(xùn)練超過10分鐘就強(qiáng)制中斷標(biāo)記該參數(shù)組合為高耗時(shí)的“壞點(diǎn)”。貝葉斯優(yōu)化允許我們?cè)谀繕?biāo)函數(shù)里返回一個(gè)很大的懲罰值這樣優(yōu)化器就自動(dòng)避開這些參數(shù)區(qū)域。實(shí)際跑下來絕大部分參數(shù)組合的單次訓(xùn)練時(shí)長(zhǎng)集中在1到3分鐘。出現(xiàn)超過10分鐘的基本都是學(xué)習(xí)率設(shè)得偏大接近0.01而且沒有觸發(fā)提前停止的情況說明這種保護(hù)機(jī)制確實(shí)有必要。監(jiān)控方面沒有用什么高大上的工具就是直接打印日志外加把每次評(píng)估結(jié)果追加寫入CSV文件。訓(xùn)練完成以后分析CSV里的記錄可以很直觀地看到參數(shù)探索軌跡哪些區(qū)域被反復(fù)搜索哪些區(qū)域被放棄對(duì)理解貝葉斯優(yōu)化的決策過程很有幫助。代碼實(shí)現(xiàn)中還有一些細(xì)節(jié)值得注意每次訓(xùn)練之前要把PyTorch的隨機(jī)種子固定住否則相同參數(shù)組合在不同次評(píng)估中會(huì)有微小差異干擾優(yōu)化器的判斷。數(shù)據(jù)加載使用DataLoader時(shí)要注意設(shè)置num_workers如果機(jī)器是Windows系統(tǒng)這個(gè)值設(shè)為0最穩(wěn)妥。整個(gè)優(yōu)化過程是不支持?jǐn)帱c(diǎn)續(xù)跑的。中途斷了只能從頭開始。如果要避免這種風(fēng)險(xiǎn)可以把優(yōu)化器狀態(tài)定期保存下來下次啟動(dòng)時(shí)恢復(fù)。4. 常見問題與排查技巧實(shí)錄4.1 訓(xùn)練過程中損失值異常增大的原因與解決貝葉斯優(yōu)化搜索過程中我遇到過好幾次損失值不降反升的情況。排查下來主要有這幾種原因第一種是學(xué)習(xí)率過大導(dǎo)致發(fā)散。比如貝葉斯優(yōu)化在探索階段可能把學(xué)習(xí)率調(diào)到0.008以上這種情況下BP網(wǎng)絡(luò)很容易在訓(xùn)練初期就出現(xiàn)NaN。NaN損失一出現(xiàn)整個(gè)訓(xùn)練就廢了必須跳過這組參數(shù)。我的解決辦法是在訓(xùn)練循環(huán)里加了一個(gè)損失值檢查一旦發(fā)現(xiàn)loss不是有限數(shù)值立即終止訓(xùn)練并返回一個(gè)很大的懲罰值。第二種是輸入數(shù)據(jù)中存在異常值。時(shí)間序列數(shù)據(jù)里偶爾會(huì)出現(xiàn)極端的毛刺數(shù)據(jù)比如傳感器故障或者人為誤操作導(dǎo)致的值。如果不做處理模型會(huì)被這些異常值帶偏。我后來加了分位數(shù)截?cái)嗵幚戆殉鯷1%, 99%]分位數(shù)的值強(qiáng)制縮到邊界值上效果很好。第三種是特征尺度不匹配。如果某些特征的數(shù)值范圍特別大比如溫度高達(dá)40而另一些特征只有0到1神經(jīng)網(wǎng)絡(luò)各層權(quán)重的更新幅度會(huì)非常不均勻。訓(xùn)練前期損失下降緩慢后期還可能難以穩(wěn)定收斂。歸一化處理能解決大部分問題同時(shí)要記得把歸一化參數(shù)在訓(xùn)練集上擬合測(cè)試集上只做轉(zhuǎn)換不能把測(cè)試集的統(tǒng)計(jì)信息混進(jìn)來。4.2 貝葉斯優(yōu)化結(jié)果不穩(wěn)定或收斂異常的排查思路貝葉斯優(yōu)化本身有時(shí)候也會(huì)表現(xiàn)得很“怪”。我遇到過的現(xiàn)象有這些首先是早期就收斂到一個(gè)看起來不太好的點(diǎn)。這種情況通常因?yàn)槌跏茧S機(jī)采樣點(diǎn)太少高斯過程模型還沒學(xué)到目標(biāo)函數(shù)的真實(shí)形狀就把采樣集中到了某個(gè)局部區(qū)域。解決辦法是增大n_initial_points比如從10調(diào)整到20并增加每次采樣的隨機(jī)性。其次是優(yōu)化過程的波動(dòng)特別大。相鄰兩次迭代的目標(biāo)函數(shù)值變化非常劇烈這說明單次評(píng)估的噪音水平很高。除了使用時(shí)間序列交叉驗(yàn)證之外還可以考慮對(duì)每個(gè)參數(shù)組合做兩次重復(fù)實(shí)驗(yàn)取平均值可以把噪音進(jìn)一步壓低。還有一種情況是參數(shù)組合之間差異不大導(dǎo)致優(yōu)化器認(rèn)為很多地方都差不多出現(xiàn)“平臺(tái)期”。這種情況下可以考慮改變參數(shù)空間的分布比如把學(xué)習(xí)率的范圍往上調(diào)或者往下調(diào)打破平衡。最后提醒一個(gè)容易被忽略的細(xì)節(jié)目標(biāo)函數(shù)在參數(shù)空間邊界附近往往比較敏感。比如Dropout取值接近0時(shí)結(jié)果可能跟0.01時(shí)差不多但優(yōu)化器不會(huì)知道邊界外是什么狀況。如果最終選出的最優(yōu)參數(shù)恰好卡在邊界上比如批大小取到16或128這種極值我建議手動(dòng)把這個(gè)參數(shù)向邊界外擴(kuò)展一點(diǎn)再做一次實(shí)驗(yàn)確認(rèn)是否還有進(jìn)一步優(yōu)化的空間。4.3 預(yù)測(cè)效果不好時(shí)的常見原因分析模型調(diào)參完成之后如果預(yù)測(cè)效果還是不理想通常問題不在模型本身而在于數(shù)據(jù)或評(píng)估方式。我遇到過一個(gè)典型情況模型在訓(xùn)練集上表現(xiàn)很好驗(yàn)證集上也可以但一到未來真正預(yù)測(cè)時(shí)誤差大幅增加。后來發(fā)現(xiàn)原因在于我的時(shí)間序列數(shù)據(jù)里存在概念漂移即數(shù)據(jù)分布隨時(shí)間發(fā)生了變化。比如某段時(shí)間的負(fù)荷模式因?yàn)橥獠凯h(huán)境變化而整體偏移模型學(xué)到的規(guī)律不再適用。這種問題的解決思路是周期性地重新訓(xùn)練模型或者在訓(xùn)練數(shù)據(jù)里引入時(shí)間衰減權(quán)重讓近期樣本對(duì)模型的影響更大。另一個(gè)常見問題是多步預(yù)測(cè)的誤差累積。我剛開始做未來24小時(shí)預(yù)測(cè)時(shí)是用遞歸方式逐步預(yù)測(cè)的——用第t步的預(yù)測(cè)值作為第t1步的輸入。由于每步都有誤差逐漸累積后第24小時(shí)的預(yù)測(cè)精度慘不忍睹。后來改用直接多步預(yù)測(cè)方式即模型直接輸出未來24小時(shí)的所有預(yù)測(cè)值雖然單步精度略降但長(zhǎng)時(shí)段的整體誤差明顯改善。還有一種情況是評(píng)估指標(biāo)選得不合適。時(shí)間序列預(yù)測(cè)里不同的評(píng)估指標(biāo)對(duì)模型好壞的衡量維度完全不同。RMSE對(duì)大誤差更敏感所以它會(huì)偏向那些“少犯錯(cuò)但不犯大錯(cuò)”的模型。MAPE則對(duì)相對(duì)誤差更敏感。如果業(yè)務(wù)上更關(guān)心大偏差的容忍度RMSE更合適如果更關(guān)心整體偏差水平MAPE更直觀。我當(dāng)時(shí)兩者都算了因?yàn)樵陔娏ω?fù)荷預(yù)測(cè)場(chǎng)景里峰值時(shí)段的相對(duì)誤差往往比低谷時(shí)段更敏感所以要綜合考慮。4.4 常見問題速查表整理了一個(gè)自己在項(xiàng)目中使用的速查表方便快速排查問題現(xiàn)象可能原因解決方案訓(xùn)練損失出現(xiàn)NaN學(xué)習(xí)率過大、特征包含NaN降低學(xué)習(xí)率上限、清洗數(shù)據(jù)、損失函數(shù)加數(shù)值檢查驗(yàn)證誤差遠(yuǎn)大于訓(xùn)練誤差過擬合增大Dropout、增大L2正則系數(shù)、減少訓(xùn)練輪數(shù)貝葉斯優(yōu)化收斂太快初始采樣點(diǎn)太少增大n_initial_points、增加采樣隨機(jī)性優(yōu)化結(jié)果波動(dòng)大單次評(píng)估噪音高用交叉驗(yàn)證、重復(fù)實(shí)驗(yàn)取平均預(yù)測(cè)結(jié)果整體滯后差分處理引入延遲嘗試增加滯后特征、改用非遞歸預(yù)測(cè)方式長(zhǎng)時(shí)間預(yù)測(cè)誤差累積嚴(yán)重遞歸多步預(yù)測(cè)改成直接多步預(yù)測(cè)、引入外部特征輔助假日預(yù)測(cè)精度差訓(xùn)練集中假日樣本少增加時(shí)間特征、對(duì)假日樣本過采樣、引入相似日信息5. 經(jīng)驗(yàn)總結(jié)與后續(xù)改進(jìn)方向這段折騰下來我的核心體會(huì)是貝葉斯優(yōu)化的價(jià)值不在于它比人工調(diào)參“更聰明”而在于它能持續(xù)地、系統(tǒng)性地搜索參數(shù)空間把人工試錯(cuò)過程中的盲目性降到最低。尤其是當(dāng)參數(shù)空間維度超過3以后人工調(diào)參的效率和可靠性都大幅下降這時(shí)候貝葉斯優(yōu)化的優(yōu)勢(shì)就體現(xiàn)出來了。另外要提的一點(diǎn)是調(diào)參不是萬能的。模型結(jié)構(gòu)本身是否合理、數(shù)據(jù)特征是否充分、評(píng)估方式是否靠譜這些問題的優(yōu)先級(jí)都在調(diào)參之前。我在項(xiàng)目初期花了不少時(shí)間折騰超參數(shù)后來發(fā)現(xiàn)把滯后特征加全、把節(jié)假日信息編碼好提升比單純調(diào)參大得多。所以我的建議是先保證數(shù)據(jù)和特征的質(zhì)量再考慮用貝葉斯優(yōu)化去壓榨模型的最后幾個(gè)百分點(diǎn)。在實(shí)操層面我會(huì)建議剛開始接觸這套方案的人不必一上來就追求復(fù)雜的交叉驗(yàn)證和并行化訓(xùn)練??梢韵扰芤粋€(gè)簡(jiǎn)化版本單次訓(xùn)練、驗(yàn)證集評(píng)估、貝葉斯優(yōu)化迭代50次。跑通了以后再逐步加入滑動(dòng)窗口交叉驗(yàn)證、重復(fù)實(shí)驗(yàn)取均值、并行評(píng)估等進(jìn)階手段這樣更容易定位問題。后續(xù)有幾個(gè)可以繼續(xù)改進(jìn)的方向一是把貝葉斯優(yōu)化和超參數(shù)熱力圖分析結(jié)合每次優(yōu)化結(jié)束后畫出參數(shù)與目標(biāo)函數(shù)的二維投影能更直觀地理解哪些參數(shù)影響更大二是嘗試在優(yōu)化過程中動(dòng)態(tài)調(diào)整參數(shù)空間比如把已經(jīng)掌握的高價(jià)值區(qū)域細(xì)化把明顯無效的區(qū)域裁剪掉三是把整個(gè)流程封裝成一套可復(fù)用的流水線輸入歷史數(shù)據(jù)就直接輸出優(yōu)化后的模型和預(yù)測(cè)結(jié)果。時(shí)間序列預(yù)測(cè)本身是個(gè)水很深的領(lǐng)域每個(gè)環(huán)節(jié)都有不少講究。貝葉斯優(yōu)化配BP神經(jīng)網(wǎng)絡(luò)只是其中一個(gè)可行方案它的優(yōu)勢(shì)是結(jié)構(gòu)清晰、實(shí)現(xiàn)門檻低、效果提升穩(wěn)定。如果你的項(xiàng)目也卡在調(diào)參效率上不妨試試這套思路。踩過的坑記錄下來希望后來的朋友能少走一些彎路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久色情| 激情综合激情五月| 亚洲av日韩无码| 91碰免费视频| 无码少妇高潮喷水A片免费| 久久五月天视频| 五月婷婷丁香综合网| 包操45分钟网站| 天天操婷婷| 色综合9| 国产精品久久久久久久久久| 婷婷成人视频| 色色五月丁香| 99福利导航| 五月丁香六月情| 五月社区婷婷激情| 丁香五月aV| 99热 这里只有精品 国产 日韩| 免费播放片大片| 久久婷五月影院| 国外亚洲成AV人片在线观看| 99热这里只有精品99| 91日本在线观看| 久久视频婷婷| 激情综合色婷婷啪啪六月天| 99精品在线| 亚洲bt丁香五月天婷婷激情小说| 射久久丁香五月| 免费的日逼视频| 久操热| av激情在线| 婷婷狠狠爱| 1024亚洲无码| 亚洲午夜成人av电影网| 天天揷综合网| www.俺去也com| 日韩另类| 欧美在线干| 成人中文字幕在线| 久久久99视频| 综合色播| 日本va欧美va欧美va精品| 久久婷婷综合基地| 婷婷五月丁香久久| 久久99精品视频| 棕合影院色色| 91精品在线看| 狠狠搞五月天| 狠色狠色狠狠色综合网| 婷婷另类开心| www.狠狠操.com| 噜噜综合网| eeuus五月婷| 欧美欧盟性爱网| 久操人妻| 日韩色色小视频| 婷婷午夜| 综合五月丁香久久| 人人操Av| 人人色AV| 成人九九视频| 五月天婷婷在线AN| 色日本综合| 五月天精品| 色噜噜狠噜噜视频| 人妻激情综合| 99热这里只有精品2| 97香蕉碰碰人妻国产欧美| 香蕉狠狠爱视频| 一起草Av| 99热首页| 久草热久草在线视频| 内射人妻视频国内| 99色嘟嘟精品网站| 欧美人人超级碰| 视频1区2区| 噜噜狠狠色综合久| 五月婷婷综合在线| www.日日夜夜.com| 国产美女无遮挡裸体毛片A片| 国产精品扒开腿做爽爽爽A片唱戏 青青草国产亚洲精品久久 | 亚洲欧美国产A片免费观看| 婷婷丁香综合在线| 九九精彩久久| 九九亚洲视频| 激情六月五月婷婷综合网| 好好日激情五月天| 这里只有精品免费观看网占| 色五月AV| 综合久| 五月婷在线| 天天综合网站| 午夜精品人妻无码一区二区三区| 日本色99网站| 色五月大香蕉婷婷| 成人在线网址| 色综合播放| 婷婷五月天深爱| 开心激情站婷婷五月天| 天天日天天干天天操| 成人永久免费视频在线观看| 香蕉综合网| 一区二区三区视频| 婷婷五月激情欧美大胆视频| 欧美久人人| www98日本小时间到了| 97久久久久| 天天狠天天狠| 淫水导航| 久久精彩视频| 久久久这里有精品| 综合aV在线| 激情网色五月| 五月丁香婷婷色色| 婷婷激情六月综合| 99这里只有精品在线观看| 久久五月婷天天干| 婷婷在线视频| 久久久这里有精品| 婷婷丁香五月天亚洲| 天天操天天操综合| 久久久久久性爱视频| 亭亭玉月丁香| 狠狠色丁香| 久久丁香五月天| 亚洲精品白浆高清久久久久久| www.91av.com| 婷婷五月中文字幕| 久久永久网址| 国产成人va在线| 丁香五月天成人| 五月五婷婷| 人人爱人人草| www.久热| 久综合4| 亚洲精品网址| 色丁香五月天射婷婷爱婷婷| 青青草婷婷综合五月| 97色色在线视频| 五月天激情啪啪| AV中文在线| 专区无日本视频高清8| 亚洲中文字幕翔田千里| 婷婷狠狠18禁久久| 日韩五月婷婷| 激情亚洲网| 99热丁香| 专区无日本视频高清8| 久久久精品婷婷五月天| 91人人网| 欧美成人网婷婷综合在线| 五月丁香啪啪伦理电影| 五月婷婷无码| 久婷婷视平| 欧美日韩五月婷婷| 激情六月丁香综合| 天天久| 丁香九月婷婷综合| 激情5月婷婷| 色五月大香蕉婷婷| 五月丁香激情五月天| 色婷婷综合网站| 香焦网五月天| 色狠狠伊人久久五月丁香| 5月婷婷激情6月| 婷婷深爱五月天| 人人播| www.99.色| 十区AV| 影音先锋xfplay资源男人网| 久久五月天婷婷| 五月天综合婷婷| 日本在线播放97| 综合久久五月天| 六月综和久久| 无码99| 国产一级片| 超级碰碰碰久久网站视频| 国产精品人妻欲求不满| 久久开心五月婷婷| 99热伊人| 伊人天堂婷婷| 婷婷五月天激情四射五月天激情| 91精品久久久久久综合五月天| 久久人操| 丝雨一区二区| 久久AAAA片一区二区| 99re热视频这里只精品5| 久久九九爽| 激情五月婷婷综合网| 狠狠爱婷婷爱| 欧美久久婷婷| 日日夜夜狠狠| 激情 婷婷| 丁香 婷婷五月| 亚洲丁香五月天视频| 99精品视频在线观看| 亚洲狠狠终合停停终合| 久久人妻久久久久| 人人色婷婷| 国产精品色色| 伊人色综合影院视频| 久久99热精品a片在线观看| 久99久热| 五月停停99| 26uuu青青| 婷婷五月激情视频| 亚洲精品无码一区二区| 五月丁香久久综合91| 色婷婷69| 激情五月丁香综合网站| 五月激情小说| 香蕉视频91| 久久久久99精品成人片| www.99热| 91久久久久久久91| 日日夜夜小色哥| 超碰精品在线| 色婷狠狠| 丁香六月天婷婷色| 九九碰九九爱97超碰| 久9热在线免费观看| VA日本视频| 99热只有这里有精品| 综合激情婷婷| 久九色| 色婷婷色五月天| 婷婷综合五月| 成人 在线 日韩| 色五月丁香伊人五月| 激情AV| 超碰在线观看9| 九色色| 超碰在线91| 五月丁香激情综合六月涩涩爱| 五月天自拍视频| 97 A I色色| 九九激情视频| 久久九九在线视频| 99re6在线视频精品免费| 日本综合色色| 激情五月丁香六月综合AVXXXX| 九九婷婷五月天| 亚洲一个色| 天天操夜夜操| 狠狠综合久久综合| 深爱激情五月天婷婷网| 超碰免费在线| 五月婷婷在线丁香| 色哟哟精品| 色站9/| 99精品无码网站| 综合五月婷婷| 九九久久99| 99在线免费观看| 91碰碰视频在线观看| 成人毛片在线免费观看| 狠狠色噜噜色狠狠狠综合久久成人波| 亚洲无AV在线中文字幕| 亚洲小视频免费看| 120分钟婬片免费看| 1024亚洲| 丁香色五月天| 久久男人网婷婷| 丁香五月六月婷婷自拍| 婷婷五月天AV| 在线观看熟女少妇| 婷婷伊人五月天| 九色 在线| 婷婷亚洲欧美丁香五月| 色涩视频久久| 9999色色色色| 久久综合久色欧美综合狠狠| 99在线观看免费精品视频| 激情综合网五月激情| 精品99在线看| 丁香五月欧美| 九九激情视频| 99热综合网| 亚洲传媒在线观看| 婷婷五月天成人综合网| 超碰国产在线播放| 婷婷深爱五月亚洲综合| 夫妇交换刺激做爰| 婷婷五月天激情偷拍| 99色网站| 26uuu青青| 日韩成人AV在线| 婷婷五月网图片区| 荷兰av一级| 综合一啪| 六月婷婷五月天| 色色亚洲99com| 天天综合亚洲综合| 五月天丁香色色| 色婷婷丁香五月丁香| 亚洲人妻av| 欧美婷婷| 99热8| 狠狠操狠狠爱| 亚洲五月花| 色综合激情| 亚洲第一黄网| 婷婷色五月丁香六月欧美啪| 99热97| 久久久五月天婷婷成人网| 操一操插一插| 香蕉久久五月| 啪啪小说五月天| 丁香9月婷婷| 五月天婷婷人妻| 五月丁香在线观看国产| 婷婷激情社区| 国内9l视频自拍老熟女九色| 丁香六月欧美| 久久在线视频免费观看| 色综合九九| 中文字幕不卡视频| 五月丁香婷婷欧美| 国产无人区大片| 久操大| 九九热啪啪| 99碰碰视频| 亚洲另类婷婷综合| 日本婷婷| 丁香婷婷丁香五月欧美人| 97色婷婷| 天天干天天操天天上| 久久婷婷七月丁香| 色99网站| wWW九九在线播放| 超碰93在线观看| 五月天色色婷婷| 色五月激情| 粉嫩av蜜桃av蜜臀av| 九九九九毛片| 色视频2025| 91综合在线| 婷婷五月精品在线| 丁香影院五月综合| 少妇人妻人伦A片| 大香蕉99| 婷婷五月色天| 插插干干干色| 五月婷婷久久网| 黄色激情五月天| 涩九九九九| 色色激情网| 色狠狠五月天| 亚洲精品无人区| 婷婷五月天第四色| 绿色小导航AV| 丁香 久久| 五月丁香婷婷色色| 日本99视频| 先锋av性爱成人电影| 婷婷五月丁香国产| 丁香五月婷婷亚洲色图| 婷婷激情五月| 亚洲第一成人无码A片| 这里只有精彩视| 丁香五月婷婷亚洲激情四射| 91色五月| 日本本土色网第一区| 婷婷五月天天| 中文AV网| 五月丁香啪啪啪| 丁香激情网| 婷婷丁香人妻久久在线观看| 99啊精典免费视频| 婷婷五月情| 琪琪理论片| 婷婷综合中文| 亚洲激情综合| 久热这里只有精品3| 91九色最新视频| 五月丁香人妻| 亚洲婷婷91丁香| 色播五月婷婷| 啄木鸟黑丝一区二区| 国产精品成人网址| 91丨九色丨高潮丰满日本| 看黄的网站18禁| 国产精品18久久久| 五月亭亭开心网| 丁香五月性爱| 婷婷五月丁香五月基地| 亚洲婷婷五月| AAAA亚洲| 日韩av高清| 婷婷五月电影院| 丁香五月婷婷久久久| 婷婷5月久久综合网站| 色婷婷五月天视频网站| 综合五月草| 熟妇高潮一区av| 99九九热视频| 五月丁激情| 色色婷婷色色| 国产激情久久久| 这里只有精品免费视频在线观看| 玖玖婷婷色五月| 亚洲视频99| 六月婷婷影院| 色婷婷五月天成人网| 天天操综合网| 怡红院一二三| 97人人草| 色情激情五月婷婷| 亚洲av骚货| 婷婷激情欧美| 日本97在线视频| 婷婷五月天综合网| 婷婷深爱五月| 26uuu色噜噜精品一区| 色月丁| 五月天激情久久| 色五狠狠| 成人五月天综合网| 五月婷婷丁香五月| 色婷婷在线视频| 色色哒五月婷婷六月丁香| www999日韩精品| 中国女人做爰A片| 五月丁香婷婷深深爱| 夜夜涩涩涩| 色黄啪啪| 婷婷久久五月| 色屌丝中文字幕| 丁香九月综合| 色婷婷丁香社综合| 爱久久小说下载网| 99热国产精品| 九九在线这里只有精品视频| 91中文在线| 婷婷色资源| 久久久精品色| 亚洲色视频| 99极品视频| 五月婷婷导航| 日本色色色色色色色色一色二色| 97操视频| 亚洲AV成人无码久久精品老人法拉利| 亚洲激情AV| 九月婷婷人人操人人舔人人爱| 99九九视频| 久机视频这只有精品| 精品无码av丁香五月激情| 婷婷久久图片| 国产性爱在线| 色婷婷电影网| 色五月婷婷九月| 少妇日麻屄| 91精品久久久久久久久| 婷婷五月综合国产精品| 99精品热| 色五月天综合网| site:esunnet.com| 婷婷五月天Av| 噜噜五月天综合| 国产欧美精品AAAAAA片| 97久久视频| 五月激情婷婷丁香| 丁香五月综合图片在线观看| AV动漫不卡无码免费| 666555。COm毛片| 激情小说五月天| 六月色播| 丁香五月激情站| 亚洲综合久| 99碰碰碰| 国产精品久久久久久久久久| 五月天丁香综合久久国产| 色五月婷婷五月久久| www.久久久久久久| 婷婷丁香综合在线| 中文字幕 中文字幕明步| 91久久久久久久久18| 婷婷五月天亚洲综合| 久久婷婷成人视频| Www99热| yw.av| 狠狠精品干练久久久无码中文字幕| 91丁香五月| 精品五月天| 九九九午夜影院成人| 操操啪| 超级碰碰碰碰视频| 欧美五月婷婷综合| 国产欧美熟妇另类久久久| 一起草性爱不卡视频| 丁香五月欧美午夜视频| www夜夜操comwww| 久久五月天合网| 久久精典| 国产亚洲99久久| 色欲AVV| 97色色视频| 久久性爱视频| 香蕉操亚洲| 九九久热| 99久久久国产精品免费蜜乳tv| 丁香六月色婷婷欧美| 日本久久超碰| caopeng97人人| 国产精品成av人在线视午夜片| 五月天婷婷综合网| 激情丁香久久| 丁香五月亚洲AV| 久久大香免费| 精品视频网| 超碰在线观看三级片| 激情色色| 亚洲精品婷婷| 五月婷婷综合激情| 99九色视频在线观看| 丁香 亚洲 久久| 国产婷婷五月色情综合| 99热在线免费| 人人人人人人人草| 五月天婷爱综合| 日韩啪| 99热这里| 狠狠狠狠狠操| 99精品女人天堂| 九九热啪啪| 热的国产99热| 99热香港| 丁香婷婷九月| 婷婷五月综合欧美在线播放| 色色色com| 5月丁香六月情| 色色色com| 亭亭丁香久久五月| 啪啪日本欧美| 亚洲亚洲人成综合网络| 九九热自拍| 婷婷八月丁香激情综合| 色久综合| 五月婷婷六月色| 26uuu在线观看| 噜噜久| 人人看人人草人人摸| 色丁香在线视频| 五月丁香色五月| 丁香五月激情月| http://www.lingjunshare.com/ | 五月婷婷婷婷婷| 激情网开心网| 26uuu91| 99精品在| 日本成人噜噜| 六月丁香激情婷婷| 天天天摸夜夜夜玩| 五月婷婷视频28| 五月丁香六月婷婷婷婷| 26uuu欧美宗合| 人妻久久久久久久久久| 日日夜夜天天综合| 九九热精品| 99色综合| 99在线免费视频| 丁香五月婷婷网| 六月丁香五月婷婷| 九九久久99精品免费观看www| 伊人激情影院| 激情性爱五月| 中文字幕永久在线| 日韩999| 亚洲熟妇AV乱码在线观看| 丰满少妇猛烈A片免费看观看| 亚洲精品白浆高清久久久久久| 国产日韩精品SUV| 另类少妇人与禽zOZZ0性伦| 天天干天天干天天干| 成人.在线日韩| 亚洲六月色| 久久日本wwww色| 中文在线视频久9| 国产婷婷五月| 国产综合视频婷婷| 激情久久久| 欧美五月丁香啪啪响视频| 五月婷婷中字在线| 天天摸天天高潮天天爽| 久久黄色片| 五月婷婷丁香啪啪| 97色碰| 婷婷五月天AV| 国产69久久久欧美黑人A片| 久久免费高| 91热久| 七七色色综合| 九九综合色综合| 色色色色五月天| 婷婷五月 丁香六月| 五月丁激情| 五月丁香黄色视频| 97九色视频| 97人人干| 办公室少妇激情呻吟A片在线观看| 日日夜夜九九| 9热在线观看| 狠狠操综合| 婷婷色香六月综合激情| 色婷婷社区| 人妻久热| 大香网伊人久久综合| 国产五月视频| 丁香六月婷婷社区| 精品久久99码| 管管補管管紱| 99er精品视频| 秋霞性爱AV| 操操啪| 玖久久网站| 91日韩美女被插视频| 97人人操人人爽| 天天色综合色色色色色。| 日本AAAAAAAAAAAAAA片| 久狠狠狠| 婷婷五月天色| 国产人妻777人伦精品HD| 日噜噜色| 超碰大香蕉网| 激情五月综合视频| 婷婷五月丁综合| 久久玖玖综合| 丁香五月婷婷影院| 色五月亚洲| 丁香五月综合首页| 青草青草久热这里只有精品| 26uuu亚洲色| 五月丁香婷婷综合网| 伊人久久艹| 牛牛热这里只有jingpin| 欧美在线视频9| 丁香五月久久| 五月丁香六月婷婷在线小说视频| 天天日,天天干,天天操| 五月天婷婷色色| 亚洲亚洲人成综合网络| 婷婷六月综合| 色婷婷内射| 噜噜精品| 久热超碰| 丁香花大香蕉婷婷综合| 中文字幕人妻在线| 777精品成人a v久久| 99热这里只有精品4| 五月天精品视频| 99色爱| 丁香五月天狠狠操| 五月丁香天天| 五月第四色| a网站免费观看| 精品热青草| 超碰人人操人人干| 蜜乳国产网站| 狠狠色97| 日本操天堂| 免费播放片大片| 激情校园 亚洲| 国产激情在线| 亚洲妇女熟BBW| 91婷婷在线观看| 天天综合色丁香| 五月五婷婷| 玖玖精品视频| 亚洲精品444久久久久久| 综合久久99| 久久精品视频9| 夜夜夜夜夜操| 色婷婷影视99| 伍月婷婷免费视频| 99精在线| 婷婷伊人| 99九精品| 色色婷五月天| 91色色色18| 日韩艹比| 婷婷精品| 婷婷丁香五月在线播放| 免费AV播放| 亚洲色婷婷五月天| 综合色天天| 丁香五月婷婷综合精品素人| 少妇高潮呻吟A片免费看软件| 91丨九色丨熟女|老版| 五月婷婷免费视频| 久久丁香五月天| 久久综合55| 久久99久久99久久99人受| 99热在这里只有精品| 五月色综合| 26.uuu丁香五月婷婷| 色五月婷婷视频| www久久久| AV在线不卡网站| 婷婷五月丁香六月伊人网| 亚洲欧美丁香五月天亚洲欧美| 国外亚洲成AV人片在线观看| 大香蕉五月丁香| 常久最新免费的色吊丝| 97色婷| 成人婷婷| 午夜丁香五月天综合| 另类视频五月天| 香蕉伊人综合| 亚洲第一视频 久久| 天天插天天日| 色在线99| 夜夜操,天天撸| 这里只有精品久久| 久久五月激情综合| 天天爽天天日天天舔| 国产FREESEXVIDEOS性中国| 色婷婷综合亚洲| 婷婷五月天免费视频在线观看| 亚洲激情AV| WWW.婷婷五月天.COM| 婷婷瑟瑟五月天| 性一交一乱一交A片久| 天堂久久精品| 欧美这里只有精品| 婷婷综合中文字幕| 99热99网| 六月丁香综合| 五月婷婷综合性爱噜噜| 99人人操人人摸| 亚洲成人在线播放| 五月婷色色| 五月婷婷开心网| 天天日天天肏天天奸| 99热国内精品| 五月婷婷啪啪| 无码字幕中文| 婷婷五月天AV激情| 色色色99| 五月丁香综合啪啪| 99碰网站| 色情开心五月| 婷婷五月花西瓜| 国产99久久久国产精品免费看| 青青.com| 日本久久天堂| 激情五月,激情综合网| 综合色色色色色色| 国产精女同一区二区三区久 | 开心五月深爱五月丁香五月激情五月| 偷偷与邻居做爰完整视频| 香蕉综合网| 成人在线日韩欧美| 色色色天堂网| 欧美成人精品老美女噜噜噜| 欧美日韩精品人妻狠狠躁免费视频| 99熟女| 91精品无码| 91综合色| 五月婷婷激情网| 丁香六月婷婷社区| 色五月婷婷激情| 五月美女婷婷风骚| 思思w99| 日本精品人妻无码77777| 天天搞夜夜叫| 第四色五月天| 91超级碰碰碰| 五月综合久久| 玖玖综合色| 五月婷婷色影院| 99热加勒比| 久久a热| 国产精品 的国产| 草做免费在线观看| 久久曰9| 六月天六月婷| 五月婷婷色欲| 五月丁香六月激情综合在线| 99网| 最新激情五月天| 国产亚洲在线观看| 亚洲另类婷婷五月丁香在线播放| 色色丁香| 色五月综合激情| 婷婷伊人久久| 日本三级中文字幕| 成人网站免费在线播放| 色五月婷婷操逼| 97超碰在线免费观看| 婷婷五月色情| 丁香五月欧美色综合| 亚洲99在线| 看全色黄大色大片| 大天天伊人| 99超级碰碰| 99久超碰| 超碰色综合| 四虎成人精品永久免费AV九九| 国产9色在线/日韩| 99碰网站| 五月激情啪啪啪| 91丨九色丨高潮丰满日本| 91操片| 久久综合五月天| 久久综合激情| 99热99ai| 中文激情网| 丁香五月婷婷六月婷| 国产成人精品亚洲线观看| 色婷婷婷av| 五月婷视频| 五月激情精品视频| 国产日比| 日本婷婷丁香五月| 嫩草AV久久伊人妇女超级A| 秋霞电影理论| 激情AV网| 婷婷五月丁香六月天亚洲综合| 日比视频91| 五月天激情视频五月天| Www.久久| 日本色爽| 亚洲、欧美、国产另类笫二区| 丁香婷婷基地| 久久99免费视屏| 婷婷五月天av| 99热骚货| 99re久热| 天天爽天天操| 久久婷婷网| 色情综合网| 五月天激情小说婷婷| 丁香五月影院| 99热99精品在线观看| 人五月天婷婷喷水| 激情五月婷婷六月丁香| 亚洲婷婷激情综合激情999精品| www.射伊蕉婷婷| 97碰在线视频| 久久性爱视频| 五月丁香六月色婷婷| 色色婷婷综合| 久久久精品色| 蜜桃婷婷狠狠久久| 久久婷婷色| 激情久久久| 精品夜夜澡人妻无码AV| 婷激情五月| 色五月丁香91| 五月天播播| 五月婷婷与六月丁香图片激情| 超碰免费在线| 日本色婷婷综合| 久久婷婷老| 婷婷五月天久久| 超级碰碰碰碰视频| 五月天久久久| 亚洲五月丁| 熟妇天天综合| 久婷久婷| 久热这里只有国产| 日日干四虎| 五月情婷婷| 色玖玖玖| 欧美日韩成人在线| 六月丁香婷婷网| 国产99久9在线+|+传媒| www.日本91| 人妻性爱av网站| 91 九色大美女| 深夜A片| 激情爱爱网站超大免费| 来吧亚洲综合网| 五月综合亚洲婷婷| 秋霞少妇毛片| 午夜丁香| 色综合久久伊伊婷婷五月| 久久婷婷六月综合综合| 婷婷五月天av| 2023天天日夜夜爽| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 亚洲性爱干干| 五月天久久小说| 久久9热| www.夜夜操.con| 亚洲精品**不卡在线播he| 另类激情五月在线视频欧美| 婷五月天天| 97热91| 五月婷婷六月丁香在线视频| 婷婷四色五月| 精品欧美一区二区三区久久久| 天天操人人干| 五月丁香啪啪| 九九九激情网| 91婷婷在线| 成人色情五月天婷婷丁香| 久热在线观看视频9| 久久99热这里只有精品| WWW.桔色成人.COM| 久热亚洲| 五月激情综合网| 亚洲激情.com| 狠狠色丁香五月婷巨| 五月停停大香蕉| 91九色无码日韩| 五月丁香直播| 丁香色五月AV在线| 综合婷婷| 丁香五月冃欧美| 成人版视频在线观看| 色色网站| 五月天激情啪啪| 成人网站在线观看视频| 教师性爱毛片| 婷婷中文无码| 五月婷婷六月激情网| 91超级碰在线视频| 屁股翘好撅高迎合跪趴| 五月天久久婷婷| 五月婷婷丁香深深爱| 婷婷丁香黄色| 极品人妻VideOssS人妻| 久久婷婷五月综合色和| 婷婷五月天激情网| 天啪天啪天啪天啪| 婷婷精品| 久久视频这里99| 91一起艹| 色婷婷色综合久久精品V| 五月丁香婷婷基地| 丁香社区婷婷五月| 天天噜日日噜综合无码| 五月丁小婷婷激情四射| AAA久久| 伊人五月天婷婷| www.激情| 99ri精品在线观看| 天天干,夜夜爽| AV操操操| 五月丁香六月婷婷亚洲激情综合| 婷婷五月天中文字幕| 国产欧美精品AAAAAA片| 日本色色网站| 婷婷色五月色妇| 久久九九玖玖| 婷婷五月丁香青青草在线| 色欲天天综合| 夜夜骑天天玩天天日| 婷婷五月天国产精品| 4399精品一区二区| 亚洲人妻av| 天天操夜夜爽歪歪| 天天色情站| 欧美一线视频| AAA久久| 天天色天天日天天舔| 天天免费成年人视频| 91久久久久久久91| 色色色五月天婷婷| 色吧五月| 丁香婷婷成人网站| 五月丁香六月婷婷中文版| 婷婷综合亚洲| 大香蕉视频99| 99久久婷婷国产综合精品草原| 99综合自拍| 永久地址 色| 超碰在线人妻| 久久婷婷激情四射五月天| 久久久99精品免费观看| 色五月激情网| 天天天干夜夜夜操| 日本色婷婷五月天成人电影| 黄色三级日本| 狠狠色噜噜色狠狠狠综合色 | 亚洲最大五月六月丁香婷婷| 国产xxxxx在线观看| 久久久久激情网| 香蕉网婷婷| 久久这里只精品| 色的色综合| 99综合自拍| 超碰国产一区| 五月天婷婷成人网| 国产亚洲色婷婷久久99精品91| 激情五月天综合| 激情综合网五月天天| 4399亚洲视频| 色色综合院| 天天插操| 五月天色五月| www.婷婷五月天.com| 天天干天天色综合| 亚洲尤物在线| 人妻性爱| 欧美影院婷婷| 黄色91在线观看| 另类丁香五月天区图| 极品少妇XXXX精品少妇偷拍| 色啪综合| 思思99热| 日屌日日操日日色| 99综合99| 色97综合婷婷天天色| caopeng97人人| 日韩在线看AV| 国产看真人毛片爱做A片| 丁香五月激情啪啪| 影音先锋一区| 五月天婷婷在线视频| 色综合日日| 丁香五月天在线直播观看| 欧美群妇大交乱婬网| 玖玖爱资源站| www,超碰| 丁香婷婷婷婷十二月在线观看视频| 国产精品久久久久久久久久免费| 五月亭亭开心网| 五月丁香福利| 色色色五月婷| 日日干天天爽| 五月综合激情视频| 丁香五月婷婷丫| 久热这里只有精品6官网亚洲| 玖玖爱综合网| 成人色图情色成人网 www.5b5b5bcom 五月天| 色色六月| 一区二区成人电影免费播放| 色色无码| 五月天色五月| 日日夜夜狠狠| 另类视频综合| 操人久久| 综合色影院| 日本va欧美va欧美精品88| 色色综合视频| 深爱丁香激情| www.狠狠操.com| 日韩狠狠色婷婷| 亚洲综合激情五月天婷婷| 丁香婷婷网| 丁香婷婷色情| 91精品又长又大又粗又爽又猛| www.玖玖婷婷在线| 成人五月丁香花| 欧美成人精品A片免费一区99| 日韩人妻无码专区| 99热精品在线观看| 精品久久艹| 亚洲综合五月天婷婷| 色色婷婷丁香| 青青草轻轻操| 第四色五月婷婷| 天天做夜夜爽| 丁香五月天资源网| 婷婷激情五月天激情| 99热这里只有精品18| 思思热久久久在线| 丁香五月婷婷激情中文| 丁香五月婷婷综合网| 婷婷五月综合啪| 色五月激情基地| 狠狠狠狠操| WWW.开心五月天.COM| 丁香亚洲婷婷五月| 久这里只有精品| 台湾综合丁香五月蜜桃| 丁香婷婷丁香五月欧美人| caopeng超碰| 久久婷婷六月天| 婷婷性爱视频在线| 五月天婷婷狠狠| 天天干天天曰天天射| 色婷婷综合综合网| 99热欧美精品| 色色色色色五月| 99久久.www| 婷婷色偷拍| 三级毛片7979| 激情综合色婷婷啪啪六月天| 五月天激情网址| 九伊人网| 欧洲亚洲午夜| 9热视频在线观看| 日韩av在线电影| 久久人操| 国产xxxxx在线观看| 九九热只有精品6| 午夜精品777| 5月婷婷六月丁香| 五六月丁香激情视频| 久久99热精品a片在线观看| 激情五月深爱婷婷| 十月色综合| 狠狠色综合网站久久久久| 丁香五月Av| 天天日本夜夜谢| 日本三久久| 色啪影院| 五月天婷婷色综合| 五月丁香六月综合激情| 激情五月综合网| 精品国产一区二区三区四区阿崩| 亚洲成AV人片在线观看| 精品婷婷丁香五| 久久久精品99| 在线观看欧美| 激情五月天婷婷直播| 狠狠狠婷婷五月综合| 思99热精品久久只有精品| 人人操人av| 天天色综网| 婷婷五月天小说| 色色99| 99久久综合| 色婷婷基地 | 伊人婷婷福利网| 天堂二区| 99色免费| 亚洲五月婷| 日本精品在线噜噜噜| 99综合婷婷五月| 色婷婷激情视频| 激情五婷网| 狠狠色噜噜狠狠| 26uuu亚洲| 全部老头和老太XXXXX| 丁香五月停停av| 97碰碰电影| 99色热| 亚洲avjiujiur91| 久久这里都是精品视频| 丁香婷婷色情社区成人小说| 99精在线| AAA久久久| 婷婷丁香五月综合| 丁香婷婷激情网站| www色综合亚洲92| 五月天激情久久| 久青青久| 五月丁香久久呀| 激情五月色婷婷| 97香蕉久久超级碰碰高清版| 婷婷丁香六月天| 91色色色| 亚洲综合五月天婷婷| 狠狠综合区| 色噜噜狠狠色综合日日| 六月婷伊人| 亚洲第一精品成人999久久精品| 久久久无码精品成人A片小说| 五月丁香六月色| 超碰成人公开| www.无码com| 超碰碰碰碰| 五月丁香六月婷婷综合伊人| 99热国产这里只有精品| 九九色图| 中字幕视频在线永久在线观看免费| 丁香五月激情啪啪啪| 色碰碰| 激情五月综合免费| 欧美婷婷五月| 婷婷色啪| 五月天丁香网| 91在线人| 黄网在线免费观看| 丁香五月骚喷水视频| 色 色 色综合com| 九九久久精品| 少妇性BBB搡BBB爽爽爽视頻| 变天就操逼婷婷五月| 91天天操天天干天天射| 国产裸舞福利资源在线视频| 天天摸天天日天天舔| 综合视频久久| 成人精品一区日本无码网| 丁香五月久久社区| 免费九九热| 人妻videos人妻高清| 久久久天天啊| 午夜大香蕉| 性欧美大战久久久久久久83| 欧美天天搞| 五月丁香视频在线观看| 天天爽天天摸天天爱| 婷婷丁香五月激情| 丁香五月天日韩无码| 国产成人av在线播放| 甈你aaaaa| 欧美啪啪9| 少妇人妻丰满做爰XXX| 五月婷婷综合影院| 噜噜综合网| 99在线观看视频| 五月在线| 久久亭亭电影| 九九热在线观看6| 国色天香伊人狠狠色| 97婷婷狠狠| 亚洲天堂婷婷丁香| 丁香玖玖| 开心五月婷婷六月丁香| 青青草原伊人网| 中字幕视频在线永久在线观看免费| 一二线视频 另类| 九九大香视频| 韩国婷婷丁香五月| 成人av在线网址| 嫩草AV久久伊人妇女超级A| 天天色综| 日日操夜夜爽天天天| 婷婷六月综合基地| 日本欧美成人片AAAA| av成人在线播放| 老司机午夜福利视频金瓶梅| www.狠狠艹| 中文字幕在线日亚洲9| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 欧美交换配乱吟粗大25P| 亚洲成人在线观看网址| 日日噜人人人做人| 五月天综合视频| 日本va欧美va国产激情| 月色色综合婷婷网| 婷婷激情五月天天天开心| 久久只有18视频| 日日爽夜夜爽| 六月丁香天堂| 婷婷综合成人五月天| 91九色熟女| 人人操9| 大香蕉伊人久久| 婷婷六月天激情影院| www.99色| 996热re视频在线观看视频| 色情·com| 亚洲五月丁香六月婷婷| 久久五月天激情| 欧美影院婷婷| 丁香成人色情五月天| 欧美激情综合色综合啪啪五月| ...婷婷五月综合不卡,国产在线手机| 五月久久噜噜| 国产性爱一级| 丁香,开心成人,久久| 色婷婷久久| 婷婷五月丁香在线视频| 超碰v| 97人人操在线| 99免费热视频| 九九热最新| 爆乳熟妇一区二区三区爆乳照片| 五月天基地| 99热8| 丁香五月色网| 六月丁香激情综合| 色色色欧美| 在线观看亚洲AV| 2w在线视频| 99re在线观看| A在线观看| 99视频这里只有精品10| 婷婷天堂综合|