欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線(xiàn)實(shí)戰(zhàn)洞察。

算法與infra協(xié)同實(shí)戰(zhàn):從模型部署到推理性能優(yōu)化的完整指南

算法與infra協(xié)同實(shí)戰(zhàn):從模型部署到推理性能優(yōu)化的完整指南 模型在本地調(diào)得再漂亮上了線(xiàn)才發(fā)現(xiàn)GPU利用率不到30%接口P99延遲飄到幾百毫秒算法同學(xué)說(shuō)“我代碼沒(méi)問(wèn)題”infra同學(xué)說(shuō)“我資源也沒(méi)問(wèn)題”兩邊對(duì)著一個(gè)黑盒互相甩鍋——這種場(chǎng)面我在不止一個(gè)團(tuán)隊(duì)里見(jiàn)過(guò)。算法和infra的協(xié)同聽(tīng)起來(lái)是個(gè)工程管理話(huà)題實(shí)際操作起來(lái)全是技術(shù)細(xì)節(jié)推理框架怎么選、batch size怎么定、數(shù)據(jù)管道怎么設(shè)計(jì)、profile的結(jié)果怎么解讀。這篇東西不聊虛的把我自己在一線(xiàn)做“算法-infra協(xié)同”的踩坑經(jīng)驗(yàn)、設(shè)計(jì)思路和排查方法整成一份可復(fù)用的參考給正在被模型部署和性能調(diào)優(yōu)折磨的算法工程師、以及被各種“優(yōu)化需求”打擾的infra工程師都做個(gè)參照。我前幾年主導(dǎo)過(guò)一個(gè)推薦模型的推理服務(wù)優(yōu)化項(xiàng)目從最開(kāi)始的兩邊互相看不懂到后面沉淀出一套配合模式中間的過(guò)程很能說(shuō)明問(wèn)題。下面按我自己的實(shí)踐路徑把整個(gè)協(xié)同過(guò)程拆開(kāi)講。1. 為什么“算法-infra協(xié)同”成了必須面對(duì)的問(wèn)題1.1 算法模型跑通只是第一步上線(xiàn)才是真正的門(mén)檻很多算法團(tuán)隊(duì)習(xí)慣的交付狀態(tài)是模型在離線(xiàn)評(píng)測(cè)集上指標(biāo)達(dá)標(biāo)然后在Jupyter Notebook里跑通一個(gè)推理demo就認(rèn)為“算法已經(jīng)完成”。但實(shí)際情況是從Notebook到生產(chǎn)服務(wù)之間有一道巨大的鴻溝這道鴻溝幾乎全是infra的領(lǐng)域。拿我自己踩過(guò)的坑來(lái)說(shuō)。有一次我們訓(xùn)練好的CTR模型離線(xiàn)AUC比舊模型高了三個(gè)千分點(diǎn)算法同學(xué)很開(kāi)心覺(jué)得這個(gè)版本穩(wěn)了。但一到線(xiàn)上壓測(cè)就傻眼了單機(jī)QPS只有預(yù)期的四分之一P99延遲超過(guò)500毫秒線(xiàn)上流量稍微一抖服務(wù)直接超時(shí)雪崩。那時(shí)候算法和infra互相都覺(jué)得是對(duì)方的問(wèn)題。算法覺(jué)得“模型邏輯就這么簡(jiǎn)單無(wú)非就是個(gè)矩陣乘法加激活函數(shù)怎么可能這么慢”infra覺(jué)得“機(jī)器配置給夠了是你模型代碼寫(xiě)得爛”。后來(lái)profile一查問(wèn)題根本不在模型計(jì)算本身特征拼接時(shí)反復(fù)做內(nèi)存拷貝、Python側(cè)循環(huán)處理請(qǐng)求、每個(gè)請(qǐng)求都重新加載一次詞表這些代碼層面的問(wèn)題全被忽略了。模型本身可能只占整個(gè)推理鏈路的20%時(shí)間剩下80%都被數(shù)據(jù)處理、框架調(diào)度、IO等待吃掉了。這件事給我的教訓(xùn)是算法模型的“正確性”和系統(tǒng)的“可用性”是兩回事。算法同學(xué)的交付物不應(yīng)該只是模型權(quán)重還應(yīng)該包含對(duì)推理鏈路的整體理解以及和infra一起把系統(tǒng)調(diào)優(yōu)到可用的狀態(tài)的意愿。1.2 協(xié)同斷點(diǎn)到底卡在哪里要說(shuō)算法和infra的協(xié)同難難就難在兩邊的心智模型不一樣。我觀察下來(lái)斷點(diǎn)主要集中在這幾個(gè)地方。第一個(gè)斷點(diǎn)是語(yǔ)言不通。算法同學(xué)張口閉口是“AUC”、“l(fā)oss收斂”、“Embedding維度”infra同學(xué)關(guān)心的是“QPS”、“P99時(shí)延”、“CPU水位”、“內(nèi)存占用”。兩邊都在說(shuō)性能但說(shuō)的根本不是一回事。算法眼里的“性能”是模型效果指標(biāo)infra眼里的“性能”是系統(tǒng)資源指標(biāo)中間缺一個(gè)翻譯層。第二個(gè)斷點(diǎn)是交付物邊界不清。算法覺(jué)得“我把模型文件發(fā)給你就行了”infra覺(jué)得“你給我的模型我跑不起來(lái)”。模型用什么框架導(dǎo)出、有沒(méi)有帶預(yù)處理邏輯、依賴(lài)的Python包版本、詞表文件在哪、特征維度是多少這些信息如果不掉清楚infra同學(xué)就得靠猜。猜的代價(jià)就是反復(fù)試錯(cuò)時(shí)間全耗在溝通上。第三個(gè)斷點(diǎn)是資源評(píng)估全靠拍腦袋。算法說(shuō)“給我4張A100”問(wèn)他要4張卡的理由他說(shuō)“可能不夠多要點(diǎn)保險(xiǎn)”。infra那邊資源池本來(lái)就不寬裕一看這種申請(qǐng)直接打回。其實(shí)完全可以做精細(xì)化評(píng)估跑一下profile看顯存峰值和計(jì)算密度再用公式估算一下吞吐需求有理有據(jù)地填申請(qǐng)單。第四個(gè)斷點(diǎn)是性能問(wèn)題定位的方式不對(duì)。我見(jiàn)過(guò)有團(tuán)隊(duì)遇到線(xiàn)上延遲高第一反應(yīng)是“加機(jī)器”結(jié)果加了兩倍的機(jī)器延遲一點(diǎn)沒(méi)降因?yàn)槠款i在CPU上的數(shù)據(jù)預(yù)處理不在GPU推理。按加機(jī)器來(lái)擴(kuò)容完全擴(kuò)錯(cuò)了方向。這些斷點(diǎn)單獨(dú)看都是小事但疊在一起就會(huì)形成巨大的協(xié)作成本。我后來(lái)總結(jié)了一個(gè)觀點(diǎn)算法和infra的協(xié)同本質(zhì)上是要找到一種方式把彼此的領(lǐng)域知識(shí)翻譯成對(duì)方能理解的語(yǔ)言比如用可量化的指標(biāo)、標(biāo)準(zhǔn)的交付格式、清晰的流程節(jié)點(diǎn)把這些知識(shí)編碼下來(lái)。2. 我在協(xié)同項(xiàng)目里的整體設(shè)計(jì)思路2.1 從“交付模型”轉(zhuǎn)向“交付服務(wù)”這個(gè)轉(zhuǎn)變是我做協(xié)同優(yōu)化時(shí)第一個(gè)確立的原則。如果算法團(tuán)隊(duì)的交付物只是模型文件那infra團(tuán)隊(duì)的職責(zé)就成了“把模型跑起來(lái)”至于跑得好不好、快不快全是infra的事算法自然就不關(guān)心推理性能。這樣分工從根上就有問(wèn)題因?yàn)橥评硇阅艿暮艽笠徊糠秩Q于模型結(jié)構(gòu)、算子實(shí)現(xiàn)和特征處理方式這些都在算法團(tuán)隊(duì)的控制范圍內(nèi)。正確的做法是把交付邊界往后推算法團(tuán)隊(duì)交付的不只是模型文件還包括一套推理服務(wù)的可運(yùn)行版本。這套版本要有明確的性能指標(biāo)要求比如目標(biāo)QPS、目標(biāo)延遲、吞吐上限并且要附帶模型對(duì)資源需求的估算說(shuō)明比如建議的batch size范圍、顯存占用預(yù)估、CPU內(nèi)存需求。infra團(tuán)隊(duì)基于這套交付物做容量規(guī)劃和部署調(diào)優(yōu)雙方的責(zé)任邊界從“模型文件”移動(dòng)到了“性能指標(biāo)”。你說(shuō)這不是算法團(tuán)隊(duì)得多干不少活嗎確實(shí)多了但這種“多”是必要的。因?yàn)橹挥袑?xiě)模型的團(tuán)隊(duì)才最清楚模型的計(jì)算圖、內(nèi)存占用和算子特性這些信息轉(zhuǎn)述給infra要么失真要么說(shuō)不全。把性能要求寫(xiě)進(jìn)交付規(guī)范雙方對(duì)話(huà)就有了共同基準(zhǔn)。2.2 接口規(guī)范化讓算法和infra解耦的關(guān)鍵第二個(gè)原則是接口規(guī)范化。我之前出現(xiàn)過(guò)不少讓人崩潰的協(xié)作問(wèn)題算法同學(xué)說(shuō)“這個(gè)實(shí)現(xiàn)依賴(lài)Python 3.8的一個(gè)特性”infra同學(xué)部署的生產(chǎn)環(huán)境是Python 3.7直接跑不起來(lái)或者模型輸入的特征順序算法和工程端理解的不一樣上線(xiàn)之后預(yù)測(cè)結(jié)果全亂了。后來(lái)我們做了一個(gè)標(biāo)準(zhǔn)化的模型服務(wù)接口規(guī)范把模型推理的輸入輸出格式固定下來(lái)特征按有序字典傳入模型版本用語(yǔ)義化版本號(hào)管理配置信息如batch size、并發(fā)數(shù)、超時(shí)時(shí)間全部外置到配置文件里。這樣算法迭代模型時(shí)不需要改動(dòng)服務(wù)框架infra升級(jí)基礎(chǔ)設(shè)施時(shí)也不需要跟算法確認(rèn)每個(gè)細(xì)節(jié)。模型文件、特征配置、服務(wù)框架、資源規(guī)格四層各管各的通過(guò)標(biāo)準(zhǔn)化接口銜接。這個(gè)設(shè)計(jì)很像軟件工程里的依賴(lài)倒置原則高層的算法邏輯不要依賴(lài)底層的具體基礎(chǔ)設(shè)施底層基礎(chǔ)設(shè)施也不要反哺高層的模型代碼兩邊只依賴(lài)抽象接口。實(shí)踐下來(lái)這個(gè)解耦帶來(lái)的好處是兩邊可以并行推進(jìn)不再互相阻塞。2.3 用性能基線(xiàn)和透明數(shù)據(jù)建立信任第三個(gè)原則是用數(shù)據(jù)說(shuō)話(huà)建立性能基線(xiàn)。在協(xié)同項(xiàng)目里最怕的不是性能差而是性能數(shù)據(jù)不透明。算法說(shuō)“我這個(gè)模型很快”沒(méi)有任何數(shù)據(jù)支撐infra說(shuō)“服務(wù)器有瓶頸”也說(shuō)不清瓶頸在哪。最后只能靠嗓門(mén)大。我們的做法是建立一套標(biāo)準(zhǔn)的性能評(píng)測(cè)流程每次模型迭代上線(xiàn)前都要在固定的評(píng)測(cè)環(huán)境下跑一次壓測(cè)記錄吞吐量、P99時(shí)延、GPU利用率、顯存占用、CPU開(kāi)銷(xiāo)等核心指標(biāo)把這些指標(biāo)記錄到一份自動(dòng)生成的評(píng)測(cè)報(bào)告里和上一版本做對(duì)比。誰(shuí)快誰(shuí)慢、快在哪慢在哪一目了然不再有“我覺(jué)得”“我感覺(jué)”的空間。這套評(píng)測(cè)流程跑起來(lái)之后我明顯感覺(jué)到兩邊溝通順暢多了。infra說(shuō)“你的服務(wù)GPU利用率低”直接拿出監(jiān)控截圖和nvidia-smi數(shù)據(jù)算法說(shuō)“這個(gè)算子慢”直接拿出profiling報(bào)告指出熱點(diǎn)。數(shù)據(jù)代替了猜測(cè)協(xié)作自然就高效了。3. 推理服務(wù)協(xié)同優(yōu)化的實(shí)操全過(guò)程3.1 環(huán)境準(zhǔn)備階段選對(duì)工具鏈后面能省一半的麻煩這個(gè)項(xiàng)目的目標(biāo)是讓一個(gè)推薦模型的在線(xiàn)推理服務(wù)達(dá)到線(xiàn)上要求支撐2000 QPS的流量P99延遲不超過(guò)100毫秒。模型用的是DeepFM架構(gòu)特征規(guī)模大約5000萬(wàn)維稀疏特征加200維稠密特征服務(wù)于用戶(hù)點(diǎn)擊率預(yù)估場(chǎng)景。環(huán)境選型上我們做了一輪比較。模型原本是用PyTorch訓(xùn)練的原計(jì)劃直接用PyTorch做推理服務(wù)但壓測(cè)發(fā)現(xiàn)Python側(cè)的開(kāi)銷(xiāo)太高GIL讓多線(xiàn)程并發(fā)受限后來(lái)?yè)Q成了ONNX Runtime加TensorRT的后端方案。ONNX Runtime負(fù)責(zé)從PyTorch導(dǎo)出的模型做轉(zhuǎn)換和執(zhí)行TensorRT在NVIDIA GPU上做算子融合和精度校準(zhǔn)。實(shí)測(cè)下來(lái)單卡的推理吞吐比純PyTorch提升了接近3倍P99時(shí)延也降了一個(gè)數(shù)量級(jí)。工具鏈方面profile用的是PyTorch自帶的torch.profiler配合NVIDIA的Nsight Systems資源監(jiān)控用的Prometheus加Grafana部署走的是Docker加Kubernetes。這套組合的好處是覆蓋了從模型算子級(jí)別到系統(tǒng)資源級(jí)別的全鏈路觀測(cè)兩邊拿到的數(shù)據(jù)是同一套不會(huì)再出現(xiàn)“我這邊看到CPU滿(mǎn)了你那邊說(shuō)進(jìn)程很閑”這種數(shù)據(jù)對(duì)不上的情況。3.2 從單卡推理到服務(wù)化部署這一步隱藏了最多的坑模型導(dǎo)出之后第一版直接拿ONNX Runtime的Python接口做了個(gè)Wrap然后用Flask啟動(dòng)了一個(gè)HTTP服務(wù)。簡(jiǎn)單測(cè)了一下能跑通但很快就暴露了問(wèn)題Python接口的調(diào)用開(kāi)銷(xiāo)很大每次請(qǐng)求進(jìn)來(lái)都要做Python和C之間的數(shù)據(jù)交換而且不支持真正的多進(jìn)程并行推理CPU并發(fā)利用不起來(lái)。后來(lái)改成了ONNX Runtime的C部署方案配合TensorRT的engine來(lái)做推理。這一步改動(dòng)帶來(lái)的性能提升非常直接因?yàn)槭〉袅薖ython解釋器這層開(kāi)銷(xiāo)每次推理調(diào)用的延遲直接砍掉了三分之一。同時(shí)我們用內(nèi)存映射的方式預(yù)加載了模型的Embedding參數(shù)避免了每個(gè)請(qǐng)求都從磁盤(pán)讀取參數(shù)導(dǎo)致的IO抖動(dòng)。服務(wù)端的并發(fā)模型也做了一輪重構(gòu)。最初是每個(gè)請(qǐng)求一個(gè)小線(xiàn)程線(xiàn)程切換開(kāi)銷(xiāo)大后來(lái)改成了線(xiàn)程池加有界隊(duì)列的模式根據(jù)目標(biāo)QPS動(dòng)態(tài)調(diào)整worker數(shù)量配合OMP_NUM_THREADS環(huán)境變量控制底層并行度。這么改完單實(shí)例的QPS從原來(lái)的不到400提升到了接近1500CPU和GPU的使用率也均衡了很多。這里有個(gè)數(shù)據(jù)值得記錄一下同樣的模型和機(jī)器純Python部署的P99時(shí)延是180ms換成C后端之后降到了58ms再配合TensorRT的FP16精度優(yōu)化進(jìn)一步降到了35ms。這三步優(yōu)化每一步單獨(dú)拿出來(lái)看都不算大工程但疊加起來(lái)就是數(shù)量級(jí)的差別。3.3 壓測(cè)過(guò)程和瓶頸分析把一切問(wèn)題擺到明面上壓測(cè)工具用的是wrk加自研的流量回放腳本。wrk負(fù)責(zé)模擬高并發(fā)HTTP請(qǐng)求流量回放腳本則從線(xiàn)上Nginx日志抽取真實(shí)請(qǐng)求樣本按時(shí)間戳順序重放到測(cè)試服務(wù)上盡量還原線(xiàn)上請(qǐng)求的特征包括請(qǐng)求大小分布、特征稀疏度、以及峰值時(shí)刻的流量形態(tài)。壓測(cè)分為三輪。第一輪是小流量驗(yàn)證用100 QPS跑10分鐘確認(rèn)功能正確、內(nèi)存沒(méi)有泄漏、日志沒(méi)有報(bào)錯(cuò)。第二輪是加壓測(cè)試從500 QPS起步每2分鐘增加250 QPS觀察各項(xiàng)指標(biāo)的變化趨勢(shì)找到服務(wù)崩潰的臨界點(diǎn)。第三輪是持續(xù)穩(wěn)定性測(cè)試用目標(biāo)負(fù)載的80%1600 QPS連續(xù)跑8小時(shí)確認(rèn)長(zhǎng)時(shí)間運(yùn)行下沒(méi)有內(nèi)存膨脹、句柄泄漏等問(wèn)題。瓶頸分析階段我們抓到了好幾個(gè)經(jīng)典問(wèn)題。第一個(gè)是第一個(gè)版本在1000 QPS左右時(shí)P99延遲突然從60ms跳升到400ms查下來(lái)發(fā)現(xiàn)是Python側(cè)的特征預(yù)處理線(xiàn)程變成了瓶頸CPU打滿(mǎn)GPU反而在空轉(zhuǎn)。解決辦法是預(yù)處理部分全部向C側(cè)下沉用ONNX Runtime的custom operator實(shí)現(xiàn)特征拼接把CPU和GPU的工作重新配平。第二個(gè)是壓測(cè)跑到中段出現(xiàn)周期性延遲尖峰后來(lái)發(fā)現(xiàn)是日志寫(xiě)的太頻繁磁盤(pán)IO被打滿(mǎn)改成異步日志之后尖峰消失。第三個(gè)是Embedding查表在GPU上表現(xiàn)為顯存訪(fǎng)問(wèn)不連續(xù)用class-wise的存儲(chǔ)布局優(yōu)化之后這塊耗時(shí)又降了一些。這些瓶頸沒(méi)有一個(gè)能被直覺(jué)直接發(fā)現(xiàn)全靠profile數(shù)據(jù)才能定位。所以我強(qiáng)烈建議優(yōu)化性能的時(shí)候一定要先把“當(dāng)前時(shí)間花在哪兒”搞清楚再談怎么優(yōu)化千萬(wàn)不要憑感覺(jué)。4. 協(xié)同過(guò)程中必踩的坑與解決方案實(shí)錄4.1 “GPU利用率上不去”到底是誰(shuí)的鍋這是我在協(xié)同項(xiàng)目里被問(wèn)過(guò)最多的問(wèn)題也是算法和infra最容易吵架的導(dǎo)火索。很多團(tuán)隊(duì)拿“GPU利用率”作為模型服務(wù)效率的核心指標(biāo)但GPU利用率低的原因遠(yuǎn)比想象的復(fù)雜不一定是模型的錯(cuò)。我見(jiàn)過(guò)的GPU利用率低的典型原因有這么幾類(lèi)數(shù)據(jù)加載和預(yù)處理太慢GPU在等數(shù)據(jù)利用率自然上不去batch size設(shè)得太小GPU的并行能力沒(méi)有充分釋放CPU側(cè)的Python邏輯占了太多時(shí)間GPU一直在空轉(zhuǎn)模型本身有串行依賴(lài)計(jì)算圖并行度不夠。每一類(lèi)對(duì)應(yīng)的解法完全不同。定位方法說(shuō)起來(lái)很簡(jiǎn)單打開(kāi)Nsight Systems或者nvidia-smi的監(jiān)控看GPU到底是“計(jì)算密集”還是“空閑等待”。如果是等待就去看CPU側(cè)在忙什么如果是計(jì)算密集但利用率依舊低那就去看模型的計(jì)算圖是不是存在大量的串行節(jié)點(diǎn)。有一次我們排查一個(gè)BERT的服務(wù)發(fā)現(xiàn)GPU利用率一直只有20%多profile一看問(wèn)題在CPU側(cè)的分詞器上——每次請(qǐng)求都要重新做一次分詞一個(gè)毫秒級(jí)的操作在并發(fā)量大的時(shí)候被放大成了巨大的等待。改成預(yù)分詞加緩存之后GPU利用率直接翻倍。這類(lèi)問(wèn)題暴露出來(lái)以后我最大的感觸是千萬(wàn)不要把“GPU利用率低”當(dāng)作某個(gè)人的責(zé)任問(wèn)題它更接近一個(gè)系統(tǒng)問(wèn)題。GPU利用率是結(jié)果指標(biāo)不是原因指標(biāo)單純盯著它沒(méi)什么用還是要一級(jí)一級(jí)往下拆。4.2 模型精度復(fù)現(xiàn)不了的隱形元兇模型從PyTorch導(dǎo)出到ONNX再到TensorRT之后經(jīng)常有算法同學(xué)跑回來(lái)反饋“線(xiàn)上預(yù)測(cè)結(jié)果和離線(xiàn)對(duì)不上?!币婚_(kāi)始我們以為是模型導(dǎo)出過(guò)程出了錯(cuò)后來(lái)才發(fā)現(xiàn)最隱蔽的問(wèn)題來(lái)自“數(shù)值精度”和“算子實(shí)現(xiàn)差異”。PyTorch在GPU訓(xùn)練時(shí)默認(rèn)用FP32推理轉(zhuǎn)成TensorRT的FP16后部分算子比如LayerNorm、Softmax的數(shù)值精度會(huì)有微小差異在大多數(shù)場(chǎng)景下不影響排序但有些邊界樣本的預(yù)測(cè)值會(huì)變化幾個(gè)百分點(diǎn)。算法同學(xué)如果拿著離線(xiàn)全精度的輸出和線(xiàn)上半精度的輸出逐條比對(duì)就會(huì)看到差異。解決的辦法是分類(lèi)處理對(duì)精度有嚴(yán)格要求的任務(wù)比如風(fēng)控、金融場(chǎng)景保持FP32推理用算子融合和優(yōu)化內(nèi)存訪(fǎng)問(wèn)來(lái)提速對(duì)排序、推薦這類(lèi)對(duì)絕對(duì)概率值不敏感、只看相對(duì)順序的任務(wù)可以用FP16甚至INT8配合校準(zhǔn)集把精度損失控制在一個(gè)很小的范圍內(nèi)。還有個(gè)容易被忽略的點(diǎn)是框架版本差異PyTorch 1.x和2.x導(dǎo)出的ONNX算子集不一樣TensorRT版本不同也可能導(dǎo)致同樣的模型在部署時(shí)行為不同。所以必須把“訓(xùn)練框架版本、導(dǎo)出工具版本、推理框架版本”這三項(xiàng)固定下來(lái)做成一個(gè)部署配置的“鐵三角”任何一項(xiàng)升級(jí)都要重新回歸。4.3 資源申請(qǐng)被駁回其實(shí)是可以避免的“申請(qǐng)4張A100被infra駁回了說(shuō)我浪費(fèi)資源怎么辦”這種問(wèn)題我隔三差五就能遇到。實(shí)際情況是不少算法同學(xué)根本不估算自己到底需要多少資源申請(qǐng)的時(shí)候全靠感覺(jué)往大了填。infra那邊資源池是共享的肯定優(yōu)先批給那些能說(shuō)清楚需求的團(tuán)隊(duì)。資源估算其實(shí)沒(méi)那么難。第一步在目標(biāo)機(jī)器上跑一次真實(shí)的訓(xùn)練或推理任務(wù)記錄峰值顯存和平均顯存這就是“單實(shí)例基線(xiàn)”。第二步根據(jù)訓(xùn)練數(shù)據(jù)量和目標(biāo)訓(xùn)練周期估算需要的總算力公式大概是總算力需求FLOPs 單樣本前向計(jì)算量 × 訓(xùn)練樣本數(shù) × epoch數(shù)。第三步結(jié)合單卡算力算出需要的顯卡數(shù)量和訓(xùn)練天數(shù)再留出20%到30%的冗余應(yīng)對(duì)波動(dòng)。拿這個(gè)思路去和infra溝通交流起來(lái)完全不同。你說(shuō)“我需要4張卡跑完需要3天實(shí)測(cè)單卡峰值顯存是38GB考慮數(shù)據(jù)加載波動(dòng)留了10%的buffer需要40GB以上的卡”這種申請(qǐng)沒(méi)有理由被駁回。說(shuō)到底資源申請(qǐng)不只是填個(gè)數(shù)字它本身就是一種工程能力是算法和infra之間建立信任的重要一環(huán)。5. 把協(xié)同能力沉淀成團(tuán)隊(duì)資產(chǎn)5.1 給算法同學(xué)的建議不要把“跑通了”當(dāng)作交付完成我自己也是算法出身太知道“跑通”和“交付”之間的差距了。模型在Notebook里跑通了只是證明你的思路在二三十個(gè)樣本上可行真正讓模型產(chǎn)生價(jià)值的是它能穩(wěn)定地服務(wù)線(xiàn)上流量還能在流量翻倍時(shí)不崩在資源減半時(shí)依然可控。這些要求都不是算法同學(xué)的“分內(nèi)事”但如果完全不關(guān)心你的模型就永遠(yuǎn)活不過(guò)上線(xiàn)那一天。所以至少要做到交付模型時(shí)附帶一份“模型說(shuō)明卡”內(nèi)容包括模型結(jié)構(gòu)、輸入輸出的字段和類(lèi)型、依賴(lài)的框架及版本、詞表在線(xiàn)獲取方式、推薦的batch size范圍、估計(jì)的顯存占用、冷啟動(dòng)時(shí)間、對(duì)CPU和內(nèi)存的依賴(lài)。這份卡片不要求多規(guī)范但至少能讓infra同學(xué)不用靠猜來(lái)部署你的模型。另外學(xué)會(huì)讀profile是算法同學(xué)性?xún)r(jià)比最高的技能投資。一個(gè)模型服務(wù)慢90%的情況下用profile都能找到原因。我見(jiàn)過(guò)太多人拿著性能問(wèn)題去找infra連自己程序的火焰圖都沒(méi)看過(guò)一眼。不要只會(huì)跑訓(xùn)練要學(xué)會(huì)看推理的計(jì)算熱點(diǎn)。掌握這一項(xiàng)技能你在協(xié)同中的話(huà)語(yǔ)權(quán)會(huì)高很多。5.2 給基礎(chǔ)設(shè)施同學(xué)的建議把“不行”變成“怎么才行”infra同學(xué)在這類(lèi)協(xié)同里也有一個(gè)常見(jiàn)的立場(chǎng)問(wèn)題因?yàn)殚L(zhǎng)期被各種不靠譜的資源申請(qǐng)和不規(guī)范的服務(wù)代碼折磨容易變成一個(gè)“什么都說(shuō)不行”的狀態(tài)。這樣短期看是保護(hù)了資源池長(zhǎng)期看會(huì)壓制業(yè)務(wù)的迭代速度最后被業(yè)務(wù)方集體吐槽“基礎(chǔ)設(shè)施跟不上業(yè)務(wù)”。我的建議是infra團(tuán)隊(duì)的重點(diǎn)不應(yīng)該放在審批和拒絕上而是應(yīng)該放在提供“自助能力”上。比如做一個(gè)標(biāo)準(zhǔn)的模型部署平臺(tái)算法同學(xué)上傳模型文件、選定推理框架和后端配置平臺(tái)自動(dòng)生成Docker鏡像、分配測(cè)試環(huán)境、跑一輪標(biāo)準(zhǔn)壓測(cè)、輸出性能報(bào)告?;A(chǔ)設(shè)施把通用的能力沉淀成工具和流程就能把“每個(gè)項(xiàng)目都要人肉介入支持一次”的重復(fù)勞動(dòng)省掉。這需要在思想上做一個(gè)轉(zhuǎn)變infra的kpi不是“管住了多少資源”而是“業(yè)務(wù)能多快地把模型部署上線(xiàn)并且用盡量少的資源跑起來(lái)”。如果基礎(chǔ)設(shè)置的同學(xué)能往這個(gè)方向做算法和infra的摩擦?xí)『芏唷?.3 把復(fù)盤(pán)和知識(shí)沉淀變成日常動(dòng)作項(xiàng)目結(jié)束之后我們做了一次總結(jié)把整個(gè)協(xié)同過(guò)程中的經(jīng)驗(yàn)和工具沉淀成了幾樣?xùn)|西一份模型交付標(biāo)準(zhǔn)文檔、一個(gè)自動(dòng)化壓測(cè)腳本、一套性能基準(zhǔn)數(shù)據(jù)表、一段線(xiàn)上問(wèn)題排查的SOP。這些資產(chǎn)的價(jià)值在后面的幾次迭代里被充分證明了——新模型上線(xiàn)的時(shí)間從一開(kāi)始的三天壓縮到了半天性能問(wèn)題的定位時(shí)間也從按小時(shí)計(jì)縮短到了按分鐘計(jì)。復(fù)盤(pán)形式上我們沒(méi)有搞那種全員參加的PPT大會(huì)就是內(nèi)部拉了一個(gè)文檔把從模型開(kāi)發(fā)到部署調(diào)優(yōu)到線(xiàn)上穩(wěn)定的過(guò)程中所有關(guān)鍵決策、踩坑記錄、數(shù)據(jù)截圖、最終結(jié)論全部寫(xiě)進(jìn)去想到什么記什么。每周項(xiàng)目例會(huì)上花15分鐘過(guò)一遍。三個(gè)月后回頭翻這份文檔里面很多記錄在當(dāng)下看來(lái)已經(jīng)成了團(tuán)隊(duì)共識(shí)但如果沒(méi)有當(dāng)時(shí)的記錄這些共識(shí)根本建立不起來(lái)。還有一點(diǎn)很關(guān)鍵知識(shí)沉淀要落到代碼和腳本里不能只活在文檔里。比如“壓測(cè)時(shí)必須監(jiān)控GPU利用率”這個(gè)原則寫(xiě)在文檔里可能過(guò)幾周就沒(méi)人看了但如果寫(xiě)進(jìn)壓測(cè)腳本里每次壓測(cè)結(jié)束自動(dòng)出一份指標(biāo)報(bào)告這個(gè)原則就變成了流程的一部分天然被強(qiáng)制執(zhí)行。制度化永遠(yuǎn)是比自覺(jué)更可靠的保障。6. 一個(gè)更長(zhǎng)期的視角算法與基礎(chǔ)設(shè)施雙輪驅(qū)動(dòng)的演進(jìn)路徑6.1 模型迭代和基礎(chǔ)設(shè)施演進(jìn)要配套走我們剛開(kāi)始做這個(gè)協(xié)同項(xiàng)目的時(shí)候總覺(jué)得模型迭代是最重要的infra只是“陪跑”。但做到后面才發(fā)現(xiàn)兩者其實(shí)是在互相牽引的。模型側(cè)有個(gè)新想法比如從單模態(tài)走向多模態(tài)或者模型結(jié)構(gòu)要從2D卷積換成3D卷積這對(duì)基礎(chǔ)設(shè)施提出的要求是完全不同的反過(guò)來(lái)基礎(chǔ)設(shè)施這邊推理框架升級(jí)支持了新的算子和精度模式也會(huì)反過(guò)來(lái)影響模型側(cè)怎么做結(jié)構(gòu)設(shè)計(jì)和調(diào)優(yōu)。所以現(xiàn)在我們?cè)谧黾夹g(shù)規(guī)劃時(shí)會(huì)把算法和infra放在同一個(gè)盤(pán)子里看。每次新模型立項(xiàng)的時(shí)候算法團(tuán)隊(duì)要寫(xiě)清楚預(yù)期的推理需求和資源消耗infra團(tuán)隊(duì)根據(jù)這個(gè)需求反饋基礎(chǔ)設(shè)施的改造計(jì)劃兩邊一起排期而不是等算法做完了再丟給infra“看看能不能跑”。這種平行推進(jìn)的節(jié)奏看起來(lái)很慢實(shí)際算總時(shí)間反而更快因?yàn)樗鼫p少了大量返工和等待。6.2 “算法-infra協(xié)同”的三種模式根據(jù)團(tuán)隊(duì)的大小和業(yè)務(wù)復(fù)雜度我觀察到的協(xié)同模式大概有三類(lèi)你可以看看自己團(tuán)隊(duì)現(xiàn)在卡在哪一類(lèi)。第一種是“工程師一肩挑”小團(tuán)隊(duì)里算法同學(xué)順便把自己寫(xiě)的服務(wù)部署上線(xiàn)了這種模式最靈活但對(duì)個(gè)人能力要求極高而且隨著業(yè)務(wù)變大很難維持。第二種是“接口人協(xié)作”算法和infra各派一個(gè)人負(fù)責(zé)對(duì)接互相轉(zhuǎn)述需求這種模式對(duì)接口人的能力依賴(lài)極大接口人一換人就可能崩。第三種是“流程化協(xié)同”通過(guò)標(biāo)準(zhǔn)的交付物、性能指標(biāo)、部署流程來(lái)協(xié)作人和人之間對(duì)具體細(xì)節(jié)的依賴(lài)降到最低這也是我在這篇文章里主要推薦的做法。三種模式之間不是互斥的團(tuán)隊(duì)小的時(shí)候可以用第一種起家逐漸過(guò)渡到第二種最后在業(yè)務(wù)量上來(lái)之后用第三種方式做長(zhǎng)治久安的保障。關(guān)鍵是心里要有個(gè)譜現(xiàn)在的協(xié)同方式在小規(guī)模下夠用但它不會(huì)自動(dòng)適配更大體量的團(tuán)隊(duì)和更復(fù)雜的業(yè)務(wù)。6.3 數(shù)據(jù)驅(qū)動(dòng)的協(xié)同能力評(píng)估最后一個(gè)想聊的心得是協(xié)同本身也要量化不能被“最近好像合作好多了”這種模糊感覺(jué)帶過(guò)去。我們每個(gè)月會(huì)看幾個(gè)關(guān)鍵數(shù)字平均模型上線(xiàn)周期、壓測(cè)通過(guò)率、資源超用率、線(xiàn)上重大性能事件次數(shù)。這組數(shù)字能直觀反映算法和infra之間的配合是否在變好而不是憑某幾次印象做判斷。我第一次提出這個(gè)想法時(shí)有同事開(kāi)玩笑說(shuō)“連協(xié)同都要上指標(biāo)了是不是卷過(guò)頭了”。但實(shí)際跑下來(lái)效果還挺好。因?yàn)橐坏?shù)字看得到就總有人會(huì)想辦法改進(jìn)數(shù)字。比如那陣子壓測(cè)通過(guò)率只有60%大家分析一圈發(fā)現(xiàn)是模型交付的“模型說(shuō)明卡”寫(xiě)得不完整infra拿到模型以后各種猜浪費(fèi)了不少時(shí)間。后來(lái)把說(shuō)明卡模板和交付工具打通壓測(cè)通過(guò)率很快升了上來(lái)。如果沒(méi)有數(shù)據(jù)這種問(wèn)題可能永遠(yuǎn)藏在“溝通不太順”的模糊說(shuō)法里誰(shuí)也看不到具體的短板在哪里。所以我的建議是如果你的團(tuán)隊(duì)也經(jīng)常因?yàn)樗惴ê蚷nfra的邊界吵架、推諉先別急著開(kāi)“加強(qiáng)溝通”的會(huì)不如一起定一套可量化的協(xié)同指標(biāo)把問(wèn)題擺到明面上。數(shù)據(jù)到位了協(xié)作自然會(huì)改善。我個(gè)人在帶著團(tuán)隊(duì)跑完這個(gè)項(xiàng)目之后最大的感受就是算法和infra的協(xié)同說(shuō)到底是兩個(gè)知識(shí)體系之間的翻譯工作。算法同學(xué)需要理解一點(diǎn)系統(tǒng)原理和工程約束infra同學(xué)也要懂一點(diǎn)模型推理的基本邏輯中間用標(biāo)準(zhǔn)化的接口、可量化的指標(biāo)和數(shù)據(jù)化的復(fù)盤(pán)來(lái)搭橋。不要指望靠幾次團(tuán)建或幾輪溝通就能根治協(xié)作問(wèn)題真正管用的還是把這些協(xié)同點(diǎn)固化到流程和技術(shù)里讓流程替人去記憶、去執(zhí)行。這一步做到了團(tuán)隊(duì)的能力才算真正沉淀下來(lái)。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
操人久久| 天堂呦 呦百度搜索-百度搜索| 丁香五月日啪| 高清av在线国产| 天天爽天天| 91婷婷丁香五月天免费视频网站| 97搞在线| 五月天婷婷基地| 色婷婷五月天激情在线播放| 婷婷九月在线| 成人无码精品1区2区3区免费看| 丁香五月在线视频黑人| 五月久熟女| 9久久精品| 99久久er| www.婷婷| 青青操日本摸摸看看| 99狠狠色| 99性感视频| 欧美天天搞| 色五月婷婷基地| 天堂草在线观| 综合激情五月四射婷婷| 91在线观看www| av在线资源| 色欲五月天| 天天色综| 无码激情AAAAA片-区区| 日韩一66精品| 久久伊人9| 少妇高潮呻吟A片免费看软件| 色五XX| 五月天丁香综合| 日韩黄在免| 大香蕉婷婷五月| 亚洲无码成人性爰网| 懂色av蜜臀av粉嫩av永陈冠希| 九九黄色网| 五月久久婷婷成人网| 丁香五月电影| 日本黄色精品| 婷婷视频在线碰| 五月丁香福利| 久久金品黃色| 婷婷亚洲在线| 久久这里只有精品07 | 色五月亚洲五月天| 99久久玖玖| 色狠狠色噜噜AV天堂五区 | 亚洲视频99| 五月天激情国产综合婷婷婷就去爱| 日韩99无码| 激情六月综合| 97碰碰在线观看视频| 婷婷综合五月天激情| 丁香五月社区| 七七九色| 亚洲精品激情| 1995年关宝慧版蜘蛛女| 婷婷AV丁香| 91丨九色丨熟女丰满| 无遮羞AV| 国产成人精品一区二三区熟女在线 | 婷婷成人网五月天| 狠狠精品干练久久久无码中文字幕 | 亚洲va欧美| 无码日本精品XXXXXXXXX| 丁香五月av| 欧美熟女乱又伦| 午夜免费试看| 婷婷激情九月| 影音先锋91资源站| AV在线不卡网站| 少妇做爰免费视看片| 久久伦乱| 另类激情五月在线视频欧美| 丁香五月六月婷婷殴美综合| 五月天四色房丁香| 综合五月亭亭9| 欧洲不卡视频| 久久婷婷五月综合伊人| www.maotanji.com| 日本精品干| 丁香花综合永久入口| 天堂成人A片永久免费网站| 亚洲激情婷婷| 免费99情趣网视频| 99色在线| 色播五月丁香| 99热综合| 婷婷六月丁香激情| 天天性视频| 香蕉婷婷色五月| 亚洲色色五月| 亚洲色婷婷五月天| 成人色图情色成人网 www.5b5b5bcom 五月天 | AAA久久| 9精品视频在线| Caoub青青超碰| 春色激情| 色色色色色九九九九九| 丁香五月天堂亚洲社区| 色综合女人99| 国产色色小草视频| 2005天天干天天1| 欧美熟女视频 色婷婷| 国产精品国产成人国产三级| 精品国产一区二区三区四区阿崩| h在线看免费版在线看| 99成人在线观看| 久久久97| 思思热99热| 在线视频你懂得| 色综合综合色| 天天干天天色综合| 五月婷丁香| 99久久6| 久久五月丁香| 婷婷综合激情| 538在线精品| 久久视频在线视频| 日韩熟女啪啪视频| 婷婷五月天Av| 综合激情婷婷| 成人丁香| 色135综合网| 中字幕视频在线永久在线观看免费 | 五月天久久91| 婷婷成人AV| 亚洲欧美婷婷五月色综合| 丁香五月天激情综合| xxx.色婷婷| 激情五月丁香综合网站| 综合噜噜| 欧美日韩91| 超碰在线91| 五月天婷婷久久| 思思热在线观看| 成人精品在线| 伊人大综合| 久9久视频精品| 97综合视频在线| 超碰69天堂| www.99操.com| 成人精品人妻| 久久婷婷丁香五月一二三| 美妞av| 丁香五月深爱五月婷婷| 五月花激情| 五月天播播| 成人免费在线电影| 婷婷久久网| 精品夜夜澡人妻无码AV| 91亚洲视频| 4399欧美另类视频| 久久久婷婷| www.25五月婷婷| 涩涩涩婷婷| 99亚洲色| 天天综合网91| 国产日产亚洲系列最新| 综合玖玖偷拍| xxxx五月激情| 婷婷王月天影院| 五月婷婷丁香五月| 性一交一乱一交A片久久四色| 免费视频WWW在线观看网站| 九九九九九九热| 色婷婷AⅤ| 99久久婷婷| 婷婷六月丁香1| 天天操夜夜爽歪歪| 午夜大香蕉| 曰韩少妇内射免费播放| 激情五月份婷婷| 97色碰| 国产美女精品| 婷丁香五月天| 亚洲无AV在线中文字幕| 欧美WW在线网| 91操色| 色婷婷综合网站| 九九热99熟女| 性欧美大战久久久久久久83| AV色婷婷| 国产高清RV综合aVa| 欧美婷婷成人| www.婷婷五月天| 亚洲永远av在线播放| 熟女网站久久| 婷婷综合五月色播| 67194国产| 久久婷婷五月综合色丁香花| 九九精品99| 五月丁香激情婷婷综合字幕| 99热这里只有精品在线| 免费看欧美成人A片无码| 亚洲婷婷丁香五月| 最新精品视频99| 99视频在线精品| 五月婷婷,六月丁香| 精品亚洲国产成AV人片传媒| 激情五月天综合网| 日本九九热| 蜜桃人妻无码AV天堂三区| 五月丁香六月婷婷啪啪| 2022人人操人人看| www.人人操人人看人人想人人摸 人人人人操,COM | 婷婷日在线观看| 亚洲A色| 婷婷基地爱| 在线观看视频1区| 九九99免费视频| 午夜电影网VA内射| 色婷网| 野外99热| 91婷婷五月天综合视频| 日韩人妻无码专区| 99久久高清视频| 5月婷婷综合| 丁香婷婷影院| 欧美顶级少妇做爰HD| 婷婷色吧| 五月丁香婷婷三级| 99热综合| 婷婷久久亚洲| 婷婷五月天综合AV| 男女啪啪视频久 9| 99热这里只有精品国产免费| 九月激情综合| 九月婷婷综合在线| 六月丁香婷啪射| 婷久久| 99久久综合狠狠综合久久| 色人久久| 97人人做| 激情婷婷综合网| 婷婷深爱五月亚洲综合| 欧美99| 亚洲色五月婷婷| 亚洲色婷婷99一9|| 色婷婷五月在线| 日笨久久网| 婷婷美女精品视频| 日日噜噜夜夜狠狠久久丁香五月| 色五月婷婷操逼| 色五XX| 激情小说五月天| 五月丁香啪啪综合网| 女力报到正好爱上你| 欧美色色色| 1024手机在线观看看片_日韩精品| 婷婷色成人| 婷婷五月天激情网| 久久这里只有国产| 日本一级一级一级一级| 婷婷丁香激情综合色情| 99成人在线观看| 久久无码成人| www.日韩艹| 天天日综合| 9福利性视频欧美| 激情综合丁香五月| 六六久久黄色| 天天操夜夜肏| 精品爱欲五| 五月天六月丁香| 久久久18| 九九色婷婷| 大香线蕉伊人| 99久久99视频| 五月婷婷六月丁香玖玖玫瑰91| 亚洲人成播放网站| 亚洲国产色色| 五月色情精品| 99久久激情视频| 天堂久久久久天堂网| 色人五月婷婷| 欧美丰满熟妇BBB久久久| 97在线视频观看| 色狠狠综合网| 日本啪啪网| 99热热这里只精品996小说| 日韩精品99久久| 日日夜夜爽| 五月丁香六月片| 成人色情五月天婷婷丁香| www久久久| 丁香五月情色| 久久激情综合| 五月丁香婷婷AV天堂| 五月婷婷综合在线| 色青青五月| 99精品视频在线观看| 丁香五月天激情网址| 婷婷六月久久综合导航| 久这里只有精品99| 久久er99热精品一区二区| 久久五月天婷婷视频| 久久这里只有精品热在99| 日本色色网| 超碰免费在线| 这里只有精9| 777精品久无码人妻蜜桃| 婷婷五月天改成什么了| 疯狂做受XXXX高潮A片| 99热九九这里只有精品10| 婷婷视频网| 热久久思思热思思| www,黄色在线,con| 色五月激情婷婷| 日本在线wwww| 99久久久久久| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 精品国产乱码久久久久夜深人妻 | 热九九在线| 中文字幕黄色片| 综合综合色色| 秋霞少妇AV网站| 激情综合色五月丁香六月亚洲| 西西4r午夜剧场| 另类 在线| 欧洲色色| 国产亚洲在线观看| 情欲禁地| 婷婷五月激情视频在线| 香蕉久久六月| 日韩成人电影AV| 综合五月亭亭9| 伊人丁香在线| 深爱激情五月天| 五月久熟女| www.五月丁香| 开心五月激情五月丁香五月婷婷| 成人人操| 欧美性丁香色色五月天干干| 色五月激情基地| 免费在线观看av网站| 亚洲色五月天| 天天插天天狠| 啪啪日本欧美| 色色综合激情| 欧美天天五月丁香免费观看| H亚洲| 涩五月婷婷| 亚洲永久免费| 密着浓厚中出乚交尾GvG935| 丁香婷婷情色五月天| 97狠狠色| www.9操| 激情五月婷婷丁香| 性爱AV天堂| 欧美情色电影一区二区| 婷婷狠狠18禁久久| 天天成人五月天| 丁香五月色情av| 五月丁香婷婷色色色| .操區COm| 激情国产五月| 欧洲毛片基地c区| 狠狠人人| 丁香五月天婷婷91| 色婷婷六月| 婷婷综合五月天亚洲综合| BT综合在线视频观看| 激情网五月天| 国产精品美女| 五月社区丁香| 成人综合AV| 国产FREESEXVIDEOS性中国| 99亚洲色色| 97操操操| 大鸡巴伊人网| 91操人视频| 色五月综合激情| 亚洲精品成人| 99九九热播在线免费视频| 婷香五月| 五月丁香亚洲婷婷| 激情深爱婷婷网| 午夜激情久久| 超碰AV在线| 色五月婷婷色五月| 五月人人丁香婷婷五月人人丁香| 四色永久成人网站| 激情五月婷婷综合| 激情网站综合五月天| 激情五月婷婷啪啪| 亚洲精品国产熟女久久久| 六九色综合婷婷五月天| 婷婷六月开心网| 婷婷 伊人 久久| 国产成人精品亚洲线观看| 天天做天天爱| 79色色免费| 丁香五月天堂| 欧美日韩国产一区二区| 激情人妻蜜夜系列区| 色色五月丁香婷婷| 99热这里只有精品22| 色婷婷五月综合| 91精品综合久久久久久五月天| 欧美激情VA永久在线播放| 日日色综合| 婷婷亚洲丁香五月| 99热超碰在线| 伊人网啪啪| 激情五月婷婷综合网| 激情五月丁香五月| 超碰资源在线| 深夜激情网| 色色色视频| 五月丁香精品| 亚洲激情五月| 90色免费视频| 国产成人精品一区二三区熟女在线| 色色色在线观看| 99热777| 涩涩涩,com| 久操干| 激情婷婷五月在线合集| 成人国产欧美大片一区| 夜夜撸日日操| 天天做天天要天天爽| 九九色综合网| 在线成人视频免费| 久久久久九九九九视屏小说88| 99熟女| 丁香六月婷婷开心| 婷婷娌伦网| 婷婷综合六月| 99精彩视频在线观看| 激情视频婷婷五月花| 婷婷色五月开心五月| 亚洲成人网址在线观看| 午夜天堂一区人妻| 蜜桃人妻无码AV天堂三区| 操操啪| 婷婷五月天视频免费在线观看| 99久久免费精品| 深爱激情AV| 婷婷五月激情四月综合 | 99热免费18| 久久色六月| 丁香网站| 国产精品18久久久| 色吧综合网| 丁香六月婷婷久久综合| 狠狠爱综合| 五月丁香激情婷婷| 久久五月天色婷婷| 欧美日本黄色| 丁香激情四射| 噜噜操操| 五月丁香六月成人| 色九亚洲| 婷婷激情九月| 久久永久视频| 久久多色| 另类专区在线观看| 爱操人妻| 五月丁香婷婷啪啪| 天天日夜夜拍| 人人草人人舔| 丁香久久| 在线观看免费视频| 字幕网AV中文字幕| 久久总和99| 久久精品系列| 婷婷五月激情图片| 激情综合五月| 色婷婷六月天| 欧美成人精品三区综合A片| 久久久18| 精品国产乱码久久久久夜深人妻| 亚洲欧美在线观看| 尤物一区二区| 亚洲av电影在线| 不卡成人免费| 久久伊人婷| 夫妻超碰在线| 91精品久久久久久久久久久久| 九月婷婷色色| www.激情| 26uuu四色| 婷婷五月深深的爱| 久热这里只有精品视频6| 丁香五月婷婷乱| 婷婷激情丁五月| 色婷婷五月天小说| 天天玩夜夜操| 超碰人人艹| 99热在这里只有精品| www.久久久久| 婷婷丁香五月综合网| 1024欧美看片| 国产精品国产| 伊人久久婷婷| 日本五月婷婷久久久六月丁香| 婷婷五月天com| 色婷婷六月天在线| 五月婷婷综合网| 97婷婷丁香| 色色激情五月天| 色五月激情综合网| 狠狠久久婷五月综合色| 狠狠综合色网| 欧美日韩91| www..com色爱| 丁香五月激情在线| 五月激情婷婷开心五月| 丁香五月在线观看完整版| 国产性爱亚洲是图| 天天爱天天爽| 亚洲黄色影视| 女人被躁到高潮嗷嗷叫小| 91人妻九色大屁股| 9999热在线免费观看| 五月婷婷另类| 9这里只有精品| 99网| 26uuu成人网| 免费三级黄色| 五月婷久久久| 婷婷五月天视| 五月丁香亚洲婷婷| 婷婷色在线观看| 精国产品一区二区三区A片| 久久九网| 色色色婷婷五月天| 五月丁婷婷| 五月花在线观看视频| 婷婷久久久久| 丁香五月天操B| 成人色图情色成人网 www.5b5b5bcom 五月天 | 超碰三级片| 激情婷婷五月女| 婷婷丁香激情五月天色色| 天天插天天日| 九九色色| 玖玖婷婷色| 六月五月丁香五月欧美| 精品久久艹| 久久六月综合| 婷婷五月天大香蕉在线视频观看| 欧美色图天堂网| 麻豆五月丁香婷婷| 五月色网| 日本韩国视频在线观看社区免费的9| 69久久99精品久久久久婷婷| 五月丁香网中文字幕| 亚洲五月婷婷| 五月花激情| 丁香五月色| 日韩五月婷婷久久| 天天色天天搡| 色五月人妻| 操99| 伊人9在线| 五月婷婷亚洲综合网| 五月综合色| 亚洲亚洲人成综合网络| 9操在线| 五月天婷婷深深爱| 狠狠干综合| 欧美激情-区二区三区| 激情五月综合网| 99视频在线精品免费观看2| 成人精品在线观看| 久久久久久久五月| 五月丁香六月婷婷综合网| 色天堂在线| 九月激情婷婷丁香| 天天插天天插天天操| 天天久综合| 国产精品色色| 情色五月天网站| 丁香五月乱中文字幕| 五月天狠狠| 伊人大香蕉在线视频| 激情婷婷综合| 99在线精品观看99| 五月丁香中文婷婷中文| 九九一综合精品| 9久久精品| 99精品网址| 色情五月天首页| 久久久久9999| 亚洲一级AV在线免费播放| 69婷婷丁香午夜| 草草视频91| 婷婷激情五月天小说| 久久五月丁香综合17C| 国产一级片| 激情久久综合网| 成年人99热| av在线资源| 六月丁香网| 五月丁香好婷婷A片网| 婷婷五月天开心激情网| 小香蕉av| 婷婷五月丁香高清无码| 天天干电影| 91人人网| 色色五月婷婷久久| 综合网狠狠| 久8色色| 少妇高潮呻吟A片免费看软件| 天天色播| 九九九九毛片| 五月丁香啪啪综合网| 婷婷五月丁香在线视频| WWW.五月com| 26uuu亚洲欧美另类| 99自拍视频在线| 亚洲综合视频网| 天天操天天操天天操天天操天天操 | 97操碰在线视频| 婷婷日日夜夜| 色色999三级片| 色婷婷五月网| 国产精品99久久久久久久女警 | 五月天色婷婷激情综合| 激情五月天综合| 亚洲六月婷婷| 4399在线日本A片| 中文AV在线观看| 天天干天天干天天操| av操B网站| 99热九九在线| 五月丁香本色在线观看| 天天日夜夜操五月| 99riav 亚洲| 五月永久激情| 爱久久小说下载网| 五月婷婷干| 亚洲无AV在线中文字幕| 五月婷婷天天色| 99热综合| 狠狠人妻久久久久久综合丁香| 99这里有精品视频| 色婷婷婷综合五月天| 国产亚洲精品AAAAAAA片| 小视频在线亚洲| 亚洲操操操| 狠狠色激情在线| 日本不卡高字幕在线2019| 日本五月婷婷久久久六月丁香| 91日韩在线| 凹凸探花电影| 97色干在线观看| 色色色色色色97| 欧美一级a | 婷婷丁香六月五月天| 久久免费精彩视频| 婷婷五月 丁香六月| 男女啪啪做爰高潮无遮挡| 开心久久爱五月天| 久cao香蕉影院| 996日日爱| 六月丁香成人| 任你搞网站| 超碰成人电影| 婷婷亚洲天堂| www.五月天。com| 91操黄| 国产精品色婷婷AV综合色色| 影音先锋偷偷色男人站| 久9视频| 99热这里在线精品| 熟女人妻一区二区三区免费看| 色高清无码视频| 五月天久久小说| 五月丁香六月情| 五月丁香六月激情综合| 99re热视频这里只精品| 蜜桃婷婷丁香五月天狠狠久久综合| 亚洲乱码日产精品BD| 另类图片婷婷五月天| 狠狠色丁香久久综合婷婷亚洲成人福利| 丁香六月婷婷综合缴| 综合激情肏逼网| 亚洲黄色影视| 国产欧美婷婷五月| 精品自拍99| 丁香婷婷五月综合| 激情五月天在线观看婷婷| 风流少妇A片一区二区蜜桃| 天天操天天日天天操| 婷婷五月天午夜激情影院| 丁香五月综合婷婷| 天天日人人| 狠狠狠狠狠狠草| 91九色中文字幕女在线观看| 激情色中文| WWW色五月| 久久婷婷视频| 久久永久网址| 日本44久久在线| 天天综合五月天| 天天开心婷婷丁香五月| 色色丁香婷婷五月天| 色五月激情综合| 国产色丁香| 亚洲永远av在线播放| 久综合| 五月天播播综合| 99在线视频喷水| 开心五月激情网| 99热只有国产在线精品| 色www.con| 9999久久久久| 丁香六月婷婷色XXXXX| 精品久久99码| 日本性视频| 在线中文字幕视频| 97热久久| 亚洲成人网站在线观看| 色综合激情| 成人做爰A片免费看网站找不到了| www.lchjjc.com| 色色五月丁香婷婷| 人人看人人要| 五月天婷婷基地| 精品久9| 丁香六月婷婷综合| 久热A| 婷婷六月色| 久久99久久99www| 久久婷婷综合五月天| 色永久| 九九这里只有精品在线视频| 91人人爽人人操| 丁香婷婷激情| 五月丁香五月婷婷| 日日干夜夜撸夜夜骑 | 亚洲天堂制| 99热这里只有精品9| 久久只有18视频| 色五月xxx| 伊人大香蕉在线视频| 亚洲精品久久久久久久久久吃药| 婷婷久久五月天| 狠狠色情婷婷| 色色免费网站| 91久久九| 欧美顶级少妇做爰HD| 欧美精产国品一二三区| 五月婷婷丁香在线视频| 99久久99视频只有精品| 日韩无码性爱| 一级AV片| 日日噜噜夜夜狠狠久久丁香五月| 九九在线精点品| 丁香五月天婷婷中文| 大香蕉五月丁香| 久久久久久久久久久久久久久久久精典| 97碰在线视频| 五月天色综合| 激情五月,婷婷五月,丁香五月| 欧洲婷婷五月天| 五月丁香综合在线| www.com在线操视频免费观看| 桃色五月天| 97操视频| 五月婷婷亚洲色视频| 激情综合网,婷婷五月天| 超碰免费人人| 超碰高清在线| 亚洲永远av在线播放| 五月婷婷激情综合| 色99视频| 9九色首页| 五月丁香六月婷婷综合网缴情| 日日干日日色| 超碰人人色| 激情九月天天天天婷婷| ou洲色吧| 5月丁香美女影院| 9999久久久久| 六月丁香激情网| 97超碰在线免费观看| 天天日,天天射,天天舔| 色婷婷五月网| 婷婷五月天无码视频| 色五月综合网| 婷婷五月天Av| 久久99看免费| 日本情色一区二区| 精品AV无码超碰| 一区二区成人电影免费播放| 六月婷婷综合| 91九色在线| 久热久| 日本久热| 婷婷五月天丁香社区| 人妻操逼视频| www.色五月.com| 无码人妻一区二区三区免费九色| 婷婷激情蜜桃玖玖丁香| 日韩砖区| 色欲婷婷夜夜| 婷婷五月天成人五月天| 99久在线精品99re8热| 丁香色综合| www.色婷婷.com| 色玖玖玖| 欧美色碰| 香蕉伊人综合| 天堂五月婷婷| 九九热婷婷| 五月丁香人妻| 亚洲免费在线观看岛国| 黄色毛片精品| 天天网曰日曰夜夜综合永久免费| 人人操人| 婷婷色基地在线看 | 久久 中文 日本| 91xxxx九色| 一起草av在线观看| 九九性爱网| 日本久久人| 熟女91九色| 色偷偷色婷婷| 9|无码久久久久久| 男女99免费视频| 久久婷婷视频| 精品九九在线观看视频| 成人va在线观看视频| 丁香六月 婷婷六月| 99热在这里只有免费精品| 久久在这里有精品| 激情校园 亚洲| 丁香五月婷婷激情123| 思思热99在线| 婷婷中文字暮| 色99网站| 五月丁香婷婷综合视频| 庭庭久久内射| 99操| 啪啪综合网| 亚洲精品久久久久久久久久飞鱼| 成人AV在线中文版| 婷婷六久久| 国产亚洲色婷婷久久99精品9j| 日韩大片艹艹| 九热...av| 天天干,天天舔| 同性gv国产精品一区二区| 99久久综合网| 开心激情网五月| 婷婷丁香五月综合| 99人妻碰碰碰久久久久禁片| 五月天激情国产综合婷婷| 亚洲久热| 热久久999| 婷婷中文网站| 色色色国产| anquye伊人| 我爱va亚洲va52| 婷婷色基地| 另类视在线| 天天做夜夜爽| 性生生活大片又黄又| 久久天堂女人| 26UUU欧美激情一区二区| 丁香五月亚洲激情婷婷射| 婷婷五六日| 五月婷婷开心丁香| 色五月婷婷大香蕉| 日日撸夜夜操| 亚洲网站观看视频| 欧美三级级99久久| 五月天婷婷基地| 综合在线丁香五月| 天天色,天天日,天天做| 五月婷婷人人人操| 婷婷色色五月天| 亚洲狠9| 婷婷五月天AV在线| 五月激情四射婷婷丁香| 日本va欧美va欧美| 99爱视频| 99综合| www.韩日视频| 色综合久久88色综合天天99| 千人斩操逼| 狠狠干无码| 久久女婷| 美女婷婷激情亚洲| 9l视频自拍九色9l视频在线观看| 99er精品| 99re最新地址| 丁香婷婷基地| 国产成人AV不卡| 偷拍91九色| 日本无va视频| 十一月婷婷激情四射| 婷婷五月成人| 婷婷色色色| 亚洲黄色影视| 五月激情丁香| 91精品在线看| 亚洲中字AV电影在线网站| 天天肏高清在线| 综合久色五月| 色噜噜狠噜噜视频| 丁香六月婷| www.激情com| wuyuedingxiang99| 深爱激情五月网| 九九激情网| 91久久九色| 九九九九九无码| 人人爱人人草| 最近中文字幕2019视频1| 天天操天天曰天天射| 天天日日天天| 婷婷五月丁香91| 黄网在线免费观| 色婷婷大香蕉| 婷婷精品性性性性性性性| 久久女婷| 九九精品少妇| 性爱在线播放av| 久99久99精品免| 4399无码视频| 久99久在线| 天天操夜夜爽| 五月婷婷在线视频| 碰碰碰91| 丁香五月天婷婷久久| 9精品在线| AV片在线观看| 激情五月天噢美| 丁香婷婷六月| 丁香花社区av| 青青草性爱视频| 日本婷婷| 五月天久久婷| 久久这里这里有精品免费视频| 深情五月天| 夜精品无码A片一区二区蜜桃| 亚洲一区国产传媒| 婷婷伊人久久综合| 99热精品在线观看| 五月丁香婷草| 色色色色色色色色色色色色色色,网站| 五月天婷婷色| WWW.久久久久久久| 日日夜夜爽| 少妇AB又爽又紧无码网站| 亚洲婷婷91丁香| 婷婷色丁香六月| 亚洲乱码日产精品BD| 久久99操| 日本色婷婷| 婷婷激情久久| 亚洲婷婷月丁香五月| 九九aV| 亚洲免费av观看| 九九热视频思思| 秋霞免费视频| 午夜大香蕉| 丁香激情五月| 色婷婷五月天无码视频| 国产美女精品| 婷婷久久五月| 久婷婷| 久操97| 伦乱人妻| 九玖欧洲亚洲| 亚洲精品V天堂中文字幕| 丁香五月性| 天天综合久久| 久久aaaaa| 久久久五月四色| 91丁香综合| 梁铮版《蜘蛛女侠》在线| 久久色区| 久久总和99| 色五月婷婷老师| 久超免费视频| 久草xx性爱视频| 午夜69成人做爰视频| 五月丁香婷婷无码中文| 婷婷五月色| 操操人人| 婷婷五月丁香综合激情| 9婷婷内射| 九九热99热| 亚洲mm免费| 天天草天天日| 超碰免费人| 密乳视频| 国产精品色情AAAAA片软件| 亚洲激情 久久| 丁香五月欧美| 激情小说五月天社区丁香 | 色999;丁香五月| 婷婷的99视频网站| 成人电影在线免费试看| 九月av| 伊人九九综合| 六月激情网| 丁香五月天天| 丁香五月婷婷在线| 五月天怕怕| 中文AV网站| 2021日韩无码| 中文av网| 91在线日本| 五月天狠狠色| 激情av在线| 涩综合网| 亚洲区视频| 欧美日韩成人在线| 久久这里精彩免费在线观看| 九九热免费| 五月婷丁香花| 狠狠干婷婷| www.婷婷五月天啪啪| 国产精自产拍久久久久久蜜 | 这里只有精品在线播放| 成人av在线网| 性99网站| 色吊丝av中文字幕| 激情综合激情综合| 色婷另类| 中文字幕av在线| www.99热| 99久久婷婷| 色亚洲婷婷| 天天射天天操天天干| www.久久av.com| 国产色视频网站2| 日韩精品一品二区三区的使用体验| 91婷婷色 | 99啪99| 色婷婷亚洲| 色色色色综合| 婷婷五月天Av| 亚洲狠狠爱婷婷| 夜夜综合色| 人妻激情视频| 99ri精品视频在线观看| jiujiu热在线视频| 色色色综合网| 五月婷婷婷自由综合| 97sese婷婷| 99久超碰| 九九精品在线视频观看| 91九九| 精久久色| 婷婷99丁香| 99re免费精品视频| 天天人人综合| 综合AV网| 五月丁香六月在线| 六月婷久久| 九九热精品| 三十路磁力链接| 婷婷六月偷拍| 色婷婷国产精品综合在线观看| 五月天社区| 日本不卡一区二区三区| 丁香五月综合在线观看| 天天干,天天操,天天射| 天天色色天天| 婷婷五月天影视| 五月天激情日色在线| 99精品在线观看视频| 久久婷婷六月| 99热10在线高清播放| 五月天色五月| 免费AAAAA网| 五月天婷久久| 五月综合视频| 激情五月深爱五月观看| 色一色综合| 99精彩视频| 婷婷色网| 日本91在线播放| 婷婷五月激情网| www。久久久久一b。Cc| 日韩AAAAAAAAAAA片| 国产成人网址| 色香蕉精品五夜婷| 综合五月天| 五月婷婷深深爱爱| 啪啪九九色| 日韩成人电影AV| 99热这里只有精品69| 六月婷婷九月丁香| 亚洲色色色| 丁香六月五月天| 色五月激情视频在线综合| 色狠狠婷婷| av网址在线| 亚洲另类久久| 日韩一级A片黄色| 人人插操| 久久婷婷色综合| 伊人日日干| 久婷婷五月天影院| 成人做爰A片免费看视频| 激情五月天婷婷在线网址发给我| 久热这里只有精品性色AV| 五月九九综合| 日日.c| 99视频只有这里精品| 五月丁香婷婷色| 国产精品成人网址| 人妻中文在线| 欧美激情凹凸丁香网| 久9视频| 午夜微拍福利| 可以看的av网站| www,av好吊操| 欧美色图45678| 久久九九99.www| 看片视频在线免费日产在线看| 99热费观看| 深爱五月激情网| 99色久| 最近中文字幕2019视频1| 午夜九九九九九九九九九九九九九| 婷婷五月情色| www99久久| 91婷婷视频| 色香欲综合| 日日噜狠狠色综合久| 色五月天中文字幕| 九月激情综合| 久久丁香综合香蕉| 色五月婷婷五月| 六月婷婷色| 天天操夜夜玩!| 大香蕉人妻| 日本久久极品| 成人做爰A片免费看网站找不到了| 久热 91| 久久99性爱视频| 乱女乱妇熟女熟妇综合网站| 综合性爱网| 九九综合九色欧美狠狠| 91狠狠综合久久久| 丁香九月综合激情| 五月丁香龟婷婷| 久久久er热| 97干欧美| 色色网91| 丁香,开心成人,久久| 岛国av网站| 热99免费在线| 久久五月激情| 安息电影在线观看完整版| 9999三级片| 九九美女视频| yazhoujiqingav| 天天日天天爽| 欧美三级欧美一级| 亚洲va在线∨a天堂va欧美va| 五月激情综合五月| 色色日韩网| 99熟女啪啪视频| 婷婷五月综合免费在线| 五月丁香婷婷成人网| 婷婷五月婷婷| 熟女激情网| 丁香五月欧美| 丁香五月开心五月激情| 天天 日综合| 色婷婷五月天亚洲| 婷婷九九| enecarbon-materials.com污K127封锁请涟系@wip1688 | 婷婷开心青青草| a网站免费观看| 女操碰| 大香蕉欧美在线| 日本97人人| 婷婷六月激情综合| 国产3p露脸普通话对白| 亭亭玉月丁香| 久久久com| 人妻久久婷婷| 色色色热热热| 欧美成人网99网| 日撸夜撸日操| 日日射天天射| 清色五月天| 婷婷 久综合| 久99热| 久热91| 亚洲欧美综合7777色婷婷| 一个色的综合| 亚洲AV免费国产电影| 五月婷九九草| 婷婷五月丁香综合瑟瑟| 丁香五月亚洲综合丝袜| 91 影音先锋| 亚洲电影在线观看| 婷婷伊人綜合中文字幕| 五月婷婷深深爱| 色婷婷六月| 天天操天天操天天操天天操天天操| 五夜婷婷| 日日噜狠狠| 99久久综合网| 亚洲永久免费| 久久亚洲婷婷| 综合久久婷婷| 我爱大香蕉| 狠狠干狠狠色| 色色色五月婷婷| 99热老网站| 免费黄色片子| 超碰99热| 国产 码在线成人网站| 99热在线观看精品| 九九久久精品| 久色资源| 久操婷婷| 婷婷五月天影院| 亚洲乱码日产精品BD在线观看| 99热这里| 中文字幕有多少字| 婷婷五月天VI| 亚洲AV日韩在线观看| 丁香啪啪中文字幕| 婷婷久久色| 免费人人操| 99精品一二三四视频| 9久久久久久久久久久| 天天射综合网站| 色综合99| 色五月丁香总合网| 狠狠狠狠狠狠草| 丁香五月久久综合| 五月婷婷自拍视频| 丁香婷婷色| 激情五月天偷拍综合网| 丁香五月色五月| 97色色婷婷| 亚洲成人综合在线| 欧美性色A片免费免费观看的 | 综合aV在线| 成人AV播放| 人人综合91网| 久久婷狠狠色| 狠狠综合| 日本啪啪视频HD| 丁香五月色情av| 9久久精品视频| 精品在线网站| 色婷婷综合久色AV五色最新| www。88热在线视频免费观看| 人人色AV| 五月婷天天搞视频| 五月综合色| 99精品在线| 大地9中文在线观看免费高清| 日韩欧美成人一区二区三区| 久久99日本精品视频免费观看| 99热亚洲精品| 做爱夜夜干天天操|