欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

大模型微調入門實戰(zhàn):從環(huán)境部署到LLaMA-Factory全流程

大模型微調入門實戰(zhàn):從環(huán)境部署到LLaMA-Factory全流程 今天想聊一個很實際的話題大模型微調。準確點說是面向初學者的入門實戰(zhàn)。我見過太多人卡在同一個地方——理論看了一堆覺得自己什么都懂了一打開命令行就懵也有人反著來上來就到處找腳本跑結果出了問題完全不知道從哪排查。這一篇我想把從理論認知、環(huán)境部署到 LLaMA-Factory 全流程速覽的路徑完整走一遍把那些文檔里不會寫的坑、選型時真正該糾結的點、以及跑通之后才明白的原理細節(jié)一次說清楚。全文不預設你已經裝好了什么也不假設你懂多少 PyTorch只要你有顯卡哪怕是共享的、有耐心、愿意動手這篇就適合你。我會先把底層概念打牢再給出一套可以直接落地的部署方案最后用 LLaMA-Factory 這條目前公認對新手最友好的鏈路帶你跑通第一個微調任務。2. 先別急著跑代碼把“微調”這件事的底層邏輯吃透2.1 三個關鍵概念預訓練、微調與推理的關系很多人一上來就搜“LoRA”“QLoRA”然后被一堆縮寫淹沒。但如果你連預訓練和微調的關系都沒理順后面所有參數配置都會變成瞎猜。我習慣打一個比方預訓練像是把一個人送進大學讀了四年通識課他掌握了語言、邏輯、常識但還不能直接勝任某個具體崗位。微調則是給他做崗前培訓讓他從“什么都懂一點”變成“特別擅長某類任務”。推理更簡單就是培訓完上崗干活。預訓練階段模型在海量文本上學習的是“下一個詞是什么”的概率分布學出來的是一個通用能力底座。微調階段我們不再需要天文數字級別的算力因為通用能力已經在預訓練階段固化住了我們做的是讓模型適應特定領域的數據分布和輸出風格。舉個例子通用模型能續(xù)寫新聞但如果你給它喂了一批客服對話記錄它就會逐漸學會“您好請問有什么可以幫您”這種口吻遇到用戶抱怨時也懂得先安撫再解決問題——這就是微調的價值所在。很多人會有個誤解覺得微調之后模型就徹底變成“另一個模型”了。實際上即便你做了全量參數微調知識底子還是預訓練階段打下的微調更多是行為層面的塑造而不是從零教會它一個全新世界。至于 LoRA 這類參數高效微調方法本質上是在原始權重旁邊加了一條低秩的旁路訓練時只更新這條旁路最終推理時再把旁路合并或者分開加載。它的出發(fā)點很樸素預訓練模型像一本厚重的百科全書全量微調等于把整本書重新抄一遍LoRA 則是在書邊上貼了一批便利貼批注“這部分知識用在客服場景時應該這樣回”。2.2 全量微調 vs LoRA vs QLoRA一張表看懂怎么選不少教程會把這三種方法并列介紹但實際工程里它們的地位完全不同。全量微調Full Fine-tuning會更新模型所有參數效果上限最高但對顯存、數據量、調參能力的要求也最苛刻。LoRA 只更新注入的低秩矩陣顯存占用大幅下降效果在大多數任務上已經非常接近全量微調因此成為事實上的主流選擇。QLoRA 是在 LoRA 基礎上進一步把底層權重量化到 4bit再用梯度檢查點等技巧把顯存壓到極致讓一張消費級顯卡也能跑幾十億參數的模型。我從實際使用角度做了一張選型表維度全量微調LoRAQLoRA顯存要求極高7B 全量基本要 48G 以上中等7B 單卡 24G 可嘗試極低7B 單卡 12G-16G 可跑訓練速度最慢較快中等受量化反量化開銷影響效果上限最高接近全量略低于 LoRA但多數場景可忽略適用場景有 A100/H100 集群、數據量充足大多數個人項目、領域適配單卡消費級顯卡、快速驗證部署產物整個模型權重獨立 adapter 權重adapter 量化基座這表格看起來簡單真到選的時候還是容易出岔子。我自己踩過的一個坑是一開始手里只有一塊 24G 的卡想當然選了全量微調結果數據加載階段就直接 OOM浪費了一晚上。后來切到 LoRA顯存占用直接從“爆掉”變成“用了 60%”訓練絲滑。所以入門階段的建議很明確除非你明確知道自己必須全量微調否則一律從 QLoRA 或 LoRA 起步。QLoRA 特別適合你先拿小數據集跑通完整流程驗證數據清洗邏輯有沒有問題。2.3 認知上最容易踩的三個坑第一把微調當成“喂數據就行”。數據質量遠比數據量重要。我見過有人喂了幾萬條口語化聊天記錄進去結果模型學會的不是任務邏輯而是把數據集里的噪聲垃圾話也復刻了出來。第二忽略基座模型本身的特性。同樣一套中文指令數據用某個偏英文優(yōu)化的基座和用中文語料充足的基座效果可能差出一大截。這不是微調參數能完全救回來的。第三訓練完直接用不評估就上線。微調之后模型在訓練分布上的表現可能很好但一旦遇到分布外的表述反而可能比原模型更呆。所以任何微調項目評估集的設計應當和訓練集同時進行而不是事后補。3. 環(huán)境部署的完整實操從 Python 版本到 CUDA 踩坑記錄3.1 軟硬件清單與版本選型照著抄就行環(huán)境部署是入門第一道攔路虎也是勸退率最高的環(huán)節(jié)。圍繞 LLaMA-Factory 這個項目我實際跑通的推薦組合是Ubuntu 22.04 或 Windows 11WSL2、Python 3.10 或 3.11、CUDA 12.1 以上、PyTorch 2.1 以上、顯卡驅動版本建議 530 以上。如果你用的是 Windows 原生環(huán)境CUDA 和 PyTorch 的兼容性問題會多一些我反而更推薦在 Windows 上裝 WSL2把訓練丟到 Linux 子環(huán)境里跑省掉一堆路徑和權限的破事。當然如果你有云服務器或者實驗室共享機器那直接用 Linux 是最省心的。Python 版本這里多說一句不要手賤用 Python 3.12 或更新的版本。很多深度學習依賴的編譯緩存和二進制包還沒完全跟上你可能會在安裝階段就遇到莫名其妙的編譯錯誤而這些問題往往不是你的錯純粹是生態(tài)兼容性沒跟上。3.10 是最穩(wěn)的選擇裝完就再也不要動它。顯卡驅動和 CUDA 的關系也值得理順驅動是驅動CUDA Toolkit 是 CUDA ToolkitPyTorch 里自帶了一部分 CUDA runtime。你不需要手動裝一個和 PyTorch 完全匹配的 CUDA Toolkit只要驅動版本足夠新PyTorch 自帶的 CUDA 組件就能正常工作。這個認知能幫你省掉至少一個下午的折騰。3.2 一步步裝好驅動、CUDA 與 PyTorch先說驅動。在 Linux 下我建議直接用顯卡廠商官方驅動不要用發(fā)行版自帶的開源驅動。裝完驅動后運行 nvidia-smi 確認能夠看到顯卡型號、顯存大小和驅動版本。這一步輸出里右上角的 CUDA Version 其實指的是當前驅動最高支持到的 CUDA 版本它不決定你在 conda 環(huán)境里裝什么 PyTorch只是告訴你“別超過這個上限”。接著創(chuàng)建隔離環(huán)境。我強烈建議所有項目在 conda 或 venv 里進行不要直接往系統 Python 里裝庫。命令如下conda create -n llama-factory python3.10 conda activate llama-factory然后安裝 PyTorch。這里很多人會從 PyTorch 官網復制一段命令但最關鍵的到位動作是確認你的安裝命令里包含了對應 CUDA 版本的 index-url。以 CUDA 12.1 為例pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121裝完后進入 Python 驗證 GPU 是否可用import torch print(torch.__version__) print(torch.cuda.is_available()) print(torch.cuda.get_device_name(0))如果輸出 True 和你的顯卡型號恭喜你最麻煩的一環(huán)已經過了。如果你在這一步遇到 False大概率是裝了 CPU 版的 PyTorch或者驅動和 CUDA 不匹配。還有一種情況是你用的共享服務器有多個 CUDA 版本但 conda 環(huán)境里沒有正確激活對應的 toolkit這時候需要檢查 LD_LIBRARY_PATH 環(huán)境變量。3.3 顯存不夠怎么辦梯度檢查點、序列長度與批大小的取舍藝術環(huán)境部署完成后第一個現實問題往往是顯存不夠。我見過太多人第一次跑微調就被 OOM 勸退然后得出“我不適合做 AI”的結論。事實上顯存優(yōu)化是有明確方法論可循的。首要手段是開啟梯度檢查點gradient checkpointing它通過不保存中間激活值、在反向傳播時重新計算的方式省下大量顯存代價是約 20%-30% 的訓練時間。在 LLaMA-Factory 的 Web UI 或命令行參數里都有對應開關入門階段直接開啟。第二個手段是壓縮序列長度。很多人不知道序列長度對顯存的影響是線性的甚至超線性的因為注意力矩陣隨序列長度平方增長。如果你處理的是短指令數據把 max_length 從 2048 壓到 1024顯存占用可能直接下降三分之一。第三個手段是把批大小調小但在梯度累積的輔助下保持等效批大小不變。實際上梯度累積就是“小批多次攢夠再更新”它改變不了單步顯存峰值因為單次前向仍然只過一個小批。但配合小批大小確實能讓你把訓練跑起來。這里給出一個粗略的顯存估算公式方便你提前判斷QLoRA 微調 7B 模型時每 1K token 序列長度大約需要 1.5GB 到 2.5GB 顯存與批次大小和設備相關。如果你用 2048 長度、批大小 18GB 顯存機器可能卡在邊緣把長度壓到 5124GB 到 6GB 都能嘗試。這個估算很粗糙但用來判斷“要不要換顯卡”已經夠了。4. LLaMA-Factory 全流程速覽從界面到命令行跑通第一個 LoRA 微調4.1 為什么要選 LLaMA-Factory新手友好背后的工程理由市面上能做微調的工具很多比如 Hugging Face 的 Transformers、PEFT 庫以及各種開源訓練框架。但對新手來說LLaMA-Factory 最大的價值在于“把繁瑣的工程細節(jié)封裝成了一層薄薄的殼”。它支持非常多的主流基座模型內置了大量數據集格式的預處理邏輯提供了 Web UI也提供了命令行接口。你不需要手寫 PyTorch 的訓練循環(huán)不需要自己處理數據集的 Chat 模板格式不需要手工拼接 LoRA 適配器它把這些步驟全部自動化了。有人可能會說完全依賴封裝會讓能力退化。這個說法有道理但前提是封裝足夠復雜且文檔足夠差。LLaMA-Factory 的歷史版本有一個特點就是對新手很寬容很多細節(jié)即便你不知道原理也能跑通跑通之后再去翻代碼理解比一開始就硬啃源碼要高效得多。我認為它特別適合“先跑通再理解”的學習路徑。當你對全流程有體感之后再去閱讀 PEFT 庫源碼、理解 Chat Template 的拼接方式難度就小多了。4.2 安裝、啟動 Web UI 與頁面配置逐項講解安裝 LLaMA-Factory 很簡單在上一節(jié)創(chuàng)建好的 conda 環(huán)境里執(zhí)行git clone https://github.com/hiyouga/LLaMA-Factory.git cd LLaMA-Factory pip install -e .安裝完后啟動 Web UIllamafactory-cli webui瀏覽器會打開一個控制面板。面板第一欄是模型名稱你可以先選一個小的中文基座模型比如某個 1.8B 或 7B 的中文開源模型。第二欄是模型路徑可以直接填 Hugging Face 上的模型名也可以填本地已經下載好的路徑。首次運行它會自動下載權重如果網絡不穩(wěn)定建議先手動把權重下載到本地再指定路徑。接下來看幾個關鍵配置項。微調方法選擇 lora如果你顯存小就選 qlora。量化等級選 4bit 或 8bit。然后是指令模板這一步非常關鍵它決定了數據在訓練時如何被格式化不同基座模型對應不同的 Chat Template選錯會導致訓練時 loss 異?;蛲评頃r輸出格式錯亂。數據集方面LLaMA-Factory 自帶了一批示例數據入門期直接用 Alpaca 格式的中文數據集即可。你要是想用自己的數據需要把數據文件放入項目 data 目錄并在 dataset_info.json 里注冊格式按 Alpaca 的標準組織instruction、input、output 三個字段。最后設置學習率、批大小、訓練輪數。新手可以先照搬一套經驗值學習率 2e-4、批大小 4、梯度累積 4、訓練輪數 3。4.3 完整跑一個微調任務用最小數據量驗證全鏈路為了讓流程可復現我建議你第一次微調不要追求效果而是追求“跑通”。我在一個模擬項目里用了一組很簡單的中文問答數據總共才 200 條微調一個 1.8B 的模型在單張消費級顯卡上大概十分鐘就完成一個 epoch。數據文件采用 Alpaca 風格[ { instruction: 解釋什么是冒泡排序, input: , output: 冒泡排序是一種簡單直觀的排序算法它重復遍歷待排序序列比較相鄰元素若順序錯誤就交換直到沒有需要交換的元素為止。 } ]在 Web UI 里選擇好基座模型、LoRA 訓練方法、這個數據集點開始訓練后你會看到終端在刷 loss 信息。很多人第一次看到這個滾動畫面會不知所措這里解釋一下Trainable params 后面顯示的參數量是 LoRA 實際參與訓練的部分占整個模型的比例很小這屬于正常現象。Loss 值在一開始下降很快后面慢慢收斂。如果 loss 一直不降或者直接變成 NaN優(yōu)先檢查學習率是否太大、數據集格式是否正確、模板是否選錯。訓練結束后會生成一個 LoRA 權重目錄。你可以直接在界面切換到“Chat”標簽頁輸入測試問題體驗微調前后的差異。這里也有一個常見的誤區(qū)很多人微調完發(fā)現模型回答很生硬以為是訓練失敗了。其實如果你只訓了 200 條數據模型只是在行為模式上發(fā)生了微調還遠達不到“脫胎換骨”的程度。要想效果明顯數據量至少得上千條并且要覆蓋足夠的場景多樣性。4.4 命令行方式批量實驗和遠程服務器上的更優(yōu)選擇Web UI 適合調試和直覺式操作但一旦你需要跑批量實驗、定時任務或者在遠程服務器上做無界面訓練命令行才是最可靠的方式。LLaMA-Factory 提供了 yaml 配置文件加一條命令執(zhí)行的方案。舉例來說在 llama-factory 的 examples 目錄下找到對應訓練配置修改模型名、數據集、微調方法等字段然后執(zhí)行l(wèi)lamafactory-cli train examples/train_lora.yaml命令行和 Web UI 底層用的是同一套邏輯只是配置文件把流程固化下來了。我個人的習慣是一開始用 Web UI 理解每個參數的含義等確定好一組基準參數后馬上把配置落到 yaml 文件里后續(xù)就在這個文件上做微調。這樣實驗記錄有跡可循不會出現“昨天那組好結果是用什么參數跑出來”的尷尬。跑完訓練之后還有一個實際項目里幾乎必做的環(huán)節(jié)把 LoRA 適配器合并回基礎模型或者至少導出一個可供推理的完整模型。用命令行很簡單llamafactory-cli export --model_name path/to/base --adapter_name path/to/adapter --export_dir path/to/merged合并后的模型可以直接加載到任意 Transformers 推理腳本里。合并與否的核心區(qū)別在于不合并部署時通常要同時加載基座和適配器合并后就變成一個普通的完整模型文件部署會簡單很多。5. 數據處理的真實門檻為什么你跑通流程后效果還是很差5.1 從用戶需求到數據集的加工鏈路三步自查法很多教程講到“準備數據”就一句帶過但真正決定微調成敗的往往是數據。我可以直接說一個結論大部分入門項目效果差不是參數調得不好而是數據沒處理好。我推薦一個三步自查法。第一步查單條樣本是否符合任務定義。以客服為例一條合格數據應該是“用戶問題-客服回答”的嚴格配對而不是把整個聊天記錄直接倒進去。第二步查格式統一性。指令數據里instruction、input、output 分別放什么字段語義必須一致input 可空但為空時字段要寫空字符串別省略。第三步查分布覆蓋。訓練集和驗證集必須來自同分布同時訓練集內部要覆蓋到足夠的場景分支而不是集中在一類問法上。比如你只收集了“怎么充值”這個問題模型很可能只學會“充值怎么處理”換個問法“余額不足怎么辦”就不會答了。我曾在實際項目里見過一個很典型的反面案例某團隊收集了 20 萬條客服對話但沒有任何清洗只是機械地把原始對話轉成指令格式。結果模型微調后學會了大量口語噪聲比如“嗯嗯”“親”“稍等哈”在正式回答中頻繁插入這些詞整體風格反而更亂了。這個案例告訴我們數據質量直接決定微調的天花板而參數調優(yōu)只是在逼近這個天花板。5.2 Alpaca 格式與 Chat Template拼模板這事并不神秘為了讓模型學會“按指令回答問題”通常要把每一條數據格式化成一段符合模型訓練預期的文本。這就是 Chat Template 的作用。不同基座模型在預訓練階段使用的是不同格式的對話拼接方式比如有些用sHuman:和/s作為角色標記有些用更復雜的特殊 token。如果你用錯了模板模型看到的文本格式和它預訓練時見到的不一致效果自然大打折扣。在 LLaMA-Factory 里選擇模型后會自動匹配模板大多數情況下不需要手動調整。但你得明白模板在底層做了什么把 user 和 assistant 的對話按特定分隔符拼接并在必要的位置插入特殊 token。理解這點后當你定制自己的多輪對話數據時即便界面選項沒有覆蓋你的格式你也知道去數據端手工對齊模板結構而不是無腦喂原始 JSON。說句題外話很多微調產品之所以對話體驗很怪本質就是數據里的對話輪次結構和模型模板不匹配導致模型在記憶位置和角色邊界上出現混亂。5.3 開源中文數據集的選型建議與“小而美”數據哲學開源社區(qū)有很多整理好的中文指令數據集比如由通用指令數據翻譯或清洗而來的各類 Alpaca 中文版、由真實用戶交互記錄整理而來的語料等。對新手來說我的建議是先別急著找最新最大規(guī)模的數據集先用結構干凈、口徑統一的小規(guī)模數據跑通比如幾千條的規(guī)模。這樣訓練時間短方便你反復調試數據預處理邏輯。“小而美”的數據哲學有它的道理。數據量太大的時候數據質量問題的放大效應會非常明顯一條帶噪聲的壞樣本會教壞模型一次梯度更新污染信息會在多次 epoch 中反復起作用。小規(guī)模干凈數據反而更容易驗證你的預處理邏輯和訓練參數是否合理。當你確認整個鏈路沒問題之后再決定是擴數據規(guī)模還是換更大的模型基座這個順序是最穩(wěn)妥的。6. 訓練過程的觀察指標與常見故障排查6.1 loss、lr、顯存訓練日志里到底看什么訓練開始后終端會持續(xù)輸出訓練日志。很多新手盯著 loss 看但不知道什么算正常。這里給出一個經驗區(qū)間最初幾步 loss 可能從 1.5 或 2.0 開始快速下降經過幾百步后趨于平緩最終收斂到 0.5 到 1.0 之間都是常見現象具體數值和數據集、模型、序列長度都有關系沒有絕對標準。比 loss 絕對值更重要的是 loss 曲線是否穩(wěn)定下降以及訓練集和驗證集 loss 之間的差距是否過大。如果驗證集 loss 在下降一段后開始回升而訓練集 loss 還在降那就是過擬合的信號。此時可以減小訓練輪數、增加數據量或增大 dropout。如果是剛開始訓練 loss 就瘋狂飆升那大概率是學習率太大或優(yōu)化器狀態(tài)出了問題。學習率這里多說一句很多人喜歡把學習率調得很小來求穩(wěn)但 2e-4 到 5e-5 這個量級在 LoRA 里才是比較常見的合理區(qū)間太小會導致收斂極慢白白浪費算力。顯存占用也需要持續(xù)觀察。如果在訓練中途出現 step 卡住、顯存慢慢漲滿的狀態(tài)往往不是偶發(fā)現象而是某個操作導致顯存碎片化或內存泄漏此時不妨把梯度檢查點打開或者檢查是否加載了過多無用緩存數據。6.2 OOM 的三級處理思路壓長度、降批、換量化OOMOut Of Memory是新手遇到最多的訓練錯誤。我的處理思路是固定的三級遞退。第一級把 max_length 壓到任務允許的最短長度。一個客服單輪問答512 就夠完全沒必要 2048。第二級把批大小降到 1同時用梯度累積補回等效批大小。梯度累積不省顯存但能保住梯度更新的穩(wěn)定性。第三級換成 QLoRA 并開啟 4bit 量化這通常還能再省一半顯存。如果這三步都做完了還是 OOM那基本可以確定是模型規(guī)模超過了硬件物理上限這時候再考慮換更小的基座模型。我見過一個朋友在自己的 8G 顯卡上硬跑 7B 模型把 max_length 壓到 256batch size 降到 1還開了 QLoRA最后跑通了但速度慢到令人崩潰。這里提醒一句跑通不等于好用。如果訓練一個 epoch 要十幾個小時就要認真評估投入產出比考慮換更小的模型或者上云按需租卡而不是繼續(xù)硬磨。6.3 訓練結束后如何驗證不能只看回答“像不像”微調完成后檢驗效果的方式也有講究。比較正規(guī)的做法是準備一份與訓練集不重疊的測試集每條數據都有標準參考答案用模型逐一生成回答然后從相關性和格式正確性兩個維度打分。對入門項目而言不需要上什么高級評測體系但至少要做到幾個具體檢查模型能否理解指令中的任務邊界、對不同問法是否穩(wěn)定、是否編造不存在的事實。最后一點尤其容易被忽視模型在生成式任務中會出現“一本正經胡說八道”的情況尤其當訓練數據里存在相互矛盾的事實時會加劇這種現象。我在實際項目里還發(fā)現一個常見現象微調后的模型做單輪問答沒問題但多輪對話會越聊越亂。這往往是訓練數據中缺少高質量多輪樣本導致的。解決辦法也很直接構建數據時把歷史上的一到三輪對話作為上下文拼進去讓模型看到“前面聊過什么”以及“當前問題出現在哪一輪”這比單純堆單輪數據有效得多。7. 進階方向與實際項目落地中的幾個提醒7.1 跑通之后下一步該學什么當你已經成功跑通了一次 LoRA 微調對 Web UI、命令行、數據格式都有了體感接下來最值得投入時間的是三件事其一把模型量化部署到生產環(huán)境比如用 llama.cpp 或各種推理框架做 CPU 或邊緣設備推理這能極大拓展微調模型的應用范圍其二深入讀一遍 PEFT 庫源碼理解 LoRA 的 rank、alpha、dropout 這些超參數在數學上到底做了什么其三學習評測方法論把自己的任務場景抽象成可量化的指標這樣迭代才有依據而不是靠肉眼判斷“變好了一點”。我始終認為微調只是手段不是目的。真正有工程價值的是“定義清楚任務邊界、構建高質量數據集、選擇合適基座和微調策略、搭建可復現的評估閉環(huán)”這一整套能力。這四條在任何一個企業(yè)級 AI 項目中都比堆顯存或調參技巧更值錢。7.2 關于基座模型選型與算力消耗的實在話基座模型選型這件事我只說一句實在話不要盲目追求大參數。模型尺寸越大對數據質量和任務適配性的要求就越高。一個數據沒準備好的 7B 模型效果很可能不如一個數據精心處理的 1.8B 模型。而且從算力消耗上看每次實驗都是成本越大的模型試錯成本越高。對小團隊或個人項目我建議按“任務復雜度”來選而不是按“最火的模型”來選。如果是純文本的指令跟隨任務小參數模型通常已經夠用如果任務涉及復雜推理、多步驟改寫或需要豐富知識背景再考慮上 7B 或更大。另外還有一條被低估的原則基座模型的中文能力非常重要。中文語料占比高的基座在中文任務上微調所需的數據量和輪次明顯更少輸出也更自然。這個差異不是靠 LoRA 參數能完全彌補的。7.3 部署時最容易忽略的三個細節(jié)提前幫你避雷微調模型最終要落到工程里這里有幾個純經驗向的提醒。第一個是溫度參數推理時 temperature 設置太高會讓模型輸出隨機性過強尤其客服、文檔生成這類場景建議固定為 0.1 到 0.3。第二個是 prompt 前綴穩(wěn)定你在訓練數據里怎么組織指令推理時也要盡量用同樣句式格式漂移會讓模型表現忽上忽下。第三個是適配器文件管理LoRA 權重通常很小才幾十到幾百 MB但它必須和對應的基座版本配套才能加載升級基座后舊適配器可能直接廢掉所以版本記錄一定要做。這里再講一個我吃過虧的細節(jié)合并 LoRA 權重時如果基座模型路徑和訓練時用的是同一個本地路徑一般沒問題但如果訓練時用的是量化模型合并時選了非量化基座適配器可能無法正確映射。這類問題排查起來很費時間建議訓練、合并、推理盡量用同一路徑、同一版本的模型文件。8. 最后的個人體會與兩個實用技巧寫到這該聊的基本都聊了。最后分享兩個我在實際使用中沉淀下來的技巧希望能幫你少走點彎路。第一個技巧是關于超參數搜索的。入門階段完全沒必要用貝葉斯搜索或大規(guī)模網格搜索那是在浪費算力。我通常會在小規(guī)模數據上先做粗調固定 batch size 和 max_length只調學習率和訓練輪數這兩個關鍵參數。學習率按 2e-4、1e-4、5e-5 三檔試一遍訓練輪數按 1、3、5 試一遍??傆嬀沤M實驗每組都在小數據上快速跑完用驗證集 loss 排序。確定了最優(yōu)區(qū)間后再在完整數據上復現一次。這套方法論成本低、見效快比一次性堆算力盲調靠譜得多。第二個技巧是構建一套“樣本驗收集”。在訓練前我會手工挑出 10 到 20 條高質量的典型樣本這些樣本覆蓋了任務最核心的場景分支。訓練完成后先用這批樣本快速驗收模型行為而不是直接跑全量評測。這有點像醫(yī)生問診前的快速檢查不用等所有檢驗報告出來先看幾個關鍵指標就能判斷大方向對不對。樣本驗收通過后再跑全量測試效率會高很多。微調大模型這件事門檻其實沒有想象中那么高但天花板也沒有想象中那么低。把環(huán)境部署、數據準備、訓練驗證、部署落地這一整條鏈路完整走通一次你的理解深度會遠超那些只看理論的人。希望這篇基于實操經驗的分享能幫你順利跨過第一道坎后面就該輪到你去踩那些屬于你自己的坑了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
日韩黄色影院| 狠爱婷色| 99狠狠色| 天天爽天天摸| 色噜噜狠狠色综| 色婷婷电影网| 99在线视频精品| 亚洲VA欧美VA| 91n啪啪| 五月婷婷丁香六月| AV天堂婷婷五月天| www,欧美干干干干干干| 99日韩| 久久婷婷青青草| 日韩99视频| 啪啪色激情五月天| 五月婷婷激情久久| 色婷成人狠干| 91n啪啪| 色色色热| 97色婷婷| 99热婷婷| 国产无套精品一区二区| 国产操碰| 久99热在线观看| 婷婷五月天亚洲天堂| 亚洲第二AV| 丁香六月婷婷| 亚洲午夜av| 五月天婷婷永久免费视频| 五月丁香888| 97人人超| 思思久久精品| 天天插天天射| 久操人妻| 91色吧网| 97色热| 啪啪视频99| 噜噜五月天综合| 五月丁香龟婷婷| 色欲人妻综合aaaaaaaa网| 国产44页| 丁香五月婷婷五月| 夜夜资源站| 爱99干99| 丁香婷婷久久五月天| 直接看的AV| 婷婷五月天成人网| 婷婷涩涩五月天| 久久人妻伊人| 五月天婷久精视频| 九九无码| 综合激情站| 深爱激情四射| 五月婷婷之六月丁香| 桃色五月婷婷| 五月丁香亭亭成人电影| 丁香五月天欧美在线| 1024日韩| 天天插天天日天天爽| 99ri视频| 清色五月天| 3pAV| 婷婷丁香五月,狠狠综合| 我爱宗和色| 狠狠色婷婷在线| 性天堂久久| 在线观看亚洲视频影院| 婷婷五月丁香五月| 超碰在线成人| 婷婷六月开心网| 日本爆乳片手机在线播放| 五月的色婷婷高潮| 91免费看片| 九九热精品视频在线观看| 79精品视频| 亚洲最大五月天成人网| 79精品视频| 蜜桃人妻无码AV天堂三区| 九九热视| 91精品综合久久久久久五月丁香| 99久热| 国产毛片欧美毛片久久久| 大香网伊人久久综合| 超碰碰碰碰| 五月天播播| 少妇被下春药玩弄A片| 精品无码久久久久久久久 | 五月丁香啪| 99这里都是精品| 亚洲亚洲人成综合网络| 91视频综合网| 六月伊人婷婷| 噜噜狠狠色综合久| 亚洲乱码日产精品BD| 国产小精品| 亚洲啪啪自拍| 五月天婷五月天综合网在线观| 狠狠久久婷五月综合色| 色综合中文| 五月天堂婷婷| 99视频精品全部免费观看| 丁香五月婷婷综合网| 激情五月天小说网| 超碰v| 久久九九激情五月天 | 亚洲成人综合在线| 亚洲va久久久噜噜噜久久天堂| 亚洲有码在线视频| 精品久久久久久久久久久久人妻| 九九九九毛片| ...婷婷五月综合不卡,国产在线手机| 色色影院aaaav| 99九九精品视频| 97操碰视频| 午夜天堂一区人妻| 久久99热这里只有精品首| 思思热热久久| 五月激情小说| 久久综合性| 。久久久久久久久久久久久久人妻| 51国精产品自偷自偷综合 | 超碰97色| 婷婷日日天天| 91碰碰| 五月丁香久久色| 天天弄天天爽| 99爱视频在线| 色综合香蕉| 国产在线6| 五月婷婷av| 五月婷婷综合网| WWW久| 爱草视频在线| 男女啪啪做爰高潮无遮挡| 久久丝袜婷婷| 日本欧美成人片AAAA| 9九热视频| 丁香婷婷五月综合影院| 无码视频国内精品久久久| 另类图片天天影视在线观看| 丁香六月婷婷综合| 婷婷五月天久久综合88| 五月丁香六月婷婷啪啪| 97婷婷丁香五月天激情图片| 五月丁香六月综合基地| 狠狠色婷| 欧美激情综合五月色丁香| 粉嫩AV久久一区二区三区| 99黄色在线视频精品熟女| 五月婷婷我| 九九综合色| 五月色色色| 四月婷婷五月丁香| 97人人搞| 婷婷五月激情小说| 91精品电影18T| 五月婷婷欧美| ww亚洲ww在线观看| 国产精产国品一二三在观看| 九九操综合网| 五月婷婷性爱网| 伊人超碰| 91怕怕网| 色色国产| 五月久久五月激情| 亚洲精品字幕在线观看| 青娱乐美女福利视频美臀| 天天爱天天操| A网在线欧洲| 七七婷婷综合| 99精品小视频| 性爱五月丁香| 涩涩五月天| 国产色色网址网站| 七七久久综合| 婷婷午夜精品久久久| 97精品在线| 99在线热| 99极品视频| 超碰人人色| 丁香五月六月久久综合| 99se丁香| 婷婷五月天在线观看| 日亚二欧美| 99精品热视频| 亚洲精品性色| 肏屄色播伊人97婷婷| 成人五月天视频播放| 五月丁香婷婷狠狠操| 色五月视频无码播放| 亚洲中文字幕AV在线| 欧美va在线| 97碰碰碰| 超碰v| 五月婷婷伊人久久| 99a级片| 99re久久| 79色色色色| A级毛片高清免费不卡播放谢谢谢谢| 超碰成人av| 轮奸综合网| 国产SUV精品一区二区883| 草AV9999| 九九综合| 婷婷五月激情五月丁香五月| 日韩中文欧美| h在线看免费版在线看| 亚洲永久免费| 九月丁香欧美综合| 国产精品18久久久| 激情綜合網址| 婷婷五月丁香六月天亚洲综合| 色色色五月婷| 青青草大香| 无码99| 久久亚洲网| 888久久久| 久久九九网| 九九精品视频在线观看| 五月婷婷五月丁香综合| 久久人人九| 欧美性猛交 XXXX 乱大交| 青青草原精品久久| 六月丁香视频网站| 国产成人av在线播放| 激情五月婷婷| 激情小说五月天| 丁香五月婷婷色偷偷| 色色五月婷婷| 9久国产精品| 久久色大香蕉| 99色综合| 91超碰人人操| 碰碰91| 五月天婷婷在线播放| 伊人久久激情图区五月| 五月婷亚洲精品AV天堂| 婷婷综合九月| 日韩欧美性爱| 草榴视频黄色网| 天天天天干| 亚洲精品成人| 成人版视频在线观看| 婷婷丁香五月天亚洲| 黄色aaaaa| 九九亚洲无码| 无码橾| 奇米色大香蕉| 亚洲人成网站999久久久综合| 丁香五月天啪啪| 亚洲激情av| 无码动漫av| 五月综合色播播丁香婷婷| 天天爽—爽| 深爱激情中文五月天av| 国产伦理精品高清在线观看网站一区二区 | 日本久久激情| 99热传媒| 在线播放 精品| 亚洲日韩一页精品发布| 日韩av变天就操逼不卡区| 99爱精品| 亚洲精品久久久无码| 久久久久人妻| 9久精品| 久久婷婷综合五月天| 任你操精品免费| 影音先锋人妻出差| 五月天激情AV| 人妻久久久| 亚洲精品婷婷| WWW久久久| 99操视频| 欧美丰满熟妇BBB久久久| 久热无码| 亚洲正能量欧美| 精品九九九久| 99热碰碰热| 99色在线观看| 亚洲mm色| 91久久婷婷人人澡草| 日本va视频| 婷婷色五月天综合网| 米奇激情婷婷| www.婷婷.com| 啪啪综合网| 激情欧美五月丁香| 五月婷婷电影院| 黄色视频网站在线播放| 9999热在线观看| 五月天激情网址| 亚洲无码11| a在线观看| 3pAV| 99久在线精品99re8热| 开心五月网| AV色婷婷| 亚洲天堂婷婷丁香| 中文字幕97超级碰| 婷婷六月开心网| 色五月丁香在线| 天天爽,夜夜爽| 色色免费网站| 欧美日韩成人h| 97热九九| 欧洲高清免费久久| 欧美在线视频99| 狠狠精品干练久久久无码中文字幕 | 色婷婷狠| 久久91久久精品久久| 成人一区在线观看| 亚洲va日| 婷婷五月天AV在线| 五月天丁香婷婷久久九| 五月丁香六月激情综合网| 丁香五月婷婷色五月| 九九热精品6| 中文字幕不卡+婷婷五月| 色综合五月天| 久久久99视频| 蜜桃五月天| w婷婷五月婷婷w| 五月丁香| 国产激情综合| 另类激情首页| 综合久久99| AV亚洲在线| 级情九色| 九月综合| 五月婷婷色白丝| 26uuu色噜噜精品一区| 色视频五月天| 99热国产在线| 就99这里只有精品| 这里只有精品免费视频| 日本久久性| 亚洲 精品 综合 精品| 丁香六月婷婷综合啪啪| 色www久视频| 四虎成人精品永久免费AV九九| 五月丁香婷婷潮喷中文字幕| 国产做A爰片毛片A片美国| 丁香久久九九99| 一个色的综合| 99热精品在线| VA日本视频| 伊人久久五月天综合| 激情图片五月天| 色婷婷最新域名| 午夜 外网 精品 在线| 婷婷爱五月| 婷婷香蕉香| 日日噜噜久久婷婷五月天 | 亚洲国产网址| 99视频网| 五月丁香 狠狠爱| VA国产在线综合网站| 丁香六月啪| HD久久精品视频| 97婷婷丁香五月| 婷婷五月天激情四射| 精品牛仔裤超碰| 91色情播放| 超碰人妻公开在线| 伊人五月人妻精品| 欧美午夜乱妇午夜福利| 69午夜成人影片| 99婷婷| 久久久五月五丁香| 亚洲中文字幕av| 久久五月天视频| 五月天激情啪啪| 最近中文字幕2019视频1| 精品爆操| 97干免费视频| 五月天色区| 色婷婷av在线观看| AA丁香综合激情| 丁香五月婷婷激情小说| 影音先锋噜一噜| 大香蕉久久草| 色婷婷激情| 五月丁香久久精品在线观看| 九九热精品| 色九区| 婷婷激情五月| 激情伊人五月婷婷久久| 无码字幕中文| 99re在线视频| 五月噜噜噜色综合| 色欧美色色色| 99热这里都是精品| 天天操天天爱天天日| 色五月在线播放| 26uuu国产色| 99ER热精品视频| 婷婷五月天性| 日韩精品超碰在线观看| 性色五月天| 精品视频99看在线视频| 91猫咪国产在线播放| 婷婷丁香六月| 婷婷丁香午夜综合影视| 99热免费18| 免费看成人747474九号视频在线观看| 丁香五月亚洲AV| 国精产品一区一区三区免费视频| 久色国产| 五月丁香六月婷综合成人综合| 五月天综合在线| 激情五月亚洲综合网| 婷婷日本色| 色色网站| 久久这里都是精品| 干亚洲天堂| 日本久碰| 99精品在线| 欧洲亚洲激情五月天在线| 色综合色色色色| av色色国产| 丁香色综合| 99热99在线| 日日操夜夜操不卡| 99这里有精品| 婷婷五月天美女21p| 啪啪色激情五月天| 九九色院| 91碰免费视频| 99精品在线| 日本色爽| 五月婷婷乱| 99九色视频在线观看| 亚洲成人在线观看av| 丁香五月婷婷大香蕉| 激情五月激情综合俺也去婷婷小说| 六月婷婷综合网2| 91精品综合久久久久久五月丁香| 精品色| 五月丁香视频在线观看| 久久Xx| 精品热青草| 婷婷成人五月天| av在线免费网站 | 五月综合在线| 99热精品在线免费观看| AV五月丁香| 91碰| 日本久久精品18| 超级碰碰97在线| 五月天婷婷视频| 99视频精品在线| 五月婷婷co.m| 久久激情综合| 中文字幕丰满乱孑伦无码专区 | 日韩 中文 欧美| 五月婷久久久久综合| 九九热这里| 天天搞天天色综合| 色五月婷婷大香蕉| 丁香五月婷婷大香蕉| 第一区久久网站| 亚洲婷婷开心五月| 日韩成人网站精品久久大全| 在线中文字幕视频| 超碰成人在线观看| 亚洲、欧美、国产另类笫二区| 99惹| 日韩婷婷五月| 欧美噜噜免费观看| 狠狠色婷婷7| 色色五月天激情| 日韩在线9| 久草五月天| 九色地址91视频| jiuse91在线| 婷婷五月丁香激情图片 | 五月婷婷精品无在线| 永久99免费视频网站| 五月婷婷大香蕉| 99热偷拍| 亚洲AV综合网| 天天操天天爱天天日| 丁香色色网| 96精品久久久久久久久| 中文字幕不卡+婷婷五月| 五月天激情国产综合婷婷婷| 婷婷中文字幕| 99人碰碰碰| 亚洲激情网| 天天干天天干天天干天天干天| 综合色播| 国产肥白大熟妇BBBB视频| 夜精品无码A片一区二区蜜桃| 丁香五月天黄色片| 五月丁香综合激情| 婷婷婷狠狠| 182.t午在线观看| 色色色色色色色色色色色色色色,网站| 狠狠狠狠草草| 超碰在线免费9| 99爱爱| 午夜美女人啪最红院| 激情婷婷另类| 五月综合缴情网| 青青草成人网| 五月婷婷啪啪| 老司机视频lsj爱就色| 99热很操老逼| 亚洲综合网区| 热99只有里视频| 五月综合色| 狠狠色综合网站久久久久| 九九99久久| 亚洲成人AV电影在线| 99caobi| 色婷婷免费观看| 热九九在线| AV79| 99热久| 大香蕉婷婷| 国内自拍97在线| www.婷婷,com| 丁香五月婷婷五月天在线| anquye五月| 91超碰在线播放| 久久久婷婷| www.久久色.com| 婷婷99狠狠| 99热无码| 丁香五月电影| 91婷婷伊人牛牛| 色婷婷成人影片| 精品乱码久久久久| 99re热视频这里只精品| 五月丁香六月婷婷啪啪| 色爱终和网| 大香蕉啪啪啪| 国产精品人妻在线网址| A A色色| 婷婷综合网站| www,久久久人人| 婷婷五月天成人五月天| 99热99精品| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 色婷婷丁香五月| 亚洲亚洲人成综合网络| 丁香五月性爱| 色色五月婷婷久久| 婷婷综合玖玖五月| 色5在线| www,超碰| 婷婷综合偷拍| 色婷婷视频综合| 婷婷五月天影院| 超碰免费99| 热99在线| 亚洲影院婷婷色| caopeng97日韩| 婷婷伊人綜合中文字幕小说| 激情AV在线| 狠狠色综合网站久久久久| 亚洲蜜桃精久久久久久久久久久久| 97人人操人人| 青青草原亚洲天堂| 91丨九色丨熟女丰满| 婷婷综合色五月天| 色噜噜狠狠色综无码久久合欧美| 久久九九视频网站| 久久婷婷视频| www.com亚洲网站在线免费| 亚洲一区二区无码蜜乳av| 特级西西4444www无码| 五月天激情四射网站| 五月草视频| 99热爆在线| 婷婷五月天免费| 中文毛片无遮挡高潮免费| 97色片| 天天操中文字幕| 日韩黄色电影| 51XX午夜影福利| 六月久久婷婷| 98色花堂98t.R| 日本成人综合| 五月色婷婷影院| 日本熟妇乱妇熟色A片蜜桃| 开心深爱五月天| 91久久久久久| 色狠狠狠干| 色情五月综合婷婷| 99色看这里只有精品| 丁香五月婷婷基地| 九九热视频免费的| 婷婷丁香五月在线观看91| 激情五月婷婷丁香综合网| 国产欧美大香蕉一区| 五月婷婷色激情| 综合色视频| 九月综合| 激情综合五月激情XXXX| 久久一级AV| 色五婷婷| 啪啪 综合网| 亚洲第一第二网站| 极品人妻videosss人妻| 久久精品日| 婷婷色五月色| 六月丁香啪啪啪| 啪啪啪大香蕉| 秋霞电影理论| 97五月婷婷| 欧洲不卡视频| 欧美性猛交AAAA片黑人 | 色情五月天A片| 久久人视频| 久久多色| 99热这里只有精品热| 人人干人人操外国| 丁香六月五月天| 色综合久久伊伊婷婷五月| 五月天婷婷Av| 日夜操B| 九九家庭影院| 激情骚五月| 天天干夜夜谢| 丁香五月婷婷日本| 五月人人丁香婷婷五月人人丁香| 日本九九九九九九| 玖玖婷婷五月天| 开心五月色婷| 波多野结衣AV无码Porn| 九九色色| 精品99在线| 激情的五月| 99热精品99| A片试看120分钟做受视频红杏 | 激情五月天婷婷播播久久综合91| 五月丁香激情综合啪啪| 色五月五月天| 亚洲精品99| 精品九九九久| AV九九| 国产精品爽爽久久久久久| AV天堂淫乩| 婷婷丁香五月天熟女丝袜| 婷婷久久综合| 精品99在线| 天天日夜夜爽。| 欧美色色色| 97久久人人人干| 色综合色五月| 成人性爱无码| 婷婷五六日| 草久私拍| 久久caop| 天天日天天操心| 丝袜激情网| 综合色色婷婷| 美女五月天婷婷| 丁香六月激情四射| 任你干嘛免费视频播放| 五月丁小婷婷激情四射| 99热这里是精品| 色色五月丁香婷婷| 99九无网码| 五月 婷婷 成人| 日 日干 日日做| 激情婷婷五月久久| 色五月综合在线| 综合激情肏逼网| 久久天堂女人| 91精品91久久久久77777| 激情綜合網址| 99网99热| 五月激情综合网| 人人摸人人搞| 色婷婷狠狠18| 开心深爱激情网| 五月天婷婷色播综合在线| 九九色天堂| 色婷婷香蕉丁丁网| 久久精品五月| 伊人久久大香天蕉亚洲特级| 婷婷丁香成人色综合| 亚洲字幕AV一区二区三区四区| 婷婷久热| 天天插天天插| 少妇真实被内射视频三四区| 欧美丰满熟妇BBB久久久| 婷婷伊人綜合中文字幕| 精品国产AV色一区二区深夜久久| 欧美大片免费播放器| 全部老头和老太XXXXX| 无码激情AAAAA片-区区| 成人免费黄色短视频| 国产精品18久久久| 精品亚洲国产成AV人片传媒| WwW色婷婷| 91在线观看九区| av婷婷丁香| Www.狠狠| 亚洲视频五区| 婷婷 久综合| 色狠狠伊人久久五月丁香| 在线va网站| 五月婷婷熟女| 人人看人人草人人摸| 色色综合网络| 日韩综合久久| 五月婷婷六月丁香| 色色9 9| 久99热| 91干婷婷| 卡视频1区2区| 丁香五月性| 99久久成人| 久久婷婷在线| 亚洲成人在线综合| 天天插天天干| 91久久九九| 久久天堂女人| 任你草| 色五月婷婷五月久久| 天天日天天干天天天| 亲子乱AV一区二区三区下载| 色婷婷狠狠爱| 真实的国产乱XXXX在线91| 伊人狠狠色婷婷综合丁香一区| 天天射美女| 五月婷婷综合色啪| 99性爱视频| 婷婷在线视频| 丁香五月天堂网AV| 99精品人人| 五月天婷婷激情小说| 久草热在线视频| 五月天婷婷小说| 91碰碰碰久久久久| 99热老网站| 不卡成人免费| 丁香五月激情天AV无码| xx人人xx| 五月天激情综合网| 色综合久久综合| 99精品这里只有免费视频| 婷婷精品性视频| 色播五月网| 99精品久久| 色五月婷婷自拍| 深爱激情九九五月天| 天天拍久久| 色999五月色| 大伊香蕉精品视频在线| 色V狠狠的干| 久香草视频在线观看| 99爱爱| 色99免费视频中文| er99免费视频在线| 综合色色色| 六月丁香婷婷色狠狠久久| 人妻熟妇六区| 大香蕉AV在线| 婷婷激情综合网| 五月色天五月色| 综合激情五月天| 久久五月情| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 久久久久久久久久久97| www,婷婷五月天,com| 五月天伊人| 亚洲成人高清在线| 五月丁香六月婷婷激情网| 成人片在线播放| 涩涩婷婷五月| 丁香婷婷免费| 五月激情小说| 丁香婷婷久久 | 无码区婷婷五月花开| a级毛片一区二区免费视频| 天天插天天草人人玩| 日韩成人电影AV| 91视频综合网| 激情五月天视频| 丁香五月色| 五月丁香久人妻中文| www,天天干| 二区成人视频| 丁香六月婷婷综合欧美| 国产精品电影| 东京热免费视频| 九色婷婷| 噜噜视频| WWW·天天操·视频?| 六月丁香婷婷综合狠狠爱夜夜爱| 9999热免费视频视频| 免费播放99性爱视频| 婷婷中文字幕网站| 五月开行婷婷色五月| 丁香五月天久久| 婷婷婷五月天最新综合你懂的| 9久久精品| 就99这里只有精品| 超级碰碰97在线| 狠狠狠狠狠草| 无码一区精品一区视频| 婷婷激情丁五月| 第四色色色色色丁香五月天| 国产精品A片| 99久久欧美| 激情五月天激情五月天| 五月丁香六月婷婷久久| 激情综合网五月| a在线观看| 久色资源| 丁香五月天激情综合网| 九月色婷婷婷| 丁香六月婷婷久久综合| 天天摸天天肏| 五月婷丁香| 五月天婷综合网站| 综合久久激情久久| 伊人丁香六月婷婷| 大战熟女丰满人妻AV| 色综合天天网| av高清无码| 日日操日日撸| 五月丁香啪啪综合网| 九九这里有精品| 国产淫熟妇| 99色在线视频观看| 婷婷综合激情| 天天爽天天日人人爱| www99精品在线观看| 九九热免费视频| 99热情这里只有精品在线播放 | 国产人妻人伦精品一区二区| 全国最新疫情| 日韩肏屄网| 热九九精品| 六月婷婷九月丁香亚洲综合| 99热综合在线| 99色爱| 夜色综合网| 大香蕉久久| 丁香五月婷婷av影院| 激情五月天伊人影院| www.91久久| 级人人91| 亚洲av骚货| 五月丁香花婷婷玉莉AV| 成人视频一区| 视色综合| 2021日韩无码| 91精品91久久久中77777| 狠狠色噜噜色狠狠狠综合久久成人波| 亚洲超碰在线| 日本毛片内射| 无码激情AAAAA片-区区| 97色碰| 六月婷婷在线视频| 五月天婷婷色播在线网| 色丁香五月天| 亚洲情欲久久| 久久婷婷视频| 91精品无码| 六月合五月婷| 777精品成人a v久久| 91操操| 久热久操久热久草国产91| 91久久精品国产91性色TV| 九月婷婷丁香| 五月丁香偷拍| 日日噜狠狠色综| 婷婷丁香五月91| 免費观看aV在线网址| 色综合久久888| 99热爱爱干干日| 79色色| 五月天婷婷青青草| 色播五月丁香婷婷| 亚州精品色情无码A片| 九色激情网| 七七久久综合| 日韩1区2区| 婷婷色在线视频| 婷婷五月天激情诱惑| 激情纯色婷婷五月天在线不卡视频| 99操| 中文无码婷婷| 丁香激情久久| 啪啪丁香五月| 99久在线观看| 九九干视频| 综合狠狠干| 97碰人人操| 色www.con| 丁香五月婷婷激情蜜桃| 激情婷婷丁香| 欧美怡红院黄站| 色人久久| 日韩无码色色| 99精品在线| 婷婷五月天开心网| 久久久中文| 激情五月婷婷综合| 亚洲V国产V欧美V久久久久久| 国产67194| 国产成人精品一区二三区熟女在线 | 亚洲欧美婷婷五月色综合| 激情五月天开心总和网| 热99AV网站| 91精品综合久久久久久五月丁香| 深爱1激情网| 五月婷婷开心亚州在线| 五月婷婷六月开心| 久久久性爱视频| 久久电影4399| 久久久91| 国产精品人人做人人爽人人添| 色婷婷成人做爰A片免费看网站| 国产黄色在线观看| 丁香花综合永久入口| 99精品偷拍视频| 日韩天堂久久| 91se在线视频| 五月婷婷在线视频免费观看| 婷婷五月开心中文字幕色| 六月色色婷婷| 六月合五月婷| 色婷天天| 97av在线视频| 爱iii做iiii日| 婷婷情色五月| 天堂爱啪啪| 另类五月婷婷| 精品久久久久久久人妻| 狠狠干.com| se色综合网| 人人人操Av| 色色色视频| 少妇激情五月天| 情色五月天网站| 97干在线| 五月丁香另类网| 日本三久久| 国产日批视频| 色综合激情| 丁香九月婷婷综合| 九九成人电影婷婷| 婷婷激情综合色五月久久图片| 天天插天天狠| 精品免费99| XX色综合| 农村熟妇高潮精品A片| 丁香五月97视频| 亚洲 综合中文| 五月丁香在线婷婷美女| 九月婷婷综合| 久久精品熟女亚洲AV麻豆| 在线99精品| 久操操| 99精品免费欧美小视频| 国产精品久久久久久白浆色欲| 国产69精品久久久久999小说| 日都一级A片| 色情五月丁香婷婷网| 色99网| 亚洲激情av| 婷婷五月丁香性爱| 综合综合色色| 26uuu成人网| 青草青草视频2免费观看| 天天干,天天操,天天射| AV五月丁香| 亚洲va综合va国产va中文| 丁香五月AV| 久久五月丁香婷婷| 五月天婷婷无码视频| 99色视频| 五月婷婷黄色| 99热在线播放| 91无码一区人妻A片蜜| 婷婷性爱影院| 99re8这里只有精品99re8热视频| 99热超碰在线| 日本一级大片| 丁香伊人综合| 欧美日韩99| 超碰色婷婷| 五月天婷网| 国自产拍偷拍精品啪啪一区二区| 97丁香五月| 狠狠插日日干撸| 五月日韩中文字幕| 亚洲Va成人| 伊人干综合| 婷丁香五月天| 精品人妻一区二区三区四区不卡在| 丁香六月天婷婷色| 99视频久久免费视频| 噜噜五月天综合| 99ri在线播放| 热99在线精品| 国产精品岛国片在线观看免费| 婷婷丁香五月六月激情| 亚洲成人综合在线| 97色婷| 97在线/亚洲| 丁香五月综合激情性爱| 色狠狠婷婷| 五月丁香亭亭A片| 米奇影视资源婷婷狠狠色激情欧美五月丁香 | 人妻视频在线| 久久色五月| 五月婷婷色白丝| 直接看的av| 日韩无码乱轮| 人人干av| 91视频五月丁香| 婷婷在线播放| 亚洲最大在线| 婷婷久久大香蕉| 大香蕉婷婷色| wwwss在线观看| 欧美日综合| 99热伊人| 狠狠综合| 性爱AV天堂| av九九| 人妻操逼| 午夜成人片400| 精品怡红九九九| 99久操视频| 五月丁香六月婷婷视频| 最新久久99视频网站| 五月丁香在线观看| 九九热99免费视频| 九月激情综合| 色性综合| 五月天激情色色| 婷婷视频在线| 激情五月,激情综合网| 天天操中文字幕| 九月丁香婷婷综合| 开心激情婷婷| 无码毛片992367| 97成人在线视频| 综合图片色色| 91seav| 97人人干人人操| 狠狠色激情综合| 五月天堂六月丁香亚州中文字幕久久| 久草狼人| 亚洲综合字幕色色| 欧美怡红院黄站| 五月亭亭网成人在线视频| 久久久大香蕉| 国产又爽又猛又粗的视频A片| 91操操操| 丁香五月综合首页| 婷婷久久综合久| 开心激情久久久久久久| 久人操| 综合色播| AV79| 91色色色| 亚洲亚洲人成综合网络| 五月开心色| 丁香五月激情婷婷| 男同91| 五月丁香六月综合基地| 操逼毛片国语对白| chaopengdaxiangjiao| 五月综合激情网| 丁香五月激情天AV无码| 激情婷婷在线| 五月花激情| 五月丁香花开综合网| 国产五月天婷婷| 麻豆WWWCOM内射软件| 亚洲色 视频| 啪啪综合网| 67久久| 丁香六月色婷婷| 人妻内射视频| 婷婷五月花免费视频在线| 日韩免费99| 五月天社区婷婷| 婷婷五月天激情网| 婷婷五月色亚洲| 欧美va视频| 五月婷久草| 国产毛片精品一区二区色欲黄A片| 99热在线播放| 五月色天五月色| 天天se在线视频| 午夜微拍福利| 精品一二三区久久AAA片| 婷婷五月天成人网| 中文不卡一二区| 人妻AV在线| 操比激情五月| 91 影音先锋| 色99网站| 久久99热免费最新版| 玖月婷婷爱丁香| 51XX午夜影福利| 激情婷婷。| 99精品视频在线观看| www.夜夜操.com| 丁香久久| 日日操,天天操| 91免费在线视频6| 大香蕉啪啪| 182TV大香蕉| 一起操 91N.com| av在线播放网站| 国产精品美女久久久久AV超清| 成人av在线网址| 综合久久人妻| 久热A| 婷婷激情五月天亚洲综合| 九九热亚洲中文在线观看免费| sewuyuetingtingiii| 亚洲99一级无嗎特制在线| 亚洲亚洲人成综合网络| 狠狠色97| 天堂久久婷婷| 91色色色视频| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 色天使色婷婷| 久久九九思思| 九色视频九色九色91jiuseshipin| 91一起操| 97AV在线视频| 久久久无码精品成人A片小说| 激情五月婷婷网| 丁香五月天啪啪激情综和网| 丁香五月婷婷六月婷| 五月综合激情图片| 99热综合在线| 激情欧美婷婷| 这里只有在线精品| 久久久久8888| 日韩黄色网络| 99九九精品| 超碰人人操在线| 激情婷婷在线中文字幕| 日本九九九九| 久久草大香蕉| 五月天激情国产综合婷婷婷就去爱| 婷婷久久午夜网| 亚洲小说五月婷婷| site:picc-up.com| 欧美色六月婷婷| 五月婷AV| 可以免费看AV网站| 五月天天爽| 91肏| 九九Av| 五月天色色网站| 2018夜夜草| 亚洲天堂碰碰婷婷| 激情熟女网| 91日本在线| 亚洲AV无码影院| 丁香婷婷五月综合色情| 人妻性爱| 婷婷色五月久久| 天天操狠狠操| 91视频一起草| 五月丁香六月激情在线| 婷婷激情五月综合| 日本性视频| 99精品超在线播放| 啊v视频在线观看| 深爱激情九九五月天| 婷婷五月18永久免费视频| 激情爱爱网站| 色五月婷婷网| 97碰碰久久| 99免费热视频在线| 天天综合激情| 国产精品A片| 日韩久热| 嫩草AV久久伊人妇女超级A| 91九色PORNY肉丝在线| 成人Av在线大片| 欧美色99| 五月丁香网站在线播放| 丁香六月婷婷| 99国产精品久久久久久久久久久| 另类丁香五月天区图| www.99久| 综合性视频99| 丁香五月在线观看| 男女啪啪做爰高潮无遮挡| 在线99色| 天天插天天插天天操| 99热精品一| 五月天开心色情网| 99ER热精品视频| 天堂久久性| 玖玖九九99| 99日本在线| 久久黄色片| 国产成人网| 色婷婷六月丁香综合欲精品| 激情综合网五月婷婷| 中文字幕av久久爽| 色色是色N一| 月婷婷婷婷五月| 91中文在线| 99丁香五月婷婷在线| 五月色导航| 六月丁香啪啪| 丁香五月亚洲综合| 激情婷婷五六月天| 一起草Av| 亚洲精品无AMM毛片| www久| 激情99| 九九成人电影婷婷| 五月婷婷影| 五月天四色房丁香| 婷婷五月AV| 人妻丰满精品一区二区A片| 五月亭亭开心网| 思思热在线| 亚洲蜜桃精久久久久久久久久久久| 欧美碰碰碰| 五月婷婷乱| 双性美人被调教到喷水A片| 久久大国产香蕉| 青青草搞屄视频网站| 天天久久狠狠色综合| 九九色婷| 丁香婷婷综合精品六月初| 激情综合网址| 色欲婷婷五月天丁香| 五月婷婷丁香av| 国产成人精品123区免费视频| 涩五月婷婷| 野战毛片三一3| 狠狠色丁香乆乆| 色五月婷婷五月久久| 色五月婷婷影院| 天堂久久婷婷| 爱婷婷都市激情| 色色丁香五月天社区| 99只有这里是精品| 久操操| 婷婷97狠狠干| 天天日夜夜拍| 66精品国产成人| 熟女激情网| 九九综合网色全集| 五月婷婷开心网| 玖玖色资源| 日本色五月婷婷| 综合久久首页| 六月婷婷中文字幕| av第一二区| 五月色综合| 久久综合丁香|