欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

RTX 5090單卡訓(xùn)練2B模型:Puro-2B低成本復(fù)現(xiàn)指南

RTX 5090單卡訓(xùn)練2B模型:Puro-2B低成本復(fù)現(xiàn)指南 Puro-2B 這個項目一句話就能說清楚它來自一個預(yù)算很緊的“窮人實驗室”目標是在一張 RTX 5090 顯卡上、用 5090 美元左右的總投入完成 Qwen2-1.5B 基礎(chǔ)模型的繼續(xù)訓(xùn)練最終得到一個參數(shù)規(guī)模在 2B 量級的模型。這個項目最值得關(guān)注的點不是效果能打平幾十 B 的大模型而是把“訓(xùn)練一個可用小模型”的硬件門檻壓到了消費級單卡范圍。這篇文章我會先拆解項目標題透露的關(guān)鍵信息再給出一套可以落地的復(fù)現(xiàn)路線從 RTX 5090 本地訓(xùn)練環(huán)境準備、Qwen2-1.5B 權(quán)重下載、LoRA / 全參微調(diào)腳本到推理接口部署和批量任務(wù)調(diào)用。如果你手里有 32GB 顯存級別的顯卡也關(guān)心 50 系顯卡上 PyTorch / CUDA 適配怎么處理可以直接照著下文走一遍。先說清楚Puro-2B 目前公開可查的信息主要集中在項目命名本身具體權(quán)重和訓(xùn)練代碼如果作者后續(xù)沒有放出來我們這篇文章的重點就是“復(fù)現(xiàn)一條同路線”。拿到作者倉庫后把模型路徑和訓(xùn)練腳本替換掉就能跑同一個思路。1. Puro-2B 核心能力速覽從項目標題可以穩(wěn)定提取出這幾個關(guān)鍵參數(shù)項目說明項目名稱Puro-2B基礎(chǔ)模型Qwen2-1.5B最終模型規(guī)模2B 級別訓(xùn)練硬件NVIDIA RTX 509032GB GDDR7 顯存項目預(yù)算約 5090 美元項目類型低成本本地訓(xùn)練實驗 / 微型實驗室開源項目訓(xùn)練目標在單張消費級顯卡上完成小參數(shù)模型的繼續(xù)訓(xùn)練適用讀者想自己訓(xùn)練私有模型的個人開發(fā)者、高校實驗室、中小團隊推理服務(wù)拿到權(quán)重后可用 vLLM / transformers 自建 OpenAI 兼容接口批量任務(wù)支持通過 JSONL 批量調(diào)用或腳本循環(huán)完成商用邊界需遵守 Qwen2 開源協(xié)議訓(xùn)練數(shù)據(jù)必須有合法授權(quán)這里有幾個點值得展開一下基礎(chǔ)模型選 Qwen2-1.5B說明作者更關(guān)注“小模型 通用對話能力”的組合。Qwen2 系列在中文和英文任務(wù)上的平衡做得不錯1.5B 參數(shù)量對單卡訓(xùn)練非常友好。RTX 5090 是 Blackwell 架構(gòu)的旗艦消費卡32GB 顯存給了單卡訓(xùn)練 1.5B 級模型足夠的空間。全參微調(diào)不是沒可能LoRA / QLoRA 更穩(wěn)妥。5090 美元這個數(shù)字把顯卡、整機、存儲、電費等成本壓縮到了一個“個人攢機”的預(yù)算范圍。這本身就是這個項目最大的價值信號。從這張表可以看出Puro-2B 不是一個典型的高性能大模型項目而是一次“平民化訓(xùn)練”實驗。它真正想做的是證明小實驗室不用租云端集群也能把一個 2B 級模型從底座訓(xùn)練到可用狀態(tài)。2. Puro-2B 的定位與適用邊界2.1 這個項目適合誰如果你屬于下面幾類人Puro-2B 這條路線值得花半天時間跑一遍需要私有化模型的團隊。數(shù)據(jù)不能出內(nèi)網(wǎng)只能本地訓(xùn)練和推理2B 級模型部署成本低單卡就能扛。準備入門大模型訓(xùn)練的學生或研究者。用 RTX 5090 單卡跑通一遍訓(xùn)練流程比看十篇論文理解更深。做垂直領(lǐng)域應(yīng)用的個人開發(fā)者。想在客服問答、文檔摘要、代碼補全等特定場景里做一個“夠用”的模型而不是追求通用能力。2.2 這個項目不適合什么場景如果目標是通用助手級別的智能水平Puro-2B 這種 2B 模型沒辦法和幾十 B、上百 B 的模型比。它在知識密度、復(fù)雜推理、長文本穩(wěn)定性上都會明顯受限于參數(shù)量。更適合做垂直任務(wù)、專用場景的模型不適合直接當全能聊天機器人給一群用戶用。2.3 使用邊界和合規(guī)提醒訓(xùn)練、推理和二次開源時必須注意幾個底線Qwen2 系列模型有自己的開源協(xié)議。如果你基于 Qwen2-1.5B 繼續(xù)訓(xùn)練發(fā)布微調(diào)模型時一般需要繼續(xù)遵守原協(xié)議。訓(xùn)練語料必須來源合法。不要爬取未授權(quán)的對話數(shù)據(jù)、他人隱私信息或受版權(quán)保護的書籍文章。如果模型會處理用戶輸入需要考慮數(shù)據(jù)脫敏和隱私保護。不要用這個能力去做欺騙、偽造、批量騷擾等行為。這塊不是套話是本地模型最容易踩的坑。很多同學訓(xùn)練的時候不在意語料來源后面如果要商用授權(quán)問題會直接卡住項目。3. 訓(xùn)練復(fù)現(xiàn)的環(huán)境準備3.1 硬件配置Puro-2B 項目的核心訓(xùn)練硬件是 RTX 5090。要跑通 Qwen2-1.5B 的 LoRA 微調(diào)32GB 顯存空間非常充裕即使你手里是 24GB 顯存的 RTX 4090做同樣的實驗也沒有問題。建議的硬件基線部件最低配置推薦配置GPURTX 4090 24GBRTX 5090 32GBCPU8 核以上16 核以上內(nèi)存32GB64GB硬盤50GB 可用空間200GB SSD 以上系統(tǒng)Ubuntu 22.04 / 24.04Ubuntu 24.04 或 Windows WSL2Qwen2-1.5B 模型文件、訓(xùn)練數(shù)據(jù)集、中間 checkpoint 和最終權(quán)重加起來早期預(yù)留 50GB 左右比較舒服。3.2 系統(tǒng)與驅(qū)動檢查RTX 50 系列發(fā)布后驅(qū)動、CUDA、PyTorch 三者的版本適配成了最常見的問題。如果你在 50 系顯卡上訓(xùn)練先做一次環(huán)境自檢nvidia-smi這一步可以確認驅(qū)動是否正常識別顯卡。然后查看驅(qū)動對應(yīng)的 CUDA 版本再根據(jù) PyTorch 官方安裝頁選擇匹配的組合。更穩(wěn)妥的做法是確認nvidia-smi能顯示 RTX 5090再去 PyTorch 官網(wǎng)選擇對應(yīng) CUDA 版本的安裝命令。很多“訓(xùn)練時報錯找不到 GPU”的情況不是顯卡壞了而是 PyTorch 沒有編譯對應(yīng) Blackwell 架構(gòu)的 kernel。3.3 Python 環(huán)境與依賴庫建議用 conda 建一個獨立環(huán)境避免污染系統(tǒng) Pythonconda create -n puro2b python3.10 -y conda activate puro2b然后安裝基礎(chǔ)依賴pip install torch transformers datasets peft trl bitsandbytes accelerate國內(nèi)網(wǎng)絡(luò)環(huán)境下可以用鏡像源pip install torch transformers datasets peft trl bitsandbytes accelerate -i https://mirrors.aliyun.com/pypi/simple/依賴庫版本不用刻意鎖死但要注意PyTorch 必須選擇支持 Blackwell 架構(gòu)的新版本bitsandbytes 也要升級到兼容版本。舊版本容易在加載模型時報CUDA error: no kernel image is available。安裝完成后執(zhí)行下面這段代碼確認 GPU 可用python -c import torch; print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))輸出為True和NVIDIA GeForce RTX 5090才說明環(huán)境正常。4. 模型與微調(diào)數(shù)據(jù)準備4.1 下載 Qwen2-1.5B 權(quán)重國內(nèi)用戶直接從 Hugging Face 下載可能比較慢可以用 ModelScopefrom modelscope import snapshot_download snapshot_download( Qwen/Qwen2-1.5B, local_dir./Qwen2-1.5B )也可以直接用transformers在運行時加載遠程權(quán)重但訓(xùn)練場景建議先下載到本地目錄避免訓(xùn)練過程中斷網(wǎng)導(dǎo)致失敗。4.2 構(gòu)造微調(diào)數(shù)據(jù)集對話類微調(diào)比較常見的數(shù)據(jù)格式是 ShareGPT 風格或 Alpaca 風格。這里用一個簡單的 JSONL 格式示例{conversations: [{role: user, content: 什么是RTX 5090}, {role: assistant, content: RTX 5090是NVIDIA基于Blackwell架構(gòu)的旗艦消費級顯卡配備32GB GDDR7顯存。}]} {conversations: [{role: user, content: 寫一個Python快速排序函數(shù)}, {role: assistant, content: def quick_sort(arr):\n if len(arr) 1:\n return arr\n pivot arr[len(arr) // 2]\n left [x for x in arr if x pivot]\n mid [x for x in arr if x pivot]\n right [x for x in arr if x pivot]\n return quick_sort(left) mid quick_sort(right)}]}訓(xùn)練時通過datasets.load_dataset(json, data_filestrain.jsonl)加載。如果數(shù)據(jù)量不大比如只有幾千條建議用 LoRA 而不是全參微調(diào)效果穩(wěn)定顯存壓力也小。4.3 數(shù)據(jù)質(zhì)量檢查訓(xùn)練前把數(shù)據(jù)里的空行、格式錯誤 JSON 行、超長對話清理掉。一個簡單檢查腳本import json valid_count 0 with open(train.jsonl, r, encodingutf-8) as f: for line in f: line line.strip() if not line: continue try: item json.loads(line) if conversations in item and len(item[conversations]) 2: valid_count 1 except json.JSONDecodeError: print(bad line:, line[:100]) print(valid samples:, valid_count)這一步能省掉很多訓(xùn)練中途 loss 變成 NaN 的麻煩。5. 微調(diào)訓(xùn)練與顯存規(guī)劃5.1 全參微調(diào)還是 LoRA從 Puro-2B 項目名字里的 “Trained on RTX 5090” 來看作者做的不是簡單推理而是真正在顯卡上跑了訓(xùn)練流程。但實際訓(xùn)練 1.5B 級模型有兩種路線全參微調(diào)Qwen2-1.5B 的 bf16 權(quán)重約 3GB。梯度約 3GB。AdamW 優(yōu)化器狀態(tài)按 12 字節(jié)/參數(shù)估算約 18GB。再加上激活值。這個量在 32GB 顯存的 RTX 5090 上可以跑但 batch size 和序列長度需要保守設(shè)置還要開gradient_checkpointing。LoRA 微調(diào)基礎(chǔ)權(quán)重凍結(jié)顯存占用大幅下降。優(yōu)化器狀態(tài)只更新新增的低秩適配器可能只需要 1GB 到 2GB。整體顯存占用通常在 10GB 到 15GB 之間訓(xùn)練更穩(wěn)定。如果數(shù)據(jù)量只有幾千條LoRA 更實用。如果你想把整個底座知識都更新一遍再考慮全參微調(diào)。5.2 LoRA 訓(xùn)練示例代碼下面是一份通用 LoRA 微調(diào)腳本按項目實際路徑替換模型目錄和數(shù)據(jù)集路徑即可# finetune_lora_puro2b.py import torch from datasets import load_dataset from transformers import ( AutoModelForCausalLM, AutoTokenizer, TrainingArguments, BitsAndBytesConfig, ) from peft import LoraConfig, get_peft_model, prepare_model_for_kbit_training from trl import SFTTrainer model_path ./Qwen2-1.5B dataset_path ./train.jsonl output_dir ./puro2b_lora_out bnb_config BitsAndBytesConfig( load_in_4bitTrue, bnb_4bit_compute_dtypetorch.bfloat16, bnb_4bit_use_double_quantTrue, bnb_4bit_quant_typenf4, ) model AutoModelForCausalLM.from_pretrained( model_path, quantization_configbnb_config, device_mapauto, trust_remote_codeTrue, ) tokenizer AutoTokenizer.from_pretrained(model_path, trust_remote_codeTrue) model prepare_model_for_kbit_training(model) lora_config LoraConfig( r16, lora_alpha32, lora_dropout0.05, biasnone, task_typeCAUSAL_LM, target_modules[q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj], ) model get_peft_model(model, lora_config) training_args TrainingArguments( output_diroutput_dir, per_device_train_batch_size2, gradient_accumulation_steps8, num_train_epochs3, learning_rate2e-4, bf16True, logging_steps10, save_steps200, save_total_limit3, report_tonone, optimpaged_adamw_8bit, gradient_checkpointingTrue, remove_unused_columnsFalse, ) trainer SFTTrainer( modelmodel, argstraining_args, train_datasetload_dataset(json, data_filesdataset_path, splittrain), tokenizertokenizer, max_seq_length2048, dataset_text_fieldconversations, ) trainer.train() trainer.save_model(output_dir) tokenizer.save_pretrained(output_dir)注意TRL 版本較新時SFTTrainer的dataset_text_field等參數(shù)可能調(diào)整遇到報錯時以對應(yīng)版本文檔為準。這段代碼是通用模板保證思路完整。5.3 訓(xùn)練參數(shù)對照參考設(shè)置項全參微調(diào)建議值LoRA 建議值權(quán)重精度bf164bit 量化 bf16 計算最大序列長度1024-20481024-2048Batch Size1-22-4梯度累積8-164-8優(yōu)化器AdamWpaged_adamw_8bit學習率1e-52e-4訓(xùn)練輪數(shù)2-32-3梯度檢查點開啟開啟混合精度bf16bf16這些配置不是固定標準但以 Qwen2-1.5B 和 RTX 5090 的組合來看是比較穩(wěn)的起點。5.4 先小規(guī)模預(yù)跑正式訓(xùn)練前強烈建議先切出 100 條數(shù)據(jù)、訓(xùn)練 5 到 10 步確認環(huán)境沒問題再全量訓(xùn)練。這樣能避免跑了兩小時后才發(fā)現(xiàn)數(shù)據(jù)集解析錯誤。python finetune_lora_puro2b.py訓(xùn)練過程中可以看到 loss 逐步下降。如果 loss 完全不動或者直接 NaN優(yōu)先檢查學習率、數(shù)據(jù)格式和混合精度設(shè)置。6. 推理驗證與接口部署6.1 合并 LoRA 權(quán)重訓(xùn)練完的 LoRA adapter 需要合并回基礎(chǔ)模型方便后續(xù)部署# merge_lora.py import torch from transformers import AutoModelForCausalLM, AutoTokenizer from peft import PeftModel base_model_path ./Qwen2-1.5B lora_path ./puro2b_lora_out merged_path ./puro2b_merged model AutoModelForCausalLM.from_pretrained( base_model_path, torch_dtypetorch.bfloat16, device_mapauto, ) model PeftModel.from_pretrained(model, lora_path) model model.merge_and_unload() model.save_pretrained(merged_path) tokenizer AutoTokenizer.from_pretrained(base_model_path) tokenizer.save_pretrained(merged_path)合并后puro2b_merged目錄就是一個完整的模型目錄可以直接加載。6.2 本地推理驗證沒有部署服務(wù)之前先用 transformers 做一次對話驗證from transformers import AutoModelForCausalLM, AutoTokenizer model_path ./puro2b_merged tokenizer AutoTokenizer.from_pretrained(model_path, trust_remote_codeTrue) model AutoModelForCausalLM.from_pretrained( model_path, torch_dtypetorch.bfloat16, device_mapauto, ) messages [ {role: user, content: 請用三句話介紹你自己} ] text tokenizer.apply_chat_template( messages, tokenizeFalse, add_generation_promptTrue, ) inputs tokenizer(text, return_tensorspt).to(model.device) outputs model.generate( **inputs, max_new_tokens256, do_sampleTrue, temperature0.7, top_p0.9, ) print(tokenizer.decode(outputs[0], skip_special_tokensTrue))這里重點看模型能不能按對話模板輸出會不會重復(fù)、亂碼或者生成長度異常。6.3 用 vLLM 部署 OpenAI 兼容接口如果需要把模型接到自己的工具或前端推薦用 vLLM 啟動一個 OpenAI 兼容服務(wù)vllm serve ./puro2b_merged \ --dtype bfloat16 \ --gpu-memory-utilization 0.9 \ --max-model-len 4096 \ --served-model-name puro2b啟動成功后會監(jiān)聽http://127.0.0.1:8000。這時可以用 curl 驗證接口curl http://127.0.0.1:8000/v1/chat/completions \ -H Content-Type: application/json \ -d { model: puro2b, messages: [ {role: user, content: RTX 5090有多少顯存} ], max_tokens: 256, temperature: 0.7 }接口能用后面就可以接到自己寫的業(yè)務(wù)腳本里。6.4 批量任務(wù)調(diào)用批量任務(wù)最簡單的做法是準備一個 JSONL 文件用腳本循環(huán)調(diào)用接口import json import requests import time results [] with open(inputs.jsonl, r, encodingutf-8) as f: for line in f: line line.strip() if not line: continue item json.loads(line) resp requests.post( http://127.0.0.1:8000/v1/chat/completions, json{ model: puro2b, messages: [{role: user, content: item[prompt]}], max_tokens: 256, }, timeout120, ) if resp.status_code 200: answer resp.json()[choices][0][message][content] results.append({prompt: item[prompt], answer: answer}) else: results.append({prompt: item[prompt], error: resp.text}) with open(outputs.jsonl, w, encodingutf-8) as f: for r in results: f.write(json.dumps(r, ensure_asciiFalse) \n)批量任務(wù)容易遇到超時、進程卡死、單條 prompt 過長等問題。建議每條請求之間加time.sleep(0.2)并做失敗重試。下面是一個增加重試的簡單方式def chat_once(prompt, retry3): for attempt in range(retry): try: resp requests.post( http://127.0.0.1:8000/v1/chat/completions, json{ model: puro2b, messages: [{role: user, content: prompt}], max_tokens: 256, }, timeout120, ) if resp.status_code 200: return resp.json()[choices][0][message][content] except Exception: pass time.sleep(2 * (attempt 1)) return None7. 訓(xùn)練過程資源觀察訓(xùn)練時怎么觀察 RTX 5090 的顯存和功耗是很多新手最關(guān)心的問題。推薦用nvidia-smi動態(tài)監(jiān)控watch -n 1 nvidia-smi訓(xùn)練過程中重點看幾個字段Memory-Usage顯存占用。LoRA 微調(diào) Qwen2-1.5B 通常在 10GB 到 16GB 區(qū)間具體取決于 batch size、序列長度和是否開啟梯度檢查點。Power功耗。訓(xùn)練時整卡功耗會明顯升高RTX 5090 功耗較高要注意散熱。Temperature溫度。長時間訓(xùn)練建議控制在 80 度以內(nèi)超過就要檢查機箱風道。顯存占用不是固定值。把per_device_train_batch_size從 2 調(diào)到 4或者把max_seq_length從 2048 調(diào)到 4096顯存占用都會明顯變化。遇到推理階段顯存不足時可以調(diào)低--max-model-len或者減小--gpu-memory-utilization。還有一個小經(jīng)驗訓(xùn)練跑完后建議確認沒有殘留的 Python 進程占著顯存nvidia-smi ps aux | grep python如果服務(wù)已經(jīng)退出但顯存還沒釋放直接強殺對應(yīng)進程即可。8. 常見問題與排查方法問題現(xiàn)象可能原因排查方式解決方案啟動訓(xùn)練時報CUDA out of memorybatch size 過大、序列過長、顯存碎片看報錯發(fā)生在加載模型還是反向傳播階段調(diào)小 batch size、開啟gradient_checkpointing、縮短max_seq_length顯卡能識別但 PyTorch 報No kernel image驅(qū)動、CUDA、PyTorch 版本不匹配運行torch.cuda.is_available()檢查ptxas版本升級 NVIDIA 驅(qū)動安裝支持 Blackwell 架構(gòu)的 PyTorch 版本bitsandbytes加載 4bit 模型失敗庫版本太舊查看導(dǎo)入報錯pip install -U bitsandbytes訓(xùn)練 loss 不下降或震蕩學習率太高、數(shù)據(jù)格式錯誤、優(yōu)化器狀態(tài)異常查看前幾步 loss 日志降低學習率清理數(shù)據(jù)集空行重新訓(xùn)練vLLM 服務(wù)啟動后接口超時max_model_len太小、并發(fā)請求過多、磁盤讀取慢用 curl 測試單條請求調(diào)大max_model_len降低并發(fā)或用 SSD 存放模型接口返回亂碼對話模板使用錯誤檢查apply_chat_template輸出按 Qwen 官方模板重新處理輸入批量任務(wù)卡在一條數(shù)據(jù)上prompt 超過模型長度或接口異常給請求加超時和重試數(shù)據(jù)截斷、批量腳本加timeout磁盤空間不足checkpoint 保存過多查看output_dir大小調(diào)低save_total_limit定期清理中間 checkpoint以上是這類單卡訓(xùn)練項目最常見的坑。RTX 50 系列剛出來那段時間驅(qū)動和 PyTorch 適配問題非常普遍遇到報錯先別懷疑顯卡壞了按順序檢查驅(qū)動、CUDA、PyTorch 三者的匹配關(guān)系。9. 低成本訓(xùn)練最佳實踐9.1 先跑最小實驗第一次訓(xùn)練不要直接丟幾萬條數(shù)據(jù)進去。切 100 到 500 條數(shù)據(jù)把訓(xùn)練步數(shù)控制在 10 步以內(nèi)確認環(huán)境、數(shù)據(jù)、權(quán)重、推理鏈路全部通順后再放量跑。這一步能節(jié)省大量排錯時間。9.2 保存一份最小可運行配置把訓(xùn)練腳本、依賴清單和當前環(huán)境版本固定下來pip freeze requirements.txt下次換機器或隔一段時間再訓(xùn)練pip install -r requirements.txt就能恢復(fù)環(huán)境。9.3 模型目錄管理建議目錄結(jié)構(gòu)puro2b/ ├── data/ │ ├── train.jsonl │ └── val.jsonl ├── models/ │ ├── Qwen2-1.5B/ │ ├── lora_checkpoint/ │ └── puro2b_merged/ ├── scripts/ │ ├── finetune_lora.py │ └── merge_lora.py └── outputs/ └── inference_results/模型文件、輸入數(shù)據(jù)、訓(xùn)練腳本、輸出結(jié)果分開放是避免后續(xù)混亂最有效的方式。9.4 訓(xùn)練任務(wù)要打日志訓(xùn)練日志默認輸出到控制臺但批量或長時間訓(xùn)練時建議落盤nohup python finetune_lora_puro2b.py train.log 21 查看訓(xùn)練進度tail -f train.log另外最好開啟 checkpoint 保存并定期把 checkpoint 復(fù)制到另一塊硬盤。訓(xùn)練中斷后可以從最近保存點繼續(xù)不用整個重來。9.5 接口服務(wù)要限制訪問范圍vLLM 默認監(jiān)聽127.0.0.1如果要在局域網(wǎng)提供推理服務(wù)要確認網(wǎng)絡(luò)環(huán)境安全。不要把裸 API 直接暴露到公網(wǎng)。接入業(yè)務(wù)系統(tǒng)前在服務(wù)前面加一層鑒權(quán)或內(nèi)網(wǎng)轉(zhuǎn)發(fā)。9.6 訓(xùn)練數(shù)據(jù)授權(quán)自查涉及人臉、聲音、他人作品、未公開文檔時必須確認有沒有合法授權(quán)。如果沒有明確授權(quán)不要用于訓(xùn)練和分發(fā)。這個檢查比調(diào)參更重要。10. 總結(jié)與下一步Puro-2B 這個項目最值得嘗試的點是把訓(xùn)練成本壓縮到一張消費級顯卡能完成的范圍。Qwen2-1.5B 底座 RTX 5090 單卡 LoRA 微調(diào)基本就是這套路線的標準組合。對大多數(shù)個人開發(fā)者和小團隊來說這比租 GPU 集群更可控也比閉源 API 更私有化。拿到 Puro-2B 權(quán)重之后第一件該做的事是用自己的測試集跑一遍推理看看基礎(chǔ)效果和原版 Qwen2-1.5B 差多少。如果作者公開了訓(xùn)練數(shù)據(jù)和超參數(shù)建議先復(fù)現(xiàn)訓(xùn)練再調(diào)整成自己的數(shù)據(jù)集。最容易踩的坑有兩個一是 RTX 50 系列顯卡的驅(qū)動和 PyTorch 版本適配二是訓(xùn)練數(shù)據(jù)格式錯誤導(dǎo)致 loss 異常。這兩個問題解決掉后面基本就是按部就班地訓(xùn)練、合并、部署。后續(xù)可以擴展的方向也不少把 LoRA 換成全參微調(diào)、加入偏好學習提升回復(fù)質(zhì)量、用 vLLM 批量跑一批領(lǐng)域評測集或者把模型接到一個簡單的前端上做產(chǎn)品原型。單卡訓(xùn)練小模型這件事已經(jīng)不像以前那么“高不可攀”了Puro-2B 給的就是一個很具體的例子。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
新97人人上人人| 秋霞av不能| www.激情五月天com| 99草在线免费观看视频| 天天日综合| 婷婷激情六月综合| 日韩一级A片黄色| 麻豆AV一区二区三区| 五月丁香色六月激情干大屄| 激情丁香五月激情婷婷| 国产白丝在线一区| 激情丁香五月| 国产AV一区二区三区最新精品| 婷婷五亚洲| 99久热在线精品| 久久久一级AAA| 久久久久久97| 99视频这里有精品| 五月激情婷婷在线| 日本va视频| 色啪影院| 久久婷婷五月天蜜桃| 淫五月停停| 色婷婷激情| 婷婷亚洲丁香五月| 激情婷婷五六月天| 久99久视频| 日本VA视频| WWW久久久| 日韩人人操| 中文字幕成人| 五月丁香久久| 综合激情婷婷| 丁香五月天堂| av大香蕉| 色9999日韩国产| 99性视频| 婷婷五月天激情五月天深爱五月天| 六月婷婷网| 午夜婷婷久久| 亚洲视频久久| 婷婷综合偷拍| 国产精品岛国片在线观看免费| 成人做爰A片免费看视频| 五月丁香亭亭操逼| 婷婷99视频精品| 五月天激情AV| 成人中文字幕在线| 婷婷激情五月天小说| 成人无码精品1区2区3区免费看| av大香蕉| 五月丁香人妻| 五月天婷婷综合网| 99免费热视频在线| 丁香五月色情| 大地资源色婷婷视频在线| 久久久久久久人妻| 亚洲中文字幕在线观看| 黄急一级视频| 97久久超视频| 色丁香五月| 182tv992tv人之初午夜免费观看| 久久婷婷网址| 丁香久久九九99| 超碰自拍天堂| 丁香五月777| 午夜成人在线免费视频| 开心五月婷婷综合在线精品素人| 婷婷五月天综合网| 性爱在线播放av| 色五月涩涩婷婷蜜桃| 色婷婷五月综合色婷婷| Caop在线| 97人人草| 91Chinese在线| 99九九久久| 丁香激情四射| 人人播| 91碰碰碰| 亚洲精品无码A片一区二区| 丁香五月亚洲综合丝袜| 无码动漫AV| 亚洲av午夜精品一区二区| 日韩成人影片在线观看| 九色91美女| 激情黄色小说色五月| 六月色色| 欧美性爱5月天天天看| 色五月婷婷啪啪五月| 男女久久婷婷五月天| 区区欧美你爱| 五月天久久婷婷| 五月丁香综合| 久久五月婷天天干| 色射7856五月天激情四射| 亚洲九九婷婷| 激情五月婷婷色综合| 人人草人人爱手机视频看看| 啪啪综合| 九月激情婷婷丁香| 久久久久久久97| 国产高潮A片羞羞视频涩涩| 日韩中文字幕| 九九热99视频在线| 九九热这里只有精品12| 夜色综合网| 亚洲成人五月天| 少妇高潮呻吟A片免费看软件| 久久婷鲁| 97五月天婷婷午夜| 激情五月天综合网| 北京熟妇搡BBBB搡BBBB| 中文字幕丰满人妻无码专区| 丁香五月婷婷88在线| 亚洲欧美999| 国产精品大香蕉| 8090在线影视少妇| 五月婷婷狠狠干| 天天插综合在线| 久久综合激情婷婷激情| 九九热只有精品| 亚洲五月婷| 爱iii做iiii日日| 国产97色在线| 色婷婷激情五月天在线观看| 九九热AV| 色欲天天综合| 亚洲热视频| 伊人激情影院| 99网址在线看| www.久热| 丁香五月天91| 激情五月婷婷伊人| 婷婷五月天开心网| 久久婷婷色情7777网站| 人人干人人看| 五月丁香另类网| 九九热这里只有精品5| 婷婷丁香色性爱| 国产超碰在线| 亚洲天堂啪啪| 97超碰99热99| 天天操夜夜爱| 成AV人片一区二区三区久久| 五月丁香婷婷爱激情综合网| 内射综合网| 中文超碰视在线| 久热99| 丁香六月五月天| 青青青在线视频国产| 大香蕉伊人99| 色色色在线观看| 亚洲性爱AV在线| 91viP在线看| 九九热精品6| 思思久久精品| 九九Av| AV操操操| 色色丁香五月天社区| 日本色婷婷久久99精品91| 亚洲最大在线| 九色91视频| 999热这里只有精品| 青柠影视免费高清电视剧| 99,色| 五月丁香中文| 五月婷婷|欧美| 中文乱子伦视频| 超碰日韩成人| 久久精品66| 另类少妇人与禽zOZZ0性伦| 99热9| 欧美久久网| 激情婷婷99| 就爱射中文字幕资源网| 在线免费视频caop| 色婷婷五月天成人网| 丁香五月婷婷俺也要去| 色婷婷精品视频在线播放| 少妇婷婷五月天| 欧美色五月| 播五月婷婷开心| 99无码视频| ′久久99一| av操一操| 91色色五月天| 国产玖玖资源| 99视频久久久| 超碰99在线观看| 亚洲AV综合网| 五月婷婷丁香五月| 久热这里精品免费| 激情五月天福利| 婷婷丁香五月天在线| 日韩ww| WWW.桔色成人.COM| 激情国产五月| 五月天丁香| 青青草99re| 99久精品| 丁香九月婷婷| 日韩无码人妻一区二区三区综合| 日韩精品呦呦va| 这里只精品热在线18| 九一九九黄色| www,久久久| 久久婷婷伊人| 丁香五月婷婷激情97| 色之综合网| 欧美激情综合色综合啪啪五月| 六月丁香深深爱| 我淫我色婷婷五月天激情四射| 婷婷十月丁香| 97人人爱人人操| 婷婷五月AV| 99操视频| 91九色PORNY大屁股| 色永久| 午夜日韩久久久网站| 91九色欧美| 五月丁香六月在线欧美| 五月婷性爱| 色综合天天| 丁香六月婷月91婷月| 日本精品人妻无码77777| 五月婷婷欲色| 五月天狠狠网站| 国产黄色在线| 色播五月婷婷综合| 婷婷字幕在线| 日日夜夜天天| 丁香五月天之婷婷影院| 91九色首页| 色五月情| 97色97干| 九九热视频免费观看| 骚逼视频一区2区| 日本色视| 丁香激情六月天婷婷| 9色天堂| 五月婷丁香| 婷婷丁香人妻久久在线观看| 五月大香蕉| 婷婷婷婷婷婷婷婷婷婷丁香| 亚洲色五月| 色5月婷婷| 琪琪色五月天| 色婷婷狠狠禁久久| 国自产拍偷拍精品啪啪一区二区| 在线观看av网站| 五月丁香美女| 小泽玛利亚视频一区二区| 丁香午夜天| 天天xxxxxx天天日| 九九成人精品免费视频| 色婷婷在线影院| 无码色| 开心五月网| 人人肏逼视频在线一区二区| 日日干天天爽| 欧美日本黄色| www.minyis.com【JT】实力收量可预付QQ2101460746 | 熟女五月天久久综合| 99热久久日本| 操草草草| 亚洲岛国电影| 国外亚洲成AV人片在线观看| 99热网站| 婷婷丁香五月综合| 五月丁香成人| 五月婷婷九九热| w婷婷五月婷婷w| 99热欧美| 五月天激情图片| 91九色成人原创视频| 婷婷色婷婷| 99热8| 亚洲狠狠狠色婷婷综合激情久久久| 一区二区三区XXXXXX| 极骚大香蕉伊人| 婷婷亚洲综合| 99综合视频| 综合99视频| 五月丁香婷婷成人综合网| 婷婷九月激情| 玖玖爱资源站| 热久久91| 91久久精品无码一区二区三区| 超碰免费人人肏| 丰满少妇猛烈A片免费看观看| 99九九综合久久九九| 丁香六月在线| 99热网站| 五月婷婷久久久久| 久久XX日本综合| 日日干夜夜干| 成人国产欧美大片一区| 日本欧美成人片AAAA| 超碰av在线| 伊人玖玖婷婷| WWW.99热| 欧美日韩99| 狠狠干夜夜干| 日韩啪啪视频| 日产精品久久久久久久蜜臀| 99久久婷婷国产综合精品草原| 色色网站在线| 99只有精品| 色噜噜狠狠色综无码久久合欧美| 色五月婷婷在线| 亚洲色另类| 色情综合| 一本色道久久88加勒比| 婷婷丁香色五月天| 丁香色影院| 操逼五月天| AV中文网| 九九色天堂| 天天插天天干| 亚洲午夜AV| www.久久| 色青青电影色五月| 六月激情网| 激情啪啪五月| 久鲁鲁色网| 婷婷五月天.com| 欧美成人网婷婷综合在线| 天天操天天日天天操| 开心五月深爱激情| yellow视频在线观看91| 9久热| 99视频在线| 丁香五月天婷婷中文字幕| 久色大| 色综合久久中文| 久久综合99| caop视频| 伊人五月综合网| 亚洲精品乱码久久久久99| 久久日婷婷| 大香蕉啪啪网| 婷婷五月视屏| 丁香五月婷婷动漫视频| 国产97色在线 | 日韩| 婷婷5月天激情综合| 大香蕉伊然在亚洲90| 99re这里| 婷婷五月天激情诱惑| 俺来也综合网精品一区| 久草丁香婷婷五月天婷| 日韩欧美不卡| 色欲天天综合网| 婷婷五月天偷拍| 99er6免费视频热播| 婷婷天天五月天| 五月天久久婷婷| 丁香五月五婷| site:minyis.com| 成人中文字幕在线| 综久久久| 丁香五月天天久久综合小说| 99精品在线| 五月丁香啪啪网| 丁香五月狠狠综合欧美| 丁香六月啪啪| 26uuu精品一区二区| 五月天丁香久久综合| 色五月婷婷五月| 五月婷婷大香蕉| 婷婷伊人综合| 亚洲A片成人无码久久精品青桔| 丁香五月婷婷AV| 五月丁香六月婷婷综合伊人| 亚洲黄色影视| 五月婷在线影院| 丁香五月天激情四射网络不好| 日本一级一级一级一级| 91天天操天天干天天射| 视频一二区| 五月丁香在线看| 欧爱综合视频| 九九久久五月天| 性爱五月婷婷| 国产三级在线播放| 第四色色色色色丁香五月天| 狠狠ri| 天天干天天爽| 九九综合| 色色99| 五月天淫乱视频| 日韩性爱无码| 67194线路二在线观看| 五月天开心网| 六月丁丁香| 在线中文av| 色色婷婷丁香五月天| 天天日夜夜帕| 五月草影视| 欧美噜一噜| 美女婷婷六月色| 色色日韩| www.色色色com| 五月天精品| 天天插天天爽| 天天拍天天操| 婷婷五月在线视频| 疯狂做受XXXX高潮A片动画| 人妻人人操| 久久精品婷婷| 丁香五月婷婷网| 开心五月网| 婷婷丁香熟妇综合网| 婷婷五月天综合网| 色婷婷久久综合中文久久一本| 超碰高清在线| 99欧美| 丁香六月五月天| 91狠狠综合久久| 久久综合丁香激情五月| 婷婷六月色| 影音先锋女人AA鲁色资源| 狠狠色婷婷7777久| 久久一级AV| 久777| 亚洲天堂玖玖| 激情九月天天天天婷婷| 97在线视频观看| 五月天婷a在线| 天天色爽| 这里只有精彩视| 五月之婷婷| 99免费热视频在线| 超碰超碰在线| 久久98| 三十熟女| 99丝袜精品视频网站| 成人在线99| 亚洲精品字幕在线观看| 色色丁香婷婷五月天| 中文av在线观看| 人橾人| 啊V视频在线观看| 欧美日韩成人| www.五月天婷婷姐姐| 狠狠五月天婷婷激情网。| 婷婷久久亚洲| 亚洲综合久| 色婷网| 日韩综合成人| 99热日| ww亚洲ww在线观看| 色日本网| 五月丁香999| 国产真实乱了老女人视频| 婷婷丁香色女人| 视频一二区| anquye伊人| 亚洲丁香五月| 色婷视频| 超碰在线免费观看3 9| 97碰碰视频| 婷婷欧美偷拍综合| 五月丁香天堂网| 免费亚洲婷婷中文字幕| 日本乱子人伦在线视频| 亚洲精品大片| 色色丁香婷婷五月天| 99ri国产精品| 五月天五月色婷婷综合| 婷婷五月亚洲一本在线丁香| 色色色热热热| 久久国产AV| 性色欲情 网站| site:ornaments52.com| 天天射综合网站| 色五月亚洲| 9人人操人人看| 思思久久96热在精品国产,| 日日干日日| 九九亚洲| 色综合久久综合中文综合网| 久久 视频这里只有精总| 丁香婷婷性爱| 丁香五月婷婷综合激情啪啪啪啪啪啪啪| 亚洲美女高潮久久久久久69| 丁香五月婷婷色| 久99| 99视频91| 天天干、天天日日| 色色热| 激情五月婷婷她| 26uuu.| 五月天激情婷婷| 国产AV一区二区三区最新精品| 人人爽欧美婷婷久久久五月丁香| 久久综合伊人综合在线| 色婷婷色99国产综合精品| 天堂综合久| 免费无码毛片一区二区A片| 国产av基地| www.六月丁香看AV| 91精品丝袜久久久久久| 黑人无码一区| 五月草影视| 丁香五月婷婷色| 激情九月天天天天婷婷| 五月婷网站| 色五月激情综合网| 97碰| 国产成人亚洲综合A∨婷婷| 性一交一乱一交A片久久四色| 99色日本| 婷婷五月丁香基地| 大香蕉AV电影在线| 丁香婷婷少妇| 26uuu国产| 99色热视频| 五月天婷婷在线AN| 91夫妻网站九色| 婷婷五月激情六月丁香 | www.婷婷com| 激情丁香婷婷六月天| 91精品国产99久久久久久天美| 综合网精品99| 精品99爱免费视频在线观看| 伊人91| www.91久久| 九九热在线视频| 五月婷天堂视频| 天天干天天操天天爱| 欧美交换配乱吟粗大25P| 婷婷激情四射| 色五月天综合网| 日本WWW九九九| 99热免费精品| 99在线精品视频| 久热爱大香蕉在线蜜臀悦色 | 超碰伊人碰婷婷五月| 欧美丁香六月激情视频| 丰满少妇猛烈A片免费看观看| 五月丁婷香| 五月婷婷激情综合| 亚洲色综合| 99久久99九九99九九九| 色婷婷AAA| 99无码视频| 久久99日本精品视频免费观看| 性色99| 久久九九激情五月天| 婷婷五月天伊人网在线观看视频| 中文字幕人成乱码在线观看| 五月丁香网站在线播放| 成人午夜天| 岛国资源网| 99热在线观看| 激情五月天www| 97大香蕉五月天| 玖玖九九99| 白人荫道BBWBBB大荫道| 激情丁香五月激情婷婷| 色99最新网址| 激情六月综合| 操比激情五月综合| 丁香五月第九色| 99精品视频在线观看| 激情五月丁香色婷婷| 国产偷人爽久久久久久老妇APP | 99精品无码视频| 欧美一级色| 国产精品电影| 免费视频WWW在线观看网站| 中文字幕簧片| 五月丁香天堂| 欧美六月| 五月天激情在线视频| 性做爰A片免费视频A片直播| 伊人五月丁香| 久久9热| 操99| 五月丁香六月色情网欧美| 毛片九九九九九九九九18| 天天干天天射色综合| CAOBIBI| 婷婷无码视频| 日 日干 日日做| 久久月天堂| 丁香五月欧美| 日本一级一级一级一级| 成人国产欧美大片一区| 直接看的av| 婷婷久久五月天| 色婷网站| 99在线69| 97在线日本| 97色啪| 精品国产va久久久久| 五月丁香久久| 五月开心深爱激情网| 久久精品99久久| 九九RE视频在线精品| 婷婷五月天亚洲图片| www.99热精品| 国产精品色| 天天久综合| 久操婷婷| 九九色插| 五月天婷婷激情在线色图| 午夜九九电影| 久超超碰| 久久婷婷五月综合色丁香花| 久久精典| 久久精品亚洲一级牲爱综合| 2017人人操| 国产FREESEXVIDEOS性中国| 日本五月天一页| 欧美色久| 久久99激情五月天| 天天日天天插| 丁香五月激情五月| 激情五月丁香在线观看直播| 伊人网碰碰| 国产免费性爱| 色999五月色| 色小说五月婷婷| 一本久道综合99| 五月丁香婷婷成人网| 五月色婷婷综合色| 婷婷色一二三区波多野结衣| 少妇人妻人伦A片| 丁香六月婷婷开心| 亚洲激情五月天| 日韩按摩二区| 婷婷五月天伊人在线| 综合色影院| 青青久久五月天丁香婷婷| 超碰av在线| www.五月天色色.com| 狠狠激情五月天| 狠狠搞综合色| 婷婷五月天天天日日夜夜| 五月丁香网站| 97精品综合久久内射| 狠狠色综合五月人人| 国产精品色| 婷婷九九| 五月婷婷导航| 丁香五月天激情免费在线观看AV777| 五月丁香六月婷婷中合网| 大香蕉伊人久久| 激情五月综合第一页| 日本高清不卡免费一区二区三区| 北条麻妃九九九国产精品视频| 五月天开心网| 九九精品热| 色综合网址| 天天干天天操天天射| 久久久久丁香婷婷五月天| 综合五月激情| 嫩BBB槡BBBB搡BBBB视频| 另类综合激情| 任我干视频在线观看| 无码激情AAAAA片-区区| 丁香五月婷婷基地| 九九热免费视频| 91操操| 激情性爱五月天| 日韩超碰在线| www..999热久| 人妻综合网| 玖玖色综合网| 青青草tp| www.久久99| 久99| 久青草影院| 激情图片五月天| 可以直接看的av| 久久怕怕视频| 色五月网址| h在线看免费版在线看| 人人爱操| 国产精产国品一二三在观看| 丁香六月婷婷缴情欧美| 99网址在线观看| 秋霞九九无码| 国产成人亚洲综合亚洲| 五月丁香久久色| 久久综合色五月| 91凹凸在线| 七七九色| 五月丁香啪啪| 色噜噜,噜噜色| 婷婷 亚洲图片 丁香| 五月天色在线| 久久婷婷综合五月天| 久久久久久人妻| 日韩狠狠色| 人人天堂操| 五月天色婷婷图片| 久热这里只有精品99re| 国产综合婷婷| 日日综合网| 成人做爰A片免费看视频| 色天堂婷婷| 人妻Av在线| 激情文学第四色婷婷丁香五月| 亚洲视频五区| 婷婷五月天国产手机在线视频观看| hd五月婷婷在线| 午夜丁香五月天综合| 九九无码| 婷婷五月天久久久| 日本波多野结衣视频| 狠狠色丁香婷婷五月| 超碰大香蕉网| 天天操天天操| 五月性色| 综合五月婷婷| 九九久久久综合| 五月丁香六月成人| 丁香激惜男女| 久久黄色片| 丁香婷婷网| 亚洲亚洲人成综合网络| 色青五月天| 色五月丁香六月资源站| 五月丁香激情欧洲啪啪| 六月婷婷综合激情| 国产小精品| www.激情com| 色色是色N一| 懂色AⅤ| 色9999日韩国产| 99国产在线精品视频| 欧美成人日韩| 99久久国产宗和精品1上映| 激情五月综合网最新 | 4399人妻无码久久久| 综合五月草| 久久少妇视频| 九九热在线观看视频| 九九综合九色欧美狠狠| 久久久中文| 99re这里只有精品在线观看| 五月天堂色| 五月激情四射网站| 九九久久综合| 色色综合网络| 99热综合网| 国产操逼视频网站| 激情六月下句是什么| 开心网五月色婷婷| 国产精产国品一二三在观看 | 色停停香蕉视频| 2050人人操免费工开爱| 婷婷香蕉| 欧美日韩aaa| 欧美成人AAA片一区国产精品| 极品另类| 五月丁香六月婷婷久久久综合| 玖玖综合网| 韩国97天堂| 久草久青福利| 丁香九月久久| 丁香五月很很肏| 再次出发二| 人人九色| 欧美碰碰| 另类国产综合| 夜夜躁爽日日| 婷婷色在线播放| 丁香五月冃欧美| 国产成人+综合亚洲+天堂| 操久久精| 中文字幕色色| 亚洲精品一区无码A片| 99re6在线视频精品免费| 国内久久久精品99| 99日韩网站| 五月天丁香| 91爱啪啪| 六月婷婷久久| 久久五月情| 亚洲人人操BD| 人妻丰满精品一区二区A片| 久久视频婷婷视频| 久久久久婷| 偷拍99在线视频观看| 热热久久久久久久久| www.minyis.com【JT】实力收量可预付QQ2101460746 | 色婷婷亚洲六月婷婷中文字幕| 婷婷午夜| 男女99免费视频| 欧美乱码国产一级A片| 久久综合最新网址| 天天成人丁香美女AV| 婷婷五月天网| 综合97五月| 国产免费AV网站| 91激情五月开心| 五月婷婷丁香网| 亚洲综合五月天婷婷| 丁香五月婷婷六月婷| 五月天伊人| 五月婷婷六月丁香| 99色在线视频| 另类视频综合| 99操久久| 久久久香| 日日噜狠狠| 精品牛仔裤超碰| 国产免费一区二区三区三州老师F1F1.CC | 久久久www| 成人 视频免费观看网站| www.五月丁香| 亚洲99在线| 天天爽夜夜爽夜夜爽精品| 91在线日| 91viP在线看| 黄色AV日韩| 91色婷婷综合久久中文字幕二区| 激情床戏| 深夜男女福利刺激影院一区完整| 一起草Av| 91超级碰碰| www.99热| 久一这里有精品国产| 极品少妇XXXX精品少妇偷拍| 狠狠干2007| 91|疯狂丨高潮丨对白| 久久机只有这里精品| 99热有精品在线观看| 丁香美女主播视频在线观看 | 大香蕉在线观看9| 五月天色社区| 色婷婷丁香社综合| 欧美久久网| 欧美熟女99| 99热国产免费| 一本道综合网| 色99久草在线| AVDV久久| 中文字幕在线播放视频| 激情丁香五月| 天天cha成人综合网| 国内精品免费一区二区2009| 少妇达人正片在线播放_ikun_福利吧| 97成人在线视频精品| 亚洲午夜视频| 天天开心婷婷丁香五月| 大色鬼综合| 这里只有精品视频99| 天天综合色丁香| 欧美激情综合| 天天操九九插| 久久伊人婷| 色五月天堂| 激情q青青草在线婷婷| 日本黄色一级| 操一区| 婷婷色影院| 婷婷丁香五月欧美人| 99玖玖人人| 色色色综合网| 天天爽曰日爽| 亚洲激情五月| 婷婷五月成人| 天天操天天爱天天玩| 黄色一级影片| 色99视频| 六月丁香色婷婷| 激情五婷网| 日韩中文字幕| 天天综合色| 五月天日日操夜夜操| 日韩一级一片内射视频4K| 天天综合网在线| wWwCom夜操wwW| 色九九中文字幕| 久久天堂网| 五月婷婷开心色伊人| 激情婷| 丁香六月激情综合| 五月天婷婷丁香社区| 色婷婷操逼| AV中文网| 亚洲最大在线| 色五月丁香在线| 色婷婷a v| 亚洲国产精品VA在线看黑人| 九色啦蜜臀| 欧美丁香六月在线观看视频| 牛牛色av| 99国产精品久久久久久久久久久| AV人人操| 婷婷丁香五月天欧美| 狠狠色丁香久久婷婷综合五月| 丁香色婷婷| 天天色噜| 丁香五月狠狠综合欧美| 91ncm视频| 日韩黄色中文字幕| 久久性爱视频| 六月婷婷久久大全| WWW.五月天9999| 国产免费av在线| 97碰碰碰免费公开在线视频| 婷婷色播色五月五色五月天色妇| 婷婷丁香五月天操逼| 91精品丝袜久久久久久| 九九成人视频| 色综合久久88色综合中文字幕| 97人人操人人| 丁香五月天日韩无码| 九九色精品| 91成人看片| 五月丁香狠狠| 激情涩涩网| 精品99视频| 精品热九九| 色色五月天激情| 91肏| 五月激情婷婷在线| 亚洲综合色丁香五月天| 四色永久成人网站| 毛v一区二区视频| 2025超碰| 六月天婷婷| 欧美97色| 99国产精品久久久久久久久久久 | 色色色色色色网站| A A色色| 色波激情五月天| 五月婷婷婷综合网| 任你干线上免费视频有3吗| 欧美私人家庭影院| 五月丁香五月婷婷| 亚洲旡码| 婷婷色婷婷| 5月婷婷激情网| 成人网丁香五月| 五月丁香综合网色欲| 狠狠色婷婷777| 97久人人| 亚洲九九婷婷| 96色婷婷| 婷婷丁香六月天激情四射网| 99热热热99精品丁香| 色丁香五月婷婷| 天天操婷婷| 久操热线| 99在线观看视频| 97干婷婷| 色五月综合资源推荐| 99热这里只有精品免费观看| 色狠狠综合| 神马久久五月天| 超碰天堂网| 激情五月天婷婷播播久久综合91| 风流少妇A片一区二区蜜桃| 久久五月丁香| www超碰| 久久9视频| 夜夜操狠狠操| 五月天丁香网| 99热日本| 99热66| 丁香九月婷婷| 噼里啪啦完整版中文在线观看| 婷婷亚洲综合| 99热精品在线观看| 婷婷五月成人| 9久久精品| 亚洲色综合| www.久久| 国产乱人偷精品人妻A片| 丰满少妇猛烈A片免费看观看| 99热在线播放| 性按摩玩人妻HD中文字幕| 欧美性生交XXXXX无码小说| 国产精品久久久久久久久久久久| 久久99热这里只频精品6学生| 国产亚洲精品久久久久久牛牛| 婷婷亚洲综合| 久久9热好| 久热伊人91| 99热欲| 正宗黄色毛片| WWW.久久久久久久| 99ri精品视频在线观看| 99久久精| 九九九九九无码| 秋霞网在线观看理论91| 天天影视色综合网| 婷婷五月av| 欧美性爱中文字幕| 99性视频| 91超级碰碰| 日本不卡高字幕在线2019| 91操黄| 激情久久网| 九九综合伊人| 欧美丁香婷婷天天操| 激情五月网站| 九九热国产| 99九九视频精彩在线| 五月色网| 成人日韩欧美| 婷婷五月综合性爱| 99久久.www| 色婷婷成人做爰A片免费看网站| 久久精品99国产精品日本| 久久婷婷原创视频| 婷婷狠狠97| 久久亚洲婷婷| 99热99免费| 五月天婷婷成人| 日本综合色色| 麻豆WWWCOM内射软件| 色色热日| 在线成人网址| www.狠狠狠.com| 色吧五月婷婷| 五月色丁香| 亚洲综合五月天| 久久久五月天婷婷| 色色色婷婷五月| 五月天三级| 婷婷狠狠色| 99热都是精品| 激情小说色五月| 激情中文在线| 美女婷婷六月色| 久久激情五月婷婷| 色五月丁香五月| 淫视馆av三区| 91丨九色丨高潮丰满日本| 五月天婷婷激情干干| 六月激情综合| 五月婷丁香| 激情综合网站| 玖玖资源部在线播放| 玖玖精品视频| 色五月激情五月天| www超碰com| 玖玖爱资源站| 五月丁香六月婷婷在线播放| 亚州操操| 国产在线激情视频| www.色五月.com| 亚洲中文乱字字幕线在永久| 久久99久久99精品免观看粉嫩| 99精品国产乱码久久久人妻| 丁香婷婷超碰| 99色视频在线观看| 色五月婷婷在线| 激情五月综合网丁| 97碰超级人人看| 天天操天天爱天天玩| 99热在线精品观看| 操比激情五月| 久久激情综合| 99久久99久久| 六月色丁香婷婷| 综合久久婷婷| 无码任你操| 国产精品一区在线观看你懂的| 久久99久久久| 婷婷日日天天| 五月婷婷中文| 黄色五月婷| 色婷婷丁香AV综合| 一起草av| 色五月天丁香婷婷色| 西瓜美女a片| 狠狠狠狠狠狠狠狠| 色婷婷丁香社综合| 五月天婷婷影院影院| 九月婷婷| 亚洲无aV在线中文字幕| 亚洲九九在线| 九九综合久久| 超碰9| 日韩九九| 欧美黄色一级录像| 俺来也综合网精品一区| 婷婷丁香五月综合免费视频百花| 婷婷五月丁香综合亚洲| 掩去也综合五月视频| 欧美情月伍月天| 综合色七七| 五月激情啪啪| 欧美日本国产欧美日本韩国99| A色色| 婷婷91| 91精品91久久久中77777久久玖玖九九| 狠狠色丁香久久婷婷综合五月| 超碰免费人人| 色综合色五月| 久婷婷色| 婷婷干六月综合旧址| 亚洲九九99精品视频在线播放| 超碰人人在线| 91久久久久久久久久久| 天天干天天拍| 久热爱大香蕉在线蜜臀悦色 | 这里只有精品在线观看视频| 久久综合婷婷激情| 婷婷五月天激情在线观看 | 综合超碰熟| 夜丁香五月婷婷| 4399无码视频| ...婷婷国产成人亚洲日韩| 狠狠草在线观看| 丁香婷婷网| 久久东京热婷婷五月| 99久久视频| 婷婷五月成人| 美女伊人久久| 夜夜谢天天干| 97超碰在线观看免费| 婷婷五月天激情丁香| 日本久久色| 激情五月天小说视频| aV直接看| 亚洲行行色色| 丁香五月影| 国产熟女日日骚五月丁香爱| 无码激情AAAAA片-区区| 日日夜夜青青草| 麻豆AV一区二区三区| 五月天激情小说电影| 97色色网| 婷婷在线操| 人妻熟人中文字幕一区二区 | 欧美一级色| 香蕉综合在线| 99热自拍| 五月天丁香六月综合| 激情综合五| 色五月涩涩婷婷蜜桃| 日本三级中国三级99人妇网站| 立川无码av| 无码人妻丰满熟妇奶水区码| 深爱激情九九五月天| 极品人妻VIDEOSSS人妻| 色五月美女| 色婷婷久综合久久一本国产AV| 亚洲视频在线网| 精品人妻一区| 九色七七| 狠狠色婷婷| 开心五月激情| 蜜臀AV在线观看| 91人妻视频| 色色色五月天激情资源| 天天操夜夜操| 国产免费AV网站| 久久久18| 婷婷五月天99| 欧美三级大片AA在线看| 婷婷婷婷婷婷婷婷| 99热在线观看精品| 九九在线精点品| 爱草视频在线| 字母不卡码人逼| 中文久久婷婷| 99热福利| 中文成人在线| 综合激情站| 99综合一区| 99热精品在线| 五月丁香六月婷婷久久久综合| 久久九九经典| 精品成人久久久久久久_一二三四视| 激情久久久| 亚洲V国产V欧美V久久久久久| 五月天俺去也| 色丁香五月| 九九热在线精品视频| 综合性视频99| 久久九⑨| 五月婷婷激情久久| www.五月激情红色| 丁香色五月AV在线| 俺去也五月天婷婷| 69激情小说| 色五月欧美| 99爱爱| 四月婷婷丁香| 九热免费视频| 国产人妻人伦精品一区二区| 婷婷激情五月天小说校园| 激情综合网五月| 婷婷综合色图| 丰满老熟妇BBBBB搡BBB| 亚洲精品激情| 亚洲综合五月天婷婷丁香| 国产美女无遮挡裸体毛片A片| 色婷婷色五月天| 一区二区三区视频| 天堂伊人干| 日本激情91| 青青五月天婷婷| 日韩美女羞羞网站在线观看| 五月天婷婷综合| 亚洲色情网站| 婷婷五月天国产精品| 色综合99无码 | 伊人在线大香蕉网| 九九99免费视频| 九九视频热| 日本一级特黄大片AAAAA级| 欧美顶级少妇做爰HD| 婷婷五月婷婷| 色五月婷婷成人视频| 大香蕉伊在| 成人做爰A片免费看视频| www.色五月| 激情五月综合ì香亚洲| 色欲影香| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 天天色亚洲| 色色网五月激情| 激情五月开心五月在线视频| 狠狠色综合无线观看| 在线只有精品| www色五月| 成人AV在线网站| 五月婷婷熟女| 九九Y精品热播| 97色婷婷| 久久丝袜婷婷| 亚洲色综合性| 欧美在线视频99| 天堂在线婷婷| 国产毛多水多女人A片| 影音先锋一区| 婷婷五月花西瓜| 久久激情综合| 9久久婷婷国产综合精品性色| 热99玖玖99玖玖99九九| 开心激情婷婷| 久久9热| 国产日日操夜夜操的肉棒视频| 五月丁香亚洲校园欧美| 久久婷婷草| 五月丁香婷婷色啪| 婷婷五月天基地| 丁香色成人| 欧美日韩aaaa| 欧美激情xxxXX| 九九九色综合| 热热99爱爱| 成人国产网| 日本人妻伦在线中文字幕| 五月天激情小说| 五月婷婷激情综合av| 能直接看的AV网站| 天天日夜夜B久久| 日本不卡中文字幕| 男人天堂 久久| 3p九色在线| 免费视频WWW在线观看网站| 婷婷五月天开心网| 亚洲啪啪网| 伊人激情影院|