欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

從零構(gòu)建你的第一個(gè)微型LLM:架構(gòu)、訓(xùn)練與生成實(shí)踐指南

從零構(gòu)建你的第一個(gè)微型LLM:架構(gòu)、訓(xùn)練與生成實(shí)踐指南 前陣子有朋友問我想入門大語言模型是不是得先買上幾張GPU、把幾十篇論文啃完再說。我說恰恰相反與其站在岸邊看別人訓(xùn)練大模型不如先花一個(gè)周末從零開始手把手構(gòu)建自己的第一個(gè)LLM。哪怕它只有幾十萬參數(shù)、生成的句子錯(cuò)漏百出只要這一整套流程在你手里跑通你對(duì)語言模型的理解會(huì)比看十篇綜述都更扎實(shí)。這篇文章就是干這個(gè)用的——不依賴高性能硬件不堆晦澀公式把模型架構(gòu)、訓(xùn)練、生成、評(píng)估一條龍拆開講清楚。標(biāo)題敢寫“收藏版”是因?yàn)槔锩婷總€(gè)選擇我都會(huì)解釋背后的為什么每個(gè)常見坑我都會(huì)提前標(biāo)出來你可以把它當(dāng)作第一次做小模型實(shí)驗(yàn)的完整參考手冊(cè)。這篇適合誰看有一點(diǎn)Python基礎(chǔ)、對(duì)Transformer只有模糊概念、想用最小成本搞清楚語言模型到底是怎么“學(xué)會(huì)說話”的人。它不適合期待讀完之后立刻能訓(xùn)練出接近商業(yè)產(chǎn)品級(jí)別模型的人——我們不追求大我們追求的是把一個(gè)模型從零到一完整跑通過程中獲得的認(rèn)知。1. 先想明白我們要構(gòu)建的“第一個(gè)LLM”到底有多大1.1 語言模型的本質(zhì)是“預(yù)測(cè)下一個(gè)字符”不管多大的模型底層的訓(xùn)練目標(biāo)都極其樸素給它一段文本作為上下文讓它預(yù)測(cè)下一個(gè)字符或者更準(zhǔn)確的叫法是token一個(gè)token可以是一個(gè)字符、一個(gè)詞或者一段子詞。比如你輸入“床前明月”模型要輸出一個(gè)概率分布告訴候選字符里“光”的概率最高。訓(xùn)練時(shí)我們拿真實(shí)的下一字符作為標(biāo)準(zhǔn)答案用交叉熵計(jì)算預(yù)測(cè)和答案的差距再通過反向傳播調(diào)整模型參數(shù)。這個(gè)流程不斷重復(fù)模型就慢慢學(xué)會(huì)了上下文里的統(tǒng)計(jì)規(guī)律。這看起來簡(jiǎn)單到有點(diǎn)“笨”但所有語言模型的能力都是從這條主線上長(zhǎng)出來的。GPT系列能寫文章、能對(duì)話、能編程本質(zhì)上都在做同一件事——根據(jù)前面的內(nèi)容預(yù)測(cè)下一個(gè)token。區(qū)別只在于數(shù)據(jù)規(guī)模、參數(shù)規(guī)模和訓(xùn)練技巧。所以當(dāng)你親手實(shí)現(xiàn)過“預(yù)測(cè)下一個(gè)字符”這個(gè)最小閉環(huán)之后后面再看任何大模型的技術(shù)文章都不會(huì)有“空中樓閣”的陌生感。1.2 為什么微型模型是最高效的學(xué)習(xí)載體有人可能會(huì)問現(xiàn)在開源大模型一堆直接拿現(xiàn)成的微調(diào)不是更方便嗎直接調(diào)用確實(shí)方便但那是“使用模型”不是“構(gòu)建模型”。自己從零構(gòu)建一個(gè)微型LLM你能直接觀察到三樣?xùn)|西數(shù)據(jù)怎么變成訓(xùn)練樣本、參數(shù)怎么一步步把Loss壓下去、采樣溫度怎么改變生成風(fēng)格。微型模型的價(jià)值在于“可控”。幾十萬參數(shù)的小模型跑一次完整訓(xùn)練只要幾分鐘到幾十分鐘你可以像做實(shí)驗(yàn)一樣反復(fù)調(diào)參、看不同超參數(shù)下的曲線變化。換成大型模型一次訓(xùn)練的資源消耗足以讓你不敢亂試。就好比學(xué)開車先在模擬器上把油門剎車方向盤玩明白再上真車才不慌。理解微型模型的每個(gè)細(xì)節(jié)就是未來理解和駕馭大模型的模擬器。2. 環(huán)境與數(shù)據(jù)準(zhǔn)備動(dòng)手前的三件小事2.1 硬件與運(yùn)行庫(kù)你的電腦可能已經(jīng)夠用先給個(gè)定心丸訓(xùn)練一個(gè)幾十萬參數(shù)、上下文長(zhǎng)度128的微縮語言模型純CPU都能跑。我自己第一次跑通全程用的就是一臺(tái)普通辦公筆記本內(nèi)存8GB沒有獨(dú)立顯卡。訓(xùn)練10萬字符級(jí)別的語料大概幾分鐘能完成一輪基礎(chǔ)訓(xùn)練完全不耽誤邊訓(xùn)練邊刷劇。軟件層面東西不多Python環(huán)境建議直接用集成環(huán)境管理器避免手動(dòng)裝包把系統(tǒng)搞亂。自動(dòng)微分框架選主流的、支持CPU訓(xùn)練的那一款就行。裝庫(kù)的時(shí)候有個(gè)小坑——如果你有NVIDIA顯卡提前確認(rèn)好顯卡驅(qū)動(dòng)版本再裝對(duì)應(yīng)版本的庫(kù)別直接裝默認(rèn)版否則很容易報(bào)CUDA不匹配的錯(cuò)誤。沒有顯卡的直接裝CPU版省心。數(shù)值計(jì)算庫(kù)配合自動(dòng)微分框架用的二維數(shù)組計(jì)算庫(kù)默認(rèn)裝最新版即可。2.2 語料選擇與清洗不要讓臟數(shù)據(jù)毀了第一次實(shí)驗(yàn)第一次做實(shí)驗(yàn)語料盡量選公開領(lǐng)域的、干凈的數(shù)據(jù)少踩數(shù)據(jù)清洗的坑。英文世界最經(jīng)典的選擇是莎士比亞全集內(nèi)容在公開領(lǐng)域長(zhǎng)度適中風(fēng)格鮮明中文的話可以用公開的古詩文語料或者其他經(jīng)過整理的開源純文本數(shù)據(jù)集。拿到原始語料之后清洗這步千萬別跳過。我第一次用中文語料訓(xùn)練時(shí)數(shù)據(jù)里殘留了大量HTML標(biāo)簽和亂碼符號(hào)導(dǎo)致生成結(jié)果里頻繁出現(xiàn)半截標(biāo)簽看起來非?;?。建議至少做三步統(tǒng)一編碼為UTF-8刪除所有非文本符號(hào)。按行或按段落過濾去掉長(zhǎng)度小于10個(gè)字符的碎片。用正則把連續(xù)空白符壓縮成單個(gè)空格。清洗完的語料建議切成訓(xùn)練集和驗(yàn)證集兩段比例差不多9:1。驗(yàn)證集的作用后面訓(xùn)練章節(jié)會(huì)講它是你判斷模型有沒有過擬合的重要窗口。2.3 分詞方案為什么教學(xué)項(xiàng)目首選字符級(jí)常見的分詞方案有字符級(jí)、詞級(jí)和子詞級(jí)BPE等。正規(guī)的大模型項(xiàng)目基本都走子詞級(jí)但對(duì)于“從零構(gòu)建第一個(gè)LLM”這個(gè)目標(biāo)我強(qiáng)烈建議你先用字符級(jí)。原因很直白字符級(jí)的詞表大小通常只有幾十到一兩百代碼簡(jiǎn)單到可以手寫而且你不需要引入任何外部分詞工具。詞表小意味著模型的嵌入層和輸出層參數(shù)量小訓(xùn)練速度更快符合“微型實(shí)驗(yàn)”的定位。更重要的是用字符級(jí)你能更清楚地看到模型在學(xué)習(xí)“音節(jié)”“詞根”“風(fēng)格”這些現(xiàn)象而不必懷疑是不是分詞工具替模型做了太多事情。字符級(jí)分詞的核心就三步收集文本里所有獨(dú)立字符形成詞匯表、建立字符到整數(shù)ID的映射、把整段文本序列化成ID數(shù)組。就這么簡(jiǎn)單不涉及任何需要安裝的第三方分詞庫(kù)。3. 模型骨架從零實(shí)現(xiàn)一個(gè)極簡(jiǎn)Transformer3.1 六個(gè)核心組件先認(rèn)識(shí)一遍一個(gè)極簡(jiǎn)的Decoder-only Transformer核心組件可以拆成這么幾塊輸入嵌入層Token Embedding把每個(gè)字符ID映射成一個(gè)固定維度的向量。說白了就是給每個(gè)字符找一個(gè)“數(shù)學(xué)意義上的管家”負(fù)責(zé)把離散ID翻譯成模型能計(jì)算的連續(xù)向量。位置編碼Position Embedding注意力機(jī)制本身不關(guān)心順序所以必須額外告訴模型“哪個(gè)字符在前、哪個(gè)在后”。最簡(jiǎn)單的方法是用一組可學(xué)習(xí)的位置向量學(xué)到第幾個(gè)位置大概長(zhǎng)什么樣。多頭注意力Multi-Head Attention讓每個(gè)位置都能“回看”前面的位置并從不同子空間提取關(guān)聯(lián)信息。這是整個(gè)Transformer的引擎。前饋網(wǎng)絡(luò)Feed-Forward Network對(duì)每個(gè)位置單獨(dú)做非線性變換相當(dāng)于給模型加一組可學(xué)習(xí)的“思考層”增強(qiáng)表達(dá)能力。層歸一化LayerNorm 殘差連接訓(xùn)練深層模型時(shí)的穩(wěn)定器。殘差讓梯度能順暢回傳歸一化保證每層輸出尺度不失控。輸出投影層把最后一層的向量映射回“詞表大小”的分?jǐn)?shù)向量logits再配合Softmax得到每個(gè)字符的預(yù)測(cè)概率。以上這些組件每一個(gè)單獨(dú)拎出來都能寫上千字文章但第一次實(shí)驗(yàn)階段你只需要理解它們的組合邏輯不需要逐行默寫公式。3.2 注意力機(jī)制Transformer真正的引擎注意力機(jī)制值得單獨(dú)說透一點(diǎn)。它的輸入是三份東西Query查詢、Key鍵、Value值??梢赃@樣類比你在圖書館里找一本書Query是你想知道的問題Key是每本書的標(biāo)簽Value是書本內(nèi)容。系統(tǒng)先把你手里的問題跟每個(gè)標(biāo)簽做匹配算出相似度分?jǐn)?shù)再按相似度從高到低加權(quán)提取對(duì)應(yīng)的內(nèi)容。微型Transformer里的實(shí)現(xiàn)會(huì)用到因果掩碼Causal Mask。因?yàn)檎Z言模型只能看當(dāng)前時(shí)間步之前的內(nèi)容不能偷看未來的字符。實(shí)現(xiàn)方式很簡(jiǎn)單在計(jì)算注意力分?jǐn)?shù)之后把“未來位置”的分?jǐn)?shù)設(shè)置成一個(gè)極大的負(fù)數(shù)Softmax之后那些位置的權(quán)重就變成0。這一步就是Decoder和Encoder最本質(zhì)的區(qū)別之一——Encoder允許雙向互相看而Decoder強(qiáng)制單向??s放因子也值得提一嘴。注意力分?jǐn)?shù)除以頭維度的平方根是為了防止向量維度過大時(shí)點(diǎn)積結(jié)果太大導(dǎo)致Softmax進(jìn)入梯度飽和區(qū)。這不是調(diào)參玄學(xué)是有數(shù)學(xué)依據(jù)的穩(wěn)定化操作。3.3 把子層拼成解碼器初始Loss檢查是救命的把上面幾塊按順序拼接一個(gè)微型Transformer解碼器就成型了輸入ID → 嵌入向量 → 位置編碼 → N個(gè)Transformer層每層都是“注意力殘差歸一化前饋殘差歸一化”→ 輸出投影層 → logits。拼完之后在開始正式訓(xùn)練前一定要先做一件事打印初始Loss。這里有一個(gè)非常實(shí)用的經(jīng)驗(yàn)值初始Loss應(yīng)該接近 log(vocab_size)。比如你的詞表大小是65那么 log(65) ≈ 4.17。如果初始Loss是這個(gè)數(shù)附近說明前向傳播、數(shù)據(jù)切批、標(biāo)簽構(gòu)造都基本正確如果差得離譜說明某個(gè)環(huán)節(jié)肯定有bug這時(shí)候修比訓(xùn)練半天之后才發(fā)現(xiàn)loss不降要?jiǎng)澦愕枚?。為什么初始Loss必然接近這個(gè)值因?yàn)槟P蛥?shù)剛隨機(jī)初始化它還沒有學(xué)到任何規(guī)律對(duì)每個(gè)字符的預(yù)測(cè)概率基本均勻。均勻分布的交叉熵就是詞表大小的自然對(duì)數(shù)。這個(gè)小小的檢查點(diǎn)能幫你把訓(xùn)練前的隱性問題一次性暴露。4. 訓(xùn)練循環(huán)如何讓Loss曲線替你說話4.1 一套可直接復(fù)用的超參數(shù)起點(diǎn)第一次訓(xùn)練微型LLM超參數(shù)不需要搞得很復(fù)雜。我經(jīng)常給新手的起點(diǎn)是一組已知能穩(wěn)定跑通的配置優(yōu)化器AdamWbeta10.9beta20.95epsilon1e-8。學(xué)習(xí)率1e-3到3e-3之間微型模型可以承受相對(duì)高一點(diǎn)的學(xué)習(xí)率。權(quán)重衰減0.1配合AdamW使用。批大小64個(gè)樣本每個(gè)樣本是一段定長(zhǎng)文本塊。上下文長(zhǎng)度128個(gè)字符。字符級(jí)模型對(duì)序列長(zhǎng)度本來就敏感128是個(gè)不錯(cuò)的起步值。訓(xùn)練步數(shù)先定在2000到5000步之間根據(jù)Loss曲線再動(dòng)態(tài)調(diào)整。這些參數(shù)不是我拍腦袋給的它們背后的邏輯是模型參數(shù)少、數(shù)據(jù)規(guī)模不大優(yōu)化器不需要太重的穩(wěn)定性約束學(xué)習(xí)率拿中等偏上的值更容易在有限步數(shù)內(nèi)看到明顯收斂。訓(xùn)練循環(huán)本身很標(biāo)準(zhǔn)每個(gè)批次把輸入序列丟進(jìn)模型算出預(yù)測(cè)logits和真實(shí)目標(biāo)序列計(jì)算交叉熵?fù)p失反向傳播拿到梯度裁剪一下梯度范數(shù)推薦限制在1.0以內(nèi)然后用優(yōu)化器更新參數(shù)。梯度裁剪這一步別省它能在學(xué)習(xí)率偏高或遇到異常批次時(shí)防止Loss爆炸。4.2 訓(xùn)練中一定要盯的幾個(gè)信號(hào)訓(xùn)練期間別把Loss數(shù)字當(dāng)成唯一指標(biāo)有幾個(gè)信號(hào)值得同時(shí)關(guān)注初始Loss是否落在理論值附近前面說過了先驗(yàn)證再開跑。Loss的下降速度正常情況前500步會(huì)掉得很快后面慢慢變慢。如果訓(xùn)練了1000步Loss還在原地晃大概率是學(xué)習(xí)率太小或數(shù)據(jù)有問題。訓(xùn)練Loss與驗(yàn)證Loss的距離訓(xùn)練Loss持續(xù)下降、驗(yàn)證Loss也開始下降但更慢這是正常一旦訓(xùn)練Loss還在降但驗(yàn)證Loss開始回升就是過擬合的警鐘。梯度范數(shù)如果出現(xiàn)NaN或異常大值先看數(shù)據(jù)里有沒有臟字符再看學(xué)習(xí)率是不是太高。我自己第一次訓(xùn)練時(shí)就遇到過“Loss掉到2附近就再也不動(dòng)”的情況。后來檢查發(fā)現(xiàn)是驗(yàn)證集和訓(xùn)練集數(shù)據(jù)切分時(shí)用了同一個(gè)隨機(jī)種子導(dǎo)致兩邊數(shù)據(jù)重疊嚴(yán)重。這個(gè)問題不看驗(yàn)證Loss根本發(fā)現(xiàn)不了所以強(qiáng)烈建議你養(yǎng)成“邊訓(xùn)練邊看驗(yàn)證曲線”的習(xí)慣。4.3 微型模型的過擬合問題微型模型很容易在小型語料上過擬合——因?yàn)樗鼌?shù)量雖然小但語料量更小。我訓(xùn)練10萬字語料時(shí)大概兩三千步之后驗(yàn)證Loss就開始反彈訓(xùn)練Loss卻還在穩(wěn)步下降。這個(gè)時(shí)候模型并不是“學(xué)會(huì)得更好”而是在“背誦訓(xùn)練集”生成出來的文本開始機(jī)械重復(fù)原文片段。應(yīng)對(duì)辦法其實(shí)不多選一個(gè)就夠提前停止盯著驗(yàn)證Loss最低點(diǎn)那個(gè)checkpoint就是最佳模型。增加數(shù)據(jù)量語料從5萬字?jǐn)U到20萬字過擬合出現(xiàn)的時(shí)間會(huì)明顯推遲。增大權(quán)重衰減把weight_decay從0.1調(diào)到0.3一定程度上抑制參數(shù)過度膨脹。做輕量化的丟失增強(qiáng)對(duì)某些層隨機(jī)移除部分連接增強(qiáng)泛化。對(duì)于第一次實(shí)驗(yàn)我最推薦先試提前停止簡(jiǎn)單直接不用改任何訓(xùn)練邏輯。訓(xùn)練完保存驗(yàn)證Loss最低點(diǎn)的模型文件后續(xù)推理都用它。5. 文本生成把概率變成句子5.1 自回歸生成的基本流程模型訓(xùn)練好之后生成文本就是把它當(dāng)成一個(gè)“自動(dòng)續(xù)寫機(jī)”來用。流程非常直觀給模型一個(gè)起始提示詞比如“The”轉(zhuǎn)成ID序列。前向計(jì)算拿到下一個(gè)字符的概率分布。從分布里按照某種策略采樣一個(gè)字符ID。把采樣出的字符追加到序列末尾同時(shí)滑動(dòng)窗口丟掉最前面的老內(nèi)容保持長(zhǎng)度和訓(xùn)練時(shí)一致。重復(fù)2到4步直到生成足夠長(zhǎng)的文本或遇到終止條件。注意第4步的窗口滑動(dòng)。訓(xùn)練時(shí)上下文長(zhǎng)度是固定值推理時(shí)序列也不能無限變長(zhǎng)所以每步都要保證末尾新字符能被“看見”。這個(gè)細(xì)節(jié)第一次寫很容易漏漏了會(huì)出現(xiàn)“預(yù)測(cè)越來越瞎”的情況。5.2 溫度與Top-k一冷一熱兩種采樣概率分布出來之后直接每次都選概率最大的字符得到的結(jié)果會(huì)非常機(jī)械而且特別容易陷入重復(fù)循環(huán)。這時(shí)候就需要采樣策略來“注入隨機(jī)性”。溫度Temperature是最常用的旋鈕。簡(jiǎn)單說把預(yù)測(cè)分?jǐn)?shù)除以一個(gè)溫度值再進(jìn)Softmax。溫度小于1分布變得更尖銳輸出更保守溫度大于1分布變得更平坦輸出更隨機(jī)溫度等于1就是原始分布。我自己常用的組合復(fù)現(xiàn)式寫作溫度0.4到0.7之間輸出穩(wěn)定且有點(diǎn)變化。創(chuàng)意式續(xù)寫溫度0.8到1.2之間變化更多但有失控風(fēng)險(xiǎn)。玩梗式隨機(jī)溫度1.5以上基本就是亂說適合娛樂。Top-k采樣是另一道保險(xiǎn)只從概率最高的前k個(gè)字符里按歸一化后的概率做選擇避免低概率的奇怪字符突然冒出來。經(jīng)典搭配是k40。溫度負(fù)責(zé)調(diào)節(jié)“膽量”Top-k負(fù)責(zé)過濾“雜質(zhì)”兩者配合效果最好。采樣策略效果表現(xiàn)適用場(chǎng)景貪心解碼字面復(fù)讀機(jī)重復(fù)嚴(yán)重調(diào)試模型是否工作溫度0.7相對(duì)通順偶用新詞日常生成基礎(chǔ)推薦溫度1.2 Top-k40變化豐富但有翻車概率創(chuàng)意生成、測(cè)試模型邊界5.3 讓生成結(jié)果更穩(wěn)定的幾個(gè)小技巧生成時(shí)的重復(fù)問題是新手最常遇到的生成50個(gè)字符可能就開始無意義循環(huán)。幾個(gè)親測(cè)有效的辦法限制上下文窗口不要把所有歷史都喂進(jìn)去只保留最后64到128個(gè)字符減輕模型陷入局部循環(huán)。啟用重復(fù)懲罰當(dāng)檢測(cè)到某個(gè)字符已經(jīng)在最近N個(gè)位置里高頻出現(xiàn)直接壓低它的采樣概率這是最簡(jiǎn)單粗暴但有效的方式。先生成短片段再拼接不要指望一次生成上千字每次生成100到200字手動(dòng)挑選滿意的片段拼接體驗(yàn)會(huì)好很多。字面上看這些技巧不復(fù)雜但微小型模型尤其容易暴雷每次生成前想一下“哪段歷史可能在誤導(dǎo)模型”基本就能解決大半問題。6. 評(píng)估與改進(jìn)路線從“會(huì)說話”到“說得像話”6.1 用困惑度校準(zhǔn)你的體感評(píng)估語言模型最經(jīng)典的指標(biāo)是困惑度Perplexity它的定義是交叉熵?fù)p失的指數(shù)。困惑度越低說明模型對(duì)驗(yàn)證集的預(yù)測(cè)越“意外驚喜少”也就是越擬合數(shù)據(jù)分布。訓(xùn)練完一個(gè)模型用驗(yàn)證集算出最終Loss然后做一次 exp(Loss)就能得到困惑度。字符級(jí)模型配合字符集65困惑度在10到30之間算是“能看出點(diǎn)語言結(jié)構(gòu)”的水平如果困惑度還在50以上說明模型基本是在瞎猜。不過老實(shí)說困惑度只能作為客觀參考它不考慮“語義是否合理”。一個(gè)照抄訓(xùn)練集片段的模型可以有很低的困惑度但生成的文本毫無新鮮感。所以評(píng)估一定要過“肉眼”這關(guān)。6.2 生成樣本的縱向?qū)Ρ确ㄎ伊?xí)慣的訓(xùn)練完第一件事是做一組“縱向?qū)Ρ取薄潭ㄍ粋€(gè)起始提示詞分別用不同訓(xùn)練步數(shù)的checkpoint生成同樣長(zhǎng)度的文本并排放在一起看。訓(xùn)練500步的模型可能只會(huì)拼出幾個(gè)高頻詞訓(xùn)練1500步的模型能拼出看起來像單詞的東西訓(xùn)練3000步的模型開始模仿語料的節(jié)奏和風(fēng)格。這種對(duì)比比任何指標(biāo)都直觀能讓你清晰地看到訓(xùn)練過程到底給模型帶來了什么。6.3 最有效的三種升級(jí)方向跑通第一版之后如果想繼續(xù)深入建議按順序走三條路線第一條是換分詞方案。從字符級(jí)換到BPE或Unigram子詞方案詞表從幾十跳到幾千甚至幾萬模型能更高效地利用上下文信息生成質(zhì)量通常會(huì)有一次質(zhì)的飛躍。代價(jià)是需要引入分詞庫(kù)以及注意力計(jì)算的內(nèi)存會(huì)上升。第二條是放大模型。參數(shù)從幾十萬提到幾百萬同時(shí)把上下文長(zhǎng)度從128拉到256甚至512驗(yàn)證集困惑度會(huì)明顯改善。放大模型的同時(shí)記得同步擴(kuò)大數(shù)據(jù)量否則過擬合會(huì)提前到來。第三條是微調(diào)路線。預(yù)訓(xùn)練完成的模型只是“續(xù)寫機(jī)器”如果希望它像助手一樣回答問題需要用指令數(shù)據(jù)做監(jiān)督微調(diào)SFT。這一步會(huì)用到提示詞模板和問答對(duì)數(shù)據(jù)能直觀體會(huì)到“基礎(chǔ)模型”與“助手模型”之間的差異。這三條路不是互斥的可以先后組合。但每走一步都建議保留舊checkpoint方便對(duì)比。大部分人在這個(gè)階段容易犯的毛病是同時(shí)改好幾個(gè)變量結(jié)果出了問題根本定位不到原因。記住一次只改一個(gè)變量這是所有實(shí)驗(yàn)?zāi)茏屇阏嬲龑W(xué)到東西的前提。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷大乡焦噜噜| 丁香五月成人婷婷| 午夜成人综合| 欧美日韩中国| 久久精品A片777777| 五月天天爽| 97操碰| 久草婷婷在线| 成人做爰A片免费看视频| 视色综合| 思思久久96热在精品国产,| 成人色图情色成人网 www.5b5b5bcom 五月天 | 综合激情五月婷婷| 五月丁香婷婷激情视频| 色播丁香婷婷五月激情| 久久AAAA片一区二区| www.五月婷| 1000部毛片A片免费观看| 人妻久久久久久| 99在线观看免费精品视频| 国产91在线视频| 久久性视频| 99精品免费视频| 欧美日本国产欧美日本韩国99| 一起草无码视频| 91热久| 农村熟妇高潮精品A片| 色欧美影院| www.成人婷婷综合| 人人爱人人摸人人澡| 日操| 99视频精品8| 久热大香蕉| 亚洲四色五月| 亚洲色综久久五月| 免费国产视频| 亚洲欧洲国产精品| 伊人婷婷青青cao| 另类 在线| 久久九九99视频| 极品少妇XXXX精品少妇偷拍| 国产精品a无线| 激情综合久久| 日本狠狠干| 91超碰在线观看| 婷婷五月激情视频在线| 天天插天天日| 九九热99视频| 五月天婷婷激情干干| 极品五月天| 免费看欧美成人A片无码| 秋霞性爱AV| 人妻久热| 色五月激情五月开心五月| 五月天婷婷基地| 综合网啪| 五月天激情网站| 色五月婷婷五月天| 五月婷婷玖玖综合玖玖爱| 亚洲情综合五月天| 性色综合网| 日韩AV在线免费| 激情婷婷五月亚洲| 九九无码视屏| 99热综合网| 久久9视频欧美| 色色色综合网| 9 7总站超级碰免费视频| 丰满人妻妇伦又伦精品国产| 久久9热综合| 日本97久久久精品| 日韩欧美一区二区三区四区| 这里只有精彩视| 色色五月婷婷丁香| 婷婷午夜激情| 国产真实乱了老女人视频| 丁香伍月婷电影全集| 婷婷9月天| 激情精品久久| 成人亚洲精品| 婷婷五月丁香成人| 狠狠色97| 无码激情AAAAA片-区区| 亚洲色图81p| 五月天丁香成人社| 五月丁香六月婷婷不卡免费无码 | 六月五月婷婷| 日本99热| 久热伊人在91| 高清激情av在线观看| 五月天中文字幕在线婷婷| 亚洲中文字幕网| 激情六月婷婷啪啪| 色色综合成人网| 丁香六月成人网| www.婷婷五月天.com| 五月丁香| 久久久27操| 99久久久国产大片| 日韩成人AV在线播放| 五月天婷婷久久| 激情婷婷狠狠干综合| 久久机热探花| 婷婷在线午夜| 91狠狠综合久久久| 日韩不卡DvD| 欧美成人热| 色婷婷亚洲婷婷在线观看| 噜噜噜狠狠色综合| 五月婷婷偷拍| 五月天婷婷丁香导航| 五月丁香综合在线| 综合久久高清| 99色热视频在线| 五月天色色色| 色就是色婷婷五月亚洲激情| 天堂中文国产| 极品色丁香| 婷婷中文字幕版| 久99热在线观看| 性色做爰片在线观看WW| 狠狠艹狠狠艹| 色欲色香综合网| 丁香五月色激情| 五月天色导航婷婷资源婷婷| 婷婷五月色| 91精品综合久久久五月天| 秋霞三级影视资源| 少妇大叫太大太粗太爽了A片| 天天综合久久| WWW.99视频| 20253AV| 激情五月天之六月婷婷| 亚洲日韩一页精品发布| 九九免费视频在线| 亚洲亚洲人成综合网络| 性 色 婷婷| 97资源欧美日韩大香蕉超碰一区| 五月停停999| 欧美黄色韩日网| 色色三级视频| 婷婷五月天综合中文| 一本大道嫩草AV无码专区| 成人国产综合| 久久久这里有精品| www.99热国产| 日韩在线观看网址| 99热99热不卡| 五月丁香亭亭AV女优| 99aese| 国产精品色色| 天天综合色综合| 色色色99| 国产精品久久久60086| 色五月亚洲| 五月丁香爱婷婷深深| 九九色色网| 五月婷婷综合社区| 开心五月激情网| 婷婷五月色综合| 六月婷婷色综合| 色婷婷久久视屏| 99精品在线| 五月激情综合性爱| 成人丁香| www狠狠| 色婷小说| 丁香色综合| 九九自拍网| 九九99九九99九九99视频网| 天天爱天天日| 99国产97在线,| 天天久| yazhochengrenavwang| 婷婷五月天综合在线| 婷婷激情四射五月天| 九九热婷婷| 成人短视频在线| 久草热在线视频| 五月六月丁香婷婷在线观看| ady狠狠入| 成人精品亚洲性爱| 99视频久久免费视频| 五月婷精品| 超碰在线国产| 久久精品熟女亚洲AV麻豆| 日日夜夜狠狠干| www.一起草av| 亚洲经典小视频| 伊人玖玖精品| 99精品视频在线免费观看| 久久小说网| 五月天艹天天| www.久久99| 免费看欧美成人A片无码| 五月天色婷婷基地| 67194中文字幕| 人妻综合网| 成人国产欧美大片一区| 亚洲AV网站在线观看| 66久久视频在线| 婷婷色综合网日韩国产| 97色色婷婷| 五月丁香激情婷婷综合| 久久98| 色色欧美色色| 桃色五月天| 国产婷婷五月天| 五月婷婷综合久久| 中文字幕精品推荐免费在线观| 亚洲啪啪网| 五月天色婷婷视频| 婷婷五月天受日本法律保护| 日本九九视频| 91操在线| 大香蕉丁香婷婷| 97久久人人| 天天爽综合| 婷婷五月天久久久| 人人综合久| 亚洲色无码A片一区二区麻豆| 殴美日韩成人| 可以看的av| 678五月丁香亚洲综合| 无码橾| 五月色情| 国产亚洲精品久久久久久牛牛| 激情五月天 婷婷| 六月婷婷七月丁香| 婷婷综合网在线| 啪啪综合| www色婷婷| 婷婷丁香色性爱| 蜜桃人妻无码AV天堂三区| 91啪啪网| 婷婷五月色综合| 亚洲无码九九| 丁香五月天在线| 日本va网站| 日本久久高清| 色五月天激情| 啪啪一区| www.婷婷网| 99riAV国产精品视频| 97丁香五月天| 中文字幕丁香五月| 五月天自拍网| 另类综合国产| 综合久久人妻| 婷婷五月天成人小说| 青青草蜜臀| 天天操天天爱天天日| 五月天天堂久久| 五月色丁香婷婷综合| 精品一二三区久久AAA片| 亚洲无码99| 99热免费观看| 亚洲精品又粗又大又爽A片| 日本久久99| 五月丁香啪啪啪| 噜噜视频| 日本精品人妻无码77777| 亚洲综合五月天| 久操大香蕉| 五月天色影院| 亚洲中文字幕在线观看| 97日本在线播放| AV中文网| 久久婷婷夜| 久久婷婷六月综合综合| 婷婷字幕在线| www91精品| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 91操色| 五月色亭丁香| 九九热手机在线视频| 五月婷婷在线网站| 五月丁香色五月| 色五月五月天| 五月丁香亚洲综合| 丁香五月网址| 亚洲中文乱字字幕在线永久| 欧美日韩欧美| 伊人9草在线观看| 深爱激情网综合| 思思re视频在线| 思思w99| 人人看人人要| 狠狠色五月天| 国产毛片精品一区二区色欲黄A片| 国产日韩欧美| 婷婷激情啪啪| 综合五月婷婷| 视频这里只有精品16| 丁香六月天堂| 无码人妻激情| 极品少妇高潮啪啪AV无码| 亚洲欧美在线观看| 毛片九九九九九九| 青青热久久综合| 五月婷婷免费视频| 九九综合| 国产肥白大熟妇BBBB视频| 少妇水多A片太爽了| 日本性视频| 青青草轻轻操| 99热这里只有精品2024| 999精品乱码77777| 一区二区成人电影免费播放| 99视频网址| 婷婷五月天Av| 国产精品国产| 日本精品人妻无码77777| 在线一起草av| 色婷婷婷av | 一本道综合网| 久久99大全| 少妇人妻人伦A片| 国产av网| 狠狠香婷婷五月| 日韩av干| 日本久久精品| 色综合香蕉| 五月婷婷开心深| 停停五月天激情网| 99色天堂| 五月天激情久久| 色婷激情网| 操日视频| 九九色插| 激情六月婷婷| 日本丁香久在线| 五月香蕉婷婷| 99这里都是精品| 99色五月| 婷婷日日夜夜| 国内外色色色色色成人视频| 高清不卡一区| 色五月超碰| 日本黄色三级片内射| 色玖玖玖| 婷婷丁香五月激情| 成人片黄网站色大片免费毛片| 色五月天丁香婷婷| 久草大| 免费做A爰片77777| 亚洲综合激| 天天干天天干天天干天天干天天干| 婷婷香蕉| 婷婷五月激情网站| 日韩九区| 超碰日日操| 色五月激情五月| 色婷婷六月| 九九热这里只有精品5| 66色在线日韩| 97久久久免费福利网址| 99精品综合| 91se视频| 九九热在线视频,| 日韩1区2区| 激情九月天天天天婷婷| PORNY九色9l自拍视频成人| 思思热99er| 欧洲日韩一区二区三区| 国自产拍偷拍精品啪啪一区二区| www.minyis.com【JT】实力收量可预付TG@LXSPSW8| 色情成人五月天| 久久婷网| 国产白丝在线一区| 色射影院| 色99视频| 粉嫩AV久久一区二区三区| 噜噜色五月| 91热在线| 人人色人人摸人人看| 久久久久这里只有精品| 夜夜 操无码| 国产婷婷综合在线免费视频| 大天天伊人| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 色色九九五月天 | 色五月色五天色情网| 99久热在线精品| 五月丁香六月激情综合| 狠狠做五月| 五月婷婷性爱| 五月天婷五月天综合网在线观| 少妇高潮A片无套内谢麻豆传| 色婷婷精品小视频| 丁香五月激情综合久久| 精品人妻伦一二三区久久| 婷婷性爱视频在线| 天天综合网在线| 激情五月图| 少妇性BBB搡BBB爽爽爽电影| 深情五月天| 婷婷中文网站| 99热在线播放| 婷婷五月情天| 久久婷婷丁香| 色色色999| 婷婷在线播放| 日本五月婷婷| 亚州精品色情无码A片| 久久五月丁香| 久久er99| 激情综合5月| 国产69久久久欧美黑人A片| 五月天色导航| 97五月婷婷| 久久五月天综合| 99精品无码网站| 超碰丁香五月| 久久综合九九| 五月丁香无码| 天天看A片| W色综合| 丁香激情五月| 婷婷五月综合婷婷| 沈娜娜av| 思思热视频| 丁香五月精品| 九九热这里只有精品556| 99ER热精品视频| 日本九九网| 九九热10| 999激情视频| 疯狂做受XXXX高潮A片| 甈你aaaaa| 99riAv1国产在线观看| 综合色久| 五月天丁香综合| 五月婷婷综合网在线播放| 大香蕉丁香婷婷| 91精品国产91久久久久青草| 思思热精品在线观看| 99操久久| 五月激情天天干| 毛片网站谁有| 激情久久久久久久久| 成人无码髙潮喷水A片| 色婷婷久久综合久色综| 99综合99| 能看的AV网站| 国产色丁香| 秋霞AV美国| 色综合久久久无码中文字幕999| www.99热这里只有精品| 亚洲综合在线播放| 丁香婷婷视频| 五月丁香另类网| 婷婷丁香77777| 色五月婷婷1| 99热每日| 色就色94欧美setu| www久视频com| 91色呦哟| 亚洲乱码日产精品BD| 久久九九综合| 丁香九月久久| WWW,五月| 99免费热视频在线| 香蕉久久国产AV一区二区| 狠狠色狠狠操| 91九色无码日韩| 天天插综合网| 五月亚洲| 久色大| 久久人妻www| 五月丁香久久丝袜啪啪| 这里只有精品69| 婷婷五月天手机版视频| 五月婷婷色吧!| 婷婷五月精品中文字幕| WWW,五月| 操一操干一干| 超碰AV成人| 久久久久久久久久婷婷| 97在线视频 欧美| 亚洲综合色激情色五月| 丁香五月天婷婷大香蕉| 五月婷婷综合久久| 激情视频婷婷五月花| 九九热欧美| 超碰超碰在线| 亚洲精品乱码久久久久99| 天天爽天天爽天天爽天天爽天天爽| 天天看A片| 日韩欧美一级大黄网站| 翔田千里 50岁 无码| 久久久久妻| 99热 在线观看| 久久这里面只有精品视频| 夜夜骑日日操| 五月的色婷婷高潮| 最新久久网址| 色婷五月天| 狠狠CAO日日穞夜夜穞AV | 日韩黄色影院| 九 九九九AV| 99碰碰中文| 五月丁香六月综合基地| 六月五月丁香五月欧美| 五月婷婷手机在线| 五月婷婷在线视频观看| AV九九| 夫妇交换刺激做爰| 色色网91| 亚洲综合激情五月久久| 五月花成人网| 十一月婷婷激情四射| 激情久久肏屄视频| 欧美大肥婆大肥BBBBB| 91干婷婷| 日韩操逼大片| 99热这只有| 婷婷综合网站| 九九在线视频| 日韩天堂久久| 九九热色视频| 综合色色色色色色| 99ER热精品视频| 毛片九九九九九九九九18| 伊人五月天久久| 久久久精品视频79| 亚洲色五月婷婷| 另类小说五月天| 国产99精品免费视频| 色五月视频,小说| 亚洲成人综合在线| 五月婷婷影视| 婷婷中文在线| 日本操B视频| 99色视频| 4399在线观看免费高清黄色视频| 久久婷婷五月综合激情国产| 噜噜噜狠狠色综| 国模九区| 妻久久久久| 美女五月天| 亚洲99综合| A片天天| 日夜操B| 99色色视频| 欧美情色一区| 五月婷婷深深的爱| 色五月婷婷网| 婷婷色五月天色色| 这里只有精品在线播放| 可以免费观看的AV| 99视频在线播放大全| 色综合射婷婷| 性按摩玩人妻HD中文字幕| 91丨九色丨熟女|新版| 99色免费视频| 久热精品免费视频4| 丁香五月婷婷狠狠色| 久久美女五月天| 欧美婷婷色| 天天综合天天做天天综合| 亚洲精品99| 香蕉伊人综合| 婷婷五月丁香伊人| 亚洲影院婷婷色| 五月丁香天堂网婷婷| 99色免费观看全部| 久久色天堂| 久青操| 婷婷色基地在线看 | 丁香五月婷婷欧美激情-中文天堂最新版在线观看 | 国产探花一片区| 69激情小说| 北京熟妇搡BBBB搡BBBB| 黄色成人网站在线播放| 久热69| 久热久操久热久草国产91| 夜夜撸天天日| 国产在线网| 国产99视频永久免费| 大香蕉久久| 五月丁香六月在线欧美| 五月天啪啪| 99久久99热| 激情五月天色色| 99久久99视频只有精品| 国产肥白大熟妇BBBB视频| 国产色色网址网站| 精品一区二区三区四区五区六区| 尤物一区二区| 疯狂做受XXXX高潮A片动画| 可以直接看的av| WWW·色色色·COM| 91色吧网| 亚洲热手机在线观看| 色五月在线观看| 九九热啪啪| 久久99网站| 99视频热99| 九月丁香婷婷综合激情| 超碰啪啪网| 操一操插一插| 五月丁香色色综合| 五月丁香婷色| 五月激情啪啪| 伊人无码高清| 色哟哟www| 婷婷激情五月天天天开心| 狠狠草综合网| 五月婷婷激情五月| 超碰京东热av男人的天堂| 中文字幕AV在线| 人妻操操色| 操97| 中文婷婷狠狠| 99热大全在线观看| 热久久这里只有精品| 国产成人网| 亚洲人人艹| 99热99成人| 日韩AAAAAAAAAAA片| 五月天综合在线| 99伊人婷婷在线| 五月婷婷与六月丁香图片激情| 丁香八月综合激情| 99啪啪| 九九99精品视频在线观看| 日日夜夜狠狠| 亚洲在线综合| 538在线精品| 久久久GOGO无码啪啪艺术| 丁香五月婷婷图片综合| 99精品视频在线免费观看| 亚洲五月停停| 丁香五月婷婷免费视频| 五月综合激情图片| 亚州操人在线视频| 激情图片99| 99热在线里有精品| 开心五月深爱五月| 色色色综合色| 裸体美女丁香五月天。| 思思热99er| 狠狠色丁婷婷日日,伊人激情综合网 | 99爱视频在线播放| 欧类av怡春院| av在线观看免费| 欧美日本国产欧美日本韩国99| 婷婷五月综合丁香久久| 久久五月丁香激情综合| 欧美电影在线播放| 亚洲一个色| www.婷婷六月天| 九色99视频| 天天综合五月| 八戒青柠影视剧在线观看| 欧美99热| 五月婷婷色| 欧洲一区二区| 97操碰碰无码视频| 国产成人综合在线| 色综合网址| 国产三级片91| 五月天婷综合| 五月丁香另类图片| 天堂A∨在线| 国产.亚洲.欧洲视频在线| 激情久久丁香| 嫩草视频观看| 激情性爱五月| 五月花激情网| 日韩久久视频| 永久无码色| 这里只有精品视频99| 99热福利| 九九精品热| 一區四區歐美日韓| 97色精品视频| 六月丁香六月婷婷欧美| 丁香五月天婷婷91| 韩国激情五月天综合网| 婷婷五月色综合| 玖玖爱伊人| 久久综合激情| 欧美色婷婷| 五月天激情Av| 精品热九九| 欧美激情综合色综合啪啪五月| 五月婷婷丁香六月| 91狠狠综合久久久| 7超碰自拍| 亚洲成人免费在线| 五月天激情婷婷丁香| 天天操天天插天天射| 色五婷婷在线视频| 欧美日本国产欧美日本韩国99| 激情综合网址| 色综合爱综合| 亚州第一黄网| www.久久综合| 亚洲欧洲另类| 亚洲精品又粗又大又爽A片| 狠色狠色综合久久| 色一情一乱一乱一区9| 五月婷婷丁香综合| 婷婷五月天在线观看av| 婷婷五月综合丁香久久| 色综合久久99色| 高清无码.com| 婷婷碰碰| 国产激情综合五月久久| 色五月婷婷视频| 欧美成综合在线观看| 欧美日综合| 我爱婷婷五月天综合88| 色色色色色日韩午夜激情| 五月婷婷丁香啪啪| 2025天天爽天天摸| 久婷婷五月天影院| 六月婷婷激情| 五月综合丁香婷婷| 男人综合网| 五月婷婷黄| 五月天激情小说| 一区二区三区四区无码| 五月婷婷人人人操| 亚洲欧洲美女在线观| 久久久久亚洲AV成人无码电影| 99精品视频在线6| 五月丁香五月丁香五月丁香五月丁香91| 久久婷五月| 五月天精品综合在线| 97香蕉碰碰人妻国产欧美| 国外亚洲成AV人片在线观看| 色99色| 在线视频色五月| 99精品久久久久久久久| 可以看的av| 日日爽日日爽| 久久久久久久久久久久久久人妻视频| 99色.com| 中文字幕在线免费看线人| 新激情五月天天在线网| 99成人精品| 天天综合网91| 久久久潮喷-久久久九九-成人AV| 日日干夜夜干| 97操在线视频| 五月天天天色| 婷婷综合成人五月天| 色婷婷在线播放| 亚洲精级| 性无码专区无码| 99re思思久久| 这里只有精品视频| 狠狠操狠狠干综合| 九九热在线视频,| 丁香五月婷婷狠狠色| 亚洲av网址| 99视频这里有精品| 久操婷婷| www.日韩国产| 精品久久久人妻| 色五月婷激情| 婷婷五月天激情综合| 黄色五月婷婷| 日本三级日本三级三级人妇四虎| 久操大屁股女人av| 久久久天堂国产精品女人| 97色婷| 另类图片天天影视在线观看| 色五月 五月婷婷| 丁香五月婷婷手机| 精品九九视频| 梁铮版蜘蛛女在线观看| 国产99美少妇| 色婷婷基地| 人人九色| 五月天丁香网站| 一级二级色大片| 亚洲 成人 电影av在线观看| 色婷婷色丁香色欲av| 婷婷五月激情黄色| 国产美女无遮挡裸体毛片A片| 婷婷综合久久| 日本三级韩三级99久久| 激情伊人五月天| 五月丁香综合激情网| 99久久久免费| 激情综合色婷婷六月天| 五月色丁香激情| www.com操| 婷婷五月激情的图片| 久久永久网址| 亚洲另类婷婷五月丁香在线播放| 日操| 激情综合五月色在线| 婷婷八月激情| 婷婷五月天激情综合| 无码一区二区三区四区五区| 婷婷丁香人妻天久久| 激情深爱综合| 婷婷五月天va| 天天日人人| 九月婷婷丁香| 五月婷丁香亚洲| 99色视频免费在线规看| 夜夜骑夜夜撸| 日日夜夜狠狠| 秋霞A V毛片| 久久久婷| 久久久婷婷婷| 九九综合影音先锋| 亚洲一二三网| 色五月97| 九草性爱| 99久在线视频| 99这里只有精品视频免费| 99热这里只有精品26| 亚洲天堂AV免费片| 五月丁香在线国产| 日韩1区2区| 激情综合99| 五月婷婷在线视频| 五月天激情综合网| 日韩一区二区A片免费观看| 中文婷婷狠狠| 五月婷婷色啪| 成人 在线 日韩| 国产裸舞福利资源在线视频| 26UUU精品一区二区c〇m| 五月天激情网开心网| 超碰在线免费| 九九综合| 青青草原爱爱网| 成人婷婷| mmm1717.6dbm人人爱人人操| 怡红院精品视频久久久久久久久| 激情六月日韩| 中文无码婷婷| 国产伦亲子伦亲子视频观看| 停停六月 综合| 五月丁香婷婷久久| 午夜婷婷五月天在线| 99热官网| 色色射| 99视频这里有精品| 亚洲无码www| 久婷| 亚洲精品性色| 一起草无码| 九九热精品| 婷婷香蕉视频| 草综合网| www婷婷| 日本天天操| 超碰色人妾| 婷婷五月天av| 色婷婷六月天在线| 天天天天操| 国产探花一片区| 久久色五月天| 激情五月天啪啪| 另类激情五月在线视频欧美| 大地9中文在线观看免费高清| yiqicaoav| 亚州操操| 六月婷婷久久大全| 丁香婷婷啪啪| 日韩五月婷婷| 亚洲五月婷天天操| 超碰成人av| 色综合网页| 丁香六月婷婷综合色| www五月天com| 99综合网| 成人网站免费在线播放| 亚洲另类噜噜| 九九在线视频| 91干视频| 综合色五月| 嫩草AV久久伊人妇女超级A| 五夜丁香| 性生活久久朋友人妻| 日本狠狠干| 成人在线日韩欧美| 五月婷婷自拍视频| 另类激情中文| 琪琪色热色色| 夜丁香综合| 激情四射亚洲| 天天肏屄夜夜爽| 99ri视频在线播放| 婷婷五月丁香色色| 亚洲人成网亚洲欧洲无码久久| 色婷久久| 91猫咪国产在线播放| 五月色情网| 99热精品无码| 婷婷午夜激情| 天天干天天爽| 五月天婷婷丁香人人操91| 六月丁香婷婷网| 99re8在这里只有精品| 丁香六月婷婷开心| 任你操精品免费| 激情五月婷婷色色| 亚洲婷婷激情888精品久| 啊v视频在线观看| 色九月婷婷| 久久婷婷网| 色综合中文色综合网| 婷香五月激情视频| 大香蕉丁香五月| 亚洲第一视频 久久| 成人精品视频99在线观看免费| 日韩砖区| 欧美一级色| 丁香五月电影| 另类图片天天影视在线观看| 日本99在线| 亚洲天堂啪啪| 狠狠色丁香婷婷五月| 婷婷五月中文字幕国产| 日产精品久久久久久久蜜臀| 日韩无码一区二区三区四区| 激情五月综合婷婷| 五月丁香久久精品在线观看| 天天插天天插| 激情综合色| 99ri视频| 久久五月天激情婷婷| 婷婷五月天成人| 梁铮版蜘蛛女在线观看| 99热啪啪| 欧洲精品欧洲情| 日日日日日| 婷婷九月激情网| 51国精产品自偷自偷综合| 激情丁香五月天综合| 99无码视频| 伊人日日干| 狠狠色丁香乆乆| 五月天开心激情综合网| 久久婷婷草| 综合色99| 蜜臀A∨在线水帘洞| 五月婷婷综合网| 五月婷婷丁香色播网| 五月天堂六月丁香亚州中文字幕久久 | 国产一区二区av免费| 婷婷五月天a| 国产成人AV| 久久色这里只有精品| 操操熟女| 伊人婷婷综合| 99色在线观看| 中文字幕日产A片在线看| 亚洲十月婷婷综合| 久久婷青青草原| 日韩无码色色| 久久婷婷久久| 色综合天天综合成人网| 丁香六月激情综合网| 色级婷婷| 国产免费AV在线| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 99这里有精品| 91色综合| 少妇大叫太大太粗太爽了A片| 久久99美女精彩视频| 97婷婷在线视频| 97人人射| 天天天天天天噜| 欧美激情综合色综合啪啪五月| 色色网站| 九九热这里只有精品31| 日本啪啪天堂| 婷婷丁香社区| 丁香五月激情网| 99re99热| 九热av| 五月丁香六月婷婷久久| 26uuu精品国产| 五月丁香六月激情综合在线| 9久国产| 在线观看免费视频| 九九视频这里只有精品| 99视频这里只有免费精品| 亚洲第一成人无码A片| 先锋资源婷婷| 五月丁香婷婷五月色| 97超级操操| 亚洲欧美成人在线| 狠狠干狠狠干狠狠干狠狠干| 成人视频在线免费播放| 夜夜撸夜夜骑| 十一月婷婷激情四射| 婷色人人狠| 超碰五月婷婷五月天| www.99热这里只有精品| 中文AV网站| 婷婷第六色| 色情婷婷。| 黄色片久久| 久久综合五月天| 欧美婷婷五月天综合| 欧美天堂久久| 人人妖人人97| 天天插综合网| 狠狠爱五月婷婷| 婷婷基地五月色| av色婷婷| www.cao.com久久| 国产精品扒开腿做爽爽爽A片唱戏| 婷婷五月天网| 深夜A片| 婷婷五月天av网| 久久婷婷色色| 日韩久久日| 精品无码久久久久久久久| 九色七七| 色深爱五月| 亚洲狠狠狠色婷婷综合激情久久久| 日韩大片艹艹| 亚洲成人在线电影网站| 色色婷婷五月天| 在线另类| 五月激激激情综合网| 99视频在线观看欧| 色狠狠五月天| 色婷婷丁香九月| 碰超亚洲| 国产精品久久久爽爽爽麻豆色哟哟 | 亚洲丁香五月| 婷婷六月丁香1| 99re热精品视频国| 亚洲五月激情| 青青久久大香蕉| www.夜夜爱.com| 亚洲精品又粗又大又爽A片| 天天射美女| 天天日天天爽| 五月婷婷之美女图片| 激情五月六月丁香| 国产在线6| 2050人人操免费工开爱| 91超级碰碰| 色五月婷婷在线| 大香蕉网 久久| 夫妇交换刺激做爰| 99色色网| 九九久久99| 六月丁香五月婷婷| 五月天桃色深爱网| 开心婷婷五月| 色婷婷久久综合中文久久一本 | 国产精品久久久久久久久久| 成人精品视频99在线观看免费 | 91大屁股精品| 欧美啪啪五月天| 丁香五月桃花在线激情综合| 免费视频WWW在线观看网站| 色色丁香| 国产国产乱老熟女视频网站97| 激情五月天丁香| 五月婷婷性爱| 久久免费精彩视频| 丁香婷婷久久 | 激情六月婷婷| 激情五月婷| 超碰成人在线观看| 黄网免费看| 婷香五月| 99热久| 这里只有精品视频在线| www久久久| 又大又粗九一在线| 91在线观看九区| Y11111111111少妇电影院| 五月深情久久| 99热加勒比| 一区视频网站| 五月天丁香啪啪综合| 色五月婷婷久久爱| 5月婷婷6月丁香aV| 99热这里只有精品69| 五月婷婷欧美激情| 色婷婷成人| 久久婷婷网| 成人AV在线网站| 丁香婷婷激情| 色婷婷成人做爰A片免费看网站| 少妇出轨做爰高潮A片| 国产亚洲精品久久久久久郑州| 又大又粗九一在线| www五月天com| 大香蕉伊人99| 人人舔人人色人人高潮| 色五月婷婷婷婷| www.henhengan| 青青草轻轻操| 亚洲人妻av| 婷婷五月丁香亚洲| 夜夜爱影院| 99热伊人| 婷婷五日b| 五月婷色激情五月| 91偷拍视频| 国产99久久久国产精品免费看| 婷婷六月偷拍| 婷婷五月电影| 人人操Av| 思思热久久爱| 玖玖色综合| 超碰2021| 色婷婷激情| 六月香五月婷| 91婷婷五月天嫩女| 97人妻碰碰中文无码久热丝袜| www.狠狠操| 九九中文字幕九| 九九久久99| 五月香六月婷| 中文字幕AV在线播放| 蜜桃成语时李时珍 免费| 天色色综合网| 4399在线观看免费高清电视剧| 亚洲综合丁香五月天| 超碰人人操人人干| 久久激情四射| 99爱爱| 欧洲高清免费久久| 99热99精品| 五月丁香六月激情网站| 99riAV国产精品视频| 五月丁香六月婷婷亚洲| 97碰碰在线看视频免费| 婷婷五月丁香五月| 激情五月瑟瑟| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | www.狠狠干com| 婷婷区日本| 天天噜噜| 中文字幕日产A片在线看| 超碰人人在线观看| 五月丁色AV| 美女激情婷婷| 噜噜噜狠狠色综合| 五月 婷 久| 天天搞夜夜叫| 综合99综合久久久久久久| 色爽干| 9er热在线精品视频| 婷婷五月天开心网| 色婷婷丁香五月| www.9797国产| www.ppypp| www.激情五月| 青青久久大香蕉| www.五月丁香av| www.国产色| 五月天婷婷激情网| 激情com| 久久婷婷五月综合激情国产| 色一情一乱一伦一区二区三区| 91久久色| se99视频| 日本久久激情| 激情文学 综合 色| 97色热| 综合久久综合综合| 色五月婷婷激情五月| 国产成人网| 99丁香五月婷| 一级二级香港秋霞欧美欧美秋霞| 这里只有精彩视频| 1024国产| 五月天播播中文字幕 | 99九九在线观看免费| 丁香六月色婷婷综合| 亚洲中文字幕AV在线| 九九热色视频| 99热这里只有精品首页| 色色色色色色色色色色色色色97| 色操b| 欧美丁香六月激情视频| 天天天天天天操| www.久久色.com| 99re这里有精品手机在线| 伊人激情AV一区二区三区| 日本WWW九九九| 色五月丁香五月天| 人操91在线| 深爱五月中文字幕| 亚洲精品久久久无码 | 婷婷久久五月丁香| 亚洲天堂青草| 蜜桃婷婷丁香| 亚洲综合色成丁香五月色| 激情网战码亚洲A| 天天插综合| 大香蕉520| 九九视频在线观看| 九九热av| 99九九在线精品热动漫| 超碰成人电影| 五月婷婷久久久| 婷婷丁香97| 2017人人操| 538任你爽| 久久久免费精彩视频| 91九色成人原创视频| 囯产精品久久欠久久久久久九大| 一级七香蕉| 婷婷综合激情| 精品久久婷婷| 欧美超级视频97| 午夜一区| 色偷偷五月天| 色婷婷婷婷成人网| 色五月婷婷777| 综合色综合| 五月天另类小说久久小说网| 亚洲人成人五月天| 国产色视频网站2| 9999三级片| 97久久人人| 天天插天天射| 五月综亚洲| 婷婷五月天综合亚洲| 婷婷五月天香蕉| 国产伊人大香蕉| 婷婷综合色图| 99爱这里只有精品| 极品人妻VIDEOSSS人妻| 九九视频这里只有精彩| 97狠狠碰| 狠狠色色| 日本熟女三区| 国产露脸150部国语对白| 婷婷五月情天| 婷婷五月综合丁香久久| 久久人妻伦理| 五月婷婷99热| 大香蕉久操| 五月天色官网| 欧美综合五月天婷婷tin| 色吧五月婷婷| 91精品久久久久久久| 婷婷丁香五月天激情| 丁香五月激情综合网激情五月| 免费操超碰| 欧美在线操| 思思久久96热在精品国产,| 日韩久久成人| 久久99热这里只有精品| 操一区| 三十熟女| 六月婷婷中文字幕| 婷婷五月丁香av网站| 99re欧美精品| 激情五月综合网最新| 六月综和久久| OUMEIRIHANCHENGREN| 色五月婷婷网|