欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

基于faiss與Chinese SimBERT的中文NLP最近鄰數(shù)據(jù)增強實踐

基于faiss與Chinese SimBERT的中文NLP最近鄰數(shù)據(jù)增強實踐 簡介面向中文NLP數(shù)據(jù)增強場景的實踐項目利用faiss索引與Chinese SimBERT向量化實現(xiàn)最近鄰樣本擴充主要解決標(biāo)注數(shù)據(jù)不足時如何高效補充相似文本的問題。資源共6個文件壓縮包55.06MB包含3個csv數(shù)據(jù)集文件、1個yaml配置文件、1個faiss索引文件和1個Python數(shù)據(jù)增強腳本覆蓋從配置、索引構(gòu)建到數(shù)據(jù)輸出的完整鏈路。已有197人學(xué)習(xí)。項目基于Python 3.7、bert4keras 0.11.3與faiss-gpu 1.7.2思路清晰先由無標(biāo)簽語料構(gòu)建faiss索引再為帶標(biāo)簽樣本檢索最近鄰最終生成含相似文本、相似度與標(biāo)簽的擴充數(shù)據(jù)。腳本與配置可直接參考或二次開發(fā)有助于快速落地基于向量檢索的中文數(shù)據(jù)增強流程適合NLP項目實踐與算法調(diào)參場景。1. 數(shù)據(jù)增強為什么不先想到生成模型而先動 faiss 做最近鄰做過中文 NLP 分類任務(wù)的工程師應(yīng)該都有同感標(biāo)注數(shù)據(jù)永遠(yuǎn)不夠尤其是帶 label 的業(yè)務(wù)語料攢幾個月也就幾千條。常見的增強思路是回譯、EDA 同義詞替換但對中文而言回譯依賴翻譯接口批量跑又慢又貴EDA 的詞表替換在領(lǐng)域語料上經(jīng)常把糖尿病換成糖果病這種離譜結(jié)果。有一種更省心的做法是先用 faiss 建一個語義查找表把已有標(biāo)注數(shù)據(jù)用 Chinese SimBERT 向量化同一 batch 里做最近鄰查詢再從鄰居句子里產(chǎn)生新樣本。這條路的好處是全程本地運行不依賴外部接口而且最近鄰本身就能反映數(shù)據(jù)分布密度適合把稀疏類別的樣本往稠密區(qū)域補。這個方向適合誰你手里已經(jīng)有一批干凈的中文標(biāo)注數(shù)據(jù)想在不改模型結(jié)構(gòu)的前提下擴充訓(xùn)練集或者你剛接手一個冷啟動項目只有幾百條高質(zhì)量正例需要快速讓分類器不至于一訓(xùn)練就過擬合。本文會用可復(fù)現(xiàn)的做法講清楚為什么選 SimBERT 做向量化、faiss 的索引和查詢參數(shù)怎么定、最近鄰能生成哪幾種增強樣本以及最容易讓你翻車的五個細(xì)節(jié)。2. 向量化與索引選型chinese simbert 配 faiss動手前先想明白三件事2.1 為什么用 chinese simbert而不是 BGE、M3E 或通用 BERT提到中文句向量現(xiàn)在社區(qū)里更常聊的是 BGE 和 M3E它們在語義相似度榜單上表現(xiàn)不錯。但做數(shù)據(jù)增強有一個容易被忽略的點我們需要的是局部語義一致而不僅僅是全局相似度排名。SimBERT 是蘇劍林基于 BERT 做的一個句向量模型它的訓(xùn)練目標(biāo)里包含了句對相似和句對生成兩個任務(wù)。什么意思呢它的向量空間在同類句子上擠得更緊而且相鄰句子往往在字面上也有可替換的關(guān)系。比如這款手機電池耐用和這款機器續(xù)航時間長在 SimBERT 的向量空間里距離比較近而在通用 BERT 的向量空間里可能被拉到話題相關(guān)但不字面相近的區(qū)域。做增強時我們恰恰希望鄰居是字面可替換的而不是話題沾邊但結(jié)構(gòu)完全不同的。另外SimBERT 的語義表示對中文的字粒度更敏感。因為是全詞掩碼WWM訓(xùn)練出來的它對哪 / 里 / 的 / 服 / 務(wù)這種分詞邊界模糊的中文短語有更好的穩(wěn)定性。實際使用中我用通用 BERT 做向量化喂給 faiss 查出來的鄰居經(jīng)常出現(xiàn)用戶反饋和客服反饋這類同義不同結(jié)構(gòu)的樣本拼接出來的句子生硬換成 SimBERT 之后鄰居句子的結(jié)構(gòu)相似度明顯提高。使用上的注意點SimBERT 輸出的是 768 維句向量如果你在 transformers 里加載記得取出 CLS 位置的輸出或者對非 padding 位置做均值池化不要直接用 last_hidden_state 的高維張量丟給 faiss那樣索引維度會變成序列長度乘 768既慢又沒有意義。2.2 faiss 索引類型怎么選IndexFlatIP 與 IndexIVFFlat 的取舍faiss 官方文檔把索引分得很細(xì)但做中文文本最近鄰常見做法其實就是在兩種里挑精確索引和倒排索引。精確索引用 IndexFlatIP。它做的事情簡單粗暴把所有向量全部平鋪在內(nèi)存里每次查詢都做一次全量內(nèi)積計算。優(yōu)點是召回率 100%不需要調(diào)參缺點是數(shù)據(jù)量上了 10 萬條之后單條查詢耗時可能會到十幾毫秒批量增強時要循環(huán)幾萬次整體時間不可接受。倒排索引用 IndexIVFFlat。它先對全量向量做聚類nlist 參數(shù)控制簇的個數(shù)查詢時只在最近的幾個簇里搜索nprobe 參數(shù)控制查詢的簇數(shù)。實測中5 萬條樣本、nlist100、nprobe10 的情況下召回率能保持在 95% 以上單條查詢耗時降到 1 毫秒以內(nèi)。做增強場景如果你的數(shù)據(jù)集在 1 萬條以下直接用 IndexFlatIP 最省心超過這個量級帶上 IndexIVFFlat。還有一個折中方案是把向量先降維到 256 維再建索引但中文語義表示降維后丟失的信息不容易找回所以我不推薦為了速度去動向量維度。索引類型適合數(shù)據(jù)量參數(shù)召回率典型耗時5 萬條CPUIndexFlatIP 1 萬條無100%3-5 ms/條IndexIVFFlat1 萬 - 100 萬條nlist, nprobe95%nprobe 足夠時 1 ms/條IndexHNSWFlat向量維度高、查詢頻繁M, efSearch高快但建索引較慢2.3 建索引之前必須先做的兩個預(yù)處理向量正則化與 ID 映射faiss 做內(nèi)積相似度對向量模長非常敏感。如果你沒有把句向量做 L2 歸一化那么長句子的向量模長普遍比短句子大查詢結(jié)果會被句子長度這個無關(guān)因素主導(dǎo)。這是做最近鄰增強時最容易踩的坑。建議在向量化之后統(tǒng)一做一次歸一化把內(nèi)積相似度變成余弦相似度。另外faiss 的索引內(nèi)部只認(rèn)它自己分配的序號0 到 N-1。如果你有一條原始數(shù)據(jù)的 ID 是 10086寫入 faiss 時它在索引里的位置可能是 38。查詢返回的 38 這個值你需要通過一個映射表還原成原始 ID。最穩(wěn)妥的做法是使用 IDMap 類型的索引比如 IndexIDMap2 包住 IndexFlatIP直接把原始數(shù)據(jù) ID 傳進(jìn)去。3. 從原始中文文本到最近鄰列表完整的數(shù)據(jù)管線腳本3.1 文本清洗與 chinese simbert 向量化的最小實現(xiàn)先交代一下我的做法拿到原始數(shù)據(jù)后我不會立刻向量化而是先做一遍輕量清洗。清洗規(guī)則按你的業(yè)務(wù)數(shù)據(jù)來常見做法包括統(tǒng)一全半角、去掉 HTML 標(biāo)簽、規(guī)范重復(fù)標(biāo)點連續(xù)三個以上的逗號 / 句號壓縮成一個、以及根據(jù)業(yè)務(wù)詞表過濾無效字符。清洗完的文本統(tǒng)一寫入一個列表然后開始向量化。下面是最小可運行的代碼import numpy as np from transformers import AutoTokenizer, AutoModel import torch # 載入中文 SimBERT 模型與分詞器 model_name 你的 SimBERT 權(quán)重路徑或 Hugging Face 模型名 tokenizer AutoTokenizer.from_pretrained(model_name) model AutoModel.from_pretrained(model_name) model.eval() texts [這款手機電池耐用, 這個機器續(xù)航時間長, 屏幕碎了售后不管] encoded tokenizer( texts, max_length64, paddingTrue, truncationTrue, return_tensorspt ) with torch.no_grad(): outputs model(**encoded) # 取 CLS 位置的向量作為句向量表示 cls_vectors outputs.last_hidden_state[:, 0, :].numpy() # L2 歸一化把內(nèi)積變成余弦相似度 norms np.linalg.norm(cls_vectors, axis1, keepdimsTrue) cls_vectors cls_vectors / norms print(cls_vectors.shape)代碼邏輯說明我先用批量化方式一次處理多個文本避免單條循環(huán)過慢。max_length64控制截斷閾值如果你的句子普遍較長可以調(diào)整到 128但 SimBERT 的位置編碼上限是 512超過部分會被截斷后面避坑章節(jié)會細(xì)說。取 CLS 向量是因為 SimBERT 在訓(xùn)練時用 CLS 輸出做相似度損失它比均值池化更貼合這個模型本身的語義空間。參數(shù)說明paddingTrue會讓一個 batch 內(nèi)所有句子補齊到最長但請留意padding 出來的[PAD]token 也會參與注意力計算我建議你改造為 Attention Mask 讓模型忽略 padding 位上面的最小實現(xiàn)沒有體現(xiàn)正式代碼里要加上attention_maskencoded[attention_mask]否則短句的向量會被無效位稀釋。3.2 用 faiss 建索引并完成最近鄰查詢直接返回中文候選向量化完成后下一步就是讓 faiss 上場。完整流程先把向量寫入索引再對每一條數(shù)據(jù)查詢它的最近鄰。import faiss # 把所有向量寫入 IndexFlatIP并綁定原始 ID dim cls_vectors.shape[1] index faiss.IndexFlatIP(dim) index faiss.IndexIDMap2(index) # 原始 ID 列表長度必須與向量數(shù)量一致 original_ids np.array([0, 1, 2], dtypenp.int64) index.add_with_ids(cls_vectors, original_ids) # 查詢對每一條數(shù)據(jù)找 top-k 最近鄰 k 5 scores, neighbor_ids index.search(cls_vectors, k) # 打印第 0 條樣本的鄰居 for idx, score in zip(neighbor_ids[0], scores[0]): print(f原始ID: {idx}, 相似度: {score:.4f}, 文本: {texts[int(idx)]})代碼邏輯說明IndexIDMap2包住IndexFlatIP后add_with_ids會把原始 ID 和向量綁定查詢返回的neighbor_ids就直接是原始 ID省去手動映射的麻煩。這里有個細(xì)節(jié)search的返回結(jié)果里會包含自己因為自己是自己的最近鄰所以k5實際上只帶來 4 個有效鄰居業(yè)務(wù)代碼里建議把k設(shè)置成 6取時跳過第一個。參數(shù)說明search函數(shù)第二個參數(shù)代表返回最近鄰個數(shù)。對于數(shù)據(jù)增強我一般設(shè)k10或k20太少候選不夠用太多后面的鄰居相似度太低垃圾樣本會污染訓(xùn)練集。另外 faiss 的 inner product 分?jǐn)?shù)范圍是 [-1, 1]歸一化后但 Cosine 相似度的數(shù)值不能直接當(dāng)置信度用建議只做排序不設(shè)絕對閾值。3.3 三個必調(diào)參數(shù)閾值、候選數(shù)量、標(biāo)簽平衡拿到鄰居列表之后實際增強效果取決于三個參數(shù)。第一個是相似度閾值。我一般設(shè)置一個保留閾值比如 0.75只有相似度高于這個值的鄰居才參與增強。閾值設(shè)太低會把語義不相關(guān)的樣本硬拉進(jìn)來模型被噪聲帶偏設(shè)太高可用的鄰居太少增強等于沒有。建議先在驗證集上做一個快速掃描從 0.6 到 0.9每 0.05 試一次用增強后的數(shù)據(jù)訓(xùn)練一個小模型看指標(biāo)變化。第二個是每類樣本的候選數(shù)量。如果某個類別的樣本很少比如只有 100 條但它的鄰居特別多不要一口氣全部用完。我的習(xí)慣是控制增強倍數(shù)比如 3 倍到 5 倍防止某類樣本在訓(xùn)練集里占比被抬得太高。第三個是標(biāo)簽平衡策略。最近鄰增強天然會加劇頭部類別越來越多的馬太效應(yīng)因為樣本多的類別向量密集更容易被查出來。對于尾部類別我會單獨做一次反向查詢把尾部類別的每一條樣本作為 query從全量數(shù)據(jù)里找最近鄰然后只保留同標(biāo)簽或低置信度的鄰居這樣能定向補足稀疏類別。4. 最近鄰如何變成新的中文訓(xùn)練數(shù)據(jù)三種可直接落地的策略4.1 詞級替換增強把句子中的低頻詞換成鄰近樣本的高頻詞拿到最近鄰之后最保守的增強方式是詞級替換。做法是對樣本 A找到它的最近鄰樣本 B兩個句子分詞后把 A 中一個低頻詞替換成 B 中對應(yīng)語義槽位的詞。這個做法比 EDA 的隨機同義詞替換更安全因為替換詞來自真實語料不是外部詞表。import jieba def word_level_augment(text_a, text_b, top_k1): 把文本 A 中的低頻詞替換為近鄰文本 B 中的詞。 words_a list(jieba.cut(text_a)) words_b list(jieba.cut(text_b)) # 這里簡化處理假設(shè) A 和 B 長度接近按位置對齊 if len(words_a) ! len(words_b): return text_a new_words [] for i, (wa, wb) in enumerate(zip(words_a, words_b)): # 低頻詞在語料中出現(xiàn)次數(shù)低于 3 的詞才有替換價值 if word_count.get(wa, 0) 3 and wa ! wb: new_words.append(wb) else: new_words.append(wa) return .join(new_words)代碼邏輯說明這個實現(xiàn)是簡化版本核心是低頻詞 近鄰高頻詞的組合。word_count是預(yù)先統(tǒng)計的全局詞頻表你需要在自己語料上統(tǒng)計一遍。注意兩個句子的長度不一定相等實際落地時我會先用動態(tài)規(guī)劃做一個最小編輯距離對齊讓替換位置更準(zhǔn)確。參數(shù)說明top_k控制替換次數(shù)設(shè)置為 1 表示每句話最多替換一個詞。不要貪多替換太多句子原意就散了。替換后需要人工檢查一條如果替換出來的詞明顯不通順比如把手機替換成充電器說明這個近鄰不適合詞級增強丟棄即可。4.2 句子級拼接增強前句加后句配合標(biāo)簽平滑詞級替換只適合短句對于長文本或評論型數(shù)據(jù)更有效的是句子級拼接。做法很簡單把樣本 A 和它的最近鄰 B要求同標(biāo)簽拼接成一條新樣本。這里的關(guān)鍵是拼接方式。我試過直接在原句上追加效果不好因為兩個句子之間沒有銜接詞模型會把它們當(dāng)成兩句無關(guān)的話。常見做法是加一個過渡符號比如 [SEP] 或中文的。def pair_concat_augment(text_a, text_b, label, label_smooth0.1): 近鄰句子拼接增強返回新文本與平滑后的標(biāo)簽分布。 new_text text_a text_b # 標(biāo)簽平滑給錯誤類別一點點概率防止模型過度自信 smooth_label [label_smooth / (num_classes - 1)] * num_classes smooth_label[label] 1 - label_smooth return new_text, np.array(smooth_label)代碼邏輯說明拼接增強的收益來自語義互補。分類任務(wù)里模型經(jīng)常因為關(guān)鍵詞缺失而誤判比如售后不管這條樣本沒有提到客服但它的近鄰里有客服響應(yīng)慢拼接后模型能同時看到兩個特征。標(biāo)簽平滑是為了防止模型記住出現(xiàn)某詞必然屬于某類這種捷徑平滑系數(shù) 0.1 是經(jīng)驗值如果你的分類類別數(shù)較少二分類可以下調(diào)到 0.05。參數(shù)說明拼接時要注意總長度兩個 64 字的句子拼起來是 128 字如果模型 max_length 是 64后半個句子會被截掉。我在這個環(huán)節(jié)會重新分詞并做長度判斷超長時優(yōu)先保留前半句加后半句的開頭幾個詞而不是直接丟棄。4.3 偽標(biāo)簽增強用近鄰?fù)镀苯o未標(biāo)注語料打標(biāo)第三種策略適合你手里有一大批無標(biāo)簽數(shù)據(jù)的情況。做法把所有無標(biāo)簽數(shù)據(jù)也用 SimBERT 向量化查詢它們在已標(biāo)注數(shù)據(jù)中的最近鄰用鄰居標(biāo)簽投票決定這條數(shù)據(jù)的偽標(biāo)簽。def pseudo_label_by_neighbors(neighbor_labels, neighbor_scores, threshold0.8): 根據(jù)最近鄰標(biāo)簽投票生成偽標(biāo)簽。 neighbor_labels: 鄰居的標(biāo)簽列表 neighbor_scores: 鄰居的相似度分?jǐn)?shù) label_score {} for lab, score in zip(neighbor_labels, neighbor_scores): if score threshold: continue label_score[lab] label_score.get(lab, 0) score if not label_score: return None, 0.0 # 取加權(quán)得分最高的標(biāo)簽 pseudo_label max(label_score, keylabel_score.get) confidence label_score[pseudo_label] / sum(label_score.values()) return pseudo_label, confidence代碼邏輯說明這里把相似度分?jǐn)?shù)直接當(dāng)作投票權(quán)重比單純數(shù)票數(shù)更合理。比如一個鄰居相似度 0.9、標(biāo)簽 A另一個鄰居相似度 0.7、標(biāo)簽 BA 的加權(quán)得分明顯更高。threshold0.8是一個起始值實際業(yè)務(wù)中如果無標(biāo)簽數(shù)據(jù)分布很散0.8 會過濾掉大部分樣本可以放寬到 0.7但要接受一些噪聲。參數(shù)說明偽標(biāo)簽增強有個前提——已標(biāo)注數(shù)據(jù)的分布要能覆蓋無標(biāo)簽數(shù)據(jù)的主體。如果無標(biāo)簽數(shù)據(jù)里有一類樣本在你的標(biāo)注集里完全沒有近鄰打出來的偽標(biāo)簽就是瞎猜寧可丟棄這批數(shù)據(jù)。另外偽標(biāo)簽數(shù)據(jù)參與訓(xùn)練時建議把 loss 權(quán)重設(shè)置為 0.5 倍讓真實標(biāo)簽的主導(dǎo)地位不被沖掉。5. 避坑與排查faiss 返回結(jié)果與 SimBERT 向量碰到的五個典型問題5.1 faiss 返回的是內(nèi)部序號不是原始索引號現(xiàn)象查詢結(jié)束后拿返回的數(shù)字去原始數(shù)據(jù)里取文本取出來的內(nèi)容張冠李戴。原因faiss 的 IndexFlatIP 默認(rèn)按添加順序分配內(nèi)部序號如果中間有數(shù)據(jù)被刪除或過濾過內(nèi)部序號和原始 ID 就錯位了。還有一個常見場景用add_with_ids傳了原始 ID 但建的是普通索引faiss 會忽略你傳入的 ID仍然按自增序號處理。解決統(tǒng)一使用faiss.IndexIDMap2包裝類別索引。注意是IndexIDMap2而不是IndexIDMap前者內(nèi)部用哈希表支持按 ID 刪除單條向量后者不支持。建索引和查詢的代碼都要走 IDMap 的接口避免中途混用。5.2 長文本被截斷向量化時把語義丟了現(xiàn)象兩條明顯意思相反的句子這個產(chǎn)品我喜歡 vs 這個產(chǎn)品我不喜歡向量距離非常近查詢出的最近鄰基本都是錯誤標(biāo)簽。原因SimBERT 的位置編碼上限是 512但你設(shè)置max_length64或 128 后超過長度的文本被硬截斷。如果一條文本的核心表達(dá)恰好落在截斷區(qū)域比如不喜歡出現(xiàn)在第 70 個 token 位置截斷后剩下的部分全是無關(guān)內(nèi)容。解決先統(tǒng)計文本長度分布把max_length設(shè)置為覆蓋 95% 樣本的長度而不是拍腦袋定 64。如果業(yè)務(wù)數(shù)據(jù)普遍較長可以考慮分段向量化再取平均但注意 SimBERT 的句向量是整體語義分段平均對短文本聚合任務(wù)有效對判斷整體情感不一定有效需要做 A/B 驗證。5.3 向量沒做 L2 歸一化內(nèi)積被句子長度帶偏現(xiàn)象查詢出來的最近鄰永遠(yuǎn)是長句子相似度分?jǐn)?shù)普遍偏高短句子幾乎不會被召回。原因faiss 的 IndexFlatIP 算的是內(nèi)積內(nèi)積 模長 × 余弦相似度。長句子向量模長天然偏大即使方向和查詢向量不接近內(nèi)積也能排到前面。解決向量化之后統(tǒng)一做 L2 歸一化。上面代碼里已經(jīng)寫了norms np.linalg.norm(...)這一步批量處理時不要遺漏。有個細(xì)節(jié)如果你之后又對向量做過投影或降維需要再歸一化一次。5.4 增強后標(biāo)簽翻轉(zhuǎn)模型分?jǐn)?shù)更差了現(xiàn)象加了增強數(shù)據(jù)之后模型在驗證集上的 F1 反而掉了 2 個點。原因最常見的兩個原因。一是閾值設(shè)得太低拉進(jìn)來的鄰居語義不相關(guān)比如退款慢和收貨慢被當(dāng)成同義樣本拼接生成的新文本語義反轉(zhuǎn)二是拼接增強時兩個鄰居標(biāo)簽雖然一致但一個是手機屏幕碎一個是電腦藍(lán)屏拼接后模型學(xué)到了屏幕碎 藍(lán)屏 售后問題這種不穩(wěn)定的特征。解決把增強后的數(shù)據(jù)單獨存一份抽樣 20 條人工看一遍重點看拼接處是否產(chǎn)生歧義。同時把相似度閾值往高調(diào)直到人工檢查的合格率超過 90%。另外詞級替換和拼接增強不要疊加使用疊加后的噪聲不是一加一等于二而是指數(shù)級放大。5.5 nprobe 和 nlist 調(diào)參失控耗時與召回率同時變差現(xiàn)象換成 IndexIVFFlat 之后查詢速度確實快了但返回的最近鄰明顯不合理或者查詢時間反而變長了還沒精確索引快。原因nlist決定聚成多少個簇nprobe決定查詢時搜索幾個簇。nlist太小每個簇里樣本太多nprobe也覆蓋不了全局分布nlist太大一個簇里就幾條向量nprobe要設(shè)得很高才能保證召回速度就退化了。這個參數(shù)組合在很多工程里被當(dāng)成玄學(xué)調(diào)。解決給出一個可直接復(fù)制的經(jīng)驗起點nlist int(sqrt(num_samples))大約在 100 到 500 之間nprobe從 10 開始逐步翻倍觀察召回率變化。驗證召回率有一個廉價方法用 IndexFlatIP 在小批量數(shù)據(jù)上先算出精確 top-k再和 IndexIVFFlat 的結(jié)果對比準(zhǔn)確率超過 95% 的 nprobe 值就是你的候選參數(shù)。6. 增強效果不靠感覺批量查詢腳本、質(zhì)量驗證參數(shù)與一個持久習(xí)慣當(dāng)你把上面一套管線跑通后接下來要做的是讓增強流程可復(fù)現(xiàn)、可驗證、可回滾。我強烈建議你把向量化 - 建索引 - 查鄰居 - 生成增強樣本整個過程封裝成一個腳本輸入是原始數(shù)據(jù)文件和參數(shù)配置輸出是增強后的訓(xùn)練集。def batch_search(index, vectors, k10, batch_size1024): 分批查詢最近鄰避免一次性查詢占用過多內(nèi)存。 all_scores [] all_neighbors [] for start in range(0, len(vectors), batch_size): end min(start batch_size, len(vectors)) batch_vectors vectors[start:end] scores, neighbors index.search(batch_vectors, k) all_scores.append(scores) all_neighbors.append(neighbors) return np.vstack(all_scores), np.vstack(all_neighbors)這個腳本的價值是處理大數(shù)據(jù)量。5 萬條向量一次性交給 faiss 的search機器內(nèi)存不夠會直接卡死分批 1024 條查詢耗時幾乎不變但內(nèi)存占用下降一個量級。batch_size參數(shù)可以按你的內(nèi)存調(diào)整CPU 環(huán)境下 2048 也沒問題。質(zhì)量驗證是我的習(xí)慣動作分四步走。第一步增強前后訓(xùn)練集的大小、正負(fù)樣本比例、平均文本長度用表格打印出來快速發(fā)現(xiàn)是否引入分布偏移。第二步:抽樣 30 條人工檢查記錄通順且標(biāo)簽正確的比例。第三步用增強前的數(shù)據(jù)訓(xùn)練一個基線模型用增強后的數(shù)據(jù)訓(xùn)練一個對比模型在同一個驗證集上看 F1 變化。第四步檢查增強數(shù)據(jù)里是否有重復(fù)樣本faiss 查詢出的鄰居如果和原樣本完全相同說明語料里有重復(fù)文本需要先去重再做增強。我踩過最深的坑是對著增強數(shù)據(jù)的量興奮不已卻沒管質(zhì)量驗證結(jié)果模型被拼接樣本帶偏最后花了兩天排查才發(fā)現(xiàn)是偽標(biāo)簽測試集污染導(dǎo)致評估分?jǐn)?shù)虛高。后來我養(yǎng)成了一個習(xí)慣每一批增強出來的數(shù)據(jù)文件名里都要帶上參數(shù) hash比如k10_seed42_thresh0.8_v1.jsonl模型表現(xiàn)異常時能快速回滾到上一版參數(shù)。這個習(xí)慣幫我避開了很多了無頭緒的模型調(diào)參困境。最后這個方案最值得投入的地方不是 faiss 本身而是用真實數(shù)據(jù)分布去指導(dǎo)增強這個思路。生成模型需要精心調(diào) prompt回譯需要外部接口而最近鄰增強只需要你自己的數(shù)據(jù)再加一個本地向量檢索庫它對冷啟動和稀疏類別尤其友好。希望這份落地步驟能幫你少走我走過的彎路。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色情激情五月| 激情五婷精品网在线观看网址| 人人操碰| 国产97在线日韩亚洲女人被黑人巨大| 丝袜熟女一区二区三区| 97人人操com| 香蕉久久五月| 四川操逼站| 91超级碰人人操| 五月丁香六月婷婷激情四射| 激情久久丁香| 97黑人精品区| 婷婷久久综| 97干在线看| 香蕉色色网| 婷婷五月天久| 欧美色碰| 综合久| 99超级碰碰| 丁香五月婷婷久久久| 婷婷97C| 超级久久久| 1024在线视频| 97色热| 99热新网址| 激情性爱五月天| 天天色月| 激情亚洲色图片丁香综合| 夜夜操少妇| 婷婷五月天久久综合88| caop在线| 成人必爱视| 久热这里精品免费| 五月天婷婷综合免费| 五月激情综合网| 91九色视频在线观看| 爆乳熟妇一区二区三区爆乳照片| 九九色色| 久久ri精品| 狠狠色九月| 99啪99| 色婷婷综合久久久久| 日本va欧美va欧美va精品| 26uuu青青| 欧美天天五月丁香免费观看| 丁香五月婷婷色| 色婷婷五月在线| 成人丁香五月天Av| 九九精品热| caop视频| 天天操天天曰天天射| 97丁香婷婷| 99热永久在线观看| 五月天社区狠狠| 亚洲欧美一区二区三区四区爱爱动图| 日夜操B| 天天干一干| 天天综合精品| 99九九视频精彩在线| 九九综合| 婷婷五月激情四射手| 97偷拍在线视频| 97日在线视频| aaaaaa片| 五月天亭亭俺也| 亚洲成人在线免费| 国产毛片操B| 五月婷婷婷| 婷婷四月 成人 狠狠干| www.henhengan| 亚洲综合草草| 激情98色婷婷五| 婷婷久久影院| 99爱免费在线观看| 婷婷五月天国产在线播放| 在线播放成人网站| 久久久91精品| 婷综合| 日韩婷婷五月天| 婷婷五月天六点丁香五月| 九九AV在线| 国产又粗又大又爽又黄| 亚州操逼网| 五月丁香六月日逼| 色情五月天丁香社区| 色婷婷基地| 婷婷涩五月| 欧美经典片免费观看大全| 丁香婷婷五月香蕉91| 色婷婷影音| 五月大香蕉| 五月天婷婷丁香花| AV在线免费网站| 少妇AB又爽又紧无码网站| 一本狠婷婷综合| 99小视频在线| 丁香五月在线| 99re在线播放| 婷婷久久久久| 中文乱子伦视频| 丁香成人五月天| 色婷婷综合久久| 99超级碰碰| 婷婷色播色五月五色五月天色妇| 婷婷五月亚洲一本在线丁香| 九九在线精品| 婷婷午夜精品久久久| 99九九视屏| 超碰人人艹| 丁香88AV五月婷婷| 丁香六月婷婷综合激情欧美| 色丁香五月| 丰满人妻妇伦又伦精品国产| 亚洲小视频免费播放| 久热这里只有精品在线| 五月婷婷开心网| 久久aaaaa| 亚洲五月婷婷在线| 丁香五月天堂| 国产精品人妻在线网址| 激情五月婷婷老师| 国产做爰视频免费播放| 亚洲色涩视频| 日韩色五月| 丁香五月亚洲综合丝袜| 欧美激情xxxXX| 丁香五月综合激情啪啪| 人妻中文av| 5月色婷婷| 五月丁香五月综合欧美| 在线播放 精品| 激情q青青草在线婷婷| 色噜噜狠狠狠综合曰曰曰| 天天拍天天操| 丁香五月91| 五月婷视屏在线观看| 深爱五月天| Www99热| 五月天狠狠草| 婷婷无五月无码视频| 色综合色色| 激情综合五月婷婷丁香| 日韩婷久| 激情小说 五月天| 五月婷婷激情综合| 日韩一级片| 99精品在线观看视频| 九九热青草| 99re这里只有精品9| 五月天精品| 国产人妻人伦精品一区二区| 99熟女视频| 五月天精品视频| 极品人妻VIDEOSSS人妻| 五月婷婷 欧美| 五月天婷婷综合| 五月丁香久久激情综合| 婷婷五月色综合| 色色无码| 色亭亭五月天网扯| 99热免费| 午夜理论片最新午夜理论剧| 成人婷婷| www98日本小时间到了| 激情五月婷婷综合| 九月大香蕉| 操熟女成人网| 亚洲天堂爱爱| 亚洲综合99| 色色五月婷婷久久| 亚洲AV免费在线| 怡红院院久久| 大香av| 精品久久人妻| 79色色色色| 人人综合久| 天天色天天操天天射| 婷婷伊人激情婷婷| 激情婷婷综合网| 婷婷的99视频网站| www,五月天激情| 丁香五月激情网| 99爱这里只有精品免费视频| a久久免费视频| 六月婷基地| 久久免费精彩视频| 欧美婷婷五月天| 五月丁香激情综合| 婷婷色色色| 97碰碰视频在线观看| 91精品熟女| 亚洲天堂青草| 99性爱| 激情小说五月欧美亚洲丁香| 久久综合婷婷| 五月婷婷之综合激情在线| 天天干天天拍| 米奇影视资源777狠狠色婷婷五月天激情网| 男人天堂AV在线一区二区| 99无码视频| 五月丁香婷婷激情久久| 嫩草视频观看| 图片区 小说区 区 亚洲五月| 九九这里都是精品| 丁香亚洲婷婷五月| 另类精品视频在线观看| 熟妇天天综合| 搡BBBB搡BBB搡五十| 欧美成人色婷婷| 26uuu淫色| 婷婷久久图片| 艹B高清无码| 第四色激情网| 五月天播播中文字幕| 五月丁婷香| 久久久久久久久久久久63| 99色天堂| 色人久久| 99爱爱网| 美国天天日天天操| 777.色色| 99啪啪| 亚洲AV电影av| 刘玥av在线| 久久婷婷五月天懂色| 婷婷五月激情在线| \\五月天婷婷激情| 成人五月天在线观看| 涩五月丝袜婷婷| 日本三级中国三级99人妇网站| 男人天堂亚洲综合| 五月婷婷色| 婷婷五月天你懂的| 91n网站cad入口在线观看| 色九九综合| 99re视频在线播放| www.91在线观看| 国产婷婷五月天| 欧日美女Va| 五月丁香婷草| 玖玖婷婷婷丁香五月| 九九色情网站| 亚洲无AV在线中文字幕| 丁香五月色情| 婷婷综合五月| 狠狠草狠狠草| 丁香六月在线| 开心五月婷婷激情| 超碰男人色| 五月丁香在线看| 五月丁香婷婷久久| 国产裸舞福利资源在线视频| 久久66er久久| 26uuu青青| 超碰93在线观看| 色婷婷导航| 五月婷婷av| 开心五月深爱五月丁香五月激情五月| 五月婷婷激情中心| 丁香五月天视频在线播放| 99热这只有| 婷婷综合色图| 丝袜人妻| 丁香五月影院| 久久黄A片| 激情五月丁香五月| 黄网在线观看免费| 五月婷在线影院| 涩涩婷婷五月| 婷婷综合亚洲| 91偷拍视频| 激情亚洲婷婷| 操97| 婷婷狠狠综合网入口| 五月丁香啪啪网| 色婷婷小说| 久9久9久9久9久9久9| 天天肏天天肏天天肏| 婷婷激情五月综合| 神马欧美精| 丁香五月婷婷五月天| 五月天激情小说欧美激情| 17.c黄色| 99热这里全都是精品| 欧州色色| 丁香五月天综合| 九九这里有精品| 五月婷婷在线视频观看| 婷婷五月AV| 五月丁香 啪啪| 色狠狠999综合| 超碰二区| 久久婷婷视频| 五月天福利影院导航| 无码视频国内精品久久久| 色网五月婷婷| 很很色丁香久久停停| 免费看片在线观看| 97干网站| 色婷婷丁香五月高清在线| 日本狠狠爽| 亚洲人人干| 狠狠五月天婷婷激情网。| 丁香五月综合在线视频| 99热免费| 婷婷久久五月天| 精品人妻伦九区久久AAA片| 热思思九九| 天天日日| 伊人网大香| 天天日天天添| 丁香五月婷婷88在线| 色爱终和网| 精品久久66| 夜色综合网| 婷婷五月天亚洲| 五月丁香六月婷| 丁香婷婷AV| 99热 在线播放| 成人av播放| 综合欧美五月婷婷| 色色COm| 五月激情站| 色五月综合激情| 大香蕉久久| 青青久在线视频免费观看| 搡BBBB搡BBB搡五十| 色在线免费观看| www久久久久| 婷婷五月丁香综合| 婷婷精品在线| 五月丁香啪综合| 天天色播| 91性人人| 五月深爱婷婷| 少妇搡BBBB搡BBB搡毛茸茸 | 午夜天堂一区人妻| 91丁香| 亚洲精品乱码久久久久久按摩观| 色婷婷激情五月天在线观看| 大香蕉啪啪| 亚洲妇女熟BBW| 亲子乱av一区二区三区的| 亚洲综合网 665566| 免费精品66| 99在线精品免费视频| 9999三级片| 九九人人操| 色欲五月丁香| 东京热免费视频| 婷婷丁香五月天色区| 婷婷五月天久久| 色情成人五月天| www.99操| 日韩人妻无码一区二区| 综合婷婷五月天| 另类小说五月天| 日韩天堂久久| 夜夜www| 五月天婷婷爱| 色婷婷丁香五月| 91免费试看| 婷婷综合欧美| 五月天影院| 欧日韩成人| 亚洲无AV在线中文字幕| 丁香五月婷婷激情尤物| 色五月天综合| 六月婷婷久久| 色天使色综合| 亚洲无码成人网| 九九激情视频| 五月香婷婷| 伊人九九68| 碰超99| 五月婷婷久草在线视频综合| 亚洲人人操| 五月婷婷激情日本| 色婷婷综合网站| 色噜噜综合网| ww久久| 九九色综合视频| 久9热| 五月99久久| 国产片色| 欧美电影在线观看| 噜综合| 9l视频自拍9l九色9l成人| 97色射| 五月婷婷在线丁香| 97精品欧美91久久久久久久| 日韩色色一区| 岛国AV网| 亚洲中文字幕翔田千里| sewuyuejiqingwang| 婷婷金品综合视频| 99久久精品色老| 婷婷成人五月天成人文学小说| 激情99| 综合色图区| 噜噜久| 99ER热精品视频| 色情婷婷| 超碰狠狠操| 婷婷娌伦网| 久久五月激情| 丰滿爆乳一区二区三区| 亚洲婷婷丁香五月视频| 午夜成人片400| sesesesezonghe| 男人天堂99| 五月亭久久无码视频| 米奇影视五月天| 五月香婷婷| 婷婷爱在线观看| 久婷| 婷婷天堂综合| 日本啪啪天堂| 97碰久久| 六月丁香久久| 免费黄色视频网址| 久久机热/这里只有精品| 久久久婷丁香五月天激情综合| 97色色色色色| av电影在线播放| 婷婷激情六月中文| 婷婷色五月综合| 2023天天日夜夜爽| 日韩中文字幕| 99热精品综合| 久久婷婷超碰| 久久精品亚洲一级牲爱综合| 97干在线免费| 丁香五月六月| 熟女啪啪视频| 97人人做| 久操人妻| 婷婷亚洲综合| www·五月天| 青草视频在线播放| 79色色免费| 五婷婷综合网| 性爱视频99| 婷婷成人在线| 丁香五月六月综合激情| 男人天堂99| 五月丁香狠狠爱| 热九九精品| 亚洲AV综合在线观看| www.色五月.com| 色婷婷免费观看| AV电影在线播放| 五月丁香啪啪啪| 色色综合成人网| 婷婷五月在线观看| 99精彩视频在线观看| 日韩一级一片内射视频4K| 九月色婷婷综合| 激情电影五月婷婷| 五月丁香色六月激情干大屄| 五月丁香欧美综合| 婷婷色导航| 天天舔天天摸天天射| 极品人妻VIDEOSSS人妻| 99精品亚洲| 婷婷少妇激情| 激情视频网址| 国产五月婷| 超级碰碰碰久久网站视频| www.婷婷六月天| 丁香婷婷五月六月久久| 五月婷婷色色| 激情五月天激情综合网| 久久与婷婷| 欧美色五月| 国产精品久久久60086| 丁香伊人五月色婷婷五十路| 国产激情AV| 99热欧| 97干在线免费| 九九色精品| 色婷婷五月天天天做| 任你爽在线视频| AVDV久久| 5月婷婷综合| www.99.色| enecarbon-materials.com污K127封锁请涟系@wip1688 | 思思热在线观看| 婷婷五月免费在线| 欧美69久成人做爰视频| 五月草影视| 91狠狠综合网| 影音先锋日本三级资源| 六月色播| www。88热在线视频免费观看| 欧美色必爱| 亚洲视频二区| 情情五月天色| 丁香九月综合激情| 97精品人人A片免费看| 日韩1区2区| 97精品自拍| 无码一区精品一区视频| 99久久婷婷五月综合| 色色色99韩| 91制片厂久久久国产电影| 99狠狠| 五月色情婷婷开心五月色情| 久re热视频| 色婷婷久久| 五月色影院| 婷婷亚洲影院| 丁香狠狠色婷婷久久无码视频| 天天狠狠干| 亚洲AV人人操| A片天天| 天天操无码| 久久久五月激| 婷婷伊人綜合中文字幕| 91九色无码内射| 思思热视频| 开心激情网五月| 久久99热这里只有精品首| 69人人操人人爽| 天天日天天插| 色情五月婷| 五月四色婷婷| 欧美三级欧美一级| 色婷婷AV久久| 婷婷中文字幕| 97操操| 五月丁香六月婷婷在线| 天天日日天天| 六月丁香婷| 婷婷激情四射五月天| 无码成人AAAAA毛片AI换脸| 亚洲成人AV在线播放| 婷婷五月天男人影院色色网| 色欲操| 一本色道久久88加勒比—| 国产精品人成A片一区二区| 97色天堂| 99色色色色| 丁香婷婷丁香五月欧美人| 日本啪啪网| 久久婷婷综合五月| 影音先锋女人AA鲁色资源| 丁香五月激情啪| 人人草人| 噜噜噜精品欧美成人在线观看| 欧美色色色| 久re在线| 精品香蕉99久久久久网站| 丁香色五月天| 天天干天天爽| 欧美成人网99网| 操逼福利视频| 99色在线观看免费| 狠狠爱婷婷爱| 级人人91| 欧州婷婷五月天综合| 天天干天天操天天爽| 99热精品99| 激情五月天色爱| 婷婷五月丁香啪啪| 亚洲色激情| 五月激情婷婷四射| 性爱技巧五月| 美女被操一区二区| 激情五月天。| 男人大jjc女人免费视频| 中文字幕日产A片在线看| 色五月婷婷老师| 五月婷婷日| 五月色亚洲| 激情婷婷色五月| 婷婷伊人五月| 91dy.av| 性小说五月天| 色七色九九| 欧美噜噜免费观看| 五月丁香色婷婷婷基地| 五月色情婷婷开心五月天| 婷婷激情中文综合| 伊人网欧美在线男人天堂五月丁香 | 天天婷婷天天| 五月丁香爱婷婷深深| 日本色图综合| 婷婷在线精品| 就要爱综合| 丁香五月欧美激情| 99啪啪视频| 久久五月视频| 色婷婷五月开心六月综合| 激情五月天婷婷| 九九精品视频免费在线| 色色永久| 色婷婷五月天激情综合| 色五月婷婷DVD| 色五月婷婷成人视频| 婷婷色色狠狠| 日本ww亚洲| 第二色AⅤ| 狠狠人人| 欧美亚洲操逼| 婷婷六月伊人| XX色综合| 久久综合五月天| 色五月综合网| 婷婷色婷婷| 男女啪啪做爰高潮无遮挡| 欧美色综合天天久久综合精品| 精品国产乱码久久久久夜深人妻| 农村熟妇高潮精品A片| 在线中文AV| 激情综合色婷婷啪啪五月天| 99久久超级| 碰人人97| 激情文学第四色婷婷丁香五月| 五月综合丁香婷婷| VA五月激情在线| 天天舔天天插天天爱| 国产VA播放| 色五月天综合| 99热精这里只有精品| 美国天天日天天操| 丁香六月婷婷色XXXXX| 色噜综| 丁香五月婷婷色| 五月天综合在线观看视频| 激情五月丁香婷婷| 婷婷五月色天| 六月婷婷综合网2| 绿色小导航AV| 99热综合| 色情免费视频播放| 国产精品视频| 激情五月天综合网| 黑人巨粗进入警花疼哭A片| 人人操婷婷| 91久久五月天| 国产夫妻操逼内射视频| 深夜激情网| 色综合久久综合中文综合网| 99在线精品免费视频| 成人免费视频一区| 99综合色色色| 深爱五月亚洲| 成人一级片| 成熟妇人A片免费看网站| 久久看九九90| 六月婷婷av| 丁香色播五月天| 久久99热这里只有精品| 亚洲色综合| 九色视频91| 天天日P天天射P| 成人五月天丁香| 丁香桃色综合网| 五月丁花六月丁香综合| 欧美99热| 69综合在线| 亚洲一个色| 国语精品探花| 思思热在线视频精品| 欧美久久久中文字幕| 久久综合激情| 婷婷王月天影院| 99热在线精品观看| 九九九AAA热视频| 久久只有精| 五月天色丁香| 国产精品18久久久| 免费啪啪亚州视频| 色区域网站视频| 国产67194| 日本天堂网站99| 婷婷在线观看五月天在线视频| 色亚洲欧洲| 9久久精品| 人人叉久| 操逼福利视频| 久久久性爱视频| www久视频com| 免费AAAAA网| 丁香六月欧美| www,999日本色| 婷婷五月情| 久久人妻伦理| 成人无码精品1区2区3区免费看| 五月婷婷综合久久| 丁香激情综合| 一本大道伊人AV久久综合| 9191avse| 婷婷五月天电影网| 色婷婷伊人激情在线观看| 色九月| 久色激情| 日韩久久日| 狠狠五月丁香色婷| www久久久| 91丨九色熟女丨首页| WWW.开心五月天.COM| 五月天婷婷成人网| 9l视频自拍九色9l视频自拍九色9l社区| 另类综合网| 99热免费| 中海油常州环保涂料有限公司| 天天狠狠六月婷丁香影院| co超碰在线观看| 色噜噜狠狠色综合伊人| 91色综合| 99啪啪网| 五月婷婷丁香婷婷| 一区二区你懂的| 蜜臀九九九九| 婷婷五月天社区| 异能之下短剧免费观看全集| 色情五月婷| 亚洲AV电影美洲AV电影| 色五月色五天色情网| 精品一区二区三区四区五区六区| 99自拍视频网站| 五月婷婷啪啪| 亚洲人人艹| 婷婷色欧美激情| 琪琪色网在线| 另类小说五月天综合网| 国产又色又爽又黄又免费| 色婷婷婷av | 成人电影一区| WWW久久久| 色99热| 午夜爱爱网站| 九月综合| 狠狠色大香蕉| 操日视频| 96精品久久久久久久久| 婷婷五月丁香欧洲| 激情亚洲婷婷| 日本久久婷婷| 日韩成人无码人妻| 亚洲无码成人| 亚洲 视频 导航 一区| 一操久久| 久久精品系列| 五月天婷婷色色网| 天天操中文字幕| 丁香五月手机在线| 丁香九月婷| 色色五月天激情| 99综合网| 欧美五月丁香在线| 中文字幕网伦射乱中文| 成片免费播放| 99热8| 六月亚洲婷婷6月中文字幕| 69精品人人人人| 五月丁香亭亭成人电影| 色狠狠色噜噜AV天堂五区| 天天天天天操| 99在线资源视频| 翔田千里无码| 日韩三十六页| 色五月激情| 久re热视频| 99久久久免费| 热99精品视频在线观看| 中文字幕日产A片在线看| 激情婷婷另类| 玖玖玖婷婷婷| 日本99在线视频| 亚洲欧美成人在线| 五月婷婷色色| 色的色综合| 丁香激情综合| 99re热视频这里只精品| 大香蕉九九热| 五月婷激情| 五月综合婷婷网| 久久久精品免费啪啪国| 99精品在线观看视频| 日韩在线9| 性爱视频久久| 呦呦视频无码播放| 六月婷婷AV| 亚洲AV中文在线| 另类色视频| 五月丁香婷婷成人网| 天天日天天干天天天| www、丁香五月天| 色色色色网| 激情com| 五月婷婷 婷婷五月 一区二区 久久久| 久久这里只有国产精品视频| 九色视频入口91| 婷婷 色 丁香 夜| 五月香婷婷| 日韩AV中文在线观看| 天天干狠狠| 丁香综合网| 国产欧美日韩综合精品一区二区| 四月婷婷丁香五月| 欧美A级网站| 伊人婷婷福利网| 91人操人人人操人| 99er免费在线观看| AV六月丁香| 色五月在线观看| 天天狠狠色| 色婷婷丁香九月| 九月色婷婷| 天天久综合| 天天爽在线视频| 91久女| 天天日日夜夜| 六月婷婷无码观看| 丁香五月婷婷天堂大香蕉| 99热免费| 五月婷亚洲精品| 亚洲国产色婷婷| 葵花AV在线| 精品乱码久久久久| 天天插AV丝袜中| 大香蕉久久伊人婷婷五月丁香| 婷婷丁香五月天之开心少妇| 激情综合五月| 色婷婷久久综合丁香五月| 99自拍视频网站| 丁香五月婷婷社区| 色五月婷婷中文字幕| 天天干天天叉| 97人人干| 国产综合丁香五月天| 国产精品大香蕉| 色婷婷综合网| 欧洲日韩一区二区三区| 亚洲操精品| www.丁香黄色五月天人与| 色色婷婷五月天| 热思思| 丁香五月天激情婷婷丁香六月| 欧美碰碰碰| www.五月天| 五月天婷综合| 日韩综合大黄| 婷婷丁香色五月亚洲| 人人操人人添人人摸97| 亚洲V国产V欧美V久久久久久| 神马欧美精| 婷婷伊人五月| 丁香五月激情综合在线观看| 成人无码髙潮喷水A片| 五月婷婷插一插| 日狠狠| 狠狠狠狠免费| www.五月激情.com| 婷婷视频在线碰| 少妇被躁爽到高潮无码文| 性爱激情五月| 五月天狠狠色| 婷婷五月天激情小说| 婷婷五月天综合激情| JAPANRCEP老熟妇乱子伦视频| 色色999三级片| 六月色播| 五月婷婷黄色网址| 久久A区B区| 在线成人网站| 91九色精品| 伊人激情综合网| 性爱激情五月| 狠狠爱综合网| 操日视频| 九九精品热| 日逼免费视频 | 国产成人+综合亚洲+天堂| 五月天综合视频网| 一区操| 精品人妻伦九区久久AAA片| 婷婷激情综合| 五月丁香六月婷婷网| 26uuu精品一区二区| 日韩av高清| 再次出发二| 婷婷五月天丁香社区| www.99精品在线| 色狠狠综合入口| 男人的天堂av俄罗斯热| 成人精品一区二区三区四区五区| 99热国产精品| 大天天伊人| 丁香六月久久| 五月天色综合| 狠狠干天天内射| 五月婷婷色影院| 色吊丝av中文字幕| 五月天激情啪啪| 婷婷五月丁香基地| 色婷婷网| www激情五月天| 五月婷婷色播| 久久99最新| 99内射视频| 日日操夜夜爽天天天| A片试看50分钟做受视频| 五月丁香六月婷婷免费| 丁香五月婷婷色综合基地| WwW色婷婷| 人人干99| 色婷婷小说| www.韩日视频| 97色色色色| 丁香六月婷| 亚洲免费观看高清完整版AV线| 神马久久五月天| www.开心激情| 开心五月综合| 欧美情色一区| 丁香五月天天久久综合小说| 五月丁香六月在线欧美| 天天日天天舔| 99热热热99精品婷婷| 五月天综合影院| 六月婷婷开心| 91好好热日本在线| 97干97色| 综合激情视频| 五月婷婷与六月丁香图片激情| 嫩草视频在线观看| 99视频超级精品| 欧美天天五月丁香免费观看| 99国产小视频免费观看| 欧美激情-区二区三区| 无码色| 亚洲成人中文字幕| 六月丁香综合网| 国产精品久久欧美久久一区| 性色欲情 网站| 久久精品9| 免费观看日韩成人av| 五月婷婷先锋| 热99国产精品| 久久久久人妻中文| 五月丁香六月婷婷亚洲| 婷婷色五月色| 天天色99| 色色五月天丁香| 丁香婷婷六月激情综合| 99热超碰| 精品网站:999WWW| 色99热| 婷婷五月成人有| 激情五月黄色| 丁香五婷| 婷婷丁香五月综合激情小说| 日本综合久久| WWW.婷婷五月天.COM| 日本性激情色播| 日本三级日本三级99| 精品导航在线x不卡| 天天色官网| 五月婷婷香| 婷婷激情久久| 99视频内射三四| 99小视频网站| 26uuuavcom| 久久WW| 99精品女人天堂| 99亚洲精品视频| 少妇高潮呻吟A片免费看软件| se色婷婷视频| 亚洲另类av| 伊人婷婷青青cao| 丁香丁香激情网| 五月激情婷婷播播网| www.sezonghe| 任你搞网站| 97色婷婷| 久久久九九视频精品18| 啊V视频在线观看| 99热在线中文字幕| 99综合| 婷婷五月色| 秋霞九九无码| 99热老网站| 99热这里只有精品13| 五月丁香六月综合激情| 99色| 五月丁香婷色| 丁香五月婷婷五月天在线| 六月婷婷九月丁香亚洲综合| 婷色五月天| 图片区 小说区 区 亚洲五月 | 五月亭亭激情综合| 色综合99| 九九热视频在线观看| Aα在线免费观看| 亚洲激情淫网| 五月婷婷在线视频观看| 97色色色色色| 日韩熟女啪啪视频| 五月丁香婷婷基地| 亚州性爱99| 色综合色色色| 2021日韩无码| 激情五月激情综合网一级丸片| 日本色色色| www超碰| 久人操| 丁香五月婷婷激情123| 激情九月综合| 国产av网| 熟女重口味αV| 殴美综合激情五月天免费视频| 亚洲经典三级| 成人网在线视频| 婷婷深爱网| 天天搡日日搡aaaaⅩ| 五月婷婷影院| 久久宗合影| 久久这里只有精品网| 日韩啪啪视频| 美女xx不卡| 五月花成人网| 日韩亚洲视频| 欧美日韩精品一区二区三区钱| 秋霞午夜理论| 伊人五月婷婷| 色级婷婷| 69婷婷丁香午夜| 婷婷激情五月| 天天干天天操天天射| 五月丁香六月婷婷手机无线| 久久久婷婷婷| 久久机热探花| 色五月六月婷婷| 六月婷婷五月丁香| 欧美色图天堂网色| 丁香五月开心婷婷| 成人无码精品1区2区3区免费看| 人人干99| 六月丁香VA| 婷婷97狠狠成人网站| 色情五月综合婷婷| 老司机伊人| 熟惀91九色在线| 五月婷婷黄色| 五月丁香亚洲综合| 狠狠干.com| 丁香 婷婷五月| 性爱视频99| 9人人操人人看| 天天日综合| 丁香五月亚洲综合| www,色中色| 婷婷99狠狠| 久久狠狠欧美| 狠狠色噜噜狠狠| 手机在线视频观看9| 人人看人人要| 亚州美女| 五月婷婷开心深| 色丁香五月| 亚洲AV成人片无码网站| xx久久| 玖玖婷婷色| 开心深爱激情网| 六月丁香AV| 天天日,夜夜爽| 激情五月天综合网| 亚洲区,视频区,视频区免费| 草草操操| 久久久99日本大片| 五月婷婷五月丁香| 久久久久五月丁香| 五月情婷婷| 色婷婷小视频| 九九久久视频| 日韩熟女啪啪视频| 亚洲性爱日韩无码| 久久大香蕉丁香| 五月丁香 六月婷婷a| 婷婷五月天基地| 99久久免费性爱视频`| 亚洲乱码在线观看| 另类视屏| 67194中文字幕| 丁香五月婷婷偷拍| 97婷婷丁香| 色狠狠综合网| 99热亚洲精品| 淫视馆AV在线| 国产免费AV网站| 中文无码婷婷| www.色婷婷| 丁香五月大香蕉| 色五月av| 九九视频这里是精品五月| 丁香六月激情| 丁香六月开心| 婷婷综合网| 小视频aaa久久久| 极品人妻VIDEOSSS人妻| 综合五月亭亭9| 国产看真人毛片爱做A片| 69er小视频| 久久久久9久无码视频| 色婷婷五月中文字幕在线dvd| 伊人影院久久网| 色婷婷五月天在线观看| 色九九丁香九月色九九色| site:pnnrt.com| 五月婷婷黄| 思思99久久| 九九激情网| 婷婷深爱五月| 狠狠色综合777| 波多婷婷久久| 综合图片色色| 五月天久久综合| 99热网站| 天天爱天天做天天舔| 六月五月天婷婷涩播在线| 久久成人人妻| 91视频人人做97| 色色综合激情| 99久在线精品99re5热视频| 色欲av伊人久久大香线蕉影院 | 99热精品综合| 欧美大片免费观看| 涩涩网五月天| 97超级碰| 天天插天天日| Av大香蕉| 男男野外做爰全过程69| 丁香六月无码播放| 丁香色影院| 性一交一乱一交A片久久四色| 好吊操这里只有精品| 亚洲综合色婷| 色婷婷五月天在线观看| 五月天色色婷婷| 久久久久人妻精品| 五月丁香婷婷人体| 97超级碰碰碰| 九九色热| 六月丁香激情综合| 日韩在线观看亚洲| 激情婷婷六月天| 亚洲成人乱码av网站| www.久久婷婷| 五月丁香婷婷基地| 思思热在线视频观看精品| AV中文网| 激情九九六月激情免费视频| 狠狠色丁香久久久婷| 色色色九九九五月婷婷| av在线免费网站| 色五月天.con| 久热re视频在线观看网站| 色噜噜97视频在线观看| 99爱免费在线观看| 欧美日韩精品一区二区三区钱| 五月天激情四射| 亚洲 小说 欧美 激情 另类| 日韩三级视频一区二区| 婷婷五月综激情| 天天婷婷天天| 激情熟女网| 九月色婷婷| 色青青视频| 婷婷激情综合色五月久久图片| 另类天堂| 天天爽夜爽| 丁香婷婷五月天色综合| 日本欧美啪啪| 色婷婷六月天| 狠狠色综合五月| 成人短视频在线| 亚洲av电影网站| 综合婷婷| 丁香婷婷综合激情五月色| 亚洲av成人在线| 乱精品一区字幕二区| 色噜噜狠噜噜视频| 丰满少妇猛烈A片免费看观看 | AAA久久久| 婷婷五月天小说| 五月综合婷婷久久在线| 99久久99久久| 亚洲日韩操B| 色色激情网| 日韩乱玛久久| 色一情一乱一乱一区91Av| 久久人视频| 超pen个人视频97| 五月婷婷中文字幕| 五月婷婷久草在线视频综合| 思恩热国产视频右线观看| 91在线看片| 双性美人被调教到喷水A片| 色五月天成人| 婷婷丁香一月| 亚洲sesesese| 99热亚洲综合| www.9操| 五月婷婷丁香大陆免费| 婷婷丁香激情| 婷婷丁香77777| 9久久久久久久久久久| www,setingting| 五月色网| 五月天停婷基地| 婷婷涩五月天综合| 九九99在线观看视频| 日本视频欧美观看免费| 欧美亚洲色色色色| 99在线观看精品视频| 婷婷五月天激情电影小说| 99热这只有| 婷婷亚洲久久| 九九婷| 91久久婷婷| 亚洲不卡| 激情五月天激情五月天| 狠狠999| 亚洲色精彩| 国产精品成人AV在线| 超级97碰碰| 婷婷中合| 婷婷综合五月天| 婷婷亚洲天堂| 日韩成人综合网| 五月天播播综合| 婷婷丁香在线| 婷婷的色色五月天| 去色色五月天| 99色人| 婷婷中文字幕| 婷婷五月影院| 色色五月天婷婷| 五月天婷婷色色网| 五月丁香色六月激情干大屄| 天天天摸夜夜夜玩| 激情综合五月色在线| 九九这里只有精品在线视频| 婷婷五月色综合| 亚洲AV第二区国产精品| 99热久97| 人操人| 丁香五月婷婷高清| 亚洲色图五月丁香五月婷婷| 日韩啪啪视频| 天天操天天干天天日| 久久综合五月| www,色婷婷| 午夜九九九九九九九九九九九九九| 色五月激情网| 激情婷婷五月基地| 六月婷婷亚洲| 色狠狠综合| 人人摸人人干人人做| 色婷婷丁香中文在线播放| 婷婷五月天亚洲精品| 天天免费日日夜夜夜夜|