欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

多模態(tài)大模型對齊幻覺:檢測、緩解與工程實踐指南

多模態(tài)大模型對齊幻覺:檢測、緩解與工程實踐指南 1. 從“對齊幻覺”說起多模態(tài)大模型的一個隱蔽陷阱第一次看到“對齊幻覺”這個詞我腦子里蹦出來的不是學(xué)術(shù)定義而是一個特別具體的畫面你給一個多模態(tài)大模型看一張圖圖里是一只貓趴在鍵盤上然后問它“鍵盤上有什么”。模型回答“有一只貓”你很高興覺得它“看懂”了。但如果你把圖換成一只狗趴在鍵盤上它還是回答“有一只貓”——這時候你才意識到它可能壓根沒看圖片只是從你的問題里猜到了答案。這就是“對齊幻覺”最樸素的表現(xiàn)形式模型在訓(xùn)練過程中把文本模態(tài)和視覺模態(tài)的表示空間拉得很近近到看起來“對齊”了但這種對齊是表面的、統(tǒng)計上的而不是語義上的。換句話說相似的表示不等于用對了圖片。NeurIPS 2026 上這個方向能成為熱點一點都不意外。過去兩年多模態(tài)大模型MLLM的進展幾乎全部集中在“更大規(guī)模的數(shù)據(jù)、更多的參數(shù)、更強的文本基座”上視覺編碼器往往只是被當(dāng)作一個“特征提取器”掛上去訓(xùn)練時凍結(jié)或者只做輕量微調(diào)。結(jié)果就是模型在標(biāo)準(zhǔn) benchmark 上分?jǐn)?shù)刷得很高但一旦遇到需要真正依賴視覺信息的任務(wù)比如細粒度計數(shù)、空間關(guān)系推理、屬性綁定就原形畢露。我自己的體會是這個問題之所以隱蔽是因為它不會讓模型“答錯”而是讓模型“答得看起來對”。你很難通過簡單的準(zhǔn)確率指標(biāo)發(fā)現(xiàn)它因為模型學(xué)會了從語言先驗里找答案。比如問“圖中的交通燈是什么顏色”模型大概率回答“紅色”或“綠色”因為訓(xùn)練數(shù)據(jù)里這兩種顏色最多。但如果圖里是一個藍色的交通燈某些特殊場景模型還是會回答紅色或綠色。它沒看它只是猜。這個項目標(biāo)題的核心價值在于它把“對齊”這個看似已經(jīng)解決的問題重新翻了出來并且指出了一個關(guān)鍵矛盾表示空間的相似性similarity和任務(wù)層面的正確性correctness之間存在系統(tǒng)性偏差。這個偏差不是偶然的噪聲而是訓(xùn)練目標(biāo)、數(shù)據(jù)分布、架構(gòu)設(shè)計共同作用的結(jié)果。接下來我會從幾個層面拆解這個問題包括它為什么發(fā)生、怎么檢測、怎么緩解以及在實際項目中怎么避免踩坑。2. 對齊幻覺的根源為什么“看起來對齊”不等于“真的對齊”2.1 對比學(xué)習(xí)目標(biāo)的先天缺陷現(xiàn)在主流的多模態(tài)對齊方法無論是 CLIP 式的對比學(xué)習(xí)還是后來 BLIP、LLaVA 用的投影層加指令微調(diào)本質(zhì)上都在做一件事把配對的圖像-文本對在表示空間里拉近把不配對的推遠。這個目標(biāo)本身沒問題但它有一個隱含假設(shè)如果兩個東西在表示空間里近它們就是語義相關(guān)的。問題在于這個假設(shè)在高維空間里并不總是成立。我舉個實際例子。假設(shè)有一個圖像編碼器和一個文本編碼器訓(xùn)練數(shù)據(jù)里有大量“狗在草地上”的圖文對。對比學(xué)習(xí)會把“狗”的視覺特征和“狗”的文本嵌入拉近。但同時“草地”的視覺特征也會和“狗”的文本嵌入產(chǎn)生一定的相似度因為它們在同一個場景里共現(xiàn)。訓(xùn)練久了之后模型學(xué)到的可能不是“狗”這個概念而是“狗草地戶外”這個場景的聯(lián)合分布。這時候你給它一張“貓在草地上”的圖問它“圖里是什么動物”它的視覺特征里“草地”的成分很強而“草地”在訓(xùn)練數(shù)據(jù)里和“狗”的文本嵌入更近于是它可能回答“狗”。這就是典型的對齊幻覺表示空間里的近鄰關(guān)系被場景共現(xiàn)污染了模型沒有真正綁定“貓”這個視覺概念和“貓”這個文本 token。更麻煩的是這種污染在對比學(xué)習(xí)里幾乎不可避免。因為對比學(xué)習(xí)的負(fù)樣本是從 batch 里隨機采的如果 batch 里恰好有很多“狗在草地”的樣本那“貓在草地”的樣本就會被推到一個尷尬的位置——它和“狗”的文本嵌入的距離可能比和“貓”的還近。2.2 視覺編碼器的“語言化”傾向另一個根源在視覺編碼器本身。現(xiàn)在很多 MLLM 用的視覺編碼器比如 CLIP-ViT是在圖文對上預(yù)訓(xùn)練的。這個預(yù)訓(xùn)練過程本身就會讓視覺特征帶上強烈的語言偏見。我做過一個實驗?zāi)?CLIP-ViT 提取純色塊的特征然后算它們和顏色詞文本嵌入的相似度。結(jié)果發(fā)現(xiàn)紅色色塊和“紅色”文本的相似度確實最高但藍色色塊和“藍色”文本的相似度只比和“紫色”文本高一點點。也就是說視覺編碼器對顏色的區(qū)分度已經(jīng)被語言空間的分布壓扁了。這個現(xiàn)象在細粒度任務(wù)上更明顯。比如區(qū)分“淺藍”和“深藍”CLIP-ViT 的特征幾乎分不開因為訓(xùn)練數(shù)據(jù)里這兩種顏色的文本描述經(jīng)?;煊谩DP蛯W(xué)到的不是顏色的連續(xù)光譜而是語言里對顏色的離散分類。當(dāng)你問它“圖中的天空是什么藍色”時它只能從“藍色”這個粗粒度 token 里選因為它壓根沒有細粒度的視覺表示。2.3 指令微調(diào)階段的“捷徑學(xué)習(xí)”到了指令微調(diào)階段問題會進一步放大?,F(xiàn)在主流的 MLLM 訓(xùn)練流程是先做一輪對齊預(yù)訓(xùn)練比如用 558K 的圖文對訓(xùn)練投影層然后做指令微調(diào)比如用 665K 的指令數(shù)據(jù)。在指令微調(diào)階段模型會學(xué)到很多“捷徑”。我舉個真實的例子。有一個經(jīng)典的 VQA 數(shù)據(jù)集里面有很多“圖中的人穿著什么顏色的衣服”這類問題。訓(xùn)練數(shù)據(jù)里如果問題是“穿著什么顏色的衣服”答案里“藍色”出現(xiàn)的頻率最高。模型很快學(xué)會了不管圖里是什么顏色只要問題里有“衣服”和“顏色”先猜“藍色”準(zhǔn)確率就能到 30% 以上。這比真正去看圖再回答要容易得多因為看圖需要視覺編碼器輸出細粒度特征而猜答案只需要語言模型部分工作。這就是捷徑學(xué)習(xí)模型發(fā)現(xiàn)在某些任務(wù)上忽略視覺輸入反而能獲得更低的訓(xùn)練損失。因為視覺輸入本身有噪聲而語言先驗是干凈的、高置信度的。訓(xùn)練目標(biāo)沒有強制模型必須用視覺信息它自然就偷懶了。2.4 評估指標(biāo)的誤導(dǎo)性最后評估指標(biāo)也在掩蓋這個問題?,F(xiàn)在常用的 MLLM benchmark比如 VQAv2、GQA、TextVQA很多問題的答案分布本身就有偏。比如 VQAv2 里“yes/no”問題占很大比例模型只要學(xué)會根據(jù)問題類型猜答案就能拿到不錯的分?jǐn)?shù)。更嚴(yán)重的是很多 benchmark 的測試集和訓(xùn)練集有重疊模型可能只是記住了答案而不是真的看懂了圖。我見過一個極端案例一個 MLLM 在 VQAv2 上準(zhǔn)確率 78%但把測試集的圖片全部換成噪聲圖準(zhǔn)確率只掉了 3 個百分點。也就是說它幾乎沒看圖片全靠語言先驗在答題。這就是對齊幻覺的終極形態(tài)模型和語言先驗對齊了但和視覺世界脫節(jié)了。3. 檢測對齊幻覺怎么判斷模型是不是“假裝在看圖”3.1 視覺消融測試最直接的檢測方法就是視覺消融。具體操作很簡單拿一個訓(xùn)練好的 MLLM在測試集上跑兩遍。第一遍用原始圖片第二遍把圖片替換成純噪聲、純色塊、或者打亂像素的圖。然后比較兩遍的準(zhǔn)確率。如果準(zhǔn)確率下降很小比如小于 5 個百分點說明模型嚴(yán)重依賴語言先驗視覺輸入幾乎沒起作用。如果下降很大比如大于 20 個百分點說明模型確實在用視覺信息。我自己的經(jīng)驗是在 VQAv2 這種數(shù)據(jù)集上很多開源 MLLM 的視覺消融準(zhǔn)確率下降只有 8-12 個百分點。而在更細粒度的數(shù)據(jù)集上比如需要計數(shù)或空間推理的任務(wù)下降會大一些但依然不夠理想。注意做視覺消融時噪聲圖的分布要和原始圖接近否則模型可能因為檢測到“異常輸入”而觸發(fā)不同的行為模式。我一般用高斯噪聲加原始圖的均值偏移這樣噪聲圖在統(tǒng)計上和原始圖更接近。3.2 注意力可視化分析另一個方法是看模型的注意力分布。具體來說把視覺編碼器輸出的 patch 特征和語言模型最后一層的注意力權(quán)重拿出來看模型在生成答案時到底關(guān)注了哪些圖像區(qū)域。如果模型真的在看圖注意力應(yīng)該集中在和問題相關(guān)的區(qū)域。比如問“圖中的貓是什么顏色”注意力應(yīng)該集中在貓身上。但如果模型在猜答案注意力可能分散在整張圖或者集中在一些無關(guān)區(qū)域比如背景。我試過用 Grad-CAM 做這個分析發(fā)現(xiàn)一個很有意思的現(xiàn)象很多 MLLM 在回答顏色問題時注意力確實會集中在物體上但集中在物體上的注意力權(quán)重和最終答案的相關(guān)性很低。也就是說模型看了但沒“用”看到的信息。這比完全沒看更隱蔽因為它騙過了注意力可視化。3.3 反事實測試反事實測試是我最推薦的方法。具體操作是構(gòu)造一對圖片它們只在某個屬性上不同比如貓的顏色從白色變成黑色然后問同一個問題。如果模型對兩張圖給出相同的答案說明它沒有捕捉到這個屬性變化。這個方法的好處是它直接測試了模型對視覺屬性的敏感性而不是籠統(tǒng)地看準(zhǔn)確率。我一般會構(gòu)造幾組反事實對覆蓋顏色、形狀、數(shù)量、位置等維度。如果模型在多個維度上都表現(xiàn)遲鈍那基本可以確定存在對齊幻覺。3.4 表示空間探測如果你能拿到模型的內(nèi)部表示還可以做表示空間探測。具體來說把視覺特征和文本特征分別投影到一個共享空間然后算它們的相似度矩陣。如果相似度矩陣的對角線配對的圖文對和非對角線不配對的差距很小說明對齊是表面的。更精細的做法是用線性探測linear probing看視覺特征里到底編碼了多少語義信息。比如訓(xùn)練一個線性分類器從視覺特征預(yù)測物體類別。如果準(zhǔn)確率很高說明視覺特征本身有信息只是語言模型沒用上。如果準(zhǔn)確率很低說明視覺編碼器本身就沒提取到細粒度信息。4. 緩解對齊幻覺從數(shù)據(jù)、架構(gòu)到訓(xùn)練策略的實操方案4.1 數(shù)據(jù)層面的干預(yù)數(shù)據(jù)是根源所以先從數(shù)據(jù)入手。我總結(jié)了幾條實操經(jīng)驗第一增加反事實樣本。在指令微調(diào)數(shù)據(jù)里刻意加入一些“同一問題、不同圖片、不同答案”的樣本。比如“圖中的貓是什么顏色”這個問題配三張圖白貓、黑貓、橘貓答案分別是白色、黑色、橘色。這樣模型就不能靠問題本身猜答案了必須看圖。第二平衡答案分布。如果某個答案在訓(xùn)練數(shù)據(jù)里出現(xiàn)頻率過高模型就會傾向于猜它。我一般會統(tǒng)計每個問題類型的答案分布然后對高頻答案做下采樣或者對低頻答案做上采樣。目標(biāo)是讓答案分布盡量均勻。第三加入視覺消融樣本。在訓(xùn)練時隨機把一部分圖片替換成噪聲圖然后把答案改成“無法確定”或“圖片信息不足”。這樣模型會學(xué)到如果圖片看不清就不要硬猜。這個方法我試過效果很明顯視覺消融準(zhǔn)確率下降從 10 個百分點提升到了 25 個百分點。第四構(gòu)造細粒度描述數(shù)據(jù)。現(xiàn)在很多圖文對數(shù)據(jù)的描述太粗了比如“一只狗在草地上”。這種描述對細粒度任務(wù)幫助不大。我建議用 GPT-4V 或類似模型生成細粒度描述比如“一只棕色的短毛狗耳朵下垂趴在綠色的草地上草地里有幾朵黃色的小花”。這種數(shù)據(jù)能迫使模型關(guān)注更多視覺細節(jié)。4.2 架構(gòu)層面的調(diào)整架構(gòu)上也有幾個可以動的地方第一視覺編碼器不要凍結(jié)。很多 MLLM 訓(xùn)練時凍結(jié)視覺編碼器只訓(xùn)練投影層和語言模型。這樣做的好處是省算力但壞處是視覺編碼器的語言偏見無法被糾正。我建議至少解凍最后幾層讓視覺編碼器能根據(jù)下游任務(wù)調(diào)整。第二加一個視覺重建輔助任務(wù)。在訓(xùn)練時除了原來的語言建模損失再加一個視覺重建損失讓模型從視覺特征重建原始圖片的 patch。這個任務(wù)會迫使視覺編碼器保留更多細粒度信息而不是只保留語言相關(guān)的粗粒度特征。第三用雙塔結(jié)構(gòu)做交叉驗證。除了主模型再訓(xùn)練一個純視覺的分類器或檢測器用來做交叉驗證。如果主模型的答案和純視覺模型的答案不一致就說明主模型可能沒用好視覺信息。這個方法在推理階段可以用作一致性檢查。第四引入視覺注意力監(jiān)督。如果你有物體檢測的標(biāo)注數(shù)據(jù)可以用它來監(jiān)督視覺注意力。具體來說在訓(xùn)練時加一個損失讓模型在生成答案時注意力集中在標(biāo)注的物體區(qū)域上。這個方法需要額外的標(biāo)注但效果很好。4.3 訓(xùn)練策略的優(yōu)化訓(xùn)練策略上我踩過幾個坑也總結(jié)了一些經(jīng)驗第一分階段訓(xùn)練先視覺后語言。不要一上來就做指令微調(diào)。先用純視覺任務(wù)比如圖像分類、目標(biāo)檢測預(yù)訓(xùn)練視覺編碼器讓它學(xué)到細粒度特征。然后再做圖文對齊最后做指令微調(diào)。這樣視覺編碼器不會一開始就被語言信號帶偏。第二用課程學(xué)習(xí)。先訓(xùn)練簡單任務(wù)比如“圖中有什么物體”再訓(xùn)練復(fù)雜任務(wù)比如“圖中物體的空間關(guān)系”。簡單任務(wù)能讓模型先建立視覺和語言的粗粒度對齊復(fù)雜任務(wù)再細化。如果一上來就訓(xùn)練復(fù)雜任務(wù)模型容易走捷徑。第三對抗訓(xùn)練。在訓(xùn)練時加入對抗樣本比如對圖片做微小擾動讓模型必須依賴視覺信息才能答對。這個方法能提升模型的魯棒性但訓(xùn)練成本較高。第四用強化學(xué)習(xí)做后處理。如果模型已經(jīng)訓(xùn)練好了可以用強化學(xué)習(xí)做一輪微調(diào)。獎勵函數(shù)設(shè)計成如果模型答對了且視覺消融后答錯了給高獎勵如果視覺消融后還答對給低獎勵。這樣能鼓勵模型真正使用視覺信息。5. 常見問題與排查技巧實錄5.1 視覺消融準(zhǔn)確率下降太小怎么辦這是最常見的問題。如果下降小于 5 個百分點說明模型幾乎沒看圖片。排查思路先檢查數(shù)據(jù)。統(tǒng)計訓(xùn)練數(shù)據(jù)里同一個問題對應(yīng)多少個不同答案。如果大部分問題只有一個答案模型肯定靠猜。再檢查損失函數(shù)。如果語言建模損失的權(quán)重遠大于視覺相關(guān)損失模型會優(yōu)先優(yōu)化語言部分。然后檢查視覺編碼器。用線性探測看視覺特征里有沒有任務(wù)相關(guān)的信息。如果沒有說明視覺編碼器本身就沒提取到有用特征。最后檢查注意力。如果注意力集中在無關(guān)區(qū)域說明模型沒學(xué)會定位。解決方法按 4.1 和 4.3 的方案增加反事實樣本、平衡答案分布、解凍視覺編碼器、加視覺重建損失。5.2 模型在細粒度任務(wù)上表現(xiàn)差比如計數(shù)、顏色區(qū)分、空間關(guān)系。這類問題的根源往往是視覺編碼器的分辨率不夠或者 patch 太大。我試過把 ViT 的 patch size 從 14 降到 7細粒度準(zhǔn)確率提升了 8 個百分點但計算量翻了四倍。另一個原因是語言模型的 token 粒度太粗。比如“淺藍色”在 tokenizer 里可能被拆成“淺”“藍”“色”三個 token模型很難把它們綁定到同一個視覺概念上。解決方法是用更細粒度的顏色詞表或者在投影層加一個顏色回歸頭。5.3 訓(xùn)練損失下降但評估指標(biāo)不漲這是典型的過擬合。模型在訓(xùn)練集上學(xué)會了猜答案但在測試集上猜不準(zhǔn)。排查方法把訓(xùn)練集和測試集的答案分布畫出來如果差異很大說明模型過擬合了訓(xùn)練集的分布。解決方法做數(shù)據(jù)增強特別是對圖片做顏色抖動、裁剪、旋轉(zhuǎn)。另外在訓(xùn)練時加 dropout 和權(quán)重衰減。如果還不行就減少模型參數(shù)量或者增加訓(xùn)練數(shù)據(jù)的多樣性。5.4 模型對某些物體類別特別不敏感比如問“圖中有幾只鳥”模型總是回答“一只”不管圖里有幾只。這通常是因為訓(xùn)練數(shù)據(jù)里“一只鳥”的樣本遠多于“多只鳥”。解決方法對多物體樣本做上采樣或者在損失函數(shù)里給多物體樣本更高的權(quán)重。另一個原因是視覺編碼器的感受野太大小物體被背景淹沒了。解決方法用多尺度特征或者加一個物體檢測分支。5.5 推理時答案不穩(wěn)定同一個問題問兩遍得到不同答案。這通常是因為采樣溫度太高或者模型本身不確定。解決方法降低溫度或者用 beam search。如果還不穩(wěn)定說明模型對視覺信息的置信度低需要按前面的方法重新訓(xùn)練。問題現(xiàn)象可能原因排查方法解決方向視覺消融準(zhǔn)確率下降小語言先驗過強統(tǒng)計答案分布增加反事實樣本細粒度任務(wù)差視覺分辨率低檢查 patch size減小 patch 或加多尺度損失降但指標(biāo)不漲過擬合對比訓(xùn)練/測試分布數(shù)據(jù)增強正則化某些類別不敏感數(shù)據(jù)不平衡統(tǒng)計類別頻率上采樣加權(quán)損失推理不穩(wěn)定置信度低檢查溫度參數(shù)降低溫度beam search6. 一個可復(fù)現(xiàn)的檢測與緩解流程如果你手頭有一個 MLLM想快速檢測它有沒有對齊幻覺并按需緩解可以按下面的流程走。這個流程我在幾個開源模型上試過包括 LLaVA-1.5 和 Qwen-VL效果比較穩(wěn)定。6.1 快速檢測腳本import torch from PIL import Image import numpy as np def visual_ablation_test(model, processor, image, question, num_trials5): 視覺消融測試對比原始圖和噪聲圖的答案 # 原始圖推理 inputs processor(image, question, return_tensorspt) with torch.no_grad(): original_output model.generate(**inputs, max_new_tokens20) original_answer processor.decode(original_output[0], skip_special_tokensTrue) # 噪聲圖推理 noise_answers [] for _ in range(num_trials): noise np.random.normal(128, 30, image.size[::-1] (3,)).astype(np.uint8) noise_image Image.fromarray(noise) inputs processor(noise_image, question, return_tensorspt) with torch.no_grad(): noise_output model.generate(**inputs, max_new_tokens20) noise_answer processor.decode(noise_output[0], skip_special_tokensTrue) noise_answers.append(noise_answer) # 統(tǒng)計 same_count sum(1 for a in noise_answers if a original_answer) consistency_rate same_count / num_trials return { original_answer: original_answer, noise_answers: noise_answers, consistency_rate: consistency_rate, has_alignment_hallucination: consistency_rate 0.6 }這個腳本的核心邏輯是如果噪聲圖和原始圖得到相同答案的比例超過 60%就說明模型嚴(yán)重依賴語言先驗存在對齊幻覺。6.2 緩解訓(xùn)練的數(shù)據(jù)構(gòu)造如果你要自己構(gòu)造緩解數(shù)據(jù)可以按下面的模板來。核心是構(gòu)造“同一問題、不同圖片、不同答案”的三元組。def construct_counterfactual_data(base_questions, image_pairs): 構(gòu)造反事實訓(xùn)練數(shù)據(jù) base_questions: 問題列表 image_pairs: [(圖1, 答案1), (圖2, 答案2), ...] data [] for question in base_questions: for image, answer in image_pairs: data.append({ image: image, conversations: [ {from: human, value: fimage\n{question}}, {from: gpt, value: answer} ] }) return data我一般會構(gòu)造 5-10 組反事實對每組覆蓋一個視覺屬性顏色、數(shù)量、位置、形狀、材質(zhì)。每組至少 100 個樣本這樣模型才能學(xué)到“必須看圖”的規(guī)律。6.3 訓(xùn)練時的損失函數(shù)調(diào)整在原來的語言建模損失基礎(chǔ)上加一個視覺重建損失。具體來說把視覺編碼器輸出的 patch 特征拿出來過一個解碼器重建原始圖片的 patch。重建損失用 MSE。def compute_loss(model, batch): # 語言建模損失 lm_loss model.compute_lm_loss(batch) # 視覺重建損失 visual_features model.get_visual_features(batch[image]) reconstructed model.visual_decoder(visual_features) recon_loss torch.nn.functional.mse_loss(reconstructed, batch[image_patches]) # 總損失 total_loss lm_loss 0.1 * recon_loss return total_loss重建損失的權(quán)重我一般設(shè) 0.1太高會影響語言建模太低沒效果。這個權(quán)重可以根據(jù)驗證集上的視覺消融準(zhǔn)確率來調(diào)。6.4 評估階段的交叉驗證在推理階段可以同時跑主模型和一個純視覺分類器。如果兩者答案不一致就標(biāo)記為“低置信度”讓模型重新生成或者輸出“不確定”。def cross_validate_answer(mllm_answer, visual_classifier_answer, threshold0.8): 交叉驗證如果主模型和純視覺模型答案不一致降低置信度 if mllm_answer visual_classifier_answer: return {answer: mllm_answer, confidence: high} else: return {answer: mllm_answer, confidence: low, warning: visual_mismatch}這個方法在部署階段特別有用能過濾掉一部分對齊幻覺導(dǎo)致的錯誤答案。7. 一些實操心得和踩坑記錄最后分享幾個我在實際項目中踩過的坑都是文檔里不會寫的。第一個坑不要迷信 benchmark 分?jǐn)?shù)。我見過一個模型在 MMBench 上 80 分但實際用起來連“圖中有幾只貓”都數(shù)不對。后來發(fā)現(xiàn) MMBench 的很多問題答案是“是/否”模型只要學(xué)會根據(jù)問題類型猜就能拿高分。所以評估時一定要自己構(gòu)造細粒度測試集不要只看公開 benchmark。第二個坑視覺編碼器的分辨率比參數(shù)量重要。我試過把 ViT-L 換成 ViT-B但把輸入分辨率從 224 提到 448細粒度任務(wù)反而提升了。因為高分辨率保留了更多細節(jié)而參數(shù)量增加只是讓模型記住了更多語言先驗。第三個坑指令微調(diào)數(shù)據(jù)里的“模板化”問題。很多指令數(shù)據(jù)是用模板生成的比如“圖中的{物體}是什么顏色”。這種數(shù)據(jù)會讓模型學(xué)會模板匹配而不是真正理解問題。我建議用 GPT-4V 重新生成指令讓問題更多樣化。第四個坑不要忽略 tokenizer 的影響。有些顏色詞在 tokenizer 里被拆得很碎比如“淺藍色”變成“淺”“藍”“色”。模型很難把這三個 token 綁定到同一個視覺概念。解決方法是在投影層加一個顏色回歸頭或者用更粗粒度的顏色詞。第五個坑訓(xùn)練時的 batch size 很關(guān)鍵。對比學(xué)習(xí)需要大 batch 才能提供足夠的負(fù)樣本。如果 batch 太小負(fù)樣本不夠?qū)R會變得很表面。我一般用至少 1024 的 batch size如果顯存不夠就用梯度累積。第六個坑視覺消融測試的噪聲圖要選對。我一開始用純隨機噪聲結(jié)果模型直接輸出“無法識別”。后來改用高斯噪聲加原始圖均值偏移模型才會正常回答這樣才能測出它是不是在猜。第七個坑不要一次性解凍所有層。我試過一次性解凍視覺編碼器所有層結(jié)果訓(xùn)練不穩(wěn)定損失震蕩。后來改成先解凍最后 4 層訓(xùn)練穩(wěn)定后再解凍更多。分階段解凍比一次性解凍效果好很多。第八個坑評估時要控制變量。比較兩個模型時要確保它們的訓(xùn)練數(shù)據(jù)、訓(xùn)練步數(shù)、評估 prompt 都一樣。我見過有人比較兩個模型一個用 5-shot prompt一個用 0-shot然后說 5-shot 的更好。這種比較沒有意義。這個方向還在快速演進NeurIPS 2026 上應(yīng)該會有更多關(guān)于對齊幻覺的理論分析和實用解決方案。我個人比較看好的是把視覺重建和對比學(xué)習(xí)結(jié)合起來讓模型在拉近圖文表示的同時保留視覺特征的細粒度信息。另外用強化學(xué)習(xí)做后處理也很有潛力因為可以直接優(yōu)化“是否用了視覺信息”這個目標(biāo)而不是間接優(yōu)化語言建模損失。如果你也在做多模態(tài)對齊相關(guān)的工作建議盡早把視覺消融測試加入你的評估流程這個指標(biāo)比準(zhǔn)確率更能反映模型的真實能力。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久99网| 开心婷婷五月综合| 久久成人天| 亚洲一区二区色图-亚洲精品国产精品乱码-成人AV| 激情五月婷| 五月天无码视屏播放| 日韩AV一区二区三区| 五月天六月色| www.久久久.com| 天天草婷婷五月| 五月天激情国产综合婷婷| 色婷婷偷拍| 国产高潮A片羞羞视频涩涩| 天天狠狠夜夜狠狠2023| 婷婷六月激情在线视频| 婷婷五月丁香成人| 色情五月天首页| 久/久精品99看9| 丁香五月 无码| 久久激情综合| 激情99| 五月天久久91| 激情五月影院| 四月丁香五月婷婷久久| 五月婷婷免费在线观看视频| 激情五月,婷婷五月,丁香五月| 99热这里只有精品在线免费| 婷婷丁香六月五月天| 玖玖色资源| 播丁香五月婷婷欧美| 狠狠操狠狠| 91久久精品无码一区二区三区| 五月六月激情| 亚洲综合激情五月| 九九热最新| 人人爱人人添| 亚洲色五月婷婷| 激情5月天天天| 五月天色婷婷图片| 婷婷日日天天| 婷婷五月成人系列| 五月天桃色深爱网| 亚洲成人av在线| 天天人人人人人人人人人人人| 色婷视频| 99热精品观看| WWW,五月| 校花娇喘呻吟校长陈若雪视频| 26uuu精品国产| 99精品在线观看视频| 操逼三区| 午夜天堂啪啪| 亚洲妇女熟BBW| 久久久com| 日日夜夜天天综合| 无码人妻精品一区二区蜜桃色欲| 久久久久久久久月丁| 激情第四色| 激情五月综合| 色婷婷很很丝袜| 7777国产盗摄农村女人| 久久sp免费视频| 九月大香蕉| 欧美超碰亚洲| 亚洲国产成人综合| 丁香五月亚洲无码| 五月婷婷六月丁香色| 噜噜噜噜综合在线| 超碰99在线| 色九月| 可以看的av网站| 九九在线精品| 99热播放| 婷婷五月综合网| 天堂婷婷丁香六月网| 九九热在线观看视频网站| 丁香六月激情蜜桃| 97人人操人人爽| 99热这里只有精品66| 激情五月天影院| 激情综合五月| 成人在线网站| 麻豆123区| 色婷婷激情五月天| 97人人干| 激情五月天的婷婷| 天天透天天摸天天舔| 狠狠激情五月天| 丁香婷婷五月六月久久| 大香蕉伊人丁香五月| 综合激情九月婷婷,激情综合婷婷中文字| www色综合亚洲92| 亚洲综合无码| 婷婷五月天成人小说| 久久久五月五丁香| 五月天久久小说| 肏屄色播伊人97婷婷| 色五月婷色彩免播放器| 婷婷五月天无码| 丁香午夜天| 日韩AV无码影片| 婷婷五月丁香色播| 91精品国产综合久久密臀| 激情五月天影院| 丁香婷婷激情| 婷婷99中文字幕| 五月色婷婷综合丁香精品无遮挡| 婷婷丁香花五月天| 婷婷久久图片| 天天谢天天操| 国产精产国品一二三在观看 | 国产精品久久久爽爽爽麻豆色哟哟| 淫视馆av三区| 国内婷婷丁香社区在线播放| 色综合激情| www.91AV.COM| 人妻无码精品一区| 精品热九九| 久热婷婷| 婷婷五月电影院| 五月天操逼激情| 另类视频一区| 色色五月丁香| 激情综合婷婷| 999热在线视频| 在线播放成人| 久久婷婷激情视频| 成人性生活免费观看。| 人妻肉射免费观看| 99国产精品久久久久久久久久久 | 五月花免费视频| 91高潮喷水久久久久久久久| 亚洲一区二区无码蜜乳av| 99精色| 9色免费网| 天天搞夜夜六| 国产精品国产成人国产三级| 丁香五月婷婷丫| 六月婷婷开心| 在线五月色播| 成人美女网| 丁香五月综合激情久久潮喷| 亚洲精品色| 91色在线/日韩| 色婷婷亚洲婷婷| 九久九精品| 人人人人人人人人人草| 思思久久99热只有频精品66| 99热骚货| 丁香五月婷婷亚洲激情四射| 停婷丁五月在线| 黄色网址五月婷婷| 99这里有精品| 婷婷99中文字幕| 久久婷婷五月综合激情国产| 丁香五月天啪啪a日本| 日比视频91| 久久综合天天综合| 碰碰碰91| 26UUU欧美| 九九热亚洲中文在线观看免费| 色碰碰| 综合色网站| 青青草原伊人网| 国产综合81p| 国产精品国产| 婷婷97狠狠干| 婷久久久| 婷色五月天| 婷婷亚洲天堂| 伊人香大香蕉视频| 亚洲成人超碰| 美女婷婷六月色| 日日操夜夜擼| 色欲久久久久久综合网综合网| 91大屁股精品| 五月婷婷六月丁香| 色色性爱视频| 视频综合网| 亚洲精品色| 五月天婷婷永久免费视频| 日碰日| 色婷婷五月在线| 丁香玖玖视频大全| 六月色婷婷| 人人摸人人射| 99在线公开视频| 久操人妻| 在线sebiav精品视频| 五月色综合网| 情五月亚洲婷婷| 五月激情丁香啪啪| 日韩一级片| 日韩人妻无码一区二区| 色综合色综合色综合| 五月婷婷六月丁香玖玖玫瑰91| 91婷婷丁香| 风流少妇A片一区二区蜜桃| 日日爽日日| 久草大| 在线看的免费网站| 五月丁香综合激情| www,99热| 啪啪五月天啪啪| txt五月激情四射网综合俺也来了| 五月久久婷婷天堂视频| 久久66精品| 国内一级精品| 五月婷婷9| 538在线精品| 久久深爱激情网| 天堂久久精品| www.97干视频| 丁香婷婷老司机久操| 五月丁香偷拍| 九九99免费视频| 五月天色婷婷基地| 99 色色吧| 亚洲成人av在线播放| 国产av天堂| 五月丁香综合中文| 色欲一区二区三区精品A片| 翔田千里aV中文字幕| 五月天丁香欧美激情| 99热伊人| 色色色欧美| 精品99视频| 久久996re热这里只有精品无码| 大香蕉九九操| 射久久丁香五月| 婷婷色色综合| 色婷婷网大全在线| 午夜天堂一区人妻| 国产精产国品一二三在观看| 色婷婷丁香五月| 婷婷五月大香蕉| 丁香五月停停av| 日本99在线视频| 亚洲综合色五月| 激情文学天天| 婷婷久久视频| 亚洲婷婷月丁香五月| 亭亭色网| 九九aV| 婷婷综合日本| 日韩av在线免费观看| 五月色亭丁香| 中文字幕av网站| 强辱丰满人妻HD中文字幕| 色情五月婷婷| 精品一二三区久久AAA片| 成片免费播放| 天天干天天拍| 九九爱激情| 欧美大肥婆大肥BBBBB| 99网| 1024国产在线| 东北熟女视频99| 男人大jjc女人免费视频| 激情综合五月| 婷婷中文字幕网站| 综合激情sV| 888久久久| 国产永久一黄| 天天肏视频| 99九九在线| 久久总和99| 日本人人干| 色欲影香| 秋霞午夜理论| 美女美女美女三级色天天天天天| 人人噜天天上| www九九| 日本久久婷| 丁香五月性爱| av国产精品| 五月天激情日色在线| 成人五月天婷婷| 色婷婷五月基地在线| 99热这里只有精品手机在线观看| 日日肏夜夜干| 99re免费精品视频| 极品人妻VIDEOSSS人妻| 久久久久久久久久久久久久久久久精典| 超碰2021| 久九色| 亚洲激情电影五月天色婷婷丁香一起草| 丁香六月视频| 少妇综合网| 色婷婷视频在线| 九九激情网| 狠狠色综合图片| 激情视频91| 激情综合网丁香| 六月丁香婷婷开心综合基地| 婷婷五月天奸女| 亚洲1区| WW婷婷五月天com| 五月色婷丁香| 99色看这里只有精品| 一区二区三区四区无码| 久久停停超碰| 久9热插入| 97久久精品| 开心久久爱五月天| 九九色综合网| 伊人久久丁香五月91| 99九无网码| 久久五月丁香综合17C| AVDV久久| 国产精品电| 丁香五月天网站| 五月的丁香六月的婷婷| 99这里只有精品|v| 综合五月丁香97| 婷婷,五月天,丁香,第一| 色婷视频| 北京熟妇搡BBBB搡BBBB| 日本人人干| 天天干-天天日| 99视频在线| 色色99| 五月婷婷黄色毛片| 五月久久亚洲| 丁香五月色| aaaa.黄| 青青草a在线| www.五月天激情| 九九热大香蕉| 综合色婷婷| 五月天伊人av| 五月天综合久久| 成人久碰| 色五月婷婷天天操夜夜操| 看全色黄大色大片| 人妻在线观看视频| 激情五月六月婷婷综合啪啪| 五月丁香婷婷综合| 9999三级片| 思思热久久久在线| 成人做爰A片免费看视频| 激情久久婷婷| 开心激情五月天网| 精品热九九| 国产伦理精品高清在线观看网站一区二区| 综合XX网| 久久国产高清| 色丁香五月| 色天使久久综合| 亚洲激情 久久| 中美日韩成人在线| 日本三级韩三级99久久| 久久婷婷五月综合色奶水99啪| 丁香五月天堂婷婷| 色五月六月婷婷| 久草婷婷| 天天天添天天操| 五月天.com| 久久与婷婷| 久久综合五月| 五月丁香无码| 超碰亚洲天堂| 性爱先锋AV| av在线激情| 99视频| 色五月激情五月丁香五月婷婷啪啪综合 | 激情综合网亚洲色图| 五月丁香影院| 九热在线这里有精品6| 成片免费观看视频大全| 狠狠色婷婷丁香六月| AV性爱网| 五月婷婷六月丁香激情综合网| 超碰久热| 婷婷日日天天| 婷婷五月综合社区在线| 日本成人噜噜噜| 人人人操 超碰| 无码婷婷五月天| 大伊香蕉精品视频在线| 色婷婷激情视频| 色99综合色88| 色播婷婷大香蕉| 六月丁香婷婷综合狠狠爱夜夜爱| 99精品热| 日本熟妇人妻在线| 亚洲影院婷婷色| 91人人操人人爱| 久久资源网五月婷| 99热精品在线观看| 五月深爱网| 婷婷性爱视频在线| 九九热在线视频观看| 丁香五月婷婷色| 九九热在线视频| 天天摸.天天mo| 婷婷五月在线影院| 五月丁香成年黄色| WWW色五月天| 天天色情站| 五月天婷婷在线观看| 77777亚洲午夜久久| 久操福利| 99热99免费| 国产午夜精品一区二区| 香蕉久久国产AV一区二区| 天天日夜夜操五月| 亚洲天堂爱爱| 91人人看| 中文字幕在线日亚洲9| 五月婷婷之六月丁香| 激情五月天色色色| 天天干天天干天天干天天干天| 就爱啪啪婷婷| 91要啪| 狠狠五月天| 日韩爱操视频| 精品福利911| 玖玖婷婷婷丁香五月| 婷婷六月啪啪| 色婷久久| 可以免费看AV网站| 五月丁香六月婷婷,婷| 国产一级黄色影片,| 婷婷综合97| av在线色五月丁香婷区久| 天天综合五月天| 五月天激情小说网| 二色AV| 色婷婷小说| 五月激情婷婷图片基地| 99色精品| 九 九九九AV| 狠狠狠狠狠干| 色婷婷av在线观看| 97色色色| 99r这里只有精品在线观看| 五月丁香亚洲校园欧美| 无码髙清| Caoub青青超碰 | 色婷婷最爱五月| 国产Va视频| 久久一二三视频| 97精品欧美91久久久久久久| 狠狠久久婷婷| 久草婷婷在线| 久久五月婷婷综合网| 久久三级视频| 婷婷色色丁香五月天| 五月天成人在线| 美女婷婷六月色| -91九色大屁股| 五月丁香婷婷婷婷综合网| 婷婷色五月开心五月| 久久38视频| 97在线观视频免费观看 | 丁香五月婷中字幕| 色五月激情婷婷| 夜夜做天天爽| 中文不卡一二三区| 最新激情五月天| 99热在线资源| 高清视频一区| 91操网| 超碰人人99| 日本97在线观看| 亚洲AV成人一区二区在线观看| 欧洲色| 午夜五月天| 草一草avb| 中文字幕av久久爽一区| 亚洲成人综合在线| 99在线精品免费视频| 亚洲乱码w在线观看| 天天综合色丁香| 99精品热| 九色视频91疯狂| 天天干狠狠| 色噜噜狠狠狠综合曰曰曰| 五月婷婷开心激情六月蜜桃| 四虎婷婷五月天| 蜜臀av无码久久久久久久久| 热久久99视频| 开心五月综合| 婷婷 色 丁香 夜| 黄色五月婷婷| 色婷五月天| 天天插天天射| 国产日产亚系列精品版优势| 在线亚洲综合网| 99久久色| www激情| 午夜丁香丁香婷婷| 激情5月天天天| 99热这里只有精品在线播放| 2020日日干| 最新va在线播放| 亚洲精品99| 日本三级中国三级99| 97人人操人人爽| 99精品无码| 操人妻AV| 久久久久久久8| 超碰人妻在线| 华人在线免费| 色九网| 99在线免费观看| 精品久久久91久久影视网| 久久9热综合| 久99热在线观看| 久久丁香| 五月天色婷婷伊人网| www.91九色| 丁香婷婷激情| 色综合色综合色综合| 色婷婷五月天偷拍| 婷婷五月婷婷五月天| 色五婷婷开心缴| 五月天丁香网| 丁香婷婷影院| ss五月天激情| 亚洲国产99| 色综合五月天| 色天堂97| 国产精品久久久久久五月天加勒比| 丁香五月手机在线| 婷婷五月丁香五月| 色碰碰视频| 天天夜天天色天天| 啪啪啪综合网| 久久综合婷婷五月| 99热精这里只有精品| 激情啪啪五月| 亚洲中文字幕在线电影| 婷婷六月丁香久| 久久精品系列| av操B网站| 91九色丨国产丨爆乳| 国产美女最新VA在线免费观看| 日本丁香五月| 97日本操| 五月丁香六月婷婷综合网| 五月天激情综合| 国产精品18久久久| 9久久精品| 婷婷成人五月天成人文学| 国产精品18久久久| 丁香五月激情婷婷视频| 婷婷精品在线| 丁香花五月天社区| 色了色综合| 丰满人妻一区二区三区| 91超级碰| 久久在这里99| 伊人9在线| 天天日天天爽夜夜爽| 成人无码髙潮喷水A片| 久婷婷| rr天天操| 亚洲成人中文字幕| 桔色成人在线| 色婷婷色丁香色欲av| 九九色中文| 91热久久| 丁香五月情| 丁香六月五月天| 九色1区视频在线| 午夜精品777| 五月丁香网站| 再次出发二| 91超级碰| 思思视频这里是精品| 久操热| 99啪99| 播五月丁香三月婷婷| www.韩日视频| 丁香婷婷视频| 一区二区免费看| 五月天天综合| 综合久久97| 99在线小视频| xxxx五月激情| av国产精品| 婷婷久久久久久久| 五月婷婷视频| 噜噜精品| 丁香狠狠色婷婷| 国产67194| 久久久com| 中文字幕在线播放视频| 五月婷婷干干干| 日本色婷婷| 色色色色色热| 在线观看国产高清视频免费网站 | AV在线收看| 性爱久久| 综合婷婷六月| 99热超碰人| 色欲AV导航| 激情久久网 | 99久久婷婷精品视频| 久久婷婷五月综合伊人| 玖玖五月丁香| 99热超碰| 色婷婷视频在线| 玖玖五月| 亚洲蜜桃精久久久久久久久久久久| 婷婷丁香五月天小说| 殴美97色| 色综合五月天| 常久最新免费的色吊丝| 五月天丁香成人社| AA片在线观看视频在线播放| 国产视频婷婷| 69热在线| 99久久欧美| 特黄三级片| 激情五月天啪啪| 欧美高潮9| 另类在线| 五月婷婷丁香综合网| 大香蕉久久婷婷| 粉嫩AV久久一区二区三区| 五月婷婷亞洲中文| 九月激情网| 97丨九色丨国产丨PORNY| 激情五月婷婷五月丁香五月开心五月| 操操操www.com| 亚洲黄网在线| 在线只有精品| 久久久ww| 丁香五月无码| 五月伊人综合| 91丨九色丨熟女|新版| 内射人妻视频国内| 日韩av在线电影| 久久机热这里只有精品| 丁香 婷婷 激情 综合 五月| 丁香五月激情啪啪啪啪| 粉嫩AV久久一区二区三区| 26uuu日韩| 日本色婷婷综合| 亚洲激情婷婷| 色色色色色日韩午夜激情| 99精品免费| 伊人www22综合色| 99色一| 丁香五月天啪啪| 婷香狠狠爱五月| 99久久欧美| 中文字幕成人| 色综合久| 久久久久9999| 亚洲综合另类| 丁香五月播播| 久久这里只| 激情五月天之五月婷婷| 99开心五月五月丁香激情| 日韩 中文 欧美| 操比激情五月| 国产精品成av人在线视午夜片| 久久综合九九| 久久婷婷六月综合| 亚洲色夜| 午夜成人AV在线| 欧美va在线观看| 五月婷婷欧美激情| 79色色色色| 天天操夜夜玩!| 五月天合网| site:wpjngj.com| 欧美天天草人人草| 91在线日| 色色综合成人网| 91丨九色丨高潮丰满日本| 人人操人人看97干| 色婷婷色综合激情91| AV大片在线观看| 婷色综合| 玖玖五月丁香| 亚洲乱码w在线观看| 亚洲成Av人片乱码色第1集| 亚洲AV电影美洲AV电影| 手机在线视频观看9| 婷婷五月丁香四射| 国产精品丝| 人妻激情视频| 日本成人综合| 丁香五月婷婷亚洲人| 丁香五月激情综合| 婷丁五月| 天天做 天天爱| 成熟妇人A片免费看网站| 九九视频在线观看| 精品二区| 高清 码 免费看片短视频| 色五月婷婷影院| 另类精品视频在线观看| 黄网在线播放| 婷婷 亚洲图片 丁香| 呦呦视频无码播放| 激情亚洲网| 内射综合网| 丁香六月激情综合| 噼里啪啦在线观看免费完整版视频 | 第四色婷婷最爱| 五月天激情小说婷婷基地| 伊人丁香花综合影院| 五月婷婷激情四月| 五月天激情四射网站| 丁香桃色网| 亚洲视频一区| 成年视频免费观看| 久色五月天| 九九久久99精品免费观看www| 97综合色片| 丁香六月婷月91婷月| 99热这里只有精品33| 激情小说婷婷五月| 色五月 五月婷婷| 色五月色综合| w婷婷五月婷婷w| 欧洲激情五月天| 噜噜色婷婷| av九九| 青青草99re| 91狠狠综合久久久| 婷婷丁香五月天在线| 91精品久久久久久| 婷婷五月丁香激情| 丁香六月婷| 色五月五月丁香| 色婷婷五月天成人网| 成人片黄网站色大片免费毛片| 亚洲在线成人| 亚洲成人色五月婷婷综合| 五月天婷婷激情小说电影| 99这里| 综合激情四射一theav| 五月丁香六月婷婷啪啪综合 | 小骚穴电影| 婷婷成人综合五月| 五月激情综合网| 五月丁香六月激情| 成人色站,在线视频,看片-SS1AV| 激情综合五月开心狠狠| 丁香五月花影院| 久久综合综合久久| 五月五婷婷| 96精品成人无码A片观看金桔 | 日逼影音先锋男人AV资源站| 丁香五月天在线观看视频| 丁香六月色婷婷| 久久婷婷五月综合| 99热只有精品综合| 欧美Va婷色| 色图亚洲91| 婷婷热婷婷色| 九九碰九九爱97超碰| 激情五月婷婷视频一区二区三区| 激情黄色五月天| 亚洲精品午夜国产va久久成人| 激情性爱网站| 伊人狠狠操| 国产 码在线成人网站| 久草五月| 激情五月婷| 大香蕉婷婷丁香| 久色资源网| 天天射天天插天天干| ss五月天激情| 色综合色色| www.精品99| 色色色色色色色色色色色色色97| 色五月色情| 色色色色色色色色色色色色色色,网站| 色综合五月天| 人人爽人人射-美女久久久久久久久久-成人AV| 亚州色婷婷| 99久久97久久欧美综合网| 天天综合网网欲色| 激情综合网站| 无人精品在线视频| 欧美在线视频免费播放| 婷婷成人五月天成人文学| 丁香五月玖玖| 五月情婷婷| 激情五月天福利| 五月天,激情四射,婷婷频道| 久久激情四射| 五月婷婷欧美激情| 狠狠色狠狠爱| 狠狠狠狠狠狠| 日韩成人无码人妻| 激情五月天色网站| 狠狠舔| 国产伦亲子伦亲子视频观看| 77799热| 狠狠ri| 婷婷十月激情综合网| 天天婬色综合| 久久总和99| 丁香九月激情| 中文中文在线| 99久久大片| 狠狠色婷婷7777久综合| 九九激情综合| 色婷婷五月天激情久久| 丁香五月色情av| 五月天色社区| 97碰在线免费观看| 亚洲最大视频| 亚洲日韩26uuu| www:99热视频| 91热久久| 欧美激情丁香五月天久久婷婷一区| 色色欧美色色| www.婷婷五月| 精品久色| 激情婷婷五月丁香啪啪啪| 婷婷丁香色五月| 成人午夜无码视频| 国产XXXX搡XXXXX搡麻豆| 色偷偷色婷婷| 婷婷色色网| 日本不卡高字幕在线2019 | www.狠狠艹| 操操国产| 99久久婷婷国产综合精品草原| 天天天天天久久久久久| 高清成人综合| 五月激情天| 伊人啪啪网| 久久婷婷网站| 久久精品熟女亚洲AV麻豆| 色婷婷五月天在线观看| 97视频.干com| 色无婷婷| 久久久大香蕉| 天天色天天色天天色天天色天天色| www久久久久| 玖玖资源在线视频| 五月天夜夜爱夜夜操| 婷婷玖玖五月天| 国产成人精品一区二区三区视频| 丁香桃色网| 熟女五月天久久综合| 美国不卡视频| 天天日天天插| 五月丁香婷草| 5月婷婷六月丁香| 成人AV免费观看| 久久视9精| 99色网站| 9999色色色色| 欧美内射AA| www.91在线看| 五月天色小说| 99re免费精品视频| 成人午夜天| 九九99九九99| 99热这里只有精品青草| 五月情综合| 亭亭五月丁香综合欧美| 狠狠色九月| Www.sesese丁香| 在线观看中文字幕| 色99在线| 少妇激情五月天| RenRenSe在线视频网站| 熟女乱论网| 五月婷婷啪啪网| av在线免费网站 | 99在线精品观看99| 婷婷久久性爱| 97丁香视频| 亚洲成av人影院| 97av在线视频| 亚洲乱码w在线观看| 5月丁香啪啪啪| 五月丁香婷婷成人伊人网| 做爱夜夜干天天操| 欧美人人操| 日本色99| 免费看成人747474九号视频在线观看| 丁香五月影| 亚洲天堂婷婷丁香| 大学生高潮无套内谢视频| 色色99| 超碰免费在线| 79精品视频在线观看,| 亚洲色五月| 婷婷播5月| 色婷婷丁香五月天在线观看| 五月开心深深爱激情综合 | 亚洲精品色色| 东京热免费视频| 亚州精品色情无码A片| 开心五月综合激情网| 婷婷久久五月丁香| 色婷婷AV在线| 97碰免费视频在线| 99久久网站| 婷色人人狠| 九九人妻福利| 婷婷五月成人有| 激情婷婷综合| 中文aV网| 俺去也五月天婷婷| 激情五月影院| 久久综合五月天| 五月丁香 啪啪| 色色色综合网| 搡BBBB搡BBB搡18| 91Chinese在线| 极品人妻VIDEOSSS人妻| 北京熟妇搡BBBB搡BBBB| 99在线视频操999| 色婷婷在线视频观看| 九九色天堂| 激情五月天啪啪| 九九热在线亚洲免费视频| 97色色色色| 色五月开心开心五月激情五月| 激情综合网亚洲色图| 26UUU精品一区二区Com| 五月婷婷天天| 在线中文字幕视频| 99操99| 丰满少妇猛烈A片免费看观看| 97婷婷五月丁香| 丁香五月综合久久| 97人人看| 激情欧美五月丁香| 狠狠婷婷色| 久久99三级在线视频| 99热伊人综合| 色播综合| www好屌操| 伊人婷婷色| 99无码视频| 精品无码片| 亚洲综合1024| 丁香五月天精品| 婷婷综合网| 丁香五月影院| 色综合久久8| 秋霞三级色戒| 人人噜天天上| 丁香五月综合| 97婷婷久久丁香| 九九热色视频| 婷婷久久综合久色| 99热e| 国产黄大片在线观看画质优化| 淫五月停停| 99自拍网| 开心五月婷婷99| 日日天天干| 91九色偷拍| 激情五月深爱五月观看| 日夜夜久久| 五月激情天| 久久五月婷婷视频| 天天色伊人| 人人摸人人干| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 91男人资源站| .操區COm| 激情五月天婷婷| 丁香五月激情图片婷婷| 丁香婷婷色| 色色网五月激情| 亚洲操b| 欧美日韩国产一区二区| 这里只有精品日韩精品| 丁香六月激情| 婷婷丁香五月在线观看91| WWW.五月天9999| 欧美日韩成人在线网| 丁香婷婷影院| 再次出发二| 日本三级中国三级99人妇网站| 九九久久玖玖爱| 丁香五月天激情网址| 97色天堂| 亚洲视频码| 丁香五月综合网亚洲综合欧美狠狠| 天天干天天干天天操| 九九狠狠干| 天天色天天爱天天爱天天爱y| 成人.在线日韩| 思思久久99热| 色色日本| 狠狠五月激情丁香六月| 色五月亚洲| 亚洲综合视频八| 天天色官网| 大地资源色婷婷视频在线| 精品在线| 五月丁香影院| 久久久18| 久久永久视频| 久久综合无| 五月天色区| 超碰爱爱爱| xxx.色婷婷| 99伊人婷婷在线| 日本久久爱| 人人草碰| 日本五月婷婷| 色天堂97| 国产亚洲精品久久一区二区三区| 一区三区视频有限公司| 思思99热在线| 久久这里只有国产| 九九综合网色全集 | 久热黄色| 日韩无码专区| 色综合综合色| 成人看片网站| 99热9| 日日爽夜夜爽| 婷婷色色狠狠| 久久久国产精品黄毛片| 狠狠色丁香99| 狠狠噪| 这里只有精彩视| 996re热精品视频| 激情五月天无人视频在线| 中文字幕婷婷在线| 综合网激情| 国産精品| 久机视频这只有精品| 五月婷婷与六月丁香图片激情| 五月丁香六月婷婷网| 色五月丁香一区在线| av国产精品| 五月婷婷基地| 日韩一级网站| 色五月婷婷综合| 侠女刀之记忆电影在线看免费| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 亚洲超碰在线| 六月婷五月丁香| 91丨九色丨老熟女激情| 99国产视频网| 久久亚洲婷婷| 国产成人精品亚洲线观看| 久久机热思思热| 五月婷婷综合性爱噜噜| 亭亭五月色男人| 久久久久久久综合狠狠综合| 97人碰人操| 中文字幕,综合,91| 久操热线| 天天插操| 久久久噜噜噜久久人妻| 久久久久久综合88| 国产精品人成A片一区二区| 手机免费福利视频| 一起草aV| 99精品在线播放| 欧美成人性爱网| 婷婷成人视频| 成人做爰A片免费看网站找不到了| 99色在线| 婷婷成人视频| 欧美成性色| 91刘玥视频在线观看| 伊人干综合| 天堂AV在线看| 成人网站免费在线播放| 性爱激情综合网| 婷婷九月在线| 色99综合视频| 色婷婷欧美| 五月婷婷 婷婷五月 一区二区 久久久 | 97精品综合久久| 思思久久99热只有频精品66| 色五月激情综合| 五月婷A V在线| 亚洲欧洲国产精品| 丁香五月婷婷激情中文| 五月丁香色情| 色99婷婷五月天| 国产精品第一国产精品| 色情五月天丁香社区| 99精品久久久久久久婷婷久久| 日韩 中文 欧美| 九九爱精品网站| 夜夜干夜夜操| 天堂久久性| 99热骚货| 久热2025无码| 国产操B视频| 九九精品碰| 丁香色婷婷色手机免费在线| 丁香五月综合婷婷| www.五月丁香| 色狠狠六月| 人人干天天舔| 激情啪啪五月| 夜夜爱爱亚洲| 婷婷深爱五月天| 猫咪伊人久久| 五月丁香六月色| 色大综合| 影音先锋激情网| 色五月首页| 色天使色婷婷| 婷婷丁香中文字幕| 成人做爰A片免费看网站找不到了| 天天狠狠夜夜狠狠2023| 开心激情婷婷| 丁香五月天色婷婷| 五月婷AV| 99色热综合| 噜噜狠狠| 天天噜天天插| 精品乱码视频| 97碰| 久久99婷婷| 色蜜婷婷| 99色在线观看视频| 天堂综合久| 大香伊人婷婷| 九九超日本| www.com在线操视频免费观看| 欧美十二区| 日本黄色三级片内射| 五月丁久久| 丁香88AV五月婷婷| 中文字幕丰满孑伦无码专区| 国产又爽又猛又粗的视频A片| 五月丁香777| 婷婷色中文字幕| 五月丁香人妻| 日本三级大片| 777精品久无码人妻蜜桃| 综合久久99| 亚洲中文字幕在线观看| 少妇大叫太大太粗太爽了A片| 欧美大肥婆大肥BBBBB| 成人午夜天| 精品久久穴| 97偷拍对白视频| 五月婷狠狠| 人人搡人人| 99色久| 99精品人人| 九玖视频这里只有精品| 99热永久在线观看| 天天操天天操综合| 亚州激情网| 婷婷五月天亚洲综合网| 精a品a| 99热成人精品网站| 99热综合| AV九九| 国产精产国品一二三在观看| 久久久久久婷| 激情五月天第四色| 91se在线视频| 玖玖爱综合网| 开心激情色婷婷五月天| 五月天停停基地| 激情六月综合| 人妻av在线| 99九九在线视频| 亚洲色婷婷| 任你弄在线视频免费| 丁香五夜激情四射夜夜夜| 99热综合在线| 婷婷在线播放av| 另类图片激情五月天| 亚洲AV色婷婷人禽五月天| 色色色com| 欧洲色| 日本熟妇乱妇熟色A片蜜桃| 亚洲乱码精品久久久久..| 一本色道久久88加勒比| 婷婷综合日本| 婷婷丁香77777| 思思w99| 丁香五月另类色婷婷麻豆| AV性爱网| 六月婷婷毛片| 久婷| 九九视频精品视频精品| 丁香五月婷婷大香蕉| 激情综合久久| 91啦丨九色丨刺激中文| 超碰AV在线| 久久婷婷六月天| 日韩视频99| 91碰碰碰| 五他月天啪啪啪| 日韩三级片一区二区| 五月婷婷69| 丁香六月婷| 伊人五月天久久| 激情丁香六月| 婷婷五月丁香综合人妻| 精品久久艹| 丁香婷婷六月| 精品99久久久久成人网站免费| 五月丁香成人小说| 疯狂做受XXXX高潮A片动画| 色偷偷色婷婷| 天堂草在线观| 婷婷五月天丁香| 无码一级片| 99热热九九| 爆乳熟妇一区二区三区爆乳| 亚洲久久天堂| 久久这里只有精品久久| 26UUU精品一区二区| 国产免费性爱| 中文字幕在线免费观看视频| 色色色图| 久久98| 九九久久99精品免费观看www| 国产日韩亚洲欧美在线观看| 99久久网站| 人伦30P| 丁香婷婷影院| 97超碰婷婷五月天| 婷婷五月亚洲激情| 大香蕉五月丁香| 在线播放成人| 思思热久久婷婷五月天| 丰满少妇猛烈A片免费看观看| 色婷六月| 狠狠xx| 97久久久久久久久久久| 欧美情月伍月天| 超碰超碰在线| 日本一级淫| 天天做天天爰天天爽天天无遮挡| 开心激情综合| 插逼综合网| 超碰人人99| 五月婷婷色啪| 岛国AV网| 婷婷丁香大香蕉| 丁香5月婷婷| 图片区 小说区 区 亚洲五月| 久久视这里只有精品| 婷婷五月色| 婷婷久久精品| 天天干天天拍| 久99久99精品免| 五月天婷婷视频| 天天网曰日曰夜夜综合永久免费| 综合九九| 大香蕉福利导航| 99综合一区| 色五月婷婷丁香凹凸| 偷拍视频五月天| 六月五月天婷婷涩播在线| 久热这里只有精品66| 99re热视频这里只精品| 精品少妇蜜臀91| 超级碰碰一区| 亚洲热久久|