欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Java接入Milvus實(shí)現(xiàn)語(yǔ)義搜索:文檔智能檢索全鏈路實(shí)戰(zhàn)

Java接入Milvus實(shí)現(xiàn)語(yǔ)義搜索:文檔智能檢索全鏈路實(shí)戰(zhàn) 在AI應(yīng)用和知識(shí)庫(kù)項(xiàng)目里摸爬滾打了一段時(shí)間后我越來(lái)越確認(rèn)一個(gè)事情傳統(tǒng)的數(shù)據(jù)庫(kù)檢索方式在面對(duì)語(yǔ)義搜索和文檔智能問(wèn)答這類(lèi)需求時(shí)是真的不夠用。你光靠關(guān)鍵詞匹配和SQL的LIKE查詢(xún)永遠(yuǎn)解決不了用戶(hù)搜蘋(píng)果但文檔里寫(xiě)的是iPhone這種級(jí)別的語(yǔ)義問(wèn)題。于是我把目光投向了向量數(shù)據(jù)庫(kù)。之前網(wǎng)上搜資料90%的教程都是Python示例Java的完整實(shí)踐案例少得可憐而且很多Demo代碼根本跑不通。這篇就把我踩過(guò)坑、填過(guò)土之后的完整方案寫(xiě)出來(lái)講清楚Java怎么接向量數(shù)據(jù)庫(kù)、文檔怎么切分、向量怎么生成、檢索怎么實(shí)現(xiàn)以及一系列工程化細(xì)節(jié)。項(xiàng)目核心是解決文檔檢索與語(yǔ)義搜索這個(gè)場(chǎng)景適合正在搞RAG、智能客服、企業(yè)知識(shí)庫(kù)的后端Java開(kāi)發(fā)同學(xué)直接參考。1. 項(xiàng)目整體思路為什么Java后端需要一個(gè)向量層1.1 從關(guān)鍵詞匹配到語(yǔ)義檢索差的不是算法而是數(shù)據(jù)組織方式先講個(gè)背景。我之前在做一個(gè)企業(yè)合同知識(shí)庫(kù)倉(cāng)庫(kù)里有幾百份PDF和Word文檔。業(yè)務(wù)方的需求很樸素員工輸入去年和華為簽的采購(gòu)合同里違約金比例是多少系統(tǒng)要快速給出答案。用傳統(tǒng)的ES方案我只能做分詞和倒排索引。違約金比例這種詞如果合同原文寫(xiě)的是違約賠償金那ES的精確分詞基本就廢了搜出來(lái)一堆不相關(guān)的東西。要想讓系統(tǒng)懂語(yǔ)義核心思路是把文本變成高維向量然后在向量空間里計(jì)算距離和相似度。蘋(píng)果和iPhone這兩個(gè)詞的文本形式差了十萬(wàn)八千里但它們的語(yǔ)義向量在空間里距離很近。這個(gè)能力不是靠算法而是靠預(yù)訓(xùn)練的Embedding模型和海量語(yǔ)料訓(xùn)練得到的。向量數(shù)據(jù)庫(kù)干的事情就是把生成后的向量存起來(lái)并提供高效的近鄰檢索能力也就是ANNApproximate Nearest Neighbor。所以這個(gè)項(xiàng)目的架構(gòu)其實(shí)很清晰文檔進(jìn)來(lái)之后先做切割切出來(lái)的每一段文本都過(guò)一遍Embedding模型生成一個(gè)幾百維的Float數(shù)組然后連同原文和元數(shù)據(jù)一起寫(xiě)入向量數(shù)據(jù)庫(kù)。查詢(xún)的時(shí)候用戶(hù)的問(wèn)題同樣過(guò)一遍Embedding模型再拿這個(gè)查詢(xún)向量去庫(kù)里做相似度搜索取TopK結(jié)果返回。整個(gè)過(guò)程Java這邊全程參與不依賴(lài)任何Python微服務(wù)這也是這個(gè)項(xiàng)目最有價(jià)值的地方。1.2 技術(shù)棧選型與整體架構(gòu)這個(gè)項(xiàng)目我用了Spring Boot 3.x Java 17作為基礎(chǔ)后端框架向量數(shù)據(jù)庫(kù)選了Milvus向量化模型選用本地部署的ONNX格式中文Embedding模型。之所以不選在線API是因?yàn)槠髽I(yè)級(jí)知識(shí)庫(kù)對(duì)數(shù)據(jù)出域很敏感合同、醫(yī)療、客服對(duì)話這類(lèi)數(shù)據(jù)不適合直接提交給第三方API做詞向量轉(zhuǎn)換。本地化部署雖然要花一些時(shí)間配置環(huán)境但數(shù)據(jù)安全性可控而且調(diào)用延遲更低QPS起來(lái)了之后在線API的成本會(huì)很高本地模型更劃算。整體流程分兩條鏈路。寫(xiě)入鏈路解析文檔 - 清洗文本 - 文檔切分 - 生成向量 - 寫(xiě)入Milvus。查詢(xún)鏈路接收用戶(hù)問(wèn)題 - 生成查詢(xún)向量 - Milvus向量檢索 - 按元數(shù)據(jù)過(guò)濾 - 結(jié)果重排 - 返回給上層業(yè)務(wù)。這兩條鏈路在Java服務(wù)內(nèi)完全閉環(huán)Milvus只負(fù)責(zé)當(dāng)向量存儲(chǔ)和檢索引擎不承擔(dān)任何業(yè)務(wù)邏輯。2. 向量數(shù)據(jù)庫(kù)選型Java生態(tài)里最務(wù)實(shí)的幾個(gè)選項(xiàng)2.1 主流向量數(shù)據(jù)庫(kù)橫向?qū)Ρ葦?shù)據(jù)庫(kù)部署復(fù)雜度Java SDK成熟度混合檢索支持適用場(chǎng)景Milvus中依賴(lài)K8s或Docker官方Java SDK接口完整支持Meta過(guò)濾大規(guī)模向量檢索、RAG專(zhuān)用Elasticsearch中自帶集群能力原生Java客戶(hù)端完善全文檢索向量已有ES需要兼顧全文搜索Redis低官方Java客戶(hù)端很成熟較弱小規(guī)模原型驗(yàn)證、緩存場(chǎng)景PostgreSQL pgvector低JDBC即可一般SQL靈活已有PG業(yè)務(wù)需要統(tǒng)一存儲(chǔ)我最終選擇了Milvus主要原因有三點(diǎn)。第一它是純正的向量數(shù)據(jù)庫(kù)對(duì)ANN算法、內(nèi)存索引、分片策略的優(yōu)化非常深入單機(jī)集群模式下千萬(wàn)級(jí)向量檢索的延遲都能壓在100毫秒左右。第二它的Java SDK不是社區(qū)熱情產(chǎn)物而是官方維護(hù)的milvus-sdk-java接口設(shè)計(jì)思路和REST API差不多用起來(lái)比較順手。第三它支持標(biāo)量字段過(guò)濾我可以把合同ID、文檔分類(lèi)、上傳時(shí)間這些業(yè)務(wù)屬性存成標(biāo)量字段檢索時(shí)先過(guò)濾再搜大幅縮小向量搜索范圍實(shí)用性非常強(qiáng)。2.2 為什么沒(méi)選Elasticsearch和RedisES其實(shí)是很多團(tuán)隊(duì)的第一直覺(jué)畢竟大部分后端項(xiàng)目里ES已經(jīng)在了再?gòu)?fù)用豈不是省事。但我在對(duì)比測(cè)試中發(fā)現(xiàn)了問(wèn)題ES的向量檢索kNN search在數(shù)據(jù)量超過(guò)百萬(wàn)級(jí)之后性能曲線下降得很明顯而且ES的內(nèi)存存儲(chǔ)結(jié)構(gòu)不如Milvus這種為向量設(shè)計(jì)的系統(tǒng)高效。另外一個(gè)問(wèn)題是ES的向量能力在開(kāi)源版本中支持得不夠靈活一些高級(jí)參數(shù)如efConstruction、M需要配置深度調(diào)優(yōu)對(duì)普通業(yè)務(wù)開(kāi)發(fā)者來(lái)說(shuō)門(mén)檻偏高。當(dāng)然如果你的項(xiàng)目本身已經(jīng)重度使用ES做全文檢索而且數(shù)據(jù)量不大直接升級(jí)版本用ES的向量檢索能力也完全合理這屬于已有基礎(chǔ)設(shè)施優(yōu)先的策略。Redis做過(guò)一輪測(cè)試結(jié)論是僅適合Demo階段或幾百條數(shù)據(jù)的在線測(cè)試原因是它的向量模塊是基于內(nèi)存哈希結(jié)構(gòu)的簡(jiǎn)單實(shí)現(xiàn)沒(méi)有Milvus那樣完善的索引和分段存儲(chǔ)機(jī)制查詢(xún)延遲雖然低但召回率不穩(wěn)定。我在本地用一萬(wàn)條隨機(jī)向量測(cè)過(guò)Redis的搜索召回率在80%左右Milvus在90%以上差距還是很明顯的。3. 環(huán)境準(zhǔn)備Milvus部署與Java工程搭建3.1 Docker方式快速部署Milvus Standalone很多教程一上來(lái)就推薦Milvus集群模式需要部署etcd、Pulsar、MinIO等一大堆組件直接把新人嚇退。其實(shí)單機(jī)環(huán)境或者測(cè)試環(huán)境用Standalone模式就足夠了Docker Compose一條命令就能把Milvus跑起來(lái)。我本地開(kāi)發(fā)環(huán)境的docker-compose.yml關(guān)鍵部分是這樣寫(xiě)的version: 3.5 services: etcd: image: quay.io/coreos/etcd:v3.5.5 environment: - ETCD_AUTO_COMPACTION_MODErevision - ETCD_AUTO_COMPACTION_RETENTION1000 - ETCD_QUOTA_BACKEND_BYTES4294967296 - ETCD_SNAPSHOT_COUNT50000 command: etcd -advertise-client-urlshttp://127.0.0.1:2379 -listen-client-urlshttp://0.0.0.0:2379 minio: image: minio/minio:RELEASE.2023-03-20T20-16-18Z environment: MINIO_ACCESS_KEY: minioadmin MINIO_SECRET_KEY: minioadmin command: minio server /minio_data --console-address :9001 milvus: image: milvusdb/milvus:v2.3.4 command: [milvus, run, standalone] environment: ETCD_ENDPOINTS: etcd:2379 MINIO_ADDRESS: minio:9000 ports: - 19530:19530 - 9091:9091 depends_on: - etcd - minio跑起來(lái)之后Milvus默認(rèn)監(jiān)聽(tīng)19530端口這就是gRPC通信的入口。Java SDK連接的就是這個(gè)端口。這里我踩過(guò)一個(gè)大坑Docker Desktop的版本如果太老etcd和minio這兩個(gè)依賴(lài)容器的健康檢查會(huì)一直不通過(guò)導(dǎo)致Milvus啟動(dòng)后連不上。解決方式是先把Docker Desktop升級(jí)到最新版然后用docker compose up -d依次啟動(dòng)最后用docker logs milvus看日志確認(rèn)milvus started successfully再繼續(xù)開(kāi)發(fā)。3.2 Java工程引入Milvus SDK與連接工具類(lèi)Maven里引入SDK非常簡(jiǎn)單需要注意版本號(hào)要對(duì)應(yīng)你的Milvus服務(wù)端版本。我用的Milvus 2.3.4服務(wù)端對(duì)應(yīng)的Java SDK版本是2.3.x。過(guò)新或過(guò)舊的客戶(hù)端版本在gRPC協(xié)議對(duì)接時(shí)可能出現(xiàn)method not found或者屬性字段不兼容的問(wèn)題。dependency groupIdio.milvus/groupId artifactIdmilvus-sdk-java/artifactId version2.3.4/version /dependency連接Milvus這步網(wǎng)上很多老教程用的是MilvusServiceClient這個(gè)類(lèi)在2.3.x版本中還是主流。我封裝了一個(gè)Milvus配置類(lèi)把連接參數(shù)放到application.yml里這樣多環(huán)境切換比較省事Component public class MilvusClientFactory { private static MilvusServiceClient client; Value(${milvus.host:localhost}) private String host; Value(${milvus.port:19530}) private int port; PostConstruct public void init() { ConnectParam connectParam ConnectParam.newBuilder() .withHost(host) .withPort(port) .build(); client new MilvusServiceClient(connectParam); } public static MilvusServiceClient getClient() { return client; } }這里有個(gè)實(shí)際經(jīng)驗(yàn)值得說(shuō)一下MilvusServiceClient本身是線程安全的也就是說(shuō)我可以在Service層直接通過(guò)靜態(tài)方法獲取實(shí)例然后用同一個(gè)實(shí)例并發(fā)查詢(xún)不需要為每個(gè)請(qǐng)求新建連接。新建連接的開(kāi)銷(xiāo)很大每個(gè)連接底層都會(huì)創(chuàng)建gRPC Channel連接數(shù)一多Milvus服務(wù)端會(huì)報(bào)too many channels的錯(cuò)誤。4. 文檔預(yù)處理文本切分與向量生成4.1 文檔切分策略固定窗口還是語(yǔ)義邊界很多第一次做向量檢索的同學(xué)會(huì)忽略文檔切分直接把一整篇幾千字甚至幾萬(wàn)字的合同文檔丟給Embedding模型生成向量。這會(huì)導(dǎo)致兩個(gè)問(wèn)題一是模型對(duì)超長(zhǎng)文本的編碼能力有限超過(guò)512個(gè)token之后后面的內(nèi)容信息會(huì)被嚴(yán)重稀釋語(yǔ)義向量幾乎全是噪音二是檢索的粒度太粗用戶(hù)問(wèn)違約金的計(jì)算基數(shù)是多少返回的是一整篇合同向量后端根本不知道應(yīng)該拿哪一段去再加工和回答。所以切分是必須的這是所有RAG管道里最影響檢索質(zhì)量的步驟之一。我實(shí)踐下來(lái)中文場(chǎng)景最穩(wěn)妥的策略是分層切分先按語(yǔ)義結(jié)構(gòu)切出章節(jié)塊比如按二級(jí)標(biāo)題、按空行分出來(lái)的段落如果某個(gè)語(yǔ)義塊仍然超過(guò)設(shè)定的最大長(zhǎng)度再按固定窗口二次切分同時(shí)保留一定的重疊區(qū)域。固定窗口的大小設(shè)置要考慮Embedding模型的上下文長(zhǎng)度我用的是BGE-small-zh它的最大長(zhǎng)度是512個(gè)token中文場(chǎng)景下我通常把窗口設(shè)為200到300個(gè)字重疊區(qū)域設(shè)為50個(gè)字左右。過(guò)長(zhǎng)會(huì)導(dǎo)致語(yǔ)義信息截?cái)噙^(guò)短會(huì)導(dǎo)致塊與塊之間上下文斷裂。切分代碼我用Java實(shí)現(xiàn)了一個(gè)簡(jiǎn)單的DocumentSplitter核心邏輯是按\n\n先分段落再根據(jù)長(zhǎng)度決定是否二次切分public ListDocChunk split(String text, int maxLength, int overlap) { ListDocChunk chunks new ArrayList(); String[] sections text.split(\\n\\n); for (String section : sections) { section section.trim(); if (section.isEmpty()) continue; if (section.length() maxLength) { chunks.add(new DocChunk(section)); } else { int start 0; int end Math.min(start maxLength, section.length()); while (start section.length()) { String chunkText section.substring(start, end); chunks.add(new DocChunk(chunkText)); if (end section.length()) break; start Math.max(0, end - overlap); end Math.min(start maxLength, section.length()); } } } return chunks; }實(shí)際項(xiàng)目中文本清洗很重要常見(jiàn)要做的處理包括去掉PDF解析產(chǎn)生的多余換行符、把全角標(biāo)點(diǎn)統(tǒng)一成半角、把空白字符正則替換、識(shí)別并剔除頁(yè)眉頁(yè)腳。這些不做切出來(lái)的塊經(jīng)常是一半正文一半頁(yè)腳向量檢索效果會(huì)大打折扣。我個(gè)人曾經(jīng)因?yàn)槁┑繇?yè)眉清理導(dǎo)致檢索結(jié)果里高頻出現(xiàn)某個(gè)固定公司名一度以為模型出了問(wèn)題排查半天才意識(shí)到是頁(yè)眉污染了向量。4.2 Embedding模型選擇與Java端加載向量生成是整個(gè)鏈路中的核心計(jì)算環(huán)節(jié)。最開(kāi)始我想偷懶直接調(diào)云端API但考慮到數(shù)據(jù)合規(guī)和延遲最終采用本地部署ONNX模型。Java端做推理我選了ONNX Runtime它對(duì)Java的支持比較完善而且不需要額外開(kāi)啟Python環(huán)境的依賴(lài)。模型我用的是BGE-small-zh-v1.5它對(duì)中文語(yǔ)義檢索的效果在同等體積模型里表現(xiàn)很好輸出維度是512維。下載下來(lái)之后會(huì)得到一個(gè).onnx文件和一個(gè)vocab.txt詞表。加載模型和生成向量的核心代碼是這個(gè)樣子public class EmbeddingService { private OrtSession session; private OrtEnvironment env; private BertTokenizer tokenizer; public void loadModel(String modelPath) throws OrtException { env OrtEnvironment.getEnvironment(); OrtSession.SessionOptions options new OrtSession.SessionOptions(); options.setOptimizationLevel(OrtSession.SessionOptions.OptLevel.ALL_OPT); session env.createSession(modelPath, options); tokenizer new BertTokenizer(vocab.txt); } public float[] embed(String text) throws OrtException { ListString tokens tokenizer.tokenize(text); // 對(duì)BGE模型需要添加 [CLS] 和 [SEP] 標(biāo)記 long[] inputIds new long[tokens.size()]; long[] attentionMask new long[tokens.size()]; // 填充inputIds... OnnxTensor inputIdsTensor OnnxTensor.createTensor(env, inputIds, new long[]{1, tokens.size()}); OnnxTensor attentionMaskTensor OnnxTensor.createTensor(env, attentionMask, new long[]{1, tokens.size()}); MapString, OnnxTensor inputs new HashMap(); inputs.put(input_ids, inputIdsTensor); inputs.put(attention_mask, attentionMaskTensor); OrtSession.Result results session.run(inputs); // 獲取last_hidden_state取[CLS]位置的向量 } }這段代碼只是核心邏輯的示意實(shí)際用的時(shí)候有很多細(xì)節(jié)尤其是分詞和Tensor的shape轉(zhuǎn)換。但我要強(qiáng)調(diào)一個(gè)更關(guān)鍵的坑BGE系列模型在檢索場(chǎng)景下必須添加指令前綴中文對(duì)應(yīng)的前綴是為這個(gè)句子生成表示以用于檢索相關(guān)文章查詢(xún)側(cè)和文檔側(cè)都要加上否則檢索效果會(huì)退化得非常明顯。我一開(kāi)始沒(méi)加前綴測(cè)試的時(shí)候Top5的命中率只有30%加了之后直接到85%以上差距非??鋸?。如果你不想在Java里折騰ONNX Runtime的tokenizer也可以用另一種務(wù)實(shí)方案單獨(dú)寫(xiě)一個(gè)Python小服務(wù)部署Embedding模型Java通過(guò)gRPC或HTTP調(diào)用。但這樣架構(gòu)上多了一個(gè)服務(wù)部署復(fù)雜度上升而且Python服務(wù)的守護(hù)、重啟、版本管理都成了新的問(wèn)題。我后來(lái)還是走回了Java直接加載ONNX模型的路線雖然技術(shù)棧稍微硬核一點(diǎn)但一勞永逸部署就一套Java服務(wù)。5. 核心實(shí)現(xiàn)Collection定義、數(shù)據(jù)寫(xiě)入與語(yǔ)義檢索5.1 Milvus集合定義與文檔寫(xiě)入鏈路Milvus里的Collection可以理解成關(guān)系型數(shù)據(jù)庫(kù)里的表字段定義好了之后寫(xiě)入向量就必須嚴(yán)格按照字段來(lái)。我的集合設(shè)計(jì)是這樣的字段名類(lèi)型說(shuō)明idInt64自增主鍵docIdVarChar原始文檔的唯一標(biāo)識(shí)contentVarChar當(dāng)前chunk的純文本內(nèi)容categoryVarChar文檔分類(lèi)用于標(biāo)量過(guò)濾embeddingFloatVector(512)語(yǔ)義向量創(chuàng)建Collection代碼如下public void createCollection(String collectionName) { FieldType idField FieldType.newBuilder() .withName(id).withDataType(DataType.Int64) .withPrimaryKey(true).withAutoID(true).build(); FieldType docIdField FieldType.newBuilder() .withName(docId).withDataType(DataType.VarChar).withMaxLength(256).build(); FieldType contentField FieldType.newBuilder() .withName(content).withDataType(DataType.VarChar).withMaxLength(65535).build(); FieldType categoryField FieldType.newBuilder() .withName(category).withDataType(DataType.VarChar).withMaxLength(128).build(); FieldType embeddingField FieldType.newBuilder() .withName(embedding).withDataType(DataType.FloatVector).withDimension(512).build(); CreateCollectionParam createParam CreateCollectionParam.newBuilder() .withCollectionName(collectionName) .withDescription(知識(shí)庫(kù)文檔向量集合) .addFieldType(idField) .addFieldType(docIdField) .addFieldType(contentField) .addFieldType(categoryField) .addFieldType(embeddingField) .build(); milvusClient.createCollection(createParam); }字段維度這個(gè)細(xì)節(jié)特別容易出錯(cuò)模型的輸出維度、創(chuàng)建Collection時(shí)指定的維度、以及實(shí)際寫(xiě)入向量的長(zhǎng)度三者必須完全一致。我在項(xiàng)目里遇到過(guò)一把情況是模型輸出的實(shí)際維度是512但我創(chuàng)建Collection時(shí)誤寫(xiě)成了768插入的時(shí)候報(bào)float vector dim check failed排查了快一個(gè)小時(shí)才意識(shí)到是字段定義寫(xiě)錯(cuò)了。建議你在代碼里把維度定義成常量不要散落在各處。寫(xiě)入鏈路我建議用批量插入Milvus對(duì)大批量寫(xiě)入的吞吐性能遠(yuǎn)好于逐條插入。我封裝好的批量寫(xiě)入邏輯是把一組文檔chunk的向量和元數(shù)據(jù)都組裝好一次性提交public void upsertChunks(ListDocChunk chunks, String docId, String category) { ListListFloat vectors new ArrayList(); ListString contents new ArrayList(); ListString docIds new ArrayList(); ListString categories new ArrayList(); for (DocChunk chunk : chunks) { float[] vector embeddingService.embed(chunk.getText()); vectors.add(toFloatList(vector)); contents.add(chunk.getText()); docIds.add(docId); categories.add(category); } InsertParam insertParam InsertParam.newBuilder() .withCollectionName(COLLECTION_NAME) .withFields(Map.of( docId, docIds, content, contents, category, categories, embedding, vectors )) .build(); RMutationResult response milvusClient.insert(insertParam); if (response.getStatus() ! R.Status.Success.getCode()) { throw new RuntimeException(Milvus insert failed: response.getMessage()); } }這里面有個(gè)性能相關(guān)的經(jīng)驗(yàn)批量插入時(shí)一次插多少個(gè)合適我的建議是500到1000條chunk為一批太少會(huì)頻繁觸發(fā)網(wǎng)絡(luò)往返和Milvus內(nèi)部的數(shù)據(jù)落盤(pán)太多則容易導(dǎo)致內(nèi)存峰值和請(qǐng)求超時(shí)。我實(shí)際測(cè)過(guò)1000條512維向量單次插入耗時(shí)大概200毫秒左右吞吐足夠了。5.2 語(yǔ)義檢索API與混合檢索方案寫(xiě)入完成之后查詢(xún)才是真正見(jiàn)真章的地方。查詢(xún)側(cè)處理流程沒(méi)那么復(fù)雜核心就是把用戶(hù)輸入的問(wèn)題用同一個(gè)Embedding模型轉(zhuǎn)成向量然后調(diào)用Milvus的search接口搜TopK但有幾個(gè)容易被忽略的工程細(xì)節(jié)要做好。我實(shí)現(xiàn)了一個(gè)searchSimilarDocs方法支持按分類(lèi)過(guò)濾和TopK配置public ListSearchResult searchSimilarDocs(String query, String category, int topK) { float[] queryVector embeddingService.embed(query); SearchParam searchParam SearchParam.newBuilder() .withCollectionName(COLLECTION_NAME) .withVector(queryVector) .withTopK(topK) .withOutputFields(List.of(docId, content, category)) .build(); if (category ! null !category.isEmpty()) { searchParam.getSearchParams().put(category, category); // Milvus支持在搜索時(shí)用過(guò)濾表達(dá)式例如 category 合同 searchParam.setExpr(category \ category \); } RSearchResults response milvusClient.search(searchParam); SearchResults data response.getData(); ListSearchResult results new ArrayList(); for (SearchResults.SearchResult hit : data.getResults()) { SearchResult sr new SearchResult(); sr.setScore(hit.getScore()); sr.setContent((String) hit.getFieldData(content)); sr.setDocId((String) hit.getFieldData(docId)); results.add(sr); } // 按分?jǐn)?shù)排序并返回 results.sort((a, b) - Float.compare(b.getScore(), a.getScore())); return results; }這里有幾個(gè)要點(diǎn)。第一個(gè)是相似度度量的選擇BGE模型推薦用CosineMilvus創(chuàng)建Collection和索引時(shí)都要設(shè)置成MetricType.COSINE這樣才能保證檢索分?jǐn)?shù)語(yǔ)義正確。第二個(gè)是過(guò)濾表達(dá)式如果業(yè)務(wù)上允許按分類(lèi)過(guò)濾一定要先過(guò)濾再檢索不要拿全量向量撞一次再在業(yè)務(wù)層過(guò)濾那樣又慢又浪費(fèi)算力。第三個(gè)是搜索結(jié)果的排序Milvus返回的結(jié)果本身是有序的但我在代碼里還是做了一次排序兜底保證邏輯清晰。另外如果你要做的不是單純的向量檢索而是全文語(yǔ)義混合檢索那Milvus也支持在同一個(gè)Collection上做標(biāo)量過(guò)濾和向量搜索的組合。但如果你想同時(shí)做BM25關(guān)鍵詞召回和向量召回那需要自己寫(xiě)一部分邏輯把ES的BM25分?jǐn)?shù)和Milvus的向量分?jǐn)?shù)做加權(quán)融合。我在項(xiàng)目中做過(guò)的方案是ES做關(guān)鍵詞召回Milvus做向量召回兩條結(jié)果按rank fusion算法合并這個(gè)效果在長(zhǎng)尾query上會(huì)明顯好于單一檢索方式。不過(guò)為了控制篇幅混合檢索的細(xì)節(jié)這次不展開(kāi)講后面單獨(dú)開(kāi)一篇來(lái)寫(xiě)。6. 上線之后踩過(guò)的坑索引、性能與工程化細(xì)節(jié)6.1 忘記建索引導(dǎo)致的百萬(wàn)級(jí)數(shù)據(jù)全表掃描這是我在Milvus上踩過(guò)最疼的坑。一開(kāi)始我只創(chuàng)建了Collection并寫(xiě)入數(shù)據(jù)沒(méi)有單獨(dú)建索引結(jié)果查詢(xún)速度一開(kāi)始還行數(shù)據(jù)量到幾十萬(wàn)之后單條查詢(xún)耗時(shí)直接飆到3秒以上。Milvus如果不對(duì)向量字段建索引搜索就會(huì)退化成暴力掃描本質(zhì)上就是全量計(jì)算相似度數(shù)據(jù)量越大越慢。后來(lái)我把索引改成HNSW建索引的代碼如下public void createIndex(String collectionName) { CreateIndexParam indexParam CreateIndexParam.newBuilder() .withCollectionName(collectionName) .withFieldName(embedding) .withIndexType(IndexType.HNSW) .withMetricType(MetricType.COSINE) .withExtraParam({\M\: 16, \efConstruction\: 200}) .build(); RRpcStatus response milvusClient.createIndex(indexParam); }HNSW索引的兩個(gè)核心參數(shù)是M和efConstruction。M代表每個(gè)節(jié)點(diǎn)的最大連接數(shù)M越大表示圖越密集召回率越高但內(nèi)存和索引構(gòu)建時(shí)間也會(huì)增加一般取16或32。efConstruction是構(gòu)建時(shí)的動(dòng)態(tài)列表長(zhǎng)度越大索引質(zhì)量越高但構(gòu)建越慢200是一個(gè)比較平衡的選擇。查詢(xún)時(shí)還有一個(gè)ef參數(shù)我會(huì)在SearchParam里單獨(dú)配置它控制查詢(xún)時(shí)的搜索范圍越大召回越高但延遲越高。我的建議是召回優(yōu)先場(chǎng)景ef設(shè)64或128延遲敏感場(chǎng)景設(shè)32。關(guān)于建索引還有一個(gè)坑如果你先寫(xiě)入數(shù)據(jù)再建索引當(dāng)數(shù)據(jù)量很大的時(shí)候建索引過(guò)程非常耗內(nèi)存和CPU生產(chǎn)環(huán)境最好在Collection創(chuàng)建好之后就立即建索引然后再灌數(shù)據(jù)。Milvus是支持在寫(xiě)入過(guò)程中增量構(gòu)建索引的但如果先灌數(shù)據(jù)再觸發(fā)建索引遇到大數(shù)據(jù)量會(huì)產(chǎn)生明顯的IO抖動(dòng)。6.2 Java工程化里的數(shù)據(jù)一致性、并發(fā)與超時(shí)問(wèn)題在實(shí)際接入過(guò)程中數(shù)據(jù)處理鏈路長(zhǎng)不像單表CRUD那么簡(jiǎn)單有幾點(diǎn)工程化細(xì)節(jié)值得單獨(dú)記一筆。首先是寫(xiě)入一致性的保障。我的場(chǎng)景是從消息隊(duì)列里消費(fèi)到文檔后先解析、切分、向量化再寫(xiě)入Milvus。如果向量化或?qū)懭脒^(guò)程中服務(wù)重啟了那這條文檔數(shù)據(jù)就丟了。為了避免這個(gè)問(wèn)題我加了一個(gè)文檔狀態(tài)表用MySQL記錄每個(gè)文檔的切分?jǐn)?shù)量、向量化狀態(tài)和寫(xiě)入狀態(tài)。流程是接收文檔 - 創(chuàng)建狀態(tài)記錄PENDING - 切分向量化 - 寫(xiě)Milvus - 更新?tīng)顟B(tài)為SUCCESS。下一次啟動(dòng)時(shí)掃描狀態(tài)為PENDING的文檔重新處理一遍這樣既保證了最終一致性又不會(huì)重復(fù)寫(xiě)入大量數(shù)據(jù)。其次是并發(fā)問(wèn)題。Java這邊用了線程池并發(fā)處理文檔切分和向量化但在調(diào)用ONNX模型做推理時(shí)OrtSession不是線程安全的并發(fā)推理需要做同步或者用線程局部變量。我的土辦法是每線程一個(gè)Session實(shí)例這樣既避免了鎖競(jìng)爭(zhēng)又充分利用了多核CPU。MilvusClient倒是線程安全的可以直接并發(fā)調(diào)用但要注意控制并發(fā)度我壓測(cè)下來(lái)8到16個(gè)并發(fā)寫(xiě)入或查詢(xún)線程都比較穩(wěn)定再高容易觸發(fā)Milvus端的連接池瓶頸。最后是超時(shí)和重試。Milvus的網(wǎng)絡(luò)交互是gRPC超時(shí)時(shí)間默認(rèn)比較長(zhǎng)但業(yè)務(wù)接口不能讓用戶(hù)等太久。我給檢索接口設(shè)置了一個(gè)超時(shí)器超過(guò)2秒就暫時(shí)返回服務(wù)繁忙或走降級(jí)策略避免把連接池拖死。同時(shí)每次寫(xiě)入操作都加了失敗重試邏輯重試三次間隔指數(shù)退避。這里我踩過(guò)的一個(gè)小坑是Milvus的insert操作不是冪等的如果客戶(hù)端寫(xiě)超時(shí)后重試服務(wù)端可能已經(jīng)寫(xiě)入成功導(dǎo)致同一條chunk插了兩遍。解決方法是插入前生成一個(gè)業(yè)務(wù)側(cè)唯一ID寫(xiě)入時(shí)用這個(gè)ID作為主鍵靠autoID就不行要自己指定ID這樣重復(fù)插入就能被主鍵沖突擋住。6.3 檢索效果調(diào)優(yōu)從糟糕結(jié)果到可用狀態(tài)項(xiàng)目上線之后我調(diào)了一段時(shí)間的檢索效果。要知道向量檢索不是接完就完事的效果好壞受切分粒度、向量模型、查詢(xún)側(cè)文本處理、TopK參數(shù)等多重因素影響。這里把幾個(gè)性?xún)r(jià)比最高的優(yōu)化手段按優(yōu)先級(jí)列一下優(yōu)化項(xiàng)具體操作效果提升切分窗口從500字降到200到300字中檢索粒度更精準(zhǔn)添加指令前綴BGE模型查詢(xún)和文檔側(cè)都加前綴極大命中率翻倍元數(shù)據(jù)過(guò)濾檢索時(shí)優(yōu)先按category過(guò)濾高縮小搜索范圍結(jié)果重排序Top10召回后按原文輕量rerank高最后一條內(nèi)容質(zhì)量決定用戶(hù)體驗(yàn)去掉停用詞查詢(xún)文本清理的、了、呢小但穩(wěn)定重排序這步我很推薦做。最簡(jiǎn)單的方式是Milvus先招回Top20然后把這20條chunk的文本和用戶(hù)問(wèn)題再做一次余弦相似度重算取更精確的Top5返回給上游做答案生成。因?yàn)镸ilvus的ANN搜索本身是近似的Top20的精度可能不如Top5但重排序能把這部分誤差糾回來(lái)。我實(shí)際體驗(yàn)下來(lái)重排序后的結(jié)果比直接Top5的滿意度要高不少而且實(shí)現(xiàn)成本很低幾十行代碼的事。有個(gè)建議是把重排序邏輯和Milvus搜索解耦獨(dú)立成一個(gè)RerankService方便后續(xù)升級(jí)成CrossEncoder模型而不是每次都做余弦重算。如果你有精力做CrossEncoder的重排序會(huì)更專(zhuān)業(yè)模型效果相比普通余弦相似度有明顯代差。6.4 快速排錯(cuò)速查表最后把這段時(shí)間遇到的典型問(wèn)題整理成一個(gè)速查表方便大家少走彎路現(xiàn)象大概率原因解決方式milvus connect failDocker依賴(lài)容器etcd/minio沒(méi)起用docker compose up -d全部拉起確認(rèn)健康狀態(tài)創(chuàng)建Collection報(bào)維度錯(cuò)誤模型輸出維度與Collection定義不一致打印模型輸出shape與字段dimension對(duì)齊查詢(xún)結(jié)果為空沒(méi)有寫(xiě)入數(shù)據(jù)或expr過(guò)濾條件太嚴(yán)格先去掉過(guò)濾條件測(cè)試再用collection stats驗(yàn)證數(shù)據(jù)量查詢(xún)速度突然變慢向量字段沒(méi)建索引創(chuàng)建HNSW或IVF索引等待索引就緒插入時(shí)返回主鍵沖突自增ID被關(guān)閉且業(yè)務(wù)側(cè)指定了重復(fù)ID檢查ID生成邏輯或改用autoIDJava進(jìn)程內(nèi)存溢出批量插入數(shù)據(jù)量過(guò)大每次插入控制在1000條以?xún)?nèi)及時(shí)釋放list結(jié)果語(yǔ)義相關(guān)性差沒(méi)加BGE指令前綴或切分窗口過(guò)大按上文添加前綴縮短切分窗口還有一個(gè)小細(xì)節(jié)Milvus的collection如果刪除重建之前的數(shù)據(jù)就徹底沒(méi)了所以生產(chǎn)環(huán)境一定不要在生產(chǎn)connection上隨便執(zhí)行dropCollection。我在開(kāi)發(fā)環(huán)境就手滑過(guò)一次結(jié)果整個(gè)知識(shí)庫(kù)的向量數(shù)據(jù)全部清空重新跑了一遍全量入庫(kù)流程白白浪費(fèi)了一個(gè)下午。結(jié)尾分享這套Java接向量數(shù)據(jù)庫(kù)的方案已經(jīng)在我的知識(shí)庫(kù)項(xiàng)目里穩(wěn)定跑了兩個(gè)多月文檔入庫(kù)量累計(jì)超過(guò)20萬(wàn)條chunk單次查詢(xún)平均耗時(shí)120毫秒左右數(shù)據(jù)安全性也因?yàn)槿镜鼗P投玫搅吮U?。我個(gè)人實(shí)操中的體會(huì)是向量數(shù)據(jù)庫(kù)本身不難接難的是把文檔怎么切、向量怎么生成、檢索怎么調(diào)優(yōu)這套鏈路想明白。如果你也在做類(lèi)似項(xiàng)目建議先拿一個(gè)小數(shù)據(jù)集從切分和模型的前綴效果開(kāi)始做起把每一步的結(jié)果都打印出來(lái)看一眼不要等到全鏈路完成再一起調(diào)試那是災(zāi)難。最后再分享一個(gè)小技巧每次修改切分策略或模型后別急著全量更新索引先選一個(gè)真實(shí)用戶(hù)查詢(xún)用新方案跑一遍對(duì)比一下返回的Top5結(jié)果效率最高。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
99九九热在线观看| 六月婷婷久久| 五月天啪啪啪| 五月丁香婷婷色色色| 99热这里只有精品8| 综合久久首页| 五月天色综合| 九九综合视频在线观看| 无码人妻丰满熟妇奶水区码| 五月天另类小说久久小说网| 天堂久久大香蕉| 丁香六月欧美| 色婷婷综合久久久久| 婷婷久久丁香五月| 天堂婷婷五月在线| 91操黄| 欧美天天性| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 婷婷伊人综合中文字幕| 丁香成人五月天| 丁香午月AV中文字幕| 五月婷丁香| 激情五月丁香色婷婷| 亚洲精品无AMM毛片| 26uuu亚洲欧美| 一本到不卡高清DVD| 九九久热| 九月色婷婷| 欧美日韩99| 色狠狠六月| 久久精品国产AV一区二区三区 | 9l久久久视频| 色婷婷69| 一本道综合网| 亚洲色夜| 国产毛片精品一区二区色欲黄A片| 精品怡红九九九| 9999热精品| 91丁香五月| 国产67194| 亚洲色婷婷| 色婷婷色久综| 99人碰碰碰| 国产伦亲子伦亲子视频观看| 色99在线观看| 婷婷五月天.com| 五月婷婷婷色| 这里有精品| 激情亚洲色图片丁香综合| 男同色五月开心五月激情五月| 俺去也五月天| 综合大香蕉| 久久激情视频| 五月婷婷激情| 另类国产综合| 久久五月视频| 久久久久久婷| 色99在线| 五月天婷婷AV| 人人舔天天| 色婷婷影视99| 无码人妻少妇色欲AV一区二区| 国产高清精品色| 色婷婷影| 婷婷香蕉精品| 狠狠色综合网站久久久久| 色播五月丁香综合| 婷婷久久亚洲| 国精产品一区二区三区| 国产又色又爽又黄又免费| 综合激情深爱| 美女天天久久| 五月激情网站| 婷婷丁香六月天激情四射网| 丁香五月天社区| 99热免| 99精品视频免费在线播放| 色操综合| 国外亚洲成AV人片在线观看| 婷婷五月综合久久中文字幕| 六月丁香社区| 亚洲另类婷婷五月综合| 色婷婷五月影视| 丁香色色五月| 国产精品久久久爽爽爽麻豆色哟哟| 成功精品影院| 国精产品一区二区三区| 十月丁香婷婷| 日韩色色网| 五月天婷婷激情网| 色色综合网。| 色婷青青| 国产精品久久欧美久久一区| 超碰99在线| 婷婷瑟瑟五月天| 丁香五月婷婷啪| 天天插天天射天天干| 丁香五月偷拍| 91一起操| 91人人操人人| 强伦轩人妻一区二区电影| 。久久久久久久久久久久久久人妻| 91九色在线| 色色色色色日韩午夜激情| 成人做爰A片免费看视频| www.五月婷婷.com| 97极品在线| se99视频| 婷婷五月天黄色小说| 69五月天视频| 五月丁香婷婷激情在线| 日本色婷婷久久99精品91| 婷婷五月香蕉| 日本美女上人| 任你擦免费视频| 亚洲成人日韩无码精品| 爱操天堂| 色色999三级片| 欧美成人AAA片一区国产精品| 超碰在线人妻| 五月天操逼网| 久久婷婷激情| av在线免费播放| 天天谢天天操| 日日操天天| 亚洲另类久久| 婷婷丁香五月亚洲| 夜夜干夜夜操| 色婷婷综合影院| 六月色播| 99在线免费观看| 色丁香婷婷| 免费观看的AV| 99在线亚洲| 五月婷久久在线| 五月天婷婷丁香花| 啪啪激情网站| 五月天激情婷婷丁香| 婷婷五月免费观看| 一本久久亚洲五月婷婷| 免費亭亭成人| 久久思思热视频| 人妻尝试久久久久久久久久久久| 99性爱视频网站| 婷婷五点亚洲| 五月婷婷av| 狠狠操婷婷| 久久这里只有欧美| 日本狠狠干| www激情| 天天干天天干天天干天天干天天干| 激情婷婷视频在线| 亚洲色图45p| 91精品在线看| 婷婷色香六月综合激情| 九九99一区| 久久婷婷综合五月趴| 五月婷视屏在线观看| 99精品网| 亚洲综合五月| 色婷婷色综合久久精品V| 99色在线观看视频者| 婷婷综合国产| 丁香六月色婷婷| 激情综合五月激情XXXX| 99久久精品视频女神1| 色五XX| 五月婷婷在线视频观看| 五月丁香婷婷综合在线| 久久机热思思热| 天天日,天天射,天天舔| 国产精品美女| 天天干,夜夜爽| 色色欧美。| 狠狠爱丁香婷| 丁香五月在线人妻| 久久综合激情婷婷激情| 五月丁香综合啪啪| 激情久久伊人| 久久狼人天堂| 亚洲综合婷婷| 丁香六月激情| 影音先锋秋秋五月婷婷| 色三级色三级| 丁香六月天色婷婷| 99色中文| 色欲色欲久久宗合网| 欧美日韩精品一区二区三区钱| 五月激情综合性爱| 婷婷色天香| 色五月激情五月天| 99久久国产宗和精品1上映| a毛片二逼wwwwwwwwww| 九色 在线| 婷婷第六色| 人人人人人人人草| 国产激情av| 精品无码久久久久久久久| 丁香啪啪中文字幕| 丁香六月AV| 开心五月天激情网站| 五月丁香成人| 亚洲人成播放网站| 99热日韩这里只有精品| 五月婷婷导航| 日本综合99| 久久92| 五月丁香六月婷婷亚洲激情综合| 婷婷五月天奸女| 日本猛少妇色XXXXX猛叫| 99热 在线播放| 狠狠干婷婷| www.狠狠干com| 人人干女人| 精品影院| 99色色热热| 成人色色视频| 久久xx| 色婷婷综合电影| 五月六月激情婷婷| 99色色网| 五月丁香激| 婷婷五月丁香色情| 色五月婷婷五月天| 久久综合干| www.激情五月天com| 久99久视频| 99久久偷拍视频| 91婷婷伊人牛牛| 9久久久| 丁香成人色情五月天| 婷婷久久欧美| 99这里都是精品| 久久xx| 密臀av无码人妻精品| 99热99思午夜精品| 色五月婷婷综合| 激情五月天福利| 色9色| 丁香五月婷婷亚洲综合精品| 激情五月六月婷婷| 大香蕉在线99热| AV伊人青草丁香六月| 一本色道久久综合狠狠躁小说| 免费观看全黄做爰的视频| 在线观看亚洲视频影院| 国产精品色婷婷AV综合色色| 亚洲精品第一国产综合亚AV| 亚洲看av的网站| 99热最新| 97碰碰人人| 国产亚洲色婷婷久久99精品91| AⅤ网站在线看| 狠狠色丁香| 色碰碰| 免费人人操| 六月丁香成人网| 国产精品天天狠天天看| 激情婷婷狠狠干| 久久久久9| 日本色频| 五月婷婷大香蕉| 99视频精品全部免费看| 婷婷五月天影院| 91狠狠综合久久| 男人天堂99| 国产色网站| 天天综合网站| 久色激情| 欧美在线干| 久99久热| 久久99网| 天天想夜夜爽天天爽| 五月天丁香网站| 久久婷婷激情四射五月天| 啪啪小说五月天| 依人大香蕉在钱1| 开心五月婷婷99| 精品成人在线| 99操逼| 97碰91| 日日夜夜爽| 九色视频九色九色91jiuseshipin| 五月丁香婷中文字幕 | 色狠狠色噜噜AV天堂五区| 久久99激情| 9999久久久久| 这里只有精品久| 人人操9| 欧美爆乳一区二区三区| 99爱爱网| 九九激情| 深爱激情五月天婷婷网| 国产91在线视频| 一本久道综合色婷婷五月| 久草婷| 天天激情欧美美女| 五月天社区| 99亚洲精品| 操操操av| 99热免费| 久久精品亚洲一级牲爱综合| 97热这里精品在线视频| 五月丁香综合| 婷婷丁香综合| 婷婷成人在线| 日本五月婷婷| 五月天婷婷网站| 久久婷婷五月综合色丁香花| 991精品在线视频| g00d人体西西| www.99久| 色欲五月天| 黄色录像网点| 99热天堂| 日韩无码人妻一区二区三区综合| 久久久潮喷-久久久九九-成人AV| 黄色一级影片| 成人在线不卡| 大战熟女丰满人妻AV| 99色一| 99热全是精品| 婷婷五月天色| 色色色色色色网| 九九色人| 香蕉曰比| 成人在线视频一区| 好吊丝aV| 综合性爱网| 激情五月天色色网| 成人色五婷婷| 亚洲色色图片| 另类视在线| 99热| 久久婷婷五月综合激情国产| 九九热思思热| 女同激情久久av久久| 欧美成人AAA片一区国产精品| 亚洲热久久| 91碰| 色 噜噜 九月 婷婷| 99精品在线| 五月婷婷黄色视频| 九九 激情 网| 狠狠色丁香乆乆| 一级精品999WWW| caopeng97日韩| 在线99色| 九九精品9| 色一情一乱一乱一区91| 婷婷射婷婷舔| 99国产小视频免费观看| 91成人看片| 777精品久无码人妻蜜桃| 久久免费精彩视频| 五月四色婷婷| 色婷婷黄色网络| 婷婷六久久| 五月丁香六月婷婷网| 青青草激情网| 五月停停丁香| 激情婷婷人妻| 大功率国产在线| 久久中国毛毛片爱久久| 婷婷激情久久| 极品人妻XXXXOOOO| 国产成人亚洲综合A∨婷婷| 99久久玖玖| 超碰人人艹| 97操碰98| 狠狠操天天干| www999日韩精品| 欧美综合五月丁香五月天| 国产精品成人在线| 色色五月天丁香婷婷| 99九九这里有免费视频| 精品一二三区久久AAA片| 第四色五月天| 亚洲色模骚货| 六月天丁婷婷| Va另类视频| 亚洲激情综合色站| 久久人人看| 色婷婷文字幕| 久久99久久久久久久噜噜| 国产肥白大熟妇BBBB视频| 五月天婷婷激情在线色图| 五月婷婷免费在线视频| 欧美性色五月天| 久久只有精品| 五月情丁香色| 另类五月婷婷| 婷婷日在线观看| 免费婷婷| 久久久91| 综合色色网| 色爽九九| 六月婷久久| 91人人操| www.91在线观看| 亚洲色婷婷久久99精品91| 欧美日韩成人综合9| 性无码专区无码| 九九在线精点品| 97色天堂| 五月丁香五月综合欧美| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | www.五月婷| 国产性爱大片久久| 91色欲综合| 伊人激情综合| 日本nghangse中文字幕| 激情丁香五月综合| 亚洲成人网站在线| 欧洲一区二区| 99日韩| 激情视频91| 干一干xxxx| 婷婷色中文| 久久综合9| 91碰碰碰久久久久| 99免费偷拍视频| www.AV在线| 久久久久久久久久婷婷| 五月婷久久久| VA色婷婷| 亚洲 日韩色色| 99久久a线观| 天天人人天天爽| 亚洲爱爱无码婷婷色五月| 91超级碰碰碰| 婷婷伊人綜合中文字幕| 99热精品少| 欧美激情五月天在线观看| 综合狠狠五月婷婷| 亚洲人人操BD| 色五月av| 九九Av| 五月天激情综合| 国自产拍偷拍精品啪啪一区二区 | 五月丁香色婷婷婷基地| 成人婷婷五月| 久热这里只有精品6| 日本婷色| 人人草人人舔| 亚洲天堂久久| 激情综合九| 99伊人婷婷在线| 丁香婷婷五月激情四射网| 怡红院91a√| 99啪| 天天综合天天玩夜夜玩天天玩夜夜玩 | 亚洲岛国电影| WWW,五月| AV天堂淫乩| 乱抡小BB| 婷婷噜噜| 狠狠色婷婷7777久| 99精彩视频网站在线| 伊人婷婷福利网| 日韩视频女神99| 中文字幕在线日亚洲9| 日产精品久久久久久久蜜臀| 97超级碰碰碰久久久| A在线观看| 九九热再线九九视频免费在线观看 | 亚洲精品一二三| 五月丁香五月丁香五月丁香五月丁香91| 五月丁香六月综合基地| 丁香六月爱综合| 综合婷婷五月天| 99精品视频免费观看| av免费在线看不卡无毒| 激情五月天网站| 另类图片五月天| 91呦呦呦| 婷婷六月色| 99只有这里是精品| 91一起操| 久re在线| www.sd-xiangsu.cpm| 五月天综合婷婷| 99在线精品观看99| 99在线视频喷水| 大香蕉久热| 婷婷色色播五月天| 狼人久草| 色yeye欧美| 色综合网上班开心婷婷久久| 五月天婷婷五月| 超碰二区| 小香蕉av| 只有精品视频在线观看| 99热只有| 伊人久久丁香五月91| 中文字幕综合网| 成人久久天天x资源站| 丁香婷婷深情五月亚洲| 日韩成人无码| 任你爽视频| 激情丁香五月天图片| 超碰免费在线| 在线视频你懂得| 99热在线精品观看| 日韩av一区二区在线/日产精品久久久 | 色5月婷婷色| 99热最新网址| 99色视频| 91碰| 色久五月天| 99免费在线| 天堂五月婷婷| 天天日,天天射,天天舔| 国产无遮挡又黄又爽免费网站| 超碰在线国产9| 色天天综合| 婷婷色色网| 狠狠第四色| 欧美一级操逼视频| 日本少妇裸体做爰高潮片| 久xxxx| 天天干天天色天天干| 天天搞天天爽| 日韩人妻无码精品| 久色婷婷200| 丁香五月婷婷免费视频| 亚洲综合网激情小说| 激情九月婷婷| 日韩成人电影在线播放| 亚洲激情五月天| 玖玖色综合色| 五月丁香在线精品| 婷婷五月天av| 七七九九色色| 久久婷婷五月综合| 操笔无码| 99久久婷婷国产综合精品草原| 久久久91| 亚洲成人免费在线| 亚洲成人AV在线观看| 噜噜色婷婷| 丁香操逼| 99re热视频这里只精品5| 不卡在线视频| 深爱激情久久| 亚洲狠狠爱婷婷| 五月亭亭激情综合| 亚洲亚洲人成综合网络| 六月香五月婷| 欧美丁香婷婷五月| 九九九色综合| 婷婷色导航| 亚洲操逼网| 五月色网| 九九热视频精品2| 五月婷婷中文| 婷婷 久综合| 激情综合婷婷| ji'qing'luan'ren'lun| 97超碰免费超级在线观看| 五月丁香婷婷色色| 综合99综合久久久久久久| 成人av观看| 99操免费视频| 9色视频在线| 亚洲精品视频在线| 天天爽天天爽天天爽天天爽天天爽天天爽天天| 丁香六月视频| 婷婷丁香18| 色婷婷综合网站| 日韩有码一区| 丁香婷婷九月| 久久九九爽| 中文AV网| 婷婷色五月天第7色| 日韩黄在免| 伊人久久丁香婷婷六月五月综合| wwww.色婷婷| 九九爱激情| 五月天激情图片网| 无码人妻激情| 五五月丁香花激情综合网| 蜜桃五月天| 思思热热久久| 日韩AV中文字幕在线| 激情九色| www.99在线| 99热这里只有精品8| 久鲁鲁色网| 日韩AV无码影片| 婷婷五月视屏| 色欲久久久久久综合网综合网| 丁香色六月婷婷| 久久久思思热| 亚洲av电影网站| 五月激情影视| 99开心五月五月丁香激情| 天天干天天爽| 五月天婷网| 五月天婷婷情色| 丁香六月情| 小视频一区| 99国产欧美视频| 国产67194| 五月天色婷婷av| 五月婷婷9| 成人看片网站| 五月丁香另类网| 欧美 日韩 成人| 精品久久99码| 日屌日日操日日色| 久久大香蕉| 日本久久色| 九九99热| 婷婷五月开心中文字幕色| 亚洲第二AV| 99九九视频| 九九机热| 伊人影音无码一区二区三区| 99这里有精品视频| WWW.夜夜操.com| 热婷婷在线视频| 五月天六月色| 五月婷亚洲精品| 五月激情丁香五月| 欧美日本97| 99热综合网| 岛国AV网| 日本色婷婷综合| 日本3级片一区2区| 超碰人妻公开在线| 成人午夜无码视频| 五月婷婷六月丁香色| 51XX午夜影福利| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | caop在线视频| 99re这里只有精品视频了| 大香蕉伊人久久| 开心五月婷婷| 丁香五月婷婷av| 综合色色婷婷| 丁香五月天啪啪| 黄页免费一级视频懂色| 午夜成人片400| 在线观看av网站| WWW丁香五月| 伊人久久大香线蕉av一区| 九月激情婷婷丁香| 天天综合在线网| 天天爽天天摸天天爱| 激情网 五月天| 9999热在线免费观看| 99精品视频免费观看近期发布| www色色com| 五月天激情亚洲| 337p午夜影院| 五月婷婷在线短视频| 很很色丁香久久停停| 成熟妇人A片免费看网站| 91黄址| 五月天婷婷丁香| 九九视频在线观看视频6| 色五月色图| 第四色婷婷丁香五月| 99热日本| 亚洲 25P| Xx色综合| 99视频色在线观看| 99久久9| 日韩 中文 欧美| 婷婷丁香五月天大香蕉| 97人妻超级碰碰碰碰碰| 色色国产| 能看的AV| 久久xxxx| 亚洲va综合va国产va中文| 在线99热| 99热精品观看| 丁香五月天啪啪激情综合网| 日韩黄黄| 99这里有精品视频3| 亚洲成人AV在线观看| 六月婷基地| 欧美日韩五月婷婷| 色色日本欧美| 国产操肏网站| 日韩美女羞羞网站在线观看| 色五月中文字幕| 色综合激情图区| 色婷婷丁香花五月天| 欧类av怡春院| 野战J办公桌椅H| 高潮毛片又色又爽免费| 日韩AV免费电影在线播放| 色婷婷成人做爰A片免费看网站 | 涩涩五月天| 深爱五月婷婷| www.婷婷,com| 婷婷99狠狠躁天天| 九九热这里| 五月花婷婷| 99热综合网| 狠狠插狠狠操| 色五月av| 色情婷婷五月天| 开心激情站| 禁欲电影完整版在线播放| 五月激情综合网| 狠狠精品干练久久久无码中文字幕| 丁香五月婷婷成人综合| 三十路磁力链接| 天天天天天天天操| 国产日韩欧美| 人妻激情在线| www.婷婷五月| 成人免费120分钟啪啪| 亚洲乱码日产精品BD| 人妻无码视频网| 日本婷婷色| 亚洲免费av观看| 成人一级片| 91欧美| 久久五月天精品视频| 激情五月婷婷网在线观看| 怡红院院久久| 狠狠做婷婷| 久热99热| 99热激情| 亚洲激情在线| 久久免片| 色狠狠色噜噜AV天堂五区| 国精产品一区一区三区免费视频| 999热视频精品99免费在线| 久久机热探花| 亚洲成人综合在线| 婷婷激情五月天色| 99精品亚洲| 大香蕉婷婷丁香天堂AV| 噼里啪啦完整版中文在线观看| 综合久久十三| 在线观看免费狠狠色丁香香综合| 婷婷五月天AV网| 丁香婷婷五色月| 丁香五月婷婷六月丁香| 婷婷丁香六月天| 熟妇高潮一区av| 97久久五月丁香婷婷| 深爱五月月天| 色欲色香伊人| 一起草av| 久久婷婷五月天激情新地址| ′久久99一| 性小说五月天| www.26uuu.com亚洲电影| 色久丁香五| 99熟女| 91九色白丝| 亚洲最大在线| 特级片神马电影| 欧洲亚洲免费视频9 | 五月丁香 啪啪| 婷婷5月天激情综合| 色五月激情| 婷色五月| 天天综合色丁香| 开心婷婷中文字慕| 人人爱人人摸人人澡| 色综合久久久久| 黄色高清无码| 最新日本A片| 婷婷婷婷婷开心无码播放| 4399亚洲视频| 激情综合视频| 久久机热这里只有精品免费视频| 丁香五月婷婷乱| 色婷婷88| 狠狠色 综合色区| 超碰91在线| 色婷婷六月丁香综合欲精品| 日韩成人电影AV| av第一二区| 狠狠色狠狠鲁| 色色色9| 老师把我爽高潮了免费A片| 99在线观看视频蜜臀| www.久久99热地址发布| 超碰熟女农村在线69| 精品久久二6| 5五月综合网亚洲| 91操人人操| 亚卅毛片| 激情综合网五月激情| 性无码专区无码| 久久免费操| 五月天色社区| 五月丁香影院| 久久99久久99久久99人受| 亚洲综合五月天婷婷| 精品人妻一区| 九九美女视频| 日日做夜夜爱| 色色婷婷丁香| 91Chinese在线| 久久综合五月| 丁香五月天堂婷婷| 五月婷婷六月丁香激情综合网| 91热在线| 色啦啦视频| 99操中文视频| 久久婷婷五月天蜜桃| 亚洲激情四谢| 狠狠色综合777| 婷婷综合色| www五月天com| 五月天深爱激情网| 久热超碰| 人妻久久久久久久久妻久久久久久久久 | 日日色综合| 丁香婷婷六月天| 五月婷婷|欧美| 99久久婷婷五月| 天天成人丁香美女AV| 天天插天天爱| 亚洲综合五月天婷婷丁香| 色噜噜狠狠色综合成人网| 五月婷婷无码| 亚洲综合字幕色色| 亚洲狠狠终合停停终合| 日韩AV大全| 色婷婷综合亚洲| 亚洲天堂热| AV堂狠狠干| 色婷婷导航| 精品人人操| 在线成人网站| 我爱va亚洲va52| 五月婷视屏在线观看| 国产成人AV| 爱草视频在线观看| 婷婷五月丁香六月| 五月丁香久久色| 五月天深爱激情网| 色九九九综合| 夜夜夜夜夜骑撸| 色色九区| 日韩另类在线观看| 婷婷五月AV| 亚洲激情综| 国产免费AV在线| 九九视屏| 成人五月丁香社区| 99A级片| 激情综合网五月| 99爱在线视频| 综合激情四射一theav| 亚洲爱爱无码婷婷色五月| 超pen个人视频97| 婷婷丁香人妻久久在线观看| 极骚大香蕉伊人| 深爱五月日韩| 九月色婷婷婷| 五月婷婷六月色| 99久久视频| 丁香九月激情| 天天天久久久| 610018岁成人视频| 五月丁香人妻| 亚洲婷婷婷| 丁香综合婷婷五月天| 激情综合婷婷久久| 91人人操人人| 天天开心婷婷丁香五月| 免费无码毛片一区二区A片| www.俺去也com| 一起草av在线观看| 在线视频你懂得| 亚州激情在线视频| 亚洲丁香婷婷| 久久精品性爱| 涩涩婷婷五月| 久色婷婷200| 五月丁香黄色| 久久激情五月| 久久 视频这里只有精总| 丁香五月婷婷天堂大香蕉| 久碰婷婷视频| 色狠狠激情五月| 99热香港| 丁香婷婷六月天| 99热6这里只有精品6| 91碰免费视频| 五月婷婷五月天| 99噜噜噜在线播放| 日本www免费九九| 五月婷婷五月丁香| 色婷成人狠干| 99热官网| 色色综合色| 色啪影院| 香蕉影院色| 五月天婷婷綜合院| 五月色丁香综合| 天天操天天插天天射| 99自拍网| 精品成人无码A片观看香草视频| 亚洲婷婷丁香五月| 日韩无码色色| 婷婷五月天偷拍| 丁香五月婷婷啪啪啪| 这里只有精品96| 欧美日本黄色| 婷婷五月天影视网址| www99xxxx五月丁| 天天操天天操天天操天天操天天操 | 久久九九玖玖| 国产人妻777人伦精品HD| 五月婷婷亚洲| 激情五月天久久丁香| 午夜微拍福利| 九九热在线观看视频| 天堂AV在线看| 外国碰视频网站97| 久久婷婷五月丁香蜜桃网| 啪啪激情网| 丁香九月婷婷色| 日韩中文欧美| 色色综合热| 久久性爱视频| 久久99免费视频| 99视频精品全部免费看| 波多婷婷久久| 99爱视频在线观看这里只有精品| 久热网在线视频| 欧美激情五月天婷婷| 色yeye欧美| 欧美精品XXXXBBBB| 色欲天天综合| 五月丁香婷婷激情澎湃四射| 狠狠大香婷婷爱| 97热久久五月婷婷| 五月婷婷 婷婷五月 一区二区 久久久 | 碰碰碰碰碰99| 色色99| 九九视频在线观看| 婷婷五月丁香伊人网| 色区久久| 99综合99| 成人亚洲精品久久久久| www.国产色| 九九无码| 中文字幕色色| 天天日日人| 丁香五月婷婷综合91| 久久无码成人| 五月丁香色情| 五月婷婷丁香| 中文字幕 中文字幕明步| 五月天婷婷色播在线网| 丁香五月天激情网址| 大香蕉久热| 色开心五月丁香| 亚洲综合五月天婷婷| 亚洲无码99| 99热成人精品网站| 99r这里| 99热在线免费观看精品| 婷婷五月色情天| 色综合久久88色综合天天看| 五月色婷丁香| 久操香蕉| 婷婷综合丁香| 国产精品色| 在线视频另类| 五月激情婷婷女| 99视频这里有精品| 依人大香蕉| 九热视频| 91日日日| 婷婷五月色惰| 欧美色九| 九九99免费视频| 在线另类视频| 色五月av| 9191avse| 大香蕉五月天婷婷| 午夜丁香六月婷| 亚洲成人一区| 玖久久网站| 五月天狠狠网| 久久香蕉婷婷| 国精产品一区一区三区有限公司杨 | 天堂久久精品| 婷婷5月九九| 97在线日韩| 精品国产va久久久久久久| www开心激情网| 亚州操逼网| 亚洲视频操| 色色色综合色| 九九综合伊人| 91viP在线看| 日本九九视频| 色婷婷成人做爰A片免费看网站| 久久久五月天| 色婷婷欧美| 91狠狠色丁香婷婷综合久久| 人人综合久| 免费看成人747474九号视频在线观看| 97操女视频| 日本少妇AA一级特黄大片| 婷婷五月综合网激情| 人人干人人操外国| 91日本在线免费| 丁香五月色情av| 综合久久综合综合| 伊人热婷婷| 色吊丝永久访问网址| 激情床戏| 99久在线观看| 一区色色色色网| 99在线观看| 美女五月激情| 天天插天天草人人玩| 五月色婷婷在线观看| 开心五月婷婷激情| 99久精品| 91|九色|动漫| 久久99激情五月天| 婷婷五月天你懂的| 五月婷婷偷拍| 五月婷婷综合激情| 久久五月丁香激情综合| 色婷婷综合网站| 丁香在线视频| 超碰人人干| 丁香婷婷色五月| 玖玖99婷婷| 五月香蕉婷婷| 玖玖婷婷色五月| 99久久9| 色五月aV| 丁香五月婷婷影院| 伊人久久大香线蕉av最新| 色狠狠综合| 91中文狠狠综合| 秋霞丝袜啪啪啪| 激情网第九色| 五月丁香六月婷精品视频| 蜜桃五月天| 中文字幕人妻在线| 99激情| av婷婷丁香| 色色色综合色| 丁香五月深爱五月婷婷| 五月丁香综合在线| 久热这里只有精品6| 狠狠色婷婷7777久| 亚洲午夜成人av电影网| 中文字幕网站在线观看| 丁香五月天婷婷在线视频| 91人妻视频| 久超超碰| 欧美成人一区二区三区在线视频| 碰人人97| 欧亚洲在线高清视频| 99精品久久久久久久婷婷久久| 黄网免费观看| 色啦啦视频| 丁香婷婷五月激情| 色五月丁香伊人| 丁香九月久久| 99久操视频| 国产欧美日韩性爱| 激情久久综合网| 久久久久这里只有精品| 五月丁香花激情啪啪网| 五月色综合网欧美网| 97色色在线视频| 人妻久热| 色婷婷色综合久久精品V| 日韩 中文 欧美| 狠狠操在线视频| 色综合九九| 久久大香蕉丁香| 黄色AAAAAAA| 激情com| 停停五月色宗合| 四川BBB搡BBB搡多人乱亂| 台湾无码A片一区二区| 天天日人人爽| 久久丝袜婷婷| 大香蕉AV电影在线| 玖热精品综合视频| 婷婷五月草| 日本强伦片中文字幕免费看| 在线成人网址| 五月天婷婷无码视频| 99性视频| 91高潮喷水久久久久久久久| 5月婷婷综合| 激情四射婷婷| Y11111111111少妇电影院| 色情五月天小说| 色五月综合激情| 欧美性做爰大片免费看办公室 | 国内精品玖玖| 九色婷婷| 婷婷久久图片| 婷婷五月综合激情小说| 五月色亚洲| 丁香五月综合激情性爱| 五月婷婷开心激情六月蜜桃| 99热爱爱干干日| bukadeavzaixian| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 99热这里只有精品1998| 99亚州综合精品成人网| 97碰操| 婷婷五月丁香五月天| 五月天伊人网| 超级黄色片| 色XX综合网| 七七婷婷综合| 亚洲另类电影| 丁香五月色网| 色婷婷啪啪| 亚洲丁香五月| 欧美三级巜人妻互换| 五月丁香猫咪久久婷婷综合视频激情四射网入口 | 丁香婷婷天堂| 丁香狠狠| 五月丁香影视| 久久三级视频| 超碰在线中文字幕| 亚洲日本韩国| 丁香五月图片| 99精品无码| 丁香五月手机在线| 日日日日日| 成人AV综合在线| 色丁香五月天婷婷| 色五月天 丁香| 丁香欧美| 操91| 99热网站| 久婷婷| 丁香五月AV| 色色五月天婷婷丁香| 欧美超碰亚洲| 热久久99热欧美国产亚洲| 9视频在线成人网站| 99er这里只有精品| 欧美婷婷综合| 99免费热在线精品| 99热这里只有精品免费| 91人人澡人人爽人人看| 国产精品爽爽久久久久久| 国产精品视频网| 五月天久久91| www.1024久久| 九九视频在线观看| 婷婷五月天大香蕉| 日本3级片一区2区| 婷婷午夜综合| AV在线中文| 色婷婷99| 婷婷五月激情中文字幕| 丁香五月综合激情久久潮喷| 五月丁香六月激情欧美综合| 99热国产| 女人天堂AV| 色婷婷婷婷成人网| 久久久久久久久久久-久五月天婷婷| 色综合爱综合| 丁香婷婷九月在线| 亚洲五月情| 97在线视频 欧美| 色热久| 视频综合网| 中字幕视频在线永久在线观看免费| 人人综合五月人人婷婷| 色天使久久综合| 67194中文字幕| 婷婷午夜| 99视频这里有精品| 丁香五月综合AV在线| 亚洲顶级VA在线观看-高清完整版在线影院观看-S022AV | 91久久九九| 天天天天天操| 丁香亭亭激情四射| 成人网站免费在线播放| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 99久99热| 九九成人视频| 丁香五月婷婷啪| 99只有精品| 人妻肉射免费观看| 色色五月天com| 亚洲免费看片| 偷拍视频五月天| www,超碰| 色女人久久| 噜噜色五月| 久热99视频在线观看| 激情人妻综合| 99色在线观看免费| 婷婷丁香红五月91C| 操九色| 五月丁香怕怕综合| 五月色婷婷夜色| 五月婷婷色五月| 婷婷六月中文字幕| 欧美激情伊人| 色色色综合网| 性爱视频久久| 婷婷激情肏屄网| 欧美成人AAA片一区国产精品| 色99热| 色综合中文色综合网| 国产成人精品亚洲线观看| 丁香婷婷激情六月五月开心| 激情五月天激情网| 超碰2021| 色五月婷婷影院| 激情综合色播| 草草视频91| 色吊丝99| 国产精品电影| 99色免费观看全部| 久久久久妻| 色综合久久无码| 六月丁香网| 99热久久这里只有精品2010| 久久九九爽| 97人人操人人操人人操人人| 色综合色色| 久狠狠狠| 五月婷婷丁香伦理网| 五月激情婷婷国产精品久久久久久| 六月激情婷婷| 婷婷狠狠97| 久久婷婷在线| 嫩草AV久久伊人妇女超级A| 香蕉久日夜| 色中色综合| 2025天天日爽| 九九热这里精品| 久久婷婷五月综合啪| 五月天丁香色色| 91久热| 日韩爱操视频| 天天干天天日天天插| 久婷| www综合久久| 国产精产国品一二三在观看| 婷婷久久五月丁香| www.99热这里只有精品| 99热成人永久免费| 婷婷情色五月天| 婷婷94s| 激情五月综合网| 五月丁香六月成人| www激情婷婷com| 色色色色色色综合| 久久国产精品乱子伦_靑青草…| Www99热|