欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

基于Spark SQL的即席查詢(xún)服務(wù)設(shè)計(jì)與實(shí)現(xiàn)

基于Spark SQL的即席查詢(xún)服務(wù)設(shè)計(jì)與實(shí)現(xiàn) 簡(jiǎn)介面向大數(shù)據(jù)課程設(shè)計(jì)與期末大作業(yè)的基于 Spark SQL 引擎的即席查詢(xún)服務(wù)源碼包完整包含可運(yùn)行的系統(tǒng)源代碼、部署文檔與代碼注釋適合需要快速交付高完成度項(xiàng)目的學(xué)生參考。壓縮包共 2000 個(gè)文件約 16.83MB其中前端以 HTML/CSS/JS 為主后端含 Java 源碼與 XML、Properties 等配置另附 SQL、YAML、Python、Shell 腳本覆蓋從建表、配置到啟動(dòng)的完整鏈路目錄結(jié)構(gòu)清晰便于按模塊查閱與二次開(kāi)發(fā)。目前已有 187 人學(xué)習(xí)下載。資源功能上支持即席查詢(xún)、結(jié)果展示與基礎(chǔ)管理界面美觀、操作簡(jiǎn)單并配有注釋和文檔說(shuō)明可幫助新手理解 Spark SQL 執(zhí)行流程與查詢(xún)服務(wù)實(shí)現(xiàn)思路簡(jiǎn)單部署即可運(yùn)行也可作為課程設(shè)計(jì)、期末大作業(yè)的高分參考模板具有較高的實(shí)際應(yīng)用價(jià)值。1. 基于Spark SQL的即席查詢(xún)服務(wù)它到底解決什么問(wèn)題先給這個(gè)項(xiàng)目定個(gè)位它不是一個(gè)數(shù)據(jù)平臺(tái)而是一個(gè)“能讓用戶隨手提交一條SQL、在Spark上跑完、把結(jié)果拿回來(lái)”的薄服務(wù)層。做課程設(shè)計(jì)或大作業(yè)時(shí)最常見(jiàn)的誤區(qū)是把Spark SQL寫(xiě)成一個(gè)固定報(bào)表的批處理程序用戶改個(gè)篩選條件就要改代碼、重新打包、重新提交這恰恰丟掉了“即席”這個(gè)詞的核心價(jià)值。即席查詢(xún)服務(wù)要承接的是“未知的、臨時(shí)的、不可預(yù)測(cè)的”查詢(xún)請(qǐng)求——用戶拿到數(shù)據(jù)后想知道某個(gè)維度的分布隨口寫(xiě)一句SELECT ... GROUP BY ...服務(wù)端接收、解析、提交到Spark、把結(jié)果以友好的格式返回。適合做這個(gè)方向的人是已經(jīng)能寫(xiě)Spark SQL、但對(duì)“怎么把Spark的能力封裝成一個(gè)可以被外部調(diào)用的服務(wù)”還沒(méi)有完整概念的同學(xué)。這個(gè)項(xiàng)目的交付物包含兩部分源代碼和文檔說(shuō)明。實(shí)話說(shuō)很多大作業(yè)的源代碼寫(xiě)得并不差但文檔跟不上導(dǎo)致評(píng)閱老師不知道你的設(shè)計(jì)思路和參數(shù)依據(jù)。所以這篇文章會(huì)把服務(wù)怎么搭、參數(shù)為什么這么設(shè)、哪些地方最容易翻車(chē)講透讓你既能寫(xiě)出能跑的代碼也能寫(xiě)出一份說(shuō)得清設(shè)計(jì)理由的說(shuō)明文檔。2. 服務(wù)架構(gòu)與Spark SQL引擎選型為什么不用JDBC直連2.1 即席查詢(xún)服務(wù)的分層設(shè)計(jì)從HTTP到Spark的完整鏈路一個(gè)典型的基于Spark SQL的即席查詢(xún)服務(wù)鏈路從上到下分四層接入層、調(diào)度層、執(zhí)行層、存儲(chǔ)層。接入層負(fù)責(zé)接收用戶的SQL文本和參數(shù)做基礎(chǔ)校驗(yàn)和鑒權(quán)調(diào)度層把SQL交給執(zhí)行引擎并管理任務(wù)的生命周期執(zhí)行層是Spark Session容器的管理器負(fù)責(zé)創(chuàng)建和復(fù)用SparkContext存儲(chǔ)層對(duì)接Hive Metastore或本地HDFS文件。這樣分層的意義在于換掉任何一層都不影響其他層。比如接入層從HTTP改成Thrift執(zhí)行層的SparkSession不用動(dòng)存儲(chǔ)層從Hive換成Iceberg接入層的接口參數(shù)也不用動(dòng)。# 服務(wù)入口FastAPI Spark Session池最簡(jiǎn)可用版本 from fastapi import FastAPI, HTTPException from pyspark.sql import SparkSession from pyspark.sql.utils import AnalysisException import asyncio import json import uuid app FastAPI() # SparkSession是重資源只能全局建一次禁止每個(gè)請(qǐng)求都new一個(gè) spark SparkSession.builder \ .appName(ad-hoc-query-service) \ .master(yarn) \ .enableHiveSupport() \ .config(hive.exec.dynamic.partition, true) \ .config(spark.sql.shuffle.partitions, 20) \ .config(spark.dynamicAllocation.enabled, true) \ .config(spark.dynamicAllocation.minExecutors, 2) \ .config(spark.dynamicAllocation.maxExecutors, 10) \ .config(spark.sql.adaptive.enabled, true) \ .getOrCreate() query_cache {} app.post(/api/query) async def run_query(request: dict): sql_text request.get(sql) max_rows request.get(maxRows, 1000) if not sql_text or len(sql_text) 1024 * 100: raise HTTPException(status_code400, detailSQL為空或超過(guò)長(zhǎng)度限制) if not sql_text.strip().lower().startswith(select): raise HTTPException(status_code403, detail只允許SELECT類(lèi)型的查詢(xún)) query_id str(uuid.uuid4()) try: # async toThread 防止阻塞FastAPI的事件循環(huán) result await asyncio.to_thread(execute_sql, sql_text, max_rows) return {queryId: query_id, rows: result} except AnalysisException as e: raise HTTPException(status_code400, detailfSQL語(yǔ)法或表名錯(cuò)誤: {str(e)}) except Exception as e: raise HTTPException(status_code500, detailf執(zhí)行失敗: {str(e)})這段代碼里最關(guān)鍵的決定是SparkSession全工程只創(chuàng)建一次放在模塊頂層。SparkContext啟動(dòng)要申請(qǐng)Executor、加載元數(shù)據(jù)冷啟動(dòng)耗時(shí)經(jīng)常超過(guò)30秒如果每個(gè)請(qǐng)求都getOrCreate一次服務(wù)根本扛不住。asyncio.to_thread的作用是把Spark的同步阻塞調(diào)用丟到線程池避免FastAPI的異步事件循環(huán)被卡死。maxRows參數(shù)控制返回行數(shù)上限防止用戶一條SELECT * FROM 大表直接把Driver內(nèi)存打爆。2.2 為什么自研HTTP服務(wù)比用Spark Thrift Server更合適很多同學(xué)會(huì)問(wèn)Spark本身帶了spark-sql的Thrift Server直接用JDBC連不就行了嗎這里要做個(gè)取舍。Thrift Server部署簡(jiǎn)單確實(shí)能讓你像連MySQL一樣連Spark但對(duì)于大作業(yè)和課程設(shè)計(jì)來(lái)說(shuō)它有三個(gè)硬傷第一Thrift Server默認(rèn)是單實(shí)例的所有查詢(xún)串行排隊(duì)一個(gè)跑大GROUP BY后面的查詢(xún)?nèi)轮诙銢](méi)法自定義返回格式JDBC拿到的是ResultSet但即席查詢(xún)服務(wù)往往希望返回規(guī)范的JSON結(jié)構(gòu)附帶執(zhí)行時(shí)間和查詢(xún)ID這類(lèi)元信息第三你沒(méi)法做行級(jí)安全控制Thrift Server認(rèn)證依賴(lài)Linux用戶映射想要“不同用戶只能查不同表”這類(lèi)需求非常難搞。所以自研一個(gè)HTTP服務(wù)層本質(zhì)上是把Thrift Server里的“查詢(xún)管理”部分拿出來(lái)自己寫(xiě)只不過(guò)底層從HiveServer2換成了直接調(diào)用Spark的sql()接口。這樣做的好處是靈活——你可以把spark.sql.adaptive.enabled這類(lèi)參數(shù)暴露給用戶或者對(duì)不同來(lái)源的請(qǐng)求限制不同的最大返回行數(shù)。壞處是你得自己處理會(huì)話管理、超時(shí)控制、異常分類(lèi)這些Thrift已經(jīng)做過(guò)的事。對(duì)大作業(yè)來(lái)說(shuō)這是一個(gè)“可控的復(fù)雜度”寫(xiě)起來(lái)不難但寫(xiě)清楚了很加分。2.3 文檔說(shuō)明里必須畫(huà)清楚的數(shù)據(jù)流圖文檔說(shuō)明的重點(diǎn)不是貼代碼而是讓評(píng)閱人一眼看出“SQL進(jìn)來(lái)之后到底發(fā)生了什么”。我建議在文檔里畫(huà)一張這樣的流程描述HTTP請(qǐng)求到達(dá) → 接入層解析參數(shù)并校驗(yàn)SQL → 調(diào)度層生成Query ID并入隊(duì) → Spark Session執(zhí)行spark.sql()→ Catalyst優(yōu)化器做邏輯計(jì)劃和物理計(jì)劃 → 執(zhí)行結(jié)果以Arrow或JSON格式回傳 → 接入層封裝為統(tǒng)一響應(yīng)。這張圖的價(jià)值在于它把“Spark SQL引擎”這個(gè)黑匣子內(nèi)部的關(guān)鍵步驟也標(biāo)注出來(lái)了。提示在文檔的“性能評(píng)估”章節(jié)建議至少跑三組對(duì)比數(shù)據(jù)——小表萬(wàn)行級(jí)、中表百萬(wàn)行級(jí)、大表千萬(wàn)行級(jí)記錄各自的響應(yīng)時(shí)間、Executor數(shù)量和GC耗時(shí)。評(píng)閱老師最看重的是你能說(shuō)出“為什么大表查詢(xún)慢了瓶頸在shuffle而不是在CPU”這類(lèi)結(jié)論。3. 核心代碼實(shí)現(xiàn)從SQL提交到結(jié)果集返回的四個(gè)關(guān)鍵類(lèi)3.1 SQL文本校驗(yàn)白名單、黑名單和詞法檢查的三層防線即席查詢(xún)服務(wù)最怕的是用戶提交一條DROP TABLE或者SHUTDOWN所以SQL校驗(yàn)不能只靠startswith(select)這一層。常見(jiàn)的做法是三層校驗(yàn)第一層是關(guān)鍵字黑名單攔截DROP、DELETE、INSERT、ALTER、TRUNCATE、CREATE這類(lèi)高危動(dòng)詞第二層是正則白名單允許SQL只包含字母、數(shù)字、空格、逗號(hào)、括號(hào)和常見(jiàn)的比較運(yùn)算符第三層是Spark自帶的分析器校驗(yàn)也就是真正執(zhí)行前先調(diào)用spark.sessionState.sqlParser().parsePlan(sql)讓Spark自己去發(fā)現(xiàn)表是否存在、列是否存在、類(lèi)型是否匹配。前兩層是“快速拒絕”第三層是“準(zhǔn)確拒絕”。import re BLOCKED_PATTERN re.compile( r\b(drop|delete|insert|alter|truncate|create|grant|merge)\b, re.IGNORECASE ) SAFE_CHARS_PATTERN re.compile(r^[A-Za-z0-9_\s.,;()\*-/%|!]$) def validate_sql(sql_text: str) - None: # 第一層高危動(dòng)詞攔截 if BLOCKED_PATTERN.search(sql_text): raise ValueError(SQL包含DML/DDL高危操作已攔截) # 第二層非法字符攔截防止SQL注入拼接攻擊 if not SAFE_CHARS_PATTERN.match(sql_text): raise ValueError(SQL包含非法字符) # 第三層交給Spark解析器驗(yàn)證語(yǔ)法 try: spark.sessionState.sqlParser().parsePlan(sql_text) except Exception as e: raise ValueError(fSQL語(yǔ)法錯(cuò)誤: {str(e)}) def execute_sql(sql_text: str, max_rows: int): validate_sql(sql_text) start_time time.time() df spark.sql(sql_text) # 重點(diǎn)限制返回行數(shù)避免collect全量結(jié)果 limited_df df.limit(max_rows) rows limited_df.collect() cost_ms int((time.time() - start_time) * 1000) # 手動(dòng)把Row對(duì)象轉(zhuǎn)成字典控制JSON序列化字段名 return [row_to_dict(row) for row in rows], cost_ms校驗(yàn)層設(shè)計(jì)的原則是“寧可誤殺不可放過(guò)”。比如黑名單用了\b詞邊界避免誤傷dropouts這類(lèi)包含子串的詞白名單把;和空格都放進(jìn)來(lái)因?yàn)镾park SQL支持一條語(yǔ)句帶多個(gè)子查詢(xún)但也把空格、空白符限定在ASCII范圍內(nèi)堵住Unicode編碼繞過(guò)。第三層校驗(yàn)是靈魂——很多同學(xué)只做了第一層就拿來(lái)交給Spark執(zhí)行結(jié)果SELECT * FROM no_such_table跑到Spark里才報(bào)錯(cuò)Executor堆棧信息對(duì)用戶毫無(wú)意義而用parsePlan預(yù)處理后錯(cuò)誤在進(jìn)入調(diào)度隊(duì)列之前就能被捕獲并轉(zhuǎn)換為友好的HTTP 400響應(yīng)。3.2 異步執(zhí)行與超時(shí)控制用Future.await避免任務(wù)永不返回Spark作業(yè)掛在YARN上最怕的是用戶寫(xiě)了一個(gè)笛卡爾積join跑半小時(shí)不出結(jié)果HTTP連接還得一直掛著。解決方案是給Spark的sql()執(zhí)行包一層Future超時(shí)機(jī)制。注意PySpark里你不能直接中斷一個(gè)正在跑的Spark作業(yè)——集群上的任務(wù)一旦提交給Executor從Driver端強(qiáng)制取消并不總是立刻生效但你可以選擇“放棄等待”并返回超時(shí)錯(cuò)誤同時(shí)調(diào)用spark.sparkContext.cancelJobGroup()來(lái)做盡力而為的取消。from concurrent.futures import ThreadPoolExecutor, TimeoutError import threading # 用一個(gè)專(zhuān)用線程池跑Spark任務(wù)和HTTP線程池隔離 spark_executor ThreadPoolExecutor(max_workers2, thread_name_prefixspark-runner) def execute_with_timeout(sql_text: str, max_rows: int, timeout_sec: int 60): future spark_executor.submit(execute_sql, sql_text, max_rows) # unique代表給當(dāng)前查詢(xún)加一個(gè)可識(shí)別的jobGroup便于取消 spark.sparkContext.setJobGroup(fquery-{threading.get_ident()}, sql_text[:50]) try: result, cost future.result(timeouttimeout_sec) return result, cost except TimeoutError: spark.sparkContext.cancelJobGroup() raise TimeoutError(f查詢(xún)超過(guò){timeout_sec}秒已終止) finally: spark.sparkContext.clearJobGroup()超時(shí)數(shù)值的設(shè)定不要拍腦袋。如果大部分作業(yè)在10秒內(nèi)完成把超時(shí)設(shè)成30秒意味著你允許三倍方差的存在設(shè)成10秒則會(huì)導(dǎo)致正常的查詢(xún)頻繁被殺。我一般會(huì)根據(jù)實(shí)測(cè)第95百分位的查詢(xún)耗時(shí)來(lái)定初始值設(shè)60秒跑一周之后看日志里超時(shí)查詢(xún)的SQL特征再?zèng)Q定是優(yōu)化SQL還是放寬超時(shí)。特別注意cancelJobGroup()和clearJobGroup()必須成對(duì)出現(xiàn)否則緊接著的下一個(gè)查詢(xún)?nèi)绻€沒(méi)設(shè)置新的jobGroup可能會(huì)被上一次的取消信號(hào)誤傷。3.3 結(jié)果集序列化Row轉(zhuǎn)字典時(shí)要處理的三個(gè)類(lèi)型坑Spark的collect()返回的是Row對(duì)象直接交給FastAPI的jsonable_encoder會(huì)報(bào)錯(cuò)。常見(jiàn)的做法是轉(zhuǎn)成Python原生字典但這中間有幾個(gè)類(lèi)型坑java.sql.Timestamp和datetime.date不能直接JSON序列化Decimal類(lèi)型精度高但JSON.stringify時(shí)會(huì)變成字符串binary類(lèi)型會(huì)變成bytearray需要轉(zhuǎn)成hex字符串或base64。寫(xiě)一個(gè)兼容的row_to_dict函數(shù)是服務(wù)上線前必須完成的臟活。import datetime import decimal from typing import Any, Dict, List def row_to_dict(row) - Dict[str, Any]: result {} for field_name in row.__fields__: value row[field_name] result[field_name] sanitize_value(value) return result def sanitize_value(value: Any) - Any: 遞歸處理嵌套結(jié)構(gòu)和特殊類(lèi)型 if isinstance(value, datetime.datetime): return value.isoformat() # 統(tǒng)一轉(zhuǎn)ISO 8601字符串 if isinstance(value, datetime.date): return value.isoformat() if isinstance(value, decimal.Decimal): return float(value) # 注意可能損失精度但JSON不支持Decimal if isinstance(value, bytearray): return bytes(value).hex() # binary類(lèi)型轉(zhuǎn)hex if isinstance(value, list): return [sanitize_value(v) for v in value] if isinstance(value, dict): return {k: sanitize_value(v) for k, v in value.items()} return value這個(gè)函數(shù)的關(guān)鍵在于遞歸處理嵌套結(jié)構(gòu)。Spark的collect()如果返回的是ArrayType或MapType字段Row對(duì)象里對(duì)應(yīng)的值是Python list或dict內(nèi)部的元素同樣可能是Decimal或Timestamp所以必須有遞歸分支。日期轉(zhuǎn)isoformat()而不是str()因?yàn)镮SO格式帶T分隔符前端JS可以直接new Date(value)解析Decimal轉(zhuǎn)float是有損的但如果你的查詢(xún)結(jié)果涉及金額累加建議保留字符串格式——這里要看你服務(wù)的下游是什么前端展示用float沒(méi)問(wèn)題喂給報(bào)表系統(tǒng)就建議用字符串。4. 部署參數(shù)與性能調(diào)優(yōu)從一個(gè)“能跑”的服務(wù)變成一個(gè)“抗造”的服務(wù)4.1 提交模式選型client模式還是cluster模式即席查詢(xún)服務(wù)這類(lèi)“常駐進(jìn)程”場(chǎng)景推薦用YARN client模式但有個(gè)容易被忽視的前提——你的服務(wù)進(jìn)程必須部署在集群的網(wǎng)關(guān)節(jié)點(diǎn)上且該節(jié)點(diǎn)能訪問(wèn)HDFS NameNode和YARN ResourceManager。很多同學(xué)第一次部署時(shí)把服務(wù)跑在本地Windows機(jī)器上報(bào)Connect to RM:8032 failed就是因?yàn)楸镜貦C(jī)器不在集群的網(wǎng)絡(luò)白名單里。而cluster模式恰恰相反Driver跑在AppMaster內(nèi)部服務(wù)進(jìn)程無(wú)法通過(guò)spark.sparkContext拿到實(shí)時(shí)作業(yè)狀態(tài)。這個(gè)選擇也直接改變了你的超時(shí)控制邏輯client模式能調(diào)用cancelJobGroup()cluster模式下你只能通過(guò)REST API去殺Application。4.2 必需調(diào)優(yōu)的5個(gè)Spark參數(shù)和它們的邊界值參數(shù)默認(rèn)值推薦值說(shuō)明spark.sql.shuffle.partitions20020~50即席查詢(xún)多為中小數(shù)據(jù)集200個(gè)分區(qū)會(huì)導(dǎo)致大量空taskspark.dynamicAllocation.enabledfalsetrue讓集群按負(fù)載伸縮Executor數(shù)量spark.dynamicAllocation.maxExecutors無(wú)10上限過(guò)低大查詢(xún)失敗過(guò)高會(huì)占滿隊(duì)列資源spark.sql.adaptive.enabledfalsetrue運(yùn)行時(shí)合并小分區(qū)避免數(shù)據(jù)傾斜局部拖慢整體spark.executor.memoryOverhead0.10.2~0.3提升Executor內(nèi)Python進(jìn)程所需的內(nèi)存預(yù)算spark.sql.shuffle.partitions是影響最大的一個(gè)參數(shù)。默認(rèn)200意味著任何一次GROUP BY或JOIN的shuffle階段都會(huì)生成200個(gè)小文件如果你的集群只有6個(gè)Executor200個(gè)Reduce Task平均每個(gè)Executor要跑33個(gè)每個(gè)task的啟動(dòng)和序列化開(kāi)銷(xiāo)會(huì)白白耗費(fèi)大量時(shí)間。對(duì)幾十GB以?xún)?nèi)的即席查詢(xún)數(shù)據(jù)20個(gè)分區(qū)通常更合理。但是如果查詢(xún)涉及數(shù)據(jù)傾斜比如某個(gè)熱門(mén)品類(lèi)占了90%的行20個(gè)分區(qū)又太少了——AQE開(kāi)啟后Spark會(huì)在動(dòng)態(tài)優(yōu)化階段自動(dòng)拆分傾斜的分區(qū)所以你必須同時(shí)把spark.sql.adaptive.enabled打開(kāi)才能讓較低的分區(qū)數(shù)不成為性能瓶頸。4.3 并發(fā)控制與資源隔離為什么不能“有多少請(qǐng)求就開(kāi)多少線程”SparkSession不是線程不安全的但Spark SQL任務(wù)的并發(fā)調(diào)度需要控制。即席查詢(xún)服務(wù)最常見(jiàn)的翻車(chē)方式是服務(wù)同時(shí)來(lái)了50個(gè)請(qǐng)求50個(gè)Spark作業(yè)一起提交每個(gè)占3個(gè)Executor集群瞬間打滿然后所有查詢(xún)都開(kāi)始等資源最后一起超時(shí)。正確的做法是給服務(wù)加一個(gè)信號(hào)量或者有界隊(duì)列限制同時(shí)提交的Spark作業(yè)數(shù)量不超過(guò)spark.dynamicAllocation.maxExecutors / 2其余請(qǐng)求排隊(duì)。import asyncio from asyncio import Semaphore # 限制同時(shí)執(zhí)行的Spark作業(yè)數(shù)量防止集群資源被瞬間打滿 query_semaphore Semaphore(3) async def run_query_limited(request: dict): sql_text request.get(sql) timeout request.get(timeout, 60) async with query_semaphore: try: result, cost await asyncio.to_thread( execute_with_timeout, sql_text, request.get(maxRows, 1000), timeout ) return {status: success, costMs: cost, rows: result} except TimeoutError: return {status: timeout, costMs: timeout * 1000, rows: None}信號(hào)量設(shè)置成3意味著同一時(shí)刻只有3個(gè)Spark作業(yè)在跑。這個(gè)數(shù)值不是拍腦袋定的——假設(shè)集群動(dòng)態(tài)分配最大10個(gè)Executor每個(gè)中等查詢(xún)申請(qǐng)3個(gè)Executor那么3個(gè)并發(fā)查詢(xún)正好占滿9個(gè)Executor留1個(gè)剩余給AM和調(diào)度余量。如果有10個(gè)并發(fā)請(qǐng)求剩下7個(gè)會(huì)排隊(duì)等待但排隊(duì)總比“10個(gè)作業(yè)互相爭(zhēng)搶資源最后全部超時(shí)”要好得多。另一個(gè)細(xì)節(jié)是排隊(duì)提示要友好如果asyncio.wait_for拿不到信號(hào)量應(yīng)該給用戶返回一個(gè)“當(dāng)前查詢(xún)排隊(duì)中”的狀態(tài)而不是讓用戶以為服務(wù)掛了。5. 避坑指南即席查詢(xún)服務(wù)最容易翻車(chē)的5個(gè)真實(shí)場(chǎng)景5.1 現(xiàn)象collect操作導(dǎo)致Driver內(nèi)存OOM服務(wù)直接宕掉原因用戶提交了SELECT * FROM 超大表df.collect()把全部數(shù)據(jù)拉到Driver端Java堆被撐爆SparkContext掛掉整個(gè)服務(wù)不可用。解決limit(max_rows)只控制返回給用戶的行數(shù)但Spark在執(zhí)行collect()之前會(huì)在所有Executor上并行處理數(shù)據(jù)Driver的內(nèi)存壓力在于接收結(jié)果集。一定要設(shè)置兩層限制Spark作業(yè)層面加上df.count()的閾值預(yù)判即對(duì)大表默認(rèn)拒絕全量查詢(xún)框架層面把maxRows的默認(rèn)值設(shè)成200行而不是1000。另外給JVM配置時(shí)spark.driver.memory至少要給4GB以上并且把spark.driver.maxResultSize設(shè)成1GB超過(guò)直接丟棄結(jié)果。5.2 現(xiàn)象spark.sql()執(zhí)行成功后結(jié)果集返回給HTTP客戶端時(shí)拋出Object of type Row is not JSON serializable原因PySpark的Row對(duì)象不是Python原生結(jié)構(gòu)FastAPI的JSON編碼器不認(rèn)識(shí)。解決:直接使用前面給的row_to_dict函數(shù)。很多同學(xué)圖省事只用df.toJSON()這個(gè)接口返回的是JSON字符串但字段順序不穩(wěn)定嵌套結(jié)構(gòu)也會(huì)被壓平前端解析很別扭。toJSON()的內(nèi)部實(shí)現(xiàn)其實(shí)也是走了一遍Row的序列化它的輸出格式里Decimal會(huì)被轉(zhuǎn)成字符串Timestamp會(huì)變成2024-01-01 00:00:00這種沒(méi)有時(shí)區(qū)信息的格式而手寫(xiě)的sanitize_value能統(tǒng)一時(shí)區(qū)為UTC并且處理嵌套結(jié)構(gòu)時(shí)更可控。5.3 現(xiàn)象服務(wù)跑了一天后spark.sql()開(kāi)始報(bào)AnalysisException: Table not found原因測(cè)試時(shí)用的臨時(shí)表是內(nèi)存里的createOrReplaceTempView服務(wù)重啟后重新注冊(cè)的表丟失或者Hive Metastore連接數(shù)達(dá)到了上限。解決在服務(wù)啟動(dòng)時(shí)統(tǒng)一初始化注冊(cè)所有視圖和臨時(shí)表把初始化邏輯放在單獨(dú)的init.py里并在文檔里寫(xiě)明“如果需要添加新表重啟服務(wù)生效”。更隱蔽的坑是同一個(gè)SparkSession同時(shí)被多個(gè)線程用來(lái)執(zhí)行spark.sql(USE test_db)這個(gè)會(huì)話狀態(tài)是全局共享的一個(gè)線程改了當(dāng)前數(shù)據(jù)庫(kù)其他線程的SELECT * FROM table就會(huì)出現(xiàn)表找不到或指向錯(cuò)誤的庫(kù)。解決辦法是讓所有SQL都顯式帶上庫(kù)名禁止裸表名。5.4 現(xiàn)象YARN隊(duì)列里堆積了大量FAILED狀態(tài)的Application原因超時(shí)控制的cancelJobGroup()只取消了SparkContext里的作業(yè)調(diào)度但YARN上的Container釋放需要時(shí)間頻繁提交超時(shí)查詢(xún)會(huì)導(dǎo)致大量AM在排隊(duì)和銷(xiāo)毀之間反復(fù)橫跳。解決超時(shí)時(shí)間不要設(shè)太短給查詢(xún)服務(wù)單獨(dú)設(shè)置一個(gè)YARN隊(duì)列比如root.adhoc配好容量上限防止即席查詢(xún)擠占生產(chǎn)任務(wù)隊(duì)列。文檔里應(yīng)該放一段YARN隊(duì)列的配置示例和說(shuō)明這會(huì)讓評(píng)閱老師覺(jué)得你考慮了“運(yùn)維隔離”層面的問(wèn)題。5.5 現(xiàn)象不同時(shí)區(qū)下查詢(xún)結(jié)果里的日期字段差了8個(gè)小時(shí)原因Spark的TimestampType在Driver端默認(rèn)轉(zhuǎn)成America/Los_Angeles時(shí)區(qū)而你的Web服務(wù)運(yùn)行在東八區(qū)。解決spark.sql.session.timeZone顯式設(shè)置為Asia/Shanghai并且sanitize_value里對(duì)datetime統(tǒng)一用isoformat()輸出前端解析時(shí)需要帶上08:00偏移。這個(gè)問(wèn)題在跨地區(qū)部署時(shí)幾乎必踩單機(jī)本地測(cè)試又很難發(fā)現(xiàn)所以文檔說(shuō)明的“環(huán)境要求”章節(jié)一定要寫(xiě)清楚時(shí)區(qū)配置。6. 進(jìn)階技巧把這個(gè)大作業(yè)做成“能講出亮點(diǎn)”的課程設(shè)計(jì)如果你還有余力我建議給服務(wù)加兩個(gè)不算太難但很加分的功能查詢(xún)?nèi)罩敬鎯?chǔ)和結(jié)果集分頁(yè)。查詢(xún)?nèi)罩静恢皇怯涗汼QL文本和執(zhí)行時(shí)間還要記錄用戶提交的原始SQL、Spark的執(zhí)行計(jì)劃摘要通過(guò)df.explain(True)采集、實(shí)際讀取的數(shù)據(jù)量、shuffle字節(jié)數(shù)。這些數(shù)據(jù)積累起來(lái)后你可以做一次“慢查詢(xún)分析”找出哪些SQL模式最消耗資源然后把結(jié)論寫(xiě)進(jìn)課程設(shè)計(jì)的心得部分——評(píng)閱老師非常吃這一套因?yàn)檫@證明了你不是“把接口寫(xiě)完就完事”而是有真實(shí)的數(shù)據(jù)驅(qū)動(dòng)改進(jìn)意識(shí)。結(jié)果集分頁(yè)用limit offset在Spark層面做但要提醒自己Spark的offset本質(zhì)上還是先掃描再丟棄數(shù)據(jù)量大的時(shí)候并不比collect快多少。一個(gè)更聰明的做法是把第一次查詢(xún)的結(jié)果寫(xiě)入一個(gè)臨時(shí)視圖后續(xù)翻頁(yè)用SELECT * FROM temp_view LIMIT 20 OFFSET 0去查雖然也要重新執(zhí)行但避免了用戶重復(fù)提交一段又臭又長(zhǎng)的原始SQL。加上分頁(yè)后maxRows的限制就可以從“返回行數(shù)”放寬到“單頁(yè)行數(shù)”集群壓力反而更小了。性能驗(yàn)證時(shí)用TPC-H的三個(gè)查詢(xún)做基準(zhǔn)就足夠有說(shuō)服力。用q1測(cè)掃描和聚合用q5測(cè)多表join用q9測(cè)帶子查詢(xún)的復(fù)雜過(guò)濾分別記錄在不同shuffle.partitions參數(shù)下的耗時(shí)曲線做成一個(gè)簡(jiǎn)單的參數(shù)敏感性表格放在文檔里。我記得自己第一次做這類(lèi)調(diào)優(yōu)時(shí)把shuffle.partitions從200改成20q1的耗時(shí)從45秒降到了21秒當(dāng)時(shí)還以為集群出了故障后來(lái)看了Spark UI才發(fā)現(xiàn)200個(gè)task里有一大半在空跑。從那之后我也習(xí)慣了一個(gè)做法每個(gè)查詢(xún)完成后把Spark UI的Job頁(yè)截圖存下來(lái)作為服務(wù)性能分析的第一手證據(jù)——視覺(jué)化的證據(jù)在文檔里永遠(yuǎn)比文字有說(shuō)服力。即席查詢(xún)服務(wù)這個(gè)方向技術(shù)棧完整度很高有HTTP服務(wù)、有分布式計(jì)算、有元數(shù)據(jù)管理、有并發(fā)控制而且每一個(gè)點(diǎn)都能獨(dú)立展開(kāi)寫(xiě)。做的時(shí)候多想想“用戶的典型請(qǐng)求模式是什么”圍繞這個(gè)去設(shè)計(jì)超時(shí)和并發(fā)限制你的服務(wù)就不會(huì)只是一個(gè)玩具。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色色色综合网| 色婷婷色五月丁香| 五月丁香色色网| 五月久久五月激情| 大地9中文在线观看免费高清| 开心久久爱五月天| 九九激情视频| 中文幕无线码中文字蜜桃| 五月天婷婷色播综合在线| 超碰不卡在线| 蒲京久久无码视频| 人人爽天天爽| 色综合久久久久| 五月丁香影视| 丁香五月深爱五月婷婷| 婷婷免费成人视频| 日本天堂爱爱| 久久33视频| 色色色婷婷五月天| 丁香成人五月天| 婷婷97狠狠干| 五月婷婷六月基地| 丁香五月婷婷深爱综合激情| 99碰视频| 亚洲一二三网| 久久全意婷婷| 色婷婷成人做爰A片免费看网站| 五月激情综合美女久久| 丁香五月停停av| 五月色婷| 精品人人操| 五月伊人91| 天天爽综合| 成人短视频在线| 婷婷色五月大香蕉在线| 999热在线视频| 亚洲av网站| 日韩av在线电影| 中文字幕 中文字幕明步| 久久久www| 五月婷婷九九热| 色综合久久久久| 无码区婷婷五月花开| 播五月丁香六月| 婷婷五月天伦理| 成人视频九九| 国产超碰在线| 色五月xxx| 综合伊人久久| 五月丁香成人| 97黑人精品区| 91精品丝袜久久久久久久久粉嫩| 9色在线视频精品观看| 最近中文字幕大全免费版在线 | 欧美色激情四射| 婷婷丁香激情综合色情| 五月天玖玖狠狠色色| 播五月开心婷婷欧美综合| 亚洲sesesese| 午夜精品久久久久久久爽| 97婷婷狠狠| 婷婷爱综合| 99视频这里有精品| 丁香五月天成人| 丁香五月电影院在线观看| 97人人草| 色135综合网| 97色色视频| 国产成人网| 五月丁香久久久久| 性爱视频久久| 天天干天天做| 综合久久激情久久| 色五月在线观看| 影音先锋一区| 色婷婷中文在线| 色婷婷影| 天天做天天爱天天爽| 91碰免费视频| 91狠狠综合久久久久久| 大香蕉Av在线| 影音先锋 91工厂| 182TV大香蕉| 性 色 婷婷| 成人片在线免费看| 狼友超碰| www.激情| 九九热区一区二区三区| 色色亚洲五月天| 日日操日日撸| 婷婷五月天成人网| 五月激情天| 开心五月网 | 久久精品婷婷| 色五月综合| 五月激情婷婷丁香| 97人人干| 丁香六月青青草| 美欧日韩国产成人在战| 五月婷婷色色网址| 99热这里只有精品国产免费| 精品草原久久视频| 五月激情四射网站| 五月天综合激情网| 视频这里只有精品16| 九九一综合精品| 99青青草| 婷婷五月天激情小说| 欧美成人一区二区三区在线视频 | 天天想夜夜爽天天爽| 色九网| 99视频这里只有免费精品| 日日射天天射| 夜夜干 夜夜操| 五月丁香六月激情欧美综合| 丁香色五月婷婷91桃色| 大香蕉综合在线| 成人AV在线网站| 欧美成人AAA片一区国产精品 | 婷婷激情五月天综合| 五月丁香婷色| 日本婷久久| 成人无码髙潮喷水A片| 色情成人五月天| 五月天婷婷AV| 六月丁香五月激情婷婷| 婷婷五月色| 婷婷伊人久久无码色五月| 亚洲AV成人无码精品| 99er热精品视频| 人人操操97| 91干网| 九九视频网| 天天日综合| 超碰狠狠操| 婷婷狠狠爱| 久久草人妻| 都市激情五月婷婷亚洲| 九九在线视频| 淫视馆AV在线| 丁香婷婷激情网站| 98毛片| 九九亚洲视频| 国产偷人爽久久久久久老妇APP | 欧美综合五月丁香五月天| 五月婷婷五月色| 最近中文字幕大全免费版在线 | 噜噜色com| 五月天伊人| 婷婷激情综合色五月久久91| 久热最新视频 | 婷婷五月天激情网| 九洲一级A片| 丁香婷婷十月| 深爱五月亚洲| 色九九综合| 26uuu最新地址| 中文字幕丰满乱孑伦无码专区| 色色色99| 天天干天天干天天干天天干天| 色色草97| 五月丁香在线看| 国产在线中文字幕| 婷婷九九| 99热最新精品| 久久婷婷五月综合精品蜜芽| 色色色色色色色色色色色色色97| 91大神在线免费看视频全集男男一起操| 激情五月伊人婷婷| www.天天干| 久久性爱视频| 婷婷色五月开心五月| 五月天色色色网| 五月天无码视屏播放| 色婷婷丁香五月| www.久9| 亚洲色情免费网| 久久婷婷激情| 天天搞夜夜爽夜夜爽| 丁香六月亚洲综合| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 日本99久久| 第五色婷婷| 99er久久| 92久操视频| 激情综合女人网五月播播| 亚洲无码11| 2015超碰| 99乱视频| 五月丁香婷婷啪啪| 深爱激情六月天| PORNY九色9l自拍视频成人| 综合色影院| 在线观看av网站| 91九色国产熟女| 天堂爱啪啪| 五月丁香久| 亚洲旡码| 欧美韩国日本| 天天色天天爱天天爱天天爱y| 色天使色综合| 亚洲精品在线视频| 国产精品视频免费看| 123草逼网| 思思热99er| www,色色色网站| 九九热青青草| 超碰成人电影| 伊人六月丁香婷婷| 色色999三级片| 99精品免费欧美小视频 | 91色久| 丁香五月综合久久八| 公的粗大挺进了我的密道| 免费色色色| 操操操97| 超碰人人91| 99色色爰| 97操碰在线97| 婷婷五月天激情免费在线观看| www.九月婷婷丁香.com| 欧美成人日韩| 日日操日日射| 激情丁香五月婷婷| 色啪久 | 性爱网久久| 久热9| 五月激情丁香久久综合网| 99在线视频播放| 日本视频久久| 五月天综合在线网| 天天草婷婷五月| 超级碰碰碰碰视频| 欧美搡BBBBB摔BBBBB| 五月丁香| 日本丁香五月| 九久久九精品视频| 婷婷伊人网| 丁香婷婷在线| 26uuu欧美激情另类| 婷婷.com| 精品99视频| 婷婷丁香色五月久久88| 色色综合日韩| 操逼视频一区| 五月丁香狠狠地噜噜噜噜| 色婷婷四色| 五月婷色| 五月婷婷婷色| 大地资源色婷婷视频在线| 久久精品99国产精品日本| 久热99久热| 91 九色 入口| 日本三级99人妇网站| 国产成人VA| 26UUU一区二区| 五月天激情综合网俺也去| 国产日韩精品SUV| 亚洲免费看片| 五月永久激情| 婷婷丁香在线播放| 思思久久精品| 久久五月丁香婷婷| 色婷六月| 五月天自拍视频| 五月婷婷网站| 久热播这里只有精品| 色色色热热热| 国外亚洲成AV人片在线观看| 天天干天天操天天射| 婷婷欧美偷拍综合| 九九干视频| 97九色| 91九色网| 久xxxx| 啪啪啪五月天| 色婷婷五月基地在线| 狠狠狠狠操| 五月婷六月| 九九久久免费视频44| 91无码高清| 九九久久综合网站| 久久综合九九| 日日噜狠狠| AV五月丁香| 婷婷深爱五月| 婷婷放心五日爱| 天天干天天插| www.99色| 国产色香蕉精品五夜婷| 九九久久99| 99热天堂| 操日视频| 婷婷亚洲丁香五月| 五月综合婷婷五月| 99热久草| 亚洲精品视频在线播放| xxxx五月| 日本色久| 9热成人在线视频| 久婷久婷激情肉| 五月天影院婷婷在线观看| 久久精品系列| 中文字幕 中文字幕明步| 色五月综合97| 九月婷婷综合八月丁香在线观看| 日本激情五月天‘| 亚洲色婷婷五月天| 丁香五月婷婷AV在线| 五月激情久久| 五月婷婷六月丁香在线视频| AVV黄| 欧美性丁香色色五月天| 亚洲天堂久久| 亚洲成人免费电影| 色色五月天婷婷| 久久丁香| 色色五月天丁香| 99热在线精品观看| 色婷婷伊人| 久久总和99| 噜噜干日本| 狠狠色婷婷| 五月狠狠| 五月亭亭六月激情| www91久久| 黄色五月婷婷| 铁牛TV人妻| 99综合免费视频| 99久热在线精品| 97操操网| www.99色| 五月婷婷之婷婷| 国产69久久久欧美黑人A片| 色丁香五月婷婷在线| 国产一区二区av免费| 人人人人人人人人人草| 狠狠干天天日| 色欲久久久久| 97干综合网| 色五月婷婷小说亚洲中文字幕组| 五月天婷婷色五月天| 夜色.cnm| 五月天成人网在线观看| 五月社区婷婷激情| 久久婷色| 久久AAAA片一区二区| 婷婷五月天日日日干干干| 最近中文字幕大全免费版在线 | 天天日日夜夜爽。| 色色网站免费在线视频| 97五月天婷婷综合激情网| 六月丁香综合| 狠狠五月丁香色婷| 97人妻碰碰碰久| 在线观看国产高清视频免费网站 | 猫咪伊人久久| 97婷婷丁香五月| 色婷婷五月天av在线| 五月婷婷久| 俺五月| 五月丁香亚洲校园欧美| 男人視頻站| 色婷网站| 婷婷五月天电影网| 日韩在线视频中文字幕| 色综合色色色| 色播五月婷婷综合| 五月综合久久| 九九九九这里只有精品| 色婷婷玖玖影院| 久久5 9视频免费观看| 九热视频| 丁香六月久| 成人羞羞啪啪 全 视频| 五月激情丁香久久综合网| 99热高清在线| 99啪| 视频1区2区| 久草热8精品视频在线观看| 色婷婷色99国产综合精品| 成人五月天在线观看| 亚洲精品亚洲人成人网| 婷婷色五月噜噜| 丁香五月黄色| 超极99精品| 日韩免费视频| 五月天天天色| 丁香五月欧美色综合| www.黄色片-久久成人国产精品在线播放-999AV| 桃色五月婷婷| 五月激情网综合| 六月婷婷视频| 拳交大逼| 久久久五月婷婷| 五月丁香六月综合激情无码软件亮点| 婷婷五月天伊人在线| 色婷婷丁香五月天在线视频| 天堂草在线观| 日韩黄黄| 99色在线| 九月丁香欧美综合| 丁香五月性| 天色综合网站| 五月综合缴情网| 日本高清久| 激情床戏| 欧美性生交XXXXX无码小说| 色色丁香色五月| 婷婷五月天大香蕉| 人人综合久| 婷婷偷拍网| 婷婷久久综合久色| 精品久热| 日韩美一级毛卡片| 久久综合热17c| 天天操比比| 91精品综合久久婷婷九色| 久久精品63| 丁香六月婷婷一区| 五月激情开心婷婷| 久久婷婷内射| 综合亚洲六月婷婷在线| 色婷婷色久综| 丁香五月婷婷激情蜜桃| 五月丁香黄色视频| ..真实国产乱子伦对白在线_欧| 成人精品视频99在线观看免费| 欧美日韩二区在线| 99re热在线视频观看| 亚洲激情无码久久| 久久曰曰| 天堂在线伊久| 99视频精品8| www.五月天婷婷| 丁香五月桃花在线激情综合| 激情丰满熟妇五月| 播播网色播播| cao久久| 人妻乱码久久久| 欧美丁香五月| 成人丁香| 日本熟女视频一区二区| 婷婷情色激情| 任你草| 婷婷色五月丁香六月欧美啪| 99福利视频| 亚洲无码yw| 艹天天射| 五月久久婷婷| 91xxxx九色| 黄涩毛片| 五月久久丁香| 九九热只有这里精品| 婷婷五月天电影区小说区| 丁香五月婷久久| 色六月婷婷| 色99热| 婷婷五月精品中文| 五月婷婷丁香狠狠撸久久| 天天日天天色| 五月花成人网| 国外亚洲成AV人片在线观看| 99久久天堂婷婷| 五月婷婷丁香婷婷| 亚洲成人在线在线| 五月开心婷婷中文字幕| 超碰色综合| 国产小网站| 激情五月五月五月婷婷| 色婷婷性爱网| 丁香婷婷丁香五月欧美人| 六月婷婷激情| 丁香五月婷婷色| 操大屄五月天视频| 五月色无码| 日韩有码一区| 日本操B视频| 五月丁香综合久久夜夜| 狠狠插狠狠插| 丁香五月婷婷性爱| yiqicaoav| 亚州操人在线视频| 久色国产| 99热免费18| 在线中文亚洲| 99久久成人| 婷婷五月天社区| 深情五月天| 婷婷综合在线| 9999热在线观看| 激情亚洲婷婷| 色综合区| 日日夜夜天天| 婷婷97| 涩五月丁香| 99日本在线| 久久婷婷色综合老司机| 亚洲国产精品VA在线看黑人| 欧美大香蕉视频| 99色激| 91chinese 在线| 狠狠干最新地址| 五月婷婷综合网| 激情五月天 婷婷| 91 九色 熟女| 人妻久久婷婷| 日韩无码性爱| 91碰碰碰| 天天干天天做| 亚洲夜夜操| 天色综合网站| 伊人久久婷婷五月天激情四射| 91主播在线| 思思热视频| 久久丁香五月天| 99热这里全是精品| 久色资源网| 天天干天天色天天干| 九九热a| 日本人妻A片成人免费看片| 先锋资源婷婷| 中文不卡av| 久久九九色| 丁香五月天啪啪a日本| 婷婷丁香五月,狠狠综合| 亚洲在线操| 久久综合丁香激情五月| 九月色婷婷综合| 欧美精品久久久久久视频观看| 久热只有这里有精品| 激情綜合網址| 成人av免费观看| 色5在线| 久久六月天| 97久久视频| 亚洲视频在线观看99| 色色色区| 色五月天天在线观看资源站| 婷婷五月天精品| 久婷婷视平| 99热这里只有精品1| 国产看真人毛片爱做A片| 久久婷婷成人| 亚洲婷婷久久综合| 色婷婷婷婷| 色丁香六月| 色五月五月天| 免费视频99| 婷婷五月丁香六月| 日韩视频99| 天天插综合| 久久99网站| 欧美成人精品A片免费一区99| www.精品99| 无码人妻丰满熟妇奶水区码| 国产XXXX搡XXXXX搡麻豆| 超碰在线99| 久久精彩视频99| 久草丁香婷婷五月天婷| 天天爽—爽| 天天爱天天爽| 天天肏在线观看| 五月天激情久久| 九九亚洲视频| 婷婷在线视频| 99ER热精品视频| 久婷久婷激情肉| 99re在线观看| 五月丁香婷婷六月| 五月婷婷,狠狠操| 激情综合网五月在线播放| 国产精品婷婷午夜在线观看| 一起草无码| 婷婷综合视频| 永久天堂日本| 色婷婷婷综合五月天| 超碰在线超碰| 婷婷亚洲影院| 日本一级黄色电影| 精品婷婷丁香五| 热久久视频99| 在线中文字幕免费视频| 国产婷伊人| 色久天| Aaa久久| 天天操天天操| 五月丁香六月激情| 狠狠综合网| 日韩在线看AV| 大伊久久| 91一起操| 五月丁香啪啪综合| 久久电影4399| 丁香蜜臀黄色婷婷五月天| 六月丁香婷婷综合在线| 人妻在线观看视频| 久久婷丁香五月| 热99只有精品| 九九精品丁香花| 精品九九视频| 国产操B| 久久黄A片| 五月婷婷网五月在线| 国产精品久久欧美久久一区| a色婷婷| 色婷婷成人在线| 噼里啪啦在线观看免费完整版视频| 99亚洲无码| 苗黎美女四级成人版一级二级毛片| 千人斩操逼| 色五月综合激情网| wwW天天干| 在线中文字幕视频| 成人VAV视频在线观看| 九九草热在线观看| 99这里只有精品|v| 亚洲色激情| 成人免费va| 色色九九五月天| Av九九| 色色五月婷婷久久| 婷婷丁香六月| 日韩一66精品| 六月婷婷最新网址| 色色色com| 免费无码毛片一区二区A片| 丁香婷婷啪啪啪| 亚州色综合| 婷婷五月天AV在线| 国产伦理精品高清在线观看网站一区二区 | 色综合色综合网| 午夜天堂啪啪| 99久久超级| 婷婷五月天综合色| 九九综合久久| 99精品免费视频| aaaaaa片| 婷婷情色五月| 六月婷婷色综合| 亚洲狠狠干| 97热久久| 天天狠天天叉| 亚洲婷婷丁香五月天激情小说| 无码人妻丰满熟妇奶水区码| 可以免费观看的AV| 14色综合婷婷| 成人羞羞啪啪 全 视频| 九九99九九精品视频| 99热精品在这里| 人人干天天舔| 人人澡玖玖一| 国产欧美日韩综合精品一区二区| 丁香 亚洲 久久| 婷婷香香五月| 另类视频综合| 亚洲国产精品二二三三区| 玖玖婷婷综合| 这里只有精品久久| 五月伊人综合| 久久女婷| 婷婷六月丁香五月| 九九五月天| 啪啪操超碰| 久久婷婷五月天蜜桃| 婷婷五月综合免费在线| 夜夜 操无码| 五月天综合在线观看视频| 天天夜天天色天天| 伊人久久大香网| 成人一区在线观看| 99ri在线视频| 五月婷婷六月丁香| 久草狼人| 亚洲人成人五月天| 婷婷五月天丁香| 婷婷久久天堂网| 69人人操人人爽| 成人精品视频99在线观看免费| www.色五月| 色色婷婷丁香| 99热在线这里只有精品| 66成人网| 色五月欧美| 草操AV在线| 四色五月婷婷| 日本熟妇乱妇熟色A片蜜桃| 99riAV国产精品视频| 六月婷婷在线| 久久九九爽| 大香网伊人久久综合| 色五月激情五月| 2018国产大陆天天弄| 久久久91精品| 国产黄大片在线观看画质优化| 狠狠色色| 九九综合影音先锋| 婷婷丁香花五月天| 日本狠狠爽| 91人人爽久久涩噜噜噜| 婷婷五月色亚洲| 99国产小视频| 激情小说视频图片| 天天插操| 亚洲视频1区| 六月丁香婷| 色婷婷av在线观看| 五月色情婷婷开心五月色情| 五月综合六月婷婷| 五月丁香激情深爱婷婷| 噜噜色婷婷| 婷婷六月色开 | 丁香婷婷色五月天| 久久AV电影| 91丁香五月| 婷婷色色综合| 欧美久久婷婷| 九九操综合网| 99热官网| 色色色欧美| 五月丁香成年黄色| 国产五月丁香在线| 99热在线这里只有精品| 99色免费视频| www.色99| 影音先锋 萱萱| 91夫妻网站九色| 五月丁香激情综合| 婷婷婷婷婷开心无码播放| 激情亚洲网| 九九九九九九九九九九九九九国产精品| 丁香婷婷色色| 99热这里只有精品1| 中文字幕精品无码一区二区| 亚洲精品第一国产综合亚AV | 99精品综合| 丁香婷婷五月色综合| 亚洲综合色激情色五月| 久久婷婷五月草视频在线播放| 日韩超碰在线| 色婷婷女优有码五月亭| 婷婷月五天在线在线看| 天天日,天天射,天天舔| 日本三级成人秘书精品片| 激情AV中文| 婷婷五月色花丁香社区| 欧洲激情精品婷婷| 高清免费在线视频| 另类综合国产| 91女人18毛片水多国产| 天天综合 99久久婷婷| 99.色| 99热精品在线| 婷婷五月深情丁香深爱日韩| 日本九九九九| 丁香亭亭久久| 99热网站| 秋霞三级影视资源| 五月日韩中文字幕| 天天综合网亚洲综合网| yw国产AV| 色五月婷婷天天操夜夜操| 天天天天干| 五月婷婷网久久| 色婷婷综合视频| 五月天婷婷基地| 深爱五月婷婷| 99热这里只有免费| 婷婷五月综合色拍| 九九色逼| 色噜噜婷婷| 综合色、色综合| www.五月天婷婷姐姐| 欧美日韩婷婷五月天| 欧美色小说婷婷| 五月天激情综合网| 精品久久久人妻| site:xiongshengzz.com| 久久综合久色欧美综合狠狠| 99免费视频网| yw国产AV| 激情五月婷婷网| 亚洲成人精品三区| 久久aaaa片一区二区| 另类少妇人与禽zOZZ0性伦| site:hcxsz888.com| 久草热8精品视频在线观看| 婷婷激情鹿城五月天| 婷婷五月天成人| 久久这里只精品66| 久草免费福利视频| PORNY九色9l自拍视频成人| 亚洲无线视频| 丁香五月婷婷在线| 欧美色色色色色色色| 99.色| 久久精品爱爱| 五月桃花网综合| 久久婷婷丁香视频网| 五月天激情国产综合AV| 色五月综合激情网| 狠狠操狠狠操| 婷婷五月激情在线| sS丁香五月婷婷| 五月激情综合网| 五月激情六月综合| 91婷色| 精品热青草| 五月丁香亭亭| 五月激激网w'w'w| 综合九色| 久久99精品视频| 婷婷激情丁香六月| 在线天堂9| 成人中文网| 夜夜爱网站| 亚洲综合婷婷五月| 99九九综合久久九九| 另类亚洲电影| 九九色色| 五月丁香婷婷综合| 五月综合无码| 五月丁香六月合| 黄久久久| 丁香婷婷激情四射五月| 99精品在线观看| 丁香婷婷影院| 人人爽人人爽人人爽人人爽| 99热丁香| 久热精彩视频98| 91久久久久久久| 激情五月天影院| 亚洲丁香五月天视频| AV79| 人人色性网| 26UUU| 综合激情sV| 欧美123区免| 99久久97| 九九无毛| 开心五月婷婷激情| 五月天精品视频| 久热超碰91| 色色色热| 俺去也婷婷| 激情六月丁| 亚城区在线| 互月天综合| 麻豆123区| 天天草天天舔| 森林影视大全,最好看的2019年视频 | 99热激情| 大地9中文在线观看免费高清| 久久婷色| 夜夜嗨一区二区三区直播内容| 五月天色不卡| 精品婷婷丁香五| 久久婷青青草原| 9久热在线精品| 婷婷激情五月天激情小说| 色狠狠999综合| 大香蕉五月天婷婷| 26uuu国产精品| 国产欧美日韩一区二区三区| 天天日天天插| 天干夜夜操| 成人精品视频99在线观看免费| 亚洲无AV在线中文字幕| 一区二区无码视频| 伊人五月天久久| 在线观看996精品| 久久婷婷五月综合| 婷婷丁香五月天小说| 欧美婷婷五月丁香| WWW.17C亚洲精品| 婷婷大香蕉| 一级AV片| 日本三久久| 永久思思热在线| 丁香亚洲婷婷五月| 亚洲丁香五月天视频| 欧美日韩aaa| 日本人妻久久| 狠狠夜夜五月丁香| 人妻 性久久久久久| 大陆肏屄视频| 久久伊人五月天| 久久视频在线视频| 大胆伊人久久| 综合激情网五月激情| 激情文学五月丁香六月婷婷| 91干视频| 67久久| 他改变了拜占庭| 狠狠色狠狠鲁| 色婷婷AAA| 少妇搡BBBB搡BBB搡毛茸茸| yw.av| 国产婷婷综合| 婷婷久久免费| 中文字幕高清av| 在线,国产,色,热视频| 婷婷狠狠97| 中文AV网站| 五月丁香激情综合欧美| 五月婷婷久久久| 五月天AV大香蕉| 亚洲情a| 四川女人毛多水多A片| 久久伊人五月天| 五月婷婷久久久| 99色在线视频观看| 狠狠干综合网| 人妻内射一区二区在线视频| 99热精品在线| 久久婷婷五月综合一| 亚洲精品午夜国产va久久成人| 婷婷综合网| 五月天色狠狠| 五月丁香六月婷综合成人综合| WWW,五月天| 99热在线观看| 99色在线观看| 久久3级片| 五月婷婷激情| 九九九九九九九九九九九九九国产精品| 停停五月丁香| 久久狠婷婷| 国产 亚洲 在线| 亚洲中文字幕AV| 99啪啪| 亚州激情网| 欧美久久一级内射wwwwww.| 操逼福利视频| 成人.在线日韩| 天天爽日日爽夜夜爽| 色色五月天com| 国产精品成人AV在线| 超碰9| 久久久天堂国产精品女人| 这里只有精品,日韩视频| 色色婷婷综合| 丁香五月天论坛| 亚洲精品亚洲人成人网| 精品人妻伦九区久久AAA片| 久久大香蕉同僚| 九九热在线亚洲免费视频| 91传媒无码人妻精| 超碰成人在线观看| 丁香色啪综合| 天天综合91入口| 99啪啪| 99热只有| 97人妻碰碰中文无码久热丝袜| 国产在线网| www.99婷婷| 丁香五月乱中文字幕| 六月色播| 超碰97色| 中文字幕日产A片在线看| 久久五月丁香| 伊人狠狠综合| 无码se| 人人爽欧美婷婷久久久五月丁香| www狠狠| 久久五月天色婷婷| 丁香六月婷婷色XXXX| 激情丁香五月天综合| 香蕉99网| av中文网| 99爱在线免费视频| 婷婷五月天AV在线| 丁香五月开心五月激情| 欧美日韩123| 久久久五月天婷婷| 激情六月天| 色五月激情| 天天干天天干天天操| dingxiangtingtingliuyue| 激情综合五月激情17| 中文AV在线播放| ady狠狠入| 成片免费观看大全| 色色热日| 97婷婷五月| 狠狠爱深色婷婷综合| 欧美成人精品A片免费一区99| 午夜大香蕉| 天天艹夜夜艹| 成人无码髙潮喷水A片| 天天操天天操天天操天天操天天操 | 婷婷综合一二三| 91日日日| a在线免费v| 国产精品社区| 亚洲AV综合在线观看| www.97干视频| 天堂综合久久| 9福利性视频欧美| 日韩成人精品中文字幕| WWW,激情五月天,COM| 天天草天天爱| 色婷婷久久综合丁香五月| 超碰1999| 九热视频在线精品15| 99亚洲视频| 成人 在线 日韩| 四色永久成人网站| 欧美日韩国产一二区| 九色在线观看91av| 五月丁香色婷基地综合久久| 大香蕉久久久久| 思思99热这里只有精品| 丁香婷婷五月天色播| 成人性爱无码| 思思热精品在线| 亚洲亚洲人成综合网络| 国产99久9在线+|+传媒| 激情五月天99色| 久色88| 亚洲avjiujiur91| 96丁香婷婷九月蜜桃综合久久| 色婷婷啪啪| 国产超碰在线| 丁香婷婷婷五月| 色婷婷小说网| 五月丁香啪| 黄网在线免费| 人妻中文字幕网| 91啪级电影| 天天草天天舔| 亚洲免费看片| 五月天精品| 九月激情综合婷婷| 免费看片在线观看| 久久99这里只有精品| 色欲五月天| 久9免费视频| 丁香五月天堂亚洲社区| 色爱综合网| 九九久久综合网站| 色综合久久综合中文综合网| 国产又色又爽又黄又免费| 婷婷丁香花五月天| 我爱婷婷五月天综合88| 99热97| 日韩啪啪视频| 激情久久五月天| 亚洲4区国产欧美| 亚洲婷婷乱乱丁香| 激情五月天网| 91一道本| www.五月瑟| 欧美情色一区| 五月伊人视频在线看| 丁香五月婷婷色| 成人免费在线电影| 97九色视频| 综合网网欲色| 丁香五月天啪啪激情综和网| 天天干天天做| 九九热在线亚洲免费视频| 少妇人妻偷人精品无码视频新浪| 停停五月色宗合| 久久9视频| 91久久| 99这里有精品视频| 99久视频| 夜夜骑夜夜撸| 久99久在线| 五月天色影院| 狠色综合网| 中日韩美欧成人一区二区精品在线| 另类图片五月天婷婷| 成人做爰高潮A片免费视频| 日韩抽插操逼| 91丨九色丨首页| 久久久久99精品成人片| 1024欧美看片| 天天撸天天干天天插| 丁香五月婷婷激情尤物| 超碰99资源站| 26UUU| 思思精品热在线| 色婷婷先锋| 日本色爽| 日韩人妻无码专区| 人人摸人人干| 激情五月婷婷丁香| 91岛国片| 99热精品在这里| 天天天天做夜夜夜夜做| 我去色色网五雨天| 伊人色综合网| 1995年关宝慧版蜘蛛女| 色色色在线观看| 亚州色婷婷| 婷婷性爱无码视频| 操碰99在线视频观看| 五月综合激情| 亚洲婷婷五月天激情综合| 激情五月婷婷视频| 日本三级韩三级99久久| 色久五月天| 噜噜色五月| 丁香熟女乱| 九色婷婷| 手机AVAV天堂看网| 91人妻PORNY九色大屁股| 婷婷中合| 人人爽天天爽| 婷婷久久丁香五月| 亭亭色天香| 五月天婷婷一起草| 天天干天天操天天射| 成人.在线日韩| 亚洲五月婷婷| 超碰人人艹| 婷婷丁香五月亚洲17cao| 亚洲婷婷六月天| 国产VA播放| 大香蕉人在线65| 久久9RE热视频精品98| 综合AV在线| 99热免费精品| 五月天另类激情在线| www.99热. com这里只有精品| 天天日日天天| 五月天无码视屏播放| 中文字幕AV在线播放| 美欧成人视频| 久草婷婷视频| 怡春院天天干| 色播激情| 1024AV视频| 啪啪日热| 亚洲成人高清在线| 天天综合精品| 五月婷婷色丁香| 激情五月天丁香| 九月婷婷综合在线| 国产综合81p| 五月天色软件| 九九在线视频| 日日日日日| 综合大香蕉| 久久久久9| 久久久精品人妻| 九九精品综合| 超碰99在线观看| 色色色色色色色色综合网| 婷婷导航| 久久久久er热| 人妻av在线| 色婷婷激情Av久久久| av五月天婷婷丁香| 色色色色色色色色五月先| 99久久免费性爱视频`| 色5月婷婷| 六月色色| 国产做爰视频免费播放| 五月天婷婷激情在线色图| 国产一级片| 天天拍夜夜撸| 成人性爱精品视频| 婷婷激情综合| 九九無妻| 五月天婷婷色综合| 九热电影av| 五月婷婷深深的爱| 亚洲五月丁| 亚洲碰碰碰| 久九色| 婷婷99综合| 99re在线观看| 九月婷婷在线视频| 97香蕉碰碰人妻国产欧美| 久热这里只有精品66| 99re思思热这里| 91丨九色丨熟女|新版| 青吴乐视频| 人人操91| 色综合五月| 无码动漫AV| 五月天激情网图片 - 百度| 久久激情五月婷婷| 六月婷婷色色网| 黄色99网| 丰满少妇乱A片无码| av在线免费播放| av色婷婷| 日韩操逼大片| 天天干夜晚夜操| 色哟哟性爱av| 伊人9在线| 综合99视频| 成人一级片| 天天插天天射| 五月天婷婷网站888| 人人九色| 51XX嘿嘿午夜无码| 99热精品在线播放观看| 婷婷色色狠狠| 日日杆天天| 色必久悠悠影院| 久久se 综合网 | 亚洲综合视频八| 五月激情婷婷丁香| 久久AAAA片一区二区| 日韩久久这里只有精品| 日本高清不卡免费一区二区三区| 热99re| 一级无码作爱片| 香蕉综合网| 婷婷五月综合婷婷| 亚洲国产精品VA在线看黑人| 五月丁香六月色情网欧美| 亚洲综合99| 99热这里只有精品268| 九九视频在线观看视频6| 激情婷婷色五月| Y11111111111少妇电影院| 欧美啪啪9| 色婷婷精品小视频| 亚洲亚洲人成综合网络| 婷婷五月天在线观看免费| 五月狠狠| 五月天激情图片| 天天爽天天透天天爱| 538任你爽视频不一样的| 97九色| 99日这里只有精品| 婷婷伊人| 久九男女天堂| 丁香伊人网| 青青草日本亚洲| 五月综合丁| 丁香网五月天| 黄网在线免费观看| 天天婷婷天天| 91久久综合亚洲鲁鲁五月天| 91人妻九色大屁股| 五月天成人在线视频网站| 啪啪五月天啪啪| 91ncom.色| 超碰免费人人肏| 成人AV在线电影| 99精品在线观看视频| 99久99热| 少妇高潮一区二区三区99欧美| 手机在线视频观看9| 五月天激情四射网站| 思思国产99| 小视频一区| 无码毛片992367| 日韩精品电影| 久久99免费视频| 国产亚洲99久久精品熟| 色综合久久久久| 激情啪啪五月| 九九干视频| 99热在线这里| 中文国产五月天| 久久66精品| 五月丁香六月婷婷,婷| 天天想夜夜爽天天爽|