欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線(xiàn)實(shí)戰(zhàn)洞察。

M4 Mac mini 本地部署 Mano-P:GUI 智能體實(shí)戰(zhàn)與性能調(diào)優(yōu)

M4 Mac mini 本地部署 Mano-P:GUI 智能體實(shí)戰(zhàn)與性能調(diào)優(yōu) 1. 為什么要在本地跑 Mano-P動(dòng)機(jī)與整體思路第一次看到 Mano-P 這個(gè)項(xiàng)目的時(shí)候我正坐在一臺(tái)剛拆封的 M4 Mac mini 前面。16GB 統(tǒng)一內(nèi)存、10 核 CPU、10 核 GPU巴掌大的機(jī)身功耗低到可以忽略不計(jì)。當(dāng)時(shí)我的第一反應(yīng)是這東西能不能把 Mano-P 完整跑起來(lái)不是那種能啟動(dòng)就行的跑法而是真正能出結(jié)果、能交互、能持續(xù)用的狀態(tài)。Mano-P 是一個(gè) GUI 智能體方向的項(xiàng)目核心能力是讓模型看懂屏幕截圖然后輸出鼠標(biāo)點(diǎn)擊、鍵盤(pán)輸入這類(lèi)操作指令最終完成用戶(hù)交代的任務(wù)。它和純文本對(duì)話(huà)模型最大的區(qū)別在于它需要處理圖像輸入需要維護(hù)多輪的操作歷史還需要在每一步做出空間定位判斷。這意味著它對(duì)顯存、對(duì)推理框架、對(duì)圖像預(yù)處理鏈路都有實(shí)打?qū)嵉囊?。我選擇在 M4 Mac mini 上折騰理由很直接。第一這臺(tái)機(jī)器安靜、省電、常年開(kāi)機(jī)不心疼適合做常駐的本地智能體服務(wù)。第二Apple Silicon 的統(tǒng)一內(nèi)存架構(gòu)讓 CPU 和 GPU 共享同一塊內(nèi)存池理論上比傳統(tǒng)獨(dú)顯方案更靈活。第三我想驗(yàn)證一個(gè)判斷端側(cè) GUI 智能體到底離普通開(kāi)發(fā)者有多遠(yuǎn)。如果一臺(tái)五千塊出頭的小主機(jī)就能跑起來(lái)那這個(gè)方向的門(mén)檻就真的降下來(lái)了。整個(gè)部署過(guò)程我踩了不少坑有些是 Apple Silicon 生態(tài)特有的有些是 Mano-P 項(xiàng)目本身的依賴(lài)問(wèn)題還有些純粹是我自己對(duì)量化參數(shù)理解不到位導(dǎo)致的。這篇文章我會(huì)把從零到跑通的完整路徑拆開(kāi)講包括每一步為什么這么做、參數(shù)怎么選、報(bào)錯(cuò)怎么排查。如果你手上也有一臺(tái) Apple Silicon 的機(jī)器想跑類(lèi)似的視覺(jué)語(yǔ)言模型項(xiàng)目這篇內(nèi)容應(yīng)該能幫你省下不少時(shí)間。需要提前說(shuō)明的是Mano-P 這類(lèi) GUI 智能體對(duì)硬件的要求比純文本模型高一個(gè)檔次。文本模型 7B 量化后 4GB 左右就能跑但視覺(jué)模型因?yàn)橐幚韴D像編碼器同樣的參數(shù)量下內(nèi)存占用會(huì)明顯上升。所以我在選型階段就定了一個(gè)原則優(yōu)先保證能跑通再考慮跑得快。這個(gè)原則貫穿了后面所有的決策。2. 環(huán)境準(zhǔn)備從裸機(jī)到可用的推理底座2.1 系統(tǒng)與基礎(chǔ)工具鏈的確認(rèn)M4 Mac mini 出廠預(yù)裝的系統(tǒng)版本通常比較新但我在動(dòng)手之前還是先確認(rèn)了幾個(gè)關(guān)鍵點(diǎn)。打開(kāi)終端第一件事是檢查芯片架構(gòu)和系統(tǒng)版本uname -m sw_vers輸出應(yīng)該是arm64和對(duì)應(yīng)的系統(tǒng)版本號(hào)。這一步看起來(lái)多余但如果你之前在這臺(tái)機(jī)器上裝過(guò)一些 x86 的工具可能會(huì)遇到 Rosetta 轉(zhuǎn)譯帶來(lái)的路徑混亂問(wèn)題。我建議在開(kāi)始之前把終端的環(huán)境變量理一遍確保which python3指向的是原生 arm64 的版本而不是轉(zhuǎn)譯版本。接下來(lái)是包管理工具。Homebrew 在 Apple Silicon 上的安裝路徑是/opt/homebrew和 Intel 時(shí)代的/usr/local不同。如果你是從舊機(jī)器遷移過(guò)來(lái)的配置文件很可能因?yàn)槁窂絾?wèn)題導(dǎo)致命令找不到。我的做法是重新裝一遍 Homebrew然后確認(rèn)brew --prefix輸出/opt/homebrew才算對(duì)。然后裝幾個(gè)后面會(huì)用到的基礎(chǔ)工具brew install cmake pkg-config wget git-lfsgit-lfs這個(gè)容易被忽略但 Mano-P 的模型權(quán)重文件動(dòng)輒幾個(gè) GB沒(méi)有 LFS 的話(huà)克隆下來(lái)全是幾百字節(jié)的指針文件后面加載模型時(shí)會(huì)報(bào)莫名其妙的格式錯(cuò)誤。我第一次就栽在這上面排查了半天才發(fā)現(xiàn)權(quán)重根本沒(méi)下載下來(lái)。2.2 Python 環(huán)境與虛擬環(huán)境的隔離策略Python 版本我選了 3.11。原因很簡(jiǎn)單3.12 對(duì)部分科學(xué)計(jì)算庫(kù)的兼容性還不夠穩(wěn)定3.10 又偏舊一些新版的推理框架已經(jīng)不再提供對(duì)應(yīng)的預(yù)編譯包。3.11 是當(dāng)前生態(tài)兼容性最好的折中。用pyenv或者直接brew install python3.11都行關(guān)鍵是虛擬環(huán)境一定要隔離。我見(jiàn)過(guò)太多人把系統(tǒng) Python 裝得亂七八糟最后依賴(lài)沖突到無(wú)法收拾。我的做法是在項(xiàng)目目錄下建一個(gè)干凈的 venvpython3.11 -m venv .venv source .venv/bin/activate pip install --upgrade pip setuptools wheel這里有個(gè)細(xì)節(jié)值得說(shuō)pip升級(jí)到最新版很重要。Apple Silicon 的很多包是最近一兩年才提供 arm64 預(yù)編譯 wheel 的舊版 pip 可能識(shí)別不到正確的平臺(tái)標(biāo)簽導(dǎo)致它去源碼編譯而源碼編譯又會(huì)因?yàn)槿鄙俑鞣N系統(tǒng)庫(kù)而失敗。升級(jí) pip 能避免一大半這類(lèi)問(wèn)題。2.3 推理框架的選型為什么是 MLX 而不是別的這是整個(gè)部署過(guò)程中最關(guān)鍵的決策點(diǎn)。在 Apple Silicon 上跑模型主流選擇有三個(gè)PyTorch 的 MPS 后端、llama.cpp 的 Metal 支持、以及 Apple 官方的 MLX 框架。我最終選了 MLX理由如下。PyTorch 的 MPS 后端雖然通用但對(duì)視覺(jué)模型的支持一直不太完善尤其是圖像編碼器部分經(jīng)常出現(xiàn)算子不支持然后回退到 CPU 的情況速度直接掉一個(gè)數(shù)量級(jí)。llama.cpp 在純文本模型上表現(xiàn)很好但它的視覺(jué)支持是后加的對(duì) Mano-P 這種需要精細(xì)圖像理解的場(chǎng)景靈活度不夠。MLX 是 Apple 專(zhuān)門(mén)為統(tǒng)一內(nèi)存架構(gòu)設(shè)計(jì)的框架它的數(shù)組操作天然共享內(nèi)存不需要在 CPU 和 GPU 之間來(lái)回拷貝數(shù)據(jù)。對(duì)于視覺(jué)語(yǔ)言模型這種既要處理圖像又要處理文本的場(chǎng)景這個(gè)特性帶來(lái)的收益非常明顯。而且 MLX 的量化工具鏈比較成熟4bit 量化后的模型在保持精度的同時(shí)內(nèi)存占用能壓到原來(lái)的四分之一左右。安裝 MLX 本身很簡(jiǎn)單pip install mlx mlx-lm mlx-vlm但這里有個(gè)版本匹配的坑。mlx、mlx-lm、mlx-vlm三者的版本需要相互兼容如果隨便裝最新版可能會(huì)出現(xiàn)mlx-vlm依賴(lài)的mlx版本和你實(shí)際裝的不一致運(yùn)行時(shí)直接報(bào)符號(hào)找不到。我的經(jīng)驗(yàn)是先把mlx裝好然后讓 pip 自動(dòng)解析mlx-vlm的依賴(lài)不要手動(dòng)指定版本。2.4 模型權(quán)重的獲取與存放Mano-P 的權(quán)重文件我放在了項(xiàng)目目錄下的models/文件夾里沒(méi)有用默認(rèn)的緩存路徑。這樣做的好處是方便管理也方便后面做量化轉(zhuǎn)換時(shí)直接指定輸入輸出路徑。下載權(quán)重的時(shí)候要注意有些倉(cāng)庫(kù)提供了多個(gè)量化版本比如 4bit、8bit、fp16。我的建議是先把 fp16 版本下載下來(lái)然后自己在本地做量化轉(zhuǎn)換。原因有兩個(gè)一是自己轉(zhuǎn)換能確保量化參數(shù)符合你的硬件特性二是轉(zhuǎn)換過(guò)程中能直觀看到每一層的量化誤差方便判斷哪些層需要保留更高精度。存放路徑建議用絕對(duì)路徑不要用相對(duì)路徑。后面配置推理腳本的時(shí)候相對(duì)路徑會(huì)因?yàn)楣ぷ髂夸涀兓н@種問(wèn)題排查起來(lái)很煩。3. 核心細(xì)節(jié)解析Mano-P 的推理鏈路拆解3.1 視覺(jué)編碼器與語(yǔ)言模型的分工Mano-P 的架構(gòu)可以粗略分成三塊視覺(jué)編碼器、投影層、語(yǔ)言模型。視覺(jué)編碼器負(fù)責(zé)把屏幕截圖轉(zhuǎn)成一串特征向量投影層把這些特征對(duì)齊到語(yǔ)言模型的嵌入空間語(yǔ)言模型再結(jié)合文本指令生成操作序列。這個(gè)分工決定了內(nèi)存占用的分布。視覺(jué)編碼器通常是 ViT 結(jié)構(gòu)參數(shù)量在 300M 到 1B 之間雖然不大但它處理的是高分辨率圖像激活值占用不小。語(yǔ)言模型是大頭7B 參數(shù)在 fp16 下就是 14GB4bit 量化后壓到 4GB 左右。投影層很小可以忽略。在 M4 Mac mini 的 16GB 統(tǒng)一內(nèi)存里如果語(yǔ)言模型用 fp16加上視覺(jué)編碼器和系統(tǒng)占用基本就爆了。所以量化是必須的而且我建議語(yǔ)言模型用 4bit視覺(jué)編碼器保持 8bit 或 fp16。為什么視覺(jué)部分不一起量化因?yàn)閳D像特征的精度損失會(huì)直接影響空間定位的準(zhǔn)確性點(diǎn)擊坐標(biāo)偏幾個(gè)像素任務(wù)就可能失敗。這個(gè)取舍我在后面會(huì)詳細(xì)說(shuō)。3.2 量化參數(shù)的實(shí)戰(zhàn)選擇MLX 的量化支持分組量化關(guān)鍵參數(shù)是group_size和bits。bits決定每個(gè)權(quán)重用幾位表示group_size決定多少權(quán)重共享一個(gè)縮放因子。我試過(guò)幾組配置實(shí)測(cè)結(jié)果如下配置語(yǔ)言模型內(nèi)存視覺(jué)編碼器內(nèi)存推理速度任務(wù)成功率4bit, group 64約 4.2GB約 1.1GB較快約 85%4bit, group 32約 4.5GB約 1.1GB中等約 88%8bit, group 64約 7.8GB約 1.1GB較慢約 92%4bit 語(yǔ)言 fp16 視覺(jué)約 4.2GB約 2.3GB中等約 90%最終我選了最后一組語(yǔ)言模型 4bit group 64視覺(jué)編碼器保持 fp16。內(nèi)存總占用在 7GB 左右留足了系統(tǒng)和其他進(jìn)程的空間任務(wù)成功率也能接受。group_size 選 64 而不是 32是因?yàn)?32 帶來(lái)的精度提升有限但內(nèi)存和計(jì)算開(kāi)銷(xiāo)增加明顯性?xún)r(jià)比不高。這里要提醒一句量化不是越激進(jìn)越好。我一開(kāi)始圖省事把視覺(jué)編碼器也壓到 4bit結(jié)果模型經(jīng)常把按鈕的位置識(shí)別偏明明該點(diǎn)確認(rèn)卻點(diǎn)到了旁邊的取消。后來(lái)把視覺(jué)部分恢復(fù)到 fp16這個(gè)問(wèn)題就消失了。所以視覺(jué)相關(guān)的部分精度能保就保。3.3 圖像預(yù)處理的幾個(gè)關(guān)鍵參數(shù)Mano-P 接收的輸入是屏幕截圖但原始截圖的分辨率往往很高直接送進(jìn)視覺(jué)編碼器會(huì)超出模型的最大輸入尺寸。所以需要預(yù)處理核心是縮放和歸一化??s放策略我試過(guò)兩種直接縮放到固定尺寸和保持寬高比縮放后填充。前者簡(jiǎn)單但會(huì)拉伸圖像導(dǎo)致圓形按鈕變成橢圓影響模型判斷。后者保留了原始比例但填充區(qū)域會(huì)引入無(wú)效信息。我最終選了保持寬高比縮放填充用灰色而不是黑色因?yàn)榛疑咏蠖鄶?shù)界面的背景色對(duì)模型的干擾更小。歸一化參數(shù)用的是 ImageNet 的均值和方差這是視覺(jué)編碼器的標(biāo)準(zhǔn)配置。如果你不確定用哪組參數(shù)去看視覺(jué)編碼器的配置文件里面會(huì)寫(xiě)清楚。還有一個(gè)容易被忽略的點(diǎn)截圖的色彩空間。macOS 的截圖默認(rèn)是 sRGB但如果你用了某些截圖工具可能會(huì)輸出 Display P3 色彩空間的圖。色彩空間不一致會(huì)導(dǎo)致顏色偏移進(jìn)而影響模型對(duì)界面元素的識(shí)別。我的做法是在預(yù)處理階段統(tǒng)一轉(zhuǎn)換到 sRGB這一步用 PIL 就能完成。4. 實(shí)操過(guò)程從零到跑通的完整記錄4.1 項(xiàng)目克隆與依賴(lài)安裝的踩坑記錄克隆 Mano-P 倉(cāng)庫(kù)的時(shí)候我建議加上--depth 1參數(shù)只拉取最新的一次提交。完整歷史記錄里可能包含一些大的二進(jìn)制文件拉下來(lái)又用不上白白浪費(fèi)時(shí)間。git clone --depth 1 倉(cāng)庫(kù)地址 mano-p cd mano-p依賴(lài)安裝是第一個(gè)大坑。項(xiàng)目根目錄下通常有requirements.txt但直接pip install -r大概率會(huì)失敗。原因是里面有些包指定了特定版本而這些版本可能沒(méi)有 arm64 的預(yù)編譯 wheel。我的處理方式是先裝核心依賴(lài)再逐個(gè)解決報(bào)錯(cuò)的包。核心依賴(lài)包括mlx、mlx-vlm、transformers、pillow、numpy。這幾個(gè)裝好之后再跑一遍完整的requirements.txt看哪些包報(bào)錯(cuò)。常見(jiàn)的報(bào)錯(cuò)包有opencv-python它在 Apple Silicon 上需要從源碼編譯耗時(shí)很長(zhǎng)。我的替代方案是裝opencv-python-headless功能一樣但不包含 GUI 相關(guān)的庫(kù)編譯快很多。還有一個(gè)坑是tokenizers這個(gè)包。它依賴(lài) Rust 編譯如果系統(tǒng)里沒(méi)有 Rust 工具鏈pip 會(huì)嘗試下載預(yù)編譯版本但有時(shí)候會(huì)因?yàn)槠脚_(tái)標(biāo)簽不匹配而失敗。解決辦法是裝一個(gè) Rustbrew install rust然后再裝tokenizers讓它從源碼編譯。雖然慢一點(diǎn)但能確保裝成功。4.2 模型加載腳本的編寫(xiě)與調(diào)試加載模型是整個(gè)流程里最考驗(yàn)?zāi)托牡囊徊?。我?xiě)了一個(gè)簡(jiǎn)單的加載腳本逐步驗(yàn)證每個(gè)組件是否正常。import mlx.core as mx from mlx_vlm import load, generate from mlx_vlm.utils import load_config model_path /absolute/path/to/mano-p-model config load_config(model_path) model, processor load(model_path) print(模型加載成功) print(f模型配置: {config})第一次運(yùn)行的時(shí)候報(bào)了一個(gè)KeyError說(shuō)配置文件里缺少某個(gè)字段。排查后發(fā)現(xiàn)是模型權(quán)重和配置文件的版本不匹配權(quán)重是新版配置是舊版。解決辦法是從同一個(gè)提交里重新下載這兩個(gè)文件確保版本一致。加載成功后我建議先做一次純文本推理測(cè)試確認(rèn)語(yǔ)言模型部分正常。然后再做圖像推理測(cè)試確認(rèn)視覺(jué)部分正常。分步驗(yàn)證的好處是出問(wèn)題的時(shí)候能快速定位是哪一塊的毛病。圖像推理測(cè)試可以用一張簡(jiǎn)單的截圖比如一個(gè)只有幾個(gè)按鈕的對(duì)話(huà)框然后問(wèn)模型確認(rèn)按鈕在什么位置。如果模型能給出大致正確的坐標(biāo)說(shuō)明視覺(jué)鏈路是通的。4.3 推理速度的實(shí)測(cè)與優(yōu)化在 M4 Mac mini 上Mano-P 的單步推理時(shí)間我實(shí)測(cè)在 1.5 到 3 秒之間取決于輸入圖像的復(fù)雜度和輸出序列的長(zhǎng)度。這個(gè)速度對(duì)于交互式使用來(lái)說(shuō)勉強(qiáng)夠用但如果你要批量處理任務(wù)就需要做一些優(yōu)化。第一個(gè)優(yōu)化點(diǎn)是圖像分辨率。視覺(jué)編碼器的計(jì)算量和圖像像素?cái)?shù)成正比。我把輸入圖像的長(zhǎng)邊限制在 1024 像素短邊按比例縮放。再大的話(huà)推理時(shí)間會(huì)明顯上升但精度提升很有限。第二個(gè)優(yōu)化點(diǎn)是 KV Cache。MLX 支持 KV Cache能把多輪對(duì)話(huà)中的歷史鍵值對(duì)緩存下來(lái)避免重復(fù)計(jì)算。對(duì)于 Mano-P 這種需要維護(hù)操作歷史的場(chǎng)景開(kāi)啟 KV Cache 能省下不少時(shí)間。開(kāi)啟方式是在生成參數(shù)里設(shè)置max_kv_size具體值根據(jù)你的內(nèi)存情況調(diào)整。第三個(gè)優(yōu)化點(diǎn)是批處理。如果你有多個(gè)任務(wù)要處理可以把它們的圖像輸入拼成一個(gè)批次一次性送進(jìn)模型。MLX 對(duì)批處理的支持不錯(cuò)能充分利用 GPU 的并行能力。但要注意批處理會(huì)增加內(nèi)存占用16GB 的機(jī)器上批次大小建議不要超過(guò) 4。4.4 與系統(tǒng)交互的權(quán)限配置Mano-P 要真正完成操作需要控制鼠標(biāo)和鍵盤(pán)。在 macOS 上這涉及到輔助功能權(quán)限。第一次運(yùn)行控制腳本的時(shí)候系統(tǒng)會(huì)彈窗要求授權(quán)。這里有個(gè)坑授權(quán)之后需要重啟終端權(quán)限才會(huì)生效。我第一次沒(méi)重啟折騰了半天以為代碼有問(wèn)題??刂剖髽?biāo)鍵盤(pán)我用的pyautogui它在 macOS 上依賴(lài) Quartz 事件系統(tǒng)。安裝很簡(jiǎn)單pip install pyautogui但使用時(shí)要注意pyautogui的坐標(biāo)是屏幕絕對(duì)坐標(biāo)而 Mano-P 輸出的坐標(biāo)是相對(duì)于輸入圖像的。所以需要一個(gè)轉(zhuǎn)換步驟把模型輸出的圖像坐標(biāo)映射到屏幕坐標(biāo)。這個(gè)映射關(guān)系取決于你的截圖區(qū)域和屏幕分辨率需要根據(jù)實(shí)際情況計(jì)算。我的做法是記錄截圖時(shí)的區(qū)域偏移和縮放比例然后寫(xiě)一個(gè)轉(zhuǎn)換函數(shù)def image_to_screen_coord(img_x, img_y, scale, offset_x, offset_y): screen_x int(img_x * scale offset_x) screen_y int(img_y * scale offset_y) return screen_x, screen_y這個(gè)函數(shù)看起來(lái)簡(jiǎn)單但scale和offset的計(jì)算容易出錯(cuò)。建議先用幾個(gè)已知位置的元素做校準(zhǔn)確認(rèn)映射準(zhǔn)確后再跑完整任務(wù)。5. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄5.1 模型加載失敗的幾種典型情況模型加載失敗是最常見(jiàn)的問(wèn)題表現(xiàn)五花八門(mén)但原因就那么幾類(lèi)。我整理了一個(gè)速查表報(bào)錯(cuò)信息可能原因解決方法FileNotFoundError路徑錯(cuò)誤或權(quán)重未下載檢查絕對(duì)路徑確認(rèn) git-lfs 已拉取權(quán)重KeyError: xxx配置與權(quán)重版本不匹配從同一提交重新下載配置和權(quán)重RuntimeError: shape mismatch量化版本與加載代碼不匹配確認(rèn)加載代碼支持對(duì)應(yīng)的量化格式MemoryError內(nèi)存不足降低量化位數(shù)或減小輸入圖像尺寸ImportError: symbol not found依賴(lài)版本沖突重裝 mlx 系列包讓 pip 自動(dòng)解析依賴(lài)我遇到最多的是KeyError基本都是版本不匹配導(dǎo)致的。Mano-P 這類(lèi)項(xiàng)目迭代快權(quán)重和配置經(jīng)常不同步。養(yǎng)成從同一個(gè) release 或 commit 下載所有文件的習(xí)慣能避免大部分這類(lèi)問(wèn)題。5.2 推理結(jié)果不準(zhǔn)確的排查思路模型能跑起來(lái)但輸出的操作指令不對(duì)這個(gè)問(wèn)題比加載失敗更讓人頭疼因?yàn)樗鼪](méi)有明確的報(bào)錯(cuò)信息。我的排查順序是這樣的。第一步檢查輸入圖像。把預(yù)處理后的圖像保存下來(lái)看一眼確認(rèn)沒(méi)有變形、沒(méi)有色彩偏移、沒(méi)有意外的填充。很多時(shí)候問(wèn)題就出在預(yù)處理上圖像被拉伸了模型自然認(rèn)不準(zhǔn)。第二步檢查提示詞。Mano-P 對(duì)提示詞的格式有要求如果你自己改了模板可能導(dǎo)致模型理解偏差。建議先用項(xiàng)目自帶的默認(rèn)提示詞跑一遍確認(rèn)基線(xiàn)正常后再做調(diào)整。第三步檢查量化精度。如果前面兩步都沒(méi)問(wèn)題那可能是量化損失太大。把語(yǔ)言模型從 4bit 換成 8bit 試試如果準(zhǔn)確率明顯提升說(shuō)明 4bit 對(duì)你的任務(wù)來(lái)說(shuō)精度不夠。這時(shí)候要么接受 8bit 的速度要么換用更大的模型。第四步檢查坐標(biāo)映射。模型輸出的坐標(biāo)是對(duì)的但映射到屏幕時(shí)算錯(cuò)了表現(xiàn)也是點(diǎn)不準(zhǔn)。這種情況用校準(zhǔn)法就能快速確認(rèn)。5.3 長(zhǎng)時(shí)間運(yùn)行的穩(wěn)定性問(wèn)題Mano-P 如果作為常駐服務(wù)運(yùn)行穩(wěn)定性很重要。我遇到過(guò)兩個(gè)問(wèn)題內(nèi)存泄漏和溫度降頻。內(nèi)存泄漏的表現(xiàn)是運(yùn)行幾個(gè)小時(shí)后內(nèi)存占用越來(lái)越高最后被系統(tǒng)殺掉。排查后發(fā)現(xiàn)是圖像預(yù)處理部分的緩存沒(méi)有釋放。解決辦法是在每輪推理結(jié)束后手動(dòng)清理緩存import gc import mlx.core as mx gc.collect() mx.metal.clear_cache()mx.metal.clear_cache()這個(gè)調(diào)用很關(guān)鍵它能釋放 MLX 占用的 GPU 內(nèi)存。不加的話(huà)即使 Python 層面回收了對(duì)象GPU 內(nèi)存也不會(huì)立即釋放。溫度降頻在 M4 Mac mini 上不太常見(jiàn)因?yàn)樗纳嵩O(shè)計(jì)不錯(cuò)。但如果你把它放在密閉空間里或者環(huán)境溫度很高長(zhǎng)時(shí)間滿(mǎn)載運(yùn)行還是會(huì)觸發(fā)降頻。表現(xiàn)是推理速度突然變慢。我的做法是監(jiān)控芯片溫度超過(guò)閾值就暫停任務(wù)等溫度降下來(lái)再繼續(xù)??梢杂胮owermetrics命令查看溫度但需要 sudo 權(quán)限。5.4 幾個(gè)我踩過(guò)的獨(dú)家坑第一個(gè)坑是關(guān)于文件描述符的。Mano-P 在運(yùn)行過(guò)程中會(huì)頻繁打開(kāi)和關(guān)閉圖像文件如果代碼里沒(méi)有正確關(guān)閉文件句柄運(yùn)行一段時(shí)間后會(huì)報(bào)Too many open files。解決辦法是用with語(yǔ)句打開(kāi)文件確保自動(dòng)關(guān)閉。如果已經(jīng)出現(xiàn)了這個(gè)問(wèn)題可以臨時(shí)提高系統(tǒng)的文件描述符限制ulimit -n 4096第二個(gè)坑是關(guān)于路徑中的空格。macOS 的用戶(hù)目錄經(jīng)常帶空格比如/Users/xxx/My Projects/。有些庫(kù)對(duì)路徑中的空格處理不好會(huì)報(bào)找不到文件的錯(cuò)誤。我的建議是項(xiàng)目路徑里不要有空格用下劃線(xiàn)代替。第三個(gè)坑是關(guān)于模型輸出的解析。Mano-P 輸出的操作指令是結(jié)構(gòu)化文本但模型有時(shí)候會(huì)多輸出一些解釋性文字導(dǎo)致解析失敗。我的做法是在解析前先做一次正則提取只保留符合格式的部分。同時(shí)給解析函數(shù)加上異常處理解析失敗時(shí)記錄原始輸出方便后續(xù)分析。第四個(gè)坑是關(guān)于多顯示器的。如果你接了外接顯示器截圖和坐標(biāo)映射會(huì)變得復(fù)雜。Mano-P 默認(rèn)假設(shè)單顯示器多顯示器環(huán)境下需要額外處理每個(gè)顯示器的偏移。我建議先在單顯示器環(huán)境下跑通再考慮多顯示器的適配。6. 性能調(diào)優(yōu)與擴(kuò)展玩法6.1 內(nèi)存占用的精細(xì)控制16GB 統(tǒng)一內(nèi)存聽(tīng)起來(lái)不少但系統(tǒng)本身要占 3 到 4GB再跑一個(gè) 7GB 的模型剩下的空間就很緊張了。我做了幾項(xiàng)優(yōu)化來(lái)壓內(nèi)存。第一項(xiàng)是限制 MLX 的內(nèi)存上限。MLX 默認(rèn)會(huì)盡可能多地占用內(nèi)存來(lái)做緩存這在內(nèi)存充足的機(jī)器上是好事但在 16GB 的機(jī)器上會(huì)導(dǎo)致系統(tǒng)頻繁換頁(yè)??梢酝ㄟ^(guò)環(huán)境變量限制export MLX_METAL_MEMORY_LIMIT8589934592這個(gè)值是 8GB給系統(tǒng)和其它進(jìn)程留出足夠空間。設(shè)置之后MLX 會(huì)在達(dá)到上限時(shí)主動(dòng)釋放緩存而不是一直往上堆。第二項(xiàng)是及時(shí)釋放中間張量。在推理腳本里每步結(jié)束后把不再使用的變量置為None然后調(diào)用垃圾回收。這個(gè)習(xí)慣能顯著降低峰值內(nèi)存占用。第三項(xiàng)是關(guān)閉不必要的后臺(tái)進(jìn)程。macOS 有很多后臺(tái)服務(wù)平時(shí)不覺(jué)得但內(nèi)存緊張的時(shí)候它們就是壓垮駱駝的最后一根稻草。我跑 Mano-P 的時(shí)候會(huì)關(guān)掉瀏覽器、郵件客戶(hù)端這些內(nèi)存大戶(hù)。6.2 推理速度的進(jìn)一步壓榨前面提到的圖像分辨率、KV Cache、批處理是三個(gè)主要優(yōu)化點(diǎn)。除此之外還有幾個(gè)小技巧。一是預(yù)熱。第一次推理總是最慢的因?yàn)橐幾g Metal 著色器、加載權(quán)重到 GPU。我的做法是在服務(wù)啟動(dòng)時(shí)先跑一次空推理把該初始化的都初始化好后續(xù)的請(qǐng)求就能直接進(jìn)入快速路徑。二是用mx.compile編譯推理函數(shù)。MLX 支持把 Python 函數(shù)編譯成優(yōu)化后的計(jì)算圖減少 Python 層面的開(kāi)銷(xiāo)。對(duì)于推理這種計(jì)算密集、控制流簡(jiǎn)單的場(chǎng)景編譯帶來(lái)的提升很明顯。mx.compile def inference_step(model, inputs): return model(inputs)三是調(diào)整生成參數(shù)。temperature設(shè)低一點(diǎn)max_tokens設(shè)合理一點(diǎn)都能減少不必要的計(jì)算。Mano-P 的輸出通常是結(jié)構(gòu)化的短文本不需要太長(zhǎng)的生成長(zhǎng)度。6.3 把 Mano-P 接入自動(dòng)化流程跑通單次推理之后我把它接入了一個(gè)簡(jiǎn)單的自動(dòng)化流程定時(shí)截屏送進(jìn)模型根據(jù)輸出執(zhí)行操作循環(huán)往復(fù)。這個(gè)流程能實(shí)現(xiàn)一些基礎(chǔ)的自動(dòng)化任務(wù)比如定時(shí)檢查某個(gè)界面狀態(tài)、自動(dòng)填寫(xiě)表單等。接入的時(shí)候要注意錯(cuò)誤處理。模型不是百分百準(zhǔn)確的偶爾會(huì)輸出無(wú)效指令。我的做法是給每個(gè)操作加上驗(yàn)證步驟執(zhí)行后檢查界面是否發(fā)生了預(yù)期變化如果沒(méi)有就重試或跳過(guò)。這樣能避免一個(gè)錯(cuò)誤指令導(dǎo)致整個(gè)流程卡死。還有一個(gè)建議是加日志。把每步的截圖、模型輸出、執(zhí)行結(jié)果都記錄下來(lái)。出問(wèn)題的時(shí)候這些日志是排查的唯一依據(jù)。我用的格式是每步一個(gè)文件夾里面放截圖和 JSON 格式的記錄清晰又好查。6.4 后續(xù)可以嘗試的方向跑通基礎(chǔ)版本之后有幾個(gè)方向值得繼續(xù)折騰。一是換用更大的模型如果你有 24GB 或 32GB 內(nèi)存的機(jī)器可以試試 13B 級(jí)別的視覺(jué)語(yǔ)言模型準(zhǔn)確率會(huì)有明顯提升。二是做模型微調(diào)用你自己的界面截圖和操作記錄做 LoRA 微調(diào)讓模型更適應(yīng)你的使用場(chǎng)景。三是優(yōu)化交互延遲把推理和控制做成流水線(xiàn)一邊推理一邊執(zhí)行減少等待時(shí)間。我個(gè)人最感興趣的是第二個(gè)方向。通用模型在特定界面上的表現(xiàn)總是不夠穩(wěn)定但如果用幾百條自己標(biāo)注的數(shù)據(jù)做微調(diào)效果可能會(huì)有質(zhì)的飛躍。MLX 也支持 LoRA 訓(xùn)練在 M4 Mac mini 上微調(diào)一個(gè)小模型是可行的只是速度慢一些需要耐心。最后分享一個(gè)我在調(diào)試過(guò)程中總結(jié)的小技巧把每次推理的輸入圖像和輸出結(jié)果配對(duì)保存積累幾十條之后你就能直觀地看出模型在哪些類(lèi)型的界面上容易出錯(cuò)。這個(gè)錯(cuò)誤分布比任何 benchmark 都更能反映真實(shí)使用中的問(wèn)題也是后續(xù)優(yōu)化的方向指引。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧美槡BBBB槡BBB少妇| 婷婷五月天亚洲| 五月天久久久| 日本熟女二区| 国产67194| WWW.天天日| 亚洲免费看片| 91狠狠综合久久久久久| 丁香五月天堂| 色色五月婷婷网| 日韩成人影片网站| 婷婷六月激情丁香| 91男同| 97se在线视频| 中文字幕精品在线观看| 丁香六月激情综合| 我要看激情五月天| 日碰日| 强辱丰满人妻HD中文字幕| 97干97色| 日本不卡高字幕在线2019| 婷婷色正月| 五月丁香啪综合| 色啪综合| 开心五月激情五月丁香五月婷婷| 国产精品色婷婷久久久精品| 97人人操人人干| 天天干天天叉| www.99在线| 大伊香蕉精品视频在线| 99视频| 99超级碰免费视频| 色色色com| 亭亭五月丁香五月天激情| 久久99网站| 爽tv | 久久丁香五月天| 久久99免费视屏| 国产精品久久久久9999小说| 欧美日韩成人一区二区| 99热思思在线观看| 一本九九色| 玖玖婷婷五月天| 日日操,夜夜撸| 日韩色色一区| 精品亚洲国产成AV人片传媒| 久99热在线观看| 五月丁香激情综合网| 久久99最新地址| 日本天堂免费99| 久久综合网免费视频| 亚洲欧洲一二| 日本高清久久| 五月婷婷激情日本| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 激情小说五月天中文字幕| 五月婷婷之综合激情在线| 中文激情网| 五月激情基地| 丁香五月天AV在线| 丁香五月天天| 国产真实乱了老女人视频| 亚洲无码99| 久久精品婷婷| av免费在线看不卡无毒| 婷婷在线视频| 色综合另类| 性 色 婷婷| 婷婷久久伊人| 疯狂做受XXXX高潮A片动画| 激情五月婷婷在线观看| 丁香婷婷六月激情综合| 91碰碰| 久久ri精品视频| 99色热| 欧美狠狠地| 永久无码色| 欧美一级毛卡片无码| 亚洲综合视频在线| 综合激情深爱| 99热这里只有精品98| 五月丁香婷婷啪啪网| 亚洲精品久久久久久久久久吃药| 欧美97色| 79精品视频在线观看,| 五月噜噜噜色综合| 九热免费视频| 九九九九中文字幕| 色色欧美色色色| 99精品久久久久久久婷婷| 99热香港| 99久视频| 无码色综合| 国产肥白大熟妇BBBB视频| 国产综合色婷婷精品久久| 久99热| 亚洲综合网区| 婷婷五月激情的图片| 五月综合人妻| 激情丁香五月| 国产激情久久久| 久久激情五月婷婷| 久久er九九| 激情综合九月| 色播色丁香五月| 亚洲精品V天堂中文字幕| 亚洲综合视频网| 牛牛碰免费| 成人超碰AV| 婷婷色偷拍| 婷婷五月综合性爱| 99在线精品免费视频| WWW久久久| 日韩三级高清无码| 狠狠色精品综合| 色欲Av五月天| 欧美一级色| 大香人妻| 亚洲正能量欧美| 亚洲黄色影视| 欧美日韩一区二区三区四区| 激情五月婷黄版| 思思久久99热只有频精品66| 婷婷五月天伊人网在线观看视频| 亚洲 精品 综合 精品| 五月婷婷天堂| 超色欲天天| 亚洲狠狠色丁香婷婷综合久久| 欧美色频| 国产成人亚洲综合A∨婷婷| www.激情| 99热这里| 开心五月婷婷婷美女| WWW.99热| 丁香色播五月天| 亚洲成人网无码| 9191avse| 久久婷婷五月丁香网| 99久高清视频| 色欲色香综合网站| 91色欲综合| 久操香蕉| 青草青草视频2免费观看| 99ri在线观看视频| 激情丁香社区| 丁香大香蕉| 九九色播五月丁香| 99人妻碰碰碰久久久久视| 婷婷五月天狠狠搞干| 另类小说婷婷色| 五月婷婷色综图片| 色色亚洲无码| 激情久久四色| 天天爱天天做天天舔| ww亚洲ww在线观看| 婷婷五月成人色综合| 婷婷丁香五另类网站| 亚洲成人av在线播放| 婷婷五月天丁香久久| 51精品国自产在线| 超PEN精品在线| 狠狠摸狠狠摸| 婷婷综合色播网| 亚洲 五月 婷婷 成人| 五月综合在线婷婷图片| 天天日天天操天天干| 亚洲久久视频| www 五月天 com| 五月激情婷婷六月丁香| 99综合99| 激情五月少妇| 综合色色色| 国产亚洲精久久久久| 婷婷丁香五月天欧美| 丁香香五月激情免费视频| 色综合久久久久| 欧美一级色| 婷婷五月丁香五月| 日日噜噜久久婷婷五月天| 人人操超碰| 国产一级片色色| aV直接看| 色婷婷亚洲综合av| 97久久五月丁香婷婷| 大香AV| 五月天激情啪啪| 五月天激情四射网站| 丁香五月激情月| 色婷婷啪啪| 97在线视频 欧美| 婷婷五月天涩涩| 九月大香蕉| 久久这里只有精品视频15| 在线播放 精品| 色综合久久之分久久| 五月丁香婷婷钟和色图| 9久热在线精品| 丁香天堂夜| 九九久久精品國產| 国产九九一区二区三区| 伊人久久99| 五月伊人网| 9l视频自拍九色9l视频自拍九色9l社区 | 99综合免费视频| 狠狠狠狠狠干| 激情四射亚洲| 亚洲AV无码成人精品电影| WWW·色色色·COM| 日本高清久久| 五月丁香婷婷国产精品综合| 色婷婷五月天天天干天天操天天爽| 79精品视频| 夜夜夜夜撸夜夜操| 五月天婷婷影院| 婷婷五月色天| 亚洲午夜成人av电影网| 五月深情久久| 67194成I人在线观看线路1| 激情网站五月| 欧美亚洲婷婷五月| 激情綜合網址| 亚洲这里只有精品| 一级操逼大片| 99精品高潮| 六月色日韩| 人妻videos人妻高清| 婷丁香五月天| 丁香婷婷综合影院| 综合婷婷六月| 亚洲激情婷婷| 九月av在线| 丁香五月性爱爱五月| 色噜噜狠狠色综合日日| 欧美内射AAAAAAXXXXX| 香蕉99网| 国产精品-91JQ就要激情网91JQ6.91JQ27.CASA:16888 | 日本熟妇乱妇熟色A片蜜桃| www.婷婷五月天| 激情五月天天| 九九热内射| 国产精品国产| 亚洲五月天综合色| 五月婷婷综合精品| 日本超碰在线| 国外亚洲成AV人片在线观看| 精品九九久久| 日本久热| 99热精这里只有精品| 激情5月婷婷| 男人的天堂五月丁香| 久热免费| AV在线不卡网站| 任我肏| 99re久热只有精品6在线直播| 99色爱| 婷婷五月天美女视频| 久久99热这里只频精品6学生| 婷婷五月综激情| 婷婷五月天福利| 婷婷五月五月丁香| 色欲婷婷五月天| 密乳视频| 99久久久免费| 色色欧美色色色| 97碰碰在线观看视频| 色色色色热热| 久久视频这里99| 亚洲国产成人综合| 色香蕉婷婷| 婷婷六月视频| 国产夫妻操逼内射视频| 99视频精品在线| 五月丁香久久| 五月情涩综合婷婷| 99久久99九九99九九九| 婷婷十月丁香| www.天天日| 色域五月丁香| 久热这里只有精品3| 亚洲色婷婷五月| 大香蕉av在线| 爆乳熟女-区二区三区| 五月天成人综合| 激情狠狠丁香月| 成人免费高清在线播放| 黄色中文字目| 激情五月天色色网| 五月丁香五月婷婷在线观看| 婷婷99| 九月丁香欧美综合| 情欲综合网| 99视频在线播放大全| 激情又色又爽又黄的A片| 五月色亚洲| 狠狠色性| 五月丁香激情四射| 好叼操在线观看| 伊人激情| 噜噜狠狠色| 成人视频网| 激情丁香久久| 狠狠干激情五月| 久久婷婷五月综合激情国产| 色99久草在线| 五月丁香婷婷无码中文| 激情第四色| 男女啪啪做爰高潮无遮挡 | 国内久久亭亭| 99福利视频| www.五月婷婷| 91碰操| 丁香婷婷五月激情综合| 色婷婷五月在线| 久久综合五月天激情小说网站 | 九九99热| 91人人人人人人人| 美女丁香五月天| 99re8在这里只有精品| 丁香五月天激情| 涩 五月 婷婷 狠狠| 激情丁香五月婷| 1024操逼视频| 色婷婷综合丁香五月天| 很很干五月天| 丁香五月天堂| 欧美在线看| 99热在线成人网站| 性色做爰片在线观看WW| 中美月韩免费A片| 五月婷婷激清网| 五月丁香在线观看| 色呦呦美女| 久热网站| http:色情日本com| 六月丁香花婷婷| 欧洲色色| 99热官网精品在线| 六月婷婷色宗合| 久久精品4| 99综合99| 五月婷婷六月激情在线| 天天搞天天爽| 色婷婷六月天| 五月天婷久精视频| 大鸡巴伊人网| 日本九九热| 五月婷婷激情久久| 婷婷六月激情| 99热成人精品网站| 大香蕉在线观看9| 五月五丁香婷婷| 色区久久| 久久 婷婷 五月天| 天天操婷婷| 激情婷婷激情在线不卡| 天天色综合色| 久久久噜噜噜久久人妻| 97人人妻人人艹| 日本99久久| 天天爽天天操| 毛片九九九九九九| 天天日天天爱天天噪| 五月天另类视频| 免费看欧美成人A片无码| 久久成人性爱| 欧美叉叉叉BBB网站| 欧洲第一久色| 男人視頻站| h在线看免费版在线看| 久久婷婷网| www狠狠| 五月婷婷六月丁香| 成人免费黄色短视频| 噜噜色噜噜网| 久九色| 精品婷婷| 欧美爆乳一区二区三区| 色玖玖导航| se99视频| 青青草日本亚洲| 操B视频在线播放| 亚洲成人va| 亚洲视频无| 久久久www| 激情文学天天| 影音先锋91视频| 久99久精品| 中文字幕丰满乱孑伦无码专区| 高清资源站日A美A欧亚…| WWW五月| 亚洲在线综合| 9久精品| 婷婷激情丁五月| 香蕉中文在线| 99热综合| 五月色俺婷婷| 色玖玖爱| 综合色、色综合| 久综合| www久| www色综合| 丁香五月手机在线| 欧美性生交XXXXX无码小说| 99爱在线免费视频| 噜噜色五月| www超碰com| 五月色丁香| 草美女在线观看视频在线播放| 91n网站cad入口在线观看| 欧美精品999| 五月丁香色婷婷基地| 日本丁香久在线| 我爱大香蕉| 五月天婷婷涩涩| 色停停香蕉视频| 国产综合激情五月久久| 人人操人人干AV| 丁香六月综合激情| 人人干av| 亚州激情在线视频| 色婷久| 99热思思| 大天天伊人| 丁香色六月婷婷| 丁香五月成人自拍| 婷婷五月综合在线| 777色婷婷爱五月| 激情第四色| 婷婷五月情天| 综合久久婷婷五月丁香| 色情激情五月婷婷| 丁香五月天婷婷激情| 午夜五月天| 噜噜色噜噜网| 精品五月视频婷婷在线观看| 91人人妻人人操人人爽| 婷婷五月综合在线| 99成人在线观看| 国产日批视频| 在线观看av网站| 韩日另类| 香蕉久久国产AV一区二区| 五月花成人网| 色五月婷婷综合| 久久婷婷原创视频| 深爱激情综合| 日日干夜夜干| 婷婷五月天免费| 婷婷五月天久久久| 香蕉五月婷婷| 国产亚洲在线观看| 狼人婷婷久久| 色综色五月天婷婷| 97亚洲色 torrent magnet| 亚洲色图啪啪| 日日躁夜夜躁狠狠久久AV| 69久久99精品久久久久婷婷| 色狠狠综合| 思思热久久阴99| 综合亚洲AV| 草了bav视频在线观看| www99精品| 丁香五月在线视频黑人| 久久久久久久丁香五月天婷婷| 97丁香视频| 亚洲中文字幕在线观看| 婷婷四色五月| www,天天干| www婷婷亚洲| 成人一级片| 亚洲成人精品三区| 中文字幕日产A片在线看| 九九99九九99| 色婷婷成人| 色五月 激情婷婷 综合五月天| 97人凄人人操人人爽| 第四色色六月色综合| 狠狠操狠狠爱| www.激情| 五月婷婷AV| 天天操夜夜爱| 操笔无码| 99在线精品观看99| av激情在线| 日本97人人| 无码日本精品XXXXXXXXX | 五月丁香六月婷综合成人综合| 婷婷五月丁香基地| 五月天婷婷黄色| 色五月婷婷五月丁香五月激情五月视频| 婷婷五月天久久综合88| 成人在线免费网址| 丁香伍月婷电影全集| 日本久久天堂| 操碰97| 久久婷婷五月综合啪| 999热在线视频| 五月亭亭六月激情| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 九九色影院| 久久嘟嘟丁香| 色播激情婷婷| 综合色图婷婷| 极品少妇XXXX精品少妇偷拍| 五月丁香激情综合| 夜夜夜夜夜操| 色综合综合色| 日韩另类在线观看| 青青草成人网| 骚。com| 激情开心五月亚洲| 国产探花AV在线| 精品动漫 无码av| 亚洲愉拍99热成人精品| 中国丰满熟女A片免费观| 综合网五月| 99精品视频偷拍| 五月天成人综合| 国产VA亚洲VA96| 精品一区二区三区木瓜| 久久综合伊人综合在线| 五月停停直播| 99这里有精品免费| 播五月婷婷开心| 草草视频91| 色三级色三级| 91碰碰视频| 成人色图情色成人网 www.5b5b5bcom 五月天 | 狠狠五月激情在线| 99热这里只有精品268| 成人 在线 日韩| 思思99久久| 五月激情射| 亚洲综合成人网站| 亚洲成片在线观看| 久人人操| 激情av网| 888久久久| 操逼综合网| 色欲色香综合网站| 九九热99久久99| 精品国婬伦V无码久久久| www.91热久久| 五月丁香亚州综合网| 日韩成人影片网站| 欧美婷婷色| 综合av在线| 老美AA片| 丁香五月天天久久综合小说| 天天色中文字幕女优AV| av首页在线| ztEJj| 99视频在线9| 九九婷婷热| 操97在线观看| 国产综合A片| 亚洲啪| 欧亚中文A V| 五月丁香婷色| 久热久re| 色婷婷狠狠久久YY| 97在线/亚洲| 亚洲在线操| xx久久| 97人人看| 午夜丁香丁香婷婷| 亚洲综人色综网| 91玖玖| 日韩无码专区| 桃色Av色哟哟| 五婷婷六月合| 99热在线中文字幕| 丁香五月av在线| 婷婷色狠狠| 噜噜色婷婷| 五月天开心网| 99热这里只有精品1025| 激情五月婷婷五月| 99精品偷自拍| 婷婷中文字幕网站| 9久热在线精品| 色噜噜五月丁香婷婷| 日韩黄色电影| 丁香婷婷网| www.激情五月天。com| 激情久久久| 丁香六月色婷婷欧美| 久久在这里有精品| 99久久成人| 伊人深爱综合| 亚洲色热| 99久久99九九99九九九| 婷婷色播婷婷| 三级黄色大片视频| 黄色成人AV在线| 97超级碰碰碰| 91精品久久久久久77777| 最新日本A片| 五月丁香婷婷激情在线| 亚洲亚洲永久无码777777| 九九色热| 国产亚洲99久久精品| 思思热在线视频精品| 无码人妻精品一区二区蜜桃色欲| 成人在线观看国产| 激情综合网站| 91色综合| 色的色综合| 婷婷五月天BBw| 色色热| 丁香五月播播| 亚洲乱码日产精品BD| 大大香蕉综合在线| 五月丁香网站| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 中文字幕乱码亚洲精品一区| 97色综合视频| 一起草Av| \\五月天婷婷激情| 色亚洲欧洲| 久久精品五月天| 日日夜夜干| 丁香五月开心七月| 色婷六月| 玖月婷婷爱丁香| 丁香丝袜五月| 婷婷九月亚洲| av中文在线| 色婷婷91激情小说| 久久五月激情| 狠狠色丁香婷婷基地| 亚艹艹| 婷婷五月香蕉| 蜜桃五月天| 99热在线网站| 综合久久99| 五月丁香婷中文| 99热这里只有精品9| 色欲色香综合网| 亚洲成人无码专区| 超碰在线综合| 99久热这里有精品| 青青草激情网| 亚洲操B| 人人操人人妻| 婷综合| 我爱婷婷五月天综合88| 激情五月婷婷五月| 五月天色色网站| 狠狠色婷| 婷色五月| www.亭亭五月天| 婷香五月| 婷婷丁香91综合| 五月丁香六月婷婷久久肏| 激情丁香五月婷| 五月丁香六月综合激情无码软件亮点| 亚洲99热| 婷婷丁香精品视频在线观看| 另类精品视频在线观看| er99免费视频在线| 国产三级片91| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 波多野结衣AV无码Porn| 亚洲国产无线乱码在线观看| 五月亭亭欧美女人| 久久与婷婷| 色婷婷五月天在线观看| 国产精品18久久久| 91日韩美女被插视频| 久热这里只有精品在线观看| 激情五月天社区| 播播网色播播| 天堂网色婷婷| 99在线观看免费精品视频| 五月丁香在线观看| 国产毛片精品一区二区色欲黄A片| 婷婷久久18| 老司机午夜福利视频金瓶梅| 五月丁香成人小说| 欧美日韩精品人妻狠狠躁免费视频| 久久天堂| 99热这里只是精品| 亚洲激情av| 丁香深五月婷婷| 亚洲一个色| 五月丁香成人视频| 国产亚洲精品久久久久久郑州| 玖玖婷婷婷丁香五月| 狠狠狠人妻| AV在线免费播放| 丁香五月婷婷社区| 丁香五月婷婷深爱综合激情| 六月色播| 无码AV久久久久久久久| 91色色色18| 五月花婷婷丁香| 亚洲精品国产setv| 真实熟女-91九色| 婷婷五月天伊人在线| 99这里只有精品| 中文字幕乱码亚洲精品一区| 91玖玖| 婷婷精品综合| 99精品在线观看| 五月婷婷日| 五月丁香六月色婷婷| 婷婷成人综合| 狠狠 久久| 天天色伊人| 成人在线网址| 免费成人中文字幕| 成年AAAA色情| 日韩综合天堂| 97国产精品女人碰碰| 美女要搞搞天天搞搞搞网站| 久操热线| 9色免费网| 久久五月天激情视频| 九久9精品| 婷婷综合另类| 激情五月天网页| www.色五月| 久久图色4| 人人干AV| 伊人久久婷婷| 色伊人啪| 午夜五月天| 最近中文字幕2019视频1| 婷婷欧美综合| 第五色色色婷婷| 国产欧美精品AAAAAA片| 狠狠干婷婷| 天天舔天天摸| 91fuliwang| 婷婷综合成人五月天| 色色网站| 五月婷婷丁香大陆免费| 伊人五月天在线| 95精品区一区二| 永久的网站AAAA | 久香草视频在线观看| 激情影院丁香五月| 成人av在线电影| 丁香婷婷激情五月天无毒不卡蜜桃| 天天干在线播放| 91热er| 亚洲综合激情五月久久| 91丨九色丨丰满人妖| 五月婷婷69| 日本色99网站| 婷婷五月精品在线| 婷婷五月天色色| 成人婷99最新| 久久久噜噜噜久久人妻| 97涩婷婷| 思思热再线视频| 五月天色五月| ay2区| 综合五月婷婷| 激情综合九月| 91人操人人人操人| 99热观看| 婷婷五月视频| 黄色网址五月婷婷| 婷婷综合网在线| 丁香五月成人| 色 免费网站视频| 综合大香蕉| 另类激情五| 丁香六月婷| 日韩精品VIP| 丁香九月婷婷色| 日本V在线观看不卡视频网站| 丁香五月九九| 婷婷丁香色五月| 婷婷丁香九色| renrencaoav| 专区无日本视频高清8| 婷婷四月 成人 狠狠干| 99热色精品| 色婷婷成人| 狠狠爱综合| 成人av在线网站| 91九色熟女| 婷婷内射视频在线| 色色色色色色色色色色色色色97| 91嫩草久久| 舔色婷婷| 久久天堂婷婷五月| 99re思思热久久| 香蕉色色网| 激情小说婷婷五月| 人操91在线| 狠狠干综合网| 97人人操人| 色婷婷成人五月| 人妻有码乱操| 色色色.COM| 成人五月天综合网| 天天热夜夜操| www.金莲av| www五月天激情com| 婷婷九月久久| 五月天婷婷无码视频| 色婷婷狠狠18yy| 国产午夜精品久久久观看| 男人的天堂99| 九九色影院| 在线视频另类| 中文无码婷婷| 99精品在这里| 久久五月天合网| 99热这里只有精品8| 六月丁香激情综合网| 婷婷欧美| 久久这里只有国产| 99热6这里只有精品| 日韩欧美五月丁综合| 婷婷丁香五月天激情| 五月丁香五月丁香| 国产欧美精品AAAAAA片| 婷婷五月天激情小说网站| 婷婷综合丁香| 夜夜做夜夜愛| 五月婷婷之综合激情在线| 婷婷五月丁香手机在线视频| 99啪在线| 欧洲一区二区| 色婷婷丁香| 五月婷婷色播| 五月激情综合激情五月| 超碰av在| 人妻精品久久久久久久| 丁香五月婷婷少妇| 天天在线XXX| 伊人婷婷五月天av| 91碰碰视频| 激情久久久久久| 国产在这里只有精品| 天天综合亚洲综合网天天αⅴ| 99精品成人无码A片观看金桔| 91婷婷五月天综合视频| 91人人爱| www99热| 精品爆操| 婷婷五月av| 色色网站免费在线视频| 99热在线观看| 六月婷婷影院| 99热观看| 91大神操美女| 亚洲国产色婷婷| 国产乱子轮XXX农村| 欧美激情综合色综合色| 色天堂操| 97干97色| 九九热在视频| avh片在线观看| 亚洲五月天婷婷| 9久国产精品| 九九99精品| 色大综合| 久久婷婷草| 色999五月色| tingting五月天亚洲| 九九艹女| 天天肏天天肏天天肏| 五月开心婷婷极品激情| 国产午夜成人免费看片无遮挡| 五月天婷婷丁香六月| 超碰av天堂| 久久久精品色| 九九热99精品在线| 亚洲精品另类| 激情AV在线| 激情com| 国产亚洲精品久久久久苍井松| 五月婷婷综合在线观看| 91色综合网| 99久久国产宗和精品1上映| 丁香五月激情视频| 久9热视频| AA丁香综合激情| 日日日影院| 五月丁香六月婷婷久久肏| 能直接看的av网站| 久久成人精品视频| 色综合视频| 99ri精品| 国精产品一区二区三区| 色婷久| 五月色网| 五月草影视| 超碰免费99| 嫩草AV久久伊人妇女超级A| 六月综合在线| 狠狠色色| 色婷婷很很丝袜| 婷婷六月天天| 婷婷AV丁香| 久热AⅤ| 淫视馆aV二区一区| 色婷婷狠狠色| 97色在线观看视频| 欧美搡BBBBB摔BBBBB| 激情VA视频| 九九热a| 91久久久久| 六月婷婷激情| 精品综合久久久久久五月天| 婷婷自拍| 开心激情站| 99久久激情视频| 超碰人人操在线| 天天爽天天干| 深爱婷婷网| 亚洲欧洲99| 亚洲殴洲精品Av在线| 六月丁香婷| 思思热热久久| 五月婷婷与六月丁香图片激情| 国产做爰视频免费播放| 97色啪| 丁香五月婷婷综合视频| 熟妇天天综合| 伊人婷婷五月天| 开心综合激情综合| 色婷婷欧美| 久久免费少妇高潮99精品| 97久久久久| 天天成人综合视频| 7超碰自拍| 久久受www免费人成| 中文字幕 码精品视频网站| 五月婷婷九月婷婷九月婷婷| 色色五月丁香| 中文字幕综合色| 五月丁香婷婷色| 久热网在线视频| 日本高清久久| 墨西哥毛片内射精| 激情五月丁香五月| 91人人爽久久涩噜噜噜| 丁香婷婷五月天网站| 久久99日本精品视频免费观看| 99日韩| 激情五月色婷婷| 五月激情婷婷六月丁香| Www99热| 九九爱激情| 九九热99热| 亚洲天堂aaa| 天天色一道本综合婷婷| 97色视频网| 国产成人精品一区二区三区视频| 久久久久亚洲AV无码网影音先锋| 中出内射的人妻视频| 精品久久99码| Aα在线免费观看| 99国产精品白浆在线观看免费 | 婷婷亚洲影院| 婷婷丁香五月综合激情视频| 婷婷,五月天,丁香,第一| 色五月自偷自拍婷婷婷婷| 国产精品久久久久久久久久| 大香蕉网站,大香蕉综合| 色婷婷小说| 婷婷爱综合| 啪啪操操| 91久久日日| 婷婷丁香18| 色五月五月婷婷| 永久AⅤ1| 婷婷在线五月天观看| 91在线看免费 九九九九| 日本三级成人秘书精品片| 狠狠狠狠狠狠狠狠| 来吧亚洲综合网| 九九久久五月天综合伊人| 婷婷五月播| 97五月婷婷| 精品9久| 99热这里全都是精品| 无码动漫av| 天天干、天天日日| 色五月之第四色| 亚洲在线操| 中文网婷婷字幕婷| 伊人高清无码| 日韩操人| 超碰激情网| 日本va欧美va欧美精品88| 婷婷五月天99| 久久这里只有国产| WWW色色色COm| 色婷婷另类| 熟女人妻一区二区三区免费看| 欧美在线干| 五月天成人综合| 五月丁香激情欧洲啪啪| 精品一区二区三区四区五区六区介绍 | 色婷婷五月综合| 欧美色色色色色| 五月婷婷在线视频| 五月丁香婷婷激情| aⅤ79成人片| 久一网站| 日韩啪啪视品| 国产精品涩涩涩视频网站| 成年人丁香五月| 一级精品999WWW| 天天噜噜| 婷婷五月天激情AV影院| 26uuu色噜噜精品一区| 五月丁香六月综合基地| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 欧美情色一区| 色婷婷丁香五月| 五月婷婷综合网| 熟女激情五月天 | 日韩在线婷婷五月天综合| 婷婷五月丁香成人| 亚洲日韩人妻操逼| 丁香五月情色| 日韩成人无码人妻| 九九综合网色全集| 丁香五月婷婷高清| 亚洲九九99精品视频在线播放| 人妻少妇色综合| 99亚州综合精品成人网| 国产在线黄色| 97人人操| 五月丁香六月激情| 97色色综合| 婷婷五月深爱五月| 色丁香在线视频| 亭亭丁香久久五月| 色情性爱视频网址| 99无码视频| 五月婷婷黄色| 欧美图片丁香五月天| 99啊精典免费视频| 色色五月丁香婷婷综合| 免费观看高清无码| 欧美性爱丁香五月| 婷婷中合| 色色亚洲| 狠狠干综合| 夜夜爽天天干| 日本99热| 91久热| 色色操| 久久色区| 大香蕉九九| 99久久久久| 五月婷婷天| 九九色色| 99日本精品视频热| 97人妻碰碰中文无码久热丝袜| 97碰碰视频在线观看| 久久人人九九| 伊久久婷婷| 人妻人人操| 色欲丁香| 亚洲激情婷婷| 综合久久婷婷| 在线中文字幕视频| 天天天天天日| 色五月综合在线| 亚洲色婷婷| 久久9视频| 人人爱操| 国产毛片精品一区二区色欲黄A片| 久久婷婷五月| 国产毛多水多女人A片| 日产精品久久久久久久蜜臀| 91精品久久久久久久久久| 亚洲V国产V欧美V久久久久久| 婷婷五月激情欧美大胆视频| 两性婷婷丁香五月| 激情图片亚洲| 91欧美日韩| 午夜激情久久| 草草影院爱爱| 欧美人久久| www.99热视频| 色婷婷五月综合| 色七色九九| 五月激情丁香五月宗合| 天天插天天干天天舔| 久久机热思思热| 激情深爱五月| 99国产精品久久久久久久久久久| 99碰网站| 亚洲精品99| 天天色天天| 亚洲国产精品二二三三区| 蜜乳久AV| 久草婷婷视频| 韩国19 主播内部福利vip免费播放| 99毛片| 久久综合激情| 另类色视频| 深爱激情九九五月天| 丁香六月爱综合| 五月丁香人妻| 色色国产| 国产精品大香蕉| 亚洲色啪| 亚洲愉拍99热成人精品| 精品综合网在线| 热99久| 秋霞成人毛片一级A片| 九九热在线亚洲免费视频| 色小说婷婷五月天天天| 6080av| 国产五月天欧美色| 婷婷色操| 激情综合五月| 天天日天天爽| 久久9情免费| 大香蕉伊在| 欧美精品999| 这里只有精品视频在线观看免费| yazhouzonghesese| 色色哒五月婷婷六月丁香| 国产午夜精品一区二区| 超碰碰碰碰| 人妻内射一区二区在线视频| www,setingting| 五月叮香啪| 影音先锋色婷婷| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 欧美日韩91| 99热99精品在线观看| 39视频第二区| 99福利导航| 色五月丁香五月激情五月激情| 五月香蕉综合| AAA亚洲AV| 色婷婷综合网| 这里只有精彩视频| 草草女人亚洲| 九九色天堂| 九九色影院| 亚洲综合干| 俺去也五月天婷婷| 久久九九网| 99在线精品免费视频| 色五月婷婷天堂| 丁香五月婷婷激情网| 激情婷婷综合| 热99AV网站| 亚洲永久四色| 天堂成人A片永久免费网站| 国内9l视频自拍老熟女九色| 91九色精品| 国产夫妻操逼内射视频| 丁香五月婷婷激情中文| 久久9视频欧美| 嫩草AV久久伊人妇女超级A| 色婷婷av综合网| 五月天综合激情网| 中文字幕丁香五月| 婷婷五月av| 五月婷在线观看| 色综合久久久无码中文字幕999| 欧美在线视频免费播放| 欧美五月婷婷| 丁香五月天黄色片| 婷五月天在线草| 无人精品在线视频| 99热精品在线播放| 日韩精品一区二区三区,四区,五区视频| 精品五月花| 欧美精品99| 色五月婷婷大| 色婷婷亚洲婷婷| 亚洲天堂99| 91在线观看www| 97干在线| 激情五月天小说视频| 五月婷激情影院| 99精品偷自拍| 色婷婷影音| 色丁香久久| 涩涩网五月天| 另类专区在线| 国产偷人爽久久久久久老妇APP| 婷婷99狠狠躁天天躁中文| www色婷婷久久综合久色 | WWW.激情| 婷婷综合精品视频97| 色色五月天婷婷| 丰滿爆乳一区二区三区| 综合色99| 69激情小说| 五月婷婷天堂| 亚洲国产精品VA在线看黑人| 丁香五月激情网| 婷婷黄色五月天在线视频| 婷婷色片| 亚洲乱码日产精品BD在线观看| 丁香花五月天社区| 精品99这里有| 五月婷激情| 九九Av| 激情淫乱男女| 久久99这里只有精品| 婷婷色五月在线视频| 日日操夜夜爽| 9色操| 五月天合网| 日欧大屏操| 大香蕉AV在线| 成人资源在线| 天天干天天操天天干天天操天天干天天操| 综合性爱网| 99视频这里有精品| 激情99热| 五月开行婷婷色五月| 日韩欧美颜射| 婷婷五月天成人视频| 久久99婷婷| 热99AV网站| 日韩婷婷| 五月天婷婷丁香花| 新五月天婷婷激情电影| 激情六月丁香| 婷婷激情久久| 色色色综合网| 99视频在线| 无码AV免费精品一区二区三区| 久9热视频| 丁香网五月网| 九九视频在线观看| 任你日热视频| 26UUU亚洲欧美| 大香蕉啪啪网| 婷婷六月天| 婷婷五月天伦理| 色婷婷操逼| 东京热人妻一区二区三区在线| 丁香五月综合色婷婷| 色色色色热| 无码AV免费精品一区二区三区 | Aaa久久| 五月婷婷六月丁香免费| 天天爽夜爽| 亚洲成人在线观看av| 成人 在线 日韩| 天天日本夜夜谢| 国产黄色在线| 五月天综合网| 操一操干一干| 精品国产一区二区三区四区阿崩| 99热在线观看| 狠狠操狠狠操AV| 丰满少妇乱A片无码| www,五月天com| 天天噜| 爱iii做iiii日日| 欧美美女国产日韩一区二区久 | 色色色色色色色色色999| 无码99|