欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

數(shù)據(jù)驅(qū)動+SIMD:粒子系統(tǒng)內(nèi)存布局優(yōu)化與百倍性能提升實戰(zhàn)

數(shù)據(jù)驅(qū)動+SIMD:粒子系統(tǒng)內(nèi)存布局優(yōu)化與百倍性能提升實戰(zhàn) 一個朋友找我調(diào)過一個工業(yè)仿真系統(tǒng)里的粒子更新邏輯。從算法上看它簡單到不能再簡單——一個for循環(huán)每個粒子做一次牛頓力學(xué)更新整體復(fù)雜度就是標準的O(n)。但跑起來就是慢50萬粒子一幀更新要120毫秒CPU占用還忽高忽低厲害的時候幀率直接掉到十幾。我打開性能剖析一看cache-misses高得離譜branch-misses快20%了。說實話這類問題我在不止一個項目里見過性能瓶頸根本不在算法本身而在你壓根沒用數(shù)據(jù)驅(qū)動的方式去組織內(nèi)存。這篇文章我會用這個真實案例完整拆解一遍從對象思維到數(shù)據(jù)驅(qū)動、配合SIMD向量化做內(nèi)存布局優(yōu)化最后拿到工業(yè)級百倍性能提升的全過程。內(nèi)容不挑平臺搞游戲引擎、圖像處理、工業(yè)仿真或者高頻交易系統(tǒng)的朋友應(yīng)該都能從中找到能直接抄作業(yè)的東西。1. 為什么性能瓶頸在內(nèi)存而不在算法數(shù)據(jù)驅(qū)動設(shè)計的第一課很多人一想到性能優(yōu)化第一反應(yīng)就是換算法、減復(fù)雜度。但在現(xiàn)代CPU上一個更普遍的現(xiàn)實是你的數(shù)據(jù)根本來不及喂給CPU算。不理解這一點后面所有優(yōu)化都容易跑偏。1.1 從一段“看著沒毛病”的粒子系統(tǒng)說起先看當(dāng)時那段代碼的簡化版。結(jié)構(gòu)體是一個標準的Particle對象里面放了位置、速度、質(zhì)量、生命周期、存活標記然后扔進std::vectorParticle里挨個遍歷struct Particle { float x, y, z; float vx, vy, vz; float mass; float life; bool alive; }; class ParticleSystem { public: void update(float dt) { for (Particle p : m_particles) { if (!p.alive) continue; p.vx (f_x / p.mass) * dt; p.vy (f_y / p.mass) * dt; p.vz (f_z / p.mass) * dt; p.x p.vx * dt; p.y p.vy * dt; p.z p.vz * dt; p.life - dt; if (p.life 0.0f) p.alive false; } } private: std::vectorParticle m_particles; };如果你只從“代碼規(guī)范”的角度看這段代碼沒有任何毛病封裝合理、邏輯清晰、甚至已經(jīng)加了“死亡粒子跳過”的優(yōu)化。但實際跑起來它就是慢。為什么因為你的CPU從來不會真的按“一個對象一個對象”去讀數(shù)據(jù)。它每次從內(nèi)存拿數(shù)據(jù)是64字節(jié)、64字節(jié)地拿這64字節(jié)叫做一個cache line。對象在這個數(shù)組里挨個排但每個對象你還塞了一個bool又因為對齊規(guī)則每個對象實際占40字節(jié)左右。一個64字節(jié)的緩存行放1個對象多一點。更麻煩的是當(dāng)粒子開始死亡alive字段變成false的粒子還留在數(shù)組中間遍歷時經(jīng)常是“讀一個活的跳一個死的再讀一個活的”大量緩存行加載上來真正用到的數(shù)據(jù)不到一半。問題就這么來了。1.2 CPU存儲層級與“緩存錢罐子”要徹底理解這個慢得先看一張現(xiàn)代CPU的存儲層級賬本。速度從快到慢大致是寄存器、L1緩存、L2緩存、L3緩存、內(nèi)存。它們之間的延遲差異不是一點點而是數(shù)量級的差距。存儲層級典型延遲一個極其粗略的類比寄存器不到1ns口袋里掏鑰匙L1緩存1ns左右手邊的文件抽屜L2緩存4ns左右跑到隔壁房間拿L3緩存12ns左右下樓去車里拿內(nèi)存80ns以上出門跑一趟便利店你可以把優(yōu)化代碼理解為你寫的每一行算法CPU真正計算的時間其實都很快大部分時間都耗在“從便利店把東西搬回來”這一步。如果你的程序訪問內(nèi)存的方式是東一榔頭西一棒子緩存行加載上來只能用三分之一那就是在大把大把浪費內(nèi)存帶寬。更形象點說內(nèi)存對你寫的循環(huán)是無情的它只認地址不認對象。誰和誰在地址上挨得近誰能被一起加載進緩存誰的性能就好。這就是數(shù)據(jù)驅(qū)動設(shè)計最底層的一句行話——“面向緩存編程”。1.3 對象思維是怎么把性能拖垮的面向?qū)ο蟊旧頉]有錯但盲目用對象組織一切熱數(shù)據(jù)有三個隱藏成本。第一個是數(shù)據(jù)離散。對象把每個粒子的所有字段打包在一起看似聚合了“一個粒子”的信息但如果一個循環(huán)只關(guān)心位置和速度你去把質(zhì)量、生命周期、存活標志一起讀上來就是白白浪費帶寬。信息量大不是問題問題是加載粒度是緩存行你只能整塊整塊地拿。第二個是分支預(yù)測懲罰。當(dāng)數(shù)組里有大量死亡粒子時那個if (!p.alive)的分支就變成一個非常難預(yù)測的分支。CPU往流水線里塞了一堆指令賭你下一次跳過還是執(zhí)行賭錯了就要把流水線沖洗掉重來——這個懲罰比緩存未命中還要隱蔽有時候占比高得嚇人。第三個是SIMD無法展開。這章先點到為止現(xiàn)代CPU支持一條指令同時算4個float或者8個float叫SIMD。但前提是你的數(shù)據(jù)在內(nèi)存里是緊密排列的同類型數(shù)據(jù)。如果你的是一個Particle對象數(shù)組里面隔一個結(jié)構(gòu)體才有一個float地址SIMD想發(fā)力也發(fā)不上來。所以對象思維最大的問題不是“類”這個抽象而是它默認把“邏輯上的內(nèi)聚”當(dāng)成了“內(nèi)存上的內(nèi)聚”。而CPU真正在乎的是后者。下面就從內(nèi)存布局的角度開始做第一輪重構(gòu)。2. 內(nèi)存布局優(yōu)化AoS到SoA結(jié)構(gòu)體數(shù)組與數(shù)組結(jié)構(gòu)體的本質(zhì)區(qū)別內(nèi)存布局優(yōu)化最核心的一步就是把數(shù)據(jù)從“以對象為中心”的組織方式翻轉(zhuǎn)為“以字段為中心”的組織方式。技術(shù)上管這兩種布局叫AoSArray of Structures對象數(shù)組和SoAStructure of Arrays數(shù)組對象。2.1 AoS與SoA的取舍各自解決什么問題先看兩種布局的代碼對比。AoS原本的做法struct Particle { float x, y, z; float vx, vy, vz; float mass; float life; bool alive; }; std::vectorParticle particles;SoA數(shù)據(jù)驅(qū)動后的做法struct ParticleSystem { std::vectorfloat x, y, z; std::vectorfloat vx, vy, vz; std::vectorfloat mass; std::vectorfloat life; std::vectoruint8_t alive; size_t alive_count 0; };AoS的好處是“一個對象的所有東西都在旁邊”cache局部性對單對象操作很友好代碼寫起來也自然。但對“批量遍歷同一字段”這種典型熱循環(huán)它完全不對路。SoA則把所有x放在一起、所有y放在一起、所有vx放在一起。以遍歷50萬個粒子更新位置為例AoS版本讀一個粒子要帶上40字節(jié)里你并不關(guān)心的質(zhì)量、生命等而SoA版本可以只把x數(shù)組整個順序讀一遍每一塊緩存行都裝滿了下一個粒子的x利用率接近100%。2.2 動手重構(gòu)粒子組件陣列這輪重構(gòu)我建議直接照著一個原則來把一個對象的所有字段拆成平行的數(shù)組數(shù)組下標就是對象的編號。這個下標你可以理解為“實體ID”或者“粒子ID”它不再需要存在內(nèi)存里因為循環(huán)變量本身就是ID。改造后的更新邏輯長這樣void update(float dt, float f_x, float f_y, float f_z) { for (size_t i 0; i alive_count; i) { float inv_mass 1.0f / mass[i]; vx[i] f_x * inv_mass * dt; vy[i] f_y * inv_mass * dt; vz[i] f_z * inv_mass * dt; x[i] vx[i] * dt; y[i] vy[i] * dt; z[i] vz[i] * dt; life[i] - dt; alive[i] (life[i] 0.0f); } }看到區(qū)別了嗎這里同時完成了幾個動作if分支從熱循環(huán)里消失了。甚至不需要在循環(huán)里判斷死活循環(huán)只跑前alive_count個。每個數(shù)組都是純float序列連續(xù)地址順序訪問緩存友好度直接拉滿。為下一步SIMD鋪好了路——每個數(shù)組都是同類型的連續(xù)內(nèi)存塊。有朋友會問那死掉的粒子怎么辦把它們直接留在原地再把末尾的活粒子搬過來覆蓋叫swap-and-pop俗稱“借尸還魂”。因為粒子之間沒有邏輯順序要求這是工業(yè)界最常見的做法void swap_remove(size_t idx) { --alive_count; if (idx ! alive_count) { std::swap(x[idx], x[alive_count]); std::swap(y[idx], y[alive_count]); std::swap(z[idx], z[alive_count]); std::swap(vx[idx], vx[alive_count]); std::swap(vy[idx], vy[alive_count]); std::swap(vz[idx], vz[alive_count]); std::swap(mass[idx], mass[alive_count]); std::swap(life[idx], life[alive_count]); } }這樣做的直接效果是數(shù)組前alive_count個永遠是活粒子更新循環(huán)不需要任何分支CPU的流水線可以全速推進。2.3 對齊、填充與分配器細節(jié)從AoS切換到SoA之后另一個必須考慮的點是內(nèi)存對齊。普通std::vectorfloat分配的起始地址通常對齊到16字節(jié)這對標量代碼綽綽有余但后面要用AVX2的話必須保證32字節(jié)對齊。C17里可以直接用aligned_alloc自定義對齊分配器或者干脆先手動實現(xiàn)一個簡單的float* aligned_alloc_and_init(size_t n) { void* ptr std::aligned_alloc(32, n * sizeof(float)); return static_castfloat*(ptr); }還有一個很容易被忽略的細節(jié)結(jié)構(gòu)體字段重排減少padding。雖然在SoA里那個大結(jié)構(gòu)體只是若干個容器但如果你在業(yè)務(wù)代碼里還保留了少量“小結(jié)構(gòu)體”記得把同類型字段排在一起。比如// 差bool夾在float中間白白多出3字節(jié)padding struct Item { float value; bool valid; float count; }; // 好同類型靠攏編譯器不額外補洞 struct Item { float value; float count; bool valid; };低效的布局會讓緩存行承“沙子”多過承“水”工業(yè)級代碼里這些小錢也要摳。2.4 第一輪收益為什么提升了20倍這輪重構(gòu)做完我先跑了一遍perf stat對比基線數(shù)據(jù)。同一臺機器、同樣50萬個粒子、同樣物理參數(shù)AoS版本更新一次平均120ms左右SoA版本降到了大約8ms。算下來15到20倍的提升。這個數(shù)字怎么來的拆開看大概是三部分緩存命中率大幅提升順序讀多個純float數(shù)組和“跳著讀40字節(jié)對象穿插bool”相比有效內(nèi)存流量少了約3到5倍。分支預(yù)測懲罰消失原來那個if (!p.alive) continue在粒子死亡率接近一半時幾乎每次都是50%概率猜錯流水線沖洗成本極高。把活躍粒子集中到數(shù)組前段后循環(huán)沒有任何分支這部分收益非??捎^。swap-and-pop帶來的連續(xù)密度收益活粒子全部擠在一起cache line利用率接近100%。到這里數(shù)據(jù)布局已經(jīng)為最終速度打下了地基。但只有地基還不夠真正把CPU的算力發(fā)揮出來的是下一層的SIMD向量化。3. SIMD向量化實戰(zhàn)讓CPU一次算八個float第一輪優(yōu)化靠的是“少搬數(shù)據(jù)”SIMD則是“一次搬更多、算更多”。它不是玄學(xué)而是現(xiàn)代CPU早就給你準備好的并行能力。3.1 SIMD能做什么一條指令處理8個float先解釋一下SIMDSingle Instruction, Multiple Data。它的思想很簡單普通加法學(xué)的是“兩個float相加”SIMD一條指令能做“兩組8個float對應(yīng)相加”等于把4個或8個計算任務(wù)打包成一次執(zhí)行。拿AVX2指令集舉例它有32個256位寄存器YMM寄存器每個可以塞8個32位float也就是一條指令處理8個粒子。類似地SSE是128位寄存器一次4個float。你寫普通循環(huán)的時候CPU理論上也能做到這一點但它需要你的代碼滿足一堆特殊條件才行。3.2 編譯器自動向量化的坑別指望它“幫你搞定”很多文章告訴你“開-O3 -marchnative編譯器會自動向量化。”這話對了一半。它能幫你的是識別最簡單的循環(huán)但老實的編譯器有很多“不敢做”的事。指針別名問題編譯器沒法證明寫x[i]不會影響到別處的vx[i]萬一你的指針是重疊的呢所以它寧可保守地一條條算。循環(huán)里帶分支雖然新版本編譯器支持帶掩碼的SIMD指令但判斷邏輯越復(fù)雜它越容易放棄。浮點運算順序浮點不滿足結(jié)合律。(a b) c嚴格來說不等于a (b c)。編譯器默認不敢亂重排除非你允許它放寬精度。數(shù)據(jù)不是緊密同類型數(shù)組AoS布局本身就讓編譯器無從下手它總不能為你的Particle對象數(shù)組每條都做gather加載吧。所以我的建議是熱循環(huán)里不要依賴自動向量化關(guān)鍵路徑直接手寫intrinsics。手動寫的好處是每一步算什么都由你把控接受不了的編譯器限制你也能繞過去。3.3 手寫Intrinsics核心循環(huán)改寫全程下面這段是改造后的AVX2版本更新內(nèi)核。假設(shè)我們已經(jīng)用swap-and-pop維護好了活躍粒子并且數(shù)組長度是8的倍數(shù)或者尾部用標量兜底#include immintrin.h void update_simd( float* __restrict x, float* __restrict y, float* __restrict z, float* __restrict vx, float* __restrict vy, float* __restrict vz, float* __restrict inv_mass, size_t n, float dt, float f_x, float f_y, float f_z) { const __m256 dtv _mm256_set1_ps(dt); const __m256 fxv _mm256_set1_ps(f_x); const __m256 fyv _mm256_set1_ps(f_y); const __m256 fzv _mm256_set1_ps(f_z); for (size_t i 0; i 8 n; i 8) { __m256 inv_m _mm256_load_ps(inv_mass[i]); __m256 vx0 _mm256_load_ps(vx[i]); __m256 vy0 _mm256_load_ps(vy[i]); __m256 vz0 _mm256_load_ps(vz[i]); __m256 ax _mm256_mul_ps(fxv, inv_m); __m256 ay _mm256_mul_ps(fyv, inv_m); __m256 az _mm256_mul_ps(fzv, inv_m); vx0 _mm256_add_ps(vx0, _mm256_mul_ps(ax, dtv)); vy0 _mm256_add_ps(vy0, _mm256_mul_ps(ay, dtv)); vz0 _mm256_add_ps(vz0, _mm256_mul_ps(az, dtv)); _mm256_store_ps(vx[i], vx0); _mm256_store_ps(vy[i], vy0); _mm256_store_ps(vz[i], vz0); __m256 x0 _mm256_load_ps(x[i]); __m256 y0 _mm256_load_ps(y[i]); __m256 z0 _mm256_load_ps(z[i]); x0 _mm256_add_ps(x0, _mm256_mul_ps(vx0, dtv)); y0 _mm256_add_ps(y0, _mm256_mul_ps(vy0, dtv)); z0 _mm256_add_ps(z0, _mm256_mul_ps(vz0, dtv)); _mm256_store_ps(x[i], x0); _mm256_store_ps(y[i], y0); _mm256_store_ps(z[i], z0); } // 尾部不足8個的部分退化為標量循環(huán) for (size_t i n ~size_t(7); i n; i) { float inv 1.0f / inv_mass[i]; vx[i] f_x * inv * dt; vy[i] f_y * inv * dt; vz[i] f_z * inv * dt; x[i] vx[i] * dt; y[i] vy[i] * dt; z[i] vz[i] * dt; } }幾個容易寫錯的點__restrict必須加上。它告訴編譯器“我保證這些指針互不重疊你可以大膽優(yōu)化。”不加的話編譯器可能會在寄存器分配時插入多余的load/store。_mm256_load_ps要求地址32字節(jié)對齊否則直接崩潰。這也就是前面強調(diào)aligned_alloc的原因。我把mass換成了inv_mass即預(yù)先算好質(zhì)量的倒數(shù)。因為SIMD里除法遠比乘法昂貴能省則省。3.4 SIMD實踐中的精度、除法與掩碼問題這里有幾個工業(yè)級項目里必須面對的現(xiàn)實問題。第一個是精度。SIMD的浮點運算順序和標量版不同結(jié)果會有細微差異。比如vx ax*dt這個表達式編譯器可能重新組合成(ax*dt)vx最后一位小數(shù)可能不同。如果你是在做物理仿真或者科學(xué)計算這種差異可能需要單獨評估。保守方案是SIMD版本做一個開關(guān)關(guān)鍵路徑可回退標量版。第二個是除法。上面已經(jīng)提到div_ps是慢指令能轉(zhuǎn)成乘法就轉(zhuǎn)成乘法。但要注意預(yù)計算inv_mass 1.0f / mass的時候如果mass為0除零情況要提前處理。第三個是死亡粒子的掩碼處理。如果不想把活躍粒子單獨搬出來也可以直接在SIMD循環(huán)里處理生命值。核心思路是算出掩碼用掩碼決定是否寫入但這一套代碼復(fù)雜度比較高而且maskstore在不同CPU上表現(xiàn)差異大。工業(yè)方案我還是推薦swap-and-pop讓熱循環(huán)盡量簡單死亡整理放到冷路徑上去做。第二輪優(yōu)化后同一臺機器上50萬粒子的更新從8ms降到了大約1.2ms。也就是說在原始120ms基線上整體已經(jīng)拿到約100倍的提升。下面我把整個百倍改造的完整路徑擺出來方便你直接對著自己的項目套。4. 工業(yè)級百倍改造完整實錄從基線到最終版本前面兩章分別講了兩輪核心技術(shù)這一章我把整個案例串起來記錄一個完整的工業(yè)級改造流程包括數(shù)據(jù)、步驟、踩坑后的調(diào)整以及最終那張關(guān)鍵的性能對比表。4.1 性能基線與瓶頸定位先別動手先量數(shù)據(jù)接手這個工業(yè)仿真項目時第一步我沒有改任何代碼而是先量基線。原始代碼跑500,000個粒子每幀一次update耗時約120ms。用perf stat -e cache-misses,branch-misses,instructions,cycles ./run能看到一組非常典型的數(shù)據(jù)cache miss率超高、branch miss率接近20%、指令數(shù)雖然不多但CPI每指令周期數(shù)高得異常。這就是典型的“內(nèi)存墻”問題。算法層面再怎么優(yōu)化也無法解決緩存行空轉(zhuǎn)和分支預(yù)測失敗的浪費。所以定位到瓶頸后我決定按“數(shù)據(jù)布局→活躍管理→SIMD向量化”的順序推進每一步都必須有可復(fù)現(xiàn)的計時結(jié)果。4.2 數(shù)據(jù)驅(qū)動重構(gòu)與活躍粒子管理把對象數(shù)組拆成平行數(shù)組重構(gòu)時我沒有一次性重寫全部代碼而是先提取出一個純數(shù)據(jù)層。原來的ParticleSystem類改成一組vectorfloat成員配上alive_count記錄活粒子數(shù)量。為了兼容老接口保留了一個“根據(jù)ID訪問組件”的輔助方法但熱循環(huán)里絕對不經(jīng)過這個接口。這一步重構(gòu)的核心收獲是代碼邏輯基本沒變但內(nèi)存訪問模式完全變了。scalar版本更新循環(huán)里不再有if (!alive)的分支也不再有struct之間的步長跳躍。第一次測試耗時就從120ms一路掉到8ms左右。順帶提一個我踩過的坑一開始我沒有做swap-and-pop只是把死亡粒子標記后仍然留在數(shù)組里。結(jié)果雖然從AoS換到了SoA但因為數(shù)組中間有很多死粒子cache line利用率還是不高只提升了5倍左右。后來把存活的擠到前段才真正吃到“順序遍歷”的紅利。這個細節(jié)千萬不要省。4.3 SIMD更新內(nèi)核擴展從計算到訪存都要對齊第二輪是在SoA基礎(chǔ)上做SIMD。我直接把更新函數(shù)改成了前面那份update_simd版本但是有幾個地方在實機調(diào)試時反復(fù)出問題內(nèi)存對齊std::vectorfloat默認分配只保證16字節(jié)對齊但AVX2的_mm256_load_ps要求32字節(jié)。我在初始化階段用std::aligned_alloc分配了所有數(shù)組并把分配邏輯封裝成一個AlignedBuffer類避免后續(xù)忘記對齊。數(shù)據(jù)規(guī)模50萬恰好是8的倍數(shù)但為了通用安全還是保留了尾部的標量循環(huán)。編譯器指令集開關(guān)編譯參數(shù)必須帶-marchnative否則即使寫了intrinsics生成的代碼也只是用SSE兼容路徑速度上不去。這一輪從8ms降到1.2ms附近。整體對標最初基線已經(jīng)實現(xiàn)約100倍的性能飛躍。4.4 記錄性能對比表百倍是怎么算出來的完整的對比表如下。同一臺機器上數(shù)據(jù)規(guī)模20萬和50萬都跑過這里取50萬的數(shù)據(jù)作為代表優(yōu)化階段每幀耗時相對基線加速關(guān)鍵動作初始AoS分支判斷120ms1x基線切到SoA布局約35ms約3.4x字段數(shù)組化但仍有死亡粒子殘留SoAswap-and-pop活躍管理約8ms約15x熱循環(huán)無分支順序遍歷活粒子SoASIMD(AVX2)約1.2ms約100x8路并行計算除法轉(zhuǎn)乘法多線程SIMD順帶優(yōu)化約0.5ms約240x4線程并行分塊未在本文展開有人可能會問120ms直接到1.2ms是不是我挑了一個特別適合優(yōu)化的問題說實話這個例子刻意選得非?!案蓛簟钡^不冷門。大量渲染粒子、物理剛體、碰撞檢測、圖像像素處理本質(zhì)上都是“同構(gòu)數(shù)據(jù)批量做同構(gòu)運算”這類場景在工業(yè)級代碼里到處都是。數(shù)據(jù)量越大、瓶頸越明顯百倍收益的概率越高。當(dāng)然如果是一個邏輯跳轉(zhuǎn)特別復(fù)雜、每個元素處理方式都不一樣的循環(huán)這套組合拳效果會差很多。4.5 配套工具與編譯參數(shù)建議整個改造過程我用的工具不多但都極其關(guān)鍵Linux下用perf stat看cache-misses和branch-misses快速定位瓶頸是內(nèi)存還是分支。用編譯器資源管理器Compiler Explorer看匯編。寫intrinsics時確認它確實生成了vaddps、vmulps這些SIMD指令而不是被編譯器悄悄降級成標量。編譯命令建議g -O3 -marchnative -ffast-math -funroll-loops。注意-ffast-math不是免費的它會改變浮點運算的嚴格度工業(yè)項目里需要根據(jù)業(yè)務(wù)場景決定是否啟用或者只針對熱點翻譯單元打開。5. 常見問題與排查技巧速查這幾條坑我替你先踩了這套方案我前后不只在一個項目里用過每次都會遇到幾個“看起來莫名其妙”的問題。統(tǒng)一整理出來以后你再做能少走很多彎路。5.1 false sharing多線程下的緩存殺手當(dāng)我把優(yōu)化后的版本改成多線程并行時起初發(fā)現(xiàn)線程越多性能反而越差。原因就是false sharing——多個線程同時修改同一個緩存行里的不同數(shù)據(jù)項。比如兩個線程分別處理編號連續(xù)的兩段粒子可能同時寫入x[500]和x[501]而它們在同一個32字節(jié)或64字節(jié)緩存行上CPU為了保持一致需要頻繁在核心之間同步緩存行。解決方法很簡單讓每個線程處理“按緩存行對齊的塊”或者給每個線程一個本地緩沖最后再合并。最簡單的粗暴做法是把分塊大小設(shè)成緩存行能容納的元素數(shù)的整數(shù)倍很多時候問題就消失了。5.2 未對齊訪問為什么程序突然崩了AVX2版本最典型的崩潰就是未對齊的load/store。錯誤提示往往是一個挺難看的segfault甚至直接無征兆非法指令。排查方式就是想清楚兩個問題這個數(shù)組是用什么函數(shù)分配的它的對齊有沒有達到32字節(jié)我習(xí)慣把這類檢查寫進調(diào)試斷言assert(reinterpret_castuintptr_t(ptr) % 32 0);不要小看這一步它能在開發(fā)階段幫你抓住90%的對齊問題而不是等到線上崩潰。某些分配器在特定的malloc實現(xiàn)下能保證16字節(jié)對齊但保證不了32字節(jié)務(wù)必用aligned_alloc顯式指定。5.3 什么場景不適合這套方案數(shù)據(jù)驅(qū)動SIMD不是萬能鑰匙。我總結(jié)了幾類不適合的場景數(shù)據(jù)規(guī)模很小比如一次只處理幾十個元素。SIMD調(diào)用和內(nèi)存對齊的初始化開銷可能比計算本身還大。每個元素的處理邏輯差異極大頻繁跳轉(zhuǎn)SIMD無法打包。代碼里有復(fù)雜的虛函數(shù)調(diào)用和多態(tài)分派這些分支即使在SoA下也難以向量化。數(shù)據(jù)結(jié)構(gòu)本身必須保持對象語義比如依賴繼承、虛函數(shù)管理生命周期強行改成SoA會讓代碼維護成本失控。遇到這些情況我的策略是只優(yōu)化真正的熱點。先用profiler量出不合理的函數(shù)再決定是否值得用這套方案。不要一上來就把所有代碼推倒重寫成數(shù)組結(jié)構(gòu)體。5.4 排查經(jīng)驗速查表現(xiàn)象可能原因處理方案SIMD版本跑起來反而更慢數(shù)據(jù)規(guī)模太小或者指針別名限制優(yōu)化增大批量處理加__restrict開啟-marchnativeAVX2版本隨機崩潰數(shù)組沒有32字節(jié)對齊改用std::aligned_alloc分配加對齊斷言多線程版本性能下降false sharing按緩存行分塊或線程本地緩沖最后合并結(jié)果和標量版對不上浮點運算順序變化確認精度容忍度必要時保留標量路徑做交叉驗證向量化后只提升1倍循環(huán)里有除法/開方等慢指令預(yù)計算倒數(shù)除法改乘法分支miss依然很高活躍粒子沒有集中管理用swap-and-pop把死粒子剔除出熱循環(huán)這些坑大多不是理論問題而是實機調(diào)試中換了無數(shù)方案才摸索出來的。你照著速查表走一圈大概率能省下兩三天排查時間。最后說點我個人的體會。優(yōu)化這類系統(tǒng)時我最大的感受是別跟你的算法較勁先去跟你的數(shù)據(jù)布局較勁。同一個數(shù)學(xué)公式放在錯的布局里可能跑120ms放在對的布局里配合SIMD可能只要1ms。數(shù)據(jù)驅(qū)動不是說面向?qū)ο蟛缓枚翘嵝阉泄こ處煷a是寫給CPU和內(nèi)存體系跑的你沒把數(shù)據(jù)喂到它嘴邊它再強也白搭。另外一個經(jīng)驗是永遠讓基準測試說話。我見過太多人憑“感覺”優(yōu)化最后改了一堆代碼性能沒有任何變化甚至更差。每一步優(yōu)化都記下時間、記錄cache miss和branch miss數(shù)據(jù)你才能真正知道是哪一步發(fā)生了質(zhì)變哪一步白忙活了。這套方法后面還可以繼續(xù)擴展。比如配合多線程分塊處理、使用AVX-512指令集、用std::span做視圖層、或者把相同思路推廣到碰撞檢測和渲染系統(tǒng)。但核心始終是那句話先讓數(shù)據(jù)緊湊地待在緩存里再讓CPU一條指令多干幾件事。你手里的那些熱點循環(huán)大概率也能拿到同樣驚人的收益。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月丁香色综合| 色五月综合| 极品五月天| 欧美性爱5月天天天看| 欧美在线视频99| 五月色亭丁香| 丁香婷婷五月色综合| 特级片神马电影| 玖玖色综合色| 色五月婷婷小说亚洲中文字幕组| 91成人看片| 激情五月丁香社区| 五月丁香六月婷婷,婷| 婷婷激情综合网| ay2区| 天天射影院| 丁香五月天欧美成人| 色噜噜狠狠色综合日日| 婷婷丁香五月天狠狠| 日本少妇裸体做爰高潮片 | 那里有AV网址| 大香蕉五月婷婷| 亚洲狠狠丁香婷婷香蕉| 欧美人与性动交CCOO| 色欲午夜无码久久久久久张津瑜| av中文网站| 99re99在线看| 日韩成人av在线| 色99视频| 亚洲天天| 婷婷六月丁香五月| 天天插天天爽| 久久99网站| 婷婷五月天狠狠| 五月丁香久久网| 色情婷| 国产伦亲子伦亲子视频观看| 99这里有精品视频| 色色色网站| www久久99| 丁香六月久| 色五月婷婷少妇人妻| VA色婷婷| 97精品综合| 免费人人操| 五月停性愛| 狠狠操狠狠爱| 国产精品18久久久| 国产婷伊人| 色色色综合| 99精品在线观看视频| 国产精品香蕉| 99re这里| 啪啪激情综合| 99成人在线观看| 97热这里精品在线视频| 久久婷婷五月综合| 丁香五月很很肏| 五月天婷婷久久视频| 五月婷婷综合性爱噜噜| 国产精品久久久久久喷浆| 婷婷六月情| 五月天久久婷婷| 国产人妻777人伦精品HD| 这里只有精品网| 大香蕉婷婷五月天| 丁香五月天堂网AV| 香蕉久操| 99综合网| 五月天亚洲综合网| 国产在线另类五月婷婷| 思思久久99热| 五月 激情视频| 色999五月色| 久久综合激情婷婷激情| 五月色丁香成人| 狠狠综合区| 亚洲无码色| 色婷婷的五月天| 亚洲精品操一操、噜一噜、摸一摸、爽| 五月停性愛| 亚洲午夜AV| 九九热精品6| 五月色在线| 96色婷婷| 天天干人人奸97| 日本一级一级一级一级| 日韩成人电影在线播放| 天天久综合| 热久久思思热思思| 五月丁香中文字幕| 色五月成人| 色综合久久久久| 丁香五月天之婷婷影院| 99riAV成人在线视频| 强奸幻女毛片| www.日本久久videos| 综合综合色色| 丁香五月婷婷网| www.五月婷婷久久.com| 国产人妻777人伦精品HD| 综合另类激情| 久这里只有精品99| 婷婷开心激情五月激情网| 天天色视频| 午夜色婷婷| 久久ww| 思思干精品| a色婷婷| 影音先锋按摩| 夜夜撸夜夜骑| 风流少妇A片一区二区蜜桃| 91色逼| 成人毛片在线免费观看| 五月婷婷久久爱| 欧美成人AAA片一区国产精品| 天天肏夜夜肏| 久久六月综合| 欧美婷婷综合| 国外亚洲成AV人片在线观看| 丁香五月婷婷啪啪| 精品无码久久久久久久久| 大香蕉综合| 超碰93在线观看| 丁香五月天论坛| 丁香色情五月综合网站| 丁香五月欧美色综合| 五月丁香婷婷成人伊人网| 婷婷五月天最新综合你懂的| 丁香丁香激情网| 操操啪| 在线99色| 婷婷六月色开| 综合欧美五月婷婷| 婷婷激情蜜桃玖玖丁香| 狠狠色婷婷六月激情网| 直接看的AV| 六月久久婷婷| www.五月婷婷久久.com| 狠狠色综合网| 五月天婷婷综合久久| 五月婷婷丁香网| 欧美在线视频99| 综合网啪| 五月天婷婷视频| 97人人射| 九玖视频这里只有精品| 综合久| 五月婷综合| 亚洲综合网激情小说| 激情综合色婷婷啪啪六月天| 99热在线观看99| 成人AV在线网站| 色爱综合网| 久久五月天丁香花| 午夜激情五月天| 这里只有精品视频| 九九99视频精品| 婷婷无码视频| 色婷婷免费观看| 99视频这里有精品免费观看| 色婷插| 伊人青草成人| 久久怡红院| 成人精品在线| 涩综合婷婷| 99久精品视频| 九热免费视频| 91丨九色丨熟女| 九九婷婷网五月天| 亚洲免费观看高清完整版AV线| 婷婷六月天亚州| www.久久| 久久五月天激情视频| 日本一毛片| yazhochengrenavwang| 五月色俺婷婷| 丁香亚洲色综合| 激情五月丁香激情综合网 | 六月丁香啪| 97丁香婷婷| 97碰碰电影| 九九在线这里只有精品视频| 一级性感毛片| 色热久| 国产免费一区二区三州老师F1F1……| av人人干| 爱操人妻| 免费AV播放| 国产99美少妇| 亚洲AV影片在线观看| 五五月五月| 91紱請| 五月丁香六月色情网欧美| 欧洲色| 久久五月天激情婷婷| 五月婷婷五月| 天天情色五月天| 午夜无码熟熟妇丰满人妻| 丁香五月综合福利视频导航| 亚洲正能量欧美| 天天舔天天摸视频| 婷婷五月天精品| 色色色婷婷| 五月天婷婷操逼视频| 97人人操人人| 五月天婷婷网站| 激情综合视频| 九九热自拍| 日本三级中国三级99人妇网站| 五月丁香综合在线| 亚洲男人的天堂婷婷色五月| www.com亚洲网站在线免费| 色欲午夜无码久久久久久张津瑜 | 久久女人天堂| 精品国产va久| 色99超碰| 天天插天天日| 色永久| www.9797国产| 国产精品久久久久久妇女6080| 久久66精品| 99天堂网最新| 日日操天天操| 99视频这里只有精品10| 99久久婷婷国产综合精品草原| 99热精品在线观看| 欧美五月婷婷| 人妻乱码久久久| 激情五月四色| 99精在线| 久久久久久人妻久久久久久久久久人妻久久久 | 9999热免费视频视频| 五月婷婷激情日本| 五月深爱婷婷| 啪啪丁香五月| 婷婷视频在线| 五月婷婷大香蕉| 国产精品色色色色| 亭亭色色五月天| 少妇高潮呻吟A片免费看软件 | 高清无码网址| 六月撸婷婷| 热久久77777| 天天综合网~91| 99在线69| 六月婷婷国产| 五月婷婷在线短视频| 任你弄在线视频免费| 久99热在线观看| 男人天堂伊人五月丁香| 婷婷五月天黄色网址| 丁香五月婷婷基地| 五月色网| 色婷婷五月天激情在线观看| 婷婷丁香五月天欧美| 99九精品| 91男人资源站| 中文字幕丰满孑伦无码专区| 开心五月激情网| 天天成人综合视频| 国产成人av在线| 六月丁香婷婷爱| 思思热视频在线观看| 色五月婷婷丁香五月| 、激情六月天| 1024手机在线观看看片_日韩精品| 激情内射人妻1区2区3区| 99热播放| 99色精品| 激情噜噜噜| 婷婷五月天激情视频| 99re热在线视频| 一级黄色操B| 亚洲精品国产A久久久久久| 久久久久激情| 99啪啪网| 五月天久久综合| 九九性视频| 色综合色综合色综合高潮| 久久婷婷色情7777网站| 狠狠色狠狠| 婷婷五月天首页激情| 韩日另类| AA片在线观看视频在线播放| 被男人添B超爽视频| 色婷婷综合网| 亚洲激情另类| 色色色999| 天天色图| 桃色五月婷婷| bbwcuckold精品熟妇| 婷婷国产欧美97| 婷婷五月,综合伊人| 99精品在线| 99久久6| 综合激情在线| 成人AV在线电影| 天天肏高清在线| 久久激情五月婷婷| 少妇性按摩无码中文A片| 丁香五月婷婷手机| 这里只有精品在线观看视频| 99热色精品| 思思热再线视频| 丁香五月婷婷激情视频播放| 久久99美女精彩视频| 婷婷色五月天综合网| 色人五月婷婷| 综合xx网| 色操b| 狠狠色综合网站| 草做免费在线观看| 色无码| 十一月婷婷激情四射| 婷婷性福五月天| 婷婷五月天狠狠色| 97干在线| 99网| 欧美性爱专区| 中文字幕黄色电影网址| www.91操| 国产欧美婷婷五月| 战争与艾拉电影免费观看| 色五月天综合| 99热国产这里只有精品| 久久人人九九| 九九在线精品| 丁香花狠狠婷婷亚洲中文字幕| 日本三级中国三级99| 狠狠丁香| 亚洲欧州色情在线观看| 噜噜干日本| 超喷97免费在线视频| 99爱视频在线| 丁香激情合作五月| 啪啪丁香五月| 综合久久十三| 这里只有精品视频在线| 丁香婷婷视频| 五月丁香婷婷AV天堂| 99欧美三级视频| 色色色色热| 中国激情网| 久久色情| 婷婷五月丁香色播| 婷婷99狠狠躁天天久久久九九九| 六月婷婷激情| 99热a片免| 成人噜噜网| 国产探花一片区| 99re这里| 五月激情天| 五月天婷婷久色| 性热视频99精品| 欧美性色A片免费免费观看的| 呦呦视频无码播放| 五月天色色激情综合| 亚洲精品第一国产综合亚AV | 婷婷五月激情综合啪啪| 国产99久久久国产精品免费看 | 9 大屁股在线视频精品| 日韩黄在免| 91久久1118| 涩五月色婷婷| 五月天成人手机在线视频| AAA久久久| 九九综合五月欧美| 天天草女人| 91丨九色丨东北熟女| 99色干| 五月天激情婷婷| 激情九九九九| 五月婷婷视频啪啪美女| 8区视频在线| 操人妻AV| www.狠狠操.co m| 99精品在线观看视频| 五月天激情网图片| 亚洲午夜视频| 狠狠干五月天| 日操夜操天天操不卡| 国产9色在线/日韩| 91丨九色丨国产打屁股| 99热精品在线免费观看| 66精品成人免费网站在线观看| 九月丁香婷婷综合激情| 91碰碰碰| 91超级碰碰碰| 9久视频| 日本久久人| 超碰熟女农村在线69| 五月色综合| 天干夜夜操| 色一情一乱一乱一区91| 99久在线视频| 国产婷婷五月天| 激情五月丁香亭亭| 五月天伊人网| 色婷婷电影网| 婷婷在线播放| 丁香六月婷婷综合缴| av性爱网站| 五月综合激情视频| 色色免费网战视频| 思思热精品在线观看| 色五月天视频| 色综合性视频| 天天综合网亚洲综合网| www.五月瑟| 五月婷婷丁香在线视频| 天天天操天天天日| 日本天天色| 丁香五月天堂网| 亚洲综合色棒| 亚洲中文乱字字幕在线永久| 丁香婷五月天开心六月| 性视频久久| 秋霞A V毛片| 超碰人人超碰| 99精品综合视频| 五月亭亭六月天| 九九热在线观看视频| 久久久久9| 欧美日韩91| 色五月激情网| 91狼友视频网页更新| 草榴视频黄色网| 丁香色六月婷婷| 九九热最新地址| 色玖玖综合网| 色偷偷综合| 婷婷九月色| 色停停香蕉视频| 五月丁香成人| 97色色色| 五月丁香婷婷五月色| 色色无码| 婷婷深爱五月丁香网| 91狠狠色丁香婷婷综合久久狠丁香综合久久精品 | 五月婷婷欧美激情| 激情五月天婷婷色色色色色色色色色色色| 婷婷开心激情| 欧美在线97| 久久五月天视频| 欧美日韩123| 九九久久网| 《诡秘之主》在线观看| 人妻熟人中文字幕一区二区| 亚州性爱99| 久久天堂女人| 久久免费操| 五月色色色| 婷婷天天日婷婷| 综合激情开心五月| 97人人妻人人艹| 婷婷五月天亚洲| 91久久九久久九久久九久久九久久| 激情久久久久久久久| 婷婷伊人网| 狠狠干婷婷| 国产精品蜜臀99| 色色网91| 激情丁香五月婷婷| 5月丁香六月婷婷| 亚洲成人在线观看网址| 能看的av| 五月婷婷深深爱爱| 五月之婷婷| 888久久久| 玖玖综合色| 26UUU成人网| aaaa久久| 激情视频网址| 婷婷综合中文| 日本超碰在线| 婷婷五月丁香网| 婷婷五月综合色拍| 91在线操逼视频| 天堂久久婷婷| 开心五月综合激情综合五月| 久久五月丁香婷婷| 九九色插| caopeng超碰| 久久视频这里有精品99| 五月婷婷五月天| 69综合在线| 色婷婷成人影片| 国产精品美女| 九月丁香婷婷基地| 国产乱码久久| 天天综合五月天| 91丁香综合| 国産精品| 99这里都是精品6| 色九九综合| 激情综合婷婷久久| 六月婷婷网站| 五月婷在线| 涩 五月 婷婷 狠狠| 久久与婷婷| 黄色一级影片| 日本97人人| 色情·com| 操日视频| 黄色短视频在线观看| 夜夜骑操AV| 99热综合在线| 麻豆精品| 操逼棍操逼| 思思热在线视频精品| 久久婷婷五月综合啪| 五月婷婷乱| 激情五月久久| 91热在线| 婷婷五月综合网| 99操不停| 色操b| 大香蕉综合在线| 久久久99婷婷久久久久久| 99综合99| 婷婷五月天小说| 五月婷婷激情综合| 亚洲AV人人操| 激情啪啪五月| 日本婷婷| 99热全是精品| 五月天成人小说| 婷婷五月天 丁香五月天 裸体| 丁香婷婷五月天网站| 久久综合性| 天天色99| 婷婷五月天在线视频网站| 日韩av免费版| 思思久热6| 一本色综合色| 成人网丁香五月| 亚洲A片成人无码久久精品青桔| 久久这有这里精品| 色色丁香| 99综合99| 亚洲啪啪自拍| 日韩爱操视频| 天天射天天操天天干| 色狠狠综合网| se色婷婷视频| 蜜乳国产网站| 五月丁香六月激情| 99色视频免费在线规看| 日韩色色色色| 99思思热只有在这里看| 丁香操逼| www,av好吊操| 五月天伊人久久| 久久综合五月| 色欲久久久久久综合网综合网| 丁香五月成人av| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 亭亭五月色男人| 综合激情九月婷婷,激情综合婷婷中文字| 激情久久综合网| 五月婷婷色欲| 青青草原精品久久| 丁香五月婷婷99| h在线看免费版在线看| 丁香五月激情网| 大香蕉五月天婷婷| 秋霞学生妹一二级| 日本网站久久| 久久与婷婷| 精热在线综合网| 国产古装妇女野外A片| www.99热. com这里只有精品| 69久热| 久久综合五月天| 这里只有精品日韩精品| 精品九九久久| 五月天啪啪视频| 婷婷的五月天另类视频| 99久久偷拍视频| 色婷婷伊人| 另类综合激情| a片在线免费观看一区| 色婷婷五月综合在线| 色婷婷天堂| AV天堂淫乩| 热久久99热欧美国产亚洲| 99久久婷婷| 韩国中文字幕91| 丁香婷婷色九月| 51XX嘿嘿午夜无码| www.思思99热| 五月天激情久久| www,色色色网站| 五月色综合| 综合激情五月丁香| 五月天开心婷婷久久| 五月婷婷丁香狠狠撸久久| 婷婷五月丁香在线观看| 五月丁香婷婷免费视频| 国外亚洲成AV人片在线观看| 成人视频在线免费播放| 狠狠色狠狠鲁| 狠狠久久婷五月| 超碰亚洲欧美| 97色婷婷| 狠狠综合网| 免费无码毛片一区二区A片| www久久艹| 97色伦另类图片小说视频 | 97精品自拍视频| VA国产在线综合网站| 激情网五月天| 久久综合站| 高潮毛片遮挡费高一百度| 五月丁香色| 思思久久99热只有频精品66| 丁香五月婷婷色情综合| 99爱这里只有精品免费视频| 日本精品人妻无码77777| 狠狠爱婷婷爱| 五月色综合网| 婷婷中文字幕欧美| 91热er| 色五月成人| 操婷婷基地| 丁香六月爱综合| 人人播| 激情丁香六月| 人人草人人舔| 9热在线视频| 婷婷五月色丁香在线看| 久草热8精品视频在线观看| 亚洲av综合网| 久久婷婷内射| 99热全是精品| 五月丁香婷婷成人网| 日韩在线观看网址| 天天舔天天摸天天射| 色99网站| 日本老女人黄页在线播放| 婷婷午夜综合| 婷婷五月天丁香社区| 久久婷婷成人综合色怡春院| 色五月在线综合| 婷婷五月天成人影片| 在线观看免费视频| 亚洲色五月天是什么| 成人在线99| 亚洲小视频免费播放| 久久女人天堂| 大香蕉啪啪| 97视频91| 日韩久久视频| 欧美色五月| 99热老网站| 丁香五月天堂| 日韩色色小视频| 丁香五月婷婷基地| 色色啊| 色色99| 精品婷婷五月天| 青青青在线视频国产| 色婷婷视频| 久久精品99国产精品日本| site:minyis.com| 国产毛多水多女人A片| 天天在线天天综合网色| 91精品国产综合久久久不卡电影| 婷婷色色网| 色婷婷91激情小说| 色婷婷电影网| 激情综合婷婷| 五月激情影院| 开心色播色五月婷婷| 激情五月最新网址| 91视频五月丁香| 色色色婷婷五月天| 啪啪一区| 精品少妇蜜臀91| 肏日网在线看| 91丁香五月| 青草青草久热这里只有精品| 成人做爰A片免费看视频| 婷婷激情区| 色碰97| 久久9热| 五月开心婷婷极品激情| 久久国产一区二区三区| 天天爽免费视频| 色婷婷丁香九月| 色婷婷五月天偷拍| 天天爽综合| 欧美激情伊人| 天天干天天操天天爽| 欧美毛片www| 婷婷丁香色性爱| 激情综合久久| 激情综合网亚洲色图| 五月丁香六月婷婷的女人| 伦乱天堂| 五月婷婷婷婷婷婷艺术| 九九综合网色全集| 欧美色五月| 夜夜操天天干| 成人噜噜网| 激情综合丁香六| 久久WW| 六月婷婷无码观看| 日韩无码性爱| 久久婷婷五月| 99爱视频在线观看| 婷婷色播六月无码| 91无码高清| 欧美成人精品A片免费一区99| 99无吗| 成人va在线观看视频| 婷婷另类开心| 婷婷五月天毛片| 色五月婷婷五月天| 久久精彩视频| 日本熟妇人妻在线| 另类亚洲2| 丁香婷婷AV| 国产成人网| 婷婷王月天影院| 亚洲色婷婷色| www.sebowuyue| 9久久狠狠的| 五月激情啪啪啪| 天天五月情| 人妻爽爽爽久久久久久久久| 九九99男女视频在线观看| 黄桃AV无码免费一区二区三区| 人人操五月天| 天天干、天天日日| 日韩色色小视频| 99热国产婷婷| 久草丁香婷婷1024| 99精品在线| 欧美视频五区| 直接看的AV| 99在线看片| 天天天久久久| 97在线精品视频| 夜色.cnm| 影音先锋高清无码资源网| 久久ab| 色婷婷精品视频| 色欲久久久久| 日本在线噜噜| 五月丁激情| eeuss人妻| 精品牛仔裤超碰| 婷婷综合偷拍| 五月丁香激情综合网官网| 国产午夜精品一区二区三区嫩草| AAA久久| 激情綜合網址| 五月婷婷色五月| 性生活视频98791| 色情播放| 婷婷综合成人五月天| 精品久久婷婷五月天| 99热99干| 亚洲精品电影| 丁香婷婷五月天激情四射| 丁香五月婷婷亚洲另类| 九月婷婷激情久久| 一区=区操屄高清大全av| 99热传媒| 精品热九九| 色色色com| 亚洲狠狠色丁香婷婷综合久久| 亚洲操操操| 五月天激情网站| 99热手机在线精品| 日日操夜夜爽| 五月婷婷片| 99热18| 99综合视频| 99综合视频一体| 日本综合色图| 99热这里只有精品2| 色综合色五月| 大香蕉伊人久久| 99热这里只有精品22| 五月婷婷AV| 五月丁香六月婷综合成人综合| 色婷婷综合影院| 玖玖五月丁香| 丁香六月婷| 天堂色婷婷| 人人97碰| 99热综合在线| 久久6这里只有精品| 丁香五月亭亭六月综合激情网| aaa丁香五月天| 99爱欧美| 伊人狠狠操| 五月天亚洲色| 99热e| 99视频在线| 狠狠精品干练久久久无码中文字幕| www.zbzhongsen.com| 强壮的公次次弄得我高潮A片日本 | 免费无码毛片一区二区A片| 国外亚洲成AV人片在线观看| 激情亚洲五月| 91色干| 99在线播放视频| 九九爱这里只有精品| 婷婷色日本| 五月成人天| 人人操97| 1000部毛片A片免费观看| 超碰成人黄色网| 99在线爽| 久久婷婷综| 深爱五月激情网| 五月天久久www| 天天摸天天舔| 97色色色色色| 爆乳熟妇一区二区三区四区| 9久操| 香蕉综合在线| 亚洲99视频| 色五月av| 91精品久久久久久综合五月天| 成人.在线日韩| 97在线/日本| 五月丁香| 九九机热| 五月丁香婷婷综合视频| 婷婷99| 久久99草五月婷婷| 伊人超碰| 无码人妻一区二区三区免费九色| 在线观看欧美| 亚洲国产精品VA在线看黑人 | 亚洲视频丁香网va| 色色色色网站| 久久怡红院| 久久精品天| 色五月丁香总合网| 久久五月天婷婷| 99免费在线视频| 色护士综合| 人人亚洲| 婷婷丁香五月网| 亚洲乱码日产精品BD| 色九月综合网| 婷久看人爽| 激情爱爱网站超大免费| 亚洲欧洲中文日韩久久AV乱码| 天堂五月婷婷| 色高清无码视频| 五月婷婷黄色| 肏日网在线看| 色播五月天天| 激情久久久久| 亚洲最大视频网站| 婷婷丁香五月天在线视频| 日韩在线一级| 色婷婷成人色网| 色丁香五月| www.99精品日操伊人乱碰在线| 色99视频| 丁香五月天之婷婷影院| 激情玖玖sh| 久久免费精品小视频| 99免费| 亚洲V国产V欧美V久久久久久| 天堂色婷婷| 天天狠狠干| 嫩草极品| 婷婷五月花免费视频在线| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 久久婷婷五月天激情四射| 日日爽天天| 中文幕无线码中文字蜜桃| 九九色影院| 婷婷五月天国产| 国产干逼片| 精品九九在线观看| 俺去也五月天婷婷| 婷婷色五月开心五月| 久久丁香五月婷| 五月婷婷色欲| 色五月婷婷少妇人妻| 在线另类| 97久久草草超级碰碰碰| WWW.桔色成人.COM| 久久久久久久久久久久63| 狠狠色噜噜狠狠狠888了| 色99视频| 婷婷五月天成人在线视频| 五月丁香六月激情综合| 亭亭玉月丁香| 97色色综合| 丁香婷婷五月天成人| 亚州视频九九99| 中字幕视频在线永久在线观看免费| 超碰人人艹| 操碰99| 91色九| 中文资源在线a | 99久久9| 激情综合在线观看| 人妻久热| 五月婷婷亚洲| 97操碰视频| 99免费热视频在线| 激情床戏| 伊人久久婷婷| 丁香五月影院| www夜夜操| 高潮毛片遮挡费高一百度| 五月天激情久久| 日韩色色网| 丁香五月天视频| 五月丁香六月婷婷啪啪综合| 色婷婷狠狠18禁| 天天爽天天爽天天爽天天爽天天爽天天爽天天| 亚洲激情AV| 26UUU一区二区| 色婷婷久久| 情婷婷五月天在线| 欧美色一级色| 婷婷综合色播网| 人妻中文av| 蜜臀av粉嫩av懂色av| 久久综合丁香| 色无码| 夜夜操少妇| 色99综合色88| 99视频精品在线| 久大香蕉| 免费视频99| 桃色激情婷婷伊人网| 99五月香婷婷丁香在线视频| 婷婷色网站| 第四色大香蕉| av九九| 深爱激情AV| 亚洲中文AV| 少妇性按摩无码中文A片| 中文字幕在线不卡| www.狠狠操| 五月久久丁香| 97久人人| 操91| 新精品99| 91丁香五月| 久操婷婷| 五月天色婷婷伊人网| 99久久97久久欧美综合网| 欧美五月婷婷| 婷婷五月天激情在线观看| 97色五月丁香婷婷| 婷婷涩五月| 婷婷久久五月天亚洲欧美国产日韩在线观看 | 97碰| 国产欧美精品AAAAAA片| 色五月女| 丁香丁婷五月激情| 97色精品视频 | 99成人无码| 天天综合五月天| 91久久婷婷| 久久偷拍综合五月天| 久热大香蕉| αv中文字幕在线观| 超碰网站在线观看| 激情五月天综合图片小说网站| 超碰激情五月| 青草五月天| 玖玖资源站中文| 久久黄A片| 91/九色黑人| 亚洲操b| 婷婷色色欧美| 五月婷婷丁香啪啪| 久热在线观看视频9| 丁香五月社区| 丁香五月天堂| 五月熟妇婷婷久久| 色情五月天丁香社区| 精品人妻午夜一区二区三区四区 | 婷婷内射视频在线| 天天天添天天操| 久久婷婷色色| 久久日婷婷| 97色色色| 可以免费观看的AV| 深爱五月亚洲| 超碰国产在线| bukadeavzaixian| 国产精品人人做人人爽人人添| 性色天| 久久一二三视频| 99,色| 激情伊人网| 五月久久综合| 91九色精品熟女内射| WWW.桔色成人.COM| 五月综合影院| 色噜噜狠狠色综合伊人| 黄网在线观看免费| 人人摸人人干| 欧美精品XXXXBBBB| 超碰在线视屏| 天天做好综合色| 五月丁香色播| 99在线观看视频免费| 日本成人综合| 五月开心啪啪| 丁香花社区av| 成人精品视频99在线观看免费| 五月婷婷丁香综合| 99热免| 色大综合| 日韩抽插操逼| 99色视频| 99在线视频色版| 在线观看亚洲AV| 五月色情婷婷| 20253AV| 色噜噜丁香| 北京熟妇搡BBBB搡BBBB| 97人人草| 日本超碰在线| 91大神操美女| 久久超视频| 99热在线播放| 激情五月,婷婷五月,丁香五月| 免费试看小视频 99| 欧美亚洲999| 天天弄天天爽| 五月丁香猫咪久久婷婷综合视频激情四射网入口| 色综合久久综合| 69人人操人人爽| 亚洲AV无码成人电影| 丁香五月婷婷激情97| 日本少妇裸体做爰高潮片 | 九九综合网| 五月丁香综合精品欧美| seav天堂| 五月天开心色色网| 在线看的免费网站| 无码AV免费精品一区二区三区 | 91在线日| 在线婷婷| 久久久久妻| 久久综合这里只有精品1| 色噜噜狠狠色综合AV兰草影视| 激情色色| 激情综合女人网五月播播| 激情深爱婷婷网| 国产Va视频| 五月天婷婷在看| 天天拍久久| 婷婷五月天a| 欧美激情综合色丁香婷婷五月天| 色婷婷丁香中文在线播放| 亚洲色综久久五月| 欧美VA在线| 波多野结衣AV无码Porn| 色婷婷伊人| 国产在这里只有精品| 久久综合婷婷| 久热在线中文字幕色999舞| 丁香五月狠狠在线观看| 欧美五月婷婷综合| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 久久97久久99久久综合欧美| 成人AV在线中文版| 婷婷色狠狠| www.99热在线| 亚洲成人免费在线| 日韩一区二区在线播放| 激情久久天天| 九九精品在线观看视频6| 亚洲综合激情五月久久| 五月婷婷色综图片| 狠狠爱综合| 丁香五月天成人| 人妻激情网| 67194成I人在线观看线路1| 五六月婷婷| 狠狠色激情综合| 色亭亭五月天丁香综合AV - 百度 - 百度| 综合XX网| 五月丁香在线观看| 韩国中文字幕91| 九九九九九九综合| 久热伊人| 丁香婷婷六月天| 五月天激情小说欧美激情| 天天操加勒比| 国产午夜精品AV一区二区麻豆| 99热超碰人| 精典久久| 丁香五月婷婷动漫视频| www.henhengan| 色婷婷视频在线| 婷婷五月天天| 特级操b片| 久久人妻视频| 九色99视频| www.97碰碰com| 色五月激情五月丁香五月婷婷啪啪综合| 五月丁香花开综合网| 97干欧美| 免费无码毛片一区二区A片| 五月天婷婷久草丁香| 色色无码日韩| 婷婷五月情天| 99视频只有精品| 婷婷五月天性爱视频| 丁香婷婷综合精品六月初| 婷婷丁香五月亚洲综合网在线视频观看| 九九色大香蕉| 日本啪啪视频HD| 99婷婷国产最新视频| α久久| 九九久久五月天| 激情九月丁香婷婷| 亚洲午夜AV| 丁香五月激情啪啪| 国产亚洲99久久精品| 欧美激情久| 深爱激情九九五月天 | AA丁香综合激情| 一区二区你懂的| 日本va欧美va欧美va精品| 天天日日爽| 久操热线| 九九99热| 思思久久青草热| 97色色色| 狠狠色丁香婷婷久久综合| 亚洲色色色色| 丁香色婷婷五月天| 久久99jiu9| 国产日日夜夜操| 色五月综合网| 亚洲成人中文字幕| 六月丁香五月激情网| 人人爽欧美婷婷久久久五月丁香| 疯狂做受XXXX高潮A片| 丁香五月激情网| 色天天综合| CHINESE熟女老女人HD视频| 婷婷婷久久久| 婷婷五月激情视频| 欧亚成人A片一区二区| 色婷五月| 五月花婷婷| 奇米色大香蕉| oVV4WIB3vFi8D| 天天精品视频免费观看| 五月天停停日日| 99热成人在线观看| 香蕉久久国产AV一区二区| 色播综合| 日韩在线9| 婷婷综合日本| 日本色色视频| 久久婷婷青青| 婷婷色播六月无码| 婷婷社区五月天| 99操久久| 色色色婷| 综合激情sV| 五月天久久网站| 久久精品熟女亚洲AV麻豆| 五月天婷婷丁香花| 婷婷丁香六月| 超碰AV在线| 一起草Av| 9l视频自拍9l九色9l成人| 婷婷色婷婷| 大香蕉九九操| 色偷偷色婷婷| 免费V片在线| 欧美狠狠地| 99在线视频。| 开心五月色婷婷综合开心网| 少妇人妻偷人精品无码视频新浪| 99热这里只有精品21| 夜色综合网| 精品一二三区久久AAA片 | www99热| 久青青久| 日本丁香五月| 色狠狠狠干| 丁香五月久久| 久久小视频免费| 午夜少妇在线观看视频| 五月花综合网| 五月天婷婷色| 再綫Av免费視品| 中文字幕欧美日韩VA免费视频| 性爱在线播放av| 婷婷五月花| 无码人妻一区二区三区四区| 超碰v| 99色看| 超级碰碰碰久久网站视频| 五月婷婷丁香网| 欧美啪啪五月天| 96丁香六月婷婷蜜桃综合久久| 亚洲一级AV在线免费播放| 五月天天综合| 五月婷中文字幕| 九九av| 婷婷AV丁香| 97亚洲视频在线| 99爱无码| 久久婷婷东京热大香樵| 99热在线看片| 久久性爱视频| 97香蕉碰碰人妻国产欧美| 伊人婷婷激情| 9l久久久视频| 久婷五月| 狠狠色丁香| 最近中文字幕大全免费版在线| 伊人丁香花综合影院| 中文字幕高清av| 成人色图情色成人网 www.5b5b5bcom 五月天 | 97婷婷五月激情六月丁香伊人| 99操免费视频| 丁香五月天AV在线| 国产黄大片在线观看画质优化| 五月天婷网| 久操97| 99热这里有精品| 色丁香五月综合网| 久久91久久91色欲精品| 91九九| 深爱丁香激情| 噜噜狠狠色综合久| 天天综合在线网| 五月开心啪啪| 97超碰在线免费观看| 中文字幕在线免费观看视频| 亚洲国产成人裸舞| 欧美大道不卡| a网站免费观看| 天天色宗合| 91操碰| 91九色PORNY大屁股| 99九九精品视频| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 久久久久久人妻| 欧美草久久五月天91| 51成人| 丁香五月婷婷欧美性爱| 色情五月天丁香社区| 午夜美女人啪最红院| 色色色色色综合| 激情婷婷五月天| 9九色首页| 极品 少妇 内射|