欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

自建Docker Registry實(shí)戰(zhàn):從安裝到運(yùn)維的完整指南

自建Docker Registry實(shí)戰(zhàn):從安裝到運(yùn)維的完整指南 1. 為什么要自己搭一個(gè) Docker Registry很多剛接觸 Docker 的朋友覺得鏡像嘛直接 pull 下來(lái)用就是了干嘛還要費(fèi)勁自己搭一個(gè)倉(cāng)庫(kù)這個(gè)想法在最開始沒問(wèn)題但等你真正跑起來(lái)幾個(gè)服務(wù)、開始往生產(chǎn)環(huán)境部署的時(shí)候很快就會(huì)遇到幾個(gè)繞不開的痛點(diǎn)。第一個(gè)痛點(diǎn)就是速度。我早期在某公司做內(nèi)部平臺(tái)的時(shí)候團(tuán)隊(duì)五六個(gè)人大家都從公網(wǎng)拉鏡像。高峰期一個(gè)稍微大點(diǎn)的鏡像比如帶了一堆依賴的 Python 運(yùn)行時(shí)拉一次十分鐘起步還經(jīng)常超時(shí)中斷。后來(lái)我統(tǒng)計(jì)了一下一天下來(lái)光等鏡像的時(shí)間就夠?qū)懲暌粋€(gè)小需求了。自己搭一個(gè)內(nèi)網(wǎng) Registry相當(dāng)于在本地做了一個(gè)鏡像緩存第一次從公網(wǎng)拉一次之后所有人都是從內(nèi)網(wǎng)秒開。這個(gè)體感差異用過(guò)的都知道有多爽。第二個(gè)痛點(diǎn)是鏡像的可見性和管理。你們公司有沒有這種經(jīng)歷——某個(gè)同事在本地 build 了一個(gè)鏡像傳到某個(gè)公共平臺(tái)別人根本不知道有沒有更新也沒法確認(rèn)這個(gè)鏡像是誰(shuí)打的、里面裝了什么。自己搭 Registry 之后所有鏡像都集中在一個(gè)地方配合標(biāo)簽規(guī)范和清理策略整個(gè)團(tuán)隊(duì)的鏡像資產(chǎn)一目了然。第三個(gè)痛點(diǎn)是合規(guī)和隔離。很多公司內(nèi)部網(wǎng)絡(luò)是隔離的生產(chǎn)環(huán)境根本不能訪問(wèn)外網(wǎng)需要有一個(gè)完全內(nèi)網(wǎng)閉環(huán)的鏡像分發(fā)通道。這種場(chǎng)景下自建 Registry 幾乎是唯一解。那為什么選 Docker Registry 而不是其他方案比如 Harbor、Sonatype Nexus答案是看你處在什么階段。如果你是一個(gè)三五人的小團(tuán)隊(duì)或者還在個(gè)人項(xiàng)目階段Docker Registry 就是那個(gè)性能最輕、部署最快、資源占用最少的方案。Harbor 功能確實(shí)全但它自帶數(shù)據(jù)庫(kù)、UI 門戶、RBAC 權(quán)限部署和維護(hù)成本都不低。Nexus 本身是個(gè)制品倉(cāng)庫(kù)也能存鏡像但配置偏復(fù)雜對(duì) Docker 的協(xié)議支持也沒有原生 Registry 那么純粹。我自己實(shí)踐下來(lái)階段一用 Docker Registry 跑通內(nèi)網(wǎng)鏡像分發(fā)階段二如果團(tuán)隊(duì)規(guī)模大了、權(quán)限要求細(xì)了再平滑遷移到 Harbor。這個(gè)過(guò)渡路徑很順因?yàn)?Docker Registry 的數(shù)據(jù)格式是標(biāo)準(zhǔn)的 OCI 分發(fā)規(guī)范Harbor 可以直接接管已有的鏡像存儲(chǔ)。先從小東西開始永遠(yuǎn)比一上來(lái)就上重型方案穩(wěn)妥。這篇文章我就把 Docker Registry 從安裝、運(yùn)行、配置到日常維護(hù)的整套流程捋一遍。里面有我踩過(guò)的坑也有能直接抄走的配置。你照著做最快十幾分鐘就能跑起來(lái)一個(gè)可用的內(nèi)網(wǎng)鏡像倉(cāng)庫(kù)。2. 安裝前需要想清楚的三件事在敲那行docker run之前我建議你先停下來(lái)想三件事不然之后返工的幾率很大。2.1 存儲(chǔ)目錄怎么規(guī)劃Docker Registry 默認(rèn)的存儲(chǔ)路徑在容器里的/var/lib/registry但容器本身就是個(gè)隨時(shí)可能銷毀的實(shí)體數(shù)據(jù)不能放在容器可寫層里必須掛載到宿主機(jī)持久化目錄。宿主機(jī)目錄的選擇有幾個(gè)講究。第一所在分區(qū)剩余空間要足夠大鏡像倉(cāng)庫(kù)會(huì)隨時(shí)間膨脹建議至少預(yù)留 50GB 起步。第二如果你的宿主機(jī)有數(shù)據(jù)盤、系統(tǒng)盤之分一定要把鏡像目錄放在數(shù)據(jù)盤上別擠在系統(tǒng)盤里否則系統(tǒng)盤滿了會(huì)連帶影響整機(jī)運(yùn)行。第三如果條件允許直接把目錄放在 SSD 上鏡像多了之后SSD 和機(jī)械盤在 push/pull 速度上的差距會(huì)非常明顯。我在生產(chǎn)環(huán)境用的是/data/registry這個(gè)路徑單獨(dú)掛了一塊數(shù)據(jù)盤。測(cè)試環(huán)境就直接用/opt/registry沒那么多講究但路徑規(guī)劃的思路是一樣的。2.2 認(rèn)證方式怎么選Docker Registry 本身默認(rèn)是完全開放的只要端口暴露出去誰(shuí)都能往里推鏡像。這在純內(nèi)網(wǎng)、完全可信的環(huán)境里也許能接受但只要你的網(wǎng)絡(luò)稍微信任邊界模糊一點(diǎn)就必須加認(rèn)證。認(rèn)證方案主要有兩種一種是htpasswd 基礎(chǔ)認(rèn)證這是 Registry 官方支持最簡(jiǎn)單、最直接的方式。用戶名密碼通過(guò)htpasswd工具生成存在一個(gè)文件里。適合小團(tuán)隊(duì)內(nèi)部使用配置成本很低幾分鐘就能搞定。另一種是Token 認(rèn)證屬于更高級(jí)的方案比如對(duì)接公司現(xiàn)有的 LDAP 或 SSO 系統(tǒng)每次請(qǐng)求都去認(rèn)證服務(wù)器換取臨時(shí) token。功能強(qiáng)大但配置復(fù)雜度高一般團(tuán)隊(duì)剛起步?jīng)]必要上這個(gè)。我的建議是無(wú)論你現(xiàn)在覺得環(huán)境多安全都把 htpasswd 認(rèn)證加上。原因很簡(jiǎn)單Docker Registry 一旦暴露在網(wǎng)絡(luò)上又不設(shè)防別人可以直接把惡意鏡像推給你你拉取的時(shí)候就可能中招。加一層密碼認(rèn)證就是加了一層非常必要的保險(xiǎn)。2.3 單機(jī)還是分布式Docker Registry 的部署形態(tài)有兩種常見路徑單機(jī)模式就是直接在宿主機(jī)上跑一個(gè)容器數(shù)據(jù)目錄掛本地磁盤適合部署量不大、單點(diǎn)故障可接受的場(chǎng)景。大多數(shù)團(tuán)隊(duì)起步階段都是這個(gè)形態(tài)。分布式模式則是把存儲(chǔ)后端切到對(duì)象存儲(chǔ)或者云存儲(chǔ)比如 S3、阿里云 OSS或者把數(shù)據(jù)放在共享文件系統(tǒng)上配合多個(gè) Registry 實(shí)例做負(fù)載均衡。這個(gè)方案是為了高可用和大規(guī)模分發(fā)準(zhǔn)備的。我見過(guò)不少團(tuán)隊(duì)一上來(lái)就想搞分布式結(jié)果運(yùn)維成本比鏡像分發(fā)本身還高。我的建議是先跑單機(jī)等真的出現(xiàn)容量瓶頸或者單點(diǎn)故障導(dǎo)致的不可接受停擺再去動(dòng)架構(gòu)。3. Docker Registry 安裝與啟動(dòng)全流程環(huán)境假設(shè)你有一臺(tái) Linux 服務(wù)器裝好了 Docker接下來(lái)我會(huì)把從拉取鏡像到啟動(dòng)容器的每一步都過(guò)一遍。3.1 拉取鏡像并準(zhǔn)備配置目錄Docker Registry 的官方鏡像名是registry。這里有個(gè)大家都忽略的細(xì)節(jié)一定要指定具體的版本標(biāo)簽不要用latest。docker pull registry:2.8.3為什么要單獨(dú)拿出來(lái)說(shuō)因?yàn)?Registry 在過(guò)去有過(guò)幾次比較大的版本變動(dòng)latest標(biāo)簽跟著更新如果你哪次重新拉取或者重新部署拉到的鏡像和之前的差異可能會(huì)讓你莫名其妙。指定版本號(hào)比如2.8.3可以保證每次部署的行為完全一致。接下來(lái)創(chuàng)建配置目錄和認(rèn)證文件目錄mkdir -p /data/registry mkdir -p /etc/docker/registry配置目錄放config.yml認(rèn)證目錄放htpasswd文件。3.2 用 htpasswd 生成認(rèn)證文件如果你之前從沒生成過(guò) htpasswd 文件可以先安裝工具# Debian/Ubuntu apt-get install -y apache2-utils # CentOS/RHEL yum install -y httpd-tools然后生成認(rèn)證文件比如創(chuàng)建一個(gè)用戶叫dockeruserhtpasswd -Bc /etc/docker/registry/htpasswd dockeruser這里有個(gè)關(guān)鍵點(diǎn)-B參數(shù)一定要加。-B表示使用 bcrypt 算法加密密碼Registry 在認(rèn)證時(shí)默認(rèn)要求 bcrypt。如果你不加-B用了默認(rèn)的 MD5 算法后面 Registry 會(huì)直接報(bào)認(rèn)證失敗這是我踩過(guò)的第一個(gè)坑。如果后續(xù)要添加新用戶注意去掉-c參數(shù)否則會(huì)整個(gè)文件覆蓋htpasswd -B /etc/docker/registry/htpasswd anotheruser3.3 編寫 config.yml 配置文件Registry 的配置通過(guò)config.yml控制。這個(gè)文件如果不存在Registry 會(huì)用內(nèi)置默認(rèn)配置啟動(dòng)。如果存在就以你提供的配置為準(zhǔn)。下面是一份適合小團(tuán)隊(duì)起步的配置文件我逐行解釋關(guān)鍵項(xiàng)version: 0.1 log: level: info fields: service: registry storage: filesystem: rootdirectory: /var/lib/registry delete: enabled: true http: addr: :5000 headers: X-Content-Type-Options: [nosniff] auth: htpasswd: realm: basic-realm path: /auth/htpasswd health: storagedriver: enabled: true interval: 10s threshold: 3storage.filesystem.rootdirectory容器內(nèi)存儲(chǔ)路徑要和容器啟動(dòng)時(shí)掛載的目錄對(duì)應(yīng)。storage.delete.enabled允許刪除鏡像。默認(rèn)是 false所以如果你選在 Web UI 上看不到刪除按鈕就檢查一下這里。http.addr監(jiān)聽端口。我用的是 5000Docker Registry 的默認(rèn)端口。auth.htpasswd.path認(rèn)證文件在容器內(nèi)的路徑。注意我配的是/auth/htpasswd不是宿主機(jī)路徑因?yàn)槿萜髟L問(wèn)不到宿主機(jī)目錄這里要用容器內(nèi)的掛載點(diǎn)。health.storagedriver健康檢查。這個(gè)比較重要Registry 會(huì)定期檢查存儲(chǔ)后端是否正常有問(wèn)題會(huì)在日志里報(bào)警方便早期發(fā)現(xiàn)磁盤故障。3.4 啟動(dòng)容器并做端口映射配置文件就緒之后啟動(dòng)命令如下docker run -d \ --name registry \ --restartalways \ -p 5000:5000 \ -v /data/registry:/var/lib/registry \ -v /etc/docker/registry/config.yml:/etc/docker/registry/config.yml \ -v /etc/docker/registry/htpasswd:/auth/htpasswd \ registry:2.8.3逐個(gè)參數(shù)說(shuō)明--restartalways容器掛了自動(dòng)重啟。Registry 這種基礎(chǔ)設(shè)施不能宕機(jī)了不去管它。-v /data/registry:/var/lib/registry把宿主機(jī)存儲(chǔ)目錄掛載到容器內(nèi)存儲(chǔ)目錄。-v /etc/docker/registry/config.yml:/etc/docker/registry/config.yml把配置文件掛載進(jìn)去。-v /etc/docker/registry/htpasswd:/auth/htpasswd把認(rèn)證文件掛載進(jìn)去。注意這里宿主機(jī)目錄和容器內(nèi)路徑可以不一樣容器內(nèi)路徑要和 config.yml 里寫的一致。啟動(dòng)完之后檢查一下狀態(tài)docker ps | grep registry docker logs registry --tail 50如果日志里沒有報(bào)錯(cuò)說(shuō)明 Registry 已經(jīng)在跑了。3.5 本機(jī)自測(cè) registry 是否可用先用 curl 簡(jiǎn)單驗(yàn)證一下服務(wù)有沒有起來(lái)curl -u dockeruser:你的密碼 http://localhost:5000/v2/如果返回{}說(shuō)明 Registry 正常響應(yīng)。如果提示 401說(shuō)明認(rèn)證生效了你的用戶名密碼有問(wèn)題。然后做一次完整的 push/pull 驗(yàn)證。先把一個(gè)現(xiàn)有鏡像打上 registry 的標(biāo)簽docker tag nginx:latest localhost:5000/nginx:latest然后登錄docker login localhost:5000輸入用戶名密碼提示Login Succeeded后推送鏡像docker push localhost:5000/nginx:latest推送完成后在另一臺(tái)機(jī)器上或者本機(jī)先把鏡像刪了拉取docker pull localhost:5000/nginx:latest如果一切順利說(shuō)明你手里已經(jīng)有一個(gè)能用、帶認(rèn)證的內(nèi)網(wǎng)鏡像倉(cāng)庫(kù)了。4. 讓其他機(jī)器能用上你的 RegistryRegistry 跑起來(lái)了問(wèn)題也就來(lái)了——其他機(jī)器的 Docker 客戶端連不上。這個(gè)環(huán)節(jié)是新手遇到問(wèn)題最多的我把幾種典型場(chǎng)景和排查方式都列出來(lái)。4.1 確認(rèn)是否是 https/http 的問(wèn)題Docker 客戶端默認(rèn)情況下只信任 HTTPS 的 Registry。除非你直接訪問(wèn)localhost否則走 HTTP 會(huì)被 Docker 直接拒絕。看下 Docker 客戶端報(bào)錯(cuò)如果出現(xiàn)類似Error response from daemon: Get http://registry.example.com:5000/v2/: http: server gave HTTP response to HTTPS client說(shuō)明客戶端認(rèn)為你是 HTTPS但服務(wù)端實(shí)際是 HTTP。解決辦法是讓 Docker 客戶端把該地址視為 insecure registry。修改客戶端的/etc/docker/daemon.json{ insecure-registries: [ registry.example.com:5000 ] }如果還有其他配置項(xiàng)把insecure-registries合并進(jìn)去然后重啟 Dockersystemctl restart docker注意重啟 Docker 會(huì)把你所有正在運(yùn)行的容器停下來(lái)生產(chǎn)環(huán)境操作前要評(píng)估一下影響。4.2 跨機(jī)器的地址替換很多人在本機(jī)測(cè)試沒問(wèn)題跨機(jī)器就拉取失敗核心原因就是用了localhost這個(gè)地址。其他機(jī)器上的 Docker 解析不了你機(jī)器上的localhost它只會(huì)去找自己本機(jī)。正確做法是打標(biāo)簽的時(shí)候直接用能被對(duì)方訪問(wèn)到的地址比如你的服務(wù)器 IP 或者內(nèi)網(wǎng)域名docker tag nginx:latest 192.168.1.100:5000/nginx:latest docker push 192.168.1.100:5000/nginx:latest內(nèi)部團(tuán)隊(duì)使用我強(qiáng)烈建議申請(qǐng)一個(gè)內(nèi)網(wǎng)域名比如registry.internal這樣然后在每臺(tái)機(jī)器的/etc/hosts里配上解析。用 IP 當(dāng)然也能跑但域名有明顯的好處后面遷移服務(wù)器、換 IP 的時(shí)候不用去每臺(tái)機(jī)器改配置只要把 DNS 或 hosts 指到新地址就行。4.3 防火墻和端口連通性排查你在服務(wù)器本地怎么測(cè)試都通換臺(tái)機(jī)器就提示 connection refused十有八九是防火墻把 5000 端口擋了。確認(rèn)端口監(jiān)聽狀態(tài)ss -lntp | grep 5000確認(rèn)防火墻規(guī)則以 firewalld 為例firewall-cmd --permanent --add-port5000/tcp firewall-cmd --reload如果用的是云服務(wù)器還要去安全組里放行 5000 端口的入方向規(guī)則。這一步很多人忘因?yàn)楸镜鼐W(wǎng)絡(luò)沒有這道關(guān)卡上云就卡住了。4.4 給 Registry 配上 HTTPS 的簡(jiǎn)便做法既然 Docker 客戶端默認(rèn)只信任 HTTPS那最徹底的辦法就是直接給 Registry 配上 HTTPS。這樣所有機(jī)器都無(wú)需設(shè)置 insecure-registry安全性和易用性同時(shí)滿足。最方便的方案是讓 Registry 直接用宿主機(jī)上已有的證書。假設(shè)你已經(jīng)有了證書文件domain.crt和domain.key把它們放到宿主機(jī)目錄比如mkdir -p /etc/docker/registry/certs cp domain.crt /etc/docker/registry/certs/ cp domain.key /etc/docker/registry/certs/然后修改 config.yml把 http 段換成 https 配置http: addr: :5000 tls: certificate: /certs/domain.crt key: /certs/domain.key重新啟動(dòng)容器時(shí)多掛載一個(gè)證書目錄docker run -d \ --name registry \ --restartalways \ -p 5000:5000 \ -v /data/registry:/var/lib/registry \ -v /etc/docker/registry/config.yml:/etc/docker/registry/config.yml \ -v /etc/docker/registry/htpasswd:/auth/htpasswd \ -v /etc/docker/registry/certs:/certs \ registry:2.8.3配置了 HTTPS 之后所有客戶端機(jī)器哪怕不在 insecure-registries 列表里也能正常登錄和推送鏡像。這是我在實(shí)際環(huán)境中最推薦的做法因?yàn)椴挥妹颗_(tái)機(jī)器單獨(dú)改 Docker 配置一勞永逸。5. 鏡像倉(cāng)庫(kù)的日常運(yùn)維與管理倉(cāng)庫(kù)跑起來(lái)只是開始日常運(yùn)維才是重頭戲。這一節(jié)我把鏡像的推拉、刪除、清理、備份等操作都過(guò)一遍全是我自己實(shí)踐驗(yàn)證過(guò)的。5.1 鏡像推送和拉取的正確姿勢(shì)推送鏡像時(shí)標(biāo)簽的格式會(huì)決定鏡像的去向。標(biāo)準(zhǔn)格式是倉(cāng)庫(kù)地址/命名空間/鏡像名:標(biāo)簽。舉個(gè)例子我要把本地 Dockerfile 構(gòu)建出來(lái)的應(yīng)用鏡像推到內(nèi)網(wǎng)倉(cāng)庫(kù)docker build -t 192.168.1.100:5000/myapp/backend:v1.0 . docker push 192.168.1.100:5000/myapp/backend:v1.0這里myapp/backend是命名空間加鏡像名v1.0是版本標(biāo)簽。推送完Registry 上就有了這個(gè)鏡像。拉取的時(shí)候docker pull 192.168.1.100:5000/myapp/backend:v1.0拉取下來(lái)之后如果你想把鏡像名變成更簡(jiǎn)潔的本地名再打一次標(biāo)簽docker tag 192.168.1.100:5000/myapp/backend:v1.0 backend:v1.0這樣可以避免本地鏡像名帶一長(zhǎng)串前綴看著清爽運(yùn)行容器時(shí)也不用寫那么長(zhǎng)。5.2 鏡像版本標(biāo)簽的規(guī)范建議鏡像標(biāo)簽如果不做規(guī)范時(shí)間一長(zhǎng)倉(cāng)庫(kù)里就全是latest、v1、final這種毫無(wú)辨識(shí)度的名字。我這里的團(tuán)隊(duì)約定了一套規(guī)則主版本號(hào).次版本號(hào).修訂號(hào)-環(huán)境標(biāo)識(shí)比如v1.2.0-prod生產(chǎn)環(huán)境發(fā)布的版本v1.2.0-test測(cè)試環(huán)境驗(yàn)證的版本v1.2.0-dev開發(fā)環(huán)境最新構(gòu)建同時(shí)約定latest標(biāo)簽只能由 CI/CD 流水線在每次發(fā)布成功后自動(dòng)更新不允許任何人手動(dòng)往latest上亂推。這樣大家看到latest就知道是當(dāng)前最新的穩(wěn)定構(gòu)建而不是某個(gè)人本地隨手打出來(lái)的包。5.3 刪除鏡像的正確方法Registry 的 HTTP API 本身就是支持刪除鏡像的但有前提條件配置文件里要開啟storage.delete.enabled: true。刪除鏡像有一個(gè)先后順序問(wèn)題必須先刪除 manifest再刪除相應(yīng)的 blob不然磁盤空間不會(huì)釋放。先用 API 查看倉(cāng)庫(kù)里的鏡像列表curl -u dockeruser:密碼 https://registry.example.com:5000/v2/_catalog返回類似{repositories:[myapp/backend,myapp/frontend]}查看某個(gè)鏡像的所有標(biāo)簽curl -u dockeruser:密碼 https://registry.example.com:5000/v2/myapp/backend/tags/list再獲取指定標(biāo)簽的 digest也就是鏡像的唯一摘要curl -u dockeruser:密碼 -H Accept: application/vnd.docker.distribution.manifest.v2json \ https://registry.example.com:5000/v2/myapp/backend/manifests/v1.2.0-prod在響應(yīng)頭里找Docker-Content-Digest返回的十六進(jìn)制字符串就是 digest。然后調(diào)用刪除接口curl -u dockeruser:密碼 -X DELETE \ https://registry.example.com:5000/v2/myapp/backend/manifests/digest值刪除之后還需要定期執(zhí)行 GC 才能真正釋放磁盤空間。GC 操作需要跑到容器內(nèi)部執(zhí)行docker exec registry registry garbage-collect /etc/docker/registry/config.yml執(zhí)行完 GC之前刪掉鏡像殘留的存儲(chǔ)層會(huì)被清除磁盤空間才會(huì)真正釋放出來(lái)。5.4 用腳本定期清理老舊鏡像人工清理一兩次可以長(zhǎng)期這么干誰(shuí)都受不了。我寫了一個(gè)簡(jiǎn)單的清理腳本放在服務(wù)器上配合 crontab 定期跑。腳本思路是列出每個(gè)鏡像的所有標(biāo)簽根據(jù)標(biāo)簽里的版本號(hào)排序把規(guī)定保留數(shù)量之外的鏡像全部刪除最后執(zhí)行 GC。#!/bin/bash REGISTRYhttps://registry.example.com:5000 USERdockeruser PASS密碼 KEEP_VERSION_COUNT5 # 獲取所有倉(cāng)庫(kù) REPOS$(curl -s -u $USER:$PASS $REGISTRY/v2/_catalog | python3 -c import sys,json; print(\n.join(json.load(sys.stdin)[repositories]))) for repo in $REPOS; do # 獲取所有標(biāo)簽 TAGS$(curl -s -u $USER:$PASS $REGISTRY/v2/$repo/tags/list | python3 -c import sys,json; print(\n.join(json.load(sys.stdin)[tags]))) # 這里按版本號(hào)排序保留最新的 KEEP_VERSION_COUNT 個(gè) STALE_TAGS$(echo $TAGS | sort -V | head -n -$KEEP_VERSION_COUNT) for tag in $STALE_TAGS; do # 獲取 digest DIGEST$(curl -s -u $USER:$PASS -H Accept: application/vnd.docker.distribution.manifest.v2json \ $REGISTRY/v2/$repo/manifests/$tag -D - | grep -i Docker-Content-Digest | awk {print $2} | tr -d \r) # 刪除 manifest curl -s -u $USER:$PASS -X DELETE $REGISTRY/v2/$repo/manifests/$DIGEST done done # 執(zhí)行 GC 釋放空間 docker exec registry registry garbage-collect /etc/docker/registry/config.yml腳本里用到了sort -V這是按版本號(hào)自然排序v1.9會(huì)排在v1.10前面不是簡(jiǎn)單按字典序。然后在 crontab 里配一下0 3 * * 6 /opt/scripts/cleanup_registry.sh /var/log/registry_cleanup.log 21每周六凌晨三點(diǎn)跑一次。注意 GC 執(zhí)行時(shí)Registry 會(huì)短暫停頓所以安排在業(yè)務(wù)低峰期比較穩(wěn)妥。5.5 數(shù)據(jù)備份與恢復(fù)鏡像倉(cāng)庫(kù)里的數(shù)據(jù)本質(zhì)上都是文件備份思路就是把存儲(chǔ)目錄整個(gè)打包。最常用的命令tar -czf registry_backup_$(date %Y%m%d).tar.gz -C /data registry恢復(fù)的時(shí)候把壓縮包解壓回/data目錄然后重新啟動(dòng)容器即可。因?yàn)榕渲梦募顽R像數(shù)據(jù)是分開掛載的恢復(fù)時(shí)先確認(rèn) config.yml 和 htpasswd 還在再確認(rèn)數(shù)據(jù)目錄解壓完整。如果數(shù)據(jù)量特別大比如幾百 GB用 tar 打包會(huì)很慢可以考慮用 rsync 增量同步到備份服務(wù)器rsync -avz --delete /data/registry/ backup-server:/data/registry/不管用哪種方式定期備份真的很重要。我見過(guò)有人不備份結(jié)果磁盤壞了鏡像全沒重建容器還得重新 build 每一個(gè)鏡像痛苦程度誰(shuí)經(jīng)歷誰(shuí)知道。6. 常見問(wèn)題與排查技巧實(shí)錄這一節(jié)我把自己在運(yùn)維過(guò)程中遇到比較多的和團(tuán)隊(duì)里其他同事問(wèn)我的問(wèn)題匯總一下直接給你解決辦法。6.1 鏡像推不上去提示認(rèn)證失敗現(xiàn)象docker push時(shí)提示unauthorized: authentication required。排查步驟確認(rèn)你有沒有執(zhí)行docker login并且登錄的是正確的倉(cāng)庫(kù)地址很多人登錄了一個(gè)地址推送的目標(biāo)地址又是另外一個(gè)。確認(rèn)用戶名密碼是否輸對(duì)htpasswd 是 bcrypt 加密的話輸錯(cuò)密碼肯定登錄不了。確認(rèn) config.yml 里auth.htpasswd.path是否指向容器內(nèi)正確的文件路徑路徑寫錯(cuò) Registry 根本讀不到認(rèn)證文件。確認(rèn)容器啟動(dòng)時(shí)是否把 htpasswd 文件正確掛載進(jìn)去了??梢赃M(jìn)入容器手動(dòng)檢查文件是否存在docker exec -it registry ls -l /auth/htpasswd6.2 拉取鏡像時(shí)提示 dial tcp connection refused現(xiàn)象docker pull時(shí)提示dial tcp 192.168.1.100:5000: connect: connection refused。排查步驟用telnet 192.168.1.100 5000在客戶端機(jī)器上測(cè)一下端口通不通。如果不通說(shuō)明中間的網(wǎng)絡(luò)鏈路有問(wèn)題。確認(rèn) Registry 容器在服務(wù)器上是否正常運(yùn)行docker ps | grep registry。確認(rèn)防火墻和安全組有沒有放行 5000 端口我上面已經(jīng)講過(guò)。如果服務(wù)器上還有別的程序占用了 5000 端口Registry 啟動(dòng)會(huì)失敗用ss -lntp | grep 5000可以確認(rèn)。6.3 拉取鏡像時(shí)提示 server gave HTTP response to HTTPS client現(xiàn)象報(bào)錯(cuò)信息里包含http: server gave HTTP response to HTTPS client。原因Docker 客戶端默認(rèn)用 HTTPS 去連你的倉(cāng)庫(kù)但你的倉(cāng)庫(kù)跑的是純 HTTP。解決辦法兩個(gè)方向要么給 Registry 配上 HTTPS 證書要么在客戶端 daemon.json 里添加insecure-registries配置。我推薦前者一勞永逸后面不用每臺(tái)機(jī)器都改。6.4 磁盤空間被鏡像文件占滿現(xiàn)象服務(wù)器磁盤告警發(fā)現(xiàn)/data/registry目錄特別大。解決思路用docker exec registry registry garbage-collect執(zhí)行一次 GC把已刪除鏡像的殘留數(shù)據(jù)清掉。如果 GC 之后空間還是不夠就得從清理策略入手設(shè)置保留版本數(shù)自動(dòng)清理老舊鏡像。從根上解決就是給 Registry 換更大的數(shù)據(jù)盤或者遷移到對(duì)象存儲(chǔ)。6.5 認(rèn)證文件生成后 Registry 無(wú)法啟動(dòng)現(xiàn)象啟動(dòng)容器后日志里出現(xiàn)authtoken: htpasswd: invalid hashing algorithm for user dockeruser原因生成 htpasswd 的時(shí)候沒有用-B參數(shù)默認(rèn)生成的 MD5 格式 Registry 不認(rèn)。解決辦法重新用htpasswd -B生成文件覆蓋掉原來(lái)的。6.6 鏡像列表接口返回 401現(xiàn)象curl訪問(wèn)/v2/_catalog拿到 401。原因認(rèn)證生效了但你沒帶用戶名密碼。解決辦法curl 加-u參數(shù)即可curl -u dockeruser:密碼 https://registry.example.com:5000/v2/_catalog6.7 刪除鏡像后磁盤空間沒有釋放現(xiàn)象通過(guò) API 把鏡像刪了但du -sh /data/registry看磁盤占用沒有變小。原因刪除操作只是標(biāo)記了 manifest 為不可用實(shí)際的數(shù)據(jù)層文件要等 GC 才會(huì)清理。解決辦法執(zhí)行g(shù)arbage-collect命令。這算是 Registry 設(shè)計(jì)的一個(gè)特性不是 bug理解了就不會(huì)慌。7. 進(jìn)階方向從 Docker Registry 向更高階方案演進(jìn)如果你把上面的內(nèi)容全部實(shí)踐了一遍你的內(nèi)網(wǎng)鏡像分發(fā)體系已經(jīng)能支撐一個(gè)幾十人的團(tuán)隊(duì)日常用了。再往后走有幾個(gè)方向可以根據(jù)實(shí)際情況考慮。第一個(gè)方向是給 Registry 加 UI。Docker Registry 原生沒有界面查看鏡像只能靠命令行 API。需要可視化的時(shí)候可以部署一個(gè)輕量的 UI 項(xiàng)目比如 Docker Registry Frontend 或者類似的第三方前端直接以容器方式跑起來(lái)讓它跟 Registry 走同一個(gè)網(wǎng)絡(luò)配置一下就能看到鏡像列表、標(biāo)簽和大小也能找到刪除等操作入口。對(duì)于不愛敲命令的同事來(lái)說(shuō)這個(gè) UI 還是有用的。第二個(gè)方向是權(quán)限模型升級(jí)。Docker Registry 的 htpasswd 認(rèn)證是全局的所有人都用同一份憑據(jù)沒法做精細(xì)的隔離。你們團(tuán)隊(duì)如果發(fā)展成多個(gè)項(xiàng)目組A 組的鏡像不想讓 B 組看到就需要上 Harbor 這種帶 RBAC 權(quán)限控制的方案了。Harbor 可以創(chuàng)建多個(gè)項(xiàng)目每個(gè)項(xiàng)目單獨(dú)設(shè)置訪問(wèn)權(quán)限還能跟 LDAP 打通統(tǒng)一賬號(hào)體系不用每人都維護(hù)獨(dú)立的 htpasswd 賬號(hào)。第三個(gè)方向是 CI/CD 集成。自建 Registry 最大的價(jià)值就是和持續(xù)集成流水線無(wú)縫配合。每次代碼合并流水線自動(dòng)構(gòu)建鏡像并推送到 Registry部署環(huán)境直接從 Registry 拉取指定版本整個(gè)過(guò)程不需要人工介入。這個(gè)流程一旦跑順交付效率會(huì)有質(zhì)的提升。但不管你最后演進(jìn)到什么方案前期從 Docker Registry 起步學(xué)到的這些存儲(chǔ)結(jié)構(gòu)、認(rèn)證原理、GC 機(jī)制、鏡像生命周期管理都是通用且不會(huì)浪費(fèi)的。8. 最后補(bǔ)充幾個(gè)容易被忽略的細(xì)節(jié)有幾個(gè)很小但容易坑人的細(xì)節(jié)單獨(dú)再說(shuō)一下。第一是 Registry 日志。默認(rèn)日志級(jí)別是 info如果你覺得日志太吵可以在 config.yml 里把log.level改成warn只輸出警告和錯(cuò)誤。排查問(wèn)題時(shí)再臨時(shí)改回 debug問(wèn)題解決后記得改回來(lái)。第二是健康檢查接口。Registry 在/v2/路徑返回{}就代表服務(wù)正常。如果你有監(jiān)控系統(tǒng)可以把這個(gè)接口做成監(jiān)控項(xiàng)定時(shí)檢測(cè)倉(cāng)庫(kù)是否存活。第三是端口沖突。5000 端口是 Registry 默認(rèn)端口但有些環(huán)境里這個(gè)端口已經(jīng)被其他服務(wù)占了。如果沖突把 config.yml 里http.addr改成別的端口同時(shí)調(diào)整啟動(dòng)命令里的端口映射。改的時(shí)候兩個(gè)地方要一致不然配置不生效。第四是鏡像命名空間。鏡像倉(cāng)庫(kù)支持命名空間的層級(jí)結(jié)構(gòu)比如auth/api-gateway和order/service可以放在同一個(gè)倉(cāng)庫(kù)里用命名空間區(qū)分業(yè)務(wù)模塊。這個(gè)不額外配置直接推送帶命名空間的鏡像標(biāo)簽即可但建議提前規(guī)劃命名規(guī)范免得后面亂。Docker Registry 本身并不復(fù)雜說(shuō)白了一個(gè)容器加一份配置文件就能跑起來(lái)。但真正跑好它讓團(tuán)隊(duì)所有人用得順手、數(shù)據(jù)安全可靠是要在細(xì)節(jié)里下功夫的。這篇文章里的每一段基本都能對(duì)應(yīng)到我實(shí)際運(yùn)維中遇到過(guò)的場(chǎng)景你照著一路實(shí)踐下來(lái)很快也能積累起自己的一套打法。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲热手机在线观看| 秋霞免费三级片| 激情五月婷| 91操网| 97操操| 五月丁香激情婷婷综合字幕| 婷婷五月激情五月激情| 成人在线精品| 婷婷伊人久久无码色五月| 丁香五月天日韩无码| www.com.色色| 激情深愛五月視頻| 午夜做爱影院| 久久ww| 色狠久| av性爱网站| 五月天激情视频网站| 激情五月天之六月婷婷| 丁香六月天之亚州热女 | 99在线视频资源| 中文av网| 日韩伊人大香蕉| 噜噜噜噜噜在线| 亚洲无码免费看| 激情久久久久久久久久| 四五月婷婷| 深爱综合网| 婷婷香五月天| 中文在线视频久9| 99A级片| 月婷婷亚洲| 五月综合婷婷久久在线| 三年高清大片免费观看国语| 激情五月天天| 夜夜爱影院| 一月婷婷色色| 五月天色婷伊人| 五月天婷婷成人网| 日本网站久久| 久久一热免费视频| 26uuu丁香婷婷五月| 91热爆在线| 色情网综合| 色情五月综合婷婷| 久久这里只有精品8| 亚州色色色| 五月婷婷电影院| 午夜爱插插| 丁香五月婷婷激情视频播放| 99久久99九九99九九九| 婷婷丁香五月基地| 激情五月天婷婷| 99国产精品白浆在线观看免费| 日本二级毛片二级毛片| 99久久综合| 五月天婷婷在线播放| 丁香六月婷婷综合| 丁香五月天AV在线 | 亚洲综合狠狠艹| 五月天婷婷网站888| 日韩黄色影院| 成人视频九九| www.精品99| 中文字幕乱码亚洲精品一区| 五月天激情黄色小说在线观看| 思思热精品在线观看| 色五月六月| 91碰操| 俺去也五月天| 久久久婷婷五月天| 操97| 可以免费看AV网站| 狠狠草狠狠草| 国产毛片欧美毛片久久久| 在线观看免费狠狠色丁香香综合| 欧美人妻一区二区| 99青青草99| 99er这里只有精品视频| 97久久人人| 色久一| 激情婷婷丁香五月| 五月综合色| AAA久久久| 久777| 99 热| 97超碰在线免费观看| www.99色在线| 疯狂做受XXXX高潮A片动画| 怎么样可以看免费的一级av| 超碰人妻在线| 五月亚洲| 99精品自拍视频| ztEJj| va婷婷在线| 第四色激情网| 99网址在线看| 夜夜大香蕉婷婷丁香| 欧美婷婷色五月网| 久久婷婷综合五月趴| 69凹凸成人综合网| 国产精品久久久60086| 五月婷婷六月丁香| 五月天狠狠网站| 日本在线视频播放91| 免费成人中文字幕| 丁香五月婷久久| 免费看欧美成人A片无码| 日日操夜夜骑| 激情五月婷婷综合| 91九色熟女| 婷婷丁香五月激情中文字幕版| 婷婷丁香五月亚洲| 欧洲色| 色噜婷婷| 五月婷婷六月天| 婷婷五月丁香伊人网| 91九色在线观看免费| 亚洲愉拍99热成人精品| 四色综合网| 久久天堂加勒比| 丁香五月天影院| 五月婷婷视频| 超碰成人影视| www,99色| 亚洲AV免费国产电影| 亚洲人成网站999综合| 五月婷婷色欲| 国产日产亚系列精品版优势 | 99久久玖玖| 色五月婷婷DVD| 精品婷婷五月天| 久久精品爱爱| 夜夜操夜夜爽| 亚洲色域网| 美女婷婷六月色| 99这里只有精品视频免费| 99碰碰| 综合网色| 天天色综合色色色色色。| 精热在线综合网| 思思99热这里只有精品| 婷婷欧美色| 色婷婷丁香五月天| 99极品视频| 欧美日韩AAAAA| 激情综合4月| 99免费热在线精品| 手机AVAV天堂看网| 男人的天堂五月丁香| 亚洲性爱日韩无码| 日本在线va| 深爱综合网| 婷婷99狠狠| 色婷婷888| AV在线观看网站| 欧美日朝成人| 色婷婷成人做爰A片免费看网站 | 亚洲天天| 亚洲第一成人无码A片| 另类图片五月天| 成人做爰高潮A片免费视频| 性生生活大片又黄又| 黄色片avv| 五月婷婷丁香综合,亚洲天堂| 丁香五月婷综合| 亚洲国产网站| 久久综合中文| 午夜丁香六月婷| 99热这里只有精品50| 巴基斯坦粉嫩无码视频| 色色国产| 婷婷中文字幕| 91精品刘玥| 啪啪东京热| 在线天堂9| 99热99色| 九九视频热| 26UUU欧美| 五月天综合在线| 九九色热| 国产看真人毛片爱做A片| 在线不卡AC| 日本视频欧美观看免费| 国产激情综合五月| 五月的色婷婷高潮| 色偷偷五月天| a免费在线| 婷婷色操| 天天干狠狠操| 色婷婷综合影院| 激情视频网址| 丁香久久在线| 国産精品| 激情五月婷婷综合网| 婷婷五月情天| 五月天激情图片| 国产精产国品一二三在观看| 日韩人妻在线播放| 丁香五月亚洲AV| 婷婷色丁香五月| 婷婷五月天激情电影小说| 日本色色网站| 国产精品美女久久久久AV超清| 99视频综合网| 欧亚色色| 五月婷婷五月丁香| 99婷婷| 国产高潮白浆一区二区| 99热在线爱| 五月丁香花开综合网| 色婷婷免费观看| 婷婷五月花| 亭亭玉月丁香| 婷婷五月俺要去| 五月天亚洲综合网| 精国产品一区二区三区A片| 成片免费观看大全| 婷婷激情五月天天天开心| 六月婷婷亚洲| 亭亭五月丁香五月天激情| 久久婷婷五月综合色欧美| 综合玖玖偷拍| 丁香伊人综合| 337p大胆噜噜噜噜噜91Av| 九九九九精品精| 日本97在线| 五月丁香少妇网| 高清无码视频网址| 亚洲欧洲中文日韩久久AV乱码| 亚洲热久| 五月丁香花免费视频| 久久免费操| 免费无码毛片一区二区A片| 六月激情丁香一道本7777| 18av天堂| 99在线精品视频| 狠狠狠狠狠狠| 成人五月天丁香| 色五月开心开心五月激情五月| 天天操天天插| 五月天久久婷| 人妻AV在线| 九九热视频思思| 成人丁香五月天| 久久99草五月婷婷| 五月丁色AV| 激情小说视频图片| 无码 av电影| 99成人网一区| 久99视频在线观看| 在线99精品| 天天噪夜夜爽| 久久九色| 丁香五月自拍| 99在线热视频| 亚洲图色五月天| 综合久色五月| 五月丁香综合网| 久久精品日| 六月丁香五月激情亚洲AV| 丁香久久五月婷综合| 99视频综合| 爱性综合网| 五月婷婷草| 在线看AV| 色播丁香婷婷五月激情| 国产偷人爽久久久久久老妇APP | 九九热思思热| 嫩草AV久久伊人妇女超级A| 婷婷五月丁香六月| 九九99九九99九九99视频网| 五月婷婷九九热| 色婷婷色人人射| 久久久久久人妻| 久久九九网| www.色婷婷| 丁香五月伊人| www.色色色色| 五月婷婷久久爱| 5月婷婷性视频| 色欲久久综合| 免费黄色AV| 天天天天天天操| 亚洲区在线| 激情婷婷人妻| 噼里啪啦完整版中文在线观看| www.色综合| 激情第四色| 国产综合A片| 色久免费| 久久ri精品| 中文aV网| 日本视频不卡123区| 婷婷五月天免费小说| 91无码视频| 性爱人人网| 五月婷婷啪| 99久99久| 九九99精品视频在线观看| 丁香五月狠狠在线观看| 开心综合激情综合| 丁香六月天婷婷色| 欧美色色色色色色色| 97日韩无套内| m色激情网| 91无码色色| 中文无码精品一区二区三区| 黑人巨粗进入警花疼哭A片| 夜夜躁狠狠| 色色无码| 激情com| 天天爽天天| 婷婷五月播| 久操福利| 欧美日本VA| 91干视频| 日本色婷婷| 婷婷丁香五月综合免费视频百花| 成人在线视频男人的天堂4399| 五月激情基地| 噜噜五月天综合| 亚洲操b| 久久婷婷的综合色丁香五月| 日本色久| 色色操| 26uuu| 婷婷五月天改成什么了| 欧美精品在线观看| 逼里香不卡| 久草九九| 日本人妻A片成人免费看片| 伊九九三级区| 久久在线视频免费观看| 五月天婷婷社区久久综合| 99热只有| 九九色热| 超喷97免费在线视频| 色婷婷在线视频综合| 双性美人被调教到喷水A片| 婷婷六月中文字幕| 五月色亭丁香| www.99热在线观看| 五月噜噜噜色综合| av操B网站| 亚洲最大激情无码| 精品久热| 91狠狠色丁香婷婷综合久久狠丁香综合久久精品| AAA亚洲AV| 国产黄色av| 日韩啪| 丁香五月六月久久综合| 日操夜操天天操不卡| 狠狠穞A片一區二區三區| 婷婷久久99| 99∨VTV| 婷婷丁香成人在线视频| 色婷婷AV久久| 日韩久热| 天天色,天天操,天天射| CAOBIBI| 日韩成人av在线| 99热在线里有精品| 九九热青青草| www.久热| 色亚洲欧洲| 激情五月天色网站| 成人 在线观看国产| 日本五月婷| 97视频久久| 大陆极品少妇内射AAAAAA| 色婷婷社区| 九色视频91疯狂| 亚洲精品亚洲人成人网| 无码婷婷五月天| 99热欧美精品| 色五月婷婷久久| 91久久久久久久久久| 99精品热| 五月深爱网| 丝袜激情网| 97人人射| 色五开心五月五月深深爱| 色娸娸综合网| 99热久| 另类激情五月天| 久久9RE热视频精品98| 日本一级一片免费视频| 99热99精品在线观看| 婷婷七月丁香色色| 性按摩玩人妻HD中文字幕| 色99在线观看| 亚洲五月天综合| 婷婷综合网性| 爱爱网址9| 婷婷五月天亚洲综合| 婷婷色色综合激情| 狼友超碰| 婷婷五月丁香国产| 99热这里只有精品8| 五月婷婷婷婷网| 99热欧美| 色啪久| 丁香九月激情| 九九这里都是精品| 91免费在线视频6| 久热久操久热久草国产91| 大香蕉久久| 日韩婷久| 婷婷五月天堂| 五月播播| 天天草天天舔| 91操熟女| 亚洲第一av| 777精品久无码人妻蜜桃| 五月婷婷,狠狠操| 色婷婷色五月丁香| 涩五月婷婷| 亚洲啪| 天天日天天爽| 99久久久久久www| 色婷婷五月天天天做| 丁香香蕉婷婷| 五月天sesese| 色婷婷电影网| 色欲天天综合网| 五月丁香天堂网| 色五月婷婷在线视频| 中文精品在| www色哟哟| 中文字幕人成乱码在线观看| 激情综合九月| 天天做天天爱| 26uuu欧美激情另类| 99re思思| 99欧州偷拍视频| www.9色色色| 天堂成人A片永久免费网站| 4438激情网| 天天干天天操| 欧美婷| 女人露出p毛视频www网站| 97婷婷狠狠久久综合9色| 五月天激情美女久久| 婷婷激情小说| 久久在这里99| 色爱综合网| 丁香五月五月婷婷五月天激情四射| 色狠狠999综合网| 久久激情五月婷婷| www五月天com| 99久高清视频| 色偷偷人人| 综合欧美五月婷婷| 三年高清大片免费观看国语| 九九色色| 五月天成人综合| 91中文在线| 操操自拍| 激情婷婷六月天| 天天色综合综合| 成人小说 五月天 婷婷| 性爱先锋AV| 91碰视频| 五月丁香激情四射综合| 五月丁香色婷婷色| 99啪啪网| 丁香狠狠色婷婷| 色色五月丁香婷婷综合| 综合久久综合综合| 丁香五月婷婷欧美成人色图| 久人人操| 天天综合色99| 91操女| www,99热在线观看| 一本婷婷丁香久久 | 久久在这里99| 久操无码| 亚洲乱码w在线观看| 青青日韩| www狠狠com| 69精品人妻不卡视频| 五月丁香婷久久| 日本久久九| 亚洲综合色成丁香五月色| 91综合在线| 亚洲人妻AV| 成人AV在线电影| 天天操天天插| 极品少妇高潮啪啪AV无码| 99成人| 风流少妇A片一区二区蜜桃 | 九九成人| 日日日日日| 国产成人精品一区二三区熟女在线 | 天天爽日日爽夜夜爽| 午夜婷婷五月天| 丁香五月乱中文字幕| 欧美va欧美va差| 丁香六月成人| 久久丝袜婷婷| 久久99网站| 能看的av网站| 国产精品扒开腿做爽爽爽A片唱戏 青青草国产亚洲精品久久 | 丁香五月婷婷国产av| 久在线88综合| 亚洲精品另类| 大香av| 五月丁香成人| 丁香五月天天哦| 99热国内| 婷婷六月五月天综合| 婷婷五月丁香六月综合网| 婷婷五月天综合网| 九九伊人网| 丁香五月影院| 美女久久婷婷| 69精品人人人人人人| 香蕉久久六月| 激情五月婷婷免费视频| 天天日人人爽| 色综合另类| 色九月婷婷综合| 天天日夜夜拍| 久久97久久99久久综合欧美| www.激情五月天.com| 五月天婷婷情色| 亚洲综合在线伊人婷| 久久99热这里只有精品23| 在线VA视频| 日本熟女内射| 丁香色成人| 能看的av网站| 色日本颜射| 婷婷丁香五月基地| 激情综合无码| 亚洲婷婷六月天| 99热这里只有精品2| 99国产精品久久久久久久久久久| 99精品综合| 香蕉网婷婷| 99九精品| 欧美狠狠一在草| 激情婷婷六月| 玖玖爱综合网| 99热久久这里只有精品| 在线观看日韩12345区| WWW·色色色·COM| VA日本视频| 少妇口诉沐足视频播放器网址| 99er6热在线观看精品6| 天堂综合久久 | 国产亚洲成AV人片在线观黄桃| 五月婷婷综合天天操| 97在线刺激| 五月丁了香蕉综合| 女高怪谈在线观看| 九九热在线精品| 丁香五月激情综合啪啪| 激情爱爱网站| 99视频| 在线视频激情网站| 九九热色视频| www.五月天激情| www.色婷婷.com| 婷婷色色网| 亚洲正能量欧美| 99人碰碰碰| 丁香五月色情| 国产超碰在线| 欧美三级大片AA在线看| 久久五月天大美女| 婷婷五月天开心网| 天天干天天拍| 五月婷婷久久大香蕉| 热久久66| 六月丁香久久| 丁香五月婷婷综合激情啪啪啪啪啪啪啪 | 亚洲色情免费网| 狠狠干天天日| 国产精品色情AAAAA片软件| 欧美性爱一区| 国产精品久久7777777精品无码| 啪啪91| 五月停停99| 天天综合情| 天天日夜夜拍| 亚洲欧美在线观看| 99精品自拍| 丁香激情综合| 亚洲亚洲人成综合网络| 在线色色| 丁香五月天资源网| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 狠狠操狠狠操AV| 久久九九经典| 26uuuavcom| 久久丁香五月婷婷| 欧美色必爱| 五月激情丁香久久综合网| 可以免费观看的AV| 午夜AV网| 丁香五月婷婷丫| 国产 亚洲 在线| 极品嫩草| 五月婷婷,六月激情| 色综合激情| 99热999| 五月丁香亚洲综合网| 亚洲天天操| 五月丁香综合成人社区| 天天视频亚洲| 欧美三级A做爰在线观看| www.91在线观看| 五月综合缴情网| 日本久久99| 色站9/| 亚洲男人的天堂婷婷色五月| 丁香五月久久| 色五月琪琪| 五月婷婷六月情| 狠狠色综合图片| 五月激情婷婷色| 激情99| 97操视频| 九九色大香蕉| 久久天堂婷婷五月| 婷婷六月激情综合| 97综合视频在线| 婷婷在线操| 涩五月婷婷| 久99视频在线观看| 91精品综合久久婷婷九色| 一区中文字幕电影| 五月丁香欧美综合| 色播jjjj| 91大屁股| 亚洲网在线观看| 女人天堂av| 思思99热| 色丁香五月天射婷婷爱婷婷| 色婷婷丁香五月| 亚洲殴洲精品Av在线| 激情婷婷五月天伊人在线观看| 这里只有精品久久| 五月丁香手机在线| 五月丁香综合激情| 天天玩夜夜操天天爽| 亚洲AV成人在线| 日韩综合久久| 久久永久视频| av在线免费播放| 久久9视频欧美| 中文字幕日韩成人| 91丨九色丨高潮丰满日本| 精品人妻在线| 丁香五月影院| 97碰碰在线观看视频| 激情网婷婷五月天| 99人人操人人操人人精| 久久婷网| 五月丁香999| 啪啪啪综合网| 欧美激情五月综合| 开心五月激情网| 99无码免费视频| 国产精品扒开腿做爽爽爽A片唱戏| 男人天堂亚洲综合| 国产AV熟妇人震精品一品二区| 中文字幕丁香五月| 牛色色碰| 亚洲色A| 丁香五月婷婷国产在线| 直接看的AV| 一起草aV| 91色噜噜狠狠狠狠色综合| 成人av中文字幕| 91婷婷| 五月天激情综合首页| 婷婷丁香18| 五月香婷婷| 久久久www| 只有精品视频在线观看| 乱精品一区字幕二区| 婷婷五月天熟妇| 99久久人人| 亚洲综合五月天| 五月丁香91| 狠狠的日| 九九草热在线观看| 99久久天堂婷婷| 丁香五月天之婷婷影院| 97人人搞| 九九黄色网| 东北婷婷五月天| 97色综合视频| 婷婷综合精品| 99这里有精品免费| 91呦呦呦| 色婷婷五月天成人网| 999热在线视频| 久热九九| 99青青草| 欧美日比视频| 五月天成人综合| 五月花婷婷丁香| 97五月天婷婷综合激情网| 99热免| 97婷婷丁香五月天激情图片| 激情网色五月| 丁香五月天网站| 色另类五月天| Www.se.久久| 亚洲婷婷91丁香| 日韩狠狠色婷婷| 日本nghangse中文字幕| 亚洲婷婷久久综合| av在线超清中文| 五月丁香久久激情综合| 玖玖色综合网| 丁香五月婷婷精品视频| 99热性色| 少妇大叫太大太粗太爽了A片 | 成人精品一区二区三区四区五区| 影音先锋男士资源网一区| 欧美大道不卡| 日韩黄黄| 狠狠爱夜夜| 99久久9| 免费看欧美成人A片无码| 人人操人av| 国产综合视频婷婷| 人人爱操| 综合网五月| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 伊人碰碰碰| 久草婷婷网| 91丁香五月| 天天粽合合合合| 婷婷丁香综合| 男女啪啪做爰高潮无遮挡| 99热这里只有精品5| 激情影院内射| 啪啪东京热| 久久香蕉网| 精品无吗va视频免费观看| 噜综合| 中文成人在线| 色婷婷激情| 九九在线精点品| 丁香五月视频在线观看| www.91在线观看| 久久99国产综合精品免费| 日本WWW九九九| 麻豆123区| 五月天色综合| 丁香五月婷婷影视先锋| 99热综合网| 强伦轩人妻一区二区电影| 久久之人妻| 婷婷WWW久久| 大香蕉五月婷婷| 五月天艹天天| 五月六月婷婷激情网| 日韩无码系列| 日韩成人精品中文字幕电影| 婷婷精品| 99热8| 天天综合永久| 桃色五月婷婷| 铁牛TV人妻| 玖玖91| 五月伊人网| 五月天婷婷在线播放免费| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 丁香五月停停av| 九九热超碰| 狠狠爱激情网| 亚洲成人婷婷| 婷婷色丁香五月| 激情六| 日本色久| 国产高潮白浆一区二区| 99热久久这里只有精品| 99re8这里只有精品99re8热视频| 婷婷激情图片| 俺去啦综合网| 深爱婷婷色| 99热在线观看免费中文| 日韩另类在线观看| 6 9式性爱视频在线播放| 亚洲妇女熟BBW| 噜噜五月天综合| 在线观看欧美| www,av好吊操| sewuyue第四色| 色色是色N一| 99九九在线精品热动漫| 九九九九九九九九九九九九九国产精品| 51精品国自产在线| 五月激情婷婷丁香| xx久久| 91婷婷五月天嫩女| 伊人色欲五月天| 开心婷婷五月天电影院| 四色综合网| 99在线综合视频| 少妇性按摩无码中文A片| 欧美三级欧美一级| 婷婷激情人妻| 夜夜骑天天操| 婷婷丁香五月高清| 天天干天天干天天干天天干天天| 久热这里这里有精品| 热99国产精品| 免费黄色片子| 黄网免费观看| 91视频一起草| 另类图片五月天激情| 久久久久久久久久久-久五月天婷婷| 色婷婷五月天| 丁香五月色情| 色宗合久久五月婷婷| 播五月婷婷开心| 五月天婷婷色在线视频免费观看 | 亚亚州久久高潮| 国产裸舞表演WWWW| 综合激情深爱| 丁香久久久| 综合六月激情婷婷| 人人操A| 久久成人综合五月天| 天天操天天爽天天爱| 婷婷色五月亚洲| 六月激情婷婷综合| 婷婷六月色丁香视频在线观看| 五月色婷婷亚洲| 色色是色N一| eeuss人妻| 色五月婷婷影院| 激情五月色综合网| 丁香五月婷婷国产在线| 五月九九综合| 九九综合88| 在线播放 精品| 秋霞九九无码| 亚洲精品另类| 91精品综合久久久五月天| 一起草aV| 人妻中文字幕网| 91热网址| 天天综合网91| 深爱五月月天| 丁香五月电影| 超碰狠狠操| 婷婷丁香五月天哟啪| 五月网激情| 婷婷六月丁香激情综合| 热99只有精品| www激情com| 天天久| 91视频五月丁香| 人人操AV| 91性高潮久久久久久久久| 国产又黄又爽又色的免费| 激情五月天综合网| 亚洲九N| 丁香五月天影院| 久久九九婷婷| 人妻激情综合| 色婷婷中文字母五月丁香| 五月丁香少妇A| 99热这里只有精品 搜| 天天色综网| 婷婷狠狠操| 天天天干夜夜夜操| 久久er99热精品一区二区| 啪啪日本欧美| 久久综合网桃花| 久久久WWW| AV中文在线| 99热这里只有精品21| 成人婷婷五月天| 五月婷导航| 久色大| 色五月婷婷综合| 中文字幕日产A片在线看| 九月性爱网| 色娸娸综合网| 婷婷的激情五月| 色婷婷综合中心| 免费五月婷婷网| 丁香伊人网| 97色碰| 婷婷色综合中心站| 人妻久热| 热热久久精品视频| 一级二级香港秋霞欧美欧美秋霞| 婷婷六月综合基地| 婷婷综合色图| 777精品久无码人妻蜜桃| 99在线看视频| 丁香五月开心亚洲| 大香蕉精品视频| 婷婷区日本| 久久这里99| 综合网啪| 五月激情啪啪| 国产高潮白浆一区二区| 久久婷婷啪啪视频| 欧美丁香六月激情视频| 五月激情影院| 大香蕉五月丁香| 无遮挡国产高潮视频免费观看| 97性高潮久久久| 久久XX| 97婷婷丁香五月| 五月婷在线| 人妻少妇色综合| 亚洲最大视频网站| 欧美色色色色色| 九九色99| www.91九色| 成人亚洲精品久久久久| 成片免费观看大全| 99色网站| 亚洲久久婷婷丁香五月天| 玖玖资源在线视频| 欧美激情综合| 偷拍99在线视频观看| 久久久久9999| 五月激情射| 99色在线视频| 欧美草久久五月天91| 97碰在线视频| 丁香五月综合网| 色五月激情综合网| 亚洲激情.com| 久热伊人| 男人的天堂99| 久热这里只有精品性色AV| 亚洲精品激情| 狠狠色成人影片| ...婷婷五月综合不卡,国产在线手机| 色综天天综合| 九九九九这里只有精品| 九九99九九99九九99视频网| 亚洲天堂婷婷| 九九国产精视频| 五月亭亭狠狠| 亚洲精品字幕| 超碰人人操在线| 九九热这里只有精品在线观看| 久久这里只精品| 色原狠狠综合| 视频这里只有精品16| 99碰超| 四季日韩AV无码综合| 色五月婷婷五月丁香五月激情五月视频| AV人人操| 国产99久久久国产精品免费看| 五月天激情图片网| 国产伊人五月天| 99热精品中文字幕| 天天干天天操天天拍| 人妖色AV色综合| 日韩成人精品一区久久久久| 操操啪| 日韩av网站在线观看| 九九久久综合网站| 色999;丁香五月| 日韩高清久久| 久久性爰视频这里只有精品| 人人草人人爱| 伊人网碰碰| 五月婷在线播放| 天堂无码人妻精品AV一区| 最新色色五月天| 26uuu亚洲精品国产| 亚洲无码99| 大香蕉综合| 婷婷 伊人 久久| 日本久碰| 亚洲综合色丁香五月天| 亚洲综合色网| 中美日韩成人在线| 色综合天天综合成人网| 激情婷婷五月丁香啪啪啪| 操操操www.com| 啊V视频在线观看| 五月丁香人妻| 丁香五月综合在线视频| 一本色道久久88加勒比| 色婷婷五月天激情| 在线色色| 激情丁香久久久久久| 色天天综合色| 五月婷婷欧美| 五月丁香综合中文| 日本va欧美va欧美| 一级AV片| 深爱婷婷色| 91精品久久久久久综合五月天| 色五月综合在线| 97色啪| 热99久| 婷婷五月丁香香蕉| 97涩婷婷| 五月天激情开心网| 国产3p露脸普通话对白| 激情五月天婷婷久久久久久久久久久| 日韩999| 思思热久久艹| 91丨九色丨熟女| 69精品人妻不卡视频| 精品免费99| 久久婷婷七月丁香| 丁香五月网络网络| 亚洲天天| 婷婷色色五月| 亚洲综合色色色| 另类图片色五月| 五月天开心色情网| 涩综合网| 99ri精品视频在线观看| 久久女人天堂| 欧美久久婷婷| 国产操碰| 久久色婷婷| 狠狠综合久久| 欧美成人A片AAA片在线播放| 亚洲成人在线播放| 五月婷婷偷拍| 色偷偷色婷婷| 欧美在线97| 人人操AV| 六月激情婷婷| 欧美一级色| 激情伊人五月天| 久久草人妻| 九九Av| 天天狠狠插| 刘玥av在线| 日日天天操| 夜夜嗨一区二区三区直播内容 | 成人做爰A片免费看网站找不到了| 人妻内射麻豆视频| 色婷婷成人| 五月激情丁香五月宗合| CHINESE熟女老女人HD视频| 五月婷婷色播网| 91se精品国产| 热的无码综合视频| 久久婷婷五月综合网| 婷婷五月在线播放| 久久999久久999久久999久久| 色香久久| 伊人网大香| 久久五月网| 色情五月天视频网| 婷婷97狠狠成人网站| 色情激情五月| 欧美日韩色色| 老司机日日夜夜青草| 日本丁香久在线| 久99久在线| 国产在线中文字幕| 五月婷婷激情网| 欧日韩AV| 91操人人操| 婷婷色情五月| 婷婷综合在线视频| 26uuu精品一区二区| 超碰人人艹| 久热婷婷| 激情五月天色婷婷综合| 久久精品噜噜噜成人A∨色欲| 综合网亚洲| 天堂色婷婷| 思思99热| 亚洲精品久久久久久久久久吃药 | 国产精产国品一二三在观看| 四虎婷婷五月天| 91在线就要啪| 日韩五月丁香| 成人婷99最新| 精品人妻伦九区久久AAA片| 五月激激网w'w'w| 天天视频精品9| 激情五月五月五月婷婷| 国产在线aaa片一区二区99| 激情综合网之激情五月| 中文幕无线码中文字蜜桃| 26UUU精品一区二区c〇m| 一片AV片免费播放| 亚洲操精品| 26UUU一区二区| 蜜乳久AV| 99热久| 激情六月丁香| 丰满老熟妇BBBBB搡BBB| 五月丁香婷婷俺| 婷婷免费无马| 少妇AB又爽又紧无码网站| 欧美日韩一区二区三区四区| 日本熟妇精品99| 亚洲蜜桃精久久久久久久久久久久 | 91久女| 久久看婷婷| 久久er九九| 9 7总站超级碰免费视频| 五月激情网站| 五月激激网w'w'w| 色综合9| 欧美日本国产欧美日本韩国99 | 99ri国产精品| 色丁香婷婷| 久久五月天激情视频| 丁香花婷婷五月天| 五月婷婷六月激情| 十月丁香九月婷婷综合| 婷婷九月丁香| 综合久久十三| 极品另类| 婷婷五月色影视先锋| 久久色五月| 色色五月婷婷狠狠| 欧美精品999| 狠狠激情五月天| 婷婷五月天激情网址| 婷婷综合偷拍| 日本人妻伦在线中文字幕 | 97碰久久| 丁香五月停停av| 久久五月婷婷电影| 五月婷婷亚洲综合在线 | 99爱视频| 亚洲婷婷丁香五月亚洲| 婷婷六月视频| 天天日天天久久青青| 另类综合激情| 性生活久久人妻| 久久久五月天| av超碰在线| 91久久久久久| 五月天婷婷丁香导航| 开心五月婷婷六月丁香| 免费观看2018www黄色操逼网站| www.色婷婷.com| 91精品久久久久久久久| 思思热在线精品视频网站| 欧美丁香五月97色| 大香蕉福利导航| 日本丁香五月| 99精品综合视频| 国产日日夜夜操| www九九| 六月婷婷日| 九九色色| 超碰免费人妻| 久久婷婷五月综合伊人| 亚洲婷婷五月天在线激情综合网| 丁香五月激情欧美| 免费观看全黄做爰的视频| www.婷婷五月| 人人草人| 色插综合网| 天天看A片| 热久久色| 超碰操日| 久久综合九九| 久9久9久9久9久9久9| 亚美欧色影院| 亚洲日韩人妻操逼| 成人电影AV在线观看| 操逼视频网址| 亚洲爆乳无码精品AAA片蜜桃| 婷婷六月激情| 色综合色综合色综合色综合| 99热99精品在线观看| 激情五月天在线观看婷婷| 超碰人人操| 婷婷九月丁香中文| 色婷婷在线视频| 九九精品热| 欧美日韩aaaa| 激情网狠狠干| 久久丁香五月综合六月激情红杏视频 | 丁香五月婷婷久久久| 人妻熟人中文字幕一区二区 | 久久婷婷青青| 大地9中文在线观看免费高清| 狠狠综合网| 九月婷婷色色| 舔色婷婷| 天天夜夜操| 婷婷五月天无码熟女| 丁香五月首页| 99色五月| 97超碰欧美中文字幕| 色呦呦在线| 日韩av一区二区在线/日产精品久久久 | 欧美顶级少妇做爰HD| se99视频| 色婷婷婷婷| 97色97干| 久久99热免费最新版| 99热精品无码| 99色精品| 开心五月婷婷婷美女| 色婷婷亚洲精品天天综| 亚洲综合丁香五月天| 999影院成人在线影院| 激情小说 五月天| 色婷婷狠狠久久综合五月| 婷婷五月激情欧美大胆视频| 人人爽人人爽人人爽人人爽| 婷婷六月天精品| 另类图片 五月激情| 亚洲日韩26uuu| 五月天婷婷久久综合| 五月天自拍视频| 五月天全国最大成人网| 色久五月| 天天狠狠色| 国产色五月| 狠狠色婷婷777| 99热国产这里只有精品| 婷婷性爱五月天| 在线只有精品| 五月丁香婷婷综合视频| 五月婷婷综合久久| 激情九月综合| 色综合色色| 婷婷色导航| 成熟妇人A片免费看网站| 色香蕉精品五夜婷| 色啪久 | 伊人五月综合网| XX久久| 99九九久久| 五月花综合网| 六月婷婷视频| 99热精品一区| 热99精品视频| 婷婷狠狠色| 操日视频| 久久激情网| 99热在线播放| 97日韩无套内| 超碰啪啪网| 性色av大香综合| 另类专区在线观看| 色狠狠999综合网| 五月婷婷中文网| 亚洲成人黄色网| 99成人| 99re热视频这里只精品| 99精彩视频| 伊人五月婷| 久久日九九| 久久久久久综合88| 五月丁香婷婷综合在线| 五月丁香婷婷啪啪综合网| 五月丁香天堂网| 丁香五月婷婷亚洲综合精品| 激情综合五月|