一 持久存儲

1.1 持久存儲概述

默認情況下，運行容器使用容器內的臨時存儲。Pods由一個或多個容器組成，這些容器一起部署，共享相同的存儲和其他資源，可以在任何時候創建、啟動、停止或銷毀。使用臨時存儲意味着，當容器停止時，寫入容器內的文件系統的數據將丟失。
當容器在停止時也需要持久的保存數據時，OpenShift使用Kubernetes持久卷(PVs)為pod提供持久存儲。

1.2 持久存儲場景

通常用於數據庫，啟動一個數據庫的pod時提供的默認臨時存儲。如果銷毀並重新創建數據庫pod，則銷毀臨時存儲並丟失數據。如果使用持久存儲，則數據庫將數據存儲到pod外部的持久卷中。如果銷毀並重新創建pod，數據庫應用程序將繼續訪問存儲數據的相同外部存儲。

1.3 持久存儲相關概念

持久卷（PV）是OpenShift資源，它只由OpenShift管理員創建和銷毀。持久卷資源表示所有OpenShift節點都可以訪問的網絡連接存儲。
持久性存儲組件：
OCP使用Kubernetes持久卷(PV)技術，允許管理員為集群提供持久性存儲。開發人員使用持久性卷聲明(PVC)請求PV資源，而不需要了解具體的底層存儲基礎設施。
Persistent Volume：PV是OpenShift集群中的資源，由PersistentVolume API對象定義，它表示集群中由管理員提供的現有網絡存儲的一部分。它是集群中的資源，就像節點是集群資源一樣。PV的生命周期獨立於使用PV的任何單獨pod。
Persistent Volume Claim：pvc由PersistentVolumeClaim API對象定義，該對象表示開發人員對存儲的請求。它與pod類似，pod消耗節點資源，而pvc消耗PV資源。

1.4 持久存儲插件

卷是掛載的文件系統，對pods及其容器可用，並且可以由許多本地或網絡連接的存儲進行備份。OpenShift使用插件來支持以下不同的後端用於持久存儲：

• NFS
• GlusterFS
• OpenStack Cinder
• Ceph RBD
• AWS Elastic Block Store (EBS)
• GCE Persistent Disk
• iSCSI
• Fibre Channel
• Azure Disk and Azure File
• FlexVolume (allows for the extension of storage back-ends that do not have a built-in plug-in)
• VMWare vSphere
• Dynamic Provisioning and Creating Storage Classes
• Volume Security
• Selector-Label Volume Binding

1.5 PV訪問模式

PV可以以resource provider的任何方式掛載在主機上，provider具有不同的功能，並且每個持久卷的訪問模式都設置為該特定卷支持的特定模式。例如，NFS可以支持多個讀/寫客戶端，但是特定的NFS PV可以在服務器上作為只讀導出。
每個PV接收自己的一組訪問模式，描述特定的持久卷的功能。
訪問模式見下錶：

訪問模式	CLI縮寫	描述
ReadWriteOnce	RWO	卷可以被單個節點掛載為讀/寫
ReadOnlyMany	ROX	卷可以由許多節點以只讀方式掛載
ReadWriteMany	RWX	卷可以被許多節點掛載為讀/寫

PV claims與具有類似訪問模式的卷匹配。唯一的兩個匹配標準是訪問模式和大小。claim的訪問模式表示請求。因此，可以授予用戶更大的訪問權限，但絕不能減少訪問權限。例如，如果一個claim請求RWO，但是惟一可用的卷是NFS PV (RWO+ROX+RWX)，那麼claim將匹配NFS，因為它支持RWO。
所有具有相同模式的卷都被分組，然後按大小(從最小到最大)排序。
master上負責將PV綁定到PVC上的service接收具有匹配模式的組，並在每個組上迭代(按大小順序)，直到一個大小匹配為止，然後將PV綁定到PVC上。

1.6 Persistent Volume Storage Classes

PV Claims可以通過在storageClassName屬性中指定它的名稱來選擇性地請求特定的存儲類。只有與PVC具有相同存儲類名稱的請求類的pv才能綁定到PVC。
集群管理員可以為所有PVC設置一個默認存儲類，或者配置動態供應程序來服務一個或多個存儲類，這些存儲類將匹配可用PVC中的規範。

1.7 創建pv和PVC資源

pv是集群中的資源，pvc是對這些資源的請求，也充當對資源的claim檢查。pv與PVCs的相互作用具有以下生命周期：

• 創建持久卷

集群管理員創建任意數量的pv，這些pv表示集群用戶可以通過OpenShift API使用的實際存儲的信息。

• 定義持久卷聲明

用戶創建具有特定存儲量、特定訪問模式和可選存儲類的PVC。master監視新的pvc，要麼找到匹配的PV，要麼等待存儲類創建一個供應程序，然後將它們綁定在一起。

• 使用持久存儲

Pods使用claims作為卷。集群檢查查找綁定卷的聲明，併為pod綁定該卷。對於那些支持多種訪問模式的卷，用戶在將其聲明用作pod中的卷時指定需要哪種模式。
一旦用戶有了一個claim，並且該claim被綁定，綁定的PV就屬於用戶，使用過程中該PV都屬於該用戶。用戶通過在pod的Volume中包含一個持久的卷claim來調度pod並訪問其聲明的pv。

1.8 使用NFS的PV

OpenShift使用隨機uid運行容器，因此將Linux用戶從OpenShift節點映射到NFS服務器上的用戶並不能正常工作。作為OpenShift pv使用的NFS共享必須遵從如下配置：

• 屬於nfsnobody用戶和組。
• 擁有rwx——權限(即0700)。
• 使用all_squash選項

示例配置：
/var/export/vol *(rw,async,all_squash)
其他NFS export選項，例如sync和async，與OpenShift無關。如果使用任何一個選項，OpenShift都可以工作。但是，在高延遲環境中，添加async選項可以加快NFS共享的寫操作(例如，將image push到倉庫的場景)。
使用async選項更快，因為NFS服務器在處理請求時立即響應客戶端，而不需要等待數據寫到磁盤。
當使用sync選項時，則相反，NFS服務器只在數據寫到磁盤之後才響應客戶端。
注意：NFS共享文件系統大小和用戶配額對OpenShift沒有影響。PV大小在PV資源定義中指定。如果實際文件系統更小，則PV被創建並綁定。如果PV更大，OpenShift不會將使用的空間限製為指定的PV大小，並且允許容器使用文件系統上的所有空閑空間。OpenShift自身提供了存儲配額和存儲位置限制，可用於控制項目中的資源分配。
默認的SELinux策略不允許容器訪問NFS共享。必須在每個OpenShift實例節點中更改策略，方法是將virt_use_nfs和virt_sandbox_use_nfs變量設置為true。

  1 # setsebool -P virt_use_nfs=true
  2 # setsebool -P virt_sandbox_use_nfs=true

 

1.9 NFS回收政策

NFS支持OpenShift的Recyclable插件，根據在每個持久卷上設置的策略處理自動執行回收任務。
默認情況下，持久卷被設置為Retain。Retain reclaim策略允許手動回收資源。當刪除pv claim時，持久卷仍然存在，並且認為該卷已被釋放。但它還不能用於另一個claim，因為來自前一個claim的數據仍然保留在卷上。此時管理員可以手動回收卷。
NFS卷及其回收策略設置為Recycle，表示在從claim中釋放后將被清除。例如，當將NFS回收策略設置為Recycle后，在刪除用戶綁定到該卷的pv claim之後，會在該卷上運行rm -rf命令。在它被回收之後，NFS卷可以直接綁定到一個新的pv claim。

1.10 Supplemental group

Supplemental group是常規的Linux組。當一個進程在Linux中運行時，它有一個UID、一個GID和一個或多個Supplemental group。可以為容器的主進程設置這些屬性。
Supplemental groupid通常用於控制對共享存儲的訪問，比如NFS和GlusterFS，而fsGroup用於控制對塊存儲(如Ceph的RBD活iSCSI)的訪問。
OpenShift共享存儲插件掛載卷，以便使掛載上的POSIX權限與目標存儲上的權限匹配。例如，如果目標存儲的所有者ID是1234，組ID是5678，那麼宿主節點和容器中的掛載將具有相同的ID。因此，容器的主進程必須匹配一個或兩個id，才能訪問該卷。

  1 [root@node ~]# showmount -e
  2 Export list for master.lab.example.com:
  3 /var/export/nfs-demo *
  4 [root@services ~]# cat /etc/exports.d/nfs-demo.conf
  5 /var/export/nfs-demo
  6 ...
  7 [root@services ~]# ls -lZ /var/export -d
  8 drwx------. 10000000 650000 unconfined_u:object_r:usr_t:s0 /var/export/nfs-demo

 
圖上示例，UID 10000000和組650000可以訪問/var/export/nfs-demo export。通常，容器不應該作為root用戶運行。在這個NFS示例中，如果容器不是作為UID 10000000運行的，並且不是組650000的成員，那麼這些容器就不能訪問NFS export。

1.11 通過fsgroup使用塊存儲

fsGroup定義了pod的“file-system group”ID，該ID被添加到容器的supplemental group中。supplemental group ID應用於共享存儲，而fsGroup ID用於塊存儲。
塊存儲，如Ceph RBD、iSCSI和各種類型的雲存儲，通常專用於單個pod。與共享存儲不同，塊存儲由pod接管，這意味着pod(或image)定義中提供的用戶和組id應用於實際的物理塊設備,塊存儲通常不共享。

1.12 SELINUX和卷security

除了SCC之外，所有預定義的安全上下文約束都將seLinuxContext設置為MustRunAs。最可能匹配pod需求的SCC迫使pod使用SELinux策略。pod使用的SELinux策略可以在pod本身、image、SCC或project(提供默認值)中定義。
SELinux標籤可以在pod的securityContext中定義。，並支持user、role、type和level標籤。

1.13 ELinuxContext選項

• MustRunAs

如果不使用預先分配的值，則要求配置seLinuxOptions。使用seLinuxOptions作為默認值，從而針對seLinuxOptions驗證。

• RunAsAny

沒有提供默認，允許指定任何seLinuxOptions。

二 持久卷練習

2.1 前置準備

準備完整的OpenShift集群，參考《003.OpenShift網絡》2.1。

2.2 本練習準備

  1 [student@workstation ~]$ lab deploy-volume setup

2.3 配置NFS

本實驗不詳解NFS的配置和創建，直接使用/root/DO280/labs/deploy-volume/config-nfs.sh腳本實現，具體腳本內容可通過以下方式查看。
同時NFS由services節點提供。

  1 [root@services ~]# less -FiX /root/DO280/labs/deploy-volume/config-nfs.sh
  2 [root@services ~]# /root/DO280/labs/deploy-volume/config-nfs.sh		#創建NFS
  3 Export directory /var/export/dbvol created.
  4 [root@services ~]# showmount -e						#確認驗證

 

2.4 node節點掛載NFS

  1 [root@node1 ~]# mount -t nfs services.lab.example.com:/var/export/dbvol /mnt
  2 [root@node1 ~]# mount | grep /mnt
  3 [root@node1 ~]# ll -a /mnt/		#檢查相關權限

 

  1 [root@node1 ~]# umount /mnt/		#卸載

提示：建議node2也做以上掛載測試，測試完成后建議下載，NFS共享在OpenShift需要的時候會自動掛載。

2.5 創建持久卷

  1 [student@workstation ~]$ oc login -u admin -p redhat https://master.lab.example.com
  2 [student@workstation ~]$ less -FiX /home/student/DO280/labs/deploy-volume/mysqldb-volume.yml
  3 apiVersion: v1
  4 kind: PersistentVolume
  5 metadata:
  6   name: mysqldb-volume
  7 spec:
  8   capacity:
  9     storage: 3Gi
 10   accessModes:
 11   - ReadWriteMany
 12   nfs:
 13     path: /var/export/dbvol
 14     server: services.lab.example.com
 15   persistentVolumeReclaimPolicy: Recycle
 16 [student@workstation ~]$ oc create -f /home/student/DO280/labs/deploy-volume/mysqldb-volume.yml
 17 [student@workstation ~]$ oc get pv		#查看PV
 18 NAME    CAPACITYACCESS    MODES    RECLAIM    POLICY STATUS    CLAIM    STORAGECLASS    REASON    AGE
 19 mysqldb-volume    3Gi     RWX      Recycle    Available                                           1m

 

2.6 創建項目

  1 [student@workstation ~]$ oc login -u developer -p redhat https://master.lab.example.com
  2 [student@workstation ~]$ oc new-project persistent-storage

 

2.7 部署應用

  1 [student@workstation ~]$ oc new-app --name=mysqldb \
  2 --docker-image=registry.lab.example.com/rhscl/mysql-57-rhel7 \
  3 -e MYSQL_USER=ose \
  4 -e MYSQL_PASSWORD=openshift \
  5 -e MYSQL_DATABASE=quotes
  6 [student@workstation ~]$ oc status		#確認驗證
  7 In project persistent-storage on server https://master.lab.example.com:443
  8 
  9 
 10 svc/mysqldb - 172.30.39.72:3306
 11   dc/mysqldb deploys istag/mysqldb:latest
 12     deployment #1 deployed 58 seconds ago - 1 pod

2.8 配置持久卷

  1 [student@workstation ~]$ oc describe pod mysqldb | grep -A2 'Volumes'	#查看當前pod的Volume
  2 Volumes:
  3   mysqldb-volume-1:
  4     Type:    EmptyDir (a temporary directory that shares a pod's lifetime)
  5 [student@workstation ~]$ oc set volumes dc mysqldb \
  6 --add --overwrite --name=mysqldb-volume-1 -t pvc \
  7 --claim-name=mysqldb-pvclaim \
  8 --claim-size=3Gi \
  9 --claim-mode='ReadWriteMany'		#修改dc並創建PVC
 10 [student@workstation ~]$ oc describe pod mysqldb | grep -E -A 2 'Volumes|ClaimName'	#查看驗證

 

  1 [student@workstation ~]$ oc get pvc		#查看PVC
  2 NAME              STATUS    VOLUME           CAPACITY   ACCESS MODES   STORAGECLASS   AGE
  3 mysqldb-pvclaim   Bound     mysqldb-volume   3Gi        RWX                           2m

 

2.9 端口轉發

  1 [student@workstation ~]$ oc get pod
  2 NAME              READY     STATUS    RESTARTS   AGE
  3 mysqldb-2-r7wz8   1/1       Running   0          4m
  4 [student@workstation ~]$ oc port-forward mysqldb-2-r7wz8 3306:3306

 

2.10 測試數據庫

  1 [student@workstation ~]$ mysql -h127.0.0.1 -uose -popenshift \
  2 quotes < /home/student/DO280/labs/deploy-volume/quote.sql	#填充數據測試
  3 [student@workstation ~]$ mysql -h127.0.0.1 -uose -popenshift \
  4 quotes -e "select count(*) from quote;"				#確認填充完成
  5 [student@workstation ~]$ ssh root@services ls -la /var/export/dbvol	#查看NFS服務端數據
  6 ……
  7 drwxr-x---. 2 nfsnobody nfsnobody       54 Jul 21 23:43 quotes
  8 ……
  9 [student@workstation ~]$ ssh root@services ls -la /var/export/dbvol/quotes
 10 total 116
 11 drwxr-x---. 2 nfsnobody nfsnobody    54 Jul 21 23:43 .
 12 drwx------. 6 nfsnobody nfsnobody  4096 Jul 21 23:39 ..
 13 -rw-r-----. 1 nfsnobody nfsnobody    65 Jul 21 23:39 db.opt
 14 -rw-r-----. 1 nfsnobody nfsnobody  8584 Jul 21 23:43 quote.frm
 15 -rw-r-----. 1 nfsnobody nfsnobody 98304 Jul 21 23:44 quote.ibd

 

2.11 刪除PV

  1 [student@workstation ~]$ oc delete project persistent-storage	#刪除項目
  2 project "persistent-storage" deleted
  3 [student@workstation ~]$ oc delete pv mysqldb-volume		#刪除PV
  4 persistentvolume "mysqldb-volume" deleted

   

2.12 驗證持久性

刪除PV后驗證數據是否會長期保留。

  1 [student@workstation ~]$ ssh root@services ls -la /var/export/dbvol
  2 ……
  3 drwxr-x---. 2 nfsnobody nfsnobody       54 Jul 21 23:43 quotes
  4 ……
  5 [student@workstation ~]$ ssh root@services rm -rf /var/export/dbvol/*	#使用rm才可以徹底刪除

 

三 私有倉庫持久存儲

3.1 創建私有倉庫持久卷

OCP內部倉庫是source-to-image(S2I)流程的一個重要組件，該流程用於從應用程序源代碼創建pod。S2I流程的最終輸出是一個容器image，它被推送到OCP內部倉庫，然後可以用於部署。
在生產環境中，通常建議為內部倉庫提供一個持久性存儲。否則，在重新創建registry pod之後，S2I創建的pod可能無法啟動。例如，在master節點重新啟動之後。
OpenShift安裝程序配置並啟動一個默認的持久倉庫，該倉庫使用NFS共享，由Inventory文件中的openshift_hosted_registry_storage_*變量定義。在生產環境中，Red Hat建議由外部專用的存儲提供持久性存儲，該服務器配置為彈性和高可用性。
高級安裝程序將NFS服務器配置為使用外部NFS服務器上的持久存儲，在[NFS]字段中定義的一個NFS服務器的列表。該服務器與openshift_hosted_registry_storage*變量一起使用，以配置NFS服務器。
示例配置：

  1 [OSEv3:vars]
  2 openshift_hosted_registry_storage_kind=nfs		#定義OCP存儲後端
  3 openshift_hosted_registry_storage_access_modes=['ReadWriteMany']	#定義訪問模式，默認為ReadWriteMany，表示允許多個節點以讀寫形式掛載
  4 openshift_hosted_registry_storage_nfs_directory=/exports		#定義NFS服務器上的NFS存儲目錄
  5 openshift_hosted_registry_storage_nfs_options='*(rw,root_squash)'	#定義存儲卷的NFS選項。這些選項被添加到/etc/ exports.d/openshift-ansible.exports中。rw選項允許對NFS卷進行讀寫訪問，root_squash選項阻止遠程連接的根用戶擁有root特權，併為nfsnobody分配用戶ID
  6 openshift_hosted_registry_storage_volume_name=registry		#定義要用於持久倉庫的NFS目錄的名稱
  7 openshift_hosted_registry_storage_volume_size=40Gi			#定義持久卷大小
  8 ... output omitted ...
  9 [nfs]
 10 services.lab.example.com

 
在為持久倉庫安裝和配置存儲之後，OpenShift在OpenShift項目中創建一個名為register-volume的持久卷。持久性卷的容量為40gb，並且根據定義設置了Retain策略。同時默認項目中的pvc調用pv。

  1 [student@workstation ~]$ oc describe pv registry-volume
  2 Name:            registry-volume	#定義持久卷名
  3 Labels:          <none>
  4 Annotations:     pv.kubernetes.io/bound-by-controller=yes
  5 StorageClass:
  6 Status:          Bound
  7 Claim:           default/registry-claim	#定義使用持久卷的聲明
  8 Reclaim Policy:  Retain			#默認持久卷策略，具有Retain策略的卷在從其聲明中釋放后不會被擦除
  9 Access Modes:    RWX			#定義持久卷的訪問模式，由Ansible inventory文件的openshift_hosted_registry_storage_access_modes=['ReadWriteMany']變量定義
 10 Capacity:        40Gi			#定義持久卷的大小，由Ansible inventory文件的openshift_hosted_registry_storage_volume_size變量定義
 11 Message:
 12 Source:					#定義存儲後端的位置和NFS共享
 13     Type:      NFS (an NFS mount that lasts the lifetime of a pod)
 14     Server:    services.lab.example.com
 15     Path:      /exports/registry
 16     ReadOnly:  false
 17 Events:        <none>

 
運行以下命令，確認OpenShift內部倉庫已配置registry-volume作為默認的PersistentVolumeClaim。

  1 [user@demo ~] oc describe dc/docker-registry | grep -A4 Volumes
  2   Volumes:
  3    registry-storage:
  4     Type:       PersistentVolumeClaim (a reference to a PersistentVolumeClaim in the same namespace)
  5     ClaimName:  registry-claim
  6     ReadOnly:   false

 
OCP內部倉庫將image和metadata存儲為普通文件和文件夾，這意味着可以檢查PV源存儲，查看倉庫是否向其寫入了文件。
在生產環境中，這是通過訪問外部NFS服務器來完成的。但是，在本環境中，NFS共享是在services的VM上配置的，因此ssh至services查看，以便於驗證OCP內部倉庫成功將image存儲到持久存儲中。
示例：一個名為hello的應用程序在default命名空間中運行，下面的命令驗證圖像是否存儲在持久存儲中。

  1 [user@demo ~] ssh root@master ls -l \
  2 /var/export/registryvol/docker/registry/v2/repositories/default/

 

四 PV綜合實驗

4.1 前置準備

準備完整的OpenShift集群，參考《003.OpenShift網絡》2.1。

4.2 本練習準備

[student@workstation ~]$ lab storage-review setup

4.3 配置NFS

本實驗不詳解NFS的配置和創建，直接使用/root/DO280/labs/deploy-volume/config-nfs.sh腳本實現，具體腳本內容可通過以下方式查看。
同時NFS由services節點提供。

  1 [root@services ~]# less -FiX /root/DO280/labs/storage-review/config-review-nfs.sh
  2 [root@services ~]# /root/DO280/labs/storage-review/config-review-nfs.sh		#創建NFS
  3 [root@services ~]# showmount -e							#確認驗證

 

4.4 創建持久卷

  1 [student@workstation ~]$ oc login -u admin -p redhat https://master.lab.example.com
  2 [student@workstation ~]$ less -FiX /home/student/DO280/labs/storage-review/review-volume-pv.yaml
  3 apiVersion: v1
  4 kind: PersistentVolume
  5 metadata:
  6   name: review-pv
  7 spec:
  8   capacity:
  9     storage: 3Gi
 10   accessModes:
 11   - ReadWriteMany
 12   nfs:
 13     path: /var/export/review-dbvol
 14     server: services.lab.example.com
 15   persistentVolumeReclaimPolicy: Recycle
 16 [student@workstation ~]$ oc create -f /home/student/DO280/labs/storage-review/review-volume-pv.yaml
 17 [student@workstation ~]$ oc get pv		#查看PV
 18 NAME    CAPACITYACCESS    MODES    RECLAIM    POLICY STATUS    CLAIM    STORAGECLASS    REASON    AGE
 19 review-pv    3Gi     RWX      Recycle    Available                                           13s

 

4.5 部署模板

  1 [student@workstation ~]$ less -FiX /home/student/DO280/labs/storage-review/instructor-template.yaml
  2 [student@workstation ~]$ oc create -n openshift -f /home/student/DO280/labs/storage-review/instructor-template.yaml
  3 #使用模板創建應用至openshift namespace中

 

4.6 創建項目

  1 [student@workstation ~]$ oc login -u developer -p redhat https://master.lab.example.com
  2 [student@workstation ~]$ oc new-project instructor

 

4.7 web部署應用

瀏覽器訪問： https://master.lab.example.com

選擇Catalog

選擇PHP，並使用instructor-template。

設置Application Hostname，然後直接下一步，模板會創建一個數據庫服務器。

單擊Continue to project overview以監視應用程序的構建過程。從提供的服務框架中，單擊講師。單擊部署配置#1條目旁邊的下拉箭頭，打開部署面板。當構建完成時，build部分的Complete旁邊應該出現一個綠色的複選標記。

4.8 端口轉發

  1 [student@workstation ~]$ oc login -u developer -p redhat https://master.lab.example.com
  2 [student@workstation ~]$ oc get pod
  3 NAME                 READY     STATUS      RESTARTS   AGE
  4 instructor-1-9fmct   1/1       Running     0          43s
  5 instructor-1-build   0/1       Completed   0          2m
  6 mysql-1-f7rrq        1/1       Running     0          2m
  7 [student@workstation ~]$ oc port-forward mysql-1-f7rrq 3306:3306

 

4.9 填充數據庫

  1 [student@workstation ~]$ mysql -h127.0.0.1 -u instructor -ppassword \
  2 instructor < /home/student/DO280/labs/storage-review/instructor.sql
  3 [student@workstation ~]$ mysql -h127.0.0.1 -u instructor -ppassword instructor -e "select * from instructors;"	#查看
  4 

4.10 測試訪問

workstations的瀏覽器訪問：http://instructor.apps.lab.example.com

4.11 測試添加數據

 
 

4.12 確認驗證

  1 [student@workstation ~]$ lab storage-review grade		#環境腳本判斷實驗

4.13 清理刪除

  1 [student@workstation ~]$ oc login -uadmin -predhat
  2 [student@workstation ~]$ oc delete project instructor
  3 [student@workstation ~]$ oc delete pv review-pv
  4 [student@workstation ~]$ ssh root@services
  5 [root@services ~]# rm -rf /var/export/review-dbvol
  6 [root@services ~]# rm -f /etc/exports.d/review-dbvol.exports

  本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理

【其他文章推薦】

※新北清潔公司,居家、辦公、裝潢細清專業服務

※別再煩惱如何寫文案,掌握八大原則!

※網頁設計一頭霧水該從何著手呢? 台北網頁設計公司幫您輕鬆架站!

※超省錢租車方案

※教你寫出一流的銷售文案?

※網頁設計最專業,超強功能平台可客製化

這裏介紹的垃圾回收相關算法，主要解決的問題：

判斷哪些內存是垃圾（需要回收的）？

常用的兩種算法：

• 引用計數
• 可達性分析（GC Root）

首先介紹算法前，得定義：

如何判斷一個對象的死亡？

我們一般這樣定義：當一個對象不再被任何存活的對象繼續引用的時候，這個對象就死亡了。

引用計數

引用計數算法，是給每一個對象添加一個計數器，當有對象引用它的時候，計數器+1，當有對象取消對它的引用時，計數就會-1。

當計數器的值為 0 時，即說明沒有對象引用它，也就是這個對象死亡了。

這種算法很簡單，但是有個重大缺陷，那就是無法解決循環引用的問題。

什麼是循環引用問題呢？

比如對象A 引用 對象B，對象B 引用 對象A，那麼 對象A 和 對象B 的計數器都為1。但是如果後續的運行環境再也用不到對象A 和 對象B，那麼就造成了內存泄漏。

上圖就是循環引用的例子。對象引用 Obj1 和 Obj2 在棧中，然後分別指向在堆中的具體實例。然後兩個相互實例中的成員互相引用。那麼對於堆中的對象而言，就有2個引用。一個是來自Obj1，一個來自堆對象的另一方。

如果，現在將 Obj1 指向 nu l l，那麼就如下圖：

這個時候，引用已經不可用了，但是堆中的對象仍然相互引用，他們的計數器不為0，所以無法死亡。

但是，Java 沒有使用這種算法，而是使用了我們後面說的可達性算法，所以接下來的演示，GC 會將這種情況的內存給其清理。

package GC;

public class ReferenceCountGC {
    public Object instance = null;

    private static final int _1MB = 1024 * 1024;
    // 每個對象中包含2M的成員，方便觀察
    private byte[] bigSize = new byte[2 * _1MB];
    public static void main(String[] args) {
        ReferenceCountGC objA = new ReferenceCountGC();
        ReferenceCountGC objB = new ReferenceCountGC();
        objA.instance = objB.instance;
        objB.instance = objA.instance;

        //取消對對象的引用
        objA = null;
        objB = null;
      // 是否進行垃圾回收
        System.gc();
    }
}

這段代碼實現的就是上面圖片所描述的情況。

首先，我們將 System.gc() 註釋掉，也就是我們在默認情況下，不去觸發垃圾回收。並在運行的時候，添加參數 -XX:+PrintGCDetails。我們觀察輸出結果

可以看到，這個時候，佔用的空間為8M左右。

如果我們取消註釋，也就是主動去調用垃圾回收器，那麼運行結果為：

佔用空間為2M左右。

可以看出來，Java 的垃圾回收，並非採用我們上面介紹的引用計數方式。

可達性分析

可達性算法，還有一系列的別名：根搜索算法，追蹤性垃圾收集，GC Root。

之後，看到原理，其實這些別名都是描述原理的。

首先，我們選取一些對象，這些對象是存活的，也被稱為 GC Roots，然後根據這些對象的引用關係，凡是直接或者間接跟 GC Roots 相關聯的對象，都是存活的。就像圖中的連通性判斷一樣。

這個算法的想法不難。難的是，如何確定 GC Roots。

我們考慮，我們什麼時候需要用到對象？（我們需要對象的時候，肯定需要這個對象是存活的）

• 棧中保存着，我們當前或者之後需要運行的方法及相關參數，所以，棧上所引用的堆中對象肯定是存活的。
• 類中的一些屬性，比如，靜態屬性，因為它不依賴於具體的類
• 一些常用的對象，以免清理后，又要重複加載，比如常用的異常對象，基本數據類型對應的 Class 對象。

除此之外，還有很多零零碎碎的。

在堆結構周圍的一些結構，其中引用的對象可以作為GC Roots

具體 GC Roots 可以概括為：

• 虛擬機棧上（確切的說，是棧幀上的本地變量表）所引用的對象

• 本地方法棧引用的對象

• 方法區中的靜態屬性，常量引用

• Java 虛擬機的內部引用，常用數據類型的 Class 對象，常駐的異常對象，系統類加載器

• 所有被同步鎖持有的對象

除此之外，還有一些臨時的 GC Roots 可以加入進來。這裏涉及到新生代老年代。

比如老年代中的對象一般都存活時間比較久，也就是大概率是活着的對象，也可臨時作為 GC Roots。

可達性算法的一些細節

前面說了可達性算法，我們根據 GC Roots 來進行標記對象的死活。

但是，被判定為不可達的對象，並不立刻死亡。它仍然有次機會進行自救。

這個自救的機會，是需要重寫 finalize（）進行自救。

也就是可達性算法的邏輯大致是這樣的：

• 第一次進行標記，凡是不可達 GC Roots 的對象，都暫時判定為死亡，只是暫時
• 檢查暫時被判定為死亡對象，檢查是否有重寫 finalize（）方法，如果有，則觸發，對象可以在裏面完成自救。

如果沒有自救成功 或者 沒有重寫 finalize（）方法，則宣告這個對象的死亡。

除此之外，這個對象中的 finalize（）方法，只能被調用一次，一生只有一次自救機會。

這個方法，官方並不推薦，所以不必細究。

接下來，演示下上面的兩次標記過程以及自救過程。

（個人認為，《深入理解 Java 虛擬機》中的此章節代碼，略有點不夠完善，故略微改動）

package GC;

import javax.swing.tree.VariableHeightLayoutCache;

public class FinalizeEscapeGC {
    public static FinalizeEscapeGC SAVE_HOOK = null;

    private byte[] bigSize = new byte[5*1024*1024];

    public void isAlive(){
        System.out.println("Yes, i am alive");
    }

    @Override
    protected void finalize() throws Throwable {
        super.finalize();
        System.out.println("Finalize method executed");
        FinalizeEscapeGC.SAVE_HOOK = this;
    }

    public static void main(String[] args) throws InterruptedException {
        SAVE_HOOK = new FinalizeEscapeGC();
        SAVE_HOOK = null;
        System.gc();
        Thread.sleep(500);
        if(SAVE_HOOK != null){
            SAVE_HOOK.isAlive();
            System.gc();
        }else {
            System.out.println("Dead");
            System.gc();
        }
    }
}

在這個程序中，我們給這個類，添加名為 bigSize 的屬性，其佔用 4M 大小的空間。

大致分析下代碼邏輯：

• 創建了一個對象，其中有成員佔用 4M 的空間
• 取消對這個對象的引用
• 調用垃圾回收（第一次標記）
• 調用 finalize 方法進行自救
• 之後再次調用垃圾回收（第二次標記）

所以演示的時候，分為兩種情況：

• FinalizeEscapeGC.SAVE_HOOK = this; 未註釋，完成自救

運行時，參數仍然設置為 +XX:PrintGCDetails，可以看到輸出結果：

第一次調用垃圾回收，仍然佔用 5M，說明此時即便失去引用，但是仍然未被清理。

在 finalize（）中完成自救后，第二次調用垃圾回收的時候，仍然佔用 5M 的內存大小。說明自救成功。

• FinalizeEscapeGC.SAVE_HOOK = this; 註釋，無法完成自救

第一次垃圾回收，佔用 5M，保留了對象。無法完成自救，然後第二次被清理掉。

所以我發現以下錶述也許更為確切：

• 當對象重寫了 finalize（）方法的時候，第一次垃圾回收的時候，如果為不可達對象，對其進行暫緩，並不清理。
• 當對象沒有重寫 finalize（）方法的時候，且為不可達對象的時候，直接判定死亡。

本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理

【其他文章推薦】

※網頁設計一頭霧水該從何著手呢? 台北網頁設計公司幫您輕鬆架站!

※網頁設計公司推薦不同的風格，搶佔消費者視覺第一線

※想知道購買電動車哪裡補助最多?台中電動車補助資訊懶人包彙整

※南投搬家公司費用,距離,噸數怎麼算?達人教你簡易估價知識!

※教你寫出一流的銷售文案?

※超省錢租車方案

matplotlib 強化學習

import matplotlib.pyplot as plt
...![](https://img2020.cnblogs.com/blog/1642028/202006/1642028-20200621111043462-144482637.png)


plt.show()		#显示圖像；下面都要寫，就不重複了

二維圖表

1. 基本圖表

1. 用plot方法畫出x=(0,10)間sin的圖像

x = np.linspace(0, 10, 30)  #產生0-10之間的30個均勻數組
plt.plot(x, np.sin(x));		#以x為橫坐標，sin(x)為縱坐標打印出圖像

注：

• linspace生成的是包含結尾的數組，比如0-10生成11個數才是0,1,2,3,4,5…
• 生成10個數則是0，1.11111111, 2.22222222, 3.33333333, 4.44444444…；
• 而arrange是不包含結尾的，0-10生成10個數是0,1,2,3…

1. 用點,線的方式畫出x=(0,10)間sin的圖像

plt.plot(x, np.sin(x), '-o');
#'o’代表每個數據點用小圓圈表示，且數據點之前不用線連接，看起來很像散點圖
#'ro'代表小圓圈是紅色的
#'-'就是最普通的線型，數據點之間用實線連接。
#'--'設置線性為虛線

!

1. 用scatter方法畫出x=(0,10)間sin的點圖像

plt.scatter(x, np.sin(x));		#散點圖

1. 用餅圖的面積及顏色展示一組4維數據

rng = np.random.RandomState(0)
x = rng.randn(100)			#生成隨機數組
y = rng.randn(100)
colors = rng.rand(100)
sizes = 1000 * rng.rand(100)

plt.scatter(x, y, c=colors, s=sizes, alpha=0.3,
cmap='viridis')
plt.colorbar(); 			# 展示色階

繪製柱狀圖

x = [1,2,3,4,5,6,7,8]
y = [3,1,4,5,8,9,7,2]
label=['A','B','C','D','E','F','G','H']

plt.bar(x,y,tick_label = label);	#縱向升高
plt.barh(x,y,tick_label = label);	#換成橫向

直方圖

data = np.random.randn(1000) #生成1000個隨機數
plt.hist(data);				#畫出圖像

!

2. 自定義圖表元素

x = np.linspace(0,10,100)
plt.plot(x, np.sin(x))
plt.ylim(-1.5, 1.5);		#設置y軸显示範圍為(-1.5,1.5)

x = np.linspace(0.05, 10, 100)
y = np.sin(x)
plt.plot(x, y, label='sin(x)')
plt.xlabel('variable x');			#設置x,y軸標籤variable x，value y
plt.ylabel('value y');
plt.title('三角函數');					#設置圖表標題“三角函數”
plt.text(3.2, 0, 'sin(x)', weight='bold', color='r');	#註釋

plt.annotate('maximum',xy=(np.pi/2, 1),xytext=(np.pi/2+1, 1),weight='bold',color='r',arrowprops=dict(arrowstyle='->', connectionstyle='arc3', color='r'));					#箭頭標識

显示網格

x = np.linspace(0.05, 10, 100)
y = np.sin(x)
plt.plot(x, y)
plt.grid()

...
參數
matplotlin.pyplot.grid(b, which, axis, color, linestyle, linewidth， **kwargs) axis : 取值為‘both’， ‘x’，‘y’。就是想繪製哪個方向的網格線。不過我在輸入參數的時候發現如果輸入x或y的時候，             輸入的是哪條軸，則會隱藏哪條軸

color : 這就不用多說了，就是設置網格線的顏色。或者直接用c來代替color也可以。
plt.grid(c='g') 設置顏色為綠色

linestyle :也可以用ls來代替linestyle， 設置網格線的風格，是連續實線，虛線或者其它不同的線條。 | '-' | '--' | '-.' | ':' | 'None' | ' ' | '']
plt.grid(linestyle='-.')

linewidth : 設置網格線的寬度
...

繪製平行於x軸y=0.8的水平參考線

x = np.linspace(0.05, 10, 100)
y = np.sin(x)
plt.plot(x, y)
plt.axhline(y=0.8, ls='--', c='r')#水平參考線

3. 自定義圖像

在一張圖裡繪製sin,cos的圖形，並展示圖例

x = np.linspace(0, 10, 1000)
fig, ax = plt.subplots()

ax.plot(x, np.sin(x), label='sin')
ax.plot(x, np.cos(x), '--', label='cos')
ax.legend();

多子圖

在2個子圖中，显示sin(x)和cos(x)的圖像

fig = plt.figure()
ax1 = fig.add_axes([0.1, 0.5, 0.8, 0.4], ylim=(-1.2, 1.2))
ax2 = fig.add_axes([0.1, 0.1, 0.8, 0.4], ylim=(-1.2, 1.2))

x = np.linspace(0, 10)
ax1.plot(np.sin(x));
ax2.plot(np.cos(x));

for i in range(1, 7):		#用for創建6個子圖，並且在圖中標識出對應的子圖坐標
plt.subplot(2, 3, i)
plt.text(0.5, 0.5, str((2, 3, i)),fontsize=18, ha='center')

組合繪製大小不同的子圖

grid = plt.GridSpec(2, 3, wspace=0.4, hspace=0.3)
plt.subplot(grid[0, 0])
plt.subplot(grid[0, 1:])
plt.subplot(grid[1, :2])
plt.subplot(grid[1, 2]);

三維圖像

#38.創建一個三維畫布
from mpl_toolkits import mplot3d
fig = plt.figure()
ax = plt.axes(projection='3d')

#39.繪製一個三維螺旋線
ax = plt.axes(projection='3d')
# Data for a three-dimensional line
zline = np.linspace(0, 15, 1000)
xline = np.sin(zline)
yline = np.cos(zline)
ax.plot3D(xline, yline, zline);

#40.繪製一組三維點
ax = plt.axes(projection='3d')
zdata = 15 * np.random.random(100)
xdata = np.sin(zdata) + 0.1 * np.random.randn(100)
ydata = np.cos(zdata) + 0.1 * np.random.randn(100)
ax.scatter3D(xdata, ydata, zdata, c=zdata, cmap='Greens');

import numpy  as np
from matplotlib import pyplot  as plt
from mpl_toolkits.mplot3d import Axes3D
q1 = np.arange(0.01, 1, 0.01)
q2 = np.arange(0.01, 1 , 0.01)  #生成一位基底
q1, q2 = np.meshgrid(q1, q2)    #混合成二維數組，形成二維基底

pCDa = (1-q1)
pCDb = (np.sqrt((1-q1)**2+q1**2)-q1)
s_pCD = -q1* np.log2(q1) - (1-q1) * np.log2(1-q1)
Q_MID1 = s_pCD *q2 /q2        #AB或CD的關聯值，下圖是(s_x_pCD - s_pCD) *q2；  *q2/q2后才是圓柱體

fig = plt.figure()
ax = Axes3D(fig)
ax.plot_surface(q1,q2,Q_MID1)     #表面圖
ax.set_xlabel('value of q2')
ax.set_ylabel('value of q1')
ax.set_zlabel('the value of Q_MID1(pCD)')
plt.show()

#參數
ax.plot_surface(X, Y, Z, *args, **kwargs)
X,Y,Z：數據
rstride、cstride、rcount、ccount:同Wireframe plots定義
color:表面顏色
cmap:圖層

參考文獻：

1. https://www.kesci.com/home/project/5de9f0a0953ca8002c95d2a9 50題matplotlib從入門到精通

2. https://www.cnblogs.com/knightoffz/p/12933716.html 大創項目經歷

3. https://matplotlib.org/mpl_toolkits/mplot3d/tutorial.html 官方文檔

4. https://www.cnblogs.com/xingshansi/p/6777945.html 參考博客

本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理

【其他文章推薦】

※網頁設計一頭霧水該從何著手呢? 台北網頁設計公司幫您輕鬆架站!

※網頁設計公司推薦不同的風格，搶佔消費者視覺第一線

※Google地圖已可更新顯示潭子電動車充電站設置地點!!

※廣告預算用在刀口上，台北網頁設計公司幫您達到更多曝光效益

※別再煩惱如何寫文案,掌握八大原則!

※網頁設計最專業,超強功能平台可客製化

在前面爬蟲的相關介紹中，我們介紹了如何抓取靜態頁面信息。但是，在實際的網頁瀏覽過程中，我們可能會經常碰到各種需要進行交互的操作，典型的如輸入信息、點擊按鈕之類。

對於這種場景，之前的靜態頁面操作方式已經不能滿足需求，這時我們需要藉助新的工具，比如selenium或者PhantomJS。由於後者已經停止維護，推薦使用前者。

1.selenium是什麼

如果大家有做過web的自動化測試，相信對於selenium一定不陌生，測試人員經常使用它來進行自動化測試。

selenium最初是一個自動化web測試工具，通過代碼模擬人使用瀏覽器自動訪問目標站點並操作，比如跳轉、輸入、點擊、下拉等。

由於開發者的不斷完善，目前的功能越來越強大，基本支持各種交互操作。同時，不止支持有界瀏覽，還支持無界瀏覽。

2.selenium有什麼用

正如我們前面講過的，爬蟲的本質過程就是模擬人對瀏覽器的操作過程。在爬蟲中使用，selenium主要是為了解決requests無法執行javaScript代碼的問題。

本質上是通過驅動瀏覽器，完全模擬瀏覽的操作，比如跳轉、輸入、點擊、下拉等…進而進行跳轉。

當然，它也有壞處，主要的壞處就是它的速度比較慢。原因是selenium在操作時，需要等瀏覽器對頁面的元素渲染好之後才能操作。而我們知道，由於頁面渲染過程需要加載各種資源，響應速度與網絡帶寬要求非常高。通常情況，它比靜態頁面的響應至少慢一個數量級。

3.如何使用selenium

在知道selenium是什麼以及有什麼用之後，我們來具體學習如何操作這個工具。

由於selenium本質是模擬人對瀏覽器進行輸入、選擇、點擊等操作，因此對於目標標籤的定位非常重要。

在前面的章節，我們對於如何定位目標標籤有過詳細的介紹，這裏就不再贅述。selenium對於目標標籤定位的方式本質與靜態的頁面一樣，只不過因為使用的包不同，因此在beautifulSoup中使用的是find和findAll，而在selenium中使用的接口有所變化。

下圖中已對各種定位方式進行了歸納總結：

在找到目標標籤之後，最重要的是對這些標籤進行模擬操作。Selenium庫下webdriver模塊常用方法主要分類兩類：一類是模擬瀏覽器、鍵盤操作，另一類是模擬鼠標操作。

3.1模擬瀏覽器、鍵盤操作

模擬瀏覽器、鍵盤操作的方法歸納如下：

3.2 模擬鼠標操作

模擬鼠標操作的方法歸納如下：

4.示例演示

在介紹了selenium相關的使用方法之後，我們來進行操作。這裏介紹兩個例子：第一個例子是模擬百度搜索，第二個例子是模擬自動登錄網易163郵箱發送郵件。

在開始示例之前我們需要安裝selinum插件包，同時還需要下載webdriver。在我們的示例中，需要是使用chrome瀏覽器進行操作，需要使用瀏覽器的驅動webdriver。

關於下載什麼版本的webdriver，可以在瀏覽器的屬性中查看，並在http://npm.taobao.org/mirrors/chromedriver/下載對應的版本就好，如果是其他的瀏覽器，則需要下載對應的瀏覽器驅動程序，這種不再做進一步介紹。

4.1模擬百度搜索

第一步還是需要打開目標的地址“w w w.baidu.com”，分析目標網頁中目標元素的特點，如下圖所示：

通過分析，我們很容易就找到搜索框的id為kw，點擊按鈕的id為su，餘下的就是使用方法進行模擬。

實現的代碼如下所示：

from selenium import webdriver

#get 方法 打開指定網址
driver=webdriver.Chrome()
driver.get('http://www.baidu.com')

#選擇網頁元素
element_keyword = driver.find_element_by_id('kw')

#輸入字符
element_keyword.send_keys('python 爬蟲')

#找到搜索按鈕
element_search_button = driver.find_element_by_id('su')
element_search_button.click()

driver.close()

4.2模擬自動登錄網易163郵箱發送郵件

操作過程跟上面相似，第一步也是分析目標網頁http://mail.163.com。

如下圖所示：

找到了目標標籤然後就是模擬登錄。

實現代碼如下：

# coding:UTF-8
import time
from selenium.webdriver.common.keys import Keys
from selenium import webdriver

driver = webdriver.Chrome()
driver.implicitly_wait(5)  
driver.get('http://mail.163.com/')
driver.switch_to_frame(driver.find_element_by_tag_name('iframe'))
# driver.switch_to_frame('x-URS-iframe')  
driver.find_element_by_name('email').clear()
driver.find_element_by_name('email').send_keys('郵箱地址')
driver.find_element_by_name('password').send_keys('郵箱密碼', Keys.ENTER)
# 跳轉頁面時，強制等待6s
time.sleep(6)   
# 點擊寫信按鈕
driver.find_element_by_xpath("//div[@id='dvNavTop']/ul/li[2]/span[2]").click()   
time.sleep(2)
# 收件人
driver.find_element_by_class_name('nui-editableAddr-ipt').send_keys('目標的郵箱')  
driver.find_element_by_xpath("//input[@class='nui-ipt-input' and @type='text' and @maxlength='256']").send_keys(
    u'測試')   # 主題
xpath = driver.find_element_by_xpath("//div[@class='APP-editor-edtr']/iframe")
# 文本內容在iframe中
driver.switch_to_frame(xpath)   
driver.find_element_by_xpath("//body[@class='nui-scroll' and @contenteditable='true']").send_keys(u'這是一個自動化測試郵件')
# 發送按鈕在iframe外，所以需要跳出
driver.switch_to_default_content()
# 發送
driver.find_element_by_xpath("//div[@class='nui-toolbar-item']/div/span[2]").click()  
driver.close()

當然，在實際過程中，可能往往還有驗證碼的驗證。因為現在的驗證碼難度越來越大，形式也多種多樣，使用常規的方法很難解決，必須藉助機器學習或者第三方接口進行實現，將在後續單獨列一個章節進行介紹如何破解驗證碼。
​

本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理

【其他文章推薦】

※網頁設計公司推薦不同的風格，搶佔消費者視覺第一線

※廣告預算用在刀口上，台北網頁設計公司幫您達到更多曝光效益

※自行創業缺乏曝光? 網頁設計幫您第一時間規劃公司的形象門面

※南投搬家公司費用需注意的眉眉角角，別等搬了再說!

※新北清潔公司,居家、辦公、裝潢細清專業服務

※教你寫出一流的銷售文案?

Dragonfly 是一款基於 P2P 的智能鏡像和文件分發工具。它旨在提高文件傳輸的效率和速率，最大限度地利用網絡帶寬，尤其是在分發大量數據時，例如應用分發、緩存分發、日誌分發和鏡像分發。

在阿里巴巴，Dragonfly 每個月會被調用 20 億次，分發的數據量高達 3.4PB。Dragonfly 已成為阿里巴巴基礎設施中的重要一環。

儘管容器技術大部分時候簡化了運維工作，但是它也帶來了一些挑戰：例如鏡像分發的效率問題，尤其是必須在多個主機上複製鏡像分發時。

Dragonfly 在這種場景下能夠完美支持 Docker 和 PouchContainer。它也兼容其他格式的容器。相比原生方式，它能將容器分發速度提高 57 倍，並讓 Registry 網絡出口流量降低 99.5%。
Dragonfly 能讓所有類型的文件、鏡像或數據分發變得簡單而經濟。

更多請通過官方文檔了解。

純Docker部署

這裏採用多機部署，方案如下：

應用	IP
服務端	172.17.100.120
客戶端	172.17.100.121
客戶端	172.17.100.122

部署服務端

以docker方式部署，命令如下：

docker run -d --name supernode --restart=always -p 8001:8001 -p 8002:8002 \
    dragonflyoss/supernode:0.3.0 -Dsupernode.advertiseIp=172.17.100.120

部署客戶端

準備配置文件
Dragonfly 的配置文件默認位於 /etc/dragonfly 目錄下，使用容器部署客戶端時，需要將配置文件掛載到容器內。
為客戶端配置 Dragonfly Supernode 地址：

cat <<EOD > /etc/dragonfly/dfget.yml
nodes:
    - 172.17.100.120
EOD

啟動客戶端

docker run -d --name dfclient --restart=always -p 65001:65001 \
    -v /etc/dragonfly:/etc/dragonfly \
    dragonflyoss/dfclient:v0.3.0 --registry https://index.docker.io

registry是倉庫地址，這裏使用的官方倉庫

修改Docker Daemon配置

我們需要修改 Dragonfly 客戶端機器（dfclient0, dfclient1）上 Docker Daemon 配置，通過 mirror 方式來使用 Dragonfly 進行鏡像的拉取。
在配置文件 /etc/docker/daemon.json 中添加或更新如下配置項：

{
  "registry-mirrors": ["http://127.0.0.1:65001"]
}

然後重啟Docker

systemctl restart docker

拉取鏡像測試

在任意一台客戶端上進行測試，比如：

docker pull tomcat

驗證

查看client端的日誌，如果輸出如下，則表示是通過DragonFly來傳輸的。

docker exec dfclient grep 'downloading piece' /root/.small-dragonfly/logs/dfclient.log

2020-06-20 15:56:49.813 INFO sign:146-1592668602.159 : downloading piece:{"taskID":"4d977359836129ce2eec4b8418a7042c47db547a239e2a577ddc787ee177289c","superNode":"172.17.100.120","dstCid":"cdnnode:172.17.100.120~4d977359836129ce2eec4b8418a7042c47db547a239e2a577ddc787ee177289c","range":"0-4194303","result":503,"status":701,"pieceSize":4194304,"pieceNum":0}

如果需要查看鏡像是否通過其他 peer 節點來完成傳輸，可以執行以下命令：

docker exec dfclient grep 'downloading piece' /root/.small-dragonfly/logs/dfclient.log | grep -v cdnnode

如果以上命令沒有輸出結果，則說明鏡像沒有通過其他peer節點完成傳輸，否則說明通過其他peer節點完成傳輸。

在Kubernetes中部署

服務端以Deployment的形式部署

apiVersion: apps/v1
kind: Deployment
metadata:
  labels:
    app: supernode
  name: supernode
  namespace: kube-system
spec:
  replicas: 1
  selector:
    matchLabels:
      app: supernode
  template:
    metadata:
      labels:
        app: supernode
      annotations:
        scheduler.alpha.kubernetes.io/critical-pod: ""
    spec:
      containers:
      - image: dragonflyoss/supernode:0.3.0
        name: supernode
        ports:
        - containerPort: 8080
          hostPort: 8080
          name: tomcat
          protocol: TCP
        - containerPort: 8001
          hostPort: 8001
          name: register
          protocol: TCP
        - containerPort: 8002
          hostPort: 8002
          name: download
          protocol: TCP
        volumeMounts:
        - mountPath: /etc/localtime
          name: ltime
        - mountPath: /home/admin/supernode/logs/
          name: log
        - mountPath: /home/admin/supernode/repo/
          name: data
      hostNetwork: true
      dnsPolicy: ClusterFirstWithHostNet
      restartPolicy: Always
      tolerations:
      - effect: NoExecute
        operator: Exists
      - effect: NoSchedule
        operator: Exists
      nodeSelector:
        node-role.kubernetes.io/master: ""
      volumes:
      - hostPath:
          path: /etc/localtime
          type: ""
        name: ltime
      - hostPath:
          path: /data/log/supernode
          type: DirectoryOrCreate
        name: log
      - hostPath:
          path: /data/supernode/repo/
          type: DirectoryOrCreate
        name: data

---
kind: Service
apiVersion: v1
metadata:
  name: supernode
  namespace: kube-system
spec:
  selector:
    app: supernode
  ports:
  - name: register
    protocol: TCP
    port: 8001
    targetPort: 8001
  - name: download
    protocol: TCP
    port: 8002
    targetPort: 8002

以hostNetwork的形式部署在master上。

部署過後可以看到supernode已經正常啟動了。

# kubectl get pod -n kube-system | grep supernode
supernode-86dc99f6d5-mblck                 1/1     Running   0          4m1s

客戶端以daemonSet的形式部署，yaml文件如下：

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: dfdaemon
  namespace: kube-system
spec:
  selector:
    matchLabels:
      app: dfdaemon
  template:
    metadata:
      annotations:
        scheduler.alpha.kubernetes.io/critical-pod: ""
      labels:
        app: dfdaemon
    spec:
      containers:
      - image: dragonflyoss/dfclient:v0.3.0
        name: dfdaemon
        imagePullPolicy: IfNotPresent
        args:
        - --registry https://index.docker.io
        resources:
          requests:
            cpu: 250m
        volumeMounts:
        - mountPath: /etc/dragonfly/dfget.yml
          subPath: dfget.yml
          name: dragonconf
      hostNetwork: true
      dnsPolicy: ClusterFirstWithHostNet
      restartPolicy: Always
      tolerations:
      - effect: NoExecute
        operator: Exists
      - effect: NoSchedule
        operator: Exists
      volumes:
      - name: dragonconf
        configMap:
          name: dragonfly-conf

配置文件我們以configMap的形式掛載，所以我們還需要編寫一個configMap的yaml文件，如下：

apiVersion: v1
kind: ConfigMap
metadata:
  name: dragonfly-conf
  namespace: kube-system
data:
  dfget.yml: |
    nodes:
    - 172.17.100.120

部署過後觀察結果

# kubectl get pod -n kube-system | grep dfdaemon
dfdaemon-mj4p6                             1/1     Running   0          3m51s
dfdaemon-wgq5d                             1/1     Running   0          3m51s
dfdaemon-wljt6                             1/1     Running   0          3m51s

然後修改docker daemon的配置，如下：

{
  "registry-mirrors": ["http://127.0.0.1:65001"]
}

重啟docker

systemctl restart docker

現在我們來拉取鏡像測試，並觀察日誌輸出。
下載鏡像（在master上測試的）：

docker pull nginx

然後觀察日誌

kubectl exec  -n kube-system dfdaemon-wgq5d  grep 'downloading piece' /root/.small-dragonfly/logs/dfclient.log

看到日誌輸出如下，表示成功

2020-06-20 17:14:54.578 INFO sign:128-1592673287.190 : downloading piece:{"taskID":"089dc52627a346df2a2ff67f6c07497167b35c4bad2bca1e9aad087441116982","superNode":"172.17.100.120","dstCid":"cdnnode:192.168.235.192~089dc52627a346df2a2ff67f6c07497167b35c4bad2bca1e9aad087441116982","range":"0-4194303","result":503,"status":701,"pieceSize":4194304,"pieceNum":0}

今天的測試就到這裏，我這是自己的小集群實驗室，效果其實並不明顯，在大集群效果可能更好。

• 參考
  • https://d7y.io/zh-cn/docs/userguide/multi_machines_deployment.html

本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理

【其他文章推薦】

※廣告預算用在刀口上，台北網頁設計公司幫您達到更多曝光效益

※新北清潔公司,居家、辦公、裝潢細清專業服務

※別再煩惱如何寫文案,掌握八大原則!

※教你寫出一流的銷售文案?

※超省錢租車方案

※FB行銷專家,教你從零開始的技巧