DockerSwarm服务发现和负载均衡的原理是什么
今天小编给大家分享一下Docker Swarm服务发现和负载均衡的原理是什么的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。
创新互联是一家专业提供垣曲企业网站建设,专注与成都做网站、网站设计、HTML5、小程序制作等业务。10年已为垣曲众多企业、政府机构等服务。创新互联专业网站制作公司优惠进行中。
使用的技术
docker 使用了 linux 内核 iptables 和 ipvs 的功能来实现服务发现和负载均衡。
iptables 是 linux 内核中可用的包过滤技术,它可用于根据数据包的内容进行分类、修改和转发决策。
ipvs 是 linux 内核中可用的传输级负载均衡器。
准备工作
swarm 集群: 【manager】node1、【worker】node2
客户端镜像: registry.cn-hangzhou.aliyuncs.com/anoy/ubuntu
服务端镜像: registry.cn-hangzhou.aliyuncs.com/anoy/vote
如图所示,我们将在 swarm 集群中部署 “client” 服务 和 “vote” 服务,其中 “vote” 服务部署多个副本。客户端请求 “vote” 服务时,输出结果中包含服务端的容器 id,这样就更方便演示网络请求。
集群状态
[root@node1 ~]# docker node ls id hostname status availability manager status engine version rnr2i1y2of3n5vy2vzh2vkzq0 * node1 ready active leader 18.03.1-ce qvik057dvphx5s06evmswahaf node2 ready active 18.03.1-ce
使用如下命令,创建 overlay 网络:
docker network create --driver overlay overlay1
基于 DNS 的负载均衡
下图描述了基于 dns 的负载均衡是如何工作的:
dns server 内嵌于 docker 引擎。docker dns 解析服务名 “vote” 并返回容器 id 地址列表(随机排序)。客户端通常会挑第一个 ip 访问,因此负载均衡可能发生在服务器的不同实例之间。
使用如下命令创建 2 个基于 dns 负载均衡的服务 “client” 、 “vote”:
docker service create --endpoint-mode dnsrr --replicas 1 --name client --network overlay1 registry.cn-hangzhou.aliyuncs.com/anoy/ubuntu ping anoyi.com docker service create --endpoint-mode dnsrr --name vote --network overlay1 --replicas 2 registry.cn-hangzhou.aliyuncs.com/anoy/vote
查看服务信息:
[root@node1 ~]# docker service ls id name mode replicas image ports 2mrj3pqyioc3 client replicated 1/1 registry.cn-hangzhou.aliyuncs.com/anoy/ubuntu:latest 826s79tsixuh vote replicated 2/2 registry.cn-hangzhou.aliyuncs.com/anoy/vote:latest [root@node1 ~]# docker service ps client id name image node desired state current state error ports f74i688vbh12 client.1 registry.cn-hangzhou.aliyuncs.com/anoy/ubuntu:latest node2 running running 2 minutes ago [root@node1 ~]# docker service ps vote id name image node desired state current state error ports 7iiuzl2a63hy vote.1 registry.cn-hangzhou.aliyuncs.com/anoy/vote:latest node1 running running 47 seconds ago uyhxxqfdima7 vote.2 registry.cn-hangzhou.aliyuncs.com/anoy/vote:latest node2 running running about a minute ago
可以看出 "client" 运行于 node2,在 node2 上进入 client 容器,使用 dig 来解析服务名 "vote",如下所示,"vote" 解析到 10.0.0.6 和 10.0.0.5
[root@node2 ~]# docker ps container id image command created status ports names 1eed67d37cbb registry.cn-hangzhou.aliyuncs.com/anoy/vote:latest "gunicorn app:app -b…" about a minute ago up about a minute 80/tcp vote.2.uyhxxqfdima7smos5pki84wul 436702b21a1c registry.cn-hangzhou.aliyuncs.com/anoy/ubuntu:latest "ping anoyi.com" 3 minutes ago up 3 minutes client.1.f74i688vbh12on8oniufht633 [root@node2 ~]# docker exec -it 436702b21a1c /bin/bash root@436702b21a1c:/# dig vote ;; answer section: vote. 600 in a 10.0.0.5 vote. 600 in a 10.0.0.6
使用 ping 解析 "vote" 服务,如下所示,交替解析到 10.0.0.6 和 10.0.0.5
root@436702b21a1c:/# ping -c1 vote ping vote (10.0.0.6) 56(84) bytes of data. 64 bytes from vote.2.uyhxxqfdima7smos5pki84wul.overlay1 (10.0.0.6): icmp_seq=1 ttl=64 time=0.087 ms root@436702b21a1c:/# ping -c1 vote ping vote (10.0.0.5) 56(84) bytes of data. 64 bytes from vote.1.7iiuzl2a63hyj084qgufc175v.overlay1 (10.0.0.5): icmp_seq=1 ttl=64 time=0.767 ms
如果使用 curl,如下所示,请求也能解析到不同的容器
root@436702b21a1c:/# curl vote | grep -i "container id" % total % received % xferd average speed time time time current dload upload total spent left speed 100 3162 100 3162 0 0 7542 0 --:--:-- --:--:-- --:--:-- 7546 processed by container id 9b42319d4f13 root@436702b21a1c:/# curl vote | grep -i "container id" % total % received % xferd average speed time time time current dload upload total spent left speed 100 3162 100 3162 0 0 452k 0 --:--:-- --:--:-- --:--:-- 514k processed by container id 1eed67d37cbb
基于 dns 负载均衡存在如下问题:
某些应用程序将 dns 主机名缓存到 ip 地址映射,这会导致应用程序在映射更改时超时
具有非零 dns ttl 值会导致 dns 条目反映最新的详细信息时发生延迟
基于 vip 的负载均衡
基于 vip 的负载均衡克服了基于 dns 负载均衡的一些问题。在这种方法中,每个服务都有一个 ip 地址,并且该 ip 地址映射到与该服务关联的多个容器的 ip 地址。在这种情况下,与服务关联的服务 ip 不会改变,即使与该服务关联的容器死亡并重新启动。
下图描述了基于 vip 的负载均衡是如何工作的:
dns server 会将服务名 "vote" 解析到 vip,使用 iptables 和 ipvs,vip 实现 2 个服务端 "vote" 容器的负载均衡。
使用如下命令创建 2 个 vip 模式的服务 “client” 、 “vote”:
docker service create --replicas 1 --name client --network overlay1 registry.cn-hangzhou.aliyuncs.com/anoy/ubuntu ping anoyi.com docker service create --name vote --network overlay1 --replicas 2 registry.cn-hangzhou.aliyuncs.com/anoy/vote
查看这 2 个服务和它们的服务 ip:
[root@node1 ~]# docker service inspect --format {{.endpoint.virtualips}} vote [{tetug0isdx1gri62g7cfm889i 10.0.0.9/24}] [root@node1 ~]# docker service inspect --format {{.endpoint.virtualips}} client [{tetug0isdx1gri62g7cfm889i 10.0.0.7/24}]
在 "client" 的容器中使用如下命令,可以看到服务名 "vote" 映射到 vip "10.0.0.9"
[root@node2 ~]# docker exec -it f3d1c4ef53f8 /bin/bash root@f3d1c4ef53f8:/# dig vote ;; answer section: vote. 600 in a 10.0.0.9
service ip "10.0.0.9" 使用 linux 内核的 iptables 和 ipvs 负载均衡到 2 个容器。iptables 实现防火墙规则,ipvs 实现负载均衡。为了证明这一点,我们需要使用 nsenter 进入容器的网络空间 ( namespace )。为此,我们需要找到网络的命名空间。
如下是 node2 上的网络命名空间:
[root@node2 ~]# cd /run/docker/netns/ [root@node2 netns]# ls 1-tetug0isdx 1-vyy22w04t6 be7330b99a27 d67fa9efb59e ingress_sbox
前 2 个命名空间是用于 overlay 网络,后面的用于容器。下面的命令用于找到 "client" 容器的网络命名空间:
[root@node2 netns]# docker ps container id image command created status ports names 43a789312e70 registry.cn-hangzhou.aliyuncs.com/anoy/vote:latest "gunicorn app:app -b…" 3 minutes ago up 3 minutes 80/tcp vote.1.u46ms31e8zjdxtwrxvaec8zub f3d1c4ef53f8 registry.cn-hangzhou.aliyuncs.com/anoy/ubuntu:latest "ping anoyi.com" 4 minutes ago up 4 minutes client.1.ycox088aek5ajejezubwsjqf2 [root@node2 netns]# docker inspect f3d1c4ef53f8 | grep -i sandbox "sandboxid": "be7330b99a274a03a7f58e9e991346dc6f048836a1682c7244a6068acbfb664c", "sandboxkey": "/var/run/docker/netns/be7330b99a27",
sandboxid 即为 "client" 容器的网络命名空间。
使用如下命令,我们就能够进入到 "client" 容器的网络命令空间:
nsenter --net=f3d1c4ef53f8 sh
下面,我们可以看到 iptables 的转发规则和 ipvs 输出:
sh-4.2# iptables -nvl -t mangle chain output (policy accept 606 packets, 50867 bytes) pkts bytes target prot opt in out source destination 0 0 mark all -- * * 0.0.0.0/0 10.0.0.7 mark set 0x102 0 0 mark all -- * * 0.0.0.0/0 10.0.0.9 mark set 0x103 sh-4.2# ipvsadm ip virtual server version 1.2.1 (size=4096) prot localaddress:port scheduler flags -> remoteaddress:port forward weight activeconn inactconn fwm 258 rr -> node2:0 masq 1 0 0 fwm 259 rr -> 10.0.0.10:0 masq 1 0 0 -> 10.0.0.11:0 masq 1 0 0
service ip "10.0.0.9" 使用 iptables output 链获得标记 0x103 (十六进制 -> 十进制:259),然后 ipvs 使用此标记并将它负载均衡到 "10.0.0.10" 和 "10.0.0.11" 。
查看 vote 服务的 2 个容器的 ip 如下所示,即 vip "10.0.0.9" 负载均衡到不同的容器实例:
[root@node2 netns]# docker inspect vote.1.u46ms31e8zjdxtwrxvaec8zub | grep ipv4 "ipv4address": "10.0.0.10" [root@node1 ~]# docker inspect vote.2.tutj19i4iwu1xn7arsaq815cu | grep ipv4 "ipv4address": "10.0.0.11"
进入 client 服务的容器,使用 curl 请求 vote 服务,输出结果如下,即请求分发到不同的容器:
root@f3d1c4ef53f8:/# curl vote | grep -i "container id" % total % received % xferd average speed time time time current dload upload total spent left speed 100 3162 100 3162 0 0 14409 0 --:--:-- --:--:-- --:--:-- 14438 processed by container id c2af209c4e90 root@f3d1c4ef53f8:/# curl vote | grep -i "container id" % total % received % xferd average speed time time time current dload upload total spent left speed 100 3162 100 3162 0 0 165k 0 --:--:-- --:--:-- --:--:-- 171k processed by container id 43a789312e70
路由网格 (routing mesh)
使用路由网格,服务暴露的端口会暴露在 swarm 集群中的所有工作节点。docker 是通过创建 "ingress" overlay 网络来实现这一点的,所有节点默认使用内在的 sandbox 网络命名空间成为 "ingress" overlay 网络的一部分。
下图描述了 routing mesh 如何实现负载均衡的:
首先,会将 hostname 或 ip 映射到 sandbox ip,sandbox 中的 iptables 和 ipvs 负责将请求负载均衡到 2 个 vote 容器。ingress sandbox 网络命名空间驻留在 swarm 集群中的所有工作节点,它通过将主机映射的端口负载均衡到后端容器来协助路由网格功能。
使用如下命令创建 vote 服务,使用路由网格暴露端口到所有节点:
复制代码 代码如下:
docker service create --name vote --network overlay1 --replicas 2 -p 8080:80 registry.cn-hangzhou.aliyuncs.com/anoy/vote
下图显示了 sandbox、容器和每个节点的网络之间的映射关系:
如图所示,sandbox 和 vote 容器是 "ingress" 网络的一部分,它有助于路由网格。client 容器和 vote 容器是 "overlay1" 网络的一部分,它有助于内部负载均衡。所有容器都是默认 "docker_gwbridge" 网络的一部分。
遵循 iptables 中的 nat 规则显示,端口 8080 上的主机流量发送到 node1 里的 sandbox:
[root@node1 ~]# iptables -nvl -t nat chain docker-ingress (2 references) pkts bytes target prot opt in out source destination 0 0 dnat tcp -- * * 0.0.0.0/0 0.0.0.0/0 tcp dpt:8080 to:172.18.0.2:8080 315 18876 return all -- * * 0.0.0.0/0 0.0.0.0/0
进入 node1 上的 sandbox 网络命名空间 (ingress_sbox),查看 iptables 的转发规则和 ipvs 输出:
[root@node1 netns]# nsenter --net=ingress_sbox sh sh-4.2# iptables -nvl -t mangle chain prerouting (policy accept 0 packets, 0 bytes) pkts bytes target prot opt in out source destination 0 0 mark tcp -- * * 0.0.0.0/0 0.0.0.0/0 tcp dpt:8080 mark set 0x105 sh-4.2# ipvsadm ip virtual server version 1.2.1 (size=4096) prot localaddress:port scheduler flags -> remoteaddress:port forward weight activeconn inactconn fwm 261 rr -> 10.255.0.5:0 masq 1 0 0 -> 10.255.0.6:0 masq 1 0 0
端口 8080 标记为 0x105 (十六进制 -> 十进制:261),ipvs 使用此标记将它负载均衡到 "10.255.0.5" 和 "10.255.0.6" 。
查看 vote 服务的 2 个容器的 ip 如下所示,即主机端口 8080 的流量会负载均衡到不同的容器实例:
[root@node1 netns]# docker inspect 6173afd5fab8 | grep ipv4 "ipv4address": "10.255.0.6" "ipv4address": "10.0.0.14" [root@node2 ~]# docker inspect b07e95c5c681 | grep ipv4 "ipv4address": "10.255.0.5" "ipv4address": "10.0.0.13"
验证负载均衡,在 node1 上通过 node2 的 ip 和 8080 端口请求 vote 服务:
[root@node1 netns]# curl node2:8080 | grep -i "container id" % total % received % xferd average speed time time time current dload upload total spent left speed 100 3162 100 3162 0 0 199k 0 --:--:-- --:--:-- --:--:-- 192k processed by container id 6173afd5fab8 [root@node1 netns]# curl node2:8080 | grep -i "container id" % total % received % xferd average speed time time time current dload upload total spent left speed 100 3162 100 3162 0 0 7551 0 --:--:-- --:--:-- --:--:-- 7546 processed by container id b07e95c5c681
在 node2 上通过 node1 的 ip 和 8080 端口请求 vote 服务:
[root@node2 ~]# curl node1:8080 | grep -i "container id" % total % received % xferd average speed time time time current dload upload total spent left speed 100 3162 100 3162 0 0 7531 0 --:--:-- --:--:-- --:--:-- 7546 processed by container id 6173afd5fab8 [root@node2 ~]# curl node1:8080 | grep -i "container id" % total % received % xferd average speed time time time current dload upload total spent left speed 100 3162 100 3162 0 0 169k 0 --:--:-- --:--:-- --:--:-- 171k processed by container id b07e95c5c681
以上就是“Docker Swarm服务发现和负载均衡的原理是什么”这篇文章的所有内容,感谢各位的阅读!相信大家阅读完这篇文章都有很大的收获,小编每天都会为大家更新不同的知识,如果还想学习更多的知识,请关注创新互联行业资讯频道。
文章名称:DockerSwarm服务发现和负载均衡的原理是什么
链接分享:http://hbruida.cn/article/ijohdi.html