默认情况下单台服务器上部署的Docker服务只能与本机上其他Docker相互通信,无法与其他服务器上的Docker通信,以下通过VXLAN技术来实现容器使用私网IP跨主机通信,这里与k8s管理Docker中的组网模式大致相同,即利用内网IP通信。
1. 测试环境
关闭SELinux和防火墙;
配置华为的YUM源:
wget -O /etc/yum.repos.d/CentOS-Base.repo https://repo.huaweicloud.com/repository/conf/CentOS-7-reg.repo
安装扩展YUM源:
yum install epel-release
2. 安装Docker服务
2.1 部署docker
使用YUM命令直接安装docker服务,S1和S2两台服务器都需要安装配置:
安装:
yum install docker -y
启动:
systemctl start docker
systemctl enable docker
开启转发:
vim /etc/sysctl.conf
#文档末尾增加以下内容
net.ipv4.ip_forward = 1
使转发生效:
sysctl -p
查看网络:
ip add show
在安装了docker后,可以看到新增了一个docker0的网络接口,默认情况下分分配172.17.0.0/16网段。
2.2 配置Docker
Docker使用默认172.17.0.0/16网段,Docker容器的IP地址都会从172.17.0.2开始分配。这里需要将两台服务器中的Docker配置不同为网段,那么就需要在docker run启动容器的时候自定义IP地址,而利用--ip参数自定义IP地址的功能只能在自定网络中支持,所以需要先创建一个自定义网络,设置指定网段172.18.0.0/16。
Docker网段规划:
在S1和S2上执行命令,S1执行命令:
docker network create --subnet 172.18.0.0/16 mydn
利用docker network ls查看,可以看到一个新的bridge网络被创建,名称为mydn。利用ip add show刚刚新增加的网络接口,名字以br开头,表示是一个网桥,br后面为NETWOK_ID:
S2执行命令:
docker network create --subnet 172.18.0.0/16 mydn
3.3 下载一个镜像
两台服务器都需要操作,执行后会自动下载CentOS镜像:
docker pull docker.io/centos
查看docker镜像:
docker image ls
3.4 后台启动Docker
注意启动Docker时使用--net指定网段和--ip选项指定IP地址;
S1执行命令:
docker run -dit --name s1-docker --net mydn --ip 172.18.0.2 docker.io/centos /bin/bash
参数说明:
-dit:表示后台启动docker
--name:指定docker的命令
--net :指定自定义网络
--ip:指定IP地址
docker.io/centos:指定image
/bin/bash:后台启动一个bash
查看Docker运行情况:
docker ps
S2执行命令:
docker run -dit --name s2-docker --net mydn --ip 172.18.0.3 docker.io/centos /bin/bash
3.5 登陆容器查看IP地址
登陆S1容器并查看:
docker exec -it s1-docker /bin/bash
ip add show
S1容器的IP地址为指定的172.18.0.2。
登陆S2容器并查看:
docker exec -it s2-docker /bin/bash
ip add show
S2容器IP地址为指定的172.18.0.3。
3.6 配置前测试
登陆s1-docker去ping s2-docker的IP地址:
在未配置VXLAN前,两台主机上的docker容器都是独立的,无法访问。
这里需要注意的是,每启动一个Docker,则需要手动指定IP地址,否则在两台服务器上有可能存在相同IP地址的Docker。
4. 创建VXLAN接入docker网桥
将两个容器宿主机上各创建一个VXLAN接口,并且将VXLAN接口接入docker网桥的端口上,拓扑图如下:
有了VXLAN接口的连接后,从s1上docker容器发出的包到达docker网桥后,可以从网桥的VXLAN接口出去,从而报文在VETP(VXLAN接口)处被封装成VXLAN报文,再从物理网络上到达对端VETP所在的主机s2。对端VTEP能正确解包VXLAN报文的话,随后即可将报文通过s2上的docker网桥送到上层的docker容器中。
配置VXLAN:
安装brctl命令,配置桥接网络需要用到此命令,两台服务器都需要安装:
yum install bridge-utils -y
注意,如果启用了防火墙的情况下,需要放通udp端口4789:
firewall-cmd --permanent --add-port=4789/udp
firewall-cmd --reload
S1执行VXLAN配置命令:
ip link add vxlan_interface type vxlan id 200 remote 192.168.2.11 dstport 4789 dev eth0
ip link set vxlan_interface up
brctl addif br-7ba5c64c13a0 vxlan_interface
说明:把新创建的VXLAN接口vxlan_interface接入到docker网桥br-7ba5c64c13a0中。
S2执行VXLAN配置命令:
ip link add vxlan_interface type vxlan id 200 remote 192.168.2.10 dstport 4789 dev eth0
ip link set vxlan_interface up
brctl addif br-a44b57577b59 vxlan_interface
5. 测试
登陆s1-docker进行ping测试。
登陆容器:
docker exec -it s1-docker /bin/bash
ping对端容器:
ping -c 2 172.18.0.3
可以看到VXLAN配置后,不同主机中的容器可以互访问。
6. 总结
本文展示了Linux VXLAN在跨主机环境的容器之间利用VXLAN从二层打通,如果是三层网络,则需要使用其他技术来实现不同主机间的容器通信。