百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

如何将不同linux服务器的目录内容进行双向同步

nanshan 2025-02-10 13:39 11 浏览 0 评论


主旨

本文的目的是为了解决两台服务器之间目录差异问题,即可以在A、B两台服务器指定目录写、删任何内容,都会同步到另一台服务器,即实现文件存放、读取高可用。

环境

服务器信息:

node-1:192.168.93.139
node-2:192.168.93.140

用户名密码:

root/666666

同步目录:

/home/jier

VIP地址:

192.168.93.200

此文档涉及到的软件:

rsync
lsyncd
keepalived
sftp

前期准备

关闭防火墙和selinux,两台服务器上都需要执行。

[root@localhost jier]# systemctl stop firewalld.service
[root@localhost jier]# systemctl disable firewalld.service
Removed symlink /etc/systemd/system/multi-user.target.wants/firewalld.service.
Removed symlink /etc/systemd/system/dbus-org.fedoraproject.FirewallD1.service.
[root@localhost jier]# setenforce 0
# 修改内容SELINUX=disabled
[root@localhost jier]# vim /etc/selinux/config
[root@localhost jier]# iptables -F

一、部署rsync

PS:需要在node-1和node-2两个节点上同时进行安装。

1.1 安装rsync

PS:linux服务器默认都安装了rsync,如果发现没有安装的话,可以使用如下命令进行安装。


rpm -qa|grep rsync  # 检查rsync是否安装
yum -y install rsync xinetd  # 如果没有请执行此命令


1.2 新建用户

PS:由于此处我就是采用root用户,故而不进行创建,具体操作过程根据实际情况进行配置。


[root@loaclhost ~]# useradd 用户名  # 新建用户
[root@loaclhost ~]# passwd 用户名  # 给用户配置密码


1.3 新建相关目录


[root@localhost ~]# mkdir -pv /root/rsync/log
mkdir: 已创建目录 "/root/rsync"
mkdir: 已创建目录 "/root/rsync/log"
[root@localhost ~]# mkdir -pv /home/jier
mkdir: 已创建目录 "/home/jier"
[root@localhost ~]#


1.4 修改rsync的配置文件

路径:/etc/rsyncd.conf

PS:hosts allow中需要写对方的IP地址,即node-1写node-2的IP地址,node-2写node-1的IP地址。


uid = root
gid = root
# 锁死目录
use chroot = no
# 最大连接数
max connections = 10000
# 端口号
port = 873
lock file = /root/rsync/rsync.lock 
log file = /root/rsync/log/rsyncd.log
motd file = /root/rsync/rsyncd.motd
pid file = /root/rsync/rsyncd.pid
# 可读可写
read only = no
# 模块名
[ceshi]
# 指定目录
path = /home/jier
# 可读可写
read only = no
# 授权用户
auth users = root
# 授权IP
hosts allow = 192.168.93.140/32
# 授权用户的密码
secrets file = /root/.rsync_server.passwd


1.5 创建密码文件,并授权


[root@localhost ~]# vim /root/.rsync_server.passwd
root:666666


:wq # 保存退出
[root@localhost ~]# vim /root/.rsync_client.passwd
666666


:wq # 保存退出
[root@localhost ~]# chmod 600 /root/.rsync_*  # 授权600权限


1.6 启动服务


[root@localhost ~]# rsync --daemon
[root@localhost ~]# netstat -tunlp | grep 873
tcp        0      0 0.0.0.0:873           0.0.0.0:*               LISTEN      2320/rsync          
tcp6       0      0 :::873                :::*                    LISTEN      2320/rsync          
[root@localhost ~]#


1.7 测试安装结果


[root@localhost jier]# cd /home/jier/
[root@localhost jier]# echo 111 > 1.txt
[root@localhost jier]# rsync -avzcR --port=873 --password-file=/root/.rsync_client.passwd 1.txt root@192.168.93.140::ceshi


sending incremental file list
1.txt


sent 108 bytes  received 35 bytes  95.33 bytes/sec
total size is 4  speedup is 0.03
[root@localhost jier]#


登录另一服务器对应目录下进行查看:


[root@localhost jier]# pwd
/home/jier
[root@localhost jier]# ls
1.txt
[root@localhost jier]# cat 1.txt 
111
[root@localhost jier]#



二、部署lsyncd

2.1 安装lsyncd

PS:需要在node-1和node-2两个节点上同时进行安装。


[root@localhost ~]# yum -y install epel-release  # 因为lsyncd这个软件在epel源中,所以需要先安装相对应的源
[root@localhost ~]# yum -y install lsyncd  # 安装lsyncd软件


2.2 lsyncd配置文件

PS:需要在node-2和node-2两个节点上同时进行调试。


settings {
        logfile ="/var/log/lsyncd/lsyncd.log",
        statusFile ="/var/log/lsyncd/lsyncd.status",
        inotifyMode = "CloseWrite or Modify",
        maxProcesses = 7,
        -- nodaemon =true,
       }
sync {
      default.rsync,
      source = "/home/jier",
      target = "root@192.168.93.140::ceshi",
      delete="running",
      exclude = { ".*", ".tmp" },
      delay = 1,
      rsync = {
             binary = "/usr/bin/rsync",
             archive = true,
             compress = true,
             verbose = true,
             password_file = "/root/.rsync_client.passwd",
             _extra = {"--bwlimit=200"}
      }
}


参数解释:


settings:全局设置,--表示注释
           logfile:定义日志文件
           statusFile:定义状态文件
           nodaemon=no:表示不启用守护模式,默认
           statusInterval:将lsyncd的状态写入上面的statusFile的间隔,默认10秒
           inotifyMode:指定inotify监控的事件,默认是CloseWrite,还可以是Modify或CloseWrite or Modify
           maxProcesses:同步进程的最大个数。假如同时有20个文件需要同步,而maxProcesses = 8,则最大能看到有8个rysnc进程
           maxDelays 累计到多少所监控的事件激活一次同步,即使后面的delay延迟时间还未到
sync:定义同步参数
           rsync、rsyncssh、direct三种模式
                      default.rsync:本地目录间同步,使用rsync,也可以达到使用ssh形式的远程rsync效果,或daemon方式连接远程rsyncd进程
                      default.direct:本地目录间同步,使用cp、rm等命令完成差异文件备份
                      default.rsyncssh:同步到远程主机目录,rsync的ssh模式,需要使用key来认证
           source:同步的源目录,使用绝对路径
           target:定义目的地址:
                      /tmp/dest:本地目录同步,可用于direct和rsync模式
                      192.168.93.140:/home/jier:同步到远程服务器目录,可用于rsync和rsyncssh模式
                      192.168.93.140::ceshi :同步到远程服务器目录,用于rsync模式
           init:这是一个优化选项,当init = false,只同步进程启动以后发生改动事件的文件,原有的目录即使有差异也不会同步。默认是true
           delay:累计事件,等待rsync同步延时时间,默认15秒(最大累计到1000个不可合并的事件)。也就是15s内监控目录下发生的改动,会累积到一次rsync同步,避免过于频繁的同步。(可合并的意思是,15s内两次修改了同一文件,最后只同步最新的文件)
           excludeFrom:排除选项,后面指定排除的列表文件,如excludeFrom = "/etc/lsyncd.exclude",如果是简单的排除,可以使用exclude = LIST。这里的排除规则写法与原生rsync有点不同,更为简单:
                      监控路径里的任何部分匹配到一个文本,都会被排除,例如/bin/foo/bar可以匹配规则foo
                      如果规则以斜线/开头,则从头开始要匹配全部
                      如果规则以/结尾,则要匹配监控路径的末尾
                      ?匹配任何字符,但不包括/
                      *匹配0或多个字符,但不包括/
                      **匹配0或多个字符,可以是/
                      delete 为了保持target与souce完全同步,Lsyncd默认会delete = true来允许同步删除。它除了false,还有startup、running值
           bwlimit:限速,单位kb/s,与rsync相同(这么重要的选项在文档里竟然没有标出);
           compress:压缩传输默认为true。在带宽与cpu负载之间权衡,本地目录同步可以考虑把它设为false;
           perms:默认保留文件权限;


2.3 启动lsyncd


[root@localhost ~]# systemctl start lsyncd
[root@localhost ~]# systemctl status lsyncd
● lsyncd.service - Live Syncing (Mirror) Daemon
   Loaded: loaded (/usr/lib/systemd/system/lsyncd.service; disabled; vendor preset: disabled)
   Active: active (running) since 二 2022-01-18 09:52:51 CST; 5min ago
 Main PID: 1772 (lsyncd)
   CGroup: /system.slice/lsyncd.service
           └─1772 /usr/bin/lsyncd -nodaemon /etc/lsyncd.conf


1月 18 09:52:51 localhost.localdomain systemd[1]: Started Live Syncing (Mirror) Daemon.
1月 18 09:52:51 localhost.localdomain systemd[1]: Starting Live Syncing (Mirror) Daemon...
1月 18 09:52:51 localhost.localdomain lsyncd[1772]: sending incremental file list
1月 18 09:52:51 localhost.localdomain lsyncd[1772]: 22.txt
1月 18 09:52:51 localhost.localdomain lsyncd[1772]: sent 171 bytes  received 35 bytes  412.00 bytes/sec
1月 18 09:52:51 localhost.localdomain lsyncd[1772]: total size is 16  speedup is 0.08
1月 18 09:54:03 localhost.localdomain lsyncd[1772]: sending incremental file list
1月 18 09:54:03 localhost.localdomain lsyncd[1772]: sent 156 bytes  received 12 bytes  336.00 bytes/sec
1月 18 09:54:03 localhost.localdomain lsyncd[1772]: total size is 11  speedup is 0.07
[root@localhost ~]#


验证,可以同时在两台服务器的/home/jier目录下新建不同的文件。

PS:如果你的业务中只有新增的需求,不存在删除动作,那么到此就可以结束了;但是如果有删除的话,还需要继续看下面的。

三、keepalived

PS:node-1和node-2上都需要进行如下操作

PS:此程序需要搭配ftp使用,即程序通过调用vip地址(192.168.93.200)来进行调用。

3.1 搭建keepalived

[root@localhost ~]# yum -y install keepalived

3.2 部署监控脚本

[root@localhost ~]# mkdir -pv /home/script/
mkdir: 已创建目录 "/home/script/"
[root@localhost ~]# 
[root@localhost ~]# vim /home/script/check_vip.sh
#!/bin/bash
ip a | grep 192.168.93.200
if [ $? -eq 0 ]; then
    PROGRAM=$(ps -ef | grep -w lsyncd | grep -v grep | wc -l)
    if [ "${PROGRAM}" -eq 0 ];then
        systemctl start lsyncd
    else
        echo 1
    fi    
else
    systemctl stop lsyncd
fi
[root@localhost ~]# chmod +x /home/script/check_vip.sh 
[root@localhost ~]#

3.3调整配置

[root@localhost jier]# vim /etc/keepalived/keepalived.conf  # 删除原来这个文件中的所有内容
! Configuration File for keepalived
global_defs {
    #添加以下参数即可
    script_user root
    enable_script_security
}


vrrp_script check_vip {
    script "/home/script/check_vip.sh"
    interval 1
    weight 2
}


vrrp_instance VI_1 {
    state BACKUP
    interface ens33  # 网卡名字,根据实际情况来配置
    virtual_router_id 9
    priority 10  # 和另一台服务器需要相差50以上,不可保持一致,可以为90
    advert_int 1
    track_script {
      check_vip
    }
    virtual_ipaddress {
        192.168.93.200
    }
}

3.4 启动服务

[root@localhost jier]# systemctl start keepalived
[root@localhost jier]# ps -ef | grep keepalived
root      44776      1  0 10:41 ?        00:00:00 /usr/sbin/keepalived -D
root      44777  44776  0 10:41 ?        00:00:00 /usr/sbin/keepalived -D
root      44778  44776  0 10:41 ?        00:00:00 /usr/sbin/keepalived -D
root      44816  44024  0 10:41 pts/0    00:00:00 grep --color=auto keepalived
[root@localhost jier]# systemctl status keepalived
● keepalived.service - LVS and VRRP High Availability Monitor
   Loaded: loaded (/usr/lib/systemd/system/keepalived.service; disabled; vendor preset: disabled)
   Active: active (running) since 二 2022-01-18 10:41:06 CST; 14s ago
  Process: 44775 ExecStart=/usr/sbin/keepalived $KEEPALIVED_OPTIONS (code=exited, status=0/SUCCESS)
 Main PID: 44776 (keepalived)
   CGroup: /system.slice/keepalived.service
           ├─44776 /usr/sbin/keepalived -D
           ├─44777 /usr/sbin/keepalived -D
           └─44778 /usr/sbin/keepalived -D


1月 18 10:41:11 localhost.localdomain Keepalived_vrrp[44778]: Sending gratuitous ARP on ens33 for 192.168.93.200
1月 18 10:41:11 localhost.localdomain Keepalived_vrrp[44778]: Sending gratuitous ARP on ens33 for 192.168.93.200
1月 18 10:41:11 localhost.localdomain Keepalived_vrrp[44778]: Sending gratuitous ARP on ens33 for 192.168.93.200
1月 18 10:41:11 localhost.localdomain Keepalived_vrrp[44778]: Sending gratuitous ARP on ens33 for 192.168.93.200
1月 18 10:41:16 localhost.localdomain Keepalived_vrrp[44778]: Sending gratuitous ARP on ens33 for 192.168.93.200
1月 18 10:41:16 localhost.localdomain Keepalived_vrrp[44778]: VRRP_Instance(VI_1) Sending/queueing gratuitous ARPs on ens33 for 192.168.93.200
1月 18 10:41:16 localhost.localdomain Keepalived_vrrp[44778]: Sending gratuitous ARP on ens33 for 192.168.93.200
1月 18 10:41:16 localhost.localdomain Keepalived_vrrp[44778]: Sending gratuitous ARP on ens33 for 192.168.93.200
1月 18 10:41:16 localhost.localdomain Keepalived_vrrp[44778]: Sending gratuitous ARP on ens33 for 192.168.93.200
1月 18 10:41:16 localhost.localdomain Keepalived_vrrp[44778]: Sending gratuitous ARP on ens33 for 192.168.93.200
[root@localhost jier]#

至此,此搭建文档完毕。

相关推荐

0722-6.2.0-如何在RedHat7.2使用rpm安装CDH(无CM)

文档编写目的在前面的文档中,介绍了在有CM和无CM两种情况下使用rpm方式安装CDH5.10.0,本文档将介绍如何在无CM的情况下使用rpm方式安装CDH6.2.0,与之前安装C5进行对比。环境介绍:...

ARM64 平台基于 openEuler + iSula 环境部署 Kubernetes

为什么要在arm64平台上部署Kubernetes,而且还是鲲鹏920的架构。说来话长。。。此处省略5000字。介绍下系统信息;o架构:鲲鹏920(Kunpeng920)oOS:ope...

生产环境starrocks 3.1存算一体集群部署

集群规划FE:节点主要负责元数据管理、客户端连接管理、查询计划和查询调度。>3节点。BE:节点负责数据存储和SQL执行。>3节点。CN:无存储功能能的BE。环境准备CPU检查JDK...

在CentOS上添加swap虚拟内存并设置优先级

现如今很多云服务器都会自己配置好虚拟内存,当然也有很多没有配置虚拟内存的,虚拟内存可以让我们的低配服务器使用更多的内存,可以减少很多硬件成本,比如我们运行很多服务的时候,内存常常会满,当配置了虚拟内存...

国产深度(deepin)操作系统优化指南

1.升级内核随着deepin版本的更新,会自动升级系统内核,但是我们依旧可以通过命令行手动升级内核,以获取更好的性能和更多的硬件支持。具体操作:-添加PPAs使用以下命令添加PPAs:```...

postgresql-15.4 多节点主从(读写分离)

1、下载软件[root@TX-CN-PostgreSQL01-252software]#wgethttps://ftp.postgresql.org/pub/source/v15.4/postg...

Docker 容器 Java 服务内存与 GC 优化实施方案

一、设置Docker容器内存限制(生产环境建议)1.查看宿主机可用内存bashfree-h#示例输出(假设宿主机剩余16GB可用内存)#Mem:64G...

虚拟内存设置、解决linux内存不够问题

虚拟内存设置(解决linux内存不够情况)背景介绍  Memory指机器物理内存,读写速度低于CPU一个量级,但是高于磁盘不止一个量级。所以,程序和数据如果在内存的话,会有非常快的读写速度。但是,内存...

Elasticsearch性能调优(5):服务器配置选择

在选择elasticsearch服务器时,要尽可能地选择与当前业务量相匹配的服务器。如果服务器配置太低,则意味着需要更多的节点来满足需求,一个集群的节点太多时会增加集群管理的成本。如果服务器配置太高,...

Es如何落地

一、配置准备节点类型CPU内存硬盘网络机器数操作系统data节点16C64G2000G本地SSD所有es同一可用区3(ecs)Centos7master节点2C8G200G云SSD所有es同一可用区...

针对Linux内存管理知识学习总结

现在的服务器大部分都是运行在Linux上面的,所以,作为一个程序员有必要简单地了解一下系统是如何运行的。对于内存部分需要知道:地址映射内存管理的方式缺页异常先来看一些基本的知识,在进程看来,内存分为内...

MySQL进阶之性能优化

概述MySQL的性能优化,包括了服务器硬件优化、操作系统的优化、MySQL数据库配置优化、数据库表设计的优化、SQL语句优化等5个方面的优化。在进行优化之前,需要先掌握性能分析的思路和方法,找出问题,...

Linux Cgroups(Control Groups)原理

LinuxCgroups(ControlGroups)是内核提供的资源分配、限制和监控机制,通过层级化进程分组实现资源的精细化控制。以下从核心原理、操作示例和版本演进三方面详细分析:一、核心原理与...

linux 常用性能优化参数及理解

1.优化内核相关参数配置文件/etc/sysctl.conf配置方法直接将参数添加进文件每条一行.sysctl-a可以查看默认配置sysctl-p执行并检测是否有错误例如设置错了参数:[roo...

如何在 Linux 中使用 Sysctl 命令?

sysctl是一个用于配置和查询Linux内核参数的命令行工具。它通过与/proc/sys虚拟文件系统交互,允许用户在运行时动态修改内核参数。这些参数控制着系统的各种行为,包括网络设置、文件...

取消回复欢迎 发表评论: