rsync文件实时同步命令_sshcopyid命令详解

rsync文件实时同步命令_sshcopyid命令详解简介  最近有一个比较特殊的需求需要实现,某个服务提供文件上传服务。但是要解决单点问题,所以会程序会部署在多台服务器上。但是也会随之带来一个和共享cookie的问题,那就是文件存储也应该共享的.其实大部分同学想到的,第一个肯定是使用NFS来解决。大家通过NFSmount到同一个目录即可实现.但是为什么我们没有选择这个解决方案呢?那是因为之前不知道是我们使用不当还是NFS自身存在问题,出现了几次事故,NFSServer端卡死,导致整个NFS的client端由于使用硬挂载的方式一

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

简介

  最近有一个比较特殊的需求,某个服务提供文件上传功能。但是由于要解决单点问题,所以会程序会部署在多台服务器上实现高可用。但是也会随之带来一个和共享cookie类似的问题,那就是文件存储也应该是共享的.其实大部分同学想到的,第一个肯定是使用NFS来解决。大家通过NFS mount到同一个目录即可实现. 但是为什么我们没有选择这个解决方案呢? 那是因为之前不知道是我们使用不当还是NFS自身存在问题, 出现了几次事故,NFS Server端卡死,导致整个NFS的client端由于使用【硬挂载】的方式一直卡住,整个服务器的负载因此也一直飙升,直到NFS Server端恢复正常或者管理员主动卸载mount才能将机器负载降下来恢复正常。在没弄明白原因之前,NFS就不太敢用了,只能另想他法.

rsync+inotify实现原理

原理图:
原理图

  我们最后采用了rsync+inotify的方式来解决我们这个需求。最初一开始,我对这个解决方案是排斥的。因为后期如果文件过多,势必带来性能和延迟问题。但是最终均衡和考虑业务量的情况下,还是采用了这种方式能暂时满足我们的需求.

  rsync是一个服务器之间进行文件同步的工具. 具体详情大家可以自行查资料。这里我们可以理解为可以实现文件内容对比的scp工具。如果文件内容没变化则不会发生同步文件的操作, 否则会同步最新内容使得目标服务器的文件内容一致。但是rsync只能做到的只是文件同步,它自身没有能力发现哪些文件内容发生了变化.你执行rsync命令让它同步哪个文件就同步哪个文件,仅此而已。那么我们要做到2台主机之间某个目录或者文件能够达到实时同步效果,需要借助其他工具进行辅助,最好能帮我们监控某个目录下的文件,一旦目录文件发生内容变动(如内容增加、内容减少、删除、修改等等),我们获取通知之后,再执行rsync命令,达到我们实时同步的目的。

  inotify是Linux下的一个工具,inotifywait是其中的一个组件,就能帮我们监控某个目录,一旦文件内容发送变动,我们会获取到一个事件通知,拿到文件的路径。之后我们通过自定义shell脚本,执行rsync命令,实现实时同步的目的。

安装与实现

B服务器(同步数据的目标服务器)

   # A、B服务器都需要安装 
   yum install rsync inotify-tools -y

   # B服务器修改配置, 启动rsyncd后台服务
   # 修改 /etc/rsyncd.conf
    uid = root
	gid = root
	use chroot = no
	max connections = 20
	pid file = /var/run/rsyncd.pid
	log file = /var/log/rsyncd.log
	lock file = /var/run/rsyncd.lock
	#如果不开启此选项,速度慢,因为会进行域名解析
	reverse lookup = no
	
	#可以定义多个module
	[upload]  
		#存储同步过来的文件路径
		path = /       
		read only = no
		#设置连接此rsyncd的用户名,与linux账号无关,自定义
		auth users = rsync
		#格式: $user_name:$password 权限: 600
		secrets file = /etc/rsyncd.secrets
		list = no
   
   # 启动服务
   systemctl start rsyncd

A服务器(源数据服务器)

   # A服务器
   echo '密码' >> /etc/rsyncd.passwd #权限 600
   # 编写inotyfy+rsync同步脚本 inotify-rsync.sh

该脚本建议使用如supervisor等工具运行,进程保活,挂掉自动拉起:

    #!/bin/bash
    set -ex
    monitor_path='/tmp/' # *需要监控的目录*
    sync_host='127.0.0.1' # *修改ip地址*
    sync_user='rsync'  # *修改username*
    sync_module='upload'  #*修改module名称*

    # 阻塞监听文件变化,一旦变化则执行rsync同步命令
    inotifywait -mrq --format '%w%f' -e create -e delete -e moved_to -e close_write $monitor_path | while read line
    do
       dir_name=`dirname $line`
       if [ -f $line ];then
         # 文件存在,则同步
         rsync -azrR   $line     --delete --password-file=/etc/rsyncd.passwd $sync_user@$sync_host::$sync_module
       else
         # 文件不存在(例如被删除), 则全量同步该文件所在目录文件内容
         rsync -azrR   $dir_name --delete --password-file=/etc/rsyncd.passwd $sync_user@$sync_host::$sync_module
       fi
    done

supervisor配置文件:

[program:inotify-rsync]
command=/bin/bash -c "/sh/shell/inotify-rsync.sh"
process_name=inotify-rsync
autorestart=true
startsecs=5
stopsignal=INT
stopasgroup=true
killasgroup=true
redirect_stderr=true
stdout_logfile_maxbytes=0
stdout_logfile=/sh/shell/inotify-rsync-running.log
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/182257.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • python怎么对齐输出_关于python格式对齐的问题

    python怎么对齐输出_关于python格式对齐的问题利用cv2提取视频帧,可以逐帧提取,也可以跳跃读取。在读取过程中,需要对文件名进行规范,通过以下命令进行填充:.zfill(num)#num指的是填充会的位数importcv2importos#要提取视频的文件名,隐藏后缀sourceFileName=’Fog20200313000026’#在这里把后缀接上video_path=os.path.join(sourceFileName+’.mp4′)times=0#提取视频的频率,每375帧提取一个

    2022年10月7日
    0
  • python 阅读器,文字转语音—-新技能你get到了吗

    python 阅读器,文字转语音—-新技能你get到了吗

    2021年9月17日
    52
  • AWS EC2文件上传[通俗易懂]

    AWS EC2文件上传[通俗易懂]AWSEC2申请配置、文件上传、nginx安装部署、tomcat安装和项目部署、域名绑定AWSEC2服务器申请配置我这里是参考简书的一篇博客:利用AWS的EC2来搭建属于自己的VPN服务器(MAC平台)在步骤4搭建vpn服务器之前都是可以通用的。非常的详细。文件上传经过以上配置之后应该了解到,使用ssh命令访问aws服务器是会用到其提供的秘钥文件的(我这里是serverK…

    2022年7月20日
    55
  • hadoop菜鸟教程 Hadoop学习资料(云计算学习电子书)

    hadoop菜鸟教程 Hadoop学习资料(云计算学习电子书)hadoop与大数据的关系?大数据技术正渗透到各行各业。作为数据分布式处理系统的典型代表,Hadoop已成为该领域的事实标准。但Hadoop并不等于大数据。它只是一个成功的分布式系统,用于处理离线数据。大数据领域中还有许多其他类型的处理系统。随着大数据技术的普及,Hadoop已成为其开源功能和卓越性能的新宠。有些人甚至认为大数据是Hadoop。实际上,这是一种误解。Hadoop只是一个用于处…

    2022年4月29日
    32
  • 功能十分全面的项目管理工具(文档协作、项目计划、文件管理等)[通俗易懂]

    功能十分全面的项目管理工具(文档协作、项目计划、文件管理等)[通俗易懂]今天本人给大伙推荐一个项目管理工具,该工具会提供各类:文档协作功能、在线思维导图、在线审批流程图、项目管理、任务分发、在线评论,文件管理等等。该项目管理工具整套架构采用了前后分离模式,支持多节点部署,使用的技术是Java、Vue、Element-UI、postgresql1等技术栈。智能项目管理解决方案:https://www.informat.cn/pm一、系统预览1.登录系统2.系统总览,仪表盘3.项目计划管理项目体系分解项目组,主子项目 项目文

    2022年5月7日
    58
  • phpstorm 激活码生成(破解版激活)

    phpstorm 激活码生成(破解版激活),https://javaforall.net/100143.html。详细ieda激活码不妨到全栈程序员必看教程网一起来了解一下吧!

    2022年3月16日
    118

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号