rsync 实现断点续传】的更多相关文章

关于rsync的断点续传 关于rsync的断点续传 经常copy大文件,由于服务器.路由等网络的不确定性,老是出现 remote server not responding.于是查了下资料,发现rsync这个工具支持断点续传功能,这里介绍一下.rsync也分服务器端和客户端,使用man查看帮助信息,我们发现rsync有六种不同的工作模式:Local: rsync [OPTION...] SRC... [DEST] Access via remote shell:Pull: rsync [OPTI…
Linux 主机之间即时传送文件,scp命令大家都很熟悉但当要传送的文件较大,过程中如果网络中断了,就比较悲剧了.这时候可以考虑使用rsync命令替代scp,实现断点续传文件. 试验:rsync使用 环境:2台RHEL 5.7 需求:主机A传送文件夹TestDB到主机B rsync -rP --rsh=ssh /home/oracle/TestDB/ oracle@192.168.1.173:/home/oracle/TestDB 实验rsync断点续传的过程记录: [oracle@rac1-s…
断点续传是使用大写P参数,-P这个参数是综合了--partial --progress两个参数 rsync -avzP /home/hadoop/jdk1..0_73.tar.gz root@10.20.77.172:/home/hadoop/temp/ 确保两个目录完全同步,删除目标目录里面,源目录不包含的内容 . rsync -avzP --delete /home/hadoop/hadoop-/ root@10.20.77.172:/home/hadoop/temp/ rsync -e *…
Linux 主机之间即时传送文件,scp命令大家都很熟悉但当要传送的文件较大,过程中如果网络中断了,就比较悲剧了.这时候可以考虑使用rsync命令替代scp,实现断点续传文件. 试验:rsync使用 环境:2台RHEL 5.7 需求:主机A传送文件夹TestDB到主机B rsync -rP --rsh=ssh /home/oracle/TestDB/ oracle@192.168.1.173:/home/oracle/TestDB 实验rsync断点续传的过程记录: [oracle@rac1-s…
这经常是我们所说的镜像同步就是这么来的,如果断点续传呢?rsync完全可以做到这一点.man手册再次告诉我们: --partial      By default, rsync will delete any partially  transferred  file  if  the  transfer  is      interrupted. In some circumstances it is more desirable to keep partially transferred   …
众多数据库服务器的管理过程中,在不同服务器间的文件传输是免不了的.您可以使用scp命令或FTP方法完成文件的发送和接收,这篇文章我将给大家介绍另外一种方法,这就是rsync命令.rsync是文件传输程序,它的功能和算法描述可以参考维基百科中的介绍.参考链接:http://zh.wikipedia.org/zh-cn/Rsync rsync也分服务器端和客户端,使用man查看帮助信息,我们发现rsync有六种不同的工作模式: Local:  rsync [OPTION...] SRC... [DE…
inotifywait用于等待文件或文件集上的一个待定事件,可以监控任何文件和目录设置,并且可以递归地监控整个目录树: inotifywatch用于收集被监控的文件系统计数据,包括每个inotify事件发生多少次等信息 从上面可知inotifywait是一个监控事件,可以配合shell脚本使用它.与它相关的参数: 语法格式:inotifywait [-hcmrq][-e][-t][--format][-timefmt][...] -m: 即“--monitor”   表示始终保持事件监听状态.…
初识 开源,多功能,全量和增量的本地或远程数据同步备份的优秀工具,remote synchronization 俩服务器定/实时备份cron+rsync,数据同步,全网备份 一个rsync相当于scp.cp.rm,但又优于他们 yum install -y rsync 支持断点续传,限速等特定功能优缺点 优点:增量备份,支持ssh,支持daemon ,集中备份 缺点:大文件对比时间比较长,大文件有时候可能传输不完整 一次性拷贝可以直接使用SCP工作模式 1.本地模式:cp,rm 2.通道模式:s…
 转自 记录一下putty的pscp的用法 - 刘荣星的博客 https://www.liurongxing.com/how-use-the-putty-and-pscp.html 以前一直用SecureCRT汉化版,前段时间爆出的putty中文后门事件才开始关注putty和使用,只有一个文件太Happy了,不过没有SecureCRT这么多功能.不过我喜欢简单.但是用SSH还不知道怎么传文件上去,所以用了一下pscp还不错哦. 记录一下putty的pscp的用法,不然老忘记.哎,多用几次就能记住…
涉及redis,mysql,xtrabackup, tomcat 1. ubuntu中 #!/bin/bash #first, change to root #出错立刻中断 set -e apt-get update #useful tools apt-get -y install build-essential libssl-dev libcurl4-openssl-dev unzip makepasswd lrzsz \ language-pack-zh-hans-base python-p…
scp 是通过ssh协议传输数据,如果是想传输一个很大的数据,这几天我就遇到过,一个tar包,400G左右,通过scp拷贝时,有可能遇到服务器断电什么的悲剧问题,那么类似scp拷贝的另一个命令 rsync就可以实现意外中断后,下次继续传,命令如下: rsync -P --rsh=ssh home.tar root@192.168.0.34:/home/home.tar -P: 是包含了 “–partial –progress”, 部分传送和显示进度 -rsh=ssh 表示使用ssh协议传送数据…
版权声明:本文为博主原创文章,未经允许不得转载. 引子 在平常的工作中,我经常需要在远程服务器和本地之间传输文件. 以前我都使用scp命令,直到今天因为网络中断,scp出现了stalled. 因为上传的是一个100G的文件,所以如果需要重新传非常消耗时间. 好在过了一会儿scp自动断点续传了,但还是很后怕,因为我不确定scp是否能每次都成功断点续传. 所以这时候rsync就非常必要了. scp和rsync对比:scp节约资源,系统负荷小,但断点续传是个问题:rsync速度更快,断点续传方便,但系…
# rsync -avzP file root@172.20.7.219:/root/tmp           (我这里file指要传送的文件)…
scp传文件的话如果出错就得重新来过, 用rsync可以实现断点上传的功能   大概就是这样用:  rsync -P --rsh=ssh home.tar 192.168.205.34:/home/home.tar   传输的文件会隐藏起来, 用ls -a查看. 如果中途出错, 再次运行同样的命令上传就可以了.…
linux下不同服务器间数据传输(rcp,scp,rsync,ftp,sftp,lftp,wget,curl) 分类: linux2011-10-10 13:21 8773人阅读 评论(1) 收藏 举报 服务器linuxftp服务器文档commandssh   目录(?)[+]   因为工作原因,需要经常在不同的服务器见进行文件传输,特别是大文件的传输,因此对linux下不同服务器间数据传输命令和工具进行了研究和总结.主要是rcp,scp,rsync,ftp,sftp,lftp,wget,cur…
rsync限速以及用法 -- :: 标签:限速 rsync 原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 .作者信息和本声明.否则将追究法律责任.http://xficc.blog.51cto.com/1189288/1567322 rsync是(限制为 100k Bytes/s): #rsync -auvzP--bwlimit= 本地的文件远程的文件 参数说明: v:详细提示 a:以archive模式操作,复制目录.符号连接,等价于 -rlptgoD . P:是综合了--pa…
1.scp 限速100KB/s scp -l 1000 test root@192.168.1.104 此时的传输速率就是1M/8=100KB左右 2.rsync 限速100KB/s rsync -auvzP --bwlimit=100 本地文件 远程文件 参数说明: v:详细提示 a:以archive模式操作,复制目录.符号连接,等价于 -rlptgoD . z:压缩 u:只进行更新,防止本地新文件被重写,注意两者机器的时钟的同时 P:是综合了--partial --progress两个参数,…
本篇接着介绍网络相关命令:wget 文件下载工具.curl 网络数据传输工具.rsync 文件传输工具等. 本篇接着介绍网络相关命令 1.wget 文件下载工具 wget [option]... [URL]... wget是一个非交互的下载器,支持HTTP, HTTPS和FTP协议,也可以使用代理.所谓'非交互'意思是说,可以在一个系统中启动一个wget下载任务,然后退出系统,wget会在完成下载(或出现异常)之后才退出,不需要用户参与. [root@centos7 temp]# wget ht…
测试环境 1.1服务器硬件信息 1.2 服务器软件信息 1.3 Rsync所能够支持的功能 (1)支持断点续传 (2)支持使用ssh传输加密 (3)支持128位MD4校验(3.0以后版本使用MD5加密) (4)支持镜像 (5)支持限速 (6)支持目录层级递归拷贝 1.4常用Rsync参数详解 -a, --archive It is a quick way of saying you want recursion and want to preserve almost everything. -r…
一/scp限速1M #scp -l 1000 文件名 账号@远程机器IP此时的传输速率就是1M/8=100K左右 二/rsync是(限制为 100k Bytes/s): #rsync -auvzP--bwlimit=100 本地的文件 远程的文件 参数说明: v:详细提示 a:以archive模式操作,复制目录.符号连接,等价于 -rlptgoD . z:压缩 u:只进行更新,防止本地新文件被重写,注意两者机器的时钟的同时 P:是综合了--partial --progress两个参数, 所以此时…
[rsync实现网站的备份,文件的同步,不同系统的文件的同步,如果是windows的话,需要windows版本cwrsync] 一.什么是rsync rsync,remote synchronize顾名思意就知道它是一款实现远程同步功能的软件,它在同步文件的同时,可以保持原来文件的权限.时间.软硬链接等附加信息. rsync是用 “rsync 算法”提供了一个客户机和远程文件服务器的文件同步的快速方法,而且可以通过ssh方式来传输文件,这样其保密性也非常好,另外它还是免费的软件. rsync 包…
如果你是一位运维工程师,你很可能会面对几十台.几百台甚至上千台服务器,除了批量操作外,环境同步.数据同步也是必不可少的技能. 说到“同步”,不得不提的利器就是rsync,今天就来说说我从这个工具中看到的同步的艺术. [不带任何选项] 我们经常这样使用rsync: $ rsync main.c machineB:/home/userB1 只要目的端的文件内容和源端不一样,就会触发数据同步,rsync会确保两边的文件内容一样.2 但rsync不会同步文件的“modify time”,凡是有数据同步的…
rsync和find是linux系统自带的命令,如果没有安装可以找到系统安装盘或者ISO文件,里面有rpm包,安装一下就可以了.       具体思路如下:             1)可以实现定时进行rsync.系统定时任务可以搞定这个事,具体可参见下面的网址: 例如: #crontab -e   0 17 * * 1-5 rsync -ave ssh 192.168.0.103:/my /my                     http://fenglingcorp.iteye.com…
一直没有对这个命令太有深入的理解 简介 rsync 即 remote sync,一个远程与本地文件同步工具.rsync 使用的算法能够最小化所需复制的数据,因为它只移动那些修改了的文件. rsync 是一个非常灵活的同步工具,它也是一种使用该工具的网络协议名称.本文中所说的 rsync 都是指同步工具,而非网络协议.由于它在类 Unix 系统中广为流行,它也是大多数 Linux 发行版的默认自带工具. 基本语法 rsync 的基本语法非常简单,类似于 ssh, scp 和 cp 命令的语法. 例…
目录 Rsync的工具剖析与使用 0.Rsync的介绍 1.Rsync的特性 2.Rsync的部署安装 3.搭建远程备份系统. Rsync的工具剖析与使用 0.Rsync的介绍 rsync是Linux系统下的文件同步和数据传输工具,它基于"delta-transfer"算法闻名遐迩,保证客户端和远程服务器端之间的文件同步,rsync可以支持断点续传:rsync只传输源文件和目标文件之间不一致的部分:rsync支持执行完整备份和增量备份. 1.Rsync的特性 镜像整个目录树和文件系统…
linux命令 rsync -P --rsh=ssh homefile.zip root@30.19.103.99:/home/remote.zip 这个命令的含义: -P 断点续传 -rsh ssh 远程shell homefile.zip 本地文件 root@30.19.103.99:/home/remote.zip 远程主机上的目的文件 root是远程用户名…
简介 rsync 即 remote sync,一个远程与本地文件同步工具.rsync 使用的算法能够最小化所需复制的数据,因为它只移动那些修改了的文件. rsync 是一个非常灵活的同步工具,它也是一种使用该工具的网络协议名称.本文中所说的 rsync 都是指同步工具,而非网络协议.由于它在类 Unix 系统中广为流行,它也是大多数 Linux 发行版的默认自带工具. 基本语法 rsync 的基本语法非常简单,类似于 ssh, scp 和 cp 命令的语法. 例如我们创建两个目录和一些文件: c…
-a, --archive archive mode; equals -rlptgoD (no -H,-A,-X) -r, --recursive recurse into directories -l, --links copy symlinks as symlinks -p, --perms preserve permissions -t, --times preserve modification times -g, --group preserve group -o, --owner p…
一.Rsync 原理图 二.Rsync 原理描述 2.1:什么是Rsync Rsync是备份的一款软件,它可以实现全量备份.增量备份,也可以在不改变内容.属性的情况下进行同步备份,端口默认是873 2.2:Rsync的三种工作模式 Rsync支持本地备份(相当于本地的CP命令).远程备份(通过SSH).通过daemon模式(服务端.客户端)可以进行Pull拉取数据和Push推送数据 2.3:Rsync原理阐述(针对常用的daemon模式) ① Rsync客户端执行Rsync命令,去向服务端认证…
centos linux 系统日常管理4  scp,rsync,md5sum,sha1sum,strace ,find Rsync 常见错误及解决方法  第十七节课 rsync可以增量同步,scp不行 注意:修改sshd_config文件时候,port字段,sshd不支持监听小于1024 ,1~1023不允许自定义(保留端口) 注意:scp和rsync都可以用密钥登录,避免输入密码,关闭selinux 注意:当目标文件存在的情况下,scp跟rsync都会支持覆盖目标文件,不会询问,而第一次scp…