【Linux】rsync同步文件 & 程序自启动
rsync使用
1. 为什么使用rsync?
rsync解决linux系统下文件同步时, 增量同步问题.
使用场景: 线上需要定时备份数据文件(视频资源), 使用rsync完成每天的增量备份.
参见: http://roclinux.cn/?p=2643
http://www.ibm.com/developerworks/cn/linux/l-cn-nohup/
2. rsync使用遇到的问题
线上数据文件全量备份, 32T数据, 主要是视频文件, 数据量较大, 按照100M/s, 需要3天+, 启动后在执行3h左右时出错, 备份程序退出.日志如下:
rsync error: received SIGINT, SIGTERM, or SIGHUP (code ) at rsync.c() [sender=3.0.]
rsync: writefd_unbuffered failed to write bytes to socket [generator]: Broken pipe ()
:可能是数据量较多, 导致备份出错??? 还未找到原因.
3. rsync删除大量文件应用(于rm -rf等的比较)
参见: linux删除大量文件的6种方法
经测试, rsync与 rm-rf dir/ 时间上并无太大区别.
linux 积累
1. 后台执行程序
  让程序忽略hangup信号 nohup %cmd% &
让程序的父进程是init进程,而不是当前终端的进程 setsid %cmd%
参见:
如何在Linux后台运行一个程序
linux命令后台运行
http://segmentfault.com/a/1190000002803307
2.查看文件的创建日期(stat)
使用ls -l 显示的是文件的最后修改时间; 如何查看文件的创建时间? 参见:
在Linux下,一个文件也有三种时间,分别是:访问时间、修改时间、状态改动时间
说明:Access访问时间。Modify修改时间。Change状态改动时间。可以stat *查看这个目录所有文件的状态。
关于stat命令:
[root@streamserver ~]# stat .txt
File: `.txt'
Size: Blocks: IO Block: regular file
Device: fd00h/64768d Inode: Links:
Access: (/-rw-r--r--) Uid: ( / root) Gid: ( / root)
Access: -- ::31.845546973 +
Modify: -- ::29.555491379 +
Change: -- ::29.555491379 +
经centOS4.4.7 验证: accessTime即为文件的创建时间(文章提到的more,less查看文件并不修改此时间)
3. 统计文件个数
ls -l|wc -l
包括子文件夹: ls -lR|wc -l
参见:sina blog:Linux统计某文件夹下文件、文件夹的个数
【Linux】rsync同步文件 & 程序自启动的更多相关文章
- Linux Rsync实现文件同步备份(转载)
		
原文地址:Linux Rsync实现文件同步备份作者:夷北 转自:http://www.mike.org.cn/blog/index.php?load=read&id=639###pp=0 [ ...
 - 使用rsync同步文件
		
rsync是Unix/Linux下同步文件的一个高效算法,它能同步更新两处计算机的文件与目录,并适当利用查找文件中的不同块以减少数据传输.关于rsync的核心算法,有兴趣的看下这篇文章. 这里介绍一下 ...
 - linux rsync同步工具
		
linux rsync同步工具 1.rsync介绍rsync是一款开源的.快速的.多功能的.可实现全量及增量的本地或远程数据同步备份的优秀工具.rsync软件适用于unix/linux/windows ...
 - rsync 同步文件重复拷贝问题
		
rsync 是同步文件的利器,一般用于多个机器之间的文件同步与备份,同时也支持在本地的不同目录之间互相同步文件.在这种场景下,rsync 远比 cp 命令更加合适,它只会同步需要更新的文件,默认情况下 ...
 - rsync 同步文件
		
rsync 同步文件 rsync -avz roo@192.168.4.12::/home/a ./a --exclude "data" exclude 去掉/a/data 文件 ...
 - Linux rsync 同步实践
		
目录[-] 1. rsync 同步的大致思路 2. rsync的安装 3. rsync的配置 4. rsync的基本操作 服务器端启动 注2. 实时同步 注3. rsync通过linux防火墙 公司网 ...
 - 通过 lsyncd + rsync 同步文件
		
通过rsyncd实现将源服务器上的文件同步到目标服务器,通过lsyncd监控源服务器上的文件是否有变动,若有变动调用rsyncd服务对差异的文件进行同步. 0. lsyncd有三种同步文件的方式: ( ...
 - rsync同步文件到远程机器,卡住10多秒--问题解决过程
		
背景 以前大体介绍过,我们这边是做运维平台的.如果要形象化理解,那么,比如jenkins这种喜闻乐见的软件大致了解吧,jenkins就经常需要同步文件/版本包到远程机器上,jenkins怎么实现的,没 ...
 - Windows服务器之间rsync同步文件
		
两台windows7机器 server:192.168.12.104 client:192.168.12.103 目的:将server上的E盘的目录FYFR里面的内容定时同步到client上的D盘下F ...
 
随机推荐
- Python学习 之 包和模块
			
1.rpm -ql python #查看python在计算机中安装了哪些文件 2.模块是一个可以导入的Python脚本文件 包是一堆按目录组织的模块和子包,目录下的__init__.py文件存放了包的 ...
 - 关于使用NotificationComat导致android2.3及以下版本无法显示自定义布局的解决方法.
			
大伙都知道 android-support-v4为我们提供了很多兼容的解决方案, 其中就有关于通知栏的. NotificationCompat, 顺利成章操刀显示通知. eg: Intent inte ...
 - Windows下用Git下载android源码 转载
			
http://my.oschina.net/jiadebin/blog/52631 1.首先你的电脑要安装好git,这个请参考git官网. 2.打开git命令窗口输入git clone http:// ...
 - SQL Server中内连接和外连接的区别
			
SQL Server中内连接和外连接的区别 假设一个数据库中有两张表,一张是学生表StudentInfo,一张是班级表ClassInfo,两张表之间用ClassId字段进行关联. 如果用内连接,正常的 ...
 - 网口扫盲三:以太网芯片MAC和PHY的关系
			
转载:http://www.cnblogs.com/jason-lu/articles/3195473.html 问:如何实现单片以太网微控制器? 答:诀窍是将微控制器.以太网媒体接入控制器(MA ...
 - linux高可用集群(HA)原理详解(转载)
			
一.什么是高可用集群 高可用集群就是当某一个节点或服务器发生故障时,另一个 节点能够自动且立即向外提供服务,即将有故障节点上的资源转移到另一个节点上去,这样另一个节点有了资源既可以向外提供服务.高可用 ...
 - Android NDK开发之Android.mk文件
			
Android NDK开发指南---Android.mk文件 博客分类: Android NDK开发指南 Android.mk文件语法详述 介绍: ------------ 这篇文档是用来描述你的 ...
 - 蓝牙 CoreBluetooth
			
baseK(相关基础知识)蓝牙常见名称和缩写 BLE:(Bluetooth low energy)蓝牙4.0设备因为低耗电,也叫BLEperipheral,central:外设和中心设备,发起链接的是 ...
 - React History
			
1. browerhistory 1. 推荐使用, 2. nginx服务器要配置try-file,当找不到路由时跳转到首页 3. 使用浏览器history对象,不再允许直接访问nn 所以不能直接拷贝地 ...
 - es6模板字符串 问题记录
			
自古无图无真相,望各位博主在条件允许的情况下,配张图片吧! 界面是用join拼接的,当循环td的时候会产生一个空串,界面就会出现一个逗号, 虽然功能块算实现了,不过始终美中不足,然后想到的办法是替换所 ...