linux下使用split 来分割大文件

2010-07-27 15:46:27|  分类: 技术文稿 |  标签:split  分割  linux   |字号 订阅

 

平常都是使用ssh来进行远程操作和传输文件 , 这个工具可以很方便的实现我们所需要的功能,一直使用正常,没遇到什么问题,今天因为需要传一个412M的文件 , 无论如何也传不过来, 一直系统报错。无奈之下GOOGLE了一下,发现可以使用split命令来切割文件,以方便进行文件传输。

[root@localhost database]# ls  -lh gkdb.db
-r--r--r--    1 root     root         411M Jul 23 17:20 gkdb.db

将将这个276M文件分割成20M的小文件,文件分割操作如下:

[root@localhost database]# split  -b  20m  gkdb.db   gkdb_pack_

split 是命今。

-B  20M  是指将每个分卷文件最大20M 。

gkdb.db   需要分割的文件。

gkdb_pack_  是指分割后的文件开头, 分割后后的文件名一般为   gkdb_pack_aa、gkdb_pack_ab、gkdb_pack_ac依次类推。

显示分割后的文件名及大小

[root@localhost database]# ll -lh  gkdb_pack_a*
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_aa
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_ab
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_ac
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_ad
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_ae
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_af
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_ag
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_ah
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_ai
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_aj
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_ak
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_al
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_am
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_an
-rw-r--r--    1 root     root          20M Jul 27 16:09 gkdb_pack_ao
-rw-r--r--    1 root     root          20M Jul 27 16:10 gkdb_pack_ap
-rw-r--r--    1 root     root          20M Jul 27 16:10 gkdb_pack_aq
-rw-r--r--    1 root     root          20M Jul 27 16:10 gkdb_pack_ar
-rw-r--r--    1 root     root          20M Jul 27 16:10 gkdb_pack_as
-rw-r--r--    1 root     root          20M Jul 27 16:10 gkdb_pack_at
-rw-r--r--    1 root     root          11M Jul 27 16:10 gkdb_pack_au

最下面的那个文件是剩余的文件。  20*20+11=411MB

合并文件

[root@localhost database]# cat  gkdb_pack_*>gkdb.tar.gz

组装前和组装后的MD5值都是一样的,不信的话可以使用md5sum命令来检测一下。

如果要分割的是一个文本文件,比如有好几千行,当然每行的字符数是不等的,想要以行数为分割,比如每100行生成1个文件,只需要 -l 参数,如下:
 
[root@pps public_rw]# split -l 100 test.txt
 
其实,如果不加任何参数,默认情况下是以1000行大小来分割的。

linux下使用split 来分割大文件的更多相关文章

  1. Linux系统下使用split命令分割大文件 (转载)

    原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 .作者信息和本声明.否则将追究法律责任.http://snailwarrior.blog.51cto.com/680306/140531 ...

  2. 通过split命令分割大文件

    场景 线上出了问题,我需要去查找log来定位问题,但是由于线上数据量庞大,这些log文件每过一个小时就会自动回滚一次,尽管如此,有的log文件依然达到了五六g以上的大小. 对于这种巨大的log文件,常 ...

  3. linux下使用split命令分割文件且文件号从1开始

    Linux里切割大文件的命令如下: split [OPTION] [INPUT [PREFIX]] 选项如下: -a : 指定后缀长度 -b : 每个文件多少字节 -d : 使用数字后缀而不是字母 - ...

  4. linux下用split命令将一个大的文件拆分成若干小文件

    命令 split -l 50 wlan_date.txt wlan 说明:按50行给文件进行拆分,如果没有最后面的参数,命名将会是xaa,xab等.

  5. Linux培训教程 linux系统下分割大文件的方法

    在linux中分割大文件,比如一个5gb日志文件,需要把它分成多个小文件,分割后以利于普通的文本编辑器读取. 有时,需要传输20gb的大文件,Linux培训 教程件到另一台服务器,也需要把它分割成多个 ...

  6. Linux 查看磁盘容量、查找大文件、查找大目录

    Linux 查看磁盘容量.查找大文件.查找大目录 磁盘统计 查看磁盘使用情况 df -h 文件统计 查找/home 目录下大于800M的文件 find /home -type f -size +800 ...

  7. 【java】 linux下利用nohup后台运行jar文件包程序

    Linux 运行jar包命令如下: 方式一: java -jar XXX.jar 特点:当前ssh窗口被锁定,可按CTRL + C打断程序运行,或直接关闭窗口,程序退出 那如何让窗口不锁定? 方式二 ...

  8. Linux下查找包含BOM头的文件和清除BOM头命令 2014-08-16 12:30:50

    Linux下查找包含BOM头的文件和清除BOM头命令 2014-08-16 12:30:50 分类: 系统运维 查找包含BOM头的文件,命令如下: 点击(此处)折叠或打开 grep -r -I -l ...

  9. linux下通过acl配置灵活目录文件权限(可用于ftp,web服务器的用户权限控制)

    linux下通过acl配置灵活目录文件权限(可用于ftp,web服务器的用户权限控制) 发表于2012//07由feng linux 本身的ugo rwx的权限,对于精确的权限控制很是力不从心的,ac ...

随机推荐

  1. C# 重新改变数组的长度

    重新改变数组的长度 System.Array.Resize(ref FieldName, j);

  2. iOS 网络编程:JSON解析

    @import url(http://i.cnblogs.com/Load.ashx?type=style&file=SyntaxHighlighter.css);@import url(/c ...

  3. 用grunt搭建自动化的web前端开发环境-完整教程

    原稿:http://www.cnblogs.com/wangfupeng1988/p/4561993.html#!comments jQuery在使用grunt,bootstrap在使用grunt,百 ...

  4. [引]ASP.NET MVC 4 Content Map

    本文转自:http://msdn.microsoft.com/en-us/library/gg416514(v=vs.108).aspx The Model-View-Controller (MVC) ...

  5. vagrant yii2 Exception 'yii\db\Exception' with message 'SQLSTATE[HY000] [2002]

    开发环境:vangrant + LAMP 安装了yii2 advanced版本之后,通过url访问fornted 报数据库user表不存在,看了安装yii2 advanced的教程,里面说需要需要运行 ...

  6. [原创]HTML标签总结!! 第一次画 尚需要改进 多关照

    HTML 页面标签总结  拿xMind写了一下午总结的   只能传图片了   CSS明天整理  后天看看能不能传上来 //======================================= ...

  7. Spark:用Scala和Java实现WordCount

    http://www.cnblogs.com/byrhuangqiang/p/4017725.html 为了在IDEA中编写scala,今天安装配置学习了IDEA集成开发环境.IDEA确实很优秀,学会 ...

  8. EXT.NET学习笔记(一) 下载配置使用

    新公司使用ext.net开发,开始学习该知识: 首先下载ext.net,目前我使用的版本为1.7,该版本免费,基本的功能也够用,使用ext.net进行开发时强烈建议使用VS2015,能便捷的提示,大大 ...

  9. @Transactional详解

    @Transactional     spring 事务注解 默认遇到throw new RuntimeException("...");会回滚需要捕获的throw new Exc ...

  10. Java实战之03Spring-04Spring的数据库访问

    四.Spring的数据库访问 1.DAO模式 /** * 抽取的一个类 * @author zhy * */ public class JdbcDaoSupport { private QueryRu ...