通用参数

import

export

通用通用参数
选项     含义说明
–connect     指定JDBC连接字符串
–connection-manager     指定要使用的连接管理器类
–driver     指定要使用的JDBC驱动类
–hadoop-mapred-home
    指定$HADOOP_MAPRED_HOME路径
–help     打印用法帮助信息
–password-file     设置用于存放认证的密码信息文件的路径
-P     从控制台读取输入的密码
–password     设置认证密码
–username     设置认证用户名
–verbose     打印详细的运行信息
–connection-param-file     可选,指定存储数据库连接参数的属性文件

import
选项     含义说明
–append     将数据追加到HDFS上一个已存在的数据集上
–as-avrodatafile     将数据导入到Avro数据文件
–as-sequencefile     将数据导入到SequenceFile
–as-textfile     将数据导入到普通文本文件(默认)
–boundary-query     边界查询,用于创建分片(InputSplit)
–columns <col,col,col…>     从表中导出指定的一组列的数据
–delete-target-dir     如果指定目录存在,则先删除掉
–direct     使用直接导入模式(优化导入速度)
–direct-split-size     分割输入stream的字节大小(在直接导入模式下)
–fetch-size     从数据库中批量读取记录数
–inline-lob-limit     设置内联的LOB对象的大小
-m,–num-mappers     使用n个map任务并行导入数据
-e,–query     导入的查询语句
–split-by     指定按照哪个列去分割数据
–table     导入的源表表名
–target-dir
    导入HDFS的目标路径
–warehouse-dir
    HDFS存放表的根路径
–where     指定导出时所使用的查询条件
-z,–compress     启用压缩
–compression-codec     指定Hadoop的codec方式(默认gzip)
–null-string     果指定列为字符串类型,使用指定字符串替换值为null的该类列的值
–null-non-string <null-string     如果指定列为非字符串类型,使用指定字符串替换值为null的该类列的值

export
选项     含义说明
–validate     启用数据副本验证功能,仅支持单表拷贝,可以指定验证使用的实现类
–validation-threshold     指定验证门限所使用的类
–direct     使用直接导出模式(优化速度)
–export-dir
    导出过程中HDFS源路径
-m,–num-mappers     使用n个map任务并行导出
–table     导出的目的表名称
–call     导出数据调用的指定存储过程名
–update-key     更新参考的列名称,多个列名使用逗号分隔
–update-mode     指定更新策略,包括:updateonly(默认)、allowinsert
–input-null-string     使用指定字符串,替换字符串类型值为null的列
–input-null-non-string     使用指定字符串,替换非字符串类型值为null的列
–staging-table     在数据导出到数据库之前,数据临时存放的表名称
–clear-staging-table     清除工作区中临时存放的数据
–batch     使用批量模式导出
————————————————
版权声明:本文为CSDN博主「夏至1208」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/qq_34382453/article/details/83573141

Sqoop import export参数的更多相关文章

  1. sqoop import/export使用经验

    一.先创建一个小表(test_01)进行测试(主节点IP:169.254.109.130/oracle服务器IP:169.254.109.100) 1.测试连接oracle; sqoop list-t ...

  2. (MySQL里的数据)通过Sqoop Import Hive 里 和 通过Sqoop Export Hive 里的数据到(MySQL)

    Sqoop 可以与Hive系统结合,实现数据的导入和导出,用户需要在 sqoop-env.sh 中添加HIVE_HOME的环境变量. 具体,见我的如下博客: hadoop2.6.0(单节点)下Sqoo ...

  3. how to use Sqoop to import/ export data

    Sqoop is a tool designed for efficiently transferring data between RDBMS and HDFS, we can import dat ...

  4. (MySQL里的数据)通过Sqoop Import HDFS 里 和 通过Sqoop Export HDFS 里的数据到(MySQL)(五)

    下面我们结合 HDFS,介绍 Sqoop 从关系型数据库的导入和导出 一.MySQL里的数据通过Sqoop import HDFS 它的功能是将数据从关系型数据库导入 HDFS 中,其流程图如下所示. ...

  5. (MySQL里的数据)通过Sqoop Import HBase 里 和 通过Sqoop Export HBase 里的数据到(MySQL)

    Sqoop 可以与HBase系统结合,实现数据的导入和导出,用户需要在 sqoop-env.sh 中添加HBASE_HOME的环境变量. 具体,见我的如下博客: hadoop2.6.0(单节点)下Sq ...

  6. 【ABAP系列】SAP ABAP 给初学者-解读function函数的export和import等参数

    公众号:SAP Technical 本文作者:matinal 原文出处:http://www.cnblogs.com/SAPmatinal/ 原文链接:[ABAP系列]SAP ABAP 给初学者-解读 ...

  7. sqoop import 和export的问题

    sqoop import DB 2 hive(hdfs)是采用JDBC的过程,与传统hive区别在与多走了thrift server接口(稳定性待学习现在还比较模糊没做过大数据量测试),而export ...

  8. MSBI BigData demo—sqoop import

    --sp_readerrorlog 读取错误的信息记录 exec sys.sp_readerrorlog 0, 1, 'listening'查看端口号 首先hadoop环境要配置完毕,并检验可以正常启 ...

  9. sqoop 测试 --hive-delims-replacement 参数

    在hive的官方文档中给的例子中字段分隔符是\001,但是在他的API文档中--hive-delims-replacement ,--hive-drop-import-delims   参数中会处理的 ...

随机推荐

  1. 杭电OJ2010---水仙花数(c++)(方法:输出几个数之间用空格隔开,最后一个数没有空格)

    水仙花数 Problem Description 春天是鲜花的季节,水仙花就是其中最迷人的代表,数学上有个水仙花数,他是这样定义的: "水仙花数"是指一个三位数,它的各位数字的立方 ...

  2. 并发编程--锁--Lock和Synchronized

    说说对于 synchronized 关键字的了解? synchronized关键字解决的是多个线程之间访问资源的同步性: synchronized 关键字可以保证被它修饰的方法或者代码块在任意时刻只能 ...

  3. PHP curl爬取数据 加入cookie值

    public function get_cookie(){ header("Content-type:text/html;Charset=utf8"); $ch =curl_ini ...

  4. LeetCode53 最大子序列问题

    题目描述: 给定一个整数数组 nums ,找到一个具有最大和的连续子数组(子数组最少包含一个元素),返回其最大和.     示例:     输入: [-2,1,-3,4,-1,2,1,-5,4],   ...

  5. XSS-labs通关挑战(xss challenge)

    XSS-labs通关挑战(xss challenge) 0x00 xss-labs   最近在看xss,今天也就来做一下xss-labs通过挑战.找了好久的源码,终于被我给找到了,因为在GitHub上 ...

  6. (十五)xml模块

    xml是实现不同语言或程序之间进行数据交换的协议,跟json差不多,但json使用起来更简单,不过在json还没诞生的黑暗年代,大家只能选择用xml呀,至今很多传统公司如金融行业的很多系统的接口还主要 ...

  7. 更改mysql的密码

    mysql> set password for 'root'@'localhost' =PASSWORD('');Query OK, 0 rows affected (0.17 sec) mys ...

  8. 用其他主机docker login登录Harbor仓库报错

    做微服务的时候,我准备把编译好的jar包,部署到我的Harbor仓库上,却登录不上去,出现以下报错: [root@k8s-master ~]# docker login 192.168.30.24Us ...

  9. 关于阿里云服务器安装了Apache开放80端口访问不了网页

    先用netstat -tlunp查看80端口是否打开,再关闭服务器的防火墙,可以用 systemctl status firewalld 查看防火墙状态  systemctl stop firewal ...

  10. js中常用追加元素的几种方法

    <!DOCTYPE html> <html> <head> <meta charset="UTF-8"> <title> ...