Tajo--一个分布式数据仓库系统(分布式环境安装试用)
前面两篇介绍了一下tajo,下面就说一下安装和使用吧。
一、分布式安装
前提:hadoop2中的hdfs和yarn已经安装并运行正常。
1、下载source并build源码
$git clone https://git-wip-us.apache.org/repos/asf/incubator-tajo.git tajo $ cd tajo $ mvn clean package -DskipTests -Pdist -Dtar $ ls tajo-dist/target/tajo-x.y.z-SNAPSHOT.tar.gz
2、将tag.gz解压到需要安装的地方
$ tar xzvf tajo-0.2.-SNAPSHOT.tar.gz
3、配置tajo-site.xml
<property>
<name>tajo.rootdir</name>
<value>hdfs://hostname:9000/tajo</value>
</property>
<property>
<name>tajo.worker.tmpdir.locations</name>
<value>/home/ds/clouderaCDH/tajoTmp</value>
</property>
<property>
<name>tajo.master.umbilical-rpc.address</name>
<value>hostname:</value>
</property>
<property>
<name>tajo.catalog.client-rpc.address</name>
<value>hostname:</value>
</property>
<property>
<name>tajo.master.client-rpc.address</name>
<value>hostname:</value>
</property>
<property>
<name>tajo.worker.parallel-execution.max-num</name>
<value></value>
</property>
4、 配置tag-env.sh
# Hadoop home. Required export HADOOP_HOME=/home/ds/clouderaCDH/hadoop-2.0.-cdh4.2.1 # The java implementation to use. Required. export JAVA_HOME=/usr/lib/jvm/java--sun # The maximum amount of heap to use, in MB. Default is . export TAJO_MASTER_HEAPSIZE= # The maximum amount of heap to use, in MB. Default is . export TAJO_WORKER_HEAPSIZE=
5、 配置workers文件
worker01
worker02
6、 将配置好的tajo同步到其他节点并启动
scp -r tajo02 worker01:/home/ds/clouderaCDH/ bin/start-tajo.sh
7、 查看进程是否启动
jps
TajoMaster
TajoWorker
二、SQL交互
创建表
1、 从hdfs上得csv文件创建外部表
test文件夹下放一个data.csv文件,内容:
|abc|1.1|a
|def|2.3|b
|ghi|3.4|c
|jkl|4.5|d
|mno|5.6|e
创建表并load数据
create external table table1 (id int, name text, score float, type text) using csv with ('csvfile.delimiter'='|') location 'hdfs://hostname:9000/tajo/warehouse/test’
查询交互
支持绝大部分的SQL92。
1、使用limit查询
$ select * from table1 limit ; id, name, score, type
-------------------------------
, abc, 1.1, a
, def, 2.3, b
三、参考资料
[1] http://wiki.apache.org/tajo
[2] http://tajo.incubator.apache.org/
[3] https://issues.apache.org/jira/browse/TAJO
Tajo--一个分布式数据仓库系统(分布式环境安装试用)的更多相关文章
- Ubuntu15.10下Hadoop2.6.0伪分布式环境安装配置及Hadoop Streaming的体验
Ubuntu用的是Ubuntu15.10Beta2版本,正式的版本好像要到这个月的22号才发布.参考的资料主要是http://www.powerxing.com/install-hadoop-clus ...
- Hadoop Yarn(一)—— 单机伪分布式环境安装
HamaWhite(QQ:530422429)原创作品,转载请注明出处:http://write.blog.csdn.net/postedit/40556267. 本文是依据Hadoop官网安装教程写 ...
- Hadoop 3.1.3伪分布式环境安装Hive 3.1.2的异常总结
背景:hadoop版本为3.1.3, 且以伪分布式形式安装,hive版本为3.1.2,hive为hadoop的一个客户端. 1. 安装简要步骤 (1) 官网下载apache-hive-3.1.2-bi ...
- Hadoop伪分布式环境安装
一.环境准备 阿里云ECS(Centos7).已预装JDK8 Hadoop安装包 hadoop-2.7.7.tar.gz 二. 安装步骤 1.确认JDK环境的安装位置 命令 echo $JAVA_HO ...
- Hbase 分布式环境安装部署
Hbase分布式集群搭建--安装步骤 这一步如果没有deploy.sh脚本的可以使用scp命令分别分发到其他节点去 到集群里看看安装好的hbase 使用脚本启动所有节点的zookeeper 启动HDF ...
- hadoop分布式环境安装
1. 下载hadoop和jdk安装包到指定目录,并安装java环境. 2.解压hadoop到指定目录,配置环境变量.vim /etc/profile export JAVA_HOME=/home/xi ...
- hadoop 分布式环境安装
centos 多台机器免密登录 hadoop学习笔记(五)--全分布模式下SSH免密码登陆的实现 参考安装教程 Hadoop-2.7.4 集群快速搭建 启动hadoop cd /opt/soft/ha ...
- Hadoop完全分布式环境搭建(四)——基于Ubuntu16.04安装和配置Hadoop大数据环境
[系统环境] [安装配置概要] 1.上传hadoop安装文件到主节点机器 2.给文件夹设置权限 3.解压 4.拷贝到目标文件夹 放在/opt文件夹下,目录结构:/opt/hadoop/hadoop-2 ...
- Tajo--一个分布式数据仓库系统(概述)
前言:一直对OS X比较仰慕,刚工作送给自己的第一件大礼就是mac pro,嘿嘿.最近在看一个叫tajo得分布式数据仓库,需要依赖protoc 2.4.1,2.5.0都不work,不知道为啥,我在装2 ...
随机推荐
- ES6 localStorage 类库
无意中看到的,记录下. 用到了es6语法.支持在js中写构造函数 class CovLocalDB { constructor (name) { this.LS = null this.name = ...
- java class file
目录 什么是java类文件 幻数 主次版本号 常量池数和常量池 this_class super_class 接口数量和接口 字段数和字段 方法数和方法 以下内容主要还是参考<Inside JV ...
- Jmeter接口测试(四)传递参数
参数设置 Jmeter 支持通过 查询字符串参数(Query String Parameters) 或者 Request body 请求体来传递参数. 1.get请求是普通键值对 get请求一般通过p ...
- 第七篇 Postman+Node.js+Newman+Jenkins实现自动化测试
今天终于不咋忙了,学习整理一下一直想做却没实现的事儿,这事已经折磨团队半年之久了.因为项目是B端业务的测试,测试过程中需要生产大量的测试数据,而且都是跨多个系统的测试,对于后置流程的测试,这些同学往往 ...
- MySQL5.6.14从安装到启动全过程
1.下载 地址:http://dev.mysql.com/downloads/mysql/ 这里选择的是Linux-Generic平台,下载了MySQL-5.6.14-1.linux_glibc2.5 ...
- docker部署war包到阿里云
最近买了个阿里云服务器,配置1核2g内存,学习够了.记录下过程. 1,服务器相关,请看下图,云服务器主要配置是安全组和密钥,前者是开放端口,后者可以用于远程连接(比如我windows系统通过putty ...
- 生成dataset的几种方式
1.常用的方式通过sparksession读取外部文件或者数据生成dataset(这里就不讲了) 注: 生成Row对象的方法提一下:RowFactory.create(x,y,z),取Row中的数据 ...
- PHP中的闭包详解
PHP闭包(Closure)使用详解 作者: 字体:[增加 减小] 类型:转载 时间:2013-05-02我要评论 本篇文章介绍了,PHP闭包(Closure)的使用介绍,需要的朋友参考下 不知不 ...
- NSURLErrorDomain错误代码
kCFURLErrorUnknown = -998, kCFURLErrorCancelled = -999, kCFURLErrorBadURL = -1000, kCFURLErrorTimedO ...
- Lucene 高级搜索
自定义评分 public class MyScoreQuery { public void searchByScoreQuery(){ try { IndexSearcher searcher=new ...