Tajo--一个分布式数据仓库系统(分布式环境安装试用)
前面两篇介绍了一下tajo,下面就说一下安装和使用吧。
一、分布式安装
前提:hadoop2中的hdfs和yarn已经安装并运行正常。
1、下载source并build源码
$git clone https://git-wip-us.apache.org/repos/asf/incubator-tajo.git tajo $ cd tajo $ mvn clean package -DskipTests -Pdist -Dtar $ ls tajo-dist/target/tajo-x.y.z-SNAPSHOT.tar.gz
2、将tag.gz解压到需要安装的地方
$ tar xzvf tajo-0.2.-SNAPSHOT.tar.gz
3、配置tajo-site.xml
<property>
<name>tajo.rootdir</name>
<value>hdfs://hostname:9000/tajo</value>
</property>
<property>
<name>tajo.worker.tmpdir.locations</name>
<value>/home/ds/clouderaCDH/tajoTmp</value>
</property>
<property>
<name>tajo.master.umbilical-rpc.address</name>
<value>hostname:</value>
</property>
<property>
<name>tajo.catalog.client-rpc.address</name>
<value>hostname:</value>
</property>
<property>
<name>tajo.master.client-rpc.address</name>
<value>hostname:</value>
</property>
<property>
<name>tajo.worker.parallel-execution.max-num</name>
<value></value>
</property>
4、 配置tag-env.sh
# Hadoop home. Required export HADOOP_HOME=/home/ds/clouderaCDH/hadoop-2.0.-cdh4.2.1 # The java implementation to use. Required. export JAVA_HOME=/usr/lib/jvm/java--sun # The maximum amount of heap to use, in MB. Default is . export TAJO_MASTER_HEAPSIZE= # The maximum amount of heap to use, in MB. Default is . export TAJO_WORKER_HEAPSIZE=
5、 配置workers文件
worker01
worker02
6、 将配置好的tajo同步到其他节点并启动
scp -r tajo02 worker01:/home/ds/clouderaCDH/ bin/start-tajo.sh
7、 查看进程是否启动
jps
TajoMaster
TajoWorker
二、SQL交互
创建表
1、 从hdfs上得csv文件创建外部表
test文件夹下放一个data.csv文件,内容:
|abc|1.1|a
|def|2.3|b
|ghi|3.4|c
|jkl|4.5|d
|mno|5.6|e
创建表并load数据
create external table table1 (id int, name text, score float, type text) using csv with ('csvfile.delimiter'='|') location 'hdfs://hostname:9000/tajo/warehouse/test’
查询交互
支持绝大部分的SQL92。
1、使用limit查询
$ select * from table1 limit ; id, name, score, type
-------------------------------
, abc, 1.1, a
, def, 2.3, b
三、参考资料
[1] http://wiki.apache.org/tajo
[2] http://tajo.incubator.apache.org/
[3] https://issues.apache.org/jira/browse/TAJO
Tajo--一个分布式数据仓库系统(分布式环境安装试用)的更多相关文章
- Ubuntu15.10下Hadoop2.6.0伪分布式环境安装配置及Hadoop Streaming的体验
Ubuntu用的是Ubuntu15.10Beta2版本,正式的版本好像要到这个月的22号才发布.参考的资料主要是http://www.powerxing.com/install-hadoop-clus ...
- Hadoop Yarn(一)—— 单机伪分布式环境安装
HamaWhite(QQ:530422429)原创作品,转载请注明出处:http://write.blog.csdn.net/postedit/40556267. 本文是依据Hadoop官网安装教程写 ...
- Hadoop 3.1.3伪分布式环境安装Hive 3.1.2的异常总结
背景:hadoop版本为3.1.3, 且以伪分布式形式安装,hive版本为3.1.2,hive为hadoop的一个客户端. 1. 安装简要步骤 (1) 官网下载apache-hive-3.1.2-bi ...
- Hadoop伪分布式环境安装
一.环境准备 阿里云ECS(Centos7).已预装JDK8 Hadoop安装包 hadoop-2.7.7.tar.gz 二. 安装步骤 1.确认JDK环境的安装位置 命令 echo $JAVA_HO ...
- Hbase 分布式环境安装部署
Hbase分布式集群搭建--安装步骤 这一步如果没有deploy.sh脚本的可以使用scp命令分别分发到其他节点去 到集群里看看安装好的hbase 使用脚本启动所有节点的zookeeper 启动HDF ...
- hadoop分布式环境安装
1. 下载hadoop和jdk安装包到指定目录,并安装java环境. 2.解压hadoop到指定目录,配置环境变量.vim /etc/profile export JAVA_HOME=/home/xi ...
- hadoop 分布式环境安装
centos 多台机器免密登录 hadoop学习笔记(五)--全分布模式下SSH免密码登陆的实现 参考安装教程 Hadoop-2.7.4 集群快速搭建 启动hadoop cd /opt/soft/ha ...
- Hadoop完全分布式环境搭建(四)——基于Ubuntu16.04安装和配置Hadoop大数据环境
[系统环境] [安装配置概要] 1.上传hadoop安装文件到主节点机器 2.给文件夹设置权限 3.解压 4.拷贝到目标文件夹 放在/opt文件夹下,目录结构:/opt/hadoop/hadoop-2 ...
- Tajo--一个分布式数据仓库系统(概述)
前言:一直对OS X比较仰慕,刚工作送给自己的第一件大礼就是mac pro,嘿嘿.最近在看一个叫tajo得分布式数据仓库,需要依赖protoc 2.4.1,2.5.0都不work,不知道为啥,我在装2 ...
随机推荐
- Yii2 使用 bootboxJS美化confirm窗口
有些关键操作比如删除,我们在执行前一般先弹出来个confirm确认窗口. 在Yii2中为一个操作添加confirm确认很容易.只需在链接出添加一个‘data-confirm' => '确实要添加 ...
- 关于网易云验证码V1.0版本的服务介绍
服务介绍 易盾验证码是一个用于区分人和机器的通用验证码组件.传统的字符型验证码由于存在破解率高,用户体验不友好等问题,已不适用于现今的互联网环境.易盾验证码抛弃了传统字符型验证码展示-填写字符-比对答 ...
- 通过dotnet命令行设置asp.net core服务的启动地址
需求: 通过dotnet命令行启动asp.net core 服务时,自定义监听端口. 方法: 在program.cs中增加命令行参数配置: WebHost.CreateDefaultBuilder(a ...
- php小项目小结
最近一直断更,并不是出于什么问题,而是想找个合适的机会去整理下html基本的一些琐碎的知识点 近期突发感冒,吊水,吊错药,原因只是重名重姓,这不是个梗,很是痛苦的现实事故 so,只能用剩下的半天去完成 ...
- 一次性搞定Session
相信很多人遇到过同一个浏览器会出现Session覆盖问题.今天主要针对Session覆盖问题来看看Session是如何工作的.那么先看一张简单的图说明一下 上面的图大致的说明Session工作简单创建 ...
- Scrapy模拟登录GitHub
d: 进入D盘 scrapy startproject GitHub 创建项目 scrapy genspider github github.com 创建爬虫 编辑github.py: # -*- c ...
- 高可用Kubernetes集群-9. 部署kubelet
十一.部署kubelet 接下来两个章节是部署Kube-Node相关的服务,包含:kubelet,kube-proxy. 1. TLS bootstrap用户授权 # kubelet采用TLS Boo ...
- 无法找到 ContextLoaderListener 类
问题:java.lang.ClassNotFoundException: org.springframework.web.context.ContextLoaderListener 原因:Eclips ...
- Linux学习——echo和read命令用法
转载自http://www.runoob.com/linux/linux-comm-read.html http://www.178linux.com/76331 echo命令 本文列举了echo命令 ...
- 20181016-4 Alpha阶段第1周/共2周 Scrum立会报告+燃尽图 03
此作业链接地址见:https://edu.cnblogs.com/campus/nenu/2018fall/homework/2248 Scrum master:王硕 一.小组介绍 组长:王一可 组员 ...