Presto单机/集群模式安装笔记
Presto单机/集群模式安装笔记
一、安装环境
- JDK版本要求: 1.9.0_92+
二、安装步骤
官网下载最新版本
https://prestodb.io/docs/current/installation/deployment.html
配置,参考网址
http://prestodb-china.com/docs/current/installation/deployment.html
etc/node.properties暂时配置如下:
node.data-dir=/opt/dtwave/presto/data (新建data目录)注意删除etc/config.properties中的task.max-memory=1GB。 否则启动报如下错误:
启动服务: bin/launcher start
ERROR com.facebook.presto.server.PrestoServer Unable to create injector, see the following errors:
1) Error: Invalid configuration property node.environment: is malformed (for class io.airlift.node.NodeConfig.environment)
2) Error: Defunct property 'task.max-memory' (class [class com.facebook.presto.execution.TaskManagerConfig]) cannot be configured.
3.查询日志目录
/opt/dtwave/presto/data/var/log
4.浏览器查看
http://ip:8086/
5.下载客户端,下载到 /opt/dtwave/presto/bin目录下
https://prestodb.io/docs/current/installation/cli.html
重命名为 presto-cli
$ mv presto-cli-0.180-executable.jar presto-cli
$ chmod +x presto-cli
添加环境变量 /etc/profile
export PRESTO_HOME=/opt/dtwave/presto
export PATH=$PATH:$PRESTO_HOME/bin
source /etc/profile
6.配置Hive连接器,etc/catalog目录新建 hive.properties, 内容如下:
connector.name=hive-hadoop2
hive.metastore.uri=thrift://master106:9083
hive.config.resources=/opt/dtwave/hadoop/etc/hadoop/core-site.xml,/opt/dtwave/hadoop/etc/hadoop/hdfs-site.xml
7.连接Hive,
presto-cli –server outer_ip:8086 –catalog hive –schema default
presto-cli –server inner_ip:8086 –catalog hive –schema default
或者(不指定数据库)
presto-cli –server ip:8086 –cata 大专栏 Presto单机/集群模式安装笔记log hive
presto> describe hive.dtwave_dev.bas_user_info;
Column | Type | Extra | Comment
--------+---------+-------+---------
id | integer | |
name | varchar | |
age | integer | |
(3 rows)
Query 20170707_171515_00005_cxg9d, FINISHED, 1 node
Splits: 18 total, 18 done (100.00%)
0:01 [3 rows, 216B] [4 rows/s, 320B/s]
presto> select * from hive.dtwave_dev.bas_user_info limit 10;
id | name | age
----+-------+-----
1 | zhang | 23
2 | san | 24
3 | li | 35
=============================
三、集群模式安装:
从第一台安装好的persto机器上scp 文件夹过去
scp -r presto-server-0.180 hadoop@node47:/opt/dtwave/
scp -r presto-server-0.180 hadoop@1node.50:/opt/dtwave/
scp -r presto-server-0.180 hadoop@node172:/opt/dtwave/
scp -r jdk1.8.0_131 hadoop@node47:/opt/dtwave/
scp -r jdk1.8.0_131 hadoop@node50:/opt/dtwave/
scp -r jdk1.8.0_131 hadoop@node172:/opt/dtwave/
创建软链接:
ln -s presto-server-0.180 presto
删除目录/presto/data下所有旧文件。
配置环境变量:
export PRESTO_HOME=/opt/dtwave/presto
export PATH=$PATH:$PRESTO_HOME/bin
source /etc/profile
删除旧版本jdk软连接
rm -rf jdk
创建软链接升级JDK:
ln -s jdk1.8.0_131 jdk
3.1 集群模式修改配置部分
把Node172作为coordinator Node45和Node47作为Node。修改配置后重新启动。
3.1.1 coordinator 节点配置。
Node172配置
:vim config.properties
coordinator=true
node-scheduler.include-coordinator=false
task.max-memory=1GB
http-server.http.port=8086
discovery-server.enabled=true
discovery.uri=http://node172:8086
:vim node.properties
node.environment=dtwave
node.id=172
node.data-dir=/opt/dtwave/presto/data
3.1.2 node节点配置:【注意coordinator=false】
Node50
coordinator=false
http-server.http.port=8086
discovery-server.enabled=true
discovery.uri=http://node172:8086
node.environment=dtwave
node.id=50
node.data-dir=/opt/dtwave/presto/data
Node47
coordinator=false
http-server.http.port=8086
discovery-server.enabled=true
discovery.uri=http://node172:8086
node.environment=dtwave
node.id=47
node.data-dir=/opt/dtwave/presto/data
3.2 Cli远程连接测试:(指定Server为172)
presto-cli --server node172:8086 --catalog hive --schema default
Presto单机/集群模式安装笔记的更多相关文章
- Spark Tachyon编译部署(含单机和集群模式安装)
Tachyon编译部署 编译Tachyon 单机部署Tachyon 集群模式部署Tachyon 1.Tachyon编译部署 Tachyon目前的最新发布版为0.7.1,其官方网址为http://tac ...
- Hadoop学习笔记(4)hadoop集群模式安装
具体的过程参见伪分布模式的安装,集群模式的安装和伪分布模式的安装基本一样,只有细微的差别,写在下面: 修改masers和slavers文件: 在hadoop/conf文件夹中的配置文件中有两个文件ma ...
- Zookeeper实战之单机集群模式
前一篇文章介绍了Zookeeper的单机模式的安装及应用,但是Zookeeper是为了解决分布式应用场景的,所以通常都会运行在集群模式下.今天由于手头机器不足,所以今天打算在一台机器上部署三个Zook ...
- Kafka集群模式安装(二)
我们来安装Kafka的集群模式,三台机器: 192.168.131.128 192.168.131.130 192.168.131.131 Kafka集群需要依赖zookeeper,所以需要先安装好z ...
- hadoop单机and集群模式安装
最近在学习hadoop,第一步当然是亲手装一下hadoop了. 下面记录我hadoop安装的过程: 注意: 1,首先明确hadoop的安装是一个非常简单的过程,装hadoop的主要工作都在配置文件上, ...
- redis 集群模式安装
概念 Redis集群提供一种方式自动将数据分布在多个Redis节点上. 每个Redis集群中的节点都需要打开两个TCP连接.一个连接用于正常的给Client提供服务,比如6379,还有一个额外的端口( ...
- Spring集成Jedis(不依赖spring-data-redis)(单机/集群模式)(待实践)
Jedis是Redis的Java客户端,Spring将Jedis连接池作为一个Bean来配置.如果在Spring Data的官网上可以发现,Spring Data Redis已经将Jedis集成进去了 ...
- flink集群模式安装配置
一.手动下载安装包 wget http://mirrors.tuna.tsinghua.edu.cn/apache/flink/flink-1.6.1/flink-1.6.1-bin-hadoop27 ...
- hive集群模式安装
hadoop3.2.0 完全分布式安装 hive-3.1.1 #解压缩tar -zxvf /usr/local/soft/apache-hive-3.1.1-bin.tar.gz -C /usr/lo ...
随机推荐
- Pytorch——BERT 预训练模型及文本分类
BERT 预训练模型及文本分类 介绍 如果你关注自然语言处理技术的发展,那你一定听说过 BERT,它的诞生对自然语言处理领域具有着里程碑式的意义.本次试验将介绍 BERT 的模型结构,以及将其应用于文 ...
- 源码分析Dubbo服务消费端启动流程
通过前面文章详解,我们知道Dubbo服务消费者标签dubbo:reference最终会在Spring容器中创建一个对应的ReferenceBean实例,而ReferenceBean实现了Spring生 ...
- Flume(三) —— 断点续传 与 事务
断点续传 # Name the components on this agent a1.sources = r1 a1.sinks = k1 a1.channels = c1 # Describe / ...
- KMP匹配(模板)
先粘上我入门KMP时看的大佬的博客:orz orz 从头到尾彻底理解KMP 我觉得这篇已经讲的很详细了,希望大家能坚持看下去. 步骤 ①寻找前缀后缀最长公共元素长度对于P = p0 p1 ...pj- ...
- CorsConfig
package org.linlinjava.litemall.core.config; import org.springframework.context.annotation.Bean; imp ...
- 绿洲作业第一周 - Y3每日中文学习任务清单
尽量每天完成一首古诗. 如果孩子另有学习安排,可在周日(2.16)23:59前,完成任务.有兴趣.学有余力的孩子可以自我拓展其中的“寒假读诗”.
- mean|mode|median|sample的表达方式
Measures of Center measures of central tendency:the center or most typical value:average Mean:its ar ...
- python之os和sys模块的区别
一.os模块 os模块是Python标准库中提供的与操作系统交互的模块,提供了访问操作系统底层的接口,里面有很多操作系统的函数 1.os常用方法 import os # print(os.getcwd ...
- form提供的两种数据传输方式 get和post method=”post“和method=”get”
虽然它们都是数据的提交方式,但是在实际传输时确有很大的不同,并且可能会对数据产生严重的影响.虽然为了方便的得到变量值,Web容器已经屏蔽了二者的一些差异,但是了解二者的差异在以后的编程也会很有帮助的. ...
- CountingSort(计数排序)原理及C++代码实现
计数排序是需要假设输入数据的排序之一,它假设输入元素是0到k区间内的一个整数,其中k为某个整数.当k=O(n)时,计数排序的时间复杂度为θ(n). 因为不是通过比较来排序,所以它的时间复杂度可以达到θ ...