tachyon 配置项
Tachyon 配置参数分为4类:Master,Worker, Common (Master and Worker), and User configurations。
环境变量配置文件在$TACHYON_HOME/conf/tachyon-env.sh,这些变量将会被TACHYON_JAVA_OPTS调用,这个文件的配置模版为$TACHYON_HOME/conf/tachyon-env.sh.template
额外的Java VM选项可以添加到TACHYON_MASTER_JAVA_OPTS和TACHYON_WORKER_JAVA_OPTS配置中。在模板文件,TACHYON_JAVA_OPTS将会被TACHYON_MASTER_JAVA_OPTS和TACHYON_WORKER_JAVA_OPTS调用
二、Tachyon常用配置
属性名 | 默认值 | 含义 |
tachyon.home | "/mnt/tachyon_default_home" | Tachyon的安装目录 |
tachyon.underfs.address | $tachyon.home + "/underfs" | Tachyon底层文件系统目录 |
tachyon.data.folder | $tachyon.underfs.address + "/tachyon/data" | Tachyon底层文件系统数据目录 |
tachyon.workers.folder | $tachyon.underfs.address + "/tachyon/workers" | Tachyon worke目录 |
tachyon.usezookeeper | false | 是否使用zookeeper来进行master容错 |
tachyon.zookeeper.address | null | Zookeeper地址 |
tachyon.zookeeper.election.path | "/election" | Zookeeper选举文件夹 |
tachyon.zookeeper.leader.path | "/leader" | Zookeeperleader文件夹 |
tachyon.underfs.hdfs.impl | "org.apache.hadoop.hdfs.DistributedFileSystem" | HDFS底层文件系统实现类 |
tachyon.max.columns | 1000 | RawTable允许的最大列数,必须在客户端和服务器端设置 |
tachyon.table.metadata.byte | 5242880 | 在RawTable的元数据中最大允许多少字节 |
fs.s3n.awsAccessKeyId | null | S3 AWS访问密钥ID |
fs.s3n.awsSecretAccessKey | null | S3 aws 加密访问Key ID |
tachyon.underfs.glusterfs.mounts | null | Glusterfs卷装入点,如/卷 |
tachyon.underfs.glusterfs.volumes | null | Glusterfs卷名,如tachyon_vol |
tachyon.underfs.glusterfs.mapred.system.dir | glusterfs:///mapred/system | 根据需要指定GLusterfs中MapReduce的数据子目录 |
三、Master配置
tachyon.master.journal.folder | $tachyon.home +"/journal/" | master journal log 存储目录 |
tachyon.master.hostname | localhost | Master主机名 |
tachyon.master.port | 19998 | Master节点运行端口 |
tachyon.master.web.port | 19999 | WEB接口运行端口 |
tachyon.master.whitelist | / | 缓存路径 |
四、Wroker配置
tachyon.worker.port | 29998 | Worker节点运行端口 |
tachyon.worker.data.port | 29999 | Worker数据服务运行端口 |
tachyon.worker.data.folder | /mnt/ramdisk | Worker节点数据目录 |
tachyon.worker.memory.size | 128 MB | Worker几点内存容量 |
五、用户配置
tachyon.user.failed.space.request.limits | 3 | 文件系统终止之前的时间 |
tachyon.user.quota.unit.bytes | 8 MB | 客户端请求Worker几点的最小大小 |
tachyon.user.file.buffer.bytes | 1 MB | 文件缓冲区大小 |
tachyon.user.default.block.size.byte | 1 GB | Tachyon文件默认的block size |
tachyon.user.remote.read.buffer.size.byte | 1 MB | 从远程worker读取数据的缓冲区大小 |
tachyon 配置项的更多相关文章
- Spark入门实战系列--10.分布式内存文件系统Tachyon介绍及安装部署
[注]该系列文章以及使用到安装包/测试数据 可以在<倾情大奉送--Spark入门实战系列>获取 .Tachyon介绍 1.1 Tachyon简介 随着实时计算的需求日益增多,分布式内存计算 ...
- Spark Tachyon实战应用(配置启动环境、运行spark和运行mapreduce)
Tachyon实战应用 配置及启动环境 修改spark-env.sh 启动HDFS 启动Tachyon Tachyon上运行Spark 添加core-site.xml 启动Spark集群 读取文件并保 ...
- Tachyon的配置详解
Tachyon的配置 Tachyon环境变量 Tachyon通用配置 TachyonMaster配置 TachyonWorker配置 用户配置 1 Tachyon的配置 这里以0.5.0版本为例,介绍 ...
- Spark Tachyon编译部署(含单机和集群模式安装)
Tachyon编译部署 编译Tachyon 单机部署Tachyon 集群模式部署Tachyon 1.Tachyon编译部署 Tachyon目前的最新发布版为0.7.1,其官方网址为http://tac ...
- spark中使用的内存文件系统-Tachyon FS 简介
转自:http://blog.csdn.net/u014252240/article/details/41810849 发布人:南京大学PASA大数据实验室顾荣 1. Tachyon是什么 Tach ...
- hadoop+tachyon+spark的zybo cluster集群综合配置
1.zybo cluster 架构简述: 1.1 zybo cluster 包含5块zybo 开发板组成一个集群,zybo的boot文件为digilent zybo reference design提 ...
- SpringMVC配置项学习笔记
1. <mvc:annotation-driven /> <mvc:annotation-driven />是一种简写形式,默认会注册DefaultAnnotationHand ...
- JSHint配置项说明
转自:http://www.jianshu.com/p/4cb23f9e19d3 什么是JSHint? 官方网站这样介绍: JSHint, A Static Code Analysis Tool fo ...
- tachyon of zybo cluster
把Tachyon层加入spark和hadoop之间,以加速集群 官网:http://tachyon-project.org/ github:https://github.com/amplab/tach ...
随机推荐
- perf
- FIREDAC FDConnection 连接池 连接串
一.FDConnection 连接池 http://docs.embarcadero.com/products/rad_studio/firedac/frames.html?frmname=topic ...
- SCP和SFTP(转)
原文:http://www.cnblogs.com/wang_yb/p/3819441.html 不管SCP还是SFTP,都是SSH的功能之一.都是使用SSH协议来传输文件的. 不用说文件内容,就是登 ...
- 泡泡堂、QQ堂游戏通信架构分析
http://blog.csdn.net/sodme/article/details/468327#comments ————————————————————————————————————————— ...
- Linux下的paste合并命令详解
paste单词意思是粘贴.该命令主要用来将多个文件的内容合并,与cut命令完成的功能刚好相反. 粘贴两个不同来源的数据时,首先需将其分类,并确保两个文件行数相同.paste将按行将不同文件行信息放在一 ...
- C++11初始化列表
[C++11之初始化列表] 在C++03中,在严格遵守POD的定义和限制条件的结构及类型上可以使用初始化列表(initializer list),构想是结构或是数组能够依据成员在该结构内定义的顺序通过 ...
- java 常用concurrent类
1.CountDownLatch 它的作用主要是当多个(数量等于初始化CountDownLatch时count参数的值)线程到达了预期状态或完成预期工作时触发事件,其他线程可以等待这个事件来触发自己后 ...
- [置顶] 2013 Multi-University Training Contest 8
1003 Mine 简单sg的博弈题,我们走入了nim博弈的误区,后来发现改了三四个字符就过了....我只能说我是sbsbsbsbsbsb...判奇偶啊... #pragma comment(link ...
- 关于完成端口IOCP异步接收连接函数AcceptEx注意事项
AcceptEx方法有一个参数dwReceiveDataLength,指明了在收到连接后是否需要收到第一包数据才返回.需要注意的是,如果 dwReceiveDataLength=0,则当接收到一个连接 ...
- junit学习(3.x)
自动化测试 测试所有测试类 import junit.framework.TestCase; import junit.framework.Assert; /** *测试类必须要继承TestCase类 ...