spark学习(1)--ubuntu14.04集群搭建、配置(jdk)
环境:ubuntu14.04
jdk-8u161-linux-x64.tar.gz
1、文本模式桌面模式切换
ctrl+alt+F6 切换到文本模式
ctrl + alt +F7 /输入命令startx切换到桌面模式
2、更改Ip地址、主机名
- /etc/hostname - 改主机名称
- /etc/hosts -host文件
- /etc/network/interfaces - 改IP地址
我们需要添加自己的网络设置,在该文件中添加(需要根据各自网络情况进行修改):
auto eth0
iface eth0 inet static
address 192.168.7.124
netmask 255.255.255.0
gateway 192.168.7.1
broadcast 192.168.7.255- 重启网络sudo /etc/init.d/networking restart
3、配置xshell连接ubuntu14.0.(ssh)
sudo apt-get update 更新完毕后执行: sudo apt-get install openssh-server
问题:
sudo apt-get update遇到很多无法下载
解决:
更改软件源(图形界面) 图形界面:打开Ubuntu软件中心,点击顶部面板的“编辑”然后就可看到“软件源”选项了 点击之后填出软件源编辑窗口,如图按钮,选择“其他站点” 可以选择最佳服务器,也可以直接在左边选择一个你觉得快的源,我比较喜欢163.com
问题:
正在解析主机 mirrors.163.com... 失败:未知的名称或服务。
wget: 无法解析主机地址 “mirrors.163.com”
解决方法:
登入root
进入/etc/resolv.conf
vim /etc/resolv.conf
修改内容为下(将DNS地址改为google域名服务器)
nameserver 8.8.8.8
nameserver 8.8.4.4
问题:
解决方法:
用Xshell root连接时显示ssh服务器拒绝了密码,应该是应该是sshd的设置不允许root用户用密码远程登录
修改 /etc/ssh/sshd_config文件,注意,安装了openssh才会有这个文件,如果文件不存在请检查是否安装了openssh。 vim /etc/ssh/sshd_config 找到 # Authentication:
LoginGraceTime
PermitRootLogin prohibit-password
StrictModes yes 改成
# Authentication:
LoginGraceTime
PermitRootLogin yes
StrictModes yes 然后输入命令 /etc/init.d/ssh restart
一般情况下到这里就可以用xshll远程连接ubuntu14.04了
以下是拓展内容:
确认sshserver是否启动了:
ps -e |grep ssh
这样就表明已经成功安装了ssh-server服务,并已经成功启动。
如果只有ssh-agent那ssh-server还没有启动,需要/etc/init.d/ssh start,如果看到sshd,那说明ssh-server已经启动了。
4、jdk
(1)安装jdk
tar -xzvf jdk-7u45-linux-x64.tar.gz 在根目录下建立soft文件夹
sudo mkdir /soft 将soft文件夹改为ailab用户下
sudo chown ailab /soft 把tar开的文件夹移动到/soft
mv ~/Downloads/jdk1.7.0_45 /soft/
(2)配置环境变量
#> vim /etc/environment JAVA_HOME=/soft/jdk1.7.0_45
PATH="/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/soft/jdk1.7.0_45/bin #> source /etc/environment
5、克隆虚拟机,修改Ip地址,主机名
spark学习(1)--ubuntu14.04集群搭建、配置(jdk)的更多相关文章
- spark学习5(hbase集群搭建)
第一步:Hbase安装 hadoop,zookeeper前面都安装好了 将hbase-1.1.3-bin.tar.gz上传到/usr/HBase目录下 [root@spark1 HBase]# chm ...
- spark学习1(hadoop集群搭建)
把原先搭建的集群环境给删除了,自己重新搭建了一次,将笔记整理在这里,方便自己以后查看 第一步:安装主节点spark1 第一个节点:centos虚拟机安装,全名spark1,用户名hadoop,密码12 ...
- ZooKeeper学习笔记一:集群搭建
作者:Grey 原文地址:ZooKeeper学习笔记一:集群搭建 说明 单机版的zk安装和运行参考:https://zookeeper.apache.org/doc/r3.6.3/zookeeperS ...
- Shark集群搭建配置
一.Shark简单介绍 Shark是基于Spark与Hive之上的一种SQL查询引擎,官网的架构图及性能測试图例如以下:(Ps:本人也做了一个性能測试见Shark性能測试报告) 我们涉及到了2个依赖组 ...
- redis 学习笔记(6)-cluster集群搭建
上次写redis的学习笔记还是2014年,一转眼已经快2年过去了,在段时间里,redis最大的变化之一就是cluster功能的正式发布,以前要搞redis集群,得借助一致性hash来自己搞shardi ...
- 大数据平台搭建 - cdh5.11.1 - spark源码编译及集群搭建
一.spark简介 Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎,Spark 是一种与 hadoop 相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同 ...
- hadoop 集群搭建 配置 spark yarn 对效率的提升永无止境
[手动验证:任意2个节点间是否实现 双向 ssh免密登录] 弄懂通信原理和集群的容错性 任意2个节点间实现双向 ssh免密登录,默认在~目录下 [实现上步后,在其中任一节点安装\配置hadoop后,可 ...
- redis学习五,redis集群搭建及添加主从节点
redis集群 java架构师项目实战,高并发集群分布式,大数据高可用,视频教程 在redis3.0之前,出现了sentinel工具来监控各个Master的状态(可以看上一篇博客).如果Master异 ...
- hadoop 集群搭建 配置 spark yarn 对效率的提升永无止境 Hadoop Volume 配置
[手动验证:任意2个节点间是否实现 双向 ssh免密登录] 弄懂通信原理和集群的容错性 任意2个节点间实现双向 ssh免密登录,默认在~目录下 [实现上步后,在其中任一节点安装\配置hadoop后,可 ...
随机推荐
- Debian 为nginx增加第三方模块
为nginx增加第三方模块需要重新编译nginx的,但是debian在安装nginx的时候做了很多事情,比如systemd,/etc/nginx/里的各种文件,所以我们最好在debian源代码包的基础 ...
- Play on Words UVA - 10129 欧拉路径
关于欧拉回路和欧拉路径 定义:欧拉回路:每条边恰好只走一次,并能回到出发点的路径欧拉路径:经过每一条边一次,但是不要求回到起始点 ①首先看欧拉回路存在性的判定: 一.无向图每个顶点的度数都是偶数,则存 ...
- windows 下node版管理
linux 下的node 多版本管理有nvm,windows 下同样有这样的工具gnvm 安装步骤(无node环境): 1.下载并解压缩 gnvm.exe 保存到任意文件夹,并将此文件夹加入到环境变量 ...
- 猜数字游戏-python
题目: 用python写一个猜数字的游戏,游戏规则如下: 1.由一个人随机写一个整数1-99(如:21) 2.一群小伙伴轮流猜数字,如第一个人猜一个数(如:48),则缩小范围至(1-48) 3.如第二 ...
- iOS 创建多个button实现点击改变背景颜色
工程中需要实现与UISegmentedControl效果相似的一排一共十个button,如下图.但是SegmentedControl修改不太方便,就用button替代, 循环创建十个button,点击 ...
- linux 学习笔记1
1.IDE硬盘 /dev/hd[a-d] IDE1 主 /dev/hda 从 /dev/hdb IDE2 主 ...
- SVG 与 Canvas:如何选择
SVG 与 Canvas:如何选择 61(共 69)对本文的评价是有帮助 - 评价此主题 本主题一开始将对 SVG 与 Canvas 进行简要比较,接下来会讨论大量的比较代码示例,如光线跟踪和绿屏 ...
- TP系统常量信息
[系统常量信息] 获取系统常量信息: 如果加参数true,会分组显示: 显示如下: [跨控制器调用] 一个控制器在执行的时候,可以实例化另外一个控制,并通过对象访问其指定方法. 跨控制器调用可以节省我 ...
- hdu5125(LIS)
相当于用多个O(nlog(n))LIS来做. // // main.cpp // 160322 // // Created by 陈加寿 on 16/3/22. // Copyright © 2016 ...
- Kotlin——中级篇(一):类(class)详解
在任何一门面向对象编程的语言里,类(class)是非常基础.但也是非常重要的一项组成,通俗的说就是万般皆对象,而所说的对象就是我们生成的类.Kotlin也是如此,下面详细为大家介绍Kotlin中的类的 ...