一.saltstack简介 1.saltstack是什么 系统管理员日常会进行大量的重复性操作,例如安装软件,修改配置文件,创建用户,批量执行命令等,如果主机数量庞大,单靠人工维护实在让人难以忍受. 早期运维人员会根据自己的生产环境来写特定脚本完成大量重复性工作,这些脚本复杂且难以维护.系统管理员面临的问题主要是: 系统配置管理 远程执行命令 因此诞生了很多开源软件,系统维护方面有fabric.puppet.chef.ansible.saltstack等,这些软件擅长维护系统状态或方便的对大量主

Hadoop命令大全 本节比较全面的向大家介绍一下Hadoop命令,欢迎大家一起来学习,希望通过本节的介绍大家能够掌握一些常见Hadoop命令的使用方法.下面是Hadoop命令的详细介绍. 1.列出所有HadoopShell支持的命令 $bin/hadoopfs-help 2.显示关于某个命令的详细信息 $bin/hadoopfs-helpcommand-name 3.用户可使用以下命令在指定路径下查看历史日志汇总.这条命令会显示作业的细节信息,失败和终止的任务细节. $bin/hadoopjo

1.列出所有Hadoop Shell支持的命令 $ bin/hadoop fs -help2.显示关于某个命令的详细信息 $ bin/hadoop fs -help command-name3.用户可使用以下命令在指定路径下查看历史日志汇总 $ bin/hadoop job -history output-dir这条命令会显示作业的细节信息,失败和终止的任务细节.4.关于作业的更多细节,比如成功的任务,以及对每个任务的所做的尝试次数等可以用下面的命令查看 $ bin/hadoop job -hi

MySQL 主从同步错误(error)解决(转) sql_slave_skip_counter参数 附: 一些错误信息的处理,主从服务器上的命令,及状态信息. 在从服务器上使用show slave status\G Slave_IO_Running,为No, 则说明IO_THREAD没有启动,请执行start slave io_thread Slave_SQL_Running为No 则复制出错,查看Last_error字段排除错误后执行start slave sql_thread 查看Slave

(大讲台——国内首个it在线混合式自适应学习平台,轻量级的高薪就业和技能提升解决方案) 1.列出所有Hadoop Shell支持的命令$ bin/hadoop fs -help2.显示关于某个命令的详细信息$ bin/hadoop fs -help command-name3.用户可使用以下命令在指定路径下查看历史日志汇总$ bin/hadoop job -history output-dir这条命令会显示作业的细节信息,失败和终止的任务细节.4.关于作业的更多细节,比如成功的任务,以及对每个任

目的 这份文档描写叙述了怎样安装.配置和管理从几个节点到有数千个节点的Hadoop集群. 玩的话,你可能想先在单机上安装.(看单节点配置). 准备 从Apache镜像上下载一个Hadoop的稳定版本号. 安装 安装一个Hadoop集群,一般包含分发软件到全部集群中的机器上或者是安装RPMs. 一般地,集群中的一台机器被唯一地设计成NameNode,还有一台机器被设置成ResourceManager.这是master(主). 集群中剩下的机器作为DataNode 和 NodeManager.这些是

Hadoop集群配置(最全面总结) 通常,集群里的一台机器被指定为 NameNode,另一台不同的机器被指定为JobTracker.这些机器是masters.余下的机器即作为DataNode也作为TaskTracker.这些机器是slaves\ 官方地址:(http://Hadoop.apache.org/common/docs/r0.19.2/cn/cluster_setup.html) 1 先决条件 确保在你集群中的每个节点上都安装了所有必需软件:sun-JDK  ,ssh,Hadoop J

Hadoop群集设置 近期特别看了Hadoop的资料.感觉特别好,整理一下发在自己的博客上,希望对想了解集群的网友有所帮助. 參考资料:http://hadoop.apache.org/docs/r1.0.4/cn/cluster_setup.html 目的 本文描写叙述了怎样安装.配置和管理有实际意义的Hadoop集群,其规模可从几个节点的小集群到几千个节点的超大集群. 假设你希望在单机上安装Hadoop玩玩,从这里能找到相关细节. 先决条件 确保在你集群中的每一个节点上都安装了全部必需软件.

一.前期准备工作: 1.安装包的准备: VMware(10.0版本以上) : 官方网站:https://www.vmware.com/cn.html 官方下载地址:http://www.vmware.com/products/player/playerpro-evaluation.html 10.0版本注册码: v1Z0G9--FZG78-ZL3Q2-234JG 4C4EK-89KDL-5ZFP9-1LA5P-2A0J0 HY086-4T01N-CZ3U0-CV0QM-13DNU 11.0版本注

本文非常详细地介绍MySQL复制相关的内容,包括基本概念.复制原理.如何配置不同类型的复制(传统复制)等等.在此文章之后,还有几篇文章分别介绍GTID复制.半同步复制.实现MySQL的动静分离,以及MySQL 5.7.17引入的革命性功能:组复制(MGR). 本文是MySQL Replication的基础,但却非常重要.对于MySQL复制,如何搭建它不是重点(因为简单,网上资源非常多),如何维护它才是重点(网上资源不集中).以下几个知识点是掌握MySQL复制所必备的: 复制的原理 将master

Hadoop集群配置(最全面总结) huangguisu 通常,集群里的一台机器被指定为 NameNode,另一台不同的机器被指定为JobTracker.这些机器是masters.余下的机器即作为DataNode也作为TaskTracker.这些机器是slaves\ 官方地址:(http://hadoop.apache.org/common/docs/r0.19.2/cn/cluster_setup.html) 先决条件 确保在你集群中的每个节点上都安装了所有必需软件:sun-JDK ,ssh,

通用命令 exit 优雅关闭ovs-vswitchd进程 qos/show interface 查询内核中关于qos的配置以及和给出端口有关的状态 cfm/show [interface]显示在指定端口上CFM配置的详细信息.如果没有指定接口,则显示所有使能了CFM的接口 cfm/set-fault [interface] status 强制将指定端口的CFM模块的错误状态(如果没指定接口则是全部接口)设置成指定的状态.可以是”true”,”false”,”normal” stp/tcn [br

Redis的单机搭建,主从搭建,Sentinal搭建,以及Redis集群搭建的步骤参照前面的文章.现在来说一下Redis的基本运维,毕竟如果一切正常是最好的,但是当出现问题不能使用的时候,准确定位问题,并解决才是最重要的. 一.配置文件 Redis的配置文件的注释还是很详细的,下面也把它贴出来: #redis.conf # Redis configuration file example. # ./redis-server /path/to/redis.conf ################

一.前期准备工作: 1.安装包的准备: VMware(10.0版本以上) : 官方网站:https://www.vmware.com/cn.html 官方下载地址:http://www.vmware.com/products/player/playerpro-evaluation.html 10.0版本注册码: v1Z0G9--FZG78-ZL3Q2-234JG 4C4EK-89KDL-5ZFP9-1LA5P-2A0J0 HY086-4T01N-CZ3U0-CV0QM-13DNU 11.0版本注

一.MySQL集群需求分享 1.抽象:功能模块 把基础的写成通用 服务部署也要抽象出来模块 redis内存有的多,有的少,可以config set在线更改 redis 安装.配置.启动 mysql 安装.配置(my.cnf可以统一 目录默认配置可以统一) master: server_id 1111 slave: server_id 2222 二.mysql 主从实现思路 2.1 mysql-install.sls 安装 配置 初始化 把基础的写成通用 2.2 my.cnf配置不同-server

1.进入集群客户端 任意选一个redis节点,进入redis 所在目录 cd /redis 所在目录/src/ ./redis-cli -h 本地节点的ip -p redis的端口号 -a 密码 [root@mysql-db01 ~]# redis-cli -h > 2.查看集群中各个节点状态 集群(cluster)  cluster info       打印集群的信息cluster nodes   列出集群当前已知的所有节点(node),以及这些节点的相关信息    节点(node) clu

Hadoop命令大全 分类: 云计算2011-03-01 15:04 6852人阅读 评论(0) 收藏 举报 hadoop作业任务集群class脚本 1.列出所有Hadoop Shell支持的命令  $ bin/hadoop fs -help2.显示关于某个命令的详细信息  $ bin/hadoop fs -help command-name3.用户可使用以下命令在指定路径下查看历史日志汇总  $ bin/hadoop job -history output-dir这条命令会显示作业的细节信息,

问题导读 1.如何实现检测NodeManagers健康?2.配置ssh互信的作用是什么?3.启动.停止hdfs有哪些方式? 上篇: hadoop[2.7.1][多节点]集群配置[必知配置知识1]http://www.aboutyun.com/thread-15609-1-1.html 监控NodeManagers健康 hadoop提供检测一个节点健康状态的机制,管理员可以配置NodeManager去周期性执行一个脚本来决定一个节点是否健康 管理员可以在这个脚本中做任何的状态监控从而决定此节点是否

hadoop2.2的分布式环境需要配置的参数更多.但是需要安装的系统软件和单节点环境是一样的. 运行hadoop在非安全环境 hadoop的配置文件有两类: 1:只读的默认配置文件: core-default.xml,hdfs-default.xml,yarn-default.xml mapred-default.xml 2: 可配置的配置文件: core-site.xml,hdfs-site.xml,yarn-site.xml,mapred-site.xml   除此之外,还可以修改bin目录

互备/***************************************master服务器**************************************/vi my.cnf[mysqld]#masterserver-id=1log-binbinlog-do-db=数据库名binlog-ignore-db=数据库名 rpl_semi_sync_master_enabled=1;(mysql > 5.1.6)rpl_semi_sync_master_timeout=1000

1.服务器集群服务器 redis节点node-i(192.168.0.168) 7001,7002node-ii(192.168.0.169) 7003,7004node-iii(192.168.0.170) 7005,7006    三个节点都关闭防火墙: systemctl stop iptables    systemctl stop firewalld 查看防火墙状态: systemctl status iptables    systemctl status firewalld 2.安