一.ELK 背景 通常,日志被分散的储存不同的设备上.如果你管理数十上百台服务器,你还在使用依次登录每台机器的传统方法查阅日志.这样是不是感觉很繁琐和效率低下.当务之急我们使用集中化的日志管理,例如:ELK中的logstash,将所有服务器上的日志收集汇总. 集中化管理日志后,日志的统计和检索又成为一件比较麻烦的事情,一般我们使用grep.awk和wc等Linux命令能实现检索和统计,但是对于要求更高的查询.排序和统计等要求和庞大的机器数量依然使用这样的方法难免有点力不从心,这里我们使用ELK中…

1. ZooKeeper安装部署 本文在一台机器上模拟3个zk server的集群安装. 1.1. 创建目录.解压 cd /usr/ #创建项目目录 mkdir zookeeper cd zookeeper mkdir tmp mkdir zookeeper-1 mkdir zookeeper-2 mkdir zookeeper-3 cd tmp mkdir zk1 mkdir zk2 mkdir zk3 cd zk1 mkdir data mkdir log cd zk2 mkdir data…

1.从官网下载安装包,并通过Xftp5上传到机器集群上    下载kafka_2.11-1.1.0.tgz版本,并通过Xftp5上传到hadoop机器集群的第一个节点node1上的/opt/uploads/目录: 2.解压kafka_2.11-1.1.0.tgz,并把解压的安装包移动到/opt/app/目录上 tar zxvf  kafka_2.11-1.1.0.tgz mv kafka_2.11-1.1.0 /opt/app/  && cd /opt/app/ 3.修改环境变量(每台机器…

Elk日志安装文档 需要用到有三个软件包 和redis 分布式部署:已上图就是分布式部署的架构图 Logstash :    是部署在前台的应用上,收集数据的 和部署在redis和elasticsearch中间充当索引 Elasticsearch: 部署在logstash之后的,将logsstash收集的数据存储 Kibana     : 部署在最后,经elasticsearch收集的数据通过页面展现出来(默认端口号:5601) 我这里部署的logstash  elasticsearch   k…

一.前言 ​ 日志主要包括系统日志和应用程序日志,运维和开发人员可以通过日志了解服务器中软硬件的信息,检查应用程序或系统的故障,了解故障出现的原因,以便解决问题.分析日志可以更清楚的了解服务器的状态和系统安全状况,从而可以维护服务器稳定运行. ​ 但是日志通常都是存储在各自的服务器中.如果管理数十台服务器, 查阅日志需要依次登陆不同的服务器,查看过程就会很繁琐从而导致工作效率低下.虽然可以使用 rsyslog 服务将日志汇总.但是统计一些日志中的数据或者检索也是很麻烦的,一般使用grep.awk…

SIA-GATEWAY是基于SpringCloud微服务生态体系下开发的一个分布式微服务网关系统.具备简单易用.可视化.高可扩展.高可用性等特征,提供云原生.完整及成熟的接入服务解决方案.本文介绍API网关的安装部署. 一.环境 1.1 编译环境 Maven3+ nodejs Jdk1.8+ 1.2 运行时第三方依赖 Mysql5.6+ elasticsearch 5.5.2 kibana-5.5.2 kafka 2.12-2.0.0 redis 3.2.11 eureka-server 1.3…

一.服务器环境配置 1 系统要求 名称 地址 操作系统 root密码 Master1 10.1.0.30 Centos 7.7 Root@bidsum1 Master2 10.1.0.105 Centos 7.7 Worker1 10.1.0.127 Centos 7.7   Worker2 10.1.0.106 Centos 7.7   Worker3 10.1.0.3 Centos 7.7 系统要求 Centos 7.3以上 64bit 最小化安装 浏览器 Google Chrome 2 S…

kafka是一种高吞吐量的分布式发布订阅消息系统,她有如下特性: 通过O(1)的磁盘数据结构提供消息的持久化,这种结构对于即使数以TB的消息存储也能够保持长时间的稳定性能. 高吞吐量:即使是非常普通的硬件kafka也可以支持每秒数十万的消息. 支持通过kafka服务器和消费机集群来分区消息. 支持Hadoop并行数据加载. Kafka的目的是提供一个发布订阅解决方案,它可以处理消费者规模的网站中的所有动作流数据. 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因…

一.依赖包 1.  JDK 1.6以上 2.  solr-4.3.0.tgz 3.  Tomcat或者jetty(注意,solr包中本身就含有jetty的启动相关内容):apache-tomcat-7.0.39.tar.gz 我用的是tomcat,因此以tomcat作为部署内容. 二.安装 1.  解压tomcat包 2.  可选:修改tomcat的启动端口,缺省为8080,最主要设置页面的URIencoding为UTF-8 3.  可选:启动tomcat,并访问,如果没有错误,表示此内容已经O…

环境:ubuntu 12.04 64位桌面版 解压kafka -0.10.0.0.tgz -C /root/software/ 进入目录 cd kafka_2.-0.10.0.0/ 创建data 目录 -0.10.0.0/data 配置 config/server.properties 配置文件 broker.id=0 #如果是配置kafka 集群环境, 每台机器上的broker 值必须不一样 port= log.-0.10.0.0/data/log zookeeper.connect=chen…