kafka环境安装及简单使用(单机版)】的更多相关文章

一个分布式发布-订阅消息传递系统 特点: 高吞吐量.低延迟 使用场景(举例): 日志收集:用kafka收集各种服务产生的log,通过kafka以统一的接口服务的方式开放给各种consumer,如hadoop,hbase等 下载安装: 1.下载地址   选择一个版本的kafka进行下载 2.解压 tar -zxvf kafka_2.-0.9.0.1.tgz mv kafka_2.-0.9.0.1 /opt/ 3.配置环境变量(可选步骤) 上手使用: 1.config目录配置文件(zookeeper…
Django学习笔记(一):环境安装与简单实例 通过本文章实现: Django在Windows中的环境安装 Django项目的建立并编写简单的网页,显示欢迎语与当前时间 一.环境安装 结合版本兼容性等原因,采用了Python3+Django1.11的组合.具体版本对应如下: Django version Python versions 1.11 2.7, 3.4, 3.5, 3.6 2.0 3.4, 3.5, 3.6, 3.7 2.1, 2.2 3.5, 3.6, 3.7 1.Python安装…
一.环境安装 Win10(安装python3.x): 1.下载安装包     https://www.python.org/downloads/   2.安装完成后设置环境变量. 桌面-“计算机”-右键“属性”-“高级系统设置”-“高级”-“环境变量”-“系统变量”.找到Path,在后面加上python3.x安装路径下(记得用分号隔开)例             如;C:\Users\Administrator\AppData\Local\Programs\Python\Python35-32…
说明:这篇博客来自我的csdn博客,http://blog.csdn.net/lxxgreat/article/details/7753511 一.参考书:<hadoop权威指南--第二版(中文)> 二.hadoop环境安装 1.安装sun-jdk1.6版本 1)目前我只在一台服务器(CentOS5.5)上搭建hadoop环境,因此先卸载已安装的java1.4版本 卸载命令:yum -y remove java 2)下载sun-jdk1.6,地址:http://download.oracle.…
Standalone 环境安装 将 spark-3.0.0-bin-hadoop3.2.tgz 文件解压缩在指定位置(/opt/module) tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module 修改解压后文件名称为spark-standalone mv spark-3.0.0-bin-hadoop3.2 spark-standalone 进入解压缩后路径的 conf 目录,修改 slaves.template 文件名为 slaves m…
Jmeter 介绍 Apache JMeter应用程序是开源软件,旨在为负载测试功能行为和测量性能的100%纯Java应用程序.它最初是为测试Web应用程序而设计的,但后来扩展到其他测试功能 常用压力测试工具对比 LoadRunner:性能稳定,压测结果及细度大,可以自定义脚本进行压测,过于重大,功能比较繁多: Apache ab :模拟多线程并发请求,ab命令对发布负载的计算机要求很低,即不会占用过多cpu,也不会占用过多的内存,但却会给目标服务器造成巨大的负载,简单的DDOS攻击等: web…
一.安装Zookeeper 参考: Zookeeper的下载.安装和启动 Zookeeper 集群搭建--单机伪分布式集群 二.下载Kafka 进入http://kafka.apache.org/downloads 我这里使用版本:kafka_2.11-1.0.1.tgz 三.Kafka目录 解压到/usr/local路径下: tar -zxvf  kafka_2.11-1.0.1.tgz /bin  操作kafka的可执行脚本 /config 配置文件所在的目录 /libs 依赖库目录 /lo…
expect是交互性很强的脚本语言,可以帮助运维人员实现批量管理成千上百台服务器操作,是一款很实用的批量部署工具!expect依赖于tcl,而linux系统里一般不自带安装tcl,所以需要手动安装 下载:expect-5.43.0.tar和tcl8.4.11-src.tar下载地址:https://pan.baidu.com/s/1kVyeLt9 提取密码:af9p 将expect和tcl的软件包下载放到/usr/local/src目录下 (1)解压tcl,进入tcl解压目录,然后进入unix目…
源码包下载: http://archive.apache.org/dist/kafka/1.0.0/ 集群环境: master 192.168.1.99 slave1 192.168.1.100 slave2 192.168.1.101 下载安装包: # Master wget http://archive.apache.org/dist/kafka/1.0.0/kafka_2.11-1.0.0.tgz -C /usr/local/src tar -zxvf kafka_2.11-1.0.0.t…
一.适用环境: mac系列,osx10.10,自带Python 二.简要步骤: 1. 安装pip,mac自带Python环境,所以我们改成安装pip 2. 安装wxPython,此处我下载的版本是wxPython2.8-osx-unicode-2.8.12.1-universal-py2.7.dmg 3. 使用pip install安装robotframework 4. 使用pip install安装robotframework-ride 5. 完成基础环境安装,简单验证 三.详细步骤: 1.…
前言 storm和kafka集群安装是没有必然联系的,我将这两个写在一起,是因为他们都是由zookeeper进行管理的,也都依赖于JDK的环境,为了不重复再写一遍配置,所以我将这两个写在一起.若只需一个,只需挑选自己选择的阅读即可. 这两者的依赖如下: Storm集群:JDK1.8 , Zookeeper3.4,Storm1.1.1: Kafa集群 : JDK1.8 ,Zookeeper3.4 ,Kafka2.12: 说明: Storm1.0 和Kafka2.0对JDK要求是1.7以上,Zook…
前言 storm和kafka集群安装是没有必然联系的,我将这两个写在一起,是因为他们都是由zookeeper进行管理的,也都依赖于JDK的环境,为了不重复再写一遍配置,所以我将这两个写在一起.若只需一个,只需挑选自己选择的阅读即可. 这两者的依赖如下: Storm集群:JDK1.8 , Zookeeper3.4,Storm1.1.1: Kafa集群 : JDK1.8 ,Zookeeper3.4 ,Kafka2.12: 说明: Storm1.0 和Kafka2.0对JDK要求是1.7以上,Zook…
(一)Apache Kafka安装 1.安装环境与前提条件   安装环境:Ubuntu16.04   前提条件: ubuntu系统下安装好jdk 1.8以上版本,正确配置环境变量 ubuntu系统下安装好scala 2.11版本 安装ZooKeeper(注:kafka自带一个Zookeeper服务,如果不单独安装,也可以使用自带的ZK) 2.安装步骤   Apache基金会开源的这些软件基本上安装都比较方便,只需要下载.解压.配置环境变量三步即可完成,kafka也一样,官网选择对应版本下载后直接…
简单记录单机版kafka的安装:JDK1.8(jdk-8u131-linux-x64.rpm)zookeeper (zookeeper-3.4.10.tar.gz)kafka (kafka_2.12-2.0.0.tgz) 安装好JDK后一.zookeeper安装1.下载:wget http://archive.apache.org/dist/zookeeper/zookeeper-3.4.10/zookeeper-3.4.10.tar.gz2.解压: tar -zxvf zookeeper-3.…
kafka安装和简单测试 # 安装zookeeper(apache-zookeeper-3.5.6-bin)https://archive.apache.org/dist/zookeeper/zookeeper-3.5.6/apache-zookeeper-3.5.6-bin.tar.gz # 安装kafka(kafka_2.11-2.3.1)http://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.3.1/kafka_2.11-2.3.1.tgz #…
文章目录 1.RabbitMQ简介2.RabbitMQ与其他MQ有什么不同3.RabbitMQ环境安装3.1 安装erlang3.2 安装rabbitmq-server4. RabbitMQ管理平台介绍 1.RabbitMQ简介 RabbitMQ 是一个由 erlang 开发的 AMQP(Advanced Message Queue )的开源实现.AMQP 的出现其实也是应了广大人民群众的需求,虽然在同步消息通讯的世界里有很多公开标准(如 COBAR的 IIOP ,或者是 SOAP 等),但是在…
1. Neo4j简介 Neo4j是一个用Java实现的.高性能的.NoSQL图形数据库.Neo4j 使用图(graph)相关的概念来描述数据模型,通过图中的节点和节点的关系来建模.Neo4j完全兼容ACID的事务性.Neo4j以“节点空间”来表 达领域数据,相对于传统的关系型数据库的表.行和列来说,节点空间可以更好地存储由节点关系和属性构成的网络,如社交网络,朋友圈等. 2 neo4j版本介绍 neo4j版本种类比较多,有开源的社区版本,也有企业版本.其中社区版本包括了很多neo4j的基本特性,…
kafka环境搭建 for mac 对应qq群号:616961231 在之前的文章中, 有学习能力和兴趣爱好的同学,自己动手维护测试环境,丰衣足食是最好的办法,今天我们来讲讲kafka在mac上的安装 安装之前简单讲讲几个名词:producer:消息生产者,发布消息到 kafka 集群的终端或服务 broker:kafka 集群中包含的服务器 consumer:从 kafka 集群中消费消息的终端或服务 1. 安装kafka, 安装过程会自带安装zookeeper,下面来看安装步骤,  brew…
引言 上一篇文章了解了kafka的重要组件zookeeper,用来保存broker.consumer等相关信息,做到平滑扩展.这篇文章就实际操作部署下kafka,用几个简单的例子加深对kafka的理解,学会基本使用kafka. 环境搭建 我将会在本地部署一个三台机器的zookeeper集群,和一个2台机器的kafka集群. zookeeper集群 zookeeper的搭建可以看我的上一篇文章分布式系统中zookeeper实现配置管理+集群管理,按照步骤,一步步可以很容易的搭建3太服务器的zook…
Java基础-配置开发环境-安装JDK 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.计算机基础知识 1>.计算机的组成 计算机有硬件与软件组成. 2>.硬件: 硬件是指组成计算机的物理的电子元器件,常见的硬件有硬盘,光驱,主板,内存条,显示器,鼠标,键盘,显卡,网卡等等. 补充:冯.诺伊曼定义的计算机体系结构:输入设备,输出设备,存储设备,运算器与控制器. 3>.软件: 软件就是运行在计算机上的程序,软件分为系统软件与应用软件两大类. 系统软件是指可以直接操作硬…
你是否听说过或者使用过队列? 你是否听说过或者使用过消息队列? 你是否听说过或者使用过RabbitMQ? 提到这几个词,用过的人,也许觉得很简单,没用过的人,也许觉得很复杂,至少在我没使用消息队列之前,听别人提到消息队列,都感觉很复杂,很高深. 好了,言归正传,本篇博客我们就讲解下什么是消息队列,RabbitMQ环境的安装配置,最后通过一个Hello World示例了解下RabbitMQ的使用方法. 1.基本概念讲解 1.1队列(Queue) 队列是常用的数据结构之一,是一种特殊的线性表,特殊之…
 为了简化开发者和服务工程师维护Kafka集群的工作,yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager.本文对其进行部署配置,并安装配置kafkatool对kafka进行监控.查询 一.kafka-manager 简介 为了简化开发者和服务工程师维护Kafka集群的工作,yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager.这个管理工具可以很容易地发现分布在集群中的哪些topic分布不均匀,或者是分区在整个集群分布不…
一.安装Zookeeper 其实Zookeeper的安装特别简单,也不能算安装了,只需要将Zookeeper下载后解压,就完成了安装操作. 下载地址:http://zookeeper.apache.org/releases.html 本文所用的3.4.14版本,下载链接 su - root # 请务必切换为root身份 wget http://www.trieuvan.com/apache/zookeeper/zookeeper-3.4.14/zookeeper-3.4.14.tar.gz ta…
1.概述 最近有很多同学给笔者留言,说在安装Kafka Eagle的时候,会遇到一些问题,请教如何解决?今天笔者就在这里总结一下安装步骤,和一些安装的注意事项,以及解决方式. 2.内容 在安装Kafka Eagle之前,可能新接触的同学对Kafka Eagle不太了解,那我们现在简要介绍一下Kafka Eagle. 源代码地址:https://github.com/smartloli/kafka-eagle (感兴趣的同学可以关注一波) 2.1 Kafka Eagle是什么? Kafka Eag…
  我们在项目开发的时候都不可避免的会有异步化的问题,比较好的解决方案就是使用消息队列,可供选择的队列产品也有很多,比如轻量级的redis, 当然还有重量级的专业产品rabbitmq,rabbitmq好就好在是用erlang(二郎神)开发的,它那天生的OTP并行计算框架,轻而易举的进程间通讯,我都恨 不得将后端的内存计算框架全部换成erlang...开个玩笑,这篇我们具体来讲讲erlang开发的一个成品,叫做rabbitmq... 一:环境安装 这些开源性的产品没多少是建议用户部署在window…
虚拟机的安装:直接下一步即可,注意修改路径. 安装完成后新建虚拟机,直接下一步.如果选择镜像文件后出现错误,可以试着去修改电脑bios中的虚拟化设置,改为enable,如下图: apache安装: 1. 首先,将下载下来的压缩包解压到某个目录,建议解压到某个盘的根目录,方便一点. 2. 进入Apache/conf目录,用记事本打开httpd.conf文件,把apache原来的路径修改为现在apache存放的路径(要全部改完).3. 以管理员身份打开命令行, 输入:-–分割线-->"xxx/…
一.Windows 下载安装 1.去http://www.mongodb.org/downloads下载,mongodb默认安装在C:\Program Files\MongoDB目录下,到F:\Office\Database\MongoDBDATA新建MongoDBDATA目录用于存放mongoDB数据. 执行cmd命令 执行mongod.exe 2.设置环境变量 去windows环境变量中将C:\Program Files\MongoDB\Server\3.0\bin添加到path变量中,然后…
在我们编写代码过程中,会用到一系列的第三方开源类库,我们可以选择手动去一个个添加需要的库,但这非常麻烦.因此我们可以使用CocoaPods来帮助我们自动添加.使用CocoaPods需要先安装Ruby环境,下面我们来说一下Ruby环境的安装. 首先我提一下,我们使用CocoaPods来帮我们添加第三方开源类库,我们需要做的事有:Xcode->homebrew->RVM->Ruby->CocoaPats; 安装xcode是第一步,接着homebrew.RVM.Ruby.CocoaPat…
1.2 环境安装及初始化 目录(?)[-] 环境安装及初始化 下载映像 安装虚拟机 安装Kali Linux 安装中文输入法 安装VirtualBox增强工具 配置共享目录和剪贴板 运行 Metasploit Framework 启动Kali的PostgreSQL服务 启动Kali的Metasploit服务 在Kali运行msfconsole 小结 在1.1节,我们大致了解了Kali Linux的内置工具集,本节主要介绍虚拟机下的系统安装. 如果您需要定制或者采用其他方式安装系统,请参考官方文档…
描述: 安装SQL SERVER 2012,安装TFS 2013,配置TFS,挽起袖子,准备干活儿 步骤: 1,打开Hyper-V Manager,参考[Hyper-V]使用操作系统模板创建新的虚拟机,先完成操作系统的安装,注意以下修改以下信息: 磁盘名称:tfs.vhdx 磁盘存储位置:x:\VMs\DC 虚拟机名称:TFS 使用现有的虚拟机磁盘:x:\VMs\DC\tfs.vhdx 选择使用内网网卡:InternalVirtualNetwork 内存大小:4096 MB 服务器角色:Team…