go语言nsq源码解读二 nsqlookupd、nsqd与nsqadmin
nsqlookupd:
官方文档解释见:http://bitly.github.io/nsq/components/nsqlookupd.html
用官方话来讲是:nsqlookupd管理拓扑信息,客户端根据特定的topic查询nsqlookupd来发现nsqd生产者及nsqd广播topic和channel信息。比较难懂,所以接下来,用通俗的话来解释。
首先讲点别的东西,用过linux的同学可能会发现,linux下很多应用,比如apache、mysql、ftp等它们的服务名称都是在d结尾的。如:
apache -> httpd
mysql -> mysqld
vsftp -> vsftpd
最后的结尾d是Daemon的意思,守护进程,这种进程不会因为终端窗口关闭就停止执行。比如apache,执行 service httpd start后,apache就启动了, 终端关掉后,apache仍然在后台运行。
好了,现在你会发现,我们的nsqlookupd和nsqd也是在d结尾的,这就暗示他们可能是守护进程,而事实上也确实是这样。
nsqlookupd就是类似apache一样的一个后台服务,它可以理解为整个nsq系统的神经中枢,启动以后,它默认会同时监听两个端口,在4160端口,建立一个tcp server,用于和nsqd进行数据沟通。在4161上呢,会建立一个http server,用于和nsqadmin进行数据交互。
nsqd
官方文档地址:http://bitly.github.io/nsq/components/nsqd.html
用官方话解释为:nsqd接收队列、发送消息到客户端。
上一讲中,执行的第二个命令:nsqd –lookupd-tcp-address=127.0.0.1:4160
表示启动一个nsqd 服务,同时告诉这个服务,nsqlookupd的地址在127.0.0.1:4160。4160端口,也就是nsqlookupd监听的tcp erver的地址。有了这个地址后,nsqd就可以和nsqlookupd地建立连接,然后做数据交互。同时,nsqd自己会默认监听4151端口,接收以http方式发送来的消息数据。
nsqadmin
官方文档见:http://bitly.github.io/nsq/components/nsqadmin.html
提供一个浏览器可访问的web页面,用于实时查看集群状态和执行一些管理操作。
上一讲中,第三个命令:nsqadmin –lookupd-http-address=127.0.0.1:4161
表示启动nsqadmin,同时告诉这个服务,nsqlookupd监听的http地址在127.0.0.1:4161,这样,nsqadmin也会和nsqlookupd建立连接,进行数据交互。而nsqadmin 本身会监听4171端口,提供一个web服务,供浏览器访问,查看数据。所以在上一讲,最后我们通过访问http://127.0.0.1:4171/查看统计数据。
curl
这个应该都很熟悉的命令,它可以发起网络请求到指定的URL。可以参考网址:
http://blog.51yip.com/linux/1049.html
上一讲中:
curl -d “hello world 1” “http://127.0.0.1:4151/put?topic=test”
表示向网址http://127.0.0.1:4151/put?topic=test发起POST请求,参数为hello world 1,这4151端口,刚好是nsqd监听的端口,也就是说nsqd可以接口网络发来的信息,并放入队列保存起来,供消息的“消费者”来取出数据并处理。所以前面介绍nsqd的时候提到“nsqd接收、队列、发送消息到客户端。”。
nsq_to_file
这是nsq提供一个简单的消息“消费者”,他把某个指定“topic”下的数据存在指定的文件中。
上一讲的命令:
nsq_to_file –topic=test –output-dir=F:\tmp –lookupd-http-address=127.0.0.1:4161
表示把指定的话题test下的数据,放在目录F:\tmp下面。所以可以看到文件中保存了三个hello world,因为我们向topic=test的URL curl了三次hello world.
同时大家可能会注意到,nsq_to_file指定的最后一个参数,lookupd-http-address的4161端口是nsqlookupd的地址,不是nsqd的,而我们curl发消息是发到nsqd的4151端口了,这是什么原因呢?
源码我也没读完,呵呵,所以呢,目前猜测是因为nsqlookupd维护着所有nsqd的状态。知道nsqlookupd的地址后,就可以问nsqlookupd要所有的nsqd的信息了。
补充一个图:

举例
到此为止,几个命令都说完了。为方便理解,接下来讲个形象的例子。
nsqd 可以看作是一个人。
nsqlookupd 是公安局的户籍办。
nsqadmin 是人口普查办公室。
每产生一个nsqd,都要连到nsqlookupd汇报状态,及定时发送心跳包。对应的:每个人出生或者过世,都要到户籍办去上户或销户,而平时有生之年,你可能还要偶尔去去户籍办,出个户籍证明之类的。
管理者可以通过nsqadmin来查看统计数据,同时做一些管理操作。对应的,人品普查的时候,可以通过公安局来查看,各地区的人口数、性别比例、年龄分布等等。
例子不太恰当,不过对理解也有些帮助,就放在这里了。
nsqlookupd:
官方文档解释见:http://bitly.github.io/nsq/components/nsqlookupd.html
用官方话来讲是:nsqlookupd管理拓扑信息,客户端根据特定的topic查询nsqlookupd来发现nsqd生产者及nsqd广播topic和channel信息。比较难懂,所以接下来,用通俗的话来解释。
首先讲点别的东西,用过linux的同学可能会发现,linux下很多应用,比如apache、mysql、ftp等它们的服务名称都是在d结尾的。如:
apache -> httpd
mysql -> mysqld
vsftp -> vsftpd
最后的结尾d是Daemon的意思,守护进程,这种进程不会因为终端窗口关闭就停止执行。比如apache,执行 service httpd start后,apache就启动了, 终端关掉后,apache仍然在后台运行。
好了,现在你会发现,我们的nsqlookupd和nsqd也是在d结尾的,这就暗示他们可能是守护进程,而事实上也确实是这样。
nsqlookupd就是类似apache一样的一个后台服务,它可以理解为整个nsq系统的神经中枢,启动以后,它默认会同时监听两个端口,在4160端口,建立一个tcp server,用于和nsqd进行数据沟通。在4161上呢,会建立一个http server,用于和nsqadmin进行数据交互。
nsqd
官方文档地址:http://bitly.github.io/nsq/components/nsqd.html
用官方话解释为:nsqd接收队列、发送消息到客户端。
上一讲中,执行的第二个命令:nsqd –lookupd-tcp-address=127.0.0.1:4160
表示启动一个nsqd 服务,同时告诉这个服务,nsqlookupd的地址在127.0.0.1:4160。4160端口,也就是nsqlookupd监听的tcp erver的地址。有了这个地址后,nsqd就可以和nsqlookupd地建立连接,然后做数据交互。同时,nsqd自己会默认监听4151端口,接收以http方式发送来的消息数据。
nsqadmin
官方文档见:http://bitly.github.io/nsq/components/nsqadmin.html
提供一个浏览器可访问的web页面,用于实时查看集群状态和执行一些管理操作。
上一讲中,第三个命令:nsqadmin –lookupd-http-address=127.0.0.1:4161
表示启动nsqadmin,同时告诉这个服务,nsqlookupd监听的http地址在127.0.0.1:4161,这样,nsqadmin也会和nsqlookupd建立连接,进行数据交互。而nsqadmin 本身会监听4171端口,提供一个web服务,供浏览器访问,查看数据。所以在上一讲,最后我们通过访问http://127.0.0.1:4171/查看统计数据。
curl
这个应该都很熟悉的命令,它可以发起网络请求到指定的URL。可以参考网址:
http://blog.51yip.com/linux/1049.html
上一讲中:
curl -d “hello world 1” “http://127.0.0.1:4151/put?topic=test”
表示向网址http://127.0.0.1:4151/put?topic=test发起POST请求,参数为hello world 1,这4151端口,刚好是nsqd监听的端口,也就是说nsqd可以接口网络发来的信息,并放入队列保存起来,供消息的“消费者”来取出数据并处理。所以前面介绍nsqd的时候提到“nsqd接收、队列、发送消息到客户端。”。
nsq_to_file
这是nsq提供一个简单的消息“消费者”,他把某个指定“topic”下的数据存在指定的文件中。
上一讲的命令:
nsq_to_file –topic=test –output-dir=F:\tmp –lookupd-http-address=127.0.0.1:4161
表示把指定的话题test下的数据,放在目录F:\tmp下面。所以可以看到文件中保存了三个hello world,因为我们向topic=test的URL curl了三次hello world.
同时大家可能会注意到,nsq_to_file指定的最后一个参数,lookupd-http-address的4161端口是nsqlookupd的地址,不是nsqd的,而我们curl发消息是发到nsqd的4151端口了,这是什么原因呢?
源码我也没读完,呵呵,所以呢,目前猜测是因为nsqlookupd维护着所有nsqd的状态。知道nsqlookupd的地址后,就可以问nsqlookupd要所有的nsqd的信息了。
补充一个图:

举例
到此为止,几个命令都说完了。为方便理解,接下来讲个形象的例子。
nsqd 可以看作是一个人。
nsqlookupd 是公安局的户籍办。
nsqadmin 是人口普查办公室。
每产生一个nsqd,都要连到nsqlookupd汇报状态,及定时发送心跳包。对应的:每个人出生或者过世,都要到户籍办去上户或销户,而平时有生之年,你可能还要偶尔去去户籍办,出个户籍证明之类的。
管理者可以通过nsqadmin来查看统计数据,同时做一些管理操作。对应的,人品普查的时候,可以通过公安局来查看,各地区的人口数、性别比例、年龄分布等等。
例子不太恰当,不过对理解也有些帮助,就放在这里了。
go语言nsq源码解读二 nsqlookupd、nsqd与nsqadmin的更多相关文章
- (转)go语言nsq源码解读二 nsqlookupd、nsqd与nsqadmin
转自:http://www.baiyuxiong.com/?p=886 ---------------------------------------------------------------- ...
- go语言 nsq源码解读三 nsqlookupd源码nsqlookupd.go
从本节开始,将逐步阅读nsq各模块的代码. 读一份代码,我的思路一般是: 1.了解用法,知道了怎么使用,对理解代码有宏观上有很大帮助. 2.了解各大模块的功能特点,同时再想想,如果让自己来实现这些模块 ...
- go语言 nsq源码解读四 nsqlookupd源码options.go、context.go和wait_group_wrapper.go
本节会解读nsqlookupd.go文件中涉及到的其中三个文件:options.go.context.go和wait_group_wrapper.go. options.go 123456789101 ...
- go语言nsq源码解读五 nsqlookupd源码registration_db.go
本篇将讲解registration_db.go文件. 1234567891011121314151617181920212223242526272829303132333435363738394041 ...
- go语言nsq源码解读八 http.go、http_server.go
这篇讲另两个文件http.go.http_server.go,这两个文件和第六讲go语言nsq源码解读六 tcp.go.tcp_server.go里的两个文件是相对应的.那两个文件用于处理tcp请求, ...
- go语言nsq源码解读七 lookup_protocol_v1.go
本篇将解读nsqlookup处理tcp请求的核心代码文件lookup_protocol_v1.go. 1234567891011121314151617181920212223242526272829 ...
- go语言nsq源码解读一-基本介绍
简单介绍一下nsq. 参考 http://feilong.me/2013/05/nsq-realtime-message-processing-system 的介绍:NSQ是由知名短链接服务商bitl ...
- go语言nsq源码解读九 tcp和http中channel、topic的增删
通过前面多篇文章,nsqlookupd基本已经解读完毕了,不过在关于channel和topic的增删上还比较模糊,所以本篇将站在宏观的角度来总结一下,tcp.go和http.go两个文件中关于chan ...
- go语言nsq源码解读六 tcp.go、tcp_server.go
本篇讲nsqlookupd中tcp.go.tcp_server.go tcp_server.go位于util目录下. 12345678910111213141516171819202122232425 ...
随机推荐
- 如何在centos操作系统上发布.net core的项目
环境:操作系统: centos 7.net core: 2.1.101 官方网站的示例地址: https://docs.microsoft.com/zh-cn/dotnet/core/linux-pr ...
- oracle 随机数(转载)
http://blog.sina.com.cn/s/blog_6a01140c0100wimi.html 1.从表中随机取记录 select * from (select * from staff o ...
- sql server对并发的处理-乐观锁和悲观锁
https://www.cnblogs.com/dengshaojun/p/3955826.html sql server对并发的处理-乐观锁和悲观锁 假如两个线程同时修改数据库同一条记录,就会导致后 ...
- Apriori算法-频繁项集-关联规则
计算频繁项集: 首先生成一个数据集 def loadDataSet(): return [[1, 3, 4], [2, 3, 5], [1, 2, 3, 5], [2, 5]] 测试数据集da ...
- Hadoop 实现 TF-IDF 计算
学习Hadoop 实现TF-IDF 算法,使用的是CDH5.13.1 VM版本,Hadoop用的是2.6.0的jar包,Maven中增加如下即可 <dependency> <grou ...
- Java Elasticsearch新手入门教程
概要: 1.使用Eclipse搭建Elasticsearch详情参考下面链接 2.Java Elasticsearch 配置 3.ElasticSearch Java Api(一) -添加数据创建索引 ...
- Android自动化框架介绍
随着Android应用得越来越广,越来越多的公司推出了自己移动应用测试平台.例如,百度的MTC.东软易测云.Testin云测试平台…….由于自己所在项目组就是做终端测试工具的,故抽空了解了下几种常见的 ...
- IAAS-libvirt介绍。
Libvirt介绍 Libvirt与hypervisor无关,其提供与多种操作系统虚拟化能力进行交互的API与工具库. Libvirt提供了一个通用稳定的抽象层,可以安全的操作物理机上的虚拟机,同时为 ...
- cas 4.1.4单点登录实战
使用工具 maven-3.3.9 cas-4.1.4 Tomcat-7.0.57-win-x64 cas-sample-Java-webapp 一.Hello cas 1.下载Tomcat,解压:修改 ...
- swagger-ui生成api文档并进行测试
一.Swagger UI简介 Swagger UI是一个API在线文档生成和测试的利器,目前发现最好用的.它的源码也开源在GitHub上,地址:GitHub: https://github.com/s ...