开发测试时给 Kafka 发消息的 UI 发送器――Mikasa

说来话长,自从入了花瓣,整个人就掉进连环坑了。

  后端元数据采集是用 Storm 来走拓扑流程的,又因为 @Zola 不是很喜欢 Java,所以退而求其次选择了 Clojure,所以正在苦逼地学习 Clojure 和 Storm 中。

  目前来说外面的 Storm 拓扑的 Spout 是从 Kafka 中流入数据的。但是我们要给 Kafka 发送测试数据的时候,就需要跑到 Kafka 的测试服务器打开它的一个发送脚本进去发送,非常蛋疼;要么就是直接通过特定的发送业务逻辑代码测试,没有一个稍微泛一点的测试用发数据工具,于是 Mikasa 诞生了。

承 (?3?)~?

  讲到 Mikasa 名字的来源,实际上看过『巨人』都知道,八块腹肌的三爷。

  这里小爆料一下,又拍云和花瓣(都是同宗)的项目名很大部分都是以海贼王的角色命名的――尤其是又拍云更是丧心病狂。不过这让我这个伪・二次元的小伙伴异常欣喜,因为我也能用各种啪啪啪来命名我的角色了。比如我的第一个 Storm 相关的项目就叫 Suwako,即诹访子大人,因为脑子需要各种跳,于是就对诹访子大人这位青蛙之神各种膜拜。

  至于这个发射器为什么要用三爷呢?因为三爷相当于先锋军哇!

  这里的 Kafka 依赖用了搜狐小伙伴 @Crzidea 他们团队写的模块。

转 (ㄏ ̄? ̄)ㄏ ㄟ( ̄? ̄ㄟ)

  于是,话也不多说,直接上 repo 吧。在公司内网的 gitlab 里面有一份,还有一个 repo 在 GitHub 上。

点我

Download || Clone

  如果要直接下载的话就用这个链接:

https://github.com/XadillaX/mikasa/archive/master.zip

  如果要克隆的话就:

$ git clone https://github.com/XadillaX/mikasa.git
  1. 1

代码laycode - v1.1

Setup

  直接安装一下依赖:

$ npm install
  1. 1

代码laycode - v1.1

Configuration

  接下去就是简单的配置一下了,其实就是配置下配置文件。由于是快速开发,直接用了自己之前的 Exframess 框架,所以很多无用代码也懒得删了。

config/server.js

  这里其实别的也不用动,主要是修改下端口即可。

config/kafka.js

  这里修改一下 Kafka 的 Connection String 就好了。

Start up

  最后启动服务即可。

$ node app.js
# or
$ pm2 app.js
# or some other's
  1. 1
  2. 2
  3. 3
  4. 4
  5. 5

代码laycode - v1.1

合 (??ヮ?)?*:???

  最后的效果是这样的:

  只要在 Topics 栏里面输入你要发送的 Topic,然后再下面的消息栏里面输入你要传的消息(字符串),最后点击 Send 即可将你的测试消息发进 Kafka 中去了。

托大家的福,今天我的 Suwako 整个逻辑终于跑通了,撒花!ε?(?> ? <)?з

开发测试时给 Kafka 发消息的 UI 发送器――Mikasa的更多相关文章

  1. SpringBoot开发案例之整合Kafka实现消息队列

    前言 最近在做一款秒杀的案例,涉及到了同步锁.数据库锁.分布式锁.进程内队列以及分布式消息队列,这里对SpringBoot集成Kafka实现消息队列做一个简单的记录. Kafka简介 Kafka是由A ...

  2. KafKa 发消息到Storm

    通过kafka客户端发送数据,由KafkaSpout进行接收消息,传输到ConsumerBolt进行实时数据处理. maven依赖 <dependencies> <!-- https ...

  3. 使用wcftestclient.exe测试时,增加“最大消息大小配额”--maxReceivedMessa

    使用 WcfTestClient.exe工具测试的时候,可能会出现:这样的提示: 已超过传入消息(65536)的最大消息大小配额.若要增加配额,请使用相应绑定元素上的 MaxReceivedMessa ...

  4. KAFKA分布式消息系统

    2015-01-05 大数据平台 Hadoop大数据平台 基本概念 kafka的工作方式和其他MQ基本相同,只是在一些名词命名上有些不同.为了更好的讨论,这里对这些名词做简单解释.通过这些解释应该可以 ...

  5. C#程序员开发WinForm必须知道的 Window 消息大全

    不要以为下面的东西只有C++中才会用到哦! 消息,就是指Windows发出的一个通知,告诉应用程序某个事情发生了.例如,单击鼠标.改变窗口尺寸.按下键盘上的一个键都会使Windows发送一个消息给应用 ...

  6. C#程序员开发WinForm必须知道的 Window 消息大全(转)

    消息,就是指Windows发出的一个通知,告诉应用程序某个事情发生了.例如,单击鼠标.改变窗口尺寸.按下键盘上的一个键都会使Windows发送一个消息给应用程序.  消息本身是作为一个记录传递给应用程 ...

  7. 我们使用 Kafka 生产者在发消息的时候我们关注什么(Python 客户端 1.01 broker)

    之前使用 Kafka 的客户端消费者比较多一点,而且也是无脑订阅使用也没有深入了解过具体的参数.总的来说使用不够细节. 这次公司项目活动期间暴露非常多的问题,于是有了这篇文章. 首先我们来拆解一下 K ...

  8. Kafka生成消息时的3种分区策略

    摘要:KafkaProducer在发送消息的时候,需要指定发送到哪个分区, 那么这个分区策略都有哪些呢? 本文分享自华为云社区<Kafka生产者3中分区分配策略>,作者:石臻臻的杂货铺. ...

  9. 关于使用kafka时对于大数据消息体是遇到的问题

    kafka对于消息体的大小默认为单条最大值是1M. 但是在我们应用场景中, 常常会出现一条消息大于1M, 如果不对kafka进行配置. 则会出现生产者无法将消息推送到kafka或消费者无法去消费kaf ...

随机推荐

  1. Spring MVC 遇到的一点点问题(转)

    今天下午下班之前看了看凯歌给的Spring Training的教程的lab篇,我之前有跟着做没有遇到什么问题,但是到了跟Spring MVC integrating的时候,遇到一点点有趣的事情. 这个 ...

  2. teamviewer无法启动

    在 Linux.Mac OS X和 Windows下都可以用,但在 Linux 下无法启动时怎么办? 笔者回家工作时,都会用 Teamviewer 连线到其他 Linux 桌面,但某天起 Teamvi ...

  3. Swift - 单例模式的实现

    过去Swift要实现单例,无非是这三种方式:全局变量,内部变量和dispatch_once方式.但都略显繁琐. 后来从1.2版本起,Swift中添加了如 static let 和 static var ...

  4. BLE简介和Android BLE编程

    一.BLE和BT区别 其实我知道许多程序员不太喜欢阅读除了代码以外的文档,因为有时这些过于冗长的文档对编程并没有更多的好处,有了协议,接口,demo差不多很多人就能写出很好质量的代码了.但其实更深入的 ...

  5. Eclipse选项卡式的属性视图(The Eclipse Tabbed Properties View)

    Eclipse工作台提供了一个性能视图用于查看(和/或编辑)选定项目的属性. 在本文中,您将学习怎样使用选项卡式的属性视图创建一个性能增强的用户界面视图. 1.引言 Eclipse工作台提供了一个属性 ...

  6. 认识axure部件库中各个部件的属性

    在axure中每一个部件都有自己的属性,下面这个表格,我们就首先来了解认识一下!以下内容来自网站蓝图,版权归原作者所有! 属性名称 属性说明 属性举例 标签 用来标示部件的名称,在axure中,部件名 ...

  7. Gitolite v3安装配置指南

    使用gitolite对git仓储进行权限配置 gitolite在近期做了很多代码改动,升级到了v3版本,而我使用的是v3.5.2.在<Git权威指南>中所提及的是v2版本,有很多东西已经不 ...

  8. java实现小九机器人接口

    package com.iask.webchat.chatmachine; import java.net.URLEncoder; import org.apache.http.HttpEntity; ...

  9. for循环遍历字符串的还有一种方法

    遍历字符c,让它各自等于字符串数组chars里面的各个字符.然后运行以下的语句,当c被赋值为chars里面全部字符各一次后.就会退出这个循环. 通常我们遍历字符串数组用 for(int i=0;i&l ...

  10. 一个简单的webdynpro的ALV示例

    开发alv的时候需要1.在web dynpro组件下面 的已使用的组件中添加ALV组件 SALV_WD_TABLE 2.在组件控制器的属性下面创建ALV组件SALV_WD_TABLE 3.在视图界面的 ...