golang kafka – hello world https://github.com/Shopify/sarama https://shopify.github.io/sarama/   consumer.go package main   import (     "fmt"     "github.com/Shopify/sarama"     "log"     "os"     "strings&quo…

一.kafka集群搭建 至于kafka是什么我都不多做介绍了,网上写的已经非常详尽了. 1. 下载zookeeper  https://zookeeper.apache.org/releases.html 2. 下载kafka http://kafka.apache.org/downloads 3. 启动zookeeper集群(我的示例是3台机器,后面的kafka也一样,这里就以1台代指3台,当然你也可以只开1台) 1)配置zookeeper. 修改复制一份 zookeeper-3.4.13/c…

针对golang的 kafka client 有很多开源package,例如sarama, confluent等等.在使用sarama 包时,高并发中偶尔遇到crash.于是改用confluent-kafka-go,其简单易用,并且表现稳定. 本文主要介绍confluent-kafka-go的使用方法. confluent-kafka-go,是kafka官网推荐的golang package. confluent-kafka-go is Confluent's Golang client for…

go 内存泄露 新版本服务跑上一天内存占用20g,显然是内存泄露 内存泄露的问题难在定位 技术上的定位 主要靠 pprof 生成统计文件 之前写web项目 基于net/http/pprof 可以看到运行态信息,协助排查 https://github.com/cclient/gowebframework/blob/f691321b898484327ceb0dcc4897315d5b8b0637/src/server/api/profiler.go#L4 现服务是个后台服务,预先并没加pprof模块…

使用golang kafka sarama 包时,遇到如下问题: 高并发情况下使用同步sync producer,偶尔遇到crash: panic: interface conversion: interface {} is nil, not chan *sarama.ProducerError goroutine 413 [running]: github.com/Shopify/sarama.(*syncProducer).handleSuccesses(0xc420384840) /hom…

一.前言 RabbitMQ是一个开源的消息代理软件(面向消息的中间件),它的核心作用就是创建消息队列,异步接收和发送消息,MQ的全程是:Message Queue中文的意思是消息队列. 1.1 使用场景 削峰填谷:用于应对间歇性流量提升对于系统的"破坏",比如秒杀活动,可以把请求先发送到消息队列在平滑的交由系统去处理,当访问量大于一定数量的时候,还可以直接屏蔽后续操作,给前台的用户友好的显示: 延迟处理:可以进行事件后置,比如订单超时业务,用户下单30分钟未支付取消订单: 系统解耦:消…

字符串处理方式 计算字符串长度 获取子串在字符串中的索引位置 计算子串长度 抽取(截取)字串 1.计算字符串长度,有两种方式 $ ${#string} $ expr length "$string"   // 如果 string 里面包含空格,则 $string 加上双引号,建议一直加上 注意:mac没有 expr命令,xshell登陆 linux服务器可以执行 expr命令 例1:  $ var="java python golang kafka" $ len=$…

一.背景 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品.订单等数据的多维度检索. 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求.而数据进行异构存储后,随之而来的就是数据同步的问题. 二.现有方法及问题 对于数据同步,我们目前的解决方案是建立数据中间表.把需要检索的业务数据,统一放到一张MySQL 表中,这张中间表对应了业务需要的 Elasticsearch 索引,每一列对应索引中的一个Mapp…

原文地址:https://segmentfault.com/a/1190000016991529 一.前言 RabbitMQ是一个开源的消息代理软件(面向消息的中间件),它的核心作用就是创建消息队列,异步接收和发送消息,MQ的全程是:Message Queue中文的意思是消息队列. <!--more--> 1.1 使用场景 削峰填谷:用于应对间歇性流量提升对于系统的“破坏”,比如秒杀活动,可以把请求先发送到消息队列在平滑的交由系统去处理,当访问量大于一定数量的时候,还可以直接屏蔽后续操作,给前…

字符串处理方式 计算字符串长度 获取子串在字符串中的索引位置 计算子串长度 抽取(截取)字串 1.计算字符串长度,有两种方式 $ ${#string} $ expr length "$string"   // 如果 string 里面包含空格,则 $string 加上双引号,建议一直加上 注意:mac没有 expr命令,xshell登陆 linux服务器可以执行 expr命令 例1:  $ var="java python golang kafka" $ len=$…