前言

之前介绍了使用devTools进行索引库数据的crud,这里使用的是java程序,使用中间件activeMQ进行数据库和索引库数据的同步。主要是用来完成对数据库的修改来完成对索引库的同步。

正文

前提准备:

1. 索引信息:

结构化的索引,在索引的setting中,使用的是ik分词器,级别是ik-max-word。

mapping映射信息中,使用的dynamic = false,如果不能匹配到结构化索引的字段,则不进行数据的添加和更新。这样的好处是:不添加多余的不需要索引的字段,并且如果添加的字段多的话可以过滤掉无用的而不报错。对数据库添加的很多字段,只添加需要索引的结构化的映射信息。

2. elasticsearch信息

使用的是一台机器上的三个elasticsearch服务端的集群,分别使用的是9301,9300,9302的tcp端口。

创建项目进行数据库的操作

1. 对数据的删除

boolean flag = bookMapper.deleteByPrimaryKey(book.getId()) > 0 ? true : false;
logger.info("删除数据返回的结果:" + flag);
//将消息放入队列中,esQueueDelete:发送消息的类型,消息内容:book.getId().toString()
if (flag) {
producer.sendMessage(esQueueDelete, book.getId().toString());
}
return flag;

2. 对数据的修改

boolean flag = bookMapper.updateByPrimaryKeySelective(book) > 0 ? true : false;
logger.info("更新数据返回的结果:" + flag);
//将消息放入队列中,esQueueUpdate:消息的类型,消息体:将更新的数据转换成json放入消息体
if (flag) {
producer.sendMessage(esQueueUpdate,JSONObject.toJSONStringWithDateFormat(book, Constant.DATETIME_FORMATTION));
}
return flag;

3. 对数据的添加

boolean flag = bookMapper.insertSelective(book) > 0 ? true : false;
logger.info("插入的数据返回的id是{}", book.getId());
/**
* 将数据插入到消息队列中。
* 如果索引创建的时候dynamic字段是false,可以直接传整对象,
* 如果不是,请自行过滤之后传入对象,否则会报错或者添加需要无用字段并被索引。
*/
if (flag) {
producer.sendMessage(esQueueCreate, JSONObject.toJSONStringWithDateFormat(book, Constant.DATETIME_FORMATTION));
}
return flag;

ES项目接受消息进行索引库操作

    /**
* 根据activeMQ消息订阅,自动将数据插入到索引库
* @param receiveMsg 监听接收到的消息
*/
@JmsListener(destination = JmsConfig.QUEUE_CREATE,containerFactory = "jmsListenerContainerQueue")
public void autoInsertData(String receiveMsg){
if (StringUtils.isBlank(receiveMsg)){
logger.error("自动插入数据到索引库====>从消息队列中接收到的消息为空。监听的为:{}", JmsConfig.QUEUE_CREATE);
}
logger.info("自动插入数据到索引库====>从消息队列中接收到的消息为:{}", receiveMsg);
String id = dataService.insertData(receiveMsg, defaultIndex, defaultType);
logger.info("时间:{},监听消息队列:{},插入到索引库成功,id为:{}",LocalDateTime.now().format(DateTimeFormatter.ISO_LOCAL_DATE), JmsConfig.QUEUE_CREATE, id);
}

需要注意的是:

   @JmsListener(destination = JmsConfig.QUEUE_CREATE,containerFactory = "jmsListenerContainerQueue"),其中:JmsConfig.QUEUE_CREATE必须是常量,表示监听的消息类型。使用的是containerFactory 是jmsListenerContainerQueue

  直接拿到receiveMsg,就是接收的消息体。

具体插入索引库代码

@Override
public String insertData(String content, String index, String type) {
JSONObject jsonObject = JSONObject.parseObject(content);
String id = jsonObject.get(primaryKey).toString();
IndexResponse indexResponse = transportClient.prepareIndex(index, type, id).setSource(jsonObject.toJSONString(), XContentType.JSON).get();
logger.info("插入数据库的数据是:{},插入索引库返回状态:{},插入的id为{}",content, indexResponse.status(), indexResponse.getId());
return indexResponse.getId();
}

删除和更新类似,直接上代码了。

    /**
* 根据activeMQ消息订阅,自动将数据插入到索引库
* @param receiveMsg 监听接收到的消息
*/
@JmsListener(destination = JmsConfig.QUEUE_CREATE,containerFactory = "jmsListenerContainerQueue")
public void autoInsertData(String receiveMsg){
if (StringUtils.isBlank(receiveMsg)){
logger.error("自动插入数据到索引库====>从消息队列中接收到的消息为空。监听的为:{}", JmsConfig.QUEUE_CREATE);
}
logger.info("自动插入数据到索引库====>从消息队列中接收到的消息为:{}", receiveMsg);
String id = dataService.insertData(receiveMsg, defaultIndex, defaultType);
logger.info("时间:{},监听消息队列:{},插入到索引库成功,id为:{}",LocalDateTime.now().format(DateTimeFormatter.ISO_LOCAL_DATE), JmsConfig.QUEUE_CREATE, id);
} /**
* 根据订阅的消息,自动从索引库删除数据
* @param receiveMsg
*/
@JmsListener(destination = JmsConfig.QUEUE_DELETE,containerFactory = "jmsListenerContainerQueue")
public void autoDeleteData(String receiveMsg){
if (StringUtils.isBlank(receiveMsg)){
logger.error("自动从索引库删除数据===>从消息队列中接收到的消息为空。监听的为:{}", JmsConfig.QUEUE_DELETE);
}
boolean flag = dataService.deleteData(receiveMsg, defaultIndex, defaultType);
logger.info("自动从索引库删除数据===>从消息队列中接收到的消息为:{},删除结果为:{}", receiveMsg, flag);
} /**
* 根据订阅的消息,自动从索引库更新数据
* @param receiveMsg
*/
@JmsListener(destination = JmsConfig.QUEUE_UPDATE,containerFactory = "jmsListenerContainerQueue")
public void autoUpdateData(String receiveMsg){
if (StringUtils.isBlank(receiveMsg)){
logger.error("自动从索引库更新数据===>从消息队列中接收到的消息为空。监听的为:{}", JmsConfig.QUEUE_DELETE);
}
logger.info("自动更新数据到索引库====>从消息队列中接收到的消息为:{}", receiveMsg);
boolean flag = dataService.updateData(receiveMsg, defaultIndex, defaultType);
logger.info("自动从索引库更新数据===>从消息队列中接收到的消息为:{},更新结果为:{}", receiveMsg, flag);
} @Override
public String insertData(String content, String index, String type) {
JSONObject jsonObject = JSONObject.parseObject(content);
String id = jsonObject.get(primaryKey).toString();
IndexResponse indexResponse = transportClient.prepareIndex(index, type, id).setSource(jsonObject.toJSONString(), XContentType.JSON).get();
logger.info("插入数据库的数据是:{},插入索引库返回状态:{},插入的id为{}",content, indexResponse.status(), indexResponse.getId());
return indexResponse.getId();
} @Override
public boolean deleteData(String receiveMsg, String index, String type) {
DeleteResponse deleteResponse = transportClient.prepareDelete(index, type, receiveMsg).execute().actionGet();
logger.info("删除索引的结果为:{},删除的索引数据的id为:{}", deleteResponse.status().getStatus(), deleteResponse.getId());
return deleteResponse.status().getStatus() == 200 ? true : false;
} @Override
public boolean updateData(String receiveMsg, String defaultIndex, String defaultType) {
JSONObject jsonObject = JSONObject.parseObject(receiveMsg);
String id = jsonObject.get(primaryKey).toString();
UpdateRequest updateRequest = new UpdateRequest().index(defaultIndex).type(defaultType).id(id).doc(jsonObject.toJSONString(), XContentType.JSON);
UpdateResponse updateResponse = transportClient.update(updateRequest).actionGet();
int status = updateResponse.status().getStatus();
logger.info("更新索引结果:{},更新之后为:{}", status, receiveMsg);
return status == 200 ? true : false;
}

到目前为止,已经可以进行操作数据库同步进行索引库的操作了。但是还是存在很多问题的,主要在于activeMQ的一些问题。以后在解决。

ElasticSearch(十):springboot集成ElasticSearch集群完成数据的增,删,改的更多相关文章

  1. springboot集成redis集群

    1.引入依赖 <dependency> <groupId>org.springframework.boot</groupId> <artifactId> ...

  2. springboot集成elasticsearch

    在基础阶段学习ES一般是首先是 安装ES后借助 Kibana 来进行CURD 了解ES的使用: 在进阶阶段可以需要学习ES的底层原理,如何通过Version来实现乐观锁保证ES不出问题等核心原理: 第 ...

  3. elasticsearch系列八:ES 集群管理(集群规划、集群搭建、集群管理)

    一.集群规划 搭建一个集群我们需要考虑如下几个问题: 1. 我们需要多大规模的集群? 2. 集群中的节点角色如何分配? 3. 如何避免脑裂问题? 4. 索引应该设置多少个分片? 5. 分片应该设置几个 ...

  4. elasticsearch基于RBAC认证和集群之间的TLS通讯

    elasticsearch基于RBAC认证和集群之间的TLS通讯 一.背景 二.需要解决的问题 三.给es增加用户名和密码访问 1.修改config/elasticsearch.yml 2.访问es集 ...

  5. ElasticSearch 5学习(7)——分布式集群学习分享2

    前面主要学习了ElasticSearch分布式集群的存储过程中集群.节点和分片的知识(ElasticSearch 5学习(6)--分布式集群学习分享1),下面主要分享应对故障的一些实践. 应对故障 前 ...

  6. ElasticSearch 5学习(6)——分布式集群学习分享1

    在使用中我们把文档存入ElasticSearch,但是如果能够了解ElasticSearch内部是如何存储的,将会对我们学习ElasticSearch有很清晰的认识.本文中的所使用的ElasticSe ...

  7. ElasticSearch和Kibana 5.X集群的安装

    ElasticSearch和Kibana 5.X集群的安装 1.准备工作 1.1.下载安装包 1.2.系统的准备 2.ElasticSearch集群的安装 2.1.修改 config/elastics ...

  8. ElasticSearch入门 第二篇:集群配置

    这是ElasticSearch 2.4 版本系列的第二篇: ElasticSearch入门 第一篇:Windows下安装ElasticSearch ElasticSearch入门 第二篇:集群配置 E ...

  9. ElasticSearch 深入理解 三:集群部署设计

    ElasticSearch 深入理解 三:集群部署设计 ElasticSearch从名字中也可以知道,它的Elastic跟Search是同等重要的,甚至以Elastic为主要导向. Elastic即可 ...

随机推荐

  1. Pyhon 日志管理 -- logging

    Pyhon 日志管理 -- logging 一直觉得运行程序是能打印日志是一个神奇的事情,不懂日志产生的原理,后来听说Pyhton 有一个logging模块,So,要好好研究一下. 先贴出代码,看看她 ...

  2. jsp/post中文乱码问题

    在 iso-8859-1,gb2312, utf-8 以及任意一种编码格式下,英文编码格式都是一样的,每个字符占8位,而中文就麻烦了,在gb2312 下一个中文占 16位,两字节,而在utf-8 下一 ...

  3. 雷林鹏分享:C# 事件(Event)

    C# 事件(Event) 事件(Event) 基本上说是一个用户操作,如按键.点击.鼠标移动等等,或者是一些出现,如系统生成的通知.应用程序需要在事件发生时响应事件.例如,中断.事件是用于进程间通信. ...

  4. C# WPF 利用NPOI读写Excel文件

    https://blog.csdn.net/a312024054/article/details/70139172 [各种样式] https://www.cnblogs.com/xwgli/archi ...

  5. android--------ListView和ExpandableListView的侧滑删除操作

    本案例主要实现了ListView和ExpandableListView的侧滑删除操作功能 效果图: ListView的Adapter类 private class SlideAdapter exten ...

  6. Codeforces Round #364 (Div. 1) (差一个后缀自动机)

    B. Connecting Universities 大意: 给定树, 给定2*k个点, 求将2*k个点两两匹配, 每个匹配的贡献为两点的距离, 求贡献最大值 单独考虑每条边$(u,v)$的贡献即可, ...

  7. UVA-10163 Storage Keepers (0-1背包)

    题目大意:有n个仓库,m个应聘者,每人对应一个能力值.一个人可以看多个仓库,一间仓库只能被一个人看.如果一个能力为p的人看k间仓库,那么安全系数为p/k,求出最大的最小安全系数,并且求出在此情况下所有 ...

  8. spring boot 学习(十二)拦截器实现IP黑名单

    拦截器实现IP黑名单 前言 最近一直在搞 Hexo+GithubPage 搭建个人博客,所以没怎么进行 SpringBoot 的学习.所以今天就将上次的”?秒防刷新”进行了一番修改.上次是采用注解加拦 ...

  9. linux processes identifiers

    Linux, like all Unix uses user and group identifiers to check for access rights to files and images ...

  10. Python Django 之 Views HttpRequest HttpReponse

    一.Python Django 之 Views 数据交互 http请求中产生两个人核心对象: http请求:HttpRequest对象 http响应:HttpReponse对象 所在位置django. ...