我的网站集成ElasticSearch初体验
最近,我给我的网站(https://www.xiandanplay.com/)尝试集成了一下es来实现我的一个搜索功能,因为这个是我第一次了解运用elastic,所以如果有不对的地方,大家可以指出来,话不多说,先看看我的一个大致流程
这里我采用的sdk的版本是Elastic.Clients.Elasticsearch, Version=8.0.0.0,官方的网址Installation | Elasticsearch .NET Client [8.0] | Elastic
我的es最开始打算和我的应用程序一起部署到ubuntu上面,结果最后安装kibana的时候,各种问题,虽好无奈,只好和我的SqlServer一起安装到windows上面,对于一个2G内容的服务器来说,属实有点遭罪了。
1、配置es
在es里面,我开启了密码认证。下面是我的配置
"Search": {
"IsEnable": "true",
"Uri": "http://127.0.0.1:9200/",
"User": "123",
"Password": "123"
}
然后新增一个程序集
然后再ElasticsearchClient里面去写一个构造函数去配置es
using Core.Common;
using Core.CPlatform;
using Core.SearchEngine.Attr;
using Elastic.Clients.Elasticsearch;
using Elastic.Clients.Elasticsearch.IndexManagement;
using Elastic.Transport; namespace Core.SearchEngine.Client
{
public class ElasticSearchClient : IElasticSearchClient
{
private ElasticsearchClient elasticsearchClient;
public ElasticSearchClient()
{
string uri = ConfigureProvider.configuration.GetSection("Search:Uri").Value;
string username = ConfigureProvider.configuration.GetSection("Search:User").Value;
string password = ConfigureProvider.configuration.GetSection("Search:Password").Value;
var settings = new ElasticsearchClientSettings(new Uri(uri))
.Authentication(new BasicAuthentication(username, password)).DisableDirectStreaming();
elasticsearchClient = new ElasticsearchClient(settings);
}
public ElasticsearchClient GetClient()
{
return elasticsearchClient;
}
}
}
然后,我们看skd的官网有这个这个提示
客户端应用程序应创建一个 该实例,该实例在整个应用程序中用于整个应用程序 辈子。在内部,客户端管理和维护与节点的 HTTP 连接, 重复使用它们以优化性能。如果您使用依赖项注入 容器中,客户端实例应注册到 单例生存期
所以我直接给它来一个AddSingleton
using Core.SearchEngine.Client;
using Microsoft.Extensions.DependencyInjection; namespace Core.SearchEngine
{
public static class ConfigureSearchEngine
{
public static void AddSearchEngine(this IServiceCollection services)
{
services.AddSingleton<IElasticSearchClient, ElasticSearchClient>();
}
}
}
2、提交文章并且同步到es
然后就是同步文章到es了,我是先写入数据库,再同步到rabbitmq,通过事件总线(基于事件总线EventBus实现邮件推送功能)写入到es
先定义一个es模型
using Core.SearchEngine.Attr;
using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
using XianDan.Model.BizEnum; namespace XianDan.Domain.Article
{
[ElasticsearchIndex(IndexName ="t_article")]//自定义的特性,sdk并不包含这个特性
public class Article_ES
{
public long Id { get; set; }
/// <summary>
/// 作者
/// </summary>
public string Author { get; set; }
/// <summary>
/// 标题
/// </summary>
public string Title { get; set; }
/// <summary>
/// 标签
/// </summary>
public string Tag { get; set; }
/// <summary>
/// 简介
/// </summary>
public string Description { get; set; }
/// <summary>
/// 内容
/// </summary>
public string ArticleContent { get; set; }
/// <summary>
/// 专栏
/// </summary>
public long ArticleCategoryId { get; set; }
/// <summary>
/// 是否原创
/// </summary>
public bool? IsOriginal { get; set; }
/// <summary>
/// 评论数
/// </summary>
public int? CommentCount { get; set; }
/// <summary>
/// 点赞数
/// </summary>
public int? PraiseCount { get; set; }
/// <summary>
/// 浏览次数
/// </summary>
public int? BrowserCount { get; set; }
/// <summary>
/// 收藏数量
/// </summary>
public int? CollectCount { get; set; }
/// <summary>
/// 创建时间
/// </summary>
public DateTime CreateTime { get; set; }
}
}
然后创建索引
string index = esArticleClient.GetIndexName(typeof(Article_ES));
await esArticleClient.GetClient().Indices.CreateAsync<Article_ES>(index, s =>
s.Mappings(
x => x.Properties(
t => t.LongNumber(l => l.Id)
.Text(l=>l.Title,z=>z.Analyzer(ik_max_word))
.Keyword(l=>l.Author)
.Text(l=>l.Tag,z=>z.Analyzer(ik_max_word))
.Text(l=>l.Description,z=>z.Analyzer(ik_max_word))
.Text(l=>l.ArticleContent,z=>z.Analyzer(ik_max_word))
.LongNumber(l=>l.ArticleCategoryId)
.Boolean(l=>l.IsOriginal)
.IntegerNumber(l=>l.BrowserCount)
.IntegerNumber(l=>l.PraiseCount)
.IntegerNumber(l=>l.PraiseCount)
.IntegerNumber(l=>l.CollectCount)
.IntegerNumber(l=>l.CommentCount)
.Date(l=>l.CreateTime)
)
)
);
然后每次增删改文章的时候写入到mq,例如
private async Task SendToMq(Article article, Operation operation)
{
ArticleEventData articleEventData = new ArticleEventData();
articleEventData.Operation = operation;
articleEventData.Article_ES = MapperUtil.Map<Article, Article_ES>(article);
TaskRecord taskRecord = new TaskRecord();
taskRecord.Id = CreateEntityId();
taskRecord.TaskType = TaskRecordType.MQ;
taskRecord.TaskName = "发送文章";
taskRecord.TaskStartTime = DateTime.Now;
taskRecord.TaskStatu = (int)MqMessageStatu.New;
articleEventData.Unique = taskRecord.Id.ToString();
taskRecord.TaskValue = JsonConvert.SerializeObject(articleEventData);
await unitOfWork.GetRepository<TaskRecord>().InsertAsync(taskRecord);
await unitOfWork.CommitAsync();
try
{
eventBus.Publish(GetMqExchangeName(), ExchangeType.Direct, BizKey.ArticleQueueName, articleEventData);
}
catch (Exception ex)
{
var taskRecordRepository = unitOfWork.GetRepository<TaskRecord>();
TaskRecord update = await taskRecordRepository.SelectByIdAsync(taskRecord.Id);
update.TaskStatu = (int)MqMessageStatu.Fail;
update.LastUpdateTime = DateTime.Now;
update.TaskResult = "发送失败";
update.AdditionalData = ex.Message;
await taskRecordRepository.UpdateAsync(update);
await unitOfWork.CommitAsync();
} }
mq订阅之后写入es,具体的增删改的方法就不写了吧
3、开始查询es
等待写入文章之后,开始查询文章,这里sdk提供的查询的方法比较复杂,全都是通过lmbda一个个链式去拼接的,但是我又没有找到更好的方法,所以就先这样吧
先创建一个集合存放查询的表达式
List<Action<QueryDescriptor<Article_ES>>> querys = new List<Action<QueryDescriptor<Article_ES>>>();
然后定义一个几个需要查询的字段
我这里使用MultiMatch来实现多个字段匹配同一个查询条件,并且指定使用ik_smart分词
Field[] fields =
{
new Field("title"),
new Field("tag"),
new Field("articleContent"),
new Field("description")
};
querys.Add(s => s.MultiMatch(y => y.Fields(Fields.FromFields(fields)).Analyzer(ik_smart).Query(keyword).Type(TextQueryType.MostFields)));
定义查询结果高亮,给查询出来的匹配到的分词的字段添加标签,同时前端需要对这个样式处理,
Dictionary<Field, HighlightField> highlightFields = new Dictionary<Field, HighlightField>();
highlightFields.Add(new Field("title"), new HighlightField()
{
PreTags = new List<string> { "<em>" },
PostTags = new List<string> { "</em>" },
});
highlightFields.Add(new Field("description"), new HighlightField()
{
PreTags = new List<string> { "<em>" },
PostTags = new List<string> { "</em>" },
});
Highlight highlight = new Highlight()
{
Fields = highlightFields
};
为了提高查询的效率,我只查部分的字段
SourceFilter sourceFilter = new SourceFilter();
sourceFilter.Includes = Fields.FromFields(new Field[] { "title", "id", "author", "description", "createTime", "browserCount", "commentCount" });
SourceConfig sourceConfig = new SourceConfig(sourceFilter);
Action<SearchRequestDescriptor<Article_ES>> configureRequest = s => s.Index(index)
.From((homeArticleCondition.CurrentPage - 1) * homeArticleCondition.PageSize)
.Size(homeArticleCondition.PageSize)
.Query(x => x.Bool(y => y.Must(querys.ToArray())))
.Source(sourceConfig)
.Sort(y => y.Field(ht => ht.CreateTime, new FieldSort() { Order=SortOrder.Desc}))
获取查询的分词结果
var analyzeIndexRequest = new AnalyzeIndexRequest
{
Text = new string[] { keyword },
Analyzer = analyzer
};
var analyzeResponse = await elasticsearchClient.Indices.AnalyzeAsync(analyzeIndexRequest);
if (analyzeResponse.Tokens == null)
return new string[0];
return analyzeResponse.Tokens.Select(s => s.Token).ToArray();
到此,这个就是大致的查询结果,完整的如下
public async Task<Core.SearchEngine.Response.SearchResponse<Article_ES>> SelectArticle(HomeArticleCondition homeArticleCondition)
{
string keyword = homeArticleCondition.Keyword.Trim();
bool isNumber = Regex.IsMatch(keyword, RegexPattern.IsNumberPattern);
List<Action<QueryDescriptor<Article_ES>>> querys = new List<Action<QueryDescriptor<Article_ES>>>();
if (isNumber)
{
querys.Add(s => s.Bool(x => x.Should(
should => should.Term(f => f.Field(z => z.Title).Value(keyword))
, should => should.Term(f => f.Field(z => z.Tag).Value(keyword))
, should => should.Term(f => f.Field(z => z.ArticleContent).Value(keyword))
)));
}
else
{
Field[] fields =
{
new Field("title"),
new Field("tag"),
new Field("articleContent"),
new Field("description")
};
querys.Add(s => s.MultiMatch(y => y.Fields(Fields.FromFields(fields)).Analyzer(ik_smart).Query(keyword).Type(TextQueryType.MostFields)));
}
if (homeArticleCondition.ArticleCategoryId.HasValue)
{
querys.Add(s => s.Term(t => t.Field(f => f.ArticleCategoryId).Value(FieldValue.Long(homeArticleCondition.ArticleCategoryId.Value))));
}
string index = esArticleClient.GetIndexName(typeof(Article_ES));
Dictionary<Field, HighlightField> highlightFields = new Dictionary<Field, HighlightField>();
highlightFields.Add(new Field("title"), new HighlightField()
{
PreTags = new List<string> { "<em>" },
PostTags = new List<string> { "</em>" },
});
highlightFields.Add(new Field("description"), new HighlightField()
{
PreTags = new List<string> { "<em>" },
PostTags = new List<string> { "</em>" },
});
Highlight highlight = new Highlight()
{
Fields = highlightFields
};
SourceFilter sourceFilter = new SourceFilter();
sourceFilter.Includes = Fields.FromFields(new Field[] { "title", "id", "author", "description", "createTime", "browserCount", "commentCount" });
SourceConfig sourceConfig = new SourceConfig(sourceFilter);
Action<SearchRequestDescriptor<Article_ES>> configureRequest = s => s.Index(index)
.From((homeArticleCondition.CurrentPage - 1) * homeArticleCondition.PageSize)
.Size(homeArticleCondition.PageSize)
.Query(x => x.Bool(y => y.Must(querys.ToArray())))
.Source(sourceConfig)
.Sort(y => y.Field(ht => ht.CreateTime, new FieldSort() { Order=SortOrder.Desc})).Highlight(highlight);
var resp = await esArticleClient.GetClient().SearchAsync<Article_ES>(configureRequest);
foreach (var item in resp.Hits)
{
if (item.Highlight == null)
continue;
foreach (var dict in item.Highlight)
{
switch (dict.Key)
{
case "title":
item.Source.Title = string.Join("...", dict.Value);
break;
case "description":
item.Source.Description = string.Join("...", dict.Value);
break; }
}
}
string[] analyzeWords = await esArticleClient.AnalyzeAsync(homeArticleCondition.Keyword);
List<Article_ES> articles = resp.Documents.ToList();
return new Core.SearchEngine.Response.SearchResponse<Article_ES>(articles, analyzeWords);
}
4、演示效果
搞完之后,发布部署,看看效果,分词这里要想做的像百度那样,估计目前来看非常有难度的
那么这里我也向大家求教一下,如何使用SearchRequest封装多个查询条件,如下
SearchRequest searchRequest = new SearchRequest();
searchRequest.From = 0;
searchRequest.Size = 10;
searchRequest.Query=多个查询条件
因为我觉得这样代码读起来比lambda可读性高些,能更好的动态封装。
我的网站集成ElasticSearch初体验的更多相关文章
- 【docker Elasticsearch】Rest风格的分布式开源搜索和分析引擎Elasticsearch初体验
概述: Elasticsearch 是一个分布式.可扩展.实时的搜索与数据分析引擎. 它能从项目一开始就赋予你的数据以搜索.分析和探索的能力,这是通常没有预料到的. 它存在还因为原始数据如果只是躺在磁 ...
- 【ES】ElasticSearch初体验之使用Java进行最基本的增删改查~
好久没写博文了, 最近项目中使用到了ElaticSearch相关的一些内容, 刚好自己也来做个总结. 现在自己也只能算得上入门, 总结下自己在工作中使用Java操作ES的一些小经验吧. 本文总共分为三 ...
- ElasticSearch初体验之使用
好久没写博文了, 最近项目中使用到了ElaticSearch相关的一些内容, 刚好自己也来做个总结.现在自己也只能算得上入门, 总结下自己在工作中使用Java操作ES的一些小经验吧. 本文总共分为三个 ...
- Spring boot集成redis初体验
pom.xml: <?xml version="1.0" encoding="UTF-8"?> <project xmlns="ht ...
- Spring boot集成Rabbit MQ使用初体验
Spring boot集成Rabbit MQ使用初体验 1.rabbit mq基本特性 首先介绍一下rabbitMQ的几个特性 Asynchronous Messaging Supports mult ...
- webpack初体验_集成插件_集成loader
webpack初体验 如果没装 webpack 就先装一下,命令行输入npm i webpack -g 新建一个项目 创建一个空的项目 定义一个名称 创建一个Module 选择静态 web 输入名称 ...
- JAVA中使用最广泛的本地缓存?Ehcache的自信从何而来2 —— Ehcache的各种项目集成与使用初体验
大家好,又见面了. 本文是笔者作为掘金技术社区签约作者的身份输出的缓存专栏系列内容,将会通过系列专题,讲清楚缓存的方方面面.如果感兴趣,欢迎关注以获取后续更新. 在上一篇文章<JAVA中使用最广 ...
- 在同一个硬盘上安装多个 Linux 发行版及 Fedora 21 、Fedora 22 初体验
在同一个硬盘上安装多个 Linux 发行版 以前对多个 Linux 发行版的折腾主要是在虚拟机上完成.我的桌面电脑性能比较强大,玩玩虚拟机没啥问题,但是笔记本电脑就不行了.要在我的笔记本电脑上折腾多个 ...
- Question2Answer初体验
Question2Answer初体验 高质量的问答社区十分有价值,很多无法解决的问题能通过问答社区找到解决办法,而对于站长来说,垂直的问答社区也很有潜力.最近盯上问答这一块,发现和我的一些思路很符 ...
- Net Core平台灵活简单的日志记录框架NLog+Mysql组合初体验
Net Core平台灵活简单的日志记录框架NLog初体验 前几天分享的"[Net Core集成Exceptionless分布式日志功能以及全局异常过滤][https://www.cnblog ...
随机推荐
- 靶机: AdmX_new
靶机: AdmX_new 准备阶段 靶机:https://download.vulnhub.com/admx/AdmX_new.7z 下载后进行 MD5:2948034da23a8acc1285fd4 ...
- 关于导入react native项目导致运行异常的那些事
从git上导入公司的项目,在本地运行的时候,项目无法运行.sdk,jdk,node都是使用公司规定的版本,项目中的local.properties文件sdk.dir路径也换成了自己本地的目录,结果就在 ...
- 解决Sqoop导入导出MySQL数据错位问题
添加--columns "columns,columns,columns" \可以在hive导入mysql时防止数据错位:
- 基于Hive的大数据分析系统
1.概述 在构建大数据分析系统的过程中,我们面对着海量.多源的数据挑战,如何有效地解决这些零散数据的分析问题一直是大数据领域研究的核心关注点.大数据分析处理平台作为应对这一挑战的利器,致力于整合当前主 ...
- excel一次性粘贴2万行数据
测试导入文件功能中,会出现需要验证导入大批量数据文件的情况,怎么样让文件快速从1行数据变成2万行数据呢,以下讲解方法: 1.如下原文件只有2行数据,第一行是标题第二行是数据 2. 选中需要复制的第二行 ...
- exceptionx:灵活便捷的Python异常处理库,让异常处理更高效!
exceptionx English | 中文 exceptionx 是一个灵活且便捷的Python异常处理库,允许你动态创建异常类,并提供多种异常处理机制. exceptionx 的前身是 gqyl ...
- 【ActiveJdbc】01 入门
官方快速上手文档: https://javalite.io/activejdbchttps://javalite.io/getting_started 完整介绍: https://javalite.i ...
- TinyVue v3.17.0 正式发布,推出了一款基于 Quill 2.0 的富文本编辑器,功能强大、开箱即用!
你好,我是 Kagol. 我们非常高兴地宣布,2024年6月26日,TinyVue 发布了 v3.17.0 . TinyVue 每次大版本发布,都会给大家带来一些实用的新特性,上一个版本我们重构了 c ...
- X86架构CPU下Ubuntu系统环境源码编译pytorch-gpu-2.0.1版本
本文操作步骤与 aarch64架构CPU下Ubuntu系统环境源码编译pytorch-gpu-2.0.1版本大致相同,只是CPU架构不同而已,因此这里只记录不同的地方. 重点: 一个个人心得,那就是要 ...
- 【转载】 Do's and Don'ts of using t-SNE to Understand Vision Models —— t-SNE 作者写的使用指南(PPT版本)
<Do's and Don'ts of using t-SNE to Understand Vision Models> 作者的PPT视频:https://www.youtube.com/ ...