搜索引擎Lucene之皮毛
一、Lucene是apache软件基金会4 jakarta项目组的一个子项目,是一个开放源代码的全文检索引擎工具包,但它不是一个完整的全文检索引擎,而是一个全文检索引擎的架构,提供了完整的查询引擎和索引引擎,部分文本分析引擎(英文与德文两种西方语言)。Lucene的目的是为软件开发人员提供一个简单易用的工具包,以方便的在目标系统中实现全文检索的功能,或者是以此为基础建立起完整的全文检索引擎。Lucene是一套用于全文检索和搜寻的开源程式库,由Apache软件基金会支持和提供。Lucene提供了一个简单却强大的应用程式接口,能够做全文索引和搜寻。在Java开发环境里Lucene是一个成熟的免费开源工具。就其本身而言,Lucene是当前以及最近几年最受欢迎的免费Java信息检索程序库。人们经常提到信息检索程序库,虽然与搜索引擎有关,但不应该将信息检索程序库与搜索引擎相混淆。
二、搜索引擎这个东西还是很大的,我这里只是用了一点点皮毛,有兴趣还是去学习一下Solr
三、简易版的搜索实现依赖包
<dependency>
<groupId>com.github.magese</groupId>
<artifactId>ik-analyzer</artifactId>
<version>7.4.0</version>
</dependency>
四、代码
import com.alibaba.fastjson.JSONObject;
import org.apache.lucene.analysis.TokenStream;
import org.apache.lucene.analysis.tokenattributes.CharTermAttribute;
import org.apache.lucene.document.Document;
import org.apache.lucene.document.Field;
import org.apache.lucene.document.TextField;
import org.apache.lucene.index.*;
import org.apache.lucene.queryparser.classic.QueryParser;
import org.apache.lucene.search.IndexSearcher;
import org.apache.lucene.search.Query;
import org.apache.lucene.search.ScoreDoc;
import org.apache.lucene.store.Directory;
import org.apache.lucene.store.RAMDirectory;
import org.wltea.analyzer.lucene.IKAnalyzer; import java.io.IOException;
import java.util.ArrayList;
import java.util.List; /**
* Funtion: 搜索引擎核心工具类.
* <p>
* Date: 2018/9/18 14:08
*/
public class LuceneUtils {
//索引字段
private static final String INDEX_NAME = "searchName";
//用于传输实体类型
public static final String ENTITY_TYPE = "entityType";
//关键词,用于前端
public static final String KEY_WORDS = "keyWords";
private static final Integer VIEW_NUMBER = 100; /**
* 搜索引擎,查询结果
* @param searchName
* @param objects
* @return
* @throws Exception
*/
public static List<JSONObject> search(String searchName, List<Object> objects) throws Exception {
//1、准备中文分词器
IKAnalyzer analyzer = new IKAnalyzer();
//2、获取关键词,用于前端使用
List<String> keywords = getKeywords(searchName, analyzer);
//3、索引
Directory directory = addIndex(analyzer, objects);
//4、查询器
Query query = new QueryParser(INDEX_NAME, analyzer).parse(searchName);
//5、搜索
IndexReader reader = DirectoryReader.open(directory);
IndexSearcher searcher = new IndexSearcher(reader);
ScoreDoc[] scoreDocs = searcher.search(query, VIEW_NUMBER).scoreDocs;
//6、查询结果
List<JSONObject> results = getResults(searcher, scoreDocs, keywords);
//7、关闭查询
reader.close();
directory.close();
//8、返回结果
return results;
} /**
* 获取关键词
* @param searchName
* @param analyzer
* @return
* @throws IOException
*/
private static List<String> getKeywords(String searchName, IKAnalyzer analyzer) throws IOException {
List<String> keyWords = new ArrayList<>();
TokenStream tokenStream = analyzer.tokenStream("", searchName);
CharTermAttribute attribute = tokenStream.getAttribute(CharTermAttribute.class);
tokenStream.reset();
while (tokenStream.incrementToken()) {
keyWords.add(attribute.toString());
}
tokenStream.close();
return keyWords;
} /**
* 获取搜索结果
* @param searcher
* @param scoreDocs
* @return
* @throws Exception
*/
private static List<JSONObject> getResults(IndexSearcher searcher, ScoreDoc[] scoreDocs, List<String> keyWords) throws Exception {
if (scoreDocs != null && scoreDocs.length > 0) {
IKAnalyzer analyzer = new IKAnalyzer();
List<JSONObject> objects = new ArrayList<>();
//遍历文本
for (ScoreDoc scoreDoc:scoreDocs) {
Document document = searcher.doc(scoreDoc.doc);
List<IndexableField> fields = document.getFields();
if (fields != null && !fields.isEmpty()) {
//获取指定索引数据
JSONObject jsonObject = JSONObject.parseObject(document.get(INDEX_NAME));
jsonObject.put(ENTITY_TYPE, document.get(ENTITY_TYPE));
jsonObject.put(KEY_WORDS, keyWords);
objects.add(jsonObject);
}
}
return objects;
}
return null;
} /**
* 添加索引
* @param analyzer
* @param objects
* @return
* @throws IOException
*/
private static Directory addIndex(IKAnalyzer analyzer, List<Object> objects) throws IOException {
//使用内存方式
Directory directory = new RAMDirectory();
IndexWriterConfig indexWriterConfig = new IndexWriterConfig(analyzer);
IndexWriter indexWriter = new IndexWriter(directory, indexWriterConfig);
if (objects != null && !objects.isEmpty()) {
//添加索引
for (Object object:objects) {
Document document = new Document();
document.add(new TextField(INDEX_NAME, JSONObject.toJSONString(object), Field.Store.YES));
document.add(new TextField(ENTITY_TYPE, object.getClass().getName(), Field.Store.YES));
indexWriter.addDocument(document);
}
}
indexWriter.close();
return directory;
}
}
搜索引擎Lucene之皮毛的更多相关文章
- [垂直化搜索引擎]lucene简介及使用
摘自:大型分布式网站架构-设计与实践
- 1、什么是Lucene,Lucene能干什么
1.什么是lucene Lucene是一个全文搜索框架,而不是应用产品.因此它并不像http://www.baidu.com/ 或者google Desktop那么拿来就能用,它只是提供了一种工具让 ...
- lucene简介 创建索引和搜索初步
lucene简介 创建索引和搜索初步 一.什么是Lucene? Lucene最初是由Doug Cutting开发的,2000年3月,发布第一个版本,是一个全文检索引擎的架构,提供了完整的查询引擎和索引 ...
- Solr vs. Elasticsearch谁是开源搜索引擎王者
当前是云计算和数据快速增长的时代,今天的应用程序正以PB级和ZB级的速度生产数据,但人们依然在不停的追求更高更快的性能需求.随着数据的堆积,如何快速有效的搜索这些数据,成为对后端服务的挑战.本文,我们 ...
- 转 Solr vs. Elasticsearch谁是开源搜索引擎王者
转 https://www.cnblogs.com/xiaoqi/p/6545314.html Solr vs. Elasticsearch谁是开源搜索引擎王者 当前是云计算和数据快速增长的时代,今天 ...
- Elasticsearch vs Solr 搜索引擎对比和选型
前言 全文搜索属于最常见的需求,开源的 Elasticsearch 是目前全文搜索引擎的首选. 基于Lucene它可以快速地储存.搜索和分析海量数据.维基百科.Stack Overflow.Githu ...
- Lucene的FuzzyQuery中用到的Levenshtein Distance(LD)算法
2019独角兽企业重金招聘Python工程师标准>>> Lucene的FuzzyQuery中用到的Levenshtein Distance(LD)算法 博客分类: java 搜索引擎 ...
- 基于.NET平台常用的框架整理(转)
自从学习.NET以来,优雅的编程风格,极度简单的可扩展性,足够强大开发工具,极小的 学习曲线,让我对这个平台产生了浓厚的兴趣,在工作和学习中也积累了一些开源的组件,就目前想到的先整理于此,如果再想到, ...
- Index
我主要在研究.NET/C# 实现 PC IMERP 和 Android IMERP ,目的在解决企业通信中遇到的各类自动化问题 分布式缓存框架: Microsoft Velocity:微软自家分布 ...
随机推荐
- caffe2 环境的搭建以及detectron的配置
caffe2 环境的搭建以及detectron的配置 建议大家看一下这篇博客https://tech.amikelive.com/node-706/comprehensive-guide-instal ...
- SDN原理 OpenFlow协议 -3
问题4:流表匹配 OF1.1版本 这是OF1.1版本的操作,引入了多流表,1.0版本并没有多流表. 多流表的匹配称为 流水线处理:交换机从流表0开始查找,按照流表序号从小到大匹配. 每个包按照优先级去 ...
- android平台蓝牙编程
Android平台支持蓝牙网络协议栈,实现蓝牙设备之间数据的无线传输. 本文档描述了怎样利用android平台提供的蓝牙API去实现蓝牙设备之间的通信,蓝牙设备之间的通信主要包括了四个步骤:设置蓝牙设 ...
- Java IO流-合并流
2017-11-05 20:15:28 SequenceinputStream SequenceinputStream:SequenceInputStream 表示其他输入流的逻辑串联.它从输入流的有 ...
- JavaScript--语法2--语句结构
JavaScript--语句结构 一.心得 判断的时候常量放左边java中switch只支持四种类型,javaScript是弱类型,所有的都支持. 显示方法: 77 // alert("x= ...
- C#中json字符串的序列化和反序列化
改文章转自:https://www.cnblogs.com/shang201215019/p/7907655.html 什么是 Json ? Json[javascript对象表示方法] ...
- Python str 与 bytes 类型 之间的转换
bytes:字节数组,通常用它可以描述 “一个字符串”,只不过该字符串是 “bytes类型”,所以容易与str类型混淆,他们二者之间的转换: https://blog.csdn.net/lanchu ...
- Andrew and Taxi CodeForces - 1100E (思维,拓扑)
大意: 给定有向图, 每条边有一个权值, 假设你有$x$个控制器, 那么可以将所有权值不超过$x$的边翻转, 求最少的控制器数, 使得翻转后图无环 先二分转为判定问题. 每次check删除能动的边, ...
- Appium 自动化测试(6) -- 使用Appium操作YY语音例子
#!/usr/bin/env python # -*- coding: utf-8 -*- import os import unittest from appium import webdriver ...
- UVA-11212 Editing a Book (IDA*)
题目大意:将一个数字序列以最少的剪切次数粘贴成另一个数字序列. 题目分析:很显然,最坏的情况是需要n-1次剪切,搜索层数不多,但每一层的状态数目又非常庞大,适宜使用IDA*.考虑每一个序列后续不正确的 ...