全文检索的Demo
用到lucene版本为6.3.0版本,利用的分词器为IKAnalyzer分词器,该分词对中文有较好的支持。关于支持lucene的6.xx以上的IkAnalyzer分词jar包下载地址:https://pan.baidu.com/s/1i5DreTZ
密码:2frx
package com.cn.shupu.util; import java.io.BufferedReader;
import java.io.File;
import java.io.FileInputStream;
import java.io.IOException;
import java.io.InputStreamReader;
import java.io.Reader;
import java.nio.file.Paths; import javax.management.Query; import org.apache.ibatis.javassist.bytecode.analysis.Analyzer;
import org.apache.lucene.analysis.TokenStream;
import org.apache.lucene.analysis.cn.smart.SmartChineseAnalyzer;
import org.apache.lucene.analysis.standard.StandardAnalyzer;
import org.apache.lucene.document.Document;
import org.apache.lucene.document.Field;
import org.apache.lucene.document.Field.Store;
import org.apache.lucene.document.TextField;
import org.apache.lucene.index.DirectoryReader;
import org.apache.lucene.index.IndexReader;
import org.apache.lucene.index.IndexWriter;
import org.apache.lucene.index.IndexWriterConfig;
import org.apache.lucene.index.IndexableField;
import org.apache.lucene.index.IndexableFieldType;
import org.apache.lucene.index.LogByteSizeMergePolicy;
import org.apache.lucene.index.LogMergePolicy;
import org.apache.lucene.index.Term;
import org.apache.lucene.index.IndexWriterConfig.OpenMode;
import org.apache.lucene.queryparser.classic.MultiFieldQueryParser;
import org.apache.lucene.queryparser.classic.ParseException;
import org.apache.lucene.search.IndexSearcher;
import org.apache.lucene.search.ScoreDoc;
import org.apache.lucene.search.Sort;
import org.apache.lucene.search.SortField;
import org.apache.lucene.search.TopDocs;
import org.apache.lucene.search.BooleanClause.Occur;
import org.apache.lucene.search.highlight.Fragmenter;
import org.apache.lucene.search.highlight.Highlighter;
import org.apache.lucene.search.highlight.InvalidTokenOffsetsException;
import org.apache.lucene.search.highlight.QueryScorer;
import org.apache.lucene.search.highlight.SimpleFragmenter;
import org.apache.lucene.search.highlight.SimpleHTMLFormatter;
import org.apache.lucene.store.Directory;
import org.apache.lucene.store.FSDirectory;
import org.apache.lucene.store.RAMDirectory;
import org.apache.lucene.util.BytesRef;
import org.apache.xmlbeans.impl.store.Path;
import org.wltea.analyzer.lucene.IKAnalyzer; public class LuceneUtils { // 索引文件的存放路径
private static String indexPath = "D://index/path"; // 要索引的文件(假如要索引的文件类型为txt文件)
private static String tarPath = "D://font//管理学(第四版).txt"; // 创建索引的方法
public static void createIndex() { File filDir = new File(tarPath); File idnexDir = new File(indexPath); Boolean create = true; if (!idnexDir.exists()) {
idnexDir.mkdirs();
} // 创建文件索引
try {
Directory directroy = FSDirectory.open(Paths.get(indexPath));
// 创建内存索引
RAMDirectory ramDirectory = new RAMDirectory(); // 创建分词器
// 1.创建 SmartChineseAnalyze分词器
// SmartChineseAnalyzer analyzer=new SmartChineseAnalyzer();
// 2.创建StantdarAnalyzer
// StandardAnalyzer analyzer = new StandardAnalyzer(); // 3.创建IKAnalyzer
IKAnalyzer analyzer = new IKAnalyzer(); // 尚未初始化,因为第一次执行分词的时候才会初始化,为了在执行分此前手动添加额外的字典,需要先手动的初始化一下
/*
* Configuration cfg = DefaultConfig.getInstance(); // 加载词库
* cfg.setUseSmart(true); // 设置智能分词
* org.wltea.analyzer.dic.Dictionary.initial(cfg);
*
* org.wltea.analyzer.dic.Dictionary dictionary =
* org.wltea.analyzer.dic.Dictionary.getSingleton();
*
* List<String> newWords = new ArrayList<>();
*
* for (BaseLib book : books) {
*
* newWords.add(book.getName());
*
* } dictionary.addWords(newWords);// 自动添加自定义分词
*/
// 创建索引器之前的初始化
IndexWriterConfig iwc = new IndexWriterConfig(analyzer);
IndexWriterConfig rwc = new IndexWriterConfig(analyzer); // SetMergeFactor是控制segment合并频率的,其决定了一个索引块中包括多少个文档,当硬盘上的索引块达到多少时,
// 将它们合并成一个较大的索引块。当MergeFactor值较大时,生成索引的速度较快。MergeFactor的默认值是10,建议在建立索引前将其设置的大一些。
LogMergePolicy mergePolicy = new LogByteSizeMergePolicy();
mergePolicy.setMergeFactor(100);
iwc.setMergePolicy(mergePolicy);
iwc.setRAMBufferSizeMB(2048);
iwc.setMaxBufferedDocs(1000);
iwc.setMaxBufferedDocs(1000); if (create) {
// Create a new index in the directory, removing any
// previously indexed documents:
// 在目录中创建一个新的索引,删除任何先前生成的索引文档
rwc.setOpenMode(OpenMode.CREATE); } else {
// Add new documents to an existing index:
// 新文档添加到一个现有的指数
rwc.setOpenMode(OpenMode.CREATE_OR_APPEND);
} // 文件索引生成器
IndexWriter fileWriter = new IndexWriter(directroy, iwc); // 内存索引生成器
IndexWriter ramWriter = new IndexWriter(ramDirectory, rwc); // 现将索引添加到内存索引中 // 创建文档
Document document = new Document(); // 添加term,term为索引文件中最小的单位,就像数据库中每一表的field。 // 获取文件的内容
String content = getTxt(filDir); // 其中Store.YESb表示索引的内容要保存的,Store.NO表示索引内容只索引不保存 document.add(new TextField("path", filDir.getAbsolutePath(), Store.YES)); document.add(new TextField("content", content, Store.YES)); // 根据文件的初始的OpenMode来对文件索引的添加或修改
if (ramWriter.getConfig().getOpenMode() == OpenMode.CREATE) { System.out.println("adding " + filDir.getAbsolutePath()); ramWriter.addDocument(document); } else { System.out.println("updating " + filDir.getAbsolutePath());
ramWriter.updateDocument(new Term("path", filDir.toString()), document);
} ramWriter.close(); // 将内存索引添加文件索引中,永久保存。内存索引只是暂时的保存索引文件,当程序结束时,内存索引的文件会消失
fileWriter.addIndexes(new Directory[] { ramDirectory });
fileWriter.forceMerge(1000);
fileWriter.maybeMerge();
fileWriter.close(); } catch (IOException e) {
// TODO Auto-generated catch block
e.printStackTrace();
} } /**
* 121 * 读取txt文件的内容 122 * @param file 想要读取的文件对象 123 * @return 返回文件内容 124
*/
public static String getTxt(File file) {
String result = "";
try {
BufferedReader br = new BufferedReader(new InputStreamReader(new FileInputStream(file), "GBK"));
String s = null;
while ((s = br.readLine()) != null) {// 使用readLine方法,一次读一行 result = result + "\n" + s; }
br.close();
} catch (Exception e) {
e.printStackTrace();
}
return result;
} public static void searchByKeyWord(String keyWord) { try {
Directory directory = FSDirectory.open(Paths.get(indexPath)); // 采用IkAnalyzer,其中true为智能分词。
IKAnalyzer analuzer = new IKAnalyzer(true); // 创建索引的读器
IndexReader ireader = DirectoryReader.open(directory);
// 创建索引的搜索器
IndexSearcher isearcher = new IndexSearcher(ireader); String[] stringQuery = { keyWord, keyWord };// 查询关键词的数组 String[] fields = { "path", "content" };// 多字段查询的值域 // Occur.MUST表示对应字段必须有查询值, Occur.MUST_NOT
// 表示对应字段必须没有查询值,Occur.SHOULD表示对应字段应该存在查询值(但不是必须)
Occur[] occ = { Occur.SHOULD, Occur.SHOULD }; org.apache.lucene.search.Query query = null;
try {
query = MultiFieldQueryParser.parse(stringQuery, fields, occ, analuzer);
} catch (ParseException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
/*
* // 只对content进行检索 QueryParser parser = new QueryParser("contents",
* analyzer);
*
* Query query = parser.parse(text);
*/ // 排序
SortField sf = new SortField(keyWord, SortField.Type.STRING_VAL, true); Sort sort = new Sort(sf); int count; // 获取一共多少条数据
TopDocs docs = null;
ScoreDoc[] hits = null;
docs = isearcher.search(query, Integer.MAX_VALUE, sort);
hits = docs.scoreDocs;
// 假如用到分页的时候,用 docs =
// isearcher.searchAfter(results.scoreDocs[page.getAfterDocId()],
// query, page.getPagesize(), sort); for (int i = 0; i < hits.length; i++) {
Document doc = isearcher.doc(hits[i].doc); System.out.println("文件路径:" + doc.get("path")); String content = doc.get("content");
// 查询字段高亮操作 其中100为字符长度可以自动修改的;
String s = null;
try {
s = displayHtmlHighlight(query, analuzer, "content", content, 290);
} catch (InvalidTokenOffsetsException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
System.out.println("内容:" + s); } ireader.close();
directory.close(); } catch (IOException e) {
// TODO Auto-generated catch block
e.printStackTrace();
} } /**
* 获取高亮显示结果的html代码
*
* @param query
* 查询
* @param analyzer
* 分词器
* @param fieldName
* 域名
* @param fieldContent
* 域内容
* @param fragmentSize
* 结果的长度(不含html标签长度)
* @return 结果(一段html代码)
* @throws IOException
* @throws InvalidTokenOffsetsException
*/
static String displayHtmlHighlight(org.apache.lucene.search.Query query,
org.apache.lucene.analysis.Analyzer analyzer, String fieldName, String fieldContent, int fragmentSize)
throws IOException, InvalidTokenOffsetsException {
// 创建一个高亮器
Highlighter highlighter = new Highlighter(new SimpleHTMLFormatter("<font color='red'>", "</font>"),
new QueryScorer(query));
Fragmenter fragmenter = new SimpleFragmenter(fragmentSize);
highlighter.setTextFragmenter(fragmenter);
return highlighter.getBestFragment(analyzer, fieldName, fieldContent);
} public static void main(String[] args) {
//本Demo只对txt文件类型做的索引
createIndex();
searchByKeyWord("管理"); } }
全文检索的Demo的更多相关文章
- Apache Lucene(全文检索引擎)—分词器
目录 返回目录:http://www.cnblogs.com/hanyinglong/p/5464604.html 本项目Demo已上传GitHub,欢迎大家fork下载学习:https://gith ...
- Apache Lucene(全文检索引擎)—创建索引
目录 返回目录:http://www.cnblogs.com/hanyinglong/p/5464604.html 本项目Demo已上传GitHub,欢迎大家fork下载学习:https://gith ...
- 全文检索原理以及es
最近要做个文章搜索,对全文检索原理以及es原理进行了一些调研, 1. es索引文件为多个文本文件描述,索引文件中的内容构成可见 http://elasticsearch.cn/article/86 ...
- 【手把手教你全文检索】Lucene索引的【增、删、改、查】
前言 搞检索的,应该多少都会了解Lucene一些,它开源而且简单上手,官方API足够编写些小DEMO.并且根据倒排索引,实现快速检索.本文就简单的实现增量添加索引,删除索引,通过关键字查询,以及更新索 ...
- SOLR (全文检索)
SOLR (全文检索) http://sinykk.iteye.com/ 1. 什么是SOLR 官方网站 http://wiki.apache.org/solr http://wiki.apach ...
- oracle 全文检索
一.使用 sys 用户登录oracle (1)运行—cmd—sqlplus — sys/密码 @连接字符 as sysdba 二.授权 1.grant ctxapp to 全文检索使用用户: 2.gr ...
- Lucene全文检索(一)
全文检索的概念 1.从大量的信息中快速.准确的查找要的信息2.收索的内容是文本信息3.不是根据语句的意思进行处理的(不处理语义)4.全面.快速.准确是衡量全文检索系统的关键指标.5.搜索时英文不区分大 ...
- Lucene搜索引擎例子demo
一.导入相应的jar包 KAnalyzer3.2.0Stable.jar lucene-analyzers-3.0.1.jar lucene-core-3.0.1.jar lucene-highlig ...
- 全文检索Lucene (2)
接着全文检索Lucene (1) . 下面我们来深入的研究一下,如何使用Lucene! 从全文检索Lucene (1)中我们可以看出,Lucene就好比一个双向的工作流,一方面是对索引库的维护,另一方 ...
随机推荐
- <转>jmeter(十九)HTTP属性管理器
本博客转载自:http://www.cnblogs.com/imyalost/category/846346.html 个人感觉不错,对jmeter讲解非常详细,担心以后找不到了,所以转发出来,留着慢 ...
- react脚手架搭建及配置
npm install -g create-react-app 装完之后,生成一个新的项目,可以使用下面的命令: create-react-app my-app cd my-app/yarn star ...
- 【题解】Luogu P2766 最长不下降子序列问题
原题传送门 实际还是比较套路的建图 先暴力dp一下反正数据很小 第一小问的答案即珂以求出数列的最长不下降子序列的长度s 考虑第二问如何做: 将每个点拆点 从前向后连一条流量为1的边 如果以它为终点的最 ...
- cpu使用率低负载高,原因分析
原因总结 产生的原因一句话总结就是:等待磁盘I/O完成的进程过多,导致进程队列长度过大,但是cpu运行的进程却很少,这样就体现到负载过大了,cpu使用率低. 下面内容是具体的原理分析:在分析负载为什么 ...
- 剑指offer(3)从尾到头打印链表
题目描述 输入一个链表,从尾到头打印链表每个节点的值. 题目分析 比较简单,主要注意下从尾到头,可以用栈可以用递归,我给出我比较喜欢的代码吧 代码 /* function ListNode(x){ t ...
- JS设计模式(2)策略模式
什么是策略模式? 定义:根据不同参数可以命中不同的策略 主要解决:在有多种算法相似的情况下,使用 if...else 所带来的复杂和难以维护. 何时使用:有许多种情况,而区分它们的只是他们直接的行为. ...
- flask --- 04 . 偏函数, 线程安全,栈堆,
一.偏函数(partial) ①第一种 结果为: ② 第二种 二.线程安全 将空间转换成时间 问题: 1秒钟打印所有结果 threading.current_thread().ident :线程ID ...
- servlet登录界面进行用户名和密码验证
一.建立LoginServlet项目并建立如下目录 二.在Login.html中编写登录界面代码 三.在css文件中新建login.css文件 四.在src文件中添加LoginServlet.java ...
- Python将list中的string批量转化成int/float
data = ['] data = map(eval, data) print data 输出:[1, 3.2, 2] 但是在Python3下我们输入: ls=[1,2,3] rs=map(str,l ...
- Spring Boot 数据库连接池 Druid
简介 数据库连接是一种关键的有限的昂贵的资源,这一点在多用户的网页应用程序中体现得尤为突出.对数据库连接的管理能显著影响到整个应用程序的伸缩性和健壮性,影响到程序的性能指标.数据库连接池正是针对这个问 ...