Lucene.net站内搜索—3、最简单搜索引擎代码
目录
Lucene.net站内搜索—1、SEO优化
Lucene.net站内搜索—2、Lucene.Net简介和分词
Lucene.net站内搜索—3、最简单搜索引擎代码
Lucene.net站内搜索—4、搜索引擎第一版技术储备(简单介绍Log4Net、生产者消费者模式)
Lucene.net站内搜索—5、搜索引擎第一版实现
Lucene.net站内搜索—6、站内搜索第二版
代码
先看代码,后面再一一讲解
引入命名空间:
- using Lucene.Net.Store;
- using System.IO;
- using Lucene.Net.Index;
- using Lucene.Net.Analysis.PanGu;
- using Lucene.Net.Documents;
- using Lucene.Net.Search;
1、 对数据进行索引
- string indexPath = @"C:\1017index";//注意和磁盘上文件夹的大小写一致,否则会报错。
- FSDirectory directory = FSDirectory.Open(new DirectoryInfo(indexPath), new NativeFSLockFactory());
- bool isUpdate = IndexReader.IndexExists(directory);//判断索引库是否存在
- if (isUpdate)
- {
- //如果索引目录被锁定(比如索引过程中程序异常退出),则首先解锁
- //Lucene.Net在写索引库之前会自动加锁,在close的时候会自动解锁
- //不能多线程执行,只能处理意外被永远锁定的情况
- if (IndexWriter.IsLocked(directory))
- {
- IndexWriter.Unlock(directory);//un-否定。强制解锁
- }
- }
- IndexWriter writer = new IndexWriter(directory, new PanGuAnalyzer(), !isUpdate, Lucene.Net.Index.IndexWriter.MaxFieldLength.UNLIMITED);
- for (int i = 1000; i < 1100; i++)
- {
- string txt = File.ReadAllText(@"D:\我的文档\文章\" + i + ".txt");
- Document document = new Document();//一条Document相当于一条记录
- document.Add(new Field("id", i.ToString(), Field.Store.YES, Field.Index.NOT_ANALYZED));
- //每个Document可以有自己的属性(字段),所有字段名都是自定义的,值都是string类型
- //Field.Store.YES不仅要对文章进行分词记录,也要保存原文,就不用去数据库里查一次了
- //需要进行全文检索的字段加 Field.Index. ANALYZED
- document.Add(new Field("msg", txt, Field.Store.YES, Field.Index.ANALYZED,
- Lucene.Net.Documents.Field.TermVector.WITH_POSITIONS_OFFSETS));
- //防止重复索引
- writer.DeleteDocuments(new Term("id", i.ToString()));//防止存在的数据//delete from t where id=i
- //如果不存在则删除0条
- writer.AddDocument(document);//把文档写入索引库
- }
- writer.Close();
- directory.Close();//不要忘了Close,否则索引结果搜不到
2、搜索的代码
- string indexPath = @"C:\1017index";
- string kw = TextBox1.Text;
- FSDirectory directory = FSDirectory.Open(new DirectoryInfo(indexPath), new NoLockFactory());
- IndexReader reader = IndexReader.Open(directory, true);
- IndexSearcher searcher = new IndexSearcher(reader);
- PhraseQuery query = new PhraseQuery();//查询条件
- query.Add(new Term("msg", kw));//where contains("msg",kw)
- //foreach (string word in kw.Split(' '))//先用空格,让用户去分词,空格分隔的就是词“计算机 专业”
- //{
- // query.Add(new Term("msg", word));//contains("msg",word)
- //}
- query.SetSlop(100);//两个词的距离大于100(经验值)就不放入搜索结果,因为距离太远相关度就不高了
- TopScoreDocCollector collector = TopScoreDocCollector.create(1000, true);//盛放查询结果的容器
- searcher.Search(query, null, collector);//使用query这个查询条件进行搜索,搜索结果放入collector
- //collector.GetTotalHits()总的结果条数
- ScoreDoc[] docs = collector.TopDocs(0, collector.GetTotalHits()).scoreDocs;//从查询结果中取出第m条到第n条的数据
- List<SearchResult> list = new List<SearchResult>();
- for (int i = 0; i < docs.Length; i++)//遍历查询结果
- {
- int docId = docs[i].doc;//拿到文档的id。因为Document可能非常占内存(DataSet和DataReader的区别)
- //所以查询结果中只有id,具体内容需要二次查询
- Document doc = searcher.Doc(docId);//根据id查询内容。放进去的是Document,查出来的还是Document
- //Console.WriteLine(doc.Get("id"));
- //Console.WriteLine(doc.Get("msg"));
- SearchResult result = new SearchResult();
- result.Id = Convert.ToInt32(doc.Get("id"));
- result.Msg = doc.Get("msg");//只有 Field.Store.YES的字段才能用Get查出来
- list.Add(result);
- }
- Repeater1.DataSource = list;
- Repeater1.DataBind();
aspx代码:
- <form id="form1" runat="server">
- <div>
- <asp:Button ID="Button1" runat="server" onclick="Button1_Click" Text="创建索引" />
- <br />
- <br />
- <asp:TextBox ID="TextBox1" runat="server"></asp:TextBox>
- <asp:Button ID="Button2" runat="server" onclick="Button2_Click" Text="搜索" />
- <br />
- <ul>
- <asp:Repeater ID="Repeater1" runat="server">
- <ItemTemplate><li>Id:<%#Eval("Id") %><br /><%#Eval("Msg") %></li></ItemTemplate>
- </asp:Repeater>
- </ul>
- </div>
- </form>
Lucene.Net核心类简介
先运行写好的索引的代码,再向下讲解各个类的作用,不用背代码。
(*)Directory表示索引文件(Lucene.net用来保存用户扔过来的数据的地方)保存的地方,是抽象类,两个子类FSDirectory(文件中)、RAMDirectory (内存中)。使用的时候别和IO里的Directory弄混了。
创建FSDirectory的方法,FSDirectory directory =FSDirectory.Open(new DirectoryInfo(indexPath),new NativeFSLockFactory()), path索引的文件夹路径
IndexReader对索引进行读取的类,对IndexWriter进行写的类。IndexReader的静态方法bool IndexExists(Directory directory)判断目录directory是否是一个索引目录。IndexWriter的bool IsLocked(Directory directory) 判断目录是否锁定,在对目录写之前会先把目录锁定。两个IndexWriter没法同时写一个索引文件。IndexWriter在进行写操作的时候会自动 加锁,close的时候会自动解锁。IndexWriter.Unlock方法手动解锁(比如还没来得及close IndexWriter 程序就崩溃了,可能造成一直被锁定)。
创建索引
构造函数:IndexWriter(Directorydir, Analyzer a, bool create, MaxFieldLength mfl)因为IndexWriter把输入写入索引的时候,Lucene.net是把写入的文件用指定的分词器将文章分词(这样检索的时候才能查的快), 然后将词放入索引文件。
void AddDocument(Document doc),向索引中添加文档(Insert)。Document类代表要索引的文档(文章),最重要的方法Add(Field field),向文档中添加字段。Document是一片文档,Field是字段(属性)。Document相当于一条记录,Field相当于字段。
Field类的构造函数 Field(string name, string value, Field.Store store, Field.Indexindex, Field.TermVector termVector):name表示字段名; value表示字段值;
store表示是否存储value值,可选值Field.Store.YES存储,Field.Store.NO不存 储,Field.Store.COMPRESS压缩存储;默认只保存分词以后的一堆词,而不保存分词之前的内容,搜索的时候无法根据分词后的东西还原原 文,因此如果要显示原文(比如文章正文)则需要设置存储。
index表示如何创建索引,可选值Field.Index. NOT_ANALYZED,不创建索引,Field.Index. ANALYZED,创建索引;创建索引的字段才可以比较好的检索。是否碎尸万段!是否需要按照这个字段进行“全文检索”。
termVector表示如何保存索引词之间的距离。“北京欢迎你们大家”,索引中是如何保存“北京”和“大家”之间“隔多少单词”。方便只检索在一定距离之内的词。
为什么要把帖子的url做为一个Field,因为要在搜索展示的时候先帖子地址取出来构建超链接,所以Field.Store.YES;一般不需要 对url进行检索,所以Field.Index.NOT_ANALYZED 。根据《红楼梦》构建的“词:页数”纸,在构建完成后就可以把原文《红楼梦》扔了
案例:对1000至1100号帖子进行索引。“只要能看懂例子和文档,稍作修改即可实现自己的需求”。除了基础知识外,第三方开发包只要“能看懂,改改即可”
搜索
IndexSearcher是进行搜索的类,构造函数传递一个IndexReader。IndexSearcher的void Search(Query query, Filter filter, Collector results)方法用来搜索,Query是查询条件, filter目前传递null, results是检索结果,TopScoreDocCollector.create(1000, true)方法创建一个Collector,1000表示最多结果条数,Collector就是一个结果收集器。
搜索所采用的分词算法必须和索引的一致。Query有很多子类,PhraseQuery是一个子类。 PhraseQuery用来进行多个关键词的检索,调用Add方法添加关键词,query.Add(new Term("字段名", 关键词)),PhraseQuery. SetSlop(int slop)用来设置关键词之间的最大距离,默认是0,设置了Slop以后哪怕文档中两个关键词之间没有紧挨着也能找到。query.Add(new Term("字段名", 关键词))query.Add(new Term("字段名2", 关键词2))
类似于:where 字段名 contains 关键词 and 字段名2 contains 关键词2
如何实现字段名 contains 关键词 or 字段名2 contains 关键词2, BooleanQuery:MUST// 与运算;SHOULD // 或运算;MUST_NOT// 非运算
调用TopScoreDocCollector的GetTotalHits()方法得到搜索结果条数,调用Hits的TopDocs TopDocs(int start, int howMany)得到一个范围内的结果(分页),TopDocs的scoreDocs字段是结果ScoreDoc数组, ScoreDoc 的doc字段为Lucene.Net为文档分配的id(为降低内存占用,只先返回文档id),根据这个id调用searcher的Doc方法就能拿到Document了(放进去的是Document,取出来的也是Document);
调用doc.Get("字段名")可以得到文档指定字段的值,注意只有Store.YES的字段才能得到,因为Store.NO的没有保存全部内容,只保存了分割后的词。
编写检索功能,搜索“网站 志愿者”。练习分词,用户不用空格。如果确定用盘古分词,那么用盘古的Segment类更方便。检索不出来的可能的原因:路径问题,分词是否正确、盘古分词如果指定忽略大小写,则需要统一按照小写进行搜索。Todo:第一个版本应该保存body和title,搜索结果形成超链接,不显示正文。
文章重复索引的问题
总结下执行顺序:发布文章的时候,创建索引,然后搜索文章的时候,就直接从索引库进行搜索。
使用回顾
1、解压PanGu4Lucene_V2.3.1.0.zip,把Dictionaries放到项目中,改名为Dict,然后把Dict文件夹下的文件都设置为“如果较新则复制。”(网站是没有那个选项的。都用Web应用程序)
2、再添加对Lucene.Net.dll、PanGu.dll、PanGu.Lucene.Analyzer.dll(Pangu分词和Lucene的一个桥接)。
设置断点查找问题,断点要设在关键性的行上,看是上面的问题还是下面的问题,二分法。
Lucene.net站内搜索—3、最简单搜索引擎代码的更多相关文章
- Lucene.net站内搜索—4、搜索引擎第一版技术储备(简单介绍Log4Net、生产者消费者模式)
目录 Lucene.net站内搜索—1.SEO优化 Lucene.net站内搜索—2.Lucene.Net简介和分词Lucene.net站内搜索—3.最简单搜索引擎代码Lucene.net站内搜索—4 ...
- Lucene.net站内搜索—6、站内搜索第二版
目录 Lucene.net站内搜索—1.SEO优化 Lucene.net站内搜索—2.Lucene.Net简介和分词Lucene.net站内搜索—3.最简单搜索引擎代码Lucene.net站内搜索—4 ...
- Lucene.net站内搜索—5、搜索引擎第一版实现
目录 Lucene.net站内搜索—1.SEO优化 Lucene.net站内搜索—2.Lucene.Net简介和分词Lucene.net站内搜索—3.最简单搜索引擎代码Lucene.net站内搜索—4 ...
- Lucene.net站内搜索—2、Lucene.Net简介和分词
目录 Lucene.net站内搜索—1.SEO优化 Lucene.net站内搜索—2.Lucene.Net简介和分词Lucene.net站内搜索—3.最简单搜索引擎代码Lucene.net站内搜索—4 ...
- Lucene.net站内搜索—1、SEO优化
目录 Lucene.net站内搜索—1.SEO优化 Lucene.net站内搜索—2.Lucene.Net简介和分词Lucene.net站内搜索—3.最简单搜索引擎代码Lucene.net站内搜索—4 ...
- Lucene.Net 站内搜索
Lucene.Net 站内搜索 一 全文检索: like查询是全表扫描(为性能杀手)Lucene.Net搜索引擎,开源,而sql搜索引擎是收费的Lucene.Net只是一个全文检索开发包(只是帮我们 ...
- Lucene.net站内搜索-最简单搜索引擎代码
Lucene.Net核心类简介 先运行写好的索引的代码,再向下讲解各个类的作用,不用背代码. (*)Directory表示索引文件(Lucene.net用来保存用户扔过来的数据的地方)保存的地方,是抽 ...
- 使用Lucene.NET实现简单的站内搜索
使用Lucene.NET实现简单的站内搜索 导入Lucene.NET 开发包 Lucene 是apache软件基金会一个开放源代码的全文检索引擎工具包,是一个全文检索引擎的架构,提供了完整的查询引擎和 ...
- es简单打造站内搜索
最近挺忙的,在外出差,又同时干两个项目.白天一个晚上一个,特别是白天做的项目,马上就要上线了,在客户这里 三天两头开会,问题很多真的很想好好静下来怼代码,半夜做梦都能fix bugs~ 和客户交流真的 ...
随机推荐
- 【JMS】JMS之ActiveMQ的使用
这篇文章主要是简单介绍一下JMS和ActiveMQ,以及使用ActiveMQ来写两个demo. 1. JMS是啥 百度百科的解释: JMS即Java消息服务(Java Message Service) ...
- Liferay7 BPM门户开发之47: 集成Activiti待办已办任务清单和流程启动
首先增加两个Portlet,分别用于待办处理.流程启动.待办是别人发起的流程,流到自己这里的流程:流程启动用于发起新的流程. 程序文件放置于 在ACtivit中待办概念分两种,1是指派给你的,专门的指 ...
- Create New Commands in Tcl
Create New Commands in Tcl eryar@163.com 摘要Abstract:Tcl/Tk脚本可以很容易实现用户自定义的命令,方便的创建图形化的用户界面GUI,所以Tcl和T ...
- Android开发之时间日期2
昨天给大家分享了一个时间和日期设置的小例子,今天发现Android的布局组件中有关于时间和日期的设置的组件,废话不多说,先给大家分享一下我的经验. 时间日期设置组件:TimePicker.DatePi ...
- javase基础复习攻略《一》
作为一名软件工程专业,JAVA开发方向的大三本科学生,有必要把自己的学到的专业知识进行一下整理,一则方便自己了解自己的学习程度,二则帮助刚刚接触这一门语言的童鞋了解学习,本人来自与河南理工大学,介绍完 ...
- VS2013正则表达式应用示例
VS2013正则表达式语法 在查找替换对话框中查看 VS2013语法可在查找替换对话框中查看,具体过程如下: 通过编辑->查找和替换->在文件中替换或者相应快捷键(Ctrl+Shift+H ...
- Android notification的使用
notification出现在通知栏中的提示,特别是在4.0以后改进了不少,这里讲得都是基于4.0及4.1以后的. 分类: 1.普通Notification 2.大布局Notification 图1 ...
- Linux - History
history命令 打印所有命令记录:history 打印最近10条记录:history 10 执行第123条命令记录:!123 重复执行上一条命令:!! 执行最后一次以ls开头的命令:!ls 逐屏列 ...
- Clank – 快速构建移动 APP 原型的 HTML/CSS 框架
Clank 是一个自由和开放源码的 HTML/CSS 框架,可以帮助你轻松创建本地手机或平板电脑应用程序的原型.它着重于提供一致的用户界面,不会刻意去模仿一个特定的 OS .该框架是基于组件的,这样我 ...
- ssl证书生成:cer&jks文件生成摘录
一.生成.jks文件 1.keystore的生成: 分阶段生成: keytool -genkey -alias yushan(别名) -keypass yushan(别名密码) -keyalg ...