solr与.net系列课程(四)solr查询参数的讲解与.net如何获取solr数据

solr与.net系列课程(四)solr查询参数的讲解与.net如何获取solr数据

上一节我们完成了solr连接数据库,细心的朋友会发现一个问题,就是solr其实和语言没有任何关系,配置完成后任何语言都可以直接调用,本章我们主要对solr的查询做出讲解,然后就是新接触的人最关心的.net如何获取solr中的数据.

本节我准备了一个300万左右的数据表,为大家做演示

然后我们开始配置schema.xml 文件:

    <field name="id" type="string" indexed="true" stored="true" required="true" />
     <field name="title" type="text_cn" indexed="true" stored="true" multiValued="false" />
    <field name="area" type="string" indexed="true" stored="true" />
    <field name="industry" type="string" indexed="true" stored="true" />
    <field name="industrys" type="string" indexed="true" stored="true" />
    <field name="body" type="smartChnText" indexed="true" stored="true"/>
    <field name="adddate" type="date" indexed="true" stored="true" multiValued="false"/>
    <field name="columns" type="smartChnText" indexed="true" stored="true"/>
    <field name="sorts" type="string" indexed="true" stored="true"/>
    <field name="url" type="string" indexed="true" stored="true" required="true" />
    <field name="orderColumn" type="string" indexed="true" stored="true"/>
    <field name="phase" type="string" indexed="true" stored="true"/>
    <field name="phasetype" type="string" indexed="true" stored="true"/>
    <field name="pfund" type="tfloat" indexed="true" stored="true"/>
    <field name="flag" type="string" indexed="true" stored="true" />

这里说明一下,数据表中的数据可以选择行的存入solr中,想存哪个就配置哪个就行了

type="text_cn" 就是我配置的ik分词器,type="smartChnText"是solr自带的分词器,分词效果一般,但也要配置,直接在配置ik分词器的位置粘贴如下代码即可:

<!-- 加入smartcn 中文分词器 text_newcn-->
<fieldType name="smartChnText" class="solr.TextField"  >  

    <analyzer  class="org.apache.lucene.analysis.cn.smart.SmartChineseAnalyzer"/>  

 </fieldType> 

这里强调一下,分词器有很多种,想要哪种就用哪种

配置完成后开始配置data-confing.xml文件

<?xml version="1.0" encoding="UTF-8"?>
<dataConfig>
<dataSource driver="com.microsoft.sqlserver.jdbc.SQLServerDriver" url="jdbc:sqlserver://192.168.0.8;DatabaseName=BHI_DATABASE" user="sa" password="123"/>
<document name="Info">
<entity name="Biddings" pk="OriginalID" transformer="ClobTransformer"

query="SELECT OriginalID,'项目标讯' as orderColumn, '项目标讯' as columns ,'${dataimporter.last_index_time}' as ColumnID,dbo.ShowLabelName(Area) as Area,Pfund,ColumnID as flag,category,dbo.ShowLabelName(Industry) as Industry, Industry as Industrys,Title,( dbo.fun_joinInfo(OriginalID) + CONVERT(VARCHAR(MAX),description) ) AS description,AddDate FROM BHI_DATABASE.dbo.Info_Bidding"
deltaImportQuery="SELECT  OriginalID,'项目标讯' as orderColumn, '项目标讯' as columns ,'${dataimporter.last_index_time}' as ColumnID,dbo.ShowLabelName(Area) as Area,Pfund,ColumnID as flag,category,dbo.ShowLabelName(Industry) as Industry,Industry as Industrys,Title,( dbo.fun_joinInfo(OriginalID) + CONVERT(VARCHAR(MAX),description) ) AS description,AddDate FROM BHI_DATABASE.dbo.Info_Bidding  where adddate > '${dataimporter.last_index_time}'"
deltaQuery="SELECT OriginalID FROM BHI_DATABASE.dbo.Info_Bidding where  adddate > '${dataimporter.last_index_time}'">

           <field column="OriginalID"            name="id"            />
           <field column="title"        name="title"        />
           <field column="area"        name="area"          />
             <field column="industry"    name="industry"    />
                <field column="industrys"    name="industrys"    />
           <field column="description"        name="body"        />
           <field column="adddate"        name="adddate"        />
           <field column="ColumnID"    name="sorts"    />
           <field column="columns"    name="columns" />
           <field column="OriginalID"    name="url"    />
           <field column="orderColumn"    name="orderColumn" />
            <field column="Pfund"    name="pfund" />
             <field column="category"    name="phase" />
              <field column="flag"    name="flag" /> 

</entity>

</document>

这里我没有用简单的select id,name ...from 表名这种简单的sql语句,而是写了一个带有别名,函数的sql语句,就是告诉大家,这里可以写任何sql语句,但视图,表连接最好不要使用,要使用表连接的话我上节课已经讲解了,想用的朋友可以回去看看.

Solr 是如何查询的呢?这里先列出solr查询所需要的参数

常用

q - 查询字符串，必须的。
     fl - 指定返回那些字段内容，用逗号或空格分隔多个。
     start - 返回第一条记录在完整找到结果中的偏移位置，0开始，一般分页用。
     rows - 指定返回结果最多有多少条记录，配合start来实现分页。
     sort - 排序，格式：sort=<field name>+<desc|asc>[,<field name>+<desc|asc>]… 。示例：（inStock desc, price asc）表示先 “inStock” 降序, 再 “price” 升序，默认是相关性降序。
     wt - (writer type)指定输出格式，可以有 xml, json, php, phps, 后面 solr 1.3增加的，要用通知我们，因为默认没有打开。
     fq - （filter query）过虑查询，作用：在q查询符合结果中同时是fq查询符合的，例如：q=mm&fq=date_time:[20081001 TO 20091031]，找关键字mm，并且date_time是20081001到20091031之间的。官方文档：http://wiki.apache.org/solr/CommonQueryParameters#head-6522ef80f22d0e50d2f12ec487758577506d6002
不常用

q.op - 覆盖schema.xml的defaultOperator（有空格时用"AND"还是用"OR"操作逻辑），一般默认指定
     df - 默认的查询字段，一般默认指定
     qt - （query type）指定那个类型来处理查询请求，一般不用指定，默认是standard。
     其它

indent - 返回的结果是否缩进，默认关闭，用 indent=true|on 开启，一般调试json,php,phps,ruby输出才有必要用这个参数。
     version - 查询语法的版本，建议不使用它，由服务器指定默认值。

那么我们来实际查询一个试试

Selet * from table where area=’重庆’ and columns=’项目标讯’  --这个转换成solr语句怎么写?

http://127.0.0.1:8080/solr/collection1/select?q=area:重庆&fq=columns:项目标讯&wt=xml&indent=true

或

http://127.0.0.1:8080/solr/collection1/select?q=*:*&fq=area:重庆&fq=columns:项目标讯&wt=xml&indent=true

q是主查询 fq是辅查下(可以多个)

我们来看看效果,直接在浏览器中输入上面的地址:

像不像我们使用的ajax请求,请求链接获取数据

我想查询部分字段怎么办呢,使用fl参数

http://127.0.0.1:8080/solr/collection1/select?fl=title,orderColumn,area,columns,id&q=*:*&fq=area:重庆&fq=columns:项目标讯&wt=json&indent=true

看看效果,这个返回json数据:

现在我们练习一个

Select top 2 title,orderColumn,area,columns,id from table where area=山东 OR area= 福建 and columns=项目标讯 order by adddate desc

转换为solr语句:http://127.0.0.1:8080/solr/collection1/select?fl=title,orderColumn,area,columns,id&q=*:*&fq=area:福建+OR+area:山东&fq=columns:项目标讯  &wt=json&indent=true&&start=0&rows=2&sort=adddate desc

上面列出的查询条件都可以自由组合( OR 和 AND 要大写,小写有时不出数据)

好了下面在就该说一下大家最关心的问题了,.net如何获取这些数据(这里先使用最原始的方式)

首先创建个程序,随便创建个aspx页面,在后台输入如下代码

using System;
using System.Collections.Generic;
using System.Linq;
using System.Web;
using System.Web.UI;
using System.Web.UI.WebControls;
using System.Net;
using System.IO;
using System.Text;

namespace solr实例
{
    public partial class _Default : System.Web.UI.Page
    {
        protected void Page_Load(object sender, EventArgs e)
        {
            string solr_url = @"http://127.0.0.1:8080/solr/collection1/select?fl=title,orderColumn,area,columns,id&q=*:*&fq=area:山东 OR area:福建 &fq=columns:项目标讯&wt=xml&indent=true&&start=0&rows=10&sort=adddate desc";

            WebRequest wr = WebRequest.Create(solr_url);
            Stream s = wr.GetResponse().GetResponseStream();
            StreamReader sr = new StreamReader(s, Encoding.UTF8);
            string result = sr.ReadToEnd();
        }
    }
}

执行以下看看 result中有没有数据?

这样我们就得到数据了,但是这是一个字符串啊,怎么使用呢,我我这里使用数据契约将上述内容转化为数据实体,数据契约不了解的话去网上查一查,很好理解的.

首先创建契约类

using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Runtime.Serialization;
namespace ClassLibrary1
{
    [DataContract]
    public class Solr_Projects
    {

        [DataMember(Name = "responseHeader")]
        public Solr_Projects_ResponseHeader ResponseHeader { get; set; }

        [DataMember(Name = "response")]
        public Response Response { get; set; }
    }

    [DataContract]
    public class Solr_Projects_ResponseHeader
    {

        [DataMember(Name = "status")]
        public string Status { get; set; }

        [DataMember(Name = "QTime")]
        public string QTime { get; set; }

        [DataMember(Name = "params")]
        public Params Params { get; set; }
    }

    [DataContract]
    public class Params
    {

        [DataMember(Name = "indent")]
        public string Indent { get; set; }

        [DataMember(Name = "start")]
        public string Start { get; set; }

        [DataMember(Name = "q")]
        public string Q { get; set; }

        [DataMember(Name = "wt")]
        public string Wt { get; set; }

        [IgnoreDataMember]
        //[DataMember(Name = "fq")]
        public string Fq { get; set; }

        [DataMember(Name = "version")]
        public string Version { get; set; }

        [DataMember(Name = "rows")]
        public string Rows { get; set; }
    }

    [DataContract(Name = "response")]
    public class Response
    {

        [DataMember(Name = "numFound")]
        public string NumFound { get; set; }

        [DataMember(Name = "start")]
        public string Start { get; set; }

        [DataMember(Name = "solrUrl")]
        public string SolrUrl { get; set; }

        [DataMember(Name = "docs")]
        public Docs[] Docs { get; set; }
    }

    [DataContract]
    public class Docs
    {

        [DataMember(Name = "title")]
        public string Title { get; set; }

        //[IgnoreDataMember]
        [DataMember(Name = "orderColumn")]
        public string OrderColumn { get; set; }

        [IgnoreDataMember]
        //[DataMember(Name = "body")]
        public string Body { get; set; }

        [DataMember(Name = "area")]
        public string AreaName { get; set; }

        [DataMember]
        public string AreaID { get; set; }

        [DataMember(Name = "columns")]
        public string Columns { get; set; }

        [DataMember(Name = "id")]
        public string Id { get; set; }

        [IgnoreDataMember]
        //[DataMember(Name = "url")]
        public string Url { get; set; }

        [DataMember(Name = "phase")]
        public string PhaseID { get; set; }

        [DataMember]
        public string PhaseName { get; set; }

        [DataMember(Name = "adddate")]
        public string AddDate { get; set; }

        [DataMember(Name = "industry")]
        public string IndustryName { get; set; }

        [DataMember]
        public string IndustryId { get; set; }
        [DataMember(Name = "phasetype")]
        public string PhaseType { get; set; }

        [DataMember(Name = "pfund")]
        public string Pfund { get; set; }

        [DataMember(Name = "categroy")]
        public string Category { get; set; }
    }
}

然后我们就可以用这个契约类去获取数据了(上面的属性是和数据对应的,名称相同的就会存储相应的数据,没有的就不存,我这个里面数据比较多,实际上只用了五个字段)

using System;
using System.Collections.Generic;
using System.Linq;
using System.Web;
using System.Web.UI;
using System.Web.UI.WebControls;
using System.Net;
using System.IO;
using System.Text;
using ClassLibrary1;
using System.Runtime.Serialization;
using System.Web.Script.Serialization;
using System.Runtime.Serialization.Json;
namespace solr实例
{
    public partial class _Default : System.Web.UI.Page
    {
        protected void Page_Load(object sender, EventArgs e)
        {
            string solr_url = @"http://127.0.0.1:8080/solr/collection1/select?fl=title,orderColumn,area,columns,id&q=*:*&fq=area:山东 OR area:福建 &fq=columns:项目标讯&wt=json&indent=true&&start=0&rows=10&sort=adddate desc";

            WebRequest wr = WebRequest.Create(solr_url);
            Stream s = wr.GetResponse().GetResponseStream();
            StreamReader sr = new StreamReader(s, Encoding.UTF8);
            string result = sr.ReadToEnd();
            Solr_Projects solr_result;

            //反序列化
            using (MemoryStream ms = new MemoryStream(Encoding.UTF8.GetBytes(result)))
            {
                DataContractJsonSerializer serializer = new DataContractJsonSerializer(typeof(Solr_Projects));
                solr_result = (Solr_Projects)serializer.ReadObject(ms);
            }

            solr_result.Response.SolrUrl = solr_url + "&numFound=" + solr_result.Response.NumFound;
            Docs[] docs = solr_result.Response.Docs;//获取需要展示信息的对象

        }
    }

}

看看结果:

我的语句中只查询了五个字段,所以其他的都是null,好了,现在字符串已经转换为数据实体了,数据实体我们就可以想怎么办就怎么办了,这里说明一下,这是最原始的的使用方式,url需要,自己去拼接

我们.net中有solr的客户端 ,叫solrnet,它是专门操作solr查询与获取数据的,非常方便好用,这个我以后会教大家怎么使用,今天就先讲的这里吧.

qq群: 424259523