【Lucene3.6.2入门系列】第14节_SolrJ操作索引和搜索文档以及整合中文分词

时间:2021-11-09 21:15:36
package com.jadyer.solrj;

import java.util.ArrayList;
import java.util.List; import org.apache.solr.client.solrj.SolrQuery;
import org.apache.solr.client.solrj.SolrServer;
import org.apache.solr.client.solrj.SolrServerException;
import org.apache.solr.client.solrj.impl.HttpSolrServer;
import org.apache.solr.client.solrj.response.QueryResponse;
import org.apache.solr.common.SolrDocument;
import org.apache.solr.common.SolrDocumentList;
import org.apache.solr.common.SolrInputDocument; import com.jadyer.model.MyMessage; /**
* 【Lucene3.6.2入门系列】第14节_SolrJ操作索引和搜索文档以及整合中文分词
* @see -------------------------------------------------------------------------------------------------------------------------
* @see 通过schema.xml使得Solr与中文分词进行整合
* @see 0)默认solr定义的大量域都不支持中文分词,如果我们要加中文分词的支持,那么首先要加的就是<types><fieldType/></types>
* @see 下面以MMSeg4j-1.8.5为例,描述Solr与中文分词器的整合方式(其核心就是在schema.xml中配置fieldType)
* @see 关于MMSeg4j的介绍,详见http://blog.csdn.net/jadyer/article/details/10049525
* @see 1)将mmseg4j-all-1.8.5.jar拷到D:\Develop\apache-solr-3.6.2\server\solr\WEB-INF\lib\文件夹中
* @see 2)新建D:\Develop\apache-solr-3.6.2\home\dic\文件夹
* @see 3)将mmseg4j-1.8.5.zip\data\文件夹中的词典文件拷贝到D:\Develop\apache-solr-3.6.2\home\dic\
* @see 4)在schame.xml中添加中文分词的fieldType定义
* @see 通常中文分词的工具包中都会提供README.txt文件,里面会描述扩展solr时需要配置的fieldType
* @see 同理将mmseg4j-1.8.5.zip中的README.txt打开,拷贝里面描述的三个fieldType到schema.xml中第68行
* @see 5)确认并修改这三个fileType中的dicPath属性值为"dic"(这里的dic其实指的就是第二步新建的dic文件夹)
* @see 6)最后测试一下中文分词效果
* @see 在solr控制台上(http://127.0.0.1:8088/solr/admin/)点击蓝色粗体的[ANALYSIS]
* @see 然后在Field Analysis下面将Field下拉框修改为type,并在右面文本框输入text_general(即schema.xml中定义的fieldType)
* @see 接着在Field Value(Index)右面的文本框中输入测试文本'我来自中国黑龙江省哈尔滨市巴彦县兴隆镇长春乡民权村4队'
* @see 再点击下方的Analyze按钮,我们就会发现text_general的分词情况了,然后我们再修改text_general为刚才自定义的textComplex,就看到效果啦
* @see 另外也可以勾选Field Value(Index)下面的verbose output选框,这样也会将分词的各个属性(position,Offset,type等等)一并显示出来
* @see -------------------------------------------------------------------------------------------------------------------------
* @see 本例中合计用到9个jar,如下所示
* @see apache-solr-core-3.6.2.jar
* @see apache-solr-solrj-3.6.2.jar
* @see commons-codec-1.6.jar
* @see commons-io-2.1.jar
* @see httpclient-4.1.3.jar
* @see httpcore-4.1.4.jar
* @see httpmime-4.1.3.jar
* @see jcl-over-slf4j-1.6.1.jar
* @see slf4j-api-1.6.1.jar
* @see -------------------------------------------------------------------------------------------------------------------------
* @create Aug 7, 2013 11:06:20 PM
* @author 玄玉<http://blog.csdn.net/jadyer>
*/
public enum HelloSolrJ {
INSTANCE; private SolrServer server; private HelloSolrJ(){
//创建SolrServer对象,它有两个线程安全的子类EmbeddedSolrServer和CommonsHttpSolrServer
//EmbeddedSolrServer-----内嵌式的,不需要启动Web服务器
//CommonsHttpSolrServer--需要启动Web服务器,它是通过HTTP请求来获取数据的
//CommonsHttpSolrServer已不推荐直接使用了,而是推荐使用HttpSolrServer类
//同样的StreamingUpdateSolrServer也不推荐使用了,推荐使用ConcurrentUpdateSolrServer
server = new HttpSolrServer("http://127.0.0.1:8088/solr");
} /**
* 删除全部索引
*/
public void deleteAllIndex(){
try {
//删除所有的索引,删除完记得commit才能生效
server.deleteByQuery("*:*");
server.commit();
} catch (Exception e) {
e.printStackTrace();
}
} /**
* 添加索引
* @see 这里之所以没有硬编码指定my_title和my_content的中文分词器
* @see 是由于schema.xml中在定义这俩<field>时已通过type属性指定了中文分词器
*/
public void addIndex(){
List<SolrInputDocument> docs = new ArrayList<SolrInputDocument>();
for(int i=1; i<4; i++){
SolrInputDocument doc = new SolrInputDocument();
//对于Solr而言,默认的id是唯一的主键(如果我们没有自定义主键的话),当多次添加的时候,最后添加的相同id的域会覆盖已有的
doc.addField("id", Integer.toString(i));
//这里使用的是自定义的Field,所以就需要在schema.xml中为其添加<field>描述,并通过type属性指定其使用的分词器
doc.addField("my_title", "这是我的第" + i + "个SolrJ程序");
doc.addField("my_content", "my第" + i + "个SolrJ程序的运行情况");
docs.add(doc);
}
try {
//可以只添加一个Document,也可以一次添加多个Document,这里添加多个
server.add(docs);
//commit后方能生效,否则搜索到的还是add前的索引信息
server.commit();
} catch (Exception e) {
e.printStackTrace();
}
} /**
* 使用JavaBean来添加索引
*/
public void addIndexByBean(){
List<MyMessage> msgs = new ArrayList<MyMessage>();
//由于MyMessage()的第三个参数允许传入多个值,此时就要在Solr的schema.xml中配置<field my_content multiValued="true"/>支持多值域
//并且在MyMessage.java中要使用@Field注解标注,可以标注在属性或setter方法上,并通过注解的默认值来指定所要存储的Field的名字
msgs.add(new MyMessage("4", "这是我的第4个SolrJ程序", new String[]{"第4个SolrJ程序诞生于中国", "它是通过SolrJ OF JavaBean4诞生添加的"}));
msgs.add(new MyMessage("5", "这是我的第5个SolrJ程序", new String[]{"第5个SolrJ程序诞生于哈尔滨", "它是通过SolrJ OF JavaBean5诞生添加的"}));
try {
server.addBeans(msgs);
server.commit();
} catch (Exception e) {
e.printStackTrace();
}
} /**
* 搜索文档
*/
public void searchFile(){
//设置查询字符串
SolrQuery query = new SolrQuery("my_content:诞生");
//设置了setStart和setRows就可以实现分页效果了
query.setStart(0);
query.setRows(3);
QueryResponse resp = null;
try {
resp = server.query(query);
} catch (SolrServerException e) {
e.printStackTrace();
}
//搜索出来的结果都保存在SolrDocumentList中
SolrDocumentList sdl = resp.getResults();
//这里获取到的是搜索到的总数量,与query.setRows(3)无关
System.out.println("本次搜索到[" + sdl.getNumFound() + "]条数据");
for(SolrDocument sd : sdl){
//System.out.println(sd)会输出SolrDocument[{id=4, my_title=这是我的第4个SolrJ程序, my_content=[第4个....于中国, 它是....进来的]}]
System.out.println("my_title=" + sd.getFieldValue("my_title") + " my_content=" + sd.getFieldValue("my_content"));
}
} /**
* 使用JavaBean接收文档搜索结果
*/
public void searchFileByBean(){
SolrQuery query = new SolrQuery("id:*");
query.setStart(0);
query.setRows(3);
QueryResponse resp = null;
try {
resp = server.query(query);
} catch (SolrServerException e) {
e.printStackTrace();
}
List<MyMessage> list = resp.getBeans(MyMessage.class);
//这里获取到的不是搜索到的总数量,而是与query.setRows(3)有关的值
//若实际的SolrQuery("id:*")能搜索到5条,则这里得到的就是3,若实际能搜索到的是2条,则这里得到的就是2条
System.out.println("本次搜索到[" + list.size() + "]条数据");
for(MyMessage msg : list) {
System.out.println(msg.getTitle() + " " + msg.getContent()[0]);
}
}
}

下面是用到的JavaBean类

package com.jadyer.model;

import org.apache.solr.client.solrj.beans.Field;

public class MyMessage {
@Field
private String id;
@Field("my_title")
private String title;
@Field("my_content")
private String[] content; /*-- 三个属性的setter和getter略 --*/ public MyMessage() {} public MyMessage(String id, String title, String[] content) {
this.id = id;
this.title = title;
this.content = content;
}
}

最后是JUnit4.x写的一个小测试

package com.jadyer.test;

import org.junit.Test;

import com.jadyer.solrj.HelloSolrJ;

public class HelloSolrJTest {
@Test
public void deleteAllIndex(){
HelloSolrJ.INSTANCE.deleteAllIndex();
} @Test
public void addIndexAndSearchFile(){
HelloSolrJ.INSTANCE.addIndex();
HelloSolrJ.INSTANCE.searchFile();
} @Test
public void addIndexAndSearchFileByBean(){
HelloSolrJ.INSTANCE.addIndexByBean();
HelloSolrJ.INSTANCE.searchFileByBean();
}
}