【原创】中文分词系统 ICTCLAS2015 的JAVA封装和多线程执行（附代码）

　　本文针对的问题是 ICTCLAS2015 的多线程分词，为了实现多线程做了简单的JAVA封装。如果有需要可以自行进一步封装其它接口。

　　首先ICTCLAS2015的传送门（http://ictclas.nlpir.org/），其对中文分词做的比较透彻，而且有一定的可调式性。但是应用到实际开发中的话，多线程操作是必须的，因此有了本文的初衷。

　　可能有的小伙伴不太清楚ICTCLASS是干嘛的，下面是一段介绍：NLPIR汉语分词系统(又名ICTCLAS2015),主要功能包括中文分词；词性标注；命名实体识别；用户词典功能；支持GBK编码、UTF8编码、BIG5编码。新增微博分词、新词发现与关键词提取；张华平博士先后倾力打造十余年，内核升级10次。全球用户突破20万，先后获得了2010年钱伟长中文信息处理科学技术奖一等奖，2003年国际SIGHAN分词大赛综合第一名，2002年国内973评测综合第一名。

　　虽然其开放文档里有指出是支持多线程操作的，但是并没给出具体的方法。所以本文主要针对ICTCLAS2015的分词操作做了JAVA封装，并实现了Windows和Linux下的多线程操作。

　　本文并不太多的涉及如何使用ICTCLAS，如果有需要可以去上面的网址查询开发文档。

似乎也没太大需要介绍的了，下面是具体的代码：

1.NLPIR类，封装了初始化，分词和释放资源操作。

 package test;
 import java.util.concurrent.ExecutorService;
 import java.util.concurrent.Executors;
 import com.sun.jna.Native;

 public class NLPIR {
  　 //Windows下的加载方式。如果需要支持Linux，需要修改这一行为libNLPIR.so的路径。
     private CLibrary Instance = (CLibrary) Native.loadLibrary(
             "D:\\test\\NLPIR", CLibrary.class);
     private boolean initFlag = false;

     public boolean init(){
         String argu = null;
         // String system_charset = "GBK";//GBK----0
         int charset_type = 1;

         int init_flag = Instance.NLPIR_Init(argu, charset_type, "0");
         String nativeBytes = null;

         if (0 == init_flag) {
             nativeBytes = Instance.NLPIR_GetLastErrorMsg();
             System.err.println("初始化失败！fail reason is "+nativeBytes);
             return false;
         }
         initFlag = true;
         return true;
     }

     public boolean unInit(){
         try {
             Instance.NLPIR_Exit();
         } catch (Exception e) {
             System.out.println(e);
             return false;
         }
         initFlag = false;
         return true;
     }

     public String parseSen(String str){
         String nativeBytes = null;
         try {
             nativeBytes = Instance.NLPIR_ParagraphProcess(str, 0);
         } catch (Exception ex) {
             // TODO Auto-generated catch block
             ex.printStackTrace();
         }
         return nativeBytes;
     }

     public CLibrary getInstance() {
         return Instance;
     }

     public boolean isInitFlag() {
         return initFlag;
     }

     public static void main(String[] args) {
         NLPIR tt = new NLPIR();
         tt.init();
         String str = "最近，内江威远县一名7岁的患脑瘤的小男孩卧床不起。由于治愈无望，小男孩的母亲聂晓红在决定捐献儿子器官的同时，希望儿子的父亲能回来看看儿子。“儿子4年多没有见爸爸了，如果父子俩能见最后一面多好啊。”小男孩的愿望让母亲泣不成声然而，4年来谁都不知道小男孩的父亲人在何方，聂晓红只得向成都商报求助。6月10日，成都商报客户端及新浪官方微博发出“寻人”消息。几经周折，孩子父亲李连兴终于得知消息。12日晚，李连兴从广东东莞赶至威远，见到了病危的儿子。听到儿子叫“爸爸”，看到儿子的状况，他流下了无声的泪水。他表示，自己对不起儿子，一定要陪在儿子身边，不再离开。";
         str = tt.parseSen(str.replaceAll("[\\pP‘’“”]", ""));

         System.out.println(str);

         ExecutorService exec = Executors.newCachedThreadPool();
         for(int i=0; i<10; i++)
             exec.submit(new ThreadNLP(tt));
         exec.shutdown();
         tt.unInit();
     }
 }

2.下面的是接口类

 package test;

 import com.sun.jna.Library;

 // 定义接口CLibrary，继承自com.sun.jna.Library
 public interface CLibrary extends Library {
     // 定义并初始化接口的静态变量

     public int NLPIR_Init(String sDataPath, int encoding,
             String sLicenceCode);

     public String NLPIR_ParagraphProcess(String sSrc, int bPOSTagged);

     public String NLPIR_GetKeyWords(String sLine, int nMaxKeyLimit,
             boolean bWeightOut);
     public String NLPIR_GetFileKeyWords(String sLine, int nMaxKeyLimit,
             boolean bWeightOut);
     public int NLPIR_AddUserWord(String sWord);
     public int NLPIR_DelUsrWord(String sWord);
     public String NLPIR_GetLastErrorMsg();
     public void NLPIR_Exit();
 }

3.线程类

 package test;

 public class ThreadNLP implements Runnable {

     private NLPIR tt;

     public ThreadNLP(NLPIR tt){
         this.tt =  tt;
     }
     @Override
     public void run() {
         // TODO Auto-generated method stub
         System.out.println(tt.parseSen("中国人民解放军保卫祖国"));
     }

 }

　　把这三个文件复制到一个package下就可以实现多线程分词了。

　　

　　整体上没什么太难的东西，算是抛砖引玉了。希望能对大家有帮助！

　　未经博主允许，不得转载任何文章。