中文分词器ICTCLAS使用方法(Java)
http://www.cnblogs.com/CheeseZH/archive/2012/11/27/2791037.html
吃水不忘挖井人,这篇文章给了我很大帮助:http://blog.csdn.net/caimo/article/details/7686872,这篇文章写的蛮详细,不过是ICTCLAS在web项目中的应用,于是我借花献佛,把它整理了一下成为java项目的应用。
1、到ICTCLAS官网下载最新版本分词器:http://ictclas.org/ictclas_download.aspx,点击下载后需要填写反馈信息——姓名,邮箱;
注:听学长说这个分词器有时间限制,所以一段时间之后需要重新下载。
2、将下载的ICTCLAS50_Windows_32_JNI.rar解压,其中有API,Demo,Doc,Sample四个文件夹;
API文件夹中的东西就是我们需要使用的;
Demo文件夹中的东西是一个用MFC实现的分词程序;
Doc文件夹中的东西是两个文档,注:ICTCLAS5.0接口文档.doc中提及的部分接口在最新的ICTCLAS中已经不再提供,还有的做了少量修改;
Sample文件夹中是一个java使用ICTCLAS例子:
比如我把ICTCLAS50_Windows_32_JNI.rar解压到C盘根目录,那我只需要在命令行中输入:
cd ICTCLAS50_Windows_32_JNI\Sample\Windows_32_jni_Demo
javac TestMain.java
java TestMain
就可以看到运行结果了;
3、如何将ICTCLAS整合到自己Java 项目中:
在myeclipse中创建项目为ICTCLAS003,那么将ICTCLAS的API目录中的ICTCLAS文件夹拷贝到ICTCLAS003文件夹的src目录下(ctrl+v粘贴到工程src即可),然后把DATA和其他的文件放到ICTCLAS003文件夹中即可。
刷新项目(Refresh)就可以看到这些内容已经导入了;
然后新建一个Test.java,
写上:import ICTCLAS.I3S.AC.ICTCLAS50;
就可以使用接口了。
下边就是API文件加中的ICTCLAS50.java文件,可以看出它提供的几个接口:

package ICTCLAS.I3S.AC;
import java.io.*;
public class ICTCLAS50
{
//public enum eCodeType
//{
// CODE_TYPE_UNKNOWN,//type unknown
// CODE_TYPE_ASCII,//ASCII
// CODE_TYPE_GB,//GB2312,GBK,GB10380
// CODE_TYPE_UTF8,//UTF-8
// CODE_TYPE_BIG5//BIG5
//} public native boolean ICTCLAS_Init(byte[] sPath);
public native boolean ICTCLAS_Exit();
public native int ICTCLAS_ImportUserDictFile(byte[] sPath,int eCodeType);
public native int ICTCLAS_SaveTheUsrDic();
public native int ICTCLAS_SetPOSmap(int nPOSmap);
public native boolean ICTCLAS_FileProcess(byte[] sSrcFilename, int eCodeType, int bPOSTagged,byte[] sDestFilename);
public native byte[] ICTCLAS_ParagraphProcess(byte[] sSrc, int eCodeType, int bPOSTagged);
public native byte[] nativeProcAPara(byte[] sSrc, int eCodeType, int bPOStagged);
/* Use static intializer */
static
{
System.loadLibrary("ICTCLAS50");
}
}

下边是我自己写的测试TestMain.java:

/*
* ICTCLAS_Init
* ICTCLAS_ParagraphProcess
* ICTCLAS_Exit
* ICTCLAS_ImportUserDictFile[接口文档中的函数为:ICTCLAS_ImportUserDict]
* ICTCLAS_SetPOSmap
* */
import ICTCLAS.I3S.AC.ICTCLAS50;
public class TestMain {
public static void main(String[] args){
try{
ICTCLAS50 testICTCLAS50 = new ICTCLAS50();
String argu = ".";
if(testICTCLAS50.ICTCLAS_Init(argu.getBytes("GB2312")) == false){
System.out.println("Init Fail");
}else{
System.out.println("Init Succeed!");
} String sInput = "随后温总理就离开了舟曲县城,预计温总理今天下午就回到北京。以上就是今天上午的最新动态。";
//未导入用户词典
byte nativeBytes[] = testICTCLAS50.ICTCLAS_ParagraphProcess(sInput.getBytes("GB2312"), 0, 1);
System.out.println(nativeBytes.length);
String nativeStr = new String(nativeBytes,0,nativeBytes.length,"GB2312");
System.out.println("未导入用户词典分词结果:"+nativeStr);
//导入用户词典
int nCount = 0;
String usrdir = "userdict.txt";
byte[] usrdirb = usrdir.getBytes();
//第一个参数为用户字典路径,第二个参数为用户字典的编码类型(0:type unknown;1:ASCII码;2:GB2312,GBK,GB10380;3:UTF-8;4:BIG5)
nCount = testICTCLAS50.ICTCLAS_ImportUserDictFile(usrdirb, 2);
System.out.println("导入用户词个数:"+nCount);
nCount = 0;
//导入用户词典之后再分词
byte[] nativeBytes1 = testICTCLAS50.ICTCLAS_ParagraphProcess(sInput.getBytes("GB2312"), 0, 1);
System.out.println(nativeBytes1.length);
String nativeStr1 = new String(nativeBytes1,0,nativeBytes1.length,"GB2312");
System.out.println("导入用户词典分词结果:"+nativeStr1); /*
* ICT_POS_MAP_SECOND 计算所二级标注集 0
* ICT_POS_MAP_FIRST 计算所一级标注集 1
* PKU_POS_MAP_SECOND 北大二级标注集 2
* PKU_POS_MAP_FIRST 北大一级标注集 3
* */
//使用计算所二级标注集
testICTCLAS50.ICTCLAS_SetPOSmap(0);
byte[] nativeBytes2 = testICTCLAS50.ICTCLAS_ParagraphProcess(sInput.getBytes("GB2312"), 0, 1);
System.out.println(nativeBytes2.length);
String nativeStr2 = new String(nativeBytes2,0,nativeBytes2.length,"GB2312");
System.out.println("计算所二级标注集:"+nativeStr2);
//使用北大二级标注集
testICTCLAS50.ICTCLAS_SetPOSmap(2);
byte[] nativeBytes3 = testICTCLAS50.ICTCLAS_ParagraphProcess(sInput.getBytes("GB2312"), 0, 1);
System.out.println(nativeBytes3.length);
String nativeStr3 = new String(nativeBytes3,0,nativeBytes3.length,"GB2312");
System.out.println("北大二级标注集:"+nativeStr3);
//释放分词组件资源
testICTCLAS50.ICTCLAS_Exit(); }catch(Exception ex){ }
}
}

使用的时候需要注意一下各个函数不同参数的含义。
bool ICTCLAS_Init( );参数就是一个目录的String,这个目录下包含分词器所需的系统词表以及配置文件;
boolean ICTCLAS_Exit();无参数
int ICTCLAS_ImportUserDictFile(byte[] sPath);参数就是用户自定义词表文件名字,记得把词表放在工程根目录中;返回值是词表中的词条数目;
public native byte[] ICTCLAS_ParagraphProcess(byte[] sSrc, int eCodeType, int bPOSTagged);第一个参数就是待处理文本,注意要将String转换为bytes数组,第二个参数是字符集类型【我的源码中有介绍】,第三个参数0:无标注,1:有标注
public native int ICTCLAS_SetPOSmap(int nPOSmap);选择标注集【我的源码中有介绍】
中文分词器ICTCLAS使用方法(Java)的更多相关文章
- 11大Java开源中文分词器的使用方法和分词效果对比,当前几个主要的Lucene中文分词器的比较
本文的目标有两个: 1.学会使用11大Java开源中文分词器 2.对比分析11大Java开源中文分词器的分词效果 本文给出了11大Java开源中文分词的使用方法以及分词结果对比代码,至于效果哪个好,那 ...
- 11大Java开源中文分词器的使用方法和分词效果对比
本文的目标有两个: 1.学会使用11大Java开源中文分词器 2.对比分析11大Java开源中文分词器的分词效果 本文给出了11大Java开源中文分词的使用方法以及分词结果对比代码,至于效果哪个好,那 ...
- 【Lucene3.6.2入门系列】第04节_中文分词器
package com.jadyer.lucene; import java.io.IOException; import java.io.StringReader; import org.apach ...
- 如何在Elasticsearch中安装中文分词器(IK)和拼音分词器?
声明:我使用的Elasticsearch的版本是5.4.0,安装分词器前请先安装maven 一:安装maven https://github.com/apache/maven 说明: 安装maven需 ...
- Solr6.5配置中文分词器
Solr作为搜索应用服务器,我们在使用过程中,不可避免的要使用中文搜索.以下介绍solr自带的中文分词器和第三方分词器IKAnalyzer. 注:下面操作在Linux下执行,所添加的配置在windo ...
- Lucene的中文分词器
1 什么是中文分词器 学过英文的都知道,英文是以单词为单位的,单词与单词之间以空格或者逗号句号隔开. 而中文的语义比较特殊,很难像英文那样,一个汉字一个汉字来划分. 所以需要一个能自动识别中文语义的分 ...
- Lucene 03 - 什么是分词器 + 使用IK中文分词器
目录 1 分词器概述 1.1 分词器简介 1.2 分词器的使用 1.3 中文分词器 1.3.1 中文分词器简介 1.3.2 Lucene提供的中文分词器 1.3.3 第三方中文分词器 2 IK分词器的 ...
- 转:从头开始编写基于隐含马尔可夫模型HMM的中文分词器
http://blog.csdn.net/guixunlong/article/details/8925990 从头开始编写基于隐含马尔可夫模型HMM的中文分词器之一 - 资源篇 首先感谢52nlp的 ...
- Lucene系列四:Lucene提供的分词器、IKAnalyze中文分词器集成、扩展 IKAnalyzer的停用词和新词
一.Lucene提供的分词器StandardAnalyzer和SmartChineseAnalyzer 1.新建一个测试Lucene提供的分词器的maven项目LuceneAnalyzer 2. 在p ...
随机推荐
- 媒体查询@media query
@media query 媒体查询 @media (min-width:768px)小屏 (>=) @media (min-width:992px)中屏 @media (min-width:12 ...
- 使用Newlife网络库管道模式解决数据粘包(二)
上一篇我们讲了 如何创建一个基本的Newlife网络服务端 这边我们来讲一下如何解决粘包的问题 在上一篇总我们注册了Newlife的管道处理器 ,我们来看看他是如何实现粘包处理的 svr.Add< ...
- Linux学习笔记08—如何关闭防火墙
Linux系统下面自带了防火墙iptables,iptables可以设置很多安全规则.但是如果配置错误很容易导致各种网络问题,那么如果要关闭禁用防火墙怎么操作呢,咗嚛本经验以centos系统为例演示如 ...
- Slickflow.NET 开源工作流引擎基础介绍(十) -- 邮件轮询异步发送模块集成
前言:在任务数据生成时,为了让办理任务的用户及时获取到待办任务的主题和内容,需要发送通知类的消息,而电子邮件和手机端的短信通知则是比较普通的消息发送.本文是针对电子邮件异步发送模块的实现来做实例说明. ...
- JTAG TAP Controller
The TAP controller is a synchronous finite state machine that responds to changes at the TMS and TCK ...
- 基于设备树的TQ2440 DMA学习(3)—— DMA控制器驱动
作者 彭东林pengdonglin137@163.com 平台 TQ2440Linux-4.9 概述 上一篇直接操作DMA控制器实现了一个mem2mem的DMA传输,但是这样不符合linux driv ...
- C#编程(五十五)----------HashSet和SortedSet
集 饱含不重复元素的集合称为”集(set)”. .NET4包含两个集(HashSet<T>和SortedSet<T>),他们都实现ISet<T>接口.HashSet ...
- arcgis的afcore_libfnp.dll经常被360杀毒,删除,请到恢复区恢复
arcgis的afcore_libfnp.dll经常被360杀毒,删除,请到恢复区恢复
- Ubuntu14.04LTS下使用eclipse搭建Cocos2d-x的Android环境
from://http://www.58player.com/blog-2534-94136.html 最近想玩玩游戏制作,于是选择了目前流行的游戏引擎Cocos2d-x,这个东西虽然有Android ...
- byte[]数组的正则表达式搜索 z
在byte[]数组的特定位置进行正则表达式匹配. 为了从硬盘上搜索特定类型的文件,需要根据文件的特征值进行匹配. 对于已掌握文件结构的文件,采用hard-code的方式进行匹配:这样速度快: 对于未掌 ...