DFA敏感词过滤
import java.io.UnsupportedEncodingException;
import java.nio.ByteBuffer;
import java.util.ArrayList;
import java.util.HashMap;
import java.util.List;
import java.util.Map; import org.apache.commons.lang3.StringUtils;
import org.json.JSONException;
import org.json.JSONObject; public class DFA {
/**
* 根节点
*/
private static TreeNode rootNode = new TreeNode(); /**
* 创建关键词树时的临时根节点
*/
private static TreeNode rootNodeTemp = new TreeNode(); /**
* 关键词缓存
*/
private static ByteBuffer keywordBuffer = ByteBuffer.allocate(1024); /**
* 关键词编码
*/
private static String charset = "utf-8"; /**
* 关键词树是否初始化
*/
private static boolean treeIsInit = false; /**
* 创建DFA树
* @param keywordList
* @throws UnsupportedEncodingException
*/
public static void createKeywordTree(List<String> keywordList) throws UnsupportedEncodingException{
for (String keyword : keywordList) {
if(keyword == null) continue;
keyword = keyword.trim().toLowerCase();
byte[] bytes = keyword.getBytes(charset);
TreeNode tempNode = rootNodeTemp;
for (int i = 0; i < bytes.length; i++) {
int index = bytes[i] & 0xff;
TreeNode node = tempNode.getSubNode(index);
if(node == null){
node = new TreeNode();
tempNode.setSubNode(index, node);
}
tempNode = node;
if(i == bytes.length - 1){
tempNode.setKeywordEnd(true);
}
}
}
synchronized (DFA.class)
{
rootNode = rootNodeTemp;
if(!treeIsInit)treeIsInit = true;
} } /**
* 检索关键词
* @param text
* @return
* @throws UnsupportedEncodingException
*/
public static JSONObject searchKeyword(String text) throws UnsupportedEncodingException{
if(StringUtils.isEmpty(text)){
JSONObject json = new JSONObject();
try
{
json.put("islegal", "1");
json.put("deststr", "");
}
catch (JSONException e)
{
e.printStackTrace();
}
return json;
}
if(!treeIsInit)createKeywordTree();
System.out.println("searchKeyword:"+text);
return searchKeyword(text.getBytes(charset),text.toLowerCase().getBytes(charset));
} /**
* 检索关键词
* @param oldBytes
* @param bytes
* @return
*/
public static JSONObject searchKeyword(byte[] oldBytes,byte[] bytes){
String is_legal = "1";
JSONObject json = new JSONObject();
String result = null;
if(bytes == null || bytes.length == 0){
result = "";
}else{
synchronized (DFA.class)
{
TreeNode tempNode = rootNode;
int rollback = 0;
int position = 0;
while (position < bytes.length) {
int index = bytes[position] & 0xFF;
keywordBuffer.put(bytes[position]);
tempNode = tempNode.getSubNode(index);
if(tempNode == null){
position = position - rollback;
rollback = 0;
tempNode = rootNode;
keywordBuffer.clear();
}
else if(tempNode.isKeywordEnd()){
keywordBuffer.flip();
for (int i = 0; i <= rollback; i++) {
bytes[position-i] = 42;
oldBytes[position-i] = 42;
}
keywordBuffer.limit(keywordBuffer.capacity());
rollback = 1;
is_legal = "0";
}else{
rollback++;
}
position++;
}
}
try {
result = new String(oldBytes,charset); } catch (Exception e) {
e.printStackTrace();
} }
try
{
json.put("islegal", is_legal);
json.put("deststr", result);
}
catch (JSONException e)
{
// TODO Auto-generated catch block
e.printStackTrace();
}
return json;
} public void setCharset(String charset) {
this.charset = charset;
} public static void main(String[] args){
try{
List<String> keys = new ArrayList<String>();
keys.add("TMD");
keys.add("변형");
String text ="你真TMD是个변형啊!";
DFA.createKeywordTree(keys);
JSONObject a = DFA.searchKeyword(text);
System.out.println(a);
}
catch(Exception ex){
ex.printStackTrace();
}
}
}
import java.util.ArrayList;
import java.util.List; public class TreeNode {
private static final int NODE_LEN = 256; /**
* true 关键词的终结 ; false 继续
*/
private boolean end = false; private List<TreeNode> subNodes = new ArrayList<TreeNode>(NODE_LEN); public TreeNode(){
for (int i = 0; i < NODE_LEN; i++) {
subNodes.add(i, null);
}
} /**
* 向指定位置添加节点树
* @param index
* @param node
*/
public void setSubNode(int index, TreeNode node){
subNodes.set(index, node);
} public TreeNode getSubNode(int index){
//System.out.println("index:"+index+" node:"+this+"--subNodes:"+subNodes.get(index));
return subNodes.get(index);
} public boolean isKeywordEnd() {
return end;
} public void setKeywordEnd(boolean end) {
this.end = end;
}
}
DFA敏感词过滤的更多相关文章
- DFA敏感词过滤实现
package test.java.com.odianyun.util.sensi; import java.util.*; /** * 敏感词处理工具 - DFA算法实现 * * @author s ...
- java实现敏感词过滤(DFA算法)
小Alan在最近的开发中遇到了敏感词过滤,便去网上查阅了很多敏感词过滤的资料,在这里也和大家分享一下自己的理解. 敏感词过滤应该是不用给大家过多的解释吧?讲白了就是你在项目中输入某些字(比如输入xxo ...
- DFA和trie特里实现敏感词过滤(python和c语言)
今天的项目是与完成python开展,需要使用做关键词检查,筛选分类,使用前c语言做这种事情.有了线索,非常高效,内存小了,检查快. 到达python在,第一个想法是pip基于外观的c语言python特 ...
- Java实现敏感词过滤 - DFA算法
Java实现DFA算法进行敏感词过滤 封装工具类如下: 使用前需对敏感词库进行初始化: SensitiveWordUtil.init(sensitiveWordSet); package cn.swf ...
- 敏感词过滤的算法原理之DFA算法
参考文档 http://blog.csdn.net/chenssy/article/details/26961957 敏感词.文字过滤是一个网站必不可少的功能,如何设计一个好的.高效的过滤算法是非常有 ...
- 基于DFA算法、RegExp对象和vee-validate实现前端敏感词过滤
面临敏感词过滤的问题,最简单的方案就是对要检测的文本,遍历所有敏感词,逐个检测输入的文本是否包含指定的敏感词. 很明显上面这种实现方法的检测时间会随着敏感词库数量的增加而线性增加.系统会因此面临性能和 ...
- Java实现敏感词过滤
敏感词.文字过滤是一个网站必不可少的功能,如何设计一个好的.高效的过滤算法是非常有必要的.前段时间我一个朋友(马上毕业,接触编程不久)要我帮他看一个文字过滤的东西,它说检索效率非常慢.我把它程序拿过来 ...
- java敏感词过滤
敏感词过滤在网站开发必不可少.一般用DFA,这种比较好的算法实现的. 参考链接:http://cmsblogs.com/?p=1031 一个比较好的代码实现: import java.io.IOExc ...
- Java实现敏感词过滤(转)
敏感词.文字过滤是一个网站必不可少的功能,如何设计一个好的.高效的过滤算法是非常有必要的.前段时间我一个朋友(马上毕业,接触编程不久)要我帮他看一个文字过滤的东西,它说检索效率非常慢.我把它程序拿过来 ...
随机推荐
- IIS7 全新管理工具AppCmd.exe的命令使用实例分享
IIS 7 提供了一个新的命令行工具 Appcmd.exe,可以使用该工具来配置和查询 Web 服务器上的对象,并以文本或 XML 格式返回输出. 下面是一些可以使用 Appcmd.exe 完成的任务 ...
- C# ComBox 垂直滚动条
用到Combox控件两个属性: 1 MaxDorpDownItems 显示条数 2 IntegralHeight 设置 为false 例如:显示最多20条,超过20条显示垂直滚动条 this.comb ...
- 51单片机tea5767收音机 红外遥控 自动搜台 存台 DIY
先看效果图: 显示 频道CH , 频率 100.0Mhz 欢迎信息,1602 内置日文平假名, 正好用来显示博主名称. 焊接前,已经万能面包板上试验成功. 焊接完成以后,1602 的D0 - D7 接 ...
- Ajax请求成功,进入error回掉函数
后台无返回值,则不需要datatype.
- Java中ProcessBuilder应用实例
系列说明 浅析Java.lang.Runtime类 浅析Java.lang.Process类 浅析Java.lang.ProcessBuilder类 可以使用java中的ProcessBuilder执 ...
- Ubuntu 16.04系统布署小记
前段时间趁着双11打折,又将阿里云主机续费了3年.之前布署的系统是Ubuntu 12.04,从系统发布到现在也有四年半了,其官方支持的生命周期也将止于明年春,且这在几年里出现了很多新的事物,我也需要跟 ...
- python :添加的内容具有之前的功能用delegate绑定事件
<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN" "http://www.w3.org/ ...
- CURL命令详解
curl命令是一个强大的网络工具,它能通过http,ftp等方式下载.上传文件.其中curl远不止这些功能,大家可以通过阅读手册获取更多的信息,类似的工具还有wget. curl命令使用了libcur ...
- eclipse左侧不见
我的解决办法: eclipse---> Window --->Perspective--> Open Perspective-->Java
- JAVA应用程序占用CPU、内存过高分析过程
1.查看cpu占有率 top -P 2.查看进程cpu占用率 ps -mp 3749 -o THREAD,tid,time|sort -rn|head -n 20 查看占用cpu高,且占用时间长的线程 ...