C#脏字过滤算法
public class DirtyWordOper
{
private static Dictionary<string, object> hash = new Dictionary<string, object>();
private static BitArray firstCharCheck = new BitArray(char.MaxValue);//把脏词的第一个字符记录下来
private static BitArray allCharCheck = new BitArray(char.MaxValue);//把每一个个脏词的所有字符都记录下来
private static int maxLength = 0;//
private static bool onlyOne = true;
#region
/// <summary>
/// 返回替换后的字符串 字符串的长度不变
/// </summary>
/// <param name="text"></param>
/// <returns></returns>
public string Replace(string text)
{
if (onlyOne)
{
Init();//初始化数据 执行一次就不会执行了
onlyOne = false;
}
if (!isDirtyword(text))
{
return text;
}
//获取替换操作表
List<DetailRepModel> drlist = GetList(text);
//执行替换操作
return Replace2(text, drlist);
}
/// <summary>
/// 初始化用 只执行一次
/// </summary>
/// <param name="text"></param>
private static void Init()
{
string[] badwords = DirtyWordData.DirtyKeyword.Split('|');
foreach (string bw in badwords)
{
string[] strarrtemp = bw.Split('&');
string word = strarrtemp[0];
word = word.Trim();//去掉数据中的空格及格式 符号
word = word.Replace("/r", "");
word = word.Replace("/n", "");
if (word == "")
{
break;
}
if (!hash.ContainsKey(word))
{
hash.Add(word, null);
maxLength = Math.Max(maxLength, word.Length);
firstCharCheck[word[0]] = true; 代码生成器
foreach (char c in word)
{
allCharCheck[c] = true;
}
}
}
}
/// <summary>
/// 是否包含 了 脏 词
/// </summary>
/// <param name="text"></param>
/// <returns></returns>
private static bool isDirtyword(string text)
{
int index = 0;
//int offset = 0;
while (index < text.Length)
{
//如果第一个字符都不符合
if (!firstCharCheck[text[index]])
{// 直接找到与脏词第一字符相同为止
while (index < text.Length - 1 && !firstCharCheck[text[++index]]) ;
}
for (int j = 1; j <= Math.Min(maxLength, text.Length - index); j++)
{
if (!allCharCheck[text[index + j - 1]])
{
break;
}
string sub = text.Substring(index, j);
//判定脏字字典中是否包括了脏词
if (hash.ContainsKey(sub))
{
return true;//是
}
}
index++;
}
return false;//否
}
/// <summary>
/// 返回操作列表
/// </summary>
/// <param name="text"></param>
/// <returns></returns>
private static List<DetailRepModel> GetList(string text)
{
List<DetailRepModel> DetailList = new List<DetailRepModel>();
int index = 0;
while (index < text.Length)
{
if (!firstCharCheck[text[index]])
{
while (index < text.Length - 1 && !firstCharCheck[text[++index]]) ;
}
DetailRepModel tempDetail = null;
for (int j = 1; j <= Math.Min(maxLength, text.Length - index); j++)
{
if (!allCharCheck[text[index + j - 1]])
{
if (tempDetail != null)
{//优先先字符串替换
index = index + tempDetail.number - 1;//索引要返回上一位,所以要减1
DetailList.Add(tempDetail);
}
break;
}
string sub = text.Substring(index, j);
if (hash.ContainsKey(sub))
{
tempDetail = new DetailRepModel();
tempDetail.index = index;
tempDetail.number = sub.Length;
tempDetail.content = sub;
//break;//进行下一次 不然要出现, abc 其中ab 与a都关键字要生成两个操作
}
if (tempDetail != null)
{
if (j + 1 > Math.Min(maxLength, text.Length - index))
{//优先先字符串替换
DetailList.Add(tempDetail);
index = index + tempDetail.number - 1;//索引要返回上一位,所以要减1
}
}
}
index++;
}
return DetailList;
}
/// <summary>
/// 传入 字串和 脏字替换操作表,
/// </summary>
/// <param name="text"></param>
/// <param name="drlist"></param>
/// <returns> 输出替换后的字串</returns>
private static string Replace2(string text, List<DetailRepModel> drlist)
{
if (drlist == null || drlist.Count == 0 || text == "")
{
return text;
}
foreach (DetailRepModel dr in drlist)
{
if (dr != null)
{
string strtemp = text.Substring(dr.index, dr.number);
object ob = DirtyWordData.DirtyHT[(object)strtemp];
if (ob == null)
{
//记录错误
break;
}
// 这样替换 有错误 ,
text = text.Substring(0, dr.index) + ob.ToString() + text.Substring(dr.index + dr.number);
//text = text.Replace(strtemp, ob.ToString());
}
}
return text;
}
#endregion
}
效果还行, 不过我们老大给我说了个方法更NB,说比这种要快50倍;只是写起来有点麻烦
public interface IReplaceDW
{
string Replace(string s);
}
public class ReplaceDW
{
public static void AddToWords(DirtyChar parent, string s, string t)
{
DirtyChar dc = parent.Children.Find(o => o.Orienginal == s[0]);
if (dc == null)
{
dc = new DirtyChar() { Orienginal = s[0], Children = new List<DirtyChar>(), Target = "" };
parent.Children.Add(dc);
}
if (s.Length > 1)
{//
AddToWords(dc, s.Substring(1), t);
}
else
{
dc.Target = t;
}
}
public static string BuildChildren(DirtyChar dc, int deepLevel)
{
StringBuilder sb = new StringBuilder();
string spaces = new string(' ', deepLevel + 4);
if (dc.Children.Count > 0)
{
sb.Append(@"
" + spaces + @"if (i + 1 == len){");
sb.Append(@"
" + spaces + @" sb.Append(""" + dc.Target + @""");
");
sb.Append(@"
" + spaces + @" i++;
" + spaces + @" break;}");
sb.Append(@"
" + spaces + @" switch (s[i + " + deepLevel.ToString() + @"])
" + spaces + @" {
");
foreach (DirtyChar c in dc.Children)
{
sb.Append(@"
" + spaces + @" case '" + c.Orienginal + @"':
");
sb.Append(BuildChildren(c, deepLevel + 1));
sb.Append(@"
" + spaces + @" break;");
}
sb.Append(@"
" + spaces + @" default:
" + spaces + @" sb.Append(""" + dc.Target + @""");
" + spaces + @" i++;
" + spaces + @" break;
" + spaces + @" }
");
}
else
{
sb.Append(@"
" + spaces + @" sb.Append(""" + dc.Target + @""");
");
if (deepLevel == 1)
{
sb.Append(@"
" + spaces + @" i++;
");
}
else
{
sb.Append(@"
" + spaces + @" i += " + (deepLevel).ToString() + @";
");
}
}
return sb.ToString();
}
private IReplaceDW _r = null;
private static bool isfirst = true;
public string Replace(string s)
{
return _r.Replace(s);
}
private static List<KeyValuePair<string, string>> tmp = new List<KeyValuePair<string, string>>();
public ReplaceDW()
{
if (isfirst)
{
List<KeyValuePair<string, string>> dict = new List<KeyValuePair<string, string>>();
foreach (DictionaryEntry d in KeyWord.DirtyWordData.DirtyHT)
{
dict.Add(new KeyValuePair<string, string>(d.Key.ToString(), d.Value.ToString()));
}
// 整理进 list
//List<KeyValuePair<string, string>> tmp = new List<KeyValuePair<string, string>>();
foreach (KeyValuePair<string, string> kv in dict)
{
tmp.Add(kv);
}
// 倒排
tmp.Sort((a, b) => { return b.Key.CompareTo(a.Key); });
isfirst = false;
}
var compiler = new CSharpCodeProvider();
var options = new CompilerParameters();
// set compile options
options.CompilerOptions = "/o";
options.GenerateExecutable = false;
options.GenerateInMemory = true;
options.ReferencedAssemblies.Add("System.dll");
options.ReferencedAssemblies.Add(this.GetType().Assembly.Location);
// set the source code to compile
DirtyChar words = new DirtyChar() { Children = new List<DirtyChar>() };
//DirtyChar words2 = new DirtyChar();
//words2.Children = new List<DirtyChar>();
foreach (KeyValuePair<string, string> kv in tmp)
{//构建字典表
AddToWords(words, kv.Key, kv.Value);
}
StringBuilder sb = new StringBuilder();
sb.Append(@"
using System;
namespace KeyWord
{
public class ReplaceDW_ : IReplaceDW
{
public string Replace( string s )
{
int len = s.Length, i = 0;
System.Text.StringBuilder sb = new System.Text.StringBuilder(len);
");
sb.Append(@"
while (i < len)
{
switch (s[i])
{
");
foreach (DirtyChar c in words.Children)
{
sb.Append(@"
case '" + c.Orienginal + @"':
");
sb.Append(BuildChildren(c, 1));
sb.Append(@"
break;");
}
sb.Append(@"
default:
sb.Append(s[i++]);
break;
}
}
");
sb.Append(@"
return sb.ToString();
}
}
}");
// compile the code, on-the-fly
var result = compiler.CompileAssemblyFromSource(options, sb.ToString());
foreach (var error in result.Errors)
{
// print errors
;
}
// if compilation sucessed
if ((!result.Errors.HasErrors) && (result.CompiledAssembly != null))
{
var type = result.CompiledAssembly.GetType("KeyWord.ReplaceDW_");
try
{
if (type != null)
{
this._r = Activator.CreateInstance(type) as IReplaceDW;
}
this.Replace("x"); //预热
this.Replace("x"); //预热
}
catch (Exception ex)
{
Console.WriteLine(ex);
}
}
}
}
点击下载本例源码
C#脏字过滤算法的更多相关文章
- SVD++:推荐系统的基于矩阵分解的协同过滤算法的提高
1.背景知识 在讲SVD++之前,我还是想先回到基于物品相似的协同过滤算法.这个算法基本思想是找出一个用户有过正反馈的物品的相似的物品来给其作为推荐.其公式为:
- GBDT(Gradient Boosting Decision Tree)算法&协同过滤算法
GBDT(Gradient Boosting Decision Tree)算法参考:http://blog.csdn.net/dark_scope/article/details/24863289 理 ...
- Spark机器学习之协同过滤算法
Spark机器学习之协同过滤算法 一).协同过滤 1.1 概念 协同过滤是一种借助"集体计算"的途径.它利用大量已有的用户偏好来估计用户对其未接触过的物品的喜好程度.其内在思想是相 ...
- Collaborative Filtering(协同过滤)算法详解
基本思想 基于用户的协同过滤算法是通过用户的历史行为数据发现用户对商品或内容的喜欢(如商品购买,收藏,内容评论或分享),并对这些喜好进行度量和打分.根据不同用户对相同商品或内容的态度和偏好程度计算用户 ...
- 【机器学习笔记一】协同过滤算法 - ALS
参考资料 [1]<Spark MLlib 机器学习实践> [2]http://blog.csdn.net/u011239443/article/details/51752904 [3]线性 ...
- 吴恩达机器学习笔记58-协同过滤算法(Collaborative Filtering Algorithm)
在之前的基于内容的推荐系统中,对于每一部电影,我们都掌握了可用的特征,使用这些特征训练出了每一个用户的参数.相反地,如果我们拥有用户的参数,我们可以学习得出电影的特征. 但是如果我们既没有用户的参数, ...
- Spark机器学习(11):协同过滤算法
协同过滤(Collaborative Filtering,CF)算法是一种常用的推荐算法,它的思想就是找出相似的用户或产品,向用户推荐相似的物品,或者把物品推荐给相似的用户.怎样评价用户对商品的偏好? ...
- 亚马逊 协同过滤算法 Collaborative filtering
这节课时郭强的三维课.他讲的是MAYA和max .自己对这个也不怎么的感兴趣.而且这个课感觉属于数字媒体.自己对游戏,动画,这些东西一点都不兴趣,比如大一的时候刚开学的时候,张瑞的数字媒体的导论课.还 ...
- win7下使用Taste实现协同过滤算法
如果要实现Taste算法,必备的条件是: 1) JDK,使用1.6版本.需要说明一下,因为要基于Eclipse构建,所以在设置path的值之前要先定义JAVA_HOME变量. 2) Maven,使用2 ...
随机推荐
- python urllib、urlparse、urllib2、cookielib
1.urllib模块 1.urllib.urlopen(url[,data[,proxies]]) 打开一个url的方法,返回一个文件对象,然后可以进行类似文件对象的操作.本例试着打开google i ...
- Elasticsearch-sql 用SQL查询Elasticsearch
Elasticsearch的查询语言(DSL)真是不好写,偏偏查询的功能千奇百怪,filter/query/match/agg/geo各种各样,不管你是通过封装JSON还是通过python/java的 ...
- 学习笔记之CSS样式(选择器背景字体边框绝/相对、固定位置and分层流等)
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/ ...
- 简单说下C#变量的作用域
变量的作用域分为局部变量和全局变量举个小例子 class Program { int i = 3;//这个变量i 需要实例化Program才能使用 static void Main(string[] ...
- Delphi实现电脑端微信图片文件解密
电脑端微信收到图片后是存在了“C:\Users\系统用户名\Documents\WeChat Files\微信帐号\Data”目录下的,但文件不能直接使用图片浏览器打开的,因为做了一些加密,之前有个朋 ...
- Windows 10新功能
Windows 10 中面向开发人员的新增功能 Windows 10 及新增的开发人员工具将提供新通用 Windows 平台支持的工具.功能和体验.在 Windows 10 上安装完工具和 SDK后, ...
- Kotlin——最详细的数据类型介绍
任意一种开发语言都有其数据类型,并且数据类型对于一门开发语言来说是最基本的构成,同时也是最基础的语法.当然,kotlin也不例外.kotlin的数据类型和Java是大致相同的,但是他们的写法不同,并且 ...
- 关于NOIP2014“无线网络发射器选址”一题的衍生题目的思考及思维方向
无线网络发射器选址 题目描述 随着智能手机的日益普及,人们对无线网的需求日益增大.某城市决定对城市内的公共场所覆盖无线网. 假设该城市的布局为由严格平行的129 条东西向街道和129 条南北向街道所形 ...
- Repeated Substring Pattern --重复字符串
Given a non-empty string check if it can be constructed by taking a substring of it and appending mu ...
- 注解的形式与xml文件的形式完成事务管理及xml文件的配置
需要的jar包: c3p0-0.9.2.1.jar com.springsource.net.sf.cglib-2.2.0.jar com.springsource.org.aopalliance-1 ...