手机
当前位置:查字典教程网 >编程开发 >C#教程 >C# 撒列实现关键字过滤的实例
C# 撒列实现关键字过滤的实例
摘要:一直对搜索、过滤很好奇,觉得他们很有技术含量,只有非常NB的人才能做。很想知道他们的原理,实现这样的功能,设计是不是必须得非常NB非常奇特,...

一直对搜索、过滤很好奇,觉得他们很有技术含量,只有非常NB的人才能做。很想知道他们的原理,实现这样的功能,设计是不是必须得非常NB非常奇特,代码是不是要写得非常好,性能非常高。总之这一切都不是我这样级别的人能做的。直到我看了《编程珠玑(第二版)》中的这么一段文字:

“假定我们可以在执行搜索之前对文本内容进行预处理,那么我们可以建立一个撒列表(或者搜索树),为文档中的每个不同的单词建立索引,并为每个单词的每次出现存储一个链表,这样的逆向索引使得程序可以很快的找到给定的单词,为了查找短语,我们可以对其中包含的每个单词的链表进行交叉,但实现起来比较复杂,速度可能会很慢。(不过一些网页搜索引擎用的就是这样的方法)”

思路就这么简单,我靠!连有的搜索引擎也用这种思路。这种撒列的方式处理关键字过滤速度的确是蛮快,10000个字组织成一个撒列表也就几毫秒,只要你预分配的内存较好,基本上没什么操作,就是向内存中填数据。在撒列表中判断一个键是否存在的时间复杂度为O(1),其实还可以自己重写Dictionary<TKey, TValue>,关键字过滤的效率可能会更好点。

实现的思路比较简单:

1:处理关键字,生成一个关键字字典表

2:处理要过滤的文本,同样生成一个字典表

3:将文本,两个字典表三者进行比对

现在来测试下面一段文字(我上篇博客中的一段文字):

"看云风博客关于解决12306并发问题的启发:我现在做骏卡接口,可能出现并发问题,就是一个订单可能向我们的接口发送多个请求,而我现在做的方法是去数据库中对应的表验证,看订单是否存在,如果存在就提示一下,如果不存在按流程走,但是这个样每来一个订单我都需要去数据库查,如果我在内存中维护一个订单集合,这样就能很快解决判断订单是否存在的问题,惯性思维太严重了,什么都去数据库查,这样的性能是最差的,其实很多问题在内存中就可以搞定的,最近还有一个特别感受,不要做井底之蛙,多看牛人的东西收获真的比自己埋头写代码进步快很多,其实很多时候我写的程序性能差,效率低都是因为方法的原因,没有找到好的方法,没有灵光一闪的感觉,用了最烂的方法解决问题"

测试代码:

复制代码 代码如下:

class Program

{

static void Main(string[] args)

{

string keys = "云风博客|并发问题|最烂的方法|内存|集合|数据库|性能";

using (new OperationTimer("keyWords:"))

{

WordSearch ws = new WordSearch(keys);

string str = "看云风博客关于解决12306并发问题的启发:我现在做骏卡接口,可能出现并发问题,就是一个订单可能向我们的接口发送多个请求,而我现在做的方法是去数据库中对应的表验证,看订单是否存在,如果存在就提示一下,如果不存在按流程走,但是这个样每来一个订单我都需要去数据库查,如果我在内存中维护一个订单集合,这样就能很快解决判断订单是否存在的问题,惯性思维太严重了,什么都去数据库查,这样的性能是最差的,其实很多问题在内存中就可以搞定的,最近还有一个特别感受,不要做井底之蛙,多看牛人的东西收获真的比自己埋头写代码进步快很多,其实很多时候我写的程序性能差,效率低都是因为方法的原因,没有找到好的方法,没有灵光一闪的感觉,用了最烂的方法解决问题";

ConsoleColor color = Console.ForegroundColor;

Console.ForegroundColor = ConsoleColor.Red;

Console.WriteLine("原文:");

Console.ForegroundColor = color;

Console.WriteLine(str);

Console.WriteLine();

Console.ForegroundColor = ConsoleColor.Red;

Console.WriteLine("过滤后:");

Console.ForegroundColor = color;

Console.WriteLine(ws.Filter(str));

}

Console.Read();

}

}

输出结果截图:

C# 撒列实现关键字过滤的实例1

另外送上一个简单实用的代码运行时间测试类,测试某段代码的运行时间可是很方便的哦

复制代码 代码如下:

using System;

using System.Diagnostics;

namespace WordFilter

{

/// <summary>

/// 测试代码运行时间帮组类

/// </summary>

public class OperationTimer : IDisposable

{

private string Text;

private Int32 collectCount;

private Stopwatch stopWatch;

public OperationTimer(string txt)

{

PerpareForOperation();

this.Text = txt;

collectCount = GC.CollectionCount(0);

stopWatch = new Stopwatch();

stopWatch.Start();

}

public void Dispose()

{

stopWatch.Stop();

Console.WriteLine("{0} Milliseconds (GCs={1}) {2}", stopWatch.ElapsedMilliseconds, GC.CollectionCount(0) - collectCount, Text);

}

private static void PerpareForOperation()

{

GC.Collect();

GC.WaitForPendingFinalizers();

GC.Collect();

}

}

}

实现撒列的部分核心代码:

复制代码 代码如下:

public Dictionary<char, IList<char>> HandleKeyWords(IEnumerable<string> text, int size)

{

Dictionary<char, IList<char>> dicList = new Dictionary<char, IList<char>>(size);//预分配非常关键

int len, i;

foreach (string s in text)

{

if (s == string.Empty)

{

continue;

}

len = s.Length - 1;

for (i = 0; i < len; i++)

{

if (dicList.ContainsKey(s[i]))

{

if (dicList[s[i]] != null && !dicList[s[i]].Contains(s[i + 1]))

{

dicList[s[i]].Add(s[i + 1]);

}

}

else

{

dicList.Add(s[i], new List<char>(2) { s[i + 1] });

}

}

if (!dicList.ContainsKey(s[len]))

{

dicList.Add(s[len], null);

}

}

return dicList;

}

我也想贴出全部代码,但是还有一些BUG,功能还有待完善,完善一些了会贴出源码的,在截一张图给大家看看

C# 撒列实现关键字过滤的实例2

【C# 撒列实现关键字过滤的实例】相关文章:

C# 将字节流转换为图片的实例方法

C#控制台输出进度和百分比的实例代码

C# 游戏外挂实现核心代码

C# 调用Delphi dll 实例代码

C#泛型与非泛型性能比较的实例

C# 对XML操作入门实例

C# WinForm中Panel实现用鼠标操作滚动条的实例方法

c#典型工厂化实现实例

C# 的关键字详细介绍

c# 冒泡排序算法(Bubble Sort) 附实例代码

精品推荐
分类导航