隐藏

C#使用正则替换文章屏蔽词,速度超快1毫秒处理1500个屏蔽词,6KB的文章

发布:2022/10/21 17:41:08作者:管理员 来源:本站 浏览次数:608

今天应leader要求,对性能进行了一下测试并作出改进,发现改进后的性能提高了100多倍!原来替换一篇文章用时130多毫秒,现在只需要不到1毫秒的时间!

前后主要差别在于正则的生成和循环文章内容的次数。

下边贴出主要代码供大家参考。
private static readonly Regex reg_b = new Regex(@"\B", RegexOptions.Compiled);
private static readonly Regex reg_en = new Regex(@"[a-zA-Z]+", RegexOptions.Compiled);
private static readonly Regex reg_num = new Regex(@"^[\-\.\s\d]+$", RegexOptions.Compiled);
 
private static Regex reg_word = null; //组合所有屏蔽词的正则
 
private static Regex GetRegex()
{
    if (reg_word == null)
    {
        reg_word = new Regex(GetPattern(), RegexOptions.Compiled | RegexOptions.IgnoreCase);
    }
    return reg_word;
}
 
/// <summary>
/// 检查输入内容是否包含脏词(包含返回true)
/// </summary>
public static bool HasBlockWords(string raw)
{
    return GetRegex().Match(raw).Success;
}
/// <summary>
/// 脏词替换成*号
/// </summary>
public static string WordsFilter(string raw)
{
    return GetRegex().Replace(raw, "***");
}
/// <summary>
/// 获取内容中含有的脏词
/// </summary>
public static IEnumerable<string> GetBlockWords(string raw)
{
    foreach (Match mat in reg_word.Matches(raw))
    {
        yield return (mat.Value);
    }
}
private static string GetPattern()
{
    StringBuilder patt = new StringBuilder();
    string s;
    foreach (string word in GetBlockWords())
    {
        if (word.Length == 0) continue;
        if (word.Length == 1)
        {
            patt.AppendFormat("|({0})", word);
        }
        else if (reg_num.IsMatch(word))
        {
            patt.AppendFormat("|({0})", word);
        }
        else if (reg_en.IsMatch(word))
        {
            s = reg_b.Replace(word, @"(?:[^a-zA-Z]{0,3})");
            patt.AppendFormat("|({0})", s);
        }
        else
        {
            s = reg_b.Replace(word, @"(?:[^\u4e00-\u9fa5]{0,3})");
            patt.AppendFormat("|({0})", s);
        }
    }
    if (patt.Length > 0)
    {
        patt.Remove(0, 1);
    }
    return patt.ToString();
}
 
/// <summary>
/// 获取所有脏词
/// </summary>
public static string[] GetBlockWords()
{
    return new string[]{"国民党","fuck","110"};//这里应该从数据库获取
}

这个程序可替换以下内容:

国民党

国-民-党

国o民o党

fuck

f.u.c.k

110(110的变形写法不被替换)