查找文本中相邻子字符串的出现

debugcn 发表于 Dev

亚历克斯

我有Word文档的文本和字符串数组。目的是查找文档文本中这些字符串的所有匹配项。我尝试在Aho-Corasick算法的C＃实现中使用Aho-Corasick字符串匹配，但是默认实现不适合我。文字的典型部分看起来像

“激活”是指实质上以附件A的形式从放款人向银行发出的书面通知。

“激活通知”是指从贷款人到银行的书面通知，实质上是附件A和激活的形式。

“工作日”是指银行开放以进行日常业务和激活通知的每一天（周六和周日除外）。

关键字数组看起来像

var keywords = new[] {"Activation", "Activation Notice"};

Aho-Corasick算法的默认实现返回以下次数

激活-4

激活通知-2

对于“激活说明”，这是正确的结果。但是对于“激活”，正确的计数也应该为2，因为我不需要考虑相邻关键字“激活通知”中的出现次数。

有适合这种情况的算法吗？

麦斯金纳

我将假设您根据链接的示例获得了结果。

StringSearchResult[] results = searchAlg.FindAll(textToSearch);

使用这些results，如果您假设唯一的重叠是子集，则可以按索引排序并在一次通过中收集所需的结果。

public class SearchResultComparer : IComparer<StringSearchResult> { 
    public int StringSearchResult(StringSearchResult x, StringSearchResult y) 
    { 
        // Try ordering by the start index.
        int compare = x.Index.CompareTo(y.Index);
        if (compare == 0)
        {
            // In case of ties, reverse order by keyword length.
            compare = y.Keyword.Length.CompareTo(x.Keyword.Length);
        }
        return compare;
    } 
} 

// ...


IComparer searchResultComparer = new SearchResultComparer();
Array.Sort(results, searchResultComparer); 

int activeEndIndex = -1;
List<StringSearchResult> nonOverlappingResults = new List<StringSearchResult>();
foreach(StringSearchResult r in results)
{
    if (r.Index < activeEndIndex)
    {
        // This range starts before the active range ends.
        // Since it's an overlap, skip it.
        continue;
    }

    // Save this result, track when it ends.
    nonOverlappingResults.Add(r);
    activeEndIndex = r.Index + r.Keyword.Length;
}

由于索引排序，该循环保证仅保留非重叠范围。但是某些范围将被拒绝。这只能由于两个原因而发生。