查看“︁拉宾-卡普算法”︁的源代码
←
拉宾-卡普算法
跳转到导航
跳转到搜索
因为以下原因,您没有权限编辑该页面:
您请求的操作仅限属于该用户组的用户执行:
用户
您可以查看和复制此页面的源代码。
{{TA |G1=IT }} {{no footnotes|date=2018年9月}} 在计算机科学中,'''拉宾-卡普算法'''({{lang-en|Rabin–Karp algorithm}})或'''卡普-拉宾算法'''({{lang|en|Karp–Rabin algorithm}}),是一种由[[理查德·卡普]]与[[迈克尔·拉宾]]于1987年提出的、使用[[散列函数]]以在文本中搜寻单个模式串的[[字符串搜索算法]]单次匹配。该算法先使用[[旋转哈希]]以快速筛出无法与给定串匹配的文本位置,此后对剩余位置能否成功匹配进行检验。此算法可推广到用于在文本搜寻单个模式串的所有匹配或在文本中搜寻多个模式串的匹配。 若要在一段文本中找出单个模式串的一个匹配,此算法具有[[线性时间]]的平均复杂度,其运行时间与待匹配文本和模式串的长度成线性关系。虽然平均情况下,此算法表现优异,但[[最坏情况复杂度|最坏情况]]下,其复杂度为文本长与模式串长的乘积。当在文本中搜寻多个匹配时,其具有线性时间的平均复杂度(与文本串长、模式串长、模式串所有匹配总长三者的和成线性关系)。相对地,另一种用于找出模式串所有匹配的[[AC自动机算法]]的最坏情况复杂度与文本串长、模式串长、模式串所有匹配总数(而非总长)成正比。 此算法的一个实际应用为{{Tsl|en|content similarity detection|内容相似度检验}}(如论文查重)。在给定原材料与待查重论文的情况下,此算法可以迅速在论文中搜寻原材料中的句子,同时忽略诸如大小写与标点等细节。由于原材料中的字符串过多,故单字符串搜索算法在此处不适用。 ==简介== 下文中设所有模式串长为m,所有文本串长为n。 要在给定文本中搜索模式串,最简单的朴素算法的做法是将模式串与文本中所有位置进行比对。每次比对所需时间为<math>\mathcal{O}(m)</math>,所有可能的位置数为n,故该算法的最坏复杂度为<math>\mathcal{O}(mn)</math>。一种典型的优化为:当匹配到文本串的某一位置时,若文本串与模式串在任一位置失配,则直接移动到下一个位置继续尝试匹配。这种优化省去了在已经确定当前位置文本串失配时剩余的无用匹配尝试,但在特定情况下它无法确保任何加速。相对地, 一些字符串匹配算法会利用失配时的信息来降低最坏情况复杂度:每次失配时,文本的当前位置会使得两串中至少存在一处不同,这使得上述算法可以跳过已经确定无法成功匹配的位置。这类算法中[[KMP算法]]与[[Boyer-Moore字符串搜索算法]]较为常见。本条目所述的算法的加速方式则不同:此算法使用[[散列函数]]以快速对每个位置能否匹配作大致的检测,此后只对通过了检测的位置进行匹配尝试。 字符串搜索中所用散列函数(或哈希函数)会对每一个字符串进行处理与计算,生成的数值称为散列值(或哈希值):例如,在以某种方式定义了散列函数hash()后,我们可能有hash("rabin")=2020,hash("karp")=2019(仅供示意)。如果两个字符串相等,那么它们的散列值相等。对于一些良好的散列函数而言,通常情况下这句话反之依然成立:不同的字符串在大多数情况下拥有不同的散列值。此算法会在文本串的每一个位置计算从该位置开始的、与模式串等长的子串的散列值;如果该值与模式串的散列值相等,则算法会在该位置进行模式串的遍历比较。 为使此算法正常并且良好地工作,散列函数应从不易产生[[偽陽性和偽陰性|伪阳性]]错误的函数中随机挑选以防止非匹配位置的字符串散列值与模式串相同,从而增加并没有对匹配产生贡献的冗余运算量。另外,所采用的散列函数应当为[[旋转哈希]](特点为新位置的散列值可以通过已有散列值快速计算)以防止重新计算的额外工作。 ==算法实现== 算法实现如下。 <syntaxhighlight lang="php" line highlight="7"> function RabinKarp(string s[1..n], string pattern[1..m]) hpattern := hash(pattern[1..m]); for i from 1 to n-m+1 hs := hash(s[i..i+m-1]) if hs = hpattern if s[i..i+m-1] = pattern[1..m] return i return not found </syntaxhighlight> 第2/4/6行中每行执行一次时间复杂度均为<math>\mathcal{O}(m)</math>,但第2行只被执行一次,第6行仅在散列值相等时被执行(次数也因此较少)。在被执行了n次的第5行中,由于散列值的比较仅需常数时间,其对复杂度的影响为<math>\mathcal{O}(n)</math>。算法时间复杂度的瓶颈在于第四行。 用朴素算法计算散列值时,由于每一个字符都需计算,共需要<math>\mathcal{O}(m)</math>的复杂度。由于在每一次循环时均需要计算及比较散列值,采用此方法时算法总复杂度退化为<math>\mathcal{O}(mn)</math>(与朴素算法无异)。若要提速,每次进行散列值计算时,其复杂度不应超过常数时间。由于每次计算散列值时,已有上一个位置的散列值为基础,倘若能用以在常数时间内计算新位置的散列值,则总时间将急遽减少。因此,我们引入旋转哈希。 旋转哈希是一种专为此操作设计的散列算法。一种便捷但并不优秀的旋转哈希函数采用的计算方法为直接减去串首字符的值并加上串尾字符的值,类似一个滑动窗口操作: <pre> s[i+1..i+m] = s[i..i+m-1] - s[i] + s[i+m] </pre> 此类函数可以在常数时间内计算模式串移动时的散列值,但如果散列算法并不好,将造成过多的哈希碰撞,从而使第5行与采用其他更优秀的散列函数(如下文)时相比被过多执行。一个良好的散列算法不应产生过多相同的散列值,因其会使比较次数增加(仅在极端情况时,若所有字符串的散列值均相同,其最坏情况复杂度与不加优化时相同,为<math>\mathcal{O}(mn)</math>。 == 采用的散列函数 == {{main|拉宾指纹}} 对于拉宾-卡普算法,一种常用的可靠、高效的散列算法为[[拉宾指纹]]。在此处叙述的算法并非拉宾指纹,但依然有良好的表现。本算法视字符串中的每一个子串为某进制下的一个数字,通常进制数与字符集大小相同。 例:若子串为"hi",字符集大小/进制为256,用于取模的质数为101,那么散列值将会以如下方式计算(此处采用字符的[[ASCII]]值): [(104 × 256 ) % 101 + 105] % 101 = 65 <sub>此处'%'表取模或同余之意。例如,10除以3等于3余1,则10%3=1</sub> 与一般的进制不同的是,所用进制可以比某一位上的数字大,详见[[散列函数]]。使用此类散列函数的最大优势在于可以仅需常数次操作或计算来得到新位置的散列值。例如,当文本串为"abracadabra"、模式串长为3、首个可能的匹配的串为"abr"、进制数为256、用于取模的质数为101时,其散列值以如下方式计算: // a的ASCII值为97,b为98,r为114 hash("abr") = [ ( [ ( [ (97 × 256) % 101 + 98 ] % 101 ) × 256 ] % 101 ) + 114 ] % 101 = 4 若要从上一个串的散列值4计算下一个串"bra"的散列值,只需减去首字母a的散列值(需乘上对应偏移量,即该位置字母在当前串中所乘进制数的幂,本例为97 × 256<sup>2</sup>),将整个串偏移一位(即乘上进制数)再加上新的末位字母对应散列值(本例为97 × 256<sup>0</sup>)即可: hash("bra") = [ ( 4 - 97 × [(256%101)×256] % 101 ) × 256 + 97 ] % 101 = 30 <sub>为防止计算时溢出,此处取结果与256<sup>2</sup>%101相同的((256%101)*256)%101。实际计算时,一般会先用循环处理出所需的进制数幂以节省时间</sub> 此散列值与直接计算时结果相同: hash'("bra") = [ ( [ ( [ (98 × 256) % 101 + 114 ] % 101 ) × 256 ] % 101) + 97 ] % 101 = 30 但当模式串较长时,其能极大地节约时间。 理论上仍有其他能实现便捷计算的散列算法,如取所有字符的ASCII乘积为散列值等。此种散列算法的限制在于数据类型的上限与取模的必要性,参考[[散列函数]]。而另一些散列算法,要么耗时较长,要么较容易产生{{tsl|en|Hash_collision|散列冲突}}而因此减慢了算法执行的速度。因此,本节所记散列算法通常被拉宾-卡普算法采用。 == 多模式搜索 == 拉宾-卡普算法在单模式搜索方面不如[[克努斯-莫里斯-普拉特算法|Knuth–Morris–Pratt算法]]、[[Boyer-Moore字符串搜索算法]]和其他较快的单模式[[字串搜尋演算法|字符串搜索算法]],因为它的最坏情况行为很慢。然而,它是多模式搜索的首选算法。 为了在文本中找到任何一个大量的,比如说''k''个固定长度的模式,拉宾-卡普算法的一个简单变体使用[[布隆过滤器]]或[[集合 (计算机科学)|集合数据结构]]来检查给定字符串的哈希值是否属于我们要寻找的模式的哈希值集合: <syntaxhighlight lang="php" line> function RabinKarpSet(string s[1..n], set of string subs, m): set hsubs := emptySet foreach sub in subs insert hash(sub[1..m]) into hsubs hs := hash(s[1..m]) for i from 1 to n-m+1 if hs ∈ hsubs and s[i..i+m-1] ∈ subs return i hs := hash(s[i+1..i+m]) return not found </syntaxhighlight> 我们假设所有子串都具有固定长度''m'' 。 一种朴素的搜索''k''个模式的方法是,重复每次花费[[大O符号|O]](''n+m'')时间的单模式搜索,总时间为[[大O符号|O]](''(n+m)k'')。 与之对比,假设哈希表检查工作在[[大O符号|O]](1)预期时间内,那么上述算法可以在[[大O符号|O]](''n''+''km'')个预期时间内找到所有''k''个模式。一个确定性的''O''(''n''+''km'')解就是[[AC自动机算法|Aho-Corasick算法]]。 ==参考资料== {{Reflist}} * {{Cite journal |last1=Karp|first1= Richard M. | authorlink=理查德·卡普| last2=Rabin|first2=Michael O.|author2-link=迈克尔·拉宾 (科学家)| title=Efficient randomized pattern-matching algorithms |url=https://archive.org/details/sim_ibm-journal-of-research-and-development_1987-03_31_2/page/249|date=March 1987 |journal=IBM Journal of Research and Development |volume=31 |issue=2|pages=249–260|doi=10.1147/rd.312.0249 |ref=harv}} <!-- 原文为 * {{Cite journal |last1=Karp|first1= Richard M. | authorlink=理查德·卡普| last2=Rabin|first2=Michael O.|author2-link=迈克尔·拉宾 (科学家)| title=Efficient randomized pattern-matching algorithms |url=https://archive.org/details/sim_ibm-journal-of-research-and-development_1987-03_31_2/page/249|date=March 1987 |journal=IBM Journal of Research and Development |volume=31 |issue=2|pages=249–260|doi=10.1147/rd.312.0249 |citeseerx = 10.1.1.86.9502|ref=harv}} 而参数citeseerx无法识别 --> * {{Cite book | last1 = Cormen | first1 = Thomas H. | authorlink1 = Thomas H. Cormen | authorlink2 = Charles E. Leiserson | last2 = Leiserson | first2 = Charles E. | authorlink3 = Ronald L. Rivest | last3 = Rivest | first3 = Ronald L. | authorlink4 = Clifford Stein | last4 = Stein | first4 = Clifford |editor= |others= |title=[[Introduction to Algorithms]] |origyear=1990 |edition=2nd |date=2001-09-01 |publisher=MIT Press |location=[[Cambridge, Massachusetts]] |isbn=978-0-262-03293-3 |pages=[https://archive.org/details/introductiontoal00corm_691/page/n933 911]–916 |chapter=The Rabin–Karp algorithm}} * {{cite book| first1 = K. Selçuk | last1 = Candan | first2 = Maria Luisa | last2 = Sapino|title=Data Management for Multimedia Retrieval|url=https://books.google.com/books?id=Uk9tyXgQME8C&pg=PA205| date = 2010|publisher=Cambridge University Press|isbn=978-0-521-88739-7|pages=205–206}} (for the Bloom filter extension) ==外部链接== *{{cite web | url = http://courses.csail.mit.edu/6.006/spring11/rec/rec06.pdf | work = MIT 6.006: Introduction to Algorithms 2011- Lecture Notes | title = Rabin–Karp Algorithm/Rolling Hash | publisher = MIT | accessdate = 2020-04-24 | archive-date = 2013-08-16 | archive-url = https://web.archive.org/web/20130816165110/http://courses.csail.mit.edu/6.006/spring11/rec/rec06.pdf | dead-url = no }} {{算法}} {{字符串}} [[Category:字符串匹配算法]]
该页面使用的模板:
Template:Cite book
(
查看源代码
)
Template:Cite journal
(
查看源代码
)
Template:Cite web
(
查看源代码
)
Template:Lang
(
查看源代码
)
Template:Lang-en
(
查看源代码
)
Template:Main
(
查看源代码
)
Template:No footnotes
(
查看源代码
)
Template:Reflist
(
查看源代码
)
Template:TA
(
查看源代码
)
Template:Tsl
(
查看源代码
)
Template:字符串
(
查看源代码
)
Template:算法
(
查看源代码
)
返回
拉宾-卡普算法
。
导航菜单
个人工具
登录
命名空间
页面
讨论
不转换
查看
阅读
查看源代码
查看历史
更多
搜索
导航
首页
最近更改
随机页面
MediaWiki帮助
特殊页面
工具
链入页面
相关更改
页面信息