一种信息检索方法、装置、设备及介质与流程

专利2022-06-29  73


本发明实施例涉及信息检索领域,尤其涉及一种信息检索方法、装置、设备及介质。



背景技术:

近年来,随着计算机网络技术、通信技术的快速发展,各种各样的网络社交媒体平台被催生并走进了人们的生活,如微博、微信、聊天论坛等,每一天这些网络平台都在不断产生着新的、海量的用户交互数据如文本数据,这一切在丰富了人们生活的同时,也给网络语言环境下有效的信息检索和监管带来了困难和挑战。

相比于正式场合的文本语言,上述网络平台中所产生的网络语言有着明显的随意性和多变性,面对上述网络文本信息的检索需求,传统的基于指定关键词的检索或者是基于通配符弹性匹配的方法已经不能胜任,因此,如何能够在网络语言场景下,提高信息检索的准确度和保证检索的召回率是一个亟待解决的技术问题。



技术实现要素:

本发明实施例提供了一种信息检索方法、装置、设备及介质,以实现在网络语言场景下,提高信息检索的准确度,保证检索的召回率。

第一方面,本发明实施例提供了一种信息检索方法,包括:

获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;

根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;

根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息。

第二方面,本发明实施例还提供了一种信息检索装置,包括:

变体词生成模块,用于获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;

检索结果获取模块,用于根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;

目标结果确定模块,用于根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息。

第三方面,本发明实施例还提供了一种计算机设备,所述设备包括:

一个或多个处理器;

存储装置,用于存储一个或多个程序;

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明任意实施例所提供的信息检索方法。

第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任意实施例所提供的信息检索方法。

本发明实施例通过获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息,通过在对原始关键词进行检索的基础上,对原始关键词的变体关键词进行检索,提高了网络语言场景下信息检索的准确度,保证检索的召回率。

附图说明

图1是本发明实施例一所提供的一种信息检索方法的流程图;

图2a为本发明实施例二提供的一种串行检索流程示意图;

图2b为本发明实施例二提供的一种并行检索流程示意图;

图3是本发明实施例三所提供的一种信息检索装置的结构示意图;

图4是本发明实施例四所提供的计算机设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1是本发明实施例一所提供的一种信息检索方法的流程图。本实施例可适用于进行信息检索时的情形,尤其适用于在网络语言场景下进行信息检索时的情形。该方法可以由信息检索装置执行,该信息检索装置可以采用软件和/或硬件的方式实现,例如,该信息检索装置可配置于计算机设备中。如图1所示,所述方法包括:

s110、获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词。

在本实施例中,原始关键词可以为用户进行检索时输入的检索词。为了使在网络语言环境下的信息检索更加准确,在本实施例中根据网络语言的特性,对检索请求中的原始关键词进行变体,得到与原始关键词关联的变体关键词,其中,变体关键词可能为原始关键词的缩写、谐音等变体。

可选的,网络用语场景下,文本语言的表述充斥着大量的音字混合、拼音缩写、音同字异、网络习惯替代用语、形近字替代、同义词变体等情形。基于此,可以将变体关键词设置为拼音变体关键词、网络用语变体关键词、形近字变体关键词和/或关键语义向量。

在本发明的一种实施方式中,所述变体关键词包括:拼音变体关键词、网络用语变体关键词、形近字变体关键词和关键语义向量中的至少一个,所述基于所述原始关键词生成变体关键词,包括:对所述原始关键词进行拼音扩展,得到所述原始关键词的至少一个拼音变体关键词;和/或,对所述原始关键词进行网络用语扩展,得到所述原始关键词的至少一个网络用语变体关键词;和/或,对所述原始关键词进行形近字扩展,得到所述原始关键词的至少一个形近字变体关键词;和/或,计算所述原始关键词的关键语义向量。

可选的,可以对原始关键词进行拼音扩展、网络用语扩展、形近字扩展、语义向量计算中的至少一种变形,得到相应的变形关键词。

对原始关键词进行拼音扩展可以为将原始关键词变形为包含拼音或拼音缩写的拼音变体关键词;对原始关键词进行网络用语扩展可以为,对于原始关键词,从网络习惯替代用语库中查询相应的网络习惯替代词作为网络用语变体关键词。其中,网络习惯替代用语库可以自行构建或从多种渠道搜集。

对原始关键词进行形近字扩展可以为,对于原始关键词,从形近字库中查询检索词中部分或全部字符对应的形近字,与原始关键词进行替代组合后形成形近字变体关键词。其中,形近字库可以自行构建或从多种渠道搜集。示例性的,假设原始关键词为w:{c1,c2,…,cn},n表示检索词w所包含字符的个数,对原始关键词中的每一个字符进行形近字扩展,得到原始关键词对应的形近字检索词为v′:{fsimilar(c1),fsimilar(c2),…,fsimilar(cn)},形近字扩展变体关键词为w、v′在对应位置上的所有可能组合,则由所有形近字扩展变体关键词组成的组合为v″:{fv(c1,fpy(c1)),fv(c2,fpy(c2)),…,fv(cn,cpy(cn))},fpy(x)表示将字符x转换为拼音,fv(x,y)表示在元素x,y二者中取一。

计算原始关键词的关键语义向量可以为,根据设定的语义向量计算方法计算原始关键词的关键语义向量,其中,语义向量计算算法可以为word2vec、globalvectorsforwordrepresentation(glove)、fasttext、embeddingsfromlanguagemodels(elmo)、generativepre-training(gpt)或bidirectionalencoderrepresentationsfromtransformers(bert)等语义向量计算方法。可选的,其中,网络习惯替代用语库以及形近字库均可以自行构建或从多种渠道搜集。

在上述方案的基础上,所述拼音变体关键词包括音字混合变体关键词、拼音缩写变体关键词和音同字异变体关键词中的至少一个,所述对所述原始关键词进行拼音扩展,得到所述原始关键词的至少一个拼音变体关键词,包括:对所述原始关键词中的部分字符进行拼音化处理,得到至少一个音字混合变体关键词;和/或,对所述原始关键词中的全部字符进行拼音化处理,得到至少一个音同字异变体关键词;和/或,对所述原始关键词中的字符进行拼音化处理,使用拼音的首字母对字符进行替换,得到至少一个拼音缩写变体关键词。

可选的,考虑到网络用语中音字混杂的诸多变体情形,将拼音变体划分为多种变体,如音字混合变体、拼音缩写变体和/或音同字异变体,相应的,拼音变体关键词包括音字混合变体关键词、拼音缩写变体关键词和/或音同字异变体关键词。在本实施例中,可以对原始关键词进行音字混合变体、拼音缩写变体和音同字异变体中的至少一种变体处理,得到相应的拼音变体关键词。

一个实施例中,对原始关键词进行音字混合变体可以为,对原始关键词中的部分字符进行拼音化处理,得到音字混合变体关键词。也就是说,对原始关键词进行基于部分或全部拼音替代的检索词扩展,遍历所有可能组合,得到多个音字混合变体关键词。示例性的,假设原始关键词为w:{c1,c2,…,cn},n表示检索词w所包含字符的个数,则对原始关键词中的字符进行音字混合变体后,得到拼音化检索词为w′:{fpy(c1),fpy(c2),…,fpy(cn)},其中,fpy(ci)为原始关键词中字符ci的音字混合变体。音字混合变体关键词为w、w′在对应位置上的所有可能组合,则w″:{fu(c1,fpy(c1)),fu(c2,fpy(c2)),…,fu(cn,fpy(cn))}为由所有音字混合变体关键词组成的音字混合变体关键词组合,fpy(x)表示将字符x转换为拼音,fu(x,y)表示在元素x,y二者中取一。

一个实施例中,对原始关键词进行拼音缩写变体可以为,对原始关键词中的全部字符进行拼音化处理,得到音同字异变体关键词。也就是说,先将原始关键词逐字符进行拼音化处理,然后,使用拼音的首字母对原字符进行替换,得到音同字异变体关键词。示例性的,假设原始关键词为w:{c1,c2,…,cn},n表示检索词w所包含字符的个数,则对原始关键词进行拼音缩写变体后,得到音同字异变体关键词为w′:{f1(fpy(c1)),f1(fpy(c2)),…,f1(fpy(cn))},其中,f1(fpy(ci))为原始关键词中字符ci的拼音缩写变体,fpy(x)表示将字符x转换为拼音,f1(x)表示取拼音x的首字母。

一个实施例中,对原始关键词进行音同字异变体可以为,对原始关键词中的字符进行拼音化处理,使用拼音的首字母对字符进行替换,得到拼音缩写变体关键词。也就是说,先将原始关键词逐字符进行拼音化处理,然后,使用拼音的首字母对原字符进行替换,得到音同字异变体关键词。示例性的,假设原始关键词为w:{c1,c2,…,cn},n表示检索词w所包含字符的个数,则得到音同字异变体关键词为w′:{f1(fpy(c1)),f1(fpy(c2)),…,f1(fpy(cn))},fpy(x)表示将字符x转换为拼音,f1(fpy(ci))为原始关键词中字符ci的音同字异变体。

s120、根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果。

在本实施中,对原始关键词进行变体得到变体关键词后,将原始关键词和/或变体关键词与检索库中的文本进行匹配,得到原始关键词的匹配结果(即原始检索结果),和/或变体关键词的匹配结果(即变体检索结果)。

在本发明的一种实施方式中,还包括:将检索库进行拼音化处理,得到拼音化文本检索库;相应的,根据所述变体关键词进行检索,得到所述变体关键词对应的变体检索结果,包括:使用所述拼音缩写变体关键词,在所述拼音化文本检索库中进行检索,得到所述音同字异变体关键词对应的音同字异变体检索结果。可选的,可以先将检索库进行拼音化处理,得到拼音化文本检索库,在使用音同字异变体关键词进行检索时,将音同字异变体关键词与拼音化文本检索库中的文本进行匹配,得到与音同字异变体关键词相匹配的音同字异变体检索结果。

在本发明的一种实施方式中,还包括:将检索库进行语义向量化处理,得到语义向量检索库;相应的,根据所述变体关键词进行检索,得到所述变体关键词对应的变体检索结果,包括:使用所述关键语义向量,在所述语义向量检索库中进行检索,得到所述关键语义向量对应的语义向量检索结果。可选的,可以先将检索库进行语义向量化处理,得到语义向量检索库,在使用关键语义向量进行检索时,计算关键语义向量与语义向量检索库中各语义向量之间的相似度,将相似度大于设定的相似度阈值的语义向量作为与关键语义向量相匹配的语义向量,并基于上古和语义向量确定关键语义向量对应的语义向量检索结果。

s130、根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息。

在本实施例中,使用原始检索词和/或变体检索词进行检索,得到原始检索结果以及变体检索结果后,从原始检索结果和变体检索结果中筛选出目标检索结果,并将目标检索结果作为检索请求的响应信息,将目标检索结果发送至发送检索请求的终端,以使终端将检索请求通过显示装置进行显示。

考虑到检索需求及检索速度要求,在本实施例中可以以串行检索和并行检索两种方式进行检索。其中,串行检索方式适用于判断待检索文本中是否包含有原始关键词或变体关键词的快速检索,并行检索方式适用于对待检索文本进行包括原始关键词及变体关键词在内的详尽检索,速度相对于串行检索来说较慢。

另外,由于不同的变体方式与原始关键词之间的关联程度不同,可以为不同的变体关键词设置不同的置信度,为与原始关键词之间存在较强关联关系的变体关键词设置较高的置信度,为与原始关键词之间存在较弱关联关系的变体关键词设置较低的置信度,基于变体关键词的置信度对变体检索结果进行筛选。可选的,可以设置原始关键词、网络用语变体关键词对应的检索结果的置信度为1,设置音字混合变体关键词对应的检索结果的对应的检索结果的置信度为2,设置拼音缩写变体关键词、音同字异变体关键词,形近字变体关键词对应的检索结果的置信度为3,关键语义向量的置信度可以根据设定的相似度阈值确定,当相似度阈值较高时,可将关键语义向量对应的检索结果的置信度设置为1,当相似度阈值中等时,可将关键语义向量对应的检索结果的置信度设置为2,相似度阈值较地时,可将关键语义向量对应的检索结果的置信度设置为3。

在本发明的一种实施方式中,根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果,根据所述原始检索结果和所述变体检索结果确定目标检索结果,包括:根据预先设定的检索顺序,依次根据所述原始关键词和所述变体关键词进行检索,当所述原始检索结果和/或所述变体检索结果的置信度高于设定的置信度阈值时,将所述原始检索结果和/或所述变体检索结果作为所述目标检索结果。可选的,可以根据变形检索词的变形方式对原始关键词、变形关键词进行排序,得到检索词的检索顺序,根据检索顺序依次对检索词进行检索。依据检索顺序进行检索过程中,一旦匹配到与原始关键词或变体关键词相匹配的文本且该检索词对应的置信度较高(如置信度为1)时,无需再进行后续检索,直接将检索结果输出即可。

在本发明的另一种实施方式中,根据所述原始检索结果和所述变体检索结果确定目标检索结果,包括:根据所述变体检索结果的置信度对所述变体检索结果进行分类,得到所述变体检索结果中的可信检测结果以及待审核检索结果;将所述待审核检索结果通过显示装置进行显示,以使审核人员对所述待审核检索结果进行审核;根据接收到的审核结果确定所述待审核检索结果中的待输出检索结果,并将所述可信检索结果和所述待输出检索结果作为所述目标检索结果。为了得到更详尽的检索结果,可以针对原始关键词以及每个变体关键词,均进行检索,并获取所有原始检索结果和变体检索结果,然后从变体检索结果中筛选出置信度较低的检索结果(如置信度为2或3)作为待审核检索结果,将待审核检索结果进行显示,以使审核人员对待审核检索结果进行审核,审核人员可对匹配的检索结果进行打标,信息检索装置检索到审核人员的打标操作后,将打标操作对应的检索结果作为待输出检索结果,将待输出检索结果和原始检索结果共同作为目标检索结果。

本发明实施例通过获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息,通过在对原始关键词进行检索的基础上,对原始关键词的变体关键词进行检索,提高了网络语言场景下信息检索的准确度,保证检索的召回率。

实施例二

本实施例在上述实施例的基础上,提供了一种优选实施例。本实施例可由信息检索系统执行。可选的,信息检索系统包括文本输入模块、检索模块、审核处理模块和检索结果输出模块。其中,检索模块包括标准检索子模块、拼音扩展检索子模块、网络习惯替代用语检索子模块、形近字检索子模块、语义向量构建子模块和语义检索子模块;拼音扩展检索子模块又包括:音字混合检索子模块、拼音缩写检索子模块、音同字异检索子模块。

可选的,可以对各个不同检索子模块的检索结果赋予相应的置信度等级,用于指示子模块的检索结果与指定检索词的相关度,然后输出到审核处理模块进行相应的处理。

其中,文本输入模块用于输入待检索的文本信息。检索模块用于基于文本输入模块输出的信息,根据指定检索词检索感兴趣信息。审核处理模块用于对检索模块的输出结果,根据附带输出的置信度等级信息分别进行处理。示例性的,置信度等级为“1”的表示检索结果与指定检索词的相关度最高,处理方式为直接输出检索结果;置信度等级为“2”的表示检索结果与指定检索词的相关度较高,处理方式可根据具体安全等级需求,设置为直接输出检索结果或者是报送人工进一步审核确认是否正确。例如:如果安全等级要求高,则报送人工进一步审核确认;如果安全等级要求低,则直接输出检索结果;置信度等级为“3”的表示检索结果与指定检索词的相关度较低,处理方式为报送人工进一步审核确认是否正确。检索结果输出模块用于对审核处理模块输出的结果进行输出显示,输出信息包括:检索词在输入文本中出现的语句索引号、检索词在语句中的索引号、检索词在输入文本中的实际表述形式。

具体的,标准检索子模块用于根据指定检索词,直接对文本信息进行关键词检索,然后返回匹配位置结果,并将检索结果的置信度等级赋“1”。拼音扩展检索子模块中的音字混合检索子模块用于对指定检索词进行基于部分或全部拼音替代的检索词扩展,直至遍历所有可能组合,然后,使用该扩展检索词集合对文本信息进行检索,并根据匹配到的目标位置从原输入文本中提取出音字混合的检索结果,并将检索结果的置信度等级赋“2”。拼音缩写检索子模块用于将待检索词逐字符进行拼音化处理,然后,使用拼音的首字母对原字符进行替换,得到新的检索词,最后,基于该新检索词对文本进行检索,并根据匹配到的目标位置从原输入文本中提取出拼音缩写的检索结果,并将检索结果的置信度等级赋“3”。音同字异检索子模块用于对待检索词按字符进行拼音化处理,同样地,也对输入文本进行拼音化处理;然后基于拼音化检索词从拼音化文本中进行检索,最后,根据匹配到的目标位置从原输入文本中提取出音同字异的检索结果,并将检索结果的置信度等级赋“3”。网络习惯替代用语检索子模块用于对于待检索词,从网络习惯替代用语库中查询相应的网络习惯替代词作为新的检索词,在此基础上对原输入文本进行扩展检索,并将检索结果的置信度等级赋“1”。形近字检索子模块用于对于待检索词,从形近字库中查询检索词中每一个字对应的形近字,与原检索词进行替代组合后作为新的检索词,在此基础上对原输入文本进行扩展检索,并将检索结果的置信度等级赋“3”。语义向量构建子模块用于使用word2vec、glove(globalvectorsforwordrepresentation)、fasttext、elmo(embeddingsfromlanguagemodels)、gpt(generativepre-training)、bert(bidirectionalencoderrepresentationsfromtransformers)等方法,基于文本语料集如百科类语料、新闻语料、网络聊天语料等进行训练以完成对语义向量库corpus的构建。语义检索子模块用于对于原检索词为w,从corpus中取出w对应的语义向量vector,然后对输入文本text进行中文分词,得到text:{w1,…,wi,…,wm},m表示text所包含词语的个数,1≤i≤m,从corpus中依次取出wi对应的语义向量vectori并与vector进行相似度计算sim=1-fdist(vectori,vector),最后,在遍历text:{w1,…,wi,…,wm}中的分词后,输出相似度高于阈值的词语作为检索结果输出,根据阈值设置的高低,可对检索结果的置信度等级进行相应的调整,例如:当阈值较高时,可将检索结果的置信度等级赋“1”,当阈值中等时,可将检索结果的置信度等级赋“2”,当阈值较低时,可将检索结果的置信度等级赋“3”。其中fdist为距离计算函数,可使用cosinedistance、euclideandistance、cityblockdistance等方法计算相似度之间的距离,优选地,可将cosinedistance方法作为距离计算函数。

在上述方案的基础上,针对不同检索复杂度需求,本实施例提出了串行检索和并行检索2种检索流程方案。

串行检索方式该方式适用于判断待检索文本中是否包含有检索词或其变体的快速检索。图2a为本发明实施例二提供的一种串行检索流程示意图,如图2a所示,依次执行标准检索子模块、音字混合检索子模块、拼音缩写检索子模块、音同字异检索子模块、网络习惯替代用语检索子模块、形近字检索子模块、语义检索子模块,中途一旦匹配到检索词或检索词的变体并且置信度等级较高时(例如可限制置信度等级为“1”或者“2”),检索过程即结束,无需再进行后续模块处理,从而节省了计算量,而且,置信度等级条件的约束也保证了检索结束时输出结果的可靠性;然后,输出“包含检索词”或“不包含检索词”的判断结果,如果包含,则输出检索词在文本中的具体匹配位置及实际对应的词语表述。

示例性的,具体检索的逻辑流程可如下所示:

index=position(第一个检索子模块)

whileindex<=position(最后一个检索子模块):

执行index对应的子模块检索

条件1=检索到匹配值

条件2=置信度等级∈{“1”,“2”}

if(条件1==true)and(条件2==true):

检索结束并输出结果

break

else:

index

其中,position(x)表示模块x的索引号。

并行检索方式适用于对待检索文本进行包括检索词及其各种变体在内的详尽检索,速度相对较慢。图2b为本发明实施例二提供的一种并行检索流程示意图,如图2a所示,并行地执行标准检索子模块、音字混合检索子模块、拼音缩写检索子模块、音同字异检索子模块、网络习惯替代用语检索子模块、形近字检索子模块、语义检索子模块,直至各模块全部执行结束;然后,输出检索词的具体匹配位置及文本中实际对应检索词的各种变体,保证了检索结果的全面性。

本发明实施例除了对指定检索词本身的基本检索外,还能够对检索词进行包括音字混合、拼音缩写、音同字异、网络习惯替代用语、形近字替代、语义相同词等诸多变化情形进行扩展、增强检索,克服了传统检索方法在网络语言场景中的能力不足,保证了检索的召回率;另外,通过根据置信度等级分别处理的审核处理机制也确保了最终输出结果的可靠性;并且串行检索流程和并行检索的流程方案也为快速检索和详尽检索提供了合适的可选方式。

实施例三

图3是本发明实施例三所提供的一种信息检索装置的结构示意图。该信息检索装置可以采用软件和/或硬件的方式实现,例如该信息检索装置可以配置于计算机设备中。如图3所示,所述装置包括变体词生成模块310、检索结果获取模块320目标结果确定模块330,其中:

变体词生成模块310,用于获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;

检索结果获取模块320,用于根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;

目标结果确定模块330,用于根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息。

本发明实施例通过变体词生成模块获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;检索结果获取模块根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;目标结果确定模块根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息,通过在对原始关键词进行检索的基础上,对原始关键词的变体关键词进行检索,提高了网络语言场景下信息检索的准确度,保证检索的召回率。

可选的,在上述方案的基础上,所述变体关键词包括:拼音变体关键词、网络用语变体关键词、形近字变体关键词和关键语义向量中的至少一个,所述变体词生成模块310具体用于:

对所述原始关键词进行拼音扩展,得到所述原始关键词的至少一个拼音变体关键词;

和/或,对所述原始关键词进行网络用语扩展,得到所述原始关键词的至少一个网络用语变体关键词;

和/或,对所述原始关键词进行形近字扩展,得到所述原始关键词的至少一个形近字变体关键词;

和/或,计算所述原始关键词的关键语义向量。

可选的,在上述方案的基础上,所述拼音变体关键词包括音字混合变体关键词、拼音缩写变体关键词和音同字异变体关键词中的至少一个,所述变体词生成模块310具体用于:

对所述原始关键词中的部分字符进行拼音化处理,得到至少一个音字混合变体关键词;

和/或,对所述原始关键词中的全部字符进行拼音化处理,得到至少一个音同字异变体关键词;

和/或,对所述原始关键词中的字符进行拼音化处理,使用拼音的首字母对字符进行替换,得到至少一个拼音缩写变体关键词。

可选的,在上述方案的基础上,所述装置还包括:

拼音化库生成模块,用于将检索库进行拼音化处理,得到拼音化文本检索库;

相应的,所述检索结果获取模块320具体用于:

使用所述拼音缩写变体关键词,在所述拼音化文本检索库中进行检索,得到所述拼音缩写变体关键词对应的拼音缩写变体检索结果。

可选的,在上述方案的基础上,装置还包括:

语义向量库生成模块,用于将检索库进行语义向量化处理,得到语义向量检索库;

相应的,所述检索结果获取模块320具体用于:

使用所述关键语义向量,在所述语义向量检索库中进行检索,得到所述关键语义向量对应的语义向量检索结果。

可选的,在上述方案的基础上,所述检索结果获取模块320和所述目标结果确定模块330具体用于:

根据预先设定的检索顺序,依次根据所述原始关键词和所述变体关键词进行检索,当所述原始检索结果和/或所述变体检索结果的置信度高于设定的置信度阈值时,将所述原始检索结果和/或所述变体检索结果作为所述目标检索结果。

可选的,在上述方案的基础上,所述目标结果确定模块330具体用于:

根据所述变体检索结果的置信度对所述变体检索结果进行分类,得到所述变体检索结果中的可信检测结果以及待审核检索结果;

将所述待审核检索结果通过显示装置进行显示,以使审核人员对所述待审核检索结果进行审核;

根据接收到的审核结果确定所述待审核检索结果中的待输出检索结果,并将所述可信检索结果和所述待输出检索结果作为所述目标检索结果。

本发明实施例所提供的信息检索装置可执行任意实施例所提供的信息检索方法,具备执行方法相应的功能模块和有益效果。

实施例四

图4是本发明实施例四所提供的计算机设备的结构示意图。图4示出了适于用来实现本发明实施方式的示例性计算机设备412的框图。图4显示的计算机设备412仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。

如图4所示,计算机设备412以通用计算设备的形式表现。计算机设备412的组件可以包括但不限于:一个或者多个处理器416,系统存储器428,连接不同系统组件(包括系统存储器428和处理器416)的总线418。

总线418表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器416或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(isa)总线,微通道体系结构(mac)总线,增强型isa总线、视频电子标准协会(vesa)局域总线以及外围组件互连(pci)总线。

计算机设备412典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备412访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。

系统存储器428可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(ram)430和/或高速缓存存储器432。计算机设备412可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储装置434可以用于读写不可移动的、非易失性磁介质(图4未显示,通常称为“硬盘驱动器”)。尽管图4中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如cd-rom,dvd-rom或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线418相连。存储器428可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块442的程序/实用工具440,可以存储在例如存储器428中,这样的程序模块442包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块442通常执行本发明所描述的实施例中的功能和/或方法。

计算机设备412也可以与一个或多个外部设备414(例如键盘、指向设备、显示器424等)通信,还可与一个或者多个使得用户能与该计算机设备412交互的设备通信,和/或与使得该计算机设备412能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口422进行。并且,计算机设备412还可以通过网络适配器420与一个或者多个网络(例如局域网(lan),广域网(wan)和/或公共网络,例如因特网)通信。如图所示,网络适配器420通过总线418与计算机设备412的其它模块通信。应当明白,尽管图中未示出,可以结合计算机设备412使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。

处理器416通过运行存储在系统存储器428中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的信息检索方法,该方法包括:

获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;

根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;

根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息。

当然,本领域技术人员可以理解,处理器还可以实现本发明任意实施例所提供的信息检索方法的技术方案。

实施例五

本发明实施例五还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例所提供的信息检索方法,该方法包括:

获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;

根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;

根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息。

当然,本发明实施例所提供的一种计算机可读存储介质,其上存储的计算机程序不限于如上所述的方法操作,还可以执行本发明任意实施例所提供的信息检索方法中的相关操作。

本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、rf等等,或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c ,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。


技术特征:

1.一种信息检索方法,其特征在于,包括:

获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;

根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;

根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息。

2.根据权利要求1所述的方法,其特征在于,所述变体关键词包括:拼音变体关键词、网络用语变体关键词、形近字变体关键词和关键语义向量中的至少一个,所述基于所述原始关键词生成变体关键词,包括:

对所述原始关键词进行拼音扩展,得到所述原始关键词的至少一个拼音变体关键词;

和/或,对所述原始关键词进行网络用语扩展,得到所述原始关键词的至少一个网络用语变体关键词;

和/或,对所述原始关键词进行形近字扩展,得到所述原始关键词的至少一个形近字变体关键词;

和/或,计算所述原始关键词的关键语义向量。

3.根据权利要求2所述的方法,其特征在于,所述拼音变体关键词包括音字混合变体关键词、拼音缩写变体关键词和音同字异变体关键词中的至少一个,所述对所述原始关键词进行拼音扩展,得到所述原始关键词的至少一个拼音变体关键词,包括:

对所述原始关键词中的部分字符进行拼音化处理,得到至少一个音字混合变体关键词;

和/或,对所述原始关键词中的全部字符进行拼音化处理,得到至少一个音同字异变体关键词;

和/或,对所述原始关键词中的字符进行拼音化处理,使用拼音的首字母对字符进行替换,得到至少一个拼音缩写变体关键词。

4.根据权利要求3所述的方法,其特征在于,还包括:

将检索库进行拼音化处理,得到拼音化文本检索库;

相应的,根据所述变体关键词进行检索,得到所述变体关键词对应的变体检索结果,包括:

使用所述拼音缩写变体关键词,在所述拼音化文本检索库中进行检索,得到所述拼音缩写变体关键词对应的拼音缩写变体检索结果。

5.根据权利要求2所述的方法,其特征在于,还包括:

将检索库进行语义向量化处理,得到语义向量检索库;

相应的,根据所述变体关键词进行检索,得到所述变体关键词对应的变体检索结果,包括:

使用所述关键语义向量,在所述语义向量检索库中进行检索,得到所述关键语义向量对应的语义向量检索结果。

6.根据权利要求1所述的方法,其特征在于,根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果,根据所述原始检索结果和所述变体检索结果确定目标检索结果,包括:

根据预先设定的检索顺序,依次根据所述原始关键词和所述变体关键词进行检索,当所述原始检索结果和/或所述变体检索结果的置信度高于设定的置信度阈值时,将所述原始检索结果和/或所述变体检索结果作为所述目标检索结果。

7.根据权利要求1所述的方法,其特征在于,根据所述原始检索结果和所述变体检索结果确定目标检索结果,包括:

根据所述变体检索结果的置信度对所述变体检索结果进行分类,得到所述变体检索结果中的可信检测结果以及待审核检索结果;

将所述待审核检索结果通过显示装置进行显示,以使审核人员对所述待审核检索结果进行审核;

根据接收到的审核结果确定所述待审核检索结果中的待输出检索结果,并将所述可信检索结果和所述待输出检索结果作为所述目标检索结果。

8.一种信息检索装置,其特征在于,包括:

变体词生成模块,用于获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;

检索结果获取模块,用于根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;

目标结果确定模块,用于根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息。

9.一种计算机设备,其特征在于,所述设备包括:

一个或多个处理器;

存储装置,用于存储一个或多个程序;

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的信息检索方法。

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的信息检索方法。

技术总结
本发明实施例公开了一种信息检索方法、装置、设备及介质,所述方法包括:获取检索请求中包含的原始关键词,基于所述原始关键词生成变体关键词;根据所述原始关键词和所述变体关键词进行检索,得到所述原始关键词对应的原始检索结果,以及所述变体关键词对应的变体检索结果;根据所述原始检索结果和所述变体检索结果确定目标检索结果,并将所述目标检索结果作为所述检索请求的响应信息。本发明实施例提供的信息检索方法能够适应网络语言等非正式表述场景下的文本检索,通过在对原始关键词进行检索的基础上,对原始关键词的变体关键词进行检索,提高了网络语言场景下信息检索的准确度,保证检索的召回率。

技术研发人员:王晓平;金明
受保护的技术使用者:上海极链网络科技有限公司
技术研发日:2020.01.13
技术公布日:2020.06.09

转载请注明原文地址: https://bbs.8miu.com/read-23386.html

最新回复(0)