Sphinx全文检索

全屏阅读
  • 基本信息
  • 作者:
  • 作者已发布:917篇文章
  • 发布时间:2021年03月05日 22:08:59
  • 所属分类:PHP+MySql
  • 阅读次数:1832次阅读
  • 标签:

全文检索

一、生活中的数据总体分为:

结构化数据:指具有固定格式或有限长度的数据,如数据库,元数据等。

非结构化数据:指没有固定格式或不定长的数据,如邮件,word文档等。

非结构化数据还有一种叫法:全文数据。

二、按数据的分类,搜索也分为两种:

对结构化数据的搜索:

如对数据库的搜索:SQL语句。

再如windows的搜索:文件名,类型,修改时间。

对非结构化数据的搜索:

如windows对文件内容的搜索。

Linux下得grep命令。

再如Google和百度可以搜素大量内容数据。

对于非结构化的数据搜索也叫做对全文数据的搜索。

三、对全文数据的搜索还可以分为两种

1、顺序扫描:如要找内容包含某个字符串的文件,会一个文档一个文档的从头到尾的找,如 Like查找 。

2、索引扫描:把非结构化的数据中的内容提取出来一部分重新组织,让它变的有结构化,这部分我们提取出来的数据就叫做索引.

全文检索大体分两个过程:

索引创建(Indexer)和 搜索索引(Search)。

索引创建:将现实世界中所有的结构化和非结构化数据提取信息,创建索引的过程。

搜索索引:就是得到用户的查询请求,搜索创建的索引,然后返回结果的过程。 

 

比如说,我们要寻找既包含字符串“Sphinx”又包含字符串“PHP”的文档,我们只需要以下几步:

1. 取出包含字符串“Sphinx”的文档链表.

2. 取出包含字符串“PHP”的文档链表.

3. 通过合并链表,找出既包含“Sphinx”又包含“PHP”的文件.

如何创建索引?

全文检索的索引创建过程一般有以下几步:

一些需要创建索引的文档(Documents)。

将原文档传给分词组件(Tokenizer) 。

将得到的词元(Token)传给语言处理组件(Linguistic Processor)。

将得到的词(Term)传给索引组件(Indexer)。

第一步:一些创建索引的文档

文档1:Students should be allowed to go out with their friends, but not allowed to drink beer.

文档2:My friend Jerry went to school to see his students but found them drunk which is not allowed.

第二步:将原文档传给分词组件

分词组件(Tokenizer)会做以下几件事情(此过程称为Tokenize):

1. 将文档分成一个一个单独的单词。

2. 去除标点符号。

3. 去除停词(Stop word)。

所谓停词(Stop word)就是一种语言中最普通的一些单词:

英语中的停词(Stop word)如:“the”,“a”,“this”等。

中文中的停词 如:‘是’‘的’‘这个’等。

对于每一种语言的分词组件(Tokenizer),都有一个停词(stop word)集合。

 

经过分词(Tokenizer)后得到的结果称为词元(Token)。

在我们的例子中,便得到以下词元(Token):

 Students、allowed、go、their、friends、allowed、drink、beer、My、friend、Jerry、went、school、see、his、students、found、them、drunk、allowed。

第三步:将得到的词元(Token)   传给语言处理组件

语言处理组件主要是对得到的词元做一些同语言相关的处理:

对于英语,语言处理组件一般做以下几点:

变为小写(Lowercase)。

2. 将单词缩减为词根形式,如“cars”到“car”等。

这种操作称为:stemming。

3. 将单词转变为词根形式,如“drove”到“drive”等。

这种操作称为:lemmatization。

 

语言处理组件的结果称为词

在我们的例子中,经过语言处理,得到的词(Term)如下:

Student、allow、go、their、friend、allow、drink、beer、my、friend、jerry、go、school、see、his、student、find、them、drink、allow。

也正是因为有语言处理的步骤,才能使搜索drove,而drive也能被搜索出来。

第四步:  将得到的词(Term)传给索引组件

索引组件(Indexer)主要做以下几件事情:

利用得到的词(Term)创建一个字典。

对字典按字母顺序进行排序。

image.png

3. 合并相同的词(Term)成为文档倒排(Posting List)链表

image.png

Document Frequenc     即文档频次

表示总共有多少

文件包含此词(Term)

Frequency 即词频率

表示此文件中

包含了几个此词(Term)

如何对索引进行搜索

搜索主要分为以下几步:

 

第一步:用户输入查询语句.

第二步:对查询语句进行词法分析,语法分析,及语言处理

第三步:搜索索引,得到符合语法树的文档.

第四步:根据得到的文档和查询语句的相关性,对结果进行排序.

什么是Sphinx

Sphinx 是SQL Phrase Index(查询词组索引)的缩写,Sphinx是一个基于SQL的全文检索引擎

Sphinx    全文检索引擎

Coreseek  支持中文的全文检索引擎

Sphinx 优缺点

优点:

高速的建立索引(在当代CPU上,可达到10 MB/秒);

高性能的搜索(在2 – 4GB 的文本数据上,平均每次检索响应时间小于0.1秒);

可处理海量数据(目前已知可以处理超过100 GB的文本数据, 在单一CPU的系统上可处理100 M 文档);

提供了优秀的相关度算法,基于短语相似度和统计BM2的复合Ranking方法;

支持分布式搜索;

提供文档片段(摘要以及高亮)生成功能;

可作为MySQL的存储引擎提供搜索服务;

支持布尔、短语、词语相似度等多种检索模式;

文档支持多个全文检索字段(最大不超过32个);

 

缺点:

 

必须要有主键

主键必须为整型

不负责数据存储

配置相当不灵活

顶一下
(0)
100%
订阅 回复
踩一下
(0)
100%
» 固定链接:恒富网 » 《Sphinx全文检索》
» 郑重声明:本文由mpxq168发布,所有内容仅代表个人观点。版权归恒富网mpxq168共有,欢迎转载, 但未经作者同意必须保留此段声明,并给出文章连接,否则保留追究法律责任的权利! 如果本文侵犯了您的权益,请留言。

目前有 0 条留言 其中:访客:0 条, 博主:0 条

给我留言

您必须 [ 登录 ] 才能发表留言!