第2章 搜索引擎算法分析

2.1 搜索引擎的工作原理

搜索引擎的基本工作原理包括如下3个过程：在互联网中发现、搜集网页信息；对信息进行提取和组织建立索引库；由检索器根据用户输入的查询关键词，在索引库中快速检出文档，进行文档与查询的相关度评价，对将要输出的结果进行排序，并将查询结果返回给用户。

1．抓取网页

每个独立的搜索引擎都有自己的网页抓取程序（Spider）。Spider顺着网页中的超链接，连续地抓取网页。被抓取的网页被称为网页快照。由于互联网中超链接的应用很普遍，理论上，从一定范围的网页出发，就能搜集到绝大多数的网页。

2．处理网页

搜索引擎抓到网页后，还要做大量的预处理工作，才能提供检索服务。其中，最重要的就是提取关键词，建立索引库和索引。其他还包括去除重复网页、分词（中文）、判断网页类型、分析超链接、计算网页的重要度/丰富度等。

3．提供检索服务

用户输入关键词进行检索，搜索引擎从索引数据库中找到匹配该关键词的网页；为了用户便于判断，除了网页标题和URL外，还会提供一段来自网页的摘要以及其他信息。

当用户以关键词查找信息时，搜索引擎会在数据库中进行搜寻，如果找到与用户要求内容相符的网站，便采用特殊的算法——通常根据网页中关键词的匹配程度，出现的位置、频次，链接质量等——计算出各网页的相关度及排名等级，然后根据关联度高低，按顺序将这些网页链接返回给用户。搜索引擎的工作原理示意图如图2-1所示。

图2-1 搜索引擎的工作原理示意图