CN111414523A

CN111414523A - 一种数据获取方法和装置

Info

Publication number: CN111414523A
Application number: CN202010168028.1A
Authority: CN
Inventors: 赖太平; 林晓光
Original assignee: China Construction Bank Corp; CCB Finetech Co Ltd
Current assignee: China Construction Bank Corp
Priority date: 2020-03-11
Filing date: 2020-03-11
Publication date: 2020-07-14

Abstract

本发明公开了一种数据获取方法和装置，涉及信息处理技术领域。该方法的一种具体实施方式包括：通过配置文件配置爬虫规则；基于所配置的爬虫规则，根据一个或多个待爬取网站对应的资源定位符，从所述待爬取网站上获取数据文件；根据所述数据文件的类型，将所述数据文件解析为文本文件；根据预设的目标词库，从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。该实施方式提高了爬虫规则配置的灵活性，且无需修改大量代码、省时省力。

Description

一种数据获取方法和装置

技术领域

本发明涉及信息处理技术领域，尤其涉及一种数据获取方法和装置。

背景技术

随着信息技术的发展，越来越多的数据通过网站平台进行公开或公示，为及时获取各种公开数据并基于数据分析进行决策，需要一一从各个网站搜集数据。目前，常用的从各个网站搜集数据的方法是人工手动搜集或使用通用的爬虫技术从各个网站爬取数据，即通过爬虫技术框架对爬虫入口进行配置，并将爬虫规则写入爬虫代码中运行以从各个网站爬取数据。

由于各大网站数据结构不同，不同网站数展示数据形式不同，需要适应性地调整爬虫规则。但由于爬虫规则一般设置于爬虫代码中，因而在修改爬虫规则时需要修改大量的代码，耗时耗力，无法灵活地为不同网站适应性地配置爬虫规则。

发明内容

有鉴于此，本发明提供一种数据获取方法，通过配置文件配置爬虫规则，因而能够根据不同的网站灵活配置爬虫规则，且无需修改大量代码。

为实现上述目的，根据本发明的第一方面，提供了一种数据获取方法，包括：

通过配置文件配置爬虫规则；

基于所配置的爬虫规则，根据一个或多个待爬取网站对应的资源定位符，从所述待爬取网站上获取数据文件；

根据所述数据文件的类型，将所述数据文件解析为文本文件；

根据预设的目标词库，从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。

可选地，所述爬虫规则包括：爬虫名称、爬取路径、爬取元素、所述爬取元素对应的关键字、所述爬取元素对应的爬取长度。

可选地，根据预设的目标词库，使用正则匹配规则从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。

可选地，根据预设的目标词库，使用自然语言处理技术从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。

可选地，所述根据预设的目标词库，使用自然语言处理技术从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据，包括：

对所述文本文件进行分词处理；

从所述文本文件对应的分词处理结果中，获取所述目标词对应的一个或多个同义词；

对所述一个或多个同义词进行消除歧义处理；

根据所述目标词及消除歧义后的所述目标词对应的一个或多个同义词，从所述文本文件中提取所述目标词对应的数据。

可选地，还包括：

根据所提取的目标词或同义词对应的数据，计算所述目标词或同义词对应的数据提取率、数据准确率；

根据所述数据提取率、数据准确率调整所述目标词库及所述正则匹配规则。

可选地，所述数据文件为下述一种或多种：HTML文件、DOC文件、DOCX文件、PDF文件、图片文件。

为实现上述目的，根据本发明的第二方面，提供了一种数据获取装置，包括：爬虫规则配置模块、数据文件获取模块、数据文件解析模块、数据提取模块；其中，

所述爬虫规则配置模块，用于通过配置文件配置爬虫规则；

所述数据文件获取模块，用于基于所配置的爬虫规则，根据一个或多个待爬取网站对应的资源定位符，从所述待爬取网站上获取数据文件；

所述数据文件解析模块，用于根据所述数据文件的类型，将所述数据文件解析为文本文件；

所述数据提取模块，用于根据预设的目标词库，从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。

为实现上述目的，根据本发明的第三方面，提供了一种数据获取电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，所述一个或多个处理器实现如上所述数据获取方法中任一所述的方法。

为实现上述目的，根据本发明的第四方面，提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现如上所述数据获取方法中任一所述的方法。

上述发明中具有如下优点或有益效果：因为采用通过配置文件配置爬虫规则的技术手段，所以克服了在从各个网站获取数据时为适应网站的数据结构需要大量修改代码的技术问题，进而达到了可根据网站数据结构灵活配置爬虫规则技术效果，省时省力。此外，在从网站上获取到数据文件并将数据文件解析为纯文本文件之后，结合使用正则匹配规则与自然语言处理技术从文本文件中提取数据，使得提取后的数据更加全面、更加准确。

上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。

附图说明

附图用于更好地理解本发明，不构成对本发明的不当限定。其中：

图1是根据本发明实施例的数据获取方法的主要流程的示意图；

图2是根据本发明实施例的自然语言处理技术提取数据方法的主要流程的示意图；

图3是根据本发明实施例的另一数据获取方法的主要流程的示意图；

图4是根据本发明实施例的数据获取装置的主要模块的示意图；

图5是本发明实施例可以应用于其中的示例性系统架构图；

图6是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。

具体实施方式

以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

图1是根据本发明实施例的数据获取方法的主要流程的示意图，如图1所示，该数据获取方法具体可以包括的步骤如下：

步骤S101，通过配置文件配置爬虫规则。爬虫规则包括但不限于：爬虫名称、爬取路径、爬取元素、爬取元素对应的关键字、爬取元素对应的爬取长度。如以从各个地方政府获取数据为例，则爬虫规则配置形式如下：

其中，爬虫名称为“universal”，爬取路径除资源定位符(即URL)http://www.dh.gov.cn/czj/Web/search.aspx？search＝％E9％A2％84％E7％A E％97％E8％8D％89％E6％A1％88％E7％9A％84％E6％8A％A5％E5％91％8A外，还包括爬取的省份“云南省”、城市“德宏州”等；爬取元素则包括标题、全文等，爬取元素对应的关键字为“预算草案的报告”、“预算执行情况”，爬取元素标题对应的爬取长度为7。如此，通过配置文件的方式将爬虫规则以可配置的形式传递，将爬虫规则以及资源定位符等独立于爬虫代码进行设置，降低了爬虫代码的冗余，且使得爬虫规则具有更高的通用性，可通过更改配置文件的方式维护爬虫规则，方便快捷。

可以理解的是，为保证获取到的数据的准确性、全面性，在配置爬虫规则之前需要预先准备目标词库，该目标词库包括一个或多个目标词，如以获取各地市生产总值为例进行说明，则对应的目标词包括“地区生产总值”，待获取数据则为各地市“地区生产总值”对应的数值；此外，还需要准备各地市可能公开“地区生产总值”的网站对应的URL。如此，可以使用预先准备的URL、目标词库进行相应地爬虫规则配置。

步骤S102，基于所配置的爬虫规则，根据一个或多个待爬取网站对应的资源定位符，从所述待爬取网站上获取数据文件。如以URL为http://tjj.xm.gov.cn/tjzl/ndgb为例进行说明，则可以通过配置好的爬虫规则，使用scrpay以URL为入口进入对应的网站，获取“厦门市20XX年国民经济和社会发展统计公报”公开的相关内容。

此外，为提高数据获取速度，可预先根据URL提取相应网站页面的标题，并根据标题判断该网站页面公开的数据是否可能含有待获取的相关数据，若可能则继续提取对应的数据文件，若不可能则直接根据下一个URL提取数据。如仍以获取“地区生产总值”为例，则可根据URL提取到的标题是否含有“公报”、“财报”、“经济”、“预算”等字样进行初步判断，是否继续获取该URL对应的数据文件。

步骤S103，根据所述数据文件的类型，将所述数据文件解析为文本文件。

数据文件为下述一种或多种：HTML文件、DOC文件、DOCX文件、PDF文件、图片文件，对于不同类型的数据文件需要调用相对应的解析方式将数据文件解析为纯文本文件。更具体地，在使用URL获取到对应的数据文件时，需要判断数据文件的具体类型，若为HTML文件则可以直接将HTML文件转为文本文件；若为PDF文件，则可以将PDF文件下载后将PDF文件解析为纯文本文件；若为DOC文件，则将DOC文件转为DOCX文件，然后将DOCX文件解析为纯文本文件；若为DOCX文件则直接解析为纯文本文件；若为图片文件，则下载图片后将图片文件解析为文本文件。

更进一步地，为提高从解析后文本文件中提取数据的准确性，在解析得到纯文本文件之后，将纯文本文件中包含干扰符号进行处理，如上标、下表、“/n”、“/r”。

步骤S104，根据预设的目标词库，从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。可以理解的是，由于数据文件的多样性，为更针对的提取数据进行分析，可以在解析得到对应的文本文件后，将文本文件按照数据内容或者展示数据的形式等进行分类整理，如将财报类文本文件归为一类，将公报类文本文件归为一类。

在一种可选的实施方式中，根据预设的目标词库，使用正则匹配规则从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。具体地，仍以“地区生产总值”为例，则可能的表达式为“实现地区生产总值……”、“年实现地区生产总值……”等，对应的正则匹配规则可以为“地区生产总值：XXXX元”，也即提取含有“地区生产总值”且“地区生产总值”后有一个或多位数字的内容。

在一种可选的实施方式中，根据预设的目标词库，使用自然语言处理技术从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。

具体地，所述根据预设的目标词库，使用自然语言处理技术从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据，包括：对所述文本文件进行分词处理；从所述文本文件对应的分词处理结果中，获取所述目标词对应的一个或多个同义词；对所述一个或多个同义词进行消除歧义处理；根据所述目标词及消除歧义后的所述目标词对应的一个或多个同义词，从所述文本文件中提取所述目标词对应的数据。

其中，分词处理是指将连续的字序列按照一定的规范重新组合成词序列的过程；以目标词为“人口”为例进行说明，则经过同义词扩展后可以得到“人数”、“人丁”等结果；而对同义词进行消除歧义处理则是指根据上下词汇语境对一词多义的次进行消除歧义处理；在获取到同义词后，确定窗口数即从文本文件中提取的目标词或者同义词前后字符串长度(如10)，然后根据同义词或者目标词从文本文件中提取相应的数据。

在一种可选的实施方式中，还包括：根据所提取的一个或多个目标词对应的数据，计算所述目标词或同义词对应的数据提取率、数据准确率；根据所述数据提取率、数据覆盖率调整所述目标词库及所述正则匹配规则。其中，目标词或同义词对应的提取率是指使用目标词或同义词提取到数据的次数与使用目标词提取数据的总次数的比例；目标词或同义词对应的数据准确率则是指使用目标词或同义词提取到正确数据的次数与使用目标词或同义词提取到数据的次数比例。具体地，以使用目标词“人口”提取相应的人口数为例进行说明，若总共使用“人口”进行数据提取的次数为100，而得含有“人口”的字符串的次数为80，而字符串中含有人口具体数值的次数为50次，则该目标词“人口”对应的数据提取率为80％，数据准确率为50％。

基于此，目标词或者同义词对应的数据提取率、数据准确率在一定程度上可以反映目标词或同义词的质量以及对应的数据提取规则质量等，因而可以根据目标词或者同义词对应的数据提取率、数据准确率调整目标词库或正则匹配规则。可以理解的是，数据提取率或数据准确率越高，则使用该目标词或同义词得到的数据质量越高，因而可以在目标词库中继续保留该目标词，或将同义词扩充至目标词库中；若数据提取率较高而数据准确率较低，则表明数据提取范围过宽或该目标词或同义词不适于进行提取数据，优先考虑减少使用正则匹配规则或自然和语言处理技术中匹配得到的字符串长度；若数据提取率或数据准确率均较低，则直接从目标词库中删除对应的目标词。

值得注意的是，除却使用数据提取率、数据准确率调整目标词库或正则匹配规则以外，还可以使用其他自定义指标调整目标词库或者正则匹配规则。如此，可以不断完善目标词库以及匹配规则，从而可以提高皮数据提取的准确性及有效性。

基于上述实施例，因为采用通过配置文件配置爬虫规则的技术手段，所以克服了在从各个网站获取数据时为适应网站的数据结构需要大量修改代码的技术问题，进而达到了可根据网站数据结构灵活配置爬虫规则技术效果，省时省力。此外，在从网站上获取到数据文件并将数据文件解析为纯文本文件之后，结合使用正则匹配规则与自然语言处理技术从文本文件中提取数据，使得提取后的数据更加全面、更加准确。

参见图2，在上述实施例的基础上，本发明实施例提供了一种使用自然语言处理技术提取数据的方法，该方法具体可以包括的步骤如下：

步骤S201，对所述文本文件进行分词处理。如此，可以将文本文件中连续的字序列按照一定的规范重新组合成词序列。

步骤S202，从所述文本文件对应的分词处理结果中，获取所述目标词对应的一个或多个同义词。如此，可以基于现有的目标词，通过文本文件的分词结果尽可能的扩充目标词，从而可以提高提取到数据的全面性及准确性。

步骤S203，对所述一个或多个同义词进行消除歧义处理。具体地，利用同义词在文本文件中上下文语境消除一词多义造成的错误同义词，从而可以确保扩充的同义词的准确性。

步骤S204，根据所述目标词及消除歧义后的所述目标词对应的一个或多个同义词，从所述文本文件中提取所述目标词对应的数据。具体地，可以确定窗口数即从文本文件中提取的目标词或者同义词前后字符串长度(如10)，然后根据同义词或者目标词从文本文件中提取相应的数据。

参见图3，在上述实施例的基础上，本发明实施例提供了另一种数据获取方法，该方法具体可以包括的步骤如下：

步骤S301，通过配置文件配置爬虫规则。

步骤S302，基于所配置的爬虫规则，根据一个或多个待爬取网站对应的资源定位符，从所述待爬取网站上获取数据文件。

步骤S303，根据所述数据文件的类型，将所述数据文件解析为文本文件。

步骤S304，根据预设的目标词库，从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。一方面，使用正则匹配规则从文本文件中提取目标词库中一个或多个目标词对应的数据；另一方面，使用自然语言处理技术从文本文件中提取目标词库中一个或多个目标词对应的数据。

更具体地，使用自然语言处理技术从文本文件中提取目标词库中一个或多个目标词对应的数据，包括：对文本文件进行分词处理；从文本文件对应的分词处理结果中，获取目标词对应的一个或多个同义词；对一个或多个同义词进行消除歧义处理；根据目标词及消除歧义后的目标词对应的一个或多个同义词，从文本文件中提取目标词对应的数据。

步骤S305，根据所提取的目标词或同义词对应的数据，计算所述目标词或同义词对应的数据提取率、数据准确率；根据所述数据提取率、数据准确率调整所述目标词库及所述正则匹配规则。如此，可以不断更显完善，目标词库及正则匹配规则。可以理解的是，除却对正则匹配规则进行调整以外，还可以根据目标词或同义词对应的数据提取率、数据准确率调整使用自然语言处理技术提取数据时提取的字符串长度等。

参见图4，在上述实施例的基础上，本发明实施例提供了一种数据获取装置400，包括爬虫规则配置模块401、数据文件获取模块402、数据文件解析模块403、数据提取模块404；其中，

所述爬虫规则配置模块401，用于通过配置文件配置爬虫规则；

所述数据文件获取模块402，用于基于所配置的爬虫规则，根据一个或多个待爬取网站对应的资源定位符，从所述待爬取网站上获取数据文件；

所述数据文件解析模块403，用于根据所述数据文件的类型，将所述数据文件解析为文本文件；

所述数据提取模块404，用于根据预设的目标词库，从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。

在一种可选的实施方式中，所述爬虫规则包括：爬虫名称、爬取路径、爬取元素、所述爬取元素对应的关键字、所述爬取元素对应的爬取长度。

在一种可选的实施方式中，所述数据提取模块404，用于根据预设的目标词库，使用正则匹配规则从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。

在一种可选的实施方式中，所述数据提取模块404，用于根据预设的目标词库，使用自然语言处理技术从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。

在一种可选的实施方式中，所述根据预设的目标词库，使用自然语言处理技术从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据，包括：对所述文本文件进行分词处理；从所述文本文件对应的分词处理结果中，获取所述目标词对应的一个或多个同义词；对所述一个或多个同义词进行消除歧义处理；根据所述目标词及消除歧义后的所述目标词对应的一个或多个同义词，从所述文本文件中提取所述目标词对应的数据。

在一种可选的实施方式中，所述数据提取模块404，还用于根据所提取的目标词或同义词对应的数据，计算所述目标词或同义词对应的数据提取率、数据准确率；根据所述数据提取率、数据准确率调整所述目标词库及所述正则匹配规则。

在一种可选的实施方式中，所述数据文件为下述一种或多种：HTML文件、DOC文件、DOCX文件、PDF文件、图片文件。

图5示出了可以应用本发明实施例的数据获取方法或数据获取装置的示例性系统架构500。

如图5所示，系统架构500可以包括终端设备501、502、503，网络504和服务器505。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备501、502、503通过网络504与服务器505交互，以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备501、502、503可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器505可以是提供各种服务的服务器，例如对用户利用终端设备501、502、503所浏览的购物类网站提供支持的后台管理服务器。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理，并将处理结果反馈给终端设备。

需要说明的是，本发明实施例所提供的数据获取方法一般由服务器505执行，相应地，数据获取装置一般设置于服务器505中。

应该理解，图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

下面参考图6，其示出了适于用来实现本发明实施例的终端设备的计算机系统600的结构示意图。图6示出的终端设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本发明的系统中限定的上述功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括爬虫规则配置模块、数据文件获取模块、数据文件解析模块、数据提取模块。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定，例如，所述爬虫规则配置模块还可以被描述为“用于通过配置文件配置爬虫规则的模块”。

作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括：通过配置文件配置爬虫规则；基于所配置的爬虫规则，根据一个或多个待爬取网站对应的资源定位符，从所述待爬取网站上获取数据文件；根据所述数据文件的类型，将所述数据文件解析为文本文件；根据预设的目标词库，从所述文本文件中提取所述目标词库中一个或多个目标词对应的数据。

根据本发明实施例的技术方案，因为采用通过配置文件配置爬虫规则的技术手段，所以克服了在从各个网站获取数据时为适应网站的数据结构需要大量修改代码的技术问题，进而达到了可根据网站数据结构灵活配置爬虫规则技术效果，省时省力。此外，在从网站上获取到数据文件并将数据文件解析为纯文本文件之后，结合使用正则匹配规则与自然语言处理技术从文本文件中提取数据，使得提取后的数据更加全面、更加准确。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。