阅读说明：本技术 一种对抗样本生成方法、装置、电子设备及存储介质 (Countermeasure sample generation method and device, electronic equipment and storage medium ) 是由 喻民 刘超 娄尘哲 姜建国 刘明奇 黄伟庆 于 2020-04-30 设计创作，主要内容包括：本发明实施例提供一种对抗样本生成方法、装置、电子设备及存储介质,所述方法包括：分别由恶意文档样本集和良性文档样本集获取第一关联规则和第二关联规则；基于第一预设规则,由第一关联规则与第二关联规则获取约束规则；以攻击样本对对机器学习模型进行迭代攻击,将成功攻击机器学习模型的攻击样本作为对抗样本,其中在每轮迭代攻击前基于约束规则对攻击样本进行迭代修改。通过分别获取恶意文档的第一关联规则与良性文档的第二关联规则,获得由两类特征指示的约束规则,进而以此生成具有更高通用性的对抗样本,使其适用于更多种类的检测器。(The embodiment of the invention provides a countermeasure sample generation method, a device, electronic equipment and a storage medium, wherein the method comprises the following steps: respectively acquiring a first association rule and a second association rule from the malicious document sample set and the benign document sample set; based on a first preset rule, acquiring a constraint rule by the first association rule and the second association rule; and carrying out iterative attack on the machine learning model by using the attack samples, and taking the attack samples successfully attacking the machine learning model as countersamples, wherein the attack samples are subjected to iterative modification based on a constraint rule before each round of iterative attack. Constraint rules indicated by the two types of features are obtained by respectively obtaining a first association rule of a malicious document and a second association rule of a benign document, and then a countermeasure sample with higher universality is generated, so that the method is suitable for more types of detectors.)

一种对抗样本生成方法、装置、电子设备及存储介质

技术领域

本发明涉及计算机安全技术领域，尤其涉及一种对抗样本生成方法、装置、电子设备及存储介质。

背景技术

恶意文档属于一种恶意软件，与可执行文件不同的是，其更加方便和透明，容易使人们忽略它们的安全威胁。攻击者通过修改普通文档来隐藏恶意代码，并通过垃圾邮件或互联网***性地传播，甚至与社会工程结合形成最具威胁的APT攻击。目前基于机器学习的检测器已经成为检测恶意文档的主流方法。然而实践证明这些检测器还需要在遇到潜在的未知攻击时保持健壮性。忽略任何攻击场景都可能产生可以欺骗检测器的对抗样本，从而使恶意文档检测器产生错误的判断。

国内外研究人员基于军备竞赛的理念制造对抗样本，并利用对抗样本进行对抗训练，提升检测器的鲁棒性。其中EvadeML是比较典型的代表，其提出了一种遗传方法来评估检测器的鲁棒性，主要在于选取若干具有真实恶意性的种子文档，定义了三种修改文档的手段，分别为添加、删除和替换，在每一代利用三种修改手段对种子文档进行修改从而引起变异，从所有的后代中找出成功地对抗样本。该方法证明了恶意文档对抗样本是存在的，并且使用该算法生成对抗样本的成功率很高。EvadeML方法虽然考虑了针对恶意PDF文档的检测器可能不使用同一种特征空间，比如分别在基于内容特征的检测器和基于结构路径特征的检测器上进行测试，但是测试过程是独立的，分割了对抗样本在不同检测器上的连续性。之后提出的其他生成方法虽然为目标检测器增加了更多的约束限制，但它们考虑的场景仍然过于简化。因此生成的对抗样本在通用性和可移植性上具有不确定性。

因此，业内亟需一种可以生成更具通用性的对抗样本，使其适用于更多类型的检测器的训练。

发明内容

为了解决现有技术中的上述问题，本发明实施例提供了一种对抗样本生成方法、装置、电子设备及存储介质。

第一方面，本发明实施例提供一种对抗样本生成方法，包括：

分别由恶意文档样本集和良性文档样本集获取第一关联规则和第二关联规则，其中，所述第一关联规则用于基于所述恶意文档的第一类特征与第二类特征指示所述恶意文档的特征，所述第二关联规则用于基于所述良性文档的第一类特征与第二类特征指示所述良性文档的特征；

基于第一预设规则，由所述第一关联规则与第二关联规则获取约束规则；

以攻击样本对机器学习模型进行迭代攻击，将成功攻击所述机器学习模型的攻击样本作为对抗样本，其中在每轮迭代攻击前基于所述约束规则对所述攻击样本进行迭代修改。

可选地，所述第一预设规则为：

获取所述第一关联规则与所述第二关联规则的交集，以所述第一关联规则中去除所述交集得到的剩余规则作为所述约束规则。

可选地，所述由恶意文档样本集获取第一关联规则包括：

对所述恶意文档样本集中的恶意文档样本，提取所述恶意文档样本的每一种第一类特征和每一种第二类特征进行排列组合，得到所述恶意文档的多个特征对，使得每一个所述特征对包括一种第一类特征和一种第二类特征，并基于第二预设规则由所述恶意文档的多个特征对，得到所述第一关联规则；

所述由良性文档样本集获取第二关联规则包括：

对所述良性文档样本集中的良性文档样本，提取所述良性文档样本的每一种第一类特征和每一种第二类特征进行排列组合，得到所述良性文档的多个特征对，使得每一个所述特征对包括一种所述第一类特征和一种所述第二类特征，并基于所述第二预设规则由所述良性文档的多个特征对，得到所述第二关联规则。

可选地，所述第二预设规则包括：置信度规则、支持度规则、提升度规则以及所述第一类特征和第二类特征对的两个特征之间的物理结构关系规则。

可选地，所述攻击样本为攻击向量，相应地，所述在每轮迭代攻击前基于所述约束规则对所述攻击样本进行迭代修改包括：

每轮迭代攻击前，基于所述约束规则修改攻击向量，并由所述攻击向量反向生成攻击样本，再将规则化的所述攻击样本转化为攻击向量输入至下一轮迭代攻击。

可选地，所述迭代攻击为动量迭代攻击。

可选地，所述第一类特征为基于内容的特征，所述第二类特征为基于结构的特征。

第二方面，本发明实施例提供一种对抗样本生成装置，包括：

关联规则生成模块，用于分别由恶意文档样本集和良性文档样本集获取第一关联规则和第二关联规则，其中，所述第一关联规则用于基于所述恶意文档的第一类特征与第二类特征指示所述恶意文档的特征，所述第二关联规则用于基于所述良性文档的第一类特征与第二类特征指示所述良性文档的特征；

约束规则生成模块，用于第一预设规则，由所述第一关联规则与第二关联规则获取约束规则；

对抗样本生成模块，用于以攻击样本对对机器学习模型进行迭代攻击，将成功攻击所述机器学习模型的攻击样本作为对抗样本，其中在每轮迭代攻击前基于所述约束规则对所述攻击样本进行迭代修改。

第三方面，本发明实施例提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如第一方面所述的方法的步骤。

第四方面，本发明实施例提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如第一方面所述的方法的步骤。

本发明实施例提供的对抗样本生成方法、装置、电子设备及存储介质通过分别获取恶意文档的第一关联规则与良性文档的第二关联规则，获得由两类特征指示的约束规则，进而以此生成具有更高通用性的对抗样本，使其适用于更多种类的检测器。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的对抗样本生成方法的流程图；

图2为本发明实施例提供的PDF文档结构特征示意图；

图3为本发明实施例提供的关联规则生成方法的流程示意图；

图4为本发明实施例提供的迭代攻击的流程示意图；

图5为本发明实施例提供的攻击样本修改流程示意图；

图6为本发明实施例提供的对抗样本生成装置的结构示意图；

图7为本发明实施例提供的电子设备实施例结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1所示为本发明实施例提供的对抗样本生成方法的流程图，如图1所示，所述方法包括：

S101，分别由恶意文档样本集和良性文档样本集获取第一关联规则和第二关联规则，其中，所述第一关联规则用于基于所述恶意文档的第一类特征与第二类特征指示所述恶意文档的特征，所述第二关联规则用于基于所述良性文档的第一类特征与第二类特征指示所述良性文档的特征。

具体的，所述恶意文档样本集包括多个恶意文档样本，所述恶意文档样本为具有恶意代码等会对用户设备造成威胁的文档样本。相应地，所述良性文档样本集包括多个良性文档样本，所述良性文档样本为不会对用户设备造成威胁的文档样本。

所述第一类特征例如可以是基于内容的特征，所述第二类特征例如可以是基于结构的特征，或所述第二类特征是基于内容的特征，所述第一类特征是基于结构的特征。并且，所述第一类特征或第二类特征还可以是其他可以用于检测文档是否为恶意文档的特征类型，本发明实施例对此不作具体限制。

以PDF文档为例，所述基于内容的特征主要为PDF文档的元数据和对象特征，主要来自于PDF文档的物理结构。元数据特征包括文件大小、作者和创建日期等，对象特征主要包括对象关键字和对象属性，如类型、位置、数量和长度等。

所述基于结构的特征主要是将PDF文档的逻辑结构路径作为特征，PDF文档中的对象可以通过间接引用关系构成整体的逻辑树状结构，如图2所示，其中节点是对象或数组，边则对应于子对象在父对象中的名称。逻辑结构路径即从根节点出发到任意节点的边组成的序列。

提取所述恶意文档样本集第一类特征和第二类特征，并通过概率计算等途径获取第一关联规则，其中所述第一类关联规则由第一类特征与第二类特征指示所述恶意文档的特征。例如，图3给出了本发明实施例提供的一种关联规则生成方法的流程示意图。

相应的，还提取所述良性文档样本集第一类特征和第二类特征，并通过概率计算等途径获取第二关联规则，其中所述第二类关联规则由第一类特征与第二类特征指示所述良性文档的特征。

上述获取第一关联规则与第二关联规则的步骤可以同时进行，也可以先后进行，本发明是实施例对其先后进行的顺序不作具体限制。

S102，基于第一预设规则，由所述第一关联规则与第二关联规则获取约束规则。

具体的，由于所述第一关联规则与第二关联规则分别指示恶意文档的特征与良性文档的特征，而无论恶意文档还是良性文档，其所展示出的特征中既包括其特有的恶意或良性的特征，也包括所有文档均含有的共性的文档的普适性特征。因此，在获取得到所述第一关联规则与第二关联规则后，需要基于预设的第一规则，根据所述第一关联规则与第二关联规则得出仅恶意文档中才存在的特征作为约束规则。

所述第一预设规则例如可以是获取所述第一关联规则与所述第二关联规则的交集，以所述第一关联规则中去除所述交集得到的剩余规则作为所述约束规则。

S103，以攻击样本对机器学习模型进行迭代攻击，将成功攻击所述机器学习模型的攻击样本作为对抗样本，其中在每轮迭代攻击前基于所述约束规则对所述攻击样本进行迭代修改。

具体的，在获得所述约束规则后，使用攻击数据集中的攻击样本对机器学习模型进行迭代攻击。其中，在与关联规则使用的第一类特征或第二类特征对应的情况下，所述机器学习模型可以是基于训练集中提取的基于内容的特征进行训练得到的模型，也可以是基于训练集中提取的基于结构的特征进行训练得到的模型，或是通过其他类型的特征训练得到，本发明实施例对此不作具体限制。

在每一轮迭代攻击前，基于步骤S102中获得的所述约束规则对所述攻击样本进行迭代修改，使得所述修改满足所述约束规则。例如修改某个基于内容的特征时，在所述约束规则的限制下，相应的基于结构的特征也一并做出符合所述约束规则的修改。

每一轮迭代攻击中，判断当前轮次的攻击样本是否对所述学习模型进行了成功的攻击，若是，则将其作为对抗样本进行保留或记录。迭代攻击的流程可参考图4给出的迭代攻击的流程示例。

本发明实施例提供的对抗样本生成方法通过分别获取恶意文档的第一关联规则与良性文档的第二关联规则，获得由两类特征指示的约束规则，进而以此生成具有更高通用性的对抗样本，使其适用于更多种类的检测器。

在本发明上述实施例的基础上，所述由恶意文档样本集获取第一关联规则包括：

对所述恶意文档样本集中的恶意文档样本，提取所述恶意文档样本的每一种第一类特征和每一种第二类特征进行排列组合，得到所述恶意文档的多个特征对，使得每一个所述特征对包括一种第一类特征和一种第二类特征，并基于第二预设规则由所述恶意文档的多个特征对，得到所述第一关联规则。

具体的，对所述恶意文档样本集中的每个恶意文档样本，提取其每一种第一类特征和每一种第二类特征，并将得到的每一种第一类特征与每一种第二类特征进行排列组合形成多个特征对，其中每一个所述特征对包括一种第一类特征和一种第二类特征。例如，所述恶意文档提取到M种第一类特征，N种第二类特征，相应地，可以形成M×N个特征对。

每一个恶意文档样本的特征值，可以获取每种特征对统计特征，在该统计特征的基础上，可以由第二预设规则得到表征恶意文档特征的第二关联规则。其中所述第二预设规则例如可以是基于概率、第一类特征与第二类特征之间的实际物理关系等因素确定的，本发明实施对此不作具体限制。

相应地，所述由良性文档样本集获取第二关联规则包括：

对所述良性文档样本集中的良性文档样本，提取所述良性文档样本的每一种第一类特征和每一种第二类特征进行排列组合，得到所述良性文档的多个特征对，使得每一个所述特征对包括一种所述第一类特征和一种所述第二类特征，并基于所述第二预设规则由所述良性文档的多个特征对，得到所述第二关联规则。

该获取第二关联规则的步骤与获取第一关联规则的步骤类似，此处不再赘述。

进一步地，所述第二预设规则例如可以包括：置信度规则、支持度规则、提升度规则以及所述第一类特征和第二类特征对的两个特征之间的物理结构关系规则。

其中，所述置信度规则表示出现第一类特征X的情况下出现第二类特征Y的可能性，所述支持度规则表示同时出现第一类特征X与第二类特征Y的可能性，所述提升度规则表示出现第一类特征X的情况相较于不出现第一类特征X的情况出现Y出现的概率的提升程度。在由所述置信度规则、支持度规则、提升度规则获取到一个初步的关联规则后，再判断该初步的关联规则中的两个特征直接是否存在相关的物理结构关系，将实际不存在物理结构关系的关联规则去除，即得到最终的第一或第二关联规则。

本发明的实施例通过置信度规则、支持度规则、提升度规则的约束，得到了具有强关联关系的关联规则，并进一步通过实际的物理结构再次进行验证，进一步保证了最终得到的第一或第二关联规则的正确性，使得所述第一或第二关联规则限制下的两个特征是可以同步修改的特征。

在本发明上述实施例的基础上，所述攻击样本为攻击向量，相应地，所述在每轮迭代攻击前基于所述约束规则对所述攻击样本进行迭代修改包括：

每轮迭代攻击前，基于所述约束规则修改攻击向量，并由所述攻击向量反向生成攻击样本，再将规则化的所述攻击样本转化为攻击向量输入至下一轮迭代攻击。

在基于特征空间的对抗样本生成方法中，将使用迭代的方式不断逼近对抗向量，在迭代的过程中只需要修改向量化的样本即可。在本发明实施例中，将向量的修改扩展成为攻击样本的关联修改，即在约束规则的限定下，由向量反向生成真实的样本，再将规则化的样本转化为向量输入到下一轮迭代中。具体过程如图5所示。

本发明实施例通过将向量反向生成真实的样本，再将规则化的样本转化为向量，避免了多轮修改后的向量无法还原为真实的文档样本的问题，或生成的对抗样本无法成功保留原始恶意行为的问题。

进一步的，所述迭代攻击为动量迭代攻击。动量迭代的攻击方法是指在迭代过程中通过在损失函数的梯度方向上积累速度矢量来加速梯度的下降，维护之前的梯度有助于快速通过不想到达的局部极大值或极小值，并减少在测试场景下特征依赖对修改向量产生的影响。

图6所示为本发明实施例提供的对抗样本生成装置的结构示意图，如图6所述，所述对抗样本生成装置包括关联规则生成模块601、约束规则生成模块602以及对抗样本生成模块603，其中：

关联规则生成模块601，用于分别由恶意文档样本集和良性文档样本集获取第一关联规则和第二关联规则，其中，所述第一关联规则用于基于所述恶意文档的第一类特征与第二类特征指示所述恶意文档的特征，所述第二关联规则用于基于所述良性文档的第一类特征与第二类特征指示所述良性文档的特征；

约束规则生成模块602，用于第一预设规则，由所述第一关联规则与第二关联规则获取约束规则；

对抗样本生成模块603，用于以攻击样本对对机器学习模型进行迭代攻击，将成功攻击所述机器学习模型的攻击样本作为对抗样本，其中在每轮迭代攻击前基于所述约束规则对所述攻击样本进行迭代修改。

具体的，所述恶意文档样本集包括多个恶意文档样本，所述恶意文档样本为具有恶意代码等会对用户设备造成威胁的文档样本。相应地，所述良性文档样本集包括多个良性文档样本，所述良性文档样本为不会对用户设备造成威胁的文档样本。

所述第一类特征例如可以是基于内容的特征，所述第二类特征例如可以是基于结构的特征，或所述第二类特征是基于内容的特征，所述第一类特征是基于结构的特征。并且，所述第一类特征或第二类特征还可以是其他可以用于检测文档是否为恶意文档的特征类型，本发明实施例对此不作具体限制。

以PDF文档为例，所述基于内容的特征主要为PDF文档的元数据和对象特征，主要来自于PDF文档的物理结构。元数据特征包括文件大小、作者和创建日期等，对象特征主要包括对象关键字和对象属性，如类型、位置、数量和长度等。

所述基于结构的特征主要是将PDF文档的逻辑结构路径作为特征，PDF文档中的对象可以通过间接引用关系构成整体的逻辑树状结构，如图2所示，其中节点是对象或数组，边则对应于子对象在父对象中的名称。逻辑结构路径即从根节点出发到任意节点的边组成的序列。

关联规则生成模块601提取所述恶意文档样本集第一类特征和第二类特征，并通过概率计算等途径获取第一关联规则，其中所述第一类关联规则由第一类特征与第二类特征指示所述恶意文档的特征。例如，图3给出了本发明实施例提供的一种关联规则生成方法的流程示意图。

相应的，所述关联规则生成模块601还提取所述良性文档样本集第一类特征和第二类特征，并通过概率计算等途径获取第二关联规则，其中所述第二类关联规则由第一类特征与第二类特征指示所述良性文档的特征。

上述获取第一关联规则与第二关联规则的步骤可以同时进行，也可以先后进行，本发明是实施例对其先后进行的顺序不作具体限制。

进一步的，由于所述第一关联规则与第二关联规则分别指示恶意文档的特征与良性文档的特征，而无论恶意文档还是良性文档，其所展示出的特征中既包括其特有的恶意或良性的特征，也包括所有文档均含有的共性的文档的普适性特征。因此，在获取得到所述第一关联规则与第二关联规则后，需要由所述约束规则生成模块602基于预设的第一规则，根据所述第一关联规则与第二关联规则得出仅恶意文档中才存在的特征作为约束规则。

所述第一预设规则例如可以是获取所述第一关联规则与所述第二关联规则的交集，以所述第一关联规则中去除所述交集得到的剩余规则作为所述约束规则。

在获得所述约束规则后，所述对抗样本生成模块603使用攻击数据集中的攻击样本对机器学习模型进行迭代攻击。其中，所述机器学习模型可以是基于训练集中提取的基于内容的特征进行训练得到的模型，也可以是基于训练集中提取的基于结构的特征进行训练得到的模型，或是通过其他类型的特征训练得到，本发明实施例对此不作具体限制。

在每一轮迭代攻击前，所述对抗样本生成模块603基于约束规则生成模块602中获得的所述约束规则对所述攻击样本进行迭代修改，使得所述修改满足所述约束规则。例如修改某个基于内容的特征时，在所述约束规则的限制下，相应的基于结构的特征也一并做出符合所述约束规则的修改。

并且，每一轮迭代攻击中，所述对抗样本生成模块603判断当前轮次的攻击样本是否对所述学习模型进行了成功的攻击，若是，则将其作为对抗样本进行保留或记录。

本发明实施例提供的对抗样本生成装置通过分别获取恶意文档的第一关联规则与良性文档的第二关联规则，获得由两类特征指示的约束规则，进而以此生成具有更高通用性的对抗样本，使其适用于更多种类的检测器。

图7示例了一种电子设备的实体结构示意图，如图7所示，该电子设备可以包括：处理器(processor)710、通信接口(Communications Interface)720、存储器(memory)730和通信总线740，其中，处理器710，通信接口720，存储器730通过通信总线740完成相互间的通信。处理器710可以调用存储器730中的逻辑指令，以执行如下对抗样本生成方法：

分别由恶意文档样本集和良性文档样本集获取第一关联规则和第二关联规则，其中，所述第一关联规则用于基于所述恶意文档的第一类特征与第二类特征指示所述恶意文档的特征，所述第二关联规则用于基于所述良性文档的第一类特征与第二类特征指示所述良性文档的特征；

基于第一预设规则，由所述第一关联规则与第二关联规则获取约束规则；

以攻击样本对对机器学习模型进行迭代攻击，将成功攻击所述机器学习模型的攻击样本作为对抗样本，其中在每轮迭代攻击前基于所述约束规则对所述攻击样本进行迭代修改。

此外，上述的存储器730中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

另一方面，本发明实施例还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述各实施例提供的对抗样本生成方法，例如包括：

分别由恶意文档样本集和良性文档样本集获取第一关联规则和第二关联规则，其中，所述第一关联规则用于基于所述恶意文档的第一类特征与第二类特征指示所述恶意文档的特征，所述第二关联规则用于基于所述良性文档的第一类特征与第二类特征指示所述良性文档的特征；

基于第一预设规则，由所述第一关联规则与第二关联规则获取约束规则；

以攻击样本对对机器学习模型进行迭代攻击，将成功攻击所述机器学习模型的攻击样本作为对抗样本，其中在每轮迭代攻击前基于所述约束规则对所述攻击样本进行迭代修改。

以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。

最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。