阅读说明：本技术 语料标注系统及电子设备 (Corpus labeling system and electronic equipment ) 是由 于博文 郭慧 于 2019-09-23 设计创作，主要内容包括：本申请公开了语料标注系统及电子设备,涉及人工智能领域。具体包括：辅助标注组件,用于响应于对待标注语料数据进行标注的标注请求,展示辅助标注界面,辅助标注界面至少显示有提示信息,提示信息表征与待标注语料数据相关联的语料数据的标注结果的相关信息；标注组件,用于响应于表征标注结果的输入操作,并在与待标注语料数据的对应位置上展示目标标注结果；质量检测组件,用于响应于对目标标注结果的保存操作,启动检测机制,并获取针对目标标注结果的反馈信息,基于反馈信息确定目标标注结果是否满足准确度要求,以从系统架构层面提供一种语料标注平台,旨在提升语料标注质量。(The application discloses corpus labeling system and electronic equipment, and relates to the field of artificial intelligence. The method specifically comprises the following steps: the auxiliary labeling component is used for responding to a labeling request for labeling the corpus data to be labeled and displaying an auxiliary labeling interface, wherein the auxiliary labeling interface at least displays prompt information, and the prompt information represents related information of a labeling result of the corpus data associated with the corpus data to be labeled; the marking component is used for responding to the input operation of the representation marking result and displaying the target marking result on the position corresponding to the corpus data to be marked; and the quality detection assembly is used for responding to the storage operation of the target labeling result, starting a detection mechanism, acquiring feedback information aiming at the target labeling result, and determining whether the target labeling result meets the accuracy requirement based on the feedback information so as to provide a corpus labeling platform from the system architecture level and aim to improve the corpus labeling quality.)

语料标注系统及电子设备

技术领域

本申请涉及数据处理领域，尤其涉及人工智能领域。

背景技术

近年来，人工智能领域技术快速发展，并逐步进入人们的日常生活。人工智能的基本要求就是机器能够像人一样接受并处理信息，语言作为信息的最主要载体，成为了人工智能领域最前沿的研究方向。语言模型训练的过程中，会需要进行大量的语料标注，用以完善模型质量。但目前，针对语料标注的研究，均是基于自然语言理解辅助的标注方法层面，尚未上升为系统架构层面。

发明内容

本申请实施例提供一种语料标注系统及电子设备，以从系统架构层面提供一种语料标注平台，旨在提升语料标注质量。

本申请实施例提供一种语料标注系统，至少包括：

辅助标注组件，用于响应于对待标注语料数据进行标注的标注请求，展示辅助标注界面，辅助标注界面至少显示有提示信息，提示信息表征与待标注语料数据相关联的语料数据的标注结果的相关信息；

标注组件，用于响应于表征标注结果的输入操作，并在与待标注语料数据的对应位置上展示目标标注结果；

质量检测组件，用于响应于对目标标注结果的保存操作，启动检测机制，并获取针对目标标注结果的反馈信息，基于反馈信息确定目标标注结果是否满足准确度要求。

本申请实施例从系统架构层面提供一种语料标注平台，也即语料标注系统，利用语料标注系统中辅助标注组件的提示信息在标注人员标注前进行提示，这里，由于提示信息中展示有与待标注语料数据相关联的语料数据，以及与待标注语料数据相关联的语料数据的标注结果，所以，便于标注人员参考该提示信息的相关内容，进而为提高标注质量奠定了基础。而且，由于语料标注系统中还设置有质量检测组件，且在对针对待标注语料数据的目标标注结果进行保存后，启动检测机制，并获取针对目标标注结果的反馈信息，进而，能够利用该质量检测组件来检测目标标注结果是否满足要求，所以，进一步为提高标注质量奠定了基础。

在一种实施方式中，标注组件，还用于展示语料数据列表，语料数据列表包含有语料标注结果不满足准确度要求的待标注语料数据。

这里，为避免不必要的标注工作，浪费人力标注资源，仅对利用自动标注方法进行标注后但标注结果不满足准确度要求的语料数据进行标注，即该实施方式中待标注语料数据是利用自动标注方法标注后，但标注结果不满足准确度要求的语料数据，这样，能够避免人力标注资源浪费，同时，还能够利用人力标注的方式来提高标注质量，满足工程化要求，为后续工程化线上服务奠定了基础。

在一种实施方式中，辅助标注组件，还用于：

获取与待标注语料数据相关联的语料数据的历史标注结果，将与待标注语料数据相关联的语料数据及历史标注结果作为提示信息。

这里，该实施方式中，将与待标注语料数据相关联的语料数据，以及与待标注语料数据相关联的语料数据的历史标注结果作为提示信息来进行展示，以便于标注人员参考相关联语料数据的历史标注结果，以辅助完成本次标注操作，为提高标注质量奠定了基础。

在一种实施方式中，辅助标注组件，还用于：

获取与待标注语料数据的特征信息相匹配的预设语料数据集合，其中，预设语料数据集合中各预设语料数据之间的特征信息相匹配，各预设语料数据的标注结果相同；

将预设语料数据集合及标注结果作为提示信息。

这里，该实施方式中将特征信息相匹配的预设语料数据集合，以及预设语料集合的标注结果作为提示信息来进行展示，以便于标注人员参考特征信息相匹配的预设语料数据集合，以及参考预设语料数据集合的标注结果，如此，来辅助完成本次标注操作，为提高标注质量奠定了基础。而且，该实施方式中，从不同维度增加了提示信息的提示内容，给出多维度的参考意见，进一步为提高标注质量奠定了基础。

在一种实施方式中，辅助标注组件，还用于：

从标注模板中选取出与待标注语料数据相关联的参考语料数据，以及与待标注语料数据相关联的参考语料数据的标注结果，标注模板中表征有参考语料数据与标注结果的对应关系；

将从标注模板中选取出的参考语料数据及标注结果作为提示信息。

这里，该实施方式中设置标注模板，利用标注模板中的参考语料数据与该参考语料数据的标注结果来进行提示，即从标注模板中选取出与待标注语料数据相关联的参考语料数据及其标注结果，进而在提示信息中展示与待标注语料数据相关联的参考语料数据，以及与待标注语料数据相关联的参考语料数据的标注结果，如此，来辅助标注人员完成本次标注操作，为提高标注质量奠定了基础。而且，该实施方式中，从不同维度增加了提示信息的提示内容，给出多维度的参考意见，进一步为提高标注质量奠定了基础。

在一种实施方式中，辅助标注组件，还用于：

获取与待标注语料数据的相关联的语料数据的标注结果；

基于与待标注语料数据的相关联的语料数据的标注结果，确定待标注语料数据的语义特征；

将待标注语料数据的语义特征作为提示信息。

这里，该实施方式中从语义特征的维度来增加提示信息的内容，即首先获取到与待标注语料数据的相关联的语料数据的标注结果，进而利用获取到的标注结果来分析得到待标注语料数据的语义特征，也即得到该标注语料数据的真实意图，进而，将待标注语料数据的语义特征作为提示信息，来辅助标注人员完成标注过程，为提高标注质量奠定了基础。而且，该实施方式中，从不同维度增加了提示信息的提示内容，给出多维度的参考意见，进一步为提高标注质量奠定了基础。

在一种实施方式中，质量检测组件，还用于：

检测是否存在待标注语料数据的预设标注结果；

确定存在后，将目标标注结果与预设标注结果进行匹配；

并将匹配结果作为目标标注结果的反馈信息，以确定目标标注结果是否满足准确度要求。

这里，该实施方式中质量检测组件将目标标注结果与预设标注结果进行匹配，进而确定目标标注结果是否满足要求，实现对标注人员的标注结果进行监控的目的，为提高标注质量奠定了基础。而且该方式简单可行，为后续工程化线上服务奠定了基础。具体地，为了在标注人员的标注过程中实现实时反馈标注结果的目的，可以在待标注语料数据中混入存在预设标注结果的标注数据，该预设标注结果满足准确度要求，因此，在检测到对目标标注结果的保存操作后，该质量检测组件先去确定是否存在与该待标注语料数据相对应的预设标注结果，若存在，将该目标标注结果与预设标注结果进行匹配，进而根据匹配结果来检测目标标注结果是否满足要求，为能够在标注人员的标注过程中起到实时监控的目的奠定了基础，进而从监控的角度进一步为提高标注质量奠定了基础。

在一种实施方式中，质量检测组件，还用于：

获取到针对待标注语料数据的目标标注结果的满意度信息；

将针对待标注语料数据的目标标注结果的满意度信息作为反馈信息，以确定目标标注结果是否满足准确度要求。

这里，该实施方式利用线上满意度信息，即针对目标标注结果的满意度信息来检测目标标注结果是否满足要求，进而进一步从监控的角度为提高标注质量奠定了基础。

在一种实施方式中，质量检测组件，还用于：

基于待标注语料数据的特征信息，确定待标注语料数据所从属的语料集合，其中，语料集合中包含的语料数据的特征信息与待标注语料数据的特征信息相匹配，语料集合中包含的语料数据的标注结果与待标注语料数据的目标标注结果相匹配；

获取针对待标注语料数据所从属的语料集合的满意度信息；

将针对待标注语料数据所从属的语料集合的满意度信息作为反馈信息。

这里，该实施方式利用线上满意度信息，即针对语料集合的满意度信息来检测目标标注结果是否满足要求，进而进一步从监控的角度为提高标注质量奠定了基础。由于待标注语料数据的特征信息与语料集合中语料数据的特征信息相匹配，所以，在标注过程中，待标注语料数据的目标标注结果与语料集合中语料数据的标注结果也会相匹配，因此，利用针对语料集合的满意度信息来作为针对待标注数据的目标标注结果的反馈信息同样能够实现监控的目的。

在一种实施方式中，报警组件，用于在确定出目标标注结果不满足准确度要求后，输出预警信息。

这里，该实施方式中在语料标注系统中设置报警组件，如此，在检测到目标标注结果不满足准确度要求后输出预警信息，以利用预警信息来警示标注人员，进一步为提高标注质量奠定了基础。

第二方面，本申请实施例提供了一种电子设备，包括：

至少一个处理器；以及

与至少一个处理器通信连接的存储器；其中，

存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够以上语料标注系统的功能。

上述申请中的一个实施例具有如下优点或有益效果：

本申请实施例从系统架构层面提供一种语料标注平台，也即语料标注系统，利用语料标注系统中辅助标注组件的提示信息在标注人员标注前进行提示，这里，由于提示信息中展示有与待标注语料数据相关联的语料数据，以及与待标注语料数据相关联的语料数据的标注结果，所以，便于标注人员参考该提示信息的相关内容，进而为提高标注质量奠定了基础。而且，由于语料标注系统中还设置有质量检测组件，且在对针对待标注语料数据的目标标注结果进行保存后，启动检测机制，并获取针对目标标注结果的反馈信息，进而，能够利用该质量检测组件来检测目标标注结果是否满足要求，所以，进一步为提高标注质量奠定了基础。

上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。

附图说明

附图用于更好地理解本方案，不构成对本申请的限定。其中：

图1是根据本申请第一实施例的语料标注系统的示意图；

图2是根据本申请第二实施例的语料标注系统的示意图；

图3是根据本申请实施例一具体应用的场景示意图；

图4是用来实现本申请实施例的语料标注系统的电子设备的框图。

具体实施方式

以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

作为现在智能(有屏或无屏)音箱产品，每天都会接收到用户上千万甚至上亿的语言诉求，而理解并满足用户的语言需求建立在对线上用户请求的语言表达的正确标注，依此来进行词典修复、语言模型修复，进而提升用户满意度，完善产品体验。显然，上述过程中语料标注最为基础，语料标注质量对后续词典修复和/或语言模型处理起到至关重要的作用。基于此，本申请实施例提供了一种语料标注系统，旨在监控并管理标注人员的标注质量，提高语料标注的准确性，进而为向模型/词典输出可靠的语料标注结果奠定基础。

具体地，如图1所示，系统至少包括：

辅助标注组件101，用于响应于对待标注语料数据进行标注的标注请求，展示辅助标注界面，辅助标注界面至少显示有提示信息，提示信息表征与待标注语料数据相关联的语料数据的标注结果的相关信息；

标注组件102，用于响应于表征标注结果的输入操作，并在与待标注语料数据的对应位置上展示目标标注结果；

质量检测组件103，用于响应于对目标标注结果的保存操作，启动检测机制，并获取针对目标标注结果的反馈信息，基于反馈信息确定目标标注结果是否满足准确度要求。

需要说明的是，本申请实施例的组件可以具体集成到一个装置中，也可以分别集成到不同的装置中，不申请实施例对此不作限制，只要能够实现本申请实施例的技术方案即可。

在一具体示例中，如图2所示，报警组件104，用于在确定出目标标注结果不满足准确度要求后，输出预警信息。也就是说，该示例中在语料标注系统中设置报警组件，如此，在检测到目标标注结果不满足准确度要求后输出预警信息，以利用预警信息来警示标注人员，进一步为提高标注质量奠定了基础。

在一具体示例中，为避免不必要的标注工作，浪费人力标注资源，仅对利用自动标注方法进行标注后但标注结果不满足准确度要求的语料数据进行标注，即该示例中待标注语料数据是利用自动标注方法标注后，但标注结果不满足准确度要求的语料数据，这样，能够避免人力标注资源浪费，同时，还能够利用人力标注的方式来提高标注质量，满足工程化要求，为后续工程化线上服务奠定了基础。需要说明的是，自动标注方法可以为现有能够实现的语料标注方法中的任意一种方法，本申请实施例对此不作限制。具体地，标注组件，还用于展示语料数据列表，语料数据列表包含有语料标注结果不满足准确度要求的待标注语料数据。

本申请实施例中，可以采用下述方式来丰富提示信息的提示内容，具体地，

方式一：辅助标注组件，还用于：获取与待标注语料数据相关联的语料数据的历史标注结果，将与待标注语料数据相关联的语料数据及历史标注结果作为提示信息。

也就是说，该方式中将与待标注语料数据相关联的语料数据，以及与待标注语料数据相关联的语料数据的历史标注结果作为提示信息来进行展示，以便于标注人员参考相关联语料数据的历史标注结果，以辅助完成本次标注操作，为提高标注质量奠定了基础。

这里，实际应用中，该历史标注结果为经过满意度检验的结果，即该历史标注结果为经过满意度信息检测后确定为满足准确度要求，如此，使得提供给标注人员的信息足够准确，为提高标注质量奠定了基础。

方式二：辅助标注组件，还用于：获取与待标注语料数据的特征信息相匹配的预设语料数据集合，其中，预设语料数据集合中各预设语料数据之间的特征信息相匹配，各预设语料数据的标注结果相同或相关联；将预设语料数据集合及标注结果作为提示信息。其中，特征信息可以具体为待标注语料数据对应的语义特征和/或文本特征。

也就是说，该方式中将特征信息相匹配的预设语料数据集合，以及预设语料集合的标注结果作为提示信息来进行展示，以便于标注人员参考特征信息相匹配的预设语料数据集合，以及参考预设语料数据集合的标注结果，如此，来辅助完成本次标注操作，为提高标注质量奠定了基础。而且，该实施方式中，从不同维度增加了提示信息的提示内容，给出多维度的参考意见，进一步为提高标注质量奠定了基础。

实际应用中，该预设语料数据集合对应的标注结果为经过满意度检验的结果，即该预设语料数据集合对应的标注结果为经过满意度信息检测后确定为满足准确度要求，如此，使得提供给标注人员的信息足够准确，为提高标注质量奠定了基础。

实际应用中，可以采用相似度计算方法来确定与待标注语料数据的特征信息相匹配的预设语料数据集合，本申请实施例对具体计算方式不作限制。

方式三：辅助标注组件，还用于：从标注模板中选取出与待标注语料数据相关联的参考语料数据，以及与待标注语料数据相关联的参考语料数据的标注结果，标注模板中表征有参考语料数据与标注结果的对应关系；将从标注模板中选取出的参考语料数据及标注结果作为提示信息。

也就是说，该方式中设置标注模板，利用标注模板中的参考语料数据与该参考语料数据的标注结果来进行提示，即从标注模板中选取出与待标注语料数据相关联的参考语料数据及其标注结果，进而在提示信息中展示与待标注语料数据相关联的参考语料数据，以及与待标注语料数据相关联的参考语料数据的标注结果，如此，来辅助标注人员完成本次标注操作，为提高标注质量奠定了基础。而且，该实施方式中，从不同维度增加了提示信息的提示内容，给出多维度的参考意见，进一步为提高标注质量奠定了基础。

在一具体示例中，该标注模板中参考语料数据的标注结果为经过满意度检验的结果，即标注模板中参考语料数据的标注结果为经过满意度信息检测后确定为满足准确度要求，如此，使得提供给标注人员的信息足够准确，为提高标注质量奠定了基础。

在实际应用中，该标注模板还可以设置有针对固定语法的切词模型及切词模型的切词方式，且还设置有利用切词模型对参考语料数据进行切词处理后得到的各语料数据的标注结果，相应地，辅助标注组件还可以展示切词模型的切词处理方式，以及展示对参考语料数据进行切词处理后得到的各语料数据的标注结果。

方式四：辅助标注组件，还用于：获取与待标注语料数据的相关联的语料数据的标注结果；基于与待标注语料数据的相关联的语料数据的标注结果，确定待标注语料数据的语义特征；将待标注语料数据的语义特征作为提示信息。

也就是说，该方式中从语义特征的维度来增加提示信息的内容，即首先获取到与待标注语料数据的相关联的语料数据的标注结果，进而利用获取到的标注结果来分析得到待标注语料数据的语义特征，也即得到该标注语料数据的真实意图，进而，将待标注语料数据的语义特征作为提示信息，来辅助标注人员完成标注过程，为提高标注质量奠定了基础。而且，该实施方式中，从不同维度增加了提示信息的提示内容，给出多维度的参考意见，进一步为提高标注质量奠定了基础。

实际应用中，与待标注语料数据的相关联的语料数据的标注结果为经过满意度检验的结果，即与待标注语料数据的相关联的语料数据的标注结果为经过满意度信息检测后确定为满足准确度要求，如此，使得提供给标注人员的信息足够准确，为提高标注质量奠定了基础。

这里，需要说明的是，实际应用中，上述四种方式可以择一而执行，或者选取其中四种方式中的任意两种或多种，本申请实施例对此不作限制。

本申请实施例，质量检测组件可以采用如下方式实现质量检测过程，具体地，

方式一：质量检测组件，还用于：检测是否存在待标注语料数据的预设标注结果；确定存在后，将目标标注结果与预设标注结果进行匹配；并将匹配结果作为目标标注结果的反馈信息，以确定目标标注结果是否满足准确度要求。

也就是说，该方式中质量检测组件将目标标注结果与预设标注结果进行匹配，进而确定目标标注结果是否满足要求，实现对标注人员的标注结果进行监控的目的，为提高标注质量奠定了基础。而且该方式简单可行，为后续工程化线上服务奠定了基础。具体地，为了在标注人员的标注过程中实现实时反馈标注结果的目的，可以在待标注语料数据中混入存在预设标注结果的标注数据，该预设标注结果满足准确度要求，因此，在检测到对目标标注结果的保存操作后，该质量检测组件先去确定是否存在与该待标注语料数据相对应的预设标注结果，若存在，将该目标标注结果与预设标注结果进行匹配，进而根据匹配结果来检测目标标注结果是否满足要求，为能够在标注人员的标注过程中起到实时监控的目的奠定了基础，进而从监控的角度进一步为提高标注质量奠定了基础。

方式二：质量检测组件，还用于：获取到针对待标注语料数据的目标标注结果的满意度信息；将针对待标注语料数据的目标标注结果的满意度信息作为反馈信息，以确定目标标注结果是否满足准确度要求。也就是说，该实施方式利用线上满意度信息，即用户反馈的针对目标标注结果的满意度信息来检测目标标注结果是否满足要求，进而进一步从监控的角度为提高标注质量奠定了基础。

方式三：质量检测组件，还用于：基于待标注语料数据的特征信息，确定待标注语料数据所从属的语料集合；获取针对待标注语料数据所从属的语料集合的满意度信息；将针对待标注语料数据所从属的语料集合的满意度信息作为反馈信息；其中，语料集合中包含的语料数据的特征信息与待标注语料数据的特征信息相匹配，语料集合中包含的语料数据的标注结果与待标注语料数据的目标标注结果相匹配。

也就是说，该方式利用线上满意度信息，即针对语料集合的满意度信息来检测目标标注结果是否满足要求，进而进一步从监控的角度为提高标注质量奠定了基础。由于待标注语料数据的特征信息与语料集合中语料数据的特征信息相匹配，所以，在标注过程中，待标注语料数据的目标标注结果与语料集合中语料数据的标注结果也会相匹配，因此，利用针对语料集合的满意度信息来作为针对待标注数据的目标标注结果的反馈信息同样能够实现监控的目的。

这里，需要说明的是，实际应用中，上述三种方式可以择一而执行，或者选取其中四种方式中的任意两种或多种，本申请实施例对此不作限制。

这样，本申请实施例从系统架构层面提供一种语料标注平台，也即语料标注系统，利用语料标注系统中辅助标注组件的提示信息在标注人员标注前进行提示，这里，由于提示信息中展示有与待标注语料数据相关联的语料数据，以及与待标注语料数据相关联的语料数据的标注结果，所以，便于标注人员参考该提示信息的相关内容，进而为提高标注质量奠定了基础。而且，由于语料标注系统中还设置有质量检测组件，且在对针对待标注语料数据的目标标注结果进行保存后，启动检测机制，并获取针对目标标注结果的反馈信息，进而，能够利用该质量检测组件来检测目标标注结果是否满足要求，所以，进一步为提高标注质量奠定了基础。

以下结合图3对本申请实施例做进一步详细说明：本示例语料标注系统对应的待标注语料数据可以是智能音响产品线条的线上数据，即将线上用户真实语音交互数据供标注人员做语料标注。比如，实际应用中，待标注语料数据对应智能音响的音频数据，比如，获取到用户向智能音响输入的音频数据，并对音频数据进行解析，得到文本数据，将该文本数据作为待标注语料数据；或者，在另一示例中，将该文本数据输入到自动标注系统中，并基于检测结果得到自动标注系统输出的标注结果不满足准确度要求的文本数据，将自动标注系统输出的标注结果不满足准确度要求的文本数据作为待标注语料数据，进而将标注后的可靠的语料标注结果再输出给模型或线上词典，以提升模型或词典的质量。

本示例中语料标注系统包括四个组件，分别为辅助标注组件、标注组件、质量检测组件以及报警组件，以下结合示例对各组件功能进行详细说明：

第一、辅助标注组件，主要功能是为标注人员提供多样化的标注参考，进而从主观上提升标注人员的工作质量。具体地，如图3所示，获取到待标注的query语料，并展示该待标注的query语料及标注参考信息；进一步地，该组件提供了四种标注参考，分别为：

标注参考一：基于历史数据的辅助标注，当前待标注的query语料(对应于待标注语料数据)可能之前被其他人正确标注过，因此，可将正确标注过的历史标注结果作为参考。这里，需要说明的是，给出的仅是参考，并非要求标注人员完全按照参考来进行标注，因此，存在同query但在不同场景下、不同环境下可能表达不同的意图的情况。

标注参考二：基于模板的辅助标注，设置模板，该模板中设置有固定语法，利用该模板中的固定语法可以对待标注的query语料进行自动切分；进一步地，该模板还对应有模型，利用模型可以对模板切分处理后的query语料进行解析，以对切分后的query语料进行标注，得到切分后的query语料的标注结果。因此，该模板的标注方式也可作为辅助信息来供标注人员参考。

标注参考三：基于线上相似query语料的辅助标注，比如，利用query改写、编辑距离等query相似度计算方法得到待标注的query语料的相似query集合，通过相似query集合的标注结果来辅助标注人员完成标注。比如：待标注的query语料＝我想听青花瓷，那么相似query集合为＝{我要听青花瓷、我想听轻花瓷}等，这类相似query作为一个组，其标注结果应该基本一致。

标注参考四：基于前后继共现信息的辅助标注，通常，不同用户对同一query的前后标注结果可能不尽相同，因此，可以利用同query的不同用户的前序和/或后继query统计值，来确定出该相同query的主要意图，如此，来辅助标注人员完成标注。比如：待标注query语料＝播放小一点，利用前后继共现信息可以得到该待标注query语料的真实意图是声音小一点。

第二、标注组件，用于响应标注人员对标注结果的输入操作，并在与待标注的query语料的对应位置上展示目标标注结果。

第三、质量检测组件，用于在检测到针对目标标注结果的保存操作后，启动检测机制，该组件可以实现两类检测机制，一类用于实时检测，并实时反馈；另一用于延迟反馈；并将两类检测机制的检测结果进行汇总。具体地，

1、实时质量检测功能，用于是对于标注人员的标注数据做即时质量的监控，包括两种方式，分别为：

方式一：将已经人工标注过的正确语料或者由标注模型分类置信度较高的正确语料混淆到例行人工标注的待标注语料数据中，进而当标注人员完成针对正确语料的标注后，可以立即确定出标注结果的准确性，以便标注结果不准确时即时进行反馈，实现即时质量监控的目的。

方式二：设置人工审核人员，利用人工审核人员对标注人员进行的语义解析、query改写等部分审核操作，进而即时反馈标注结果的准确性，实现即时质量监控的目的。

2、延迟质量检测功能，用于对于标注人员的标注数据做延迟质量的监控

方式一，线上效果满意度追查，利用实体簇来完成待标注query语料的标注数据的检测过程，比如，高热实体簇，song＝青花瓷，那么所有青花瓷变换的表达如我想听青花瓷、我想看青花瓷、来一首青花瓷、唱青花瓷等都属于“song＝青花瓷”的实体簇，基于此，当待标注query语料中存在“青花瓷”时，标注人员会基于“song＝青花瓷”的实体簇，将待标注query语料中存在“青花瓷”进行标注，此时，即可利用线上的满意度分类模型，对“song＝青花瓷”的实体簇的满意度数据做回归，得到“song＝青花瓷”的实体簇的满意度信息，将该满意度信息延迟性的反馈给标注人员，以实现检测标注质量的目的。

方式二，线上效果满意度追查，利用泛化query簇来完成待标注query语料的标注数据的检测过程，比如，声音到十，声音到二十，声音到三十属于一类query，此时，可以基于上述特征得到泛化query簇，若待标注query语料存在上述类似的内容，则可基于泛化query簇来完成标注，此时，可以将该泛化query簇的满意度信息延迟性的反馈给标注人员，以实现检测标注质量的目的。

第四、报警组件，用于在确定标注结果不满足准确度要求时，输预警信息。

实际应用中，对于多次不满足标注准确率要求的标注人员进行培训，而培训文档可基于质量检测组件的检测结果而得到。

这样，利用语料标注系统即可在有限人力条件下，提高语料标注人员的标注质量，进而将标注后的可靠的语料标注结果再输出给模型或线上词典，以提升模型或词典的质量。

根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。

如图4所示，是根据本申请实施例的语料标注系统的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图4所示，该电子设备包括：一个或多个处理器401、存储器402，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示图形用户界面(Graphical User Interface，GUI)的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图4中以一个处理器401为例。

存储器402即为本申请所提供的非瞬时计算机可读存储介质。其中，存储器存储有可由至少一个处理器执行的指令，以使至少一个处理器执行本申请所提供的语料标注系统功能。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的语料标注系统功能。

存储器402作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的语料标注系统对应的程序指令/模块(例如，附图2所示的辅助标注组件101、标注组件102、质量检测组件103和报警组件104)。处理器101通过运行存储在存储器102中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述实施例中的语料标注系统的功能。

存储器402可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据语料标注系统的使用所创建的数据等。此外，存储器402可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器402可选包括相对于处理器401远程设置的存储器，这些远程存储器可以通过网络连接至语料标注系统对应的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

语料标注系统的电子设备还可以包括：输入装置403和输出装置404。处理器401、存储器402、输入装置403和输出装置404可以通过总线或者其他方式连接，图4中以通过总线连接为例。

输入装置403可接收输入的数字或字符信息，以及产生与语料标注系统的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置404可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(Liquid Crystal Display，LCD)、发光二极管(Light EmittingDiode，LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用集成电路(Application Specific Integrated Circuits，ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(programmable logic device，PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(Cathode Ray Tube，阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(Local Area Network，LAN)、广域网(Wide Area Network，WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

本申请实施例从系统架构层面提供一种语料标注平台，也即语料标注系统，利用语料标注系统中辅助标注组件的提示信息在标注人员标注前进行提示，这里，由于提示信息中展示有与待标注语料数据相关联的语料数据，以及与待标注语料数据相关联的语料数据的标注结果，所以，便于标注人员参考该提示信息的相关内容，进而为提高标注质量奠定了基础。而且，由于语料标注系统中还设置有质量检测组件，且在对针对待标注语料数据的目标标注结果进行保存后，启动检测机制，并获取针对目标标注结果的反馈信息，进而，能够利用该质量检测组件来检测目标标注结果是否满足要求，所以，进一步为提高标注质量奠定了基础。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。