数据收集方法、装置、存储介质及电子设备

文档序号:1355682 发布日期:2020-07-24 浏览:5次 >En<

阅读说明:本技术 数据收集方法、装置、存储介质及电子设备 (Data collection method and device, storage medium and electronic equipment ) 是由 王康 何怡 于 2020-03-27 设计创作,主要内容包括:本公开涉及一种数据收集方法、装置、存储介质及电子设备,以快速获得高质量文本语料。所述方法包括:从目标视频中获取多个目标视频帧图像;对所述多个目标视频帧图像进行OCR识别,以确定各个所述目标视频帧图像包含的第一文本和所述第一文本的文本位置信息,所述第一文本的文本位置信息用于指示所述第一文本在目标视频帧图像中出现的位置;根据各个所述文本位置信息,确定所述目标视频的字幕区域;根据所述字幕区域、所述第一文本和所述第一文本的文本位置信息,确定第二文本,所述第二文本取自文本位置信息所指示的位置处于所述字幕区域内的第一文本;将所述第二文本确定为所述目标视频的文本语料。(The disclosure relates to a data collection method, a data collection device, a storage medium and an electronic device, so as to quickly obtain high-quality text corpora. The method comprises the following steps: acquiring a plurality of target video frame images from a target video; performing OCR recognition on the plurality of target video frame images to determine a first text contained in each target video frame image and text position information of the first text, wherein the text position information of the first text is used for indicating the position of the first text appearing in the target video frame images; determining a subtitle area of the target video according to the text position information; determining a second text according to the subtitle area, the first text and the text position information of the first text, wherein the second text is taken from the first text of which the position indicated by the text position information is in the subtitle area; and determining the second text as the text corpus of the target video.)

数据收集方法、装置、存储介质及电子设备

技术领域

本公开涉及计算机技术领域,具体地,涉及一种数据收集方法、装置、存储介质及电子设备。

背景技术

在语音处理领域,语音识别技术的效果优劣依赖于训练数据的收集,例如,语言模型的训练数据是文本语料。目前,在收集语言模型所需的文本语料时,一般是从开源渠道获得原始数据,但是,由于这一数据获取过程是包括对误差的无差别获取,因此,得到的数据中存在大量的噪声数据,若直接用作用于训练语言模型的文本语料,训练所得的语言模型效果较差。

发明内容

提供该发明内容部分以便以简要的形式介绍构思,这些构思将在后面的

具体实施方式

部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。

第一方面,本公开提供一种数据收集方法,所述方法包括:

从目标视频中获取多个目标视频帧图像;

对所述多个目标视频帧图像进行OCR识别,以确定各个所述目标视频帧图像包含的第一文本和所述第一文本的文本位置信息,所述第一文本的文本位置信息用于指示所述第一文本在目标视频帧图像中出现的位置;

根据各个所述文本位置信息,确定所述目标视频的字幕区域;

根据所述字幕区域、所述第一文本和所述第一文本的文本位置信息,确定第二文本,所述第二文本取自文本位置信息所指示的位置处于所述字幕区域内的第一文本;

将所述第二文本确定为所述目标视频的文本语料。

第二方面,本公开提供一种数据收集装置,所述装置包括:

第一获取模块,用于从目标视频中获取多个目标视频帧图像;

识别模块,用于对所述多个目标视频帧图像进行OCR识别,以确定各个所述目标视频帧图像包含的第一文本和所述第一文本的文本位置信息,所述第一文本的文本位置信息用于指示所述第一文本在目标视频帧图像中出现的位置;

第一确定模块,用于根据各个所述文本位置信息,确定所述目标视频的字幕区域;

第二确定模块,用于根据所述字幕区域、所述第一文本和所述第一文本的文本位置信息,确定第二文本,所述第二文本取自文本位置信息所指示的位置处于所述字幕区域内的第一文本;

第三确定模块,用于将所述第二文本确定为所述目标视频的文本语料。

第三方面,本公开提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该程序被处理装置执行时实现本公开第一方面所述方法的步骤。

第四方面,本公开提供一种电子设备,包括:

存储装置,其上存储有计算机程序;

处理装置,用于执行所述存储装置中的所述计算机程序,以实现本公开第一方面所述方法的步骤。

通过上述技术方案,从目标视频中获取多个目标视频帧图像,对多个目标视频帧图像进行OCR识别,以确定各个目标视频帧图像包含的第一文本和第一文本的文本位置信息,根据各个文本位置信息,确定目标视频的字幕区域,根据字幕区域、第一文本和第一文本的文本位置信息,确定第二文本,将第二文本确定为目标视频的文本语料。这样,通过对视频内的图像进行OCR识别,根据识别结果确定字幕最可能存在的位置,即字幕区域,从字幕区域中提取可用的文本语料,能够自动地从视频中获取文本语料,效率高。并且,由于同一视频出现的文本内容相关性较强,所以,获取到的文本语料中的噪声数据少,文本语料质量较高,利用这样的文本语料训练所得的语言模型也会具有较高的质量。

本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。

附图说明

结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。

在附图中:

图1是根据本公开的一种实施方式提供的数据收集方法的流程图;

图2是根据本公开的另一种实施方式提供的数据收集方法的流程图;

图3根据本公开的一种实施方式提供的数据收集装置的框图;

图4是根据一实施例提供的设备的框图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。

应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。

在语音处理领域,语音识别技术的效果优劣依赖于训练数据的收集。例如,语言模型的训练数据是文本语料,语音识别的训练数据是相互对应的音频和文字。

针对语言模型所需文本语料的收集,在现有技术中,在收集语言模型所需的文本语料时,一般是从开源渠道获得原始数据,但是,由于这一数据获取过程是包括对误差的无差别获取,因此,得到的数据中存在大量的噪声数据,若直接用作用于训练语言模型的文本语料,训练所得的语言模型效果较差。

针对语音识别所需训练数据的收集,在现有技术中,一般需要基于收集到的音频和文字进行人工标注,进而将音频和文字相互对应起来,并用作语音识别所使用的训练数据,但是,人工标注的方式耗费资源,且效率不高。

为了解决现有技术中存在的上述问题,本公开提供一种数据收集方法、装置、存储介质及电子设备,以快速获得高质量训练数据。

图1是根据本公开的一种实施方式提供的数据收集方法的流程图。如图1所示,该方法可以包括以下步骤。

在步骤11中,从目标视频中获取多个目标视频帧图像。

通过本公开提供的方法能够从目标视频中提取出文本语料,其中,目标视频可以是任一视频,每当需要从视频中提取文本语料时,就可将该视频作为目标视频,并执行本公开提供的数据收集方法的一系列步骤。

从目标视频总可以获取多个目标视频帧图像,其中,每一目标视频帧图像就是目标视频中的一帧图像。

在步骤12中,对多个目标视频帧图像进行OCR识别,以确定各个目标视频帧图像包含的第一文本和第一文本的文本位置信息。

OCR(Optical Character Recognition,光学字符识别)能够将图像中的文字识别为可编辑文本,因此,通过OCR识别能够从图像中提取出其中的文字部分。

基于步骤11获得的多个目标视频帧图像,对其中的每一目标视频帧图像进行OCR识别,可以得到每一目标视频帧图像中包含的文字和文字在该目标视频帧图像中出现的位置,由此,可以得到每一目标视频帧图像包含的第一文本和第一文本的文本位置信息。其中,第一文本可以由一个或多个文字构成,第一文本的文本位置信息用于指示第一文本在目标视频帧图像中出现的位置,第一文本在目标视频帧图像中出现的位置可以以该第一文本在目标视频帧图像内所对应的像素点的坐标(例如,第一文本在目标视频帧图像内所对应的所有像素点的坐标的集合,或者,第一文本在目标视频帧图像内所对应的位于边缘的像素点的坐标的集合,等等)体现。

以及,同一目标视频帧图像中可能有多个位置存在文字,文字位置可以例如为画面底部、画面顶部、画面中间、画面左上角、画面右上角、画面右下角、画面左下角等。这样的目标视频帧图像经过OCR识别之后可以得到多个不同位置的第一文本,每一第一文本对应于在该目标视频帧图像的不同位置。例如,若目标视频帧图像A经过OCR识别后得到位于画面顶部的文本B1和位于画面底部的文本B2,则目标视频帧图像包含两个第一文本,分别是文本B1和文本B2,且第一文本B1的文本位置信息为画面顶部,第二文本B2的文本位置信息为画面底部。

在步骤13中,根据各个文本位置信息,确定目标视频的字幕区域。

根据各个文本位置信息所指示的位置,可以确定出目标视频的字幕区域。示例地,字幕区域可以为目标视频帧图像底部的条状区域。

在步骤14中,根据字幕区域、第一文本和第一文本的文本位置信息,确定第二文本。

其中,第二文本取自文本位置信息所指示的位置处于字幕区域内的第一文本。也就是说,从目标视频中提取出字幕区域出现的文字,用作文本语料。

在步骤15中,将第二文本确定为目标视频的文本语料。

通过上述技术方案,从目标视频中获取多个目标视频帧图像,对多个目标视频帧图像进行OCR识别,以确定各个目标视频帧图像包含的第一文本和第一文本的文本位置信息,根据各个文本位置信息,确定目标视频的字幕区域,根据字幕区域、第一文本和第一文本的文本位置信息,确定第二文本,将第二文本确定为目标视频的文本语料。这样,通过对视频内的图像进行OCR识别,根据识别结果确定字幕最可能存在的位置,即字幕区域,从字幕区域中提取可用的文本语料,能够自动地从视频中获取文本语料,效率高。并且,由于同一视频出现的文本内容相关性较强,所以,获取到的文本语料中的噪声数据少,文本语料质量较高,利用这样的文本语料训练所得的语言模型也会具有较高的质量。

为了使本领域技术人员更加理解本发明实施例提供的技术方案,下面对上文中的相应步骤进行详细的说明。

首先对步骤11中,从目标视频中获取多个目标视频帧图像进行详细说明。

在一种可能的实施方式中,可以将目标视频中的所有视频帧图像均作为目标视频帧图像,也就是基于目标视频帧的所有视频帧图像进行数据收集。这样,能够较为全面地对目标视频中的文本语料进行收集。

在另一种可能的实施方式中,步骤11可以包括以下步骤:

按照预设时间间隔对目标视频进行抽帧处理,以获得多个目标视频帧图像。

示例地,预设时间间隔可以为0.5s,也就是每隔0.5s从目标视频中抽取一视频帧图像作为目标视频帧图像。

采用上述方式,按照预设的时间间隔对目标视频进行抽帧处理,以获得多个目标视频帧图像,既不会遗漏目标视频中过多的数据,又可以减少后续数据收集过程中的计算压力。

下面对步骤13中,根据各个文本位置信息,确定目标视频的字幕区域进行详细说明。

在一种可能的实施方式中,步骤13可以包括以下步骤:

根据各个文本位置信息,确定字幕位置;

根据字幕位置,确定目标视频的字幕区域。

其中,字幕位置为各个文本位置信息所指示的位置中、出现次数最多的位置,或者,字幕位置为各个文本位置信息所指示的位置中、出现次数占所有位置的比例超过预设比例阈值的位置。示例地,预设比例阈值可以为0.6。

若目标视频中存在可以转化为文字的内容,例如,视频内人物的说话内容,通常将会以字幕的形式展现在目标视频中,而一般来说,同一视频中的字幕位置是较为固定的,也就是视频中频繁出现文字的某一位置(例如,视频画面底部)。而每一第一文本的文本位置信息会指示第一文本在目标视频帧图像中出现的位置,因此,可以将各个第一文本的文本位置信息所指示的位置中、出现次数最多的位置确定为字幕位置,或者,将各个第一文本的文本位置信息所指示的位置中、出现次数占所有位置的比例超过预设比例阈值的位置确定为字幕位置。

在确定出字幕位置后,就可以根据字幕位置,确定目标视频的字幕区域。

在一种可能的实施例中,可以直接将字幕位置所对应的区域确定为目标视频的字幕区域。

在另一种可能的实施例中,根据字幕位置,确定目标视频的字幕区域,可以包括以下步骤:

将字幕位置周边预设范围所对应的区域确定为字幕区域。

也就是说,在确定出字幕位置后,可以根据字幕位置适当进行范围扩大,并将扩大后的区域作为字幕区域,以更加全面地覆盖图像中可能出现文字的位置。例如,基于字幕位置,向上、向下均扩展一定倍数的文字高度(例如,1.5倍文字高度)后,将扩展后的位置范围所对应的区域确定为字幕区域。

下面对步骤14中,根据字幕区域、第一文本和第一文本的文本位置信息,确定第二文本,进行详细说明。

在一种可能的实施方式中,步骤14可以包括以下步骤:

将文本位置信息所指示的位置处于字幕区域内的第一文本确定为第二文本。

由此,可以将处于字幕区域内的所有文本均确定为第二文本,这样,基于第二文本所得到的文本语料具有更加丰富的内容。

在另一种可能的实施方式中,步骤14可以包括以下步骤:

将文本位置信息所指示的位置处于字幕区域内的第一文本确定为第三文本;

若存在第一出现时刻相邻、且文本相似度大于预设相似度阈值的多个第三文本,将其中文本长度最长的第三文本确定为第二文本;

若第三文本中存在预设字符,则将第三文本中的预设字符删除,并将删除预设字符后所得到的文本确定为第二文本。

其中,每一第一文本对应有在目标视频中的第一出现时刻。在从目标视频中获取目标视频帧图像时,每一目标视频帧图像均对应有在目标视频中出现的时刻,因此,基于目标视频帧图像所得到的第一文本具有与该目标视频帧图像在目标视频中出现的时刻相同的第一出现时刻。例如,若目标视频帧图像C在目标视频中出现的时刻为0.5s,则基于目标视频帧图像C得到的第一文本D在目标视频中的第一出现时刻同样为0.5s。

将文本位置信息所指示的位置处于字幕区域内的第一文本确定为第三文本,即,首先筛选出文本位置信息所指示的位置处于字幕区域内的第一文本作为第三文本,并基于这些第三文本进行进一步的筛选。

若存在第一出现时刻相邻、且文本相似度大于预设相似度阈值的多个第三文本,说明这些第三文本的内容相似且来自相邻的目标视频帧,也就是第三文本中具有内容雷同的部分,因此,可以进行一定程度的去重,因此,可以将其中文本长度最长的第三文本确定为第二文本,保留最长的第三文本可以最大限度地保留丰富的文本信息。

预设字符就是在当前的数据收集过程中可用性较低的字符,例如,针对常用语种进行数据收集时,可以将非常用语种的字符确定为预设字符。示例地,若针对中英文进行数据收集,则可以将除中、英文及阿拉伯数字之外的其他字符设置为预设字符。若第三文本中存在预设字符,说明第三文本中存在对本次数据收集可用性不高的字符,因此,可以将第三文本中的预设字符删除,并将删除预设字符后所得到的文本确定为第二文本。

采用上述方式,在基于字幕区域的位置筛选后,根据位置筛选的结果进一步进行去重或者删除字符处理,能够得到质量较佳的第二文本,从而,基于第二文本得到的文本语料能够具有更高的质量。

图2是根据本公开的另一种实施方式提供的数据收集方法的流程图。如图2所示,在图1所示各步骤的基础上,本公开的方法还可以包括以下步骤,其中,有关于步骤11-步骤15的相关描述在上文中已经给出,此处不赘述。

在步骤21中,对文本语料进行划分,得到目标语料片段。

由前文可知,文本语料由多个第二文本构成。并且,每一第二文本对应有在目标视频中的第二出现时刻。在从目标视频中获取目标视频帧图像时,每一目标视频帧图像均对应有在目标视频中出现的时刻,因此,基于目标视频帧图像所得到的第一文本与该目标视频帧图像在目标视频中出现的时刻相同的第一出现时刻,相应地,基于第一文本所得到的第二文本具有与该第一文本在目标视频中的第一出现时刻相同的第二出现时刻。例如,若目标视频帧图像C在目标视频中出现的时刻为0.5s,则基于目标视频帧图像C得到的第一文本D在目标视频中的第一出现时刻同样为0.5s,取自第一文本D的第二文本E在目标视频中的第二出现时刻同样为0.5s。

在一种可能的实施例中,可以将文本语料中N个相邻的第二文本作为一组,以获得多组第二文本的组合。其中,每一组第二文本的组合均可以作为目标语料片段,并执行本公开提供的后续步骤。其中,N为大于或等于1的正整数。示例地,N可以为2。由此,可以减少数据处理过程中的计算量。

在步骤22中,根据目标语料片段中包含的第二文本在目标视频中的第二出现时刻,确定目标语料片段在目标视频中对应的初始起始时刻和初始结束时刻。

在一种可能的实施方式中,若目标语料片段仅包含一个第二文本,则可以基于第二文本在目标视频中的第二出现时刻,将该第二出现时刻前第一预设时长所对应的时刻作为初始起始时刻,并将该第二出现时刻后第二预设时长所对应的时刻作为初始结束时刻。其中,第一预设时长可以为大于或等于0的时长,第二预设时长可以为大于或等于0的时长。一般情况下,第一预设时长和第二预设时长不同时为0。示例地,第一预设时长可以为0.5s。再例如,第二预设时长可以为0.5s。

在一种可能的实施例中,若目标语料片段内包含多个第二文本,则可以将在目标视频中最早出现的第二文本在目标视频中的第二出现时刻作为初始起始时刻,并将在目标视频中最晚出现的第二文本在目标视频中的第二出现时刻作为初始结束时刻。

在步骤23中,以初始起始时刻为时间起点、并以初始结束时刻为时间终点,从目标视频中获取目标音频片段。

在步骤24中,利用预设的时间对齐工具,对目标语料片段和目标音频片段进行时间对齐,以获得目标语料片段在目标视频中对应的目标起始时刻和目标结束时刻。

示例地,预设的时间对齐工具为alignment工具。相应地,步骤24可以包括以下步骤:

将alignment工具的beam参数设置为第一数值,对目标语料片段和目标音频片段进行第一次对齐,之后,将alignment工具的beam参数设置为第二数值,对目标语料片段和目标音频片段进行第二次对齐,以获得目标语料片段在目标视频中对应的目标起始时刻和目标结束时刻。

其中,第一数值小于第二数值。示例地,第一数值可以为3。再例如,第二数值可以为30。

上述对齐过程中,第一次对齐将beam参数设置为较小的第一数值,能够保证目标语料片段和目标音频片段中文字与音频一一对应的准确性,也就是单个文字与音频之间的对应关系。第二次对齐将beam参数设置为较大的第二数值,能够保证目标语料片段和目标音频片段首、尾对齐的准确性,也就是目标预料片段在目标音频片段中出现和消失的时间点的准确性。

采用上述方式,在获取到目标视频的文本语料之后,能够自动将文本语料中的内容与目标视频中的相应音频进行对齐,省去人工标注的繁琐步骤,从而能够更加高效地获取相互对应的音频和文字,并能够快速地用于语音识别中。

图3是根据本公开的一种实施方式提供的数据收集装置的框图,如图3所示,该装置30可以包括:

第一获取模块31,用于从目标视频中获取多个目标视频帧图像;

识别模块32,用于对所述多个目标视频帧图像进行OCR识别,以确定各个所述目标视频帧图像包含的第一文本和所述第一文本的文本位置信息,所述第一文本的文本位置信息用于指示所述第一文本在目标视频帧图像中出现的位置;

第一确定模块33,用于根据各个所述文本位置信息,确定所述目标视频的字幕区域;

第二确定模块34,用于根据所述字幕区域、所述第一文本和所述第一文本的文本位置信息,确定第二文本,所述第二文本取自文本位置信息所指示的位置处于所述字幕区域内的第一文本;

第三确定模块35,用于将所述第二文本确定为所述目标视频的文本语料。

可选地,所述第一获取模块31用于按照预设时间间隔对所述目标视频进行抽帧处理,以获得所述多个目标视频帧图像。

可选地,所述第一确定模块33包括:

第一确定子模块,用于根据各个所述文本位置信息,确定字幕位置,其中,所述字幕位置为各个所述文本位置信息所指示的位置中、出现次数最多的位置,或者,所述字幕位置为各个所述文本位置信息所指示的位置中、出现次数占所有位置的比例超过预设比例阈值的位置;

第二确定子模块,用于根据所述字幕位置,确定所述目标视频的字幕区域。

可选地,所述第二确定子模块用于将所述字幕位置周边预设范围所对应的区域确定为所述字幕区域。

可选地,所述第二确定模块34包括:

第三确定子模块,用于将文本位置信息所指示的位置处于所述字幕区域内的第一文本确定为所述第二文本。

可选地,每一所述第一文本对应有在所述目标视频中的第一出现时刻;

所述第二确定模块34包括:

第四确定子模块,用于将文本位置信息所指示的位置处于所述字幕区域内的第一文本确定为第三文本;

第五确定子模块,用于若存在第一出现时刻相邻、且文本相似度大于预设相似度阈值的多个第三文本,将其中文本长度最长的第三文本确定为所述第二文本;

第六确定子模块,用于若第三文本中存在预设字符,则将所述第三文本中的所述预设字符删除,并将删除所述预设字符后所得到的文本确定为所述第二文本。

可选地,所述文本语料由多个所述第二文本构成,且每一所述第二文本对应有在所述目标视频中的第二出现时刻;

所述装置30还包括:

划分模块,用于对所述文本语料进行划分,得到目标语料片段;

第四确定模块,用于根据目标语料片段中包含的第二文本在所述目标视频中的第二出现时刻,确定所述目标语料片段在所述目标视频中对应的初始起始时刻和初始结束时刻;

第二获取模块,用于以所述初始起始时刻为时间起点、并以所述初始结束时刻为时间终点,从所述目标视频中获取目标音频片段;

对齐模块,用于利用预设的时间对齐工具,对所述目标语料片段和所述目标音频片段进行时间对齐,以获得所述目标语料片段在所述目标视频中对应的目标起始时刻和目标结束时刻。

可选地,所述预设的时间对齐工具为alignment工具;

所述对齐模块用于将所述alignment工具的beam参数设置为第一数值,对所述目标语料片段和所述目标音频片段进行第一次对齐,之后,将所述alignment工具的beam参数设置为第二数值,对所述目标语料片段和所述目标音频片段进行第二次对齐,以获得所述目标语料片段在所述目标视频中对应的目标起始时刻和目标结束时刻,其中,所述第一数值小于所述第二数值。

关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。

下面参考图4,其示出了适于用来实现本公开实施例的电子设备600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图4示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。

如图4所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开实施例的方法中限定的上述功能。

需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。

在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:从目标视频中获取多个目标视频帧图像;对所述多个目标视频帧图像进行OCR识别,以确定各个所述目标视频帧图像包含的第一文本和所述第一文本的文本位置信息,所述第一文本的文本位置信息用于指示所述第一文本在目标视频帧图像中出现的位置;根据各个所述文本位置信息,确定所述目标视频的字幕区域;根据所述字幕区域、所述第一文本和所述第一文本的文本位置信息,确定第二文本,所述第二文本取自文本位置信息所指示的位置处于所述字幕区域内的第一文本;将所述第二文本确定为所述目标视频的文本语料。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块的名称在某种情况下并不构成对该模块本身的限定,例如,第一获取模块还可以被描述为“从目标视频中获取多个目标视频帧图像的模块”。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

根据本公开的一个或多个实施例,提供了一种数据收集方法,所述方法包括:

从目标视频中获取多个目标视频帧图像;

对所述多个目标视频帧图像进行OCR识别,以确定各个所述目标视频帧图像包含的第一文本和所述第一文本的文本位置信息,所述第一文本的文本位置信息用于指示所述第一文本在目标视频帧图像中出现的位置;

根据各个所述文本位置信息,确定所述目标视频的字幕区域;

根据所述字幕区域、所述第一文本和所述第一文本的文本位置信息,确定第二文本,所述第二文本取自文本位置信息所指示的位置处于所述字幕区域内的第一文本;

将所述第二文本确定为所述目标视频的文本语料。

根据本公开的一个或多个实施例,提供了一种数据收集方法,其中,所述从目标视频中获取多个目标视频帧图像,包括:

按照预设时间间隔对所述目标视频进行抽帧处理,以获得所述多个目标视频帧图像。

根据本公开的一个或多个实施例,提供了一种数据收集方法,其中,所述根据各个所述文本位置信息,确定所述目标视频的字幕区域,包括:

根据各个所述文本位置信息,确定字幕位置,其中,所述字幕位置为各个所述文本位置信息所指示的位置中、出现次数最多的位置,或者,所述字幕位置为各个所述文本位置信息所指示的位置中、出现次数占所有位置的比例超过预设比例阈值的位置;

根据所述字幕位置,确定所述目标视频的字幕区域。

根据本公开的一个或多个实施例,提供了一种数据收集方法,其中,所述根据所述字幕位置,确定所述目标视频的字幕区域,包括:

将所述字幕位置周边预设范围所对应的区域确定为所述字幕区域。

根据本公开的一个或多个实施例,提供了一种数据收集方法,其中,所述根据所述字幕区域、所述第一文本和所述第一文本的文本位置信息,确定第二文本,包括:

将文本位置信息所指示的位置处于所述字幕区域内的第一文本确定为所述第二文本。

根据本公开的一个或多个实施例,提供了一种数据收集方法,其中,每一所述第一文本对应有在所述目标视频中的第一出现时刻;

所述根据所述字幕区域、所述第一文本和所述第一文本的文本位置信息,确定第二文本,包括:

将文本位置信息所指示的位置处于所述字幕区域内的第一文本确定为第三文本;

若存在第一出现时刻相邻、且文本相似度大于预设相似度阈值的多个第三文本,将其中文本长度最长的第三文本确定为所述第二文本;

若第三文本中存在预设字符,则将所述第三文本中的所述预设字符删除,并将删除所述预设字符后所得到的文本确定为所述第二文本。

根据本公开的一个或多个实施例,提供了一种数据收集方法,其中,所述文本语料由多个所述第二文本构成,且每一所述第二文本对应有在所述目标视频中的第二出现时刻;

所述方法还包括:

对所述文本语料进行划分,得到目标语料片段;

根据目标语料片段中包含的第二文本在所述目标视频中的第二出现时刻,确定所述目标语料片段在所述目标视频中对应的初始起始时刻和初始结束时刻;

以所述初始起始时刻为时间起点、并以所述初始结束时刻为时间终点,从所述目标视频中获取目标音频片段;

利用预设的时间对齐工具,对所述目标语料片段和所述目标音频片段进行时间对齐,以获得所述目标语料片段在所述目标视频中对应的目标起始时刻和目标结束时刻。

根据本公开的一个或多个实施例,提供了一种数据收集方法,其中,所述预设的时间对齐工具为alignment工具;

所述利用预设的时间对齐工具,对所述目标语料片段和所述目标音频片段进行时间对齐,以获得所述目标语料片段在所述目标视频中对应的目标起始时刻和目标结束时刻,包括:

将所述alignment工具的beam参数设置为第一数值,对所述目标语料片段和所述目标音频片段进行第一次对齐,之后,将所述alignment工具的beam参数设置为第二数值,对所述目标语料片段和所述目标音频片段进行第二次对齐,以获得所述目标语料片段在所述目标视频中对应的目标起始时刻和目标结束时刻,其中,所述第一数值小于所述第二数值。

根据本公开的一个或多个实施例,提供了一种数据收集装置,所述装置包括:

第一获取模块,用于从目标视频中获取多个目标视频帧图像;

识别模块,用于对所述多个目标视频帧图像进行OCR识别,以确定各个所述目标视频帧图像包含的第一文本和所述第一文本的文本位置信息,所述第一文本的文本位置信息用于指示所述第一文本在目标视频帧图像中出现的位置;

第一确定模块,用于根据各个所述文本位置信息,确定所述目标视频的字幕区域;

第二确定模块,用于根据所述字幕区域、所述第一文本和所述第一文本的文本位置信息,确定第二文本,所述第二文本取自文本位置信息所指示的位置处于所述字幕区域内的第一文本;

第三确定模块,用于将所述第二文本确定为所述目标视频的文本语料。

根据本公开的一个或多个实施例,提供了一种非暂态计算机可读存储介质,其上存储有计算机程序,该程序被处理装置执行时实现本公开任意实施例所述方法的步骤。

根据本公开的一个或多个实施例,提供了一种电子设备,包括:

存储装置,其上存储有计算机程序;

处理装置,用于执行所述存储装置中的所述计算机程序,以实现本公开任意实施例所述方法的步骤。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。

20页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:企业名称识别方法及装置

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!