一种视频展示的方法、装置、电子设备及存储介质

文档序号:601937 发布日期:2021-05-04 浏览:11次 >En<

阅读说明:本技术 一种视频展示的方法、装置、电子设备及存储介质 (Video display method and device, electronic equipment and storage medium ) 是由 颜秉武 韩少鹏 白丽娟 袁勇 于 2020-12-29 设计创作,主要内容包括:本公开关于一种视频展示的方法、装置、电子设备及存储介质。本公开实施例中,首先通过展示界面中的第一视频区域展示第一视频,响应针对第一视频的评论展示触发操作,获取评论展示区域的展示参数,然后根据评论展示区域的展示参数,将第一视频区域缩小为第二视频区域,使得评论展示区域被展示于所述展示界面中所述第二视频区域之外的界面区域,最后通过第二视频区域,展示第二视频,其中,第二视频由第一视频缩小处理得到,第二视频中视频图像包括第一视频中视频图像的关键图像内容。实现在保证关键内容不缺失的情况下适配视频展示区域进行展示,优化视频展示效果,改善用户视频观看体验。(The disclosure relates to a method and a device for video display, electronic equipment and a storage medium. In the embodiment of the disclosure, a first video is displayed through a first video area in a display interface, a comment display triggering operation for the first video is responded, display parameters of a comment display area are obtained, then the first video area is reduced to a second video area according to the display parameters of the comment display area, the comment display area is displayed in an interface area outside the second video area in the display interface, and finally a second video is displayed through the second video area, wherein the second video is obtained through reduction processing of the first video, and video images in the second video include key image content of video images in the first video. The method and the device realize adaptive video display area display under the condition of ensuring that the key content is not lost, optimize the video display effect and improve the video watching experience of a user.)

一种视频展示的方法、装置、电子设备及存储介质

技术领域

本发明涉及图像处理技术领域,特别涉及一种视频展示的方法、装置、电子设备及存储介质。

背景技术

短视频成为广大用户记录生活、分享信息的优选媒介。用户在观看短视频时,可以唤起评论面板,用户可以通过评论面板对短视频进行评论,也可以查看其它用户对该短视频的评论。

发明内容

本发明提供一种视频展示的方法、装置、电子设备及存储介质。

第一方面,本公开实施例提供了一种视频展示的方法,包括:

通过展示界面中的第一视频区域展示第一视频;

响应针对所述第一视频的评论展示触发操作,获取评论展示区域的展示参数;

根据所述评论展示区域的展示参数,将所述第一视频区域缩小为第二视频区域,使得所述评论展示区域被展示于所述展示界面中所述第二视频区域之外的界面区域;

通过所述第二视频区域,展示第二视频;

其中,所述第二视频由所述第一视频缩小处理得到;所述第二视频中视频图像包括所述第一视频中视频图像的关键图像内容。

在一些实施例中,所述根据所述评论展示区域的展示参数,将所述第一视频区域缩小为第二视频区域,包括:

获取所述第一视频区域的展示参数;

根据所述评论展示区域的展示参数和所述第一视频区域的展示参数,确定所述第二视频区域的展示参数;

根据所述第二视频区域的展示参数,将所述第一视频区域缩小为所述第二视频区域。

在一些实施例中,所述根据所述评论展示区域的展示参数和所述第一视频区域的展示参数,确定所述第二视频区域的展示参数,包括:

将所述第一视频区域的高度与所述评论展示区域的高度的差值,作为所述第二视频区域的高度;

将所述第一视频区域的宽度作为所述第二视频区域的宽度。

在一些实施例中,所述根据所述第二视频区域的展示参数,将所述第一视频区域缩小为所述第二视频区域,包括:

将所述第一视频区域的高度缩小为所述第二视频区域的高度。

在一些实施例中,该方法还包括:

获取第一视频中视频图像的关键图像内容,所述关键图像内容用于指示所述第一视频区域中包括的关键图像区域;

根据所述关键图像内容和所述第二视频区域的展示参数,对所述第一视频进行处理,得到所述第二视频。

在一些实施例中,所述根据所述关键图像内容和所述第二视频区域的展示参数,对所述第一视频进行处理,得到所述第二视频,包括:

以所述第一视频经缩放后所述关键图像区域能在所述第二视频区域完整显示为约束条件,根据所述关键图像内容和所述第二视频区域的展示参数,确定所述第一视频的缩放比例;

根据所述缩放比例对所述第一视频进行缩放处理,得到所述第二视频。

在一些实施例中,所述根据所述关键图像内容和所述第二视频区域的展示参数,确定所述第一视频的缩放比例,包括:

根据所述关键图像区域的高和所述第二视频区域的高,确定第一缩放比例;

根据所述关键图像区域的宽和所述第二视频区域的宽,确定第二缩放比例;

将所述第一缩放比例和所述第二缩放比例中的最大值作为所述第一视频的缩放比例。

在一些实施例中,根据所述缩放比例对所述第一视频进行缩放处理,得到所述第二视频,包括:

根据所述视频缩放比例对所述第一视频进行缩放,得到缩放后的视频;

将所述缩放后的视频中的关键图像区域中的视频图像作为所述第二视频。

在一些实施例中,该方法还包括:

获取所述第一视频中的多帧视频图像;

根据所述多帧视频图像的灰度值,得到备选关键图像内容;

根据所述备选关键图像内容中符合预设条件的像素,确定所述关键图像内容。

在一些实施例中,所述获取所述第一视频中的多帧视频图像,包括:

从所述第一视频中的视频图像中等间距抽取多帧视频图像。

在一些实施例中,根据所述多帧视频图像的灰度值,得到所述备选关键图像内容,包括:

根据所述多帧视频图像的灰度值,确定所述多帧视频图像中相邻视频图像的差异信息;

根据确定的多个差异信息,得到平均差异信息;

对所述平均差异信息进行二值化处理后,将面积最大的矩形轮廓区域中的内容作为所述备选关键图像内容。

在一些实施例中,所述根据所述备选关键图像内容中符合预设条件的像素,确定所述关键图像内容,包括:

确定所述备选关键图像内容中的像素值大于第一阈值的数量;

若所述数量占所述备选关键图像内容中所有像素的数量的比值大于等于第二阈值,则将所述备选关键图像内容作为所述关键图像内容。

在一些实施例中,若包括多个关键图像内容,则根据每个关键图像内容对应的矩形轮廓区域,将确定的能够包围各矩形轮廓区域的最小包围盒作为所述关键图像区域。

在一些实施例中,该方法还包括:

根据所述多帧视频图像,得到所述多帧视频图像中的多组直线坐标信息;

根据置信率大于第三阈值的直线坐标信息组成的区域,确定所述关键图像区域。

在一些实施例中,通过下列方式确定置信率:

以两个目标坐标信息为中心,根据每组直线坐标信息与所述两个目标坐标信息的差值,将所述多组直线坐标信息分为两类;

针对任意一类中的直线坐标信息,对所述类中的直线坐标信息取平均,得到所述类对应的中心坐标信息;

将所述类中的任意一组直线坐标信息分别与所述类对应的中心坐标信息进行比较,将差值的绝对值大于等于第四阈值的直线坐标信息在所述类中的占比作为所述直线坐标信息的置信率。

第二方面,本公开还提供一种视频展示的装置,包括:

第一展示单元,被配置为执行通过展示界面中的第一视频区域展示第一视频;

第一获取单元,被配置为执行响应针对所述第一视频的评论展示触发操作,获取评论展示区域的展示参数;

缩小单元,被配置为执行根据所述评论展示区域的展示参数,将所述第一视频区域缩小为第二视频区域,使得所述评论展示区域被展示于所述展示界面中所述第二视频区域之外的界面区域;

第二展示单元,被配置为执行通过所述第二视频区域,展示第二视频;

其中,所述第二视频由所述第一视频缩小处理得到;所述第二视频中视频图像包括所述第一视频中视频图像的关键图像内容。

在一些实施例中,所述缩小单元具体被配置为执行:

获取所述第一视频区域的展示参数;根据所述评论展示区域的展示参数和所述第一视频区域的展示参数,确定所述第二视频区域的展示参数;根据所述第二视频区域的展示参数,将所述第一视频区域缩小为所述第二视频区域。

在一些实施例中,所述缩小单元具体被配置为执行:

将所述第一视频区域的高度与所述评论展示区域的高度的差值,作为所述第二视频区域的高度;将所述第一视频区域的宽度作为所述第二视频区域的宽度。

在一些实施例中,所述缩小单元具体被配置为执行:

将所述第一视频区域的高度缩小为所述第二视频区域的高度。

在一些实施例中,该装置还包括:

第二获取单元,被配置为执行获取第一视频中视频图像的关键图像内容,所述关键图像内容用于指示所述第一视频区域中包括的关键图像区域;

处理单元,被配置为执行根据所述关键图像内容和所述第二视频区域的展示参数,对所述第一视频进行处理,得到所述第二视频。

在一些实施例中,所述处理单元具体被配置为执行:

以所述第一视频经缩放后所述关键图像区域能在所述第二视频区域完整显示为约束条件,根据所述关键图像内容和所述第二视频区域的展示参数,确定所述第一视频的缩放比例;

根据所述缩放比例对所述第一视频进行缩放处理,得到所述第二视频。

在一些实施例中,所述处理单元具体被配置为执行:

根据所述关键图像区域的高和所述第二视频区域的高,确定第一缩放比例;

根据所述关键图像区域的宽和所述第二视频区域的宽,确定第二缩放比例;

将所述第一缩放比例和所述第二缩放比例中的最大值作为所述第一视频的缩放比例。

在一些实施例中,所述处理单元具体被配置为执行:

根据所述视频缩放比例对所述第一视频进行缩放,得到缩放后的视频;

将所述缩放后的视频中的关键图像区域中的视频图像作为所述第二视频。

在一些实施例中,该装置还包括:

第三获取单元,被配置为执行获取所述第一视频中的多帧视频图像;

第一确定单元,被配置为执行根据所述多帧视频图像的灰度值,得到备选关键图像内容;

第二确定单元,被配置为执行根据所述备选关键图像内容中符合预设条件的像素,确定所述关键图像内容。

在一些实施例中,所述第三获取单元具体被配置为执行:

从所述第一视频中的视频图像中等间距抽取多帧视频图像。

在一些实施例中,所述第一确定单元具体被配置为执行:

根据所述多帧视频图像的灰度值,确定所述多帧视频图像中相邻视频图像的差异信息;

根据确定的多个差异信息,得到平均差异信息;

对所述平均差异信息进行二值化处理后,将面积最大的矩形轮廓区域中的内容作为所述备选关键图像内容。

在一些实施例中,所述第一确定单元具体被配置为执行:

确定所述备选关键图像内容中的像素值大于第一阈值的数量;

若所述数量占所述备选关键图像内容中所有像素的数量的比值大于等于第二阈值,则将所述备选关键图像内容作为所述关键图像内容。

在一些实施例中,若包括多个关键图像内容,则所述第一确定单元具体被配置为执行:

根据每个关键图像内容对应的矩形轮廓区域,将确定的能够包围各矩形轮廓区域的最小包围盒作为所述关键图像区域。

在一些实施例中,该装置还包括:

第三确定单元,被配置为执行根据所述多帧视频图像,得到所述多帧视频图像中的多组直线坐标信息;根据置信率大于第三阈值的直线坐标信息组成的区域,确定所述关键图像区域。

在一些实施例中,所述第三确定单元具体被配置为执行:

通过下列方式确定置信率:

以两个目标坐标信息为中心,根据每组直线坐标信息与所述两个目标坐标信息的差值,将所述多组直线坐标信息分为两类;

针对任意一类中的直线坐标信息,对所述类中的直线坐标信息取平均,得到所述类对应的中心坐标信息;

将所述类中的任意一组直线坐标信息分别与所述类对应的中心坐标信息进行比较,将差值的绝对值大于等于第四阈值的直线坐标信息在所述类中的占比作为所述直线坐标信息的置信率。

第三方面,本公开另一实施例还提供了一种电子设备,包括至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开实施例提供的任一一种视频展示的方法。

第四方面,本公开另一实施例还提供了一种计算机存储介质,其中,所述计算机存储介质存储有计算机程序,所述计算机程序用于使计算机执行本公开实施例中的任一一种视频展示的方法。

本公开的实施例提供的技术方案至少带来以下有益效果:

本公开实施例中,通过展示界面中的第一视频区域展示第一视频,并响应针对第一视频的评论展示触发操作,获取评论展示区域的展示参数,然后根据评论展示区域的展示参数,将第一视频区域缩小为第二视频区域,使得评论展示区域被展示于所述展示界面中所述第二视频区域之外的界面区域,最后通过第二视频区域,展示由第一视频缩小处理得到、包括第一视频中视频图像的关键图像内容的第二视频,实现在评论展示区域被触发展示而导致视频展示区域发生变化的过程中,保证关键内容不缺失的情况下适配视频展示区域进行展示,优化视频展示效果,改善用户视频观看体验。

本公开的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本公开而了解。本公开的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。

附图说明

为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。

图1为根据本公开一个实施例的应用环境的示意图;

图2为根据本公开一个实施例的视频展示的方法流程示意图;

图3为根据本公开一个实施例的第一视频区域的示意图;

图4为根据本公开一个实施例的第二视频区域和评论展示区域的示意图;

图5为根据本公开一个实施例的抽取的视频图像中某一帧视频图像的掩膜示意图;

图6为根据本公开一个实施例进行二值化处理后的差异掩膜的示意图;

图7为根据本公开一个实施例多个关键图像内容的示意图;

图8为根据本公开一个实施例边缘检测处理的结果的示意图;

图9为根据本公开一个实施例给定的一维数据的示意图;

图10为根据本公开一个实施例进行聚类时两个类中心的示意图;

图11为根据本公开一个实施例第一次迭代的结果示意图;

图12为根据本公开一个实施例第十次迭代后类中心的位置的示意图;

图13为根据本公开一个实施例缩放前的视频展示区域的示意图;

图14为根据本公开一个实施例评论展示区域的示意图;

图15为根据本公开一个实施例缩放后的关键图像区域的示意图;

图16为根据本公开一个实施例调整显示区域中子区域的装置的结构示意图;

图17为根据本公开一个实施例电子设备的示意图。

具体实施方式

为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,显然,所描述的实施例仅仅是本发明一部份实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。

为了使本领域普通人员更好地理解本公开的技术方案,下面将结合附图,对本公开实施例中的技术方案进行清楚、完整地描述。

需要说明的是,本公开的说明书和权利要求书的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。

下面对文中出现的一些词语进行解释:

1、本公开实施例中术语“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。

2、本公开实施例中术语“电子设备”可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。

3、本公开实施例中术语“掩膜图像”,是指用选定的图像、图形或物体,对待处理的图像(全部或局部)进行遮挡,来控制图像处理的区域或处理过程。用于覆盖的特定图像或物体称为掩膜或模板。数字图像处理中,掩膜为二维矩阵数组,有时也用多值图像。掩膜图像主要用于:(1)提取感兴趣区,用预先制作的感兴趣区掩膜与待处理图像相乘,得到感兴趣区图像,感兴趣区内图像值保持不变,而区外图像值都为0;(2)屏蔽作用:用掩膜对图像上某些区域作屏蔽,使其不参加处理或不参加处理参数的计算,或仅对屏蔽区作处理或统计;(3)结构特征提取,用相似性变量或图像匹配方法检测和提取图像中与掩膜相似的结构特征。

4、本公开实施例中术语“图像的膨胀和腐蚀”,是两种基本的形态学运算,主要用来寻找图像中的极大区域和极小区域。其中膨胀类似于“领域扩张”,将图像的高亮区域或白色部分进行扩张,其运行结果图比原图的高亮区域更大;腐蚀类似“领域被蚕食”,将图像中的高亮区域或白色部分进行缩减细化,其运行结果图比原图的高亮区域更小。

5、本公开实施例中术语“形态学开操作”,对图像先腐蚀,再膨胀,形态学开操作恶意消除小物体;在纤细处分离物体;平滑较大的边界并不明显改变其面积。

6、本公开实施例中术语“形态学闭操作”,对图像先膨胀,再腐蚀。形态学闭操作可以排除小型黑洞(黑斑)。

用户在观看短视频时,如果评论面板被唤起,则评论面板会占用屏幕的一部分,因此短视频展示的区域就会变小,为了能够完整的播放短视频,则需要缩小短视频,短视频被缩小后,视频画面变小,从而影响播放质量。

有鉴于此,本公开提出了一种视频展示的方法、装置、电子设备及存储介质,用于解决上述问题。本公开的发明构思为从第一视频中获取关键图像内容,展示由第一视频缩小处理得到、包括第一视频中视频图像的关键图像内容的第二视频,实现在评论展示区域被触发展示而导致视频展示区域发生变化的过程中,保证关键图像内容不缺失的情况下适配视频展示区域进行展示,优化视频展示效果,改善用户视频观看体验。

为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述。

图1为本公开一个实施例的应用环境的示意图。

如图1所示,该应用环境中,例如可以包括存储系统10、服务器20以及终端设备30(30-1、30-2……30-N)。终端设备30可用来进行网络访问的任何合适的电子设备,包括但不限于计算机、笔记本电脑、智能电话、平板电脑或是其它类型的终端。存储系统10能够存储被访问的媒体信息,比如视频、图像、文本等,服务器20用于实现与终端设备30的交互,从存储系统中获取视频的关键内容后返回给终端设备30,由终端设备30将关键内容在缩小后的视频区域中进行展示。

终端设备30之间(例如,30_1与30_2或30_N之间)也可以经由网络40彼此通信。网络40可以是广义上的用于信息传递的网络,可以包括一个或多个通信网络,诸如无线通信网络、因特网、私域网、局域网、城域网、广域网或是蜂窝数据网络等。

本公开中的描述中仅就单个服务器或终端设备加以详述,但是本领域技术人员应当理解的是,示出的单个服务器20、终端设备30和存储系统10旨在表示本公开的技术方案涉及终端设备、服务器以及存储系统的操作。对单个终端设备以及单个服务器和存储系统加以详述至少为了说明方便,而非暗示对终端设备和服务器的数量、类型或是位置等具有限制。应当注意,如果向图示环境中添加附加模块或从其中去除个别模块,不会改变本公开的示例实施例的底层概念。另外,虽然为了方便说明而在图1中示出了从存储系统10到服务器20的双向箭头,但本领域技术人员可以理解的是,上述数据的收发也是可以通过网络40实现的。

如图2所示,为本公开实施例提供的视频展示的方法的流程示意图,包括以下步骤:

在步骤201中,通过展示界面中的第一视频区域展示第一视频;

在步骤202中,响应针对所述第一视频的评论展示触发操作,获取评论展示区域的展示参数;

在步骤203中,根据所述评论展示区域的展示参数,将所述第一视频区域缩小为第二视频区域,使得所述评论展示区域被展示于所述展示界面中所述第二视频区域之外的界面区域;

在步骤204中,通过所述第二视频区域,展示第二视频。

其中,所述第二视频由所述第一视频缩小处理得到;所述第二视频中视频图像包括所述第一视频中视频图像的关键图像内容。

如图3所示,为本公开实施例提供的第一视频区域的示意图,在未唤起评论展示区域时,第一视频区域可以为展示界面的区域。

如图4所示,为本公开实施例提供的第二视频区域和评论展示区域的示意图。从图4中可以看出,唤起评论展示区域后,第二视频区域和评论展示区域组成的区域为展示界面的区域。

在实施中,结合图3和图4可知,根据评论展示区域的展示参数,将第一视频区域缩小为第二视频区域,可以先获取第一视频区域的展示参数,再根据评论展示区域的展示参数和第一视频区域的展示参数,确定第二视频区域的展示参数,最后根据第二视频区域的展示参数,将第一视频区域缩小为第二视频区域。

上述方法,先确定第二视频的展示参数,然后根据第二视频的展示参数,将第一视频缩小为第二视频,从而可以方便快捷的进行缩小处理,提高处理速度。

具体的,在确定第二视频区域的展示参数时,可以将第一视频区域的高度和评论展示区域的高度的差值,作为第二视频区域的高度,将第一视频区域的宽度作为第二视频区域的宽度。

由于直接将第一视频区域的宽度作为第二视频区域的宽度,从而可以快速的确定第二视频区域的展示参数。

在一种可能的实现方式中,将第一视频区域的高度缩小为第二视频区域的高度,实现将第一视频区域缩小为第二视频区域的效果。

由于只进行了高度的缩小,宽度未做改变,因此可以提高处理速度。

在本公开实施例中,最后要通过第二视频区域,展示第二视频,上述是对如何确定第二视频区域的说明,下面对如何确定第二视频进行说明。

本公开实施例中第二视频中的图像包括第一视频中视频图像的关键图像内容,因此在确定第二视频时,首先获取第一视频中视频图像的关键图像内容,该关键图像内容用于指示第一视频区域中包括的关键图像区域,然后根据关键图像内容和第二视频区域的展示参数,对第一视频进行处理,得到第二视频。

上述给出的方式得到的第二视频,可以实现在评论展示区域被触发展示而导致视频展示区域发生变化的过程中,保证第一视频中视频图像的关键图像内容不缺失的情况下,适配第二视频区域进行展示,从而优化视频展示效果,改善用户观看视频的体验。

下面对如何得到第一视频中视频图像的关键图像内容做进一步说明。

在实施中,可以先获取第一视频中视频图像的多帧视频图像,然后根据多帧图像的灰度值,得到备选关键图像内容,最后根据备选关键图像内容中符合预设条件的像素,确定关键图像内容。

先确定备选关键图像内容,再从备选关键图像内容中确定关键图像内容,从而可以提高关键图像内容的准确率。

具体的,在获取第一视频中视频图像的多帧视频图像,可以从视频图像中等间距抽取多帧视频图像,比如,等间距抽取20帧图像。

等间距抽取多帧视频图像,在提高处理速度的同时使确定的关键图像内容更准确。

为了后续能够快速处理,在等间距抽取了多帧视频图像后,可以对每帧图像缩放到原始尺寸的0.4倍,需要说明的是,0.4倍只是举例说明,具体倍数本公开不做限定。

本公开实施例中,在确定备选关键图像内容时,可以根据多帧视频图像的灰度值,确定多帧视频图像中相邻视频图像的差异信息,然后根据确定的多个差异信息,得到平均差异信息,最后对平均差异信息进行二值化处理,将面积最大的矩形轮廓区域中的内容作为备选关键图像内容。

具体实施时,从第一视频中抽取了多帧视频图像后,可以根据多帧视频图像的灰度值,确定多帧视频图像中相邻图像的差异掩膜,然后对确定的多个差异掩膜进行形态学开操作,得到平均差异掩膜,再对平均差异掩膜进行形态学闭操作后,进行二值化处理,再将二值化处理后的图像中面积最大的矩形轮廓区域作为备选关键区域。

确定相邻图像的差异掩膜,首先确定每帧图像的掩膜,然后再确定相邻图像的差异掩膜。相邻图像的差异掩膜,即前后帧图像的差异掩膜。前后帧图像的差异掩膜可以采用自适应混合高斯背景建模方法MOG2计算。

如图5所示,为抽取的视频图像中某一帧视频图像的掩膜。

得到相邻图像之间的差异掩膜后,对各差异掩膜分别进行形态学开操作处理,然后将处理后的各差异掩膜进行累加,得到差异掩膜和,再将差异掩膜和进行平均,得到平均差异掩膜。

得到平均差异掩膜后,再对平均差异掩膜做形态学闭操作处理,然后再将形态学闭操作处理后的平均差异掩膜进行二值化处理。

从二值化处理后的差异掩膜中查找面积最大的矩形轮廓区域,将面积最大的矩形轮廓区域作为备选关键区域。

如图6所示,为二值化处理后的差异掩膜,从图6中可以看出,二值化处理后的差异掩膜中,存在5个矩形,即图6中白色的矩形。从图6中可以看出,面积最大的矩形区域即中间的白色矩形。

需要说明的是,本公开实施例中,形态学操作包括形态学开操作和形态学闭操作,其中,形态学开操作为对图像先腐蚀,再膨胀,形态学闭操作为形态学开操作的逆过程,即对图像先膨胀,再腐蚀。

腐蚀和膨胀是对像素值大的部分而言的,即高亮白部分而不是黑色部分。

膨胀是图像中的高亮部分进行膨胀,领域扩张,效果图拥有比原图更大的高亮区域;

腐蚀是图像中的高亮部分被腐蚀掉,领域缩减,效果图拥有比原图更小的高亮区域。

使用差异信息确定备选关键图像内容,可以使方便、快速、准确的确定出备选关键图像内容。

确定了备选关键图像内容后,判断备选关键图像内容是否为关键图像内容。判断依据可以为根据备选关键图像内容中符合预设条件的像素数量进行确定。

具体实施中,首先确定平均差异掩膜的备选关键图像内容中的像素值大于第一阈值的数量,如果该数量与备选关键图像内容中所有像素的数量的比值大于等于第二阈值,则将该备选关键图像内容作为关键图像内容。

本公开实施例中的第一阈值可以为128,第二阈值可以为0.9。

比如,备选关键图像内容中,共有200个像素,像素值大于128的像素有198个,则198和200的比值大于0.9,该备选关键图像内容为关键图像内容。

本公开实施例中,在确定了备选关键图像内容后,进一步确定该备选关键图像内容是否为关键图像内容,采用备选关键图像内容中的像素数量进行确定,从而进一步提高了确定关键图像内容的准确率。

本公开实施例中,确定的备选关键图像内容可能会存在多个,多个备选关键图像内容均为关键图像内容,则可以根据每个关键图像内容对应的矩形轮廓区域,将确定的能够包围各矩形轮廓区域的最小包围盒作为关键图像区域。

比如,如图7所示,为本公开实施例示出的多个关键图像内容的示意图,从图7中可以看出,确定了3个关键图像内容,将3个矩形轮廓区域的最小包围盒作为关键图像区域。

上述确定关键图像区域的方式,可以涵盖确定出多个关键图像内容的情况,从而可以提高确定关键图像内容的准确率。

本公开实施例还包括另外一种确定关键图像区域的方式,可以在使用上述确定关键图像区域的方式未确定出关键图像区域时使用,也可以直接采用该方式确定关键图像区域。

下面对另一种确定关键图像内容的方法进行说明。

首先,根据多帧视频图像,得到该多帧视频图像中多组直线坐标信息,然后根据置信率大于第三阈值的直线坐标信息组成的区域,确定关键图像区域。

确定了关键图像区域后,将关键图像区域中的内容作为关键图像内容。

具体实施中,可以将从第一视频中的视频图像中抽取的多帧视频图像做边缘检测处理,然后将边缘检测处理后的多帧视频图像做直线检测处理,得到至少一组直线坐标信息,将置信率大于第三阈值的直线坐标信息组成的区域作为关键图像区域。

如图8所示,为本公开实施例提供的边缘检测处理的结果。图8中,为对视频中某一帧视频图像做边缘检测处理的结果。

本公开实施例中,做直线处理,可以进行霍夫变换直线检测,由于关键图像区域的边界线都是水平或者竖直的,所以可以利用该先验特征,对检测到的直线进行滤除,只保留检测到的水平线或者竖直线。

从图8中可以看出,检测到上下两条直线。

使用直线坐标信息确定关键图像区域,可以在使用第一种方法无法确定关键图像区域时使用,提高确定关键图像区域的准确率。

在本公开实施例中,可以通过下列方式确定直线的置信率。

以两个目标坐标信息为中心,根据每组直线坐标信息与两个目标坐标信息的差值,将多组直线坐标信息分为两类,针对任意一类中的直线坐标信息,对该类中的直线坐标信息取平均,得到该类对应的中心坐标信息,将该类中任意一组直线坐标信息分别与该类对应的中心坐标信息进行比较,将差值的绝对值大于等于第四阈值的直线坐标信息在该类中的占比作为该直线坐标信息的置信率。

比如,检测到的直线对应的坐标为(y1,y2,y3,…,yn),由于一个有上下边框的视频,上下两个边框对应两条水平线,所以对(y1,y2,y3,…,yn)进行聚类数目为2的KMeans聚类,KMeans聚类迭代次数可以设置为10,得到聚类后的坐标信息表示(y_up,y_bottom)。

KMeans聚类过程如下:给定一维数据(x1,x2,…,x10),如图9所示,将一维数据(x1,x2,…,x10)聚成2类,可以先随机初始化两个类中心,如图10中两个带阴影的圆,为随机初始化的两个类中心(c1,c2)。

第1次迭代,计算c1到(x1,x2,…,x10)的距离,c2到(x1,x2,…,x10)的距离,对于x1,由于d(x1,c1)<=d(x1,c2),x1属于c1。x2到x10以此类推,得到第一次迭代的结果,如图11所示。

然后更新类中心c1=(x1+x2+x3)/3,c2=(x4+x5+x6+x7+x8+x9+x10)/7,第1次迭代后,新的类中心移动到如图12所示的位置。

后面的迭代跟第1次迭代过程一样,经过10次迭代后,类中心c1和c2如图12所示。

迭代10次后,c1和c2所在的位置,即为最终类中心的位置。

本公开实施例中,当:

std::abs(yi–y_up)<=2,numUpCount=numUpCount+1;

std::abs(yi–y_bottom)<=2,numBottomCount=numBottomCount+1。

检测到上下直线对应的置信率为upLineProb和downLineProb分别为:

upLineProb=numUpCount/20;

downLineProb=numBottomCount/20。

如果(std::abs(top-y_up)<=3并且upLineProb>=0.4并且(std::abs(bottom-y_bottom<=3)并且downLineProb>=0.4,满足该条件的结果,检测到位置也是非常置信的,因此可以将符合该条件的直线组成的区域作为关键图像区域。

采用上述方式确定直线的置信率,可以使选择出的直线组成的关键图像区域更准确。

本公开实施例中,根据关键图像内容和第二视频区域的展示参数,对第一视频进行处理,得到第二视频。

具体的,可以以第一视频中的关键图像区域经缩放后能在第二视频区域完整显示为约束条件,根据关键图像内容和第二视频区域的展示参数,确定第一视频的缩放比例,然后根据该缩放比例,对第一视频进行缩放处理,得到第二视频。

以第一视频中的关键图像区域经缩放后能在第二视频区域完整显示为约束条件,可以实现在保证关键图像内容不缺失的情况下适配第二视频展示区域进行展示,优化视频展示效果,改善用户视频观看体验。

下面对如何确定第一视频的缩放比例进行说明。

可以先根据关键图像区域的高度和第二视频区域的高度,确定第一缩放比例,以及根据关键图像区域的宽度和第二视频区域的宽度,确定第二缩放比例,然后将第一缩放比例和第二缩放比例中的最大值作为第一视频的缩放比例。

从第一缩放比例和第二缩放比例中选择最大值作为第一视频的缩放比例,可以保证关键图像内容在第二视频区域中完整显示,优化视频展示效果,改善用户视频观看体验。

确定了第一视频的缩放比例后,根据该缩放比例缩放第一视频,得到缩放后的视频,然后将缩放后的视频中的关键图像区域中的视频图像作为第二视频。

上述方式得到的第二视频,可以实现在保证关键内容不缺失的情况下适配视频展示区域进行展示,优化视频展示效果,改善用户视频观看体验。

为了便于理解,下面以具体实施例对本公开进行说明。

1、用户(User)打开应用(App)时,向服务端(Server)请求正常的视频(Video)流数据,例如:

其中,width为原始视频的宽度,height为原始视频的高度,VideoDisplayLocationInfo为关键图像区域,leftRatio为关键图像区域的左边界与展示界面左边界的比值,topRatio为关键图像区域的上边界与展示界面上边界的比值,widthRatio为关键图像区域的宽度与原始视频的宽度的比值,heightRatio为关键图像区域的高度与原始视频的高度的比值。

2、视频内容同比例居中在屏幕(Screen)上播放,例如:

需要说明的是,这里的屏幕即缩放前的视频展示区域。

如图13所示,1801为缩放前的视频展示区域,即宽度为1080,高度为1920。

3、用户点击评论按钮或其他可展开评论面板的按钮,开始展开评论面板(CommentPanel),例如:

如图14所示,1901为评论面板,即评论展示区域,宽度为1080,高度为1536,1902为缩放后的展示区域。

4、通过屏幕宽高与将完整展开后的评论面板可以计算出完成缩放后的展示区域,例如:

{

left:0,

top:0,

width:1080,

height:384(1920-1536)

}

其中,缩放后的展示区域的高度为缩放前的展示区域的高度与评论面板的高度的差值。

5、通过VideoDisplayLocationInfo计算出关键图像区域的内容当前在屏幕上的相对位置,之后根据该相对位置以及根据评论面板展开进度,进行视频的位置移动与缩放,例如:

{

left:0,(0*1080)

top:324,(0.3*1920)

width:1080,(1.0*1080)

height:960(0.5*1920)

}

原始关键图像区域的宽为1080,高为960。

如图15所示,为缩放后关键图像区域的位置和尺寸,图15中的缩放后关键图像区域2001,通过以上计算出的相对位置,当评论面板完全展开后,缩放后关键图像区域2001需要向上移动324,相较于原始视频中的关键图像区域缩放0.4(384/960),即,缩放后的关键图像区域的宽度为432,高度为384。

在实际应用中,可以监听评论面板的展开与隐藏进度(完全展开为1、完全隐藏为0),动态调整视频播放区域的位移与缩放,例如:

1):评论面板展开768;

2):计算当前展开比例0.5;

3):视频向上位移162;

4):视频缩放0.75。

各进度计算一致,直至完全展开或完全隐藏。

如图16所示,基于相同的发明构思,本公开实施例示出一种视频展示的装置2100,括:

第一展示单元2101,被配置为执行通过展示界面中的第一视频区域展示第一视频;

第一获取单元2102,被配置为执行响应针对所述第一视频的评论展示触发操作,获取评论展示区域的展示参数;

缩小单元2103,被配置为执行根据所述评论展示区域的展示参数,将所述第一视频区域缩小为第二视频区域,使得所述评论展示区域被展示于所述展示界面中所述第二视频区域之外的界面区域;

第二展示单元2104,被配置为执行通过所述第二视频区域,展示第二视频;

其中,所述第二视频由所述第一视频缩小处理得到;所述第二视频中视频图像包括所述第一视频中视频图像的关键图像内容。

在一些实施例中,若所述媒体信息为视频,所述缩小单元具体被配置为执行:

获取所述第一视频区域的展示参数;根据所述评论展示区域的展示参数和所述第一视频区域的展示参数,确定所述第二视频区域的展示参数;根据所述第二视频区域的展示参数,将所述第一视频区域缩小为所述第二视频区域。

在一些实施例中,所述缩小单元具体被配置为执行:

将所述第一视频区域的高度与所述评论展示区域的高度的差值,作为所述第二视频区域的高度;将所述第一视频区域的宽度作为所述第二视频区域的宽度。

在一些实施例中,所述缩小单元具体被配置为执行:

将所述第一视频区域的高度缩小为所述第二视频区域的高度。

在一些实施例中,该装置还包括:

第二获取单元,被配置为执行获取第一视频中视频图像的关键图像内容,所述关键图像内容用于指示所述第一视频区域中包括的关键图像区域;

处理单元,被配置为执行根据所述关键图像内容和所述第二视频区域的展示参数,对所述第一视频进行处理,得到所述第二视频。

在一些实施例中,所述处理单元具体被配置为执行:

以所述第一视频经缩放后所述关键图像区域能在所述第二视频区域完整显示为约束条件,根据所述关键图像内容和所述第二视频区域的展示参数,确定所述第一视频的缩放比例;

根据所述缩放比例对所述第一视频进行缩放处理,得到所述第二视频。

在一些实施例中,所述处理单元具体被配置为执行:

根据所述关键图像区域的高和所述第二视频区域的高,确定第一缩放比例;

根据所述关键图像区域的宽和所述第二视频区域的宽,确定第二缩放比例;

将所述第一缩放比例和所述第二缩放比例中的最大值作为所述第一视频的缩放比例。

在一些实施例中,所述处理单元具体被配置为执行:

根据所述视频缩放比例对所述第一视频进行缩放,得到缩放后的视频;

将所述缩放后的视频中的关键图像区域中的视频图像作为所述第二视频。

在一些实施例中,该装置还包括:

第三获取单元,被配置为执行获取所述第一视频中的多帧视频图像;

第一确定单元,被配置为执行根据所述多帧视频图像的灰度值,得到备选关键图像内容;

第二确定单元,被配置为执行根据所述备选关键图像内容中符合预设条件的像素,确定所述关键图像内容。

在一些实施例中,所述第三获取单元具体被配置为执行:

从所述第一视频中的视频图像中等间距抽取多帧视频图像。

在一些实施例中,所述第一确定单元具体被配置为执行:

根据所述多帧视频图像的灰度值,确定所述多帧视频图像中相邻视频图像的差异信息;

根据确定的多个差异信息,得到平均差异信息;

对所述平均差异信息进行二值化处理后,将面积最大的矩形轮廓区域中的内容作为所述备选关键图像内容。

在一些实施例中,所述第一确定单元具体被配置为执行:

确定所述备选关键图像内容中的像素值大于第一阈值的数量;

若所述数量占所述备选关键图像内容中所有像素的数量的比值大于等于第二阈值,则将所述备选关键图像内容作为所述关键图像内容。

在一些实施例中,若包括多个关键图像内容,则所述第一确定单元具体被配置为执行:

根据每个关键图像内容对应的矩形轮廓区域,将确定的能够包围各矩形轮廓区域的最小包围盒作为所述关键图像区域。

在一些实施例中,该装置还包括:

第三确定单元,被配置为执行根据所述多帧视频图像,得到所述多帧视频图像中的多组直线坐标信息;根据置信率大于第三阈值的直线坐标信息组成的区域,确定所述关键图像区域。

在一些实施例中,所述第三确定单元具体被配置为执行:

通过下列方式确定置信率:

以两个目标坐标信息为中心,根据每组直线坐标信息与所述两个目标坐标信息的差值,将所述多组直线坐标信息分为两类;

针对任意一类中的直线坐标信息,对所述类中的直线坐标信息取平均,得到所述类对应的中心坐标信息;

将所述类中的任意一组直线坐标信息分别与所述类对应的中心坐标信息进行比较,将差值的绝对值大于等于第四阈值的直线坐标信息在所述类中的占比作为所述直线坐标信息的置信率。

下面参照图17来描述根据本公开的这种实施方式的电子设备130。图1显示的电子设备130仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。

如图17所示,电子设备130以通用电子设备的形式表现。电子设备130的组件可以包括但不限于:上述至少一个处理器131、上述至少一个存储器132、连接不同系统组件(包括存储器132和处理器131)的总线133。

总线133表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器、外围总线、处理器或者使用多种总线结构中的任意总线结构的局域总线。

存储器132可以包括易失性存储器形式的可读介质,例如随机存取存储器(RAM)1321和/或高速缓存存储器1322,还可以进一步包括只读存储器(ROM)1323。

存储器132还可以包括具有一组(至少一个)程序模块1324的程序/实用工具1325,这样的程序模块1324包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。

电子设备130也可以与一个或多个外部设备134(例如键盘、指向设备等)通信,还可与一个或者多个使得用户能与电子设备130交互的设备通信,和/或与使得该电子设备130能与一个或多个其它电子设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口135进行。并且,电子设备130还可以通过网络适配器136与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器136通过总线133与用于电子设备130的其它模块通信。应当理解,尽管图中未示出,可以结合电子设备130使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理器、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

在一些可能的实施方式中,本公开提供的一种视频展示的方法的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在计算机设备上运行时,程序代码用于使计算机设备执行本说明书上述描述的根据本公开各种示例性实施方式的一种视频展示的方法中的步骤。

程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

本公开的实施方式的用于图像缩放的程序产品可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在电子设备上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、有线、光缆、RF等等,或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户电子设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户电子设备上部分在远程电子设备上执行、或者完全在远程电子设备或服务端上执行。在涉及远程电子设备的情形中,远程电子设备可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户电子设备,或者,可以连接到外部电子设备(例如利用因特网服务提供商来通过因特网连接)。

应当注意,尽管在上文详细描述中提及了装置的若干单元或子单元,但是这种划分仅仅是示例性的并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多单元的特征和功能可以在一个单元中具体化。反之,上文描述的一个单元的特征和功能可以进一步划分为由多个单元来具体化。

此外,尽管在附图中以特定顺序描述了本公开方法的操作,但是,这并非要求或者暗示必须按照该特定顺序来执行这些操作,或是必须执行全部所示的操作才能实现期望的结果。附加地或备选地,可以省略某些步骤,将多个步骤合并为一个步骤执行,和/或将一个步骤分解为多个步骤执行。

本领域内的技术人员应明白,本公开的实施例可提供为方法、系统、或计算机程序产品。因此,本公开可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本公开可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本公开是参照根据本公开实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程图像缩放设备的处理器以产生一个机器,使得通过计算机或其他可编程图像缩放设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程图像缩放设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程图像缩放设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本公开的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本公开范围的所有变更和修改。

显然,本领域的技术人员可以对本公开进行各种改动和变型而不脱离本公开的精神和范围。这样,倘若本公开的这些修改和变型属于本公开权利要求及其等同技术的范围之内,则本公开也意图包含这些改动和变型在内。

28页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:一种互动方法和相关装置

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!

技术分类