用于时间运动矢量预测的方法和设备

文档序号:1721475 发布日期:2019-12-17 浏览:32次 >En<

阅读说明:本技术 用于时间运动矢量预测的方法和设备 (Method and apparatus for temporal motion vector prediction ) 是由 许晓中 李翔 刘杉 于 2019-06-04 设计创作,主要内容包括:一种用于解码器的视频解码方法包括从已编码视频码流获取当前图片。所述方法还包括从所述当前图片中的当前块的多个相邻块选择第一相邻块。所述方法还包括基于所选的所述第一相邻块的运动矢量预测值来确定先前解码的图片中包括的候选块,且所述候选块属于以下之一:(i)与所述当前块的同位块相邻,以及(ii)在所述同位块内。所述方法还包括基于所述候选块的运动矢量预测值对所述当前块执行时间运动矢量预测。(A video decoding method for a decoder includes obtaining a current picture from an encoded video bitstream. The method also includes selecting a first neighboring block from a plurality of neighboring blocks to a current block in the current picture. The method also includes determining a candidate block included in a previously decoded picture based on a motion vector predictor of the selected first neighboring block, and the candidate block belongs to one of: (i) neighboring a co-located block of the current block, and (ii) within the co-located block. The method also includes performing temporal motion vector prediction for the current block based on motion vector predictors of the candidate blocks.)

用于时间运动矢量预测的方法和设备

本申请要求2018年6月8日提交的第62/682,588号美国临时申请案“时间运动矢量预测方法(METHODS FOR TEMPORAL MOTION VECTOR PREDICTION)”的优先权益,以及于2018年11月28日提交的第16/203,495号美国正式申请案“时间运动矢量预测方法和设备(METHOD AND APPARATUS FOR TEMPORAL MOTION VECTOR PREDICTION)”的优先权,所述两个申请案的公开内容以全文引用的方式并入本文中。

技术领域

本申请大体上涉及视频编码。

背景技术

本文中提供的背景技术描述是为了大体上呈现本申请的上下文。在此背景技术部分中描述的程度上,当前署名的发明人的工作以及在提交时可能不具有作为现有技术的资格的描述的各方面既不明确地也不隐含地被认作是针对本申请的现有技术。

数十年来已知使用具有运动补偿的帧间图片预测的视频编码和解码。未压缩的数字视频可包括一系列图片,每个图片具有例如1920×1080亮度样本和相关色度样本的空间维度。所述一系列图片可具有例如每秒60个图片或60Hz的固定或可变图片速率(非正式地,也被称作帧率)。未压缩视频具有显著的位速率要求。举例来说,每样本8位的1080p60 4:2:0视频(60Hz帧率下的1920×1080亮度样本分辨率)需要接近1.5Gbit/s的带宽。一小时的此类视频需要超过600GB的存储空间。

视频编码和解码的一个目的可以是通过压缩来减少输入视频信号中的冗余。压缩可有助于降低上述带宽或存储空间要求,在一些情况下降低两个数量级或更多。可使用无损压缩和有损压缩以及其组合。无损压缩是指可从压缩的原始信号重建原始信号的精确副本的技术。当使用有损压缩时,重建的信号可能与原始信号不同,但原始信号与重建的信号之间的失真小得足以使重建的信号对预期应用有用。在视频的情况下,广泛使用有损压缩。容许的失真量取决于应用;例如,相比于电视分发应用的用户,某些消费者流式传输应用的用户能容忍更高的失真。可实现的压缩比可反映:可允许的/可容许的失真越高,可产生越高的压缩比。

运动补偿可以是有损压缩技术,且可涉及以下技术:来自先前重建的图片或其一部分(参考图片)的样本数据块在由运动矢量(此后称为MV(motion vector,MV))指示的方向上空间移位之后用于预测新重建的图片或图片部分。在一些情况下,参考图片可与当前正在重建的图片相同。MV可具有两个维度X和Y,或三个维度,第三维度指示使用中的参考图片(后者间接地可以是时间维度)。

在一些视频压缩技术中,可根据其它MV预测适用于某一样本数据区域的MV,所述其它MV例如是与正在重建的区域空间相邻近的另一样本数据区域相关、且按解码次序在所述MV之前的MV。这样做可大量地减少对MV进行编码所需的数据量,由此消除冗余且提高压缩。举例来说,MV预测可有效地运作,因为当对源自相机的输入视频信号(称为天然视频)进行编码时,存在如下的统计可能性:比单个MV适用的区域大的区域在类似方向上移动,且因此,可在一些情况下使用从相邻区域的MV导出的类似运动矢量进行预测。这使得给定区域中发现的MV与根据周围MV预测的MV类似或相同,且在熵编码之后,表示MV的位数目可小于在对MV直接编码的情况下会使用的位数目。在一些情况下,MV预测可以是从原始信号(即:样本流)导出的信号(即:MV)的无损压缩的实例。在其它情况下,MV预测本身可能是有损的,这例如是由于在根据周围若干MV计算预测值时的舍入误差导致的。

H.265/HEVC(ITU-T H.265建议书,“高效视频编码(High Efficiency VideoCoding)”,2016年12月)中描述了各种MV预测机制。在H.265提供的许多MV预测机制中,此处描述的是下文称作“空间合并”的技术。

可从同位块导出当前块的时间运动矢量预测(Temporal motion vectorprediction,TMVP)。当从一个图片到另一图片发生运动时,两个图片(例如,当前图片和同位图片)中的同位块可能不含有相同的运动对象。因此,时间运动矢量的现有推导可能得不到最准确的TMVP。

发明内容

本申请的示范性实施例包括一种用于解码器的视频解码方法。所述方法包括从已编码视频码流获取当前图片。所述方法还包括从所述当前图片中的当前块的多个相邻块选择第一相邻块。所述方法还包括基于所选的所述第一相邻块的运动矢量预测值来确定先前解码的图片中包括的候选块,且所述候选块属于以下之一:(i)与所述当前块的同位块相邻,及(ii)在所述同位块内。所述方法还包括基于所述候选块的运动矢量预测值对所述当前块执行时间运动矢量预测。

本申请的示范性实施例包括一种视频解码器。所述视频解码器包括处理电路,所述处理电路用于从已编码视频码流获取当前图片。所述处理电路还用于从所述当前图片的当前块的多个相邻块选择第一相邻块。所述处理电路还用于基于所选的所述第一相邻块的运动矢量预测值确定先前解码的图片中包括的候选块,且所述候选块属于以下之一:(i)与所述当前块的同位块相邻,及(ii)在所述同位块内。所述处理电路还用于基于所述候选块的运动矢量预测值对所述当前块执行时间运动矢量预测。

一种存储有指令的非易失性计算机可读介质,所述指令在由视频解码器中的处理器执行时使所述处理器执行方法。所述方法包括从已编码视频码流获取当前图片。所述方法还包括从所述当前图片中的当前块的多个相邻块选择第一相邻块。所述方法还包括基于所选的所述第一相邻块的运动矢量预测值来确定先前解码的图片中包括的候选块,且所述候选块属于以下之一:(i)与所述当前块的同位块相邻,及(ii)在所述同位块内。所述方法还包括基于所述候选块的运动矢量预测值对所述当前块执行时间运动矢量预测。

附图说明

根据以下详细描述和附图,将更清楚所公开主题的其它特征、本质和各种优势,在附图中:

图1是根据实施例的通信系统(100)的简化框图的示意性说明。

图2是根据实施例的通信系统(200)的简化框图的示意性说明。

图3是根据实施例的解码器的简化框图的示意性说明。

图4是根据实施例的编码器的简化框图的示意性说明。

图5是根据另一实施例的编码器的框图。

图6是根据另一实施例的解码器的框图。

图7是当前块以及当前块的周围空间合并候选者和时间候选者的示意性说明。

图8示出移动对象的不同图片。

图9示出实例TMVP推导。

图10示出当前块的实例运动矢量。

图11示出当前块的空间相邻块。

图12示出运动矢量方向的实例类别。

图13示出根据两个运动矢量确定运动矢量平均值的实例。

图14示出关于同位块的实例候选位置。

图15示出关于同位块的实例候选位置。

图16示出TMPV推导的实例,其中参考图片和同位图片处于当前图片的相对侧。

图17示出由编码器或解码器执行的过程的实施例。

图18是根据实施例的计算机系统的示意性说明。

具体实施方式

图1示出根据本申请的实施例的通信系统(100)的简化框图。通信系统(100)包括多个终端装置,所述终端装置可通过例如网络(150)彼此通信。举例来说,通信系统(100)包括通过网络(150)互连的第一对终端装置(110)和终端装置(120)。在图1的实例中,第一对终端装置(110)和终端装置(120)执行单向数据传输。举例来说,终端装置(110)可对视频数据(例如由终端装置(110)捕获的视频图片流)进行编码以通过网络(150)传输到另一终端装置(120)。已编码的视频数据可以一个或多个已编码视频码流形式传输。终端装置(120)可从网络(150)接收已编码视频数据,对已编码视频数据进行解码以恢复视频图片并根据恢复的视频数据显示视频图片。单向数据传输在媒体服务等应用中可能是常见的。

在另一实例中,通信系统(100)包括执行已编码视频数据的双向传输的第二对终端装置(130)和终端装置(140),所述双向传输可例如在视频会议期间发生。对于双向数据传输,在实例中,终端装置(130)和终端装置(140)中的每个终端装置可对视频数据(例如由终端装置捕获的视频图片流)进行编码以通过网络(150)传输到终端装置(130)和终端装置(140)中的另一终端装置。终端装置(130)和终端装置(140)中的每个终端装置还可接收由终端装置(130)和终端装置(140)中的另一终端装置传输的已编码视频数据,且可对所述已编码视频数据进行解码以恢复视频图片,且可根据恢复的视频数据在可访问的显示装置处显示视频图片。

在图1实例中,终端装置(110)、终端装置(120)、终端装置(130)和终端装置(140)可示为服务器、个人计算机和智能电话,但本申请的原理可不限于此。本申请的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(150)表示在终端装置(110)、终端装置(120)、终端装置(130)和终端装置(140)之间传送已编码视频数据的任何数目的网络,包括例如有线(连线的)和/或无线通信网络。通信网络(150)可在电路交换和/或分组交换信道中交换数据。代表性网络包括电信网络、局域网、广域网和/或互联网。出于本论述的目的,除非在下文中有所解释,否则网络(150)的架构和拓扑对于本申请的操作来说可能是无关紧要的。

图2示出视频编码器和视频解码器在流式传输环境中的放置,作为所公开主题的应用的实例。所公开主题可同等地适用于其它支持视频的应用,包括例如,视频会议、数字TV、在包括CD、DVD、存储棒等的数字介质上存储压缩视频等等。

流式传输系统可包括捕获子系统(213),所述捕获子系统可包括数码相机等视频源(201),所述视频源创建例如未压缩的视频图片流(202)。在实例中,视频图片流(202)包括由数码相机拍摄的样本。相较于已编码的视频数据(204)(或已编码视频码流),被描绘为粗线以强调高数据量的视频图片流(202)可由电子装置(220)处理,所述电子装置包括耦合到视频源(201)的视频编码器(203)。视频编码器(203)可包括硬件、软件或软硬件组合以实现或实施如下文更详细地描述的所公开主题的各方面。相较于视频图片流(202),被描绘为细线以强调较低数据量的已编码的视频数据(204)(或已编码的视频码流(204))可存储在流式传输服务器(205)上以供将来使用。一个或多个流式传输客户端子系统,例如图2中的客户端子系统(206)和客户端子系统(208),可访问流式传输服务器(205)以检索已编码的视频数据(204)的副本(207)和副本(209)。客户端子系统(206)可包括例如电子装置(230)中的视频解码器(210)。视频解码器(210)对已编码的视频数据的传入副本(207)进行解码且产生可在显示器(212)(例如显示屏)或另一呈现装置(未描绘)上呈现的视频图片输出流(211)。在一些流式传输系统中,可根据某些视频编码/压缩标准对已编码的视频数据(204)、视频数据(207)和视频数据(209)(例如视频码流)进行编码。那些标准的实例包括ITU-T H.265建议书。在实例中,正在开发的视频编码标准非正式地称为多功能视频编码或VVC(Versatile Video Coding,VVC)。所公开主题可用于VVC的上下文中。

应注意,电子装置(220)和电子装置(230)可包括其它组件(未示出)。举例来说,电子装置(220)可包括视频解码器(未示出),且电子装置(230)还可包括视频编码器(未示出)。

图3是根据本申请的实施例的视频解码器(310)的框图。视频解码器(310)可包括于电子装置(330)中。电子装置(330)可包括接收器(331)(例如接收电路)。视频解码器(310)可用于代替图2实例中的视频解码器(210)。

接收器(331)可接收将由视频解码器(310)解码的一个或多个已编码视频序列;在同一实施例或另一实施例中,一次接收一个已编码视频序列,其中每个已编码视频序列的解码独立于其它已编码视频序列。可从信道(301)接收已编码视频序列,所述信道可以是通向存储已编码的视频数据的存储装置的硬件/软件链路。接收器(331)可接收已编码的视频数据以及其它数据,例如,可转发到它们各自的使用实体(未描绘)的已编码音频数据和/或辅助数据流。接收器(331)可将已编码视频序列与其它数据分开。为了防止网络抖动,缓冲存储器(315)可耦合在接收器(331)与熵解码器/解析器(320)(此后称为“解析器(320)”)之间。在某些应用中,缓冲存储器(315)是视频解码器(310)的部分。在其它应用中,所述缓冲存储器可在视频解码器(310)外部(未描绘)。在另外其它应用中,在视频解码器(310)外部可存在缓冲存储器(未描绘)以例如防止网络抖动,且另外,在视频解码器(310)内部可存在另一缓冲存储器(315)以例如处理播出定时。当接收器(331)从具有足够带宽和可控性的存储/转发装置或从等时同步网络接收数据时,可能不需要缓冲存储器(315),或所述缓冲存储器可以较小。为了在互联网等尽力而为业务分组网络上使用,可能需要缓冲存储器(315),所述缓冲存储器可相对较大且可有利地具有自适应性大小,且可至少部分地实施于操作系统或视频解码器(310)外部的类似元件(未描绘)中。

视频解码器(310)可包括解析器(320)以根据已编码视频序列重建符号(321)。这些符号的类别包括用于管理视频解码器(310)的操作的信息,以及可能用以控制呈现装置(312)(例如,显示屏)等呈现装置的信息,所述呈现装置不是电子装置(330)的组成部分,但可耦合到电子装置(330),如图3中所示。用于呈现装置的控制信息可以是辅助增强信息(Supplemental Enhancement Information,SEI消息)或视频可用性信息(VideoUsability Information,VUI)参数集片段(未描绘)的形式。解析器(320)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准,且可遵循各种原理,包括可变长度编码、霍夫曼编码(Huffman coding)、具有或不具有上下文灵敏度的算术编码等等。解析器(320)可基于对应于群组的至少一个参数,从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图片群组(Group of Pictures,GOP)、图片、图块、切片、宏块、编码单元(Coding Unit,CU)、块、变换单元(Transform Unit,TU)、预测单元(Prediction Unit,PU)等等。解析器(320)还可从已编码视频序列提取信息,例如变换系数、量化器参数值、运动矢量等等。

解析器(320)可对从缓冲存储器(315)接收的视频序列执行熵解码/解析操作,从而创建符号(321)。

取决于已编码视频图片或已编码视频图片的部分(例如:帧间图片和帧内图片、帧间块和帧内块)的类型以及其它因素,符号(321)的重建可涉及多个不同单元。涉及哪些单元以及涉及方式可由解析器(320)从已编码视频序列解析的子群控制信息控制。为了清晰起见,未描述解析器(320)与下文的多个单元之间的此类子群控制信息流。

除已经提及的功能块以外,视频解码器(310)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施例中,这些单元中的许多单元彼此紧密交互并且可以至少部分地彼此集成。然而,出于描述所公开主题的目的,概念上细分成下文的功能单元是适当的。

第一单元是缩放器/逆变换单元(351)。缩放器/逆变换单元(351)从解析器(320)接收作为符号(321)的量化变换系数以及控制信息,包括使用哪种变换、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(351)可输出包括样本值的块,所述样本值可输入到聚合器(355)中。

在一些情况下,缩放器/逆变换单元(351)的输出样本可涉及帧内编码块;即:不使用来自先前重建的图片的预测性信息但可使用来自当前图片的先前重建部分的预测性信息的块。此类预测性信息可由帧内预测单元(352)提供。在一些情况下,帧内预测单元(352)使用从当前图片缓冲器(358)提取的周围已重建信息生成大小和形状与正在重建的块相同的块。举例来说,当前图片缓冲器(358)缓冲部分重建的当前图片和/或完全重建的当前图片。在一些情况下,聚合器(355)基于每个样本将帧内预测单元(352)生成的预测信息添加到由缩放器/逆变换单元(351)提供的输出样本信息。

在其它情况下,缩放器/逆变换单元(351)的输出样本可涉及帧间编码和潜在运动补偿块。在此情况下,运动补偿预测单元(353)可访问参考图片存储器(357)以提取用于预测的样本。在根据涉及块的符号(321)对提取的样本进行运动补偿之后,这些样本可由聚合器(355)添加到缩放器/逆变换单元(351)的输出(在这种情况下被称作残差样本或残差信号),以便生成输出样本信息。运动补偿预测单元(353)从参考图片存储器(357)内的地址获取预测样本,这些地址可受运动矢量控制,呈符号(321)形式的可具有例如X、Y和参考图片分量的所述运动矢量可供运动补偿预测单元(353)使用。运动补偿还可包括在使用子样本精确运动矢量时从参考图片存储器(357)提取的样本值的内插、运动矢量预测机制等等。

聚合器(355)的输出样本可在环路滤波器单元(356)中经受各种环路滤波技术。视频压缩技术可包括环路内滤波器技术,所述环路内滤波器技术受控于包括在已编码视频序列(也称作已编码视频码流)中的参数,且所述参数作为来自解析器(320)的符号(321)可用于环路滤波器单元(356),但还可响应于在解码已编码图片或已编码视频序列的先前(按解码次序)部分期间获得的元信息,以及响应于先前重建且经过环路滤波的样本值。

环路滤波器单元(356)的输出可以是样本流,所述样本流可输出到呈现装置(312)以及存储在参考图片存储器(357)中以用于将来帧间图片预测。

一旦完全重建,某些已编码图片就可用作参考图片以用于将来预测。举例来说,一旦对应于当前图片的已编码图片被完全重建,且已编码图片(通过例如解析器(320))被识别为参考图片,则当前图片缓冲器(358)可变为参考图片存储器(357)的一部分,且可在开始重建后续已编码图片之前重新分配新的当前图片缓冲器。

视频解码器(310)可根据例如ITU-T H.265建议书的标准中的预定视频压缩技术执行解码操作。在已编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件的意义上,已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。具体地说,配置文件可从视频压缩技术或标准中可用的所有工具中选择某些工具作为在所述配置文件下可供使用的仅有工具。对于合规性还必要的是,已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下,层级限制最大图片大小、最大帧率、最大重建取样率(以例如每秒兆个样本为单位进行测量)、最大参考图片大小等。在一些情况下,由层级设定的限制可通过假想参考解码器(HypotheticalReference Decoder,HRD)规范和在已编码视频序列中用信号表示的HRD缓冲器管理元数据来进一步限定。

在实施例中,接收器(331)可接收额外(冗余)数据和已编码的视频。所述额外数据可被包括为已编码视频序列的部分。所述额外数据可由视频解码器(310)用以对数据进行适当解码和/或较准确地重建原始视频数据。额外数据可呈例如时间、空间或信噪比(signal noise ratio,SNR)增强层、冗余切片、冗余图片、前向纠错码等形式。

图4是根据本申请的实施例的视频编码器(403)的框图。视频编码器(403)包括于电子装置(420)中。电子装置(420)包括传输器(440)(例如传输电路)。视频编码器(403)可用于代替图2实例中的视频编码器(203)。

视频编码器(403)可从(并非图4实例中的电子装置(420)的部分的)视频源(401)接收视频样本,所述视频源可捕获将由视频编码器(403)编码的视频图像。在另一实例中,视频源(401)是电子装置(420)的一部分。

视频源(401)可提供将由视频编码器(403)编码的呈数字视频样本流形式的源视频序列,所述数字视频样本流可具有任何合适位深度(例如:8位、10位、12位……)、任何色彩空间(例如BT.601Y CrCB、RGB……)和任何合适取样结构(例如Y CrCb 4:2:0、Y CrCb 4:4:4)。在媒体服务系统中,视频源(401)可以是存储先前准备的视频的存储装置。在视频会议系统中,视频源(401)可以是捕获本地图像信息作为视频序列的相机。可将视频数据提供为多个单独的图片,当按顺序观看时,这些图片被赋予运动。图片自身可组织为空间像素阵列,其中取决于所用的取样结构、色彩空间等,每个像素可包括一个或多个样本。所属领域的技术人员可以很容易理解像素与样本之间的关系。下文侧重于描述样本。

根据实施例,视频编码器(403)可实时或在由应用所要求的任何其它时间约束下将源视频序列的图片编码且压缩成已编码视频序列(443)。施行适当的编码速度是控制器(450)的一个功能。在一些实施例中,控制器(450)控制如下文所描述的其它功能单元且在功能上耦合到这些其它功能单元。为了清晰起见,未描绘耦合。由控制器(450)设置的参数可包括速率控制相关参数(图片跳过、量化器、率失真优化技术的λ值等)、图片大小、图片群组(group of pictures,GOP)布局,最大运动矢量搜索范围等。控制器(450)可用于具有其它合适的功能,这些功能涉及针对某一系统设计优化的视频编码器(403)。

在一些实施例中,视频编码器(403)配置成在编码环路中操作。作为过于简单的描述,在实例中,编码环路可包括源编码器(430)(例如,负责基于待编码的输入图片和参考图片创建符号,例如符号流)和嵌入于视频编码器(403)中的(本地)解码器(433)。解码器(433)以类似于(远程)解码器也将创建的方式重建符号以创建样本数据(因为在所公开主题中所考虑的视频压缩技术中,符号与已编码视频码流之间的任何压缩是无损的)。将重建的样本流(样本数据)输入到参考图片存储器(434)。由于符号流的解码会产生与解码器位置(本地或远程)无关的位精确结果,因此参考图片存储器(434)中的内容在本地编码器与远程编码器之间也是位精确的。换句话说,编码器的预测部分“看到”的参考图片样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图片同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。

“本地”解码器(433)的操作可与例如已在上文结合图3详细描述的视频解码器(310)等“远程”解码器相同。然而,另外还简要参考图3,当符号可用且熵编码器(445)和解析器(320)能够无损地将符号编码/解码为已编码视频序列时,包括缓冲存储器(315)和解析器(320)的视频解码器(310)的熵解码部分可能无法完全在本地解码器(433)中实施。

此时可以观测到,除存在于解码器中的解析/熵解码之外的任何解码器技术也必定需要以基本上相同的功能形式存在于对应的编码器中。出于此原因,所公开的主题侧重于解码器操作。可简化编码器技术的描述,因为编码器技术与全面地描述的解码器技术互逆。仅在某些区域中需要更详细的描述,并且在下文提供。

在操作期间,在一些实例中,源编码器(430)可执行运动补偿预测性编码。参考来自视频序列中被指定为“参考图片”的一个或多个先前已编码图片,所述运动补偿预测性编码对输入图片进行预测性编码。以此方式,编码引擎(432)对输入图片的像素块与参考图片的像素块之间的差异进行编码,所述参考图片可被选作所述输入图片的预测参考。

本地视频解码器(433)可基于源编码器(430)创建的符号对可指定为参考图片的图片的已编码视频数据进行解码。有利地,编码引擎(432)的操作可为有损过程。当已编码视频数据可在视频解码器(图4中未示)处被解码时,重建的视频序列通常可以是带有一些误差的源视频序列的副本。本地视频解码器(433)重复解码过程,所述解码过程可由视频解码器对参考图片执行,且可使重建的参考图片存储在参考图片高速缓存(434)中。以此方式,视频编码器(403)可在本地存储重建的参考图片的副本,所述副本与将由远端视频解码器获得的重建参考图片具有共同内容(不存在传输误差)。

预测器(435)可针对编码引擎(432)执行预测搜索。即,对于要编码的新图片,预测器(435)可在参考图片存储器(434)中搜索可充当新图片的适当预测参考的样本数据(作为候选参考像素块)或某些元数据,例如参考图片运动矢量、块形状等。预测器(435)可基于样本块逐像素块而操作,以找到合适的预测参考。在一些情况下,如根据预测器(435)获得的搜索结果所确定,输入图片可具有从参考图片存储器(434)中存储的多个参考图片取得的预测参考。

控制器(450)可管理源编码器(430)的编码操作,包括例如设置用于对视频数据进行编码的参数和子群参数。

可在熵编码器(445)中对所有上述功能单元的输出进行熵编码。熵编码器(445)根据例如霍夫曼编码、可变长度编码、算术编码等技术对各种功能单元生成的符号进行无损压缩,从而将所述符号转换成已编码视频序列。

传输器(440)可缓冲由熵编码器(445)创建的已编码视频序列以为通过通信信道(460)进行传输做准备,所述通信信道可以是通向将存储已编码的视频数据的存储装置的硬件/软件链路。传输器(440)可将来自视频编码器(403)的已编码视频数据与要传输的其它数据合并,所述其它数据例如已编码音频数据和/或辅助数据流(未示来源)。

控制器(450)可管理视频编码器(403)的操作。在编码期间,控制器(450)可以为每个已编码图片分配某一已编码图片类型,这可能影响可应用于相应的图片的编码技术。例如,通常可将图片分配为以下一种图片类型:

帧内图片(I图片)可以是不将序列中的任何其它图片用作预测源就可被编码和解码的图片。一些视频编解码器容许不同类型的帧内图片,包括例如独立解码器刷新(Independent Decoder Refresh,“IDR”)图片。所属领域的技术人员了解I图片的那些变体及其变体相应的应用和特征。

预测性图片(P图片)可以是可使用帧内预测或帧间预测进行编码和解码的图片,所述帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。

双向预测性图片(B图片)可以是可使用帧内预测或帧间预测进行编码和解码的图片,所述帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地,多个预测性图片可使用多于两个参考图片和相关联元数据以用于重建单个块。

源图片通常可在空间上细分成多个样本块(例如,各自4×4、8×8、4×8或16×16个样本的块)且在逐块基础上进行编码。块可参考其它(已编码)块进行预测性编码,根据应用于块的相应图片的编码分配来确定所述其它块。举例来说,I图片的块可进行非预测性编码,或所述块可参考同一图片的已经编码的块来进行预测性编码(空间预测或帧内预测)。P图片的像素块可参考一个先前编码的参考图片通过空间预测或通过时间预测进行预测性编码。B图片的块可参考一个或两个先前编码的参考图片通过空间预测或通过时间预测进行预测性编码。

视频编码器(403)可根据例如ITU-T H.265建议书的预定视频编码技术或标准执行编码操作。在操作中,视频编码器(403)可执行各种压缩操作,包括利用输入视频序列中的时间和空间冗余的预测性编码操作。因此,已编码视频数据可符合所用视频编码技术或标准指定的语法。

在实施例中,传输器(440)可传输额外数据和已编码的视频。源编码器(430)可将此类数据包括为已编码视频序列的部分。额外数据可包括时间/空间/SNR增强层、冗余图片和切片等其它形式的冗余数据、辅助增强信息(Supplementary EnhancementInformation,SEI)消息、视觉可用性信息(Visual Usability Information,VUI)参数集片段等。

可捕获视频作为呈时间序列的多个源图片(视频图片)。帧内图片预测(常常简化为帧内预测)利用给定图片中的空间相关性,而帧间图片预测利用图片之间的(时间或其它)相关性。在实例中,将正在编码/解码的特定图片分割成块,所述特定图片被称作当前图片。在当前图片中的块类似于视频中先前已编码且仍被缓冲的参考图片中的参考块时,可通过称作运动矢量的矢量对当前图片中的块进行编码。所述运动矢量指向参考图片中的参考块,且在使用多个参考图片的情况下可具有识别参考图片的第三维度。

在一些实施例中,双向预测技术可用于帧间图片预测中。根据双向预测技术,使用两个参考图片,例如在视频中按解码次序都在当前图片之前(但按显示次序可能分别是过去和将来)的第一参考图片和第二参考图片。可通过指向第一参考图片中的第一参考块的第一运动矢量和指向第二参考图片中的第二参考块的第二运动矢量对当前图片中的块进行编码。可通过第一参考块和第二参考块的组合来预测所述块。

此外,合并模式技术可用于帧间图片预测中以改善编码效率。

根据本申请的一些实施例,帧间图片预测和帧内图片预测等预测的执行以块为单位。举例来说,根据HEVC标准,将视频图片序列中的图片分割成编码树单元(coding treeunit,CTU)以用于压缩,图片中的CTU具有相同大小,例如64×64像素、32×32像素或16×16像素。一般来说,CTU包括三个编码树块(coding tree block,CTB),所述三个编码树块是一个亮度CTB和两个色度CTB。可递归地将每个CTU四叉树拆分为一个或多个编码单元(codingunit,CU)。举例来说,可将64×64像素的CTU拆分为一个64×64像素的CU,或4个32×32像素的CU,或16个16×16像素的CU。在实例中,分析每个CU以确定用于CU的预测类型,例如帧间预测类型或帧内预测类型。取决于时间和/或空间可预测性,将CU拆分为一个或多个预测单元(prediction unit,PU)。通常,每个PU包括亮度预测块(prediction block,PB)和两个色度PB。在实施例中,编码(编码/解码)中的预测操作以预测块为单位来执行。将亮度预测块作为预测块的实例,预测块包括像素值(例如,亮度值)的矩阵,例如8×8像素、16×16像素、8×16像素、16×8像素等等。

图5是根据本申请的另一实施例的视频编码器(503)的图。视频编码器(503)用于接收视频图片序列中的当前视频图片内的样本值的处理块(例如预测块),且将所述处理块编码到作为已编码视频序列的一部分的已编码图片中。在实例中,视频编码器(503)用于代替图2实例中的视频编码器(203)。

在HEVC实例中,视频编码器(503)接收用于处理块的样本值的矩阵,所述处理块为例如8×8样本的预测块等。视频编码器(503)使用例如率失真优化来确定是否使用帧内模式、帧间模式或双向预测模式来最佳地编码处理块。当将在帧内模式中编码处理块时,视频编码器(503)可使用帧内预测技术以将处理块编码到已编码图片中;且当将在帧间模式或双向预测模式中编码处理块时,视频编码器(503)可分别使用帧间预测或双向预测技术将处理块编码到已编码图片中。在某些视频编码技术中,合并模式可以是帧间图片预测子模式,其中在不借助预测值外部的已编码运动矢量分量的情况下从一个或多个运动矢量预测值导出运动矢量。在某些其它视频编码技术中,可存在适用于主题块的运动矢量分量。在实例中,视频编码器(503)包括其它组件,例如用于确定处理块的模式的模式决策模块(未示出)。

在图5实例中,视频编码器(503)包括如图5所示耦合到一起的帧间编码器(530)、帧内编码器(522)、残差计算器(523)、开关(526)、残差编码器(524)、通用控制器(521)和熵编码器(525)。

帧间编码器(530)用于接收当前块(例如处理块)的样本、比较所述块与参考图片中的一个或多个参考块(例如先前图片和后来图片中的块)、生成帧间预测信息(例如根据帧间编码技术的冗余信息描述、运动矢量、合并模式信息)以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如预测的块)。

帧内编码器(522)用于接收当前块(例如处理块)的样本、在一些情况下比较所述块与同一图片中已经编码的块、在变换之后生成量化的系数以及在一些情况下还生成帧内预测信息(例如根据一个或多个帧内编码技术的帧内预测方向信息)。

通用控制器(521)用于确定通用控制数据,且基于所述通用控制数据控制视频编码器(503)的其它组件。在实例中,通用控制器(521)确定块的模式,且基于所述模式将控制信号提供到开关(526)。举例来说,当所述模式是帧内模式时,通用控制器(521)控制开关(526)以选择供残差计算器(523)使用的帧内模式结果,且控制熵编码器(525)以选择帧内预测信息且将所述帧内预测信息包括在码流中;以及当所述模式是帧间模式时,通用控制器(521)控制开关(526)以选择供残差计算器(523)使用的帧间预测结果,且控制熵编码器(525)以选择帧间预测信息且将所述帧间预测信息包括在码流中。

残差计算器(523)用于计算所接收的块与选自帧内编码器(522)或帧间编码器(530)的预测结果之间的差(残差数据)。残差编码器(524)用于基于残差数据操作以对残差数据进行编码以生成变换系数。在实例中,残差编码器(524)用于转换频域中的残差数据,且生成变换系数。变换系数接着经受量化处理以获得量化的变换系数。

熵编码器(525)用于将码流格式化以包括已编码的块。熵编码器(525)根据HEVC标准等合适标准用于包括各种信息。在实例中,熵编码器(525)用于包括通用控制数据、所选预测信息(例如帧内预测信息或帧间预测信息)、残差信息和码流中的其它合适的信息。应注意,根据所公开的主题,当在帧间模式或双向预测模式的合并子模式中对块进行编码时,不存在残差信息。

图6是根据本申请的另一实施例的视频解码器(610)的图。视频解码器(610)用于接收作为已编码视频序列的部分的已编码图片,且对所述已编码图片进行解码以生成重建的图片。在实例中,视频解码器(610)用于代替图2实例中的视频解码器(210)。

在图6实例中,视频解码器(610)包括如图6中所示耦合到一起的熵解码器(671)、帧间解码器(680)、残差解码器(673)、重建模块(674)和帧内解码器(672)。

熵解码器(671)可用于根据已编码图片来重建某些符号,这些符号表示构成所述已编码图片的语法元素。此类符号可包括例如块被编码的模式(例如帧内模式、帧间模式、双向预测模式,后两者的合并子模式或另一子模式)、可分别识别供帧内解码器(672)或帧间解码器(680)用以进行预测的某些样本或元数据的预测信息(例如帧内预测信息或帧间预测信息)、呈例如量化的变换系数形式的残差信息等等。在实例中,当预测模式是帧间预测模式或双向预测模式时,将帧间预测信息提供到帧间解码器(680);以及当预测类型是帧内预测类型时,将帧内预测信息提供到帧内解码器(672)。残差信息可经受逆量化且提供到残差解码器(673)。

帧间解码器(680)用于接收帧间预测信息,且基于所述帧间预测信息生成帧间预测结果。

帧内解码器(672)用于接收帧内预测信息,且基于所述帧内预测信息生成预测结果。

残差解码器(673)用于执行逆量化以提取解量化的变换系数,且处理所述解量化的变换系数以将残差从频域转换到空间域。残差解码器(673)还可能需要某些控制信息(以包括量化器参数QP),且所述信息可由熵解码器(671)提供(未描绘数据路径,因为这可仅仅是低量控制信息)。

重建模块(674)用于在空间域中组合由残差解码器(673)输出的残差与预测结果(如视情况而定可由帧间预测模块或帧内预测模块输出)以形成重建的块,所述重建的块可以是重建的图片的部分,所述重建的图片继而可以是重建的视频的部分。应注意,可执行解块操作等其它合适的操作来改善视觉质量。

应注意,可使用任何合适的技术来实施视频编码器(203)、视频编码器(403)和视频编码器(503)以及视频解码器(210)、视频解码器(310)和视频解码器(610)。在实施例中,可使用一个或多个集成电路来实施视频编码器(203)、视频编码器(403)和视频编码器(503)以及视频解码器(210)、视频解码器(310)和视频解码器(610)。在另一实施例中,可使用执行软件指令的一个或多个处理器来实施视频编码器(203)、视频编码器(403)和视频编码器(503)以及视频解码器(210)、视频解码器(310)和视频解码器(610)。

根据一些实施例,可以通过显式方式对块的运动矢量(motion vector,MV)进行编码,以用信号表示运动矢量预测值之间的差,或通过隐式方式对MV进行编码,以指示为从一个先前编码或生成的运动矢量导出,或在使用双向预测编码的情况下从运动矢量对导出。运动矢量的隐式编码可称作合并模式,其中通过共享先前编码块的运动信息来将当前块合并到先前编码块中。

可通过校验来自当前块的空间相邻块或时间相邻块的运动信息形成合并候选者。参考图7,当前块(701)包括在运动搜索过程期间已由编码器/解码器发现的样本,可根据已在空间上移位的相同大小的先前块预测所述样本。在一些实施例中,可以不对此运动矢量直接编码,而是从与一个或多个参考图片相关联的元数据导出所述运动矢量,例如从最近的参考图片(按解码次序)使用与标示为A0、A1、B0、B1和B2(分别是702到706)的五个周围样本中的任一样本相关联的运动矢量导出所述运动矢量。块A0、块A1、块B0、块B1和块B2可称作空间合并候选者。可依序校验这些候选以纳入合并候选者列表中。可执行裁剪操作以确保从列表移除重复的候选者。

在一些实施例中,在将空间候选者放入合并列表中之后,还校验时间候选者以纳入列表中。举例来说,找到当前块在指定参考图片中的同位块。参考图片中的C0位置(707)处的运动信息用作时间合并候选者。C0位置可以是参考图片中的块,其中此块的左上角处于当前块701在参考图片中的同位块的右下角。参考图片中的同位块可包括与当前块701相同的位置坐标(例如x和y坐标)。如果在C0位置(707)处的块并非以帧间模式编码或者不可用,则可使用C1位置处的块。C1位置处的块的左上角可在参考图片中的同位块内的块的中心位置(例如,w/2,h/2)处。具体地说,位置C1处的块可以是参考图片中的同位块的子块。在以上实例中,w和h分别是块的宽度和高度。

根据一些实施例,高级运动矢量预测(Advanced Motion Vector Prediction,AMVP)使用空间相邻块和时间相邻块的运动信息来预测当前块的运动信息,同时进一步编码预测残差。AMVP模式还可被称作残差模式。图7示出空间相邻候选者和时间相邻候选者的实例。在AMVP模式的实例中,形成双候选运动矢量预测值列表。第一候选预测值来自左边缘的第一可用运动矢量,遵循空间A0和A1位置次序。第二候选预测值来自顶部边缘的第一可用运动矢量,遵循空间B0、B1和B2位置次序。如果从左边缘或顶部边缘的校验位置未找到有效运动矢量,则不会在运动矢量预测值列表中填充候选者。如果两个候选者可用且相同,则将一个候选者保留在运动矢量预测值列表中。如果运动矢量预测值列表未满且有两个不同的候选者,则在缩放后将参考图片中C0位置处的时间同位块的运动矢量用作另一候选者。如果参考图片中的C0位置的同位块处的运动信息不可用,则改为使用参考图片中的位置C1的同位块。如果在校验空间候选者和时间候选者之后仍无足够的运动矢量预测值候选者,则使用零运动矢量填充运动矢量预测值列表。

本申请的实施例将先前编码的运动矢量用作当前块的运动矢量预测的预测值,所述先前编码的运动矢量来自与当前图片不同的参考图片。与常规TMVP推导不同,在一些实施例中,将同位的参考图片中的可靠同位块的位置用于TMVP推导。在一些实施例中,针对执行TMVP推导,当前块的空间相邻运动信息用于确定关于当前块在同位图片中的同位块的候选位置。所公开实施例可应用于合并模式或残差模式。

在当前块含有移动对象时,先前编码的参考图片中的当前块的同位块(即,具有与当前块相同的坐标的块)可不含相同的对象。图8示出此构思的实例。图8示出当前图片800、同位图片802和参考图片804。当前图片包括当前块806。同位图片802包括标示为808的同位块。同位块808包括与当前块806相同的坐标。此外,同位图片802和参考图片804分别包括标示为810和812的相同移动对象。在此实例中,此移动对象还与当前块806一致。如图8中所示,当前块806的同位块808含有相同移动对象的一部分。同位图片可以是从中导出TMVP的图片。同位图片可以是当前图片的任何参考图片,且可通过切片级语法来选择,切片级语法是告知列表中的哪些参考图片被选择的索引。

图9示出使用C0位置和C1位置(图7)处的块对当前块806的同位块808执行TMVP推导的实例。如图9中所示,将对应于同位块808的C0位置906(右下角)和C1位置904(中心点)的运动矢量用于导出当前块806的TMVP。然而,如图9中所示,同位块808的C0位置(906)和C1位置(904)都不含有与移动对象810相关的内容。替代地,相比于从同位块808的C0(906)和C1(904)位置导出的TMVP,如果同位块808的顶角的运动矢量902用于TMVP推导,则所导出TMVP在缩放(900)之后更准确。因此,除了C0位置和C1位置之外,本申请的实施例还实现从关于同位块的候选位置选择候选块,以提供更准确的TMVP推导。

对图9中的实例执行的缩放是为了调整运动矢量预测值的量值和/或符号,使得当使用当前块806和当前参考图片804的预测值时,缩放的运动矢量预测值将指向从当前块806到当前参考图片804的相同对象。在这点上,当前图片与参考图片之间的距离越大,对应的运动矢量会变得越大。以图9为例,运动矢量902是从移动对象810到移动对象812的运动矢量。当编码当前块806时,将运动矢量902用于TMVP推导。如果照原样(即,无缩放)直接使用运动矢量902,则当804是参考图片时,由902指示的参考块将不是812,而是812下方的某处。因此,通过执行缩放,运动矢量902在量值上增大到运动矢量900,而运动矢量900指向当前块806与对应的参考图片804之间的812。

在图8和图9中示出的实例中,当前图片800的参考图片和同位图片802的参考图片相同(例如参考图片804)。然而,在其它实例中,当前图片800参考图片和同位图片802的参考图片可彼此不同。

如果当前块含有移动对象,则当前块的空间相邻者往往会具有与当前块类似的运动或运动方向。因此,在一些实施例中,当前块的空间相邻块(例如,图7中的块A0、块A1、块B0、块B1和块B2)的运动信息用于指示关于当前块的同位块的一个或多个优选候选位置以用于TMVP推导。图10示出当前块1000和从当前块1000的各角处的相邻块获得的实例运动信息(例如,运动矢量预测值1002、运动矢量预测值1004和运动矢量预测值1006)。图11示出具有角A、角B和角C的分成多个子块的当前块1100的另一实例。对应于角A的块与相邻块NA1至相邻块NA3邻近,对应于角B的块与相邻块NB1至相邻块NB2邻近,且对应于角C的块与相邻块NC1至相邻块NC2邻近。相邻块NA1至相邻块NA3、相邻块NB1至相邻块NB2以及相邻块NC1至相邻块NC2中的每一个可以是具有用于选择候选位置的运动信息(例如,运动矢量预测值)的先前编码的/解码的块。

在一个实施例中,当前块1100的左上角位置(A)、右上角位置(B)和左下角位置(C)中的一个或多个用于评估来自关于当前块1100的同位块的候选位置的候选块以用于TMVP推导。在一个实例中,NA2、NB2和NC2的运动矢量组合用于确定候选位置。举例来说,可使用来自相邻块NAx的第一可用候选者、来自相邻块NBx的第一可用候选者以及来自相邻块NCx的第一可用候选者。在其它实施例中,考虑其它相邻块,例如当前块1100的左侧中间处的块,或当前块的顶侧中间处的块。在一些实施例中,使用块1100各角的运动矢量预测值的组合。举例来说,使用角(i)A和B、(ii)B和C或(iii)A和C的运动矢量预测值。

根据一些实施例,如果空间相邻位置中的一个不可用,则考虑替换位置。在一个实例中,按NC2、NC1的次序校验第一可用左侧相邻者。如果这些相邻块不可用,则按NB2、NB1和NA2的次序校验第一可用顶部相邻者作为替换位置。在另一实例中,按NC2、NC1、NA1和NA2的次序校验第一可用左侧相邻者。如果这些相邻块不可用,则按NB2、NB1、NA3和NA2的次序校验第一可用顶部相邻者作为替换位置。在另一实例中,当一个位置不可用时,则针对该位置使用零运动矢量。

根据一些实施例,将作为非零运动矢量的运动矢量预测值放在在八个方向类别中的一个方向类别中,如图12所示。举例来说,当从图11中所示的相邻块中的一个相邻块获得非零运动矢量时,非零运动矢量将被分类为MV_A、MV_B、MV_C、MV_D、MV_F、MV_G、MV_H和MV_I之一。尽管图12中示出八个方向类别,但本申请不限于这些方向类别,且其它实施例可包括更多或更少方向类别。

在一些实施例中,如果获得的非零运动矢量与这些方向类别中的一个方向类别不匹配,则将获得的非零运动矢量放在最接近的方向类别中。在一些实施例中,将作为零运动矢量的运动矢量预测值放在MV_E类别中,如图12中所示。在一些实施例中,对于每个类别,选择关于同位块的对应候选位置以用于TMVP推导。

根据一些实施例,如果考虑到TMVP位置而使用空间相邻者的单个运动矢量预测值,则根据图12中的此运动矢量预测值的类别,选择来自关于同位块的对应候选位置的候选块,如图14中所示。举例来说,如果运动矢量预测值放在类别MV_A中(图12),则选择候选位置CL_A处的候选块。在这点上,CL_A是关于同位块1400的候选位置。因此,在图14中,类别MV_A、类别MV_B、类别MV_C、类别MV_D、类别MV_F、类别MV_G、类别MV_H和类别MV_I分别对应于候选位置CL_A、候选位置CL_B、候选位置CL_C、候选位置CL_D、候选位置CL_F、候选位置CL_G、候选位置CL_H和候选位置CL_I。每个候选位置可对应于一个或多个候选块,其中选择来自候选位置的候选块以用于TMVP推导。

在一个实施例中,以图11中的NA2、NA1、NA3、NB2、NB1、NC2和NC1的次序使用第一可用运动矢量预测值。在另一实施例中,当仅来自空间相邻者的一个运动矢量预测值可用,或来自空间相邻者的两个运动矢量预测值相同时,此运动矢量预测值用于确定关于同位块的候选位置以用于TMVP推导。在另一实施例中,第一可用运动矢量预测值用于指示关于同位块的候选位置。第一可用运动矢量预测值可以是TMVP之前的合并列表中的第一候选者,或在残差模式中是TMVP之前的运动矢量预测值候选者列表中的第一导出候选者。

根据一些实施例,考虑来自两个空间相邻者的运动矢量预测值。在一个实例中,所述两个空间相邻者选自图11中的三个角中的两个角,例如NB2和NA2。如果来自这两个空间相邻者的运动矢量预测值属于相同类别(图12),则选择此类别的对应候选位置。如果两个运动矢量预测值都是零运动矢量,则将这些运动矢量预测值放在类别MV_E中,且选择候选位置CL_E处的候选块以用于TMVP推导。在另一实例中,如果运动矢量预测值之一是零运动矢量,且其它运动矢量预测值是非零运动矢量,则使用与非零运动矢量对应的方向类别来确定候选位置以用于TMVP推导。

在一些实施例中,如果两个所选运动矢量预测值是不同的非零类别,则选择它们中间的类别,并且选择对应的候选位置以用于TMVP推导。举例来说,参考图12,如果第一运动矢量预测值是类别MV_C且第二运动矢量预测值是类别MV_I,则选择类别MV_F来确定候选位置以用于TMVP推导。在另一实例中,类别MV_B是类别MV_D和类别MV_F的中间类别。在另一实例中,如果一个运动矢量预测值是零运动矢量且另一运动矢量预测值是非零运动矢量,则非零运动矢量的类别用于确定候选位置。

在一些实施例中,当两个所选运动矢量预测值的类别相距很远,且这些类别之间的中间处于两个相邻类别中时,优先考虑特定类别。举例来说,比起类别MV_B/MV_F/MV_H/MV_D,可优先考虑类别MV_C/MV_I/MV_G/MV_A。因此,在此实例中,如果两个所选运动矢量预测值属于类别MV_A和类别MV_F,则选择类别MV_C。在另一实例中,比起类别MV_C/MV_I/MV_G/MV_A,优先考虑类别MV_B/MV_F/MV_H/MV_D。因此,在此实例中,如果两个所选运动矢量预测值属于类别MV_A和类别MV_F,则选择类别MV_B。

在一些实施例中,当选择两个运动矢量预测值时,两个运动矢量之间的平均值用于选择候选位置。举例来说,参考图13,当所选两个运动矢量预测值是MV1和MV2时,将这两个运动矢量之间的平均值(例如MVAVG)放入图12中所示的一个类别中以选择候选位置。参考图12,对应于MVAVG的类别是MV_F。在一些实施例中,两个运动矢量之间的平均值是两个运动矢量的数学平均值。在其它实施例中,两个运动矢量之间的平均值是两个运动矢量在每个分量处的符号的平均值。

根据一些实施例,当考虑来自三个空间相邻者的运动矢量预测值时,评估三个运动矢量预测值的方向(即,符号)以选择用于确定候选位置的类别。针对运动矢量预测值中的每个分量(例如x或y),评估三个运动矢量预测值的方向,且选择最频繁使用的方向。如果三个运动矢量预测值的一个方向处于不同方向(例如正、零和负),则为所述一个方向选择零方向。

在一个实例中,三个运动矢量预测值是(-1,-1)、(2,3)和(5,-1)。在此实例中,对于x方向,两个运动矢量预测值为正,而对于y方向,两个运动矢量预测值为负。因此,选用于这三个运动矢量预测值的类别是MV_I(正,负)。在一个实例中,三个运动矢量预测值是(-1,-1)、(2,0)和(5,1)。在此实例中,对于x方向,两个运动矢量预测值为正,而对于y方向,每个运动矢量预测值的方向不同。因此,针对x选择正方向且针对y选择零方向,且因此,选用于三个运动矢量预测值的类别是类别MV_F。

在另一实施例中,当考虑三个运动矢量预测值时,针对每个分量(x或y),使用三个运动矢量预测值的中值。如果所选位置处的一个运动矢量预测值不可用,则使用零运动矢量预测值。

在图14中,示出与同位块相关联的9个可能的候选位置。对于每个位置,在图12中示出对应的运动矢量方向。根据一些实施例,从九个候选位置中的一个候选位置选择候选块以导出当前块的TMVP。在一个实施例中,如果位置X的运动矢量预测值(X是MV_A到MV_I之一)不可用,则将使用中心候选位置CL_E。在另一实施例中,如果X等于MV_E,则将候选位置CL_I用于TMVP推导。

根据一些实施例,对于同位块中从CL_A到CL_I的每个候选位置,包括用于表示此位置的多个候选块。参考示出同位块1500的图15,对于每个候选位置,存在四个邻近候选块。举例来说,候选位置CL_A对应于候选块CL_A1、候选块CL_A2、候选块CL_A3和候选块CL_A4的群组。如图1500中所示,候选块CL_A1、候选块CL_A2和候选块CL_A3在同位块1500的外部,且块CLA_4在同位块1500的内部。选择这些候选块中的一个以用于执行TMVP推导。在一些情况下,同位块1500内部的块可能提供与同位块1500外部的块不同的效果。根据一些实施例,一旦从候选位置选择候选块,则可针对当前块执行当前块的TMVP推导过程,包括缩放和符号改变。

下表1示出图15中对应于图14中的候选位置的块群组。此外,表1指示哪些块在同位块1500外部、哪些块在所述同位块内部。

表1

候选位置 同位块外部的块 同位块内部的块
CL_A CL_A1、CL_A2、CL_A3 CL_A4
CL_B CL_B1、CL_B2 CL_B3、CL_B4
CL_C CL_C1、CL_C2、CL_C4 CL_C3
CL_D CL_D1、CL_D3 CL_D2、CL_D4
CL_E CL_E1、CL_E2、CL_E3、CL_E4
CL_F CL_F2、CL_F4 CL_F1、CL_F3
CL_G CL_G1、CL_G3、CL_G4 CL_G2
CL_H CL_H3、CL_H4 CL_H1、CL_H2
CL_I CL_I2、CL_I3、CL_I4 CL_I1

返回参考图8,当前块800的同位图片802和参考图片804以及当前块的空间相邻块相对于当前图片804处于相同侧。在这点上,同位图片802和参考图片804的图片次序计数(picture order count,POC)编号(或按显示次序的编号)都大于或都小于当前图片800。当这两个图片中的一个POC编号(或按显示次序的编号)大于当前图片而另一个POC编号小于当前图片时,可执行适当的运动矢量缩放,使得根据本申请的实施例,指示的TMVP位置可反映移动对象从当前图片到参考图片的趋向。

图16示出具有当前块1608的当前图片1600。同位图片1602包括当前块1608的同位块1610。当前图片1600与参考图片1604相关联,且同位图片1602与参考图片1606相关联。参考图片1606和同位图片1602分别包括相同的移动对象1616和移动对象1614。移动对象还与当前块1608一致。参考图片1604还包括相同的移动对象1612。

在图16中,当前块1608的顶部相邻者具有参考图片1604,所述参考图片的POC编号大于当前图片1600。当顶部相邻者的运动矢量1618用于寻找同位块1610中的候选位置时,将此运动矢量缩放(即,运动矢量1622),就如同位图片1602是参考图片1604一样。在运动矢量缩放之后,缩放的矢量1622用于评估应将同位块1610的哪个位置应用于TMVP推导。在图16中的实例中,选择同位块的顶角以导出TMVP。同位块的顶角包括运动矢量1624。还将当前块1608的TMVP缩放(即,运动矢量1620)到当前块的参考图片。

可在以下情形中执行运动矢量的缩放。当运动矢量用于预测当前块时,如果当前块的参考图片和运动矢量预测值的参考图片在不同的方向上(例如,一个在过去,另一个在将来),则需要逆转运动矢量预测值的方向以反映跨越帧的连续运动。此逆转是TMVP计算中的运动矢量缩放的部分(即,方向和量值缩放)。因此,如果当前块的相邻运动矢量来自关于参考图片的另一方向,则必须缩放相邻运动矢量以反映用于在同位图片中找到同位块位置的正确方向,所述同位图片所处的方向与与此相邻运动矢量预测值的参考图片的方向相反。

根据一些实施例,如果从同位块选择的用于TMVP推导的位置在同位图片的边界外部,则应改为使用所述位置在图片边界内部的最近相邻者。举例来说,在图15中,如果所选位置是CL_B1,而CL_B1可能在图片边界外部,则应改为使用位置CL_B3。在另一实例中,在图15中,如果所选位置是CL_D1,而CL_D1可能在图片边界外部,则应改为使用位置CL_D2。

图17示出由编码器或解码器执行的过程的实施例,所述编码器或解码器分别例如帧内编码器522或帧内解码器672。过程可从步骤S1700开始。在步骤S1700,从已编码视频码流获取当前图片。过程进行到步骤S1702。在步骤S1702,从当前图片中的当前块的多个相邻块选择第一相邻块。举例来说,参考示出当前块1100的图11,可选择相邻块(即,NA1、NA2、NA3、NC1、NC2、NB1和NB2)中的一个相邻块。

过程进行到步骤S1704。在步骤S1704,基于所选的第一相邻块的运动矢量预测值,确定先前解码的图片中包括的候选块。举例来说,可选择相邻块C1,所述相邻块可具有属于类别MV_A(图12)的运动矢量预测值。因此,如上文所论述,类别MV_A与候选位置CL_A相关联(图14)。因此,选择来自候选位置CL_A的候选块以用于TMVP推导。过程进行到步骤1706。在步骤S1706,基于候选块的运动矢量预测值来对当前块执行TMVP。

本申请实施例提供了一种用于解码器的视频解码方法,所述方法包括从已编码视频码流获取当前图片;从当前图片中的当前块的多个相邻块选择第一相邻块;基于所选的第一相邻块的运动矢量预测值,确定先前解码的图片中包括的候选块,且所述候选块属于以下之一:(i)与当前块的同位块相邻,及(ii)在同位块内;以及基于候选块的运动矢量预测值来对当前块执行时间运动矢量预测。

其中,所选第一相邻块的运动矢量预测值可以是以下之一:(i)用于确定同位块的相邻块为候选块的非零运动矢量预测值,及(ii)用于确定同位块内的块为候选块的零运动矢量。

其中,所选第一相邻块的运动矢量预测值是非零运动矢量预测值,且候选块选自多个块,所述多个块包括同位块的相邻块和与同位块的相邻块邻近的块。

或者,所选第一相邻块的运动矢量预测值是零运动矢量预测值,且候选块选自多个块,所述多个块包括同位块内的块和与同位块内的所述块邻近的块。

其中,所述视频解码方法还可以包括从当前图片中的当前块的所述多个相邻块选择第二相邻块,其中确定候选块包括基于以下两者的平均值来确定所述候选块:(i)所选的第一相邻块的运动矢量预测值,及(ii)所选第二相邻块的运动矢量预测。

所述视频解码方法还可以包括从当前图片的当前块的所述多个相邻块选择第二相邻块,其中所选的第一相邻块的运动矢量预测值是非零运动矢量预测值,且所选第二相邻块的运动矢量预测值是零运动矢量预测值,其中确定候选块包括基于非零运动矢量预测值来确定候选块。

其中,当前块的所述多个相邻块可以是以下之一:(i)左下角邻近块,(ii)左上角邻近块,及(iii)右上角邻近块。

其中,所述平均值可以是以下之一:i)两个运动矢量的数学平均值,及ii)所述两个运动矢量在每个分量处的符号的平均值。

本申请实施例还提供了一种用于视频解码的视频解码器,包括处理电路,所述处理电路用于:从已编码视频码流获取当前图片;从当前图片中的当前块的多个相邻块选择第一相邻块;基于所选的第一相邻块的运动矢量预测值来确定先前解码的图片中包括的候选块,且所述候选块属于以下之一:(i)与当前块的同位块相邻,及(ii)在同位块内;以及基于候选块的运动矢量预测值来对当前块执行时间运动矢量预测。

其中,所选第一相邻块的运动矢量预测值可以是以下之一:(i)用于确定同位块的相邻块为候选块的非零运动矢量预测值,及(ii)用于确定同位块内的块为候选块的零运动矢量。

其中,所选第一相邻块的运动矢量预测值是非零运动矢量预测值,且候选块选自多个块,所述多个块包括同位块的相邻块和与同位块的相邻块邻近的块。

或者,所选第一相邻块的运动矢量预测值是零运动矢量预测值,且候选块选自多个块,所述多个块包括同位块内的块和与同位块内的所述块邻近的块。

其中,处理电路还可以用于:从当前图片中的当前块的所述多个相邻块选择第二相邻块,其中确定候选块包括基于以下两者的平均值来确定候选块:(i)所选的第一相邻块的运动矢量预测值,及(ii)所选第二相邻块的运动矢量预测。

其中,处理电路还可以用于:从当前图片中的当前块的所述多个相邻块选择第二相邻块,其中所选的第一相邻块的运动矢量预测值是非零运动矢量预测值,且所选第二相邻块的运动矢量预测值是零运动矢量预测值,其中确定候选块包括基于非零运动矢量预测值来确定候选块。

其中,当前块的所述多个相邻块可以是以下之一:(i)左下角邻近块,(ii)左上角邻近块,及(iii)右上角邻近块。

其中,所述平均值可以是以下之一:i)两个运动矢量的数学平均值,及ii)两个运动矢量在每个分量处的符号的平均值。

本申请实施例提供了一种存储有指令的非易失性计算机可读介质,所述指令在由视频解码器中的处理器执行时使处理器执行方法,所述方法包括以下操作:从已编码视频码流获取当前图片;从当前图片中的当前块的多个相邻块选择第一相邻块;基于所选的第一相邻块的运动矢量预测值确定先前解码的图片中包括的候选块,且所述候选块属于以下之一:(i)与当前块的同位块相邻,及(ii)在同位块内;以及基于候选块的运动矢量预测值对当前块执行时间运动矢量预测。

其中,所选第一相邻块的运动矢量预测值是以下之一:(i)用于确定同位块的相邻块为候选块的非零运动矢量预测值,及(ii)用于确定同位块内的块为候选块的零运动矢量。

其中,所选第一相邻块的运动矢量预测值是非零运动矢量预测值,且候选块选自多个块,所述多个块包括同位块的相邻块和与同位块的相邻块邻近的块。

或者,所选第一相邻块的运动矢量预测值是零运动矢量预测值,且候选块选自多个块,所述多个块包括同位块内的块和与同位块内的所述块邻近的块。

上文所描述的技术可使用计算机可读指令实施为计算机软件且以物理方式存储在一个或多个计算机可读介质中。举例来说,图18示出适于实施所公开主题的某些实施例的计算机系统(1800)。

可使用任何合适的机器代码或计算机语言来编码所述计算机软件,所述机器代码或计算机语言可经受汇编、编译、链接或类似机制以创建包括指令的代码,所述指令可直接或通过解译、微码执行等而由一个或多个计算机中央处理单元(central processingunit,CPU)、图形处理单元(Graphics Processing Unit,GPU)等执行。

可在各种类型的计算机或计算机组件上执行所述指令,所述计算机或计算机组件包括例如个人计算机、平板电脑、服务器、智能电话、游戏装置、物联网装置等。

图18中所示的用于计算机系统(1800)的组件在本质上是示范性的,并非旨在暗示关于实施本申请的实施例的计算机软件的使用或功能的范围的任何限制。也不应将组件的配置解释为对计算机系统(1800)的示范性实施例中所示的组件中的任一个组件或组件组合有任何依赖或需求。

计算机系统(1800)可包括某些人机接口输入装置。此类人机接口输入装置可响应于一个或多个人类用户通过例如触觉输入(例如:按键、滑动、数据手套移动)、音频输入(例如:语音、拍击)、视觉输入(例如:手势)、嗅觉输入(未描绘)进行的输入。人机接口装置还可用于捕获未必与人的有意识输入直接相关的某些媒体,例如音频(例如:话语、音乐、环境声)、图像(例如:扫描图像、从静态图像相机获得的摄影图像)、视频(例如二维视频、包括立体视频的三维视频)。

输入人机接口装置可包括以下一个或多个(每种仅描绘一个):键盘(1801)、鼠标(1802)、轨迹垫(1803)、触摸屏(1810)、数据手套(未示出)、操纵杆(1805)、麦克风(1806)、扫描仪(1807)、相机(1808)。

计算机系统(1800)还可包括某些人机接口输出装置。此类人机接口输出装置可通过例如触觉输出、声音、光和气味/味道刺激一个或多个人类用户的感觉。此类人机接口输出装置可包括触觉输出装置(例如触摸屏(1810)、数据手套(未示出)或操纵杆(1805)的触觉反馈,但还可存在不充当输入装置的触觉反馈装置)、音频输出装置(例如:扬声器(1809)、头戴式耳机(未描绘))、视觉输出装置(例如屏幕(1810),包括CRT屏幕、LCD屏幕、等离子体屏幕、OLED屏幕,各自具有或不具有触摸屏输入能力,各自具有或不具有触觉反馈能力--其中的一些能够通过例如立体平画输出的方式输出二维视觉输出或大于三维的输出;虚拟现实眼镜(未描绘)、全息显示器和烟雾箱(未描绘)),以及打印机(未描绘)。

计算机系统(1800)还可包括人类可访问的存储装置和存储装置的相关联介质,例如光学介质,包括具有CD/DVD等介质(1821)的CD/DVD ROM/RW(1820)、拇指驱动器(1822)、可移动硬盘驱动器或固态驱动器(1823)、磁带和软盘(未描绘)等旧版磁性媒体、基于ROM/ASIC/PLD的专用装置,例如安全保护装置(未描绘),等等。

所属领域的技术人员还应理解,结合当前公开的主题使用的术语“计算机可读介质”并未涵盖传输介质、载波或其它瞬时信号。

计算机系统(1800)还可包括到一个或多个通信网络的接口。网络可例如是无线的、有线的、光学的。网络还可以是本地的、广域的、城域的、车载和工业的、实时的、容忍延迟的等等。网络的实例包括例如以太网、无线LAN的局域网、包括GSM、3G、4G、5G、LTE等的蜂窝网络、包括有线TV、卫星TV和地面广播TV的TV有线或无线广域数字网络、包括CAN总线的车载网络和工业网络等。某些网络通常需要附接到某些通用数据端口或***总线(1849)(例如,计算机系统(1800)的USB端口)的外部网络接口适配器;其它网络通常通过附接到如下文所描述的系统总线集成到计算机系统(1800)的核心中(例如通过以太网接口集成到PC计算机系统中,或通过蜂窝网络接口集成到智能电话计算机系统中)。通过使用这些网络中的任一网络,计算机系统(1800)可与其它实体通信。此类通信可以是仅单向接收(例如广播TV)、仅单向发送(例如连到某些CAN总线装置的CAN总线)或是双向的,例如使用局域数字网络或广域数字网络连接到其它计算机系统。可在如上文所描述的那些网络和网络接口中的每一个上使用某些协议和协议栈。

上述人机接口装置、人类可访问存储装置和网络接口可附接到计算机系统(1800)的核心(1840)。

核心(1840)可包括一个或多个中央处理单元(Central Processing Unit,CPU)(1841)、图形处理单元(Graphics Processing Unit,GPU)(1842)、现场可编程门区域(Field Programmable Gate Areas,FPGA)形式的专用可编程处理单元(1843)、用于某些任务的硬件加速器(1844)等等。这些装置连同只读存储器(read-only memory,ROM)(1845)、随机存取存储器(1846)、例如内部非用户可访问的硬盘驱动器、SSD等内部大容量存储装置(1847)可通过系统总线(1848)连接。在一些计算机系统中,系统总线(1848)可通过一个或多个物理插头形式访问以实现通过额外CPU、GPU等来扩展。***装置可直接或通过***总线(1849)附接到核心的系统总线(1848)。用于***总线的架构包括PCI、USB等等。

CPU(1841)、GPU(1842)、FPGA(1843)和加速器(1844)可执行某些指令,所述指令组合起来可构成上述计算机代码。计算机代码可存储在ROM(1845)或RAM(1846)中。过渡数据也可存储在RAM(1846)中,而永久性数据可例如存储在内部大容量存储装置(1847)中。可通过使用高速缓冲存储器来实现对任一存储器装置的快速存储和检索,所述高速缓冲存储器可与一个或多个CPU(1841)、GPU(1842)、大容量存储装置(1847)、ROM(1845)、RAM(1846)等紧密关联。

计算机可读介质上可具有用于执行各种计算机实施的操作的计算机代码。所述介质和计算机代码可以是专为本申请的目的设计和构建的介质和计算机代码,或可属于计算机软件领域中的技术人员众所周知且可用的种类。

举例来说但不作为限制,具有架构(1800)且具体地说具有核心(1840)的计算机系统可提供因处理器(包括CPU、GPU、FPGA、加速器等)执行体现为一个或多个有形的计算机可读介质的软件而产生的功能。此类计算机可读介质可以是与上文所介绍的用户可访问大容量存储装置以及核心(1840)的非易失性质的某些存储装置(例如核心内部大容量存储装置(1847)或ROM(1845))相关联的介质。实施本申请的各种实施例的软件可存储在此类装置中且由核心(1840)执行。根据特定需求,计算机可读介质可包括一个或多个存储器装置或芯片。软件可使核心(1840)且具体地说使其中的处理器(包括CPU、GPU、FPGA等等)执行本文中所描述的特定过程或特定过程的特定部分,包括限定存储在RAM(1846)中的数据结构以及根据由软件限定的过程修改此类数据结构。另外或作为替代方案,计算机系统可提供由硬接线的或以其它方式体现于电路(例如:加速器(1844))中的逻辑所产生的功能,所述逻辑可代替或连同软件一起操作以执行本文描述的特定过程或特定过程的特定部分。适当时,对软件的引用可涵盖逻辑,且反之亦然。适当时,对计算机可读介质的引用可涵盖存储用于执行的软件的电路(例如集成电路(IC))、体现用于执行的逻辑的电路或这两种电路。本申请涵盖硬件与软件的任何合适的组合。

附录A:首字母缩写词

MV:运动矢量

HEVC:高效视频编码

SEI:辅助增强信息

VUI:视频可用性信息

GOP:图片群组

TU:变换单元

PU:预测单元

CTU:编码树单元

CTB:编码树块

PB:预测块

HRD:假想参考解码器

SNR:信噪比

CPU:中央处理单元

GPU:图形处理单元

CRT:阴极射线管

LCD:液晶显示器

OLED:有机发光二极管

CD:压缩光盘

DVD:数字视频光盘

ROM:只读存储器

RAM:随机存取存储器

ASIC:专用集成电路

PLD:可编程逻辑装置

LAN:局域网

GSM:全球移动通信系统

LTE:长期演进

CAN总线:控制器局域网总线

USB:通用串行总线

PCI:***组件互连

FPGA:现场可编程门区域

SSD:固态驱动器

IC:集成电路

CU:编码单元

尽管本公开已描述若干示范性实施例,但存在属于本公开的范围内的更改、置换和各种替代等同物。因此,应了解,所属领域的技术人员将能够设计许多本文中未明示或描述但体现本公开的原理且因此在本公开精神和范围内的系统和方法。

37页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:兼容性大数据采集终端

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!

技术分类