用于通过信号发送预测候选列表大小的方法及装置

文档序号:246879 发布日期:2021-11-12 浏览:5次 >En<

阅读说明:本技术 用于通过信号发送预测候选列表大小的方法及装置 (Method and apparatus for signaling prediction candidate list size ) 是由 许晓中 李翔 刘杉 于 2020-05-04 设计创作,主要内容包括:一种视频解码方法,包括接收包括当前图像的已编码视频比特流。该方法还包括确定包括在当前图像中的当前块是否以帧内块复制(IBC)模式进行编码。该方法还包括,响应于当前块以IBC模式进行编码,确定与当前块相关联的IBC预测候选的数量。该方法还包括构建具有与IBC预测候选的数量相对应的大小的IBC预测候选列表。该方法还包括从IBC预测候选列表中选择块向量预测。该方法还包括使用块向量预测对与当前块相关联的块向量进行解码。该方法还包括根据块向量对当前块进行解码。(A video decoding method includes receiving an encoded video bitstream including a current picture. The method also includes determining whether a current block included in the current picture is encoded in an Intra Block Copy (IBC) mode. The method also includes determining a number of IBC prediction candidates associated with the current block in response to the current block being encoded in IBC mode. The method also includes constructing a list of IBC prediction candidates having a size corresponding to the number of IBC prediction candidates. The method also includes selecting a block vector prediction from the IBC prediction candidate list. The method also includes decoding a block vector associated with the current block using block vector prediction. The method also includes decoding the current block according to the block vector.)

用于通过信号发送预测候选列表大小的方法及装置

相关申请的交叉引用

本公开要求于2020年4月9日提交的美国专利申请No.16/844,339,题为“METHODAND APPARATUS FOR SIGNALING PREDICTOR CANDIDATE LIST SIZE(用于通过信号发送预测候选列表大小的方法及装置)”的优先权,其要求于2019年5月10日提交的美国临时申请No.62/846,375,题为“PREDICTOR CANDIDATE LIST SIZE SIGNALING FOR INTRA PICTUREBLOCK COMPENSATION(用新号发送用于帧内图像块补偿的预测候选列表大小)”以及于2019年5月9日提交的美国临时申请No.62/845,712,题为“MERGE LIST SIZE SIGNALING FORINTRA PICTURE BLOCK COMPENSATION(用新号发送用于帧内图像块补偿的合并列表大小)”的优先权。在先申请的全部公开内容通过引用整体并入本文。

技术领域

本公开大体描述了与视频编码相关的实施例。

背景技术

本文所提供的背景描述目的在于大体介绍本公开的背景。在该背景部分中描述的范围内,目前命名的发明人的作品以及提交时可能不属于现有技术的描述的各方面既未明确、亦未默示地承认作为本公开的现有技术。

可使用具有运动补偿的帧间图像预测来执行视频编码和解码。未压缩的数字视频可包括一系列图像(picture),每个图像具有例如1920×1080亮度样本及相关联的色度样本的空间维度。该一系列图像可具有固定的或可变的图像速率(也非正式地称为帧率),例如每秒60幅图像或60Hz。未压缩的视频具有很高的比特率要求。例如,在每样本8比特下,1080p60 4:2:0的视频(在60Hz帧率下具有1920×1080亮度样本分辨率)需要近1.5Gbit/s的带宽。一小时的此类视频需要600GB以上的存储空间。

视频编码和解码的一个目的可以是通过压缩来减少输入视频信号中的冗余。压缩可有助于减小上述带宽或存储空间需求,在某些情况下可减小两个数量级或大于两个数量级。可采用无损压缩和有损压缩以及它们的组合。无损压缩是指可从已压缩的原始信号中重建原始信号的精确副本的技术。当使用有损压缩时,已重建信号可能与原始信号不同,但是原始信号和已重建信号之间的失真足够小,以使已重建信号可用于预期应用。在视频的情况下,广泛使用有损压缩。可容忍的失真量取决于应用;例如某些消费流式应用的用户相比电视分布应用的用户来说可容忍更高的失真。可实现的压缩率可反映:更高的可允许/可容许的失真可产生更高的压缩率。

运动补偿可以是有损压缩技术,并且可以涉及其中来自先前重建的图像或其部分(参考图像)的样本数据块在沿由运动矢量(Motion Vector,此后称为MV)指示的方向上进行空间移位之后,被用于新重建的图像或图像部分的预测的技术。在一些情况下,参考图像可以与当前正在重建的图像相同。多个MV可以具有X和Y两个维度或三个维度,第三个维度是使用中的参考图像的指示(后者间接地可以是时间维度)。

在一些视频压缩技术中,适用于样本数据的某一区域的MV可根据其它多个MV,例如与重建中的区域空间相邻的另一样本数据区域相关的并且以解码顺序在该MV之前的MV进行预测。这样做可以实质上减少对MV进行编码所需的数据量,从而消除冗余并增加压缩。MV预测可以有效地工作,例如,这是因为当对从相机(称为自然视频)导出的输入视频信号进行编码时,存在比单个MV适用的区域更大的区域在类似方向上移动的统计可能性,因此,在一些情况下,可以使用从相邻区域的MV导出的类似运动矢量来预测。这导致对于给定区域发现的MV与根据周围的多个MV预测的MV相似或相同,且在熵编码之后,这反过来可以用比直接编码MV所使用的比特更少的比特数来表示。在一些情况下,MV预测可以是从原始信号(即样本流)导出的信号(即多个MV)的无损压缩的示例。在其它情况下,例如由于在从若干周围MV计算预测值时的舍入误差(rounding errors),MV预测本身可以是有损的。

在H.265/HEVC(ITU-T Rec.H.265,“High Efficiency Video Coding(高效的视频编码)”,2016年12月)中描述了各种MV预测机制。在H.265提供的多种MV预测机制中,此处描述的是此后被称为“空间合并”的技术。

参照图1,当前块(101)包括由编码器在运动搜索过程中发现的样本,该样本可根据已被空间移位的大小相同的先前块预测得到。代替直接编码MV,可以从与一个或多个参考图像相关联的元数据中导出MV,例如从最近的(以解码顺序)参考图像中导出,使用与五个周围样本(表示为A0、A1、B0、B1、B2(分别从102到106))中的任一个相关联的MV。在H.265中,MV预测可以使用来自相邻块正在使用的相同参考图像的预测。形成候选列表的顺序可以是A0→B0→B1→A1→B2。

发明内容

根据示例性实施例,一种视频解码方法包括:接收包括当前图像的已编码视频比特流。该方法还包括确定包括在当前图像中的当前块是否以帧内块复制(IBC)模式进行编码。该方法还包括,响应于该当前块以IBC模式进行编码,确定与该当前块相关联的IBC预测候选的数量。该方法还包括构建具有与该IBC预测候选的数量相对应的大小的IBC预测候选列表。该方法还包括从该IBC预测候选列表中选择块向量预测。该方法还包括使用该块向量预测对与该当前块相关联的块向量进行解码。该方法还包括根据该块向量对该当前块进行解码。

根据示例性实施例,一种用于执行视频解码的视频解码器包括处理电路,该处理电路配置为接收包括当前图像的已编码视频比特流。该处理电路还配置为确定包括在当前图像中的当前块是否以帧内块复制(IBC)模式进行编码。响应于该当前块以IBC模式进行编码,该处理电路还配置为确定与该当前块相关联的IBC预测候选的数量。该处理电路还配置为构建具有与该IBC预测候选的数量相对应的大小的IBC预测候选列表。该处理电路还配置成从该IBC预测候选列表中选择块向量预测。该处理电路还配置为使用该块向量预测对与该当前块相关联的块向量进行解码。该处理电路还配置为根据该块向量对该当前块进行解码。

根据示例性实施例,一种非暂时性计算机可读介质,其上存储有指令。当该指令由视频解码器中的处理器执行时,使得该处理器执行一种方法,该方法包括:接收包括当前图像的已编码视频比特流。该方法还包括确定包括在该当前图像中的当前块是否以帧内块复制(IBC)模式进行编码。该方法还包括,响应于该当前块以IBC模式进行编码,确定与该当前块相关联的IBC预测候选的数量。该方法还包括构建具有与该IBC预测候选的数量相对应的大小的IBC预测候选列表。该方法还包括从该IBC预测候选列表中选择块向量预测。该方法还包括使用该块向量预测对与该当前块相关联的块向量进行解码。该方法还包括根据该块向量对该当前块进行解码。

附图说明

通过以下详细描述和附图,所公开的主题的其它特征、性质和各种优点将更加明显,在附图中:

图1是一个示例中的当前块及其周围空间合并候选的示意图。

图2是根据实施例的通信系统(200)的简化框图的示意图。

图3是根据实施例的通信系统(300)的简化框图的示意图。

图4是根据实施例的解码器的简化框图的示意图。

图5是根据实施例的编码器的简化框图的示意图。

图6示出了根据另一实施例的编码器的框图。

图7示出了根据另一实施例的解码器的框图。

图8是根据实施例的帧内图像块补偿的示意图。

图9A-9D是根据实施例的具有一个编码树单元(CTU)大小搜索范围的帧内块补偿的示意图。

图10A-10D是根据实施例的如何更新缓冲器的示意图。

图11A是用于基于历史的MV预测(history-based MV prediction,HMVP)缓冲器的解码流程图的图示。

图11B是更新HMVP缓冲器的示意图。

图12是根据实施例的示例性解码过程的图示。

图13是根据本申请实施例的计算机系统的示意图。

具体实施方式

图2示出了根据本公开的一个实施例的通信系统(200)的简化框图。通信系统(200)包括多个终端装置,这些终端装置可通过例如网络(250)彼此通信。举例来说,通信系统(200)包括通过网络(250)互连的第一对终端装置(210)和(220)。在图2的示例中,第一对终端装置(210)和(220)执行单向数据传输。举例来说,终端装置(210)可对视频数据(例如由终端装置(210)采集的视频图像流)进行编码以通过网络(250)传输到另一终端装置(220)。已编码视频数据可以以一个或多个已编码视频比特流的形式传输。终端装置(220)可从网络(250)接收已编码视频数据,对已编码视频数据进行解码以恢复视频图像,并根据恢复的视频数据显示视频图像。单向数据传输在媒体服务应用等方面是较常见的。

在另一示例中,通信系统(200)包括执行已编码视频数据的双向传输的第二对终端装置(230)和(240),该双向传输可例如在视频会议期间发生。对于双向数据传输,在一示例中,终端装置(230)和终端装置(240)中的每个终端装置可对视频数据(例如由终端装置采集的视频图像流)进行编码,以通过网络(250)传输到终端装置(230)和终端装置(240)中的另一终端装置。终端装置(230)和终端装置(240)中的每个终端装置还可接收由终端装置(230)和终端装置(240)中的另一终端装置传输的已编码视频数据,并可对该已编码视频数据进行解码以恢复视频图像,且可根据恢复的视频数据在可访问的显示装置上显示视频图像。

在图2的示例中,终端装置(210)、终端装置(220)、终端装置(230)和终端装置(240)可被示出为服务器、个人计算机和智能电话,但本公开的原理可不限于此。本公开的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(250)表示在终端装置(210)、终端装置(220)、终端装置(230)和终端装置(240)之间传送已编码视频数据的任何数量的网络,包括例如有线(连线的)和/或无线通信网络。通信网络(250)可在电路交换和/或分组交换信道中交换数据。代表性的网络包括电信网络、局域网、广域网和/或互联网。出于本讨论的目的,除非在下文中有所解释,否则网络(250)的架构和拓扑对于本公开的操作来说可能是无关紧要的。

作为所公开的主题的应用的示例,图3示出了视频编码器和视频解码器在流式传输环境中的放置方式。所公开的主题可同等地适用于其它支持视频的应用,包括例如视频会议、数字TV、在包括CD、DVD、存储棒等的数字介质上存储压缩视频等等。

流式传输系统可包括采集子系统(313),该采集子系统可包括例如数码相机的视频源(301),该视频源创建例如未压缩的视频图像流(302)。在一个示例中,视频图像流(302)包括由数码相机拍摄的样本。相较于已编码视频数据(304)(或已编码视频比特流),被描绘为粗线以强调高数据量的视频图像流(302)可由电子装置(320)处理,该电子装置包括耦接到视频源(301)的视频编码器(303)。视频编码器(303)可包括硬件、软件或软硬件组合以实现或实施如下文更详细地描述的所公开的主题的各方面。相较于视频图像流(302),被描绘为细线以强调较低数据量的已编码视频数据(304)(或已编码视频比特流(304))可存储在流式传输服务器(305)上以供将来使用。一个或多个流式传输客户端子系统,例如图3中的客户端子系统(306)和客户端子系统(308),可访问流式传输服务器(305)以检索已编码视频数据(304)的副本(307)和副本(309)。客户端子系统(306)可包括例如电子装置(330)中的视频解码器(310)。视频解码器(310)对已编码视频数据的传入副本(307)进行解码,且产生可在显示器(312)(例如显示屏)或另一呈现装置(未描绘)上呈现的输出视频图像流(311)。在一些流式传输系统中,可根据某些视频编码/压缩标准对已编码视频数据(304)、已编码视频数据(307)和已编码视频数据(309)(例如视频比特流)进行编码。这些标准的示例包括ITU-T建议书H.265。在一个示例中,正在开发的视频编码标准非正式地称为多功能视频编码(VVC)。所公开的主题可用于VVC的上下文中。

应注意,电子装置(320)和电子装置(330)可包括其它组件(未示出)。举例来说,电子装置(320)可包括视频解码器(未示出),且电子装置(330)还可包括视频编码器(未示出)。

图4示出了根据本公开的一个实施例的视频解码器(410)的框图。视频解码器(410)可包括在电子装置(430)中。电子装置(430)可包括接收器(431)(例如接收电路)。视频解码器(410)可用于代替图3的示例中的视频解码器(310)。

接收器(431)可接收将由视频解码器(410)解码的一个或多个已编码视频序列;在同一实施例或另一实施例中,一次接收一个已编码视频序列,其中每个已编码视频序列的解码独立于其它已编码视频序列的解码。可从信道(401)接收已编码视频序列,该信道可以是通向存储已编码视频数据的存储装置的硬件/软件链路。接收器(431)可接收已编码视频数据以及其它数据,例如已编码音频数据和/或辅助数据流,这些数据可转发到它们各自的使用实体(未描绘)。接收器(431)可将已编码视频序列与其它数据分开。为了防止网络抖动,缓冲存储器(415)可耦接在接收器(431)与熵解码器/解析器(420)(此后称为“解析器(420)”)之间。在某些应用中,缓冲存储器(415)是视频解码器(410)的一部分。在其它情况下,缓冲存储器(415)可设置在视频解码器(410)外部(未描绘)。而在其它情况下,在视频解码器(410)的外部可设置缓冲存储器(未描绘)以例如防止网络抖动,且在视频解码器(410)的内部可配置另一缓冲存储器(415)以例如处理播出定时。当接收器(431)正从具有足够带宽和可控性的存储/转发装置或从等时同步网络接收数据时,可能不需要缓冲存储器(415),或可将该缓冲存储器做得较小。为了尽力在互联网等业务分组网络上使用,可能需要缓冲存储器(415),该缓冲存储器可相对较大并可有利地具有自适应性大小,且可至少部分地实施于操作系统或视频解码器(410)外部的类似元件(未描绘)中。

视频解码器(410)可包括解析器(420)以根据已编码视频序列重建符号(421)。这些符号的类别包括用于管理视频解码器(410)的操作的信息,以及用以控制呈现装置(412)(例如,显示屏)等呈现装置(rendering device)的潜在信息,该显示装置不是电子装置(430)的整体部分,但可耦接到电子装置(430),如图3中所示。用于呈现装置的控制信息可以是辅助增强信息(Supplemental Enhancement Information,SEI消息)或视频可用性信息(Video Usability Information,VUI)参数集片段(未描绘)的形式。解析器(420)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准进行,且可遵循各种原理,包括可变长度编码、霍夫曼编码(Huffman coding)、具有或不具有上下文灵敏度的算术编码等等。解析器(420)可基于对应于群组的至少一个参数,从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图像组(Group of Pictures,GOPs)、图像、瓦片(tile)、分片(slice)、宏块(macroblock)、编码单元(Coding Unit,CU)、块、变换单元(Transform Unit,TU)、预测单元(Prediction Unit,PU)等等。解析器(420)还可从已编码视频序列提取信息,例如变换系数、量化器参数值、运动矢量等等。

解析器(420)可对从缓冲存储器(415)接收的视频序列执行熵解码/解析操作,从而创建符号(421)。

取决于已编码视频图像或一部分已编码视频图像的类型(例如:帧间图像和帧内图像、帧间块和帧内块)以及其它因素,符号(421)的重建可涉及多个不同单元。涉及哪些单元以及涉及方式可由解析器(420)从已编码视频序列解析出的子群控制信息来控制。为了简洁起见,未描绘解析器(420)与下文的多个单元之间的此类子群控制信息流。

除已经提及的功能块以外,视频解码器(410)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施方式中,这些单元中的许多单元彼此紧密交互且可至少部分地彼此集成。然而,出于描述所公开的主题的目的,概念上细分成下文的功能单元是适当的。

第一单元是缩放器/逆变换单元(451)。缩放器/逆变换单元(451)从解析器(420)接收作为符号(421)的量化变换系数以及控制信息,包括使用哪种变换方式、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(451)可输出包括样本值的块,该块可输入到聚合器(455)中。

在一些情况下,缩放器/逆变换单元(451)的输出样本可属于帧内编码块;即:不使用来自先前重建的图像的预测性信息,但可使用来自当前图像的在先重建部分的预测性信息的块。此类预测性信息可由帧内图像预测单元(452)提供。在一些情况下,帧内图像预测单元(452)采用从当前图像缓存(458)提取的周围已重建信息生成大小和形状与正在重建的块相同的块。举例来说,当前图像缓存(458)缓冲部分重建的当前图像和/或完全重建的当前图像。在一些情况下,聚合器(455)基于每个样本,将帧内预测单元(452)生成的预测信息添加到由缩放器/逆变换单元(451)提供的输出样本信息中。

在其它情况下,缩放器/逆变换单元(451)的输出样本可属于帧间编码和潜在运动补偿块。在此情况下,运动补偿预测单元(453)可访问参考图像存储器(457)以提取用于预测的样本。在根据属于块的符号(421)对提取的样本进行运动补偿之后,这些样本可由聚合器(455)添加到缩放器/逆变换单元(451)的输出中(在这种情况下被称作残差样本或残差信号),从而生成输出样本信息。运动补偿预测单元(453)从参考图像存储器(457)内提取预测样本的地址可受到运动矢量控制,且该运动矢量以符号(421)的形式供运动补偿预测单元(453)使用,符号(421)可具有例如X、Y和参考图像分量。运动补偿还可包括在使用子样本精确运动矢量时,从参考图像存储器(457)提取的样本值的内插、运动矢量预测机制等等。

聚合器(455)的输出样本可经受环路滤波器单元(456)中的各种环路滤波技术。视频压缩技术可包括环路内滤波器技术,该环路内滤波器技术受控于包括在已编码视频序列(也称作已编码视频比特流)中且作为来自解析器(420)的符号(421)可用于环路滤波器单元(456)的参数,然而,视频压缩技术还可响应于在解码已编码图像或已编码视频序列的先前(按解码次序)部分期间获得的元信息,以及响应于先前重建且经过环路滤波的样本值。

环路滤波器单元(456)的输出可以是样本流,该样本流可输出到呈现装置(412)以及存储在参考图像存储器(457)中,以用于后续的帧间图像预测。

一旦完全重建,某些已编码图像就可用作参考图像以用于将来预测。举例来说,一旦对应于当前图像的已编码图像被完全重建,且已编码图像(通过例如解析器(420))被识别为参考图像,则当前图像缓存(458)可变为参考图像存储器(457)的一部分,且可在开始重建后续已编码图像之前重新分配新的当前图像缓存。

视频解码器(410)可根据例如ITU-T Rec.H.265标准中的预定视频压缩技术执行解码操作。在已编码视频序列遵循视频压缩技术或标准的语法(syntax)以及视频压缩技术或标准中记录的配置文件(profile)的意义上,已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。具体地说,配置文件可从视频压缩技术或标准中可用的所有工具中选择某些工具作为在该配置文件下可供使用的仅有工具。对于合规性,还可要求已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下,层级限制最大图像大小、最大帧率、最大重建取样率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图像大小等。在一些情况下,由层级设定的限制可通过假想参考解码器(Hypothetical Reference Decoder,HRD)规范和在已编码视频序列中用信号表示的HRD缓冲器管理的元数据来进一步限定。

在一个实施例中,接收器(431)可连同已编码视频的接收一起接收附加(冗余)数据。该附加数据可被包括作为已编码视频序列的一部分。该附加数据可由视频解码器(410)使用以对数据进行适当解码和/或较准确地重建原始视频数据。附加数据可呈例如时间、空间或信噪比(signal noise ratio,SNR)增强层、冗余切片、冗余图像、前向纠错码等形式。

图4示出了根据本公开的一个实施例的视频编码器(503)的框图。视频编码器(503)包括在电子装置(520)中。电子装置(520)包括传输器(540)(例如传输电路)。视频编码器(503)可用于代替图3的示例中的视频编码器(303)。

视频编码器(503)可从视频源(501)(并非图5的示例中的电子装置(520)的一部分)接收视频样本,该视频源可采集将由视频编码器(503)编码的视频图像。在另一示例中,视频源(501)是电子装置(520)的一部分。

视频源(501)可提供将由视频编码器(503)编码的呈数字视频样本流形式的源视频序列,该数字视频样本流可具有任何合适的位深度(例如:8位、10位、12位……)、任何色彩空间(例如BT.601Y CrCB、RGB……)和任何合适的采样结构(例如Y CrCb 4:2:0、Y CrCb4:4:4)。在媒体服务系统中,视频源(501)可以是存储先前已准备的视频的存储装置。在视频会议系统中,视频源(501)可以是采集本地图像信息作为视频序列的相机。可将视频数据提供为多个单独的图像,当按顺序观看时,这些图像产生运动效果。图像自身可构建为空间像素阵列,其中取决于所用的采样结构、色彩空间等,每个像素可包括一个或多个样本。本领域的技术人员能够容易理解像素与样本之间的关系。下文侧重于描述样本。

根据一个实施例,视频编码器(503)可实时或在由应用所要求的任何其它时间约束下,将源视频序列的图像编码且压缩成已编码视频序列(543)。施行适当的编码速度是控制器(550)的一个功能。在一些实施例中,控制器(550)控制如下文所描述的其它功能单元且在功能上耦接到其它功能单元。为了简洁起见,图中未描绘耦接。由控制器(550)设置的参数可包括速率控制相关参数(图像跳过、量化器、率失真优化技术的λ值……)、图像大小、图像组(GOP)布局、最大运动矢量搜索范围等。控制器(550)可被配置为具有其它合适的功能,这些功能涉及针对某一系统设计优化的视频编码器(503)。

在一些实施例中,视频编码器(503)被配置为在编码环路中进行操作。作为简单的描述,在一个示例中,编码环路可包括源编码器(530)(例如,负责基于待编码的输入图像和参考图像创建符号,例如符号流)和嵌入于视频编码器(503)中的(本地)解码器(533)。解码器(533)重建符号以用类似于(远程)解码器可创建样本数据的方式创建样本数据(因为在所公开的主题所考虑的视频压缩技术中,符号与已编码视频比特流之间的任何压缩是无损的)。将重建的样本流(样本数据)输入到参考图像存储器(534)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果,因此参考图像存储器(534)中的内容在本地编码器与远程编码器之间也是按比特位精确对应的。换句话说,编码器的预测部分“看到”的参考图像样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图像同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的偏移)也用于一些相关技术。

“本地”解码器(533)的操作可与诸如已在上文结合图4详细描述的视频解码器(410)之类的“远程”解码器的操作相同。然而,另外简要参考图4,当符号可用且熵编码器(545)和解析器(420)可无损地将符号编码/解码为已编码视频序列时,包括缓冲存储器(415)和解析器(420)在内的视频解码器(410)的熵解码部分可能无法完全在本地解码器(533)中实施。

此时可观察到,除存在于解码器中的解析/熵解码之外的任何解码器技术,也必定以基本上相同的功能形式存在于对应的编码器中。出于此原因,所公开的主题侧重于解码器操作。可简化编码器技术的描述,这是因为编码器技术与全面描述的解码器技术互逆。仅在某些区域中需要更详细的描述,并在下文提供。

在操作期间,在一些示例中,源编码器(530)可执行运动补偿预测编码。参考来自视频序列中被指定为“参考图像”的一个或多个先前已编码图像,该运动补偿预测编码对输入图像进行预测性编码。以此方式,编码引擎(532)对输入图像的像素块与参考图像的像素块之间的差异进行编码,该参考图像可被选作该输入图像的预测参考。

本地视频解码器(533)可基于源编码器(530)创建的符号,对可指定为参考图像的图像的已编码视频数据进行解码。编码引擎(532)的操作可有利地为有损过程。当已编码视频数据可在视频解码器(图5中未示出)处被解码时,已重建视频序列通常可以是源视频序列的副本,但带有一些误差。本地视频解码器(533)复制解码过程,该解码过程可由视频解码器对参考图像执行,且可使重建参考图像存储在参考图像高速缓存(534)中。以此方式,视频编码器(503)可在本地存储重建参考图像的副本,该副本与将由远端视频解码器获得的重建参考图像具有共同内容(不存在传输误差)。

预测器(535)可针对编码引擎(532)执行预测搜索。即,对于将要编码的新图像,预测器(535)可在参考图像存储器(534)中搜索可作为该新图像的适当预测参考的样本数据(作为候选参考像素块)或某些元数据,例如参考图像运动矢量、块形状等。预测器(535)可基于样本块逐像素块操作,以找到合适的预测参考。在一些情况下,如由预测器(535)获得的搜索结果所确定的那样,输入图像可具有从参考图像存储器(534)中存储的多个参考图像取得的预测参考。

控制器(550)可管理源编码器(530)的编码操作,包括例如设置用于对视频数据进行编码的参数和子群参数。

可在熵编码器(545)中对所有上述功能单元的输出进行熵编码。熵编码器(545)根据例如霍夫曼编码、可变长度编码、算术编码等技术将各种功能单元生成的符号通过无损压缩变换成已编码视频序列。

传输器(540)可缓冲由熵编码器(545)创建的已编码视频序列,从而为通过通信信道(560)进行传输做准备,该通信信道可以是通向将存储已编码视频数据的存储装置的硬件/软件链路。传输器(540)可将来自视频编码器(503)的已编码视频数据与要传输的其它数据合并,该其它数据例如是已编码音频数据和/或辅助数据流(未示出来源)。

控制器(550)可管理视频编码器(503)的操作。在编码期间,控制器(550)可给每个已编码图像分配某一已编码图像类型,但这可能影响可应用于相应图像的编码技术。例如,通常可将图像分配为以下任一种图像类型:

帧内图像(I图像),其可以是不将序列中的任何其它图像用作预测源就可被编码和解码的图像。一些视频编解码器容许不同类型的帧内图像,包括例如独立解码器刷新(Independent Decoder Refresh,“IDR”)图像。本领域的技术人员了解I图像的变体及其相应的应用和特征。

预测性图像(P图像),其可以是可使用帧内预测或帧间预测进行编码和解码的图像,该帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。

双向预测性图像(B图像),其可以是可使用帧内预测或帧间预测进行编码和解码的图像,该帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地,多预测性图像(multiple-predictive picture)可使用多于两个参考图像和相关联的元数据以用于重建单个块。

源图像通常可在空间上细分成多个样本块(例如,4×4、8×8、4×8或16×16个样本的块),且逐块进行编码。这些块可参考其它(已编码)块进行预测性编码,该其它块由应用于这些块的相应图像的编码分配来确定。举例来说,I图像的块可进行非预测性编码,或该块可参考同一图像的已编码块来进行预测性编码(空间预测或帧内预测)。P图像的像素块可参考一个先前编码的参考图像通过空间预测或通过时间预测进行预测性编码。B图像的块可参考一个或两个先前编码的参考图像通过空间预测或通过时间预测进行预测性编码。

视频编码器(503)可根据例如ITU-T Rec.H.265的预定视频编码技术或标准执行编码操作。在操作中,视频编码器(503)可执行各种压缩操作,包括利用输入视频序列中的时间和空间冗余的预测编码操作。因此,已编码视频数据可符合所使用的视频编码技术或标准指定的语法。

在一个实施例中,传输器(540)可传输已编码视频连同附加数据。源编码器(530)可包括此类数据作为已编码视频序列的一部分。附加数据可包括时间/空间/SNR增强层、冗余图像和分片等其它形式的冗余数据、SEI消息、VUI参数集片段等。

采集到的视频可作为呈时间序列的多个源图像(视频图像)。帧内图像预测(常常简化为帧内预测)利用给定图像中的空间相关性,帧间图像预测利用图像之间的(时间或其它)相关性。在一个示例中,将正在编码/解码的特定图像分割成块,正在编码/解码的特定图像被称作当前图像。在当前图像中的块类似于视频中先前已编码且仍被缓冲的参考图像中的参考块时,可通过称作运动矢量的矢量对当前图像中的块进行编码。该运动矢量指向参考图像中的参考块,且在使用多个参考图像的情况下,该运动矢量可具有识别参考图像的第三维度。

在一些实施例中,双向预测技术可用于帧间图像预测。根据双向预测技术,使用两个参考图像,例如按解码次序都在视频中的当前图像之前(但按显示次序可能分别是过去和将来)的第一参考图像和第二参考图像。可通过指向第一参考图像中的第一参考块的第一运动矢量和指向第二参考图像中的第二参考块的第二运动矢量对当前图像中的块进行编码。可通过第一参考块和第二参考块的组合来预测该块。

此外,合并模式技术可用于帧间图像预测以改善编码效率。

根据本公开的一些实施例,诸如帧间图像预测和帧内图像预测之类的预测以块为单位执行。举例来说,根据HEVC标准,将视频图像序列中的图像分割成编码树单元(codingtree unit,CTU)以用于压缩,图像中的CTU具有相同大小,例如64×64像素、32×32像素或16×16像素。一般来说,CTU包括三个编码树块(coding tree block,CTB),这三个编码树块是一个亮度CTB和两个色度CTB。可将每个CTU递归地以四叉树拆分为一个或多个编码单元(CU)。举例来说,可将64×64像素的CTU拆分为一个64×64像素的CU,或4个32×32像素的CU,或16个16×16像素的CU。在一个示例中,分析每个CU以确定用于该CU的预测类型,例如帧间预测类型或帧内预测类型。取决于时间和/或空间可预测性,将CU拆分为一个或多个预测单元(prediction unit,PU)。通常,每个PU包括亮度预测块(prediction block,PB)和两个色度PB。在一个实施例中,编码(编码/解码)中的预测操作以预测块为单位来执行。以亮度预测块作为预测块的示例,预测块包括针对像素的值(例如,亮度值)的矩阵,这些像素为例如8×8像素、16×16像素、8×16像素、16×8像素等等。

图6示出了根据本公开的另一实施例的视频编码器(603)的图。视频编码器(603)被配置为接收视频图像序列中的当前视频图像内的样本值的处理块(例如预测块),且将该处理块编码到作为已编码视频序列的一部分的已编码图像中。在一个示例中,视频编码器(603)用于代替图3的示例中的视频编码器(303)。

在HEVC示例中,视频编码器(603)接收用于处理块的样本值的矩阵,该处理块为例如8×8样本的预测块等。视频编码器(603)使用例如率失真(rate-distortion,RD)优化来确定是否使用帧内模式、帧间模式或双向预测模式来最佳地编码该处理块。当将以帧内模式编码处理块时,视频编码器(603)可使用帧内预测技术以将处理块编码到已编码图像中;且当将以帧间模式或双向预测模式编码处理块时,视频编码器(603)可分别使用帧间预测或双向预测技术将处理块编码到已编码图像中。在某些视频编码技术中,合并模式可以是帧间图像预测子模式,其中在不借助预测器外部的已编码运动矢量分量的情况下,从一个或多个运动矢量预测导出运动矢量。在某些其它视频编码技术中,可存在适用于主题块的运动矢量分量。在一个示例中,视频编码器(603)包括其它组件,例如用于确定处理块的模式的模式决策模块(未示出)。

在图6的示例中,视频编码器(603)包括如图6所示的耦接到一起的帧间编码器(630)、帧内编码器(622)、残差计算器(623)、开关(626)、残差编码器(624)、通用控制器(621)和熵编码器(625)。

帧间编码器(630)被配置为接收当前块(例如处理块)的样本、比较该块与参考图像中的一个或多个参考块(例如先前图像和后来图像中的块)、生成帧间预测信息(例如根据帧间编码技术的冗余信息描述、运动矢量、合并模式信息)、以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如已预测块)。在一些示例中,参考图像是基于已编码视频信息解码的已解码参考图像。

帧内编码器(622)被配置为接收当前块(例如处理块)的样本、在一些情况下比较该块与同一图像中已编码的块、在变换之后生成量化系数、以及在一些情况下还生成帧内预测信息(例如根据一个或多个帧内编码技术生成帧内预测方向信息)。在一个示例中,帧内编码器(622)还基于帧内预测信息和同一图像中的参考块计算帧内预测结果(例如已预测块)。

通用控制器(621)被配置为确定通用控制数据,且基于该通用控制数据控制视频编码器(603)的其它组件。在一个示例中,通用控制器(621)确定块的模式,且基于该模式将控制信号提供到开关(626)。举例来说,当该模式是帧内模式时,通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧内模式结果,且控制熵编码器(625)以选择帧内预测信息且将该帧内预测信息包括在比特流中;以及当该模式是帧间模式时,通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧间预测结果,且控制熵编码器(625)以选择帧间预测信息且将该帧间预测信息包括在比特流中。

残差计算器(623)被配置为计算所接收的块与选自帧内编码器(622)或帧间编码器(630)的预测结果之间的差(残差数据)。残差编码器(624)被配置为基于残差数据操作,以对残差数据进行编码以生成变换系数。在一个示例中,残差编码器(624)被配置为将残差数据从空间域转换至频域,且生成变换系数。变换系数接着经受量化处理以获得量化的变换系数。在各实施例中,视频编码器(603)还包括残差解码器(628)。残差解码器(628)被配置为执行逆变换,且生成已解码残差数据。已解码残差数据可适当地由帧内编码器(622)和帧间编码器(630)使用。举例来说,帧间编码器(630)可基于已解码残差数据和帧间预测信息生成已解码块,且帧内编码器(622)可基于已解码残差数据和帧内预测信息生成已解码块。适当处理已解码块以生成已解码图像,且在一些示例中,该已解码图像可在存储器电路(未示出)中缓冲并用作参考图像。

熵编码器(625)被配置为将比特流格式化以包括已编码块。熵编码器(625)被配置为根据例如HEVC标准的合适标准而包括各种信息。在一个示例中,熵编码器(625)被配置为将通用控制数据、所选预测信息(例如帧内预测信息或帧间预测信息)、残差信息和其它合适的信息包括在比特流中。应注意,根据所公开的主题,当在帧间模式或双向预测模式的合并子模式下对块进行编码时,不存在残差信息。

图7示出了根据本公开的另一实施例的视频解码器(710)的图。视频解码器(710)被配置为接收作为已编码视频序列的一部分的已编码图像,且对该已编码图像进行解码以生成重建图像。在一个示例中,视频解码器(710)用于代替图3的示例中的视频解码器(310)。

在图7的示例中,视频解码器(710)包括如图7所示耦接到一起的熵解码器(771)、帧间解码器(780)、残差解码器(773)、重建模块(774)和帧内解码器(772)。

熵解码器(771)可被配置为根据已编码图像来重建某些符号,这些符号表示构成该已编码图像的语法元素。此类符号可包括例如用于对该块进行编码的模式(例如帧内模式、帧间模式、双向预测模式、后两者的合并子模式或另一子模式)、可识别分别供帧内解码器(772)或帧间解码器(780)使用以进行预测的某些样本或元数据的预测信息(例如帧内预测信息或帧间预测信息)、呈例如量化的变换系数形式的残差信息等等。在一个示例中,当预测模式是帧间或双向预测模式时,将帧间预测信息提供到帧间解码器(780);以及当预测类型是帧内预测类型时,将帧内预测信息提供到帧内解码器(772)。残差信息可经受逆量化并提供到残差解码器(773)。

帧间解码器(780)被配置为接收帧间预测信息,且基于该帧间预测信息生成帧间预测结果。

帧内解码器(772)被配置为接收帧内预测信息,且基于该帧内预测信息生成预测结果。

残差解码器(773)被配置为执行逆量化以提取解量化的变换系数,且处理该解量化的变换系数,以将残差从频域变换到空间域。残差解码器(773)还可能需要某些控制信息(用以包括量化器参数(Quantizer Parameter,QP)),且该信息可由熵解码器(771)提供(未描绘数据路径,因为这仅仅是低量控制信息)。

重建模块(774)被配置为在空间域中组合由残差解码器(773)输出的残差与预测结果(根据具体情况可由帧间预测模块或帧内预测模块输出)以形成重建块,该重建块可以是重建图像的一部分,该重建图像继而可以是重建视频的一部分。应注意,可执行例如去块操作(deblocking operation)等其它合适的操作来改善视觉质量。

应注意,可使用任何合适的技术来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在一个实施例中,可使用一个或多个集成电路来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在另一实施例中,可使用执行软件指令的一个或多个处理器来实施视频编码器(303)、视频编码器(503)和视频编码器(503)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。

来自不同图像的基于块的补偿可以被称为运动补偿。块补偿也可以从同一图像内的先前重建区域进行,其可以被称为帧内图像块补偿、帧内块复制(Intra Block Copy,IBC)或当前图像参考(Current Picture Referencing,CPR)。例如,指示当前块和参考块之间的偏移的位移向量被称为块向量。根据一些实施例,块向量指向已经重建的并可用于参考的参考块。而且,出于并行处理的考虑,瓦片/分片边界或波前梯形边界之外的参考区域也可以被排除在块向量的参考之外。由于这些约束,块向量可以不同于运动补偿中的运动矢量,其中运动矢量可以是任何值(正或负、在x或y方向上)。

块向量的编码可以是显式或隐式的。在显式模式下,有时称为帧间编码中的AMVP模式(Advanced Motion Vector Prediction,高级运动矢量预测),块向量与其预测之间的差通过信号发送。在隐式模式下,与合并模式中的运动矢量的方式类似,从块向量的预测值中重新获得块向量。在一些实施例中,块向量的分辨率被限于整数位置。在其它实施例中,可以允许块向量的分辨率指向分数位置。

可以使用被称为IBC标志的块级标志来通过信号发送在块级的帧内块复制的使用。在一个实施例中,当当前块未在合并模式下编码时,通过信号发送IBC标志。IBC标志也可以通过参考索引方法用信号发送,该参考索引方法是通过将当前解码的图像作为参考图像来执行的。在HEVC屏幕内容编码(Screen Content Coding,SCC)中,这样的参考图像被置于列表的最后位置。该特定的参考图像也可以与DPB中的其它时间参考图像一起被管理。IBC还可以包括诸如翻转IBC(例如,参考块在用于预测当前块之前被水平地或垂直地翻转)或基于行的IBC(例如,M×N编码块内的每个补偿单元是M×1或1×N行)的变型。

图8示出了帧内图像块补偿(例如,帧内块复制模式)的实施例。在图8中,当前图像800包括一组已被编码/解码的块区域(即,灰色正方形)和一组尚未被编码/解码的块区域(即,白色正方形)。尚未被编码/解码的块区域之一的块802可以与指向先前已经被编码/解码的另一个块806的块向量804相关联。因此,与块806相关联的任何运动信息可用于块802的编码/解码。

在一些实施例中,CPR模式的搜索范围被限制在当前CTU内。为CPR模式存储参考样本的有效存储器需求是样本的1个CTU大小。考虑到用于在当前64×64区域中存储重建样本的现有参考样本存储器,需要3个以上64×64大小的参考样本存储器。本发明的实施例将CPR模式的有效搜索范围扩展到左CTU的某些部分,而用于存储参考像素的总存储器需求保持不变(1个CTU大小,总共4个64×64参考样本存储器)。

在图9A中,CTU 900的左上区域是正在解码的当前区域。当CTU 900的左上区域被解码时,参考样本存储器的条目[1]被来自该区域的样本覆盖,如图10A所示(例如,覆盖的存储器位置具有对角交叉阴影线)。在图9B中,CTU 900的右上区域是正在解码的下一个当前区域。当CTU 900的右上区域被解码时,参考样本存储器的条目[2]被来自该区域的样本覆盖,如图10B所示。在图9C中,CTU 900的左下区域是正在解码的下一个当前区域。当CTU900的左下区域被解码时,参考样本存储器的条目[3]被来自该区域的样本覆盖,如图10C所示。在图9D中,CTU 900的右下区域是正在解码的下一个当前区域。当CTU 900的右下区域被解码时,参考样本存储器的条目[3]被来自该区域的样本覆盖,如图10D所示。

在一些实施例中,比特流一致性条件是有效块向量(mvL,以1/16像素分辨率)应遵循的以下指定的条件。在一些实施例中,亮度运动矢量MVL服从以下A1、A2、B1、C1和C2约束。

在第一约束条件(A1)中,当使用设置等于(xCb,yCb)的当前亮度位置(xCurr,yCurr)和相邻亮度位置(xCb+(mvL[0]>>4)+cbWidth–1,yCb+(mvL[1]>>4)+cbHeight-1)作为输入调用块可用性的推导过程(例如,相邻块可用性检查过程)时,输出应等于真(TRUE)。

在第二约束条件(A2)中,当使用设置等于(xCb,yCb)的当前亮度位置(xCurr,yCurr)和相邻亮度位置(xCb+(mvL[0]>>4)+cbWidth–1,yCb+(mvL[1]>>4)+cbHeight-1)作为输入调用块可用性的导出过程(例如,相邻块可用性检查过程)时,输出应等于真(TRUE)。

在第三约束条件(B1)中,下列条件中的一个或两个为真:

(i)(mvL[0]>>4)+cbWidth的值小于或等于0。

(ii)(mvL[1]>>4)+cbHeight的值小于或等于0。

在第四约束条件(C1)中,以下条件为真:

(i)(yCb+(mvL[1]>>4))>>CtbLog2SizeY=yCb>>CtbLog2SizeY

(ii)(yCb+(mvL[1]>>4)+cbHeight-1)>>CtbLog2SizeY=yCb>>CtbLog2SizeY

(iii)(xCb+(mvL[0]>>4))>>CtbLog2SizeY>=(xCb>>CtbLog2SizeY)-1

(iv)(xCb+(mvL[0]>>4)+cbWidth-1)>>CtbLog2SizeY<=(xCb>>CtbLog2SizeY)

在第五约束条件(C2)中,当(xCb+(mvL[0]>>4))>>CtbLog2SizeY等于(xCb>>CtbLog2SizeY)-1时,使用设置等于(xCb,yCb)的当前亮度位置(xCurr,yCurr)和相邻亮度位置(((xCb+(mvL[0]>>4)+CtbSizeY)>>(CtbLog2SizeY-1))<<(CtbLog2SizeY-1),((yCb+(mvL[1]>>4))>>(CtbLog2SizeY-1))<<(CtbLog2SizeY-1))作为输入调用块可用性的导出过程(例如,相邻块可用性检查过程),输出应等于假(FALSE)。

在上述等式中,xCb和yCb分别是当前块的x和y坐标。变量cbHeight和cbWidth分别是当前块的高度和宽度。变量CtbLog2sizeY是指log2域中的CTU大小。例如,CtbLog2sizeY=7意味着CTU大小是128×128。变量mvL0[0]和mvL0[1]分别指块向量mvL0的x和y分量。如果输出是FALSE,则确定参考块的样本是可用的(例如,相邻块可用于帧内块复制使用)。如果输出为TRUE,则确定参考块的样本不可用。

根据一些实施例,基于历史MVP(History-Based MVP,HMVP)方法包括被定义为先前编码块的运动信息的HMVP候选。在编码/解码过程期间维持具有多个HMVP候选的表。当遇到新的分片时,该表被清空。每当存在帧间编码的非仿射块时,相关联的运动信息被添加到该表的最后条目中作为新的HMVP候选。HMVP方法的编码流程在图11A中示出。

表的大小S被设置为6,这表示可以将多达6个HMVP候选添加到表中。当将新的运动候选插入到表中时,利用受约束的FIFO规则,使得首先应用冗余校验来确定在表中是否有相同的HMVP。如果找到相同的HMVP,则从表中去除相同的HMVP,然后将所有HMVP候选前移,即,索引减少1。图11B示出了将新的运动候选插入HMVP表中的示例。

HMVP候选可用在合并候选列表构建过程中。按顺序检查表中最新的数个HMVP候选,并将其插入到TMVP候选之后的候选列表中。可以在HMVP候选上应用修剪(pruning)以获得除子块运动候选之外的空间或时间合并候选(即,ATMVP)。

在一些实施例中,为了减少修剪操作的数量,将待检查的候选HMPV的数量(由L表示)设置为L=(N<=4)?M:(8-N),其中N指示可用的非子块合并候选的数量,且M指示表中可用的HMVP候选的数量。此外,一旦可用的合并候选的总数达到信号通知的最大允许合并候选减1,则终止根据HMVP列表的合并候选列表构建过程。此外,用于组合的双预测合并候选导出的对数从12减少到6。

HMVP候选还可用在AMVP候选列表构建过程中。表中的最后K个HMVP候选的运动矢量被插入到TMVP候选之后。仅使用具有与AMVP目标参考图相同的参考图像的HMVP候选来构建AMVP候选列表。对HMVP候选应用修剪。在一些应用中,K被设置为4而AMVP列表大小保持不变,即等于2。

根据一些实施例,当帧内块复制作为与帧间模式独立的模式操作时,称为HBVP的独立历史缓冲器可用于存储先前已编码的帧内块复制块向量。作为独立于帧间预测的模式,期望具有用于帧内块复制模式的简化块向量推导过程。在AMVP模式下用于IBC BV预测的候选列表可以共享在IBC合并模式下使用的候选列表(合并候选列表),其具有2个空间候选+5个HBVP候选。

IBC模式的合并候选列表大小可以被指定为MaxNumMergeCand。MaxNumMergeCand可以由帧间模式间合并候选列表大小MaxNumMergeCand确定,在一些示例中,该列表大小被指定为six_minus_max_num_merge_cand。变量six_minus_max_num_merge_cand可以指定从6减去在分片中支持的合并运动矢量预测(Motion Vector Prediction,MVP)候选的最大数量。

在一些示例中,合并MVP候选的最大数量MaxNumMergeCand可导出为:

MaxNumMergeCand=6-six_minus_max_num_merge_cand

MaxNumMergeCand的值可以在1到6的范围内,包括1和6。非合并模式中的BV预测可以共享为IBC合并模式生成的相同列表。然而,在一些示例中,对于非合并模式情况,候选列表大小通常为2。因此,当MaxNumMergeCand被设置为不同的值并且相较于帧间合并候选列表大小,对IBC合并候选列表的最大数量进行不同设置时,需要开发适当的方法来处理IBC合并候选列表大小以及IBC非合并模式(AMVP模式)预测列表大小。

本公开的实施例可以单独使用或以任何顺序组合使用。此外,根据本发明实施例的方法、编码器和解码器中的每一个均可由处理电路(例如,一个或多个处理器或一个或多个集成电路)实现。在一个示例中,一个或多个处理器执行存储在非暂时性计算机可读介质中的程序。根据一些实施例,术语块可被解释为预测块、编码块或编码单元(即,CU)。在讨论合并模式时,跳过模式可以被认为是特殊的合并模式。针对合并模式的所有公开的实施例也可以应用于跳过模式。

在一些实施例中,当用于帧间合并模式的MaxNumMergeCand用信号通知为1时,用于IBC的相应的合并候选列表大小是1,这会导致非期望的行为,尤其是当IBC AMVP模式也使用相同的候选列表用于BV预测时。在这种情况下,期望具有至少两个条目的候选列表(AMVP模式具有两个预测器)。本公开的实施例解决了这些问题。

根据一些实施例,在第一方法中,用于IBC模式的合并列表大小至少是M,其中M是整数。在一些实施例中,用于IBC的合并列表大小MaxNumIBCMergeCand被设置为:

MaxNumIBCMergeCand=max(MaxNumMergeCand,M)。

在一个实施例中,M被设置为等于1,以保证至少1个候选用于IBC合并模式。在另一个实施例中,M被设置为等于2,以保证至少2个候选用于IBC合并模式。此外,与IBC合并模式共享相同候选列表的IBC AMVP模式可以确保用于AMVP模式下的BV预测的候选列表中将存在两个条目。在另一个实施例中,当IBC AMVP模式与IBC合并模式共享相同的候选列表时,如果当前CU在IBC合并模式下进行编码,则M被设置为1,并且当当前CU在IBC AMVP模式下进行编码时,M被设置为2。

根据一些实施例,在第二方法中,仅当用于IBC的合并候选列表大小大于1时才用信号通知IBC合并模式的索引(即,merge_idx)。在该第二方法中,首先得出用于IBC的合并候选列表大小(即,MaxNumIBCMergeCand),这推断出用于IBC的变量MaxNumIBCMergeCand可以与用于帧间模式的MaxNumMergeCand不同。

在一些实施例中,如果仅考虑用于IBC的合并候选大小,则适用以下情况:

当general_merge_flag为真(true)时:

表1

在一些实施例中,如果MaxNumIBCMergeCand被设置为等于MaxNumMergeCand-1,则适用以下情况:

当merge_flag为真时:

表2

在一些实施例中,如果IBC AMVP模式与IBC合并模式共享相同的候选列表,则预期用于在AMVP模式下的BV预测的候选列表中至少有两个条目。为了支持此条件,可以为IBC的合并候选列表大小进行以下分配:

MaxNumIBCMergeCand=max(MaxNumMergeCand,2)。

由于在本实施例中保证MaxNumIBCMergeCand>=2,所以merge_idx的信令不需要取决于帧间合并候选列表的大小MaxNumMergeCand。语法表的一个示例如下:

表3

根据一些实施例,在第三方法中,通过信号发送用于IBC的单独合并候选列表大小,并且该大小MaxNumIBCMergeCand的范围至少来自M,其中M是整数。在该第三方法中,用于IBC的合并候选列表大小MaxNumIBCMergeCand可以通过信号从单独的语法元素(syntaxelement)发出。在一个实施例中,MaxNumIBCMergeCand的范围是2到MaxNumMergeCand。

以下是第三方法的信令方法的一个实施例。在一些示例中,MaxNumIBCMergeCand<=MaxNumMergeCand。在图像或分片级,

表4

在一些示例中,变量max_num_merge_cand_minus_max_num_ibc_cand指定从MaxNumMergeCand减去在分片中支持的IBC合并模式候选的最大数量。IBC合并模式候选的最大数量MaxNumIBCMergeCand可以导出如下:

MaxNumIBCMergeCand=

MaxNumMergeCand-max_num_merge_cand_minus_max_num_ibc_cand.。

当max_num_merge_cand_minus_max_num_ibc_cand存在时,在一些示例中,MaxNumIBCMergeCand的值处于2至MaxNumMergeCand的范围(包括端值)内。当max_num_merge_cand_minus_max_num_ibc_cand不存在时,在一些示例中,MaxNumIBCMergeCand被设置为0。当MaxNumIBCMergeCand等于0时,在一些示例中,IBC合并模式不允许用于当前分片。

在一些实施例中,在CU级,如果以下条件全部为真,则MergeIBCFlag[x0][y0]被设置为等于1:

(i)sps_ibc_enabled_flag等于1。

(ii)general_merge_flag[x0][y0]等于1。

(iii)CuPredMode[x0][y0]等于MODE_IBC。

(iv)MaxNumIBCMergeCand大于或等于2。

表5

变量merge_ibc_idx是用于IBC合并候选列表的索引,在一些示例中,该变量介于0至MaxNumIBCMergeCand–1之间。如果MaxNumIBCMergeCand大于MaxNumMergeCand,则上述关于CU级的实施例不成立。

在一些实施例中,首先通过信号发送skip_flag或general_merge_flag。确保这些标志可被正确地使用。应施加一个约束,使得当选择IBC模式并且合并候选大小小于期望的最小数量M(例如M=2)时,不通过信号发送这些标志或者这些标志仅应是假。在一个实施例中,当MaxNumIBCMergeCand小于2时,不使用IBC合并模式或跳过模式。如果在块级IBC标志之前通过信号发送跳过模式标志,则可以对IBC标志信令施加约束,使得当skip_flag为真时,IBC标志不通过信号发出并推断为假。在另一示例中,如果在块级IBC标志之前通过信号发送跳过模式标志,则IBC标志通过信号发出,但仍被推断为假。

在一些实施例中,如果在general_merge_flag之前通过信号发送块级IBC标志,则对general_merge_flag信令施加约束,使得当IBC标志为真时,general_merge_flag不通过信号发送并推断为假,或者general_merge_flag通过信号发送但被推断为假。示例性的语法表设计如下所示:

表6

当CuPredMode[x0][y0]==MODE_IBC并且MaxNumIBCMergeCand<2时,在一些示例中,general_merge_flag[x0][y0]被推断为0。

根据一些实施例,在第四方法中,用于IBC模式的合并列表大小至少是M,最多是N,其中M和N是整数,并且M<N。在该第四方法中,IBC的合并列表大小MaxNumIBCMergeCand可以被设置为:

MaxNumIBCMergeCand=max(M,min(MaxNumMergeCand,N))。

在一个实施例中,M被设置为等于2,因此存在至少2个用于IBC合并模式的候选。在另一个实施例中,N被设置为等于5,因此存在至多5个用于IBC合并模式的候选。

根据一些实施例,在第五方法中,在比特流中,例如在片头中通过信号发送IBC预测候选的最大数量MaxNumIBCCand。这个数量可以用于IBC合并和IBC AMVP两者。可以使用具有截断一元码的同一语法标志(候选索引)通过信号发送IBC合并索引和IBC AMVP预测索引,其中(MaxNumIBCCand–1)是截断一元码的最大值。

根据一些实施例,在第六实施例中,不管MaxNumIBCMergeCand是否等于MaxNumMergeCand,当MaxNumIBCMergeCand等于1时,不通过信号发送用于IBC AMVP模式的mvp idx(mvp_l0_flag)。因此,根据第六方法,如果BV预测大小等于1(由MaxNumIBCMergeCand=1确定),则IBC AMVP模式将只有1个预测候选。当这种情况发生时,不需要通过信号发送该预测的索引。

下面的语法是根据方法6的实施例的示例。

表7

图12示出了说明由诸如视频解码器(710)之类的视频解码器执行的视频解码过程的实施例。该过程可以在步骤(S1200)开始,在步骤(S1200)中,接收包括当前图像的已编码视频比特流。该过程进行到步骤(S1202),以确定当前图像中的当前块是否以IBC模式进行编码。如果当前块以IBC模式进行编码,则该过程从步骤(S1202)进行到步骤(S1204),以确定当前块的IBC预测候选的数量。例如,可以根据以上公开的第一至第六方法中的一种来确定IBC预测候选的数量。该过程进行到步骤(S1206),在步骤(S1206)中,构建具有与IBC预测候选的数量相对应的大小的IBC预测候选列表。该过程进行到步骤(S1208),在步骤(S1208)中,从IBC预测候选列表中选择块向量预测。该过程进行到步骤(S1210),在步骤(S1210)中,使用块向量预测对与当前块相关联的块向量进行解码。该过程进行到步骤(S1212),在步骤(S1212)中,根据在前一步骤中已解码的块向量对当前块进行解码。例如,可以从IBC预测候选列表中选择块向量预测,可以使用所选择的块向量预测对块向量进行解码,并且使用块向量对当前块执行IBC解码。在这点上,与所选择的候选相关联的块向量用于指向当前图像中用于解码当前块的另一个块。

返回到步骤(S1202),如果当前块未以IBC模式进行编码,则该过程进行到步骤(S1214),在步骤(S1214)中,根据当前块的编码模式对当前块进行解码。例如,可以基于帧内预测模式或帧间预测模式来解码当前块。图12所示的过程可以在步骤(S1212)和(S1214)完成之后结束。

可将上述技术实现为计算机软件,该计算机软件使用计算机可读指令且物理地存储在一个或多个计算机可读介质中。例如,图13示出了适合于实施所公开的主题的某些实施例的计算机系统(1300)。

可使用任何合适的机器代码或计算机语言对计算机软件进行编码,任何合适的机器代码或计算机语言可经受汇编、编译、链接或类似的机制以创建包括指令的代码,该指令可由一个或多个计算机中央处理单元(Central Processing Unit,CPU)、图形处理单元(Graphics Processing Unit,GPU)等直接执行或通过解释、微代码执行等执行。

指令可在各种类型的计算机或其组件上执行,例如包括个人计算机、平板计算机、服务器、智能电话、游戏装置、物联网装置等。

图13所示的计算机系统(1300)的组件本质上是示例性的,并不旨在对实施本公开的实施例的计算机软件的使用范围或功能提出任何限制。组件的配置也不应被解释为具有与计算机系统(1300)的示例性实施例中所示的组件中的任何一个组件或组件的组合相关的任何依赖或要求。

计算机系统(1300)可包括某些人机接口输入装置。此类人机接口输入装置可响应于一个或多个人类用户通过例如下述的输入:触觉输入(例如:击键、划动,数据手套移动)、音频输入(例如:语音、拍手)、视觉输入(例如:手势)、嗅觉输入(未描绘)。人机接口装置还可用于捕获不一定与人的意识输入直接相关的某些媒介,例如音频(例如:语音、音乐、环境声音)、图像(例如:扫描的图像、从静止图像相机获取摄影图像)、视频(例如二维视频、包括立体视频的三维视频)。

输入人机接口装置可包括下述中的一项或多项(每种中仅示出一个):键盘(1301)、鼠标(1302)、触控板(1303)、触摸屏(1310)、数据手套(未示出)、操纵杆(1305)、麦克风(1306)、扫描仪(1307)、相机(1308)。

计算机系统(1300)还可包括某些人机接口输出装置。这样的人机接口输出装置可例如通过触觉输出、声音、光和气味/味道来刺激一个或多个人类用户的感官。此类人机接口输出装置可包括触觉输出装置(例如触摸屏(1310)的触觉反馈、数据手套(未示出)或操纵杆(1305),但也可以是不作为输入装置的触觉反馈装置)、音频输出装置(例如:扬声器(1309)、耳机(未描绘))、视觉输出装置(例如包括CRT屏幕、LCD屏幕、等离子屏幕、OLED屏幕的屏幕(1310),每种屏幕都有或没有触摸屏输入功能,每种屏幕都有或没有触觉反馈功能-这些屏幕中的一些屏幕能够通过诸如立体图像输出、虚拟现实眼镜(未描绘)、全息显示器和烟箱(未描绘)之类的装置来输出二维视觉输出或超过三维的输出)以及打印机(未描绘)。

计算机系统(1300)还可包括人机可访问存储装置及其关联介质,例如,包括具有CD/DVD等介质(1321)的CD/DVD ROM/RW(1320)的光学介质、指状驱动器(1322)、可拆卸硬盘驱动器或固态驱动器(1323)、诸如磁带和软盘之类的传统磁性介质(未描绘)、诸如安全软件狗之类的基于专用ROM/ASIC/PLD的装置(未描绘)等。

本领域技术人员还应该理解,结合当前公开的主题使用的术语“计算机可读介质”不涵盖传输介质、载波或其它暂时性信号。

计算机系统(1300)还可包括连接一个或多个通信网络的接口。网络可以例如是无线网络、有线网络、光网络。网络可进一步是本地网络、广域网络、城域网络、车辆和工业网络、实时网络、延迟容忍网络等。网络的示例包括诸如以太网之类的局域网、无线LAN、包括GSM、3G、4G、5G、LTE等的蜂窝网络、包括有线电视、卫星电视和地面广播电视的电视有线或无线广域数字网络、包括CANBus的车辆和工业网络等等。某些网络通常需要连接到某些通用数据端口或外围总线(1349)的外部网络接口适配器(例如,计算机系统(1300)的USB端口);如下所述,其它网络接口通常通过连接到系统总线而集成到计算机系统(1300)的内核中(例如,PC计算机系统中的以太网接口或智能手机计算机系统中的蜂窝网络接口)。计算机系统(1300)可使用这些网络中的任何一个网络与其它实体通信。此类通信可以是仅单向接收的(例如,广播电视)、仅单向发送的(例如,连接到某些CANbus装置的CANbus)或双向的,例如,使用局域或广域数字网络连接到其它计算机系统。如上所述,可在这些网络和网络接口中的每一个上使用某些协议和协议栈。

上述人机接口装置、人机可访问存储装置和网络接口可附接到计算机系统(1300)的内核(1340)。

内核(1340)可包括一个或多个中央处理单元(CPU)(1341),图形处理单元(GPU)(1342),现场可编程门区(Field Programmable Gate Area,FPGA)形式的专用可编程处理单元(1343)、用于某些任务的硬件加速器(1344)等。这些装置以及只读存储器(ROM)(1345)、随机存取存储器(1346)、诸如内部非用户可访问的硬盘驱动器、SSD等之类的内部大容量存储器(1347)可通过系统总线(1348)连接。在一些计算机系统中,可以以一个或多个物理插头的形式访问系统总线(1348),以能够通过附加的CPU、GPU等进行扩展。外围装置可直接连接到内核的系统总线(1348)或通过外围总线(1349)连接到内核的系统总线(1348)。外围总线的体系结构包括PCI、USB等。

CPU(1341)、GPU(1342)、FPGA(1343)和加速器(1344)可执行某些指令,这些指令可以组合来构成上述计算机代码。该计算机代码可存储在ROM(1345)或RAM(1346)中。过渡数据也可存储在RAM(1346)中,而永久数据可例如存储在内部大容量存储器(1347)中。可通过使用高速缓存来进行到任何存储装置的快速存储及检索,该高速缓存可与下述紧密关联:一个或多个CPU(1341)、GPU(1342)、大容量存储器(1347)、ROM(1345)、RAM(1346)等。

计算机可读介质可在其上具有用于执行各种由计算机实现的操作的计算机代码。介质和计算机代码可以是出于本公开的目的而专门设计和构建的介质和计算机代码,或者介质和计算机代码可以是计算机软件领域的技术人员公知且可用的类型。

作为示例而非用于限制,可由于一个或多个处理器(包括CPU、GPU、FPGA、加速器等)执行包含在一种或多种有形的计算机可读介质中的软件而使得具有架构(1300),特别是内核(1340)的计算机系统提供功能。此类计算机可读介质可以是与如上所述的用户可访问的大容量存储相关联的介质,以及内核(1340)的某些非暂时性的存储器,例如内核内部大容量存储器(1347)或ROM(1345)。可将实施本公开的各实施例的软件存储在此类装置中并由内核(1340)执行。根据特定需要,计算机可读介质可包括一个或多个存储装置或芯片。软件可使得内核(1340),特别是其中的处理器(包括CPU、GPU、FPGA等)执行本文所描述的特定过程或特定过程的特定部分,包括定义存储在RAM(1346)中的数据结构以及根据由软件定义的过程来修改此类数据结构。附加地或替换地,可由于硬连线或以其它方式体现在电路(例如,加速器(1344))中的逻辑而使得计算机系统提供功能,该逻辑可替换软件或与软件一起运行以执行本文描述的特定过程或特定过程的特定部分。在适当的情况下,提及软件的部分可包含逻辑,反之亦然。在适当的情况下,提及计算机可读介质的部分可包括存储用于执行的软件的电路(例如集成电路(IC))、体现用于执行的逻辑的电路或包括两者。本公开包括硬件和软件的任何合适的组合。

附录A:缩略语

JEM:联合探索模型(joint exploration model)

VVC:多功能视频编码

BMS:基准集

MV:运动矢量

HEVC:高效率视频编码(High Efficiency Video Coding)

SEI:辅助增强信息

VUI:视频可用性信息

GOPs:图像组

TUs:变换单元

PUs:预测单元

CTUs:编码树单元

CTBs:编码树块

PBs:预测块

HRD:假想参考解码器

SNR:信噪比

CPUs:中央处理单元

GPUs:图形处理单元

CRT:阴极射线管(Cathode Ray Tube)

LCD:液晶显示器(Liquid-Crystal Display)

OLED:有机发光二极管(Organic Light-Emitting Diode)

CD:光盘(Compact Disc)

DVD:数字视频光盘(Digital Video Disc)

ROM:只读存储器(Read-Only Memory)

RAM:随机存取存储器(Random Access Memory)

ASIC:特定用途集成电路(Application-Specific Integrated Circuit)

PLD:可编程逻辑器件(Programmable Logic Device)

LAN:局域网(Local Area Network)

GSM:全球移动通信系统(Global System for Mobile communications)

LTE:长期演进(Long-Term Evolution)

CANBus:控制器区域网络总线(Controller Area Network Bus)

USB:通用串行总线(Universal Serial Bus)

PCI:互连外围设备(Peripheral Component Interconnect)

FPGA:现场可编程门区

SSD:固态驱动器(solid-state drive)

IC:集成电路(solid-state drive)

CU:编码单元

尽管本公开已经描述了多个示例性实施例,但是存在落入本公开的范围内的修改、置换和各种等效替换。因此,应当理解,本领域技术人员将能够设计出许多虽然未在本文中明确示出或描述,但是体现了本公开的原理,因此落入本公开的精神和范围内的系统和方法。

(1)一种视频解码方法,包括:接收包括当前图像的已编码视频比特流;确定包括在该当前图像中的当前块是否以帧内块复制(IBC)模式进行编码;响应于该当前块以IBC模式进行编码,确定与该当前块相关联的IBC预测候选的数量;构建具有与该IBC预测候选的数量相对应的大小的IBC预测候选列表;从该IBC预测候选列表中选择块向量预测;使用该块向量预测对与该当前块相关联的块向量进行解码;并根据该块向量对该当前块进行解码。

(2)根据特征(1)的方法,其中IBC预测候选的数量大于或等于M且小于或等于N,其中M是2。

(3)根据特征(2)的方法,其中N是5。

(4)根据特征(2)的方法,其中IBC预测候选的数量等于max(M,min(MaxNumMergeCand,N)),其中MaxNumMergeCand等于在合并模式列表中的候选的数量。

(5)根据特征(1)-(4)中任一项的方法,其中在比特流中通过信号发送IBC预测候选的数量。

(6)根据特征(5)的方法,其中使用截断一元码来通过信号发送IBC预测候选的数量,其中该IBC预测候选的数量减去1为最大值。

(7)根据特征(1)-(6)中任一项的方法,其中当IBC预测候选的数量等于1时,不通过信号发送与选择IBC块向量预测相关联的索引。

(8)一种用于执行视频解码的视频解码器,包括处理电路,该处理电路配置为:接收包括当前图像的已编码视频比特流,确定包括在该当前图像中的当前块是否以帧内块复制(IBC)模式进行编码,响应于该当前块以IBC模式进行编码,确定与该当前块相关联的IBC预测候选的数量,构建具有与该IBC预测候选的数量相对应的大小的IBC预测候选列表。从该IBC预测候选列表中选择块向量预测,使用该块向量预测对与该当前块相关联的块向量进行解码,并根据该块向量对该当前块进行解码。

(9)根据特征(8)的视频解码器,其中IBC预测候选的数量大于或等于M且小于或等于N,其中M是2。

(10)根据特征(9)的视频解码器,其中N是5。

(11)根据特征(9)的视频解码器,其中IBC预测候选的数量等于max(M,min(MaxNumMergeCand,N)),其中MaxNumMergeCand等于在合并模式列表中的候选的数量。

(12)根据特征(8)-(11)中的任一个的视频解码器,其中在比特流中通过信号发送IBC预测候选的数量。

(13)根据特征(12)的视频解码器,其中使用截断一元码来通过信号发送IBC预测候选的数量,其中该IBC预测候选的数量减去1为最大值。

(14)根据特征(8)-(13)中任一项的视频解码器,其中当IBC预测候选的数量等于1时,不通过信号发送与选择IBC块向量预测相关联的索引。

(15)一种非暂时性计算机可读介质,其上存储有指令,当该指令在由视频解码器中的处理器执行时,使得该处理器执行一种方法,该方法包括:接收包括当前图像的已编码视频比特流;确定包括在该当前图像中的当前块是否以帧内块复制(IBC)模式进行编码;响应于该当前块以IBC模式进行编码,确定与该当前块相关联的IBC预测候选的数量;构建具有与该IBC预测候选的数量相对应的大小的IBC预测候选列表;从该IBC预测候选列表中选择块向量预测;使用该块向量预测对与该当前块相关联的块向量进行解码;并根据该块向量对该当前块进行解码。

(16)根据特征(15)的非暂时性计算机可读介质,其中IBC预测候选的数量大于或等于M且小于或等于N,其中M是2。

(17)根据特征(16)的非暂时性计算机可读介质,其中N是5。

(18)根据特征(16)的非暂时性计算机可读介质,其中IBC预测候选的数量等于max(M,min(MaxNumMergeCand,N)),其中MaxNumMergeCand等于在合并模式列表中的候选的数量。

(19)根据特征(15)的非暂时性计算机可读介质,其中在比特流中通过信号发送IBC预测候选的数量。

(20)根据特征(19)的非暂时性计算机可读介质,其中使用截断一元码来通过信号发送IBC预测候选的数量,其中该IBC预测候选的数量减去1为最大值。

42页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:用于视频编码的方法和装置

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!

技术分类