视频解码方法和装置
阅读说明:本技术 视频解码方法和装置 (Video decoding method and device ) 是由 赵亮 刘杉 赵欣 李翔 于 2019-07-01 设计创作,主要内容包括:本申请的实施例提供视频解码方法和装置。在一些示例中,一种装置包括处理电路。该处理电路从已编码视频码流解码当前块的预测信息。当前块是非方形块,并且当前块的所述预测信息指示用于非方形块的帧内预测模式的第一集合中的第一帧内预测模式。所述帧内预测模式的第一集合包括特定数量的帧内预测附加模式,所述帧内预测附加模式不属于用于方形块的帧内预测模式的第二集合,并且所述帧内预测模式的第一集合不包括特定数量的丢失的帧内预测模式,所述丢失的帧内预测模式属于所述帧内预测模式的第二集合,并且所述特定数量关联于当前块的宽高比的函数。然后,该处理电路根据所述第一帧内预测模式重构所述当前块的至少一个样本。(The embodiment of the application provides a video decoding method and device. In some examples, an apparatus includes a processing circuit. The processing circuit decodes prediction information for a current block from an encoded video stream. The current block is a non-square block, and the prediction information of the current block indicates a first intra prediction mode in a first set of intra prediction modes for the non-square block. The first set of intra-prediction modes includes a certain number of intra-prediction additional modes that do not belong to the second set of intra-prediction modes for the square block and that do not include a certain number of lost intra-prediction modes that belong to the second set of intra-prediction modes and that are associated with a function of an aspect ratio of the current block. The processing circuitry then reconstructs at least one sample of the current block according to the first intra prediction mode.)
本申请要求于2018年7月2日提交的第62/693,050号美国临时申请案“视频压缩中广角帧内预测的方法和装置”(METHODS AND APPARATUS FOR WIDE ANGULAR INTRAPREDICTION IN VIDEO COMPRESSION)的优先权,以及于2018年9月28日提交的第16/147,517号美国申请案“视频编码的方法和装置”(METHOD AND APPARATUS FOR VIDEO CODING)的优先权,所述两个申请案的公开内容以全文引用的方式并入本文中。
技术领域
本申请涉及视频解码技术,尤其涉及视频解码方法和装置。
背景技术
本文中提供的背景技术描述是为了大体上呈现本申请的上下文。在此背景技术部分中描述的程度上,当前署名的发明人的工作以及在提交时可能不具有作为现有技术的资格的描述的各方面既不明确地也不隐含地被认作是针对本申请的现有技术。
带有运动补偿的帧间图片预测可被用于视频编码和解码。未压缩的数字视频可以包括一连串的图片,每个图片具有例如1920×1080个亮度样本和相关联的色度样本的空间维度。该一连串的图片可以具有固定的或可变的图片速率(非正式地也被称为帧速率),例如每秒60个图片或60Hz。未压缩的视频具有显著的比特率需求。例如,每样本8比特的1080p60 4:2:0视频(在60Hz帧速率的1920×1080亮度样本分辨率)需要接近于1.5Gbit/s带宽。一小时这样的视频需要超过600千兆的存储空间。
视频编码和解码的一个目的可以是通过压缩减少输入视频信号中的冗余。压缩能够帮助降低上述的带宽或存储空间需求,在某些情况下减少两个数量级或更多。无损压缩和有损压缩,以及这两者的组合都可被采用。无损压缩指的是可从压缩的原始信号重构原始信号的精确副本的技术。当使用有损压缩时,重构的信号可能与原始信号不相同,但是原始信号和重构的信号之间的失真足够小以使重构的信号可用于预定应用。在视频中广泛地采用有损压缩。可被容忍的失真量取决于应用;例如,与电视发行应用的用户相比,某些消费者流媒体应用的用户可以容忍较高的失真。可实现的压缩比可反映出较高容许的/可容忍的失真能够产生较高的压缩比。
视频编码器和解码器能够利用例如包括运动补偿、变换、量化和熵编码的若干大类中的技术。
视频编解码器技术可包括被称为帧内编码的技术。在帧内编码中,不参考来自先前重构的参考图片的样本或其它数据表示样本值。在一些视频编解码器中,图片在空间上被细分为样本块。当以帧内模式对所有样本块进行编码时,该图片可以是帧内编码图片。帧内编码图片及其派生,例如独立解码器刷新图片,可被用于重置解码器状态,并且因此可被用作已编码视频比特流和视频会话中的第一图片,或者用作静止图像。可对帧内编码块的样本进行变换,并且可在熵编码之前对变换系数进行量化。帧内预测可以是在预变换域中最小化样本值的技术。在一些情况下,在变换之后的DC值越小,并且AC系数越小,给定量化步长所需的用于表示熵编码之后的块的比特就越少。
诸如从例如MPEG-2生成编码技术已知的传统的帧内编码不使用帧内预测。然而,一些较新的视频压缩技术包括如下技术,其尝试从例如在空间上邻近的且按解码顺序在前的数据块的在编码/解码期间获取的周围样本数据和/或元数据进行。这样的技术此后被称作“帧内预测”技术。请注意,在至少一些情况下,帧内预测仅使用来自重构的当前图片的参考数据而不使用来自参考图片的参考数据。
帧内预测可有许多不同的形式。当在给定视频编码技术中可使用多于一个这样的技术时,可以以帧内预测模式对使用中的技术进行编码。在某些情况下,模式可具有子模式和/或参数,并且那些能够被单独地编码或者被包括在模式码字中。对给定模式/子模式/参数组合使用哪个码字可对通过帧内预测的编码效率增益具有影响,因此熵编码技术能够用于将码字转换为比特流。
帧内预测的模式通过H.264被引入、在H.265中被完善,并且在诸如联合开发模型(JEM)、通用视频编码(VVC)以及基准集(BMS)之类的较新的编码技术中被进一步完善。可使用属于已经可用的样本的邻近样本值形成预测器块。根据方向将邻近样本的样本值复制到预测器块中。对使用中的方向的参考可被编码在比特流中或其本身可以被预测。
发明内容
本申请的实施例提供视频编码的方法和装置。在一些示例中,一种装置包括处理电路。该处理电路从已编码视频码流解码当前块的预测信息。当前块是非方形块,并且当前块的所述预测信息指示用于非方形块的帧内预测模式的第一集合中的第一帧内预测模式。所述帧内预测模式的第一集合包括特定数量的帧内预测附加模式,所述帧内预测附加模式不属于用于方形块的帧内预测模式的第二集合,并且所述帧内预测模式的第一集合不包括特定数量的丢失的帧内预测模式,所述丢失的帧内预测模式属于所述帧内预测模式的第二集合,并且所述特定数量关联于当前块的宽高比的函数。然后,该处理电路根据所述第一帧内预测模式重构所述当前块的至少一个样本。
在一些实施例中,所述帧内预测模式的第二集合包括从左下对角模式到右上对角模式的方向模式,并且所述帧内预测模式的第一集合不包括所述左下对角模式和所述右上对角模式之一。在一个实施例中,所述帧内预测模式的第二集合包括从左下对角模式到右上对角模式的方向模式,并且所述帧内预测模式的第一集合包括具有超出所述左下对角模式和所述右上对角模式之一的角度的附加模式。
在一些实施例中,所述帧内预测模式的第二集合包括从左下对角模式到右上对角模式的方向模式,所述当前块的宽度大于所述当前块的高度,并且所述帧内预测模式的第一集合不包括所述左下对角模式,但包括其角度超出所述右上对角模式的附加模式。
在一些实施例中,所述帧内预测模式的第二集合包括从左下对角模式到右上对角模式的方向模式,所述当前块的高度大于所述当前块的宽度,并且所述帧内预测模式的第一集合不包括所述右上对角模式,但包括其角度超出所述左下对角模式的附加模式。
在一些实施例中,所述帧内预测模式的第二集合包括从左下对角模式到右上对角模式的方向模式,并且所述帧内预测模式的第一集合不包括所述帧内预测模式的第二集合的一子集,所述子集包括从所述左下对角模式和所述右上对角模式之一起的连续模式值。
在一些实施例中,所述帧内预测模式的第二集合包括从左下对角模式到右上对角模式的方向模式,并且所述附加模式包括超出所述左下对角模式和所述右上对角模式之一的连续模式值。
在一些实施例中,所述帧内预测模式的第二集合包括从左下对角模式到右上对角模式的方向模式,并且所述帧内预测模式的第一集合不包括所述帧内预测模式的第二集合的一子集,所述子集包括从所述左下对角模式和所述右上对角模式之一起的非连续模式值。
在一些实施例中,所述帧内预测模式的第二集合包括从左下对角模式到右上对角模式的方向模式,并且所述附加模式包括超出所述左下对角模式和所述右上对角模式之一的非连续模式值。
在一些实施例中,所述特定数量在较长边与较短边的比值小于或等于2时具有第一值,在较长边与较短边的比值大于或等于4时具有第二值,并且第二值大于第一值。
本申请实施例提供一种计算机设备,包括一个或多个处理器和存储器,所述存储器存储有指令,当所述指令被所述处理器执行时,使所述处理器执行本申请任一实施例所述的视频解码方法。
本申请的实施例还提供一种非暂时性计算机可读介质,其上存储有指令,当所述指令被用于视频解码的计算机执行时,使所述计算机执行所述视频解码方法。
应用本申请实施例,解决了现有技术中由于对方形块和非方形块的帧内预测设计一致而导致的一些帧内预测模式对非方形块无效的问题,以及由于广角帧内预测的信令取决于帧内预测模式,因此在解析广角控制标志时存在解析依赖性的问题(在解析过程中需要重建帧内预测模式),提高了解码效率。
附图的简要说明
根据以下详细描述和附图,所公开的主题的进一步的特征、性质以及各种优点将更明显,在附图中:
图1是根据H.265的帧内预测模式的子集的示意图;
图2是根据JEM的帧内预测方向的示意图;
图3是根据一实施例的通信系统的简化框图的示意图;
图4是根据另一实施例的通信系统的简化框图的示意图;
图5是根据实施例的解码器的简化框图的示意图;
图6是根据实施例的编码器的简化框图的示意图;
图7示出根据另一个实施例的编码器的框图;
图8示出根据另一个实施例的解码器的框图;
图9示出了示出广角模式的示例的示意图;
图10示出将一些常规帧内预测模式重新映射到广角模式的示例;
图11示出将一些常规帧内预测模式重新映射到广角模式的另一个示例;
图12示出了包括常规帧内预测方向和广角帧内预测方向的示意图;
图13A示出根据本申请实施例的处理方法的流程图;
图13B示出根据本申请实施例的视频解码装置的结构图;
图14是根据实施例的计算机系统的示意图。
具体实施方式
参考图1,在右下描绘的是从H.265的35个可能的预测器方向中已知的九个预测器方向的子集。箭头收敛的点(101)表示被预测的样本。箭头表示预测样本的方向。例如,箭头(102)指示以相对水平45度的角度从一个样本或多个样本向右上预测样本(101)。类似地,箭头(103)指示以相对水平22.5度的角度从一个样本或多个样本向左下预测样本(101)。
仍然参考图1,在左上部,描绘了4×4个样本的方形块(104)(通过黑体虚线示出)。方形块(104)包括16个样本,每个样本通过“S”、其在Y维度上的位置(例如,行索引)和其在X维度上的位置(例如,列索引)来标记。例如,样本S21是在Y维度上(从顶部起)的第二样本以及在X维度上(从左起)的第一样本。类似地,样本S44是在块(104)中在Y维度和X维度上的第四样本。由于块的尺寸是4×4个样本,S44处于右下。进一步示出遵循类似的编号方案的参考样本。通过R、其相对于块(104)的Y位置(例如,行索引)和X位置(列索引)来标记参考样本。在H.264和H.265中,预测样本相邻于重构之下的块,因此不需要使用负值。
帧内图片预测可通过指示用信号指示的预测方向所占用的相邻样本复制参考样本值来工作。例如,假定已编码视频比特流包括信令。对于该块,该信令指示按照箭头(102)的预测方向——即,以相对水平45度的角度从预测样本或多个预测样本向右上预测样本。在这种情况下,从相同的R05预测样本S41、S32、S23和S14。然后从R08预测样本S44。
在某些情况下,多个参考样本的值可以通过例如内插进行组合,以便计算参考样本;尤其当方向不是通过45度均匀可分时。
随着视频编码技术的发展,可能的方向的数量已经有所增加。在H.264(年份2003)中,九个不同的方向可被表示。在H.265(年份2013)中增加到33;并且在公开时,JEM/VVC/BMS能够支持高达65个方向。已经进行了实验来识别最可能的方向,并且熵编码中的某些技术可以较少数量的比特来表示那些可能的方向,接受对于较不可能的方向的某惩罚。进一步地,有时可从邻近的已经解码的块中使用的邻近方向来预测方向自己。
图2中示意了201,其描绘根据JEM的65个帧内预测方向,以示出随着时间的推移,预测方向的增加数量。
帧内预测方向比特在表示方向的已编码视频比特流中的映射可因视频编码技术的不同而不同,并且涵盖例如从预测方向到帧内预测模式到码字的简单的直接映射,到涉及大多数的可能的模式和类似技术的复杂自适应方案。本领域技术人员很熟悉那些技术。然而,就一切情况而论,存在某些方向,该某些方向与某些其他方向相比在统计学上较不可能出现在视频内容中。由于视频压缩的目标是减少冗余,所以在性能良好的视频编码技术中,相比于最可能的方向,可采用数量更多的比特来表示那些较不可能的方向。
图3示出了根据本申请实施例的通信系统(300)的简化框图。通信系统(300)包括多个终端装置,所述终端装置可通过例如网络(350)彼此通信。举例来说,通信系统(300)包括通过网络(350)互连的终端装置(310)和终端装置(320)。在图3的实施例中,终端装置(310)和终端装置(320)执行单向数据传输。举例来说,终端装置(310)可对视频数据(例如由终端装置(310)采集的视频图片流)进行编码以通过网络(350)传输到另一终端装置(320)。已编码的视频数据以一个或多个已编码视频码流形式传输。终端装置(320)可从网络(350)接收已编码视频数据,对已编码视频数据进行解码以恢复视频数据,并根据恢复的视频数据显示视频图片。单向数据传输在媒体服务等应用中是较常见的。
在另一实施例中,通信系统(300)包括执行已编码视频数据的双向传输的终端装置(330)和(340),所述双向传输可例如在视频会议期间发生。对于双向数据传输,终端装置(330)和终端装置(340)中的每个终端装置可对视频数据(例如由终端装置采集的视频图片流)进行编码以通过网络(350)传输到终端装置(330)和终端装置(340)中的另一终端装置。终端装置(330)和终端装置(340)中的每个终端装置还可接收由终端装置(330)和终端装置(340)中的另一终端装置传输的已编码视频数据,且可对所述已编码视频数据进行解码以恢复视频数据,且可根据恢复的视频数据在可访问的显示装置上显示视频图片。
在图3的实施例中,终端装置(310)、终端装置(320)、终端装置(330)和终端装置(340)可为服务器、个人计算机和智能电话,但本申请公开的原理可不限于此。本申请公开的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(350)表示在终端装置(310)、终端装置(320)、终端装置(330)和终端装置(340)之间传送已编码视频数据的任何数目的网络,包括例如有线(连线的)和/或无线通信网络。通信网络(350)可在电路交换和/或分组交换信道中交换数据。该网络可包括电信网络、局域网、广域网和/或互联网。出于本论述的目的,除非在下文中有所解释,否则网络(350)的架构和拓扑对于本申请公开的操作来说可能是无关紧要的。
作为实施例,图4示出视频编码器和视频解码器在流式传输环境中的放置方式。本申请所公开主题可同等地适用于其它支持视频的应用,包括例如视频会议、数字TV、在包括CD、DVD、存储棒等的数字介质上存储压缩视频等等。
流式传输系统可包括采集子系统(413),所述采集子系统可包括数码相机等视频源(401),所述视频源创建未压缩的视频图片流(402)。在实施例中,视频图片流(402)包括由数码相机拍摄的样本。相较于已编码的视频数据(404)(或已编码的视频码流),视频图片流(402)被描绘为粗线以强调高数据量的视频图片流,视频图片流(402)可由电子装置(420)处理,所述电子装置(420)包括耦接到视频源(401)的视频编码器(403)。视频编码器(403)可包括硬件、软件或软硬件组合以实现或实施如下文更详细地描述的所公开主题的各方面。相较于视频图片流(402),已编码的视频数据(404)(或已编码的视频码流(404))被描绘为细线以强调较低数据量的已编码的视频数据(404)(或已编码的视频码流(404)),其可存储在流式传输服务器(405)上以供将来使用。一个或多个流式传输客户端子系统,例如图4中的客户端子系统(406)和客户端子系统(408),可访问流式传输服务器(405)以检索已编码的视频数据(404)的副本(407)和副本(409)。客户端子系统(406)可包括例如电子装置(430)中的视频解码器(410)。视频解码器(410)对已编码的视频数据的传入副本(407)进行解码,且产生可在显示器(412)(例如显示屏)或另一呈现装置(未描绘)上呈现的输出视频图片流(411)。在一些流式传输系统中,可根据某些视频编码/压缩标准对已编码的视频数据(404)、视频数据(407)和视频数据(409)(例如视频码流)进行编码。该些标准的实施例包括ITU-T H.265。在实施例中,正在开发的视频编码标准非正式地称为下一代视频编码(Versatile Video Coding,VVC),本申请可用于VVC标准的上下文中。
应注意,电子装置(420)和电子装置(430)可包括其它组件(未示出)。举例来说,电子装置(420)可包括视频解码器(未示出),且电子装置(430)还可包括视频编码器(未示出)。
图5是根据本申请公开的实施例的视频解码器(510)的框图。视频解码器(510)可设置在电子装置(530)中。电子装置(530)可包括接收器(531)(例如接收电路)。视频解码器(510)可用于代替图3实施例中的视频解码器(510)。
接收器(531)可接收将由视频解码器(510)解码的一个或多个已编码视频序列;在同一实施例或另一实施例中,一次接收一个已编码视频序列,其中每个已编码视频序列的解码独立于其它已编码视频序列。可从信道(501)接收已编码视频序列,所述信道可以是通向存储已编码的视频数据的存储装置的硬件/软件链路。接收器(531)可接收已编码的视频数据以及其它数据,例如,可转发到它们各自的使用实体(未标示)的已编码音频数据和/或辅助数据流。接收器(531)可将已编码视频序列与其它数据分开。为了防止网络抖动,缓冲存储器(515)可耦接在接收器(531)与熵解码器/解析器(520)(此后称为“解析器(520)”)之间。在某些应用中,缓冲存储器(515)是视频解码器(510)的一部分。在其它情况下,所述缓冲存储器(515)可设置在视频解码器(510)外部(未标示)。而在其它情况下,视频解码器(510)的外部设置缓冲存储器(未标示)以例如防止网络抖动,且在视频解码器(510)的内部可配置另一缓冲存储器(515)以例如处理播出定时。而当接收器(531)从具有足够带宽和可控性的存储/转发装置或从等时同步网络接收数据时,也可能不需要配置缓冲存储器(515),或可以将所述缓冲存储器做得较小。当然,为了在互联网等业务分组网络上使用,也可能需要缓冲存储器(515),所述缓冲存储器可相对较大且可具有自适应性大小,且可至少部分地实施于操作系统或视频解码器(510)外部的类似元件(未标示)中。
视频解码器(510)可包括解析器(520)以根据已编码视频序列重建符号(521)。这些符号的类别包括用于管理视频解码器(510)的操作的信息,以及用以控制显示装置(512)(例如,显示屏)等显示装置的潜在信息,所述显示装置不是电子装置(530)的组成部分,但可耦接到电子装置(530),如图5中所示。用于显示装置的控制信息可以是辅助增强信息(Supplementary Enhancement Information,SEI消息)或视频可用性信息(VideoUsability Information,VUI)的参数集片段(未标示)。解析器(520)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准进行,且可遵循各种原理,包括可变长度编码、霍夫曼编码(Huffman coding)、具有或不具有上下文灵敏度的算术编码等等。解析器(520)可基于对应于群组的至少一个参数,从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图片群组(Group of Pictures,GOP)、图片、图块、条带、宏块、编码单元(Coding Unit,CU)、块、变换单元(Transform Unit,TU)、预测单元(Prediction Unit,PU)等等。解析器(520)还可从已编码视频序列提取信息,例如变换系数、量化器参数值、运动矢量等等。
解析器(520)可对从缓冲存储器(515)接收的视频序列执行熵解码/解析操作,从而创建符号(521)。
取决于已编码视频图片或一部分已编码视频图片(例如:帧间图片和帧内图片、帧间块和帧内块)的类型以及其它因素,符号(521)的重建可涉及多个不同单元。涉及哪些单元以及涉及方式可由解析器(520)从已编码视频序列解析的子群控制信息控制。为了简洁起见,未描述解析器(520)与下文的多个单元之间的此类子群控制信息流。
除已经提及的功能块以外,视频解码器(510)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施例中,这些单元中的许多单元彼此紧密交互并且可以彼此集成。然而,出于描述所公开主题的目的,概念上细分成下文的功能单元是适当的。
第一单元是缩放器/逆变换单元(551)。缩放器/逆变换单元(551)从解析器(520)接收作为符号(521)的量化变换系数以及控制信息,包括使用哪种变换方式、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(551)可输出包括样本值的块,所述样本值可输入到聚合器(555)中。
在一些情况下,缩放器/逆变换单元(551)的输出样本可属于帧内编码块;即:不使用来自先前重建的图片的预测性信息,但可使用来自当前图片的先前重建部分的预测性信息的块。此类预测性信息可由帧内预测单元(552)提供。在一些情况下,帧内预测单元(552)采用从当前图片缓冲器(558)提取的已重建信息生成大小和形状与正在重建的块相同的周围块。举例来说,当前图片缓冲器(558)缓冲部分重建的当前图片和/或完全重建的当前图片。在一些情况下,聚合器(555)基于每个样本,将帧内预测单元(552)生成的预测信息添加到由缩放器/逆变换单元(551)提供的输出样本信息中。
在其它情况下,缩放器/逆变换单元(551)的输出样本可属于帧间编码和潜在运动补偿块。在此情况下,运动补偿预测单元(553)可访问参考图片存储器(557)以提取用于预测的样本。在根据符号(521)对提取的样本进行运动补偿之后,这些样本可由聚合器(555)添加到缩放器/逆变换单元(551)的输出(在这种情况下被称作残差样本或残差信号),从而生成输出样本信息。运动补偿预测单元(553)从参考图片存储器(557)内的地址获取预测样本可受到运动矢量控制,且所述运动矢量以所述符号(521)的形式而供运动补偿预测单元(553)使用,所述符号(521)例如是包括X、Y和参考图片分量。运动补偿还可包括在使用子样本精确运动矢量时,从参考图片存储器(557)提取的样本值的内插、运动矢量预测机制等等。
聚合器(555)的输出样本可在环路滤波器单元(556)中被各种环路滤波技术采用。视频压缩技术可包括环路内滤波器技术,所述环路内滤波器技术受控于包括在已编码视频序列(也称作已编码视频码流)中的参数,且所述参数作为来自解析器(520)的符号(521)可用于环路滤波器单元(556)。然而,在其他实施例中,视频压缩技术还可响应于在解码已编码图片或已编码视频序列的先前(按解码次序)部分期间获得的元信息,以及响应于先前重建且经过环路滤波的样本值。
环路滤波器单元(556)的输出可以是样本流,所述样本流可输出到显示装置(512)以及存储在参考图片存储器(557),以用于后续的帧间图片预测。
一旦完全重建,某些已编码图片就可用作参考图片以用于将来预测。举例来说,一旦对应于当前图片的已编码图片被完全重建,且已编码图片(通过例如解析器(520))被识别为参考图片,则当前图片缓冲器(558)可变为参考图片存储器(557)的一部分,且可在开始重建后续已编码图片之前重新分配新的当前图片缓冲器。
视频解码器(510)可根据例如ITU-T H.265标准中的预定视频压缩技术执行解码操作。在已编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件的意义上,已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。具体地说,配置文件可从视频压缩技术或标准中可用的所有工具中选择某些工具作为在所述配置文件下可供使用的仅有工具。对于合规性,还要求已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下,层级限制最大图片大小、最大帧率、最大重建取样率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图片大小等。在一些情况下,由层级设定的限制可通过假想参考解码器(Hypothetical ReferenceDecoder,HRD)规范和在已编码视频序列中用信号表示的HRD缓冲器管理的元数据来进一步限定。
在实施例中,接收器(531)可连同已编码视频一起接收附加(冗余)数据。所述附加数据可以是已编码视频序列的一部分。所述附加数据可由视频解码器(510)用以对数据进行适当解码和/或较准确地重建原始视频数据。附加数据可呈例如时间、空间或信噪比(signal noise ratio,SNR)增强层、冗余条带、冗余图片、前向纠错码等形式。
图6是根据本申请公开的实施例的视频编码器(603)的框图。视频编码器(603)设置于电子装置(620)中。电子装置(620)包括传输器(640)(例如传输电路)。视频编码器(603)可用于代替图4实施例中的视频编码器(603)。
视频编码器(603)可从视频源(601)(并非图6实施例中的电子装置(620)的一部分)接收视频样本,所述视频源可采集将由视频编码器(603)编码的视频图像。在另一实施例中,视频源(601)是电子装置(620)的一部分。
视频源(601)可提供将由视频编码器(603)编码的呈数字视频样本流形式的源视频序列,所述数字视频样本流可具有任何合适位深度(例如:8位、10位、12位……)、任何色彩空间(例如BT.601Y CrCB、RGB……)和任何合适取样结构(例如Y CrCb 4:2:0、Y CrCb 4:4:4)。在媒体服务系统中,视频源(601)可以是存储先前已准备的视频的存储装置。在视频会议系统中,视频源(601)可以是采集本地图像信息作为视频序列的相机。可将视频数据提供为多个单独的图片,当按顺序观看时,这些图片被赋予运动。图片自身可构建为空间像素阵列,其中取决于所用的取样结构、色彩空间等,每个像素可包括一个或多个样本。所属领域的技术人员可以很容易理解像素与样本之间的关系。下文侧重于描述样本。
根据实施例,视频编码器(603)可实时或在由应用所要求的任何其它时间约束下,将源视频序列的图片编码且压缩成已编码视频序列(643)。施行适当的编码速度是控制器(650)的一个功能。在一些实施例中,控制器(650)控制如下文所描述的其它功能单元且在功能上耦接到这些单元。为了简洁起见,图中未标示耦接。由控制器(650)设置的参数可包括速率控制相关参数(图片跳过、量化器、率失真优化技术的λ值等)、图片大小、图片群组(group of pictures,GOP)布局,最大运动矢量搜索范围等。控制器(650)可用于具有其它合适的功能,这些功能涉及针对某一系统设计优化的视频编码器(603)。
在一些实施例中,视频编码器(603)在编码环路中进行操作。作为简单的描述,在实施例中,编码环路可包括源编码器(630)(例如,负责基于待编码的输入图片和参考图片创建符号,例如符号流)和嵌入于视频编码器(603)中的(本地)解码器(633)。解码器(633)以类似于(远程)解码器创建样本数据的方式重建符号以创建样本数据(因为在本申请所考虑的视频压缩技术中,符号与已编码视频码流之间的任何压缩是无损的)。将重建的样本流(样本数据)输入到参考图片存储器(634)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果,因此参考图片存储器(634)中的内容在本地编码器与远程编码器之间也是按比特位精确对应的。换句话说,编码器的预测部分“看到”的参考图片样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图片同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。
“本地”解码器(633)的操作可与例如已在上文结合图5详细描述视频解码器(510)的“远程”解码器相同。然而,另外简要参考图5,当符号可用且熵编码器(645)和解析器(520)能够无损地将符号编码/解码为已编码视频序列时,包括缓冲存储器(515)和解析器(520)在内的视频解码器(510)的熵解码部分,可能无法完全在本地解码器(633)中实施。
此时可以观察到,除存在于解码器中的解析/熵解码之外的任何解码器技术,也必定以基本上相同的功能形式存在于对应的编码器中。出于此原因,本申请侧重于解码器操作。可简化编码器技术的描述,因为编码器技术与全面地描述的解码器技术互逆。仅在某些区域中需要更详细的描述,并且在下文提供。
在操作期间,在一些实施例中,源编码器(630)可执行运动补偿预测编码。参考来自视频序列中被指定为“参考图片”的一个或多个先前已编码图片,所述运动补偿预测编码对输入图片进行预测性编码。以此方式,编码引擎(632)对输入图片的像素块与参考图片的像素块之间的差异进行编码,所述参考图片可被选作所述输入图片的预测参考。
本地视频解码器(633)可基于源编码器(630)创建的符号,对可指定为参考图片的图片的已编码视频数据进行解码。编码引擎(632)的操作可为有损过程。当已编码视频数据可在视频解码器(图6中未示)处被解码时,重建的视频序列通常可以是带有一些误差的源视频序列的副本。本地视频解码器(633)复制解码过程,所述解码过程可由视频解码器对参考图片执行,且可使重建的参考图片存储在参考图片高速缓存(634)中。以此方式,视频编码器(603)可在本地存储重建的参考图片的副本,所述副本与将由远端视频解码器获得的重建参考图片具有共同内容(不存在传输误差)。
预测器(635)可针对编码引擎(632)执行预测搜索。即,对于将要编码的新图片,预测器(635)可在参考图片存储器(634)中搜索可作为所述新图片的适当预测参考的样本数据(作为候选参考像素块)或某些元数据,例如参考图片运动矢量、块形状等。预测器(635)可基于样本块逐像素块操作,以找到合适的预测参考。在一些情况下,根据预测器(635)获得的搜索结果,可确定输入图片可具有从参考图片存储器(634)中存储的多个参考图片取得的预测参考。
控制器(650)可管理源编码器(630)的编码操作,包括例如设置用于对视频数据进行编码的参数和子群参数。
可在熵编码器(645)中对所有上述功能单元的输出进行熵编码。熵编码器(645)根据例如霍夫曼编码、可变长度编码、算术编码等技术对各种功能单元生成的符号进行无损压缩,从而将所述符号转换成已编码视频序列。
传输器(640)可缓冲由熵编码器(645)创建的已编码视频序列,从而为通过通信信道(660)进行传输做准备,所述通信信道可以是通向将存储已编码的视频数据的存储装置的硬件/软件链路。传输器(640)可将来自视频编码器(603)的已编码视频数据与要传输的其它数据合并,所述其它数据例如是已编码音频数据和/或辅助数据流(未示出来源)。
控制器(650)可管理视频编码器(603)的操作。在编码期间,控制器(650)可以为每个已编码图片分配某一已编码图片类型,但这可能影响可应用于相应的图片的编码技术。例如,通常可将图片分配为以下任一种图片类型:
帧内图片(I图片),其可以是不将序列中的任何其它图片用作预测源就可被编码和解码的图片。一些视频编解码器容许不同类型的帧内图片,包括例如独立解码器刷新(Independent Decoder Refresh,“IDR”)图片。所属领域的技术人员了解I图片的变体及其相应的应用和特征。
预测性图片(P图片),其可以是可使用帧内预测或帧间预测进行编码和解码的图片,所述帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。
双向预测性图片(B图片),其可以是可使用帧内预测或帧间预测进行编码和解码的图片,所述帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地,多个预测性图片可使用多于两个参考图片和相关联元数据以用于重建单个块。
源图片通常可在空间上细分成多个样本块(例如,4×4、8×8、4×8或16×16个样本的块),且逐块进行编码。这些块可参考其它(已编码)块进行预测编码,根据应用于块的相应图片的编码分配来确定所述其它块。举例来说,I图片的块可进行非预测编码,或所述块可参考同一图片的已经编码的块来进行预测编码(空间预测或帧内预测)。P图片的像素块可参考一个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。B图片的块可参考一个或两个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。
视频编码器(603)可根据例如ITU-T H.265建议书的预定视频编码技术或标准执行编码操作。在操作中,视频编码器(603)可执行各种压缩操作,包括利用输入视频序列中的时间和空间冗余的预测编码操作。因此,已编码视频数据可符合所用视频编码技术或标准指定的语法。
在实施例中,传输器(640)可在传输已编码的视频时传输附加数据。源编码器(630)可包括此类数据,将其作为已编码视频序列的一部分。附加数据可包括时间/空间/SNR增强层、冗余图片和条带等其它形式的冗余数据、SEI消息、VUI参数集片段等。
采集到的视频可作为呈时间序列的多个源图片(视频图片)。帧内图片预测(常常简化为帧内预测)利用给定图片中的空间相关性,而帧间图片预测则利用图片之间的(时间或其它)相关性。在实施例中,将正在编码/解码的特定图片分割成块,正在编码/解码的特定图片被称作当前图片。在当前图片中的块类似于视频中先前已编码且仍被缓冲的参考图片中的参考块时,可通过称作运动矢量的矢量对当前图片中的块进行编码。所述运动矢量指向参考图片中的参考块,且在使用多个参考图片的情况下,所述运动矢量可具有识别参考图片的第三维度。
在一些实施例中,双向预测技术可用于帧间图片预测中。根据双向预测技术,使用两个参考图片,例如按解码次序都在视频中的当前图片之前(但按显示次序可能分别是过去和将来)第一参考图片和第二参考图片。可通过指向第一参考图片中的第一参考块的第一运动矢量和指向第二参考图片中的第二参考块的第二运动矢量对当前图片中的块进行编码。具体来说,可通过第一参考块和第二参考块的组合来预测所述块。
此外,合并模式技术可用于帧间图片预测中以改善编码效率。
根据本申请公开的一些实施例,帧间图片预测和帧内图片预测等预测的执行以块为单位。举例来说,根据HEVC标准,将视频图片序列中的图片分割成编码树单元(codingtree unit,CTU)以用于压缩,图片中的CTU具有相同大小,例如64×64像素、32×32像素或16×16像素。一般来说,CTU包括三个编码树块(coding tree block,CTB),所述三个编码树块是一个亮度CTB和两个色度CTB。更进一步的,还可将每个CTU以四叉树拆分为一个或多个编码单元(coding unit,CU)。举例来说,可将64×64像素的CTU拆分为一个64×64像素的CU,或4个32×32像素的CU,或16个16×16像素的CU。在实施例中,分析每个CU以确定用于CU的预测类型,例如帧间预测类型或帧内预测类型。此外,取决于时间和/或空间可预测性,将CU拆分为一个或多个预测单元(prediction unit,PU)。通常,每个PU包括亮度预测块(prediction block,PB)和两个色度PB。在实施例中,编码(编码/解码)中的预测操作以预测块为单位来执行。以亮度预测块作为预测块为例,预测块包括像素值(例如,亮度值)的矩阵,例如8×8像素、16×16像素、8×16像素、16×8像素等等。
图7是根据本申请公开的另一实施例的视频编码器(703)的图。视频编码器(703)用于接收视频图片序列中的当前视频图片内的样本值的处理块(例如预测块),且将所述处理块编码到作为已编码视频序列的一部分的已编码图片中。在本实施例中,视频编码器(703)用于代替图4实施例中的视频编码器(703)。
在HEVC实施例中,视频编码器(703)接收用于处理块的样本值的矩阵,所述处理块为例如8×8样本的预测块等。视频编码器(703)使用例如率失真(rate-distortion,RD)优化来确定是否使用帧内模式、帧间模式或双向预测模式来编码所述处理块。当在帧内模式中编码处理块时,视频编码器(703)可使用帧内预测技术以将处理块编码到已编码图片中;且当在帧间模式或双向预测模式中编码处理块时,视频编码器(703)可分别使用帧间预测或双向预测技术将处理块编码到已编码图片中。在某些视频编码技术中,合并模式可以是帧间图片预测子模式,其中,在不借助预测值外部的已编码运动矢量分量的情况下,从一个或多个运动矢量预测值导出运动矢量。在某些其它视频编码技术中,可存在适用于主题块的运动矢量分量。在实施例中,视频编码器(703)包括其它组件,例如用于确定处理块模式的模式决策模块(未示出)。
在图7的实施例中,视频编码器(703)包括如图7所示的耦接到一起的帧间编码器(730)、帧内编码器(722)、残差计算器(723)、开关(726)、残差编码器(724)、通用控制器(721)和熵编码器(725)。
帧间编码器(730)用于接收当前块(例如处理块)的样本、比较所述块与参考图片中的一个或多个参考块(例如先前图片和后来图片中的块)、生成帧间预测信息(例如根据帧间编码技术的冗余信息描述、运动矢量、合并模式信息)、以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如已预测块)。在一些实施例中,参考图片是基于已编码的视频信息解码的已解码参考图片。
帧内编码器(722)用于接收当前块(例如处理块)的样本、在一些情况下比较所述块与同一图片中已编码的块、在变换之后生成量化系数、以及在一些情况下还(例如根据一个或多个帧内编码技术的帧内预测方向信息)生成帧内预测信息。
通用控制器(721)用于确定通用控制数据,且基于所述通用控制数据控制视频编码器(703)的其它组件。在实施例中,通用控制器(721)确定块的模式,且基于所述模式将控制信号提供到开关(726)。举例来说,当所述模式是帧内模式时,通用控制器(721)控制开关(726)以选择供残差计算器(723)使用的帧内模式结果,且控制熵编码器(725)以选择帧内预测信息且将所述帧内预测信息添加在码流中;以及当所述模式是帧间模式时,通用控制器(721)控制开关(726)以选择供残差计算器(723)使用的帧间预测结果,且控制熵编码器(725)以选择帧间预测信息且将所述帧间预测信息添加在码流中。
残差计算器(723)用于计算所接收的块与选自帧内编码器(722)或帧间编码器(730)的预测结果之间的差(残差数据)。残差编码器(724)用于基于残差数据操作,以对残差数据进行编码以生成变换系数。在实施例中,残差编码器(724)用于将残差数据转换到频域,且生成变换系数。变换系数接着经由量化处理以获得量化的变换系数。
熵编码器(725)用于将码流格式化以产生已编码的块。熵编码器(725)根据HEVC标准等合适标准产生各种信息。在实施例中,熵编码器(725)用于获得通用控制数据、所选预测信息(例如帧内预测信息或帧间预测信息)、残差信息和码流中的其它合适的信息。应注意,根据所公开的主题,当在帧间模式或双向预测模式的合并子模式中对块进行编码时,不存在残差信息。
图8是根据本申请公开的另一实施例的视频解码器(810)的图。视频解码器(810)用于接收作为已编码视频序列的一部分的已编码图像,且对所述已编码图像进行解码以生成重建的图片。在实施例中,视频解码器(810)用于代替图4实施例中的视频解码器(410)。
在图8实施例中,视频解码器(810)包括如图8中所示耦接到一起的熵解码器(871)、帧间解码器(880)、残差解码器(873)、重建模块(874)和帧内解码器(872)。
熵解码器(871)可用于根据已编码图片来重建某些符号,这些符号表示构成所述已编码图片的语法元素。此类符号可包括例如用于对所述块进行编码的模式(例如帧内模式、帧间模式、双向预测模式、后两者的合并子模式或另一子模式)、可分别识别供帧内解码器(872)或帧间解码器(880)用以进行预测的某些样本或元数据的预测信息(例如帧内预测信息或帧间预测信息)、呈例如量化的变换系数形式的残差信息等等。在实施例中,当预测模式是帧间或双向预测模式时,将帧间预测信息提供到帧间解码器(880);以及当预测类型是帧内预测类型时,将帧内预测信息提供到帧内解码器(872)。残差信息可经由逆量化并提供到残差解码器(873)。
帧间解码器(880)用于接收帧间预测信息,且基于所述帧间预测信息生成帧间预测结果。
帧内解码器(872)用于接收帧内预测信息,且基于所述帧内预测信息生成预测结果。
残差解码器(873)用于执行逆量化以提取解量化的变换系数,且处理所述解量化的变换系数,以将残差从频域转换到空间域。残差解码器(873)还可能需要某些控制信息(用以获得量化器参数QP),且所述信息可由熵解码器(871)提供(未标示数据路径,因为这仅仅是低量控制信息)。
重建模块(874)用于在空间域中组合由残差解码器(873)输出的残差与预测结果(可由帧间预测模块或帧内预测模块输出)以形成重建的块,所述重建的块可以是重建的图片的一部分,所述重建的图片继而可以是重建的视频的一部分。应注意,可执行解块操作等其它合适的操作来改善视觉质量。
应注意,可使用任何合适的技术来实施视频编码器(403)、视频编码器(603)和视频编码器(703)以及视频解码器(410)、视频解码器(510)和视频解码器(810)。在实施例中,可使用一个或多个集成电路来实施视频编码器(403)、视频编码器(603)和视频编码器(703)以及视频解码器(410)、视频解码器(510)和视频解码器(810)。在另一实施例中,可使用执行软件指令的一个或多个处理器来实施视频编码器(403)、视频编码器(603)和视频编码器(703)以及视频解码器(410)、视频解码器(510)和视频解码器(810)。
根据本申请的一些实施例,对于帧内预测,广角模式可被用于压缩视频并且降低带宽或存储空间需求。
图9示出了包含广角模式的示例的示意图(900)。通常,帧内预测位于右上的45度方向(对应于指向图9中的34的箭头,其指示模式34)到左下的45度方向(对应于指向图9中的02的箭头,其指示模式2)内,这些模式被称作常规的帧内预测模式。当应用35个HEVC帧内预测模式时,模式2被称为左下对角模式并且模式34被称为右上对角模式。超出常规的帧内预测模式所覆盖的预测方向的范围的广角,可对应于广角帧内预测模式。
在一些示例中,广角帧内预测方向与一个常规帧内预测方向相关联。例如,广角帧内预测方向和其相关联的帧内预测方向捕捉相同的方向性,但是使用相对侧的参考样本(左列或顶行)。在示例中,通过发送用于相关联的方向(其具有可用的广角“翻转模式”)的1比特标志(1-bit flag)来指示广角帧内预测模式。在图9示例中,具有指向35的箭头的第一方向是广角帧内预测方向,其与具有指向03的箭头的第二方向相关联。因此,可通过发送用于第二方向的1比特标志来指示第一方向。
在实施例中,在具有33个方向角度帧内预测的情况下,新模式的可用性局限于最接近于45度对角右上模式(即,当应用35个常规帧内模式时的模式34)和左下模式(即,当应用35个常规帧内模式时的模式2)的10个方向模式。实际的样本预测处理遵循HEVC或VVC中的处理。
在图9示例中,示出了与模式2至模式34相关联的33个帧内预测方向。在示例中,当块的宽度大于块的高度时,与模式35和模式36相关联的方向可被用作广角帧内预测方向。然后,模式3和模式4可具有额外的标志来指示是使用指示的模式还是使用模式35和模式36关联的翻转广角方向。在一些示例(例如,通用视频编码测试模型1(VTM1))中,在四叉树、二叉树和三叉树(QT+BT+TT)分区结构中支持方形块和非方形块两者。当用于方形块和非方形块的帧内预测设计使用与方形块相同的帧内预测模式(例如,模式2至模式34)时,帧内预测模式(例如,图9示例中的模式2至模式34)对于非方形块而言不是高效的。广角预测模式(例如,图9示例中的模式35和模式36)可对非方形块进行更高效的编码。
在一些示例中,广角帧内预测的信令取决于帧内预测模式。因此,当解析广角控制标志时,存在解析依赖性问题(在解析处理期间需要重构帧内预测模式)。
在一些实施例中,将用于方形块的一些帧内预测模式重新映射到用于非方形块的广角预测模式。在示例中,在重新映射的过程中,从最初用于方形块的帧内预测模式的集合中移除用于方形块的一些帧内预测模式,同时将相同数量的广角预测模式添加到该帧内预测模式的集合中以形成用于某些非方形块的帧内预测模式的新的集合。因此,该帧内预测模式的集合中的一定数量的模式被改变,同时其它模式保持不变。在一些示例中,已经被改变的一定数量的模式取决于块形状,诸如块的宽高比。
对于方形块,常规帧内预测模式的集合可被用于帧内预测,并且关于常规帧内预测模式的集合的模式编号可以是35、67等等。对于非方形块,可以从常规帧内预测模式的集合中移除一些模式,并且可以添加相同数量的广角模式(作为移除的模式)以与剩余的常规帧内预测模式形成帧内预测模式的新集合。因此,在示例中,用于非方形块和方形块的信号模式索引是相同的,并且非方形块和方形块共用相同的模式编码算法。在35个常规帧内预测模式的情况下,所添加的右上广角模式的索引是模式35、模式36、模式37、模式38等等,并且所添加的左下广角模式的索引是模式-1、模式-2、模式-3、模式-4等等。
图10和图11示出将一些常规帧内预测模式重新映射到广角模式的两个示例。在图10中,模式2至模式34与图10中所示的帧内预测方向相关联。将模式2至模式34与模式0(例如平面模式)和模式1(例如DC模式)组合在一起,以形成用于方形块的常规帧内预测模式的集合。在图10示例中,从常规帧内预测模式的集合中移除模式2和模式3(如由短划线所指示的)。进一步地,添加广角模式35和模式36(如由虚线所指示的),其中模式35的方向与模式3的方向相反(如由(1001)所指示的),并且模式36的方向与模式4的方向相反(如由(1002)所指示的)。因此,将模式4至模式36与模式0和模式1组合在一起,以形成用于某些非方形块的帧内预测模式的新的集合。
在图11中,移除模式33和模式34(如由短划线所指示的),并且添加广角模式-1和模式-2(如由虚线所指示的)。模式-1的方向与模式33的方向相反(如由(1101)所指示的),并且模式-2的方向与模式32的方向相反(如由(1102)所指示的)。因此,将模式-2、模式-1、以及模式2至模式32与模式0和模式1组合在一起,以形成用于某些非方形块的帧内预测模式的新的集合。
在一个实施例中,被移除的常规模式与添加的广角模式之间的角度距离大于90度并且小于或等于180度。例如,存在35个常规帧内预测模式,并且宽度大于高度时,移除模式2至模式5并且添加广角模式35至模式38;当高度大于宽度时,移除模式31至模式34并且添加模式-1至模式-4。在另一个示例中,存在67个常规帧内预测模式,当宽度大于高度时,移除模式2至模式9并且添加模式67至模式74;当高度大于宽度时,移除模式59至模式66并且添加模式-1至模式-8。
在可选实施例中,移除的常规模式和添加的广角模式位于相反的方向上。例如,当存在35个常规帧内预测模式,当宽度大于高度时,移除模式3至模式6并且添加广角模式35至模式38;当高度大于宽度时,移除模式30至模式33并且添加模式-1至模式-4。在另一个示例中,当存在67个常规帧内预测模式,当宽度大于高度时,移除模式3至模式10并且添加广角模式67至模式74;当高度大于宽度时,移除模式58至模式65并且添加模式-1至模式-8。
在可选实施例中,当宽度大于高度时,移除从左下方向起的一些常规模式,并且添加从右上方向起的相同数量的广角模式。否则,当高度大于宽度时,移除从右上方向起的一些模式,并且添加从左下方向起的相同数量的广角模式。
例如,当存在35个常规帧内预测模式,并且宽度大于高度时,移除模式2至模式5并且添加广角模式35至模式38;当高度大于宽度时,移除模式31至模式34并且添加模式-1至模式-4。
在可选实施例中,对于所有非方形块形状,移除的常规帧内预测模式的数量是固定的。对于所有非方形块,移除N个常规帧内预测模式,并且相应地添加N个广角模式。例如,当使用35个常规模式时,N可以是1至7;当使用67个常规模式时,N可以是2至14,并且当使用129个常规帧内预测模式时,N可以是4至28。
在一个实施例中,N可以作为高级语法元素用信号在诸如序列参数集合(SPS)、图片参数集合(PPS)、条带报头中标记,或者作为用于图片的区域的公共语法元素或参数。
在一个示例中,当存在35个常规帧内预测模式时,移除4个常规帧内模式,并且当存在67个常规帧内预测模式时,移除8个常规帧内模式。
在可选实施例中,移除的常规帧内预测模式的数量取决于非方形块的形状。
在一些示例中,当宽度/高度≤2或高度/宽度≤2(宽高比=宽度/高度,1<宽高比≤2,或者≤宽高比<1)时,移除M个常规帧内预测模式。进一步地,当宽度/高度≥4或高度/宽度≥4(宽高比≥4或宽高比≤1/4)时,移除N个常规帧内预测模式。进一步地,在示例中,当2<宽高比<4或1/4<宽高比<1/2时,移除P个常规帧内预测模式。在示例中,M不等于N。在一个示例中,当存在35个常规帧内预测模式时,M等于3并且N等于5,并且当存在67个常规帧内预测模式时,M等于6并且N等于10。P可与M或N相同,或者与M或N不同。
在一个实施例中,M和N可以作为高级语法元素用信号在诸如序列参数集合(SPS)、图片参数集合(PPS)、条带报头中发送,或者作为用于图片的区域的公共语法元素或参数。在另一个示例中,移除的常规帧内预测模式的数量取决于编码信息,包括但不限于块宽度、块高度,以及块宽度与高度比、块面积尺寸。
在可选实施例中,移除的常规帧内预测模式从左下对角模式(即,当应用35个模式时的模式2)或右上对角模式(即,当应用35个模式时的模式34)开始,并且添加的广角模式从超出左下对角模式或右上对角模式的最近的角度开始(即,模式-1或模式35)。
在一些示例中,移除的常规模式和添加的广角模式可以是连续的或非连续的。在一个示例中,当存在35个常规帧内预测模式并且宽度大于高度时,移除模式2至模式5并且添加广角模式35至模式38。在另一个示例中,当存在35个常规帧内预测模式并且宽度大于高度时,移除模式2至模式5并且添加广角模式35、模式37、模式38和模式39。
在可选实施例中,未使用/移除的常规帧内预测模式用于指示添加的广角模式。因此,未使用的常规帧内预测模式仍然可用信号指示,这些未使用的常规帧内预测模式的意义被转换为添加的广角模式。例如,当宽度大于高度时,移除模式2,但是模式2仍然用信号指示。对于一个非方形块,当解码器解码模式2并且宽度大于高度时,解码器将把模式2转换为模式35。
在可选实施例中,为了得出当前块的最可能模式(MPM),当邻近块的帧内预测超出当前块的帧内预测方向范围时,邻近块的模式将被映射至由当前块的帧内预测方向范围所覆盖的最近的方向。例如,如果当前块是方形块,并且其左块是非方形块并且左块的模式编号是35。模式35未被当前块的模式范围覆盖。因此,左块的模式被映射至由当前块的模式范围所覆盖的最近的模式34。
在一些实施例中,使用用于矩形块的广角预测来执行帧内预测处理。帧内预测处理接收输入,诸如帧内预测模式(通过predModeIntra表示)、当前块的宽度(通过nWidth表示)、块的高度(通过nHeight表示)、邻近样本(通过p[x][y]表示,其中(x=-1,y=-1至nWidth+nHeight-1)(x=0至nWidth+nHeight-1,y=-1)),以及指定当前块的色彩分量的变量cIdx。帧内预测处理能够生成预测样本predSamples[x][y],其中x=0至nWidth-1,并且y=0至n Height-1。
在一些实施例中,基于帧内预测模式predModeIntra和角度参数intraPredAngle之间的映射来执行帧内预测处理。
图12示出了包含43个帧内预测方向的示意图。43个帧内预测方向包括对应于常规帧内预测模式的模式2至模式34的33个常规帧内预测方向,并且包括超出模式34扩展的5个广角方向(如模式35至模式39所示)和超出模式2扩展的5个广角方向(如模式-1至模式-5所示)。
图12也示出了上标尺(上尺)和左标尺(左尺)。在一些示例中,根据上标尺或左标尺来测量角度参数intraPredAngle。表格1示出帧内预测模式predModeIntra和角度参数intraPredAngle之间的映射表。
表1
在示例中,输入中的帧内预测模式predModeIntra是被移除的常规帧内预测模式之一,并且基于当前块的宽高比(nWidth/nHeight),输入中的帧内预测模式predModeIntra被转换为广角模式。
例如,当nWidth/nHeight=2并且2≤predModeIntra≤4时,predModeIntra←predModeIntra+33,即移除的常规帧内预测模式值加上33即为添加的广角模式值。具体地,当块的宽度nWidth是块的高度nHeight的两倍时,从常规帧内预测模式的集合中移除3个常规帧内预测模式(模式2、模式3和模式4),并且添加3个广角模式(模式35、模式36和模式37)以与剩余的常规帧内预测模式一起形成用于块的帧内预测模式的新的集合。当输入中的帧内预测模式predModeIntra对应于移除的模式之一时,帧内预测模式predModeIntra被转换为广角模式。
进一步地,当nWidth/nHeight≥4并且2≤predModeIntra≤6时,predModeIntra←predModeIntra+33,即移除的常规帧内预测模式值加上33即为添加的广角模式值。具体地,当块的宽度nWidth等于或超过块的高度nHeight的四倍时,从常规帧内预测模式的集合中移除5个常规帧内预测模式(模式2、模式3、模式4、模式5、模式6),并且添加5个广角模式(模式35、模式36、模式37、模式38和模式39)以与剩余的常规帧内预测模式一起形成用于块的帧内预测模式的新的集合。当输入中的帧内预测模式predModeIntra对应于移除的模式之一时,帧内预测模式predModeIntra被转换为广角模式。
进一步地,当nHeight/nWidth=2并且32≤predModeIntra≤34时,predModeIntra←predModeIntra–35,即移除的常规帧内预测模式值减去35即为添加的广角模式值。具体地,当块的高度nHeight是块的宽度nWidth的两倍时,从常规帧内预测模式的集合中移除3个常规帧内预测模式(模式34、模式33和模式32),并且添加3个广角模式(模式-1、模式-2和模式-3)以与剩余的常规帧内预测模式一起形成用于块的帧内预测模式的新的集合。当输入中的帧内预测模式predModeIntra对应于移除的模式之一时,帧内预测模式predModeIntra被转换为广角模式。
进一步地,当nHeight/nWidth≥4并且30≤predModeIntra≤34时,predModeIntra←predModeIntra–35,即移除的常规帧内预测模式值减去35即为添加的广角模式值。具体地,当块的高度nHeight等于或超过块的宽度nWidth的四倍时,从常规帧内预测模式的集合中移除5个常规帧内预测模式(模式34、模式33、模式32、模式32、模式30),并且添加5个广角模式(模式-1、模式-2、模式-3、模式-4和模式-5)以与剩余的常规帧内预测模式一起形成用于块的帧内预测模式的新的集合。当输入中的帧内预测模式predModeIntra对应于移除的模式之一时,帧内预测模式predModeIntra被转换为广角模式。
然后,基于帧内预测模式predModeIntra,可以基于例如表格1来确定对应的角度参数intraPredAngle。然后,可以基于诸如HEVC标准之类的适当的视频编码标准、基于角度参数intraPredAngle来计算预测样本predSamples[x][y]。
在另一个示例中,65个常规帧内预测方向被用于方形块的帧内预测。这65个常规帧内预测方向对应于图2中所示的常规帧内预测模式2至模式66。模式2至模式66和模式0(平面模式)以及模式1(DC模式)一起形成用于方形块的67个帧内预测模式的集合。在一些实施例中,移除某数量的常规帧内预测模式并且将相同数量的广角模式添加到用于矩形块的帧内预测模式的新的集合,并且该数量取决于矩形块的宽高比。
在一些实施例中,使用用于矩形块(当前块)的广角预测来执行帧内预测处理。帧内预测处理接收输入,诸如帧内预测模式predModeIntra、当前块的宽度nWidth、块的高度nHeight、邻近样本(通过p[x][y]表示,其中(x=-1、y=-1至nWidth+nHeight-1)(x=0至nWidth+nHeight-1、y=-1))。帧内预测处理可生成预测样本predSamples[x][y],其中x=0至nWidth-1,并且y=0至nHeight-1。
在示例中,变量whRatio被定义为等于min(abs(Log2(nWidth/nHeight)),2)。当nWidth大于nHeight但是小于nHeight的两倍时,whRatio小于1。当nWidth等于nHeight的两倍时,whRatio等于1。当nWidth大于nHeight的两倍但是小于nHeight的四倍时,whRatio是在(1,2)范围内的值。当nWidth是nHeight的四倍时,whRatio等于2。当nWidth超过nHeight的四倍时,whRatio等于2。
类似地,当nHeight大于nWidth但是小于nWidth的两倍时,whRatio小于1。当nHeight等于nWidth的两倍时,whRatio等于1。当nHeight大于nWidth的两倍,但是小于nWidth的四倍时,whRatio是在(1,2)范围内的值。当nHeight是nWidth的四倍时,whRatio等于2。当nHeight超过nWidth的四倍时,whRatio等于2。因此,whRatio是块的形状的函数,并且不依赖于块的方向。
在示例中,输入中的帧内预测模式predModeIntra是被移除的常规帧内预测模式之一,并且基于当前块的whRatio将输入中的帧内预测模式predModeIntra转换为广角模式。
例如,当nWidth大于nHeight但是小于nHeight的两倍时,whRatio小于1,并且从常规帧内预测模式的集合中移除6个常规帧内预测模式(模式2至模式7),并且添加6个广角模式(模式67至模式72)以与剩余的常规帧内预测模式一起形成用于块的帧内预测模式的新的集合。当输入中的帧内预测模式predModeIntra对应于移除的模式(大于或等于2并且小于8)之一时,通过加上65将帧内预测模式predModeIntra转换为广角模式。
进一步地,当nWidth等于或超过nHeight的四倍时,从常规帧内预测模式的集合中移除10个常规帧内预测模式(模式2至模式11),并且添加10个广角模式(模式67至模式76)以与剩余的常规帧内预测模式一起形成用于块的帧内预测模式的新的集合。当输入中的帧内预测模式predModeIntra对应于移除的模式(大于或等于2并且小于12)之一时,通过加上65将帧内预测模式predModeIntra转换为广角模式。
进一步地,当nHeight大于nWidth但是小于nWidth的两倍时,whRatio小于1,并且从常规帧内预测模式的集合中移除6个常规帧内预测模式(模式61至模式66),并且添加6个广角模式(模式-1至模式-6)以与剩余的常规帧内预测模式一起形成用于块的帧内预测模式的新的集合。当输入中的帧内预测模式predModeIntra对应于移除的模式(大于或等于61并且小于67)之一时,通过减去67将帧内预测模式predModeIntra转换为广角模式。
进一步地,当nHeight等于或超过nWidth的四倍时,从常规帧内预测模式的集合中移除10个常规帧内预测模式(模式57至模式66),并且添加10个广角模式(模式-1至模式-10)以与剩余的常规帧内预测模式一起形成用于块的帧内预测模式的新的集合。当输入中的帧内预测模式predModeIntra对应于移除的模式(大于或等于57并且小于67)之一时,通过减去67将帧内预测模式predModeIntra转换为广角模式。
然后,基于帧内预测模式predModeIntra,可以例如基于查找表来确定对应的角度参数intraPredAngle。然后,可基于诸如HEVC标准之类的适当的视频编码标准、基于角度参数intraPredAngle来计算预测样本predSamples[x][y]。
图13A示出根据本申请的实施例的处理方法(1300)的流程图。处理方法(1300)可用于重构以帧内模式编码的块,因此生成用于重构下的块的预测块。在各个实施例中,通过诸如终端装置(310)、(320)、(330)和(340)中的处理电路、执行视频编码器(403)的功能的处理电路、执行视频解码器(410)的功能的处理电路、执行视频解码器(510)的功能的处理电路、执行帧内预测单元(552)的功能的处理电路、执行视频编码器(603)的功能的处理电路、执行预测器(635)的功能的处理电路、执行帧内编码器(722)的功能的处理电路、执行帧内解码器(872)的功能的处理电路等等之类的处理电路来执行处理方法(1300)。在一些实施例中,以软件指令来实施处理方法(1300),因此当处理电路执行软件指令时,处理电路执行处理方法(1300)。该处理开始于步骤(S1301)并且进行到步骤(S1310)。
在步骤(S1310),解码用于块的预测信息。在示例中,处理电路从已编码视频流中解码块的预测信息。在一些示例中,该块是非方形块,并且该块的预测信息指示用于非方形块的帧内预测模式的第一集合中的第一帧内预测模式。帧内预测模式的第一集合包括至少一个或多个附加的帧内预测模式(例如,广角模式),该附加的帧内预测模式不属于用于方形块的帧内预测模式的第二集合。帧内预测模式的第一集合不包括至少一个或多个丢失的(移除的或未使用的)帧内预测模式,该丢失的帧内预测模式属于帧内预测模式的第二集合。一个或多个附加的帧内预测模式和一个或多个丢失的帧内预测模式的数量是块的宽高比(其指示块的形状)的函数。该数量在块的较长边与较短边的比值小于或等于2时具有第一值,在较长边与较短边的比值大于或等于4时具有第二值,并且第二值大于第一值。
在步骤(S1320),根据第一帧内预测模式重构块的样本。在一些示例中,基于第一帧内预测模式,基于例如查找表可确定对应的角度参数。然后,根据诸如HEVC标准之类的适当的视频编码标准、基于角度参数可计算块的样本。然后,处理继续到步骤(S1399)并且结束。
本申请实施例还提供一种视频解码装置。如图13B所示,该装置包括:解码模块1301,用于从已编码视频码流解码当前块的预测信息,其中,当前块是非方形块,并且当前块的所述预测信息指示用于非方形块的帧内预测模式的第一集合中的第一帧内预测模式;其中,所述帧内预测模式的第一集合包括特定数量的帧内预测附加模式,所述帧内预测附加模式不属于用于方形块的帧内预测模式的第二集合,并且所述帧内预测模式的第一集合不包括特定数量的丢失的帧内预测模式,所述丢失的帧内预测模式属于所述帧内预测模式的第二集合,并且所述特定数量关联于当前块的宽高比的函数;以及重构模块1302,用于根据所述第一帧内预测模式重构所述当前块的至少一个样本。
以上描述的技术可被实施为计算机软件,该计算机软件使用计算机可读指令并且被物理地存储在一个或多个计算机可读介质中。例如,图14示出适于实施所公开的主题的实施例的计算机系统(1400)。
可使用任何适当的机器代码或计算机语言来编码计算机软件,该机器代码或计算机语言可以经过汇编、编译、链接,或者类似机制以创建包括指令的代码,该指令可由一个或多个计算机中央处理单元(CPU)、图形处理单元(GPU)等等直接执行,或者通过解释、微代码执行等等来执行。
该指令可在各种类型的计算机或其组件(例如包括个人计算机、平板式计算机、服务器、智能电话、游戏设备、物联网设备,等等)上执行。
图14中示出的计算机系统(1400)的组件是示例性的并且并不意在对实施本申请的实施例的计算机软件的使用或功能的范围给出任何限制。组件的配置不应当被解释为对计算机系统(1400)的示例性实施例中所图示的组件中的任何一个或组合有任何依赖性或需求。
计算机系统(1400)可以包括某些人机界面输入设备。这样的人机界面输入设备可以对由一个或多个人类用户通过例如触觉输入(诸如:击键、滑动、数据手套移动)、音频输入(诸如:语音、击掌)、视觉输入(诸如:手势)、嗅觉输入(未被描绘)进行的输入做出响应。人机界面输入设备也可用于捕捉不一定直接地与人类的有意识的输入有关的某些媒体,诸如音频(诸如:语音、音乐、环境声)、图像(诸如:扫描图像、从静止图像照相机获取的摄影图像)、视频(诸如二维视频、包括立体视频的三维视频)。
人机界面输入设备可以包括以下中的一个或多个(每个中仅有一个被描绘):键盘(1401)、鼠标(1402)、轨迹板(1403)、触摸屏(1410)、数据手套(未示出)、控制杆(1405)、麦克风(1406)、扫描仪(1407)、照相机(1408)。
计算机系统(1400)还可以包括某些人机界面输出设备。这样的人机界面输出设备可以通过例如触觉输出、声音、光,和气味/口味来刺激一个或多个人类用户的感官。这样的人机界面输出设备可以包括触觉输出设备(例如通过触摸屏(1410)、数据手套(未示出)或控制杆(1405)进行的触觉反馈,但是也可以存在不充当输入设备的触觉反馈设备)、音频输出设备(诸如:扬声器(1409)、耳机(未被描绘))、视觉输出设备(诸如包括CRT屏幕、LCD屏幕、等离子屏幕、OLED屏幕的屏幕(1410),其每个有或没有触摸屏输入能力、每个有或没有触觉反馈能力——其中的一些可以通过诸如立体照相输出的手段输出二维视觉输出或超过三维输出;虚拟现实眼镜(未被描绘)、全息显示器和发烟器(未被描绘)),以及打印机(未被描绘)。
计算机系统(1400)还可包括人类可访问的存储设备和与其相关联的介质,诸如带有CD/DVD的包括CD/DVD ROM/RW(1420)的光介质或类似介质(1421)、拇指驱动器(1422)、可移动硬盘或固态硬盘(1423)、诸如磁带和软盘(未示出)的传统磁性介质、诸如安全加密狗(未示出)的基于专用ROM/ASIC/PLD的设备,等等。
本领域普通技术人员还应当理解,与目前所公开的主题结合使用的术语“计算机可读介质”不包含传输介质、载波,或其它暂时的信号。
计算机系统(1400)还可包括连接一个或多个通信网络的接口。网络例如可以是无线网、有线网、光学网。进一步地,网络可以是局域的、广域的、城域的、车载和工业的、实时的、延迟容忍的,等等。网络的示例包括诸如以太网、无线LAN等等的局域网,包括GSM、3G、4G、5G、LTE等等的蜂窝网络,包括有线TV、卫星和陆地广播TV的TV有线线路或无线广域数字网络,包括CAN总线的车载和工业网,等等。某些网络通常需要外部网络接口适配器,该外部网络接口适配器附接到某些通用数据端口或***总线(1449)(诸如像计算机系统(1400)的USB端口);其它网络通常通过如下所述附接到系统总线而被集成到计算机系统(1400)的内核中(例如,以太网接口被集成到PC计算机系统中并且蜂窝状网络接口被集成到智能电话计算机系统中)。使用任何这些网络,计算机系统(1400)可与其它实体进行通信。这样的通信可以是单向的只接收(例如广播TV)、单向的只发送(例如CAN总线到某些CAN总线设备)、或者是双向的(例如到其它使用局域网或广域数字网络的计算机系统)。可以在如上所述的那些网络和网络接口中的每一个上使用某些协议和协议栈。
上述的人机界面设备、人类可访问的存储设备,和网络接口能够附接到计算机系统(1400)的内核(1440)。
内核(1440)可包括一个或多个中央处理单元(CPU)(1441)、图形处理单元(GPU)(1442)、现场可编程门阵列(FPGA)(1443)形式的专业可编程处理单元、用于某些任务的硬件加速器(1444),等等。可以通过系统总线(1448)将这些设备与只读存储器(ROM)(1445)、随机存取存储器(1446)、诸如内部用户不可访问的硬盘驱动器、SSD等等的内部大容量存储器(1447)一起连接。在一些计算机系统中,系统总线(1448)可以以一个或多个物理插座的形式被访问以实现通过附加的CPU、GPU等等的扩展。***设备可以直接地附接到内核的系统总线(1448),或者通过***总线(1449)附接到内核的系统总线(1448)。用于***总线的架构包括PCI、USB,等等。
CPU(1441)、GPU(1442)、FPGA(1443),和加速器(1444)可执行指令,该指令的组合可构成前述的计算机代码。该计算机代码能够被存储在ROM(1445)或RAM(1446)中。过渡数据也能够被存储在RAM(1446)中,而永久数据能够被存储在例如内部大容量存储器(1447)中。可以通过使用高速缓存存储器来实现对任何存储器设备的快速存储和调取,该高速缓存存储器可与一个或多个CPU(1441)、GPU(1442)、大容量存储器(1447)、ROM(1445)、RAM(1446),等等紧密地相关联。
计算机可读介质可具有在其上用于执行各种计算机实施的操作的计算机代码。介质和计算机代码可以是为了本申请的目的被特别地设计和构造的那些,或它们可具有公知的种类并且对计算机软件领域的技术人员而言是可被得到的。
作为示例并且不作为限制,计算机系统具有架构(1400),并且具体地,内核(1440)能够提供作为处理器(包括CPU、GPU、FPGA、加速器,等等)执行具体化在一个或多个有形的计算机可读介质中的软件的结果的功能。这样的计算机可读介质可以是与上述介绍的用户可访问的大容量存储器相关联的介质,以及具有非暂时性性质的内核(1440)的某些存贮器(诸如内核内部大容量存储器(1447)或ROM(1445))。实施本申请的各个实施例的软件可被存储在这样的设备中并且由内核(1440)来执行。根据需要,计算机可读介质可包括一个或多个存储器设备或芯片。软件可使所述内核(1440)并且具体是在其中的处理器(包括CPU、GPU、FPGA,等等)来执行在本文描述的特定处理或特定处理的特定部分,包括根据通过软件定义的处理来定义存储在RAM(1446)中的数据结构以及修改这样的数据结构。作为补充或作为替代,计算机系统可提供作为逻辑硬布线的或以另外方式具体化在电路(例如:加速器(1444))中的结果的功能,该电路可代替软件或与软件一起操作以执行在本文描述的特定处理或特定处理的特定部分。在适当情况下,对软件的引用包含逻辑,并且反之亦然。在适当情况下,对计算机可读介质的引用包含存储了用于执行的软件的电路(诸如集成电路(IC))、具体化了用于执行的逻辑的电路,或两者都包含。本申请包含硬件和软件的任何适当的组合。
附录:首字母缩略词
JEM:联合开发模型
VVC:通用视频编码
BMS:基准集
HEVC:高效视频编码
SEI:补充增强信息
VUI:视频可用性信息
GOP:图片组
TU:变换单元,
PU:预测单元
CTU:编码树单元
CTB:编码树块
PB:预测块
HRD:假定参考解码器
SNR:信噪比
CPU:中央处理单元
GPU:图形处理单元
CRT:阴极射线管
LCD:液晶显示器
OLED:有机发光二极管
CD:光碟
DVD:数字视频盘
ROM:只读存储器
RAM:随机存取存储器
ASIC:专用集成电路
PLD:可编程逻辑设备
LAN:局域网
GSM:全球移动通信系统
LTE:长期演进
CAN总线:控制器局域网总线
USB:通用串行总线
PCI:外部组件互联
FPGA:现场可编程门阵列
SSD:固态驱动
IC:集成电路
CU:编码单元
尽管本申请已经描述了若干示例性实施例,但存在落入本申请的范围的变换、排列,和各种代替等同物。因此可被理解的是,本领域技术人员可设计出尽管未在本文明确地示出或描述的、但体现本申请的原理并且在其精神和范围内的许多系统和方法。
- 上一篇:一种医用注射器针头装配设备
- 下一篇:依赖形状的帧内编码