基于mpm列表的帧内预测方法和装置

文档序号:174654 发布日期:2021-10-29 浏览:39次 >En<

阅读说明:本技术 基于mpm列表的帧内预测方法和装置 (MPM list-based intra-frame prediction method and device ) 是由 许镇 柳先美 李翎 崔璋元 崔情娥 于 2020-02-20 设计创作,主要内容包括:根据本文档的视频解码方法的特征在于包括:从比特流获得最可能模式(MPM)索引信息和参考线索引信息;对包括用于当前块的帧内预测的候选帧内预测模式的MPM列表进行编译;基于MPM索引信息,从MPM列表中包括的候选帧内预测模式当中导出用于当前块的帧内预测模式;基于帧内预测模式来生成用于当前块的预测样本;以及基于预测样本来生成用于当前块的重构样本,其中用于对MPM列表进行编译的步骤涉及导出DC模式作为候选帧内预测模式中的一个,并且将该DC模式包括在MPM列表中,该DC模式是基于指示用于当前块的帧内预测的参考线的参考线索引信息的值不为零而导出的。(The video decoding method according to the present document is characterized by comprising: obtaining Most Probable Mode (MPM) index information and reference line index information from a bitstream; coding an MPM list including candidate intra prediction modes for intra prediction of a current block; deriving an intra prediction mode for the current block from among candidate intra prediction modes included in the MPM list based on the MPM index information; generating prediction samples for the current block based on the intra prediction mode; and generating reconstructed samples for the current block based on the prediction samples, wherein the coding of the MPM list involves deriving a DC mode as one of the candidate intra prediction modes and including the DC mode in the MPM list, the DC mode being derived based on a value of reference line index information indicating a reference line for intra prediction of the current block being not zero.)

基于MPM列表的帧内预测方法和装置

技术领域

本文档涉及图像编译技术,并且更具体地,涉及使用基于最可能模式(MPM)列表的帧内预测的图像编译方法及其装置。

背景技术

近来在各种领域中对诸如超高清(HUD)图像和4K或8K或更大视频这样的高分辨率且高质量的图像和视频的需求日益增加。随着图像和视频数据变成高分辨率和高质量,与现有图像和视频数据相比,相对发送的信息量或比特数增加。因此,如果使用诸如现有有线或无线宽带线这样的介质来传输图像数据或者使用现有存储介质来存储图像和视频数据,则传输成本和存储成本增加。

此外,近来对诸如虚拟现实(VR)、人工现实(AR)内容或全息图这样的沉浸式媒体的兴趣和需求日益增加。诸如游戏图像这样的图像特性与真实图像的图像特性不同的图像和视频的广播日益增加。

因此,为了有效地压缩并传输或存储并回放具有这样的各种特性的高分辨率且高质量的图像和视频的信息,需要高效的图像和视频压缩技术。

发明内容

技术问题

本公开提供了一种用于改进图像编译效率的方法和设备。

本公开也提供了一种高效的帧内预测方法和设备。

本公开也提供了一种用于导出MPM列表的图像编译方法和设备。

本公开也提供了一种用于导出用于正常帧内预测、多参考线帧内预测和子分区帧内预测的统一MPM列表的图像编译方法和设备。

技术方案

根据本文档的一个示例性实施方式,提供了一种由解码设备执行的图像解码方法。该方法包括:从比特流获得最可能模式(MPM)索引信息和参考线索引信息;构建包括用于当前块的帧内预测的候选帧内预测模式的MPM列表;基于MPM索引信息,在MPM列表中包括的候选帧内预测模式当中导出用于当前块的帧内预测模式;基于帧内预测模式来生成用于当前块的预测样本;以及基于预测样本来生成用于当前块的重构样本,其中在MPM列表的构建中,基于指示用于当前块的帧内预测的参考线的参考线索引信息的值不等于0的情况,DC模式被导出为候选帧内预测模式中的一个并且被包括在MPM列表中。

根据本文档的另一示例性实施方式,提供了一种由编码设备执行的图像编码方法。该方法包括:生成指示用于当前块的帧内预测的参考线的参考线索引信息;构建包括用于当前块的帧内预测的候选帧内预测模式的最可能模式(MPM)列表;在MPM列表中包括的候选帧内预测模式当中导出用于当前块的帧内预测模式;生成指示用于当前块的帧内预测模式的MPM索引信息;以及对包括MPM索引信息和参考线索引信息的图像信息进行编码,其中在MPM列表的构建中,基于参考线索引信息的值不等于0的情况,DC模式被导出为候选帧内预测模式中的一个并且被包括在MPM列表中。

根据本文档的又一示例性实施方式,提供了一种计算机可读数字存储介质,该计算机可读数字存储介质存储编码的图像信息,该编码的图像信息使解码设备执行图像解码方法。该图像解码方法包括:从比特流获得最可能模式(MPM)索引信息和参考线索引信息;构建包括用于当前块的帧内预测的候选帧内预测模式的MPM列表;基于MPM索引信息,在MPM列表中包括的候选帧内预测模式当中导出用于当前块的帧内预测模式;基于帧内预测模式来生成用于当前块的预测样本;以及基于预测样本来生成用于当前块的重构样本,其中在MPM列表的构建中,基于指示用于当前块的帧内预测的参考线的参考线索引信息的值不等于0的情况,DC模式被导出为候选帧内预测模式中的一个并且被包括在MPM列表中。

有益效果

根据本公开,能够提高整体图像/视频压缩效率。

根据本公开,可以通过高效的帧内预测来降低实现的复杂度,并且能够通过改进预测性能来增强整体编译效率。

根据本公开,能够通过构建用于正常帧内预测、多参考线帧内预测和子分区帧内预测的统一MPM列表来简化帧内预测结构,并且能够通过对帧内预测模式高效地进行编译来增强编译效率。

附图说明

图1示意性地例示了可以应用本文档的实施方式的视频/图像编译系统的示例。

图2是示意性地说明了可以应用本文档的实施方式的视频/图像编码设备的构建的视图。

图3是示意性地说明了可以应用本文档的实施方式的视频/图像解码设备的构建的视图。

图4示意性地例示了本文档的示例性实施方式适用于的基于帧内预测的图像编码方法的示例,并且图5示意性地例示了编码设备中的帧内预测器。

图6示意性地例示了本文档的示例性实施方式适用于的基于帧内预测的图像解码方法的示例,并且图7示意性地例示了解码设备中的帧内预测器。

图8例示了本文档的示例性实施方式适用于的编码设备中的基于MPM模式的帧内预测方法的示例。

图9例示了本文档的示例性实施方式适用于的解码设备中的基于MPM模式的帧内预测方法的示例。

图10例示了可以应用本文档的实施方式的帧内预测模式的示例。

图11例示了用于使用多参考线的帧内预测的参考样本线的示例。

图12例示了依照帧内子分区(ISP)分割子分区的示例。

图13是说明了根据本文档的用于生成统一MPM列表的方法的实施方式的图。

图14是说明了根据本文档的用于生成统一MPM列表的方法的另一实施方式的图。

图15是示意性地例示了能够由根据本公开的实施方式的编码设备执行的编码方法的流程图。

图16是示意性地例示了能够由根据本公开的实施方式的解码设备执行的解码方法的流程图。

图17例示了可以应用本文档中公开的实施方式的内容流传输系统的示例。

具体实施方式

本文档可以以各种方式修改并且可以具有各种实施方式,并且特定的实施方式将在附图中例示并详细地描述。然而,这并不旨在将本文档限制于特定实施方式。本说明书中通常使用的术语用于描述特定的实施方式,而不是用来限制本文档的技术精神。除非在上下文中另外明确表示,否则单数的表述包括复数的表述。该说明书中的诸如“包括”或“具有”这样的术语应该被理解为指示存在本说明书中描述的特性、数字、步骤、操作、元件、组件或其组合,而没有排除存在或添加一个或更多个特性、数字、步骤、操作、元件、组件或其组合的可能性。

此外,为了便于与不同特征功能相关的描述,独立地例示了本文档中描述的附图中的元件。这并不意指各个元件被实现为单独的硬件或单独的软件。例如,至少两个元件可以被组合,以形成单个元件,或者单个元件可以被划分成多个元件。其中元件被组合和/或分开的实施方式也被包括在本文档的权利范围内,除非它偏离了本文档的实质。

在本文档中,术语“A或B”可以意指“仅A”、“仅B”或“A和B这二者”。换句话说,在本文档中,术语“A或B”可以被解释为指示“A和/或B”。例如,在本文档中,术语“A、B或C”可以意指“仅A”、“仅B”、“仅C”或“A、B和C的任何组合”。

本文档中使用的斜线“/”或逗号可以意指“和/或”。例如,“A/B”可以意指“A和/或B”。因此,“A/B”可以意指“仅A”、“仅B”或“A和B这二者”。例如,“A、B、C”可以意指“A、B或C”。

在本文档中,“A和B中的至少一个”可以意指“仅A”、“仅B”或“A和B这二者”。此外,在本文档中,表达“A或B中的至少一个”或“A和/或B中的至少一个”可以被解释为“A和B中的至少一个”。

此外,在本文档中,“A、B和C中的至少一个”可以意指“仅A”、“仅B”、“仅C”或“A、B和C的任何组合”。此外,“A、B或C中的至少一个”或“A、B和/或C中的至少一个”可以意指“A、B和C中的至少一个”。

此外,本文档中使用的括号可以意指“例如”。具体地,在表达“预测(帧内预测)”的情况下,可以指示将“帧内预测”作为“预测”的示例提出。换句话说,本文档中的术语“预测”不限于“帧内预测”,并且可以指示将“帧内预测”作为“预测”的示例提出。此外,即使在表达“预测(即,帧内预测)”的情况下,也可以指示将“帧内预测”作为“预测”的示例提出。

在本文档中,在一个附图中单独地说明的技术特征可以被单独地实现,或者可以被同时地实现。

在下文中,将参考附图更具体地描述本文档的优选实施方式。在下文中,在附图中,在同一元件中使用同一附图标记,并且可以省略相同元件的冗余描述。

本文档涉及视频/图像编译。例如,本文档中公开的方法/实施方式可以应用于以通用视频编译(VVC)标准、基本视频编译(EVC)标准、AOMedia Video 1(AV1)标准、第二代音频视频编译标准(AVS2)或下一代视频/图像编译标准(例如,H.267或H.268等)公开的方法。

在本文档中,可以提供与视频/图像编译相关的各种实施方式,并且除非相反地指定,否则这些实施方式可以被彼此组合并执行。

在本文档中,视频可以意指随时间推移的一系列图像的集合。通常,图片意指表示特定时间区域的图像的单元,并且切片/图块(tile)在编译中是构成图片的一部分的单元。切片/图块可以包括一个或更多个编译树单元(CTU)。一个图片可以由一个或更多个切片/图块构成。一个图片可以由一个或更多个图块组构成。一个图块组可以包括一个或更多个图块。块部(brick)可以表示图片中的图块内的CTU行的矩形区域。图块可以被分割成多个块部,各块部由图块内的一个或更多个CTU行组成。没有被分割成多个块部的图块也可以称为块部。块部扫描可以是如下的分割图片的CTU的特定顺序排序:在块部中按CTU光栅扫描对CTU进行连续排序,按图块的块部的光栅扫描对图块内的块部进行连续排序,并且按图片的图块的光栅扫描对图片中的图块进行连续排序。图块是图片中的特定图块列和特定图块行内的CTU的矩形区域。图块列是CTU的高度等于图片的高度并且宽度由图片参数集中的语法元素指定的矩形区域。图块行是CTU的高度由图片参数集中的语法元素指定并且宽度等于图片的宽度的矩形区域。图块扫描可以是以下的分割图片的CTU的特定顺序排序:可以在图块中按CTU光栅扫描对CTU进行连续排序,而可以按图片的图块的光栅扫描对图片中的图块进行连续排序。切片包括图片的可以被排它性地包括在单个NAL单元中的整数个块部。切片可以由多个完整图块组成或者仅由一个图块的连续序列的完整块部组成。在本文档中,可以将图块组与切片彼此互换地使用。例如,在本文档中,图块组/图块组头可以被称为切片/切片头。

像素或像元(pel)可以意指构成一幅图片(或图像)的最小单元。另外,“样本”可以被用作与像素对应的术语。样本通常可以表示像素或像素的值,并且可以仅表示亮度分量的像素/像素值,或仅表示色度分量的像素/像素值。

单元可以表示图像处理的基本单元。单元可以包括图片的特定区域和与该区域相关的信息中的至少一个。一个单元可以包括一个亮度块和两个色度(例如,cb、cr)块。根据情况,可以将单元和诸如块、区域等这样的术语互换地使用。在通常情况下,M×N块可以包括由M列和N行组成的样本(或样本阵列)或变换系数的集合(或阵列)。

图1示意性地例示了可以应用本文档的实施方式的视频/图像编译系统的示例。

参照图1,视频/图像编译系统可以包括第一装置(源装置)和第二装置(接收装置)。源装置可以经由数字存储介质或网络以文件或流传输的形式将编码后的视频/图像信息或数据传递到接收装置。

源装置可以包括视频源、编码设备和发送器。接收装置可以包括接收器、解码设备和渲染器。编码设备可以被称为视频/图像编码设备,并且解码设备可以被称为视频/图像解码设备。发送器可以被包括在编码设备中。接收器可以被包括在解码设备中。渲染器可以包括显示器,并且显示器可以被配置为单独的装置或外部组件。

视频源可以通过捕获、合成或生成视频/图像的处理来获得视频/图像。视频源可以包括视频/图像捕获装置和/或视频/图像生成装置。视频/图像捕获装置可以包括例如一个或更多个相机、包括先前捕获的视频/图像的视频/图像档案等。视频/图像生成装置可以包括例如计算机、平板计算机和智能电话,并且可以(电子地)生成视频/图像。例如,可以通过计算机等生成虚拟视频/图像。在这种情况下,视频/图像捕获处理可以被生成相关数据的处理取代。

编码设备可以对输入视频/图像进行编码。编码设备可以执行诸如针对压缩和编译效率的预测、变换和量化这样的一系列过程。编码后的数据(编码后的视频/图像信息)可以以比特流的形式输出。

发送器可以通过数字存储介质或网络以文件或流传输的形式将以比特流的形式输出的编码后的视频/图像信息或数据发送到接收装置的接收器。数字存储介质可以包括诸如USB、SD、CD、DVD、蓝光、HDD、SSD等这样的各种存储介质。发送器可以包括用于通过预定文件格式生成媒体文件的元件,并且可以包括用于通过广播/通信网络进行发送的元件。接收器可以接收/提取比特流,并且将接收/提取的比特流发送到解码设备。

解码设备可以通过执行与编码设备的操作对应的诸如解量化、逆变换、预测等这样的一系列过程来解码视频/图像。

渲染器可以渲染解码后的视频/图像。可以通过显示器显示渲染后的视频/图像。

图2是示意性地描述可以应用本文档的视频/图像编码设备的配置的图。下文中,所谓的视频编码设备可以包括图像编码设备。

参照图2,编码设备200可以包括图像分割器210、预测器220、残差处理器230、熵编码器240、加法器250、滤波器260和存储器270。预测器220可以包括帧间预测器221和帧内预测器222。残差处理器230可以包括变换器232、量化器233、解量化器234、逆变换器235。残差处理器230还可以包括减法器231。加法器250可以被称为重构器或重构块生成器。根据实施方式,上面已描述的图像分割器210、预测器220、残差处理器230、熵编码器240、加法器250和滤波器260可以由一个或更多个硬件组件(例如,编码器芯片组或处理器)构成。另外,存储器270可以包括解码图片缓冲器(DPB),并且可以由数字存储介质构成。硬件组件还可以包括存储器270作为内部/外部组件。

图像分割器210将输入到编码设备200的输入图像(或图片或帧)分割成一个或更多个处理单元。作为一个示例,处理单元可以被称为编译单元(CU)。在这种情况下,从编译树单元(CTU)或最大编译单元(LCU)开始,可以根据四叉树二叉树三叉树(QTBTTT)结构来递归地分割编译单元。例如,可以基于四叉树结构、二叉树结构和/或三叉树结构将一个编译单元划分成深度更深的多个编译单元。在这种情况下,例如,可以首先应用四叉树结构,随后可以应用二叉树结构和/或三叉树结构。另选地,可以首先应用二叉树结构。可以基于没有被进一步分割的最终编译单元来执行根据本文档的编译过程。在这种情况下,基于根据图像特性的编译效率,可以将最大编译单元直接用作最终编译单元。另选地,可以按需要将编译单元递归地分割成深度进一步更深的编译单元,使得可以将最佳大小的编译单元用作最终编译单元。这里,编译过程可以包括随后将描述的诸如预测、变换和重构这样的过程。作为另一示例,处理单元还可以包括预测单元(PU)或变换单元(TU)。在这种情况下,可以从上述的最终编译单元划分或分割预测单元和变换单元。预测单元可以是样本预测的单元,并且变换单元可以是用于导出变换系数的单元和/或用于根据变换系数导出残差信号的单元。

根据情况,可以将单元和诸如块、区域等这样的术语互换地使用。在常规情况下,M×N块可以表示由M列和N行组成的样本或变换系数的集合。样本通常可以表示像素或像素的值,并且可以仅表示亮度分量的像素/像素值,或仅表示色度分量的像素/像素值。样本可以被用作与一个图片(或图像)的像素或像元(pel)对应的术语。

在编码设备200中,从输入图像信号(原始块、原始样本阵列)中减去从帧间预测器221或帧内预测器222输出的预测信号(预测块、预测样本阵列)以生成残差信号(残差块、残差样本阵列),并且所生成的残差信号被发送到变换器232。在这种情况下,如所示出的,在编码器200中从输入图像信号(原始块、原始样本阵列)中减去预测信号(预测块、预测样本阵列)的单元可以被称为减法器231。预测器可以对处理目标块(下文中,被称为“当前块”)执行预测,并且可以生成包括针对当前块的预测样本的预测块。预测器可以确定以当前块或CU为基础应用帧内预测还是帧间预测。如随后在对每种预测模式的描述中所讨论的,预测器可以生成诸如预测模式信息这样的与预测相关的各种信息,并且将所生成的信息发送到熵编码器240。关于预测的信息可以在熵编码器240中被编码并且以比特流的形式被输出。

帧内预测器222可以通过参考当前图片中的样本来预测当前块。根据预测模式,参考样本可以位于当前块的附近或与当前块分开。在帧内预测中,预测模式可以包括多种非定向模式和多种定向模式。非定向模式可以包括例如DC模式和平面模式。根据预测方向的详细程度,定向模式可以包括例如33种定向预测模式或65种定向预测模式。然而,这仅仅是示例,并且根据设置,可以使用更多或更少的定向预测模式。帧内预测器222可以通过使用应用于邻近块的预测模式来确定应用于当前块的预测模式。

帧间预测器221可以基于参考图片上的运动向量所指定的参考块(参考样本阵列)来导出针对当前块的预测块。此时,为了减少在帧间预测模式下发送的运动信息的量,可以基于邻近块与当前块之间的运动信息的相关性以块、子块或样本为基础来预测运动信息。运动信息可以包括运动向量和参考图片索引。运动信息还可以包括帧间预测方向(L0预测、L1预测、Bi预测等)信息。在帧间预测的情况下,邻近块可以包括当前图片中存在的空间邻近块和参考图片中存在的时间邻近块。包括参考块的参考图片和包括时间邻近块的参考图片可以彼此相同或彼此不同。时间邻近块可以被称为并置参考块、并置CU(colCU)等,并且包括时间邻近块的参考图片可以被称为并置图片(colPic)。例如,帧间预测器221可以基于邻近块来配置运动信息候选列表,并且生成指示哪个候选被用于导出当前块的运动向量和/或参考图片索引的信息。可以基于各种预测模式来执行帧间预测。例如,在跳过模式和合并模式的情况下,帧间预测器221可以使用邻近块的运动信息作为当前块的运动信息。在跳过模式下,与合并模式不同,不能发送残差信号。在运动信息预测(运动向量预测、MVP)模式的情况下,邻近块的运动向量可以被用作运动向量预测项,并且可以通过发信号通知运动向量差来指示当前块的运动向量。

预测器220可以基于各种预测方法来生成预测信号。例如,预测器可以将帧内预测或帧间预测应用于对一个块的预测,并且也可以同时应用帧内预测和帧间预测。这可以被称为组合的帧间和帧内预测(CIIP)。另外,预测器可以基于帧内块复制(IBC)预测模式或调色板模式,以便对块执行预测。IBC预测模式或调色板模式可以被用于诸如屏幕内容编译(SCC)这样的游戏等的内容图像/视频编译。尽管IBC基本上在当前图片中执行预测,但是其执行方式与帧间预测的相似之处在于,它导出当前图片中的参考块。即,IBC可以使用本文档中描述的帧间预测技术中的至少一种。调色板模式可以被视为帧内编译或帧内预测的示例。当应用调色板模式时,可以基于关于调色板索引和调色板表的信息来发信号通知图片中的样本值。

通过预测器(包括帧间预测器221和/或帧内预测器222)生成的预测信号可以被用于生成重构信号或者生成残差信号。变换器232可以通过向残差信号应用变换技术来生成变换系数。例如,变换技术可以包括离散余弦变换(DCT)、离散正弦变换(DST)、Karhunen-Loève变换(KLT)、基于图的变换(GBT)或有条件非线性变换(CNT)中的至少一种。这里,GBT意指当用曲线图表示像素之间的关系信息时从曲线图获得的变换。CNT是指基于使用所有先前重构的像素生成的预测信号而获得的变换。另外,变换处理可以被应用于大小相同的正方形像素块,或者可以应用于大小可变的块而非正方形的块。

量化器233可以对变换系数进行量化并且将它们发送到熵编码器240,并且熵编码器240可以对量化的信号(关于量化的变换系数的信息)进行编码并且输出比特流中的编码后的信号。关于量化的变换系数的信息可以被称为残差信息。量化器233可以基于系数扫描顺序将块类型的量化的变换系数重新布置成一维向量形式,并且基于一维向量形式的量化的变换系数来生成关于量化的变换系数的信息。熵编码器240可以执行诸如例如指数哥伦布(exponential Golomb)、上下文自适应可变长度编译(CAVLC)、上下文自适应二进制算术编译(CABAC)等这样的各种编码方法。熵编码器240可以对除了量化的变换系数(例如,语法元素的值等)之外的视频/图像重构所需的信息一起或分别进行编码。编码后的信息(例如,编码后的视频/图像信息)可以以比特流的形式在网络抽象层(NAL)的单元基础上进行发送或存储。视频/图像信息还可以包括关于诸如适应参数集(APS)、图片参数集(PPS)、序列参数集(SPS)、视频参数集(VPS)等这样的各种参数集的信息。另外,视频/图像信息还可以包括常规约束信息。在本文档中,从编码设备发送到/发信号通知给解码设备的信息和/或语法元素可以被包括在视频/图片信息中。视频/图像信息可以通过上述编码过程进行编码并且被包括在比特流中。可以通过网络传输比特流,或者将其存储在数字存储介质中。这里,网络可以包括广播网络、通信网络和/或类似物,并且数字存储介质可以包括诸如USB、SD、CD、DVD、蓝光、HDD、SSD等这样的各种存储介质。发送从熵编码器240输出的信号的发送器(未示出)或存储其的存储器(未示出)可以被配置为编码设备200的内部/外部元件,或者发送器可以被包括在熵编码器240中。

从量化器233输出的量化的变换系数可以被用于生成预测信号。例如,通过利用解量化器234和逆变换器235向量化的变换系数应用解量化和逆变换,可以重构残差信号(残差块或残差样本)。加法器155将重构后的残差信号与从帧间预测器221或帧内预测器222输出的预测信号相加,使得可以生成重构信号(重构图片、重构块、重构样本阵列)。当如在应用跳过模式的情况下一样没有针对处理目标块的残差时,可以将预测块用作重构块。加法器250可以被称为重构器或重构块生成器。所生成的重构信号可以被用于当前图片中的下一处理目标块的帧内预测,并且如随后描述的,可以被用于通过滤波进行的下一图片的帧间预测。

此外,在图片编码和/或重构处理中,可以应用亮度映射与色度缩放(LMCS)。

滤波器260可以通过向重构信号应用滤波来改善主观/客观视频质量。例如,滤波器260可以通过向重构图片应用各种滤波方法来生成修改后的重构图片,并且可以将修改后的重构图片存储在存储器270中,尤其是存储在存储器270的DPB中。各种滤波方法可以包括例如解块滤波、样本自适应偏移、自适应环形滤波、双边滤波等。如随后在对每种滤波方法的描述中所讨论的,滤波器260可以生成与滤波相关的各种信息,并且将所生成的信息发送到熵编码器240。关于滤波的信息可以在熵编码器240中被编码并且以比特流的形式被输出。

已发送到存储器270的修改后的重构图片可以被用作帧间预测器221中的参考图片。据此,编码设备可以避免在应用帧间预测时编码设备100和解码设备中的预测失配,并且还可以提高编码效率。

存储器270DPB可以存储修改后的重构图片,以便使用它作为帧间预测器221中的参考图片。存储器270可以存储从中已导出(或编码了)运动信息的当前图片中的块的运动信息和/或已经重构的图片中的块的运动信息。所存储的运动信息可以被发送到帧间预测器221,以被用作邻近块的运动信息或时间邻近块的运动信息。存储器270可以存储当前图片中的重构块的重构样本,并且将它们发送到帧内预测器222。

图3是示意性地描述可以应用本文档的视频/图像解码设备的配置的图。

参照图3,视频解码设备300可以包括熵解码器310、残差处理器320、预测器330、加法器340、滤波器350和存储器360。预测器330可以包括帧间预测器331和帧内预测器332。残差处理器320可以包括解量化器321和逆变换器321。根据实施方式,上面已描述的熵解码器310、残差处理器320、预测器330、加法器340和滤波器350可以由一个或更多个硬件组件(例如,解码器芯片组或处理器)构成。另外,存储器360可以包括解码图片缓冲器(DPB),并且可以由数字存储介质构成。硬件组件还可以包括存储器360作为内部/外部组件。

当输入包括视频/图像信息的比特流时,解码设备300可以与据此已在图2的编码设备中处理视频/图像信息的处理对应地重构图像。例如,解码设备300可以基于与从比特流获得的与块分割相关的信息来导出单元/块。解码设备300可以通过使用在编码设备中应用的处理单元来执行解码。因此,解码的处理单元可以是例如编译单元,可以从编译树单元或最大编译单元顺着四叉树结构、二叉树结构和/或三叉树结构对其进行分割。可以用编译单元导出一个或更多个变换单元。并且,可以通过再现器来再现通过解码设备300解码并输出的重构图像信号。

解码设备300可以以比特流的形式接收从图2的编码设备输出的信号,并且可以通过熵解码器310对接收到的信号进行解码。例如,熵解码器310可以对比特流进行解析,以导出图像重构(或图片重构)所需的信息(例如,视频/图像信息)。视频/图像信息还可以包括关于诸如自适应参数集(APS)、图片参数集(PPS)、序列参数集(SPS)、视频参数集(VPS)等这样的各种参数集的信息。另外,视频/图像信息还可以包括常规约束信息。解码设备可以进一步基于关于参数集的信息和/或常规约束信息对图片进行解码。在本文档中,随后将描述的发信号通知/接收的信息和/或语法元素可以通过解码过程被解码并且从比特流中获得。例如,熵解码器310可以基于诸如指数哥伦布编译、CAVLC、CABAC等这样的编译方法对比特流中的信息进行解码,并且可以输出图像重构所需的语法元素的值和关于残差的变换系数的量化值。更具体地,CABAC熵解码方法可以接收与比特流中的各语法元素对应的bin,使用解码目标语法元素信息以及邻近和解码目标块的解码信息或者在先前步骤中解码的符号/bin的信息来确定上下文模型,根据所确定的上下文模型来预测bin生成概率并且对bin执行算术解码以生成与每个语法元素值对应的符号。这里,CABAC熵解码方法可以在确定上下文模型之后使用针对下一个符号/bin的上下文模型解码的符号/bin的信息来更新上下文模型。在熵解码器310中解码的信息当中的关于预测的信息可以被提供到预测器(帧间预测器332和帧内预测器331),并且在熵解码器310中已对其执行了熵解码的残差值(即,量化的变换系数)和关联的参数信息可以被输入到残差处理器320。残差处理器320可以导出残差信号(残差块、残差样本、残差样本阵列)。另外,在熵解码器310中解码的信息当中的关于滤波的信息可以被提供到滤波器350。此外,接收从编码设备输出的信号的接收器(未示出)还可以将解码设备300构成为内部/外部元件,并且接收器可以是熵解码器310的组件。此外,根据本文档的解码设备可以被称为视频/图像/图片解码设备,并且解码设备可以被分为信息解码器(视频/图像/图片信息解码器)和样本解码器(视频/图像/图片样本解码器)。信息解码器可以包括熵解码器310,并且样本解码器可以包括解量化器321、逆变换器322、加法器340、滤波器350、存储器360、帧间预测器332和帧内预测器331中的至少一个。

解量化器321可以通过对量化的变换系数进行解量化来输出变换系数。解量化器321可以将量化的变换系数重新布置为二维块的形式。在这种情况下,可以基于已在编码设备中执行的系数扫描的顺序来执行重新布置。解量化器321可以使用量化参数(例如,量化步长信息)对量化的变换系数执行解量化,并且获得变换系数。

逆变换器322通过对变换系数进行逆变换来获得残差信号(残差块、残差样本阵列)。

预测器可以对当前块执行预测,并且生成包括针对当前块的预测样本的预测块。预测器可以基于从熵解码器310输出的关于预测的信息来确定向当前块应用帧内预测还是帧间预测,并且具体地可以确定帧内/帧间预测模式。

预测器320可以基于各种预测方法来生成预测信号。例如,预测器可以将帧内预测或帧间预测应用于对一个块的预测,并且也可以同时应用帧内预测和帧间预测。这可以被称为组合的帧间和帧内预测(CIIP)。另外,预测器可以基于帧内块复制(IBC)预测模式或调色板模式,以便对块执行预测。IBC预测模式或调色板模式可以被用于诸如屏幕内容编译(SCC)这样的游戏等的内容图像/视频编译。尽管IBC基本上在当前图片中执行预测,但是其执行方式与帧间预测的相似之处在于,它导出当前图片中的参考块。即,IBC可以使用本文档中描述的帧间预测技术中的至少一种。调色板模式可以被视为帧内编译或帧内预测的示例。当应用调色板模式时,关于调色板表和调色板索引的信息可以被包括在视频/图像信息中并被发信号通知。

帧内预测器331可以通过参考当前图片中的样本来预测当前块。根据预测模式,参考样本可以位于当前块的附近或与当前块分开。在帧内预测中,预测模式可以包括多种非定向模式和多种定向模式。帧内预测器331可以通过使用应用于邻近块的预测模式来确定应用于当前块的预测模式。

帧间预测器332可以基于参考图片上的运动向量所指定的参考块(参考样本阵列)来导出针对当前块的预测块。此时,为了减少在帧间预测模式下发送的运动信息的量,可以基于邻近块与当前块之间的运动信息的相关性以块、子块或样本为基础来预测运动信息。运动信息可以包括运动向量和参考图片索引。运动信息还可以包括帧间预测方向(L0预测、L1预测、Bi预测等)信息。在帧间预测的情况下,邻近块可以包括当前图片中存在的空间邻近块和参考图片中存在的时间邻近块。例如,帧间预测器332可以基于邻近块来配置运动信息候选列表,并且基于接收到的候选选择信息来导出当前块的运动向量和/或参考图片索引。可以基于各种预测模式来执行帧间预测,并且关于预测的信息可以包括指示针对当前块的帧间预测的模式的信息。

加法器340将所获得的残差信号与从预测器(帧间预测器332或帧内预测器331)输出的预测信号(预测块、预测样本阵列)相加,使得可以生成重构信号(重构图片、重构块、重构样本阵列)。当如在应用跳过模式的情况下一样没有针对处理目标块的残差时,可以将预测块用作重构块。

加法器340可以被称为重构器或重构块生成器。所生成的重构信号可以用于当前图片中的要处理的下一块的帧内预测,可以通过如下所述的滤波而输出,或者可以用于下一图片的帧间预测。

此外,亮度映射与色度缩放(LMCS)可以被应用于图片解码处理。

滤波器350可以通过向重构后的信号应用滤波来改善主观/客观图像质量。例如,滤波器350可以通过向重构图片应用各种滤波方法来生成修改后的重构图片,并且将修改后的重构图片存储在存储器360中,具体地,存储在存储器360的DPB中。各种滤波方法可以包括例如解块滤波、样本自适应偏移、自适应环路滤波器、双边滤波器等。

存储在存储器360的DPB中的(修改后的)重构图片可以被用作帧间预测器332中的参考图片。存储器360可以存储从其导出(或解码出)当前图片中的运动信息的块的运动信息和/或已经重构的图片中的块的运动信息。所存储的运动信息可以被发送到帧间预测器332,以便被用作空间邻近块的运动信息或时间邻近块的运动信息。存储器360可以存储当前图片中的重构块的重构样本,并且将重构样本传送到帧内预测器331。

在本公开中,在编码设备200的滤波器260、帧间预测器221和帧内预测器222中描述的实施方式可以与解码设备300的滤波器350、帧间预测器332和帧内预测器331相同或者被分别对应于解码设备300的滤波器350、帧间预测器332和帧内预测器331进行应用。

如上所述,在执行视频编译时,执行预测以提高压缩效率。可以通过预测生成包括当前块的预测样本的预测块,即,目标编译块。在这种情况下,预测块包括空间域(或像素域)中的预测样本。在编码设备和解码设备中同样地导出预测块。编码设备可以通过向解码设备发信号通知关于原始块而非原始块的原始样本值本身与预测块之间的残差的信息(残差信息)来提高图像编译效率。解码设备可以基于残差信息来导出包括残差样本的残差块,可以通过将残差块与预测块相加来生成包括重构样本的重构块,并且可以生成包括重构块的重构图片。

可以通过变换和量化过程来生成残差信息。例如,编码设备可以导出原始块与预测块之间的残差块,可以通过对残差块中所包括的残差样本(残差样本阵列)执行变换过程来导出变换系数,可以通过对变换系数执行量化过程来导出量化变换系数,并且可以(通过比特流)向解码设备发信号通知相关残差信息。在这种情况下,残差信息可以包括诸如值信息、位置信息、变换方案、变换核以及量化变换系数的量化参数这样的信息。解码设备可以基于残差信息执行解量化/逆变换过程,并且可以导出残差样本(或残差块)。解码设备可以基于预测块和残差块来生成重构图片。此外,编码设备可以通过对量化的变换系数进行解量化/逆变换来导出残差块以供后续图片的帧间预测参考,并且可以生成重构图片。

此外,如果执行帧内预测,则可以使用样本之间的相关性,并且可以获得原始块与预测块之间的差异,即,残差。以上提到的变换和量化可以被应用于残差。因此,空间冗余能减少。下文中,具体描述了使用帧内预测进行的编码方法和解码方法。

帧内预测是指基于包括当前块的图片(下文中,当前图片)内的位于当前块外部的参考样本来生成当前块的预测样本的预测。在这种情况下,位于当前块外部的参考样本可以是指与当前块相邻的样本。如果向当前块应用帧内预测,则可以导出要用于当前块的帧内预测的邻近参考样本。

例如,当当前块的大小(宽度×高度)为nW×nH时,当前块的邻近参考样本可以包括邻近左边界的样本和邻近当前块左下的总共2×nH个样本、邻近上边界的样本和邻近当前块右上的总共2×nW个样本以及邻近当前块左上的一个样本。另选地,当前块的邻近参考样本还可以包括多列上邻近样本和多行左邻近样本。此外,当前块的邻近参考样本还可以包括邻近大小为nW×nH的当前块的右边界的总共nH个样本、邻近当前块的下边界的总共nW个样本以及邻近当前块右下的一个样本。

在这种情况下,当前块的邻近参考样本中的一些尚未被解码或可能不可用。在这种情况下,解码设备可以通过用可用样本替换不可用样本来配置将用于预测的邻近参考样本。另选地,可以通过可用样本的插值来构建将用于预测的邻近参考样本。

如果导出邻近参考样本,则(i)可以基于当前块的邻近参考样本的平均值或插值来导出预测样本,并且(ii)可以基于当前块的邻近参考样本当中的针对预测样本的特定(预测)方向上存在的参考样本来导出预测样本。当帧内预测模式是非定向模式或非角度模式时,可以应用(i)。当帧内预测模式是定向模式或角度模式时,可以应用(ii)。

此外,还可通过邻近参考样本当中的基于当前块的预测样本而位于当前块的帧内预测模式的预测方向上的第一邻近样本与位于预测方向的相反方向上的第二邻近样本之间的内插来生成预测样本。前述情况可称为线性内插帧内预测(LIP)。此外,还可使用线性模型基于亮度样本来生成色度预测样本。这种情况可以称为LM模式。

此外,可基于经滤波的邻近参考样本导出当前块的临时预测样本,并且还可通过对根据帧内预测模式在常规邻近参考样本(即,未经滤波的邻近参考样本)当中导出的至少一个参考样本与临时预测样本进行加权求和来导出当前块的预测样本。前述情况可被称作位置相关的帧内预测(PDPC)。

此外,可通过在当前块的邻近多参考样本线当中选择具有最高预测准确度的参考样本线来使用位于对应线中的预测方向上的参考样本导出预测样本,并且可通过用于向解码设备指示(发信号通知)此时使用的参考样本线的方法来执行帧内预测编码。前述情况可被称为多参考线(MRL)帧内预测或基于MRL的帧内预测。

此外,可通过将当前块划分成垂直或水平子分区而基于相同帧内预测模式执行帧内预测,并且可以子分区为单位来导出并使用邻近参考样本。也就是说,在此情况下,当前块的帧内预测模式同等地应用于子分区,并且可以子分区为单位来导出并使用邻近参考样本,由此在一些情况下增强帧内预测性能。这种预测方法可以被称为帧内子分区(ISP)帧内预测或基于ISP的帧内预测。

前述帧内预测方法可称为与帧内预测模式分开的帧内预测类型。帧内预测类型可称为诸如帧内预测技术或附加帧内预测模式之类的各种术语。例如,帧内预测类型(或附加帧内预测模式等)可包括前述LIP、PDPC、MRL及ISP中的至少一者。不同于诸如LIP、PDPC、MRL及ISP之类的特定帧内预测类型的一般帧内预测方法可被称作正常帧内预测类型。如果不应用特定帧内预测类型,那么通常可应用正常帧内预测类型,并且可基于前述帧内预测模式执行预测。此外,如果必要的话,也可针对导出的预测样本执行后处理滤波。

已准备以下附图以说明本文档的特定示例。由于附图中描述的特定装置的标题或特定术语或标题(例如,语法标题等)被示例性地呈现,所以本文档的技术特征不限于以下附图中使用的特定标题。

图4示意性地例示了本文档的示例性实施方式适用于的基于帧内预测的图像编码方法的示例,并且图5示意性地例示了编码设备中的帧内预测器。图5中所示的编码设备中的帧内预测器也可同等地或与其对应地应用到图2中所示的编码设备200的帧内预测器222。

参照图4和图5,S400可由编码设备的帧内预测器222执行,并且S410可由编码设备的残差处理器230执行。具体地,S410可以由编码设备的减法器231执行。在S420中,预测信息可以由帧内预测器222导出,并且由熵编码器240编码。在S420中,残差信息可由残差处理器230导出,并且由熵编码器240编码。残差信息指示关于残差样本的信息。残差信息可包括关于残差样本的量化变换系数的信息。如上所描述,可通过经由编码设备的变换器232的变换系数导出残差样本,并且可通过经由量化器233的量化变换系数导出变换系数。关于量化变换系数的信息可以由熵编码器240通过残差编译过程来编码。

编码设备执行当前块的帧内预测(S400)。编码设备可导出当前块的帧内预测模式/类型,导出当前块的邻近参考样本,并且基于帧内预测模式/类型和邻近参考样本而生成当前块中的预测样本。这里,也可以同时执行确定帧内预测模式/类型、导出邻近参考样本以及生成预测样本的过程,并且任何一个过程也可以比其它过程更早地执行。

例如,编码设备的帧内预测器222可包括帧内预测模式/类型确定器222-1、参考样本导出器222-2和预测样本导出器222-3,其中帧内预测模式/类型确定器222-1可确定当前块的帧内预测模式/类型,参考样本导出器222-2可导出当前块的邻近参考样本,并且预测样本导出器222-3可导出当前块的预测样本。此外,尽管未示出,但如果执行预测样本滤波过程,则帧内预测器222也可以进一步包括预测样本滤波器(未示出)。编码设备可确定多个帧内预测模式/类型当中的应用于当前块的模式/类型。编码设备可比较帧内预测模式/类型的RD成本并确定当前块的最佳帧内预测模式/类型。

如上所述,编码设备还可执行预测样本滤波过程。预测样本滤波可被称作后滤波。预测样本中的一些或全部可由预测样本滤波过程进行滤波。在一些情况下,可省略预测样本滤波过程。

编码设备基于(经滤波的)预测样本生成当前块的残差样本(S410)。编码设备可基于当前块的原始样本中的相位来比较预测样本,并且导出残差样本。

编码设备可对包括关于帧内预测的信息(预测信息)和关于残差样本的残差信息的图像信息进行编码(S420)。预测信息可包括帧内预测模式信息和帧内预测类型信息。残差信息可包括残差编译语法。编码设备可通过变换/量化残差样本来导出量化变换系数。残差信息可包括关于量化变换系数的信息。

编码设备可输出比特流的形式的编码图像信息。输出比特流可通过存储介质或网络递送到解码设备。

如上所述,编码设备可生成重构图片(包括重构样本和重构块)。为此,编码设备可通过再次解量化/逆变换量化变换系数来导出(经修改的)残差样本。如上所述,变换/量化残差样本并且然后再解量化/逆变换它们的原因是导出与由如上所述的解码设备导出的残差样本相同的残差样本。编码设备可基于预测样本和(经修改的)残差样本生成包括当前块的重构样本的重构块。可基于重构块生成当前图片的重构图片。如上所述,可将环路内滤波过程等进一步应用于重构图片。

图6示意性地例示了本文档的示例性实施方式适用于的基于帧内预测的图像解码方法的示例,并且图7示意性地例示了解码设备中的帧内预测器。图7中所示的解码设备中的帧内预测器也可同等地或与其对应地应用到图3中所示的解码设备300的帧内预测器331。

参照图6和图7,解码设备可以执行与由编码设备执行的上述操作相对应的操作。可以由解码设备的帧内预测器331来执行S600至S620,并且可以由解码设备的熵解码器310从比特流中获取S600中的预测信息和S630中的残差信息。解码设备的残差处理器320可基于残差信息导出当前块的残差样本。具体地,残差处理器320的解量化器321可以通过基于基于残差信息导出的量化变换系数执行解量化来导出变换系数,并且残差处理器的逆变换器322通过对变换系数进行逆变换来导出当前块的残差样本。S640可以由解码设备的重构器或加法器340执行。

解码设备可基于所接收的预测信息(帧内预测模式/类型信息)导出当前块的帧内预测模式/类型(S600)。解码设备可导出当前块的邻近参考样本(S610)。解码设备基于帧内预测模式/类型和邻近参考样本来生成当前块中的预测样本(S620)。在此情况下,解码设备可执行预测样本滤波过程。预测样本滤波可被称作后滤波。预测样本中的一些或全部可通过预测样本滤波过程进行滤波。在一些情况下,可省略预测样本滤波过程。

解码设备基于所接收的残差信息生成当前块的残差样本(S630)。解码设备可基于预测样本和残差样本生成当前块的重构样本,并且导出包括重构样本的重构块(S640)。可基于重构块生成当前图片的重构图片。如上所述,可将环路内滤波过程等进一步应用于重构图片。

这里,解码设备的帧内预测器331可包括帧内预测模式/类型确定器331-1、参考样本导出器331-2和预测样本导出器331-3,其中帧内预测模式/类型确定器331-1可基于由熵解码器310获取的帧内预测模式/类型信息来确定当前块的帧内预测模式/类型,参考样本导出器331-2可导出当前块的邻近参考样本,并且预测样本导出器331-3可导出当前块的预测样本。此外,尽管未示出,但如果执行上述预测样本滤波过程,则帧内预测器331也可以进一步包括预测样本滤波器(未示出)。

帧内预测模式信息可包括,例如,指示是否将最可能模式(MPM)应用于当前块或是否将剩余模式应用于其的标志信息(例如,intra_luma_mpm_flag)。此时,如果将MPM应用于当前块,那么预测模式信息还可包括指示帧内预测模式候选(MPM候选)之一的索引信息(例如,intra_luma_mpm_idx)。帧内预测模式候选(MPM候选)可由MPM候选列表或MPM列表组成。此外,如果MPM不应用于当前块,那么帧内预测模式信息还可包括指示除帧内预测模式候选(MPM候选)之外的剩余帧内预测模式之一的剩余模式信息(例如,intra_luma_mpm_remainder)。解码设备可基于帧内预测模式信息确定当前块的帧内预测模式。

此外,帧内预测类型信息可以以各种形式实现。作为示例,帧内预测类型信息可包括指示帧内预测类型之一的帧内预测类型索引信息。作为另一示例,帧内预测类型信息可包括以下中的至少一个:参考样本线信息(例如,intra_luma_ref_idx),其指示是否将MRL应用于当前块,并且如果应用MRL,那么使用哪一参考样本线;ISP标志信息(例如,intra_subpartitions_mode_flag),其指示ISP是否应用于当前块;ISP类型信息(例如,intra_subpartitions_split_flag),其指示在应用ISP的情况下子分区的划分类型;标志信息,其指示PDCP是否被应用;或标志信息,其指示是否应用LIP。此外,帧内预测类型信息可包括指示MIP是否应用于当前块的MIP标志。

上述帧内预测模式信息和/或帧内预测类型信息可以通过本文档中描述的编译方法编码/解码。例如,可通过基于截段的(莱斯)二进制码的熵编译(例如,CABAC、CAVLC)来编码/解码前述帧内预测模式信息和/或帧内预测类型信息。

同时,在应用帧内预测的情况下,可以使用邻近块的帧内预测模式来确定应用于当前块的帧内预测模式。例如,解码设备可以基于接收到的mpm索引在基于当前块的邻近块(例如,左邻近块和/或上邻近块)的帧内预测模式和附加候选模式而导出的最可能模式(mpm)列表中选择mpm候选之一,或者可以基于剩余帧内预测模式信息选择未被包括在mpm候选(和平面模式)中的剩余帧内预测模式之一。可以将MPM列表构建为包括或不包括平面模式作为候选。例如,如果MPM列表包括平面模式作为候选,则MPM列表可以具有6个候选,然而如果MPM列表不包括平面模式作为候选,则MPM列表可以具有5个候选。如果MPM列表不包括平面模式作为候选,则可以发信号通知指示当前块的帧内预测模式是否不是平面模式的非平面标志(例如,intra_luma_not_planar_flag)。例如,可以首先发信号通知mpm标志,并且可以在mpm标志的值等于1时发信号通知mpm索引和非平面标志。此外,可以在非平面标志的值等于1时发信号通知mpm索引。这里,因为平面模式总是被认为是mpm,而不是说平面模式不是mpm,所以将MPM列表构建为不包括平面模式作为候选是为了通过首先发信号通知标志(非平面标志)来首先识别帧内预测模式是否为平面模式。

例如,可以基于mpm标志(例如,intra_luma_mpm_flag)指示应用于当前块的帧内预测模式是在mpm候选(和平面模式)中还是在剩余模式中。mpm标志值1可以表示用于当前块的帧内预测模式在mpm候选(和平面模式)中,而mpm标志值0可以表示用于当前块的帧内预测模式不在mpm候选(和平面模式)中。非平面标志(例如,intra_luma_not_planar_flag)值0可以表示用于当前块的帧内预测模式是平面模式,并且非平面标志值1可以表示用于当前块的帧内预测模式不是平面模式。可以以mpm_idx或intra_luma_mpm_idx语法元素的形式发信号通知mpm索引,并且可以以rem_intra_luma_pred_mode或intra_luma_mpm_remainder语法元素的形式发信号通知剩余帧内预测模式信息。例如,剩余帧内预测模式信息可以按它们的预测模式编号的顺序为全部帧内预测模式当中未被包括在mpm候选(和平面模式)中的剩余帧内预测模式编索引,并且可以指示它们中的一个。帧内预测模式可以是用于亮度分量(样本)的帧内预测模式。在下文中,帧内预测模式信息可以包括以下项目中的至少一个:mpm标志(例如,intra_luma_mpm_flag)、非平面标志(例如,intra_luma_not_planar_flag)、mpm索引(例如,mpm_idx或intra_luma_mpm_idx)和剩余帧内预测模式信息(rem_intra_luma_pred_mode或intra_luma_mpm_remainder)。在本文档中,MPM列表可以被称为各种术语,诸如mpm候选列表、候选模式列表(candModelList)和候选帧内预测模式列表。

通常,当划分图像的块时,要编译的当前块和邻近块具有类似的图像特性。因此,当前块和邻近块更可能具有相同或相似的帧内预测模式。因此,编码器可使用邻近块的帧内预测模式来编码当前块的帧内预测模式。例如,编码器/解码器可构成当前块的最可能模式(MPM)列表。MPM列表还可被称作MPM候选列表。这里,MPM可表示用于在对帧内预测模式进行编译时考虑到当前块与邻近块之间的相似性来改进编译效率的模式。

图8例示了本文档的示例性实施方式适用于的编码设备中的基于MPM模式的帧内预测方法的示例。

参照图8,编码设备构建当前块的MPM列表(S800)。MPM列表可包括更可能应用于当前块的候选帧内预测模式(MPM候选)。MPM列表还可包括邻近块的帧内预测模式,并且还进一步包括根据预定方法的特定帧内预测模式。稍后将描述用于构建MPM列表的特定方法。

编码设备确定当前块的帧内预测模式(S810)。编码设备可基于各种帧内预测模式执行预测,并且基于以上预测基于率失真优化(RDO)确定最佳帧内预测模式。在此情况下,编码设备也可仅使用在MPM列表中配置的MPM候选和平面模式来确定最佳帧内预测模式,或者也进一步使用剩余帧内预测模式以及在MPM列表中配置的MPM候选和平面模式来确定最佳帧内预测模式。

具体地,例如,如果当前块的帧内预测类型为除了正常帧内预测类型之外的特定类型(例如,LIP、MRL或ISP),那么编码设备可仅考虑MPM候选以及平面模式作为当前块的帧内预测模式候选来确定最佳帧内预测模式。也就是说,在此情况下,可仅在MPM候选以及平面模式中确定当前块的帧内预测模式,并且在此情况下,可不对mpm标志进行编码/信令。在此情况下,即使没有mpm标志的单独信令,解码设备可估计MPM标志为1。

一般来说,如果当前块的帧内预测模式不是平面模式而是MPM列表中的MPM候选之一,那么编码设备生成指示MPM候选之一的mpm索引(mpm idx)。如果当前块的帧内预测模式甚至不存在于MPM列表中,那么编码设备生成剩余帧内预测模式信息,其指示未包括于MPM列表(和平面模式)中的剩余帧内预测模式当中的诸如当前块的帧内预测模式之类的模式。

编码设备可编码帧内预测模式信息以比特流的形式输出它(S820)。帧内预测模式信息可包括前述mpm标志、非平面标志、mpm索引和/或剩余帧内预测模式信息。一般来说,mpm索引及剩余帧内预测模式信息具有交替关系并且在指示一个块的帧内预测模式时不同时发信号通知。也就是说,将mpm标志的值1与非平面标志或mpm索引一起发信号通知,或将mpm标志的值0与剩余帧内预测模式信息一起发信号通知。然而,如上所述,如果将特定帧内预测类型应用于当前块,那么不发信号通知mpm标志并且也可以仅发信号通知非平面标志和/或mpm索引。也就是说,在此情况下,帧内预测模式信息还可仅包括非平面标志和/或mpm索引。

图9例示了本文档的示例性实施方式适用于的解码设备中的基于MPM模式的帧内预测方法的示例。图9中所示的解码设备可确定与由图8中所示的编码设备确定及发信号通知的帧内预测模式信息对应的帧内预测模式。

参照图9,解码设备从比特流中获得帧内预测模式信息(S900)。如上所述,帧内预测模式信息可包括mpm标志、非平面标志、mpm索引及剩余帧内预测模式中的至少一者。

解码设备构建MPM列表(S910)。MPM列表由编码设备中配置的相同MPM列表组成。也就是说,MPM列表还可包括邻近块的帧内预测模式,并且还进一步包括根据预定方法的特定帧内预测模式。稍后将描述用于构建MPM列表的特定方法。

尽管例示了S910比S900晚执行,但这是例示性的,并且S910也可以比S900早执行,并且S900和S910也可以同时执行。

解码设备基于MPM列表和帧内预测模式信息确定当前块的帧内预测模式(S920)。

作为示例,如果mpm标志的值为1,那么解码设备可导出平面模式作为当前块的帧内预测模式或(基于非平面标志)导出MPM列表中的MPM候选当中的由mpm索引指示的候选作为当前块的帧内预测模式。这里,MPM候选还可指示仅包括于MPM列表中的候选,或者还包括适用于mpm标志的值为1的情况的平面模式以及包括于MPM列表中的候选。

作为另一示例,如果mpm标志的值为0,那么解码设备可导出不包括于MPM列表和平面模式中的剩余帧内预测模式当中的由剩余帧内预测模式信息指示的帧内预测模式作为当前块的帧内预测模式。

作为又一示例,如果当前块的帧内预测类型为特定类型(例如,LIP、MRL或ISP),那么即使没有mpm标志的确认,解码设备也可导出MPM列表中的由mpm索引指示的候选或平面模式作为当前块的帧内预测模式。

此外,帧内预测模式可以包括非定向(或非角度)帧内预测模式和定向(或角度)帧内预测模式。例如,在HEVC标准中,使用包括2种非定向预测模式和33种定向预测模式的帧内预测模式。非定向预测模式可以包括平面帧内预测模式(即,0号)和DC帧内预测模式(即,1号)。定向预测模式可以包括2号至34号帧内预测模式。平面帧内预测模式可以被称为平面模式,并且DC帧内预测模式可以被称为DC模式。

另选地,为了获取自然视频中提出的给定边缘方向,如图10中一样,定向帧内预测模式可以从现有的33种模式扩展到65种模式。在这种情况下,帧内预测模式可以包括2种非定向帧内预测模式和65种定向帧内预测模式。非定向帧内预测模式可以包括平面帧内预测模式(即,0号)和DC帧内预测模式(即,1号)。定向帧内预测模式可以包括2号至66号帧内预测模式。扩展的定向帧内预测模式可以应用于具有所有大小的块,并且可以应用于亮度分量和色度分量二者。然而,这是示例,并且可以向帧内预测模式的数量不同的情况应用本文档的实施方式。还可以使用根据情形的67号帧内预测模式。67号帧内预测模式可以指示线性模型(LM)模式。

图10例示了可以应用本文档的实施方式的帧内预测模式的示例。

参照图10,基于具有左上对角预测方向的34号帧内预测模式,可以将模式分为具有水平方向性的帧内预测模式和具有垂直方向性的帧内预测模式。在图10中,H和V分别意指水平方向性和垂直方向性。编号-32至32中的每个指示样本网格位置处的1/32单元的位移。2至33号帧内预测模式具有水平方向性,并且34至66号帧内预测模式具有垂直方向性。18号帧内预测模式和50号帧内预测模式分别指示水平帧内预测模式和垂直帧内预测模式。2号帧内预测模式可以被称为左下对角帧内预测模式,34号帧内预测模式可以被称为左上对角帧内预测模式,并且66号帧内预测模式可以被称为右上对角帧内预测模式。

此外,帧内预测可使用使用多参考线的MRL。MRL方法可使用位于远离当前块的上侧和/或左侧一个或三个样本距离的样本线上的邻近样本作为参考样本来执行帧内预测。

图11例示了用于使用多参考线的帧内预测的参考样本线的示例。图11所例示的块单元可以指示当前块。

根据示例性实施方式,帧内预测可以使用参考样本(或针对当前块的第一最接近参考样本,即,被定位为与当前块相距零样本距离的参考样本)作为用于预测的参考样本。根据另一示例性实施方式,多参考线(MRL)帧内预测是使用被定位为与当前块的左边界和上边界相距K个样本距离(K是1或更大的整数)的参考样本的方法,并且与在使用最接近当前块(即,被定位为与当前块相距零样本距离)的参考样本的帧内预测中相比对于参考样本可以具有更多的选项和更准确的预测性能。当前块的参考样本也可以被称为当前块的邻近样本或当前块的参考线样本,并且参考线样本也可以被称为参考线上的样本。

参照图11,被定位为与当前块相距0、1、2和3个样本距离的邻近参考样本的位置分别可以被称为参考线0、1、2和3。参考线可以被称为参考样本线、参考样本行或参考样本列,或者也被简称为线、行或列。参考线0、1、2和3可以按接近当前块的顺序定位。作为示例,可以基于参考线1、2来执行多参考线帧内预测。作为另一示例,可以基于参考线1、3来执行多参考线帧内预测。然而,根据本文档的多参考线帧内预测不一定限于这些示例。

此外,基于多参考线(MRL)的帧内预测可以发信号通知用于表示哪条参考线被使用的参考线信息。例如,可以以intra_luma_ref_idx语法元素的形式发信号通知参考线信息。如果intra_luma_ref_idx值等于0,则可以表示使用针对当前块的第一最接近(即,位于零样本距离)参考样本来执行帧内预测。如果intra_luma_ref_idx值等于1,则可以表示使用针对当前块的第二最接近参考样本(即,位于一个样本距离)来执行帧内预测。如果intra_luma_ref_idx值等于2,则可以表示使用针对当前块的第三或第四最接近(即,位于2或3个样本距离)参考样本来执行帧内预测。

同时,将当前打算被编译(编码/解码)的块视为一个编译单位的情况下,帧内预测可以在不分割的情况下执行编码/解码。此外,也可以通过将当前打算被编译的块划分成子分区来执行帧内预测。这样的帧内预测方法可以被称为帧内子分区(ISP)帧内预测或基于ISP的帧内预测。也就是说,ISP方法可以通过在水平方向上或在垂直方向上分割当前打算被编译的块来执行帧内预测。在这种情况下,可以通过以分割块为单位执行编码/解码来生成重构块,并且可以将重构块用作下一分割块的参考块。可以如在表1中一样依照块的大小来分割当前帧内子分区(ISP)。下表1表示当对当前块应用帧内子分区(ISP)模式时依照块大小的子分区的数量。

[表1]

块大小(CU) 分区次数
4x4 不可用
4x8、8x4 2
所有其他情况 4

图12例示了依照帧内子分区(ISP)分割子分区的示例。

在图12中,(a)表示在当前块为4x8块或8x4块的情况下在水平方向上并在垂直方向上对当前块(原始HxW分区,即,HxW大小的CU)进行分区的示例。

如图12的(a)所例示的,可以在水平方向上或在垂直方向上对4x8块或8x4块进行分区。在块被在水平方向上分区的情况下,可以将块分割成各自具有(H/2)xW大小的两个子分区块,并且在垂直方向上被分区的情况下,可以将块分割成各自具有Hx(W/2)大小的两个子分区块。

在图12中,(b)表示在当前块为排除4x4、4x8和8x4块的剩余块的情况下在水平方向上并在垂直方向上对当前块(原始HxW分区,即,HxW大小的CU)进行分区的示例。

如图12的(b)所例示的,可以在水平方向上或在垂直方向上对排除4x4、4x8和8x4块的HxW块进行分区。在块在水平方向上被分区的情况下,可以将块分割成各自具有(H/4)xW大小的四个子分区块,并且在垂直方向上被分区的情况下,可以将块分割成各自具有Hx(W/4)大小的四个子分区块。

为了降低编码复杂度,帧内子分区方法依照相应的分区方法(水平分区和垂直分区)来生成MPM列表,并且通过从速率失真优化(RDO)的观点在所生成的MPM列表中的预测模式当中比较合适的预测模式来生成最佳模式。此外,在使用上述多参考线(MRL)帧内预测的情况下,不能使用帧内子分区方法。也就是说,仅在使用第零参考线(即,intra_luma_ref_idx值等于0)的情况下,才能够应用帧内子分区方法。此外,在使用上述帧内子分区方法的情况下,不能使用上述PDPC。

根据帧内子分区方法,首先以块为单位发送是否应用帧内子分区,并且如果当前块使用帧内子分区(intra_subpartitions_mode_flag),则关于分区方法是水平分区还是垂直分区的信息(intra_subpartitions_split_flag)被编码/解码。

在应用帧内子分区方法的情况下,用于当前块的帧内预测模式被同等地应用于子分区,并且以子分区为单位导出和使用邻近参考样本以增强帧内预测性能。也就是说,在应用帧内子分区方法的情况下,以子分区为单位执行残差样本处理过程。换句话说,相对于各子分区导出帧内预测样本,并且将对应的子分区的残差信号(残差样本)添加到所导出的帧内预测样本以获得重构样本。可以基于上述比特流中的残差信息(量化变换系数信息或残差编译语法)通过解量化/逆变换过程来导出残差信号(残差样本)。也就是说,可以执行用于第一子分区的预测样本的导出和残差样本的导出,并且基于此,可以导出第一子分区的重构样本。在这种情况下,在导出用于第二子分区的预测样本的情况下,可以将第一子分区中的重构样本中的一些(例如,第二子分区的上或左邻近参考样本)用作用于第二子分区的邻近参考样本。以相同方式,可以执行用于第二子分区的预测样本的导出和残差样本的导出,并且基于此,可以导出第二子分区的重构样本。在这种情况下,在导出第三子分区的预测样本的情况下,可以将第二子分区中的重构样本中的一些(例如,第三子分区的上或左邻近参考样本)用作用于第三子分区的邻近参考样本。可以甚至相对于剩余子分区以相同方式应用帧内子分区方法。

如上所述,作为帧内预测,可以应用基于多参考线(MRL)的帧内预测方法和基于子分区(ISP)的帧内预测方法,或者可以应用排除诸如MRL、ISP等的特定帧内预测方法的正常帧内预测方法。在这种情况下,不是特定帧内预测类型(例如,MRL或ISP)的正常帧内预测使用67个帧内预测模式来执行帧内预测编码/解码,以及多参考线帧内预测使用排除平面模式和DC模式的65个帧内预测模式来执行帧内预测编码/解码。此外,子分区帧内预测使用排除DC模式的66个帧内预测模式来执行帧内预测编码/解码。由于上述三种帧内预测(现有帧内预测、多参考线帧内预测和子分区帧内预测)使用不同数量的帧内预测模式来执行帧内预测编码/解码,所以对于它们的预测,它们具有不同的MPM列表生成方法。

更具体地,正常帧内预测使用全部67个帧内预测模式来构建包括6个MPM候选的MPM列表。多参考线帧内预测不使用平面模式和DC模式,以及使用排除平面模式和DC模式的65个帧内预测模式来构建包括6个MPM候选的MPM列表。子分区帧内预测不使用DC模式,而使用排除DC模式的66个帧内预测模式来构建包括6个MPM候选的MPM列表。在这种情况下,子分区帧内预测取决于水平分区和垂直分区而以不同的方法构建MPM列表。如上所述,对于一个帧内预测,使用不同的方法来构建包括6个MPM候选的MPM列表。

因此,为了提高帧内预测的编译效率,可以使用统一MPM列表生成方法。因此,本文档提出了能够以一种统一方法构建在正常帧内预测、多参考线帧内预测和子分区帧内预测中使用的MPM列表的方案。在实施方式中,能够在生成统一临时MPM列表之后生成用于正常帧内预测、多参考线帧内预测和子分区帧内预测的MPM列表。在另一实施方式中,在生成统一临时MPM列表之后,可以依照特定帧内预测类型(即,正常帧内预测、多参考线帧内预测和子分区帧内预测)添加特定预测模式(例如,DC模式),并且考虑到这个,可以生成用于正常帧内预测、多参考线帧内预测和子分区帧内预测的MPM列表。

通过使用根据本文档的实施方式的统一MPM列表生成方法,能够简化帧内预测的编码/解码结构,并且能够通过帧内模式编码/解码效率的提高来提高视频编码/解码效率。

图13是说明了根据本文档的用于生成统一MPM列表的方法的实施方式的图。

在此实施方式中,将描述用于依照特定帧内预测类型(即,正常帧内预测、多参考线帧内预测和子分区帧内预测)来考虑不使用的特定预测模式(例如,平面模式或DC模式)的情况下构建统一MPM列表的方法。

作为实施方式,用于生成包括在正常帧内预测中使用的6个MPM候选的MPM列表的方法可以被同等地应用于多参考线帧内预测和子分区帧内预测的MPM列表生成方法。在这种情况下,在正常帧内预测中使用的MPM列表生成方法可以是现有的MPM列表生成方法,或通过对现有的MPM列表生成方法的改进的方法。例如,可以依照图8和图9的上述方法来构建在正常帧内预测中使用的MPM列表。

这里,由于在考虑到所有67个帧内预测模式的情况下正常帧内预测来生成MPM列表,所以它包括平面模式和DC模式。然而,由于多参考线帧内预测不使用平面模式和DC模式,并且子分区帧内预测不使用DC模式,所以它们可以考虑此来生成它们相应的MPM列表。

参照图13,可以临时地生成包括在正常帧内预测中使用的6个MPM候选的MPM列表。为了说明的方便,临时首先生成的MPM列表被称为临时MPM列表。换句话说,临时MPM列表是包括在正常帧内预测中使用的6个MPM候选的MPM列表(或通过各种改进的方法改进的MPM列表),并且可以依照图8和图9的上述方法来构建。即使当生成多参考线帧内预测和子分区帧内预测的MPM列表时,也可以同等地应用这样的临时MPM列表构建方法。因此,可以针对所有正常帧内预测、多参考线帧内预测和子分区帧内预测生成包括相等的6个MPM候选的临时MPM列表。

在这种情况下,在多参考线帧内预测的情况下,可能不使用平面模式和DC模式,而在子分区帧内预测的情况下,可能不使用DC模式。在这种情况下,可以从同等地生成的临时MPM列表中移除在相应的预测方法中不使用的特定模式,并且可以依照对应的预测方法来重构合适的MPM列表。

作为示例,如图13的(a)、(b)和(c)所例示的,可以相对于正常帧内预测、多参考线帧内预测和子分区帧内预测生成临时MPM列表。在这种情况下,临时MPM列表中的每个均同等地包括6个MPM候选。此外,由于多参考线帧内预测不使用平面模式和DC模式,如图13的(b)所例示的,所以可以从临时MPM列表中移除MPM索引0的平面模式和MPM索引2的DC模式,并且可以重新排列临时MPM列表中的MPM候选。因此,可以最终生成包括4个MPM候选的MPM列表。此外,由于子分区帧内预测不使用DC模式,如图13的(c)所例示的,所以可以从临时MPM列表中移除MPM索引2的DC模式,并且可以重新排列临时MPM列表中的MPM候选。因此,可以最终生成包括5个MPM候选的MPM列表。

图14是说明了根据本文档的用于生成统一MPM列表的方法的另一实施方式的图。

在此实施方式中,将描述这样的方法,其中依照特定帧内预测类型(即,正常帧内预测、多参考线帧内预测和子分区帧内预测)添加特定预测模式(例如,DC模式),并且考虑此来构建统一MPM列表。作为示例,将描述用于在多参考线帧内预测中附加地使用DC模式的情况下构建统一MPM列表的方法。

作为实施方式,用于生成包括在正常帧内预测中使用的6个MPM候选的MPM列表的方法可以被同等地应用于多个参考线帧内预测和子分区帧内预测的MPM列表生成方法。在这种情况下,在正常帧内预测中使用的MPM列表生成方法可以是现有的MPM列表生成方法,或通过对现有的MPM列表生成方法的改进的方法。例如,可以依照上述图8和图9的方法来构建在正常帧内预测中使用的MPM列表。

在这种情况下,由于在多参考线帧内预测中通过添加DC模式来执行预测,所以使用DC模式并且不使用平面模式。此外,在子分区帧内预测中不使用DC模式。在此实施方式中,可以考虑此来生成相应的MPM列表。

参照图14,可以临时生成包括在正常帧内预测中使用的6个MPM候选的MPM列表。为了说明的方便,临时首先生成的MPM列表被称为临时MPM列表。换句话说,临时MPM列表是包括在正常帧内预测中使用的6个MPM候选的MPM列表(或通过各种改进的方法改进的MPM列表),并且可以依照图8和图9的上述方法来构建。即使当生成多参考线帧内预测和子分区帧内预测的MPM列表时,也可以同等地应用这样的临时MPM列表构建方法。因此,可以针对所有正常帧内预测、多参考线帧内预测和子分区帧内预测来生成包括相等的6个MPM候选的临时MPM列表。

在这种情况下,在多参考线帧内预测的情况下,可以使用DC模式而可能不使用平面模式,然而在子分区帧内预测的情况下,可能不使用DC模式。在这种情况下,可以从同等地生成的临时MPM列表中移除在相应的预测方法中不使用的特定模式,并且可以依照对应的预测方法来重构合适的MPM列表。

作为示例,如图14的(a)、(b)和(c)所例示的,可以相对于正常帧内预测、多参考线帧内预测和子分区帧内预测生成临时MPM列表。在这种情况下,临时MPM列表中的每个均同等地包括6个MPM候选。此外,由于多参考线帧内预测附加地使用DC模式,并且不使用平面模式,如图14的(b)所例示的,所以可以从临时MPM列表中移除MPM索引0的平面模式,并且可以重新排列临时MPM列表中的MPM候选。因此,可以最终生成包括5个MPM候选的MPM列表。此外,由于子分区帧内预测不使用DC模式,如图14的(c)所例示的,所以可以从临时MPM列表中移除MPM索引2的DC模式,并且可以重新排列临时MPM列表中的MPM候选。因此,可以最终生成包括5个MPM候选的MPM列表。

图13和图14将说明生成MPM列表的示例,并且所提出的方法的基本概念是在正常帧内预测中生成包括多个(例如,6个)MPM候选的MPM列表,然后甚至在多参考线帧内预测和子分区帧内预测中同等地使用所生成的MPM列表。然而,由于在多参考线帧内预测和子分区帧内预测中不使用特定模式(例如,平面模式或DC模式),所以可以考虑此来配置MPM候选。如果在MPM列表中存在在相应的预测方法中不使用的特定模式(例如,平面模式或DC模式),则可以移除该特定模式,并且可以重新排列MPM候选,使得可以构建用于相应的预测方法的MPM列表。此外,在上述实施方式中,已经说明了生成包括用于相应的预测方法的多个(例如,6个)MPM候选的MPM列表(即,临时MPM列表),然后通过移除在相应的预测方法中不使用的特定模式(例如,平面模式或DC模式)来最终构建MPM列表。然而,这仅仅是示例性的,并且可以省略生成临时MPM列表的过程。例如,在导出6个MPM候选之后(在不生成临时MPM列表的情况下),可以通过排除在相应的预测方法中不使用的特定模式(例如,平面模式或DC模式)来构建适合于对应的预测方法的MPM列表。在这种情况下,平面模式被包括在6个MPM候选中,并且在像多参考线帧内预测那样不使用平面模式的情况下,可以导出排除此模式的5个MPM候选,并且可以构建包括5个MPM候选的MPM列表。

此外,上述实施方式(图13和图14的实施方式)仅仅是示例性的以帮助理解本文档中提出的统一MPM列表生成方法的基本概念。本文档中提出的方法的基本概念是在生成MPM列表时不区分正常帧内预测、多参考线帧内预测和子分区帧内预测的情况下生成统一MPM列表。因此,即使在多参考线帧内预测和子分区帧内预测中,也能够同等地使用在正常帧内预测中生成的MPM列表。在这种情况下,能够考虑在多参考线帧内预测和子分区帧内预测中不使用的帧内预测模式来最终构建适合于相应的帧内预测的MPM列表。

也就是说,根据本文档中提出的实施方式,由于能够构建统一MPM列表,所以能够简化帧内预测的编码/解码结构。此外,能够通过提高帧内预测模式的编码/解码效率来提高整体视频编码/解码性能。

图15是示意性地例示了能够由根据本公开的实施方式的编码设备执行的编码方法的流程图。

图15中公开的方法可以由图2中公开的编码设备200执行。具体地,图15的步骤S1500至S1530可以由图2中公开的预测器220(具体地,帧内预测器222)执行,并且图15的步骤S1540可以由图2中公开的熵编码器240执行。另外,图15中公开的方法可以包括本文档的前面的实施方式。因此,将在图15中省略或简化对与已用前面的实施方式的描述冗余的具体描述。

参照图15,编码设备可以生成与指示用于当前块的帧内预测的参考线有关的参考线索引信息(S1500)。

如上所述,参考线索引信息表示用于基于多参考线(MRL)的帧内预测的参考线,其可以是指示被定位为与当前块相距0、1、2和3个样本距离的邻近参考样本的信息。

例如,参考线索引信息可以被以上述intra_luma_ref_idx语法元素的形式表示,并且可以是与基于intra_luma_ref_idx的值来指示参考线0、1、2和3中的任一个有关的索引值。例如,如果参考线索引信息(例如,intra_luma_ref_idx)的值等于0,则可能意味着使用针对当前块的第一最接近参考线(图11的参考线0)的样本来执行帧内预测。如果参考线索引信息(例如,intra_luma_ref_idx)的值不等于0(即,值等于1、2或3),则可能意味着使用针对当前块的第二、第三或第四最接近参考线(参考线1、2或3)的样本来执行帧内预测。也就是说,如果参考线索引信息(例如,intra_luma_ref_idx)的值不等于0(即,值等于1、2或3),则可能意味着基于多参考线(MRL)的帧内预测方法被使用。

在实施方式中,编码设备可以确定是否对于当前块使用多参考线来执行帧内预测,基于该确定来生成参考线索引信息,并且将其发信号通知给解码设备。

编码设备可以构建包括用于当前块的帧内预测的候选帧内预测模式(最可能模式(MPM)候选模式)的MPM列表(S1510)。

在实施方式中,编码设备可以基于是否应用特定帧内预测方法(例如,多参考线帧内预测、子分区帧内预测等)来构建MPM列表。在这种情况下,可以在构建MPM列表的过程中应用前面的实施方式,已参照图13和图14对此进行了详细的描述。

例如,编码设备可以基于是否应用多参考线帧内预测来生成MPM列表。例如,基于对于当前块使用多参考线来执行帧内预测(也就是说,参考线索引信息的值不等于0的情况),编码设备可以将DC模式导出为候选帧内预测模式中的一个并且将其包括在MPM列表中。

此外,如果如上所述使用多参考线来执行帧内预测,则平面模式可能不可用。因此,基于参考线索引信息的值不等于0的情况,编码设备可以不使用平面模式作为当前块的帧内预测模式。例如,编码设备可以构建用于多参考线帧内预测的临时MPM列表。在这种情况下,如果平面模式被包括在临时MPM列表中的候选帧内预测模式当中,则编码设备可以从临时MPM列表中移除平面模式并且将临时MPM列表重构为MPM列表。这里,可以取决于MPM列表的实现方法而省略构建临时MPM列表的过程。例如,由于当参考线索引信息的值不等于0时不使用平面模式,所以首先基于参考线索引信息的值确定了不使用平面模式作为帧内预测模式,然后从六个候选帧内预测模式中排除平面模式的五个候选帧内预测模式(包括DC模式)可以被导出并构建到MPM列表中。因此,根据用于实现MPM列表的算法,可以在没有构建临时MPM列表的中间过程的情况下实现MPM列表。

另外,编码设备可以生成并发信号通知与指示平面模式是否被用作当前块的帧内预测模式有关的信息。例如,平面标志信息可以被用作指示平面模式是否被用作当前块的帧内预测模式的信息。平面标志信息可以是上述非平面标志(例如,intra_luma_not_planar_flag)。如果平面标志信息(即,非平面标志)的值等于1,则可能意味着平面模式不被用作当前块的帧内预测模式,并且如果平面标志信息(即,非平面标志)的值等于0,则可能意味着平面模式被用作当前块的帧内预测模式。

在实施方式中,基于参考线索引信息的值不等于0的情况,编码设备可能不发信号通知平面标志信息(即,非平面标志)。如果未发信号通知平面标志信息(即,非平面标志),则可以将平面标志信息(即,非平面标志)的值推断为1,其指示平面模式不被用作当前块的帧内预测模式。也就是说,由于平面模式在如上所述参考线索引信息的值不等于0的情况下不被用作当前块的帧内预测模式,所以可能不发信号通知平面标志信息(即,非平面标志)而是可以将其值推断为1,从而节省比特数。

另选地,对于另一示例,编码设备可以基于与指示子分区帧内预测是否被用于当前块有关的子分区模式信息来生成MPM列表。例如,子分区模式信息可以使用上述intra_subpartitions_mode_flag语法元素,并且如果intra_subpartitions_mode_flag的值等于1,则可能意味着子分区帧内预测被用于当前块,而如果intra_subpartitions_mode_flag的值等于0,则可能意味着子分区帧内预测不被用于当前块。如果如上所述使用子分区帧内预测,则DC模式可能不可用。因此,如果子分区模式信息指示子分区帧内预测被用于当前块(例如,intra_subpartitions_mode_flag的值等于1),则编码设备可能不使用DC模式作为当前块的帧内预测模式。例如,编码设备可以构建用于子分区帧内预测的临时MPM列表。在这种情况下,如果DC模式被包括在临时MPM列表中的候选帧内预测模式当中,则编码设备可以从临时MPM列表中移除DC模式并且将临时MPM列表重构为MPM列表。这里,可以取决于MPM列表的实现方法而省略构建临时MPM列表的过程。例如,由于当使用子分区帧内预测时不使用DC模式,所以在候选帧内预测模式当中不包括DC模式,从而最终构建包括五个候选帧内预测模式的MPM列表。因此,可以在没有构建临时MPM列表的中间过程的情况下实现MPM列表。

在一些实施方式中,如果参考线索引信息的值等于0,则编码设备可以生成子分区模式信息并且将其发信号通知给解码设备。换句话说,如果不使用多参考线(即,使用针对当前块的第一最接近参考线的样本来执行帧内预测),则编码设备可以确定是否执行子分区帧内预测并且基于该确定来生成子分区模式信息。在这种情况下,如果参考线索引信息的值等于0并且子分区模式信息的值等于1,则编码设备可以不使用DC模式作为当前块的帧内预测模式。也就是说,在这种情况下,编码设备可以通过不将DC模式包括在候选帧内预测模式当中来生成MPM列表。

编码设备可以从MPM列表中包括的候选帧内预测模式中导出用于当前块的帧内预测模式(S1520)。

在实施方式中,编码设备可以通过对于当前块执行各种帧内预测模式来导出具有最佳速率失真(RD)成本的帧内预测模式,并且可以将其确定为当前块的帧内预测模式。在这种情况下,编码设备可以基于包括两个非定向帧内预测模式和65个定向帧内预测模式的帧内预测模式来导出当前块的最佳帧内预测模式。另选地,编码设备可以仅通过使用在MPM列表中构建的MPM候选来确定最佳帧内预测模式。

例如,如果参考线索引信息的值不等于0,则编码设备可以通过使用MPM列表中包括的MPM候选帧内预测模式来导出当前块的最佳帧内预测模式。也就是说,在这种情况下,可以仅从MPM列表中包括DC模式的候选帧内预测模式当中确定当前块的帧内预测模式。此外,如果参考线索引信息的值不等于0,则编码设备可能不对MPM标志信息进行编码/发信号通知。如果MPM标志信息未被编码/发信号通知,则可以将MPM标志信息的值推断为1。如上所述,可以以intra_luma_mpm_flag语法元素的形式表示MPM标志信息。例如,如果intra_luma_mpm_flag的值等于1,则可能意味着当前块的帧内预测模式选自MPM候选帧内预测模式,而如果intra_luma_mpm_flag的值等于0,则可能意味着当前块的帧内预测模式不选自MPM候选帧内预测模式。

编码设备可以生成与指示当前块的帧内预测模式有关的MPM索引信息(S1530)。

在实施方式中,如果参考线索引信息的值不等于0并且MPM标志信息的值被推断为1,则编码设备可以生成与指示MPM列表中的候选帧内预测模式中的一个有关的索引值并且将其编码为MPM索引信息。也就是说,如果参考线索引信息的值不等于0并且MPM标志信息的值被推断为1,则可以对MPM索引信息进行编码/发信号通知。

编码设备可以对包括MPM索引信息和参考线索引信息的图像信息进行编码(S1540)。

在实施方式中,如上所述,编码设备可以对包括参考线索引信息和MPM索引信息的图像信息进行编码,所述参考线索引信息是基于是否应用基于多参考线的帧内预测而确定的,而所述MPM索引信息指示基于MPM列表而导出的当前块的帧内预测模式,并且以比特流的形式输出图像信息。另外,如上所述,编码设备可以在图像信息中包括基于是否对当前块应用子分区帧内预测而确定的子分区模式信息并且对其进行编码。

此外,编码设备可以基于当前块的帧内预测模式来生成当前块的预测样本。在实施方式中,编码设备可以基于帧内预测模式来从当前块的邻近参考样本中导出至少一个邻近参考样本,并且基于邻近参考样本来生成预测样本。这里,邻近参考样本可以基于参考线索引信息被导出,并且可以包括例如通过参考线索引信息指示的参考线中包括的邻近参考样本。

另外,编码设备可以基于当前块的预测样本和当前块的原始样本来导出当前块的残差样本。另外,编码设备可以基于残差样本来生成当前块的残差信息并且对包括残差信息的图像信息进行编码。这里,残差信息可以包括诸如以下各项的信息:值信息、位置信息、变换方案、变换核以及通过对残差样本执行变换和量化而导出的量化变换系数的量化参数。

也就是说,编码设备可以对包括当前块的帧内预测模式信息(MPM索引信息、参考线索引信息等)和/或残差信息的上述图像信息进行编码并且将其以比特流输出。

可以将比特流经由网络或(数字)存储介质发送到解码设备。这里,网络可以包括广播网络和/或通信网络,并且数字存储介质可以包括诸如USB、SD、CD、DVD、蓝光、HDD、SSD等的各种存储介质。

生成当前块的预测样本的上述过程可以由图2中公开的编码设备200的帧内预测器222执行,导出残差样本的过程可以由图2中公开的编码设备200的减法器231执行,并且生成残差信息并对其进行编码的过程可以由图2中公开的编码设备200的残差处理器230和熵编码器240执行。

图16是示意性地例示了能够由根据本公开的实施方式的解码设备执行的解码方法的流程图。

图16中公开的方法可以由图3中公开的解码设备300执行。具体地,图16的步骤S1600至S1630可以由图3中公开的熵解码器310和/或预测器330(具体地,帧内预测器331)执行,并且图16的步骤S1640可以由图3中公开的加法器340执行。另外,图16中公开的方法可以包括本文档的前面的实施方式。因此,将在图16中省略或简化对与用前面的实施方式的描述冗余的具体描述。

参照图16,解码设备可以从比特流获得最可能模式(MPM)索引信息和参考线索引信息(S1600)。

如上所述,参考线索引信息表示用于基于多参考线(MRL)的帧内预测的参考线,其可以是指示被定位为与当前块相距0、1、2和3个样本距离的邻近参考样本的信息。

例如,参考线索引信息可以被以intra_luma_ref_idx语法元素的形式表示,并且可以是与基于intra_luma_ref_idx的值指示参考线0、1、2和3中的任一个有关的索引值。例如,如果参考线索引信息(例如,intra_luma_ref_idx)的值等于0,则可能意味着使用针对当前块的第一最接近参考线(图11的参考线0)的样本来执行帧内预测。如果参考线索引信息(例如,intra_luma_ref_idx)的值不等于0(即,值等于1、2或3),则可能意味着使用针对当前块的第二、第三或第四最接近参考线(参考线1、2或3)的样本来执行帧内预测。也就是说,如果参考线索引信息(例如,intra_luma_ref_idx)的值不等于0(即,值等于1、2或3),则可能意味着基于多参考线(MRL)的帧内预测方法被使用。

在实施方式中,解码设备可以从比特流获得参考线索引信息(例如,intra_luma_ref_idx)语法元素,并且对其进行解析(解码)。另外,解码设备可以基于解析结果来获得参考线索引信息(例如,intra_luma_ref_idx)的值并且基于该值来确定是否应用多参考线帧内预测。

此外,解码设备可以从比特流获得与指示MPM列表中的候选帧内预测模式当中的用于当前块的帧内预测模式有关的MPM索引信息,并且对其进行解析(解码)。也就是说,解码设备可以基于MPM索引信息来从MPM列表导出当前块的帧内预测模式。

解码设备可以构建包括用于当前块的帧内预测的候选帧内预测模式的MPM列表(S1610)。

在实施方式中,解码设备可以基于是否应用特定帧内预测方法(例如,多参考线帧内预测、子分区帧内预测等)来构建MPM列表。在这种情况下,可以在构建MPM列表的过程中应用前面的实施方式,已参照图13和图14对此进行了详细的描述。

在示例中,解码设备可以基于参考线索引信息来确定是否应用多参考线帧内预测,并且相应地生成MPM列表。例如,基于对于当前块使用多参考线来执行帧内预测(也就是说,参考线索引信息的值不等于0的情况),解码设备可以将DC模式导出为候选帧内预测模式中的一个并且将其包括在MPM列表中。

此外,如果如上所述使用多参考线来执行帧内预测,则平面模式可能不可用。因此,基于参考线索引信息的值不等于0的情况,解码设备可以不使用平面模式作为当前块的帧内预测模式。例如,解码设备可以构建用于多参考线帧内预测的临时MPM列表。在这种情况下,如果平面模式被包括在临时MPM列表中的候选帧内预测模式当中,则解码设备可以从临时MPM列表中移除平面模式并且将临时MPM列表重构为MPM列表。这里,可以取决于MPM列表的实现方法而省略构建临时MPM列表的过程。例如,由于当参考线索引信息的值不等于0时不使用平面模式,所以首先基于参考线索引信息的值确定了不使用平面模式作为帧内预测模式,然后从六个候选帧内预测模式中排除平面模式的五个候选帧内预测模式(包括DC模式)可以被导出并构建到MPM列表中。因此,根据用于实现MPM列表的算法,可以在没有构建临时MPM列表的中间过程的情况下实现MPM列表。

另外,解码设备可以从比特流获得与指示平面模式是否被用作当前块的帧内预测模式有关的信息。在这种情况下,平面标志信息可以被用作指示平面模式是否被用作当前块的帧内预测模式的信息。平面标志信息可以是上述非平面标志(例如,intra_luma_not_planar_flag)。如果平面标志信息(即,非平面标志)的值等于1,则可能意味着平面模式不被用作当前块的帧内预测模式,并且如果平面标志信息(即,非平面标志)的值等于0,则可能意味着平面模式被用作当前块的帧内预测模式。

在实施方式中,如果参考线索引信息的值不等于0,则可能不发信号通知平面标志信息(即,非平面标志)。在这种情况下,解码设备可能不从比特流获得平面标志信息(即,非平面标志)。因此,基于参考线索引信息的值不等于0的情况,可以将平面标志信息(即,非平面标志)的值推断为1。如果平面标志信息(即,非平面标志)的值被推断为1,则可能意味着平面模式不被用作当前块的帧内预测模式。也就是说,由于平面模式在如上所述参考线索引信息的值不等于0的情况下不被用作当前块的帧内预测模式,所以可能不发信号通知平面标志信息(即,非平面标志),而是可以将其值推断为1,从而节省比特数。

另选地,对于另一示例,解码设备可以基于与指示子分区帧内预测是否被用于当前块有关的子分区模式信息来生成MPM列表。例如,子分区模式信息可以使用上述intra_subpartitions_mode_flag语法元素,并且如果intra_subpartitions_mode_flag的值等于1,则可能意味着子分区帧内预测被用于当前块,而如果intra_subpartitions_mode_flag的值等于0,则可能意味着子分区帧内预测不被用于当前块。如果如上所述使用子分区帧内预测,则DC模式可能不可用。因此,如果子分区模式信息指示子分区帧内预测被用于当前块(例如,intra_subpartitions_mode_flag的值等于1),则解码设备可能不使用DC模式作为当前块的帧内预测模式。例如,解码设备可以构建用于子分区帧内预测的临时MPM列表。在这种情况下,如果DC模式被包括在临时MPM列表中的候选帧内预测模式当中,则解码设备可以从临时MPM列表中移除DC模式并且将临时MPM列表重构为MPM列表。这里,可以取决于MPM列表的实现方法而省略构建临时MPM列表的过程。例如,由于当使用子分区帧内预测时不使用DC模式,所以在候选帧内预测模式当中不包括DC模式,从而最终构建包括五个候选帧内预测模式的MPM列表。因此,可以在没有构建临时MPM列表的中间过程的情况下实现MPM列表。

在一些实施方式中,如果参考线索引信息的值等于0,则解码设备可以从比特流获得子分区模式信息。换句话说,如果不使用多参考线(即,使用针对当前块的第一最接近参考线的样本来执行帧内预测),则解码设备可以获得与指示是否执行子分区帧内预测有关的子分区信息并且对其进行解码。在这种情况下,如果参考线索引信息的值等于0并且子分区模式信息的值等于1,则解码设备可以不使用DC模式作为当前块的帧内预测模式。也就是说,在这种情况下,解码设备可以通过不将DC模式包括在候选帧内预测模式当中来生成MPM列表。

解码设备可以基于MPM索引信息来从MPM列表中包括的候选帧内预测模式导出用于当前块的帧内预测模式(S1620)。

在实施方式中,解码设备可以从比特流获得用于当前块的帧内预测模式信息。帧内预测模式信息是用于指示当前块的帧内预测模式的信息,其可以包括MPM标志信息、MPM索引信息、剩余模式信息等。

在这种情况下,如果参考线索引信息的值不等于0,则可能不从编码设备发信号通知MPM标志信息。如果不发信号通知MPM标志信息,则解码设备可以将MPM标志信息的值推断为1。如上所述,可以以intra_luma_mpm_flag语法元素的形式表示MPM标志信息。例如,如果intra_luma_mpm_flag的值等于1,则可能意味着当前块的帧内预测模式选自MPM候选帧内预测模式,而如果intra_luma_mpm_flag的值等于0,则可能意味着当前块的帧内预测模式不选自MPM候选帧内预测模式。

此外,如果参考线索引信息的值不等于0并且MPM标志信息的值被导出为1,则可以从编码设备发信号通知MPM索引信息。也就是说,解码设备可以从比特流获得MPM索引信息并且对其进行解码。如上所述,MPM索引信息包括与指示MPM列表中包括的候选帧内预测模式当中的当前块的帧内预测模式有关的索引值,并且例如,可以被以intra_luma_mpm_idx语法元素的形式表示。

也就是说,如果参考线索引信息的值不等于0并且MPM标志信息的值被导出为1,则解码设备可以获得MPM索引信息并对其进行解码,而且基于MPM索引信息来从MPM列表中导出当前块的帧内预测模式。

解码设备可以基于当前块的帧内预测模式来生成用于当前块的预测样本(S1630)。

在实施方式中,解码设备可以基于上述导出的帧内预测模式来从当前块的邻近参考样本中导出至少一个邻近参考样本,并且基于邻近参考样本来生成预测样本。这里,邻近参考样本可以基于参考线索引信息被导出,并且可以包括例如通过参考线索引信息指示的参考线中包括的邻近参考样本。

解码设备可以基于预测样本来生成用于当前块的重构样本(S1640)。

在实施方式中,解码设备可以根据预测模式来立即使用预测样本作为重构样本,或者可以将残差样本添加到预测样本以生成重构样本。

如果存在用于当前块的残差样本,则解码设备可以接收关于用于当前块的残差的信息。关于残差的信息可以包括用于残差样本的变换系数。解码设备可以基于残差信息来导出用于当前块的残差样本(或残差样本阵列)。解码设备可以基于预测样本和残差样本来生成重构样本,并且可以基于重构样本来导出重构块或重构图片。此后,如上所述,解码设备可以在必要时对重构图片应用诸如去块滤波和/或SAO过程的环路内滤波过程,以便改进主观/客观图像质量。

在以上提到的实施方式中,虽然已基于以一系列步骤或单元的形式的流程图描述了这些方法,但是本文档的实施方式不限于这些步骤的顺序,并且这些步骤中的一些可以按照与其它步骤的顺序不同的顺序执行或者可以与其它步骤同时执行。此外,本领域技术人员将理解,在流程图中示出的步骤不是排它性的,并且在不影响本文档的权利范围的情况下,这些步骤可以包括附加步骤或者可以删除流程图中的一个或更多个步骤。

根据本文档的以上提到的方法可以用软件形式实现,并且根据本文档的编码设备和/或解码设备可以被包括在例如TV、计算机、智能电话、机顶盒或显示装置的用于执行图像处理的设备中。

在本文档中,当以软件形式实现实施方式时,以上提到的方法可以被实现为用于执行以上提到的功能的模块(程序、函数等)。模块可以被存储在存储器中并且由处理器来执行。存储器可以布置在处理器的内部或外部,并且通过各种公知手段连接到处理器。处理器可以包括专用集成电路(ASIC)、其它芯片集、逻辑电路和/或数据处理装置。存储器可以包括只读存储器(ROM)、随机存取存储器(RAM)、闪存、存储卡、存储介质和/或其它存储装置。即,本文档中描述的实施方式可以在处理器、微处理器、控制器或芯片上实现并执行。例如,附图中例示的功能单元可以在计算机、处理器、微处理器、控制器或芯片上实现并执行。在这种情况下,用于这种实现的信息(例如,关于指令的信息)或算法可以被存储在数字存储介质中。

此外,应用本文档的解码设备和编码设备可以被包括在多媒体广播发送和接收装置、移动通信终端、家庭影院视频装置、数字影院视频装置、监视相机、视频聊天装置、诸如视频通信这样的实时通信装置、移动流传输装置、存储介质、摄像机、视频点播(VoD)服务提供装置、过顶(OTT)视频装置、互联网流传输服务提供装置、三维(3D)视频装置、虚拟现实(VR)装置、增强现实(AR)装置、视频电话视频装置、运输工具终端(例如,车辆(包括自主车辆)终端、飞机终端和轮船终端)和医疗视频装置中,并且可以被用于处理视频信号或数据信号。例如,过顶(OTT)视频装置可以包括游戏控制台、Blueray播放器、互联网访问TV、家庭影院系统、智能电话、平板PC和数字录像机(DVR)。

此外,应用本文档的处理方法可以以由计算机执行的程序的形式生成,并且可以被存储在计算机可读记录介质中。根据本文档的具有数据结构的多媒体数据也可以被存储在计算机可读记录介质中。计算机可读记录介质包括存储有计算机可读数据的所有种类的存储装置。计算机可读记录介质可以包括例如Blueray盘(BD)、通用串行总线(USB)、ROM、PROM、EPROM、EEPROM、RAM、CD-ROM、磁带、软盘和光学数据存储装置。此外,计算机可读记录介质包括以载波(例如,通过互联网进行传输)的形式实现的介质。此外,使用编码方法而生成的比特流可以被存储在计算机可读记录介质中,或者可以通过有线和无线通信网络传输。

此外,本文档的实施方式可以使用程序代码被实现为计算机程序产品。可以由根据本文档的实施方式的计算机执行程序代码。程序代码可以被存储在可由计算机读取的载波上。

图17例示了可以应用本文档中公开的实施方式的内容流传输系统的示例。

参照图17,应用本文档的实施方式的内容流传输系统可以基本上包括编码服务器、流传输服务器、web服务器、媒体存储装置、用户装置和多媒体输入装置。

编码服务器将从诸如智能电话、相机、摄像机等这样的多媒体输入装置输入的内容压缩成数字数据以生成比特流,并且将该比特流传输到流传输服务器。作为另一示例,当诸如智能电话、相机、摄像机等这样的多媒体输入装置直接生成比特流时,可以省略编码服务器。

可以通过应用本文档的实施方式的编码方法或比特流生成方法来生成比特流,并且流传输服务器可以在发送或接收比特流的处理中临时存储比特流。

流传输服务器基于用户的请求通过web服务器将多媒体数据发送到用户设备,并且web服务器用作将服务告知用户的介质。当用户向web服务器请求所期望的服务时,web服务器将其传送到流传输服务器,流传输服务器将多媒体数据发送到用户。在这种情况下,内容流传输系统可以包括单独的控制服务器。在这种情况下,控制服务器用于控制内容流传输系统中的装置之间的命令/响应。

流传输服务器可以从媒体存储装置和/或编码服务器接收内容。例如,当从编码服务器接收内容时,可以实时地接收内容。在这种情况下,为了提供平稳的流传输服务,流传输服务器可以存储比特流达预定时间。

用户设备的示例可以包括移动电话、智能电话、膝上型计算机、数字广播终端、个人数字助理(PDA)、便携式多媒体播放器(PMP)、导航仪、触屏PC、平板PC、超级本、可穿戴装置(例如,智能手表、智能眼镜、头戴式显示器)、数字TV、台式计算机、数字标牌等。

内容流传输系统中的各个服务器可以作为分布式服务器操作,在这种情况下,从各个服务器接收到的数据可以被分发。

能够以各种方式组合本说明书中的权利要求。例如,能够组合本说明书的方法权利要求中的技术特征以在设备中被实现或执行,并且能够组合设备权利要求中的技术特征以在方法中被实现或执行。此外,能够组合方法权利要求和设备权利要求中的技术特征以在设备中被实现或执行。此外,能够组合方法权利要求和设备权利要求中的技术特征以在方法中被实现或执行。

(能够以各种方式组合本说明书中的权利要求。例如,能够组合本说明书的方法权利要求中的技术特征以在设备中被实现或执行,并且能够组合设备权利要求中的技术特征以在方法中被实现或执行。此外,能够组合方法权利要求和设备权利要求中的技术特征以在设备中被实现或执行。此外,能够组合方法权利要求和设备权利要求中的技术特征以在方法中被实现或执行。)

46页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:编码方法及其装置以及解码方法及其装置

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!

技术分类