编码装置和方法、图像捕获装置以及存储介质

文档序号:1925582 发布日期:2021-12-03 浏览:1次 >En<

阅读说明:本技术 编码装置和方法、图像捕获装置以及存储介质 (Encoding apparatus and method, image capturing apparatus, and storage medium ) 是由 村田贵史 望月成记 铃木辽太 于 2021-05-25 设计创作,主要内容包括:本公开涉及编码装置和方法、图像捕获装置以及存储介质。一种编码装置包括:生成部件,该生成部件用于从获得自图像传感器的RAW数据针对相应曝光时间生成多个RAW数据片,该图像传感器能够以针对每个像素不同的曝光时间执行拍摄;以及编码部件,该编码部件用于对由生成部件生成的多个RAW数据片进行编码。(The present disclosure relates to an encoding apparatus and method, an image capturing apparatus, and a storage medium. An encoding apparatus includes: a generation section for generating a plurality of pieces of RAW data for respective exposure times from RAW data obtained from an image sensor capable of performing photographing with different exposure times for each pixel; and an encoding means for encoding the plurality of RAW slices generated by the generation means.)

编码装置和方法、图像捕获装置以及存储介质

技术领域

本发明涉及用于编码和记录由能够控制每个像素的曝光时间的图像传感器获得的图像的技术。

背景技术

在已知的图像捕获装置中,通过应用解拜耳处理(去马赛克处理)将通过由图像传感器执行的捕获而获得的原始图像信息(RAW数据)转换成由亮度和色差构成的信号,并且对每个信号执行诸如噪声去除、光学失真校正和图像优化之类的所谓显影处理。并且,通常,已经经历显影处理的亮度信号和色差信号被压缩编码并记录在记录介质中。

另一方面,也存在将处于紧接在从图像传感器输出之后的状态并且尚未经历显影处理的图像捕获数据(RAW数据)存储在记录介质中的图像捕获装置。当记录RAW数据时,可以在保持大量色调的状态下执行数据保存,而没有使来自图像传感器的颜色信息劣化,并因此可以执行高自由度的编辑。然而,存在的问题在于,RAW数据的记录数据量巨大,并且在记录介质中需要大量的空闲空间。因此,期望RAW数据也经历压缩编码,并在抑制数据量的同时进行记录。

顺便提及,已知一种图像捕获设备作为用于获得高动态范围图像的设备,由于将曝光时间不同的像素布置在相同平面上,如日本专利特许公开No.2013-21660中公开的,利用该图像捕获设备可以用一次拍摄获得具有宽动态范围的图像。在日本专利特许公开No.2013-21660中公开了在使用这样的图像捕获设备时用于在显影时生成高动态范围图像的合成方法。

然而,在上述的日本专利特许公开No.2013-21660中公开的已知技术中,没有公开对经历合成之前的RAW数据进行编码的方法。

另外,当使用如在日本专利特许公开No.2013-21660中描述的图像捕获设备时,如果尝试对经历合成之前的RAW数据进行编码,则因为曝光时间不同并被布置在相同平面上的像素之间的电平差大,所以生成大量高频分量,并因而编码效率下降。因此,存在记录RAW数据时的数据量增加的问题。

发明内容

本发明是鉴于上述问题进行的,并提供了用于在其中混合有曝光时间不同的像素信号的RAW数据被编码和记录时减少数据量的技术。

根据本发明的第一方面,提供了一种编码装置,该编码装置包括:生成部件,该生成部件用于从获得自图像传感器的RAW数据针对相应曝光时间生成多个RAW数据片(pieceof RAW data),该图像传感器能够以针对每个像素不同的曝光时间执行拍摄;以及编码部件,该编码部件用于对由生成部件生成的多个RAW数据片进行编码。

根据本发明的第二方面,提供了一种图像捕获装置,该图像捕获装置包括:能够控制每个像素的曝光时间的图像传感器;以及上述的编码装置。

根据本发明的第三方面,提供了一种编码方法,该编码方法包括:从获得自图像传感器的RAW数据针对相应曝光时间生成多个RAW数据片,该图像传感器能够以针对每个像素不同的曝光时间执行拍摄;以及对在生成中生成的多个RAW数据片进行编码。

根据本发明的第四方面,提供了一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储用于使计算机执行上述的编码方法的步骤的程序。

根据以下参考附图对示例性实施例的描述,本发明的其它特征将变得清楚。

附图说明

图1是图示了作为本发明的编码装置的第一实施例的数字相机的功能配置的框图。

图2是图示了图像捕获单元的像素阵列的图。

图3是图示了图像捕获单元的像素阵列和曝光时间的设置的图。

图4A是图示了第一实施例中的RAW数据的分离方法的图。

图4B是图示了第一实施例中的RAW数据的分离方法的图。

图4C是图示了第一实施例中的RAW数据的分离方法的图。

图4D是图示了第一实施例中的RAW数据的分离方法的图。

图5是图示了当像素的曝光时间相同时输出的RAW数据的图。

图6是图示了RAW编码单元的配置的框图。

图7A和图7B是图示了频率变换(子带分割)的示例的图。

图8是图示了用于生成量化参数的单元的示例的图。

图9A是图示了量化参数的示例性生成的图。

图9B是图示了量化参数的示例性生成的图。

图9C是图示了量化参数的示例性生成的图。

图10A和图10B是图示了第二实施例中的RAW数据的分离方法的图。

图11是图示了第三实施例中的RAW数据的分离方法的图。

图12是图示了第四实施例中的像素阵列和曝光时间的设置的图。

图13是图示了第四实施例中的像素阵列的重新布置的图。

图14是图示了第五实施例中的RAW编码单元的配置的框图。

图15A和图15B是图示了频率变换(子带分割)的图。

图16是用于描述HDR合成处理的处理框图。

图17A至图17C是图示了当长曝光图像具有正确曝光时的HDR合成处理中的合成比率的图。

图18A至图18C是图示了当短曝光图像具有正确曝光时的HDR合成处理中的合成比率的图。

图19A至图19C是图示了量化参数的示例性设置的图。

图20A至图20C是图示了第五实施例的量化处理过程的流程图。

图21A至图21C是图示了第六实施例的量化处理过程的流程图。

具体实施方式

下文中,将参考附图详细地描述实施例。注意的是,以下实施例不旨在限制所要求保护的本发明的范围。在实施例中描述了多个特征,但是并不限制于需要所有这样的特征的发明,并且可以酌情地组合多个这样的特征。此外,在附图中,相同的附图标记被赋予相同或相似的配置,并且省略对其的冗余描述。

(第一实施例)

图1是图示了作为本发明的编码装置的第一实施例的数字相机100的功能配置的框图。数字相机100包括图像捕获单元101、分离单元102、RAW编码单元103、记录处理单元104、记录介质105、存储器I/F(存储器接口)106和存储器107。

图像捕获单元101包括透镜光学系统和图像传感器,透镜光学系统包括光学透镜、光圈、聚焦控制器和透镜驱动单元并能够光学变焦,在图像传感器中二维地布置有多个像素,每个像素包括光电转换元件。

图像传感器在每个像素中对由透镜光学系统形成的被摄体图像执行光电转换,并且还利用A/D转换电路执行模拟/数字转换,并以像素为单元输出数字信号(像素数据、RAW数据)。CCD图像传感器、CMOS图像传感器等被用作图像传感器。

注意的是,在本实施例中,图像传感器的每个像素被设置有R(红色)、G1/G2(绿色)和B(蓝色)滤色器之一,如图2中所示。注意的是,从图像捕获单元101输出的RAW数据经由存储器I/F 106被存储在存储器107中。

分离单元102是用于将由图像捕获单元101获得的RAW数据分离成针对相应曝光时间的RAW数据片的电路或模块。存储在存储器107中的RAW数据经由存储器I/F 106被读出,并被分离成针对相应曝光时间的RAW数据片,RAW数据片被输出到RAW编码单元103。

RAW编码单元103是对RAW数据执行计算操作并对从分离单元102输入的RAW数据进行编码的电路或模块。RAW编码单元103经由存储器I/F 106将通过编码生成的编码数据存储在存储器107中。

记录处理单元104经由存储器I/F 106读出存储在存储器107中的诸如编码数据之类的各种类型的数据,并将读出数据记录在记录介质105中。记录介质105是由诸如非易失性存储器之类的大容量随机存取存储器构成的记录介质。

存储器I/F 106调停来自处理单元的存储器访问请求,并执行对于存储器107的读/写控制。存储器107是诸如SDRAM之类的易失性存储器,并用作存储部件。存储器107提供用于存储以上提到的诸如图像数据和声音数据之类的各种类型的数据或从构成数字相机100的处理单元输出的各种类型的数据的存储区域。

接下来,将参考图2描述图像捕获单元101的像素布置结构。如图2中所示,图像捕获单元101的特征在于以2×2像素为单元布置R像素、G1像素、G2像素和B像素,并且在每个2×2像素中布置相同颜色。图像捕获单元101具有其中总计4×4像素是最小单元并且重复布置该最小单元的结构。

将参考图3描述具有图2中示出的像素布置结构并且其中可以针对每个像素控制曝光时间(在曝光时间针对每个像素不同的情况下拍摄是可能的)的图像传感器中的曝光时间的设置。如图3中所示,水平方向由x表示,垂直方向由y表示,列编号由x坐标表示并且行编号由y坐标表示。带括号的数字表明指示图像传感器上的每个像素的位置的坐标。另外,白色像素表示短曝光像素,以及灰色像素表示长曝光像素。在本实施例中,执行短曝光的短曝光像素和执行长曝光的长曝光像素在列方向上以Z字形方式来设置,如图3中所示。

例如,关于图3中左上端处的四个R像素的曝光时间的设置如下。R(1,1)是短曝光像素,R(2,1)是长曝光像素,R(1,2)是长曝光像素,并且R(2,2)是短曝光像素。以这种方式,在每个列中交替地设置短曝光像素和长曝光像素,并且在每个行中交替设置短曝光像素和长曝光像素。当在y方向上仅跟随短曝光像素时,在第一列和第二列中,在从上面开始的第一行中,第一列是短曝光像素,在第二行中,第二列是短曝光像素,在第三行中,第一列是短曝光像素,并且在第四行中,第二列是短曝光像素。类似地,当在y方向上仅跟随长曝光像素时,在第一列和第二列中,从上面开始的第一行中,第二列是长曝光像素,在第二行中,第一列是长曝光像素,在第三行中,第二列是长曝光像素,并且在第四行中,第一列是长曝光像素。

如上所述,像素布置结构和曝光时间的设置被设置成,使得以2×2像素为单元设置相同颜色的像素,并且在这4个像素中布置两个短曝光像素(两个曝光时间中的一个曝光时间)和两个长曝光像素(两个曝光时间中的另一个曝光时间)。

这里,如果在RAW数据由图像捕获单元101获得的状态下(即,在混合曝光时间不同的像素的状态下)尝试执行编码,则因为曝光时间不同的像素之间的电平差大,所以生成大量的高频分量,并且RAW数据的记录数据量增加。因此,在本实施例中,通过分离单元102将RAW数据分离成相应曝光时间的RAW数据片,并且通过匹配像素之间的电平来抑制高频分量的生成,由此,RAW数据的记录数据量减少。

接下来,将参考图4A至图4D描述分离方法。如图4A至图4D中所示,分离单元102将从图像捕获单元101输入的RAW数据分离为仅由短曝光像素构成的拜耳布置结构RAW数据和仅由长曝光像素构成的拜耳布置结构RAW数据,并将分离出的两个RAW数据片输出到RAW编码单元103。

具体地,仅由短曝光像素构成的RAW数据被分离为由图4A中的RAW数据401a和图4B中的RAW数据401b图示的短曝光RAW数据的两个平面。RAW数据401a是通过在奇数行和奇数列中提取各自由菱形标记的短曝光像素而配置的短曝光RAW数据,如图4A中所示。另外,RAW数据401b是通过在偶数行和偶数列中提取各自由菱形标记的短曝光像素而配置的短曝光RAW数据,如图4B中所示。

类似地,仅由长曝光像素构成的RAW数据被分离为由图4C中的RAW数据401c和图4D中的RAW数据401d图示的长曝光RAW数据的两个平面。RAW数据401c是通过在奇数行和偶数列中提取各自由菱形标记的长曝光像素而配置的长曝光RAW数据,如图4C中所示。另外,RAW数据401d是通过在偶数行和奇数列中提取各自由菱形标记的长曝光像素而配置的长曝光RAW数据,如图4D中所示。RAW编码单元103分别地对从分离单元102以拜耳布置方式输入的RAW数据401a、401b、401c和401d进行编码。

注意的是,上面已经使用图2中的像素阵列描述了当在布置在相同平面上的像素之间曝光时间不同时分离单元102的分离方法。接下来,将参考图5描述当像素的曝光时间全部相同时将由分离单元102执行的处理。

在这种情况下,对于由图像捕获单元101获得的RAW数据,分离单元102通过计算由灰色菱形标记(如图5中所示)的相同颜色分量的每四个像素的像素平均值来配置RAW数据501,并将RAW数据501输出到RAW编码单元103。具体地,如下面的公式1至4中所示,通过计算每个颜色分量的相加平均来执行分离。

接下来,将参考图6中示出的框图描述对短曝光RAW数据401a和401b以及长曝光RAW数据401c和401d执行处理的RAW编码单元103的详细配置以及处理流程。

RAW编码单元103包括通道变换单元601、频率变换单元602、量化参数生成单元603、量化单元604、编码单元605和量化参数编码单元606。

通道变换单元601将从分离单元102输入的按拜耳布置配置的RAW数据变换到多个通道。例如,针对拜耳布置中的R、G1、G2和B分别地执行变换到四个通道。可替代地,对于R、G1、G2和B,通过使用以下变换公式5至8进一步执行计算来执行到四个通道的变换。

Y=(R+G1+G2+B)/4 公式5

C0=R-B 公式6

C1=(G0+G1)/2=(R+B)/2 公式7

C2=G0-G1 公式8

注意的是,这里示出了用于变换到四个通道的示例性配置,但通道的数量和变换方法不限于此。

频率变换单元602针对每个通道以预定分辨率水平(下文中,被表示为“lev”)通过离散小波变换来执行频率变换处理,并将所生成的子带数据(变换系数)输出到量化参数生成单元603和量化单元604。

图7A示出了用于实现关于lev=1的子带分割处理的离散小波变换的滤波器组配置。当在水平方向和垂直方向上执行离散小波变换处理时,执行到一个低频子带(LL)和三个高频子带(HL、LH、HH)的分割,如图7B中所示。

在公式9和公式10中分别示出了图7A中示出的低通滤波器(下文中,被表示为“lpf”)和高通滤波器(下文中,被表示为“hpf”)的传递函数。

lpf(z)=(-z-2+2z-1+6+2z1-z2)/8 公式9

hpf(z)=(-z-1+2-z1)/2 公式10

当lev大于1时,对于低频子带(LL)分层地执行子带分割。注意的是,这里,如公式9和公式10中所示,离散小波变换通过五抽头lpf和三抽头hpf来配置,但不限于此,并可以采用抽头数量和系数不同的滤波器配置。

量化参数生成单元603针对每个特定的预定子带数据单元,生成用于对由频率变换单元602生成的子带数据(变换系数)执行量化处理的量化参数。所生成的量化参数被输入到量化参数编码单元606,并还被供应到量化单元604。

量化单元604基于从量化参数生成单元603供应的量化参数,对从频率变换单元602输出的子带数据(变换系数)执行量化处理,并将经量化的子带数据(变换系数)输出到编码单元605。

编码单元605按光栅扫描顺序针对每个子带执行从量化单元604输出的经量化的子带数据(变换系数)的预测差分熵编码,并将所生成的经编码的RAW数据存储到存储器107。注意的是,可以使用其它方法作为预测方法和熵编码方法。

量化参数编码单元606是用于对从量化参数生成单元603输入的量化参数执行编码的处理单元。使用与编码单元605共同的编码方法对量化参数进行编码,并且将所生成的经编码的量化参数存储到存储器107。

接下来,将参考图8描述当在假定以上提到的预定子带单元为4×4的情况下生成量化参数时子带数据、通道数据与RAW数据之间的关系。

如图8中所示,4×4子带对应于每个通道的8×8像素,并且还对应于与每个RAW数据的16×16像素对应的块。因此,在这种情况下,在短曝光RAW数据401a和401b以及长曝光RAW数据401c和401d中,对于与16×16像素对应的每个RAW数据块,需要将量化参数存储在存储器107中。

注意的是,对短曝光RAW数据401a和401b以及对长曝光RAW数据401c和401d应用相同的量化参数以便减少量化参数的数据量是有效的。在这种情况下,数据量可以减少到一半。另外,在本实施例中,使用以更接近正确曝光的曝光时间生成的量化参数作为参考,并且计算其它量化参数,以便进一步减少数据量。由此,量化参数的数据量可以减少到四分之一。这里,使用以更接近正确曝光的曝光时间生成的量化参数作为参考的原因是因为,在出现过曝高亮(blown out highlight)或发黑(blacked out)的过度曝光(overexposure)或不足曝光(underexposure)图像的情况下,不能根据被摄体的准确特征来生成量化参数。

当短曝光更接近正确曝光时,作为具体示例,在公式11中示出了用于以关于短曝光RAW数据生成的量化参数为参考来计算用于长曝光RAW数据的量化参数的计算公式。

L_Qp=α×S_Qp+β 公式11

这里,

L_Qp:用于长曝光RAW数据的量化参数

S_Qp:用于短曝光RAW数据的量化参数

α:斜率

β:截距。

注意的是,在本实施例中,以针对短曝光RAW数据生成的量化参数为参考来计算用于长曝光RAW数据的量化参数。然而,可以以针对长曝光RAW数据生成的量化参数为参考来计算用于短曝光RAW数据的量化参数。另外,可以通过在不使用短曝光和长曝光二者作为参考的同时针对短曝光和长曝光中的每一个设置α和β来计算量化参数。

接下来,将描述公式11中示出的α和β的确定方法。虽然α和β可以是任何值,但在本实施例中,将描述详细的参数确定方法。当假定短曝光更接近正确曝光时,如在上述示例中一样,在长曝光中,因为曝光时间比短曝光长,所以实现了过度曝光。因此,关于在短曝光时亮度为中等至亮的区域,在长曝光时像素值达到饱和水平并且不能输出根据被摄体亮度的像素值的可能性高。另一方面,关于暗区域,有可能获得相对于短曝光的详细信息。因此,关于被确定为在短曝光RAW数据中亮度为中等至亮的区域的区域,用于长曝光RAW数据的量化参数相对于短曝光而增加。另外,关于被确定为暗的区域设置相同的参数,并且因此,可以在确保图像质量的同时减少量化参数的数据量。

将参考图9A至图9C给出具体描述。图9A示出了短曝光RAW数据中的根据短曝光RAW数据的亮度的量化参数的一个示例性设置。另外,图9B示出了长曝光RAW数据中的根据短曝光RAW数据的亮度的量化参数的示例性设置。注意的是,可以使用与上述量化参数生成单元对应的1LL子带来评估亮度指标。在公式12至14中示出了量化参数之间的大小关系。

Q0<Q1<Q2 公式12

Q1<Q3 公式13

Q2<Q4 公式14

首先,考虑视觉特性(Q0<Q1<Q2),短曝光RAW数据中的量化参数被设置为使得量化参数随着暗度增加而减小。相比之下,在长曝光RAW数据中,量化参数被设置为使得Q0在与短曝光RAW数据中的暗部分对应的区域中被设置成与短曝光RAW数据中的相同,并且量化参数在与中等至亮部分对应的区域中被设置成相对于短曝光RAW数据而增大(Q1<Q3,Q2<Q4)。

图9C示出了用于以针对短曝光RAW数据生成的量化参数为参考来计算用于长曝光RAW数据的量化参数的图线。水平轴表示用于短曝光RAW数据的量化参数(S_Qp),并且垂直轴表示用于长曝光RAW数据的量化参数(L_Qp)。公式11中示出的α和β可以被设置为实现公式12至公式14的关系。

注意的是,α和β与编码数据类似地被存储在存储器107中,并与编码数据一起经由存储器I/F 106被记录在记录介质105中。另外,指示短曝光和长曝光中的哪一个具有将作为参考的量化参数的标志被存储在存储器107中,并与编码数据一起经由存储器I/F 106被记录在记录介质105中。注意的是,当在不使用短曝光和长曝光二者作为参考的同时针对每个曝光时间设置α和β时,可以不包括该标志。

另外,当处理上述任一情况时,配置可以使得包括指示曝光时间是否将作为参考的标志,并且接下来,如果存在将作为参考的曝光时间,则包括指示短曝光和长曝光中的哪一个作为参考的标志。在这种情况下,同样,每个标志信息被存储在存储器107中,并与编码数据一起经由存储器I/F 106被记录在记录介质105中。

如上所述,在本实施例中,分离单元102将RAW数据分离为相应曝光时间的数据片,待编码的像素之间的电平差被消除,并且由此,抑制了高频分量,并且因此,RAW数据的记录数据量可以减少。另外,使用针对一种RAW数据计算的量化参数作为参考,确定用于不同曝光时间的其它RAW数据的量化参数,并且因此,RAW数据的记录数据量可以减少。

(第二实施例)

接下来,将描述本发明的第二实施例。在第二实施例中,分离单元102中的RAW数据的分离方法不同于第一实施例的RAW数据的分离方法。注意的是,第二实施例的数字相机的配置与第一实施例的数字相机的配置相同,并因此将省略冗余描述,并将描述不同之处。

在第一实施例中,通过在分离单元102中将像素分离为相同曝光时间的像素的组(即,具体地,分离为仅由短曝光像素构成的RAW数据的两个平面和仅由长曝光像素构成的RAW数据的两个平面)而获得的RAW数据片被输出到RAW编码单元103。

相比之下,在第二实施例中,将描述以下方法:为了进一步减少数据量,在分离单元102中,将附近存在的相同曝光时间并且相同颜色分量的像素的像素值相加,并且计算平均像素值并将平均像素值输出到RAW编码单元103。

将参考图10A和图10B描述本实施例中的分离单元102的处理。对于从图像捕获单元101输入的并且其中混合有不同曝光时间的像素的RAW数据,分离单元102计算由图10A中示出的每个矩形包围的像素(即,作为短曝光像素并具有相同颜色分量的像素)的像素值的相加平均,并分离为短曝光RAW数据1001a。具体地,如下面的公式15至18中所示,通过针对每个颜色分量计算相加平均来进行分离。

.

.

类似地,通过计算由图10B中示出的每个矩形包围的并且是长曝光像素并具有相同颜色分量的像素的相加平局来分离为长曝光RAW数据1001b。具体地,如下面的公式19至22中所示,通过针对每个颜色分量计算相加平均来进行分离。

.

.

如上所述,在第二实施例中,通过在分离单元102中计算相加平均来分离由图像捕获单元101获得的RAW数据,并且因此,要输出到RAW编码单元103的数据量可以相对于第一实施例减少到一半。

(第三实施例)

接下来,将描述本发明的第三实施例。在第三实施例中,分离单元102中的RAW数据的分离方法不同于第一实施例和第二实施例的RAW数据的分离方法。注意的是,本实施例的数字相机的配置与第一实施例和第二实施例的数字相机的配置相同,并因此将省略冗余描述,并将描述不同之处。

在第二实施例中,在分离单元102中计算附近存在的相同曝光时间并且相同颜色分量的像素的像素值的相加平均,并将该相加平均输出到RAW编码单元103。在第三实施例中,为了相对于第二实施例进一步减少数据量,根据其它曝光时间的RAW数据对一个曝光时间的RAW数据应用增益,并将它们之间的差输出到RAW编码单元103。即,RAW编码单元103对于一个曝光时间对相加平均的RAW数据进行编码,并对于其它曝光时间对差值的RAW数据(差分RAW数据)进行编码。

将参考图11描述本实施例中的分离单元102中的处理。首先,分离单元102将附近存在的相同曝光时间并且相同颜色分量的像素的像素值相加,并通过与如图10A和图10B中所示的第二实施例类似地计算其平均来获得RAW数据1001a和1001b。接下来,获得长曝光RAW数据1001b中的第一行与通过将短曝光RAW数据1001a的第一行乘以与长曝光RAW数据对应的增益γ再加上偏移ε而获得的值之间的差值。这里,增益γ和偏移ε可以通过预先从曝光时间反向执行计算来确定,或者可以使用所获得的短曝光像素和长曝光像素的像素值的直方图来确定。

具体地,如以下公式23至26中所示,计算第一行中的差。

除了第一行之外,还对于第二行、第三行和第四行类似地执行该操作,并且将计算出的差值输出到RAW编码单元103。注意的是,在本实施例中,校正是对于短曝光RAW数据进行的,但校正可以对于长曝光RAW数据进行。然而,从舍入处理(rounding processing)的角度看,当向短曝光RAW数据应用增益γ时,差的准确度更好。

如上所述,在第三实施例中,作为将RAW数据原样输出到RAW编码单元103的替代,RAW数据被作为差值输出,并且因此,RAW数据的记录数据量可以相对于第二实施例进一步减少。

(第四实施例)

接下来,将描述本发明的第四实施例。在第四实施例中,与第一实施例至第三实施例的像素阵列不同的像素阵列(即,具体地,图12中示出的像素阵列)被应用于图像捕获单元101。

在上述的第一实施例至第三实施例中,已经描述了具有以下结构的图像捕获单元101:其中,最小单元包括由四种不同像素R、G1、G2和B构成的4×4 16个像素,并且该最小单元被重复布置,如图2中所示。

相比之下,图12示出了第四实施例中的图像捕获单元101的像素阵列和曝光时间的设置。水平方向由x表示,垂直方向由y表示,列编号由x坐标表示并且行编号由y坐标表示。带括号的数字表明指示图像传感器上的每个像素的位置的坐标。另外,白色像素表示短曝光像素,以及灰色像素表示长曝光像素。以这种方式,在图12中,在由R、G1、G2和B像素的阵列构成的拜耳布置的像素阵列中,短曝光像素和长曝光像素以两列为单元交替设置。

同样,在图12中的像素阵列和曝光时间设置中,如图13中所示,作为在对图2中示出的像素布置结构执行重新布置的同时执行处理的结果,可以执行第一实施例至第三实施例中描述的处理。

如上所述,在第四实施例中,即使像素阵列改变,也可以执行与第一实施例至第三实施例中描述的处理类似的处理。

(第五实施例)

接下来,将参考图14中示出的框图描述第五实施例中的对短曝光RAW数据401a和401b以及长曝光RAW数据401c和401d执行编码处理的RAW编码单元103的详细配置以及处理流程。注意的是,图1至图5中示出的配置与第一实施例的配置类似。

RAW编码单元103主要包括通道变换单元1601、频率变换单元1602、量化参数生成单元1603、量化单元1604和编码单元1605。

通道变换单元1601将从分离单元102输入的按拜耳布置配置的RAW数据变换到多个通道。这里,针对拜耳布置中的R、G1、G2和B分别地执行变换到四个通道。

频率变换单元1602针对每个通道以预定分辨率水平(下文中,被表示为“lev”)通过离散小波变换来执行频率变换处理,并将所生成的子带数据(变换系数)输出到量化参数生成单元1603和量化单元1604。

图15A示出了用于实现关于lev=1的子带分割处理的离散小波变换的滤波器组配置。当在水平方向和垂直方向上执行离散小波变换处理时,执行到一个低频子带(LL)和三个高频子带(HL、LH、HH)的分割,如图15B中所示。

在公式27和公式28中分别示出了图15A中示出的低通滤波器(下文中,被表示为“lpf”)和高通滤波器(下文中,被表示为“hpf”)的传递函数。

lpf(Z)=(-Z-2+2Z-1+6+2Z1-Z2)/8 公式27

hpf(Z)=(-Z-1+2-Z1)/2 公式28

当lev大于1时,对于低频子带(LL)分层地执行子带分割。注意的是,这里,如公式27和公式28中所示,离散小波变换通过五抽头lpf和三抽头hpf来配置,但不限于此,并可以采用抽头数量和系数不同的滤波器配置。

量化参数生成单元1603对于由频率变换单元1602生成的子带数据(变换系数)以预定系数(一个系数以上的正方形块、一个像素以上的正方形区域)为单元计算亮度特征量,并根据该特征量来生成量化参数。类似地,以预定系数(一个系数以上的正方形块)为单元执行量化,但考虑到图像质量的可控制性,期望与计算特征量的单元相同。随后,将详细描述根据亮度来设置量化参数的方法和生成量化参数的流程。然后,所生成的量化参数被输出到量化单元1604。

量化单元1604使用从量化参数生成单元1603供应的量化参数,对从频率变换单元1602输入的子带数据(变换系数)执行量化处理,并将经量化的子带数据(变换系数)输出到编码单元1605。

编码单元1605按光栅扫描顺序针对每个子带执行从量化单元1604输入的经量化的子带数据(变换系数)的预测差分熵编码,并将所生成的经编码的RAW数据存储到存储器107。注意的是,可以使用其它方法预测方法和熵编码方法。

这里,将使用图16描述HDR(高动态范围)合成处理方法。图16是用于执行HDR合成的处理框图。数字相机100被配置为记录曝光量不同的两个RAW数据表(sheet of RAWdata),并因此在假定本实施例中的HDR合成处理对两个RAW数据表执行HDR合成的情况下给出描述。注意的是,曝光RAW数据表中的一个RAW数据表是通过以正确曝光执行的捕获而获得的RAW数据。另一个RAW数据表是以造成过度曝光或不足曝光的曝光时间获得的RAW数据,该RAW数据是DR扩展的辅助数据。

显影处理单元801对长曝光RAW数据执行显影处理。然后,将所生成的经显影的长曝光图像输出到增益校正单元803。显影处理单元802对短曝光RAW数据执行显影处理。然后,将所生成的经显影的短曝光图像输出到增益校正单元804。

增益校正单元803使用基于预定合成比率的增益值对长曝光图像执行增益校正。随后,将描述合成比率。增益校正单元804使用基于预定合成比率的增益值对短曝光图像执行增益校正。随后,将描述合成比率。相加处理单元805对于长曝光图像和短曝光图像执行相同坐标位置处的像素的相加处理。

以这种方式,在HDR合成处理中,对通过对曝光量不同的两个RAW数据表执行显影处理而生成的图像执行增益校正处理和相加处理。注意的是,类似地对构成图像数据的每个颜色分量(R、G、B)执行该HDR合成处理。另外,显影处理包括解拜耳处理、亮度色差变换处理、噪声去除处理、光学失真校正处理等。

接下来,将描述短曝光图像数据与长曝光图像数据之间的合成比率。合成比率的思路基于哪一个曝光图像数据具有正确曝光的图像数据而不同。将分别地描述其中长曝光图像数据具有正确曝光的情况以及其中短曝光图像数据具有正确曝光的情况。

首先,将描述在长曝光图像数据具有正确曝光的情况下的合成比率。当通过以正确曝光执行的捕获而获得长曝光图像数据时,短曝光图像数据的曝光时间相对地比长曝光图像数据的曝光时间短,并因此短曝光图像数据具有不足曝光。

在图17A中示出了在该曝光条件下执行捕获时的图像数据的直方图的示例。图17A中示出的直方图是构成图像数据的特定颜色分量的直方图。直方图的水平轴表示指示图像数据的亮度的像素值,并且垂直轴表示像素的数量。另外,Ta和Tb表示像素阈值,并且Tc表示像素上限值。定义如下:满足像素值≤Ta的条件的区域被称为暗部分,满足Ta<像素值≤Tb的条件的区域被称为中等部分,并且满足Tb<像素值的条件的区域被称为亮部分。在该直方图中,长曝光图像数据正确地表达了暗部分区域和中等部分区域中的色调,但在亮部分区域中,在Tc以上的区域中存在许多像素,Tc是像素上限,并因此长曝光图像数据处于其中由于出现过曝高亮而丢失色调信息的状态。在HDR合成处理中,为了扩展其中出现了过曝高亮的色调范围,合成相同坐标位置处的短曝光图像数据。在该曝光条件下的HDR合成处理中,通过执行增益校正来执行相加处理,使得长曝光图像数据的合成比率在可以在正确曝光时确保DR的暗部分区域和中等部分区域中是大的,并且短曝光图像数据的合成比率在难以在正确曝光时确保DR的亮部分区域中增大。

图17B中示出了合成比率的示例。水平轴表示长曝光图像数据(正确曝光)的像素值,并且垂直轴表示合成比率。图17B中的图线表示根据像素值的曝光图像数据片的合成比率,并且曝光图像数据片的合成比率改变以使得其总和恒定地为100%。如在图17A中描述的,因为亮部分包括出现了过曝高亮的许多像素,所以在图17B中的图线中,长曝光图像数据的合成比率从阈值Tb处的像素值降低到像素上限值Tc处的0%,并且短曝光图像数据的合成比率从阈值Tb处的像素值增加到像素上限值Tc处的100%。由于使用了这样的合成比率,有可能扩展合成图像中的DR,同时减弱过曝高亮的影响。注意的是,为了使描述更容易理解,已经描述了其中在阈值Tb为边界的情况下合成比率改变的示例,但曝光图像数据片的合成比率不限于此。

基于以上描述,在图17C中示出了长曝光图像数据与短曝光图像数据的合成比率之间的大小关系。图中的A0表示长曝光像素的暗部分中的合成比率,A1表示长曝光像素的中等部分中的合成比率,A2表示长曝光像素的亮部分中的合成比率。另外,图中的A3表示短曝光像素的暗部分中的合成比率,A4表示短曝光像素的中等部分中的合成比率,A5表示短曝光像素的亮部分中的合成比率。用于相应亮度区域的合成比率之间的大小关系在暗部分中为A0>A3,在中等部分中为A1>A4,以及在亮部分中为A2<A5。

接下来,将描述在短曝光图像数据具有正确曝光的情况下的合成比率。当通过以正确曝光执行的捕获而获得短曝光图像数据时,长曝光图像数据的曝光时间相对地比短曝光图像数据的曝光时间长,并因此长曝光图像数据是过度曝光。

在图18A中示出了在该曝光条件下执行捕获时的图像数据的直方图的示例。图18A中示出的直方图是构成图像数据的特定颜色分量的直方图。直方图的水平轴表示指示图像数据的亮度的像素值,并且垂直轴表示像素的数量。另外,Ta和Tb表示像素阈值,并且Td表示像素下限值。定义如下:满足像素值≤Ta的条件的区域被称为暗部分,满足Ta<像素值≤Tb的条件的区域被称为中等部分,并且满足Tb<像素值的条件的区域被称为亮部分。在该直方图中,短曝光图像数据正确地表达了中等部分区域和亮部分区域中的色调,但在暗部分区域中,在Td以下的区域中存在许多像素,Td是像素下限,并因此短曝光图像数据处于其中由于出现遮挡阴影(blocked up shadow)而丢失色调信息的状态。在HDR合成处理中,为了扩展其中出现了遮挡阴影的色调范围,合成相同坐标位置处的长曝光图像数据。在该曝光条件下的HDR合成处理中,通过执行增益校正来执行相加处理,使得短曝光图像数据的合成比率在可以在正确曝光时确保DR的中等部分区域和亮部分区域中是大的,并且长曝光图像数据的合成比率在难以在正确曝光时确保DR的暗部分区域中增大。

接下来,在图18B中示出了合成比率的示例。水平轴表示短曝光图像数据(正确曝光)的像素值,并且垂直轴表示合成比率。图18B中的曲线图表示根据像素值的曝光图像数据片的合成比率,并且曝光图像数据片的合成比率改变以使得其总和恒定地为100%。如在图18A中描述的,因为暗部分包括出现了遮挡阴影的许多像素,所以在图18B中的图线中,长曝光图像数据的合成比率被改变成在像素下限值Td处为100%,并且短曝光图像数据的合成比率被改变成在像素下限值Td处为0%。由于使用了这样的合成比率,有可能扩展合成图像中的DR,同时减弱遮挡阴影的影响。注意的是,为了使描述更容易理解,已经描述了其中在阈值Ta为边界的情况下合成比率改变的示例,但曝光图像数据片的合成比率不限于此。

基于以上描述,在图18C中示出了长曝光图像数据与短曝光图像数据的合成比率之间的大小关系。图中的B0表示短曝光像素的暗部分中的合成比率,B1表示短曝光像素的中等部分中的合成比率,B2表示短曝光像素的亮部分中的合成比率。另外,图中的B3表示长曝光像素的暗部分中的合成比率,B4表示长曝光像素的中等部分中的合成比率,B5表示长曝光像素的亮部分中的合成比率。用于相应亮度区域的合成比率之间的大小关系在暗部分中为B0<B3,在中等部分中为B1>B4,并且在亮部分中为B2>B5。

如上所述,在HDR合成处理中,曝光图像数据片的合成比率根据是否具有正确曝光确以及像素值(亮度)的大小而改变。合成比率的大小指示对图像质量的影响的程度,并且在合成比率大的区域中,对图像质量的影响大,以及在合成比率较小的区域中,对图像质量的影响较小。因此,对于待压缩记录的RAW数据,需要基于HDR合成处理中的合成比率根据对图像质量的影响的程度来最合适地分布代码量。即,重要的是设置量化参数,使得通过向合成比率较大的区域分配较大的代码量来确保图像质量,并且关于合成比率小且对图像质量的影响小的区域减少代码量。

接下来,将描述由量化参数生成单元1603执行的量化参数生成中的基本思路。如上所述,假定根据通过预想HDR合成处理而获得的合成比率来执行量化参数的加权。向其添加了考虑到图像的视觉特性根据亮度对量化参数进行加权的思路。

在显影之后的后处理中,RAW数据经历诸如伽马(gamma)校正处理和色调曲线校正处理之类的辉度水平的调整。当将原始辉度水平小的暗部分与原始辉度水平大的亮部分进行比较时,即使对相同的辉度水平执行调整,在暗部分中像素值的变化比率也较大。如果对于暗部分和亮部分以相同的量化参数执行量化处理,则在暗部分中像素值的变化比率较大,并因此由于量化处理而导致的量化误差被放大,并且图像质量劣化变得明显。另一方面,在辉度水平的变化比率小的亮部分中,像素值的变化比率也小,并因此量化误差的放大程度小,并且图像质量劣化不明显。为了保证后处理之后的图像质量,需要考虑通过后处理放大的量化误差来执行RAW数据的量化。另外,在暗部分中,对比度相对于亮部分中的对比度小,并且子带数据的信号电平小。因此,如果关于暗部分执行粗糙量化,则量化之后的子带数据有可能为0。一旦系数变为0,就不能在逆量化处理中恢复信号,并且出现明显的图像质量劣化。

因这些原因,执行控制以使得在图像质量劣化有可能明显的暗部分区域中量化参数减小,并且在图像质量劣化不可能明显的亮部分区域中量化参数增大。在本实施例中,将描述以下配置:其中,预先准备其中编译了用于相应子带的量化参数的量化表,并且根据合成比率和亮度特征量来切换要参考的量化表。这些量化表是根据lev由用于相应子带数据片的量化参数构成的。用于每个子带的量化参数被设置为使得在图像质量劣化有可能明显的较低子带中量化参数较小。如果lev=1,则相应子带的量化参数之间的大小关系为1LL<1HL=1LH<1HH。

基于根据亮度对量化参数进行加权的思路,将分别地关于以下三个条件来描述用于通过以相应曝光时间捕获而获得的RAW数据片的量化表的示例性设置。注意的是,在本实施例中,将描述其中亮度特征量被分类为暗部分、中等部分和亮部分的三个特征区域的示例。注意的是,要被分类的特征的定义与图17和图18中的直方图中的那些相似。

[曝光时间在短曝光RAW数据与长曝光RAW数据之间相同]

在这种条件下,通过计算相同颜色分量的每相邻四个像素的像素平均来生成一个RAW数据片(参见图5)。一个RAW数据片将被量化,并且因为将不执行HDR合成处理,所以使用通过计算像素平均而生成的RAW数据来执行亮度特征分类,并且根据分类结果使用量化表来执行量化。在图19A中示出了量化表的示例性设置。Q0指示用于保证暗部分中的图像质量的量化表,Q1指示用于保证中等部分中的图像质量的量化表,并且Q2指示用于保证亮部分中的图像质量的量化表。量化表之间的大小关系如下。

Q0<Q1<Q2

以这种方式,设置基于视觉特性的根据亮度的量化表。

[当曝光时间在短曝光RAW数据与长曝光RAW数据之间不同并且短曝光RAW数据具有正确曝光时]

在这种条件下,图像数据被分离为短曝光RAW数据和长曝光RAW数据(参见图4A至图4D)。在图19B中示出了量化表的示例性设置。因为在通过以正确曝光执行的捕获而获得的短曝光RAW数据中有可能出现遮挡阴影,所以使用通过在过度曝光的条件下执行的捕获而获得的长曝光RAW数据来扩展暗部分中的DR。图中的Q1和Q2所指示的量化表与图19A中的那些类似。这里,新添加了Q3和Q4所指示的两个量化表。Q3指示目的在于在假定区域是其中HDR合成处理中的合成比率小并且对图像质量的影响小的区域的情况下抑制所生成的代码量的表。Q4指示目的在于分配大的代码量以便在HDR合成处理中有可能出现遮挡阴影的暗部分中扩展DR的量化表。量化表之间的大小关系如下。

Q0≤Q4<Q1<Q2<Q3

或者,

Q0<Q4≤Q1<Q2<Q3

Q4中的量化参数大于或等于Q0中的量化参数,并小于Q2中的量化参数。以这种方式,变得有可能除了基于视觉特性的根据亮度的量化表之外,还通过对于长曝光RAW数据中的关于其合成比率大的暗部分设置其中量化参数相对小的量化表来确保HDR合成处理之后的图像质量。另一方面,由于对于短曝光RAW数据中的关于其合成比率小的暗部分以及对于长曝光RAW数据中的中等部分和亮部分设置了其中量化参数大的量化表,因而可以在HDR合成处理之后没有降低图像质量的情况下有效地减少数据量。

[当曝光时间在短曝光RAW数据与长曝光RAW数据之间不同并且长曝光RAW数据具有正确曝光时]

同样,在这种条件下,图像数据被分离为由短曝光像素构成的RAW数据和由长曝光像素构成的RAW数据(参照图4A至图4D)。在图19C中示出了量化表的示例性设置。如上所述,在用于以正确曝光进行捕获的长曝光像素中有可能出现过曝高亮,并且使用用于以不足曝光进行捕获的短曝光像素来扩展亮部分中的DR。Q0、Q1和Q3所指示的量化表类似于图19A和图19B中的那些。这里,新添加了Q5所指示的量化表。Q5指示目的在于分配大的代码量以在HDR合成处理中有可能出现过曝高亮的亮部分中扩展DR的量化表。量化表之间的大小关系如下。

Q0<Q1≤Q5<Q2<Q3

或者,

Q0<Q1<Q5≤Q2<Q3

Q5中的量化参数小于或等于Q2中的量化参数,并大于Q0中的量化参数。以这种方式,变得有可能除了基于视觉特性的根据亮度的量化表之外,还通过关于短曝光RAW数据中的其中合成比率大的亮部分设置其中量化参数相对小的量化表来确保HDR合成处理之后的图像质量。另一方面,由于关于长曝光RAW数据中的其中合成比率小的亮部分以及短曝光RAW数据中的暗部分和中等部分设置了其中量化参数大的量化表,因而可以在HDR合成处理之后没有降低图像质量的情况下有效地减少数据量。

接下来,将使用图20A至图20C示出的流程图来描述量化处理过程。在本实施例中,为了使描述更容易理解,假定lev=1,并且使用构成通过以将是正确曝光的曝光时间进行捕获而获得的RAW数据的子带数据来计算亮度特征量。

假定以一个系数为单元来执行亮度特征量的计算和量化处理,并且执行操作以便根据相应系数的亮度特征量来唯一地确定将应用于不同曝光时间的相应RAW数据片的量化表(细节请参照图19)。

在本实施例中,其中在改变用于每个像素的曝光时间的同时执行捕获的操作模式被称为HDR模式,并且其中在不改变曝光时间的情况下执行捕获的操作模式被称为正常模式。如上所述,在HDR模式下,待记录的RAW数据的水平大小和垂直大小相对于正常模式增加一倍(参照图4A至图5),并且因此在这些模式之间要经历量化处理的数据量是不同的。

在步骤S1201中,控制器108确定数字相机100的操作模式是否为HDR模式。如果确定是HDR模式,则处理前进到步骤S1202,并且如果不是,则处理前进到步骤S1219。

在步骤S1202中,控制器108确定短曝光RAW数据是否具有正确曝光。如果短曝光RAW数据具有正确曝光,则处理前进到步骤S1203,并且如果不是,则处理前进到步骤S1211。

在步骤S1203中,控制器108使用具有正确曝光的短曝光子带数据来计算亮度特征量。G1(绿色)分量的1LL子带的系数的大小被用作亮度特征量。这是因为LL子带是DC分量,并因此可以表示亮度,并且使用G1分量的原因是因为人类视觉特性对G分量的变化是敏感的,并且G1分量是重要的视觉信息。

在步骤S1204中,控制器108基于在步骤S1203中计算出的亮度特征量与预定阈值之间的大小关系来确定所关注区域是否是暗部分。如果确定是暗部分,则处理前进到步骤S1205,并且如果不是,则处理前进到步骤S1206。

在步骤S1205中,控制器108确定用于构成短曝光RAW数据的颜色分量子带数据片的量化表为Q3,并且确定用于构成长曝光RAW数据的颜色分量子带数据片的量化表为Q4,并执行量化处理。

在步骤S1206中,控制器108基于在步骤S1203中计算出的亮度特征量与预定阈值之间的大小关系来确定所关注区域是否是中等部分。如果确定是中等部分,则处理前进到步骤S1207,并且如果不是,则处理前进到步骤S1208。

在步骤S1207中,确定用于构成短曝光RAW数据的颜色分量子带数据片的量化表为Q1,并且用于构成长曝光RAW数据的颜色分量子带数据片的量化表为Q3,并执行量化处理。

在步骤S1208中,控制器108确定用于构成短曝光RAW数据的颜色分量子带数据片的量化表为Q2,并且用于构成长曝光RAW数据的颜色分量子带数据片的量化表为Q3,并执行量化处理。

在步骤S1209中,控制器108确定是否对于图像平面中的所有子带数据片都完成了量化处理。如果对于所有子带数据片都完成了量化处理,则结束处理,并且如果不是,则处理前进到步骤S1210。

在步骤S1210中,控制器108更新量化处理目标系数。控制器108在完成系数的更新后,将处理返回到步骤S1203。

在步骤S1211中,控制器108使用具有正确曝光的长曝光子带数据来计算亮度特征量。G1分量的1LL子带的系数的大小被用作亮度特征量,类似于步骤S1203。

在步骤S1212中,控制器108基于在步骤S1211中计算出的亮度特征量与预定阈值之间的大小关系来确定所关注区域是否是暗部分。如果确定是暗部分,则处理前进到步骤S1213,并且如果不是,则处理前进到步骤S1214。

在步骤S1213中,确定用于构成短曝光RAW数据的颜色分量子带数据片的量化表为Q3,并且确定用于构成长曝光RAW数据的颜色分量子带数据片的量化表为Q0,并执行量化处理。

在步骤S1214中,控制器108基于在步骤S1211中计算出的亮度特征量与预定阈值之间的大小关系来确定所关注区域是否是中等部分。如果确定是中等部分,则处理前进到步骤S1215,并且如果不是,则处理前进到步骤S1216。

在步骤S1215中,控制器108确定用于构成短曝光RAW数据的颜色分量子带数据片的量化表为Q3,并且用于构成长曝光RAW数据的颜色分量子带数据片的量化表为Q1,并执行量化处理。

在步骤S1216中,控制器108确定用于构成短曝光RAW数据的颜色分量子带数据片的量化表为Q5,并且用于构成长曝光RAW数据的颜色分量子带数据片的量化表为Q3,并执行量化处理。

在步骤S1217中,控制器108确定是否对于图像平面中的所有子带数据片都完成了量化处理。如果对于所有子带数据片都完成了量化处理,则结束处理,并且如果不是,则处理前进到步骤S1218。

在步骤S1218中,控制器108更新量化处理目标系数。控制器108在完成系数的更新后,将处理返回到步骤S1211。

在步骤S1219中,因为确定是正常模式,所以控制器108使用通过对通过执行相加平均生成的RAW数据执行频率变换而获得的子带数据来计算亮度特征量。通过执行相加平均而获得的G1分量的1LL子带的系数的大小被用作亮度特征量,类似于步骤S1203。

在步骤S1220中,控制器108基于在步骤S1219中计算出的亮度特征量与预定阈值之间的大小关系来确定所关注区域是否是暗部分。如果确定是暗部分,则处理前进到步骤S1221,并且如果不是,则处理前进到步骤S1222。

在步骤S1221中,控制器108确定用于构成RAW数据的颜色分量子带数据片的量化表为Q0,并执行量化处理。

在步骤S1222中,控制器108基于在步骤S1219中计算出的亮度特征量与预定阈值之间的大小关系来确定所关注区域是否是中等部分。如果确定是中等部分,则处理前进到步骤S1223,并且如果不是,则处理前进到步骤S1224。

在步骤S1223中,控制器108确定用于构成RAW数据的颜色分量子带数据片的量化表为Q1,并执行量化处理。

在步骤S1224中,控制器108确定用于构成RAW数据的颜色分量子带数据片的量化表为Q2,并执行量化处理。

在步骤S1225中,控制器108确定是否对于图像平面中的所有子带数据片都完成了量化处理。如果对于所有子带数据片都完成了量化处理,则结束处理,并且如果不是,则处理前进到步骤S1226。

在步骤S1226中,控制器108更新量化处理目标系数。控制器108在完成系数的更新后,将处理返回到步骤S1219。

如上所述,在本实施例中,分离单元102将RAW数据分离为相应曝光时间的数据片,消除了曝光时间不同的像素之间的电平差,并且由此,抑制了高频分量,并且因此,可以减少RAW数据的记录数据量。另外,由于在预想显影处理之后的HDR合成处理的同时考虑合成比率来执行量化参数的加权,因而可以有效地减少RAW数据的记录数据量。

注意的是,在本实施例中,已经描述了其中亮度特征被分类为三个阶段的示例,但执行分类的阶段的数量不限于此,并且可以进一步增加阶段的数量。另外,在图20A至图20C中示出的流程图中,已经描述了以下配置:其中,基于使用G1分量的1LL子带数据计算出的特征量,唯一地确定用于其它颜色分量的子带数据片的量化表。然而,可以执行操作以使得通过对于每个颜色分量独立地计算特征量来确定量化表。

另外,已经描述了其中特征量的计算单元和量化的处理单元是每一个系数的示例,但处理单元可以是系数块(两个系数以上)。

另外,在图20A至图20C中示出的流程图中描述了lev=1的示例,但在lev=2或更大的情况下,子带数据的水平大小和垂直大小根据lev而不同。因此,特征量的计算单元不能与量化的处理单元相同。假定以lev=2的2LL子带数据的一个系数为单元计算特征量。在这种情况下,由于频率分辨率的二次采样(subsampling)的特性,需要将2×2块设置为对于lev=1的子带数据的量化的处理单元。

另外,1LL子带数据的系数的大小被用作亮度特征量,但表示亮度的特征量可以使用其它方法来生成,诸如使用从多个颜色分量的1LL子带数据的系数计算出的像素或平均值来生成,并且对上述方法没有限制。

另外,已经使用其中针对呈拜耳布置的R、G1、G2和B中的每个颜色元素执行到四个通道的变换的示例来描述通道变换单元1601,但还可以使用以下变换公式29至32将R、G1、G2和B的颜色元素变换到四个通道。

Y=(R+G1+G2+B)/4 公式29

C0=R-B 公式30

C1=(G0+G1)/2-(R+B)/2 公式31

C2=G0-G1 公式32

以上变换公式例示了到由亮度和色差构成的四个通道的示例性变换。在这种情况下,如果执行控制以使得亮度分量的量化参数减小,并且对于其它色差分量的量化参数增大,则通过利用人类视觉特性,提高了编码效率。注意的是,通道的数量和变换方法不限于此。

(第六实施例)

接下来,将描述第六实施例。在第六实施例中,对于不具有正确曝光的RAW数据确定用于其中合成比率大的特征区域的量化表的方法与第一实施例的方法不同。在第一实施例中,预先准备的固定模式(pattern)被设置为用于不具有正确曝光的RAW数据的其中合成比率大的特征区域的量化表。因此,如果每个曝光RAW数据是通过以与正确曝光的曝光时间极其不同的曝光时间执行的捕获而获得的,则不能根据亮度来选择最合适的量化表,并且有可能招致图像质量劣化,或者代码量不必要地增加。因此,在本实施例中,将描述进一步提高编码效率的方法。在该方法中,对于其中合成比率大的特征区域,还对不具有正确曝光的RAW数据执行亮度特征确定,并且选择根据特征最合适的量化表。注意的是,第六实施例的图像捕获装置的配置与第五实施例的配置类似,并且因此省略其描述。

图21A至图21C中示出了本实施例的量化处理过程。与第五实施例的不同之处在于添加了处理步骤S1301至S1312。省略对与第五实施例的处理步骤类似的处理步骤的描述,并且将仅描述不同之处。

在步骤S1301中,控制器108使用具有过度曝光的长曝光子带数据来计算亮度特征量。G1分量的1LL子带的系数的大小被用作亮度特征量,类似于第五实施例。

在步骤S1302中,控制器108基于在步骤S1301中计算出的亮度特征量与预定阈值之间的大小关系来确定所关注区域是否是暗部分。如果确定是暗部分,则处理前进到步骤S1303,并且如果不是,则处理前进到步骤S1304。

在步骤S1303中,控制器108确定用于构成长曝光RAW数据的颜色分量子带数据片的量化表为Q0,并执行量化处理。

在步骤S1304中,控制器108基于在步骤S1301中计算出的亮度特征量与预定阈值之间的大小关系来确定所关注区域是否是中等部分。如果确定是中等部分,则处理前进到步骤S1305,并且如果不是,则处理前进到步骤S1306。

在步骤S1305中,控制器108确定用于构成长曝光RAW数据的颜色分量子带数据片的量化表为Q1,并执行量化处理。

在步骤S1306中,控制器108确定用于构成长曝光RAW数据的颜色分量子带数据片的量化表为Q2,并执行量化处理。

在步骤S1307中,控制器108使用具有不足曝光的短曝光子带数据来计算亮度特征量。G1分量的1LL子带的系数的大小被用作亮度特征量,类似于第五实施例。

在步骤S1308中,控制器108基于在步骤S1307中计算出的亮度特征量与预定阈值之间的大小关系来确定所关注区域是否是暗部分。如果确定是暗部分,则处理前进到步骤S1309,并且如果不是,则处理前进到步骤S1310。

在步骤S1309中,控制器108确定用于构成短曝光RAW数据的颜色分量子带数据片的量化表为Q0,并执行量化处理。

在步骤S1310中,控制器108基于在步骤S1307中计算出的亮度特征量与预定阈值之间的大小关系来确定所关注区域是否是中等部分。如果确定是中等部分,则处理前进到步骤S1311,并且如果不是,则处理前进到步骤S1312。

在步骤S1311中,控制器108确定用于构成短曝光RAW数据的颜色分量子带数据片的量化表为Q1,并执行量化处理。

在步骤S1312中,控制器108确定用于构成短曝光RAW数据的颜色分量子带数据片的量化表为Q2,并执行量化处理。

如上所述,由于对于通过以不具有正确曝光的曝光时间执行的捕获而获得的RAW数据根据亮度来设置最合适的量化表,因而可以进一步提高编码效率。

其它实施例

本发明的(一个或多个)实施例还可以通过读出并执行记录在存储介质(也可以被更完整地称为“非暂态计算机可读存储介质”)上的计算机可执行指令(例如,一个或多个程序)以执行上述(一个或多个)实施例中的一个或多个的功能和/或包括用于执行上述(一个或多个)实施例中的一个或多个的功能的一个或多个电路(例如,专用集成电路(ASIC))的系统或装置的计算机来实现,并且通过由系统或装置的计算机通过例如读取并执行来自存储介质的计算机可执行指令以执行上述(一个或多个)实施例中的一个或多个的功能和/或控制一个或多个电路以执行上述(一个或多个)实施例中的一个或多个的功能来执行的方法来实现。计算机可以包括一个或多个处理器(例如,中央处理单元(CPU)、微处理单元(MPU)),并且可以包括分离的计算机或分离的处理器的网络,以读出并执行计算机可执行指令。可以例如从网络或存储介质将计算机可执行指令提供给计算机。存储介质可以包括例如以下中的一个或多个:硬盘、随机存取存储器(RAM)、只读存储器(ROM)、分布式计算系统的存储装置、光盘(诸如,致密盘(CD)、数字多功能盘(DVD)、蓝光盘(BD)TM)、闪存设备、存储器卡等。

其它实施例

本发明的实施例还可以通过如下的方法来实现,即,通过网络或者各种存储介质将执行上述实施例的功能的软件(程序)提供给系统或装置,该系统或装置的计算机或是中央处理单元(CPU)、微处理单元(MPU)读出并执行程序的方法。

虽然已经参考示例性实施例描述了本发明,但要理解,本发明不限于所公开的示例性实施例。以下权利要求的范围应被赋予最宽泛的解释,以便涵盖所有这样的修改以及等同的结构和功能。

55页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:码率控制方法及编码器

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!

技术分类