三维图像的生成方法、装置、存储介质及计算机设备

文档序号:1077080 发布日期:2020-10-16 浏览:18次 >En<

阅读说明:本技术 三维图像的生成方法、装置、存储介质及计算机设备 (Three-dimensional image generation method and device, storage medium and computer equipment ) 是由 郑勇 许仕哲 刘毓森 潘濛濛 李政 戴志涛 于 2020-05-29 设计创作,主要内容包括:本申请揭示了一种三维图像的生成方法、装置、存储介质、计算机设备,其中方法包括:获取所述TOF摄像头与可见光摄像头在摄像范围内重叠的重叠成像;在重叠成像中进行目标识别;通过TOF摄像头对识别出的各个目标进行测距,得到各个目标的深度信息,所述深度信息为所述目标到所述TOF摄像头的距离信息;依据所述深度信息生成所述重叠成像的三维图像,所述三维图像包括所述重叠成像中所有的所述目标,由于获取的为TOF摄像头与可见光摄像头在摄像范围内重叠的重叠成像区域,且通过可见光摄像头进行成像及TOF摄像头获取深度信息,构建出与目标原物轮廓颜色一致的三维图像,不但图像形象逼真且计算量较少。(The application discloses a method, a device, a storage medium and computer equipment for generating a three-dimensional image, wherein the method comprises the following steps: acquiring overlapped imaging of the TOF camera and the visible light camera in a shooting range; performing target identification in overlay imaging; the method comprises the steps that distance measurement is conducted on each identified target through a TOF camera to obtain depth information of each target, wherein the depth information is the distance information from the target to the TOF camera; and generating the three-dimensional image of the overlapped imaging according to the depth information, wherein the three-dimensional image comprises all the targets in the overlapped imaging, and because the overlapped imaging area in which the TOF camera and the visible light camera are overlapped in the imaging range is obtained, the visible light camera is used for imaging and the TOF camera is used for obtaining the depth information, the three-dimensional image with the contour color consistent with that of the original object of the target is constructed, the image is vivid and the calculated amount is less.)

三维图像的生成方法、装置、存储介质及计算机设备

技术领域

本申请涉及相机技术领域,具体涉及一种三维图像的生成方法、装置、存储介质及计算机设备。

背景技术

现有技术中,相机通常只能拍摄出二维平面的图像,但随着科技的发展,人们不再满足于这种拍摄方式,开始追求拍摄出更加形象逼真的三维图像,目前,三维立体图像通常是通过TOF相机来进行拍摄,而TOF技术是基于红外光源的测距技术,TOF技术的相机只能测量出物体的红外轮廓,只能将物体的三维轮廓以不同颜色代表不同距离的地形图方式呈现出来,不方便人眼观看。

发明内容

本申请的主要目的为提供一种三维图像的生成方法、存储介质及计算机设备,旨在解决现有技术中通过TOF相机生成的三维图像观看不便利的技术问题。

基于上述发明目的,本申请实施例提出一种三维图像的生成方法,该方法应用于智能设备,所述智能设备包括TOF摄像头与可见光摄像头,所述三维图像的生成方法包括:

获取所述TOF摄像头与所述可见光摄像头在摄像范围内重叠的重叠成像;

在所述重叠成像中进行目标识别;

通过所述TOF摄像头对识别出的各个目标进行测距,得到各个目标的深度信息,所述深度信息为所述目标到所述TOF摄像头的距离信息;

依据所述深度信息生成所述重叠成像的三维图像,所述三维图像包括所述重叠成像中所有的所述目标。

进一步地,所述获取所述TOF摄像头与所述可见光摄像头在摄像范围内重叠的重叠成像的步骤,还包括:

获取所述可见光摄像头摄像范围内的可见成像;

依据所述TOF摄像头检测最大的物距,以及所述TOF摄像头与所述可见光摄像头的镜头光心的距离,在所述可见成像中获取所述重叠成像。

进一步地,所述依据所述TOF摄像头可检测的最大物距,以及所述TOF摄像头与所述可见光摄像头的镜头光心的距离,在所述可见成像中获取所述重叠成像的步骤,包括:

依据所述TOF摄像头的焦距以及所述TOF摄像头可检测的最大物距,得到所述TOF摄像头的TOF摄像范围;

依据所述TOF摄像头与所述可见光摄像头的镜头光心的距离,以及所述可见光摄像头的焦距,得到所述可见光摄像头在所述TOF摄像范围内的摄像区域;

计算出依据在所述可见光摄像头成像时所述摄像区域占据所述可见成像的区域,得到所述重叠成像。

进一步地,所述在所述重叠成像中进行目标识别的步骤,包括:

通过预设的识别模型对所述重叠成像所对应的图像进行识别,得到所述重叠成像中各个目标。

进一步地,所述通过所述TOF摄像头对识别出的各个目标进行测距,得到各个目标的深度信息的步骤,包括:

对所述重叠成像中各目标进行标注,以获取各所述目标的轮廓信息,所述轮廓信息包括所述目标的轮廓的像素信息;

依据所述像素信息对所述目标进行测距,得到所述目标的轮廓内对应各个像素点的实物点到所述TOF摄像头的距离信息。

进一步地,所述依据所述深度信息生成对应各所述目标的三维图像的步骤,包括:

依据所述深度信息计算出各所述目标的目标数据,所述目标数据包括各所述目标之间的实际距离以及各所述目标的轮廓信息;

在预设的实际坐标系中依据各所述目标的距离以及各所述目标的轮廓构建对应各所述目标的三维电子地图,以得到所述三维图像。

进一步地,所述依据所述深度信息生成所述重叠成像的三维图像的步骤之后,包括:

获取所述三维图像中各所述目标的三维信息,所述三维信息包括各所述目标之间的距离信息;

将所述三维图像以及三维信息通过显示屏进行显示。

本申请实施例还提出了一种三维图像的生成装置,包括:

获取成像单元,用于获取所述TOF摄像头与所述可见光摄像头在摄像范围内重叠的重叠成像;

识别目标单元,用于在所述重叠成像中进行目标识别;

目标测距单元,用于通过所述TOF摄像头对识别出的各个目标进行测距,得到各个目标的深度信息,所述深度信息为所述目标到所述TOF摄像头的距离信息;

生成图像单元,用于依据所述深度信息生成所述重叠成像的三维图像,所述三维图像包括所述重叠成像中所有的所述目标。

本申请实施例还提出了一种存储介质,其为计算机可读的存储介质,其上存储有计算机程序,所述计算机程序被执行时实现如上述三维图像的生成方法。

本申请实施例还提出了一种计算机设备,其包括处理器、存储器及存储于所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被执行时实现如上述三维图像的生成方法。

本申请的有益效果:

本申请提出了一种三维图像的生成方法、存储介质、计算机设备,该三维图像的生成方法中,通过获取TOF摄像头与可见光摄像头在摄像范围内重叠的重叠成像区域,再识别出该区域内的目标,然后对目标进行测距得到深度信息,以此构建对应的三维图像,由于通过在可见光摄像头进行成像,且通过TOF摄像头获取深度信息,故而可构建出与目标原物轮廓颜色一致的三维图像,这样通过两种摄像头结合处理即可得到形象逼真的三维图像,且计算量较少,有效节省资源。

附图说明

图1是本申请一实施例的三维图像的生成方法的流程示意图;

图2是本申请一实施例的以TOF摄像头的镜头光心为原点建立坐标系的一平面成像图;

图3是本申请一实施例的三维图像的生成装置的结构示意框图;

图4是本申请的存储介质的一实施例的结构示意框图;

图5是本申请的计算机设备的一实施例的结构示意框图。

本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请的一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

另外,在本申请中如涉及“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外,各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本申请要求的保护范围之内。

参照图1,本申请提供的一种三维图像的生成方法的流程示意图,该方法可以由三维图像的生成装置来执行,三维图像的生成装置具体可通过软件或硬件的形式实现,本申请实施例提供了一种三维图像的生成方法,该方法应用于智能设备中,该智能设备包括TOF摄像头与可见光摄像头,具体地,上述方法包括:

步骤S1:获取所述TOF摄像头与所述可见光摄像头在摄像范围内重叠的重叠成像;

步骤S2:在所述重叠成像中进行目标识别;

步骤S3:通过所述TOF摄像头对识别出的各个目标进行测距,得到各个目标的深度信息,所述深度信息为所述目标到所述TOF摄像头的距离信息;

步骤S4:依据所述深度信息生成所述重叠成像的三维图像,所述三维图像包括所述重叠成像中所有的所述目标。

本实施例中,上述TOF摄像头基于现有的TOF技术而制成,上述TOF技术为飞行时间(Time of Flight)技术的缩写,即传感器发出经调制的近红外光,遇物体后反射,传感器通过计算光线发射和反射的时间差或相位差,来换算摄像头与被拍摄景物的距离,得到深度信息。

如上述步骤S1所述,上述智能设备包括多种模式,例如单独通过TOF摄像头或可见光摄像头进行拍摄的模式,此时得到的分别为物体的三维轮廓图像以及普通的二维图像,此外还包括通过TOF摄像头或可见光摄像头生成的景物的三维图像的模式,当智能设备进入该模式后,3D建模模式开启,首先获取TOF摄像头与可见光摄像头在摄像范围内重叠的重叠成像,需知摄像头拍摄物体时均有对应的成像面,该成像面内的景物依据镜头的光心、焦距以及成像平面的大小而确定,TOF摄像头具有最远测距,为了便于描述,该最远测距记为L,TOF摄像头的摄像范围即在最远测距内,可见光摄像头并没有限制拍摄物体的距离,故两者在摄像范围内重叠的区域会在最远测距内,上述重叠成像为上述重叠区域的成像,且为可见光摄像头的可见成像中的一部分,故而在重叠成像中可显示被拍摄物体的外观,同时也可通过TOF摄像头获取当中的物体的深度信息。

如上述步骤S2所述,对上述重叠成像进行目标识别,例如通过模型识别出景物或通过比较预设数据库中的图片确定重叠成像中的景物,此处的景物即上述识别出的目标。在一个实施例中,通过预设的识别模型识别出重叠成像中的目标,则上述步骤S2,包括:

步骤S21:通过预设的识别模型对所述重叠成像所对应的图像进行识别,得到所述重叠成像中各个目标。

本实施例中,通过预设的识别模型对重叠成像所对应的图像进行识别,如利用AI智能识别算法,对重叠成像的像素做物体识别处理,识别重叠成像区域内的多个目标,例如识别出桌子,椅子,箱子等目标,上述预设识别模型可通过SSD算法或DSST算法实现,举例地,上述识别模型为SSD算法模型,该模型采用VGG16网络结构,该网络结构包括卷积层、全连接层以及池化层,首先通过CNN网络提取目标特征,然后通过VGG16网络进行计算得到各目标的分类,该分类包括桌子,沙发,椅子,冰箱等家庭常用器件类别。训练上述识别模型时,先采集样本得到数据集,样本中包括上述桌子,沙发,椅子,冰箱等多个类别的样本,然后输入预设的初始模型进行训练,再通过补损和增扩等方法提升SSD算法的性能,例如通过损失函数计算损失值,再通过网络反向传播计算参数梯度,然后更新模型的参数直到模型收敛,得到上述识别模型。

如上述步骤S3所述,通过TOF摄像头对识别出的各个目标进行测距,得到相应的深度信息,也即通过TOF技术对识别出的各个目标进行测距,若实际中每个目标在面对TOF摄像头时,其朝向TOF摄像头的平面为相对平面,则相对平面上的各个点到TOF摄像头的距离即为深度信息,在一个实施例中,上述步骤S3,包括:

步骤S31:对所述重叠成像中各目标进行标注,以获取各所述目标的轮廓信息,所述轮廓信息包括所述目标的轮廓的像素信息;

步骤S32:依据所述像素信息对所述目标进行测距,得到所述目标的轮廓内对应各个像素点的实物点到所述TOF摄像头的距离信息。

本实施例中,为了获取到更详细的深度信息,首先对重叠成像中的各个目标进行标注,在区分每个目标的同时可依据标注获取对应各个目标的轮廓信息,该轮廓信息包括目标轮廓的像素信息,目标轮廓的像素用于表示目标进行图像显示的整个轮廓,例如可见光摄像头的摄像头像素为一固定值,对目标进行标注时可通过矩形框框出目标,然后依据每个目标的边缘像素划分出每个目标的轮廓,按照每个目标对应的像素大小对目标进行测距,得到每个目标轮廓中的每个像素点的距离信息,也即上述深度信息,上述距离信息即是目标的轮廓内各实物点到TOF摄像头的距离信息,且各实物点与像素点一一对应,需知目标的每个面是由点组成,此处的实物点即为实际中目标朝向TOF摄像头那一面的各个点;需知像素是影像显示的基本单位,通过获取目标对应像素的深度信息,即得到用于显示的每个目标轮廓的深度信息,进而为后续建立每个目标的立体图形提供基础。

如上述步骤S4所述,获得每个目标的深度信息后,依据这些深度信息通过3D建模构建对应每个目标的三维图像,由于深度信息包括目标在成像时每个像素点所对应实物点在实际中到TOF摄像头的距离信息,通过这些信息可得到每个目标的三维外形,然后构建出目标的三维图,且上述目标为可见光摄像头的可见成像中的目标,故在构建上述目标的三维轮廓图的同时通过可见光摄像头的成像得到每个目标实际拍摄出的RGB原色,也即在现实中红(R)、绿(G)、蓝(B)三个颜色通道叠加显示出的颜色,从而使得构建出的三维图像与实际中的目标原物一致。

具体而言,上述步骤S4,包括:

步骤S41:依据所述深度信息计算出各所述目标的目标数据,所述目标数据包括各所述目标之间的实际距离以及各所述目标的轮廓信息;

步骤S42:在预设的实际坐标系中依据各所述目标的距离以及各所述目标的轮廓构建对应各所述目标的三维电子地图,以得到所述三维图像。

本实施例中,通过深度信息得到各个目标的目标数据,这些目标数据为目标的轮廓信息,如包括目标的长、宽、高、几何中心、质心,深度等,以及通过这些轮廓信息计算出的各个目标之间的实际距离,其中,首选计算各个目标的中心点,若目标的形状为规则形状,则可通过目标的轮廓计算出几何中心作为中心点,若目标的形状为不规则形状,则以目标的质心作为中心点,然后建立一个预设的实际坐标系,该实际坐标系中,以TOF摄像头做坐标原点或者将地面作为XY面的参照面,构建多个目标的三维坐标,再利用平面三角形边长计算,或者三维坐标内,空间几何两点坐标距离计算公式进行计算,得到各个目标之间的距离,例如,通过摄像头可以首先观测地平面,以地平面作为上述坐标系的XY参照面,以垂直于XY面的交汇处的垂线作为Z轴,则空间中两个目标中心点之间的距离,可通过空间中点到点的坐标距离公式求得到两者的距离,这样求得各个目标之间的距离,以此,构建目标的三维电子地图,从而得到上述三维图像。

在一个实施例中,上述步骤S1,包括:

步骤S11:获取所述可见光摄像头摄像范围内的可见成像;

步骤S12:依据所述TOF摄像头检测最大的物距,以及所述TOF摄像头与所述可见光摄像头的镜头光心的距离,在所述可见成像中获取所述重叠成像。

本实施例中,首先获取可见光摄像头摄像范围内的可见成像,再在该可见成像中找出由上述获取TOF摄像头与可见光摄像头在摄像范围内重叠的成像区域,具体可通过TOF摄像头检测最大的物距,以及TOF摄像头与可见光摄像头的镜头光心的距离来确定,此处的TOF摄像头检测最大的物距即上述TOF摄像头的最大测距,由于TOF摄像头具有最大测距,通过小孔成像原理可得TOF摄像头的拍摄范围以及对应的TOF成像,同理,也可以得到可见光摄像头的可摄范围以及成像面,在智能设备中,两个镜头的在同一平面中,故而可知两者镜头光心的距离越近,重叠部分越多,镜头光心距离越远,两者重叠部分越少,本实施例不限制两者镜头的距离,可根据实际需要而设置。

优选地,上述步骤S12,包括:

步骤S121:依据所述TOF摄像头的焦距以及所述TOF摄像头检测最大的物距,得到所述TOF摄像头的TOF摄像范围;

步骤S122:依据所述TOF摄像头与所述可见光摄像头的镜头光心的距离,以及所述可见光摄像头的焦距,得到所述可见光摄像头在所述TOF摄像范围内的摄像区域;

步骤S123:计算出依据在所述可见光摄像头成像时所述摄像区域占据所述可见成像的区域,得到所述重叠成像。

本实施例中,首先通过TOF摄像头的焦距以及所述TOF摄像头检测最大的物距,得到TOF摄像头的TOF摄像范围,由于在TOF摄像头中,焦距以及其最大物距均确定,对应的成像平面的大小也可以确定,通过小孔成像原理进而确定TOF摄像头的TOF摄像范围,对应的也可通过可见光摄像头的焦距确定可见光摄像头的可见摄像范围,而两者镜头光心距离固定,则得到两者的摄像重叠区域,也即可得到可见光摄像头在TOF摄像范围内的摄像区域,然后计算在摄像区域在可见光摄像头成像时所占据的区域,得到上述重叠成像,具体而言,可通过预设公式计算得到,例如通过相似三角形原理设定的公式来计算,也可以通过建立坐标系,计算出重叠成像的坐标。

举例地,参照图2,以所述TOF摄像头的镜头光心为原点O,以TOF摄像头与可见光摄像头的镜头光心连线所在的直线为Y轴,与以穿过原点并垂直于连线的直线作为X轴,建立坐标系;由于TOF摄像头存在有效测距,设TOF相机的有效测距L,可见光摄像头的镜头光心到TOF摄像头的镜头光心的距离为K。按照相似三角形原理,可以求得重叠成像边界的坐标值,再根据成像像素的大小,得到对应坐标的像素。

以过两个光心的其中一个平面为例:TOF摄像头的有效测距为L,TOF摄像头的焦距为F1,可见光摄像头的焦距为F2,TOF摄像头与可见光摄像头的光心距离为K,由成像原理得TOF摄像头与可见光摄像头的重叠摄像范围为BG,该范围在可见光摄像头的成像平面内的成像区域是DE,TOF摄像头的成像平面的上边缘坐标为A(X1,Y1),其中X1为焦距F1,Y1为TOF摄像头已知的成像平面的纵向尺寸,根据相似三角形原理,得到TOF摄像头最大物距下边缘B的纵坐标Y2,其横轴坐标X2为-L,则Y2=Y1*L/F1;可见光摄像头的光心坐标为C(0,K),对应的重叠成像的上边缘点D(X4,Y4),其纵坐标Y4为:Y4=|Y2-K|*F2/L+K,其横坐标X4为焦距F2,可见光摄像头成像平面下边缘点E的坐标为(X5,Y5),其中X5为可见光摄像头的焦距F2,Y5为可见光摄像头已知的成像平面的纵向尺寸。

如此得出一个平面内重叠成像区的上下边缘位置,按照上述方法同理可以得到所有平面内的重叠成像区的上下边缘位置,也即得到三维空间内的重叠成像区域的所有边缘坐标。

在一个实施例中,上述步骤S4之后,还包括:

步骤S5:获取所述三维图像中各所述目标的三维信息,所述三维信息包括各所述目标之间的距离信息;

步骤S6:将所述三维图像以及三维信息通过显示屏进行显示。

本实施例中,构建上述三维图像之后,可通过显示屏将上述三维图像显示出来,与此同时,还可以将各个目标的具体信息进行显示,以让用户更了解各目标的情况,首先获取各个目标的三维信息,该三维信息包括各个目标之间的距离信息以及各个目标的外形信息,例如长、宽、高等信息,然后在显示屏中将上述三维图像显示出来,同时在图像的目标上标出上述三维信息。

本申请还提出了一种三维图像的生成装置,用于执行上述三维图像的生成方法,三维图像的生成装置具体可通过软件或硬件的形式实现。参照图3,上述三维图像的生成装置包括:

获取成像单元100,用于获取所述TOF摄像头与所述可见光摄像头在摄像范围内重叠的重叠成像;

识别目标单元200,用于在所述重叠成像中进行目标识别;

目标测距单元300,用于通过所述TOF摄像头对识别出的各个目标进行测距,得到各个目标的深度信息,所述深度信息为所述目标到所述TOF摄像头的距离信息;

生成图像单元400,用于依据所述深度信息生成所述重叠成像的三维图像,所述三维图像包括所述重叠成像中所有的所述目标。

本实施例中,上述TOF摄像头基于现有的TOF技术而制成,上述TOF技术为飞行时间(Time of Flight)技术的缩写,即传感器发出经调制的近红外光,遇物体后反射,传感器通过计算光线发射和反射的时间差或相位差,来换算摄像头与被拍摄景物的距离,得到深度信息。

如上述获取成像单元100所述,上述智能设备包括多种模式,例如单独通过TOF摄像头或可见光摄像头进行拍摄的模式,此时得到的分别为物体的三维轮廓图像以及普通的二维图像,此外还包括通过TOF摄像头或可见光摄像头生成的景物的三维图像的模式,当智能设备进入该模式后,3D建模模式开启,首先获取TOF摄像头与可见光摄像头在摄像范围内重叠的重叠成像,需知摄像头拍摄物体时均有对应的成像面,该成像面内的景物依据镜头的光心、焦距以及成像平面的大小而确定,TOF摄像头具有最远测距,为了便于描述该最远测距记为L,TOF摄像头的摄像范围即在最远测距内,可见光摄像头并没有限制拍摄物体的距离,故两者在摄像范围内重叠的区域会在最远测距内,上述重叠成像为上述重叠区域的成像,且为可见光摄像头的可见成像中的一部分,故而在重叠成像中可显示被拍摄物体的外观,同时也可通过TOF摄像头获取当中的物体的深度信息。

如上述识别目标单元200所述,对上述重叠成像进行目标识别,例如通过模型识别出景物或通过比较预设数据库中的图片确定重叠成像中的景物,此处的景物即上述识别出的目标。在一个实施例中,通过预设的识别模型识别出重叠成像中的目标,则上述识别目标单元200,包括:

模型识别子单元,用于通过预设的识别模型对所述重叠成像所对应的图像进行识别,得到所述重叠成像中各个目标。

本实施例中,通过预设的识别模型对重叠成像所对应的图像进行识别,如利用AI智能识别算法,对重叠成像的像素做物体识别处理,识别重叠成像区域内的多个目标,例如识别出桌子,椅子,箱子等目标,上述预设识别模型可通过SSD算法或DSST算法实现,举例地,上述识别模型为SSD算法模型,该模型采用VGG16网络结构,该网络结构包括卷积层、全连接层以及池化层,首先通过CNN网络提取目标特征,然后通过VGG16网络进行计算得到各目标的分类,该分类包括桌子,沙发,椅子,冰箱等家庭常用器件类别。训练上述识别模型时,先采集样本得到数据集,样本中包括上述桌子,沙发,椅子,冰箱等多个类别的样本,然后输入预设的初始模型进行训练,再通过补损和增扩等方法提升SSD算法的性能,例如通过损失函数计算损失值,再通过网络反向传播计算参数梯度,然后更新模型的参数直到模型收敛,得到上述识别模型。

如上述目标测距单元300所述,通过TOF摄像头对识别出的各个目标进行测距,得到相应的深度信息,也即通过TOF技术对识别出的各个目标进行测距,若实际中每个目标在面对TOF摄像头时,其朝向TOF摄像头的平面为相对平面,则相对平面上的各个点到TOF摄像头的距离即为深度信息,在一个实施例中,上述目标测距单元300,包括:

标注目标子单元,用于对所述重叠成像中各目标进行标注,以获取各所述目标的轮廓信息,所述轮廓信息包括所述目标的轮廓的像素信息;

目标测距子单元,用于依据所述像素信息对所述目标进行测距,得到所述目标的轮廓内对应各个像素点的实物点到所述TOF摄像头的距离信息。

本实施例中,为了获取到更详细的深度信息,首先对重叠成像中的各个目标进行标注,在区分每个目标的同时可依据标注获取对应各个目标的轮廓信息,该轮廓信息包括目标轮廓的像素信息,目标轮廓的像素用于表示目标进行图像显示的整个轮廓,例如可见光摄像头的摄像头像素为一固定值,对目标进行标注时可通过矩形框框出目标,然后依据每个目标的边缘像素划分出每个目标的轮廓,按照每个目标对应的像素大小对目标进行测距,得到每个目标轮廓中的每个像素点的距离信息,也即上述深度信息,上述距离信息即是目标的轮廓内各实物点到TOF摄像头的距离信息,且各实物点与像素点一一对应,需知目标的每个面是由点组成,此处的实物点即为实际中目标朝向TOF摄像头那一面的各个点;需知像素是影像显示的基本单位,通过获取目标对应像素的深度信息,即得到用于显示的每个目标轮廓的深度信息,进而为后续建立每个目标的立体图形提供基础。

如上述生成图像单元400所述,获得每个目标的深度信息后,依据这些深度信息通过3D建模构建对应每个目标的三维图像,由于深度信息包括目标在成像时每个像素点所对应实物点在实际中到TOF摄像头的距离信息,通过这些信息可得到每个目标的三维外形,然后构建出目标的三维图,且上述目标为可见光摄像头的可见成像中的目标,故在构建上述目标的三维轮廓图的同时通过可见光摄像头的成像得到每个目标实际拍摄出的RGB原色,也即在现实中红(R)、绿(G)、蓝(B)三个颜色通道叠加显示出的颜色,从而使得构建出的三维图像与实际中的目标原物一致。

具体而言,上述生成图像单元400,包括:

计算数据子单元,用于依据所述深度信息计算出各所述目标的目标数据,所述目标数据包括各所述目标之间的实际距离以及各所述目标的轮廓信息;

构建图像子单元,用于在预设的实际坐标系中依据各所述目标的距离以及各所述目标的轮廓构建对应各所述目标的三维电子地图,以得到所述三维图像。

本实施例中,通过深度信息得到各个目标的目标数据,这些目标数据为目标的轮廓信息,如包括目标的长、宽、高、几何中心、质心,深度等,以及通过这些轮廓信息计算出的各个目标之间的实际距离,其中,首选计算各个目标的中心点,若目标的形状为规则形状,则可通过目标的轮廓计算出几何中心作为中心点,若目标的形状为不规则形状,则以目标的质心作为中心点,然后建立一个预设的实际坐标系,该实际坐标系中,以TOF摄像头做坐标原点或者将地面作为XY面的参照面,构建多个目标的三维坐标,再利用平面三角形边长计算,或者三维坐标内,空间几何两点坐标距离计算公式进行计算,得到各个目标之间的距离,例如,通过摄像头可以首先观测地平面,以地平面作为上述坐标系的XY参照面,以垂直于XY面的交汇处的垂线作为Z轴,则空间中两个目标中心点之间的距离,可通过空间中点到点的坐标距离公式求得到两者的距离,这样求得各个目标之间的距离,以此,构建目标的三维电子地图,从而得到上述三维图像。

在一个实施例中,上述获取成像单元100,包括:

获取成像子单元,用于获取所述可见光摄像头摄像范围内的可见成像;

获取重叠子单元,用于依据所述TOF摄像头检测最大的物距,以及所述TOF摄像头与所述可见光摄像头的镜头光心的距离,在所述可见成像中获取所述重叠成像。

本实施例中,首先获取可见光摄像头摄像范围内的可见成像,再在该可见成像中找出由上述获取TOF摄像头与可见光摄像头在摄像范围内重叠的成像区域,具体可通过TOF摄像头检测最大的物距,以及TOF摄像头与可见光摄像头的镜头光心的距离来确定,此处的TOF摄像头检测最大的物距即上述TOF摄像头的最大测距,由于TOF摄像头具有最大测距,通过小孔成像原理可得TOF摄像头的拍摄范围以及对应的TOF成像,同理,也可以得到可见光摄像头的可摄范围以及成像面,在智能设备中,两个镜头的在同一平面中,故而可知两者镜头光心的距离越近,重叠部分越多,镜头光心距离越远,两者重叠部分越少,本实施例不限制两者镜头的距离,可根据实际需要而设置。

优选地,上述获取重叠子单元,包括:

得到范围模块,用于依据所述TOF摄像头的焦距以及所述TOF摄像头检测最大的物距,得到所述TOF摄像头的TOF摄像范围;

获得区域模块,用于依据所述TOF摄像头与所述可见光摄像头的镜头光心的距离,以及所述可见光摄像头的焦距,得到所述可见光摄像头在所述TOF摄像范围内的摄像区域;

计算区域模块,用于计算出依据在所述可见光摄像头成像时所述摄像区域占据所述可见成像的区域,得到所述重叠成像。

本实施例中,首先通过TOF摄像头的焦距以及所述TOF摄像头检测最大的物距,得到TOF摄像头的TOF摄像范围,由于在TOF摄像头中,焦距以及其最大物距均确定,对应的成像平面的大小也可以确定,通过小孔成像原理进而确定TOF摄像头的TOF摄像范围,对应的也可通过可见光摄像头的焦距确定可见光摄像头的可见摄像范围,而两者镜头光心距离固定,则得到两者的摄像重叠区域,也即可得到可见光摄像头在TOF摄像范围内的摄像区域,然后计算在摄像区域在可见光摄像头成像时所占据的区域,得到上述重叠成像,具体而言,可通过预设公式计算得到,例如通过相似三角形原理设定的公式来计算,也可以通过建立坐标系,计算出重叠成像的坐标。

举例地,参照图2,以所述TOF摄像头的镜头光心为原点O,以TOF摄像头与可见光摄像头的镜头光心连线所在的直线为Y轴,与以穿过原点并垂直于连线的直线作为X轴,建立坐标系;由于TOF摄像头存在有效测距,设TOF相机的有效测距L,可见光摄像头的镜头光心到TOF摄像头的镜头光心的距离为K。按照相似三角形原理,可以求得重叠成像边界的坐标值,再根据成像像素的大小,得到对应坐标的像素。

以过两个光心的其中一个平面为例:TOF摄像头的有效测距为L,TOF摄像头的焦距为F1,可见光摄像头的焦距为F2,TOF摄像头与可见光摄像头的光心距离为K,由成像原理得TOF摄像头与可见光摄像头的重叠摄像范围为BG,该范围在可见光摄像头的成像平面内的成像区域是DE,TOF摄像头的成像平面的上边缘坐标为A(X1,Y1),其中X1为焦距F1,Y1为TOF摄像头已知的成像平面的纵向尺寸,根据相似三角形原理,得到TOF摄像头最大物距下边缘B的纵坐标Y2,其横轴坐标X2为-L,则Y2=Y1*L/F1;可见光摄像头的光心坐标为C(0,K),对应的重叠成像的上边缘点D(X4,Y4),其纵坐标Y4为:Y4=|Y2-K|*F2/L+K,其横坐标X4为焦距F2,可见光摄像头成像平面下边缘点E的坐标为(X5,Y5),其中X5为可见光摄像头的焦距F2,Y5为可见光摄像头已知的成像平面的纵向尺寸。

如此得出一个平面内重叠成像区的上下边缘位置,按照上述方法同理可以得到所有平面内的重叠成像区的上下边缘位置,也即得到三维空间内的重叠成像区域的所有边缘坐标。

在一个实施例中,上述三维图像的生成装置,还包括:

获取距离单元,用于获取所述三维图像中各所述目标的三维信息,所述三维信息包括各所述目标之间的距离信息;

显示图像单元,用于将所述三维图像以及三维信息通过显示屏进行显示。

本实施例中,构建上述三维图像之后,可通过显示屏将上述三维图像显示出来,与此同时,还可以将各个目标的具体信息进行显示,以让用户更了解各目标的情况,首先获取各个目标的三维信息,该三维信息包括各个目标之间的距离信息以及各个目标的外形信息,例如长、宽、高等信息,然后在显示屏中将上述三维图像显示出来,同时在图像的目标上标出上述三维信息。

参考图4,本申请还提供了一种计算机可读的存储介质21,存储介质21中存储有计算机程序22,当其在计算机上运行时,使得计算机执行以上实施例所描述三维图像的生成方法。

参考图5,本申请还提供了一种包含指令的计算机设备34,计算机设备包括存储器31和处理器33,存储器31存储有计算机程序22,处理器33执行计算机程序22时实现以上实施例所描述的三维图像的生成方法。

在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。

所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。

以上所述仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。

16页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:一种VR全景视频拍摄互动体验装置

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!

技术分类