一种数据处理方法、设备及系统

文档序号:49543 发布日期:2021-09-28 浏览:23次 >En<

阅读说明:本技术 一种数据处理方法、设备及系统 (Data processing method, equipment and system ) 是由 夏循龙 邓兵 高强华 于 2020-03-24 设计创作,主要内容包括:本申请公开了一种数据处理方法、设备及系统,本申请将毫米波雷达信息引入对移动目标的外轮廓的计算中,降低了移动目标的外轮廓检测的成本,而且满足了不同场景的测量要求并保证了测量精度,并且,毫米波雷达信息中包括速度信息,实现了对无需停止下来的移动目标的外轮廓检测。(The application discloses a data processing method, equipment and a system, millimeter wave radar information is introduced into the calculation of the outline of a moving target, the cost of outline detection of the moving target is reduced, the measurement requirements of different scenes are met, the measurement precision is guaranteed, and in addition, the millimeter wave radar information comprises speed information, so that the outline detection of the moving target which does not need to be stopped is realized.)

一种数据处理方法、设备及系统

技术领域

本申请涉及但不限于电子应用技术,尤指一种数据处理方法、设备及系统。

背景技术

在公路环境中,存在部分客/货用途的车辆使用者为了获得更大的经济利益,通过改装车辆尺寸增加车辆容积,达到增加车辆运力的目的。而这一举措直接导致车辆超载,从而增大交通事故风险。

另外,在部分特殊路段,比如高架、桥梁、隧道等,对于车辆重量、体积有着严格要求,如果非法改装的车辆行驶在这些路段上,非常容易导致高架、桥梁损坏,隧道堵塞等严重情况。

由此可见,对移动目标如车辆外轮廓如长、宽、高等信息的检测,对于预防上述问题是非常重要的。

发明内容

本申请提供一种数据处理方法、设备及系统,能够节约成本、满足不同场景的测量要求并能保证测量精度。

本发明实施例提供了一种数据处理方法,包括:

获取移动目标不同区域的图像信息,利用毫米波雷达获取移动目标的毫米波雷达信息;

根据所述图像信息和所述毫米波雷达信息,获取移动目标的外轮廓信息。

在一种示例性实例中,所述获取移动目标不同区域的图像信息之前,还包括:

对所述获取移动目标不同区域的图像信息的装置和所述毫米波雷达进行标定处理,对齐所述图像信息与所述毫米波雷达信息。

在一种示例性实例中,基于深度学习框架获取所述移动目标不同区域的图像信息。

在一种示例性实例中,所述获取移动目标不同区域的图像信息,包括:

基于检测出的所述移动目标的长方形区域,基于深度学习框架的语义分割技术,提取所述移动目标不同区域的图像信息。

在一种示例性实例中,所述移动目标包括目标车辆,所述移动目标不同区域包括:车头区域、车尾区域、车顶区域、车侧面区域。

在一种示例性实例中,所述毫米波雷达信息包括:距离信息、速度信息。

在一种示例性实例中,所述对获取移动目标不同区域的图像信息的装置和所述毫米波雷达进行标定处理,包括:

所述获取移动目标不同区域的图像信息的装置与所述毫米波雷达之间的标定,包括所述获取移动目标不同区域的图像信息的装置和所述毫米波雷达的多套设备之间的标定,以及所述获取移动目标不同区域的图像信息的装置、所述毫米波雷达和地面之间的标定。

在一种示例性实例中,所述获取移动目标的外轮廓信息,包括:

根据所述图像信息与所述毫米波雷达信息对齐后的数据、所述标定处理后得到的地面空间方程、所述移动目标的位置、以及所述移动目标的各个区域的位置,结合空域稀疏点云与地面空间方程计算所述移动目标的高度,基于空域稀疏点云计算所述移动目标的宽度,基于时域稀疏点云计算所述移动目标的长度。

本申请还提供了一种计算机可读存储介质,存储有计算机可执行指令,所述计算机可执行指令用于执行上述任一项所述的数据处理方法。

本申请又提供了一种实现数据处理的设备,包括存储器和处理器,其中,存储器中存储有以下可被处理器执行的指令:用于执行上述任一项所述的数据处理方法的步骤。

本申请在提供了一种数据处理系统,包括:至少两套检测设备、计算设备;其中,

检测设备包括:摄像装置、毫米波雷达;其中,

摄像装置,用于获取移动目标的图像信息;

毫米波雷达,用于获取移动目标的毫米波雷达信息;

计算设备,用于获取移动目标不同区域的图像信息;根据获得的移动目标不同区域的图像信息和所述毫米波雷达信息,获取移动目标的外轮廓信息。

在一种示例性实例中,所述计算设备还用于:

对所述摄像装置和所述毫米波雷达进行标定处理,对齐所述移动目标不同区域的图像信息与所述毫米波雷达信息。

本申请还提供了一种数据处理方法,包括:

获取目标车辆不同区域的图像信息,利用毫米波雷达获取目标车辆的毫米波雷达信息;

根据所述图像信息和所述毫米波雷达信息,获取目标车辆的外轮廓信息。本申请实施例将毫米波雷达信息引入对移动目标的外轮廓的计算中,降低了移动目标的外轮廓检测的成本,而且满足了不同场景的测量要求并保证了测量精度,并且,毫米波雷达信息中包括速度信息,实现了对无需停下来的移动目标的外轮廓检测,比如实现了非停车式的车辆外轮廓检测。

本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。

附图说明

附图用来提供对本申请技术方案的进一步理解,并且构成说明书的一部分,与本申请的实施例一起用于解释本申请的技术方案,并不构成对本申请技术方案的限制。

图1为本申请数据处理方法的流程示意图;

图2为本申请实现摄像头与毫米波雷达之间的标定的实施例的示意图;

图3为本申请包括摄像头与毫米波雷达的多套设备在道路上安装的实施例的示意图;

图4为本申请实现包括摄像头与毫米波雷达的多套设备之间的标定的实施例的示意图;

图5为本申请实现摄像头、毫米波雷达和地面之间的标定的实施例的示意图;

图6为本申请数据处理系统的组成架构示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚明白,下文中将结合附图对本申请的实施例进行详细说明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互任意组合。

在本申请一个典型的配置中,计算设备包括一个或多个处理器、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括非暂存电脑可读媒体(transitory media),如调制的数据信号和载波。

在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行。并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。

图1为本申请数据处理方法的流程示意图,如图1所示,包括:

步骤100:获取移动目标不同区域的图像信息,利用毫米波雷达获取移动目标的毫米波雷达信息。

在一种示例性实例中,在公路环境中,移动目标可以是在公路上移动的目标车辆。

在一种示例性实例中,可以基于深度学习框架实现对移动目标的图像检测,具体实现并不用于限定本申请的保护范围,比如可以利用YOLO-V3(一种目标检测算法)、残差网络(iResNet)、深度神经网络中用于视觉识别的空间金字塔池(SPPNet,Spatial PyramidPooling in Deep Convolutional Networks for Visual Recognition)等通用框架实现对目标车辆的图像检测,可以知道,被检测出的移动目标均会由如长方形区域来表示。其中,YOLO取自于You only live once,YOLO是one stage的物件检测方法,也就是说,只需要对图片做一次卷积神经网络(CNN)架构便能够判断图片内的物体位置与类别,因此可以提升辨识速度。

在一种示例性实例中,基于被检出的移动目标的长方形区域,采用基于深度学习框架的语义分割技术,比如SegNet、UNet++、金字塔场景解析网络(PSPNet)等,可以实现提取移动目标的不同区域,如目标车辆不同区域的图像信息包括如车头区域、车尾区域、车顶区域、车侧面区域等。其中,SegNet是一个由剑桥大学团队开发的图像分割的开源项目,该项目可以对图像中的物体所在区域进行分割,例如车,马路,行人等,并且精确到像素级别。UNet发表于2015年,属于全卷积神经网络(FCN)的一种变体。Unet的初衷是为了解决生物医学图像方面的问题,由于效果确实很好,后来也被广泛的应用在语义分割的各个方向,比如卫星图像分割,工业瑕疵检测等。

毫米波雷达(Millimeter wave radar)工作在毫米波波段,工作频域为30~300GHz,毫米波雷达是波长介于微波和厘米波之间的雷达,可以检测出目标的距离和速度信息。毫米波雷达兼有微波雷达和光电雷达的优点,与厘米波相比,毫米波具有体积小、质量轻和空间分辨率高的特点,与红外、激光、可见光等相比,毫米波穿透雾、烟、灰尘的能力强,具有全天候全天时的特点。

在一种示例性实例中,在上述被检测出的移动目标的区域内如长方形区域内,包括有该移动目标的毫米波雷达信息,如距离信息、速度信息。

在一种示例性实例中,本申请步骤100之前,还包括:

对获取移动目标不同区域的图像信息的装置如摄像头和毫米波雷达进行标定处理,以实现检测的图像信息与毫米波雷达检测的毫米波雷达信息的对齐。

步骤101:根据获得的移动目标不同区域的图像信息和移动目标的毫米波雷达信息,获取移动目标的外轮廓信息。

本申请强调的是,将毫米波雷达信息引入对移动目标的外轮廓的计算中,由于毫米波雷达信息的优点,降低了移动目标的外轮廓检测的成本,而且满足了不同场景的测量要求并保证了测量精度,并且,毫米波雷达信息中包括速度信息,实现了对无需停下来的移动目标的外轮廓检测,比如实现了非停车式的车辆外轮廓检测。

在一种示例性实例中,步骤100之前的对获取移动目标不同区域的图像信息的设备如摄像头和毫米波雷达进行标定处理,以实现图像检测结果与毫米波雷达检测结果的对齐,可以包括:

摄像头与毫米波雷达之间的标定,包括摄像头与毫米波雷达的多套设备之间的标定,以及摄像头、毫米波雷达和地面之间的标定。

在一种示例性实例中,摄像头与毫米波雷达之间的标定,可以包括:

对于任意针孔模型摄像头,均可通过标定(如张正友标定算法)获取内参并消除畸变。假设摄像头已经标定,内参K已知且没有畸变,如公式(1)所示,

当摄像头与毫米波雷达的相对位置固定后,存在旋转和平移关系,如图2所示,图2中R表示旋转矩阵,T表示平移矩阵,如公式(2)、公式(3)所示:

T=[t1 t2 t3] (3)

对于雷达坐标系中的某个点Pradar_1=[x1 y1 z1],其在摄像机中的观测坐标假设为pcamera_1=[u1 v1 1],那么,公式(4)所示等式成立:

pcamera_1=K*[Pradar_1*R+T] (4)

由于旋转矩阵R、平移矩阵T均有3个自由度,因此,一共有6个未知数待求解,通过标定工装(类似于角反射器)实现成对的[Pradar_i,pcamera_i]的提取,通过至少4对点即可求解出旋转矩阵R、平移矩阵T。通常,考虑到噪声影响,一般会提取上百对点对来实现对旋转矩阵R、平移矩阵T的求解。这样,就完成了摄像头与毫米波雷达之间的标定。

在一种示例性实例中,包括摄像头与毫米波雷达的多套设备之间的标定,可以包括:

为了实现移动目标的外轮廓尺寸的检测,需要获取移动目标的宽度,因此,至少需要2套包括摄像头与毫米波雷达的设备实现对移动目标左右两侧信息的采集。在一种实施例中,以具有安装在道路两侧的均包括摄像头与毫米波雷达的两套设备为例进行描述,如图3所示,每套设备包括一个摄像机、一个毫米波雷达,安装在立杆上,两套设备分别位于道路两侧,尽量对称安装,在二者的共同覆盖区域内即可实现车辆外轮廓信息的采集。

如图4所示,道路两侧的两套设备之间也存在旋转矩阵R’,平移矩阵T’的相互关系,假设以道路左侧的设备为参考坐标系,P左侧=[x左1 y左1 z左1]为空间中某一点在左侧设备中的物理坐标,那么,其对应在右侧的坐标为P左侧=[x右1 y右1 z右1],,则有:P左侧=P右侧*R’+T’。

同样,通过标定工装(类似于角反射器)即可实现成对的[P左侧,P右侧]的提取,通过至少4对点即可求解出旋转矩阵R’、平移矩阵T’。通常,考虑到噪声影响,一般会提取上百对点对来实现对旋转矩阵R’、平移矩阵T’的求解。这样,就完成了包括摄像头与毫米波雷达的多套设备之间的标定。

需要说明的是,以移动目标为目标车辆为例,包括摄像头与毫米波雷达的设备也可以包括三套,这样,可以直接获取车头区域和车尾区域的图像信息,更便于计算车长信息,提高车辆外轮廓信息的获取速度。另外,包括摄像头与毫米波雷达的设备也可以包括四以上,以提高车辆外轮廓信息的检测精度。

在一种示例性实例中,摄像头、毫米波雷达和地面之间的标定,可以包括:

在进行多套设备之间的标定环节时,会紧贴地面不同区域放置标定工装(类似于角反射器),如图5所示,采集在左侧设备坐标系下的多个地面点空间坐标P地面_i=[x地i y地iz地i],地面空间方程如公式(5)所示,该方程共有4个未知数,在地面上采集至少3个点即可求解该方程:

a*x+b*y+c*z+d=0 (5)

在一种示例性实例中,步骤101中的获取移动目标的外轮廓信息,可以包括:

根据获得的摄像头、毫米波雷达信息对齐后的数据,地面空间方程,移动目标的位置,以及移动目标各个区域的位置,比如目标车辆的车头区域位置、车尾区域位置、车顶区域位置、车侧面区域位置等区域位置信息,再结合空域稀疏点云与地面空间方程计算移动目标的高度,基于空域稀疏点云计算移动目标的宽度,基于时域稀疏点云计算移动目标的长度。

在一种示例性实例中,以移动目标为车辆为例,结合空域稀疏点云与地面空间方程计算车辆高度,可以包括:

根据车顶区域数据,提取位于该区域内的含有毫米波雷达测距获得的距离信息的点若干,如公式(6)~公式(8)所示:

pcamera_i=K*Pi (6)

Pcamera_i=[ui vi1] (7)

Pi=[xi yi zi] (8)

其中,K为相机内参,在标定过程中已知,如公式(1)所示;pcamera_i为该点在摄像机的像素坐标,通过该点在图片的位置即可获得;Pi为该点在物理空间的位置,其中xi、yi未知,zi通过毫米波雷达测距获得。

基于公式(6)~公式(8),可求解出xi、yi值,这样,Pi即可已知,那么,车顶距离地面的高度即为求解点Pi到地面所在平面a*x+b*y+c*z+d=0的距离。基于该点Pi的车辆高度Hi可通过公式(9)获得:

同一时刻车顶会有多个Pi,在车辆运行的不同时刻也会有多个Pi,同样来自安装在道路左侧、右侧的设备会有各自不同的多个Pi点,如果将右侧设备的多个Pi点基于标定结果投影至左侧坐标系下,那么,每个点都对应了不同的车辆高度,最后通过如公式(10)的平均值可以计算出车辆的高度H:

在一种示例性实例中,以移动目标为车辆为例,基于空域稀疏点云计算车辆宽度,可以包括:

位于道路左侧的设备检测到目标车辆的一侧,位于道路右侧的设备检测到目标车辆的另一侧。分别根据目标车辆左侧和右侧的数据,提取位于目标车辆侧面车身区域内的含有毫米波雷达测距信息的若干点,并通过类似方法可以求解出车辆左侧和右侧的点Pi,假设将来自位于车辆左侧的设备的点记为P左_i,将来自位于车辆右侧的设备的点记P右_i

根据左侧点集P左_i可以得到左侧车身的平面方程,如公式(11)所示:

a*x+b*y+c*z+d=0 (11)

这样,可以求解位于车辆右侧的设备的任意点P右_i=[x右_i y右_i z右_i]到左侧车身的平面方程的距离,如公式(12)所示:

同理,右侧车身的平面方程如公式(13)所示:

a*x+b*y+c*z+d=0 (13)

则位于车辆左侧的设备的任意点P左_i=[x左_i y左_i z左_i]到右侧车身的平面方程的距离,如公式(14)所示:

根据公式(12)和公式(14),如公式(15)所示可以得到目标车辆的宽度:

在一种示例性实例中,以移动目标为车辆为例,基于时域稀疏点云计算车辆长度,可以包括:

以具有安装在道路两侧的均包括摄像头与毫米波雷达的两套设备为例进行描述,在这种场景下,由于只在道路两侧安装了两套设备,在单一时刻是不能同时获得车头区域和车尾区域的图像的,所以,需要在不同时刻分别计算车头区域和车尾区域的信息。

假设时刻T1获取到车头区域信息,提取位于车头区域内的包括有毫米波雷达测距信息的若干点,并求解出车头点坐标P头_i。假设时刻T2获取到车尾区域信息,提取位于车尾区域内的包括有毫米波雷达测距信息的若干点,并求解出车头点坐标P尾_i

本申请中,毫米波雷达具有测速能力,假设在时刻T1,时刻T2期间,目标车辆基本以直线速度运动,那么,整个时间段内移动目标如车辆运行长度如公式(16)所示:

采用上文中基于空域稀疏点云计算车辆宽度的获取方法,可以得到所有车头点到车尾平面、车尾点到车头平面的距离,分别为L头2尾_i、L尾2头_i。那么,目标车辆的长度L如公式(17)所示:

在一种示例性实例中,本申请还可以包括:

利用获得的移动目标的外轮廓信息,确定移动目标是否违章,比如以移动目标为车辆为例:对于限高、限宽等道路上,是否出现超限车辆。进一步地,还可以对违章车辆进行警告或现场违章处理等。

本申请还提供一种计算机可读存储介质,存储有计算机可执行指令,所述计算机可执行指令用于执行上述任一项的数据处理方法。

本申请再提供一种实现数据处理的设备,包括存储器和处理器,其中,存储器中存储有以下可被处理器执行的指令:用于执行上任一项所述的数据处理方法的步骤。

本申请还提供一种数据处理方法,包括:

获取目标车辆不同区域的图像信息,利用毫米波雷达获取目标车辆的毫米波雷达信息;

根据获得的图像信息和毫米波雷达信息,获取目标车辆的外轮廓信息。

在一种示例性实例中,在获取目标车辆的外轮廓信息之后,还可以包括:

根据获得的目标车辆的外轮廓信息对不满足公路行驶要求的情况进行提示或处理。比如根据获得的目标车辆的外轮廓信息确定出车辆超载如车辆重量、体积超出规定范围,会进行相应提示或处理,避免了特殊路段如高架、桥梁损坏,隧道堵塞等严重情况,降低了交通事故风险。

在一种示例性实例中,在获取目标车辆的外轮廓信息之后,还可以包括:

根据获得的目标车辆的外轮廓信息确定车辆的车型,以便可以根据车型进行收费、或选择更合适的行驶路线等。比如,在机场、停车场等处,按照本申请提供的数据处理方法,实现了无需停车即可自动根据行驶车辆的车型信息进行自动扣款;再如:对于自动驾驶、导航等场景,也可以在某些特殊路段到来之前,自动根据行驶车辆的车型信息提前确定该车辆是否适合驶入这些特殊路段,如果不适合,可以自动进行行驶路线更新,这样,避免了特殊路段如高架、桥梁损坏,隧道堵塞等严重情况,降低了交通事故风险。

本申请还提供一种数据处理系统,如图6所示,包括:至少两套检测设备、计算设备;其中,

检测设备包括:摄像装置、毫米波雷达;其中,

摄像装置,用于获取移动目标的图像信息;

毫米波雷达,用于获取移动目标的毫米波雷达信息;

计算设备,用于获取移动目标不同区域的图像信息;根据获得的移动目标不同区域的图像信息和毫米波雷达信息,获取移动目标的外轮廓信息。

在一种示例性实例中,计算设备还用于:对摄像装置如摄像头和毫米波雷达进行标定处理,以实现检测的图像信息与毫米波雷达检测的毫米波雷达信息的对齐。

在一种示例性实例中,当车辆外轮廓检测系统包括两套检测设备时,两套检测设备分别位于道路两侧,尽量对称安装。

在一种示例性实例中,当车辆外轮廓检测系统包括三套检测设备时,其中两套检测设备分别位于道路两侧,尽量对称安装,第三套检测设备设置在道路的其中一侧并与该侧中的另一套检测设备保持一定距离。

虽然本申请所揭露的实施方式如上,但所述的内容仅为便于理解本申请而采用的实施方式,并非用以限定本申请。任何本申请所属领域内的技术人员,在不脱离本申请所揭露的精神和范围的前提下,可以在实施的形式及细节上进行任何的修改与变化,但本申请的专利保护范围,仍须以所附的权利要求书所界定的范围为准。

14页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:一种换脸识别方法、装置、设备和介质

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!