堆积物整体体积的检测方法、装置及电子设备

文档序号:551866 发布日期:2021-05-14 浏览:25次 >En<

阅读说明:本技术 堆积物整体体积的检测方法、装置及电子设备 (Method and device for detecting overall volume of deposit and electronic equipment ) 是由 汤斐 于 2021-02-04 设计创作,主要内容包括:本申请涉及堆积物整体体积的检测方法、装置及电子设备,属于物流技术领域,本申请的方法包括,预先获取目标检测区域的第一图像并对其进行标注处理,确定该目标检测区域的额定立方体边框、并配置该额定立方体的额定方数;基于获取所述第一图像时的拍摄机位及参数、实时获取所述目标检测区域的第二图像,对所述第二图像进行堆积元素检测并基于检测结果进行堆积物的体积立方体绘制,得到实际立方体边框;根据实际立方体边框和额定立方体边框的像素尺寸数据,计算体积立方体与额定立方体的体积比值,将体积比值与额定方数的乘积确定为第二图像中堆积物的体积检测值。本申请有助于更好的实现物流分拣场地中堆积快递的整体体积检测。(The method comprises the steps of obtaining a first image of a target detection area in advance, carrying out labeling processing on the first image, determining a rated cube frame of the target detection area, and configuring the rated square number of the rated cube; acquiring a second image of the target detection area in real time based on the camera position and parameters when the first image is acquired, detecting stacking elements of the second image, and drawing a volume cube of a stacking object based on a detection result to obtain an actual cube frame; and calculating the volume ratio of the volume cube to the rated cube according to the pixel size data of the actual cube border and the rated cube border, and determining the product of the volume ratio and the rated square number as the volume detection value of the accumulated object in the second image. This application helps piling up the whole volume detection of express delivery in better realization commodity circulation letter sorting place.)

堆积物整体体积的检测方法、装置及电子设备

技术领域

本申请属于物流技术领域,具体涉及一种堆积物整体体积的检测方法、装置及电子设备。

背景技术

随着物流快递行业快递的发展,加上物联网技术不断的更新,使得一些基于摄像头的AI应用场景在快递物流行业可以不断的落地。传统的物流分拣场地可以通过摄像头的AI视频技术可以采集到更多和业务相关的结构化数据,补充之前都是靠线下人工采集等里,现在靠采集设备摄像头等,智能实时的把数据采集到线上,可以附能业务,给优化流程提供的数据基础。各大快递物流公司以及感受到IOT的技术浪潮,将普通的摄像头变为智能的IOT设备,实现了场站的数字化可视化,管理的智能化。既不增加设备成本,又能明显提升效率降低成本。用科技来驱动快递物流降本增效。

相关技术中,在快递体积检测这个细分的领域,目前大多都在传送带上对单个快递采用工业相机或深度相机,进行体积检测。比如上海实干科技供应的体积检测设备。这种设备和方法只能把单个快递过检测设备才能检测体积。无法实现摄像头场景化的堆积整体体积检测。

还有一些是基于图像的2D转3D技术,通过多张的2D图像使用深度学习的算法构建3D模型进行检测体积。这种方案对于场站快递堆积场景很难采集到多视图的样本数据,条件限制下,操作场地不可能在堆积的区域使用多机位的摄像头,即使可以设置多机位摄像,也造成了硬件成本的增加。

还有一些物流公司,尝试用堆积图像分类来做。把堆积图像分成30%,60%,90%的分类,然后通过数据标注强行划分类型。这其实存在一个问题,样本标注的分类如何界定,因为根据场站摄像头机位的远近不同,成像效果和大小也不同,不同人员做样本标注的时候,自己也很难界定这个分类的。就算可以通过一些人为经验的约束可以标注,那么训练出来的模型也只能进行很粗粒度的划分无法精确到具体的堆积体积的方数。而且如果场站的环境变换还需要重新标注堆积分类样本进行训练,即模型不能泛化,换一个分拣场地效果就不好,需要重新训练。

上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。

发明内容

为至少在一定程度上克服相关技术中存在的问题,本申请提供一种堆积物整体体积的检测方法、装置及电子设备,有助于更好的实现物流分拣场地中堆积快递的整体体积检测。

为实现以上目的,本申请采用如下技术方案:

第一方面,

本申请提供一种堆积物整体体积的检测方法,该方法包括:

预先获取目标检测区域的第一图像并对其进行标注处理,确定该目标检测区域的额定立方体边框、并配置该额定立方体的额定方数;

基于获取所述第一图像时的拍摄机位及参数、实时获取所述目标检测区域的第二图像,对所述第二图像进行堆积元素检测并基于检测结果进行堆积物的体积立方体绘制,得到实际立方体边框;

根据所述实际立方体边框和所述额定立方体边框的像素尺寸数据,计算所述体积立方体与所述额定立方体的体积比值,将所述体积比值与所述额定方数的乘积确定为第二图像中堆积物的体积检测值。

可选地,预先获取目标检测区域的第一图像并对其进行标注处理,确定该目标检测区域的额定立方体边框、并配置该额定立方体的额定方数,包括:

针对所述第一图像,采用专有标注软件人工标注目标检测区域地面范围的各角点,之后整体拖动抬升以确定顶面角点,从而实现所述额定立方体的绘制,确定所述额定立方体边框;

计算确定目标检测区域中固定参考物的实际长度与其在第一图像中的像素长度的参考比例值,基于该参考比例值计算所述额定立方体的体积值并进行关联处理,以完成对所述额定立方体的额定方数的配置。

可选地,所述对第二图像进行堆积元素检测并基于检测结果进行堆积物的体积立方体绘制,得到实际立方体边框,包括:

采用预选训练好的分割算法模型推理预测所述第二图像中堆积物的掩摸区域;

基于所述额定立方体边框的坐标和三角函数对所述掩摸区域进行视图切割,得到所述掩模区域在各视图的掩模;

基于各所述掩模在相应视图中相对于额定立方体对应面的面积占比,计算确定体积立方体的长度、宽度、高度像素值;

根据所述体积立方体的长度、宽度、高度像素值进行体积立方体绘制,以得到所述实际立方体边框。

可选地,所述采用预选训练好的分割算法模型推理预测所述第二图像中堆积物的掩摸区域,具体包括:

针对所述第二图像,基于所述额定立方体边框进行裁取处理;

采用预选训练好的分割算法模型对裁取得到的图像进行推理预测,以得到所述掩模区域。

可选地,所述针对所述第二图像,基于所述额定立方体边框进行裁取处理,具体为:

对所述额定立方体边框上各点的坐标值进行解析,确定其中的坐标极值min(x)、min(y)、max(x)、max(y);

以(min(x),min(y))和(max(x),max(y))为对角点来构建裁取矩形框,根据所述裁取矩形框来对所述第二图像进行裁取处理。

可选地,所述根据所述体积立方体的长度、宽度、高度像素值进行体积立方体绘制,具体为:

将所述体积立方体的长度像素值调整为所述额定立方体的底部框长的像素值,根据所述体积立方体的宽度像素、高度像素值和调整后的长度像素值进行体积立方体绘制;

其中,在绘制过程中,以所述额定立方体边框下侧一顶点作为坐标原点,并使所述体积立方体框中与该顶点相连的框线、与所述额定立方体边框中相应框线的方向保持一致。

可选地,所述分割算法模型包括yolact算法模型。

可选地,所述目标检测区域包括物流场站的装卸口区域。

第二方面,

本申请提供一种堆积物整体体积的检测装置,该装置包括:

标注处理模块,其用于对预先获取的目标检测区域的第一图像进行标注处理,确定该目标检测区域的额定立方体边框、并配置该额定立方体的额定方数;

检测绘制处理模块,其用于对所述第二图像进行堆积元素检测并基于检测结果进行堆积物的体积立方体绘制,得到实际立方体边框,其中,所述第二图像为,采用拍摄获取所述第一图像时的拍摄机位及参数、实时拍摄所述目标检测区域而获取的图像;

体积确定模块,其用于根据所述实际立方体边框和所述额定立方体边框的像素尺寸数据,计算所述体积立方体与所述额定立方体的体积比值,将所述体积比值与所述额定方数的乘积确定为第二图像中堆积物的体积检测值。

第三方面,

本申请提供一种电子设备,包括:

存储器,其上存储有可执行程序;

处理器,用于执行所述存储器中的所述可执行程序,以实现上述所述方法的步骤。

本申请采用以上技术方案,至少具备以下有益效果:

本申请采用图像视觉体积构建技术,只要在检测区域标注一下额定立方体和额定方数,就可以在额定立方体构建实际堆积立方体,通过构建的额定立方体和实际堆积立方体的比等于额定方数和实际方数的比来计算最终的实际堆积体积方数。该方法无需添加任何的物理设备,基于物流场站已经安装的单路普通摄像头就可进行体积检测,且该方法中涉及到的模型能够很好的泛化,无需样本大量标注,便于快速部署上线。

本发明的其他优点、目标,和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书,权利要求书,以及附图中所特别指出的结构来实现和获得。

附图说明

附图用来提供对本申请的技术方案或现有技术的进一步理解,并且构成说明书的一部分。其中,表达本申请实施例的附图与本申请的实施例一起用于解释本申请的技术方案,但并不构成对本申请技术方案的限制。

图1为本申请一个实施例提供的堆积物整体体积的检测方法的流程示意图;

图2为本申请一个实施例提供的堆积物整体体积的检测方法中额定立方体的绘制示意说明图;

图3为本申请一个实施例提供的堆积物整体体积的检测方法中额定立方体的额定方数的配置效果示意说明图;

图4为本申请一个实施例提供的堆积物整体体积的检测方法中掩模区域的推理预测效果示意说明图;

图5为本申请一个实施例提供的堆积物整体体积的检测方法中体积立方体绘制的示意说明图;

图6为本申请一个实施例提供的堆积物整体体积的检测方法中堆积物的体积检测值的确定效果示意说明图;

图7为本申请一个实施例提供的堆积物整体体积的检测方法在多个检测区域的应用示意说明图;

图8为本申请一个实施例提供的堆积物整体体积的检测装置的结构示意图;

图9为本申请一个实施例提供的电子设备的结构示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚,下面将对本申请的技术方案进行详细的描述。显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所得到的所有其它实施方式,都属于本申请所保护的范围。

如背景技术中所述,现有实际中对快递体积检测的相关技术存在种种缺陷,针对于此,本申请提出一种堆积物整体体积的检测方法,有助于更好的实现物流分拣场地中堆积快递的整体体积检测。

在一实施例中,如图1所示,本申请中的堆积物整体体积的检测方法,包括如下步骤:

步骤S110,预先获取目标检测区域的第一图像并对其进行标注处理,确定该目标检测区域的额定立方体边框、并配置该额定立方体的额定方数。

本申请该实施例的应用场景为物流分拣场站,这里的目标检测区域为物流场站的装卸口区域,本申请中的装卸口的含义为,将场站中每个物流车辆停的位置定义为一个装卸口,每个装卸口都一个传送带负责传送货,在传送带的两侧会堆积快递货物,这里两侧的区域均属于目标检测区域。

该实施例中,通过采集场站上配置的摄像头进行抓拍图像来获取第一图像;具体的,步骤S110中针对第一图像,采用专有标注软件人工标注目标检测区域地面范围的各角点,之后整体拖动抬升以确定顶面角点,从而实现额定立方体的绘制,确定额定立方体边框。举例而言,如图1所示,只用标注底部的4个点,然后整体拖动抬升就可以自动定出上顶面的4个点,完成立方体8个点的绘制,该标注工具中,绘制完成后可以对8个点的进行拖动微调。

步骤S110中,为进行额定方数的配置,通过计算确定目标检测区域中固定参考物的实际长度与其在第一图像中的像素长度的参考比例值,基于该参考比例值计算额定立方体的体积值并进行关联处理,以完成对额定立方体的额定方数的配置;

举例而言,装卸口对应传送带两侧分别为A区和B区。分别进行图像立方体标注和额定体积(额定方数)的录入。额定体积=长x宽x高。录入的时候直接按照参数比例的长度来录入,比如:车厢(参考物)的长度是2.5,参照周围已经固定的长度比例来录入额定体积的长宽高,配置结果如图3所示。

需要说明的是,步骤S110的方法处理步骤在本申请中也称之为,基础参数信息配置。

之后,进行步骤S120,基于获取第一图像时的拍摄机位及参数、实时获取目标检测区域的第二图像,对第二图像进行堆积元素检测并基于检测结果进行堆积物的体积立方体绘制,得到实际立方体边框。

具体的,

步骤S120中,首先采用预选训练好的分割算法模型推理预测第二图像中堆积物的掩摸区域,即进行堆积元素检测。

为高效的得到堆积物的掩模区域,这里的分割算法模型可采用yolact算法模型,举例而言,如图4所示,图4右侧中快递堆积区域的外轮廓线所包络区域即为推测检测到的堆积物的掩模区域;

yolcat模型是一种深度学习算法模型,相比常见的maskrcnn模型有更快的推理速度(fps>30),其采用了一个简单的全卷积模型,将实例分割任务分为两个并行的子任务:生成一组原型(prototype)masks和预测每个实例的mask系数。最后将原型和模板系数线性组合来生成实例masks。因为整个过程不依赖于repooling,由此可以产生非常高质量的masks.在实际部署实用中,yolcat只需要很少样本就能模型就能快速的收敛。部署后能够达到很好的推理效果。具体的,本申请中在模型训练阶段,将样本数据转换为coco格式的数据集,进行yolact深度模型的训练。

作为一种优选,在进行模型应用中,为提高效率(使矩阵计算数量减少,增加推理的速度),可针对第二图像,基于额定立方体边框进行裁取处理;之后,再采用预选训练好的分割算法模型对裁取得到的图像进行推理预测,以得到掩模区域。同样的,为提高效率,在模型训练阶段,对样本数据也可采用类似预处理。

上述过程中,裁取处理处理的方式为,对额定立方体边框上各点的坐标值进行解析,确定其中的坐标极值min(x)、min(y)、max(x)、max(y);以(min(x),min(y))和(max(x),max(y))为对角点来构建裁取矩形框,根据该裁取矩形框来对第二图像进行裁取处理。

步骤S120中,在推理预测得到掩模区域后,基于额定立方体边框的坐标和三角函数对掩摸区域进行视图切割,以得到掩模区域在各视图的掩模;

视图切割可使得整个堆积包裹的mask掩膜算落在四个视图里,这样切割的目的就是为了计算堆积实际区域的长、宽、高,每一个视图面代表一个维度计算,比如左视图和右视图以及底部视图分别代表宽度这个指标的计算,正视图代表高度指标的计算等。

步骤S120中,在得到掩模区域在各视图的掩模之后,基于各掩模在相应视图中相对于额定立方体对应面的面积占比,来计算确定体积立方体的长度、宽度、高度像素值,即对分割的mask图像进行轮廓提取然后进行面积计算,使用每个面的掩膜面积占比(相对额定立方体对应面)来计算长宽高的占比,而确定体积立方体的长度、宽度、高度像素值。

步骤S120中,最后根据体积立方体的长度、宽度、高度像素值进行体积立方体绘制,以得到实际立方体边框。

需要说明的是,由于实际中快递堆积物可能超出到额定立方体正视图外侧,为便于后续处理,在进行体积立方体绘制时,可将体积立方体的长度像素值调整为额定立方体的底部框长的像素值,根据体积立方体的宽度像素、高度像素值和调整后的长度像素值进行体积立方体绘制;其中,在绘制过程中,以额定立方体边框下侧一顶点作为坐标原点,并使体积立方体框中与该顶点相连的框线、与额定立方体边框中相应框线的方向保持一致。换言之,最终的绘制后视觉效果如图5所示,体积立方体完全位于额定立方体内,且对齐。

此外,在一些特殊情况下,由于快递堆积较少,在进行视图切割和计算确定体积立方体的长度、宽度、高度像素值时,未能得到高度像素值,此时确定高度像素值为预设默认值,例如预设默认值为1个像素。

需要说明的是,步骤S120的方法处理步骤中在堆积元素检测之后的步骤,在本申请中也称之为图像立方体体积的合成。

回到图1,最后进行步骤S130,根据实际立方体边框和额定立方体边框的像素尺寸数据,计算体积立方体与额定立方体的体积比值,将体积比值与额定方数的乘积确定为第二图像中堆积物的体积检测值。

本申请中,对于每个目标检测区域的实际堆积体积的计算,我们定义出一个公式:图像实际体积/图像额定体积=实际堆积体积/额定堆积体积,

其中,图像额定体积为,绘制额定立方体时,所显示长宽高的像素值的乘积;

额定堆积体积为,绘制额定立方体后,对应配置的额定方数;

图像实际体积为,图像立方体合成后,计算出的体积立方体的长宽高的像素值的乘积。

基于该公式,显然实际堆积体积=额定堆积体积*(图像实际体积/图像额定体积),也即步骤S130中,所提到的,计算体积立方体与额定立方体的体积比值(像素体积相比),将体积比值与额定方数的乘积确定为第二图像中堆积物的体积检测值,举例而言,预测结果如图6所示。

此外,如图7所示,实际场景下,物流场站中会有多个装卸口,多个装卸口有多个区域堆积体积的计算,对于最终场站堆积体积的计算实际就是将每个区域图像合成到原图上进行推测计算,以及把每个区域的体积进行求和。具体的,实际中,可以装卸口的维度将对应的区域的体积进行聚合,形成每个装卸口对应的堆积体积,最后把每个装卸口堆积的体积整体求和,形成场站整体的装卸口堆积体积,以应用于堆积告警和留仓体积统计等。

本申请采用图像视觉体积构建技术,只要在检测区域标注一下额定立方体和额定方数,就可以在额定立方体构建实际堆积立方体,通过构建的额定立方体和实际堆积立方体的比等于额定方数和实际方数的比来计算最终的实际堆积体积方数。该方法无需添加任何的物理设备,基于物流场站已经安装的单路普通摄像头就可进行体积检测,且该方法中涉及到的模型能够很好的泛化,无需样本大量标注,便于快速部署上线。

本申请中的技术法案,可用于实现物流场站管理中的堆积告警功能,例如分拣场地的装卸口发现有大于2方的堆积,但是没有车辆在装载就会发出告警。提醒调度人员,尽快安排车辆过来操作。还可用于实现场站管理中的留仓检查及路由调度功能,例如物流分拣场每天在凌晨清场,通过摄像头采集到的装卸口堆积体积,并与路线数据进行整合,来方便第二天安排路由调度等。

图8为本申请一个实施例提供的堆积物整体体积的检测装置的结构示意图,如图8所示,该检测装置800包括:

标注处理模块801,其用于对预先获取的目标检测区域的第一图像进行标注处理,确定该目标检测区域的额定立方体边框、并配置该额定立方体的额定方数;

检测绘制处理模块802,其用于对第二图像进行堆积元素检测并基于检测结果进行堆积物的体积立方体绘制,得到实际立方体边框,其中,第二图像为,采用拍摄获取第一图像时的拍摄机位及参数、实时拍摄目标检测区域而获取的图像;

体积确定模块803,其用于根据实际立方体边框和额定立方体边框的像素尺寸数据,计算体积立方体与所述额定立方体的体积比值,将体积比值与额定方数的乘积确定为第二图像中堆积物的体积检测值。

关于上述相关实施例中的检测装置800,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。

图9为本申请一个实施例提供的电子设备的结构示意图,如图9所示,该电子设备900包括:

存储器901,其上存储有可执行程序;

处理器902,用于执行存储器901中的可执行程序,以实现上述方法的步骤。

关于上述实施例中的电子设备900,其处理器902执行存储器901中的程序的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。

以上所述,仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉该技术的人员在本发明所揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应该以权利要求的保护范围为准。

15页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:一种基于图像处理技术的传输控制方法及装置

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!