基于图像处理的塔式起重机异常预警方法及系统
阅读说明:本技术 基于图像处理的塔式起重机异常预警方法及系统 (Tower crane abnormity early warning method and system based on image processing ) 是由 王建玲 杨航 李静 杨其锋 于 2021-03-01 设计创作,主要内容包括:本发明提供了一种基于图像处理的塔式起重机异常预警方法及系统;该方法包括:判断塔式起重机升降机构制动器是否发生故障;若发生故障,则根据塔式起重机和所吊重物的状态参数得到实时理想可掉落区域;在所述实时理想可掉落区域中剔除不可掉落区域,得到实时实际可掉落区域;获取所述实时实际可掉落区域对应的地面图像,基于所述地面图像在实时实际可掉落区域中选择实时最优掉落区域;光束照射在所述实时最优掉落区域,并将吊钩移动到所述实时最优掉落区域上方。本发明可以在故障发生后及时将重物移动至实时最优掉落区域,并以光束提醒相关人员远离实时最优掉落区域,避免重物坠落造成人财物的损失。(The invention provides an image processing-based tower crane abnormity early warning method and system; the method comprises the following steps: judging whether a brake of a lifting mechanism of the tower crane breaks down or not; if the fault occurs, obtaining a real-time ideal droppable area according to the state parameters of the tower crane and the lifted weight; rejecting non-droppable areas from the real-time ideal droppable area to obtain a real-time actual droppable area; acquiring a ground image corresponding to the real-time actual droppable area, and selecting a real-time optimal droppable area from the real-time actual droppable area based on the ground image; and irradiating the real-time optimal falling area by using a light beam, and moving the lifting hook above the real-time optimal falling area. According to the invention, the heavy object can be moved to the real-time optimal falling area in time after a fault occurs, and related personnel are reminded to be far away from the real-time optimal falling area by the light beam, so that the loss of people and property caused by the falling of the heavy object is avoided.)
技术领域
本发明涉及起重机和图像处理领域,具体为一种基于图像处理的塔式起重机异常预警方法及系统。
背景技术
若塔式起重机升降机构制动器出现故障,则会导致滑钩,滑钩就是所谓的主卷扬没有刹车,和汽车制动失灵是一个道理。有时候出现滑钩的原因是抱闸松动或者刹车片磨损严重。目前国内的单制动吊机一旦抱闸出现问题,吊物就容易滑钩,进而产生重物自由下坠,容易造成事故。当塔式起重机吊钩向下滑钩时应该向上起钩或者用低速慢慢落下,而不应空档滑钩。在普通吊车中,有时可以通过打反车来控制滑钩,但是对于变频控制的吊车,滑钩时打反车容易造成变频器报故障,使变频器失效,导致重物仍旧下坠。
发明内容
为了解决上述问题,本发明提出一种基于图像处理的塔式起重机异常预警方法,该方法包括:
步骤一,判断塔式起重机升降机构制动器是否发生故障;若发生故障,执行步骤二;
步骤二,假设地面上没有物体,根据塔式起重机和所吊重物的实时状态参数得到实时理想可掉落区域;其中,实时状态参数包括重物重量、重物的实时掉落速度和实时掉落加速度、起重小车与卷扬机间的吊索长度、重物与卷扬机间的吊索长度、起重小车最大移动速度、吊臂最大角速度;
在所述实时理想可掉落区域中剔除不可掉落区域,得到实时实际可掉落区域;
获取所述实时实际可掉落区域对应的地面图像,基于所述地面图像在实时实际可掉落区域中选择实时最优掉落区域;
光束照射在所述实时最优掉落区域,并将重物移至所述实时最优掉落区域上方;
步骤三,在将重物移至所述实时最优掉落区域上方的过程中重复执行步骤二,直至实时理想可掉落区域缩小为一个点,重物掉落。
进一步地,得到实时理想可掉落区域的方法为:将所述实时状态参数输入区域预测神经网络中,得到实时理想可掉落区域的边界方程。
进一步地,所述区域预测神经网络训练所用标签数据的获取方法为:根据对起重小车和吊臂进行的不同操作计算相应的可到达位置点,根据所有可到达位置点得到理想可掉落区域的边界方程,标签数据为边界方程的系数。
进一步地,所述对起重小车和吊臂进行的不同操作包括:
第一操作,同一时刻只能对起重小车或吊臂进行操作;
第二操作,同一时刻对起重小车和吊臂同时进行操作;
第三操作,包括第一操作和第二操作。
进一步地,可到达位置点的确定和重物的掉落时间相关,对起重小车进行操作时重物的掉落时间通过以下方式确定:对起重小车不进行操作时重物掉落时间后重物与地面间的距离为H,对起重小车进行操作时重物掉落时间后重物与地面间的距离H'大于或小于H,其中,,故障发生时起重小车的位置为初始点,为对起重小车操作时间后起重小车与初始点的间隔距离且间隔距离有方向,K为实时影响系数,且K为正数或负数;基于H'计算重物的剩余掉落时间,和之和为对起重小车进行操作时重物的掉落时间。
进一步地,所述实时影响系数K通过系数回归神经网络预测得到,系数回归神经网络的输入为重物重量、重物掉落时间后重物的掉落速度和掉落加速度、起重小车与卷扬机间的吊索长度、重物与卷扬机间的吊索长度、起重小车最大移动速度、对起重小车操作时间后起重小车与初始点的间隔距离,输出为实时影响系数K。
进一步地,所述剔除不可掉落区域包括:
在吊臂上选择起重小车可到达的第一位置点、第二位置点,第一位置点位于回转中心点与初始点之间,初始点位于回转中心点与第二位置点之间,分别计算第一位置点、第二位置点与回转中心点间的第一距离、第二距离,以回转中心点为圆心,分别以第一距离、第二距离为半径,得到第一圆区域、第二圆区域;其中,回转中心点为吊臂与塔身的交点;根据吊臂的长度选择第二位置点;
在实时理想可掉落区域中将第一圆区域剔除后和第二圆区域取交集区域;基于地面上物体的高度在交集区域中进行区域剔除后得到实时实际可掉落区域。
进一步地,在实时实际可掉落区域中选择实时最优掉落区域具体为:对地面图像进行裸露地面区域、物体放置区域、建筑物区域的分割,并为裸露地面区域、物体放置区域、建筑物区域分配权值;在地面图像中分别以每个像素点为中心,得到若干滑窗区域,基于滑窗区域中裸露地面区域、物体放置区域、建筑物区域的面积以及相应的权值计算滑窗区域的合适度,实时实际可掉落区域中与合适度最大的滑窗区域相对应的区域为实时最优掉落区域。
本发明还提出一种基于图像处理的塔式起重机异常预警系统,该系统包括:故障判断子系统、实时最优掉落区域获取子系统、实时最优掉落区域更新子系统;其中:
故障判断子系统,判断塔式起重机升降机构制动器是否发生故障,若发生故障,执行实时最优掉落区域获取子系统;
实时最优掉落区域获取子系统,假设地面上没有物体,根据塔式起重机和所吊重物的实时状态参数得到实时理想可掉落区域;其中,实时状态参数包括重物重量、重物的实时掉落速度和实时掉落加速度、起重小车与卷扬机间的吊索长度、重物与卷扬机间的吊索长度、起重小车最大移动速度、吊臂最大角速度;在所述实时理想可掉落区域中剔除不可掉落区域,得到实时实际可掉落区域;获取所述实时实际可掉落区域对应的地面图像,基于所述地面图像在实时实际可掉落区域中选择实时最优掉落区域;光束照射在所述实时最优掉落区域,并将重物移至所述实时最优掉落区域上方;
实时最优掉落区域更新子系统,在将重物移至所述实时最优掉落区域上方的过程中重复执行实时最优掉落区域获取子系统,直至实时理想可掉落区域缩小为一个点,重物掉落。
本发明的有益效果在于:塔吊司机在出现滑钩时往往会由于惊慌失措而不能在第一时间内做出应对措施,本发明利用计算机系统进行快速计算,使得对事故的即时处理速度快于司机的反应速度,能够第一时间做出最正确的决策。
本发明在确定理想可掉落区域时考虑了移动起重小车对掉落时间的影响,因此,本发明获得的理想可掉落区域更准确。
本发明通过计算机视觉快速判断出重物的最优掉落区域并由计算机控制吊臂和起重小车的移动,将重物移动到最优掉落区域上方,降低了重物坠落事故带来的影响。
附图说明
图1为本发明方法实施流程图。
图2为本发明系统构成图。
图3为实施例中交集区域示意图。
具体实施方式
为了让本领域技术人员更好的理解本发明,下面结合实施例和附图对本发明进行详细描述。
本发明的目的是在塔式起重机升降机构制动器发生故障时根据塔式起重机和所吊重物的实时状态参数以及实际地面图像及时自动控制起重机来降低事故损失。本发明可降低对塔吊司机处理由于升降机构制动器发生故障出现的滑钩事故的经验需求以及反应速度要求。
实施例一:
该实施例提供了一种基于图像处理的塔式起重机异常预警方法,该方法的实施流程如图1所示,具体为:
步骤一,判断塔式起重机升降机构制动器是否发生故障,若发生故障,则执行步骤二,具体判断方法为:
在吊索上设置颜色标记,该实施例中在吊索上每隔一米设置黄色颜色标记,在塔式起重机上布置第一相机用于采集吊索的图像,本发明对第一相机的具体放置位置不做具体要求,优选地,第一相机放置在回转中心点处,回转中心点为塔身与吊臂的交点;使用图像处理的方法对吊索图像进行吊索状态的判断,并结合卷扬机的控制指令判断升降机构制动器是否发生故障,具体的判断过程为:
a)采集多帧吊索图像,提取吊索图像中的颜色标记,具体的,将吊索RGB图像转至HSV色彩空间进行颜色标记的提取;
b)根据多帧吊索图像计算同一颜色标记的帧间交并比IOU,得到所吊重物的运动方向;
c)确定采样时间,在该采样时间内基于多帧吊索图像获取同一颜色标记的移动像素距离,根据移动像素距离得到实际移动距离,根据实际移动距离和采样时间得到重物的运动速度;
d)获取卷扬机的控制指令,得到由塔吊司机输入的电机回转方向及转速,根据电机回转方向得到重物的设定方向,根据转速得到重物的设定速度;
e)基于重物的运动方向、运动速度与重物的设定方向、设定速度判断升降机构制动器是否发生故障。
步骤二:
第一步,假设地面上没有物体,并根据塔式起重机和所吊重物的实时状态参数得到实时理想可掉落区域,具体地:
为了加快计算速度,便于故障发生时及时做出应对措施,本发明将实时状态参数输入区域预测神经网络中,得到实时理想可掉落区域的边界方程。采用区域预测神经网络的原因为根据数学方法得到实时理想可掉落区域的计算过程较复杂,获取结果所需时间长,而DNN可快速推理,满足实时性要求。
其中,实时状态参数包括重物重量、重物的掉落速度和掉落加速度、起重小车与卷扬机间的吊索长度、重物与卷扬机间的吊索长度、起重小车最大移动速度、吊臂最大角速度。
区域预测神经网络的训练过程为:在模拟器中获取训练所用状态参数和标签数据;基于获取的状态参数和标签数据,采用均方误差损失函数进行区域预测神经网络的训练;其中,标签数据的获取方法为:根据对起重小车和吊臂进行的不同操作计算相应的可到达位置点,根据所有可到达位置点得到理想可掉落区域的边界方程,标签数据为边界方程的系数;优选地,所述边界方程为幂级数方程。
对起重小车进行操作的过程中,会对吊钩上的重物有提拉的力,同时也会对卷扬机处有拉伸的力,直接进行受力分析计算,过程复杂,因此,为了更加准确的得到状态参数和标签数据,本发明使用模拟器进行仿真模拟来获取数据;模拟器中设定卷扬机处的摩擦力为固定摩擦力,变幅小车的牵引力也为固定值即小车的电机扭矩固定。
对起重小车和吊臂进行的不同操作包括:第一操作,同一时刻只能对起重小车或吊臂进行操作;第二操作,同一时刻对起重小车和吊臂同时进行操作;第三操作,包括第一操作和第二操作。
根据对起重小车和吊臂进行的不同操作计算相应的可到达位置点的具体方法为:
根据第一操作获取可到达位置点:
以回转中心点为极点,以故障刚发生时吊臂的位置为极轴构建极坐标系,极坐标系中位置点的坐标为(θ,R),θ表示对吊臂进行操作后当前吊臂到极轴的夹角,θ有正负,实施例中规定当前吊臂到极轴为逆时针时,夹角为正,R表示起重小车与回转中心点之间的距离。
a)整个操作过程仅对吊臂进行操作时,吊臂移动不会影响重物的掉落时间,因此,获取重物与地面间的实时距离、重物的实时掉落速度和实时掉落加速度,基于获取的实时距离、实时掉落速度、实时掉落加速度计算实时摆臂极限时间,根据实时摆臂极限时间和吊臂最大角速度计算得到两个临界可到达位置点在极坐标系中的坐标,根据两个临界可到达位置点可得到该操作对应的所有的可到达位置点,即坐标属于([,],)范围内的点,、分别表示两个临界可到达位置点对应的吊臂位置与极轴之间的夹角;故障刚发生时吊臂所处位置为对称轴,所得两个临界可到达位置点关于对称轴对称。
b)整个操作过程仅对起重小车进行操作时,移动起重小车会影响重物的掉落时间,因此,设对起重小车不进行操作时重物掉落时间后重物与地面间的距离为H,对起重小车进行操作时重物掉落时间后重物与地面间的距离H'大于或小于H,其中,,故障发生时起重小车的位置为初始点,为对起重小车操作时间后起重小车与初始点的间隔距离且间隔距离有方向,K为实时影响系数,且K为正数或负数;基于H'、此时重物的掉落速度和掉落加速度计算重物的剩余掉落时间,和之和为对起重小车进行操作时重物的掉落时间。
起重小车可以向两个方向进行移动:第一移动方向为起重小车靠近塔身,起重小车的移动方向为第一移动方向时获取的间隔距离为正;第二移动方向为起重小车远离塔身,起重小车的移动方向为第二移动方向时获取的间隔距离为负;起重小车的移动方向不同,对重物掉落时间的影响也不同,起重小车的移动方向为第一移动方向时会延长或缩短重物的掉落时间;起重小车的移动方向为第二移动方向时会缩短重物的掉落时间;故,起重小车的移动方向不同,得到的重物的掉落时间也不同,因此,对应第一移动方向、第二移动方向可得到第一走小车时间、第二走小车时间,根据、和起重小车最大移动速度得到第一最大间隔距离、第二最大间隔距离,最终得到两个临界可到达位置点,则θ为0,R值属于[,]范围内的点为该操作对应的所有可到达位置点;min为取最小值函数,max为取最大值函数。
需要说明的是,此时计算第二走小车时间时是假设起重小车可以沿第二移动方向一直进行移动,但起重小车沿第一移动方向时存在终点,不能一直移动,终点为回转中心点。
其中,实时影响系数K通过系数回归神经网络预测得到,系数回归神经网络的输入为重物重量、重物掉落时间后重物的掉落速度和掉落加速度、起重小车与卷扬机间的吊索长度、重物与卷扬机间的吊索长度、起重小车最大移动速度、对起重小车操作时间后起重小车与初始点的间隔距离,输出为实时影响系数K。
系数回归神经网络的训练标签数据为通过模拟器获取的不同情况下的影响系数K,在模拟器中获取一定时间内起重小车的间隔距离、该时间段内起重小车移动前与移动后重物与卷扬机间吊索长度的变化值,间隔距离与吊索长度变化值的比值为K;训练系数回归神经网络时所用输入数据同样在模拟器中获取,利用输入数据和输入数据对应的K对系数回归神经网络进行训练,具体地,不断调整输入数据中起重小车与初始点的实时间隔距离,得到网络输出的影响系数K,采用均方误差损失函数来减小网络输出的影响系数与真实计算出的影响系数之间的差异;该网络的目的是影响系数的回归。
使用DNN得到影响系数的原因为:仿真的次数、数据有限,并不能得到非常全面的数据,且建立数学模型比较困难,所以为了得到各种情况下的影响系数,本发明由DNN来拟合数据间的映射关系。
c)整个操作过程是先对起重小车进行操作再对吊臂进行操作时,首先获取起重小车的间隔距离,得到间隔距离后按照b)中计算剩余掉落时间的方法得到不同间隔距离对应的剩余掉落时间,其次,根据求出的剩余掉落时间计算吊臂的转动角度;因此,改变起重小车的间隔距离可得到该操作对应的所有可到达位置点。
d)整个操作过程是先对吊臂进行操作再对起重小车进行操作时,首先获取对吊臂进行操作的时间,根据起重小车的移动方向确定是小于第一走小车时间还是小于第二走小车时间,根据和吊臂最大角速度计算吊臂的转动角度;获取重物掉落时间后重物与地面的距离、重物掉落速度、重物掉落加速度,按照b)中的方法计算重物在此高度时对起重小车进行操作时重物的掉落时间,根据计算出来的掉落时间计算起重小车的间隔距离;改变的值即可得到该操作对应的所有可到达位置点。
根据第二操作获取可到达位置点:
起重小车在第一移动方向上移动时间,吊臂转动时间,的取值范围为[0,],则基于、起重小车最大移动速度、吊臂最大角速度以及吊臂转动方向可计算出部分可到达位置点;
起重小车在第二移动方向上移动时间,吊臂转动时间,的取值范围为[0,],则基于、起重小车最大移动速度、吊臂最大角速度以及吊臂转动方向可计算出其余可到达位置点。
根据第三操作获取可到达位置点:
设定起重小车的间隔距离,间隔距离比上起重小车最大移动速度得到,获取重物掉落后离地面的高度,基于该高度获取剩余的重物掉落时间,乘吊臂最大角速度为对起重小车和吊臂同时进行操作时吊臂的转动角度,乘吊臂最大角速度为对吊臂单独进行操作时的转动角度,和有正负,则可到达位置点的坐标为(+,),为初始点到回转中心点的距离长度;则改变的值,结合吊臂的转动方向可得到该操作对应的所有可到达位置点。
至此,得到所有可到达位置点。
第二步,在所述实时理想可掉落区域中剔除不可掉落区域,得到实时实际可掉落区域;由于在获取实时理想可掉落区域时是假设起重小车可以沿第二移动方向一直进行移动,即计算时假设的吊臂的长度可能长于实际生活中吊臂的长度,因此,需要在实时理想可掉落区域中剔除不可掉落区域,剔除不可掉落区域的具体过程为:
在吊臂上选择起重小车可到达的第一位置点、第二位置点,第一位置点位于回转中心点与初始点之间,初始点位于回转中心点与第二位置点之间,分别计算第一位置点、第二位置点与回转中心点之间的第一距离、第二距离,以回转中心点为圆心,分别以第一距离、第二距离为半径,得到第一圆区域、第二圆区域;其中,回转中心点为吊臂与塔身的交点。
根据经验或相关研究数据在吊臂上选择第一位置点,设置第一位置点的目的为避免由于小车与回转中心点间的距离过小导致事故的发生,第一圆区域内的点为与回转中心点间的距离过小的点;仅对起重小车进行操作获取的第一移动方向上的临界可到达位置点到达的最远点为回转中心点,当第一移动方向上的临界可到达位置点与回转中心点间的距离大于第一位置点与回转中心点间的距离时,此时,实时理想可掉落区域与第一圆区域不存在重合区域,即第一移动方向上的临界可到达位置点与回转中心点间的距离为安全距离;当第一移动方向上的临界可到达位置点与回转中心点间的距离小于第一位置点与回转中心点间的距离时,此时第一移动方向上的临界可到达位置点与回转中心点间的距离过小,将起重小车移动至该临界可到达位置点可能会导致事故的发生。
设置第二位置点的原因为,仅对起重小车进行操作获取第二移动方向上的临界可到达位置点时,是假设起重小车可以沿第二移动方向一直进行移动,因此,得到的第二移动方向上的临界可到达位置点与回转中心点间的距离可能大于实际生活中吊臂的长度,由此,需要设置第二位置点,根据吊臂的长度选择第二位置点,具体地:当第二移动方向上的临界可到达位置点与回转中心点间的距离大于等于实际生活中吊臂的长度时,第二位置点位于吊臂末端,此时第二位置点与回转中心点间的距离为吊臂实际长度;当第二移动方向上的临界可到达位置点与回转中心点间的距离小于实际生活中吊臂的长度时,第二移动方向上的临界可到达位置点即为第二位置点。
在实时理想可掉落区域中将第一圆区域剔除后和第二圆区域取交集区域;当第一移动方向上的临界可到达位置点与回转中心点间的距离小于第一位置点与回转中心点间的距离、第二移动方向上的临界可到达位置点与回转中心点间的距离小于实际生活中吊臂的长度时,交集区域如图3所示,图3中半径较小的圆为第一圆区域,半径较大的圆为第二圆区域,阴影区域为交集区域,矩形代表吊臂,黑点为初始点。
实际工地场景中物料摆放、建设进度等情况复杂,因此,需要基于地面上物体的高度在交集区域中进行区域剔除后得到实时实际可掉落区域,基于地面上物体的高度剔除的点为不合理的点,不合理的点的判断方法为:
使用传感器如毫米波雷达,获取实时实际可掉落区域内各位置点的高度,基于重物与各位置点间的竖直高度计算重物从当前位置到各位置点的掉落时间,再获取重物从当前位置到各位置点所需操作时间,若重物到某一位置点所需操作时间大于相应的掉落时间,则该位置点为不合理的点;其中,操作时间即对起重小车或吊臂进行操作的时间。
第三步,获取所述实时实际可掉落区域对应的地面图像,若实时实际可掉落区域大于相机的采集范围,则在相机采集范围内的区域使用相机实时采集的区域,不在相机采集范围内的区域则使用相机采集的历史图像,实时采集的图像与历史图像拼接得到实时实际可掉落区域对应的地面图像;采集地面图像的相机的放置位置本发明不做具体要求,能采集地面图像即可,基于所述地面图像在实时实际可掉落区域中选择实时最优掉落区域:
对地面图像进行裸露地面区域、物体放置区域、建筑物区域的分割,并为裸露地面区域、物体放置区域、建筑物区域分配权值,对应的权值分别为1、0.5、0;在地面图像中分别以每个像素点为中心,得到若干滑窗区域,基于滑窗区域中裸露地面区域、物体放置区域、建筑物区域的面积分别与相应的权值相乘后再相加得到滑窗区域的合适度,实时实际可掉落区域中与合适度最大的滑窗区域相对应的区域为实时最优掉落区域,实时最优掉落区域的中心点为最优掉落点。
第四步,光束照射在所述实时最优掉落区域进行异常预警,避免人员突然闯入该区域,并将重物移至所述实时最优掉落区域上方。
步骤三,在将重物移至所述实时最优掉落区域上方的过程中重复执行步骤二,直至实时理想可掉落区域缩小为一个点,重物掉落。
需要说明的是,每输入一次实时状态参数,区域预测神经网络就输出一个实时理想可掉落区域;按照时序,得到的实时理想可掉落区域越来越小,即实时生成的理想可掉落区域在不断地更新,缩小,直至得到的实时理想可掉落区域为一个点。
实施例二:
基于与上述方法实施例相同的发明构思,该实施例提供了一种基于图像处理的塔式起重机异常预警系统,该系统构成如图2所示,具体地,该系统包括故障判断子系统、实时最优掉落区域获取子系统、实时最优掉落区域更新子系统;其中:
故障判断子系统,判断塔式起重机升降机构制动器是否发生故障,若发生故障,执行实时最优掉落区域获取子系统;
实时最优掉落区域获取子系统,假设地面上没有物体,根据塔式起重机和所吊重物的实时状态参数得到实时理想可掉落区域;其中,实时状态参数包括重物重量、重物的实时掉落速度和实时掉落加速度、起重小车与卷扬机间的吊索长度、重物与卷扬机间的吊索长度、起重小车最大移动速度、吊臂最大角速度;在所述实时理想可掉落区域中剔除不可掉落区域,得到实时实际可掉落区域;获取所述实时实际可掉落区域对应的地面图像,基于所述地面图像在实时实际可掉落区域中选择实时最优掉落区域;光束照射在所述实时最优掉落区域,并将重物移至所述实时最优掉落区域上方;
实时最优掉落区域更新子系统,在将重物移至所述实时最优掉落区域上方的过程中重复执行实时最优掉落区域获取子系统,直至实时理想可掉落区域缩小为一个点,重物掉落。
关于系统实施例,由于其基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可;以上所述旨在让本领域技术人员更好的理解本发明,并不用于限制本发明,凡是在本发明精神和原则之内做出的修改与变动皆在本发明的保护范围内。
- 上一篇:一种医用注射器针头装配设备
- 下一篇:起吊运输装置