一种基于lstm神经网络算法的无人机路面病害检测方法

文档序号:1859842 发布日期:2021-11-19 浏览:14次 >En<

阅读说明:本技术 一种基于lstm神经网络算法的无人机路面病害检测方法 (Unmanned aerial vehicle pavement disease detection method based on LSTM neural network algorithm ) 是由 方宏远 王念念 马铎 胡浩帮 庞高兆 于 2021-07-13 设计创作,主要内容包括:本发明公开了一种基于LSTM神经网络算法的无人机路面病害检测方法,包括如下步骤:S1、获取无人机姿态监测数据,构建无人机时间序列数据集,并按比例分为训练集,验证集和测试集;S2、构建LSTM神经网络模型;S3、初始化模型,将训练集数据输入到模型中,设置超参数,进行模型训练;S4、模型调参,得到最优模型;S5、将测试集数据输入到最优模型进行测试,输出各项数值评价指标,判断是否达到预期值;S6、现场检测,判断评价指标能否达到所需要求。LSTM神经网络模型算法可用于对无人机姿态时间序列信息的预测,从而得到无人机距离路面病害的距离,偏角等信息,对路面病害的精确测量提供帮助该方法检测效率快,准确度高,鲁棒性好。(The invention discloses an unmanned aerial vehicle pavement disease detection method based on an LSTM neural network algorithm, which comprises the following steps: s1, acquiring attitude monitoring data of the unmanned aerial vehicle, constructing an unmanned aerial vehicle time sequence data set, and dividing the unmanned aerial vehicle time sequence data set into a training set, a verification set and a test set according to a proportion; s2, constructing an LSTM neural network model; s3, initializing the model, inputting the training set data into the model, setting the hyper-parameters, and performing model training; s4, model parameter adjustment to obtain an optimal model; s5, inputting the test set data into the optimal model for testing, outputting each numerical value evaluation index, and judging whether the numerical value evaluation index reaches an expected value; and S6, detecting on site, and judging whether the evaluation index can meet the required requirement. The LSTM neural network model algorithm can be used for predicting the attitude time sequence information of the unmanned aerial vehicle, so that the information such as the distance and the deflection angle between the unmanned aerial vehicle and a road surface disease is obtained, and the method is high in detection efficiency, high in accuracy and good in robustness and helps for accurate measurement of the road surface disease.)

一种基于LSTM神经网络算法的无人机路面病害检测方法

技术领域

本发明涉及深度学习神经网络、路面病害检测技术领域,具体涉及一种基于LSTM神经网络算法的无人机路面病害检测方法。

背景技术

随着经济的不断发展,中国公路总里程跃居世界第一。但是随着长期车载及冻融循环的影响,路面会出现各种各样的病害。传统的检测方法为人工检测或检测车检测,费时费力,耗资巨大。本发明结合了飞行轨迹的连续性、时序性和交互性,提出了一种基于LSTM神经网络算法的无人机路面病害检测方法。

传统的无人机姿态预测模型存在简化大、考虑因素少的问题。为了解决长序列训练过程中的梯度消失和梯度爆炸问题和一般的循环神经网络存在的长期依赖问题,本发明算法将来自IMU等传感器的姿态、位置和加速度等信息同时作为轨迹预测模型的输入,使得预测值更加符合真实轨迹变化规律。对于建立的基于LSTM的无人机姿态预测模型,通过调整学习率,学习步长等超参数进行训练,得到了最优模型。

申请号为201410608597.8的专利文献公开了一种基于PID神经网络的无人机控制方法,该方法采用基本形式为2×3×1的PID神经网络控制算法,得到了抗干扰能力好,鲁棒性好,控制精度高的小型无人机飞行控制模型。但是该神经网络没有考虑连续时间对模型输出的影响,因此,预测精度较低。

针对无人机飞行姿态的连续性、时序性等问题,本发明采用LSTM神经网络算法,得到了无人机姿态监测模型,提高了无人机在道路病害检测时对病害目标距离判断的精度。

发明内容

为解决现有技术中存在的问题,本发明提供了一种基于LSTM神经网络算法的无人机路面病害检测方法,该方法检测效率快,准确度高,鲁棒性好,解决了上述背景技术中提到的问题。

为实现上述目的,本发明提供如下技术方案:一种基于LSTM神经网络算法的无人机路面病害检测方法,包括如下步骤:

S1、获取无人机姿态监测数据,构建无人机时间序列数据集,并按比例分为训练集,验证集和测试集;

S2、构建LSTM神经网络模型;

S3、初始化模型,将训练集数据输入到模型中,设置超参数,进行模型训练;

S4、模型调参,得到最优模型;

S5、将测试集数据输入到最优模型进行测试,输出各项数值评价指标,判断是否达到预期值;

S6、现场检测,判断评价指标能否达到所需要求。

优选的,所述步骤S1中,所述获取无人机姿态监测数据,构建无人机时间序列数据集具体包括:利用GPS、速度计,陀螺仪,磁罗盘,气压计传感器获取偏航角、俯仰角、滚动角、经度、维度、海拔、气压计高度、方向数据;考虑各个传感器的采集频率不同,编写python程序,使得各个数据对应统一时间点。

优选的,所述步骤S1中,所述按比例分为训练集,验证集和测试集具体是:按6:2:2的比例分为训练集,验证集和测试集。

优选的,所述步骤S2中的LSTM神经网络模型包括遗忘门、输入门、输出门和记忆单元;所述遗忘门对上一个节点输入进行选择性忘记;所述输入门用于判断上一个节点信息的重要性,并进行选择性记忆;所述输出门决定输出信息。

优选的,所述步骤S3中超参数为学习率、总迭代次数、记忆块的堆叠数量、小批量数量和预测步数。

优选的,所述步骤S4中,所述模型调参,得到最优模型具体包括:输入验证集数据到模型中,按顺序调整超参数,根据不同超参数下模型的损失值及准确率的变化曲线,得到最优超参数,得到最优模型。

优选的,所述步骤S5中的各项数值评价指标包括准确率,均方误差和平均绝对误差;

所述均方误差是指参数估计值与参数真值之差平方的期望值,公式如下:

所述平均绝对误差是绝对误差的平均值,公式如下:

其中,N代表真实值(或预测值)的数量,i代表真实值(或预测值)对应的编号。

优选的,所述步骤S6中,所述现场检测,判断评价指标能否达到所需要求具体是指:控制无人机飞行,并回传各种传感器采集的无人机姿态数据至高性能计算机终端检测,判断评价指标能否达到所需要求。

优选的,所述评价指标主要包括预测效率,均方误差,平均绝对误差和鲁棒性。

本发明的有益效果是:本发明的LSTM网络是循环神经网络的一个优秀的变种模型,继承了大部分循环神经网络的特性。通过添加CEC(Constant error carrousel)模块,保证了误差将以常数的形式在网络中流动,从而解决了梯度反向传播过程中,由于逐步缩减而产生的梯度消失问题。LSTM网络通过遗忘门,输入门,输出门更新记忆单元状态,从而改善了循环神经网络中存在的长期依赖问题,其表现比时间递归神经网络及隐马尔科夫模型更好;作为非线性模型,LSTM网络可作为复杂的非线性单元用于构造更大型深度神经网络,从而提取更多的时间序列特征,得到更优秀的预测结果。LSTM神经网络算法可用于对无人机姿态时间序列信息的预测,从而得到无人机距离路面病害的距离,偏角等信息,对路面病害的精确测量提供帮助。

附图说明

图1为本发明方法的流程示意图;

图2为本发明LSTM神经网络模型结构示意图;

图3为本发明预测结果示意图,(a)为俯仰角真实值和预测值曲线,(b)为滚动角真实值和预测值曲线,(c)为偏航角真实值和预测值曲线。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

请参阅图1-图3,本发明提供一种技术方案:一种基于LSTM神经网络算法的无人机路面病害检测方法,该网络模型的主要结构为记忆块,包括四个主要部分,即遗忘门,输入门,输出门与一个记忆单元。该方法检测效率快,准确度高,鲁棒性好,具体步骤流程如图1所示,步骤如下:

步骤一、获取无人机姿态监测数据,构建无人机时间序列数据集,并按6:2:2的比例分为训练集,验证集和测试集,具体过程为:

具体地,神经网络算法需要大量数据进行训练。本发明为无人机姿态预测模型,因此,需要收集无人机姿态监测数据。通过大量训练,LSTM神经网络学习到了监测数据中各种参数对预测值地影响,从而获得无人机姿态预测模型。并通过验证集和测试集数据,对该网络进行调优和测试。因此,无人机时间序列数据集是构建模型的第一步,对无人机姿态预测模型的构建起着至关重要的作用。

路面病害图像采集方法为:无人机实际飞行的姿态数据;

由于各个传感器的采集频率不同,编写python程序,使得各个数据对应统一时间点。

具体地,LSTM网络需要相同时间点的各项数据。因此,采用线性插值,对数据进行扩增,使得数据在每个时间点一一对应。

具体地,无人机姿态监测数据来自于GPS,速度计,陀螺仪,磁罗盘,气压计等传感器,主要包括偏航角、俯仰角、滚动角,经度,维度,海拔,气压计高度,方向等数据。

具体地,各种传感器的功能如下:

加速度计是用来提供无人机在XYZ三轴方向所承受的加速力;

陀螺仪传感器能监测三轴的角速度,因此可监测出俯仰、翻滚和偏摆时角度的变化率;

磁罗盘能为无人机提供方向感。它能提供装置在XYZ各轴向所承受磁场的数据。接着相关数据会汇入微控制器的运算法,以提供磁北极相关的航向角,然后就能用这些信息来侦测地理方位;

气压计运作的原理,就是利用大气压力换算出高度。压力传感器能侦测地球的大气压力。由气压计所提供的数据能协助无人机导航,上升到所需的高度。准确估计上升与下降速度;

GPS模块是全球导航系统之一,是美国的卫星导航2系统,通过GPS,可以得到无人机机体的位置信息。

步骤二、构建LSTM神经网络模型;

LSTM神经网络(Long Short Term Memory network,长短期记忆网络,是一种特殊的循环神经网络)算法的主要结构为记忆块,主要包含了遗忘门,输入门,输出门与一个记忆单元。具体地,记忆块的各部分的作用如下:

输入门的作用为判断上一个节点信息的重要性,并进行选择性记忆。在每一时刻从上一层输入的信息首先经过输入门,输入门决定这一时刻是否会有信息输入到该层记忆块;

对于每一时刻记忆块中的信息,遗忘门负责对其进行选择性忘记;

输出门决定输出信息,即每一时刻是否有信息从该层记忆块输出;

遗忘门,输入门,输出门共同组成了记忆单元,是LSTM神经网络中最小的结构单元,负责对长时间序列数据总体处理。

如图2所示,是LSTM神经网络模型的结构示意图,“×”表示缩放信息,“+”表示添加信息,σ表示Sigmoid函数层,tanh表示双曲正切函数层,ht-1表示上一个记忆块的输出,Xt表示该层输入,ht表示该记忆块的输出。在信息传递的过程中,每个传输单元的状态是决定LSTM网络的核心,贯穿于整个结构。在这个过程中,通过一些线性的作用保证了信息传输的不变性。

具体地,通过遗忘门、输入门和输出门,LSTM神经网络可以增加和去除单元中传输的信息,有选择地让信息通过,从而达到管理信息传输的目的。

具体地,在训练的过程中,传统的RNN模型更加倾向于按照序列末端的权值方向进行更新,即较远的序列输入的对权值变化影响较小。因此,训练结果往往偏向于新信息,即不太能有较长的记忆功能。为了克服长期误差消失的问题,需要做一些限制,对于t时刻的误差计算如下:

δj(t)=fj'(sj(t))δj(t+1)wjj

为了使误差不产生变化,可以强制令相关系数

fj'(sj(t))wjj=1

可得:

这表明激活函数是线性的。为了使误差不产生变化,常常令fj(x)=x,wjj=1这样就获得常数误差流了,也叫做CEC(constant error carrousel)。

步骤三、初始化模型,将训练集数据输入到模型中,设置超参数,进行模型训练。

根据步骤二构建的LSTM神经网络模型,采用迁移学习的方法对模型进行初始化。根据步骤一构建的无人机时间序列数据集(训练集),导入LSTM神经网络模型。设置超参数,进行模型的训练。

具体地,迁移学习是相对于随机参数初始化而言,从相关领域中迁移标注数据或者知识结构、完成或改进目标领域或任务的学习效果,具有加快训练效率,提高检测精度的作用。

具体地,基于GPU的高带宽和多线程并行计算特性,深度学习算法须在高性能计算机上进行。同时,为了保证预测的实时性和设备的轻便型,LSTM神经网络算法在机载NvidiaJetson nano开发板上运行,实时传输预测数据给无人机。

步骤四、模型调参,得到最优模型

根据步骤三得到的模型,引入验证集数据进行测试。按学习率,总迭代次数,记忆块的堆叠数量,小批量数量,预测步数的顺序调整超参数。其中最重要的超参数为学习率和总迭代次数,因此,应当优先调整。对比不同超参数下模型的损失值及准确率的变化曲线,曲线如图3所示,图3(a)为俯仰角-时间曲线,图3(b)为滚动角-时间曲线,图3(c)为偏航角-时间曲线,实线代表真实值,虚线代表预测值,寻找最优超参数,确定最优模型。

具体地,主要的超参数为学习率,总迭代次数,记忆块的堆叠数量,小批量数量,预测步数等。

具体地,学习率决定了权值更新的速度。在模型训练的过程中,学习率过大容易使模型跨过最优值,导致过拟合;学习率过小会使梯度下降过程过慢。学习率需要根据经验和不断实验来设置。

具体地,小批量数量决定了数量梯度下降的方向。小批量数量过小,容易导致样本差异过大,难以收敛。小批量数量过大会使得梯度方向基本稳定,但是容易陷入局部最优解,降低精度。

具体地,最优超参数是指,通过调整获得不同超参数数值下的模型,损失值最小和准确率最大的模型,即为最优模型。

步骤五、将测试集数据输入到步骤四得到的最优模型进行测试,输出各项数值评价指标,判断是否达到预期值。

具体的,各项数值评价指标包括准确率,均方误差和平均绝对误差;

所述均方误差是指参数估计值与参数真值之差平方的期望值,公式如下:

所述平均绝对误差是绝对误差的平均值,公式如下:

具体地,当均方误差和平均绝对误差小于0.1时,即满足要求。

步骤六、现场检测,判断评价指标能否达到所需要求

控制无人机飞行,并回传各种传感器采集的无人机姿态数据至高性能计算机终端,采用步骤五获得的最优模型检测,判断评价指标能否达到所需要求。

具体地,评价指标主要包括预测效率,均方误差,平均绝对误差,鲁棒性等。

具体地,鲁棒性是指预测系统在不确定性的扰动下,具有保持性能不变的能力。因此,应当在不同条件下测试模型,从而判断模型的鲁棒性。

具体地,当预测效率大于数据采集速度时,均方误差和平均绝对误差小于0.1时,即满足要求。

本发明提出了一种基于LSTM神经网络算法的无人机路面病害检测方法,研发了适用于道路病害检测的LSTM的神经网络算法,基于无人机传感器监测数据对进行模型训练,提高了模型的准确性和鲁棒性,实现了无人机姿态的自动预测。

尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

11页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:一种医学多功能检验台

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!