基于注意力变换网络的雷达高分辨距离像目标识别方法
阅读说明：本技术 基于注意力变换网络的雷达高分辨距离像目标识别方法 (Radar high-resolution range profile target identification method based on attention transformation network ) 是由 白雪茹 赵晨 杨敏佳 周峰 于 2021-07-05 设计创作，主要内容包括：本发明公开了一种基于注意力变换网络的雷达高分辨距离像目标识别方法,主要解决现有技术对雷达高分辨距离像识别时,难以关注雷达高分辨距离像的局部细节,难以聚焦于雷达高分辨距离像中更具可分性的目标区域,难以利用其全局时序信息,识别正确率较低,识别性能受限等问题。实现步骤为：(1)生成训练集；(2)构建注意力变换网络；(3)训练注意力变换网络；(4)对待分类的雷达高分辨距离像目标进行识别。本发明同时利用了高分辨距离像的局部细节特征与全局时序信息,对高分辨距离像不同距离单元的重要性进行了区分,使得本发明有效提高了高分辨距离像的识别性能。(The invention discloses a method for identifying a target of a radar high-resolution range profile based on an attention transformation network, which mainly solves the problems that local details of the radar high-resolution range profile are difficult to pay attention to, a target area with higher separability in the radar high-resolution range profile is difficult to focus on, global time sequence information is difficult to utilize, the identification accuracy is low, the identification performance is limited and the like when the radar high-resolution range profile is identified in the prior art. The method comprises the following implementation steps: (1) generating a training set; (2) constructing an attention transformation network; (3) training an attention transformation network; (4) and identifying the radar high-resolution range profile target to be classified. The invention simultaneously utilizes the local detail characteristics and the global time sequence information of the high-resolution range profile to distinguish the importance of different range units of the high-resolution range profile, so that the invention effectively improves the identification performance of the high-resolution range profile.)
技术领域
本发明属于雷达技术领域，更进一步涉及雷达目标识别
技术领域
中的一种基于注意力变换网络的雷达高分辨距离像目标识别方法。本发明针对雷达高分辨距离像，提出一种注意力变换网络结构，可用于对雷达高分辨距离像的有效识别。背景技术
高分辨距离像(HRRP)是用宽带雷达信号获取的目标散射点子回波在雷达视线上投影的向量和，能够提供在一定雷达视角下，目标散射体(如飞机的机头、机身等)的雷达散射截面积沿雷达视线的分布情况。与合成孔径雷达图像及逆合成孔径雷达图像相比，具有易于获取和处理简单的优势，使得基于高分辨距离像的雷达目标识别技术成为雷达实时目标识别的重要手段之一。当高分辨雷达对目标进行连续观测时，能够获得其高分辨距离像序列，该序列蕴含着目标形状、结构、散射强度及其随雷达视角的变化规律等重要特征。目前基于深度学习的高分辨距离像目标识别方法主要在卷积神经网络或长短期记忆网络的基础上进行改进，有效避免了复杂的人工设计过程。但是，现有对高分辨距离像时序信息进行学习的长短期记忆单元对目标局部细节关注度不够，且现有方法尚未考虑高分辨距离像中不同距离单元所映射的隐层对目标识别的不同重要性，因此识别正确率较低。
Zhequan Fu，Li Xiangping Li，Bo Dan，Xukun Wang在其发表的论文“ANeuralNetwork with Convolutional Module and Residual Structure for Radar T argetRecognition Based on High-Resolution Range Profile”(Sensors,21January 2020)中提出了一种基于卷积残差神经网络的雷达高分辨率距离像目标识别方法。该方法的实现步骤为：(1)将幅度归一化后的雷达高分辨率距离像数据集利用一维平移截取技术进行扩充，并将扩充后样本分为训练样本与测试样本；(2)将多个卷积块和残差块级联组成的深度卷积残差网络作为学习器，将边缘中心损失函数作为损失函数，对扩充后的训练样本进行训练，并得到训练后的学习器；(3)利用训练后的学习器进行雷达高分辨率距离像自动目标识别。该方法利用深度神经网络自动提取目标多层特征，使用边缘中心损失函数提高特征可分性，并使用残差结构有效提升深层网络的识别精度。但是，该方法仍然存在的不足之处是，由于该方法忽略了高分辨距离像之间的全局时序信息，导致网络训练效率较低，识别正确率较低。
西安电子科技大学在其申请的专利文献“基于姿态自适应卷积网络的高分辨距离像目标识别方法”(公开号：CN202110032890.4，申请公布号：CN112835008A)中公开了一种基于姿态自适应卷积网络的高分辨距离像目标识别方法。该方法的实现步骤为：(1)构建姿态自适应卷积网络；(2)生成训练数据集和辅助数据集；(3)对训练数据集进行预处理；(4)生成自适应卷积核；(5)训练姿态自适应卷积网络；(6)目标识别。该方法通过构建姿态自适应卷积网络，利用目标高分辨距离像回波与目标姿态角信息训练网络，能够有效解决高分辨距离像回波姿态敏感性问题。但是，该方法仍然存在的不足之处是，高分辨距离像中不同距离单元所映射的隐层对目标识别重要性不同，该方法没有对这种重要程度进行区分，导致该方法在识别时无法聚焦于高分辨距离像中更具可分性的目标区域，限制了算法的识别性能。
发明内容
本发明的目的是针对上述现有技术的不足，提出一种基于注意力变换网络的雷达高分辨距离像目标识别方法，旨在解决现有技术进行雷达高分辨距离像识别时难以利用高分辨距离像之间的时序相关性，网络训练效率较低，且难以对高分辨距离像中不同区域的重要性进行区分的问题。
实现本发明目的的技术思路是：本发明构建了一种注意力变换网络，通过训练好的注意力变换网络直接对雷达高分辨距离像进行识别，避免了现有技术进行雷达高分辨距离像目标识别时，网络训练效率较低，无法聚焦于高分辨距离像中更具可分性的目标区域，识别正确率较低的问题。本发明利用卷积子网络和注意力增强卷积子网络级联成的卷积注意模块，对高分辨距离像进行精细的特征提取，避免了现有技术难以对高分辨距离像的局部特征细节进行关注的问题。通过位置编码模块对卷积注意模块提取的特征进行位置编码，从而实现全局时序信息的建立，解决了现有技术难以利用高分辨距离像全局时序信息的问题。通过多头注意力变换编码器模块对位置编码后的特征进行重要程度的区分学习，解决了现有技术难以聚焦于高分辨距离像中更具可分性的目标区域的问题。
本发明的具体步骤如下：
步骤1，生成训练集：
(1a)将雷达在5520MHz中心频率，400MHz信号带宽，400Hz脉冲重复频率的条件下获取的三类飞机高分辨距离像中，选取147950个距离像组成样本集；
(1b)对样本集中每一个高分辨距离像依次进行幅度归一化、平移对齐的预处理；
(1c)以预处理后每30个连续的高分辨距离像为一组，对预处理后的样本集进行滑窗；
(1d)将滑窗得到的9859组序列样本组成训练集；
步骤2，构建注意力变换网络；
(2a)搭建一个由卷积层，批归一化层，非线性激活层，最大值池化层组成的第一卷积子网络并设置子网络参数；
(2b)搭建一个由卷积层，批归一化层，非线性激活层，最大值池化层组成的第二卷积子网络并设置子网络参数；
(2c)搭建一个由全局平均注意池化层，第一卷积层，全局最大注意池化层，第二卷积层，非线性激活层组成的通道注意力层；其中全局平均注意池化层与全局最大注意池化层的输出维度均为1×1，第一卷积层具有核大小为3×3个像素的4个卷积核，第二卷积层具有核大小为3×3个像素的32个卷积核，非线性激活层采用线性整流单元激活函数；
(2d)搭建一个由平均注意池化层，最大注意池化层，卷积层，非线性激活层组成的空间注意力层；其中平均注意池化层与最大注意池化层的输出通道数均为1，卷积层具有核大小为3×3个像素的1个卷积核，非线性激活层采用线性整流单元激活函数；
(2e)搭建一个由卷积层，通道注意力层，空间注意力层，批归一化层，非线性激活层，最大值池化层组成的注意力增强卷积子网络；其中卷积层具有核大小为3×3个像素的32个卷积核，卷积后的填充数为1，批归一化层的通道数为32，非线性激活层采用线性整流单元激活函数，最大值池化层的窗口大小为2×2个像素，步长为2个像素；
(2f)将第一卷积子网络，第二卷积子网络，注意力增强卷积子网络级联成卷积注意模块；
(2g)搭建一个由正弦编码器与余弦编码器组成的位置编码模块；其中，正弦编码器与余弦编码器的编码维度均为32，正弦编码器的位置索引为[0,96]中选取的所有偶数，余弦编码器的位置索引为[0,96]中选取的所有奇数；
(2h)搭建一个由多头注意力组，多层感知器组成的多头注意力变换编码器模块；其中，多头注意力组由8个并联的注意力头组成，每个注意力头由键值、查询值和真值通过缩放点积公式计算得到，其中，键值、查询值和真值的长度均为97，维度均为32个像素；所述多层感知器由第一全连接层，高斯误差线性单元，第二全连接层级联组成，其中第一全连接层、第二全连接层的权重维度大小分别设置为32×128、128×32；
(2i)将卷积注意模块，位置编码模块，多头注意变换编码器模块级联成注意力变换网络；
步骤3，训练注意力变换网络：
将训练集输入到注意力变换网络中，利用交叉熵损失函数，计算网络的输出与训练图像的类别标签之间的交叉熵损失值，通过反向传播算法迭代更新网络的参数，直到网络的交叉熵损失函数收敛为止，得到训练好的注意力变换网络；
步骤4，对雷达高分辨距离像目标进行识别：
用与步骤(1b)和(1c)相同的方法，对待识别的雷达高分辨距离像进行预处理和滑窗处理，得到22203组序列样本组成的待识别样本集，将待识别样本集输入到训练好的注意力变换网络中，输出类别标签。
本发明与现有的技术相比具有以下优点：
第一，由于本发明利用卷积子网络和注意力增强卷积子网络级联成的卷积注意力模块，对雷达高分辨距离像进行精细的局部特征提取，使得本发明关注了雷达高分辨距离像更有用的局部细节，从而克服了现有技术对雷达高分辨距离像时序信息进行学习时难以对距离像的局部细节进行关注的问题，使得本发明提高了雷达高分辨距离像的识别的正确率。
第二，本发明在充分利用雷达高分辨距离像时变信息的基础上，通过位置编码模块对卷积注意模块提取的特征进行位置编码，从而实现全局时序信息的建立，克服了现有技术难以利用雷达高分辨距离像全局时序信息的问题，使得本发明提高了雷达高分辨距离像的识别精度。
第三，本发明通过多头注意力变换编码器模块对位置编码后的特征进行注意力编码，对雷达高分辨距离像中不同区域的重要性进行区分，克服了现有技术难以聚焦于雷达高分辨距离像中更具可分性的目标区域的问题，使得本发明提高了雷达高分辨距离像的识别性能。
附图说明
图1是本发明的流程图；
图2是本发明主干网络模块的结构示意图；
图3是本发明主干网络模块中第一、第二卷积子网络的结构示意图；
图4是本发明主干网络模块中通道注意力层、空间注意力层的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的描述。
参照图1，对本发明实现的具体步骤进行详细描述。
步骤1，生成训练集。
S1，将雷达在5520MHz中心频率，400MHz信号带宽，400Hz脉冲重复频率的条件下获取的三类飞机高分辨距离像中，选取147950个距离像组成样本集。
S2，对样本集中每一个高分辨距离像依次进行幅度归一化、平移对齐预处理。
S3，以预处理后每30个连续的高分辨距离像为一组，对预处理后的样本集进行滑窗。
所述滑窗的具体步骤如下：
第1步，将预处理后样本集的所有高分辨距离像排成一行，得到样本集总序列。
第2步，使用长度为30个高分辨距离像，宽度为1个高分辨距离像的矩形滑窗，以15个高分辨距离像的步长在样本集总序列上滑动，取出滑窗内的所有高分辨距离像序列，构成滑窗后的序列样本。
S4，将滑窗得到的9859组序列样本组成训练集。
步骤2，构建注意力变换网络。
搭建一个由3个模块组成的主干网络模块，其结构依次为：卷积注意模块，位置编码模块，多头注意力变换编码器模块。其中，卷积注意模块由第一卷积子网络，第二卷积子网络，注意力增强卷积子网络级联组成；位置编码模块由正弦编码器与余弦编码器组成；多头注意力变换编码器模块由多头注意力组，多层感知器级联组成。
参照图2对本发明构建的主干网络模块作进一步描述。
主干网络模块的输入数据为雷达高分辨距离像序列，卷积注意模块对雷达高分辨距离像的局部特征进行提取，位置编码模块对提取的局部特征进行位置编码，多头注意变换编码器模块完成对特征的注意力编码并输出识别结果。
参照图3对本发明构建的第一、第二卷积子网络作进一步描述。
搭建一个由卷积层，批归一化层，非线性激活层，最大值池化层组成的第一卷积子网络；其中，卷积层具有核大小为7×7个像素的8个卷积核，卷积后的填充数为3，批归一化层的通道数为8，非线性激活层采用线性整流单元激活函数，最大值池化层的窗口大小为2×2个像素，步长为2个像素，如图3(a)所示。
搭建一个由卷积层，批归一化层，非线性激活层，最大值池化层组成的第一卷积子网络；其中卷积层具有核大小为5×5个像素的16个卷积核，卷积后的填充数为2，批归一化层的通道数为16，非线性激活层采用线性整流单元激活函数，最大值池化层的窗口大小为2×2个像素，步长为2个像素，如图3(b)所示。
参照图4对本发明搭建的通道注意力层、空间注意力层作进一步描述。
搭建一个由全局平均注意池化层，第一卷积层，全局最大注意池化层，第二卷积层，非线性激活层组成的通道注意力层；其中全局平均注意池化层与全局最大注意池化层的输出维度均为1×1，第一卷积层具有核大小为3×3个像素的4个卷积核，第二卷积层具有核大小为3×3个像素的32个卷积核，非线性激活层采用线性整流单元激活函数，如图4(a)所示。
搭建一个由平均注意池化层，最大注意池化层，卷积层，非线性激活层组成的空间注意力层；其中平均注意池化层与最大注意池化层各自的输出进行通道维度的拼接后作为注意池化总的输出，平均注意池化层与最大注意池化层的输出通道数均为1，卷积层具有核大小为3×3个像素的1个卷积核，非线性激活层采用线性整流单元激活函数，最大值池化层的窗口大小为2×2个像素，步长为2个像素，如图4(b)所示。
搭建一个由卷积层，通道注意力层，空间注意力层，批归一化层，非线性激活层，最大值池化层组成的注意力增强卷积子网络；其中卷积层具有核大小为3×3个像素的32个卷积核，卷积后的填充数为1，批归一化层的通道数为32，非线性激活层采用线性整流单元激活函数，最大值池化层的窗口大小为2×2个像素，步长为2个像素。
将第一卷积子网络，第二卷积子网络，注意力增强卷积子网络级联成卷积注意模块。
搭建一个由正弦编码器与余弦编码器组成的位置编码模块；其中，正弦编码器与余弦编码器的编码维度均为32，正弦编码器的位置索引为[0,96]中选取的所有偶数，余弦编码器的位置索引为[0,96]中选取的所有奇数。
搭建一个由多头注意力组，多层感知器组成的多头注意力变换编码器模块；其中，多头注意力组由8个并联的注意力头组成，将上述位置编码后的特征，分别复制三份作为真值、键值和查询值，键值、查询值和真值通过缩放点积公式计算得到每个注意力头，将8个注意力头相加得到多头注意力组的输出，其中，键值、查询值和真值的长度均为97，维度均为32个像素；所述多层感知器由第一全连接层，高斯误差线性单元，第二全连接层级联组成，将多头注意力组的输出连接到多层感知器进行特征感知后，连接softmax分类器，得到多头注意变换编码器模块，其中第一全连接层、第二全连接层的权重维度大小分别设置为32×128、128×32。
所述的缩放点积公式如下：
其中，Headi表示第i个注意力头，∑表示求和操作，M表示右边分数式所有权重分数的总数，m表示权重分数的序号，exp(·)表示以自然常数e为底的指数操作，Qm表示计算第m个权重分数时所用到的查询值，T表示转置操作，Km表示计算第m个权重分数时所用到的键值，d表示键值的维度，N表示右边指数操作所有联合度分数的总数，n表示联合度分数的序号，Qn表示计算第n个联合度分数时所用到的查询值，Kn表示计算第n个联合度分数时所用到的键值，V表示计算第m个权重分数时所用到的真值。
所述的softmax函数如下：
其中，pt表示输入图像属于第t种类型的概率，t＝1,2,…,M，exp(·)表示以自然常数e为底的指数操作，Ov表示第v个神经元的输出，v的取值与t对应相等，L表示神经元总数，l表示神经元的序号，Ol表示第l个神经元的输出。
步骤3，训练注意力变换网络。
第1步，初始化注意力变换网络中各卷积层、通道注意力层、空间注意力层、多头注意力组和多层感知器的权值参数和偏置参数。
第2步，将训练样本集中的雷达高分辨距离像样本输入到卷积注意模块，进行局部特征提取，得到精细的局部特征。
第3步，将精细的局部特征输入到位置编码模块中，得到位置编码后的特征。
第4步，将位置编码后的特征输入到多头注意变换编码器模块，得到注意力变换网络的类别标签。
第5步，将注意力变换网络的类别标签和雷达高分辨距离像样本对应的标签根据交叉熵损失函数计算注意力变换网络的误差。
所述交叉熵损失函数的形式为：
其中，F表示交叉熵损失函数，j表示训练集中样本的类别，xj表示训练集中每个样本对应的真实标签，ln表示以e为底的对数操作，yj表示序列调整网络的输出。
第6步，将注意力变换网络的误差进行反向传播，根据梯度下降法更新注意力变换网络各卷积层、通道注意力层、空间注意力层、多头注意力组和多层感知器的权值参数和偏置参数。
第7步，使用更新后的注意力变换网络各卷积层、通道注意力层、空间注意力层、多头注意力组和多层感知器的权值参数和偏置参数重复迭代第2步～第6步的计算过程，当误差稳定收敛后，停止迭代，得到训练好的注意力变换网络。
步骤4，对雷达高分辨距离像目标进行识别。
采用与步骤S2和S3相同的方法，对待识别的雷达高分辨距离像进行预处理和滑窗处理，得到22203组序列样本组成的待识别样本集，将待识别样本集输入到训练好的注意力变换网络中，输出类别标签。
下面结合仿真实验对本发明的效果做进一步描述。
1、仿真实验条件。
本发明的仿真实验硬件平台为：处理器为Intel Xeon E5-2650 CPU，处理器主频为2.20GHz，内存为64GB，显卡为NVIDIA Geforce GTX 1080ti。
本发明的仿真实验软件平台为Windows 10操作系统，Mtalab2018,Python 3.6和Pytorch 1.4。
2、仿真实验内容与结果分析。
本发明仿真实验是在相同的数据集下，采用本发明和传统卷积神经网络方法分别对上述的三类飞机雷达高分辨距离像进行识别，获得识别结果。
仿真实验所用数据集为雷达在5520MHz中心频率，400MHz信号带宽，400Hz脉冲重复频率的条件下获取的三类飞机雷达高分辨距离像，这三类飞机目标分别为：安-26，奖状，雅克-42，其中安-26与奖状分别有7个数据段，雅克-42有5个数据段。选取安-26的5、6段，奖状的6、7段以及雅克-42的2、5段作为训练样本集，选取安-26的1～4段，奖状的1～5段，雅克-42的1、3、4段作为测试样本集。
在本发明的仿真实验中，现有的基于传统卷积神经网络的雷达高分辨距离像识别方法取自Beicheng Ding，Penghui Chen等人发表的论文“HRRP feature extraction andrecognition method ofradar ground target using convolutional neural network”，基于传统卷积神经网络的雷达高分辨距离像识别方法首先对雷达高分辨距离像进行快速傅里叶变换，然后提取变换后高分辨距离像的特征，将提取的特征输入到设计好的卷积神经网络中对高分辨距离像进行识别。
仿真实验1：应用本发明方法对三类飞机雷达高分辨距离像目标进行识别，首先使用训练样本集训练基于注意力变换网络的雷达高分辨距离像识别网络，得到训练好的基于注意力变换网络的雷达高分辨距离像识别网络，然后使用测试样本集在训练好的基于注意力变换网络的雷达高分辨距离像识别网络上进行测试。
通过以下公式，计算仿真实验1识别的正确率：
其中，c表示测试样本集的识别正确率，R表示测试样本集的样本的总数，h(·)表示类别鉴别函数，tr表示测试样本集中第r个测试样本的真实类别标签，yr表示测试样本集中第r个测试样本对应的注意力变换网络输出结果，当tr和yr相等时，h(tr,yr)等于1，否则，h(tr,yr)等于0。
根据R＝22203，计算得到本发明的识别正确率为96.82％。
仿真实验2：应用传统的卷积神经网络方法对三类飞机雷达高分辨距离像进行识别，首先使用训练样本集训练基于传统卷积神经网络的雷达高分辨距离像识别网络，得到训练好的基于传统卷积神经网络的雷达高分辨距离像识别网络，然后使用测试样本集在训练好的基于传统卷积神经网络的雷达高分辨距离像识别网络上进行测试。
通过以下公式，计算仿真实验2的识别正确率：
其中，c表示测试样本集的识别正确率，R表示测试样本集的样本的总数，h(·)表示类别鉴别函数，tr表示测试样本集中第r个测试样本的真实类别标签，yr表示测试样本集中第r个测试样本对应的注意力变换网络输出结果，当tr和yr相等时，h(tr,yr)等于1，否则，h(tr,yr)等于0。
根据R＝22203，计算得到传统卷积神经网络的识别正确率为87.47％。
综上所述，本发明提出的基于注意力变换网络的雷达高分辨距离像识别网络方法相比于现有方法，能够有效提高雷达高分辨距离像的识别性能。