具体实施方式

下面结合说明书附图对本发明作进一步阐述。

如图1所示，本发明提供一种基于LSTM的热轧弯辊力预测方法，包括以下步骤：

1)采集不锈钢轧机1580mm热轧工艺的最终机架轧制数据，搜集弯辊力数据用于实验；

2)将弯辊力数据按照规定的比例在时间顺序上划分为训练集traindata和测试集testdata两个部分；

3)对输入数据进行归一化处理得到归一化之后的向量，具体为：

对traindata进行线性归一化处理，得到归一化之后的向量A＝(a₁,a₂,......a_n)^T，其中参数n为神经网络训练集所包含的样本数目，a1～an为神经网络训练集所包含的样本；

4)利用步骤3)中的向量A构造矩阵P；其中参数m为神经网络的输入层单元数，n为样本数；

5)取步骤4)中矩阵P的前m行作为输入送到LSTM网络中；

6)将矩阵P的最后一行作为训练集的标签即真实值；对网络的输出值和真实值利用公式进行计算得到误差，再运用梯度下降法对网络的权重和偏置进行更新；

7)网络训练完成后，取出LSTM网络的最后m个输出数据作为下一时刻的输入，进而得到网络下一时刻的输出，该输出即为下一时刻的弯辊力预测值；

8)重复步骤7)直至获得足够数目的预测数据；

9)对得到的弯辊力预测值进行反归一化处理，将处理后的数据与testdata中的真实值进行比较，检验网络的有效性。

步骤5)中，LSTM网络可采用传统LSTM网络(其隐层结构如图2所示)，也可以采用ON-LSTM(其隐层结构如图3所示)网络或双层ON-LSTM网络(其隐层结构如图4所示)。

采用ON-LSTM网络，步骤1)～9)与传统LSTM网络相同。

采用双层ON-LSTM网络，步骤1)～4)、6)～9)与传统LSTM网络相同，步骤5)为；步骤4)中矩阵P的前m行作为第一层LSTM的输入，并且将得到的输出数据作为输入送到第二层LSTM。第二层LSTM的输出数据为该网络整体的输出。

步骤5)中，第一层以及第二层LSTM是引入了更新机制的有序神经元LSTM即ON-LSTM。该更新机制的作用具体表现在对LSTM进行参数更新时，使各神经元按照一定的顺序排序，并引入重要程度，即层次结构。层次较高的信息表示重要信息，需要在网络中保留。相反，层次较低的信息表示不重要信息。例如某一时刻的弯辊力数据与前后时刻相差很大，产生很大的跳变，它对于整个弯辊力数据的趋势学习贡献不大，则为不重要信息，其他的数据相对来说则为重要信息。

需要用新的输入数据更新。详细过程及计算公式如下：

假设与重要信息相对应的初级层次位置用S1表示，而与不重要信息相对应的次要层次位置用S2表示。通过x_t和h_t-1，S1和S2分别计算为：

S1＝F₁(x_t,h_t-1)＝index max(softmax(W_f～x_t+U_f～h_t-1+b_f～))

S2＝F₂(x_t,h_t-1)＝index max(softmax(W_i～x_t+U_i～h_t-1+b_i～))

其中indexmax函数的作用是求出向量中最大元素对应的位置序号(从1开始排序)；xt为输入数据，ht-1为递归数据，W和U为权重矩阵，b为偏置。

网络基于这些层次位置更新ct。考虑S1和S2之间的相对幅度，有两类更新模型：(1)当S2≥S1时，重要信息和次要信息所对应的位置会有部分重叠，当前细胞状态c_t的计算公式：

当S2<S1时，重要信息和次要信息所对应的位置相互独立，当前细胞状态c_t由下式计算：

其中k为c_t的维数，f_t和i_t分别为遗忘门输出和输入门输出，为中间单元状态。

为了方便描述上述更新过程，分别将和定义为主遗忘门和主输入门；w_t1、w_t2和w_t3分别表示分层结构中的高、中和低等级。

ON-LSTM网络的完整更新公式为：

其中cumax函数为cumsum(softmax())的简写。

步骤6)中所提到的LSTM网络权重和偏置的更新计算过程具体如下：

传统LSTM以及ON-LSTM网络的加权输入误差项的计算公式为：

采用双层结构的双层ON-LSTM，在对权重和偏置进行更新时，两层网络的计算略有不同。第一层和第二层LSTM的加权输入误差项计算公式分别为：

(1)第一层LSTM:

(2)第二层LSTM:

其中f_t为遗忘门输出，i_t为输入门输出o_t为输出门输出，c_t为当前细胞状态，c_t-1为前一时刻细胞状态，为中间单元状态，x_t为输入数据，h_t为递归数据，h_t-1为前一时刻的递归数据，为主遗忘门输出，为主输入门输出，w_t1为高等级、w_t2为中等级、w_t3为低等级，W_fx、W_ix、W_cx、W_ox、 W_fh、W_ih、W_ch、W_oh、为权重矩阵，b_f、b_i、b_c、b_o、为偏置向量；δ_t为t时刻的误差项，δ_f,t、δ_i,t、以及δ_o,t分别为f_t、i_t、c_t以及o_t这四个加权输入所对应的误差项。

权重梯度的计算：

偏置梯度的计算：

其中E为误差，为h_t-1的转置，为x_t的转置，W_oh,t为t时刻的W_oh，同理W_fh,t、W_ih,t、W_ch,t、W_ox,t、W_fx,t、W_ix,t、W_cx,t、b_o,t、b_f,t、b_i,t、b_c,t为t时刻的W_fh、W_ih、W_ch、W_ox、W_fx、W_ix、W_cx、b_o、b_f、b_i、b_c。

根据轧制过程的连续性和时间序列特征，本发明选用了LSTM(Long Short-TermMemory)神经网络模型。LSTM是长短期记忆网络，是一种时间递归神经网络(RNN)，主要是为了解决长序列训练过程中的梯度消失和梯度爆炸问题。简单来说，就是相比普通的RNN，LSTM能够在更长的序列中有更好的表现。

本发明选择了LSTM网络进行弯辊力的预测。与传统的神经网络或者其他机器学习方法不同，本发明不需要预先采集大量的对弯辊力有影响的输入参数，简化了前期数据准备工作，只需要将当前时刻为止采集到的每一时刻的弯辊力数据组成一个时间序列作为输入送到网络当中，即可对LSTM网络进行训练并对后续时刻的弯辊力进行预测。

本发明共采用了三种不同的LSTM网络模型对弯辊力进行预测，除了传统LSTM网络以外，还提出了另外两种改进的LSTM网络用于实验。所述两种改进的LSTM网络分别为：

(1)ON-LSTM网络：ON-LSTM网络在传统LSTM网络的基础上增加了更新机制，与传统LSTM相比，ON-LSTM可以有效增强网络的鲁棒性，提高网络的准确度。

(2)双层ON-LSTM：双层ON-LSTM网络将更新机制与双层结构进行了有机结合。由于双层结构具有强大的拟合函数的能力，因而双层ON-LSTM可以在ON-LSTM的基础上进一步提高网络的预测精度。

为了证明本发明提出的LSTM(传统LSTM、ON-LSTM、双层ON-LSTM)网络模型的有效性，采集某不锈钢轧机1580mm热轧工艺的弯辊力数据，对其进行划分组成三个不同的数据集，每个数据集包含500个样本点。分别对传统LSTM、ON-LSTM以及双层ON-LSTM网络在上述三个数据集上进行实验，并对人工神经网络(ANN)用同样的数据集进行对比实验，比较实验结果。三种不同的网络模型在三个数据集上的最大误差和平均误差如下图5A～5C所示。根据图5A～5C)可以看到三种LSTM网络的预测误差均远远小于ANN网络，三种LSTM网络在数据集1-3(数据集1-3是对采集到的弯辊力数据进行切割划分，选取其中较为有代表性的三段不同的数据作为三个数据集进行实验)上均取得了良好表现,并且可以发现增加了更新机制的ON-LSTM网络优于传统LSTM网络。此外，在将ON-LSTM构造成双层结构后，网络性能得到了进一步提升，双层ON-LSTM网络在三种LSTM网络中误差最小，表现最好。

分别对三个不同的数据集取前450个样本点进行网络训练，并用训练好的LSTM网络对未来50个样本点即未来50个时刻的弯辊力数据进行预测，其结果如下图6A～6C、图7A～7C以及图8A～8C所示，可以看到本专利所提出的三种LSTM网络均能够有效地预测未来时刻的弯辊力数据，具有良好的拟合能力。三种LSTM网络的优良程度从高到低分别为：双层ON-LSTM、ON-LSTM、传统LSTM。

保持所用数据集，训练样本数以及预测样本数等条件不变的情况下，将本发明所用的LSTM网络替换成ANN网络进行对比实验，其结果如下图9A～9C所示。实验结果表明，采用ANN网络对弯辊力进行预测得到的结果误差较大，其效果远不如本专利提出的三种LSTM网络的预测效果好。并且通过与ANN网络进行对比，可以看到LSTM网络在处理连续时间序列方面具有强大的优势，可以有效解决本专利提出的弯辊力预测问题，具有很大的现实意义和应用价值。