一种基于贝叶斯优化的BiLSTM电压偏差预测方法

文档序号:153948 发布日期:2021-10-26 浏览:11次 >En<

阅读说明:本技术 一种基于贝叶斯优化的BiLSTM电压偏差预测方法 (BiLSTM voltage deviation prediction method based on Bayesian optimization ) 是由 王宝华 张文惠 王大飞 张弛 于 2021-06-07 设计创作,主要内容包括:本发明公开了一种基于贝叶斯优化的BiLSTM电压偏差预测方法,对电压偏差时间序列数据集进行标准差标准化处理,按照比例进行数据分割,得到训练集和验证集;利用预处理之后的电压偏差数据训练集训练BiLSTM电压偏差预测模型;将验证集输入到训练的BiLSTM电压偏差预测模型中,获取电压偏差预测值后进行反标准差处理,使用均方根误差作为BiLSTM电压偏差预测模型超参数优化的目标函数,利用贝叶斯优化算法对BiLSTM电压偏差预测模型的超参数进行优化,获取最优的超参数组合;将最优超参数组合作为BiLSTM预测模型的超参数,构建基于贝叶斯优化算法的BiLSTM电压偏差预测模型,对电压偏差时间序列数据进行预测,获得最终的预测数据。本发明精度高、预测效果可靠。(The invention discloses a BiLSTM voltage deviation prediction method based on Bayesian optimization, which comprises the steps of carrying out standard deviation standardization processing on a voltage deviation time series data set, and carrying out data segmentation according to a proportion to obtain a training set and a verification set; training a BiLSTM voltage deviation prediction model by utilizing the preprocessed voltage deviation data training set; inputting the verification set into a trained BilTM voltage deviation prediction model, obtaining a voltage deviation prediction value, then performing inverse standard deviation processing, using a root mean square error as a target function of hyperparameter optimization of the BilTM voltage deviation prediction model, and optimizing hyperparameters of the BilTM voltage deviation prediction model by using a Bayesian optimization algorithm to obtain an optimal hyperparameter combination; and (3) taking the optimal hyper-parameter combination as a hyper-parameter of the BilSTM prediction model, constructing the BilSTM voltage deviation prediction model based on the Bayesian optimization algorithm, predicting the voltage deviation time sequence data, and obtaining final prediction data. The invention has high precision and reliable prediction effect.)

一种基于贝叶斯优化的BiLSTM电压偏差预测方法

技术领域

本发明涉及一种基于贝叶斯优化的BiLSTM电压偏差预测方法,属电气工程和电压偏差领域。

背景技术

近年来,电力行业迅速地发展,电力用户对电压偏差的要求越来越高。电压偏差问题会严重地损害电力用户及相关电力行业的利益,所以必须加大对电压偏差的监测,获得大量的电压偏差数据,为深度分析电压偏差变化趋势提供依据。对电压偏差数据有效地进行分析和预测,有利于工作人员早发现电压偏差问题,并采取相应的措施,确保电力系统稳定安全运行。

当前,对电压偏差进行预测的研究成果较少。有的学者提出使用线性回归法、随机时间序列法和灰色模型对电压偏差进行预测,但单一方法的预测精度较差。部分学者使用聚类算法结合神经网络对电压偏差进行预测的方法,但聚类算法受初始聚类中心影响较大,对数据集要求较高。有的学者提出将多种预测模型对电压偏差进行组合预测,但提高了权重确定及建模的难度。随着深度学习算法的兴起,神经网络在时间序列预测中的作用越发明显,但超参数选取问题是保证预测算法预测精度的重要因素。目前广泛使用的超参数优化泛有网格搜索法、随机搜索法和启发式搜索法。网格搜索法是将每种可能的超参数组合都测试一次,选取最优超参数,但是超参数寻优过程十分耗费时间。随机搜索法是通过随机超参数组合进行评估,虽然提高了效率,但是训练结果不稳定。启发式搜索法是通过利用问题的启发规则进行寻优,但提高了建立启发规则的难度。因此,现有的电压偏差预测技术有待进一步研究。

发明内容

本发明的目的在于提出一种基于贝叶斯优化的BiLSTM电压偏差预测方法,以解决电压偏差预测模型泛化能力差、预测精度低的问题。

实现本发明目的的技术解决方案为:一种基于贝叶斯优化的BiLSTM电压偏差预测方法,包括如下步骤:

步骤1,对电压偏差时间序列数据集进行标准差标准化处理;

步骤2,对标准差标准化后的电压偏差时间序列数据按照比例进行数据分割,得到训练集和验证集,分别用于训练网络模型的参数学习和模型结果检验;

步骤3,定义BiLSTM电压偏差预测模型超参数的范围,生成随机一组初始超参数作为BiLSTM模型的初始超参数,利用预处理之后的电压偏差数据训练集训练BiLSTM电压偏差预测模型;

步骤4,将验证集输入到训练的BiLSTM电压偏差预测模型中,获取电压偏差预测值后进行反标准差处理,使用均方根误差作为BiLSTM电压偏差预测模型超参数优化的目标函数,利用贝叶斯优化算法对BiLSTM电压偏差预测模型的超参数进行优化,获取最优的超参数组合;

步骤5,将最优超参数组合作为BiLSTM预测模型的超参数,构建基于贝叶斯优化算法的BiLSTM电压偏差预测模型,对电压偏差时间序列数据进行预测,获得最终的预测数据。

进一步的,步骤1中,对电压偏差时间序列数据集进行标准差标准化处理,具体方法为:

步骤101,在配电网中,选取进行电压偏差预测的节点,采集相应的电压偏差数据,得到原始电压偏差时间序列数据Z:

式(1)中,原始电压偏差时间序列数据Z包含l个数据,其中Zl为第l个的原始电压偏差数据;

步骤102:对进行原始电压偏差时间序列数据标准差标准化,获得连续时间序列的归一化电压偏差数据,其值域范围为[-1,1];

标准差标准化计算公式如式(2):

式(2)中,Zi为标准差标准化处理之前的原始电压偏差时间序列数据;为标准差标准化处理之后的电压偏差时间序列数据;μ1为原始电压偏差时间序列数据的均值;σ1为原始电压偏差时间序列数据的标准差。

进一步的,步骤2中,对标准差标准化后的电压偏差时间序列数据按照比例进行数据分割,80%的数据作为训练集X=[x1,x2,…,xn],用于训练网络模型的参数学习;其余的20%的数据作为测试集Y=[y1,y2,…,ym],用于模型结果检验。

进一步的,步骤3中,定义BiLSTM电压偏差预测模型超参数的范围,生成随机一组初始超参数作为BiLSTM模型的初始超参数,利用预处理之后的电压偏差数据训练集训练BiLSTM电压偏差预测模型,具体方法为:

步骤301,定义BiLSTM电压偏差预测模型超参数的范围,生成随机一组初始超参数。

步骤302,构建BiLSTM电压偏差预测模型,使用初始超参数和预处理之后的电压偏差数据训练集进行模型训练;

BiLSTM电压偏差预测模型由前向LSTM层与后向LSTM层组成,LSTM层通过遗忘门、输入门和输出门控制记忆单元数据信息的流动,首先将电压偏差训练集数据输入到前向LSTM层和后向LSTM层中,得到当前时刻其前向层和后向层的隐藏状态然后将当前时刻其前向层和后向层的隐藏状态拼接得到神经元输出值Ot,再经过全连接层得到电压偏差预测值;

通过遗忘门选择要遗忘的信息,遗忘门的具体计算方式为:

ft=σ(Wf·[ht-1,xt]+bf) (3)

式(3)中,Wf是遗忘门的权重矩阵;ht-1为上一刻的LSTM层的隐藏状态;xt为当前时刻的电压偏差数据;bf是遗忘门的偏置;σ为sigmoid函数,ft为对上一时刻状态设置信息遗忘的比重;

通过输入门选择要添加的新信息,首先输入门选择需要更新的信息it,同时tanh层创建新的候选向量然后将输入值it与候选向量相乘对细胞状态进行更新,输入门的具体计算方式为:

it=σ(Wi·[ht-1,xt]+bi) (4)

其中,Wi是输入门的权重矩阵;bi是输入门的偏置;WC是tanh层的权重矩阵;bC是tanh层的偏置;Ct表示当前输入的记忆单元状态;

通过输出门计算神经元输出值,输出门的值ot取决于更新后的细胞状态Ct,输出门的计算方式为:

ot=σ(Wo[ht-1,xt]+bo) (7)

ht=ot×tanh(Ct) (8)

其中:Wo是输出门的权重矩阵;bo是输出门的偏置;ht为LSTM层的隐藏状态,也为下一时刻的输入状态;

当前时刻其前向层和后向层的隐藏状态的计算方式为:

式中,f(·)为前向信息提取函数;b(·)为后向信息提取函数;Wf是前向LSTM层的权重矩阵;bf是前向LSTM层的偏置;Wb是后向LSTM层的权重矩阵;bb是后向LSTM层的偏置;

当前时刻神经元输出值Ot的计算公式为:

式(11)中,为前向LSTM层的隐藏状态,为反向LSTM层的隐藏状态,Wy是BiLSTM预测输出的权重矩阵;by是BiLSTM预测输出的偏置;

步骤303,将当前时刻神经元输出值Ot经过全连接层后得到电压偏差预测值,通过损失函数不断迭代电压偏差预测值与电压偏差实际值之间的损失值,当达到迭代终止条件时,完成BiLSTM电压偏差预测模型的训练。

进一步的,将验证集输入到训练的BiLSTM电压偏差预测模型中,获取电压偏差预测值后进行反标准差处理,使用均方根误差作为BiLSTM电压偏差预测模型超参数优化的目标函数,利用贝叶斯优化算法对BiLSTM电压偏差预测模型的超参数进行优化,获取最优的超参数组合,具体方法为:

步骤401,将电压偏差验证集输入到步骤3训练的BiLSTM电压偏差预测模型中,获取电压偏差预测值;

步骤402,对电压偏差预测值进行反标准差处理,反标准差计算公式如式(12):

式(12)中,为反归一化处理之后的数据;Y′为反归一化处理之前的数据;μ1为输出数据的均值;σ1为输出数据的标准差;

步骤403,使用均方根误差作为BiLSTM电压偏差预测模型超参数优化的目标函数:

式(13)中,yi电能偏差的实际值和预测值,n为电压偏差测试集样本数量;

步骤404,使用贝叶斯优化算法对BiLSTM电压偏差预测模型的超参数进行优化,获取最优的超参数组合;

贝叶斯优化算法有两个关键部分:概率代理模型和采集函数,其中概率代理模型为高斯过程,使用的采集函数为EI采集函数,根据步骤403构建贝叶斯优化算法的目标函数后,使用高斯过程获取贝叶斯优化目标函数的后验概率,进一步使用采集函数根据贝叶斯优化目标函数的后验概率从超参数范围内选取一个最优的超参数组合;

(1)构建贝叶斯优化的目标函数,表示为:

式(14)中,w*为贝叶斯优化确定的最优参数,w为输入的一组超参数,W为多维超参数的参数空间;

(2)将数据集Di={(w1,g(w1)),(w2,g(w2)),…,(wi,g(wi))}和超参数优化的目标函数g(w)输入高斯过程,假设目标函数g(w)服从高斯分布,即

g(w)~GP(μ(w),k(w,w′)) (15)

式(15)中,μ(w)为g(w)的均值函数,通常设置为0;k(w,w′)表示g(w)的协方差函数;

(3)获取贝叶斯优化目标函数g(w)的后验概率,表示如式(16):

P(gi+1|Di)~N(μi+1(w),σiw1 2(w)) (16)

式(16)中,gi+1为下一时刻贝叶斯优化目标函数,Di为超参数数据集,为下一时刻贝叶斯优化目标函数的方差,μi+1(w)为下一时刻贝叶斯优化目标函数的均值。

(4)基于上一步骤中得到的后验概率的均值和方差,使用EI采集函数寻找下一个最有“潜力”的评估点wi+1

wi+1=maxw∈Wα(w;Di) (17)

式(17)中,wi+1为第i+1步时选取的超参数,α(w;Di)为EI采集函数,Di为超参数数据集。

EI采集函数计算公式如式(18):

式(18)中,v*表示当前最优函数值,φ(·)为标准正态分布概率密度函数,ξ为平衡函数,μ(w)为均值函数,σ(w)为标准差函数,D为超参数数据集;

(5)将获得的新一组超参数组合wi+1作为BiLSTM电压偏差预测模型的超参数,重复步骤401-403,得到新的超参数优化目标函数g(wi+1),更新样本集合Di+1=Di∪wi+1

(6)重复步骤(2)-(5),当新选取的超参数组合相对应的超参数优化目标函数值符合要求时,终止贝叶斯优化算法,输出当前选取的最佳超参数组合。

本发明与现有技术相比,其显著优点在于:1、BiLSTM神经网络是由前向LSTM层与后向LSTM层组合而成,即信息能够同时进行前后传递,进行双向学习,从而能够获得更多的信息,即使用BiLSTM预测模型比单向LSTM预测模型的精度更高。2、使用贝叶斯优化算法对BiLSTM模型的超参数寻优,找出最优的超参数组合,进一步提高了模型的电压偏差预测模型的泛化能力。3、利用贝叶斯优化的BiLSTM对电压偏差进行预测,效果良好,准确度高。4、本发明的电压偏差预测方法稳定可靠,训练好的模型可直接用于未来电压偏差预测应用中,应用简便。

附图说明

图1为本发明基于贝叶斯优化的BiLSTM电压偏差预测方法的流程图。

图2为本发明BiLSTM与未用贝叶斯优化的BiLSTM方法的电压偏差预测结果对比图。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅用以解释本申请,并不用于限定本申请。

考虑到提高电压偏差预测模型的性能和效果。本发明使用双向长短记忆网络BiLSTM,BiLSTM神经网络是由前向LSTM和后向LSTM组合而成的,即信息同时进行前后传递,能够获取更多的信息,也就是说使用BiLSTM预测模型比单向LSTM预测模型的精度更高。在BiLSTM电压偏差预测模型的训练过程中对超参数使用贝叶斯优化算法进行优化,确定最优的模型超参数组合。贝叶斯优化方法在选择下一组最有“潜力”的超参数组合时能够充分利用完整的历史评估信息,减少评估次数,避免不必要的采样,得到复杂目标函数的最优解即最优超参数组合。使用最优超参数组合,构建基于贝叶斯优化算法的BiLSTM电压偏差预测模型,对电压偏差数据进行有效地预测。

一种基于贝叶斯优化双向长短记忆网络(BiLSTM)的电压偏差预测模型,如附图1所示,其过程包括以下几个步骤:

步骤1,原始电压偏差时间序列数据集预处理

为了能够加快神经网络预测模型的收敛速度,并且为了避免在训练过程中发生梯度爆炸,本发明对电压偏差时间序列数据集进行标准差标准化处理。

步骤101,在配电网中,选取进行电压偏差预测的节点,采集相应的电压偏差数据,得到原始电压偏差时间序列数据Z:

式(1)中,原始电压偏差时间序列数据Z包含l个数据,其中Zl为第l个的原始电压偏差数据,以此类推。

步骤102:对进行原始电压偏差时间序列数据标准差标准化,获得连续时间序列的归一化电压偏差数据,其值域范围为[-1,1];

标准差标准化计算公式如式(2):

式(2)中,Zi为标准差标准化处理之前的原始电压偏差时间序列数据;为标准差标准化处理之后的电压偏差时间序列数据;μ1为原始电压偏差时间序列数据的均值;σ1为原始电压偏差时间序列数据的标准差。通过标准差标准化的算法,能够使电压偏差时间序列数据集符合标准的正态分布。

步骤2,电压偏差时间序列数据分割

为了能够实现BiLSTM电压偏差预测模型,首先需要一定数量的历史电压偏差时间序列数据来完成学习训练,其目的是拟合基于贝叶斯优化的BiLSTM电压偏差预测模型;然后为了能够客观公正地评价预测模型网络的性能,需要一部分电压偏差时间序列数据来进行测试。因此,将步骤1中标准差标准化后的电压偏差时间序列数据按照比例进行数据分割,80%的数据作为训练集X=[x1,x2,…,xn],用于训练网络模型的参数学习;其余的20%的数据作为测试集Y=[y1,y2,…,ym],用于模型结果检验,保证所提出的基于贝叶斯优化的BiLSTM电压偏差预测模型的有效性和实用性。

步骤3,定义BiLSTM电压偏差预测模型超参数的范围,生成随机一组初始超参数作为BiLSTM模型的初始超参数,使用BiLSTM电压偏差预测模型对预处理之后的电压偏差数据训练集进行预测,获取相对应的电压偏差预测值。

步骤301,定义BiLSTM电压偏差预测模型超参数的范围,生成随机一组初始超参数。

步骤302,使用预处理之后的电压偏差数据训练集和初始超参数,构建BiLSTM电压偏差预测模型。

BiLSTM电压偏差预测模型由前向LSTM层与后向LSTM层组成。LSTM层通过遗忘门、输入门和输出门控制记忆单元数据信息的流动。首先将电压偏差训练集数据输入到前向LSTM层和后向LSTM层中,得到当前时刻其前向层和后向层的隐藏状态然后将当前时刻其前向层和后向层的隐藏状态拼接得到神经元输出值Ot;再经过全连接层训练BiLSTM电压偏差预测模型。

通过遗忘门选择要遗忘的信息,遗忘门的具体计算方式为:

ft=σ(Wf·[ht-1,xt]+bf) (3)

式(3)中,Wf是遗忘门的权重矩阵;ht-1为上一刻的LSTM层的隐藏状态;xt为当前时刻的电压偏差数据;bf是遗忘门的偏置;σ为sigmoid函数,ft(范围为0~1)为对上一时刻状态设置信息遗忘的比重。

通过输入门选择要添加的新信息。首先输入门it选择需要更新的信息,同时tanh层创建新的候选向量然后将输入值it与候选向量相乘对细胞状态进行更新。输入门的具体计算方式为:

it=σ(Wi·[ht-1,xt]+bi) (4)

其中,Wi是输入门的权重矩阵;bi是输入门的偏置;WC是tanh层的权重矩阵;bC是tanh层的偏置;Ct表示当前输入的记忆单元状态。

通过输出门计算神经元输出值。输出门的值ot取决于更新后的细胞状态Ct。输出门的计算方式为:

ot=σ(Wo[ht-1,xt]+bo) (7)

ht=ot×tanh(Ct) (8)

其中:Wo是输出门的权重矩阵;bo是输出门的偏置;ht为LSTM层的隐藏状态,也为下一时刻的输入状态。

当前时刻其前向层和后向层的隐藏状态的计算方式为:

式中,f(·)为前向信息提取函数;b(·)为后向信息提取函数;Wf是前向LSTM层的权重矩阵;bf是前向LSTM层的偏置;Wb是后向LSTM层的权重矩阵;bb是后向LSTM层的偏置。

当前时刻神经元输出值Ot的计算公式为:

式(11)中,为前向LSTM层的隐藏状态,为反向LSTM层的隐藏状态,Wy是BiLSTM预测输出的权重矩阵;by是BiLSTM预测输出的偏置;

步骤303,将当前时刻神经元输出值Ot经过全连接层后得到电压偏差预测值,通过损失函数不断迭代电压偏差预测值与电压偏差实际值之间的损失值,当达到迭代终止条件时,完成BiLSTM电压偏差预测模型训练。

步骤4,将电压偏差测试集输入到步骤3构建的BiLSTM电压偏差预测模型中,获取电压偏差预测值。

步骤5,电压偏差预测值反标准差处理:对BiLSTM电压偏差预测模型的电压偏差预测值进行反标准差处理。

反标准差计算公式如式(12):

式(12)中,为反归一化处理之后的数据;Y′为反归一化处理之前的数据;μ1为输出数据的均值;σ1为输出数据的标准差。

步骤6,使用均方根误差作为BiLSTM电压偏差预测模型超参数优化的目标函数:

式(13)中,yi为电能偏差的实际值和预测值,n为电压偏差测试集样本数量。

步骤7,使用贝叶斯优化算法对BiLSTM电压偏差预测模型的超参数进行优化,获取最优的超参数组合。

贝叶斯优化算法有两个关键部分:概率代理模型和采集函数。本发明使用的概率代理模型为高斯过程,使用的采集函数为EI采集函数。根据步骤6,构建贝叶斯优化算法目标函数。经过高斯过程,获取贝叶斯优化目标函数的后验概率。进一步使用采集函数根据贝叶斯优化目标函数的后验概率从超参数范围内选取一个最优的超参数组合。

步骤701,构建贝叶斯优化的目标函数,其可以表示为:

式(14)中,w*为贝叶斯优化确定的最优参数,w为输入的一组超参数,W为多维超参数的参数空间。

步骤702,将超参数数据集Di={(w1,g(w1)),(w2,g(w2)),…,(wi,g(wi))}和超参数优化的目标函数g(w)输入高斯过程。假设目标函数g(w)服从高斯分布,即

g(w)~GP(μ(w),k(w,w′)) (15)

式(15)中,μ(w)为g(w)的均值函数,通常设置为0;k(w,w′)表示g(w)的协方差函数。

步骤703,获取贝叶斯优化目标函数g(w)的后验概率。

贝叶斯优化目标函数g(w)的后验概率表示如式(16):

P(gi+1|Di)~N(μi+1(w),σiw1 2(w)) (16)

式(16)中,gi+1为下一时刻贝叶斯优化目标函数,Di为超参数数据集,为下一时刻贝叶斯优化目标函数的方差,μi+1(w)为下一时刻贝叶斯优化目标函数的均值。

步骤704,基于上一步骤中得到的后验概率的均值和方差,使用EI采集函数寻找下一个最有“潜力”的评估点wi+1

wi+1=maxw∈Wα(w;Di) (17)

式(17)中,wi+1为第i+1步时选取的超参数,α(w;Di)为EI采集函数,Di为超参数数据集。

EI采集函数计算公式如式(18):

式(18)中,v*表示当前最优函数值,φ(·)为标准正态分布概率密度函数,ξ为平衡函数,μ(w)为均值函数,σ(w)为标准差函数,D为超参数数据集。

步骤705,将获得的新一组超参数组合wi+1作为BiLSTM电压偏差预测模型的超参数,重复步骤4-6,得到新的超参数优化目标函数g(wi+1),更新样本集合Di+1=Di∪wi+1

步骤706,重复步骤702-705,当新选取的超参数组合相对应的超参数优化目标函数值符合要求时,终止贝叶斯优化算法,输出当前选取的最佳超参数组合。

步骤8,利用步骤7获得的最优超参数组合作为BiLSTM预测模型的超参数,构建基于贝叶斯优化算法的BiLSTM电压偏差预测模型,对电压偏差时间序列数据进行预测,获得最终的预测数据。

步骤9,对贝叶斯优化的BiLSTM电压偏差预测模型的结果进行评价。针对目标配电网的电能质量预测节点,与预测时段对应的实际电压偏差数据进行对比,使用预测结果的均方根误差、平均绝对误差、平均绝对误差和希尔不平等系数多角度对神经网络预测模型的准确度和拟合度进行评价。

步骤901,按照公式(19),计算预测结果的均方根误差RMSE:

式(19)中,yk为实际值和预测值,n为测试集样本数。

步骤902,按照公式(20),计算预测结果的平均绝对误差MAE:

步骤903,按照公式(21),计算预测结果的平均绝对误差MAPE:

步骤904,按照公式(22),计算预测结果的希尔不平等系数TIC:

实施例

为了验证本发明方案的有效性,以IEEE333配电网为例进行电压偏差预测。

实例中的方法的总体框图如附图1所示,包括以下步骤:

1、原始电压偏差时间序列数据集预处理

在实例中,建立如附图2所示的33节点配电网,选取进行电压偏差预测的节点,采集相应的电压偏差数据,共720组电压偏差数据。为了使原始电压偏差数据其值域范围为[-1,1],采用式(2)中的标准差标准化方法对原始电压偏差时间序列数据进行预处理,使电压偏差时间序列数据集符合标准的正态分布。

2、电压偏差时间序列数据分割

将步骤1中标准差标准化后的电压偏差时间序列数据按照比例进行数据分割,80%的数据作为训练集X=[x1,x2,…,xn],共576组,用于训练网络模型的参数学习;其余的20%的数据作为测试集Y=[y1,y2,…,ym],共144组,用于模型结果检验,保证所提出的基于贝叶斯优化的BiLSTM电压偏差预测模型的有效性和实用性。

3、定义BiLSTM电压偏差预测模型超参数的范围,生成随机一组初始超参数作为BiLSTM模型的初始超参数,使用BiLSTM电压偏差预测模型对预处理之后的电压偏差数据训练集进行预测,获取相对应的电压偏差预测值。

步骤301,定义BiLSTM电压偏差预测模型超参数的范围,生成随机一组初始超参数。

表1 BiLSTM模型的超参数范围

步骤302,使用预处理之后的电压偏差数据训练集和初始超参数,构建BiLSTM电压偏差预测模型。

BiLSTM电压偏差预测模型由前向LSTM层与后向LSTM层组成。LSTM层通过遗忘门、输入门和输出门控制记忆单元数据信息的流动。首先将电压偏差训练集数据输入到前向LSTM层和后向LSTM层中,得到当前时刻其前向层和后向层的隐藏状态然后将当前时刻其前向层和后向层的隐藏状态拼接得到ot;再经过全连接层构建BiLSTM电压偏差预测模型。

通过遗忘门选择要遗忘的信息,遗忘门的具体计算方式如式(3)。

通过输入门选择要添加的新信息,输入门的具体计算方式如式(4)。

通过输出门计算神经元输出值,输出门的计算方式如式(5)。

当前时刻其前向层和后向层的隐藏状态的计算方式如式(9)和如式(10)。

当前时刻神经元输出值Ot的计算公式如式(11)。

步骤303,将当前时刻神经元输出值Ot经过全连接层后得到电压偏差预测值,通过损失函数不断迭代电压偏差预测值与电压偏差实际值之间的损失值,当迭代次数达到100次或者损失函数值小于0.001时,终止BiLSTM网络运行,得到BiLSTM电压偏差预测模型。

4、将电压偏差测试集输入到步骤3构建的BiLSTM电压偏差预测模型中,获取电压偏差预测值。

5、电压偏差预测值反标准差处理

对BiLSTM电压偏差预测模型的电压偏差预测值进行反标准差处理。反标准差计算公式如式(12)。

6、使用均方根误差作为BiLSTM电压偏差预测模型超参数优化的目标函数如式(13)。

7、使用贝叶斯优化算法对BiLSTM电压偏差预测模型的超参数进行优化,获取最优的超参数组合。

贝叶斯优化算法有两个关键部分:概率代理模型和采集函数。本发明使用的概率代理模型为高斯过程,使用的采集函数为EI采集函数。根据步骤6,构建贝叶斯优化算法目标函数。经过高斯过程,获取贝叶斯优化目标函数的后验概率。进一步使用采集函数根据贝叶斯优化目标函数的后验概率从超参数范围内选取一个最优的超参数组合。

步骤701,构建贝叶斯优化的目标函数,其可以表示如式(14)。

步骤702,将数据集Di={(w1,g(w1)),(w2,g(w2)),…,(wi,g(wi))}和超参数优化的目标函数g(w)输入高斯过程。假设目标函数g(w)服从高斯分布,其表达式如式(15)。

步骤703,获取贝叶斯优化目标函数g(w)的后验概率。贝叶斯优化目标函数g(w)的后验概率表示如式(16)。

步骤704,基于上一步骤中得到的后验概率的均值和方差,使用EI采集函数寻找下一个最有“潜力”的评估点wi+1。wi+1具体计算公式如式(17)。

EI采集函数计算公式如式(18)。

步骤705,将获得的新一组超参数组合wi+1作为BiLSTM电压偏差预测模型的超参数,重复步骤4-6,得到新的超参数优化目标函数g(wi+1),更新样本集合Di+1=Di∪wi+1

步骤706,重复步骤702-705,当新选取的超参数组合相对应的超参数优化目标函数值符合要求时,终止贝叶斯优化算法,输出当前选取的最佳超参数组合。

8、利用步骤7获得的最优超参数组合作为BiLSTM预测模型的超参数,构建基于贝叶斯优化算法的BiLSTM电压偏差预测模型,对电压偏差时间序列数据进行预测,获得最终的预测数据。

9、对贝叶斯优化的BiLSTM电压偏差预测模型的结果进行评价。针对目标配电网的电能质量预测节点,与预测时段对应的实际电压偏差数据进行对比,使用预测结果的均方根误差、平均绝对误差、平均绝对误差和希尔不平等系数多角度对神经网络预测模型的准确度和拟合度进行评价。

步骤901,按照公式(19),计算预测结果的均方根误差RMSE。

步骤902,按照公式(20),计算预测结果的平均绝对误差MAE。

步骤903,按照公式(21),计算预测结果的平均绝对百分比误差MAPE。

步骤904,按照公式(22),计算预测结果的希尔不平等系数TIC。

实例中,按照式(19)、式(20)、式(21)和式(22)进行电压偏差预测评估,如表2所示。

表2基于贝叶斯优化的BiLSTM电压偏差预测的预测偏差值

实例中,将贝叶斯优化的BiLSTM与普通的BiLSTM预测结果进行了比较,预测结果对比如附图2所示;贝叶斯优化的BiLSTM与普通的BiLSTM电压偏差预测误差在不同范围内的样本数如表3所示。

表3两种预测模型的比较

注:E表示样本的相对误差百分数。

实例分析显示,贝叶斯优化的BiLSTM预测模型在相对误差小于5%范围内的样本达到70.83%,而普通的BiLSTM预测算法在相对误差小于5%范围内的样本只有57.64%,说明贝叶斯优化的BiLSTM预测模型对电压偏差进行了良好效果的预测。贝叶斯优化的BiLSTM预测模型能够在普通的BiLSTM预测模型的基础上增加相对误差百分数落在低值区间的概率,同时提高了预测准确度,为电能质量预警、早治理提供了技术支持,有利于配电网可靠安全地运行。

以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。

以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

19页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:神经网络处理单元NPU、神经网络的处理方法及其装置

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!