具体实施方式

下面结合附图与实施例对本发明作进一步说明。

应该指出，以下详细说明都是示例性的，旨在对本发明提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本发明所属技术领域的普通技术人员通常理解的相同含义。

需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本发明的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。

正如背景技术中所描述的，受制于移动通信的特殊性，基站的流量变化具有非线性混沌特性，现有技术中基于线性时间序列的方法难以有效捕获实际基站流量序列中复杂的非线性因素，从而难以有效对其进行时序建模，最终使得预测的基站流量与真实的流量之间差异巨大。

因此以下实施例中，给出了基站流量预测方法、系统、存储介质及设备，涉及的基站流量预测模型主要包括，对多条基站流量序列构成的多维时间序列的特征提取，基于提取到的特征利用多头注意力机制生成反映基站之间联系的节点图，通过图卷积神经网络进行特征更新以及通过时序卷积网络对节点建立时序关系实现预测模型的建立供四个部分。

流量数据指基站覆盖范围内的用户指定时段内产生的通信流量数据。流量数据序列则是按照时间顺序产生的有序序列，它的计量单位可以是某个具体的时间周期，如1分钟级别的流量数据或者1小时级别的流量数据，具体可以根据实际任务需求来决定。以下实施例根据一段流量序列数据来预测未来下一时刻的流量值，也即是下一时刻各个基站的流量值。

实施例一：

如图1所示，基站流量预测方法，包括以下步骤：

基于基站历史流量数据中的原始流量时间序列，获取不同频率下的时序特征；

以基站为节点，利用获取到的时序特征构建多个基站之间的节点图；

基于节点图利用图卷积神经网络更新时序特征，生成节点嵌入；

基于时序卷积网络对节点嵌入建立时序关系，构建基站流量序列的预测模型，基于构建的预测模型实现基站流量预测。

首先，在对多基站流量序列分解的部分，原始流量时间序列被通过经验模态分解进行分解，得到不同频率下的时序特征；为了学习多个基站流量序列中的潜在空间联系，本实施例对其构建了图模型，其中每个基站作为图的一个节点，并且我们通过了多头注意力机制来学习节点之间的联系；进而，图卷积神经网络被用来对节点特征进行更新，来生成节点嵌入；最后，时序卷积网络被用来对节点嵌入建立时序关系，以实现对多基站流量序列的预测。

具体过程如下：

1、通过经验模态分解进行特征提取；

原始的基站流量时间序列中往往会存在噪声以及受到异常点的干扰，所以直接对原始序列进行预测会存在困难。因此，本实施例中，经验模态分解作为特征提取的方法用来对原始多个基站流量时间序列进行分解。通过经验模态分解分解可以得到多条内涵模态分量以及残差序列，它们都具有特定的物理意义，分别代表原始基站流量序列在不同时间尺度下的特征。

其中，内涵模态分量需要满足两个条件：

(1)在整个数据范围内，局部极值点和过零点的数目必须相等，或者相差数目最多为1。

(2)在任意时刻，局部最大值的包络(上包络线)和局部最小值的包络(下包络线)的平均值必须为零。

对于长度为T的原始时间序列x＝{x₁,x₂,...,x_T}，经验模态分解算法的过程如下所示：

①对序列x中的局部最大值和最小值进行三次样条插值来分别得到序列的上包络线u以及下包络线v。

②获得上包络线和下包络线的平均值，即p＝(u+v)/2。

③获得x与p的差值，得到序列h。

④检查h是否满足上面提到的内涵模态分量的两个条件。如果满足那么得到的h就是一条内涵模态分量序列，表示为imf。如果不满足，那么就将用h替换x，直到h满足内涵模态分量的条件。

⑤残差r是x与imf的差值，之后x被r代替，然后重复步骤①-④N次，直到得到的第N个残差是一个单调的函数。

最后，经过经验模态分解的过程之后，原始时间序列可以表示为下面的形式：

其中，imf_i表示第i个内涵模态分量，并且N表示内涵模态分量的总个数。

因此，对于多个基站的流量时间序列X＝{x₁,x₂,...,x_T}，其中是一个D维变量，表示在第i时刻第D个基站的流量值，T表示基站流量序列的长度。以第j维的流量序列为例，通过经验模态分解进行分解可以得到：

其中，虽然经验模态分解是一个自适应的时间序列处理方法，但是每一维序列分解得到的内涵模态分量个数可能会不同，所以，在这项发明中，每一维序列分解得到的内涵模态分量个数都设定固定值，值的大小取决于分解生成内涵模态分量个数最少的序列。用矩阵的形式对第j条基站流量序列生成的内涵模态分量以及残差进行表示：

进而，经过经验模态分解分解得到的每条子序列作为接下来生成的图的节点特征。

2、利用多头注意力机制生成图；

对多条基站流量时间序列预测可以自然地以图像的角度进行观察，其中，每个基站可以看作是图像中的节点，它们通过隐藏的依赖关系相互联系。而通过经验模态分解得到的每个内涵模态分量描述了原始基站流量时间序列在不同时间尺度下的特征，因此，可以将内涵模态分量用于描述构建的图像的节点特征，以用于进一步发掘多个基站流量时间序列之间的潜在内在联系。

具体地，一个大小为k的滑动窗口需要对基站流量序列经过经验模态分解分解得到的每一维的特征矩阵进行划分，得到：

M¹[T-k+1:T],M²[T-k+1:T],...,M^D[T-k+1:T]；

进而，每个划分后的特征矩阵中同一时刻的内涵模态分量和残差拼接为新的矩阵，这样k个矩阵可以得到，表示为V₁,V₂,...,V_k，这样，k个时刻的基站流量序列就可以分别表示为k个图，其中：

其中，表示V_i中的第j个列向量，表示第i个图中第j个基站节点的初始特征向量。

为了探究多条基站流量序列之间的空间依赖关系，受到多头注意力机制的启发，本实施例提出了下面的方式来生成图的权重矩阵。

其中，Q和K都等于节点的特征矩阵，N+1表示基站节点特征的维度，N表示生成内涵模态分量的个数。W_i ^Q和W_i ^K则分别表示针对Q和K的第i个权重矩阵，它们需要被初始化α次，这样可以增加生成的图的多样性。表示生成的第i个邻接矩阵。

通过引入多头注意力机制可以生成一系列的基于的全连接图，这样不仅可以加强各个基站之间的空间联系，还可以有助于后续通过图卷积神经网络利用全局信息为节点嵌入进行更新。总的来说，构建多个图可以有效地构建基站节点之间的潜在相关性，进一步加强图上关系的合理性。

3、通过图卷积神经网络进行特征更新；

通过多头注意力本实施例对k个时刻都建立了多个全连接图，因此，在这个部分，本实施例用到了图卷积神经网络来生成基站的节点嵌入以综合考虑多条基站流量序列之间的关系。由于每个时刻，本实施例得到了α个不同的全连接图，因此，每个时刻有α个分支被用来实施基站节点嵌入的操作。相应地，对于某个时刻的第i个图，每一层的计算过程如下所示：

其中，j＝{1,2,...,J}，为第j层的基站节点隐含特征矩阵，特别地，为初始节点特征矩阵。表示第j层的权重矩阵，其中h_dim决定了生成的基站节点嵌入的大小，在这项工作中，图卷积神经网络中隐藏层的h_dim都设为一样，输出层的h_dim设为不同。为了区分它们，分别表示为h_hidden和h_output。其中，表示第j层的偏置项，ρ表示激活函数，并且这项工作中ReLU被用到。其中下标i＝{1,2,...,α}选择了来自不同分支的全连接图。

经过图嵌入之后，每个基站节点将从不同的分支获得α个嵌入。接下来，本实施例需要融合这些信息，以获得针对每个基站节点的唯一嵌入。这里，本实施例应用mean-pooling操作来融合多分支信息，则对于第t时刻的基站节点嵌入的形式是：

其中，t＝{1,2,...,k}，其中，表示第i个节点在t时刻的节点嵌入。最后将基站节点融合后的嵌入用于进一步建立时序关系以实施多变量时间序列的预测。

4、通过时序卷积网络进行时序建模；

时序卷积网络在处理时间序列数据时主要有两个约束，首先，没有未来数据的泄露；其次，输入和输出的长度需要一致。为了实现第一点要求，时序卷积网络中用到了因果卷积，一个在t时刻的输出只与t时刻以及前一层更早的元素进行卷积操作。而为了实现第二点要求，时序卷积网络使用了一个一维全卷积网络的结构，即所有卷积层具有相同的长度，为了确保每层具有相同的长度，其中用到了零填充。传统的卷积操作通常先进行卷积操作，然后进行池化操作，从而实现增大接收域的效果，但是这样做会导致一些序列信息在池化的过程中丢失。而空洞卷积不需要池化的操作，并且通过一系列扩张卷积逐步增加感知域，从而使得每次卷积的输出都包含丰富的信息，以实现捕获长期依赖关系。

具体地，在一个时序卷积网络中，对于一个滤波器空洞卷积操作C对序列x中的元素s被定义为：

其中，d表示空洞因子，μ表示滤波器的大小，s-d·i说明了过去发展的方向。

在得到了包含基站空间关系的基站节点嵌入之后，为了进一步增强对流量序列数据的时序建模能力，时序卷积网络被用来对基站节点嵌入进行时序建模。具体地，来自同一基站的不同时刻的基站节点嵌入被输入到一个时序卷积网络模块中，则对于第i个时序卷积网络模块而言，它的输入形式是：其中的元素表示第i个基站节点在1到k时刻的节点嵌入。为了便于直观理解，下面以一个时序卷积网络模块为例。

其中，在一个时序卷积网络中我们用到了多个残差块，每个残差块包含了L个卷积层。其中第i个残差块的第l层激活值用其中，l∈{1,2,...,L},i∈{1,2,...,B},γ表示滤波器的个数，P表示时间跨度的大小，B表示残差块的个数。每个残差块S^(i,1)的输入来自之前块S^(i-1,L)的输出。在这项工作中，每层的卷积操作只应用于两个时间步，t和t-d，这样，滤波器就可以用矩阵U＝[U₀,U₁]进行参数化，其中令和分别表示在t时刻经过空洞卷积和增加残差连接后的结果，它们表示为：

其中， 分别表示残差块中的权重和偏置。

为了输出下一时刻的基站流量预测值，最后需要对最后一个残差块在t时刻的输出连接一个全连接层来输出对t+1时刻的流量预测结果，表示为：

其中，O和g分别表示全连接层的权重矩阵和偏置项，其中σ表示sigmoid函数被用来作为最后的激活函数。经过D个时序卷积网络的输出，多条基站流量时间序列下一时刻的预测值就可以得到，表示为：

5、模型的训练；

模型整体需要训练的部分包括多头注意力，图卷积神经网络以及时序卷积网络模块。为了能连续模拟多个基站流量序列数据，并且有效学习各个基站之间的时间和空间关系，本实施例提出了一种端到端的学习框架。其中，反向传播算法被用来最小化预测值和真实值之间的均方误差，并且目标函数如下：

其中，和分别表示第i个基站在第j时刻的流量数据的的真实值和预测值。T表示流量序列的总长度，D表示基站的个数。除此之外，Adam优化方法被采用进行模型的训练。

上述过程能够用于多个移动基站的流量预测当中，并可以实现理想的预测效果。

能够用于多个移动基站的流量预测当中，并可以实现理想的预测效果。考虑周边基站的影响，并建立不同移动基站与其周边基站之间的空间联系实现流量预测。流量预测的过程中，选取移动基站流量序列数据在不同频率下的时序特征，从而减少噪声数据的影响，从而是预测结果更加准确。

上述过程中，经验模态分解被用来对原始流量序列进行分解，以得到序列数据在不同时间尺度下的时域特征，使得能够对原始数据去除噪声干扰，从而使得预测结果更可靠；同时将时域特征作为生成图模型的节点初始特征。

由于每个基站会受到其周边基站的影响，因此通过多头注意力机制用于学习节点之间的联系，多头注意力机制可以挖掘各个基站与其周边基站之间的潜在关系，从而建立不同基站节点之间的空间联系。

通过图卷积神经网络来对节点特征进行更新，生成节点嵌入，也就是利用图神经网络对各个基站节点之间的空间关系进行进一步的特征学习，以得到包含丰富空间信息的基站节点嵌入；

最后，时序卷积神经网络被用来对节点嵌入建立时序关系，从而充分挖掘各个基站流量数据之间的时间和空间关系，实现更准确的预测效果。除此之外，模型整体的训练基于一个端到端的框架实现。

实施例二：

本实施例给出实现上述实施例的系统，包括：

特征提取模块，被配置为：基于基站历史流量数据中的原始流量时间序列，获取不同频率下的时序特征；

节点图生成模块，被配置为：以基站为节点，利用获取到的时序特征构建多个基站之间的节点图；

特征更新模块，被配置为：基于节点图利用图卷积神经网络更新时序特征，生成节点嵌入；

预测模块，被配置为：基于时序卷积网络对节点嵌入建立时序关系，构建基站流量序列的预测模型，基于构建的预测模型实现基站流量预测。

实施例三：

一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如实施例一给出的基站流量预测方法中的步骤。

实施例四：

一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序时实现实施例一给出的基站流量预测方法中的步骤。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)或随机存储记忆体(RandomAccessMemory，RAM)等。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。