阅读说明：本技术 一种基于分层缓存的实时业务时延优化方法 (Real-time service delay optimization method based on layered cache ) 是由 邹虹 王青青 张鸿 李职杜 吴大鹏 王汝言 于 2020-03-09 设计创作，主要内容包括：本发明涉及一种基于分层缓存的实时业务时延优化方法,属于通信技术领域,特别是实时数据处理技术领域。该方法针对实时业务中由于无线链路资源有限造成用户时延过大的问题,首先,考虑到用户观看视频等实时业务过程中会有后退,快进等行为,提出采用光域和无线域分层缓存的方式为流行视频内容提供缓存,在光域利用协作缓存完整的视频文件,无线域缓存流行度高的视频片段；进而,根据用户获取视频片段的不同位置构造最小化传输时延问题,结合可伸缩视频流的特性采用粒子群算法为每个视频层分配最佳的传输速率达到最小化传输时延的目的。该方法可有效地减少用户的传输时延,具有广阔的运用前景。(The invention relates to a real-time service delay optimization method based on layered caching, belongs to the technical field of communication, and particularly relates to the technical field of real-time data processing. The method aims at the problem that the time delay of a user is overlarge due to limited wireless link resources in real-time services, firstly, in consideration of the behaviors of retreating, fast forwarding and the like in the process of watching videos and other real-time services of the user, the method provides a mode of adopting optical domain and wireless domain hierarchical caching to cache popular video contents, complete video files are cached in an optical domain in a cooperation mode, and video clips with high popularity are cached in a wireless domain; and then, constructing a problem of minimizing transmission delay according to different positions of the video clip obtained by the user, and distributing an optimal transmission rate for each video layer by adopting a particle swarm algorithm by combining the characteristics of the scalable video stream to achieve the purpose of minimizing the transmission delay. The method can effectively reduce the transmission delay of the user and has wide application prospect.)

一种基于分层缓存的实时业务时延优化方法

技术领域

本发明属于通信技术领域，特别是实时数据处理技术领域，涉及一种基于分层缓存的实时业务时延优化方法。

背景技术

随着移动用户数量以及无线多媒体应用的迅速增长，有限的网络资源以及日益增长的业务需求已经成为移动通信网络中面临的主要问题。其中实时业务的激增在移动网络中占用了更多的资源，尤其是在人口密集区域以及用户请求的高峰时期，极易造成传输链路的拥塞。这将对下一代无线接入网络有更高的要求，比如低延迟、高峰值速率和更好的网络覆盖等。FiWi网络契合网络未来发展需求，融合了光纤接入的大容量、高速率、低功耗与无线接入的移动性、灵活性等特点，能够为用户提供更低的使用成本，更高的数据速率，更好的体验质量以及更广的覆盖范围。FiWi网络已经成为了下一代宽带接入网络中最具有发展及应用前景的技术之一。

大量研究表明，用户点击视频的次数与视频的流行程度有着密切的关系，且二者服从Zipf分布。在视频业务中存在着大量重复的请求，例如在一些大型视频网站，位于流行度排行前20％的视频占据了近80％的点击率。因此，内容服务器(Content Server,CS)会反复的将同一视频内容发送至不同的用户，将会导致链路利用率急剧降低。并且由于视频业务是非常典型的时延敏感业务，若链路条件较差会使用户的传输时延明显增大，甚至会造成中断的可能性。因此提前在FiWi网络中进行高效的缓存策略以避免相同的内容重复传输，可以有效地提升网络性能以达到降低时延的目的。

但是根据为了适应动态变化的网络环境，传统的视频编码方式无法灵活的为用户选择合适的质量，可伸缩视频编码技术将视频内容编码为一个基础层(Base Layer,BL)和一个或多个增强层(Enhancement Layers,ELs)，基础层提供最基本的观看质量，高层的数据依赖低层数据，用户要接收高层数据必须正确解码低层数据。在资源有限的情况下，不同视频层的传输速率是相互制约相互冲突的，即一个增大另一个就会减小，且由于高层对低层的依赖性，需要给基础层分配合适的速率以保证视频可以正确接收，所以为不同的视频层分配不同的传输速率至关重要。

发明内容

有鉴于此，针对动态变化的网络环境与实时业务的时延敏感性，易造成用户发生中断事件的问题，以及使用传统的视频编码技术，无法动态的为用户选择适应当前网络状态的视频质量等问题，本发明提供一种基于分层缓存的实时业务时延优化方法，首先，通过分析与计算实时业务的缓存价值与流行度，动态的在光域和无线域两层上进行流行视频文件以及视频片段的预缓存；进而，为了有效地降低传输时延，根据用户获取视频片段的具体方式构造最小化时延函数，通过粒子群算法为每个视频层分配合适的传输速率。该方法可有效地减少用户的传输时延。

为达到上述目的，本发明提供如下技术方案：

一种基于分层缓存的实时业务时延优化方法，该方法首先通过分析与计算实时业务的缓存价值与流行度，动态的在光域和无线域两层上进行流行视频文件以及视频片段的预缓存；进而根据用户获取视频片段的具体方式构造最小化时延函数，通过粒子群算法为每个视频层分配合适的传输速率；具体包括以下步骤：

S1：光无线域分层缓存：分析完整视频文件、视频片段的流行度，对于流行度较高的视频内容在光域和无线域进行分层缓存；

S2：光域ONU协作缓存：将流行度高的视频文件缓存在光域的ONU节点，根据视频文件的缓存价值，利用轻负载ONU协助重负载ONU进行视频预缓存；

S3：无线域视频片段缓存：在一个视频文件中每个视频片段都有其独立的流行度，在用户后退或者快进的情况下，会导致多个视频片段重复发送，因此将流行度高的视频片段缓存在无线网络中的路由器处，构建马尔可夫模型分析视频片段的流行度，结合用户与路由器之间的距离分析网络开销，将视频片段缓存在合适的路由器中；

S4：服务时延分析：根据步骤S2、步骤S3完成视频文件、视频片段的缓存之后，根据光域ONU、无线域路由器节点的缓存命中率，通过分析用户获取视频内容的具体路径，建立最小化时传输时延模型；

S5：视频层速率分配：根据可伸缩视频编码的特性，用户要接收高视频层必须正确解码低视频层，在用户总时延最小化的约束条件下，基于粒子群算法得出视频层最佳的速率分配方案。

进一步，所述步骤S2具体包括：

S21：用户点击视频的次数与视频的流行程度二者服从Zipf分布，由Zipf分布表示出视频文件的流行度；

S22：结合光域ONU的剩余缓存空间C_n，视频文件v的大小S_v，以及视频文件的缓存价值选择直接缓存还是替换缓存，判断是视频文件v是否满足缓存条件；

S23：针对重负载ONU，根据ONU节点下用户请求视频文件v的概率和视频文件v的流行度，计算视频文件v的缓存价值，并根据步骤S22进行缓存；针对轻负载ONU，利用轻负载ONU协作缓存重负载ONU中不满足步骤S22的缓存条件，但请求概率高的视频文件；根据轻负载ONU下视频文件v的请求概率和流行度，以及重负载ONU中需要协作缓存视频文件v的概率，计算视频文件v在轻负载ONU中的缓存价值，并根据步骤S22进行缓存。

进一步，在步骤S3中，具体包括：

S31：建立马尔可夫模型进行视频片段流行度分析，为了减小计算的复杂度以及确保预测的准确度，所分析的视频文件为光域ONU中预缓存的视频内容，并将用户连续观看的视频片段作为一个用户访问序列，由马尔可夫模型分析用户访问序列的流行度，即可得出视频片段的请求概率；

S32：为了降低时延，预缓存的视频内容应该尽可能的靠近用户侧；根据用户访问序列的大小与从缓存位置传输到用户所经过的路由器跳数，计算用户获取视频片段的网络开销；

S33：根据由步骤S31得出的每个视频片段的请求概率，与步骤S32计算所得网络开销的商，表示无线域路由器节点缓存每个用户访问序列的概率，采用遍历路由器节点的方法，选出总开销最小的路由器缓存流行度最高的用户访问序列。

进一步，在步骤S4中，具体包括：

S41：当用户发送请求后，在无线域，首先判断用户的相邻路由器是否命中，若缓存命中，则返回内容给用户；若相邻路由器未缓存命中，则继续转发请求，判断非相邻路由器以及与用户相连的ONU是否命中；若都缓存命中，则根据节点和用户之间的跳数进行选择；若其中只有一个节点缓存命中，则返回内容给用户；否则继续转发请求；

S42：在光域中，判断用户所连接的ONU是否缓存命中，若缓存命中则返回视频内容给用户，若未命中则检测协作的ONU节点是否命中；如果光域、无线域都未缓存命中则由服务器为用户提供服务；

S43：根据ONU节点缓存命中率、无线域路由器节点的缓存命中率，服务节点与用户的距离，以及视频片段的大小，分析由无线域、光域、服务器分别为用户提供服务时的时延；

S44：由为用户提供服务的三种不同路径，构造用户获得完整视频文件的最小化时延函数。

进一步，在步骤S5中，具体包括：

S51：部署策略初始化，提供四个不同调制编码方式所对应的速率，随机产生I个粒子，每个粒子是一个E维向量，限制迭代次数为J；

S52：粒子序列更新，利用适应度函数对种群中的粒子进行评估；

S53：粒子群的优化，对粒子的位置和速度进行更新迭代，获得更优的视频层速率分配策略；若迭代后的粒子适应度值比个体极值的适应度值小，则用这次迭代的位置代替个体极值，否则个体极值不断更新；同理，整个粒子群的全局极值表示截止当前迭代的最佳位置，若当前粒子的个体极值小于全局极值，则用该粒子的位置代替全局极值，否则全局极值不更新；

S54：最优解选取，若经过多次迭代后粒子的全局极值适应度相对于迭代之前的全局极值变化幅度小于某个既定范围时，则表示该极值已经非常接近最优极值，停止迭代，即在最小时延函数约束条件下为视频层分配了最佳的传输速率；否则，重复以上步骤，直到达到最大迭代次数。

本发明的有益效果在于：本发明针对动态变化的网络环境与实时业务的时延敏感性，易造成用户发生中断事件的问题，以及使用传统的视频编码技术，无法动态的为用户选择适应当前网络状态的视频质量等问题，提供一种基于分层缓存的实时业务时延优化方法，通过分析与计算实时业务的缓存价值与流行度，动态的在光域和无线域两层上进行流行视频文件以及视频片段的预缓存；进而，为了有效地降低传输时延，根据用户获取视频片段的具体方式构造最小化时延函数，通过粒子群算法为每个视频层分配合适的传输速率。本发明提供的方法可有效地减少用户的传输时延，具有广阔的运用前景。

本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述，并且在某种程度上，基于对下文的考察研究对本领域技术人员而言将是显而易见的，或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。

附图说明

为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作优选的详细描述，其中：

图1为本发明的系统架构图；

图2为本发明中光域、无线域协作缓存流程图；

图3为本发明中服务时延分析流程图；

图4为本发明中视频层速率分配方案流程图。

具体实施方式

下面结合附图对本发明的具体实施例进行详细说明。

如附图1所示的一种基于分层缓存的实时业务时延优化方法，优选的具体包含以下步骤：

步骤一、光无线域分层缓存：分析视频文件、视频片段的流行度，对于流行度较高的视频内容在光域和无线域进行分层缓存。

步骤二、光域ONU协作缓存：将流行度较高的视频文件v缓存在光域的ONUn处，并计算视频文件v的缓存价值，利用轻负载ONU协助重负载ONU缓存请求概率高的视频文件，减少重负载ONU下用户的传输时延。优选的具体包括以下步骤：

步骤二(一)、用户点击视频的次数与视频的流行度服从Zipf分布，由Zipf分布表示视频文件v的流行度：

所述V为：内容服务器内共包含V个视频文件；

所述α为：视频流行度倾斜参数，α＝0意味着视频流行度服从均与分布，α越大，视频请求集中在更少的流行视频文件上；

步骤二(二)、结合光域ONU节点的剩余缓存空间C_n，以及视频文件v的大小S_v选择直接缓存还是替换缓存：1)若缓存剩余空间C_n＞0，且满足C_n＞S_v可直接缓存；2)若不满足直接缓存条件，但已缓存在ONU中的视频文件v′缓存价值比视频v的缓存价值小，满足S_v′＞S_v，或者存在y个视频文件的缓存价值之和比视频v的缓存价值小，且满足可替换缓存；

步骤二(三)、针对重负载ONUn″，根据ONU下用户u请求视频文件v的概率p_v,u与视频文件的流行度f_v，计算在重负载ONU下视频文件v的缓存价值并根据步骤二(二)进行缓存判断；

所述Γ_n″为：重负载ONUn″服务用户的集合；

步骤二(四)、针对轻负载ONUn′，利用轻负载ONU协作缓存重负载ONU中不满足步骤二(二)的缓存条件，但用户请求概率p_v,u高的视频文件v。计算轻负载ONU下视频文件v的缓存价值为：包括轻负载ONU下用户请求视频文件v的缓存价值与重负载ONU中需要协作缓存视频文件v的概率，并根据步骤二(二)进行缓存判断；

所述为：表示为重负载ONU中需要协作缓存视频文件v的概率；

所述N₁为：共存在N₁个重负载ONU；

所述为二进制变量，表示视频文件v是否满足在重负载ONUn″缓存的条件；

步骤三、无线域视频片段缓存：在一个视频文件中每个视频片段k都有其独立的流行度，在用户后退或者快进的情况下，会导致多个视频片段重复发送。因此本发明将流行度高的视频片段k缓存在无线域的路由器节点m处，优选的具体包括以下步骤：

步骤三(一)、为了减小计算的复杂度以及确保预测的准确度，所分析的视频为光域ONU中预缓存的总视频文件。将用户连续观看的视频片段作为一个用户访问序列B，其中B包含多个视频片段。建立马尔可夫模型进行视频片段流行度分析，利用历史数据计算出马尔可夫链的状态转移概率p_ij和初始状态概率分布θ，状态转移矩阵H表示马尔可夫链中任意两个状态之间的转移概率：

根据所建立的马尔可夫模型进行预测，所得出概率值最大的状态就是用户最可能请求的用户访问序列，即为用户访问序列的流行度f_B,v；

步骤三(二)、根据用户访问序列B的大小s_B，路由器m到用户u的路由器跳数，计算用户从路由器m处获取用户访问序列的网络开销

所述d_(m,u)为：路由器m到用户u的跳数；

所述d_(m,n)为：路由器m到ONUn的跳数；

所述δ_m，δ′_m为：借鉴于半厌恶型P中位问题的思想，即对于“偏爱型”的路由器节点m权值δ_m为正，对于“厌恶型”δ′_m的值为负，目的是尽量使得所选缓存节点和用户之间的距离更近，可使网络开销更小；

步骤三(三)、根据由步骤三(一)得出的每个用户访问序列的流行度f_B,v，与步骤三(二)计算所得网络开销计算为无线域路由器m缓存用户访问序列B的概率。采用遍历路由器节点的方法，选出总开销最小的路由器节点缓存流行度最高的用户访问序列；

步骤四、服务时延分析：在步骤二、步骤三完成视频文件、视频片段的缓存之后，分析光域ONUn、无线路由器m的缓存命中率，根据用户获取视频内容的具体路径分析用户获得完整视频文件v的总时延。优选的具体包括以下步骤：

步骤四(一)、当用户发送请求后，首先，在无线域判断用户的相邻路由器m是否命中，若缓存命中则m＝1，返回视频内容给用户；若相邻路由器m＝0未缓存命中，则继续转发请求，判断非相邻路由器以及与用户相连的ONUn是否命中，若都缓存命中n＝1，则根据节点和用户之间的跳数进行选择：1)当时，从路由器m中获取，2)当时，从ONUn中获取；若其中只有一个节点缓存命中，则返回内容给用户；否则继续转发请求；

步骤四(二)、在光域中，判断用户所连接的ONUn是否缓存命中，若缓存命中n＝1则返回视频内容给用户；若未命中n＝0，则检测协作的是否命中；如果光域、无线域都未缓存命中m＝0，n＝0，则由服务器提供服务ser＝1。

步骤四(三)、根据光域ONUn的缓存命中率无线域路由器m的缓存命中率服务节点与用户的距离d_(m/n/ser,u)，以及视频片段的大小分析由无线域、光域、服务器分别为用户提供服务时的时延：

其中所述 为：二进制数，表示ONU，路由器缓存命中率；

所述L_k为：视频片段k共包含有L_k个视频层；

所述b_l为：视频层l的大小为b_l；

所述为：分别从路由器m，ONUn，服务器传输视频片段k中视频层l的速率；

所述k₁，k₂，k₃为：无线域、光域、服务器分别为用户提供服务的视频片段总数；

步骤四(四)、根据为用户提供服务的三种不同路径，构造用户获得完整视频文件v的最小化时延函数

步骤五、视频层速率分配：根据可伸缩视频编码的特性，高质量层依赖低质量层，用户要接收高层数据必须正确解码低层数据。在获取完整视频文件v总时延最小的约束下，根据粒子群算法给每个视频层分配不同的发送速率。优选的具体包括以下步骤：

步骤五(一)、部署策略初始化，提供四个不同调制编码方式所对应的速率：BPSK，QPSK，16-QAM，64-QAM，分别对应数字编号1-4，随机产生I个粒子，每个粒子是一个E维向量，限制迭代次数为J；

步骤五(二)、粒子序列更新，利用适应度函数F_n对种群中的粒子进行评估，适应度越小的粒子表示在此方案下用户的时延越小。本发明是基于视频片段进行分析，即可分解为服务器、ONU、路由器三个单独时延最小化问题进行求解，以由ONU提供服务为例构造适应度函数

所述Z_n为：动态变化的惩罚函数，当粒子为每一层视频选择好速率之后，计算传输所有视频层所消耗的总带宽，如果总带宽大于ONU的最大可用带宽，则在适应度函数后减去惩罚函数Z_n；如果所需总带宽小于ONU的最大可用带宽，则惩罚函数Z_n＝0，消耗的网络带宽幅度比链路带宽越大，惩罚函数也会相应的按比例增大。

步骤五(三)、粒子群的优化，粒子群算法中的每一个可用方案用一个粒子表示，每个粒子是E维向量，具有位置和速度两个特征，粒子当前位置所对应的目标函数值，即是该粒子的适应度值。一个SVC视频片段共有L_k个视频层，则第i个粒子的当前位置表示一种分配方案，其中的每一个元素表示视频层l_k所分配的速率。第i个粒子当前搜索的最优位置用表示，整个粒子群搜索出的最优位置用表示。在迭代过程中下一时刻的粒子更新速率与粒子当前位置、该粒子所搜索到的最优位置以及粒子群搜索到的最优位置有关。粒子更新速度计算方法为：

其中所述μ为：该粒子的惯性系数，

所述ε₁，ε₂为：权重系数，用来调节自身搜索的最佳位置与全局最佳位置的权重关系，

所述rand为：取值范围在[0,1]的随机常数；

粒子下一时刻位置的计算方法为：根据对粒子的位置和速度更新迭代获得更优的视频层速率分配策略。若迭代后的粒子适应度值比粒子i当前迭代下的最优位置即个体极值O_i的适应度值小，则用这次迭代的位置代替个体极值，否则个体极值不断更新。同理，整个粒子群的全局极值G表示截止当前迭代的最佳位置，若当前粒子i的个体极值小于全局极值，则用该粒子的位置代替全局极值，否则全局极值不更新。

步骤五(四)、最优解选取，随着粒子的速度和位置的不断变化，粒子的速度和移动轨迹受到自身个体极值和整个粒子群的全局极值的影响，使得所有粒子朝着目标函数的方向趋近，若经过第j次迭代后粒子的全局极值适应度F_n(G_j)相对于迭代之前的全局极值变化幅度小于某个既定范围Δ时，if F_n(G_j)/F_n(G)≤Δ,G^*＝G_j，则表示该极值已经非常接近最优极值，停止迭代，；

所述G^*为：停止迭代时粒子的最优位置，即在最小时延函数约束条件下所选择的最佳视频层速率分配方案，否则，重复以上步骤，直到达到最大迭代次数。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。