阅读说明：本技术 服务请求处理方法、控制方法、装置、系统及电子设备 (Service request processing method, control method, device, system and electronic equipment ) 是由 刘廷伟 聂大鹏 闵庆欢 朱照远 于 2018-08-22 设计创作，主要内容包括：本发明实施例提供了一种服务请求处理方法、控制方法、装置、系统及电子设备,其中,服务回源的控制方法包括：获取预设时间段内各个CDN边缘节点的新增回源服务请求的数量,确定CDN处理系统的新增回源服务请求的速率；根据源站处理服务请求的能力速率和CDN处理系统的新增回源服务请求的速率,确定服务回源比例；将所述服务回源比例下发到各个所述CDN边缘节点。本发明实施例能够实现服务请求的有序回源,维护源站运行的稳定性,优化用户体验。(The embodiment of the invention provides a service request processing method, a control method, a device, a system and electronic equipment, wherein the control method of a service return source comprises the following steps: acquiring the number of newly increased back-source service requests of each CDN edge node in a preset time period, and determining the rate of the newly increased back-source service requests of a CDN processing system; determining a service back-to-source ratio according to the capacity rate of the source station for processing the service request and the rate of the newly added back-to-source service request of the CDN processing system; and sending the service back source proportion to each CDN edge node. The embodiment of the invention can realize the ordered source returning of the service request, maintain the running stability of the source station and optimize the user experience.)

服务请求处理方法、控制方法、装置、系统及电子设备

技术领域

本申请涉及一种服务请求处理方法、控制方法、装置、系统及电子设备，尤其涉及一种服务回源的控制方法、服务请求处理方法以及相应的装置、系统及电子设备，属于计算机技术领域。

背景技术

随着互联网行业迅猛发展，用户对网络服务的需求也日益提高。虽然网站服务器的处理能力和网络带宽不断增加，但出现用户服务请求的访问量剧增的突发事件时，例如重大新闻、春运购票等，提供服务的源站常常面临崩溃的危险，并且用户的服务请求也随之会出现访问失败的情形，导致用户体验极差。CDN(Content Delivery Network，内容分发网络)技术在此基础上逐渐发展起来。CDN是构建在网络之上的内容分发网络，依靠部署在各地的边缘服务器，对来自用户的服务请求的访问进行负载均衡和流量调度等，从而降低网络拥塞，提高用户访问的响应速度。由于源站处理能力有限，为了解决因用户访问量剧增造成的源站崩溃现象，现有技术通常会以预先设定的固定比例直接取消一部分服务请求，而只保留预设比例的服务请求回到源站进行处理。如此虽然在一定程度上缓解了源站的处理压力，但导致用户体验较差，并且不能有效避免源站发生崩溃的现象。

发明内容

本发明实施例提供一种服务请求处理方法、控制方法、装置、系统及电子设备，能够实现服务请求的有序回源，维护源站运行的稳定性，优化用户体验。

本发明实施例提供了一种服务回源的控制方法，包括：

获取预设时间段内各CDN边缘节点的新增回源服务请求的数量，确定CDN处理系统的新增回源服务请求的速率；

根据源站处理服务请求的能力速率和CDN处理系统的新增回源服务请求的速率确定服务回源比例；

将所述服务回源比例下发到各CDN边缘节点。

本发明实施例还提供了一种服务回源的控制装置，包括：

新增请求速率确定单元，用于获取预设时间段内各CDN边缘节点的新增回源服务请求的数量，确定CDN处理系统的新增回源服务请求的速率；

服务回源比例确定单元，用于根据源站处理服务请求的能力速率和CDN处理系统的新增回源服务请求的速率确定服务回源比例；

服务回源比例下发单元，用于将所述服务回源比例下发到各CDN边缘节点。

本发明实施例还提供了一种电子设备，包括：

存储器，用于存储程序；

处理器，耦合至所述存储器，用于执行所述程序，以用于：

获取预设时间段内各CDN边缘节点的新增回源服务请求的数量，确定CDN处理系统的新增回源服务请求的速率；

根据源站处理服务请求的能力速率和CDN处理系统的新增回源服务请求的速率确定服务回源比例；

将所述服务回源比例下发到各CDN边缘节点。

本发明实施例还提供了一种服务请求处理方法，包括：

获取服务请求的令牌；

如果所述令牌为服务令牌，则将该服务请求向源站转发；

如果所述令牌为排队令牌，则根据所述排队令牌中携带的信息和服务回源比例，确定是否向该服务请求发放服务令牌。

本发明实施例还提供了一种服务请求处理装置，包括：

令牌获取单元，用于获取服务请求的令牌；

服务请求转发单元，用于在所述令牌获取单元获取到的令牌为服务令牌的情况下，则将该服务请求向源站转发；

服务请求排队单元，用于在所述令牌获取单元获取到的令牌为排队令牌的情况下，则根据所述排队令牌中携带的信息和服务回源比例，确定是否向该服务请求发放服务令牌。

本发明实施例还提供了另一种电子设备，包括：

存储器，用于存储程序；

处理器，耦合至所述存储器，用于执行所述程序，以用于：

获取服务请求的令牌；

如果所述令牌为服务令牌，则将该服务请求向源站转发；

如果所述令牌为排队令牌，则根据所述排队令牌中携带的信息和服务回源比例，确定是否向该服务请求发放服务令牌。

本发明实施例还提供了一种CDN处理系统，包括：CDN中心节点和多个CDN边缘节点，其中：

所述CDN边缘节点，用于统计发放服务令牌的数量，并向CDN中心节点发送新增回源服务请求的通知；以及接收CDN中心节点下发的服务回源比例，并根据该服务回源比例对服务请求进行服务回源控制；

所述CDN中心节点，用于根据各所述CDN边缘节点发送的新增回源服务请求的通知，确定预设时间段内各CDN边缘节点的新增回源服务请求的数量，并确定CDN处理系统的新增回源服务请求的速率；以及根据源站处理服务请求的能力速率和所述新增回源服务请求的速率确定服务回源比例，并将该服务回源比例下发至各所述CDN边缘节点。

本发明实施例提供一种服务请求处理方法、控制方法、装置、系统及电子设备，通过给服务请求发放服务令牌和/或排队令牌，控制服务请求进行有序排队，在服务令牌的获取过程中，可基于源站的处理能力和预设时间段内新增回源服务请求的数量确定服务回源比例，按照该服务回源比例发放服务令牌，当服务请求携带服务令牌时，该服务请求即可向源站转发。如此一方面能够实现服务请求的有序回源，另一方面基于源站的处理能力调整服务回源比例，能够维护源站运行的稳定性，从而优化用户体验。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的

具体实施方式

。

附图说明

图1为本发明实施例的服务请求回源处理的逻辑示意图；

图2为本发明实施例的CDN处理系统的结构示意图；

图3a为本发明实施例一的服务回源的控制方法的流程示意图一；

图3b为本发明实施例一的服务回源的控制方法的流程示意图二；

图4a为本发明实施例二的服务回源的控制装置的结构示意图一；

图4b为本发明实施例二的服务回源的控制装置的结构示意图二；

图5为本发明实施例提供的电子设备的结构示意图一；

图6为本发明实施例四的服务请求处理方法的流程示意图；

图7为本发明实施例五的服务请求处理装置的结构示意图；

图8为本发明实施例提供的电子设备的结构示意图二。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

术语说明：

CDN(Content Delivery Network，内容分发网络)，是构建在网络之上的内容分发网络，依靠部署在各地的边缘服务器，通过中心平台的负载均衡、内容分发、调度等功能模块，使用户就近获取所需内容，降低网络拥塞，提高用户访问响应速度和命中率。

动态加速，指依赖全球节点之间的CDN节点，实现各地用户的就近接入，并将通过链路质量探测，将流量通过最优的网络链路转发至源站，帮助业务解决全球用户访问卡顿或者延迟过高的问题。

令牌(token)，代表执行某些操作的权利的对象。

为了便于说明本发明实施例的技术方案，在描述的过程中定义了如下的名称：

服务回源，指服务请求回到源站进行处理的过程。

新增回源服务请求，指CDN边缘节点上新增加的需要转发至源站进行处理的服务请求，具体到在下文的实施例中，CDN边缘节点根据服务回源比例发放服务令牌后而新产生的具有服务令牌的服务请求，该服务请求被允许访问源站，以获取源站提供的服务。这里所说的新增，是为了区分于CDN边缘节点基于已经发放的服务令牌而产生的回源服务请求。

服务回源比例(在本文部分内容中，用Servicepct来表示)，指根据源站处理服务请求的能力，可以允许回到源站的服务请求占排队的服务请求的比例，各CDN边缘节点根据该服务回源比例对排队中的服务请求进行放行。

服务请求上报概率(在本文部分内容中，用Realtimepct来表示)，指新增回源服务请求中，可以上报给决策中心的新增回源服务请求的比例。该服务请求上报概率既可以预先设置，也可以根据新增回源服务请求的数量进行动态设置。

目前，虽然网站服务器的处理能力和网络带宽不断增加，但出现用户服务请求的访问量剧增的突发事件时，例如重大新闻、春运购票等，提供服务的源站常常面临崩溃的危险，并且用户的服务请求也随之会出现访问失败的情形，导致用户体验极差。CDN能够对来自用户的服务请求的访问进行负载均衡和流量调度等，从而降低网络拥塞，提高用户访问的响应速度。在现有技术中，由于源站处理能力有限，为了解决因用户访问量剧增造成的源站崩溃现象，一般采用以固定比例来控制服务请求访问源站的数量。当遇到用户服务请求访问量剧增而超过了源站的处理能力时，会以预先设定的固定比例直接取消一部分服务请求，只保留预设比例的服务请求进行回源。例如，当前服务请求的访问量为10000，而能够回源的服务请求的固定比例设置为50％，那么只有5000个服务请求可以正常访问源站，剩余5000个服务请求无法访问并向用户返回服务请求失败的页面。这种方式一方面会导致用户体验较差，另一方面，当服务请求的访问量剧增时，该策略并不能有效保护源站，如果源站的处理能力最大只能同时承受2000个服务请求，即使执行了该策略，回源后的5000个服务请求仍然会击垮源站，这样就失去了回源控制的意义。

本发明实施例的技术原理在于：一方面，通过给服务请求发放服务令牌和/或排队令牌，控制服务请求进行有序排队，另一方面，在服务令牌的获取过程中，可基于源站的处理能力和预设时间段内新增回源服务请求的数量动态确定服务回源比例，按照该服务回源比例发放服务令牌，当服务请求携带服务令牌时，该服务请求即可向源站转发。如此一方面能够实现服务请求的有序回源，另一方面基于源站的处理能力和新增回源服务请求的具体情况来动态调整服务回源比例，能够维护源站运行的稳定性，从而优化用户体验。

如图1所示，其为本发明实施例的服务请求回源处理的逻辑示意图，图中示出了CDN边缘节点和客户端两侧各自的处理流程，在服务请求回源处理逻辑中主要分为服务请求的处理和服务回源的控制两个方面，以下将对此进行详细阐述。

服务请求的处理主要通过多级判断实现服务请求的有序排队。首先，CDN边缘节点接收来自客户端发送的服务请求，判断该服务请求是否携带服务令牌和/或排队令牌，如果该服务请求携带服务令牌，则将该服务请求向源站转发；如果该服务请求携带排队令牌，则可以根据排队令牌中携带的到期时间和/或用户等级等信息判断是否给该服务请求发放服务令牌，若该排队令牌中携带的到期时间为已到期和/或用户等级较高满足优先发放服务令牌的条件，则可给该服务请求发放服务令牌，否则指示该服务请求对应的客户端返回排队页面继续排队。如此，通过上述服务请求两级令牌的排队机制，克服了现有技术中一旦无法进行服务回源就直接向终端返回错误页面的弊端，在本发明实施例中，当服务回源不成功时，该服务请求对应的客户端会继续排队。

需要说明的是，在本发明实施例中，客户端可以是基于浏览器架构的客户端，客户端本身可以实现为浏览器，也可以是内嵌浏览器架构的应该。基于浏览器的架构可以充分利用cookie技术来辅助实现上述的排队机制。具体地，上述服务令牌和/或排队令牌可根据浏览器的cookie信息生成。在浏览器的cookie信息中包含了多维度的用户信息，例如用户友好度、用户级别，根据该多维度的用户信息可以生成区别化的令牌，例如不同用户获得的令牌中的到期时间、用户等级以及用户友好度可以不同。

此外，当排队令牌中携带的到期时间为已到期和/或用户等级较高满足优先发放服务令牌的条件时，仅仅表明该服务请求获得了获取服务令牌的机会，但并非必然能够获取服务令牌。该服务请求是否能够获取服务令牌，还取决于服务回源比例，以下将对此进行详述。

在上述服务令牌的发放过程中，如果当前排队令牌中携带的到期时间为已到期和/或用户等级较高，已经满足优先发放服务令牌的条件，还可进一步通过服务回源比例控制服务令牌的发放。服务回源比例是指根据源站处理服务请求的能力，可以允许回到源站的服务请求占排队的服务请求的比例。CDN边缘节点可以根据该服务回源比例对排队中的服务请求发放服务令牌。

服务回源的控制主要通过CDN中心节点一侧执行。如图1所示，首先通过统计各CDN边缘节点的新增回源服务请求的速率，确定CDN处理系统的新增回源服务请求的速率；然后，结合CDN处理系统的新增回源服务请求的速率并基于源站处理服务请求的能力，确定上述服务回源比例，该服务回源比例可具体通过计算源站处理服务请求的能力速率和新增回源服务请求的速率的比值获得；最后，将当前确定的服务回源比例下发至CDN处理系统中各CDN边缘节点，CDN边缘节点可以根据该服务回源比例对排队中的服务请求发放服务令牌，从而实现服务回源的控制。

需要说明的是，在上述CDN边缘节点统计新增回源服务请求的数量过程中，可以通过预置或动态设置的服务请求上报概率进行统计。例如，服务请求上报概率可以预置为1/1000，则每1000个新增回源服务请求中仅上报一次给CDN中心节点，CDN中心节点根据上报的新增回源服务请求的通知次数，并结合预置的服务请求上报概率，可计算获得各CDN边缘节点的新增回源服务请求的数量。此外，该服务请求上报概率还可以根据新增回源服务请求的速率具体确定，当新增回源服务请求的速率较大时，相应减小服务请求上报概率；反之，则相应增大服务请求上报概率。如此可以降低统计频率，当服务请求的访问量剧增时，也可以实现快速感知。

如图2所示，为本发明实施例的CDN处理系统的结构示意图。如图所示，在CDN处理系统中，包括多个CDN边缘节点11和CDN中心节点12。其中，CDN边缘节点11一方面与客户端13进行交互，接收客户端发送的服务请求，并对满足回源条件的服务请求执行服务回源处理，即将该服务请求向源站14进行转发；另一方面，与CDN中心节点12进行交互，上报服务请求的相关数据以及接收CDN中心节点12下发的控制信息。源站是实际提供服务的服务器或者服务器集群。在CDN边缘节点11与源站14之间还可以存在二级CDN节点，这些二级CDN节点主要用于进行路由控制等，鉴于与本发明实施例的核心处理机制没有直接关联，因此，在图2中进行了省略。

具体地，CDN边缘节点用于统计发放服务令牌的数量，并向CDN中心节点发送新增回源服务请求的通知；以及接收CDN中心节点下发的服务回源比例，并根据该服务回源比例对服务请求进行服务回源控制；CDN中心节点用于根据各CDN边缘节点发送的新增回源服务请求的通知，确定预设时间段内各CDN边缘节点的新增回源服务请求的数量，并确定CDN处理系统的新增回源服务请求的速率；以及根据源站处理服务请求的能力速率和新增回源服务请求的速率确定服务回源比例，并将该回源比例下发至各CDN边缘节点。

需要说明的是，基于上述服务请求回源处理的逻辑，CDN边缘节点还可根据服务请求上报概率向CDN中心节点发送新增回源服务请求的通知；相应地，CDN中心节点可以根据预设时间段内接收到的各CDN边缘节点发送的新增回源服务请求的通知次数和服务请求上报概率，确定各CDN边缘节点的新增回源服务请求的数量。

下面通过多个实施例来进一步说明本申请的技术方案。

实施例一

基于上述服务请求回源处理的方案思想，如图3a所示，为本发明实施例一的服务回源的控制方法的流程示意图，该方法的执行主体为CDN处理系统中的CDN中心节点，该方法包括：

S310，获取预设时间段内各CDN边缘节点的新增回源服务请求的数量，确定CDN处理系统的新增回源服务请求的速率。

具体地，CDN处理系统的新增回源服务请求的速率可以在预设时间段内统计了全部的CDN边缘节点的新增回源服务请求的数量后再除以该预设时间段而计算得出的速率。

S320，根据源站处理服务请求的能力速率和CDN处理系统的新增回源服务请求的速率，确定服务回源比例。

具体地，该服务回源比例是指根据源站处理服务请求的能力，可以允许回到源站的服务请求占排队的服务请求的比例。CDN边缘节点可以根据该服务回源比例对排队中的服务请求发放服务令牌。该服务回源比例(Servicepct)可以具体通过计算源站处理服务请求的能力速率和新增回源服务请求的速率的比值获得。具体公式可以表示为：

Servicepct＝源站的能力速率/新增回源服务请求的速率………式(1)

这里所说的源站的能力速率可以是源站能够处理服务请求的QPS(Query PerSecond，每秒查询数)值，在实际应用中，能力速率可以是源站在处理服务请求方面的额定速率(正常负荷下的速率)也可以是极限速率(或者称作为速率上限)，具体使用哪个速率指标作为能力速率可以根据实际需要而定，源站的能力速率可以认为是一个确定值。

S330，将服务回源比例下发到各CDN边缘节点。

进一步地，上述获取预设时间段内各CDN边缘节点的新增回源服务请求的数量可以包括：

根据预设时间段内接收到的、来自各CDN边缘节点的新增回源服务请求的通知次数和服务请求上报概率，确定各CDN边缘节点的新增回源服务请求的数量。

具体地，如上述提及的，在CDN边缘节点统计新增回源服务请求的数量过程中，可以通过预置或动态设置的服务请求上报概率进行统计。例如，服务请求上报概率可以预置为1/1000，则每1000个新增回源服务请求中仅上报一次给CDN中心节点，CDN中心节点根据上报的新增回源服务请求的通知次数，并结合预置的服务请求上报概率，可计算获得各CDN边缘节点的新增回源服务请求的数量。具体可通过求新增回源服务请求的通知次数与服务请求上报概率的比值，计算获得CDN边缘节点的新增回源服务请求的数量。

具体公式可以表示为：

Realtimepct＝上报新增回源服务请求的数量/实际新增回源服务请求的数量…………………………………………………………………式(2)

其中，上述上报新增回源服务请求的数量可以为预设时间段内由各CDN边缘节点上报给CDN中心节点的新增回源服务请求的数量；上述实际新增回源服务请求的数量可以是预设时间段内各CDN边缘节点实际新增回源服务请求的数量。

进一步地，上述根据源站处理服务请求的能力速率和CDN处理系统的新增回源服务请求的速率确定服务回源比例可以包括：

计算能力速率与新增回源服务请求的速率的比值，作为服务回源比例。

进一步地，如图3b所示，其为本发明实施例一的服务回源的控制方法的流程示意图二，如图所示，上述方法还可以包括：

S340，根据新增回源服务请求的速率，确定服务请求上报概率，新增回源服务请求的速率与服务请求上报概率呈相反方向变化。

具体地，除上述提及的预置服务请求上报概率外，该服务请求上报概率还可以根据新增回源服务请求的速率具体确定，当新增回源服务请求的速率较大时，相应减小服务请求上报概率；反之，则相应增大服务请求上报概率。如此可以降低统计频率，当服务请求的访问量剧增时，也可以实现快速感知。

本发明实施例提供一种服务回源的控制方法，通过基于源站的处理能力和预设时间段内新增回源服务请求的数量确定服务回源比例，按照该服务回源比例发放服务令牌，当服务请求携带服务令牌时，该服务请求即可向源站转发。如此基于源站的处理能力调整服务回源比例，能够维护源站运行的稳定性，从而优化用户体验。

进一步地，通过预置服务请求上报概率或根据新增回源服务请求的速率动态设置服务请求上报概率，可以降低系统统计频率，当服务请求的访问量剧增时，也可以实现快速感知。

实施例二

图4a为本发明实施例二的服务回源的控制装置的结构示意图一，该装置主要用于执行图3a所示的方法步骤，如图4a所示，该装置包括：

新增请求速率确定单元410，用于获取预设时间段内各CDN边缘节点的新增回源服务请求的数量，确定CDN系统的新增回源服务请求的速率；

服务回源比例确定单元420，用于根据源站处理服务请求的能力速率和CDN处理系统的新增回源服务请求的速率，确定服务回源比例；

服务回源比例下发单元430，用于将服务回源比例下发到各CDN边缘节点。

进一步地，上述获取预设时间段内各CDN边缘节点的新增回源服务请求的数量可以包括：

根据预设时间段内接收到的、来自各CDN边缘节点的新增回源服务请求的通知次数和服务请求上报概率，确定各CDN边缘节点的新增回源服务请求的数量。

进一步地，上述根据源站处理服务请求的能力速率和新增回源服务请求的速率，确定服务回源比例可以包括：

计算能力速率与新增回源服务请求的速率的比值，作为服务回源比例。

进一步地，如图4b所示，其为本发明实施例二的服务回源的控制装置的结构示意图二，该装置可用于执行图3b所示的方法步骤，如图所示，上述装置还可以包括：

服务请求上报概率确定单元440，用于根据服务请求的增加速率，确定服务请求上报概率，服务请求的增加速率与服务请求上报概率呈相反方向变化。

本发明实施例提供一种服务回源的控制装置，通过基于源站的处理能力和预设时间段内新增回源服务请求的数量确定服务回源比例，按照该服务回源比例发放服务令牌，当服务请求携带服务令牌时，该服务请求即可向源站转发。如此基于源站的处理能力调整服务回源比例，能够维护源站运行的稳定性，从而优化用户体验。

进一步地，通过预置服务请求上报概率或根据新增回源服务请求的速率动态设置服务请求上报概率，可以降低系统统计频率，当服务请求的访问量剧增时，也可以实现快速感知。

实施例三

前面实施例二描述了服务回源的控制装置的整体架构，该装置的功能可借助一种电子设备实现完成，如图5所示，其为本发明实施例的电子设备的结构示意图一，具体包括：存储器510和处理器520。

存储器510，用于存储程序。

除上述程序之外，存储器510还可被配置为存储其它各种数据以支持在电子设备上的操作。这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。

存储器510可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

处理器520，耦合至存储器510，用于执行存储器510中的程序，以用于：

获取预设时间段内各CDN边缘节点的新增回源服务请求的数量，确定CDN系统的新增回源服务请求的速率；

根据源站处理服务请求的能力速率和CDN处理系统的新增回源服务请求的速率，确定服务回源比例；

将服务回源比例下发到各CDN边缘节点。

上述的具体处理操作已经在前面实施例中进行了详细说明，在此不再赘述。

进一步，如图5所示，电子设备还可以包括：通信组件530、电源组件540、音频组件550、显示器560等其它组件。图5中仅示意性给出部分组件，并不意味着电子设备只包括图5所示组件。

通信组件530被配置为便于电子设备和其他设备之间有线或无线方式的通信。电子设备可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件530经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，通信组件530还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

电源组件540，为电子设备的各种组件提供电力。电源组件540可以包括电源管理系统，一个或多个电源，及其他与为电子设备生成、管理和分配电力相关联的组件。

音频组件550被配置为输出和/或输入音频信号。例如，音频组件550包括一个麦克风(MIC)，当电子设备处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器510或经由通信组件530发送。在一些实施例中，音频组件550还包括一个扬声器，用于输出音频信号。

显示器560包括屏幕，其屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与触摸或滑动操作相关的持续时间和压力。

实施例四

基于上述服务请求回源处理的方案思想，如图6所示，为本发明实施例四的服务请求处理方法的流程示意图，该方法的执行主体为CDN处理系统中的各CDN边缘节点，该方法包括：

S610，获取服务请求的令牌。

具体地，令牌可以代表执行某些操作的权利的对象。上述令牌可以包括服务令牌和/或排队令牌，在令牌中可携带包括但不限于用户信息和服务回源比例，上述信息包括但不限于用户等级、用户友好度、到期时间。

S620，判断上述令牌是服务令牌还是排队令牌。

S630，如果令牌为服务令牌，则将该服务请求向源站转发。

S640，如果令牌为排队令牌，则根据排队令牌中携带的信息和服务回源比例，确定是否向该服务请求发放服务令牌。其中，该步骤可以具体为：

若所述排队令牌中携带的到期时间和/或用户等级指示可发放服务令牌，则根据所述服务回源比例确定是否向该服务请求发放服务令牌；

若所述排队令牌中携带的到期时间和/或用户等级指示不可发放服务令牌，则为该服务请求分配新的排队令牌，以指示发送该服务请求的客户端继续排队。

具体地，如上述已提及，CDN边缘节点接收来自客户端发送的服务请求，判断该服务请求是否携带服务令牌和/或排队令牌，如果该服务请求携带服务令牌，则将该服务请求向源站转发；如果该服务请求携带排队令牌，则可以根据排队令牌中携带的到期时间、用户等级、用户友好度等信息判断是否给该服务请求发放服务令牌，若该排队令牌中携带的到期时间为已到期和/或用户等级较高满足优先发放服务令牌的条件，则可以给该服务请求发放服务令牌，否则指示该服务请求对应的客户端返回排队页面继续排队。如此，通过上述服务请求两级令牌的排队机制，克服了现有技术中一旦无法进行服务回源就直接向终端返回错误页面的弊端，在本发明实施例中，当服务回源不成功时，该服务请求对应的客户端会继续排队。

需要说明的是，当排队令牌中携带的到期时间为已到期和/或用户等级较高满足优先发放服务令牌的条件时，仅仅表明该服务请求获得了获取服务令牌的机会，但并非必然能够获取服务令牌。该服务请求是否能够获取服务令牌，还取决于上述服务回源比例。

进一步地，上述服务请求中可以携带有其来源客户端关联的标识信息，相应地，获取服务请求的令牌包括：根据所述标识信息生成所述服务请求的令牌。更进一步地，所述客户端为基于浏览器架构的客户端，例如客户端本身可以为浏览器，也可以是内嵌浏览器架构的应用，所述标识信息为cookie信息。另外，上述根据标识信息生成令牌可包括：获取所述标识信息关联的用户信息；根据用户信息生成所述服务请求的令牌，其中令牌携带有到期时间和/或用户等级。

进一步地，上述向该服务请求发放服务令牌可可以包括：创建用于生成服务令牌的cookie信息，并将该cookie信息发送至所述客户端。

在上述的处理流程中，还可能存在CDN边缘节点接收到的服务请求中没有携带用于生成令牌的cookie信息，这种情况可能是该客户端首次发出服务请求，这种情况下，CDN边缘节点可以主动发起向客户端的浏览器的cookie中设置用于生成排队令牌的cookie信息。

进一步地，上述方法还可包括：

统计发放服务令牌的数量，并根据服务请求上报概率，向CDN中心节点发送新增回源服务请求的通知；

接收CDN中心节点发送的服务回源比例。

具体地，CDN边缘节点根据服务请求上报概率向CDN中心节点上报新增回源服务请求的通知，随着新增回源服务请求的速率变化，CDN中心节点基于源站处理服务请求的能力速率动态确定服务回源比例，并将该服务回源比例发送给CDN边缘节点。如此可实现基于源站的处理能力调整服务回源比例，能够维护源站运行的稳定性，从而优化用户体验。

本发明实施例提供的一种服务请求处理方法，通过给服务请求发放服务令牌和/或排队令牌，控制服务请求进行有序排队，在服务令牌的获取过程中，可基于源站的处理能力和预设时间段内新增回源服务请求的数量确定服务回源比例，按照该服务回源比例发放服务令牌，当服务请求携带服务令牌时，该服务请求即可向源站转发。如此一方面能够实现服务请求的有序回源，另一方面基于源站的处理能力调整服务回源比例，能够维护源站运行的稳定性，从而优化用户体验。

实施例五

图7为本发明实施例的服务请求处理装置的结构示意图，该装置主要用于执行图6所示的方法步骤，如图7所示，该装置包括：

令牌获取单元710，用于获取服务请求的令牌；

服务请求转发单元720，用于在所述令牌获取单元获取到的令牌为服务令牌的情况下，则将该服务请求向源站转发；

服务请求排队单元730，用于在所述令牌获取单元获取到的令牌为排队令牌的情况下，则根据所述排队令牌中携带的信息和服务回源比例，，确定是否向该服务请求发放服务令牌。具体地，该部分处理可以包括：

若所述排队令牌中携带的到期时间和/或用户等级指示可发放服务令牌，则根据所述服务回源比例确定是否向该服务请求发放服务令牌；

若所述排队令牌中携带的到期时间和/或用户等级指示不可发放服务令牌，则为该服务请求分配新的排队令牌，以指示发送该服务请求的客户端继续排队。

上述服务请求中可以携带有其来源客户端关联的标识信息，相应地，获取服务请求的令牌包括：根据所述标识信息生成所述服务请求的令牌。更进一步地，所述客户端为基于浏览器架构的客户端，所述标识信息为cookie信息。另外，上述根据标识信息生成令牌可包括：获取所述标识信息关联的用户信息；根据用户信息生成服务请求的令牌，其中，服务请求的令牌携带有到期时间和/或用户等级。

进一步地，上述向该服务请求发放服务令牌可包括：创建用于生成服务令牌的cookie信息，并将该cookie信息发送至所述客户端。

进一步地，上述装置还可包括：

统计发放服务令牌的数量，并根据服务请求上报概率，向CDN中心节点发送新增回源服务请求的通知；

接收CDN中心节点发送的服务回源比例。

本发明实施例提供的一种服务请求处理装置，通过给服务请求发放服务令牌和/或排队令牌，控制服务请求进行有序排队，在服务令牌的获取过程中，可基于源站的处理能力和预设时间段内新增回源服务请求的数量确定服务回源比例，按照该服务回源比例发放服务令牌，当服务请求携带服务令牌时，该服务请求即可向源站转发。如此一方面能够实现服务请求的有序回源，另一方面基于源站的处理能力调整服务回源比例，能够维护源站运行的稳定性，从而优化用户体验。

实施例六

前面实施例五描述了服务请求处理装置的整体架构，该装置的功能可借助一种电子设备实现完成，如图8所示，其为本发明实施例的电子设备的结构示意图二，具体包括：存储器810和处理器820。

存储器810，用于存储程序。

除上述程序之外，存储器810还可被配置为存储其它各种数据以支持在电子设备上的操作。这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。

存储器810可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

处理器820，耦合至存储器810，用于执行存储器810中的程序，以用于：

获取服务请求的令牌；

如果令牌为服务令牌，则将该服务请求向源站转发；

如果令牌为排队令牌，则根据排队令牌中携带的信息和服务回源比例，确定是否向该服务请求发放服务令牌。

上述的具体处理操作已经在前面实施例中进行了详细说明，在此不再赘述。

进一步，如图8所示，电子设备还可以包括：通信组件830、电源组件840、音频组件850、显示器860等其它组件。图8中仅示意性给出部分组件，并不意味着电子设备只包括图8所示组件。

通信组件830被配置为便于电子设备和其他设备之间有线或无线方式的通信。电子设备可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件830经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，通信组件830还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

电源组件840，为电子设备的各种组件提供电力。电源组件840可以包括电源管理系统，一个或多个电源，及其他与为电子设备生成、管理和分配电力相关联的组件。

音频组件850被配置为输出和/或输入音频信号。例如，音频组件850包括一个麦克风(MIC)，当电子设备处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器810或经由通信组件830发送。在一些实施例中，音频组件850还包括一个扬声器，用于输出音频信号。

显示器860包括屏幕，其屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与触摸或滑动操作相关的持续时间和压力。

本领域普通技术人员可以理解：实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时，执行包括上述各方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。