CN113760974A - 动态缓存的方法、装置和系统 - Google Patents

具体实施方式

以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

根据本发明实施例的一个方面，提供了一种动态缓存的方法。

图1是本发明实施例的动态缓存的方法的主要流程的示意图，如图1所示，动态缓存的方法包括：步骤S101、步骤S102和步骤S103。

在步骤S101中，判断是否出现流量高峰。若是，则跳转至步骤S102；否则循环执行本步骤。在步骤S102中，关闭当前缓存策略、从数据库加载应用数据至本地缓存。在步骤S103中，利用所述本地缓存响应用户的数据查询请求。

示例性地，应用服务器当前的缓存策略为采用redis缓存，在应用服务器接收到用户的查询请求时，首先从redis中获取应用数据，如果没命中，则查询数据库并缓存到redis中。而在开启本地缓存策略之后，应用服务器接收到用户的查询请求时，不使用redis，而是读取应用服务器的内存，若没有命中则查询数据库将返回值按照缓存策略存入本地缓存。

流量高峰是指流量突然地增加，例如当流量突然达到某个设定流量阈值、或者流量增量达到某个增量阈值。实际应用过程中，可以根据实际情况选择判断是否出现流量高峰的方式。例如，实时监控应用服务器的实际流量，当实际流量突然达到某个设定流量阈值、或者流量增量达到某个增量阈值时，判断出现流量高峰。

需要说明的是，采用本地缓存策略时，可以从数据库加载部分应用数据，也可以加载全量应用数据。假设本地缓存策略的目标是在零点使本地缓存的命中率提升至100％，数据请求不再发送到数据库上，则从数据库中加载全量应用数据至应用服务器本地缓存。示例性地，控制台发布一条全量缓存的本地缓存策略指令，根据缓存策略字段的字段值、执行时间指示的执行时间，应用服务器开启主动下载数据的方式，主动从数据库中加载全部应用数据到本地缓存中。比如在23:50开始主动加载应用数据，应用数据的缓存时效为15分钟，这样在零点左右时应用服务器本地缓存的命中率接近100％。

通过在出现流量高峰时采用应用服务器的物理资源(CPU和内存)缓存应用数据，能够使用低成本的方式要解决由于出现流量高峰而造成服务不稳定、性能下降、缓存穿透的技术问题。

在一些可选的实施例中，判断是否出现流量高峰包括：通过发布订阅模式监听是否存在用于指示开启本地缓存策略的缓存指令；若是，则判定出现流量高峰；否则，判定未出现流量高峰。示例性地，利用控制台生成用于指示开启本地缓存策略的缓存指令，并发布至消息中间件；应用服务器通过发布订阅模式监听消息中间件，在监听到用于指示开启本地缓存策略的缓存指令时判定出现流量高峰。采用发布订阅的模式，能够使得缓存指令生成过程和执行过程解耦，便于扩展。

在另一些可选的实施例中，判断是否出现流量高峰包括：判断预设的用于指示开启本地缓存策略的缓存指令是否触发；若是，则判定出现流量高峰；否则，判定未出现流量高峰。示例性地，预先在应用服务器中设置用于指示开启本地缓存策略的缓存指令，例如2021年6月17日23:55时开启本地缓存策略，则在到达2021年6月17日23:55时，应用服务器将其缓存策略切换为本地缓存策略，利用本地缓存响应用户的数据查询请求。通过预先设置好缓存指令，无需依赖控制台、消息中间件等即可在出现流量高峰时开启本地缓存，系统复杂度低。

实际应用过程中，本发明实施例的方法还可以包括：判断流量高峰是否结束；若是，则清除本地缓存，利用当前缓存策略响应用户的数据查询请求。示例性地，应用服务器的当前缓存策略为redis缓存，在应用服务器接收到用户的查询请求时，首先从redis中获取应用数据，如果没命中，则查询数据库并缓存到redis中。在出现流量高峰时，应用服务器开启本地缓存策略，在接收到用户的查询请求时，读取应用服务器的内存，若没有命中则查询数据库将返回值按照缓存策略存入本地缓存。流量高峰结束后，应用服务器清除本地缓存，采用redis缓存，在应用服务器接收到用户的查询请求时，首先从redis中获取应用数据，如果没命中，则查询数据库并缓存到redis中。

通过在流量高峰结束时切换回之前的缓存策略，一方面能降低应用服务器本地内存消耗，提高应用服务器的服务性能；另一方面，本地缓存是分散式的，在流量高峰结束时切换回之前的集中式缓存策略，便于应用数据更新和管理。

实际应用过程中，可以根据实际情况选择判断流量高峰是否结束的方式。例如，实时监控应用服务器的实际流量，当实际流量突然低于某个设定流量阈值、或者流量增量低于某个增量阈值时，判断流量高峰结束。

在一些可选的实施例中，判断流量高峰是否结束包括：通过发布订阅模式监听是否存在用于指示关闭本地缓存策略的缓存指令；若是，则判定流量高峰结束；否则，判定流量高峰未结束。示例性地，利用控制台生成用于指示关闭本地缓存策略的缓存指令，并发布至消息中间件；应用服务器通过发布订阅模式监听消息中间件，在监听到用于指示关闭本地缓存策略的缓存指令时判定流量高峰结束。采用发布订阅的模式，能够使得缓存指令生成过程和执行过程解耦，便于扩展。

在另一些可选的实施例中，判断流量高峰是否结束包括：判断预设的用于指示关闭本地缓存策略的缓存指令是否触发；若是，则判定流量高峰结束；否则，判定流量高峰未结束。示例性地，预先在应用服务器中设置用于指示关闭本地缓存策略的缓存指令，例如2021年6月18日01:00时关闭本地缓存策略，则在到达2021年6月18日01:00时，应用服务器关闭本地缓存策略，将其缓存策略切换为之前的缓存策略。通过预先设置好缓存指令，无需依赖控制台、消息中间件等即可在出现流量高峰时开启本地缓存，系统复杂度低。

缓存指令的格式可以根据实际情况进行选择性设定，只要能够指示是否出现流量高峰或者流量高峰是否结束即可。例如，采用前述文字描述的格式设置缓存指令。在可选的实施例中，缓存指令包括：缓存策略字段；缓存策略字段的字段值为：用于指示开启本地缓存策略的第一字段值、或用于指示关闭本地缓存策略的第三字段值。采用这种格式设置缓存指令，结构简单便于解析，内存占用小。缓存策略字段的字段值还可以为用于指示更新本地缓存策略的第二字段值。如此便于通过缓存指令及时更新本地缓存中的应用数据。

缓存指令还可以包括用于指示所述缓存策略字段对应操作执行时间的执行时间字段。例如{“type”:1,”time”:15,”unit”:”minute”},type可以取的值为1、2、3，其中1用于指示开启本地缓存策略，2用于指示更新本地缓存策略，3用于指示关闭本地缓存策略；time为整数，代表多长时间之后执行对应的操作；unit为单位，可以为秒、分、小时、天等。

缓存指令还可以包括用于指示本地缓存中应用数据失效时间的缓存失效字段，例如设置通过缓存失效字段设置字段值指示应用数据的时效时刻、或者多久之后时效。通过设置失效时间，能够提高本地缓存中应用数据的时效性。

根据本发明实施例的第二方面，提供一种实现上述方法的装置。

图2是本发明实施例的动态缓存的装置的主要模块的示意图。如图2所示，动态缓存的装置200包括：

判断模块201，判断是否出现流量高峰；

切换模块202，若出现流量高峰，则关闭当前缓存策略、从数据库加载应用数据至本地缓存；

响应模块203，利用所述本地缓存响应用户的数据查询请求。

可选地，所述判断模块还用于：判断所述流量高峰是否结束；若是，则清除所述本地缓存；所述响应模块还用于：利用所述当前缓存策略响应用户的数据查询请求。

可选地，所述判断模块判断是否出现流量高峰，包括：

通过发布订阅模式监听是否存在用于指示开启本地缓存策略的缓存指令；若是，则判定出现流量高峰；否则，判定未出现流量高峰；或者，

判断预设的用于指示开启本地缓存策略的缓存指令是否触发；若是，则判定出现流量高峰；否则，判定未出现流量高峰。

可选地，所述判断模块判断所述流量高峰是否结束，包括：

通过发布订阅模式监听是否存在用于指示关闭本地缓存策略的缓存指令；若是，则判定流量高峰结束；否则，判定流量高峰未结束；或者，

判断预设的用于指示关闭本地缓存策略的缓存指令是否触发；若是，则判定流量高峰结束；否则，判定流量高峰未结束。

可选地，所述缓存指令包括：缓存策略字段；所述缓存策略字段的字段值为：用于指示开启本地缓存策略的第一字段值、或用于指示更新本地缓存策略的第二字段值、或用于指示关闭本地缓存策略的第三字段值。

可选地，所述缓存指令还包括：用于指示所述缓存策略字段对应操作执行时间的执行时间字段；和/或，用于指示所述本地缓存中应用数据失效时间的缓存失效字段。

根据本发明实施例的第三方面，提供一种动态缓存的系统，包括：控制台，消息中间件和应用服务器；其中，

所述控制台用于生成用于指示开启本地缓存策略的缓存指令，并发布至所述消息中间件(如图3中的MQ(message queue，消息队列)，图3中的DB代表数据库)；

所述应用服务器通过发布订阅模式监听所述消息中间件，在监听到所述用于指示开启本地缓存策略的缓存指令时判定出现流量高峰，关闭当前缓存策略、从数据库加载应用数据至本地缓存，利用所述本地缓存响应用户的数据查询请求。

可选地，所述控制台还用于：生成用于指示关闭本地缓存策略的缓存指令，并发布至所述消息中间件；

所述应用服务器在监听到所述用于指示关闭本地缓存策略的缓存指令时判定流量高峰结束，清除所述本地缓存，利用所述当前缓存策略响应用户的数据查询请求。

可选地，所述缓存指令包括：缓存策略字段；所述缓存策略字段的字段值为：用于指示开启本地缓存策略的第一字段值、或用于指示更新本地缓存策略的第二字段值、或用于指示关闭本地缓存策略的第三字段值。

可选地，所述缓存指令还包括：用于指示所述缓存策略字段对应操作执行时间的执行时间字段；和/或，用于指示所述本地缓存中应用数据失效时间的缓存失效字段。

根据本发明实施例的第四方面，提供一种动态缓存电子设备，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明实施例第一方面提供的方法。

根据本发明实施例的第五方面，提供一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现本发明实施例第一方面提供的方法。

图4示出了可以应用本发明实施例的动态缓存的方法或动态缓存的装置的示例性系统架构400。

如图4所示，系统架构400可以包括终端设备401、402、403，网络404和服务器405。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备401、402、403通过网络404与服务器405交互，以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。

终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器405可以是提供各种服务的服务器，例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理，并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。

需要说明的是，本发明实施例所提供的动态缓存的方法一般由服务器405执行，相应地，动态缓存的装置一般设置于服务器405中。

应该理解，图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

下面参考图5，其示出了适于用来实现本发明实施例的终端设备的计算机系统500的结构示意图。图5示出的终端设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图5所示，计算机系统500包括中央处理单元(CPU)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中，还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

以下部件连接至I/O接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。

特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时，执行本发明的系统中限定的上述功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括：判断模块，判断是否出现流量高峰；切换模块，若出现流量高峰，则关闭当前缓存策略、从数据库加载应用数据至本地缓存；响应模块，利用所述本地缓存响应用户的数据查询请求。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定，例如，切换模块还可以被描述为“利用所述本地缓存响应用户的数据查询请求的模块”。

作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括：判断是否出现流量高峰；若是，则关闭当前缓存策略、从数据库加载应用数据至本地缓存；利用所述本地缓存响应用户的数据查询请求。

根据本发明实施例的技术方案，通过在出现流量高峰时采用应用服务器的物理资源(CPU和内存)缓存应用数据，能够使用低成本的方式要解决由于出现流量高峰而造成服务不稳定、性能下降、缓存穿透的技术问题。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。