阅读说明：本技术 一种基于数据库读写性能的数据存储方法与装置 (A kind of date storage method and device based on data base read-write performance ) 是由 张一可 段利宁 于 2019-08-01 设计创作，主要内容包括：本发明公开了一种基于数据库读写性能的数据存储方法与装置,包括：构建多个Bcache块设备作为数据存储设备,其中每个Bcache块设备均包括一个用作Bcache缓存设备的固态硬盘和一个用作Bcache后端设备的机械硬盘；使用自动存储管理服务将待存储数据分配到多个Bcache块设备,将待存储数据写入Bcache块设备的固态硬盘,并进一步从固态硬盘写入Bcache块设备的机械硬盘；使用最近最少使用算法确定Bcache块设备的机械硬盘中存储的热点数据,并将热点数据写入Bcache块设备的固态硬盘。本发明能够以更低的成本提升数据库IO性能并避免性能浪费,同时解决磁盘的容错问题。(The invention discloses a kind of date storage method and device based on data base read-write performance, it include: the multiple Bcache block devices of building as data storage device, wherein each Bcache block device includes the mechanical hard disk that the solid state hard disk for being used as Bcache buffer memory device and one are used as Bcache rear end equipment；Data to be stored is assigned to multiple Bcache block devices using Automatic Storage Management service, by the solid state hard disk of data to be stored write-in Bcache block device, and further from the mechanical hard disk of solid state hard disk write-in Bcache block device；The hot spot data stored in the mechanical hard disk of Bcache block device is determined using least recently used algorithm, and hot spot data is written to the solid state hard disk of Bcache block device.The present invention with lower cost database IO performance and can avoid waist performance, while solve the Fault-Tolerant Problems of disk.)

一种基于数据库读写性能的数据存储方法与装置

技术领域

本发明涉及计算机领域，更具体地，特别是指一种基于数据库读写性能的数据存储方法与装置。

背景技术

Oracle是甲骨文公司的一款关系数据库管理系统，在数据库领域一直处于领先地位，其系统可移植性好、使用方便、功能强，适用于各类大中小微机环境。Oracle是一种高效率、可靠性好的、适应高吞吐量的数据库解决方案。系统的吞度量(承压能力)与请求对CPU的消耗、外部接口、IO(输入输出)等等紧密关联。单个请求对CPU消耗越高，外部系统接口、IO响应速度越慢，系统吞吐能力越低。随着CPU性能提升，Oracle数据库的性能瓶颈在于IO性能。为了解决该问题，现有采用全闪磁盘阵列(SAS SSD磁盘阵列或者SATA SSD磁盘阵列)提升Oracle数据库存储IO性能，但这带来了成本过高和性能过剩问题。

针对现有技术中提升IO性能使得存储成本过高和性能过剩的问题，目前尚未有有效的解决方案。

发明内容

有鉴于此，本发明实施例的目的在于提出一种基于数据库读写性能的数据存储方法与装置，能够以更低的成本提升数据库IO性能并避免性能浪费，同时解决磁盘的容错问题。

基于上述目的，本发明实施例的第一方面提供了一种基于数据库读写性能的数据存储方法，包括：

构建多个Bcache块设备作为数据存储设备，其中每个Bcache块设备均包括一个用作Bcache缓存设备的固态硬盘和一个用作Bcache后端设备的机械硬盘；

使用自动存储管理服务将待存储数据分配到多个Bcache块设备，将待存储数据写入Bcache块设备的固态硬盘，并进一步从固态硬盘写入Bcache块设备的机械硬盘；

使用最近最少使用算法确定Bcache块设备的机械硬盘中存储的热点数据，并将热点数据写入Bcache块设备的固态硬盘。

在一些实施方式中，每个Bcache块设备额外地还包括至少一个机械硬盘，固态硬盘同时用作多个机械硬盘的Bcache缓存设备。

在一些实施方式中，自动存储管理服务配置为对待存储数据进行条带化处理并均匀分配到多个Bcache块设备上，使得每个Bcache块设备存储同样大小的数据。

在一些实施方式中，自动存储管理服务配置为以多副本模式将待存储数据可容错地存储到多个Bcache块设备，以使得待存储数据的每一部分都在至少两个Bcache块设备上存储有相同内容的备份副本。

在一些实施方式中，进一步从固态硬盘写入Bcache块设备的机械硬盘包括：进一步以回写的方式写入Bcache块设备的机械硬盘，其中回写的数据量由预先设定的回写比例阈值确定。

在一些实施方式中，固态硬盘为SATA固态硬盘或SAS固态硬盘；机械硬盘为SATA机械硬盘或SAS机械硬盘。

在一些实施方式中，固态硬盘和机械硬盘不组成独立磁盘冗余阵列。

在一些实施方式中，数据库为Oracle数据库。

本发明实施例的第二方面提供了一种基于数据库读写性能的数据存储装置，包括：

初始化模块，用于构建多个Bcache块设备作为数据存储设备，其中每个Bcache块设备均包括一个用作Bcache缓存设备的固态硬盘和一个用作Bcache后端设备的机械硬盘；

写入模块，用于使用自动存储管理服务将待存储数据分配到多个Bcache块设备，将待存储数据写入Bcache块设备的固态硬盘，并进一步从固态硬盘写入Bcache块设备的机械硬盘；

预读取模块，用于使用最近最少使用算法确定Bcache块设备的机械硬盘中存储的热点数据，并将热点数据写入Bcache块设备的固态硬盘。

本发明实施例的第三方面提供了一种数据库服务器，包括：

处理器；和

存储器，存储有处理器可运行的程序代码，程序代码在被运行时执行上述的基于数据库读写性能的数据存储方法。

本发明具有以下有益技术效果：本发明实施例提供的基于数据库读写性能的数据存储方法与装置，通过构建多个Bcache块设备作为数据存储设备，其中每个Bcache块设备均包括一个用作Bcache缓存设备的固态硬盘和一个用作Bcache后端设备的机械硬盘；使用自动存储管理服务将待存储数据分配到多个Bcache块设备，将待存储数据写入Bcache块设备的固态硬盘，并进一步从固态硬盘写入Bcache块设备的机械硬盘；使用最近最少使用算法确定Bcache块设备的机械硬盘中存储的热点数据，并将热点数据写入Bcache块设备的固态硬盘的技术方案，能够以更低的成本提升数据库IO性能并避免性能浪费，同时解决磁盘的容错问题。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明提供的基于数据库读写性能的数据存储方法的流程示意图；

图2为本发明提供的基于数据库读写性能的数据存储方法的存储结构示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明实施例进一步详细说明。

需要说明的是，本发明实施例中所有使用“第一”和“第二”的表述均是为了区分两个相同名称非相同的实体或者非相同的参量，可见“第一”“第二”仅为了表述的方便，不应理解为对本发明实施例的限定，后续实施例对此不再一一说明。

基于上述目的，本发明实施例的第一个方面，提出了一种能够以更低的成本提升数据库IO性能并避免性能浪费的数据存储方法的一个实施例。图1示出的是本发明提供的基于数据库读写性能的数据存储方法的流程示意图。

所述基于数据库读写性能的数据存储方法，如图1所示，包括：

步骤S101：构建多个Bcache块设备作为数据存储设备，其中每个Bcache块设备均包括一个用作Bcache缓存设备的固态硬盘和一个用作Bcache后端设备的机械硬盘；

步骤S103：使用自动存储管理服务将待存储数据分配到多个Bcache块设备，将待存储数据写入Bcache块设备的固态硬盘，并进一步从固态硬盘写入Bcache块设备的机械硬盘；

步骤S105：使用最近最少使用算法确定Bcache块设备的机械硬盘中存储的热点数据，并将热点数据写入Bcache块设备的固态硬盘。

如图2所示，本发明实施例采用HDD(机械硬盘)和SSD(固态硬盘)1:1配置，利用Bcache将SSD和HDD组成块设备，同时利用Oracle ASM(自动存储管理)服务通过条带化将Oracle数据均匀分布到生成的块设备上，采用ASM多副本模式解决了磁盘容错问题。在该方案中Oracle数据会首先写到SSD磁盘上，随后以回写方式写回到HDD上，进而提升了数据库写性能，而Bcache的lru(最近最少使用)算法可以将Oracle热点数据缓存到SSD上，提升了数据库读性能。本发明实施例避免使用RAID(独立磁盘冗余阵列)因而降低了校验带来的性能损耗，而相比全闪磁盘阵列则大大降低了服务器成本。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(ROM)或随机存储记忆体(RAM)等。所述计算机程序的实施例，可以达到与之对应的前述任意方法实施例相同或者相类似的效果。

在一些实施方式中，每个Bcache块设备额外地还包括至少一个机械硬盘，固态硬盘同时用作多个机械硬盘的Bcache缓存设备。

在一些实施方式中，自动存储管理服务配置为对待存储数据进行条带化处理并均匀分配到多个Bcache块设备上，使得每个Bcache块设备存储同样大小的数据。

在一些实施方式中，自动存储管理服务配置为以多副本模式将待存储数据可容错地存储到多个Bcache块设备，使得待存储数据的每一部分都在至少两个Bcache块设备上存储有相同内容的备份副本。

在一些实施方式中，进一步从固态硬盘写入Bcache块设备的机械硬盘为：进一步以回写的方式写入Bcache块设备的机械硬盘，其中回写的数据量由预先设定的回写比例阈值确定。

在一些实施方式中，固态硬盘为SATA固态硬盘或SAS固态硬盘；机械硬盘为SATA机械硬盘或SAS机械硬盘。

在一些实施方式中，固态硬盘和机械硬盘不组成独立磁盘冗余阵列。

在一些实施方式中，数据库为Oracle数据库。

根据本发明实施例公开的方法还可以被实现为由CPU执行的计算机程序，该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被CPU执行时，执行本发明实施例公开的方法中限定的上述功能。上述方法步骤以及系统单元也可以利用控制器以及用于存储使得控制器实现上述步骤或单元功能的计算机程序的计算机可读存储介质实现。

下面根据具体实施例进一步阐述本发明的具体实施方式。

首先参见图2，,配置底层HDD为SAS(串行ATA)HDD或者SATA(串行连接SCSI)HDD，SSD为SATA SSD或者SAS SSD或者性能更高的NVMe(非易失性存储器扩展)SSD，其中HDD与SSD数量比例为1:1。在操作系统上部署安装bcache-tools工具，使bcache模块加载到操作系统内核。

然后，将SSD创建为bcache缓存设备，HDD为bcache后端设备，依次完成创建生成bcache0、bcache1至bcacheN设备。同时优化bcache设备参数：设置顺序IO缓存策略参数sequential_cutoff＝0；设置缓存写回比例参数writeback_percent＝40；设置congested_read_threshold_us＝0和congested_write_threshold_us＝0以允许read和write IO发送到SSD。再安装Oracle ASM管理软件，将bcache0～N设备由ASM条带化管理，并创建一个或者多个副本供Oracle数据库使用。

从上述实施例可以看出，本发明实施例提供的基于数据库读写性能的数据存储方法，通过构建多个Bcache块设备作为数据存储设备，其中每个Bcache块设备均包括一个用作Bcache缓存设备的固态硬盘和一个用作Bcache后端设备的机械硬盘；使用自动存储管理服务将待存储数据分配到多个Bcache块设备，将待存储数据写入Bcache块设备的固态硬盘，并进一步从固态硬盘写入Bcache块设备的机械硬盘；使用最近最少使用算法确定Bcache块设备的机械硬盘中存储的热点数据，并将热点数据写入Bcache块设备的固态硬盘的技术方案，能够以更低的成本提升数据库IO性能并避免性能浪费，同时解决磁盘的容错问题。

需要特别指出的是，上述基于数据库读写性能的数据存储方法的各个实施例中的各个步骤均可以相互交叉、替换、增加、删减，因此，这些合理的排列组合变换之于基于数据库读写性能的数据存储方法也应当属于本发明的保护范围，并且不应将本发明的保护范围局限在所述实施例之上。

基于上述目的，本发明实施例的第二个方面，提出了一种能够以更低的成本提升数据库IO性能并避免性能浪费的数据存储装置的一个实施例。基于数据库读写性能的数据存储装置包括：

初始化模块，用于构建多个Bcache块设备作为数据存储设备，其中每个Bcache块设备均包括一个用作Bcache缓存设备的固态硬盘和一个用作Bcache后端设备的机械硬盘；

写入模块，用于使用自动存储管理服务将待存储数据分配到多个Bcache块设备，将待存储数据写入Bcache块设备的固态硬盘，并进一步从固态硬盘写入Bcache块设备的机械硬盘；

预读取模块，用于使用最近最少使用算法确定Bcache块设备的机械硬盘中存储的热点数据，并将热点数据写入Bcache块设备的固态硬盘。

结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性，已经就各种示意性组件、方块、模块、电路和步骤的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个系统的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现所述的功能，但是这种实现决定不应被解释为导致脱离本发明实施例公开的范围。

基于上述目的，本发明实施例的第三个方面，提出了一种能够以更低的成本提升数据库IO性能并避免性能浪费的数据库服务器一个实施例。元数据服务器包括：

处理器；和

存储器，存储有处理器可运行的程序代码，程序代码在被运行时执行上述的基于数据库读写性能的数据存储方法。

从上述实施例可以看出，本发明实施例提供的基于数据库读写性能的数据存储装置和数据库服务器，通过构建多个Bcache块设备作为数据存储设备，其中每个Bcache块设备均包括一个用作Bcache缓存设备的固态硬盘和一个用作Bcache后端设备的机械硬盘；使用自动存储管理服务将待存储数据分配到多个Bcache块设备，将待存储数据写入Bcache块设备的固态硬盘，并进一步从固态硬盘写入Bcache块设备的机械硬盘；使用最近最少使用算法确定Bcache块设备的机械硬盘中存储的热点数据，并将热点数据写入Bcache块设备的固态硬盘的技术方案，能够以更低的成本提升数据库IO性能并避免性能浪费，同时解决磁盘的容错问题。

需要特别指出的是，上述基于数据库读写性能的数据存储装置和数据库服务器的实施例采用了所述基于数据库读写性能的数据存储方法的实施例来具体说明各模块的工作过程，本领域技术人员能够很容易想到，将这些模块应用到所述基于数据库读写性能的数据存储方法的其他实施例中。当然，由于所述基于数据库读写性能的数据存储方法实施例中的各个步骤均可以相互交叉、替换、增加、删减，因此，这些合理的排列组合变换之于所述基于数据库读写性能的数据存储装置和数据库服务器也应当属于本发明的保护范围，并且不应将本发明的保护范围局限在所述实施例之上。

以上是本发明公开的示例性实施例，但是应当注意，在不背离权利要求限定的本发明实施例公开的范围的前提下，可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外，尽管本发明实施例公开的元素可以以个体形式描述或要求，但除非明确限制为单数，也可以理解为多个。

应当理解的是，在本文中使用的，除非上下文清楚地支持例外情况，单数形式“一个”旨在也包括复数形式。还应当理解的是，在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。上述本发明实施例公开实施例序号仅仅为了描述，不代表实施例的优劣。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

所属领域的普通技术人员应当理解：以上任何实施例的讨论仅为示例性的，并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子；在本发明实施例的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，并存在如上所述的本发明实施例的不同方面的许多其它变化，为了简明它们没有在细节中提供。因此，凡在本发明实施例的精神和原则之内，所做的任何省略、修改、等同替换、改进等，均应包含在本发明实施例的保护范围之内。