具体实施方式

下面结合附图和具体实施例对本发明作进一步的说明。

在AI和大规模短视频的应用环境中，单个计算节点承载数百路高速视频数据的持续写入，既需要大带宽、高并发，还需要低时延。当前NVMe SSD产品相对于SATA SSD和HDD，大幅度提升了读写带宽、IOPS性能，但是IO时延下降幅度不多。进一步分析SSD构造，发现决定IO时延因素在于主机接口类型，如SATA接口、PCIe接口；FTL的更新速度，如位于缓存、NAND闪存；数据写入NAND的类型，如SLC、MLC、TLC、QLC。主机接口类型、NAND闪存的类型决定着固态盘的成本，在性能和时延方面基本没有优化的幅度。FTL放置在DRAM缓存之后，在算法层优化性能和时延的幅度较小；在持续的多并发写入和读取的AI视频业务中，大量的读写请求开始堆积并等待NAND Flash处理读写操作，无法及时处理的视频读写请求则出现丢帧。在多路视频处理时，一旦出现大量丢帧，应用层则考虑增加更多的计算节点（服务器）；在SSD层会发现写操作频繁，但尚未达到固态盘的性能上限，通常会配置更多SSD固态盘。这两种方式都是在保证已写入数据可靠的前提下采取的解决方案。

鉴于DRAM缓存在数据存取操作中的优异表现，计算节点（服务器）维度通常配置大容量缓存，保证网络上的大量视频数据能够接收到本地，然后写入本地HDD机械盘或SSD固态盘。为了保障SSD固态盘能够以恒定的速率接收持续写入和读取的数据流，也有厂商增加了SSD固态盘中DRAM缓存的容量，除了承担FTL数据，也缓存一部分主机写入的应用数据，这种方式提升了SSD固态盘接收数据的效率。但是受限于SSD固态盘的尺寸，增加DRAM芯片的数量，将抢占SSD固态盘中NAND闪存的空间，减小了整盘的容量，同时需要配置更大容量的电容器件，增加了不稳定风险。

具备高速、大容量特点HBM缓存，是一种利用TSV通孔技术堆叠DRAM的新型封装形式。多片DRAM芯片堆叠形成的HBM缓存，在处理和缓存视频数据方面具备良好的表现，其平面的物理尺寸没有显著增加，能够满足SSD固态盘大容量缓存的性能、容量、尺寸需求，而且其突出的容量优势可以在SSD固态盘中作为应用数据的缓存。

基于此，本发明提出了一种基于HBM缓存的SSD固态盘，有两种实现方式，分别是实施例1所述基于HBM和DRAM混合缓存的SSD固态盘和实施例2所述基于HBM缓存的SSD固态盘。

实施例1所述基于HBM和DRAM混合缓存的SSD固态盘，采用DRAM方式处理FTL地址映射表信息，采用大容量、高速HBM缓存处理应用数据以及在持续写入过程中执行数据垃圾回收操作，可以减少DRAM的读写压力，保障了FTL地址数据的更新效率，同时提升了应用数据的处理效率，加快了垃圾回收过程中的数据搬迁速度，降低了写放大对整盘性能的影响，相比传统SSD固态盘具备了更强大的接收数据能力。以8TB SSD为例，其FTL所需缓存的容量为8GB，采用DDR缓存芯片，作为其FTL地址映射表的存储空间；同时配置大容量HBM2E缓存（容量16GB~64GB），1片HBM2E芯片即可满足容量和性能要求，当增加到4片时，缓存总容量达到64GB，多余的缓存容量即可承担9s (64GB/ 7GB/s = 9.14s)以上的数据写入或读取“余量”，极大地提升了SSD固态盘的数据接收能力，完全屏蔽了NAND闪存的读写时延问题。

实施例2所述基于HBM缓存的SSD固态盘，相比普通的SSD固态盘具备了更强大的接收数据能力。以8TB SSD为例，其FTL所需缓存的容量为8GB，以DDR4.0缓存芯片，则需要贴4片DRAM芯片；如果采用单芯片最大容量16GB的HBM2E时，1片HBM2E芯片即可满足容量和性能要求，当增加到4片时，缓存总容量达到64GB，多余的缓存容量即可承担8s (（64GB-8GB）/7GB/s = 8s)以上的数据写入或读取“余量”，极大地提升了SSD固态盘的数据接收能力，而且可以屏蔽NAND闪存的读写时延问题。

实施例1

本实施例公开一种基于HBM和DRAM混合缓存的SSD固态盘，如图1所示，包括SSD控制器、DRAM缓存控制器、HBM缓存控制器和NAND控制器、DRAM缓存介质、HBM缓存介质和NANDFlash。

SSD控制器包括依次连接的PCIE接口、NVME协议控制器、FTL映射管理器，NAND控制器、DRAM控制器、MRAM控制器分别与FTL映射管理器相连，DRAM缓存介质、HBM缓存介质为外置缓存，DRAM缓存介质与DRAM缓存控制器相连，HBM缓存介质与HBM缓存控制器相连，NANDFlash与NAND控制器相连。

各部分的组成及作用为：

PCIE主机接口用于与计算节点（服务器）的应用进行数据传输；

NVMe协议控制器用于在计算节点和SSD固态盘之间处理NVMe存储协议，完成协议的会话识别、会话控制、数据包的读、数据包写等命令解析，并完成与DRAM控制器、HBM控制器、NAND控制器的会话管理、数据传输指令。

FTL地址映射管理器负责维护逻辑块地址LBA到闪存介质物理块地址PBA地址映射关系。FTL地址映射管理器将映射表、数据缓存通过DRAM控制器放在外置DRAM介质中；当启用HBM缓存时，FTL地址映射管理器将数据通过HBM控制器放在外置HBM缓存介质中；在使用NAND闪存介质时，FTL地址映射管理器将数据缓存、Log数据通过NAND控制器放在外置NAND中；当SSD固态盘执行垃圾回收操作时，HBM控制器接收来自NAND控制器的数据、完成对齐等操作后，再发送给NAND控制器，此过程减少了对DRAM控制器的访问，减少了DRAM控制器处理FTL的中断次数。

DRAM控制器包括DRAM冗余纠错模块及DRAM介质接口模块，负责存储处于运行状态的FTL地址映射表、数据读写控制指令，并完成与HBM控制器、NAND控制器的数据交互。

HBM控制器包括HBM ECC单元及HBM接口，负责与外置缓存介质层中的外置HBM完成数据存取，其中HBM ECC单元采用冗余纠错算法进行数据冗余纠错保护。根据数据的读取、写入位置，与DRAM控制器进行交互，接收DRAM控制器发出的数据读取指令、数据写入指令；与NAND控制器进行交互，将HBM中的缓存数据写入NAND闪存介质，或从NAND闪存介质中读取应用数据。

NAND控制器包括NAND 冗余纠错模块及NAND介质接口模块，负责与闪存存储介质层中的外置NAND完成数据存取，其中NAND 冗余纠错模块采用行业通用的LDPC纠错算法和RAID纠错算法，对应用数据块进行冗余保护。

应用数据和Log数据流向为，数据写入方向由PCIe主机接口、经NVMe协议控制器、根据FTL地址映射管理器，经路径①到DRAM控制器，进入DRAM缓存介质，并根据是否要写透，经路径②到NAND控制器，进入NAND闪存介质。数据读取方向由NAND控制器经路径③到DRAM控制器，进入DRAM缓存介质，经路径①到FTL映射管理器；并根据是否读透，由NAND控制器经路径直接进入FTL映射管理器。这种方式是标准的SSD盘的数据流向。

根据NAND控制器的繁忙程度，控制应用数据的读写模式，当NAND控制器比较繁忙或执行垃圾回收时，采用写回模式。数据写入方向由SSD控制器接收数据，写指令经路径①到DRAM控制器，经路径完成HBM控制器地址转换，并经路径更新写指令到DRAM控制器，写入数据通过路径写入HBM缓存介质即表示写成功。读回模式时，数据读取方向由NAND控制器采用顺序读方式把大块数据经路径读入到HBM控制器进入HBM缓存介质，SSD控制器通过HBM控制器经路径从HBM缓存介质中读取数据即表示成功。通过大容量、高速HBM缓存介质，完成大批量数据的写入、读取，减少了NAND控制器处理访问操作的中断次数，可以显著提升数据的读写性能。

当计算节点要求SSD固态盘保持数据强一致性时，启动写透模式，数据流向与标准的SSD固态盘完全一致；当启动读透模式时，数据流与标准的SSD固态盘完全一致。

数据冗余纠错和一致性保护的数据流向：数据读取方向由NAND控制器经路径到外置HBM控制器，进入HBM缓存介质，经路径到FTL映射管理器；在HBM缓存介质中执行数据对齐、一致性校验、冗余纠错；数据写入方向将新数据经路径到FTL映射管理器、分配新地址、废弃旧地址，然后经路径到NAND控制器，落入新地址的NAND闪存介质。

地址映射表数据流向为，地址写方向由NAND控制器经路径③到DRAM控制器；地址读方向由DRAM控制器经路径②到NAND控制器。

本实施例所述SSD固态盘的有益效果为：

1、FTL地址映射数据的存储和处理方式没有变化，但提升了处理效率。本发明中依然采用DRAM控制器和DRAM介质，但是减少了数据读取和写入操作对DRAM控制器的访问频率，减少了DRAM控制器的中断次数，使得DRAM全部的资源用于处理FTL地址映射信息。

2、高性能、大容量HBM作为数据读写缓冲器，降低了整盘整体时延，保障了更稳定的数据读写速度。将高性能、大容量HBM缓存替换DRAM作为数据缓存介质，应用数据先落入HBM缓存再写入NAND闪存介质，更好地规避NAND闪存介质在数据写入和读取过程中的读写冲突，减少读、写并发时NAND控制器的并行压力，保证了SSD控制器整体低时延，提升了读写带宽。

3、减少NAND写放大对SSD整盘性能的影响，传统的SSD固态盘中数据的冗余纠错和一致性校验操作，依赖于SSD控制器将碎片数据从一个NAND搬移到另外一个NAND，NAND控制器负载高、压力大，对整体读写性能影响大。采用大容量的HBM缓存，碎片数据直接进入HBM缓存，传输速度快、纠错速度快，大容量的缓存可以等待NAND控制器排队写入，对SSD整盘读写性能影响小。

4、基于HBM大容量、高速缓存的SSD固态盘实现方案，如果要达到传统SSD同样的数据掉电保护效果，需要配置更大容量的电容或依赖于整机的掉电保护机制。

实施例2

本实施例公开一种基于HBM缓存的SSD固态盘，充分利用了视频处理缓存芯片的大容量、高性能、低时延特点，有针对性的降低SSD主控芯片和固态盘读写时延，加速视频数据存取性能，保障了应用数据的接收和存储质量。如图2所示，包括SSD控制器、HBM缓存控制器和NAND控制器、NAND Flash和HBM缓存介质，SSD控制器包括依次连接的PCIE接口、NVME协议控制器、FTL映射管理器，HBM缓存控制器和NAND控制器分别与FTL映射管理器相连，HBM缓存介质连接HBM缓存控制器，NAND Flash连接NAND控制器。

各部分的构成和作用为：

PCIE主机接口用于与计算节点（服务器）的应用进行数据传输；

NVMe协议控制器用于在计算节点和SSD固态盘之间处理NVMe存储协议，完成协议的会话识别、会话控制、数据包的读、数据包写等命令解析，并完成与HBM控制器、NAND控制器的会话管理、数据传输指令。

FTL地址映射管理器负责维护逻辑块地址LBA到闪存介质物理块地址PBA地址映射关系。在使用外置HBM缓存介质时，FTL地址映射管理器将映射表、数据缓存通过HBM控制器放在外置HBM介质中；在使用NAND闪存介质时，FTL地址映射管理器将数据缓存、Log数据通过NAND控制器放在外置NAND中。

NAND控制器包括NAND 冗余纠错模块及NAND介质接口模块，负责与闪存存储介质层中的外置NAND完成数据存取，其中NAND 冗余纠错模块采用行业通用的LDPC纠错算法和RAID纠错算法，对应用数据块进行冗余保护。

HMB控制器包括HBM ECC单元及HBM接口，负责与外置缓存介质层中的外置HBM完成数据存取，其中HBM ECC单元采用冗余纠错算法进行数据冗余纠错保护。根据数据的读取、写入位置，与NAND控制器进行交互，将HBM中的缓存数据写入NAND闪存介质，或从NAND闪存介质中读取应用数据。

应用数据和Log数据流向为，数据写入方向由PCIe主机接口、经NVMe协议控制器、根据FTL地址映射管理器，经路径①到HBM控制器，进入HBM缓存介质，并根据是否要写透，经路径②到NAND控制器，进入NAND闪存介质。数据读取方向由NAND控制器经路径③到外置HBM控制器，进入HBM缓存介质，经路径①到FTL映射管理器；并根据是否读透，由NAND控制器经路径直接进入FTL映射管理器。

根据NAND控制器的繁忙程度，可以控制应用数据的读写模式，当NAND控制器比较繁忙时，采用写回模式（SSD控制器将接收到的数据写入HBM缓存介质即表示写成功）和读回模式（NAND控制器采用顺序读方式把大块数据读入到HBM缓存介质，SSD控制器通过HBM控制器从HBM缓存介质中读取数据即表示成功）；当NAND控制器空闲时，才会用写透模式（SSD控制器将接收到的计算节点数据，通过HBM控制器、NAND控制器写入到NAND闪存介质即表示写成功）和读透模式（SSD控制器将接收到的数据读指令，通过HBM控制器、NAND控制器读取到NAND闪存介质中的实际数据，并执行冗余校验后才返回成功）。

数据冗余纠错和一致性保护的数据流向：数据读取方向由NAND控制器经路径③到外置HBM控制器，进入HBM缓存介质，经路径①到FTL映射管理器；在HBM缓存介质中执行数据对齐、一致性校验、冗余纠错；数据写入方向将新数据经路径①到FTL映射管理器、分配新地址、废弃旧地址，然后经路径②到NAND控制器，落入新地址的NAND闪存介质。

地址映射表数据流向为，地址写方向由NAND控制器经路径③到HBM控制器；地址读方向由HBM控制器经路径②到NAND控制器。

本实施例所述固态盘的有益效果为：

数据写入和读取速度快：缓存容量大、速度高，既可以作为FTL地址映射表的存储空间，也可以作为应用数据的缓存空间（数据写入HBM中，比落入NAND中速度快），还能作为数据冗余纠错和一致性校验过程中的数据缓存空间（HBM中数据处理速度比NAND中处理速度快）。

作为数据读写缓冲器，降低整体时延，保障更稳定的数据I/O速度。将HBM缓存替换DRAM，应用数据先落入HBM缓存然后再写入NAND闪存介质，更好地规避NAND闪存介质在数据写入和读取过程中的读写冲突，减少读、写并发时NAND控制器的并行压力，保证了SSD控制器整体低时延。

减少NAND写放大对SSD整盘性能的影响，传统的SSD固态盘中数据的冗余纠错和一致性校验操作，依赖于SSD控制器将碎片数据从一个NAND搬移到另外一个NAND，NAND控制器负载高、压力大，对整体读写性能影响大。采用大容量的HBM缓存，碎片数据直接进入HBM缓存，传输快速快、纠错处理速度快，大容量的缓存可以等待NAND控制器排队写入，对SSD整盘读写性能影响小。

节省物理空间，一颗大容量的HBM缓存（16GB）相当于八颗普通的DRAM缓存（2G），一片16TB的SSD固态盘可以节省7片DRAM芯片空间，减少了PCB面积，同时提升了固态盘中NAND闪存介质的数量，扩大了固态盘的存储空间。

基于HBM大容量、高速缓存的SSD固态盘实现方案，如果要达到传统SSD同样的数据掉电保护效果，需要配置更大容量的电容或依赖于整机的掉电保护机制。

以上描述的仅是本发明的基本原理和优选实施例，本领域技术人员根据本发明做出的改进和替换，属于本发明的保护范围。