具体实施方式

为了解决因神经网络权重数据大多为集中在0附近但不为0的数据，从而导致使用binary-mask压缩编码的压缩效果较差的问题，本申请通过以下实施例公开了分块压缩编码方法、装置、计算机设备及可读存储介质。

本申请第一实施例公开了一种分块压缩编码方法，参见图2所示的工作流程示意图，所述方法包括：

步骤S11，获取原始数据集。

很多神经网络模型的权重数据都是32位的浮点数，通常在进行压缩编码之前，提前将这些32位的浮点数转化为定点数据，可以提高后续的压缩效果。因此，该步骤所获取的原始数据集中任一数据都是定点数据。本实施例中，原始数据集中的定点数据为int8类型，即为8位有符号整型。

步骤S12，按照预设的数据长度，将所述原始数据集划分为多个数据块，任一所述数据块中至少包含两个数据。

具体的，根据所述预设的数据长度，对所述原始数据集进行划分，获取多个所述数据块，其中，若划分所得的最后一个数据块的数据长度短于所述预设的数据长度，则对所述最后一个数据块进行补零操作，使得最后一个数据块的数据长度达到预设的数据长度。

例如，若原始数据集中包含55736160个权重数据，可以按照127这个数据长度对原始数据集进行分块，这种情况下，原始数据集将会被分为438868个数据块，其中最后一个数据块需通过补零操作添加76个零。或者，也可以按照207这个数据长度对原始数据集进行分块，这种情况下，原始数据集将会被分为269257个数据块，其中最后一个数据块需通过补零操作添加39个零。

作为示例，针对InceptionResnet V2神经网络模型，该网络模型包含55736160个权重数据，本实施例将数据长度预先设置为127，最终得到438868个数据块，其中最后一个数据块通过补零操作添加76个零；针对DenseNet 121神经网络模型，该网络模型包含7894208个权重数据，本实施例将数据长度预先设置为87，最终得到90739个数据块，其中最后一个数据块通过补零操作添加85个零；针对NASNetmobile神经网络模型，该网络模型包含3517626个权重数据，本实施例中将数据长度预先设置为207，最终得到16994个数据块，其中最后一个数据块通过补零操作添加136个零。

步骤S13，获取任一所述数据块的标志数据及标志位宽，所述标志数据为所述数据块中所有数据在二进制格式下位宽最大的数据，所述标志位宽为所述标志数据在二进制格式下的位宽。

本实施例中，原始数据集中的定点数据为int8类型，因此任一数据块中的数据格式也均为int8类型，基于此，可通过以下方法获取任一所述数据块的标志数据及标志位宽：

对目标数据块中的所有数据进行预处理，所述预处理包括正数预处理及负数预处理，其中，所述正数预处理用于对正数取绝对值，所述负数预处理用于对负数取绝对值后减一，所述目标数据块为任一所述数据块。

针对所述目标数据块中完成所述预处理的所有数据，提取最大值。

将所述最大值对应的未经所述预处理的原数据作为所述目标数据块的所述标志数据。

将所述标志数据在二进制格式下的位宽作为所述标志位宽。

步骤S14，将每个所述数据块中的所有数据转换为位宽与所述标志位宽一致的带符号二进制数，获取对应的多个二进制数据块。其中，带符号二进制数的首位为符号位，若符号位为“1”，则表示该二进制数为负数，若为“0”，则表示该二进制数为正数。

在执行该步骤之前，由于任一数据块中的数据格式均为int8类型，因此每个数据都是8比特二进制数，即每个数据都占用8位位宽。执行完本步骤后，每个数据块中的数据都被转换为与各自标志位宽相同的带符号二进制数，此时，只有在标志位宽为8的情况下，其对应的数据块中的每个数据才会继续占用8位位宽，对于标志位宽小于8的情况，其对应的数据块中每个数据所占用的位宽均会小于8位，因此本步骤得到的多个二进制数据块，其所需的内存空间将比原始数据集小很多。

基于上述原理，在步骤S12中，所述预设的数据长度大小可根据神经网络权重数据的总数，设置为合适的大小，原则上只要不会使数据块的总个数过少或过多即可。数据块个数最多的情况下，最起码要确保每个数据块中至少有两个数据，因为如果每个数据块中只有一个数据，则不会产生任何压缩效果，数据块个数最少的情况下，最起码要确保至少存在一个数据块的标志位宽小于8比特，因为如果所有数据块的标志位宽都是8比特的话，同样的也不会产生压缩效果。如果每个数据块的标志位宽都是8比特，那么可以调节数据长度，重新对原始数据集进行划分。

步骤S15，将每个所述标志位宽记入与之对应的所述二进制数据块的前端，获取所述原始数据集的压缩编码结果。

标志位宽同样是以二进制格式记入二进制数据块的前端，由于标志位宽最大只能是8，所以本实施例中，使用3比特二进制数表示所有标志位宽。

计算机在对压缩编码结果中的每个数据块进行操作时，可按照前端记载的标志位宽大小进行数据的读取。

图3为本实施例最终得到的压缩编码结果示意图，该压缩编码结果中包括n个二进制数据块，每个二进制数据块包含m个数据(即在将原始数据集划分为多个数据块时，所述预设的数据长度为m)。第一个二进制数据块的数据分别为Num 11、……、Num 1m，其前端记载的标志位宽为Width 1；第二个二进制数据块的数据分别为Num 21、……、Num 2m，其前端记载的标志位宽为Width 2；第n个二进制数据块的数据分别为Num n1、……、Num nm，其前端记载的标志位宽为Width n。

以下结合一个简单示例，对本方案进行说明：

若原始数据集总共包含45个数据，分别为{6、0、4、1、-4、2、-1、1、-5、-15、1、-7、9、12、0、-2、0、-21、15、-33、5、7、9、8、1、-16、17、4、32、2、0、7、14、3、-10、-2、26、3、17、5、-1、0、9、6、-3}，预设的数据长度为8，可将该原始数据集划分为6个数据块，参见图4，最后一个数据块通过补零操作需补3个零(为了便于理解及说明，此处采用十进制格式进行例举，但实际应用中，原始数据集中任一数据的格式为带符号二进制)。

针对第一个数据块，求得标志数据为6，其对应的标志位宽为4比特，转换所得的二进制数据块中每个数据均采用4比特二进制数表示，二进制数据块的前端记有标志位宽(4比特)，该标志位宽采用3比特二进制数表示，即100。

针对第二个数据块，求得标志数据为-15，其对应的标志位宽为5比特，转换所得的二进制数据块中每个数据均采用5比特二进制数表示，二进制数据块的前端记有标志位宽(5比特)，该标志位宽采用3比特二进制数表示，即101。

针对第三个数据块，求得标志数据为-33，其对应的标志位宽为7比特，转换所得的二进制数据块中每个数据均采用7比特二进制数表示，二进制数据块的前端记有标志位宽(7比特)，该标志位宽采用3比特二进制数表示，即111。

针对第四个数据块，求得标志数据为32，其对应的标志位宽为7比特，转换所得的二进制数据块中每个数据均采用7比特二进制数表示，二进制数据块的前端记有标志位宽(7比特)，该标志位宽采用3比特二进制数表示，即111。

针对第五个数据块，求得标志数据为34，其对应的标志位宽为7比特，转换所得的二进制数据块中每个数据均采用7比特二进制数表示，二进制数据块的前端记有标志位宽(7比特)，该标志位宽采用3比特二进制数表示，即111。

针对第六个数据块，求得标志数据为9，其对应的标志位宽为5比特，转换所得的二进制数据块中每个数据均采用5比特二进制数表示，二进制数据块的前端记有标志位宽(5比特)，该标志位宽采用3比特二进制数表示，即101。

最终压缩编码结果参见图5。从图中可以看出，每个二进制数据块中的任一数据所占用的空间均小于8比特，相较于原始数据集，该压缩编码的结果能够节约较大的内存空间。

上述分块压缩编码方法的压缩效果优于binary-mask压缩编码方法，因为上述原始数据集中仅有5个零，对于非零数据，binary-mask压缩编码的方式仍会使用8比特位宽二进制数表示，压缩效果并不明显。而本实施例中，所有二进制数据块中数据的位宽均小于8比特，压缩编码结果所需的内存空间远小于binary-mask压缩编码方法的结果。

另外，即使上述原始数据集中不包含一个零，利用本实施例公开的方法进行压缩编码，仍能得到与存在5个零时等同的压缩效果，而使用binary-mask压缩编码进行压缩，则会因为没有零，而导致没有任何压缩效果。

参见图6，图6为binary-mask压缩编码方式和本实施例分块压缩编码方法分别对DenseNet 121网络模型、DenseNet 169网络模型、DenseNet 201网络模型、Inception V3网络模型、InceptionResnet V2网络模型、NASNetlarge网络模型、NASNetmobile网络模型、resnet网络模型及Xception网络模型进行压缩的压缩率对比图，其中，压缩率是指压缩后的数据量除以压缩前的数据量得到的值。从图6中可明显看出，本实施例的分块压缩编码方法的压缩率均比binary-mask压缩编码方式的压缩率低，即压缩效果均优于binary-mask压缩编码方式。

本申请第二实施例公开了一种分块压缩编码装置，所述装置应用于本申请第一实施例所述的分块压缩编码方法，对于本实施例中未公开的细节，请参照第一实施例公开的内容。

所述分块压缩编码装置包括：

数据集获取模块，用于获取原始数据集。

数据集划分模块，用于按照预设的数据长度，将所述原始数据集划分为多个数据块，任一所述数据块中至少包含两个数据。

标志数据获取模块，用于获取任一所述数据块的标志数据及标志位宽，所述标志数据为所述数据块中所有数据在二进制格式下位宽最大的数据，所述标志位宽为所述标志数据在二进制格式下的位宽。

二进制转换模块，用于将每个所述数据块中的所有数据转换为位宽与所述标志位宽一致的带符号二进制数，获取对应的多个二进制数据块。

压缩编码模块，用于将每个所述标志位宽记入与之对应的所述二进制数据块的前端，获取所述原始数据集的压缩编码结果。

进一步的，所述标志数据获取模块包括：

预处理单元，用于对目标数据块中的所有数据进行预处理，所述预处理包括正数预处理及负数预处理，其中，所述正数预处理用于对正数取绝对值，所述负数预处理用于对负数取绝对值后减一，所述目标数据块为任一所述数据块。

最大值提取单元，用于针对所述目标数据块中完成所述预处理的所有数据，提取最大值。

标志数据获取单元，用于将所述最大值对应的未经所述预处理的原数据作为所述目标数据块的所述标志数据。

标志位宽获取单元，用于将所述标志数据在二进制格式下的位宽作为所述标志位宽。

进一步的，所述数据集划分模块包括：

划分补零单元，用于根据所述预设的数据长度，对所述原始数据集进行划分，获取多个所述数据块，其中，若划分所得的最后一个数据块的数据长度短于所述预设的数据长度，则对所述最后一个数据块进行补零操作。

本申请第三实施例公开了一种分块压缩编码方法，第三实施例中公开的分块压缩编码方法相较于第一实施例，区别在于：第一实施例所得到的压缩编码结果中，每个二进制数据块的前端都添加了用于记载标志位宽的3比特冗余，实际应用中，由于权重数据的量非常大，因此二进制数据块的个数可能也非常多，这种情况下，所有标志位宽叠加所产生的冗余将非常大，需占用较多空间。考虑到标志位宽的值只会处于0-8之间，必定存在很多二进制数据块的标志位宽是相同的，因此第三实施例另外设置了专门用于记载标志位宽的数据块，在记入标志位宽的过程中，将相邻的同一标志位宽进行合并记入，并记入它们的合并次数，以尽量减少所有标志位宽所占用的内存空间。

参见图7所示的工作流程示意图，本实施例公开的分块压缩编码方法包括：

步骤S21，获取原始数据集。

与第一实施例相同，本实施例中，原始数据集中的定点数据为int8类型，即为8位有符号整型。

步骤S22，按照预设的数据长度，将所述原始数据集划分为多个数据块，任一所述数据块中至少包含两个数据。

具体的，根据所述预设的数据长度，对所述原始数据集进行划分，获取多个所述数据块，其中，若划分所得的最后一个数据块的数据长度短于所述预设的数据长度，则对所述最后一个数据块进行补零操作，使得最后一个数据块的数据长度达到预设的数据长度。

步骤S23，获取任一所述数据块的标志数据及标志位宽，所述标志数据为所述数据块中所有数据在二进制格式下位宽最大的数据，所述标志位宽为所述标志数据在二进制格式下的位宽。

本实施例中，原始数据集中的定点数据为int8类型，因此任一数据块中的数据格式也均为int8类型，可通过以下方法获取任一所述数据块的标志数据及标志位宽：

对目标数据块中的所有数据进行预处理，所述预处理包括正数预处理及负数预处理，其中，所述正数预处理用于对正数取绝对值，所述负数预处理用于对负数取绝对值后减一，所述目标数据块为任一所述数据块。

针对所述目标数据块中完成所述预处理的所有数据，提取最大值。

将所述最大值对应的未经所述预处理的原数据作为所述目标数据块的所述标志数据。

将所述标志数据在二进制格式下的位宽作为所述标志位宽。

步骤S24，将每个所述数据块中的所有数据转换为位宽与所述标志位宽一致的带符号二进制数，获取对应的多个二进制数据块。其中，带符号二进制数的首位为符号位，若符号位为“1”，则表示该二进制数为负数，若为“0”，则表示该二进制数为正数。

需要说明的是，步骤S21-步骤S24与第一实施例中的步骤S11-步骤S14相同，因此实施过程中的细节，可参照第一实施例中公开的内容。

步骤S25，设置标记数据块。

步骤S26，依次将所有所述数据块的标志位宽及其对应的合并次数记入所述标记数据块中，其中，若某一所述数据块的标志位宽与相邻所述数据块的标志位宽皆不同，则该数据块的标志位宽对应的合并次数为零，若存在连续相邻数据块的标志位宽相同，则将所述连续相邻数据块的标志位宽合并记入所述标记数据块中，且该标志位宽对应的合并次数为所述连续相邻数据块的个数减一。

在一种实现方式中，所述标记数据块的数据长度与任一所述数据块的长度相同。这种情况下，若所有数据块的标志位宽及其对应的合并次数均记入后，标记数据块中还存在空余，则进行补零操作。

步骤S27，获取所述原始数据集的压缩编码结果，所述压缩编码结果包括多个所述二进制数据块以及一个所述标记数据块。

图8为本实施例最终得到的压缩编码结果示意图，该压缩编码结果中包括n个二进制数据块和一个标记数据块。每个二进制数据块包含m个数据(即在将原始数据集划分为多个数据块时，所述预设的数据长度为m)。第一个二进制数据块的数据分别为Num 11、Num12、……、Num 1m；第二个二进制数据块的数据分别为Num 21、Num 22、……、Num 2m；第n个二进制数据块的数据分别为Num n1、……、Num nm。

图8中最后一个数据块为标记数据块，用于记入标志位宽和合并次数，其中，Width1对应第一个数据块的标志位宽，CB 1为第一个数据块标志位宽与相邻数据块标志位宽的合并次数；Width X对应第一个数据块的标志位宽，CB X为第一个数据块标志位宽与相邻数据块标志位宽的合并次数。

若第一个数据块的标志位宽与第二个数据块的标志位宽不相同，则CB 1记为0(表示Width 1合并次数为0)，此时Width 2接着记入第二个数据块的标志位宽；若第一个数据块的标志位宽与第二个数据块的标志位宽相同，但与第三个数据块的标志位宽不同，则CB1记为1(表示Width 1合并记入了一次)，此时Width 2接着记入第三个数据块的标志位宽；若第一个数据块的标志位宽与第二个、第三个数据块的标志位宽均相同，但与第四个数据块的标志位宽不同，则CB 1记为2(表示Width 1合并记入了两次)，此时Width 2接着记入第四个数据块的标志位宽。

标志位宽和合并次数均以二进制格式记入标记数据块。其中，由于标志位宽最大只能是8，因此本实施例使用3比特二进制数表示所有标志位宽。

针对合并次数，可采用1比特、2比特、3比特或4比特的位宽来表示，一旦选定，所有的合并次数均使用同一位宽的二进制数表示。作为示例，若采用2比特二进制数来表示合并次数，则每次记入的合并次数最大只能是3(因为2比特二进制数最大为11)，即单次最大只能针对4个连续相邻数据块的标志位宽进行合并，如果存在五个连续相邻数据块的标志位宽相同，则第五个数据块的标志位宽则记入至下一个Width中，对应的合并次数记为0。

以下结合一个简单示例，对本方案进行说明：

若原始数据集总共包含45个数据，分别为{6、0、4、1、-4、2、-1、1、-5、-15、1、-7、9、12、0、-2、0、-21、15、-33、5、7、9、8、1、-16、17、4、32、2、0、7、14、3、-10、-2、26、3、17、5、-1、0、9、6、-3}，预设的数据长度为8，可将该原始数据集划分为6个数据块，最后一个数据块通过补零操作需补3个零(为了便于理解及说明，此处采用十进制格式例举，但实际应用中，原始数据集中任一数据的格式为带符号二进制)。该原始数据集与第一实施例中相同，具体可参见图4所示。

针对第一个数据块，求得标志数据为6，其对应的标志位宽为4比特，转换所得的二进制数据块中每个数据均采用4比特二进制数表示，标志位宽(4比特)记入标记数据块的标志位宽1中，该标志位宽采用3比特二进制数表示，即100，由于与第二个数据块的标志位宽不同，因此，合并次数1记为0，采用2比特二进制数表示，即00。

针对第二个数据块，求得标志数据为-15，其对应的标志位宽为5比特，转换所得的二进制数据块中每个数据均采用5比特二进制数表示，标志位宽(5比特)记入标记数据块的标志位宽2中，该标志位宽采用3比特二进制数表示，即101，由于与第一个、第三个数据块的标志位宽均不同，因此，合并次数2记为0，采用2比特二进制数表示，即00。

针对第三个数据块，求得标志数据为-33，其对应的标志位宽为7比特，转换所得的二进制数据块中每个数据均采用7比特二进制数表示，标志位宽(7比特)记入标记数据块的标志位宽3中，该标志位宽采用3比特二进制数表示，即111，由于与第四个、第五个数据块的标志位宽均相同，因此，合并次数3记为2，采用2比特二进制数表示，即10。

针对第四个数据块，求得标志数据为32，其对应的标志位宽为7比特，转换所得的二进制数据块中每个数据均采用7比特二进制数表示，由于标志位宽(7比特)已与第三个、第五数据块合并，因此不再重复记入标记数据块中，相应的，其合并次数也不记入。

针对第五个数据块，求得标志数据为34，其对应的标志位宽为7比特，由于标志位宽(7比特)已与第三个、第四个数据块合并，因此不再重复记入标记数据块中，相应的，其合并次数也不记入。

针对第六个数据块，求得标志数据为9，其对应的标志位宽为5比特，转换所得的二进制数据块中每个数据均采用5比特二进制数表示，标志位宽(5比特)记入标记数据块的标志位宽4中，该标志位宽采用3比特二进制数表示，即101，由于与第五个数据块的标志位宽不同，且不存在第七个数据块，因此，合并次数4记为0，采用2比特二进制数表示，即00。

最终压缩编码结果参见图9。从图中可以看出，每个二进制数据块中的任一数据所占用的空间均小于8比特，相较于原始数据集，该压缩编码的结果能够节约较大的内存空间。

本实施例公开的分块压缩编码方法的压缩效果优于binary-mask压缩编码方法，因为上述原始数据集中仅有5个零，对于非零数据，binary-mask压缩编码的方式仍会使用8比特位宽二进制数表示，压缩效果并不明显。而本实施例中，所有二进制数据块中数据的位宽均小于8比特，压缩编码结果所需的内存空间远小于binary-mask压缩编码方法的结果。

另外，即使上述原始数据集中不包含一个零，利用本实施例公开的方法进行压缩编码，仍能得到与存在5个零时等同的压缩效果，而使用binary-mask压缩编码进行压缩，则会因为没有零，而导致没有任何压缩效果。

参见图10，图10为binary-mask压缩编码方式和本实施例分块压缩编码方法分别对DenseNet 121网络模型、DenseNet 169网络模型、DenseNet 201网络模型、Inception V3网络模型、InceptionResnet V2网络模型、NASNetlarge网络模型、NASNetmobile网络模型、resnet网络模型及Xception网络模型进行压缩的压缩率对比图，其中，压缩率是指压缩后的数据量除以压缩前的数据量得到的值。从图10中可明显看出，本实施例的分块压缩编码方法的压缩率均比binary-mask压缩编码方式的压缩率低，即压缩效果均优于binary-mask压缩编码方式。

本申请第四实施例公开了一种分块压缩编码装置，所述装置应用于本申请第三实施例所述的一种分块压缩编码方法，对于本实施例中未公开的细节，请参照第三实施例公开的内容。

所述分块压缩编码装置包括：

数据集获取模块，用于获取原始数据集。

数据集划分模块，用于按照预设的数据长度，将所述原始数据集划分为多个数据块，任一所述数据块中至少包含两个数据。

标志数据获取模块，用于获取任一所述数据块的标志数据及标志位宽，所述标志数据为所述数据块中所有数据在二进制格式下位宽最大的数据，所述标志位宽为所述标志数据在二进制格式下的位宽。

二进制转换模块，用于将每个所述数据块中的所有数据转换为位宽与所述标志位宽一致的带符号二进制数，获取对应的多个二进制数据块。

标记数据块设置模块，用于设置标记数据块。

标记模块，用于依次将所有所述数据块的标志位宽及其对应的合并次数记入所述标记数据块中，其中，若某一所述数据块的标志位宽与相邻所述数据块的标志位宽皆不同，则该数据块的标志位宽对应的合并次数为零，若存在连续相邻数据块的标志位宽相同，则将所述连续相邻数据块的标志位宽合并记入所述标记数据块中，且该标志位宽对应的合并次数为所述连续相邻数据块的个数减一。

压缩编码模块，用于获取所述原始数据集的压缩编码结果，所述压缩编码结果包括多个所述二进制数据块以及一个所述标记数据块。

进一步的，所述标志数据获取模块包括：

预处理单元，用于对目标数据块中的所有数据进行预处理，所述预处理包括正数预处理及负数预处理，其中，所述正数预处理用于对正数取绝对值，所述负数预处理用于对负数取绝对值后减一，所述目标数据块为任一所述数据块。

最大值提取单元，用于针对所述目标数据块中完成所述预处理的所有数据，提取最大值。

标志数据获取单元，用于将所述最大值对应的未经所述预处理的原数据作为所述目标数据块的所述标志数据。

标志位宽获取单元，用于将所述标志数据在二进制格式下的位宽作为所述标志位宽。

进一步的，所述数据集划分模块包括：

划分补零单元，用于根据所述预设的数据长度，对所述原始数据集进行划分，获取多个所述数据块，其中，若划分所得的最后一个数据块的数据长度短于所述预设的数据长度，则对所述最后一个数据块进行补零操作。

本申请第五实施例公开了一种计算机设备，包括：

存储器，用于存储计算机程序。

处理器，用于执行所述计算机程序时实现如本申请第一实施例所述的分块压缩编码方法的步骤或者如本申请第三实施例所述的分块压缩编码方法的步骤。

本申请第六实施例公开了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理执行时实现如本申请第一实施例所述的分块压缩编码方法的步骤或者如本申请第三实施例所述的分块压缩编码方法的步骤。

以上结合具体实施方式和范例性实例对本申请进行了详细说明，不过这些说明并不能理解为对本申请的限制。本领域技术人员理解，在不偏离本申请精神和范围的情况下，可以对本申请技术方案及其实施方式进行多种等价替换、修饰或改进，这些均落入本申请的范围内。本申请的保护范围以所附权利要求为准。