一种数据处理方法及装置

文档序号:1755603 发布日期:2019-11-29 浏览:23次 >En<

阅读说明:本技术 一种数据处理方法及装置 (A kind of data processing method and device ) 是由 刘军 刘宇 关雯雪 崔军红 勾毓 张桐 李博 冯英文 王俊 杜昕祺 于 2019-08-30 设计创作,主要内容包括:本发明提供一种数据处理方法及装置,获取传感器采集的采集点处的海洋环境数据,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。(The present invention provides a kind of data processing method and device, obtain the marine environment data at the collection point of sensor acquisition, collection point is predetermined, marine environment data is handled and is classified, obtain different classes of marine environment data, it is corresponded in the time series database constructed in advance in different classes of memory block according to different classes of be stored in marine environment data, it include module information memory block and data storage area in the time series database constructed in advance, the module information memory block includes the first memory block for storage sensor basic information, for storing the second memory block of collection point basic information, wherein, data storage area includes different classes of corresponding memory block.Utilize the time series database with distributed frame of building, store different classes of marine environment data, solves the problem of marine environment data that will lead to when the database for centralized management marine environment data damages occur in entire database cannot all be called by user.)

一种数据处理方法及装置

技术领域

本发明属于计算机技术领域,具体为涉及一种数据处理方法及装置。

背景技术

随着科学技术的进步,数据信息时代的到来,近几年来信息量快速发展,涉及到的领域非常多,其中,就包括了对海洋的探索。在探索海洋领域的过程中,对获得的海洋环境数据在数据库中进行集中式管理。

但是,以集中式的管理方式管理海洋环境数据,当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能够被用户调用的问题。

发明内容

有鉴于此,本发明的目的在于提供一种数据处理方法及装置,用于解决当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能够被用户调用的问题。技术方案如下:

本发明提供一种数据处理方法,所述方法包括:

获取传感器采集的采集点处的海洋环境数据,所述采集点为预先确定;

对所述海洋环境数据进行处理并分类,获得不同类别的海洋环境数据;

按照不同类别将所述海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,所述预先构建的时序数据库中包括组件信息存储区和数据存储区,所述组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,所述数据存储区包括不同类别的存储区。

优选的,构建时序数据库的过程,包括:

构建用于存储传感器基础信息的传感器表,所述传感器表包括所述传感器的身份标识ID、所述传感器所属的采集点的身份标识ID、所述传感器的名称、所述传感器的工作状态和所述传感器采集的海洋环境数据的数据类别;

构建用于存储采集点基础信息的采集点表,所述采集点表包括所述采集点的身份标识ID、所述采集点的位置信息、所述采集点中的传感器类型;

构建用于存储不同类别的海洋环境数据的数据表,所述数据表包括海洋环境数据类别、海洋深度的环境数据、海洋角度的环境数据、海洋经度和纬度的环境数据。

优选的,构建用于存储不同类别的海洋环境数据表,包括:

构建温盐深CTD表、溶解氧SEB63表、甲烷mets表和单点海流计rcm表。

优选的,所述对所述海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,包括:

对所述传感器采集的海洋环境数据进行数据解压缩处理,并判断解压缩后的数据的有效性,获得有效的第一数据;

将所述第一数据进行数据标准化处理,获得第二数据;

将所述第二数据进行数据排重处理,获得第三数据;

对所述第三数据进行数据质量控制处理,获得经过数据处理后的海洋环境数据;

将所述经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。

优选的,若所述海洋环境数据的类别包括温度、盐度、氧气、甲烷和海流速度,所述按照不同类别将所述海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,包括:

确定各个采集点处的深度数据、经度数据和纬度数据;

根据各个传感器采集所述采集点处的温度、盐度、氧气、甲烷和海流速度的时间顺序,分别将采集到的温度数据、盐度数据、氧气含量数据、甲烷含量数据、东西海流速度数据和南北海流速度数据结合所述深度数据、经度数据和纬度数据存储于对应的不同类别的存储区中。

本发明还提供一种数据处理装置,所述装置包括:

获取模块,用于获取传感器采集的采集点处的海洋环境数据,所述采集点为预先确定;

处理模块,用于对所述海洋环境数据进行处理并分类,获得不同类别的海洋环境数据;

存储模块,用于按照不同类别将所述海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,所述预先构建的时序数据库中包括组件信息存储区和数据存储区,所述组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,所述数据存储区包括不同类别的存储区。

优选的,所述存储模块,包括:

第一构建单元,用于构建用于存储传感器基础信息的传感器表,所述传感器表包括所述传感器的身份标识ID、所述传感器所属的采集点的身份标识ID、所述传感器的名称、所述传感器的工作状态和所述传感器采集的海洋环境数据的数据类别;

第二构建单元,用于构建用于存储采集点基础信息的采集点表,所述采集点表包括所述采集点的身份标识ID、所述采集点的位置信息、所述采集点中的传感器类型;

第三构建单元,用于构建用于存储不同类别的海洋环境数据的数据表,所述数据表包括海洋环境数据类别、海洋深度的环境数据、海洋角度的环境数据、海洋经度和纬度的环境数据。

优选的,所述第三构建单元,包括:

构建子单元,用于构建温盐深CTD表、溶解氧SEB63表、甲烷mets表和单点海流计rcm表。

优选的,所述处理模块,包括:

数据解压缩处理单元,用于对所述传感器采集的海洋环境数据进行数据解压缩处理,并判断解压缩后的数据的有效性,获得有效的第一数据;

数据标准化处理单元,用于将所述第一数据进行数据标准化处理,获得第二数据;

数据排重处理单元,用于将所述第二数据进行数据排重处理,获得第三数据;

数据质量控制处理单元,用于对所述第三数据进行数据质量控制处理,获得经过数据处理后的海洋环境数据;

分类单元,用于将所述经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。

优选的,所述存储模块,包括:

确定单元,用于确定各个采集点处的深度数据、经度数据和纬度数据;

存储单元,用于根据各个传感器采集所述采集点处的温度、盐度、氧气、甲烷和海流速度的时间顺序,分别将采集到的温度数据、盐度数据、氧气含量数据、甲烷含量数据、东西海流速度数据和南北海流速度数据结合所述深度数据、经度数据和纬度数据存储于对应的不同类别的存储区中。

与现有技术相比,本发明提供的上述技术方案具有如下优点:

获取传感器采集的采集点处的海洋环境数据,其中,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,其中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1是本发明实施例提供的一种数据处理方法的流程图;

图2是本发明实施例提供的一种构建时序数据库的流程图;

图3是本发明实施例提供的一种构建用于存储不同类别的海洋环境数据的数据表的流程图;

图4是本发明实施例提供的一种获得不同类别的海洋环境数据的流程图;

图5是本发明实施例提供的一种按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中的流程图;

图6是本发明实施例提供的一种数据处理装置的结构示意图。

具体实施方式

本发明提供了一种数据处理方法及装置,用于解决当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能够被用户调用的问题。

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

如图1所示,示出了本发明实施例提供的一种数据处理方法,该方法包括以下步骤:

S101:获取传感器采集的采集点处的海洋环境数据。

在S101中,采集点在本发明实施例中是预先确定的。

在执行S101的过程中,在预先确定的采集点处存在多个传感器,其中,多个传感器中每个传感器在采集点处采集的海洋环境数据的数据类别不同,即不同类别的传感器,采集对应类别的海洋环境数据。

例如:在一个采集点处,存在多个传感器,其中,包括温度传感器、深度传感器、甲烷传感器和盐度传感器等,温度传感器主要对海洋中采集点处的温度数据进行采集;深度传感器主要对海洋中采集点处的深度数据进行采集;甲烷传感器主要对海洋中采集点处的甲烷含量数据进行采集;盐度传感器主要对海洋采集点处的盐度含量数据进行采集。

需要说明的是,包括但不限于上述例举的温度传感器、深度传感器、甲烷传感器和盐度传感器,具体的可根据实际情况在采集点处布置相应的传感器类型,以便于对相应的海洋环境数据进行采集。

S102:对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据。

在执行S102的过程中,通过传感器在采集点处采集海洋环境数据后,将获得海洋环境数据进行数据处理,获得数据处理后的海洋环境数据。然后对经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。

例如:甲烷传感器采集的甲烷含量数据的格式为十六进制的数据,海流传感器采集的海流速度数据的格式为八进制的数据,则需要将这些不同数据格式的海洋环境数据统一转换成十进制,然后对转换成十进制的不同类别的海洋环境数据进行分类。

需要说明的是,经过数据处理后的海洋环境数据,可以从大量的、杂乱无章的和难以理解的海洋环境数据中抽取并推导出有价值和有意义的数据。

S103:按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中。

在S103中,预先构建的时序数据库中包括组件信息存储区和数据存储区,其中,组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,该数据存储区包括不同类别的海洋环境数据对应的存储区。

在执行S103的过程中,根据预先构建的时序数据库中不同的类别的存储区,将经过数据处理以及分类后的海洋环境数据,存储进预先构建的时序数据库相应的存储区中。这样使得时序数据库中,不同类别的存储区存储相应的数据。

需要说明的是,当时序数据库中,某个存储区损坏时,虽然该损坏的存储区中的海洋环境数据不能被用户所调用,但是,其它存储区中的海洋环境数据不被该损坏的存储区所影响,即其它存储区中海洋环境数据被用户调用时不被影响。

例如:预先构建的时序数据库中,存在3个存储区,其中,3个存储区存储的海洋环境数据的类别为:存储区A存储的是甲烷含量数据、存储区B存储的是氧气含量数据和存储区C存储的是海流速度数据。当存储区A损坏时,存储区A中的甲烷含量数据,不能被用户所调用。但是,存储区B中的氧气含量数据和存储区C中的海流速度能被用户所调用。

需要说明的是,预先构建的时序数据库中的各个存储区相互独立。

需要说明的是,构建时序数据库的具体实现过程,如图2所示,主要包括:

S201:构建用于存储传感器基础信息的传感器表。

在执行S201的过程中,通过创建该传感器身份标识ID的表头、传感器所属的采集点的身份标识ID的表头、传感器名称的表头、传感器的工作状态的表头以及传感器采集的海洋环境数据的数据类别的表头,然后根据上述创建的各类表头,形成传感器表。

需要说明的是,在本发明实施例中包括但不限于上述创建的传感器表的各类表头,具体的还需要创建采集点表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。

S202:构建用于存储采集点基础信息的采集点表。

在执行S202的过程中,通过创建该采集点身份标识ID的表头、采集点的位置信息的表头以及采集点中传感器类型的表头,然后根据上述创建的各类表头,形成采集点表。

需要说明的是,在本发明实施例中包括但不限于上述创建的采集点表的各类表头,具体的还需要创建采集点表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。

S203:构建用于存储不同类别的海洋环境数据的数据表。

在执行S203的过程中,根据不同类别的海洋环境数据,构建对应类别的数据表。

基于上述本发明实施例公开的S203,构建用于存储不同类别的海洋环境数据的数据表的具体实现过程,如图3所示,主要包括:

S301:构建温盐深CTD表。

在执行S301的过程中,通过创建温度数据、盐度数据和深度数据的表头,其中,温度数据、盐度数据和深度数据共用同一个表头、经度数据和纬度数据的表头,根据上述创建的各类表头,形成温盐深表。

需要说明的是,在本发明实施例中包括但不限于上述创建的温盐深表的各类表头,具体的还需要创建温盐深表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。

S302:构建溶解氧SEB63表。

在执行S302的过程中,通过创建氧气含量数据的表头、深度数据的表头、经度数据和纬度数据的表头,根据上述创建的各类表头,形成溶解氧SEB63表。

需要说明的是,在本发明实施例中包括但不限于上述创建的溶解氧SEB63表的各类表头,具体的还需要创建溶解氧SEB63表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。

S303:构建甲烷mets表。

在执行S303的过程中,通过创建甲烷含量数据的表头、深度数据的表头、经度数据和纬度数据的表头,根据上述创建的各类表头,形成甲烷mets表。

需要说明的是,在本发明实施例中包括但不限于上述创建的甲烷mets表的各类表头,具体的还需要创建甲烷mets表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。

S304:构建单点海流计rcm表。

在执行S304的过程中,通过创建东西海流速度数据的表头、南北海流速度的表头、姿态角数据的表头、深度数据的表头、经度数据和纬度数据的表头,根据上述创建的各类表头,形成单点海流计rcm表。

需要说明的是,在本发明实施例中包括但不限于上述创建的单点海流计rcm表的各类表头,具体的还需要创建单点海流计rcm表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。

根据上述本发明实施例公开的数据处理方法可知,获取传感器采集的采集点处的海洋环境数据,其中,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,其中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。

基于上述本发明实施例图1公开的数据处理方法,图1示出的S102:对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据的具体实现过程,如图4所示,主要包括:

S401:对传感器采集的海洋环境数据进行数据解压缩处理,并判断解压缩后的数据的有效性,获得有效的第一数据。

在执行S401的过程中,由于传感器采集的海洋环境数据,在海洋中采用声学传输,在传输的过程中,受到物理条件的限制传输速率很低。因此,在传输之前对海洋环境数据进行压缩,后端在获得传感器传回来的压缩数据时,要对海洋环境数据进行数据预处理,首先对该压缩包进行解压缩,获得解压缩后的海洋环境数据。

但是,解压缩的过程中,可能会使得海洋环境数据出现乱码,或者压缩的海洋环境数据不能正常使用。因此,还需要对解压缩后的海洋环境数据进行有效性审核,以判断传感器传输回来的海洋环境数据是否是压缩前的海洋环境数据。

S402:将第一数据进行数据标准化处理,获得第二数据。

在执行S402的过程中,对解压缩后的海洋环境数据进行有效性审核后,基于建立的标准化存储格式,对该海洋环境数据的编码格式进行统一,同时对海洋环境数据进行一定的筛选,剔除无用的数据信息,获得数据标准化后的海洋环境数据,即第二数据。

需要说明的是,由于各个传感器的型号不同,采集海洋环境数据可能存在多种编码形式,因此需要对海洋环境数据的编码格式进行统一。

S403:将第二数据进行数据排重处理,获得第三数据。

在执行S403的过程中,对标准化处理后的海洋环境数据,还需要进行数据排重处理,排除重复的数据。具体的,采用程序排重的方式,排除重复的海洋环境数据,对于程序不能排除的海洋环境数据,根据人工剃重的方式,排除重复的海洋环境数据。

S404:对第三数据进行数据质量控制处理,获得经过数据处理后的海洋环境数据。

在执行S404的过程中,由于,传感器采集海洋环境数据的过程中,或海洋环境数据在传输的过程中,海洋环境数据会出现数据缺失和数据错误的情况,针对该情况,需要对数据排重处理后的海洋环境数据,进行数据质量控制处理。具体的,针对错误的海洋环境数据进行修正错误数据处理和剔除明显错误的数据处理。

例如:在一段时间内,由于传感器器出现问题,因此采集的海洋环境数据与实际值有很大的差别,这些与实际值差别很大的海洋环境数据没有任何意义,需要对这些没有意义的数据进行删除。而如果采集的海洋环境数据与实际值差别很小,则根据统计学的方法对数据进行修正。

S405:将经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。

根据上述本发明实施例公开的数据处理方法可知,获取传感器采集的采集点处的海洋环境数据,其中,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,其中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。

基于上述本发明实施例公开的数据处理方法涉及到的,若海洋环境数据的类别包括温度、盐度、氧气、甲烷和海流速度,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中的具体实现过程,如图5所示,主要包括:

S501:确定各个采集点处的深度数据、经度数据和纬度数据。

在执行S501的过程中,根据特定的设备确定各个采集点处的深度数据、经度数据和纬度数据。

S502:根据各个传感器采集所述采集点处的温度、盐度、氧气、甲烷和海流速度的时间顺序,分别将采集到的温度数据、盐度数据、氧气含量数据、甲烷含量数据、东西海流速度数据和南北海流速度数据结合所述深度数据、经度数据和纬度数据存储于对应的不同类别的存储区中。

在执行S502的过程中,根据存储的时间顺序,将温度数据、盐度数据、深度数据、经度数据和纬度数据,存储在温盐深CTD表中,其中,存储的时间顺序指的是,每次传感器采集海洋环境数据,将海洋环境数据经过数据处理和分类后,存储至时序数据库中对应存储区的时间。

同理,根据存储的时间顺序,将氧气含量数据、深度数据、经度数据和纬度数据,存储在溶解氧SEB63表中。

同理,根据存储的时间顺序,将甲烷含量数据、深度数据、经度数据和纬度数据,存储在甲烷mets表中。

同理,根据存储的时间顺序,将东西海流速度数据、南北海流速度数据、姿态角数据、深度数据、经度数据和纬度数据,存储在单点海流计rcm表中。

根据上述本发明实施例公开的数据处理方法可知,获取传感器采集的采集点处的海洋环境数据,其中,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,其中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。

基于上述本发明实施例公开的数据处理方法,本发明实施例还对应公开了一种数据处理装置,如图6所示,为本发明实施例提供的一种数据处理装置的结构示意图,主要包括:获取模块60、处理模块61和存储模块62。

获取模块60,用于获取传感器采集的采集点处的海洋环境数据,所述采集点为预先确定。

处理模块61,用于对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据。

存储模块62,用于按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,预先构建的时序数据库中包括组件信息存储区和数据存储区,组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,数据存储区包括不同类别的存储区。

在本发明实施例中存储模块62的一种可选结构为:存储模块62包括第一构建单元、第二构建单元格第三构建单元。

第一构建单元,用于构建用于存储传感器基础信息的传感器表,传感器表包括传感器的身份标识ID、传感器所属的采集点的身份标识ID、传感器的名称、传感器的工作状态和传感器采集的海洋环境数据的数据类别。

第二构建单元,用于构建用于存储采集点基础信息的采集点表,采集点表包括采集点的身份标识ID、采集点的位置信息、采集点中的传感器类型。

第三构建单元,用于构建用于存储不同类别的海洋环境数据的数据表,数据表包括海洋环境数据类别、海洋深度的环境数据、海洋角度的环境数据、海洋经度和纬度的环境数据。

具体的,第三构建单元包括:构建子单元。

构建子单元,用于构建温盐深CTD表、溶解氧SEB63表、甲烷mets表和单点海流计rcm表。

在本发明实施例中存储模块62的另一种可选结构为:存储模块62还包括:确定单元和存储单元。

确定单元,用于确定各个采集点处的深度数据、经度数据和纬度数据。

存储单元,用于根据各个传感器采集所述采集点处的温度、盐度、氧气、甲烷和海流速度的时间顺序,分别将采集到的温度数据、盐度数据、氧气含量数据、甲烷含量数据、东西海流速度数据和南北海流速度数据结合所述深度数据、经度数据和纬度数据存储于对应的不同类别的存储区中。

在本发明实施例中处理模块61的一种可选结构为:处理模块61包括第一获得单元、第二获得单元、第三获得单元、第四获得单元和第五获得单元。

数据解压缩处理单元,用于对传感器采集的海洋环境数据进行数据解压缩处理,并判断解压缩后的数据的有效性,获得有效的第一数据。

数据标准化处理单元,用于将第一数据进行数据标准化处理,获得第二数据。

数据排重处理单元,用于将第二数据进行数据排重处理,获得第三数据。

数据质量控制处理单元,用于对第三数据进行数据质量控制处理,获得经过数据处理后的海洋环境数据。

分类单元,用于将经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。

根据上述本发明实施例公开的数据处理装置可知,获取传感器采集的采集点处的海洋环境数据,其中,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,其中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。

需要说明的是,本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。对于装置类实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。

最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

对所公开的实施例的上述说明,使本领域技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

16页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:元数据处理方法及装置、存储介质、电子装置

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!