一种风险数据过滤储存方法与流程

专利2022-06-29  78


本发明涉及数据处理技术领域,尤其涉及一种风险数据过滤储存方法。



背景技术:

随着互联网、大数据技术的不断发展,对海量用户数据的收集、统计、分析变得越来越重要。在电力领域中,通常需要收集项目工程相关的风险数据信息以便继续后续的统计和分析工作,在传统的数据收集工作中,工作人员将项目工程相关的风险数据直接传输存储在风险库中,完成数据收集工作。

由于电力行业中应用风险数据进行分析时需要的数据准确度较高,在传统的数据收集方式下进行储存的风险数据会由于海量大数据的冗余影响,导致风险库中储存着部分非风险数据,这部分杂质数据在通过后续的分析过程中会给分析工作发来一定的影响。

因此,目前市面上极需一种针对电力行业中应用风险数据的数据过滤储存方案。



技术实现要素:

本发明提供了一种风险数据过滤储存方法,可以过滤不合法数据和无效数据,降低海量大数据的储存冗余度,实现风险数据的精准储存。

为了解决上述技术问题,本发明实施例提供了一种风险数据过滤储存方法,包括:

获取待储存风险数据,并对所述待储存风险数据中的数据基本信息进行提取;

根据预设的规则对所述数据基本信息进行初次认证,确定所述待储存风险数据的合法性;

当初次认证所述待储存风险数据为不合法数据时,对所述数据基本信息进行常规配置处理,并对进行常规配置处理后的数据基本信息进行重新认证,当重新认证所述待储存风险数据仍为不合法数据时,则退回所述待储存风险数据;

当初次认证所述待储存风险数据为合法数据,或当重新认证所述待储存风险数据为合法数据时,对所述待储存风险数据进行校验处理,过滤无效的风险数据,得到过滤风险数据并将所述过滤风险数据储存到风险库。

作为优选方案,在所述将所述过滤风险数据储存到风险库之前,还包括:对所述过滤风险数据进行加密。

作为优选方案,所述数据基本信息包括:发文用户的账户状态、发文用户的账户权限、数据标题和数据类型。

作为优选方案,对所述数据基本信息进行认证的步骤,包括:

判断当前发文用户的账户状态是否正常;

判断当前发文用户是否具有储存风险数据的账户权限;

判断待储存风险数据的数据标题是否缺失;

判断待储存风险数据的数据类型是否属于预设的数据储存类型。

作为优选方案,所述对所述数据基本信息进行常规配置处理的具体步骤,包括:

对当前发文用户的账户状态进行更新;

对当前发文用户的账户权限进行更新;

对待储存风险数据的数据标题进行添加配置;

对待储存风险数据的数据类型进行替换配置。

作为优选方案,所述预设的数据储存类型包括作业风险数据类型、管理风险数据类型和危大工程风险数据类型。

作为优选方案,所述对所述待储存风险数据进行校验处理的具体步骤,包括:

对待储存风险数据中的必填数值进行校验,对必填数值缺失的待储存风险数据进行删除过滤;

获取待储存风险数据中的唯一标识符,根据所述唯一标识符判断确定重复无效的待储存风险数据,对重复无效的待储存风险数据进行删除过滤;

获取待储存风险数据中的请求指令参数,判断所述请求指令参数的发出时间,计算所述发出时间与当前时间的时间段值,当确定所述时间段值超过预设的缓存时间段值时,确定待储存风险数据为失效状态,对该失效状态的待储存风险数据进行删除过滤。

本发明实施例还提供了一种风险数据过滤储存装置,包括:

数据获取模块,用于获取待储存风险数据,并对所述待储存风险数据中的数据基本信息进行提取;

数据认证模块,用于根据预设的规则对所述数据基本信息进行初次认证,确定所述待储存风险数据的合法性;

常规配置模块,用于当初次认证所述待储存风险数据为不合法数据时,对所述数据基本信息进行常规配置处理,并对进行常规配置处理后的数据基本信息进行重新认证,当重新认证所述待储存风险数据仍为不合法数据时,则退回所述待储存风险数据;

校验处理模块,用于当初次认证所述待储存风险数据为合法数据,或当重新认证所述待储存风险数据为合法数据时,对所述待储存风险数据进行校验处理,过滤无效的风险数据,得到过滤风险数据并将所述过滤风险数据储存到风险库。

作为优选方案,所述校验处理模块用于将所述过滤风险数据储存到风险库之前,还包括:对所述过滤风险数据进行加密。

作为优选方案,所述数据基本信息包括:发文用户的账户状态、发文用户的账户权限、数据标题和数据类型。

作为优选方案,对所述数据基本信息进行认证的步骤,包括:

判断当前发文用户的账户状态是否正常;

判断当前发文用户是否具有储存风险数据的账户权限;

判断待储存风险数据的数据标题是否缺失;

判断待储存风险数据的数据类型是否属于预设的数据储存类型。

作为优选方案,所述常规配置模块用于对所述数据基本信息进行常规配置处理的具体步骤,包括:

对当前发文用户的账户状态进行更新;

对当前发文用户的账户权限进行更新;

对待储存风险数据的数据标题进行添加配置;

对待储存风险数据的数据类型进行替换配置。

作为优选方案,所述预设的数据储存类型包括作业风险数据类型、管理风险数据类型和危大工程风险数据类型。

作为优选方案,所述校验处理模块用于对所述待储存风险数据进行校验处理的具体步骤,包括:

对待储存风险数据中的必填数值进行校验,对必填数值缺失的待储存风险数据进行删除过滤;

获取待储存风险数据中的唯一标识符,根据所述唯一标识符判断确定重复无效的待储存风险数据,对重复无效的待储存风险数据进行删除过滤;

获取待储存风险数据中的请求指令参数,判断所述请求指令参数的发出时间,计算所述发出时间与当前时间的时间段值,当确定所述时间段值超过预设的缓存时间段值时,确定待储存风险数据为失效状态,对该失效状态的待储存风险数据进行删除过滤。

本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质包括存储的计算机程序;其中,所述计算机程序在运行时控制所述计算机可读存储介质所在的设备执行如上述任一项所述的风险数据过滤储存方法。

本发明实施例还提供了一种终端设备,包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序,所述处理器在执行所述计算机程序时实现如上述任一项所述的风险数据过滤储存方法。

相比于现有技术,本发明实施例具有如下有益效果:

1、本发明通过对数据基本信息进行认证,确定待储存风险数据的合法性,并对待储存风险数据进行校验处理,可以过滤不合法数据和无效数据,降低海量大数据的储存冗余度,实现风险数据的精准储存;通过对不合法数据进行常规配置后重新认证,可以避免真实有效的风险数据因网络因素等外界影响而被错误过滤的问题,进一步提高本发明技术方案的实用性。

2、在对风险数据进行储存之前,对该风险数据进行加密,可以提高数据储存的安全级别,增加安全性。

附图说明

图1:为本发明实施例中的风险数据过滤储存方法的步骤流程示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

请参照图1,本发明优选实施例提供了一种风险数据过滤储存方法,包括:

s1,获取待储存风险数据,并对所述待储存风险数据中的数据基本信息进行提取;具体地,数据基本信息可以由发文用户根据系统预设的表格填写规则进行录入,发文用户在上传待储存风险数据时,需要对该预设的表格填写规则进行输入填写;其中,该输入的内容即填写规则所规定的内容,该规定的内容可以根据实际需求进行改变。

s2,根据预设的规则对所述数据基本信息进行初次认证,确定所述待储存风险数据的合法性;具体地,根据实际需求确定数据基本信息的内容,然后对该数据基本信息进行认证,在本步骤中的认证合法性的具体认证过程可以根据需求进行变换。

s3,当初次认证所述待储存风险数据为不合法数据时,对所述数据基本信息进行常规配置处理,并对进行常规配置处理后的数据基本信息进行重新认证,当重新认证所述待储存风险数据仍为不合法数据时,则退回所述待储存风险数据;具体地,通过对不合法数据进行常规配置后重新认证,可以避免真实有效的风险数据因网络因素等外界影响而被错误过滤的问题,进一步提高本发明技术方案的实用性。

s4,当初次认证所述待储存风险数据为合法数据,或当重新认证所述待储存风险数据为合法数据时,对所述待储存风险数据进行校验处理,过滤无效的风险数据,得到过滤风险数据并将所述过滤风险数据储存到风险库。具体地,通过对数据基本信息进行认证,确定待储存风险数据的合法性,并对待储存风险数据进行校验处理,可以过滤不合法数据和无效数据,降低海量大数据的储存冗余度,实现风险数据的精准储存。

在另一实施例中,在所述将所述过滤风险数据储存到风险库之前,还包括:对所述过滤风险数据进行加密。具体地,在对风险数据进行储存之前,对该风险数据进行加密,可以提高数据储存的安全级别,增加安全性。

在优选实施例中,所述数据基本信息包括:发文用户的账户状态、发文用户的账户权限、数据标题和数据类型。在本实施例中,对所述数据基本信息进行认证的步骤,包括:

步骤一:判断当前发文用户的账户状态是否正常;当当前发文用户的账户状态正常时,则确定第一因素合法;当当前发文用户的账户状态不正常时,则确定第一因素不合法。

步骤二:判断当前发文用户是否具有储存风险数据的账户权限;当当前发文用户具有储存风险数据的账户权限时,则确定第二因素合法;当当前发文用户不具有储存风险数据的账户权限时,则确定第二因素不合法。

步骤三:判断待储存风险数据的数据标题是否缺失;当待储存风险数据的数据标题完整时,则确定第三因素合法;当待储存风险数据的数据标题缺失时,则确定第三因素不合法。

步骤四:判断待储存风险数据的数据类型是否属于预设的数据储存类型;当待储存风险数据的数据类型属于预设的数据储存类型时,则确定第四因素合法;当待储存风险数据的数据类型不属于预设的数据储存类型时,则确定第四因素不合法。

根据实际需求对合法和不合法的数量比关系进行设置,例如,可以设置当四个因素全部合法的情况下,才确定待储存风险数据合法,可以设置四个因素全部不合法或有任一因素不合法的情况下,均能确定待储存风险数据不合法。上述合法和不合法的因素数量比可以随实际需求进行变换设置。

在优选实施例中,所述对所述数据基本信息进行常规配置处理的具体步骤,包括:

常规配置一:对当前发文用户的账户状态进行更新;为了防止网络因素造成的数据基本信息缺失问题,本方案采取完善的方案包括将发文用户的账户状态进行更新。

常规配置二:对当前发文用户的账户权限进行更新;为了防止网络因素造成的数据基本信息缺失问题,本方案采取完善的方案包括将发文用户的账户权限进行更新。

常规配置三:对待储存风险数据的数据标题进行添加配置;为了防止网络因素造成的数据基本信息缺失问题,本方案采取完善的方案包括对待储存风险数据的数据标题进行添加配置。

常规配置四:对待储存风险数据的数据类型进行替换配置;为了防止网络因素造成的数据基本信息缺失问题,本方案采取完善的方案包括对待储存风险数据的数据类型进行替换配置。

在上述任一实施例中,为迎合本技术方案的电力应用领域和实际的需求,所述预设的数据储存类型包括作业风险数据类型、管理风险数据类型和危大工程风险数据类型。

对上述任一实施例进行改进,所述对所述待储存风险数据进行校验处理的具体步骤,包括:

校验一:对待储存风险数据中的必填数值进行校验,对必填数值缺失的待储存风险数据进行删除过滤。

校验二:获取待储存风险数据中的唯一标识符,根据所述唯一标识符判断确定重复无效的待储存风险数据,对重复无效的待储存风险数据进行删除过滤。

校验三:获取待储存风险数据中的请求指令参数,判断所述请求指令参数的发出时间,计算所述发出时间与当前时间的时间段值,当确定所述时间段值超过预设的缓存时间段值时,确定待储存风险数据为失效状态,对该失效状态的待储存风险数据进行删除过滤。

本发明通过对数据基本信息进行认证,确定待储存风险数据的合法性,并对待储存风险数据进行校验处理,可以过滤不合法数据和无效数据,降低海量大数据的储存冗余度,实现风险数据的精准储存;通过对不合法数据进行常规配置后重新认证,可以避免真实有效的风险数据因网络因素等外界影响而被错误过滤的问题,进一步提高本发明技术方案的实用性。

相应地,本发明实施例还提供了一种风险数据过滤储存装置,包括:

数据获取模块,用于获取待储存风险数据,并对所述待储存风险数据中的数据基本信息进行提取;

数据认证模块,用于根据预设的规则对所述数据基本信息进行初次认证,确定所述待储存风险数据的合法性;

常规配置模块,用于当初次认证所述待储存风险数据为不合法数据时,对所述数据基本信息进行常规配置处理,并对进行常规配置处理后的数据基本信息进行重新认证,当重新认证所述待储存风险数据仍为不合法数据时,则退回所述待储存风险数据;

校验处理模块,用于当初次认证所述待储存风险数据为合法数据,或当重新认证所述待储存风险数据为合法数据时,对所述待储存风险数据进行校验处理,过滤无效的风险数据,得到过滤风险数据并将所述过滤风险数据储存到风险库。

在本实施例中,所述校验处理模块用于将所述过滤风险数据储存到风险库之前,还包括:对所述过滤风险数据进行加密。

在本实施例中,所述数据基本信息包括:发文用户的账户状态、发文用户的账户权限、数据标题和数据类型。

在本实施例中,对所述数据基本信息进行认证的步骤,包括:

判断当前发文用户的账户状态是否正常;

判断当前发文用户是否具有储存风险数据的账户权限;

判断待储存风险数据的数据标题是否缺失;

判断待储存风险数据的数据类型是否属于预设的数据储存类型。

在本实施例中,所述常规配置模块用于对所述数据基本信息进行常规配置处理的具体步骤,包括:

对当前发文用户的账户状态进行更新;

对当前发文用户的账户权限进行更新;

对待储存风险数据的数据标题进行添加配置;

对待储存风险数据的数据类型进行替换配置。

在本实施例中,所述预设的数据储存类型包括作业风险数据类型、管理风险数据类型和危大工程风险数据类型。

在本实施例中,所述校验处理模块用于对所述待储存风险数据进行校验处理的具体步骤,包括:

对待储存风险数据中的必填数值进行校验,对必填数值缺失的待储存风险数据进行删除过滤;

获取待储存风险数据中的唯一标识符,根据所述唯一标识符判断确定重复无效的待储存风险数据,对重复无效的待储存风险数据进行删除过滤;

获取待储存风险数据中的请求指令参数,判断所述请求指令参数的发出时间,计算所述发出时间与当前时间的时间段值,当确定所述时间段值超过预设的缓存时间段值时,确定待储存风险数据为失效状态,对该失效状态的待储存风险数据进行删除过滤。

本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质包括存储的计算机程序;其中,所述计算机程序在运行时控制所述计算机可读存储介质所在的设备执行上述任一实施例所述的风险数据过滤储存方法。

本发明实施例还提供了一种终端设备,所述终端设备包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序,所述处理器在执行所述计算机程序时实现上述任一实施例所述的风险数据过滤储存方法。

优选地,所述计算机程序可以被分割成一个或多个模块/单元(如计算机程序、计算机程序),所述一个或者多个模块/单元被存储在所述存储器中,并由所述处理器执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序在所述终端设备中的执行过程。

所述处理器可以是中央处理单元(centralprocessingunit,cpu),还可以是其他通用处理器、数字信号处理器(digitalsignalprocessor,dsp)、专用集成电路(applicationspecificintegratedcircuit,asic)、现成可编程门阵列(field-programmablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等,通用处理器可以是微处理器,或者所述处理器也可以是任何常规的处理器,所述处理器是所述终端设备的控制中心,利用各种接口和线路连接所述终端设备的各个部分。

所述存储器主要包括程序存储区和数据存储区,其中,程序存储区可存储操作系统、至少一个功能所需的应用程序等,数据存储区可存储相关数据等。此外,所述存储器可以是高速随机存取存储器,还可以是非易失性存储器,例如插接式硬盘,智能存储卡(smartmediacard,smc)、安全数字(securedigital,sd)卡和闪存卡(flashcard)等,或所述存储器也可以是其他易失性固态存储器件。

需要说明的是,上述终端设备可包括,但不仅限于,处理器、存储器,本领域技术人员可以理解,上述终端设备仅仅是示例,并不构成对终端设备的限定,可以包括更多或更少的部件,或者组合某些部件,或者不同的部件。

以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步的详细说明,应当理解,以上所述仅为本发明的具体实施例而已,并不用于限定本发明的保护范围。特别指出,对于本领域技术人员来说,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。


技术特征:

1.一种风险数据过滤储存方法,其特征在于,包括:

获取待储存风险数据,并对所述待储存风险数据中的数据基本信息进行提取;

根据预设的规则对所述数据基本信息进行初次认证,确定所述待储存风险数据的合法性;

当初次认证所述待储存风险数据为不合法数据时,对所述数据基本信息进行常规配置处理,并对进行常规配置处理后的数据基本信息进行重新认证,当重新认证所述待储存风险数据仍为不合法数据时,则退回所述待储存风险数据;

当初次认证所述待储存风险数据为合法数据,或当重新认证所述待储存风险数据为合法数据时,对所述待储存风险数据进行校验处理,过滤无效的风险数据,得到过滤风险数据并将所述过滤风险数据储存到风险库。

2.如权利要求1所述的风险数据过滤储存方法,其特征在于,在所述将所述过滤风险数据储存到风险库之前,还包括:对所述过滤风险数据进行加密。

3.如权利要求1所述的风险数据过滤储存方法,其特征在于,所述数据基本信息包括:发文用户的账户状态、发文用户的账户权限、数据标题和数据类型。

4.如权利要求3所述的风险数据过滤储存方法,其特征在于,对所述数据基本信息进行认证的步骤,包括:

判断当前发文用户的账户状态是否正常;

判断当前发文用户是否具有储存风险数据的账户权限;

判断待储存风险数据的数据标题是否缺失;

判断待储存风险数据的数据类型是否属于预设的数据储存类型。

5.如权利要求4所述的风险数据过滤储存方法,其特征在于,所述对所述数据基本信息进行常规配置处理的具体步骤,包括:

对当前发文用户的账户状态进行更新;

对当前发文用户的账户权限进行更新;

对待储存风险数据的数据标题进行添加配置;

对待储存风险数据的数据类型进行替换配置。

6.如权利要求4所述的风险数据过滤储存方法,其特征在于,所述预设的数据储存类型包括作业风险数据类型、管理风险数据类型和危大工程风险数据类型。

7.如权利要求1至权利要求6中任一项所述的风险数据过滤储存方法,其特征在于,所述对所述待储存风险数据进行校验处理的具体步骤,包括:

对待储存风险数据中的必填数值进行校验,对必填数值缺失的待储存风险数据进行删除过滤;

获取待储存风险数据中的唯一标识符,根据所述唯一标识符判断确定重复无效的待储存风险数据,对重复无效的待储存风险数据进行删除过滤;

获取待储存风险数据中的请求指令参数,判断所述请求指令参数的发出时间,计算所述发出时间与当前时间的时间段值,当确定所述时间段值超过预设的缓存时间段值时,确定待储存风险数据为失效状态,对该失效状态的待储存风险数据进行删除过滤。

8.一种风险数据过滤储存装置,其特征在于,包括:

数据获取模块,用于获取待储存风险数据,并对所述待储存风险数据中的数据基本信息进行提取;

数据认证模块,用于根据预设的规则对所述数据基本信息进行初次认证,确定所述待储存风险数据的合法性;

常规配置模块,用于当初次认证所述待储存风险数据为不合法数据时,对所述数据基本信息进行常规配置处理,并对进行常规配置处理后的数据基本信息进行重新认证,当重新认证所述待储存风险数据仍为不合法数据时,则退回所述待储存风险数据;

校验处理模块,用于当初次认证所述待储存风险数据为合法数据,或当重新认证所述待储存风险数据为合法数据时,对所述待储存风险数据进行校验处理,过滤无效的风险数据,得到过滤风险数据并将所述过滤风险数据储存到风险库。

9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的计算机程序;其中,所述计算机程序在运行时控制所述计算机可读存储介质所在的设备执行如权利要求1~7任一项所述的风险数据过滤储存方法。

10.一种终端设备,其特征在于,包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序,所述处理器在执行所述计算机程序时实现如权利要求1~7任一项所述的风险数据过滤储存方法。

技术总结
本发明公开了一种风险数据过滤储存方法,包括:获取待储存风险数据,并对所述待储存风险数据中的数据基本信息进行提取;根据预设的规则对所述数据基本信息进行初次认证,确定所述待储存风险数据的合法性;当初次认证所述待储存风险数据为不合法数据时,对所述数据基本信息进行常规配置处理,并对进行常规配置处理后的数据基本信息进行重新认证,当重新认证所述待储存风险数据仍为不合法数据时,则退回所述待储存风险数据;当初次认证所述待储存风险数据为合法数据,或当重新认证所述待储存风险数据为合法数据时,对所述待储存风险数据进行校验处理,过滤无效的风险数据,得到过滤风险数据并将所述过滤风险数据储存到风险库。

技术研发人员:彭飞;袁太平;洪巧章;汪飞
受保护的技术使用者:南方电网能源发展研究院有限责任公司
技术研发日:2020.01.21
技术公布日:2020.06.09

转载请注明原文地址: https://bbs.8miu.com/read-14222.html

最新回复(0)