一种卫星导航海量数据自动化分析及BUG智能识别系统的制作方法

专利2022-06-29  54


本发明涉及卫星导航数据分析技术领域,尤其涉及一种卫星导航海量数据自动化分析及bug智能识别系统。



背景技术:

随着2018年12月27日中国卫星导航系统管理办公室宣布北斗三号基本系统建成,可提供全球服务,北斗卫星系统完成了高强密度组网形成全球服务能力,北斗三代的全球服务已得到广泛应用,正走出国门惠及世界,但随着卫星导航系统的不断发展,其周边的设备的产品类型也趋于多元化,具体地,存在普通导航、精密授时、组合导航、高精度rtk、定向以及原始观测量等多种产品类型,且每一种产品类型所对应的设备所生成卫星导航数据的数据格式也不相同,例如包括rtcm2.x协议、rtcm3.x协议、novateloem6协议、u-blox私有协议、hemisphere协议、rinex协议、septentrio私有协议、nmea0183协议以及各大厂家的私有协议,因此各设备在对卫星导航数据进行处理过程也不相同,那么:

假如对设备进行检测时,在一次检测过程中,只能针对一个设备、或同一数据格式的同一产品类型的几个设备同时进行测试,导致检测效率低,且在测试过程中,只能通过数据处理软件对每个设备所输出的卫星导航数据进行处理后才能发现数据异常bug,其智能化与自动化程度较低。

因此,如何实现一种对不同产品类型及采用不同数据格式的待检测设备同时进行检测且能自动识别出卫星导航数据中的数据异常bug的智能化和自动化的系统是业内亟待解决的技术问题。



技术实现要素:

本发明所要解决的技术问题是针对现有技术的不足,提供一种卫星导航海量数据自动化分析及bug智能识别系统。

本发明的一种卫星导航海量数据自动化分析及bug智能识别系统的技术方案如下:

包括初始信息配置单元、数据存储处理服务器以及在所述数据存储处理服务器中运行的全自动化处理模块;

所述初始信息配置单元根据所连接的多个不同产品类型的待检测设备在所述数据存储处理服务器中配置出相应的初始信息;

在检测过程中,每个所述待检测设备分别将所采集到的不同数据格式的卫星导航监测数据按照相应的初始信息发送至所述存储处理服务器进行存储;

所述全自动化处理模块对每个所述卫星导航监测数据依次进行解码和bug分析后得到相应的检测结果,并将所有的所述检测结果按照相应所述初始信息向每个所述待检测设备的管理者进行反馈。

在上述方案的基础上,本发明的一种卫星导航海量数据自动化分析及bug智能识别系统还可以做如下改进。

进一步,所述全自动化处理模块包括数据存储单元;

所述数据存储单元以预设命名规范对每个所述卫星导航监测数据进行命名并按照预设存储方式进行存储;

所述数据存储单元还探测所述存储处理服务器的剩余磁盘空间,若剩余磁盘空间小于预设门限,则发出剩余磁盘空间不足的报警信息。

进一步,所述全自动化处理模块还包括数据预处理单元;

所述数据预处理单元识别每个所述卫星导航监测数据的数据格式,并将同一数据格式的卫星导航监测数据归于同一分组,并对各所述分组进行标记;

所述数据预处理单元还识别每个所述分组中的每个卫星导航监测数据所对应的不同产品类型,将同一产品类型的卫星导航监测数据归于相应的分组的子组,并对各子组进行标记。

进一步,所述全自动化处理模块还包括数据分析处理单元;

所述数据分析处理单元以二进制单字节数据读取方式来并行读取每个所述子组中所对应的卫星导航监测数据,并利用与其相应的数据格式的编码方式对每个所述卫星导航监测数据数据进行解码后相应生成的多个卫星导航解码数据,然后再对每个所述卫星导航解码数据进行bug分析。

进一步,还包括:所述数据分析处理单元对每个所述卫星导航解码数据中读取卫星导航的各项指标的监测数据,判断所述的各项指标的监测数据是否在所述的各项指标所对应的标准数据范围内,若不是,则判定所述监测数据存在数据异常bug,并从预处理方案库中调用与每个所述数据异常bug所述相应的预处理方案进行处理。

进一步,还包括:所述数据分析处理单元还统计每个所述待检测设备的测试信息和每个所述指标的误差信息,所述测试信息包括测试时长、历元数、定位卫星数量、定位比例和解定位比例,所述误差信息包括有效定位率、水平误差和法向误差。

进一步,所述全自动化处理模块还包括数据标记建设单元;

所述数据标记建设单元统计每个所述卫星导航监测数据的名称、检测时间、文件大小、相应的产品类型以及在所述数据存储处理服务器的存储位置。

进一步,所述全自动化处理模块还包括数据报表自动生成单元和报表邮件自动发送单元;

所述数据报表自动生成单元根据所述数据分析处理单元和所述数据标记建设单元输出的信息生成与每个所述待检测设备相应的检测报表即检测结果;

所述初始信息中包括发件箱和每个所述待检测设备的管理者的收件箱,所述报表邮件自动发送单元将每个所述检测报表自动发送至相应的管理者。

进一步,还包括:所述报表邮件自动发送单元根据每个所述检测报表中存在所述数据异常bug的数量和/或每个所述数据异常bug的严重程度来设置不同的提醒等级。

进一步,所述数据存储处理服务器还包括显示器,所述初始信息配置单元通过所述显示器在所述数据存储处理服务器中配置出每个所述待检测设备的初始信息。

本发明的一种卫星导航海量数据自动化分析及bug智能识别系统的有益效果如下:

当多个待检测设备同时进行检测时,通过全自动化处理模块对每个待检测设备所采集的卫星导航监测数据进行解码和bug分析后得到相应的检测结果,并将所有的所述检测结果按照相应所述初始信息向相应的管理者进行反馈。由此实现一种对不同产品类型及采用不同数据格式的待检测设备同时进行检测且能自动识别出卫星导航数据中的数据异常bug的智能化和自动化的系统。

附图说明

图1为本发明实施例的一种卫星导航海量数据自动化分析及bug智能识别系统的结构示意图;

图2为本发明实施例的一种卫星导航海量数据自动化分析及bug智能识别方法的流程示意图。

具体实施方式

本发明实施例的一种卫星导航海量数据自动化分析及bug智能识别系统,如图1所示,包括初始信息配置单元100、数据存储处理服务器101以及在数据存储处理服务器101中运行的全自动化处理模块102;

初始信息配置单元100根据所连接的多个不同产品类型的待检测设备在数据存储处理服务器101中配置出相应的初始信息;

在检测过程中,每个待检测设备分别将所采集到的不同数据格式的卫星导航监测数据按照相应的初始信息发送至存储处理服务器进行存储;

全自动化处理模块102对每个卫星导航监测数据进行解码和bug分析后得到相应的检测结果,并将所有的检测结果按照相应初始信息向每个待检测设备的管理者进行反馈。

当多个待检测设备同时进行检测时,通过全自动化处理模块102对每个待检测设备所采集的卫星导航监测数据进行解码和bug分析后得到相应的检测结果,并将所有的检测结果按照相应初始信息向相应的管理者进行反馈。由此实现一种对不同产品类型及采用不同数据格式的待检测设备同时进行检测且能自动识别出卫星导航数据中的数据异常bug的智能化和自动化的系统。

其中,如图1所示,可设置6个待检测设备为例进行阐述,具体地:

1)将6个待检测设备分别记为第一待检测设备109、第二待检测设备110、第三待检测设备111、第四待检测设备112、第五待检测设备113和第六待检测设备114;

将6个待检测设备采集到的卫星导航监测数据分别记为第一卫星导航监测数据、第二卫星导航监测数据、第三卫星导航监测数据、第四卫星导航监测数据、第五卫星导航监测数据和第六卫星导航监测数据;

2)假设第一待检测设备109、第二待检测设备110和第三待检测设备111的产品类型均为普通导航,且第一卫星导航监测数据、第二卫星导航监测数据和第三卫星导航监测数据的数据格式均为nmea0183协议;第四卫星导航监测数据、第五卫星导航监测数据和第六卫星导航监测数据的数据格式均为rtcm3.2协议,第四待检测设备112和第五待检测设备113的产品类型均为精密授时,第六待检测设备114的产品类型为组合导航,那么:

初始信息配置单元100对6个待检测设备在数据存储处理服务器101中配置的初始信息包括:

1)第一卫星导航监测数据、第二卫星导航监测数据、第三卫星导航监测数据、第四卫星导航监测数据、第五卫星导航监测数据和第六卫星导航监测数据在数据存储处理服务器101中的存储位置;

2)第一待检测设备109、第二待检测设备110、第三待检测设备111、第四待检测设备112、第五待检测设备113和第六待检测设备114的管理者的信息,如收件箱、电话、手机号、姓名等;

其中,可通过存储处理服务器自带显示屏或显示器上配置初始信息,或,在连接存储处理服务器的电脑上配置初始信息。

全自动化处理模块102对第一卫星导航监测数据、第二卫星导航监测数据、第三卫星导航监测数据、第四卫星导航监测数据、第五卫星导航监测数据和第六卫星导航监测数据进行解码和bug分析后得到相应的检测结果,并将所有的检测结果按照相应初始信息向每个待检测设备的管理者进行反馈,如获取每个管理者的收件箱,以邮件方式进行反馈,如获取每个管理者的手机号,以短信或彩信方式进行反馈等。

其中,待检测设备具体可以是芯片级的模块产品,也可以是用于测量测绘的高精度板卡,且待检测设备的数量可为1个、2个、10个以及更多个,即n=1、2……100……,且n并无上限,可以理解的是,为了保证本申请的整个系统中的线路及硬件之间连接的可靠性,建议进行同时检测的待检测设备的数量不超过20个。

较优地,在上述技术方案中,所述全自动化处理模块102包括数据存储单元103;

所述数据存储单元103以预设命名规范对每个所述卫星导航监测数据进行命名并按照预设存储方式进行存储;

所述数据存储单元103还探测所述存储处理服务器的剩余磁盘空间,若剩余磁盘空间小于预设门限,则发出剩余磁盘空间不足的报警信息,具体地:

1)在对6个待检测设备同时进行检测时,首先探测存储处理服务器的剩余磁盘空间,若剩余磁盘空间小于预设门限,则发出剩余磁盘空间不足的报警信息,例如剩余磁盘空间为2g,预设门限为1.5g,此时会发出剩余磁盘空间不足的报警信息,该报警信息可通过在电脑的显示器上弹出窗口向检测人员进行提示,若存储处理服务器自带显示屏或显示器,则可在存储处理服务器自带显示屏或显示器上弹出窗口向检测人员进行提示;

其中,预设门限可由用户进行设定,如用户同时对6个待检测设备进行检测时,可根据经验预测相应的6个卫星导航监测数据的数据大小为10g,则可将预设门限设置为10g;

2)在对6个待检测设备同时进行检测的过程中,实时判断剩余磁盘空间是否小于预设门限,若是,会向检测人员发出剩余磁盘空间不足的报警信息,检测人员进行扩充磁盘空间或删除之前旧数据来保证剩余磁盘空间不小于预设门限。

预设命名规范可选用多种形式,如利用“数据规格-产品类型-待检测设备的编号”或“时间-数据规格-产品类型-待检测设备的编号”等形式来对6个卫星导航监测数据进行命名。

其中,预设存储方式可理解为:

1)可按照时间如每天或每小时对第一卫星导航监测数据进行保存,具体地:如按照每小时对第一卫星导航监测数据进行保存,当第一待检测设备109检测三个小时,则将生成3个文件来存储第一卫星导航监测数据;

2)可按照文件大小对第一卫星导航监测数据进行保存,具体地:如按照1g的文件大小来对第一卫星导航监测数据进行保存,当第一卫星导航监测数据为4g时,则生成4个文件来存储第一卫星导航监测数据;

通过上述预设存储方式避免第一待检测设备109在长期的稳定性测试时,单个文件的数据量过大导致在处理过程中容易出现问题。

较优地,在上述技术方案中,所述全自动化处理模块102还包括数据预处理单元104;

所述数据预处理单元104通过快速数据浏览技术识别每个所述卫星导航监测数据的数据格式,并将同一数据格式的卫星导航监测数据归于同一分组,并对各所述分组进行标记;

所述数据预处理单元104还通过关键要素识别技术识别每个所述分组中的每个卫星导航监测数据所对应的不同产品类型,将同一产品类型的卫星导航监测数据归于相应的分组的子组,并对各子组进行标记,具体地:

1)由于第一卫星导航监测数据、第二卫星导航监测数据和第三卫星导航监测数据的数据格式均为nmea0183协议,第四卫星导航监测数据、第五卫星导航监测数据和第六卫星导航监测数据的数据格式均为rtcm3.2协议,那么:

首先将第一卫星导航监测数据、第二卫星导航监测数据和第三卫星导航监测数据归于同一分组,标记为第一分组;将第四卫星导航监测数据、第五卫星导航监测数据和第六卫星导航监测数据归于同一分组,标记为第二分组;

2)由于第一待检测设备109、第二待检测设备110和第三待检测设备111的产品类型均为普通导航,第四待检测设备112和第五待检测设备113的产品类型均为精密授时,第六待检测设备114的产品类型为组合导航,那么:

再将第一卫星导航监测数据、第二卫星导航监测数据和第三卫星导航监测数据归于同一子类,标记为第一子组;将第四卫星导航监测数据、第五卫星导航监测数据归于同一子类,标记为第二子组;将第六卫星导航监测数据归于同一子类,标记为第三子组。

其中,快速数据浏览技术可理解为:如针对rtcm3.2协议通过读取同步头0xd3快速识别其数据格式,或针对nmea0183报文通过读取gga特征字符快速识别其数据格式。

其中,关键要素识别技术可理解为:利如针对产品类型为精密授时的待检测设备,会输出与秒脉冲相关报文;或针对产品类型为组合导航的待检测设备,则会输出惯导初始化相关报文;亦或针对产品类型为高精度的待检测设备,则可通过定位类型进行快速识别;再或者针对产品类型为原始观测量的待检测设备,则通过如rtcm3.2协议输出的原始观测量报文进行快速识别。

较优地,在上述技术方案中,所述全自动化处理模块102还包括数据分析处理单元105;所述数据分析处理单元105以二进制单字节数据读取方式来并行读取每个所述子组中所对应的卫星导航监测数据,并利用与其相应的数据格式的编码方式对每个所述卫星导航监测数据数据进行解码后相应生成的多个卫星导航解码数据,然后再对每个所述卫星导航解码数据进行bug分析。

目前,卫星导航数据分析处理的问题包括全球卫星导航系统gnss(gnss为theglobalnavigationsatellitesystem的简写)的海量数据的批量处理问题、数据格式的兼容性问题和处理不同产品类型的设备所采集的海量数据过程中的关注点问题,具体地:

1)全球卫星导航系统gnss的海量数据的批量处理问题:以采用高精度载波相位差分技术rtk(rtk为real-timekinematic的简写)的待检测设备为例进行说明,假设输出频度为10hz,输出卫星导航数据的数据格式包括nmea0183协议、rtcm3.2协议以及自定义调试数据格式,每小时采集卫星导航数据的大小约420mb,24小时所采集的卫星导航数据的数据量大小约10gb,若涉及多个待检测设备的并行测试,会采集到海量数据,采用当前数据处理软件对海量数据的批量处理会存在效率低下甚至使数据处理软件发生崩溃等问题;

2)数据格式的兼容性问题:卫星导航数据的格式包括rtcm2.x协议、rtcm3.x协议、novateloem6协议、u-blox私有协议、hemisphere协议、rinex协议、septentrio私有协议、nmea0183协议以及各大厂家的私有协议,而现有厂家仅能针对其中一种或者几种协议进行兼容设计;

3)处理不同产品类型的设备所采集的海量数据过程中的关注点问题:随着卫星导航系统的不断发展,其终端产品的类型也多元化,从产品类型的角度来说,有普通导航、精密授时、组合导航、高精度rtk、定向以及原始观测量等多种产品类型,针对每一种产品类型,在对卫星导航数据的数据处理过程中的关注点也不一样,而传统的数据处理软件仅能提供针对某一产品类型的分析结果。

而本申请中,通过数据预处理单元104将6个卫星导航监测数据按照数据格式和产品类型分到3个子组中即第一子组、第二子组和第三子组,数据分析处理单元105以二进制单字节数据读取方式来并行读取每个所述子组中所对应的卫星导航监测数据可理解为:数据分析处理单元105同时并行启动三个线程来分别处理第一子组、第二子组和第三子组,且三个线程分别调用相同的编码方式,具体地:

第一线程调用nmea0183协议的编码方式来对第一卫星导航监测数据、第二卫星导航监测数据和第三卫星导航监测数据进行解码;

第二线程调用rtcm3.2协议的编码方式来对第四卫星导航监测数据和第五卫星导航监测数据进行解码;

第二线程调用rtcm3.2协议的编码方式来对第六卫星导航监测数据进行解码;

以保证对6个卫星导航监测数据的批次处理的高效性,避免发生崩溃等问题;

其中,可在数据存储处理服务器101构建用于存储多种数据格式的数据格式库,并在数据格式库上设有接口,用于输入rtcm2.x协议、rtcm3.x协议、novateloem6协议、u-blox私有协议、hemisphere协议、rinex协议、septentrio私有协议、nmea0183协议以及各大厂家的私有协议等,解决了数据格式的兼容性问题。

而且,针对于不同产品类型的第一待检测设备109、第二待检测设备110、第三待检测设备111、第四待检测设备112、第五待检测设备113和第六待检测设备114的卫星导航监测数据均能进行解码后得到相应的检测结果,即本申请能提供不同产品类型的待检测设备的检测结果。

其中,采用如上以二进制单字节数据读取方式的主要目的是兼容处理多个类型数据融合的数据,且对不同类型的数据进行分离处理,其中不同类型的数据可理解为:包括ascii编码方式的nmea0183协议数据以及十六进制编码的接收机自定义数据等。

较优地,在上述技术方案中,还包括:所述数据分析处理单元105对每个所述卫星导航解码数据中读取卫星导航的各项指标的监测数据,判断所述的各项指标的监测数据是否在所述的各项指标所对应的标准数据范围内,若不是,则判定所述监测数据存在数据异常bug,并从预处理方案库中调用与每个所述数据异常bug所述相应的预处理方案进行处理,具体地:

各项指标的标准数据范围可预存在数据存储处理服务器101中,或通过初始信息配置单元100将各项指标的标准数据范围配置在数据存储处理服务器101中,以第一待检测设备109为例进行分析,那么:

卫星导航监测数据包括冷启动首次定位时间ttff,假设设置检测环境为开阔环境时,以第一待检测设备109进行冷启动首次定位时间ttff(ttff为timetofirstfix的简写)为指标,检测次数为10次,得到每次冷启动首次定位时间ttff以及有效定位率,且有效定位率也是指标;冷启动首次定位时间ttff的标准数据范围为小于35秒,有效定位率的标准数据为100%;

若在10次检测中,冷启动首次定位时间ttff大于35秒,或有效定位率未达到100%时,则可识别出存在ttff数据异常bug,也就是确定了数据异常bug的位置,然后对该ttff数据异常bug进行进一步分析,具体地:

若预处理方案库中保存有ttff数据异常bug的处理方案,假设该处理方案要求调用另外的“××”监测数据,则读取该“××”监测数据向第一待检测设备109的管理者进行反馈,管理者收到该反馈后,针对ttff数据异常bug进行更详细地分析排查,也可将该ttff数据异常bug的时间点等相关内容进行记录,由此提高了识别数据异常bug的智能性,对于其它指标可参考上述内容,在此不做赘述。

较优地,在上述技术方案中,还包括:所述数据分析处理单元105还统计每个所述待检测设备的测试信息和每个所述指标的误差信息,所述测试信息包括测试时长、历元数、定位卫星数量、定位比例和解定位比例,所述误差信息包括有效定位率、水平误差和法向误差。

其中,定位比例包括rtd差分定位比例,水平误差包括水平误差rms、水平误差cep50、水平误差cep95、水平误差cep99、水平最大误差和水平最小误差;法向误差包括法向误差rms、法向误差cep50、法向误差cep95、法向误差cep99、法向最大误差和法向最小误差,通过时间转换、坐标转换、方差计算等技术可得到上述测试信息和误差信息,且时间转换、坐标转换、方差计算等技术为常规技术,在此不做赘述。

以第一待检测设备109为例,其测试信息和每个所述指标的误差信息如下表1所示:

表1:

较优地,在上述技术方案中,所述全自动化处理模块102还包括数据标记建设单元106;所述数据标记建设单元106统计每个所述卫星导航监测数据的名称、检测时间、文件大小、相应的产品类型以及在所述数据存储处理服务器101的存储位置。以第一待检测设备109为例进行阐述,具体地:

目前,卫星导航数据分析处理的问题还数据异常bug智能识别问题:传统的数据处理软件重点针对待检测设备的位置信息、速度信息、方向信息进行分析、统计,在待检测设备出现问题时,只能通过人工的方式对所采集到的原始的卫星导航数据进行查看、分析,导致分析效率低下;

所述数据标记建设单元106统计第一待检测设备109及其所采集的第一卫星导航监测数据的属性,具体包括:第一卫星导航监测数据的文件名称、检测时间如2020年01月01日等、相应的产品类型即普通产品以及在所述数据存储处理服务器101的存储位置,将该属性存入到数据存储处理服务器101中预存的属性数据库,类似地,将其它待检测设备及其所采集的卫星导航监测数据的属性也存入属性数据库中,并将所有属性向管理者进行反馈,以便管理者将来在进行数据回溯和查询时,能够快速访问。

较优地,在上述技术方案中,所述全自动化处理模块102还包括数据报表自动生成单元107和报表邮件自动发送单元108;

所述数据报表自动生成单元107根据所述数据分析处理单元105和所述数据标记建设单元106输出的信息生成与每个所述待检测设备相应的检测报表即检测结果;

所述初始信息中包括发件箱和每个所述待检测设备的管理者的收件箱,所述报表邮件自动发送单元108将每个所述检测报表自动发送至相应的管理者,以第一待检测设备109为例进行阐述,具体地:

第一待检测设备109的检测报表中包括:测试时长、历元数、定位卫星数量、rtd差分定位比例、解定位比例、有效定位率、水平误差rms、水平误差cep50、水平误差cep95、水平误差cep99、水平最大误差和水平最小误差、法向误差rms、法向误差cep50、法向误差cep95、法向误差cep99、法向最大误差和法向最小误差,第一卫星导航监测数据的文件名称、检测时间如2020年01月01日等、相应的产品类型即普通产品以及在所述数据存储处理服务器101的存储位置等数据,并将该检测报表通过邮件发送至第一待检测设备109的管理者,具体地:

邮件主题可按照yyyymmdd_testreport格式设置,邮件内容以第一待检测设备109的检测报表作为附件或直接作为邮件正文,发件邮件可为检测人员的邮件,也可固定设置一个发件邮箱。

较优地,在上述技术方案中,,还包括:所述报表邮件自动发送单元108根据每个所述检测报表中存在所述数据异常bug的数量和/或每个所述数据异常bug的严重程度来设置不同的提醒等级,具体地:

1)根据每个所述检测报表中存在所述数据异常bug的数量来设置不同的提醒等级时,具体地:

可设置在一次测试中,数据异常bug的数量小于10个时,则为第三提醒等级,可将邮件内容中附加“数据异常bug数量小于10个”等字样;

数据异常bug的数量大于10且小于30个时,则为第二提醒等级,可将邮件内容中附加“数据异常bug数量大于10且小于30个”等字样;

数据异常bug的数量大于30个时,则为第一提醒等级,可将邮件内容中附加“数据异常bug数量大于30个,优先查看”等字样,也可通过加大字体或加粗字体等方式来提醒管理者进行优先查看;

2)根据每个所述检测报表中的每个所述数据异常bug的严重程度来设置不同的提醒等级,具体地:

可设置在一次测试中,任一数据异常bug阻碍待检测设备的开发和导致测试无法继续进行的,其严重程度为非常严重,也可记为致命程度,则为第一提醒等级,可将邮件内容中附加“存在非常严重或致命的数据异常bug,优先查看”等字样,也可通过加大字体或加粗字体等方式来提醒管理者进行优先查看;

所有的数据异常bug虽然影响待检测设备的功能或操作,即待检测设备的主要功能存在严重缺陷,但不会影响其稳定性,其严重程度为严重,则为第二提醒等级,也可记为严重等级,可将邮件内容中附加“存在严重的数据异常bug”等字样;

所有的数据异常bug只影响到待检测设备的界面,对其性能、功能影响较小,其严重程度为一般,则为第三提醒等级,可将邮件内容中附加“存在一般的数据异常bug”等字样;

所有的数据异常bug未待检测设备产生影响,只向待检测设备的管理者提出易用性及建议性问题,其严重程度为建议,则为第四提醒等级,可将邮件内容中附加“建议管理者进行某某处理”等字样。

3)根据每个所述检测报表中存在所述数据异常bug的数量和每个所述数据异常bug的严重程度来设置不同的提醒等级,详细地:

当存在任一数据异常bug为致命程度,则为第一提醒等级,可将邮件内容中附加“存在非常严重或致命的数据异常bug,优先查看”等字样,也可通过加大字体或加粗字体等方式来提醒管理者进行优先查看;

当不存在数据异常bug为致命程度,可参考上述方式,通过数据异常bug数量的多少再进行等级分配。

较优地,在上述技术方案中,所述数据存储处理服务器101还包括显示器,所述初始信息配置单元100通过所述显示器在所述数据存储处理服务器101中配置出每个所述待检测设备的初始信息,更便于检测人员进行操作。

再另外一个实施例中,将本申请的一种卫星导航海量数据自动化分析及bug智能识别系统在gnss卫星导航模块车载前装项目中进行使用,其原因是车载前装项目对于产品的设计、测试、可靠性以及产品质量提出了更高的要求,因此针对该项目就增加了大量的内场、外场测试用例和测试样本,造成的数据量极大,同时项目时间紧急对于产品性能的分析也提出了快速、准确、高效的要求,具体地:

首先,采用本申请的一种卫星导航海量数据自动化分析及bug智能识别系统与传统人工对比验证的方式,经过约一个月时间的测试验证,本申请在数据的处理效率方面较人工方式提高12倍,累计处理数据量120gb,单天处理数据量约4g,本申请处理时间不到5分钟,人工处理时间则超过1小时。

且本申请在bug识别方面的准确率和效率较人工方式均有明显的改善,bug识别的准确率与人工处理对于bug的识别相当,但是在效率方面,则较人工方式提高10倍以上。在本实施例中,对于一个月的数据处理中,系统识别数据异常bug为36个,其中为严重程度的数据异常bug的数量有6个,为一般程度的数据异常bug的数量有24个,建议程度的数据异常bug的数量有6个。

通过将该发明在车载前装项目具体实施与测试验证,证明了该系统在数据处理效率,bug识别等方面的优势,目前已有多个项目应用该发明,极大地节省了验证成本,并提高测试效率和bug识别的效率和准确率。

本申请的一种卫星导航海量数据自动化分析及bug智能识别系统将极大地提高卫星导航测试工作数据分析效率的同时,其中的bug识别可协助在算法开发的过程中能快速有效地识别设计缺陷。具体如下:

1)市场上卫星导航数据处理工具或软件以及其它系统针对卫星导航海量数据的处理效率低下,兼容性不够,人工干预多、数据回溯查询不便等问题,采用本申请后,通过高效的数据存储处理服务器101的硬件资源、数据存储阶段的数据分段存储技术即预设存储方式,数据预处理单元采用快速数据浏览,关键要素识别等技术对各卫星导航数据进行归纳分组,并针对每一子组中的各个卫星导航数据并行运行数据分析处理单元,其运行效率在传统数据分析即人工方式的效率的10倍以上;

2)通过本申请中的异常数据bug识别,在进行卫星航海数据分析时,加载配置文件中的配置参数,配置参数具体为:针对不同产品类型的异常配置均进行设置,可有效协助在算法开发过程中能快速识别产品的设计缺陷,目前该系统自运行以来,针对授时产品、惯导产品、高精度产品的测试异常判断较人工分析多提出了近100条bug上报,且经研发人员分析,上报的异常数据bug的正确率达95%以上。

3)本申请采用充分调用数据库的索引技术即数据标记建设单元106,在卫星导航数据存储、异常数据bug定位实现卫星导航数据数据回溯便利性,相比传统测试人员发现异常数据bug然后提供测试数据即采集的卫星导航数据的方式,本申请中的卫星导航数据的回溯再分析效率提高了3倍以上。

如图2所示,本发明实施例的一种卫星导航海量数据自动化分析及bug智能识别方法,包括如下步骤:

s1、根据所连接的多个不同产品类型的待检测设备在所述数据存储处理服务器中配置出相应的初始信息;

s2、在检测过程中,使每个所述待检测设备分别将所采集到的不同数据格式的卫星导航监测数据按照相应的初始信息发送至所述存储处理服务器进行存储;

s3、对每个所述卫星导航监测数据进行解码和bug分析后得到相应的检测结果,并将所有的所述检测结果按照相应所述初始信息向每个所述待检测设备的管理者进行反馈。

当多个待检测设备同时进行检测时,对每个待检测设备所采集的卫星导航监测数据进行解码和bug分析后得到相应的检测结果,并将所有的所述检测结果按照相应所述初始信息向相应的管理者进行反馈。由此实现一种对不同产品类型及采用不同数据格式的待检测设备同时进行检测且能自动识别出卫星导航数据中的数据异常bug的智能化和自动化的方法。

较优地,在上述技术方案中,还包括如下步骤:

以预设命名规范对每个所述卫星导航监测数据进行命名并按照预设存储方式进行存储;

还探测所述存储处理服务器的剩余磁盘空间,若剩余磁盘空间小于预设门限,则发出剩余磁盘空间不足的报警信息。

较优地,在上述技术方案中,还包括如下步骤:

识别每个所述卫星导航监测数据的数据格式,并将同一数据格式的卫星导航监测数据归于同一分组,并对各所述分组进行标记;

还识别每个所述分组中的每个卫星导航监测数据所对应的不同产品类型,将同一产品类型的卫星导航监测数据归于相应的分组的子组,并对各子组进行标记。

较优地,在上述技术方案中,还包括如下步骤:

以二进制单字节数据读取方式来并行读取每个所述子组中所对应的卫星导航监测数据,并利用与其相应的数据格式的编码方式对每个所述卫星导航监测数据数据进行解码后相应生成的多个卫星导航解码数据,然后再对每个所述卫星导航解码数据进行bug分析。

较优地,在上述技术方案中,还包括如下步骤:

对每个所述卫星导航解码数据中读取卫星导航的各项指标的监测数据,判断所述的各项指标的监测数据是否在所述的各项指标所对应的标准数据范围内,若不是,则判定所述监测数据存在数据异常bug,并从预处理方案库中调用与每个所述数据异常bug所述相应的预处理方案进行处理。

较优地,在上述技术方案中,还包括如下步骤:

统计每个所述待检测设备的测试信息和每个所述指标的误差信息,所述测试信息包括测试时长、历元数、定位卫星数量、定位比例和解定位比例,所述误差信息包括有效定位率、水平误差和法向误差。

较优地,在上述技术方案中,还包括如下步骤:

统计每个所述卫星导航监测数据的名称、检测时间、文件大小、相应的产品类型以及在所述数据存储处理服务器的存储位置。

较优地,在上述技术方案中,还包括如下步骤:

根据每个所述待检测设备的测试信息、每个所述指标的误差信息和数据异常bug,生成与每个所述待检测设备相应的检测报表即检测结果。

较优地,在上述技术方案中,还包括如下步骤:

所述初始信息中包括发件箱和每个所述待检测设备的管理者的收件箱,将每个所述检测报表自动通过邮件发送至相应的管理者。

较优地,在上述技术方案中,还包括如下步骤:

根据每个所述检测报表中存在所述数据异常bug的数量和/或每个所述数据异常bug的严重程度来设置不同的提醒等级。

较优地,在上述技术方案中,还包括如下步骤:所述数据存储处理服务器还包括显示器,通过所述显示器在所述数据存储处理服务器中配置出每个所述待检测设备的初始信息。

上述关于本发明的一种卫星导航海量数据自动化分析及bug智能识别方法中的实现相应功能的步骤,可参考上文中关于一种卫星导航海量数据自动化分析及bug智能识别系统的实施例中的各参数、模块及单元,在此不做赘述。

在本发明中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。

在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。


技术特征:

1.一种卫星导航海量数据自动化分析及bug智能识别系统,其特征在于,包括初始信息配置单元、数据存储处理服务器以及在所述数据存储处理服务器中运行的全自动化处理模块;

所述初始信息配置单元根据所连接的多个不同产品类型的待检测设备在所述数据存储处理服务器中配置出相应的初始信息;

在检测过程中,每个所述待检测设备分别将所采集到的不同数据格式的卫星导航监测数据按照相应的初始信息发送至所述存储处理服务器进行存储;

所述全自动化处理模块对每个所述卫星导航监测数据进行解码和bug分析后得到相应的检测结果,并将所有的所述检测结果按照相应所述初始信息向每个所述待检测设备的管理者进行反馈。

2.根据权利要求1所述的一种卫星导航海量数据自动化分析及bug智能识别系统,其特征在于,所述全自动化处理模块包括数据存储单元;

所述数据存储单元以预设命名规范对每个所述卫星导航监测数据进行命名并按照预设存储方式进行存储;

所述数据存储单元还探测所述存储处理服务器的剩余磁盘空间,若剩余磁盘空间小于预设门限,则发出剩余磁盘空间不足的报警信息。

3.根据权利要求2所述的一种卫星导航海量数据自动化分析及bug智能识别系统,其特征在于,所述全自动化处理模块还包括数据预处理单元;

所述数据预处理单元识别每个所述卫星导航监测数据的数据格式,并将同一数据格式的卫星导航监测数据归于同一分组,并对各所述分组进行标记;

所述数据预处理单元还识别每个所述分组中的每个卫星导航监测数据所对应的不同产品类型,将同一产品类型的卫星导航监测数据归于相应的分组的子组,并对各子组进行标记。

4.根据权利要求3所述的一种卫星导航海量数据自动化分析及bug智能识别系统,其特征在于,所述全自动化处理模块还包括数据分析处理单元;

所述数据分析处理单元以二进制单字节数据读取方式来并行读取每个所述子组中所对应的卫星导航监测数据,并利用与其相应的数据格式的编码方式对每个所述卫星导航监测数据数据进行解码后相应生成的多个卫星导航解码数据,然后再对每个所述卫星导航解码数据进行bug分析。

5.根据权利要求4所述的一种卫星导航海量数据自动化分析及bug智能识别系统,其特征在于,还包括:所述数据分析处理单元对每个所述卫星导航解码数据中读取卫星导航的各项指标的监测数据,判断所述的各项指标的监测数据是否在所述的各项指标所对应的标准数据范围内,若不是,则判定所述监测数据存在数据异常bug,并从预处理方案库中调用与每个所述数据异常bug所述相应的预处理方案进行处理。

6.根据权利要求5所述的一种卫星导航海量数据自动化分析及bug智能识别系统,其特征在于,还包括:所述数据分析处理单元还统计每个所述待检测设备的测试信息和每个所述指标的误差信息,所述测试信息包括测试时长、历元数、定位卫星数量、定位比例和解定位比例,所述误差信息包括有效定位率、水平误差和法向误差。

7.根据权利要求6所述的一种卫星导航海量数据自动化分析及bug智能识别系统,其特征在于,所述全自动化处理模块还包括数据标记建设单元;

所述数据标记建设单元统计每个所述卫星导航监测数据的名称、检测时间、文件大小、相应的产品类型以及在所述数据存储处理服务器的存储位置。

8.根据权利要求7所述的一种卫星导航海量数据自动化分析及bug智能识别系统,其特征在于,所述全自动化处理模块还包括数据报表自动生成单元和报表邮件自动发送单元;

所述数据报表自动生成单元根据所述数据分析处理单元和所述数据标记建设单元输出的信息生成与每个所述待检测设备相应的检测报表即检测结果;

所述初始信息中包括发件箱和每个所述待检测设备的管理者的收件箱,所述报表邮件自动发送单元将每个所述检测报表自动发送至相应的管理者。

9.根据权利要求7所述的一种卫星导航海量数据自动化分析及bug智能识别系统,其特征在于,还包括:所述报表邮件自动发送单元根据每个所述检测报表中存在所述数据异常bug的数量和/或每个所述数据异常bug的严重程度来设置不同的提醒等级。

10.根据权利要求1至9中任一项所述的一种卫星导航海量数据自动化分析及bug智能识别系统,其特征在于,所述数据存储处理服务器还包括显示器,所述初始信息配置单元通过所述显示器在所述数据存储处理服务器中配置出每个所述待检测设备的初始信息。

技术总结
本发明涉及一种卫星导航海量数据自动化分析及BUG智能识别系统,包括初始信息配置单元、数据存储处理服务器以及在所述数据存储处理服务器中运行的全自动化处理模块,当多个待检测设备同时进行检测时,通过全自动化处理模块对每个待检测设备所采集的卫星导航监测数据进行解码和BUG分析后得到相应的检测结果,并将所有的所述检测结果按照相应所述初始信息向相应的管理者进行反馈。由此实现一种对不同产品类型及采用不同数据格式的待检测设备同时进行检测且能自动识别出卫星导航数据中的数据异常BUG的智能化和自动化的系统。

技术研发人员:段维波;付可;续子伯;陈振阳;刘亮;胡艳;郭斌
受保护的技术使用者:武汉梦芯科技有限公司
技术研发日:2020.01.15
技术公布日:2020.06.05

转载请注明原文地址: https://bbs.8miu.com/read-51047.html

最新回复(0)