本发明涉及数据处理领域,更具体地,特别是指一种整理硬盘性能数据的方法、系统、计算机设备及可读介质。
背景技术:
硬盘是服务器必需的“三大件”之一,按接口分类有ide、sata、scsi、m2-sata、m2-nvme和sas七种类型。不同的接口类型有不同的协议支持,其传输速率也不相同。所以对服务器的硬盘进行性能测试是必不可少的一项工作。在linux系统下测试完硬盘性能后其数据通常杂乱无章,通过肉眼筛选数据、比对数据是一项繁琐、且非常容易出错的工作。因此,在linux系统下如何对硬盘性能测试后的数据进行自动化整理是测试人员急需解决的问题。
技术实现要素:
有鉴于此,本发明实施例的目的在于提出一种整理硬盘性能数据的方法、系统、计算机设备及计算机可读存储介质,通过将硬盘性能数据自动进行整理,并实现自动判断数据是否合格,将合格数据与不合格数据分离,大大提高了数据整理的工作效率。
基于上述目的,本发明实施例的一方面提供了一种整理硬盘性能数据的方法,包括如下步骤:获取原始数据,并对所述原始数据进行最小化处理;获取最小化处理后的数据中多个对应位置的数据,并将获取到的所述数据和对应的队列深度建立关联;将所述队列深度从小到大进行排列,并依次判断当前队列深度对应的数据中的性能数据是否大于所有排在前面的队列深度对应的数据中的性能数据;以及响应于当前队列深度对应的数据中的性能数据不大于所有排在前面的队列深度对应的数据中的性能数据,对所述当前队列深度对应的数据中的性能数据设置标记符。
在一些实施方式中,所述对所述当前队列深度对应的数据中的性能数据设置标记符还包括:根据所述性能数据是否存在标记符将所述性能数据分开存储。
在一些实施方式中,所述对所述原始数据进行最小化处理包括:删除所述原始数据中的空格,并在所述原始数据的每两个数据之间设置分隔符。
在一些实施方式中,所述获取最小化处理后的数据中多个对应位置的数据包括:基于所述分隔符确定待获取的数据的对应位置。
本发明实施例的另一方面,还提供了一种整理硬盘性能数据的系统,包括:第一获取模块,配置用于获取原始数据,并对所述原始数据进行最小化处理;第二获取模块,配置用于获取最小化处理后的数据中多个对应位置的数据,并将获取到的所述数据和对应的队列深度建立关联;判断模块,配置用于将队列深度从小到大进行排列,并依次判断当前队列深度对应的数据中的性能数据是否大于所有排在前面的队列深度对应的数据中的性能数据;以及标记模块,配置用于响应于当前队列深度对应的数据中的性能数据不大于所有排在前面的队列深度对应的数据中的性能数据,对所述当前队列深度对应的数据中的性能数据设置标记符。
在一些实施方式中,所述标记模块还配置用于:根据所述性能数据是否存在标记符将所述性能数据分开存储。
在一些实施方式中,所述对所述原始数据进行最小化处理包括:删除所述原始数据中的空格,并在所述原始数据的每两个数据之间设置分隔符。
在一些实施方式中,所述获取最小化处理后的数据中多个对应位置的数据包括:基于所述分隔符确定待获取的数据的对应位置。
本发明实施例的又一方面,还提供了一种计算机设备,包括:至少一个处理器;以及存储器,所述存储器存储有可在所述处理器上运行的计算机指令,所述指令由所述处理器执行时实现如上方法的步骤。
本发明实施例的再一方面,还提供了一种计算机可读存储介质,计算机可读存储介质存储有被处理器执行时实现如上方法步骤的计算机程序。
本发明具有以下有益技术效果:通过将硬盘性能数据自动进行整理,并实现自动判断数据是否合格,将合格数据与不合格数据分离,大大提高了数据整理的工作效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的实施例。
图1为本发明提供的整理硬盘性能数据的方法的实施例的示意图;
图2为本发明实施例的原始数据的示意图;
图3为本发明实施例最小化处理后的数据示意图;
图4为本发明实施例数据排列的示意图;
图5为本发明提供的整理硬盘性能数据的方法的实施例的硬件结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明实施例进一步详细说明。
需要说明的是,本发明实施例中所有使用“第一”和“第二”的表述均是为了区分两个相同名称非相同的实体或者非相同的参量,可见“第一”“第二”仅为了表述的方便,不应理解为对本发明实施例的限定,后续实施例对此不再一一说明。
基于上述目的,本发明实施例的第一个方面,提出了一种整理硬盘性能数据的方法的实施例。图1示出的是本发明提供的整理硬盘性能数据的方法的实施例的示意图。如图1所示,本发明实施例包括如下步骤:
s1、获取原始数据,并对原始数据进行最小化处理;
s2、获取最小化处理后的数据中多个对应位置的数据,并将获取到的所述数据和对应的队列深度建立关联;
s3、将队列深度从小到大进行排列,并依次判断当前队列深度对应的数据中的性能数据是否大于所有排在前面的队列深度对应的数据中的性能数据;以及
s4、响应于当前队列深度对应的数据中的性能数据不大于所有排在前面的队列深度对应的数据中的性能数据,对所述当前队列深度对应的数据中的性能数据设置标记符。
图2为本发明实施例的原始数据的示意图。图2是当bs(blocksize,单次读写的块文件大小)=4kb、rw(readwrite,读写)=write和qd(queuedepth,队列深度)=1时的原始数据,带框的数据是需要筛选的,由此可见,通过肉眼从原始数据中筛选数据相当困难,而对于实际工作中的硬盘性能测试,bs通常会设置4k、8k、16k、32k、64k、128k、256k、512k、1024k,qd通常会设置1、2、4、8、16、32、64、128,rw也会有read(读)、write(写)、randwrite(随机写)、randread(随机读)、randrw(读写混合),综合了如此多参数的原始数据用肉眼观察筛选数据是几乎是不可能完成的任务。
本发明实施例利用原始数据格式统一、分隔符统一等特点,通过调整fio工具参数,利用代码将原始数据中有用的值自动筛选出来并整理成表格,更进一步的,在表格基础上通过标记的方式将性能不合格的数据做标记,并以有无此标记作为判断硬盘性能pass(合格)/fail(不合格)标准。
获取原始数据,并对原始数据进行最小化处理。在一些实施方式中,所述对所述原始数据进行最小化处理包括:删除所述原始数据中的空格,并在所述原始数据的每两个数据之间设置分隔符。这一步主要是将原始数据最小化处理,不留多余的空格,空行以及多余的文字,只留下最基本的数据,然后将所有数据用统一分隔符分隔保存在一个文档中。本发明实施例采用分号作为分隔符,在其他的实施例中可以采用其他的分隔符。
获取最小化处理后的数据中多个对应位置的数据,并将获取到的所述数据和对应的队列深度建立关联。所述获取最小化处理后的数据中多个对应位置的数据包括:基于所述分隔符确定待获取的数据的对应位置。在上一步骤形成的文件中,由于有了统一的分隔符,每一个数据已经有了固定位置,筛选需要的数据就容易多了。图3为本发明实施例最小化处理后的数据示意图。图3展示了bs为4kb,rw为wr,qd为1和2情况下的两份数据,分析原始数据可以得知,在原始数据qd=1中对应的write的bw(带宽)为184767,其是第47个逗号之后的第一个数据,latency(延迟)为15.534886,是qd=1的数据的第57个逗号后的第一个数据,qos(us)99%为18,是qd=1的数据的第71个逗号后的第一个数据,qos(us)99_9%为19,是qd=1的数据第73个逗号之后的第一个数据,qos(us)99_99%为21,是qd=1的数据第75个逗号之后的第一个数据。利用位置的固定性可以实现数据的筛选并将其收集到单独的表格中。将每个队列深度对应的数据与该队列深度建立关联,以使得队列深度从小到大进行排列的同时可以将队列深度对应的数据进行对应排列。
将队列深度从小到大进行排列,并依次判断当前队列深度对应的数据中的性能数据是否大于所有排在前面的队列深度对应的数据中的性能数据。图4为本发明实施例数据排列的示意图。第f2至j2数据已根据图3做出详细解释,f3至j9数据与f2至j2数据同理。a至e列为固定列,其中4kb对应a列数据,seq对应b列数据,wr对应c列数据,1job对应d列数据,队列深度对应e列数据。f列为性能数据,数据合格的标准是,随着e列qd的增加,f列性能值应逐渐增加。如果存在排在前面的性能数据大于当前性能数据,则说明当前性能数据不合格。例如,图4中第7行qd32对应的性能数据1048331小于第6行qd16对应的性能数据1100428,因此,qd32对应的性能数据为不合格数据。
响应于当前队列深度对应的数据中的性能数据不大于所有排在前面的队列深度对应的数据中的性能数据,对所述当前队列深度对应的数据中的性能数据设置标记符。本实施例中的标记符可以是“*”,在其他实施例中?!#¥等等均可以作为标记符。
在一些实施方式中,所述对所述当前队列深度对应的数据中的性能数据设置标记符还包括:根据所述性能数据是否存在标记符将所述性能数据分开存储。可以将没有“*”的数据表格统一放在pass文件夹下,将含有“*”数据放在fail的文件夹下。
需要特别指出的是,上述整理硬盘性能数据的方法的各个实施例中的各个步骤均可以相互交叉、替换、增加、删减,因此,这些合理的排列组合变换之于整理硬盘性能数据的方法也应当属于本发明的保护范围,并且不应将本发明的保护范围局限在实施例之上。
基于上述目的,本发明实施例的第二个方面,提出了一种整理硬盘性能数据的系统,包括:第一获取模块,配置用于获取原始数据,并对所述原始数据进行最小化处理;第二获取模块,配置用于获取最小化处理后的数据中多个对应位置的数据,并将获取到的所述数据和对应的队列深度建立关联;判断模块,配置用于将队列深度从小到大进行排列,并依次判断当前队列深度对应的数据中的性能数据是否大于所有排在前面的队列深度对应的数据中的性能数据;以及标记模块,配置用于响应于当前队列深度对应的数据中的性能数据不大于所有排在前面的队列深度对应的数据中的性能数据,对所述当前队列深度对应的数据中的性能数据设置标记符。
在一些实施方式中,所述标记模块还配置用于:根据所述性能数据是否存在标记符将所述性能数据分开存储。
在一些实施方式中,所述对所述原始数据进行最小化处理包括:删除所述原始数据中的空格,并在所述原始数据的每两个数据之间设置分隔符。
在一些实施方式中,所述获取最小化处理后的数据中多个对应位置的数据包括:基于所述分隔符确定待获取的数据的对应位置。
基于上述目的,本发明实施例的第三个方面,提出了一种计算机设备,包括:至少一个处理器;以及存储器,存储器存储有可在处理器上运行的计算机指令,指令由处理器执行以实现如下步骤:s1、获取原始数据,并对原始数据进行最小化处理;s2、获取最小化处理后的数据中多个对应位置的数据,并将获取到的所述数据和对应的队列深度建立关联;s3、将队列深度从小到大进行排列,并依次判断当前队列深度对应的数据中的性能数据是否大于所有排在前面的队列深度对应的数据中的性能数据;以及s4、响应于当前队列深度对应的数据中的性能数据不大于所有排在前面的队列深度对应的数据中的性能数据,对所述当前队列深度对应的数据中的性能数据设置标记符。
在一些实施方式中,所述对所述当前队列深度对应的数据中的性能数据设置标记符还包括:根据所述性能数据是否存在标记符将所述性能数据分开存储。
在一些实施方式中,所述对所述原始数据进行最小化处理包括:删除所述原始数据中的空格,并在所述原始数据的每两个数据之间设置分隔符。
在一些实施方式中,所述获取最小化处理后的数据中多个对应位置的数据包括:基于所述分隔符确定待获取的数据的对应位置。
如图5所示,为本发明提供的上述整理硬盘性能数据的方法的一个实施例的硬件结构示意图。
以如图5所示的装置为例,在该装置中包括一个处理器301以及一个存储器302,并还可以包括:输入装置303和输出装置304。
处理器301、存储器302、输入装置303和输出装置304可以通过总线或者其他方式连接,图5中以通过总线连接为例。
存储器302作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块,如本申请实施例中的整理硬盘性能数据的方法对应的程序指令/模块。处理器301通过运行存储在存储器302中的非易失性软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例的整理硬盘性能数据的方法。
存储器302可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据整理硬盘性能数据的方法的使用所创建的数据等。此外,存储器302可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,存储器302可选包括相对于处理器301远程设置的存储器,这些远程存储器可以通过网络连接至本地模块。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入装置303可接收输入的用户名和密码等信息。输出装置304可包括显示屏等显示设备。
一个或者多个整理硬盘性能数据的方法对应的程序指令/模块存储在存储器302中,当被处理器301执行时,执行上述任意方法实施例中的整理硬盘性能数据的方法。
执行上述整理硬盘性能数据的方法的计算机设备的任何一个实施例,可以达到与之对应的前述任意方法实施例相同或者相类似的效果。
本发明还提供了一种计算机可读存储介质,计算机可读存储介质存储有被处理器执行时执行如上方法的计算机程序。
最后需要说明的是,本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关硬件来完成,整理硬盘性能数据的方法的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,程序的存储介质可为磁碟、光盘、只读存储记忆体(rom)或随机存储记忆体(ram)等。上述计算机程序的实施例,可以达到与之对应的前述任意方法实施例相同或者相类似的效果。
此外,根据本发明实施例公开的方法还可以被实现为由处理器执行的计算机程序,该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被处理器执行时,执行本发明实施例公开的方法中限定的上述功能。
此外,上述方法步骤以及系统单元也可以利用控制器以及用于存储使得控制器实现上述步骤或单元功能的计算机程序的计算机可读存储介质实现。
此外,应该明白的是,本文的计算机可读存储介质(例如,存储器)可以是易失性存储器或非易失性存储器,或者可以包括易失性存储器和非易失性存储器两者。作为例子而非限制性的,非易失性存储器可以包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦写可编程rom(eeprom)或快闪存储器。易失性存储器可以包括随机存取存储器(ram),该ram可以充当外部高速缓存存储器。作为例子而非限制性的,ram可以以多种形式获得,比如同步ram(dram)、动态ram(dram)、同步dram(sdram)、双数据速率sdram(ddrsdram)、增强sdram(esdram)、同步链路dram(sldram)、以及直接rambusram(drram)。所公开的方面的存储设备意在包括但不限于这些和其它合适类型的存储器。
本领域技术人员还将明白的是,结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性,已经就各种示意性组件、方块、模块、电路和步骤的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个系统的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现的功能,但是这种实现决定不应被解释为导致脱离本发明实施例公开的范围。
结合这里的公开所描述的各种示例性逻辑块、模块和电路可以利用被设计成用于执行这里功能的下列部件来实现或执行:通用处理器、数字信号处理器(dsp)、专用集成电路(asic)、现场可编程门阵列(fpga)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件组件或者这些部件的任何组合。通用处理器可以是微处理器,但是可替换地,处理器可以是任何传统处理器、控制器、微控制器或状态机。处理器也可以被实现为计算设备的组合,例如,dsp和微处理器的组合、多个微处理器、一个或多个微处理器结合dsp和/或任何其它这种配置。
结合这里的公开所描述的方法或算法的步骤可以直接包含在硬件中、由处理器执行的软件模块中或这两者的组合中。软件模块可以驻留在ram存储器、快闪存储器、rom存储器、eprom存储器、eeprom存储器、寄存器、硬盘、可移动盘、cd-rom、或本领域已知的任何其它形式的存储介质中。示例性的存储介质被耦合到处理器,使得处理器能够从该存储介质中读取信息或向该存储介质写入信息。在一个替换方案中,存储介质可以与处理器集成在一起。处理器和存储介质可以驻留在asic中。asic可以驻留在用户终端中。在一个替换方案中,处理器和存储介质可以作为分立组件驻留在用户终端中。
在一个或多个示例性设计中,功能可以在硬件、软件、固件或其任意组合中实现。如果在软件中实现,则可以将功能作为一个或多个指令或代码存储在计算机可读介质上或通过计算机可读介质来传送。计算机可读介质包括计算机存储介质和通信介质,该通信介质包括有助于将计算机程序从一个位置传送到另一个位置的任何介质。存储介质可以是能够被通用或专用计算机访问的任何可用介质。作为例子而非限制性的,该计算机可读介质可以包括ram、rom、eeprom、cd-rom或其它光盘存储设备、磁盘存储设备或其它磁性存储设备,或者是可以用于携带或存储形式为指令或数据结构的所需程序代码并且能够被通用或专用计算机或者通用或专用处理器访问的任何其它介质。此外,任何连接都可以适当地称为计算机可读介质。例如,如果使用同轴线缆、光纤线缆、双绞线、数字用户线路(dsl)或诸如红外线、无线电和微波的无线技术来从网站、服务器或其它远程源发送软件,则上述同轴线缆、光纤线缆、双绞线、dsl或诸如红外线、无线电和微波的无线技术均包括在介质的定义。如这里所使用的,磁盘和光盘包括压缩盘(cd)、激光盘、光盘、数字多功能盘(dvd)、软盘、蓝光盘,其中磁盘通常磁性地再现数据,而光盘利用激光光学地再现数据。上述内容的组合也应当包括在计算机可读介质的范围内。
以上是本发明公开的示例性实施例,但是应当注意,在不背离权利要求限定的本发明实施例公开的范围的前提下,可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外,尽管本发明实施例公开的元素可以以个体形式描述或要求,但除非明确限制为单数,也可以理解为多个。
应当理解的是,在本文中使用的,除非上下文清楚地支持例外情况,单数形式“一个”旨在也包括复数形式。还应当理解的是,在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。
上述本发明实施例公开实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
所属领域的普通技术人员应当理解:以上任何实施例的讨论仅为示例性的,并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子;在本发明实施例的思路下,以上实施例或者不同实施例中的技术特征之间也可以进行组合,并存在如上的本发明实施例的不同方面的许多其它变化,为了简明它们没有在细节中提供。因此,凡在本发明实施例的精神和原则之内,所做的任何省略、修改、等同替换、改进等,均应包含在本发明实施例的保护范围之内。
1.一种整理硬盘性能数据的方法,其特征在于,包括如下步骤:
获取原始数据,并对所述原始数据进行最小化处理;
获取最小化处理后的数据中多个对应位置的数据,并将获取到的所述数据和对应的队列深度建立关联;
将所述队列深度从小到大进行排列,并依次判断当前队列深度对应的数据中的性能数据是否大于所有排在前面的队列深度对应的数据中的性能数据;以及
响应于当前队列深度对应的数据中的性能数据不大于所有排在前面的队列深度对应的数据中的性能数据,对所述当前队列深度对应的数据中的性能数据设置标记符。
2.根据权利要求1所述的方法,其特征在于,所述对所述当前队列深度对应的数据中的性能数据设置标记符还包括:
根据所述性能数据是否存在标记符将所述性能数据分开存储。
3.根据权利要求1所述的方法,其特征在于,所述对所述原始数据进行最小化处理包括:
删除所述原始数据中的空格,并在所述原始数据的每两个数据之间设置分隔符。
4.根据权利要求3所述的方法,其特征在于,所述获取最小化处理后的数据中多个对应位置的数据包括:
基于所述分隔符确定待获取的数据的对应位置。
5.一种整理硬盘性能数据的系统,其特征在于,包括:
第一获取模块,配置用于获取原始数据,并对所述原始数据进行最小化处理;
第二获取模块,配置用于获取最小化处理后的数据中多个对应位置的数据,并将获取到的所述数据和对应的队列深度建立关联;
判断模块,配置用于将队列深度从小到大进行排列,并依次判断当前队列深度对应的数据中的性能数据是否大于所有排在前面的队列深度对应的数据中的性能数据;以及
标记模块,配置用于响应于当前队列深度对应的数据中的性能数据不大于所有排在前面的队列深度对应的数据中的性能数据,对所述当前队列深度对应的数据中的性能数据设置标记符。
6.根据权利要求5所述的系统,其特征在于,所述标记模块还配置用于:
根据所述性能数据是否存在标记符将所述性能数据分开存储。
7.根据权利要求5所述的系统,其特征在于,所述对所述原始数据进行最小化处理包括:
删除所述原始数据中的空格,并在所述原始数据的每两个数据之间设置分隔符。
8.根据权利要求7所述的系统,其特征在于,所述获取最小化处理后的数据中多个对应位置的数据包括:
基于所述分隔符确定待获取的数据的对应位置。
9.一种计算机设备,其特征在于,包括:
至少一个处理器;以及
存储器,所述存储器存储有可在所述处理器上运行的计算机指令,所述指令由所述处理器执行时实现权利要求1-4任意一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-4任意一项所述方法的步骤。
技术总结