本公开的实施例涉及计算机技术领域,具体涉及日志采集方法和装置。
背景技术:
随着云计算与大数据的发展,在日志服务过程中需要实现日志的采集、聚合与传输。现有技术的日志采集过程是启动扫描协程对生成的已匹配的文件列表进行扫描更新,并按文件修改时间遍历文件列表以启动相应文件的采集协程。通过给日志文件设置退出时间,使采集过程每次只启动一个采集协程,实现日志文件有序采集。在采集过程中,扫描协程的扫描间隔影响着采集协程的启动时机,使采集协程的启动间隔得不到保证,同时如果采集协程的退出时间设置小了会出现实时写入的文件反复关闭再打开的情况,如果采集协程的退出时间设置大了则会影响待采集文件间的切换速率,降低日志文件处理的效率。
技术实现要素:
本公开的实施例提出了日志采集方法和装置。
第一方面,本公开的实施例提供了一种日志采集方法,包括:响应于接收到日志采集请求,触发按照第一时间间隔更新采集队列的扫描程序和如下的监听程序:按照第二时间间隔在采集队列中检测待采集的日志文件,其中,第二时间间隔不同于第一时间间隔;响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件;该方法还包括:读取当前采集日志文件的日志内容。
在一些实施例中,按照第一时间间隔更新采集队列,包括:按照第一时间间隔,获取日志采集请求对应的日志文件;依据日志采集请求对应的日志文件,判断采集队列中是否存在变更;若采集队列中存在变更且变更为采集队列中日志文件偏移量的更新,则更新采集队列中的日志文件的偏移量;若采集队列中存在变更且变更为采集队列中日志文件的增加,则将新增的日志文件存入采集队列队尾。
在一些实施例中,日志采集请求对应的日志文件包括:创建后内容不再变化的日志文件和创建后内容会变化的日志文件。
在一些实施例中,监听程序还包括:监听当前采集日志文件是否停止读取;若当前采集日志文件已停止读取,按照待采集的日志文件在采集队列中的顺序,从采集队列中再次提取日志文件作为当前采集日志文件。
在一些实施例中,读取当前采集日志文件的日志内容,包括:若读取到当前采集日志文件的内容为空,判断当前采集日志文件是否采集完成;若确认当前采集日志文件已采集完成,检查采集队列中是否存在除当前采集日志文件以外的其他待采集的日志文件;若采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,按照设定的退出时间,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除;若采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,在预设的时间范围内循环读取当前采集日志文件,直到采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。
在一些实施例中,在若采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,在预设的时间范围内循环读取当前采集日志文件,直到采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除之后,还包括:若在设定的时间范围内,采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。
在一些实施例中,按照第一时间间隔更新采集队列,还包括:按照第一时间间隔,检查采集队列的队列头是否存在待采集的日志文件,若采集队列头不存在待采集的日志文件,以队列头为起始位置,按采集队列中待采集的日志文件的排列顺序将采集队列中待采集的日志文件存入采集队列。
在一些实施例中,读取当前采集日志文件的日志内容,包括:从提取的当前采集日志文件起始位置逐行读取当前采集日志文件的日志内容。
第二方面,本公开的实施例提供了一种日志采集装置,包括:触发单元、提取单元和采集单元,触发单元,被配置成响应于接收到日志采集请求,触发扫描程序和监听程序;采集单元,被配置成读取当前采集日志文件的日志内容;其中,扫描程序包括:按照第一时间间隔更新采集队列;以及监听程序包括:按照第二时间间隔在采集队列中检测待采集的日志文件,其中,第二时间间隔不同于第一时间间隔;响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件。
在一些实施例中,触发单元包括:获取模块,被配置成按照第一时间间隔,获取日志采集请求对应的日志文件;更新模块,被配置成依据日志采集请求对应的日志文件,判断采集队列中是否存在变更;若采集队列中存在变更且变更为采集队列中日志文件偏移量的更新,则更新采集队列中的日志文件的偏移量;若采集队列中存在变更且变更为采集队列中日志文件的增加,则将新增的日志文件存入采集队列队尾。
在一些实施例中,日志采集请求对应的日志文件包括:创建后内容不再变化的日志文件和创建后内容会变化的日志文件。
在一些实施例中,触发单元包括:监听模块,被配置成监听当前采集日志文件是否停止读取,若当前采集日志文件已停止读取,按照待采集的日志文件在采集队列中的顺序,从采集队列中再次提取日志文件作为当前采集日志文件。
在一些实施例中,采集单元包括:判断模块,被配置成若读取到当前采集日志文件的内容为空,判断当前采集日志文件是否采集完成;检查模块,被配置成若确认当前采集日志文件已采集完成,检查采集队列中是否存在除当前采集日志文件以外的其他待采集的日志文件;退出模块,被配置成若采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,按照设定的退出时间,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除,若采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,在预设的时间范围内循环读取当前采集日志文件,直到采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。
在一些实施例中,退出模块进一步被配置成:若在设定的时间范围内,采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。
在一些实施例中,触发单元还包括:重排模块,被配置成按照第一时间间隔,检查采集队列的队列头是否存在待采集的日志文件,若采集队列头不存在待采集的日志文件,以队列头为起始位置,按采集队列中待采集的日志文件的排列顺序将采集队列中待采集的日志文件存入采集队列。
在一些实施例中,采集单元进一步被配置成:从提取的当前采集日志文件起始位置逐行读取当前采集日志文件的日志内容。
第三方面,本公开的实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面,本公开的实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本公开的实施例提供的日志采集方法和装置,通过触发按照第一时间间隔更新采集队列的扫描程序和监听程序,监听程序按照第二时间间隔在采集队列中检测待采集的日志文件,响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件,利用采集程序读取当前采集日志文件的日志内容,扫描程序和监听程序分开进行且时间间隔不同,使采集队列中待采集的日志文件的写入和读取分工协作,扫描程序的时间间隔不会影响采集程序的启动时机,保证了日志文件的实时采集,实现了日志文件的快速采集工作。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:
图1是本公开的一些实施例可以应用于其中的示例性系统架构图;
图2是根据本公开的日志采集方法的一个实施例的流程图;
图3是根据本公开的实施例的日志采集方法的一个应用场景的示意图;
图4是根据本公开的日志采集方法的另一个实施例的流程图;
图5是根据本公开的日志采集方法的再一个实施例的流程图;
图6是根据本公开的日志采集方法的又一个实施例的流程图;
图7是根据本公开的日志采集装置的一个实施例的结构示意图;
图8是适于用来实现本公开的实施例的电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的实施例的日志采集方法和装置的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103的日志采集请求提供支持的日志采集服务器。日志采集服务器可以对接收到的日志采集请求等数据进行采集,并将采集结果(例如日志采集数据)反馈给终端设备。
需要说明的是,本公开的实施例所提供的日志采集方法可以由终端设备101、102、103执行,也可以由服务器105执行。相应地,日志采集装置可以设置于终端设备101、102、103中,也可以设置于服务器105中。在此不做具体限定。
需要说明的是,服务器可以是硬件,也可以是软件。当服务器为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器为软件时,可以实现成例如用来提供分布式服务的多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本公开的日志采集方法的一个实施例的流程200。该日志采集方法,包括以下步骤:
步骤201,响应于接收到日志采集请求,触发扫描程序和监听程序。
在本实施例中,日志采集方法的执行主体(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式从终端设备接收日志采集请求,当接收到日志采集请求时,触发扫描程序和监听程序。
步骤202,扫描程序按照第一时间间隔更新采集队列。
在本实施例中,扫描程序按照预先设定的第一时间间隔,根据日志采集请求配置一个正则表达式,依据正则表达式进行匹配,获得所需采集的日志文件,将获得的所需采集的日志文件与采集队列中的日志文件进行比对,确定采集队列是否存在变更,若采集队列中存在变更且变更为采集队列中日志文件偏移量的更新,则更新采集队列中的日志文件的偏移量,若采集队列中存在变更且变更为采集队列中日志文件的增加,则将新增的日志文件存入采集队列队尾。
通常,扫描协程每10秒扫描出日志采集请求对应的日志文件,并将日志文件按照日志文件的修改时间依次放入采集队列,确保旧的日志文件在前,新的日志文件在后,采集队列可以刚开始为空。
步骤203,监听程序按照第二时间间隔在采集队列中检测待采集的日志文件。
在本实施例中,监听程序按照第二时间间隔检查采集队列中是否存在待采集的日志文件,其中,第二时间间隔小于第一时间间隔。
步骤204,监听程序响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件。
在本实施例中,监听程序在确定采集队列中存在待采集的日志文件后,从采集队列的队列头开始按采集队列的排列顺序每次提取一个日志文件作为当前采集日志文件。
通常,监听协程按照每5秒检查一次采集队列,确认采集队列中是否有待采集的日志文件存在,待采集的日志文件指采集队列中等待被采集的所有日志文件。
步骤205,读取当前采集日志文件的日志内容。
在本实施例中,上述执行主体可以对每次监听程序提取的当前采集日志文件的日志内容逐条进行读取,其中,每条日志的内容包括:事务标识、每个事务的开始标记、每个事务的结束标记和每个事务的所有更新操作,事务标记表示是哪个事务,更新操作类型包括插入、删除或修改。
通常,上述执行主体可以启动采集协程,采集协程实时采集当前采集日志文件的事务标识、每个事务的开始标记、每个事务的结束标记和每个事务的所有更新操作。
需要说明的是,上述更新方法和检查方法是目前广泛研究和应用的公知技术,在此不再赘述。
继续参见图3,图3是根据本实施例的日志采集方法的应用场景的一个示意图300。当服务器302接收到终端设备301发来的一个日志采集请求数据包303,服务器302触发扫描程序和监听程序,扫描程序执行按照第一时间间隔更新采集队列,监听程序执行按照第二时间间隔检查采集队列中是否存在待采集的日志文件,服务器在确定采集队列中存在待采集的日志文件后,从采集队列的队列头开始按采集队列的排列顺序每次提取一个日志文件作为当前采集日志文件并读取当前采集日志文件的日志内容。
本公开的实施例提供的日志采集方法,通过触发按照第一时间间隔更新采集队列的扫描程序和监听程序,监听程序按照第二时间间隔在采集队列中检测待采集的日志文件,响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件,利用采集程序读取当前采集日志文件的日志内容,扫描程序和监听程序分开进行且时间间隔不同,使采集队列中待采集的日志文件的写入和读取分工协作,扫描程序的时间间隔不会影响采集程序的启动时机,保证了日志文件的实时采集,实现了日志文件的快速采集工作。
进一步参考图4,其示出了日志采集方法的另一个实施例的流程。该监测方法的流程400,包括以下步骤:
步骤401,响应于接收到日志采集请求,触发按照第一时间间隔更新采集队列的扫描程序和如下的监听程序:按照第二时间间隔在采集队列中检测待采集的日志文件,响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件。
在本实施例中,日志采集方法的执行主体(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式从终端设备接收日志采集请求。
当接收到日志采集请求时,触发扫描程序和监听程序,扫描程序执行按照第一时间间隔更新采集队列,监听程序执行按照第二时间间隔检查采集队列中是否存在待采集的日志文件,在确定采集队列中存在待采集的日志文件后,从采集队列的队列头开始按采集队列的排列顺序每次提取一个日志文件作为当前采集日志文件,其中,第二时间间隔不同于第一时间间隔。需要指出的是,上述无线连接方式可以包括但不限于3g/4g/5g连接、wifi连接、蓝牙连接、wimax连接、zigbee连接、uwb(ultrawideband)连接、以及其他现在已知或将来开发的无线连接方式。
在本实施例的一些可选的实现方式中,扫描程序执行的按照第一时间间隔更新采集队列,包括:按照第一时间间隔,获取日志采集请求对应的日志文件,将日志采集请求对应的日志文件与采集队列中的待采集的日志文件进行比对,确认采集队列中是否存在变更,若采集队列中存在变更且变更为采集队列中日志文件偏移量的更新,则更新采集队列中的日志文件的偏移量,若采集队列中存在变更且变更为采集队列中日志文件的增加,则将新增的日志文件存入采集队列队尾。日志采集请求对应的日志文件包括:创建后内容不再变化的日志文件(即经文件轮转后生成的一系列旧的日志文件)和创建后内容会变化的日志文件(即经文件轮转后生成的新的日志文件)。通过仅对变更的日志文件进行更新,避免每次都对扫描到的日志文件进行采集队列的重新更新与排序。通过将轮转生成的旧日志文件和新日志文件同时存入采集队列,实现多种日志文件的采集。
步骤402,读取当前采集日志文件的日志内容。
在本实施例中,步骤402的具体操作与图2所示的实施例中的步骤205的操作基本相同,在此不再赘述。
步骤403,监听当前采集日志文件是否停止读取。
在本实施例中,执行主体通过监听程序执行对当前采集日志文件的读取状态进行监听的工作,确认当前采集日志文件是否停止读取。
步骤404,若当前采集日志文件已停止读取,按照待采集的日志文件在采集队列中的顺序,从采集队列中再次提取日志文件作为当前采集日志文件。
在本实施例中,执行主体若监听到当前采集日志文件已停止读取,按照待采集的日志文件在采集队列中的顺序,从采集队列中再次提取日志文件作为当前采集日志文件。保证了采集过程中每次仅读取一个日志文件。
从图4中可以看出,与图2对应的实施例相比,本实施例中的日志采集方法的流程400通过监听当前采集日志文件是否停止读取,当前采集日志文件已停止读取,按照待采集的日志文件在采集队列中的顺序,从采集队列中再次提取日志文件作为当前采集日志文件,保证了采集过程中仅一个日志文件被读取,实现了日志文件的有序采集。
进一步参考图5,其示出了日志采集方法的再一个实施例的流程。该监测方法的流程500,包括以下步骤:
步骤501,响应于接收到日志采集请求,触发按照第一时间间隔更新采集队列的扫描程序和如下的监听程序:按照第二时间间隔在采集队列中检测待采集的日志文件,响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件。
步骤502,读取当前采集日志文件的日志内容。
在本实施例中,步骤501~502的具体操作与图4所示的实施例中的步骤401~402的操作基本相同,在此不再赘述。
步骤503,若读取到当前采集日志文件的内容为空,判断当前采集日志文件是否采集完成。
在本实施例中,在读取到当前采集日志文件的内容为空时,继续判断当前采集日志文件是否采集完成。例如,执行主体在读取到当前采集日志文件的内容为空时,再次读取当前采集日志文件的日志内容,若两次内容均为空,则判定当前采集日志文件已采集完成。
步骤504,若确认当前采集日志文件已采集完成,检查采集队列中是否存在除当前采集日志文件以外的其他待采集的日志文件。
在本实施例中,若确认当前采集日志文件已采集完成后,触发监听程序,监听程序实时检查采集队列,确认采集队列中是否有待采集的日志文件存在。
步骤505,若采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,按照设定的退出时间,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。
在本实施例中,若采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,证明采集队列还未采集完成,然后按照设定的退出时间(例如10s),停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。通过设定较短的退出时间,使当前采集完成后可以快速开始采集下一个日志文件。
步骤506,若采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,在预设的时间范围内循环读取当前采集日志文件,直到采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。
在本实施例中,若采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,证明采集队列已采集到最后一个日志文件(即有可能会发生变更的日志文件),采集队列已采集完成,然后在预设的时间范围内循环读取当前采集日志文件,直到采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。通过循环读取采集队列中的最后一个待采集的日志文件,使有可能会发生变更的日志文件可以保持较长地等待时间,避免会发生变更的日志文件在退出后又反复打开被采集。
在本实施例的一些可选的实现方式中,在若采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,在预设的时间范围内循环读取当前采集日志文件,直到采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除之后,还包括:若在设定的时间范围内,采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。
从图5中可以看出,与图2对应的实施例相比,本实施例中的日志采集方法的流程500通过检查采集队列中是否存在除当前采集日志文件以外的其他待采集的日志文件来判断采集队列是否采集完成,对于采集队列还未采集完成,通过设定较短的退出时间,使当前采集完成后可以快速开始采集下一个日志文件,提高了日志文件的采集效率;对于采集队列已采集到最后一个有可能会发生变更的日志文件,在预设的时间范围内循环读取采集队列中的最后一个待采集的日志文件,使有可能会发生变更的日志文件可以保持较长地等待时间,避免会发生变更的日志文件在退出后又反复打开被采集,提高了日志文件的采集效率。
进一步参考图6,其示出了日志采集方法的另一个实施例的流程。该监测方法的流程600,包括以下步骤:
步骤601,响应于接收到日志采集请求,触发按照第一时间间隔更新采集队列的扫描程序和如下的监听程序:按照第二时间间隔在采集队列中检测待采集的日志文件,响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件。
步骤602,读取当前采集日志文件的日志内容。
在本实施例中,步骤601~602的具体操作与图4所示的实施例中的步骤401~402的操作基本相同,在此不再赘述。
步骤603,按照第一时间间隔,检查采集队列的队列头是否存在待采集的日志文件,若采集队列头不存在待采集的日志文件,以队列头为起始位置,按采集队列中待采集的日志文件的排列顺序将采集队列中待采集的日志文件存入采集队列。
在本实施例中,执行主体通过扫描程序执行按照第一时间间隔,检查采集队列头是否存在待采集的日志文件,若采集队列的队列头不存在待采集的日志文件,将采集队列中剩余的待采集的日志文件从队列头位置开始按照排列次序从采集队列头开始顺序的将剩余的待采集的日志文件存入采集队列,节省了每次轮询采集队列的时间,节省采集队列所占用的存储空间。
在本实施例的一些可选的实现方式中,读取当前采集日志文件的日志内容,包括:从提取的当前采集日志文件起始位置逐行读取当前采集日志文件的日志内容。
从图6中可以看出,与图2对应的实施例相比,本实施例中的日志采集方法的流程600通过检查采集队列头是否存在待采集的日志文件,若采集队列头不存在待采集的日志文件,按采集队列中待采集的日志文件的排列顺序将采集队列中待采集的日志文件存入采集队列,节省了每次轮询采集队列的时间,节省采集队列所占用的存储空间,进一步提高了日志文件的采集效率。
进一步参考图7,作为对上述各图所示方法的实现,本公开提供了一种日志采集装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图7所示,本实施例的日志采集装置700包括:触发单元701和采集单元702。其中,触发单元701被配置成响应于接收到日志采集请求,触发扫描程序和监听程序;采集单元702被配置成读取当前采集日志文件的日志内容;其中,扫描程序包括:按照第一时间间隔更新采集队列;监听程序包括:按照第二时间间隔在采集队列中检测待采集的日志文件,其中,第二时间间隔不同于第一时间间隔;响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件。
在本实施例中,日志采集装置700的触发单元701和采集单元702的具体处理及其所带来的技术效果可分别参考图2对应的实施例中的步骤201和步骤205的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,触发单元包括:获取模块,被配置成按照第一时间间隔,获取日志采集请求对应的日志文件;更新模块,被配置成依据日志采集请求对应的日志文件,判断采集队列中是否存在变更;若采集队列中存在变更且变更为采集队列中日志文件偏移量的更新,则更新采集队列中的日志文件的偏移量;若采集队列中存在变更且变更为采集队列中日志文件的增加,则将新增的日志文件存入采集队列队尾。
在本实施例的一些可选的实现方式中,日志采集请求对应的日志文件包括:创建后内容不再变化的日志文件和创建后内容会变化的日志文件。
在本实施例的一些可选的实现方式中,触发单元包括:监听模块,被配置成监听当前采集日志文件是否停止读取,若当前采集日志文件已停止读取,按照待采集的日志文件在采集队列中的顺序,从采集队列中再次提取日志文件作为当前采集日志文件。
在本实施例的一些可选的实现方式中,采集单元包括:判断模块,被配置成若读取到当前采集日志文件的内容为空,判断当前采集日志文件是否采集完成;检查模块,被配置成若确认当前采集日志文件已采集完成,检查采集队列中是否存在除当前采集日志文件以外的其他待采集的日志文件;退出模块,被配置成若采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,按照设定的退出时间,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除,若采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,在预设的时间范围内循环读取当前采集日志文件,直到采集队列中存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。
在本实施例的一些可选的实现方式中,退出模块进一步被配置成:若在设定的时间范围内,采集队列中不存在除当前采集日志文件以外的其他待采集的日志文件,停止读取当前采集日志文件并将当前采集日志文件从采集队列中删除。
在本实施例的一些可选的实现方式中,触发单元还包括:重排模块,被配置成按照第一时间间隔,检查采集队列头是否存在待采集的日志文件,若采集队列头不存在待采集的日志文件,按采集队列中待采集的日志文件的排列顺序将采集队列中待采集的日志文件存入采集队列。
在本实施例的一些可选的实现方式中,采集单元进一步被配置成:从提取的当前采集日志文件起始位置逐行读取当前采集日志文件的日志内容。
下面参考图8,其示出了适于用来实现本公开的实施例的电子设备(例如图1中的服务器)800的结构示意图。本公开的实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、pda(个人数字助理)、pad(平板电脑)、pmp(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字tv、台式计算机等等的固定终端。图8示出的服务器仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图8所示,电子设备800可以包括处理装置(例如中央处理器、图形处理器等)801,其可以根据存储在只读存储器(rom)802中的程序或者从存储装置808加载到随机访问存储器(ram)803中的程序而执行各种适当的动作和处理。在ram803中,还存储有电子设备800操作所需的各种程序和数据。处理装置801、rom802以及ram803通过总线804彼此相连。输入/输出(i/o)接口805也连接至总线804。
通常,以下装置可以连接至i/o接口805:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置806;包括例如液晶显示器(lcd)、扬声器、振动器等的输出装置807;包括例如磁带、硬盘等的存储装置808;以及通信装置809。通信装置809可以允许电子设备800与其他设备进行无线或有线通信以交换数据。虽然图8示出了具有各种装置的电子设备800,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图8中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置809从网络上被下载和安装,或者从存储装置808被安装,或者从rom802被安装。在该计算机程序被处理装置801执行时,执行本公开的实施例的方法中限定的上述功能。
需要说明的是,本公开的实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、rf(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:响应于接收到日志采集请求,触发按照第一时间间隔更新采集队列的扫描程序和如下的监听程序:按照第二时间间隔在采集队列中检测待采集的日志文件,其中,第二时间间隔不同于第一时间间隔;响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件;该方法还包括:读取当前采集日志文件的日志内容。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c ,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括触发单元和采集单元。这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,触发单元还可以被描述为“响应于接收到日志采集请求,触发按照第一时间间隔更新采集队列的扫描程序和如下的监听程序:按照第二时间间隔在采集队列中检测待采集的日志文件,其中,第二时间间隔不同于第一时间间隔,响应于检测到待采集的日志文件,按照待采集的日志文件在采集队列中的顺序,从采集队列中提取日志文件作为当前采集日志文件的单元”。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
1.一种日志采集方法,包括:
响应于接收到日志采集请求,触发按照第一时间间隔更新采集队列的扫描程序和如下的监听程序:
按照第二时间间隔在所述采集队列中检测待采集的日志文件,其中,所述第二时间间隔不同于所述第一时间间隔;
响应于检测到所述待采集的日志文件,按照所述待采集的日志文件在采集队列中的顺序,从所述采集队列中提取日志文件作为当前采集日志文件;
所述方法还包括:
读取所述当前采集日志文件的日志内容。
2.根据权利要求1所述日志采集方法,所述按照第一时间间隔更新采集队列,包括:
按照第一时间间隔,获取所述日志采集请求对应的日志文件;
依据所述日志采集请求对应的日志文件,判断所述采集队列中是否存在变更;
若所述采集队列中存在变更且变更为采集队列中日志文件偏移量的更新,则更新所述采集队列中的日志文件的偏移量;
若所述采集队列中存在变更且变更为采集队列中日志文件的增加,则将新增的日志文件存入所述采集队列队尾。
3.根据权利要求2所述的日志采集方法,所述日志采集请求对应的日志文件包括:创建后内容不再变化的日志文件和创建后内容会变化的日志文件。
4.根据权利要求1所述的日志采集方法,所述监听程序还包括:
监听所述当前采集日志文件是否停止读取;
若所述当前采集日志文件已停止读取,按照所述待采集的日志文件在采集队列中的顺序,从所述采集队列中再次提取日志文件作为当前采集日志文件。
5.根据权利要求1所述的日志采集方法,所述读取所述当前采集日志文件的日志内容,包括:
若读取到所述当前采集日志文件的内容为空,判断所述当前采集日志文件是否采集完成;
若确认所述当前采集日志文件已采集完成,检查所述采集队列中是否存在除所述当前采集日志文件以外的其他待采集的日志文件;
若所述采集队列中存在除所述当前采集日志文件以外的其他待采集的日志文件,按照设定的退出时间,停止读取所述当前采集日志文件并将所述当前采集日志文件从采集队列中删除;
若所述采集队列中不存在除所述当前采集日志文件以外的其他待采集的日志文件,在预设的时间范围内循环读取所述当前采集日志文件,直到所述采集队列中存在除所述当前采集日志文件以外的其他待采集的日志文件,停止读取所述当前采集日志文件并将所述当前采集日志文件从采集队列中删除。
6.根据权利要求5所述的日志采集方法,在所述若所述采集队列中不存在除所述当前采集日志文件以外的其他待采集的日志文件,在预设的时间范围内循环读取所述当前采集日志文件,直到所述采集队列中存在除所述当前采集日志文件以外的其他待采集的日志文件,停止读取所述当前采集日志文件并将所述当前采集日志文件从采集队列中删除之后,还包括:
若在所述设定的时间范围内,所述采集队列中不存在除所述当前采集日志文件以外的其他待采集的日志文件,停止读取所述当前采集日志文件并将所述当前采集日志文件从采集队列中删除。
7.根据权利要求1所述日志采集方法,所述按照第一时间间隔更新采集队列,还包括:
按照第一时间间隔,检查所述采集队列的队列头是否存在待采集的日志文件,若所述队列头不存在待采集的日志文件,以所述队列头为起始位置,按所述采集队列中待采集的日志文件的排列顺序将所述采集队列中待采集的日志文件存入所述采集队列。
8.根据权利要求1所述的日志采集方法,所述读取所述当前采集日志文件的日志内容,包括:
从提取的所述当前采集日志文件起始位置逐行读取所述当前采集日志文件的日志内容。
9.一种日志采集装置,包括:
触发单元,被配置成响应于接收到日志采集请求,触发扫描程序和监听程序;
采集单元,被配置成读取当前采集日志文件的日志内容;其中,
所述扫描程序,包括:按照第一时间间隔更新采集队列;以及
所述监听程序,包括:按照第二时间间隔在所述采集队列中检测待采集的日志文件,其中,所述第二时间间隔不同于所述第一时间间隔,响应于检测到所述待采集的日志文件,按照所述待采集的日志文件在采集队列中的顺序,从所述采集队列中提取日志文件作为当前采集日志文件。
10.根据权利要求9所述日志采集装置,所述触发单元,包括:
获取模块,被配置成按照第一时间间隔,获取所述日志采集请求对应的日志文件;
更新模块,被配置成依据所述日志采集请求对应的日志文件,判断所述采集队列中是否存在变更;若所述采集队列中存在变更且变更为采集队列中日志文件偏移量的更新,则更新所述采集队列中的日志文件的偏移量;若所述采集队列中存在变更且变更为采集队列中日志文件的增加,则将新增的日志文件存入所述采集队列队尾。
11.根据权利要求10所述日志采集装置,其中,所述日志采集请求对应的日志文件包括:创建后内容不再变化的日志文件和创建后内容会变化的日志文件。
12.根据权利要求9所述日志采集装置,所述触发单元,包括:
监听模块,被配置成监听所述当前采集日志文件是否停止读取,若所述当前采集日志文件已停止读取,按照所述待采集的日志文件在采集队列中的顺序,从所述采集队列中再次提取日志文件作为当前采集日志文件。
13.根据权利要求9所述日志采集装置,所述采集单元,包括:
判断模块,被配置成若读取到所述当前采集日志文件的内容为空,判断所述当前采集日志文件是否采集完成;
检查模块,被配置成若确认所述当前采集日志文件已采集完成,检查所述采集队列中是否存在除所述当前采集日志文件以外的其他待采集的日志文件;
退出模块,被配置成若所述采集队列中存在除所述当前采集日志文件以外的其他待采集的日志文件,按照设定的退出时间,停止读取所述当前采集日志文件并将所述当前采集日志文件从采集队列中删除,若所述采集队列中不存在除所述当前采集日志文件以外的其他待采集的日志文件,在预设的时间范围内循环读取所述当前采集日志文件,直到所述采集队列中存在除所述当前采集日志文件以外的其他待采集的日志文件,停止读取所述当前采集日志文件并将所述当前采集日志文件从采集队列中删除。
14.根据权利要求13所述日志采集装置,所述退出模块进一步被配置成:
若在所述设定的时间范围内,所述采集队列中不存在除所述当前采集日志文件以外的其他待采集的日志文件,停止读取所述当前采集日志文件并将所述当前采集日志文件从采集队列中删除。
15.根据权利要求9所述日志采集装置,所述触发单元,还包括:
重排模块,被配置成按照第一时间间隔,检查所述采集队列的队列头是否存在待采集的日志文件,若所述采集队列头不存在待采集的日志文件,以所述队列头为起始位置,按所述采集队列中待采集的日志文件的排列顺序将所述采集队列中待采集的日志文件存入所述采集队列。
16.根据权利要求9所述日志采集装置,所述采集单元进一步被配置成:
从提取的所述当前采集日志文件起始位置逐行读取所述当前采集日志文件的日志内容。
17.一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
18.一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1-8中任一所述的方法。
技术总结