一种图像处理方法及图像处理装置与流程

专利2022-06-29  87


本申请涉及终端技术领域,尤其涉及一种图像处理方法及图像处理装置。



背景技术:

随着终端技术以及图像技术的不断发展,可以在终端中显示真实场景的图像或者虚拟场景的图像。终端所显示的图像可以包括参考对象和其他对象,该终端所显示的图像可以为该参考对象的视角对应的图像。

通过对比不同图像中同一对象所处的位置,可以确定该对象是否发生移动。例如,当终端运行游戏应用时,终端显示的游戏画面可以包括该终端对应的用户所操作的游戏对象以及其他用户所操作的游戏对象,其中,该终端对应的用户所操作的游戏对象为参考对象。该终端对应的用户通过观察终端显示的游戏画面,可以确定其他玩家所操作的游戏对象是否在游戏中移动。通过及早发现移动的游戏对象,有利于提高游戏胜率。又如,在交通影像系统中,所显示的图像可以车辆或者司机作为参考对象,通过确定该图像中的移动物体,有利于提高驾驶的安全性。

但是,目前用户只能通过肉眼在图像中确定移动对象,这样会导致确定移动对象的效率较低。



技术实现要素:

本申请实施例提供一种图像处理方法及图像处理装置,有利于提高确定相对参考对象的位置信息发生变化的目标对象的效率。

第一方面,本申请实施例提供了一种图像处理方法,该方法应用于终端设备,该方法包括:确定图像集合中的第一图像包括的待检测对象以及每个待检测对象在该第一图像中的位置信息,该图像集合包括该第一图像和第二图像;从该第一图像包括的待检测对象中确定出第一对象,并获取该第一对象在第二图像中的位置信息,该第一对象在该第一图像和该第二图像中同时存在;根据该第一对象在该第一图像中的位置信息以及在该第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息,该参考对象在前述图像集合包括的每帧图像中同时存在;确定目标对象,该目标对象为位置变化信息与该参考对象的位置变化信息不同的第一对象。

在该技术方案中,相较于通过肉眼确定目标对象的方式,采用本申请实施例有利于提高确定相对参考对象的位置信息发生变化的目标对象的效率。

在一种实现方式中,第一对象的数量可以为多个,根据第一对象在第一图像中的位置信息以及在第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息的具体实施方式可以为:针对多个第一对象中的每个第一对象,根据该第一对象在第一图像中的位置信息以及在第二图像中的位置信息,确定该第一对象的位置变化信息;根据多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息。

在一种实现方式中,根据多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息的具体实施方式可以为:在多个第一对象中各个第一对象的位置变化信息中,将数量最多的位置变化信息作为参考对象的位置变化信息;或者,在多个第一对象中,且在第二图像中位于参考对象对应的预设范围内的第一对象的位置变化信息中,将数量最多的位置变化信息作为该参考对象的位置变化信息。

在该技术方案中,位于参考对象对应的预设范围内的第一对象与该参考对象之间的距离较近,通过在第二图像中位于参考对象对应的预设范围内的第一对象的位置变化信息中,将数量最多的位置变化信息作为参考对象的位置变化信息。有利于提高确定出的参考对象的位置变化信息的准确度。

在一种实现方式中,该方法还可以包括:在终端设备显示第一图像的情况下,输出第一提示信息,该第一提示信息用于提示目标对象相对参考对象的位置信息发生变化。

在该技术方案中,可以提示操作终端设备的用户,目标对象相对参考对象的位置信息发生变化。在游戏应用场景下,有利于提高该用户的游戏胜率。在交通影像系统中,有利于提高驾驶安全性。

在一种实现方式中,该第一提示信息还可以用于提示该目标对象在第一图像中的位置信息。

在该技术方案中,第一提示信息不仅用于提示目标对象相对参考对象的位置信息发生变化,还用于提示该目标对象在该第一图像中的位置信息。通过这种方式,可以使得操作终端设备的用户掌握目标对象的位置信息,从而有利于提高游戏胜率或者提高驾驶安全性。

在一种实现方式中,前述图像集合还可以包括第二图像的前n帧图像,该第二图像为第一图像的上一帧图像。该方法还可以包括:若目标对象在图像集合中的每帧图像中同时存在,则触发输出第一提示信息的步骤,n大于或等于1。

在一种实现方式中,该方法还可以包括:根据目标对象在第一图像中的位置信息以及在第一图像的前m帧图像中的位置信息,预测得到该目标对象的移动信息,该移动信息包括移动方向或移动轨迹,m大于或等于1;该第一图像的前m帧图像包括第二图像,该第二图像为该第一图像的上一帧图像;在终端设备显示第一图像的情况下,输出该移动信息。

在该技术方案中,通过输出该目标对象的移动信息,在游戏应用场景下,可以确定参考对象的敌方对象的未来所处的位置,进而可以提前准备好应对措施,从而有利于提高游戏胜率。在交通影像系统中,通过输出目标对象的移动信息,可以确定该目标对象未来所处的位置是否处于本车辆的路线上,从而有利于提高驾驶安全性。

在一种实现方式中,该方法还可以包括:根据目标对象在第一图像中的位置信息以及在第一图像的前m帧图像中的位置信息,确定该目标对象的历史移动信息,该历史移动信息包括历史移动方向或历史移动轨迹,m大于或等于1;该第一图像的前m帧图像包括第二图像,该第二图像为该第一图像的上一帧图像;在终端设备显示第一图像的情况下,输出该历史移动信息。

在该技术方案中,在游戏应用场景下,在团队作战游戏中,属于同一队伍的各个游戏对象的移动路线基本相同。因此通过输出目标对象的历史移动信息,有利于确定该目标对象的队友的位置信息。

在一种实现方式中,第一对象在第一图像中的位置信息可以用于指示该第一对象与参考对象之间的距离;确定目标对象的具体实施方式可以为:若位置变化信息与参考对象的位置变化信息不同的第一对象的数量大于t1,则在位置变化信息与该参考对象的位置变化信息不同的第一对象中,将与该参考对象之间的距离最小的前t1个第一对象作为目标对象,t1大于或等于1。

在一种实现方式中,该方法还可以包括:从第一图像包括的待检测对象中确定出第二对象,该述第二对象不存在于第二图像中。

在该技术方案中,通过确定第二对象,可以使得终端设备确定第一图像中存在新的对象。进一步的,终端设备通过该第二对象在第一图像中的位置信息,有利于提高游戏胜率或者提高驾驶安全性。

在一种实现方式中,该方法还可以包括:在终端设备显示述第一图像的情况下,输出第二提示信息,该述第二提示信息用于提示第二对象为该第一图像中新出现的对象。

在该技术方案中,可以提示操作终端设备的用户,第一图像中存在新出现的对象。

在一种实现方式中,该第二提示信息还可以用于提示第二对象在第一图像中的位置信息。

在该技术方案中,可以使得操作终端设备的用户掌握第一图像中新出现的对象(即第二对象)的位置信息,从而有利于提高游戏胜率或者提高驾驶安全性。

在一种实现方式中,第一图像中的待检测对象在第一图像中的位置信息可以用于指示该待检测对象与参考对象之间的距离;从第一图像包括的待检测对象中确定出第二对象的具体实施方式可以为:若存在于第一图像且不存在于第二图像的待检测对象的数量大于t2,则在存在于第一图像且不存在于第二图像的待检测对象中,将与该参考对象之间的距离最小的前t2个待检测对象作为第二对象,t2大于或等于1。

第二方面,本申请实施例提供了一种图像处理装置,该装置为终端设备或具有终端设备功能的装置(例如芯片)。该装置具有实现第一方面所提供的图像处理方法的功能。该功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。

第三方面,本申请实施例提供另一种图像处理装置,该装置为终端设备或具有终端设备功能的装置(例如芯片)。该装置包括存储器和处理器,存储器中存储有程序指令,处理器通过总线与存储器连接,处理器调用存储器中存储的程序指令以使该装置执行第一方面所述的方法。

第四方面,本申请实施例提供一种计算机可读存储介质,用于储存为第二方面所述的图像处理装置所用的计算机程序指令,其包含用于执行上述第一方面所涉及的程序。

第五方面,本申请实施例提供一种计算机程序产品,该程序产品包括程序,所述程序被执行时实现上述第一方面所述的方法。

附图说明

图1a是本申请实施例提供的一种确定目标对象的场景示意图;

图1b是本申请实施例公开的一种终端设备的结构示意图;

图1c是本申请实施例公开的一种终端设备的软件系统的示意图;

图2a是本申请实施例公开的一种图像处理方法的流程示意图;

图2b是本申请实施例公开的一种参考对象的视角发生变化的场景示意图;

图2c是本申请实施例公开的一种第二图像中参考对象对应的预设范围的示意图;

图3a是本申请实施例公开的另一种图像处理方法的流程示意图;

图3b是本申请实施例公开的一种在第一图像中突出显示目标对象的示意图;

图3c为本申请实施例公开的一种在第一图像中添加指示符号,以提示目标对象的位置的示意图;

图4是本申请实施例公开的又一种图像处理方法的流程示意图;

图5a是本申请实施例公开的又一种图像处理方法的流程示意图;

图5b是本申请实施例公开的一种确定第二对象的场景示意图;

图6是本申请实施例公开的一种图像处理装置的结构示意图;

图7是本申请实施例公开的另一种图像处理装置的结构示意图。

具体实施方式

为了更好的理解本申请实施例公开的一种图像处理方法,下面首先对本申请实施例适用的应用场景进行描述。

请参见图1a,为本申请实施例提供的一种确定目标对象的场景示意图。其中,图1a中的第一图像和第二图像可以包括于图像集合,第二图像可以为第一图像的上一帧图像。图像集合中的每帧图像可以为经终端设备渲染完成之后得到的图像。

该终端设备在渲染完成第一图像之后,可以确定该第一图像包括的待检测对象以及每个待检测对象在该第一图像中的位置信息。在本申请实施例中,每帧图像中均可以包括多个对象,图像包括的每个对象均可以为待检测对象。例如,在图1a中的第一图像中,房屋、植物(如树、草丛等)、石头、道路和人物均可以为待检测对象。需要说明的是,前述图像集合包括的每帧图像均可以包括参考对象,且每帧图像可以看做该图像中参考对象的视角对应的图像。例如,图1a中的第一图像可以看做该第一图像中的参考对象所看见的图像。待检测对象在该第一图像中的位置信息可以指该待检测对象在第一图像中相对参考对象的位置信息。

终端从该第一图像包括的待检测对象中确定出第一对象,并获取该第一对象在第二图像中的位置信息。其中,该第一对象在第一图像和第二图像中同时存在。第一对象的数量可以为一个或多个。需要说明的是,终端设备从第一图像包括的待检测对象中确定出的第一对象不包括参考对象。第一对象在第二图像中的位置信息可以指该第一对象在第二图像中,相对该第二图像中的参考对象的位置信息。

终端设备确定第一对象之后,可以根据该第一对象在该第一图像中的位置信息以及该第一对象在该第二图像中的位置信息,确定该第一对象的位置变化信息并确定参考对象的位置变化信息。可以理解的是,由于图像集合中的每帧图像可以看做该图像中参考对象的视角对应的图像,因此仅在第一对象相对参考对象的位置信息发生变化的情况下,对该参考对象而言该第一对象的位置信息发生变化。在本申请实施例中,第一图像和第二图像对应的时间段内,参考对象可以发生移动,或者,参考对象可以在位置不发生移动的情况下发生视角切换。上述情况均会导致第一图像与第二图像相比图像内容发生变化。但是若仅对第一图像和第二图像进行对比,无法准确判断哪些对象相对参考对象的位置发生变化。

在本申请实施例中,参考对象的位置变化信息可以指示参考对象在第一图像和第二图像对应的时间段内,是否发生移动或者视角切换。第一对象的位置变化信息可以指示该第一对象是否相对参考对象的位置信息发生变化。若第一对象相对参考对象的位置信息发生变化,该第一对象的位置变化信息还可以指示该第一对象相对参考对象的位置信息发生变化的具体数值(如第一对象相对参考对象的位置发生偏移的角度,和/或,距离的变化)。例如,由图1a可知,第一图像和第二图像中均包括的房屋、植物(包括树、草丛)、石头和道路等第一对象,在第一图像中相对(第一图像中的)参考对象的位置,与在第二图像中相对(第二图像中的)参考对象的位置相比较并未发生变化。而第一图像和第二图像中均包括的人物(图1a中呈奔跑状的人物),在第一图像中相对(第一图像中的)参考对象的位置,与在第二图像中相对(第二图像中的)参考对象的位置相比较发生了变化。

终端设备确定第一对象的位置变化信息以及参考对象的位置变化信息之后,可以确定目标对象,该目标对象可以为位置变化信息与该参考对象的位置变化信息不同的第一对象。例如,由图1a中的第一图像和第二图像可知,参考对象并未发生移动或视角切换,因此参考对象的位置变化信息为0,房屋、植物(包括树、草丛)、石头和道路等第一对象的位置变化信息也为0。而图1a中呈奔跑状的人物(第一对象)相对参考对象的位置发生了变化,因此,该第一对象的位置变化信息与参考对象的位置变化信息不同。进一步的,终端设备可以将该第一对象(即图1a中呈奔跑状的人物)确定为目标对象。相较于通过肉眼确定目标对象的方式,采用本申请实施例有利于提高确定相对参考对象的位置信息发生变化的目标对象的效率。

需要说明的是,本申请实施例可以应用于终端设备中运行有游戏应用的场景,也可以应用于交通影像系统。当应用于终端设备中运行有游戏应用的场景时,前述图像集合中的图像可以为该游戏应用的游戏画面。通过确定目标对象,进一步的可以提示参考对象对应的玩家,目标对象相对该参考对象的位置信息发生变化,从而有利于提高参考对象对应的玩家的游戏胜率,并提高游戏体验。当应用于交通影像系统时,前述图像集合中的图像可以为车辆中的行车记录仪所采集的图像,前述参考对象可以为该车辆。当该车辆为无人驾驶车辆时,通过确定目标对象,可以使该车辆确定存在相对该车辆的位置信息发生变化的对象,进而调整车速或路线,有利于提高驾驶的安全性。当该车辆为有人驾驶车辆时,通过确定目标对象,进一步的可以提示司机存在相对该车辆的位置信息发生变化的对象(如其他车辆或者行人),从而有利于提高驾驶的安全性。

还需要说明的是,图1a中第一图像和第二图像包括的房屋、植物(如树、草丛等)、石头、道路和人物等待检测对象仅用于举例,并不构成对本申请实施例的限定。在其他可行的实现方式中,还可以包括其他待检测对象。

其中,终端设备也可以称为终端(terminal)、用户设备(userequipment,ue)、移动台(mobilestation,ms)、移动终端(mobileterminal,mt)等。终端设备可以是手机(mobilephone)、智能电视、穿戴式设备、平板电脑(pad)、带无线收发功能的电脑、虚拟现实(virtualreality,vr)终端设备、增强现实(augmentedreality,ar)终端设备、工业控制(industrialcontrol)中的无线终端、无人驾驶(self-driving)中的无线终端、远程手术(remotemedicalsurgery)中的无线终端、智能电网(smartgrid)中的无线终端、运输安全(transportationsafety)中的无线终端、智慧城市(smartcity)中的无线终端、智慧家庭(smarthome)中的无线终端等等。本申请的实施例对终端设备所采用的具体技术和具体设备形态不做限定。

需要说明的是,本申请实施例无需对显示图像的应用层(如终端侧的游戏应用)做任何修改,也无需对构建图像对象的引擎系统做任何修改,仅需在智能终端设备的显示模组进行相关的后端处理。并且在做后端处理时可以使用嵌入式神经网络处理器(neural-networkprocessingunit,npu)等的硬件能力,因此不会增加原系统运行的负载,也不会影响显示模组的帧率和也不会出现图像帧率抖动率。

可以理解的是,本申请实施例描述的网络架构是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定,本领域普通技术人员可知,随着系统架构的演变和新业务场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。

为了能够更好地理解本申请实施例,下面对本申请实施例的终端设备的结构进行介绍:

图1b示出了终端设备100的结构示意图。终端设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universalserialbus,usb)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170a,受话器170b,麦克风170c,耳机接口170d,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriberidentificationmodule,sim)卡接口195等。其中传感器模块180可以包括压力传感器180a,陀螺仪传感器180b,气压传感器180c,磁传感器180d,加速度传感器180e,距离传感器180f,接近光传感器180g,指纹传感器180h,温度传感器180j,触摸传感器180k,环境光传感器180l,骨传导传感器180m等。

可以理解的是,本申请实施例示意的结构并不构成对终端设备100的具体限定。在本申请另一些实施例中,终端设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。

处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(applicationprocessor,ap),调制解调处理器,图形处理器(graphicsprocessingunit,gpu),图像信号处理器(imagesignalprocessor,isp),控制器,视频编解码器,数字信号处理器(digitalsignalprocessor,dsp),基带处理器,和/或神经网络处理器(neural-networkprocessingunit,npu)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。

控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。

处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。

在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integratedcircuit,i2c)接口,集成电路内置音频(inter-integratedcircuitsound,i2s)接口,脉冲编码调制(pulsecodemodulation,pcm)接口,通用异步收发传输器(universalasynchronousreceiver/transmitter,uart)接口,移动产业处理器接口(mobileindustryprocessorinterface,mipi),通用输入输出(general-purposeinput/output,gpio)接口,用户标识模块(subscriberidentitymodule,sim)接口,和/或通用串行总线(universalserialbus,usb)接口等。

i2c接口是一种双向同步串行总线,包括一根串行数据线(serialdataline,sda)和一根串行时钟线(derailclockline,scl)。在一些实施例中,处理器110可以包含多组i2c总线。处理器110可以通过不同的i2c总线接口分别耦合触摸传感器180k,充电器,闪光灯,摄像头193等。例如:处理器110可以通过i2c接口耦合触摸传感器180k,使处理器110与触摸传感器180k通过i2c总线接口通信,实现终端设备100的触摸功能。

i2s接口可以用于音频通信。在一些实施例中,处理器110可以包含多组i2s总线。处理器110可以通过i2s总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过i2s接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。

pcm接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过pcm总线接口耦合。在一些实施例中,音频模块170也可以通过pcm接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述i2s接口和所述pcm接口都可以用于音频通信。

uart接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,uart接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过uart接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过uart接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。

mipi接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。mipi接口包括摄像头串行接口(cameraserialinterface,csi),显示屏串行接口(displayserialinterface,dsi)等。在一些实施例中,处理器110和摄像头193通过csi接口通信,实现终端设备100的拍摄功能。处理器110和显示屏194通过dsi接口通信,实现终端设备100的显示功能。

gpio接口可以通过软件配置。gpio接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,gpio接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。gpio接口还可以被配置为i2c接口,i2s接口,uart接口,mipi接口等。

usb接口130是符合usb标准规范的接口,具体可以是miniusb接口,microusb接口,usbtypec接口等。usb接口130可以用于连接充电器为终端设备100充电,也可以用于终端设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如ar设备等。

可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对终端设备100的结构限定。在本申请另一些实施例中,终端设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。

充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过usb接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过终端设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为终端设备供电。

电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。

终端设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。

天线1和天线2用于发射和接收电磁波信号。终端设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。

移动通信模块150可以提供应用在终端设备100上的包括2g/3g/4g/5g等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(lownoiseamplifier,lna)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。

调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170a,受话器170b等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。

无线通信模块160可以提供应用在终端设备100上的包括无线局域网(wirelesslocalareanetworks,wlan)(如无线保真(wirelessfidelity,wi-fi)网络),蓝牙(bluetooth,bt),全球导航卫星系统(globalnavigationsatellitesystem,gnss),调频(frequencymodulation,fm),近距离无线通信技术(nearfieldcommunication,nfc),红外技术(infrared,ir)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。

在一些实施例中,终端设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得终端设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(globalsystemformobilecommunications,gsm),通用分组无线服务(generalpacketradioservice,gprs),码分多址接入(codedivisionmultipleaccess,cdma),宽带码分多址(widebandcodedivisionmultipleaccess,wcdma),时分码分多址(time-divisioncodedivisionmultipleaccess,td-scdma),长期演进(longtermevolution,lte),bt,gnss,wlan,nfc,fm,和/或ir技术等。所述gnss可以包括全球卫星定位系统(globalpositioningsystem,gps),全球导航卫星系统(globalnavigationsatellitesystem,glonass),北斗卫星导航系统(beidounavigationsatellitesystem,bds),准天顶卫星系统(quasi-zenithsatellitesystem,qzss)和/或星基增强系统(satellitebasedaugmentationsystems,sbas)。

终端设备100通过gpu,显示屏194,以及应用处理器等实现显示功能。gpu为图像处理的微处理器,连接显示屏194和应用处理器。gpu用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个gpu,其执行程序指令以生成或改变显示信息。

显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquidcrystaldisplay,lcd),有机发光二极管(organiclight-emittingdiode,oled),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganiclightemittingdiode的,amoled),柔性发光二极管(flexlight-emittingdiode,fled),miniled,microled,micro-oled,量子点发光二极管(quantumdotlightemittingdiodes,qled)等。在一些实施例中,终端设备100可以包括1个或n个显示屏194,n为大于1的正整数。

终端设备100可以通过isp,摄像头193,视频编解码器,gpu,显示屏194以及应用处理器等实现拍摄功能。

isp用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给isp处理,转化为肉眼可见的图像。isp还可以对图像的噪点,亮度,肤色进行算法优化。isp还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,isp可以设置在摄像头193中。

摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(chargecoupleddevice,ccd)或互补金属氧化物半导体(complementarymetal-oxide-semiconductor,cmos)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给isp转换成数字图像信号。isp将数字图像信号输出到dsp加工处理。dsp将数字图像信号转换成标准的rgb,yuv等格式的图像信号。在一些实施例中,终端设备100可以包括1个或n个摄像头193,n为大于1的正整数。

数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当终端设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。

视频编解码器用于对数字视频压缩或解压缩。终端设备100可以支持一种或多种视频编解码器。这样,终端设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(movingpictureexpertsgroup,mpeg)1,mpeg2,mpeg3,mpeg4等。

npu为神经网络(neural-network,nn)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过npu可以实现终端设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。

外部存储器接口120可以用于连接外部存储卡,例如microsd卡,实现扩展终端设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。

内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储终端设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universalflashstorage,ufs)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行终端设备100的各种功能应用以及数据处理。

终端设备100可以通过音频模块170,扬声器170a,受话器170b,麦克风170c,耳机接口170d,以及应用处理器等实现音频功能。例如音乐播放,录音等。

音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。

扬声器170a,也称“喇叭”,用于将音频电信号转换为声音信号。终端设备100可以通过扬声器170a收听音乐,或收听免提通话。

受话器170b,也称“听筒”,用于将音频电信号转换成声音信号。当终端设备100接听电话或语音信息时,可以通过将受话器170b靠近人耳接听语音。

麦克风170c,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170c发声,将声音信号输入到麦克风170c。终端设备100可以设置至少一个麦克风170c。在另一些实施例中,终端设备100可以设置两个麦克风170c,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,终端设备100还可以设置三个,四个或更多麦克风170c,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。

耳机接口170d用于连接有线耳机。耳机接口170d可以是usb接口130,也可以是3.5mm的开放移动电子设备平台(openmobileterminalplatform,omtp)标准接口,美国蜂窝电信工业协会(cellulartelecommunicationsindustryassociationoftheusa,ctia)标准接口。

压力传感器180a用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180a可以设置于显示屏194。压力传感器180a的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180a,电极之间的电容改变。终端设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,终端设备100根据压力传感器180a检测所述触摸操作强度。终端设备100也可以根据压力传感器180a的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。

陀螺仪传感器180b可以用于确定终端设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180b确定终端设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180b可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180b检测终端设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消终端设备100的抖动,实现防抖。陀螺仪传感器180b还可以用于导航,体感游戏场景。

气压传感器180c用于测量气压。在一些实施例中,终端设备100通过气压传感器180c测得的气压值计算海拔高度,辅助定位和导航。

磁传感器180d包括霍尔传感器。终端设备100可以利用磁传感器180d检测翻盖皮套的开合。在一些实施例中,当终端设备100是翻盖机时,终端设备100可以根据磁传感器180d检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。

加速度传感器180e可检测终端设备100在各个方向上(一般为三轴)加速度的大小。当终端设备100静止时可检测出重力的大小及方向。还可以用于识别终端设备姿态,应用于横竖屏切换,计步器等应用。

距离传感器180f,用于测量距离。终端设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,终端设备100可以利用距离传感器180f测距以实现快速对焦。

接近光传感器180g可以包括例如发光二极管(led)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。终端设备100通过发光二极管向外发射红外光。终端设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定终端设备100附近有物体。当检测到不充分的反射光时,终端设备100可以确定终端设备100附近没有物体。终端设备100可以利用接近光传感器180g检测用户手持终端设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180g也可用于皮套模式,口袋模式自动解锁与锁屏。

环境光传感器180l用于感知环境光亮度。终端设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180l也可用于拍照时自动调节白平衡。环境光传感器180l还可以与接近光传感器180g配合,检测终端设备100是否在口袋里,以防误触。

指纹传感器180h用于采集指纹。终端设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。

温度传感器180j用于检测温度。在一些实施例中,终端设备100利用温度传感器180j检测的温度,执行温度处理策略。例如,当温度传感器180j上报的温度超过阈值,终端设备100执行降低位于温度传感器180j附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,终端设备100对电池142加热,以避免低温导致终端设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,终端设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。

触摸传感器180k,也称“触控器件”。触摸传感器180k可以设置于显示屏194,由触摸传感器180k与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180k用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180k也可以设置于终端设备100的表面,与显示屏194所处的位置不同。

骨传导传感器180m可以获取振动信号。在一些实施例中,骨传导传感器180m可以获取人体声部振动骨块的振动信号。骨传导传感器180m也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180m也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180m获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180m获取的血压跳动信号解析心率信息,实现心率检测功能。

按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。终端设备100可以接收按键输入,产生与终端设备100的用户设置以及功能控制有关的键信号输入。

马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。

指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。

sim卡接口195用于连接sim卡。sim卡可以通过插入sim卡接口195,或从sim卡接口195拔出,实现和终端设备100的接触和分离。终端设备100可以支持1个或n个sim卡接口,n为大于1的正整数。sim卡接口195可以支持nanosim卡,microsim卡,sim卡等。同一个sim卡接口195可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。sim卡接口195也可以兼容不同类型的sim卡。sim卡接口195也可以兼容外部存储卡。终端设备100通过sim卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,终端设备100采用esim,即:嵌入式sim卡。esim卡可以嵌在终端设备100中,不能和终端设备100分离。

终端设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本申请实施例以分层架构的android系统为例,示例性说明终端设备100的软件结构。

图1c是本申请实施例的终端设备100的软件结构框图。

分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(androidruntime)和系统库,以及内核层。

应用程序层可以包括一系列应用程序包。

如图1c所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,wlan,蓝牙,音乐,视频,短信息等应用程序。

应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramminginterface,api)和编程框架。应用程序框架层包括一些预先定义的函数。

如图1c所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。

窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。

内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。

视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。

电话管理器用于提供终端设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。

资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。

通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,终端设备振动,指示灯闪烁等。

androidruntime包括核心库和虚拟机。androidruntime负责安卓系统的调度和管理。

核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。

应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。

系统库可以包括多个功能模块。例如:表面管理器(surfacemanager),媒体库(medialibraries),三维图形处理库(例如:opengles),2d图形引擎(例如:sgl)等。

表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2d和3d图层的融合。

媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:mpeg4,h.264,mp3,aac,amr,jpg,png等。

三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。

2d图形引擎是2d绘图的绘图引擎。

内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。

下面结合捕获拍照场景,示例性说明终端设备100软件以及硬件的工作流程。

当触摸传感器180k接收到触摸操作,相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,识别该输入事件所对应的控件。以该触摸操作是触摸单击操作,该单击操作所对应的控件为相机应用图标的控件为例,相机应用调用应用框架层的接口,启动相机应用,进而通过调用内核层启动摄像头驱动,通过摄像头193捕获静态图像或视频。

下面结合附图对本申请提供的图像处理方法及图像处理装置进行详细地介绍。

请参见图2a,图2a是本申请实施例提供的一种图像处理方法的流程示意图,该方法应用于终端设备。该方法详细描述了如何确定出目标对象。该图像处理方法的执行主体为终端设备,或者为终端设备中的芯片,以下以终端设备为图像处理方法的执行主体为例进行说明。如图2a所示,该方法可以包括但不限于如下步骤:

步骤s201:终端设备确定图像集合中的第一图像包括的待检测对象以及每个待检测对象在该第一图像中的位置信息,该图像集合包括该第一图像和第二图像。

其中,当应用于游戏应用场景下时,该图像集合可以是终端设备从游戏服务器中获取图像数据,并渲染完成之后得到的。当应用于交通影像系统时,该图像集合可以是配置于车辆中的摄像装置(如行车记录仪)采集到之后传输给终端设备的。第一图像可以为图像集合中最新获取到的一帧图像,例如,该第一图像为最新渲染完成的一帧图像。终端设备获取第一图像之后,可以确定该第一图像包括的待检测对象以及每个待检测对象在该第一图像中的位置信息。其中,第一图像可以包括多个对象,第一图像中的全部或者部分对象可以作为待检测对象。例如,在游戏场景下,终端设备获取的第一图像可以包括一些与模拟的游戏场景无关的对象(如游戏中的小地图、游戏对象的能量值、用户操作游戏对象的操作按钮等),此时,终端设备确定的第一对象可以不包括这些对象。

在本申请实施例中,终端设备可以通过人工智能(artificialintelligence,ai)图像语义识别模型,确定出第一图像中的各个待检测对象的轮廓面积和轮廓边缘的位置信息,进而确定该待检测对象的重心位置。需要说明的是,此时的位置信息可以是指在该终端设备的显示屏的默认坐标系下的位置信息,该默认坐标系可以该显示屏的左上角、左下角、右上角、右下角或者中心为坐标原点。

进一步的,终端设备可以根据待检测对象的重心位置,确定该待检测对象在第一图像中的位置信息。待检测对象在第一图像中的位置信息可以指以参考对象的位置为坐标原点的坐标系下的位置信息。即终端设备可以根据默认坐标系和以参考对象为坐标原点的坐标系之间的相对位置关系,以及待检测对象的重心位置,得到该待检测对象在第一图像中的位置信息。在本申请实施例中,待检测对象在第一图像中的位置信息可以为:该待检测对象在以参考对象为坐标原点的坐标系中的直角坐标,或者,极坐标。

在一种实现方式中,终端设备获取第一图像之后,可以采用ai识图模型确定该第一图像对应的场景类型。场景类型可以包括但不限于游戏应用场景和交通影像系统场景。在一种实现方式中,还可以根据所模拟的游戏场景的天气、时间或其他信息,将游戏应用场景细分为多种类型。例如,根据所模拟的游戏场景的天气,可以将游戏应用场景细分为雪地场景、雨林场景、大雾场景等场景。根据所模拟的游戏场景的时间,可以将游戏应用场景细分为夜晚场景、黄昏场景、白天场景等场景。在不同的游戏场景下,游戏对象在图像中所显示的形象可以不同。终端设备通过识别图像以确定当前的游戏场景,可以更确定地识别出该图像中的待检测对象。在一种实现方式中,可以通过输入大量标注了场景类型的图像进行机器学习,以使ai识图模型准确识别第一图像对应的场景类型。

步骤s202:终端设备从该第一图像包括的待检测对象中确定出第一对象,并获取该第一对象在第二图像中的位置信息,该第一对象在该第一图像和该第二图像中同时存在。

具体的,终端设备从第一图像中确定出的所有待检测对象可以组成待检测对象集合。前述图像集合中的每帧图像均可以对应有一个待检测对象集合。其中,第二图像可以是第一图像的上一帧图像,也可以是该第一图像之前的某一帧图像,本申请实施例对此不作限定。第一对象可以是第一图像对应的待检测对象集合,与第二图像对应的待检测对象集合的交集中的对象,即该第一对象同时存在于第一图像和第二图像中。

终端设备确定第一对象之后,可以获取该第一对象在第二图像中的位置信息。以便根据该第一对象在该第一图像中的位置信息以及在该第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息。

步骤s203:终端设备根据该第一对象在该第一图像中的位置信息以及在该第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息,该参考对象在前述图像集合包括的每帧图像中同时存在。

在本申请实施例中,当第一对象的数量为多个时,终端设备根据该第一对象在该第一图像中的位置信息以及在该第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息的具体实施方式可以为:针对多个第一对象中的每个第一对象,根据该第一对象在第一图像中的位置信息以及在第二图像中的位置信息,确定该第一对象的位置变化信息;根据前述多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息。

在一种实现方式中,终端设备根据前述多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息的具体实施方式可以为:在前述多个第一对象中各个第一对象的位置变化信息中,将数量最多的位置变化信息作为参考对象的位置变化信息。需要说明的是,参考对象在前述图像集合中的每帧图像中的位置可以不变。例如,参见图1a可知,参考对象在第一图像和第二图像中均位于图像下方的中间位置。因此,仅通过第一图像和第二图像中参考对象的位置,无法确定该参考对象的位置变化信息。又因为第一图像和第二图像之间相隔的时长较短,可以理解的是,在较短的一段时间内,第二图像中的大部分第一对象的位置信息均发生变化的概率较低。但是在参考对象的位置信息发生变化的情况下,会导致未移动的第一对象与该参考对象的位置信息均发生变化,且每个未移动的第一对象与该参考对象之间的位置变化信息相同。因此,可以将数量最多的位置变化信息作为参考对象的位置变化信息。例如,当第一对象的数量为10个,其中8个第一对象的位置变化信息相同,且该8个第一对象的位置变化信息与另外2个第一对象的位置变化信息不同时,终端设备可以将该8个第一对象的位置变化信息作为参考对象的位置变化信息。

以图2b所示的参考对象的视角发生变化的场景示意图为例。其中,第一图像是第二图像中的参考对象的视角逆时针转动15°(即对象的位置变化信息为15°)之后得到的图像。图中,参考对象所在的位置o为极坐标的极点,射线ox为极坐标的极轴。由左图可知,第二图像中的4个对象分别为参考对象、石头、树和奔跑的人物。树的极坐标为(ρ1,θ1),石头的极坐标为(ρ2,θ2),奔跑的人物的极坐标为(ρ3,θ3)。ρ1为树相距参考对象的距离,θ1为树与参考对象之间的连线与射线ox之间的夹角。

若在参考对象视角变化的过程中,奔跑的人物发生了移动,但树和石头未发生移动,那么树和石头的位置变化信息应与参考对象的位置变化信息相同。如图2b可知,在第二图像中,θ1=60°,θ2=45°,θ3=20°。在第一图像中,θ1=45°,θ2=30°,θ3=20°。由此可知,树和石头的位置变化信息均为15°,而奔跑的人物的位置变化信息为0°。即每个未移动的第一对象(即树和石头)与该参考对象之间的位置变化信息相同。

在一种实现方式中,终端设备根据前述多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息的具体实施方式还可以为:在前述多个第一对象中,且在第二图像中位于参考对象对应的预设范围内的第一对象的位置变化信息中,将数量最多的位置变化信息作为参考对象的位置变化信息。

其中,位于参考对象对应的预设范围内的第一对象与该参考对象之间的距离较近。例如,预设范围可以为在第二图像中,以参考对象为圆心且以预设长度为半径的扇形区域。以图2c所示的第二图像中参考对象对应的预设范围的示意图为例。由图2c可知,第二图像中灰色填充的扇形区域为参考对象对应的预设范围。该扇形区域内包括的对象有草、石头、房屋和道路,若该草、石头、房屋和道路在第二图像的下一帧图像中也存在,即该草、石头、房屋和道路为第一图像。此时,可以在草、石头、房屋和道路的位置变化信息中,将数量最多的位置变化信息作为参考对象的位置变化信息。位于参考对象对应的预设范围内的第一对象与该参考对象之间的距离较近,通过在第二图像中位于参考对象对应的预设范围内的第一对象的位置变化信息中,将数量最多的位置变化信息作为参考对象的位置变化信息。有利于提高确定出的参考对象的位置变化信息的准确度。其中,预设范围可由终端设备默认设置,也可以根据用户操作更改,本申请实施例对此不作限定。

在一种实现方式中,图像中的对象的类型可以为静止类型或者非静止类型。静止类型的对象不能发生移动,如树和石头等对象。非静止类型的对象可以发生移动,如人物或者交通工具等。在一种实现方式中,终端设备根据前述多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息的具体实施方式可以为:确定前述多个第一对象中的静止类型的第一对象,在确定出的静止类型的第一对象的位置变化信息中,将数量最多的位置变化信息作为参考对象的位置变化信息。通过这种方式,可以提高确定出的参考对象的位置变化信息的准确度。例如,当终端设备确定出的第一对象大部分为非静止类型,大部分非静止类型的第一对象均发生移动,且该大部分非静止类型的第一对象的位置变化信息相同时,即使参考对象实际并未发生移动或者视角切换,也可能误将大部分非静止类型的第一对象的位置变化信息作为参考对象的位置变化信息,导致误认为参考对象发生了移动或者视角切换。

步骤s204:终端设备确定目标对象,该目标对象为位置变化信息与该参考对象的位置变化信息不同的第一对象。

根据步骤s203中的描述可知,位置变化信息与参考对象的位置变化信息不同的第一对象,在第二图像和第一图像对应的时间段内发生了移动。在本申请实施例中,终端设备可以将位置变化信息与参考对象的位置变化信息不同的全部或者部分第一对象均作为目标对象。

在一种实现方式中,第一对象在第一图像中的位置信息可以用于指示该第一对象与参考对象之间的距离;终端设备确定目标对象的具体实施方式可以为:若位置变化信息与参考对象的位置变化信息不同的第一对象的数量大于t1,则终端设备在位置变化信息与该参考对象的位置变化信息不同的第一对象中,将与该参考对象之间的距离最小的前t1个第一对象作为目标对象,该t1大于或等于1。在游戏应用场景下,目标对象可以为参考对象的敌方对象,与参考对象之间的距离越近的对象,越可能击败参考对象。与参考对象之间的距离越远的对象,越不可能击败参考对象。因此,终端将与该参考对象之间的距离最小的前t1个第一对象作为目标对象,可以避免将对参考对象的胜率影响不大的对象作为目标对象。在交通影像系统,目标对象可以为影响安全驾驶的对象。可以理解的是,与参考对象之间的距离越近的对象,对安全驾驶的影响越大。与参考对象之间的距离越远的对象,对安全驾驶的影响越小。因此,终端将与该参考对象之间的距离最小的前t1个第一对象作为目标对象,可以避免将对安全驾驶的影响较小的对象作为目标对象。其中,t1的值可以由终端设备默认设置,也可以根据用户操作更改t1的值,本申请实施例对此不作限定。

在一种实现方式中,第一对象在第一图像中的位置信息可以用于指示该第一对象与参考对象之间的距离;终端设备确定目标对象的具体实施方式可以为:在位置变化信息与参考对象的位置变化信息不同的第一对象中,将与参考对象之间的距离小于预设距离的第一对象作为目标对象。与参考对象之间的距离越近的对象,越可能击败参考对象。与参考对象之间的距离越远的对象,越不可能击败参考对象。因此,将与参考对象之间的距离小于预设距离的第一对象作为目标对象,可以避免将对参考对象的胜率影响不大的对象作为目标对象。

在一种实现方式中,终端设备可以在位置变化信息与参考对象的位置变化信息不同的第一对象中,将非静止类型的第一对象作为目标对象。静止类型的对象不会发生移动,而非静止类型的对象可以发生移动,因此,静止类型的对象对参考对象的胜率影响很小,而非静止类型的对象对参考对象的胜率影响较大。在本申请实施例中,将非静止类型的第一对象作为目标对象,可以避免将对参考对象的胜率影响不大的对象作为目标对象。

在一种实现方式中,终端设备在确定目标对象之后,可以显示该第一图像。在显示该第一图像的情况下,该终端设备可以输出第一提示信息,该第一提示信息可以用于提示目标对象相对参考对象的位置信息发生变化。通过这种方式,可以提示操作终端设备的用户,目标对象相对参考对象的位置信息发生变化。在游戏应用场景下,有利于提高该用户的游戏胜率。在交通影像系统中,有利于提高驾驶安全性。

在一种实现方式中,前述图像集合还可以包括第二图像的前n帧图像,第二图像可以为第一图像的上一帧图像。若目标对象在该图像集合中的每帧图像中同时存在,则终端设备可以触发输出第一提示信息的步骤。其中,n可以大于或等于1。目标对象在该图像集合中的每帧图像中同时存在,可以表明该目标对象在显示图像集合中的第一帧图像和最后一帧图像之间的时间段内均存在。那么可以认为该目标对象在第一图像的下一帧图像中仍存在的概率较高。此时,输出第一提示信息,有利于提高该第一提示信息的利用率。若该目标对象在第一图像的下一帧图像中仍存在的概率较低,表示在显示第一图像之后,目标对象很可能即将消失在参考对象的视角范围内。此时,可以不用输出第一提示信息。

在一种实现方式中,当处于游戏应用场景下时,该游戏中可以存在生命周期较短的对象,即该对象从出现到消失之间的时长较短。生命周期较短的对象,对参考对象对应的用户的胜率影响较小,因此,终端设备可以不用输出对生命周期较短的对象的提示信息。若目标对象在该图像集合中的每帧图像中同时存在,则可以表明该目标对象为生命周期较长的对象。生命周期较长的对象,对参考对象对应的用户的胜率影响较大。通过触发输出第一提示信息的步骤,有利于提高参考对象对应的用户的游戏胜率。其中,n的值可以由终端设备默认设置,也可以根据用户操作更改n的值,本申请实施例对此不作限定。

相较于通过肉眼确定目标对象的方式,采用本申请实施例有利于提高确定相对参考对象的位置信息发生变化的目标对象的效率。

请参见图3a,图3a是本申请实施例提供的另一种图像处理方法的流程示意图,该方法应用于终端设备。该方法详细描述了如何输出第一提示信息。其中,该图像处理方法的执行主体为终端设备,或者为终端设备中的芯片,以下以终端设备为图像处理方法的执行主体为例进行说明。如图3a所示,该方法可以包括但不限于如下步骤:

步骤s301:终端设备确定图像集合中的第一图像包括的待检测对象以及每个待检测对象在该第一图像中的位置信息,该图像集合包括该第一图像和第二图像。

步骤s302:终端设备从该第一图像包括的待检测对象中确定出第一对象,并获取该第一对象在第二图像中的位置信息,该第一对象在该第一图像和该第二图像中同时存在。

步骤s303:终端设备根据该第一对象在该第一图像中的位置信息以及在该第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息,该参考对象在前述图像集合包括的每帧图像中同时存在。

步骤s304:终端设备确定目标对象,该目标对象为位置变化信息与该参考对象的位置变化信息不同的第一对象。

需要说明的是,步骤s301~步骤s304的执行过程可分别参见图2a中步骤s201~步骤s204的具体描述,此处不再赘述。

步骤s305:在终端设备显示该第一图像的情况下,该终端设备输出第一提示信息,该第一提示信息用于提示目标对象相对参考对象的位置信息发生变化,该第一提示信息还用于提示该目标对象在该第一图像中的位置信息。

具体的,终端设备可以通过语音设备输出该第一提示信息,或者,通过显示设备输出该第一提示信息,或者,通过语音设备和显示设备输出该第一提示信息。例如,在确定目标对象之后,终端设备可以通过语音设备提示用户存在相对参考对象的位置信息发生变化的目标对象,进一步的,可以通过显示设备输出目标对象在该第一图像中的位置信息。在本申请实施例中,第一提示信息不仅用于提示目标对象相对参考对象的位置信息发生变化,还用于提示该目标对象在该第一图像中的位置信息。通过这种方式,可以使得操作终端设备的用户掌握目标对象的位置信息,从而有利于提高游戏胜率或者提高驾驶安全性。

在一种实现方式中,终端设备可以通过如下方式以提示该目标对象在该第一图像中的位置信息:通过输出语音信息或者文本信息以提示目标对象在第一图像中的位置信息;通过在第一图像中突出显示目标对象,以提示该目标对象的位置信息;通过在第一图像中添加指示符号,该指示符号用于指示目标对象,从而达到提示该目标对象的位置信息的目的。本申请实施例对用于提示目标对象的位置信息的形式不做限定。

图3b为在第一图像中突出显示目标对象的示意图。在图3b中,终端设备通过突出显示虚线框中区域,可以提示该虚线框中的对象即为目标对象。需要说明的是,图3b中突出显示方框中的区域,仅用于举例,并不构成对本申请实施例的限定。在其他可行的实现方式中,图3b中的方框可以用其他形状代替(如圆形,或者目标对象的轮廓形状等)。

图3c为终端设备在第一图像中添加指示符号,以提示目标对象的位置的示意图。图3c中,灰色填充箭头所指的对象即为目标对象。需要说明的是,图3c中指示符号为灰色填充箭头仅用于举例,并不构成对本申请实施例的限定。在其他可行的实现方式中,指示符号还可以是其他符号。

在一种实现方式中,目标对象对应的第一提示信息可以一直显示于终端设备中,直至该目标对象不存在于该终端设备最新获取的图像中。在一种实现方式中,在显示第一图像的情况下,显示的第一提示信息的数量可以小于或等于a。通过这种方式,可以避免显示过多第一提示信息,导致对第一图像中原本显示的内容形成遮挡。在一种实现方式中,若终端设备确定在显示第一图像的情况下,显示的第一提示信息的数量会大于a,则该终端设备可以优先显示新的第一提示信息。通过这种方式,可以在显示的第一提示信息有限的情况下,优先提示最近相对参考对象的位置信息发生变化的目标对象。其中,a可以是终端设备默认设置的,终端设备也可以根据用户操作更改a的值,本申请实施例对此不做限定。

在一种实现方式中,目标对象对应的第一提示信息在终端设备中显示的时长可以为第一预设时长。若在第一预设时长的过程中,该目标对象又相对参考对象的位置信息发生变化,则从确定该目标对象又相对参考对象的位置信息发生变化时,重新计时第一预设时长且在新计时第一预设时长的过程中,该目标对象未相对参考对象的位置信息发生变化的情况下,取消显示该目标对象对应的第一提示信息。通过这种方式,可以避免第一提示信息的显示时长太短,导致用户并未及时看到该第一提示信息的情况发生。其中,该第一预设时长可以是终端设备默认设置的,终端设备也可以根据用户操作更改第一预设时长的值,本申请实施例对此不做限定。

通过实施本申请实施例,可以使得操作终端设备的用户掌握目标对象的位置信息,从而有利于提高游戏胜率或者提高驾驶安全性。

请参见图4,图4是本申请实施例提供的又一种图像处理方法的流程示意图,该方法应用于终端设备。该方法详细描述了如何确定并输出目标对象的移动信息。其中,该图像处理方法的执行主体为终端设备,或者为终端设备中的芯片,以下以终端设备为图像处理方法的执行主体为例进行说明。如图4所示,该方法可以包括但不限于如下步骤:

步骤s401:终端设备确定图像集合中的第一图像包括的待检测对象以及每个待检测对象在该第一图像中的位置信息,该图像集合包括该第一图像和第二图像。

步骤s402:终端设备从该第一图像包括的待检测对象中确定出第一对象,并获取该第一对象在第二图像中的位置信息,该第一对象在该第一图像和该第二图像中同时存在。

步骤s403:终端设备根据该第一对象在该第一图像中的位置信息以及在该第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息,该参考对象在前述图像集合包括的每帧图像中同时存在。

步骤s404:终端设备确定目标对象,该目标对象为位置变化信息与该参考对象的位置变化信息不同的第一对象。

需要说明的是,步骤s401~步骤s404的执行过程可分别参见图2a中步骤s201~步骤s204的具体描述,此处不再赘述。

步骤s405:在终端设备显示该第一图像的情况下,该终端设备输出第一提示信息,该第一提示信息用于提示目标对象相对参考对象的位置信息发生变化。

步骤s406:终端设备根据目标对象在第一图像中的位置信息以及在第一图像的前m帧图像中的位置信息,预测得到该目标对象的移动信息,该移动信息包括移动方向或移动轨迹。

其中,m大于或等于1。该第一图像的前m帧图像包括前述第二图像,该第二图像为该第一图像的上一帧图像。具体的,终端设备根据目标对象在第一图像中的位置信息以及在第一图像的前m帧图像中的位置信息,可以确定目标对象的历史移动方向,进而可以预测得到该目标对象(未来)的移动方向。终端设备根据目标对象在第一图像中的位置信息以及在第一图像的前m帧图像中的位置信息,可以确定目标对象的历史移动方向以及历史移动速度。进一步的,终端设备可以获取该终端设备输出图像的帧率,然后结合历史移动方向、历史移动速度以及该目标对象在第一图像中的位置信息,可以预测得到该目标对象在第一图像的下一帧图像中的位置信息。进一步的,可以预测得到该目标对象在第一图像之后的第二帧图像中的位置信息。预测得到的位置信息可以组成该目标对象(未来)的移动轨迹。

其中,m的值可以由终端设备默认设置,也可以根据用户操作更改m的值,本申请实施例对此不作限定。

步骤s407:在终端设备显示该第一图像的情况下,终端设备输出该移动信息。

在本申请实施例中,终端设备可以通过语音设备和/或显示设备以输出该目标对象的移动信息。

在一种实现方式中,终端设备可以根据目标对象在第一图像中的位置信息以及在该第一图像的前m帧图像中的位置信息,确定该目标对象的历史移动信息,该历史移动信息包括历史移动方向或历史移动轨迹,m大于或等于1;该第一图像的前m帧图像包括第二图像,该第二图像为该第一图像的上一帧图像;在终端设备显示该第一图像的情况下,输出该历史移动信息。可以理解的是,在游戏应用场景下,在团队作战游戏中,属于同一队伍的各个游戏对象的移动路线基本相同。因此通过输出目标对象的历史移动信息,有利于确定该目标对象的队友的位置信息。

需要说明的是,在本申请实施例中,终端设备可以仅输出目标对象的移动信息或者历史移动信息中的一种,或者,终端设备可以既输出目标对象的移动信息又输出历史移动信息。还需要说明的是,上述步骤中的部分步骤之间可以不存在先后关系。例如,可以先执行步骤s405,或者先执行步骤s407,或者同时执行步骤s405和步骤s407。

通过输出该目标对象的移动信息,在游戏应用场景下,可以确定参考对象的敌方对象的未来所处的位置,进而可以提前准备好应对措施(如埋伏或者提前瞄准射击等),从而有利于提高游戏胜率。在交通影像系统中,通过输出目标对象的移动信息,可以确定该目标对象未来所处的位置是否处于本车辆的路线上,从而有利于提高驾驶安全性。

请参见图5a,图5a是本申请实施例提供的又一种图像处理方法的流程示意图,该方法应用于终端设备。该方法详细描述了如何确定出第二对象。其中,该图像处理方法的执行主体为终端设备,或者为终端设备中的芯片,以下以终端设备为图像处理方法的执行主体为例进行说明。如图5a所示,该方法可以包括但不限于如下步骤:

步骤s501:终端设备确定图像集合中的第一图像包括的待检测对象以及每个待检测对象在该第一图像中的位置信息,该图像集合包括该第一图像和第二图像。

步骤s502:终端设备从该第一图像包括的待检测对象中确定出第一对象,并获取该第一对象在第二图像中的位置信息,该第一对象在该第一图像和该第二图像中同时存在。

步骤s503:终端设备根据该第一对象在该第一图像中的位置信息以及在该第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息,该参考对象在前述图像集合包括的每帧图像中同时存在。

步骤s504:终端设备确定目标对象,该目标对象为位置变化信息与该参考对象的位置变化信息不同的第一对象。

需要说明的是,步骤s501~步骤s504的执行过程可分别参见图2a中步骤s201~步骤s204的具体描述,此处不再赘述。

步骤s505:终端设备从第一图像包括的待检测对象中确定出第二对象,该第二对象不存在于第二图像中。

具体的,终端设备可以将存在于第一图像但不存在于第二图像中的所有或者部分对象作为第二对象。存在于第一图像但不存在于第二图像中的对象为在第一图像中新出现的对象。通过确定第二对象,可以使得终端设备确定第一图像中存在新的对象。进一步的,终端设备通过该第二对象在第一图像中的位置信息,有利于提高游戏胜率或者提高驾驶安全性。以图5b所示的确定第二对象的场景示意图为例,其中,第二图像为第一图像的上一帧图像。由图5b可知,第二图像中的待检测对象包括房屋、植物(如树、草丛等)、石头和道路,第一图像中的待检测对象包括房屋、植物(如树、草丛等)、石头、道路和奔跑的人物。相比较第二图像,第一图像中新出现的对象为奔跑的人物,因此,终端设备可以将第一图像中奔跑的人物作为第二对象。

在一种实现方式中,若确定存在位置变化信息与参考对象的位置变化信息不同的第一对象,则终端设备可以确定目标对象,并输出第一提示信息;若第一图像中存在不存在于第二图像中的待检测对象,则可以从存在于第一图像但不存在于第二图像中的待检测对象中确定出第二对象,并输出第二提示信息。

在一种实现方式中,在终端设备显示第一图像的情况下,该终端设备可以输出第二提示信息,该第二提示信息可以用于提示该第二对象为第一图像中新出现的对象。通过这种方式,可以提示操作终端设备的用户,第一图像中存在新出现的对象,在游戏应用场景下,有利于提高该用户的游戏胜率。在交通影像系统(该用户可以为车辆的司机或者乘客)中,有利于提高驾驶安全性。在一种实现方式中,终端设备可以通过语音设备输出该第二提示信息,或者,通过显示设备输出该第二提示信息,或者,通过语音设备和显示设备输出该第二提示信息。

在一种实现方式中,该第二提示信息还可以用于提示第二对象在第一图像中的位置信息。通过这种方式,可以使得操作终端设备的用户掌握第一图像中新出现的对象(即第二对象)的位置信息,从而有利于提高游戏胜率或者提高驾驶安全性。在一种实现方式中,终端设备可以通过如下方式以提示该第二对象在该第一图像中的位置信息:通过输出语音信息或者文本信息以提示第二对象在第一图像中的位置信息;通过在第一图像中突出显示第二对象,以提示该第二对象的位置信息;通过在第一图像中添加指示符号,该指示符号用于指示第二对象,从而达到提示该第二对象的位置信息的目的。本申请实施例对用于提示第二对象的位置信息的形式不做限定。

在一种实现方式中,第一图像中的待检测对象在第一图像中的位置信息可以用于指示该待检测对象与参考对象之间的距离;终端设备从第一图像包括的待检测对象中确定出第二对象的具体实施方式可以为:若存在于第一图像且不存在于第二图像的待检测对象的数量大于t2,则终端设备在存在于第一图像且不存在于第二图像的待检测对象中,将与参考对象之间的距离最小的前t2个待检测对象作为第二对象,t2大于或等于1。

在游戏应用场景下,第二对象可以为参考对象的敌方对象,与参考对象之间的距离越近的对象,越可能击败参考对象。与参考对象之间的距离越远的对象,越不可能击败参考对象。因此,终端将与该参考对象之间的距离最小的前t2个待检测对象作为第二对象,可以避免将对参考对象的胜率影响不大的待检测对象作为第二对象。在交通影像系统,第二对象可以为影响安全驾驶的对象。可以理解的是,与参考对象之间的距离越近的对象,对安全驾驶的影响越大。与参考对象之间的距离越远的对象,对安全驾驶的影响越小。因此,终端将与该参考对象之间的距离最小的前t2个待检测对象作为第二对象,可以避免将对安全驾驶的影响较小的待检测对象作为第二对象。其中,t2的值可以由终端设备默认设置,也可以根据用户操作更改t2的值,本申请实施例对此不作限定。

在一种实现方式中,第二对象对应的第二提示信息可以一直显示于终端设备中,直至该第二对象不存在于该终端设备最新获取的图像中。在一种实现方式中,在显示第一图像的情况下,显示的第二提示信息的数量可以小于或等于b。通过这种方式,可以避免显示过多第二提示信息,导致对第一图像中原本显示的内容形成遮挡。在一种实现方式中,若终端设备确定在显示第一图像的情况下,显示的第二提示信息的数量会大于b,则该终端设备可以优先显示新的第二提示信息。通过这种方式,可以在显示的第二提示信息有限的情况下,优先提示最新出现的新对象。其中,b可以是终端设备默认设置的,终端设备也可以根据用户操作更改b的值,本申请实施例对此不做限定。

在一种实现方式中,第二对象对应的第二提示信息在终端设备中显示的时长可以为第二预设时长。通过这种方式,可以避免第二提示信息的显示时长太短,导致用户并未及时看到该第二提示信息的情况发生。其中,该第二预设时长可以是终端设备默认设置的,终端设备也可以根据用户操作更改第二预设时长的值,本申请实施例对此不做限定。

在一种实现方式中,终端设备在显示第一图像的情况下,显示的第一提示信息和第二提示信息的总数量可以小于或等于c。通过这种方式,可以避免显示过多提示信息(第一提示信息和第二提示信息),导致对第一图像中原本显示的内容形成遮挡。其中,c可以是终端设备默认设置的,终端设备也可以根据用户操作更改c的值,本申请实施例对此不做限定。

在本申请实施例中,通过确定第二对象,可以使得终端设备确定第一图像中存在新的对象。进一步的,终端设备通过该第二对象在第一图像中的位置信息,有利于提高游戏胜率或者提高驾驶安全性。

上述详细阐述了本申请实施例的方法,下面提供了本申请实施例的装置。

请参见图6,图6是本申请实施例提供的一种图像处理装置的结构示意图,该图像处理装置60可以为终端设备或具有终端设备功能的装置(例如芯片)。图像处理装置60用于执行图2a-图5a对应的方法实施例中终端设备所执行的步骤,图像处理装置60可以包括:

获取模块601,用于获取图像集合中的第一图像;

确定模块602,用于确定图像集合中的第一图像包括的待检测对象以及每个待检测对象在该第一图像中的位置信息,该图像集合包括该第一图像和第二图像;

确定模块602,还用于从该第一图像包括的待检测对象中确定出第一对象,并获取该第一对象在第二图像中的位置信息,该第一对象在该第一图像和该第二图像中同时存在;

确定模块602,还用于根据该第一对象在该第一图像中的位置信息以及在该第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息,该参考对象在前述图像集合包括的每帧图像中同时存在;

确定模块602,还用于确定目标对象,该目标对象为位置变化信息与该参考对象的位置变化信息不同的第一对象。

在一种实现方式中,第一对象的数量可以为多个,确定模块602用于根据第一对象在第一图像中的位置信息以及在第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息时,具体可以用于:针对多个第一对象中的每个第一对象,根据该第一对象在第一图像中的位置信息以及在第二图像中的位置信息,确定该第一对象的位置变化信息;根据多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息。

在一种实现方式中,确定模块602用于根据多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息时,具体可以用于以下任一步骤:在多个第一对象中各个第一对象的位置变化信息中,将数量最多的位置变化信息作为参考对象的位置变化信息;在多个第一对象中,且在第二图像中位于参考对象对应的预设范围内的第一对象的位置变化信息中,将数量最多的位置变化信息作为该参考对象的位置变化信息。

在一种实现方式中,图像处理装置60还可以包括输出模块603,该输出模块603可以用于在终端设备显示第一图像的情况下,输出第一提示信息,该第一提示信息用于提示目标对象相对参考对象的位置信息发生变化。

在一种实现方式中,该第一提示信息还可以用于提示该目标对象在第一图像中的位置信息。

在一种实现方式中,前述图像集合还可以包括第二图像的前n帧图像,该第二图像为第一图像的上一帧图像。图像处理装置60还可以包括处理模块604,处理模块604可以用于若目标对象在图像集合中的每帧图像中同时存在,则触发输出第一提示信息的步骤,n大于或等于1。

在一种实现方式中,处理模块604还可以用于根据目标对象在第一图像中的位置信息以及在第一图像的前m帧图像中的位置信息,预测得到该目标对象的移动信息,该移动信息包括移动方向或移动轨迹,m大于或等于1;该第一图像的前m帧图像包括第二图像,该第二图像为该第一图像的上一帧图像;输出模块603还可以用于在终端设备显示第一图像的情况下,输出该移动信息。

在一种实现方式中,处理模块604还可以用于根据目标对象在第一图像中的位置信息以及在第一图像的前m帧图像中的位置信息,确定该目标对象的历史移动信息,该历史移动信息包括历史移动方向或历史移动轨迹,m大于或等于1;该第一图像的前m帧图像包括第二图像,该第二图像为该第一图像的上一帧图像;输出模块603还可以用于在终端设备显示第一图像的情况下,输出该历史移动信息。

在一种实现方式中,第一对象在第一图像中的位置信息可以用于指示该第一对象与参考对象之间的距离;确定模块602用于确定目标对象时,具体可以用于:若位置变化信息与参考对象的位置变化信息不同的第一对象的数量大于t1,则在位置变化信息与该参考对象的位置变化信息不同的第一对象中,将与该参考对象之间的距离最小的前t1个第一对象作为目标对象,t1大于或等于1。

在一种实现方式中,确定模块602还可以用于从第一图像包括的待检测对象中确定出第二对象,该述第二对象不存在于第二图像中。

在一种实现方式中,输出模块603还可以用于:在终端设备显示述第一图像的情况下,输出第二提示信息,该述第二提示信息用于提示第二对象为该第一图像中新出现的对象。

在一种实现方式中,该第二提示信息还可以用于提示第二对象在第一图像中的位置信息。

在一种实现方式中,第一图像中的待检测对象在第一图像中的位置信息可以用于指示该待检测对象与参考对象之间的距离;确定模块602用于从第一图像包括的待检测对象中确定出第二对象时,具体可以用于:若存在于第一图像且不存在于第二图像的待检测对象的数量大于t2,则在存在于第一图像且不存在于第二图像的待检测对象中,将与该参考对象之间的距离最小的前t2个待检测对象作为第二对象,t2大于或等于1。

需要说明的是,图6对应的实施例中未提及的内容以及各个模块执行步骤的具体实现方式可参见图2a-图5a所示实施例以及前述内容,这里不再赘述。

在一种实现方式中,图6中的各个模块所实现的相关功能可以结合处理器来实现。参见图7,图7是本申请实施例提供的一种图像处理装置的结构示意图,该图像处理装置可以为终端设备或具有终端设备功能的装置(例如芯片)。该图像处理装置70可以包括处理器701、存储器702和输入输出模块703,处理器701、存储器702和输入输出模块703可以通过一条或多条通信总线相互连接,也可以通过其它方式相连接。图6所示的获取模块601、确定模块602、输出模块603和处理模块604所实现的相关功能可以通过同一个处理器701来实现,也可以通过多个不同的处理器701来实现。

处理器701被配置为执行图2a-图5a所述方法中终端设备相应的功能。该处理器701可以包括一个或多个处理器,例如该处理器701可以是一个或多个中央处理器(centralprocessingunit,cpu),网络处理器(networkprocessor,np),硬件芯片或者其任意组合。在处理器701是一个cpu的情况下,该cpu可以是单核cpu,也可以是多核cpu。

存储器702用于存储程序代码等。存储器702可以包括易失性存储器(volatilememory),例如随机存取存储器(randomaccessmemory,ram);存储器702也可以包括非易失性存储器(non-volatilememory),例如只读存储器(read-onlymemory,rom),快闪存储器(flashmemory),硬盘(harddiskdrive,hdd)或固态硬盘(solid-statedrive,ssd);存储器702还可以包括上述种类的存储器的组合。

输入输出模块703可以用于输出第一提示信息。输入输出模块703可以由输入模块和输出模块组成,输入模块可以包括图1b中的受话器、麦克风或摄像头中的一种或多种。输出模块可以包括图1b中的扬声器、耳机接口或显示屏中的一种或多种。

处理器701可以调用存储器702中存储的程序代码以使图像处理装置70执行以下操作:

确定图像集合中的第一图像包括的待检测对象以及每个待检测对象在该第一图像中的位置信息,该图像集合包括该第一图像和第二图像;

从该第一图像包括的待检测对象中确定出第一对象,并获取该第一对象在第二图像中的位置信息,该第一对象在该第一图像和该第二图像中同时存在;

根据该第一对象在该第一图像中的位置信息以及在该第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息,该参考对象在前述图像集合包括的每帧图像中同时存在;

确定目标对象,该目标对象为位置变化信息与该参考对象的位置变化信息不同的第一对象。

在一种实现方式中,第一对象的数量可以为多个,处理器701执行根据第一对象在第一图像中的位置信息以及在第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息时,具体可以执行以下操作:针对多个第一对象中的每个第一对象,根据该第一对象在第一图像中的位置信息以及在第二图像中的位置信息,确定该第一对象的位置变化信息;根据多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息。

在一种实现方式中,处理器701执行根据多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息时,具体可以执行以下操任一操作:在多个第一对象中各个第一对象的位置变化信息中,将数量最多的位置变化信息作为参考对象的位置变化信息;在多个第一对象中,且在第二图像中位于参考对象对应的预设范围内的第一对象的位置变化信息中,将数量最多的位置变化信息作为该参考对象的位置变化信息。

在一种实现方式中,处理器701还可以执行以下操作:在终端设备显示第一图像的情况下,输出第一提示信息,该第一提示信息用于提示目标对象相对参考对象的位置信息发生变化。

在一种实现方式中,该第一提示信息还可以用于提示该目标对象在第一图像中的位置信息。

在一种实现方式中,前述图像集合还可以包括第二图像的前n帧图像,该第二图像为第一图像的上一帧图像。处理器701还可以执行以下操作:若目标对象在图像集合中的每帧图像中同时存在,则触发输出第一提示信息的步骤,n大于或等于1。

在一种实现方式中,处理器701还可以执行以下操作:根据目标对象在第一图像中的位置信息以及在第一图像的前m帧图像中的位置信息,预测得到该目标对象的移动信息,该移动信息包括移动方向或移动轨迹,m大于或等于1;该第一图像的前m帧图像包括第二图像,该第二图像为该第一图像的上一帧图像;在终端设备显示第一图像的情况下,输出该移动信息。

在一种实现方式中,处理器701还可以执行以下操作:根据目标对象在第一图像中的位置信息以及在第一图像的前m帧图像中的位置信息,确定该目标对象的历史移动信息,该历史移动信息包括历史移动方向或历史移动轨迹,m大于或等于1;该第一图像的前m帧图像包括第二图像,该第二图像为该第一图像的上一帧图像;在终端设备显示第一图像的情况下,输出该历史移动信息。

在一种实现方式中,第一对象在第一图像中的位置信息可以用于指示该第一对象与参考对象之间的距离;处理器701执行确定目标对象时,具体可以执行以下操作:若位置变化信息与参考对象的位置变化信息不同的第一对象的数量大于t1,则在位置变化信息与该参考对象的位置变化信息不同的第一对象中,将与该参考对象之间的距离最小的前t1个第一对象作为目标对象,t1大于或等于1。

在一种实现方式中,处理器701还可以执行以下操作:从第一图像包括的待检测对象中确定出第二对象,该述第二对象不存在于第二图像中。

在一种实现方式中,处理器701还可以执行以下操作:在终端设备显示述第一图像的情况下,输出第二提示信息,该述第二提示信息用于提示第二对象为该第一图像中新出现的对象。

在一种实现方式中,该第二提示信息还可以用于提示第二对象在第一图像中的位置信息。

在一种实现方式中,第一图像中的待检测对象在第一图像中的位置信息可以用于指示该待检测对象与参考对象之间的距离;处理器701执行从第一图像包括的待检测对象中确定出第二对象时,具体可以执行以下操作:若存在于第一图像且不存在于第二图像的待检测对象的数量大于t2,则在存在于第一图像且不存在于第二图像的待检测对象中,将与该参考对象之间的距离最小的前t2个待检测对象作为第二对象,t2大于或等于1。

进一步地,处理器701还可以执行图2a-图5a所示实施例中终端设备对应的操作,具体可参见方法实施例中的描述,在此不再赘述。

本申请实施例还提供一种计算机可读存储介质,可以用于存储图6所示实施例中图像处理装置所用的计算机软件指令,其包含用于执行上述实施例中为终端设备所设计的程序。

上述计算机可读存储介质包括但不限于快闪存储器、硬盘、固态硬盘。

本申请实施例还提供一种计算机程序产品,该计算机产品被计算设备运行时,可以执行上述图2a-图5a实施例中为终端设备所设计的方法。

在本申请实施例中还提供一种芯片,包括处理器和存储器,该存储器用包括处理器和存储器,该存储器用于存储计算机程序,该处理器用于从存储器中调用并运行该计算机程序,该计算机程序用于实现上述方法实施例中的方法。

本领域普通技术人员可以意识到,结合本申请中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。

在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者通过所述计算机可读存储介质进行传输。所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(dsl))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,dvd)、或者半导体介质(例如固态硬盘(solidstatedisk,ssd))等。

以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。


技术特征:

1.一种图像处理方法,应用于终端设备,其特征在于,所述方法包括:

确定图像集合中的第一图像包括的待检测对象以及每个待检测对象在所述第一图像中的位置信息,所述图像集合包括所述第一图像和第二图像;

从所述第一图像包括的待检测对象中确定出第一对象,并获取所述第一对象在所述第二图像中的位置信息,所述第一对象在所述第一图像和所述第二图像中同时存在;

根据所述第一对象在所述第一图像中的位置信息以及在所述第二图像中的位置信息,确定所述第一对象的位置变化信息以及参考对象的位置变化信息,所述参考对象在所述图像集合包括的每帧图像中同时存在;

确定目标对象,所述目标对象为位置变化信息与所述参考对象的位置变化信息不同的第一对象。

2.根据权利要求1所述的方法,其特征在于,所述第一对象的数量为多个,所述根据所述第一对象在所述第一图像中的位置信息以及在所述第二图像中的位置信息,确定所述第一对象的位置变化信息以及参考对象的位置变化信息,包括:

针对多个所述第一对象中的每个第一对象,根据所述第一对象在所述第一图像中的位置信息以及在所述第二图像中的位置信息,确定所述第一对象的位置变化信息;

根据所述多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息。

3.根据权利要求2所述的方法,其特征在于,所述根据所述多个第一对象中各个第一对象的位置变化信息,确定参考对象的位置变化信息,包括以下任一步骤:

在所述多个第一对象中各个第一对象的位置变化信息中,将数量最多的位置变化信息作为参考对象的位置变化信息;

在所述多个第一对象中,且在所述第二图像中位于所述参考对象对应的预设范围内的第一对象的位置变化信息中,将数量最多的位置变化信息作为所述参考对象的位置变化信息。

4.根据权利要求1所述的方法,其特征在于,所述方法还包括:

在所述终端设备显示所述第一图像的情况下,输出第一提示信息,所述第一提示信息用于提示所述目标对象相对所述参考对象的位置信息发生变化。

5.根据权利要求4所述的方法,其特征在于,所述第一提示信息还用于提示所述目标对象在所述第一图像中的位置信息。

6.根据权利要求4所述的方法,其特征在于,所述图像集合还包括所述第二图像的前n帧图像,所述第二图像为所述第一图像的上一帧图像,所述方法还包括:

若所述目标对象在所述图像集合中的每帧图像中同时存在,则触发所述输出第一提示信息的步骤,所述n大于或等于1。

7.根据权利要求4所述的方法,其特征在于,所述方法还包括:

根据所述目标对象在所述第一图像中的位置信息以及在所述第一图像的前m帧图像中的位置信息,预测得到所述目标对象的移动信息,所述移动信息包括移动方向或移动轨迹,所述m大于或等于1;所述第一图像的前m帧图像包括所述第二图像,所述第二图像为所述第一图像的上一帧图像;

在所述终端设备显示所述第一图像的情况下,输出所述移动信息。

8.根据权利要求4所述的方法,其特征在于,所述方法还包括:

根据所述目标对象在所述第一图像中的位置信息以及在所述第一图像的前m帧图像中的位置信息,确定所述目标对象的历史移动信息,所述历史移动信息包括历史移动方向或历史移动轨迹,所述m大于或等于1;所述第一图像的前m帧图像包括所述第二图像,所述第二图像为所述第一图像的上一帧图像;

在所述终端设备显示所述第一图像的情况下,输出所述历史移动信息。

9.根据权利要求1~8任一项所述的方法,其特征在于,所述第一对象在所述第一图像中的位置信息用于指示所述第一对象与所述参考对象之间的距离;所述确定目标对象,包括:

若位置变化信息与所述参考对象的位置变化信息不同的第一对象的数量大于t1,则在位置变化信息与所述参考对象的位置变化信息不同的第一对象中,将与所述参考对象之间的距离最小的前t1个第一对象作为目标对象,所述t1大于或等于1。

10.根据权利要求1~8任一项所述的方法,其特征在于,所述方法还包括:

从所述第一图像包括的待检测对象中确定出第二对象,所述第二对象不存在于所述第二图像中。

11.根据权利要求10所述的方法,其特征在于,所述方法还包括:

在所述终端设备显示所述第一图像的情况下,输出第二提示信息,所述第二提示信息用于提示所述第二对象为所述第一图像中新出现的对象。

12.根据权利要求11所述的方法,其特征在于,所述第二提示信息还用于提示所述第二对象在所述第一图像中的位置信息。

13.根据权利要求10所述的方法,其特征在于,所述第一图像中的待检测对象在所述第一图像中的位置信息用于指示所述待检测对象与所述参考对象之间的距离;所述从所述第一图像包括的待检测对象中确定出第二对象,包括:

若存在于所述第一图像且不存在于所述第二图像的待检测对象的数量大于t2,则在存在于所述第一图像且不存在于所述第二图像的待检测对象中,将与所述参考对象之间的距离最小的前t2个待检测对象作为第二对象,所述t2大于或等于1。

14.一种图像处理装置,其特征在于,包括用于执行如权利要求1~13任一项所述的方法的单元。

15.一种图像处理装置,其特征在于,包括处理器和存储器,所述存储器中存储有程序指令,所述处理器调用所述存储器中存储的程序指令以使所述图像处理装置执行如权利要求1~13任一项所述的方法。

16.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令被处理器执行时使所述处理器执行如权利要求1~13任一项所述的方法。

技术总结
本申请实施例公开了一种图像处理方法及图像处理装置,应用于终端设备。该方法包括:确定第一图像中的待检测对象以及每个待检测对象在该第一图像中的位置信息,图像集合包括该第一图像和第二图像;从该第一图像包括的待检测对象中确定出第一对象,并获取该第一对象在第二图像中的位置信息;根据该第一对象在该第一图像中的位置信息以及在该第二图像中的位置信息,确定该第一对象的位置变化信息以及参考对象的位置变化信息;定目标对象,该目标对象为位置变化信息与该参考对象的位置变化信息不同的第一对象。通过实施本申请实施例,有利于提高确定相对参考对象的位置信息发生变化的目标对象的效率。

技术研发人员:钟辉;黄一炜
受保护的技术使用者:华为技术有限公司
技术研发日:2020.01.22
技术公布日:2020.06.09

转载请注明原文地址: https://bbs.8miu.com/read-20923.html

最新回复(0)