本申请涉及计算机技术领域,尤其涉及一种图像处理方法、装置、电子设备及存储介质。
背景技术:
在图像处理领域中,常常需要获得高分辨率的图像或者还原压缩图像的分辨率,即对图像进行上采样处理。现有的上采样算法主要有插值算法或基于深度学习的算法等,其基本原理都是根据邻近像素点的颜色特征值计算插入的像素点的颜色特征值,由于这些算法只依据局部邻近像素点的颜色信息来计算插入的像素点的颜色信息,导致上采样后的图像会出现明显的锯齿以及色彩边缘噪声等,降低了上采样图像的质量和显示效果。
技术实现要素:
本申请实施例提供一种图像处理方法、装置、电子设备及存储介质,能够明显削弱上采样图像中出现的锯齿、色彩边缘噪声等,提高上采样图像的质量和显示效果。
一方面,本申请一实施例提供了一种图像处理方法,包括:
根据原图像中颜色特征值落入各个颜色特征区间内的像素点的数量,获得所述原图像对应的第一直方图;
根据所述原图像的上采样图像中颜色特征值落入所述各个颜色特征区间内的像素点的数量,获得所述上采样图像对应的第二直方图;
根据所述第一直方图和所述第二直方图,分别确定出所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间;
根据所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,对所述上采样图像中落入所述各个颜色特征区间的像素点的颜色特征值进行处理,获得目标图像。
一方面,本申请一实施例提供了一种图像处理装置,包括:
第一统计模块,用于根据原图像中颜色特征值落入各个颜色特征区间内的像素点的数量,获得所述原图像对应的第一直方图;
第二统计模块,用于根据所述原图像的上采样图像中颜色特征值落入所述各个颜色特征区间内的像素点的数量,获得所述上采样图像对应的第二直方图;
匹配模块,用于根据所述第一直方图和所述第二直方图,分别确定出所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间;
处理模块,用于根据所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,对所述上采样图像中落入所述各个颜色特征区间的像素点的颜色特征值进行处理,获得目标图像。
一方面,本申请一实施例提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,处理器执行计算机程序时实现上述任一种方法的步骤。
一方面,本申请一实施例提供了一种计算机可读存储介质,其上存储有计算机程序指令,该计算机程序指令被处理器执行时实现上述任一种方法的步骤。
本申请实施例提供的图像处理方法、装置、电子设备及存储介质,能够明显削弱上采样图像中出现的锯齿、色彩边缘噪声等,提高上采样图像的质量和显示效果,更好地还原图像细节,且处理方式简单高效,尤其适用于对处理效率要求高的应用场合,如视频实时传输。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单地介绍,显而易见地,下面所介绍的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1a为本申请实施例提供的图像处理方法的应用场景示意图;
图1b为本申请实施例提供的图像处理方法的应用场景示意图;
图1c为本申请实施例提供的图像处理方法的应用于神经网络的示意图;
图1d为本申请实施例提供的图像处理方法的应用于神经网络的示意图;
图2为本申请一实施例提供的图像处理方法的流程示意图;
图3为本申请一实施例提供的图像对应的灰度值以及统计灰度值得到的直方图;
图4为本申请一实施例提供的确定出第二直方图中各个颜色特征区间所匹配的目标颜色特征区间的流程示意图;
图5为本申请一实施例提供的上采样图像和目标图像的对应图;
图6为本申请一实施例提供的图像处理装置的结构示意图;
图7为本申请一实施例提供的电子设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。
为了方便理解,下面对本申请实施例中涉及的名词进行解释:
直方图(histogram),又称质量分布图,是一种统计报告图,由一系列高度不等的纵向条纹或线段表示数据分布的情况,一般用横轴表示数据类型,纵轴表示分布情况。在本申请中,预先将颜色特征值划分成多个颜色特征区间,即直方图的横轴为颜色特征区间,统计一个图像中的像素点的颜色特征值落入各个颜色特征区间中的数量,得到表征该图像的颜色特征分布情况的直方图。
rgb:是工业界的一种颜色标准,是通过对红(r)、绿(g)、蓝(b)三个颜色通道的变化以及它们相互之间的叠加来得到各式各样的颜色的,rgb即是代表红、绿、蓝三个通道的颜色,这个标准几乎包括了人类视力所能感知的所有颜色,是运用最广的颜色系统之一。
yuv:是一种颜色编码方法,常使用在各个视频处理组件中。yuv在对照片或视频编码时,考虑到人类的感知能力,允许降低色度的带宽。yuv是编译true-color颜色空间(colorspace)的种类,y'uv、yuv、ycbcr、ypbpr等都可以称为yuv,彼此有重叠。“y”表示明亮度(luminance或luma),也就是灰阶值,“u”和“v”表示的则是色度(chrominance或chroma),作用是描述影像色彩及饱和度,用于指定像素的颜色。
cielab:cielab是cie的一个颜色系统,表色体系,基于cielab的意思是基于这个颜色系统之上,基本是用于确定某个颜色的数值信息。lab模式是由国际照明委员会(cie)于1976年公布的一种色彩模式。是cie组织确定的一个理论上包括了人眼可见的所有色彩的色彩模式。lab模式弥补了rgb与cmyk两种彩色模式的不足,是photoshop用来从一种色彩模式向另一种色彩模式转换时使用的一种内部色彩模式。lab模式也是由三个通道组成,第一个通道是明度,即“l”。a通道的颜色是从红色到深绿;b通道则是从蓝色到黄色。在表达色彩范围上,最全的是lab模式,其次是rgb模式,最窄的是cmyk模式。也就是说lab模式所定义的色彩最多,且与光线及设备无关,并且处理速度与rgb模式同样快,比cmyk模式快数倍。
颜色特征区间:是对颜色特征对应的颜色特征值的范围进行划分后得到的多个区间范围。本申请中,颜色特征可以是像素点的灰度、亮度、颜色等等表示像素点色彩特征的数据。例如,例如,颜色特征为像素点的灰度,灰度值的范围为0~255,可以将0~255的灰度值范围划分成多个区间范围,每个区间范围作为一个颜色特征区间,如0~15为一个颜色特征区间,16~31为一个颜色特征区间,以此类推一共可得到16个连续的颜色特征区间b1~b16,为方便描述,可将颜色特征区间bi的等级记为i。
下采样(subsampled):也可以称为降采样(downsampled),其目的是降低图像的分辨率,即缩减图像的像素点数量,使得图像符合显示区域的大小或生成原图像对应的缩略图。
上采样(upsampling):也可以为图像超分辨率(imagesuperresolution),其目的是提高图像的分别率,即增加图像的像素点数量,使得图像可以适应高分辨率的应用场合或者恢复原图像丢失的细节。实际应用中,可通过图像插值(interpolating)或基于深度学习的算法对图像进行上采样处理。常见的插值算法有:最近邻插值、双线性插值、双三次插值算法、均值插值、中值插值等方法。
通常在需要获取到高分辨率的图像时,可对原图像进行上采样,以还原或重建原图像中更多的细节,进而在更高分辨率的显示设备进行显示。或者,在利用神经网络对图像进行处理时,为了保证输入图像的分别率适合神经网络的输入大小,通常会先对输入图像进行下采样后再输入神经网络,然后对神经网络的输出图像进行上采样,以将输出图像的还原至原始的分辨率;在神经网络中也可设置至少一个下采样网络层,通过在处理过程中降图像的分辨率来提高处理效率,并通过设置至少一个上采样网络层,还原下采样图像的分辨率。
附图中的任何元素数量均用于示例而非限制,以及任何命名都仅用于区分,而不具有任何限制含义。
在具体实践过程中,现有的上采样算法主要有图像插值算法或基于深度学习的算法等,任何一种插值算法的基本原理都是根据邻近像素点的颜色特征值计算插入的像素点的颜色特征值,而基于深度学习的算法的基本原理也是通过神经网络学习邻近像素点之间的关系得到插入的像素点,由于这些算法只依据局部邻近像素点的颜色信息来计算插入的像素点的颜色信息,导致上采样后的图像会出现明显的锯齿以及色彩边缘噪声等,且图像边缘处会出现缺上、下、左、右其中一个或二个方向的邻近像素集,目前的算法只能用可用邻近像素点进行填充,导致图像边缘处的像素点效果与预期相差大,这些都降低了上采样图像的质量和显示效果。
为此,本申请提出了一种图像处理方法,包括:根据原图像中颜色特征值落入各个颜色特征区间内的像素点的数量,获得原图像对应的第一直方图;根据原图像的上采样图像中颜色特征值落入各个颜色特征区间内的像素点的数量,获得上采样图像对应的第二直方图;根据第一直方图和第二直方图,分别确定出第二直方图中各个颜色特征区间所匹配的目标颜色特征区间;根据各个颜色特征区间所匹配的目标颜色特征区间,对上采样图像中落入各个颜色特征区间的像素点的颜色特征值进行处理,获得目标图像。上述图像处理方法中,第一直方图表征原图像中颜色特征分布情况的直方图,第二直方图表征上采样图像的颜色特征分布情况的直方图,根据第一直方图和第二直方图揭示的颜色特征分布情况,确定出第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,然后根据所匹配的目标颜色特征区间,对上采样图像中的像素点的颜色特征值逐一进行调整,得到上采样图像对应的目标图像,使得上采样图像对应的目标图像的颜色特征分布情况尽可能的与原图像的颜色特征分布情况一致,该方法能够明显削弱上采样图像中出现的锯齿、色彩边缘噪声等,提高上采样图像的质量和显示效果,更好地还原图像细节,且处理方式简单高效,尤其适用于对处理效率要求高的应用场合,如视频实时传输。
在介绍完本申请实施例的设计思想之后,下面对本申请实施例的技术方案能够适用的应用场景做一些简单介绍,需要说明的是,以下介绍的应用场景仅用于说明本申请实施例而非限定。在具体实施时,可以根据实际需要灵活地应用本申请实施例提供的技术方案。
参考图1a,其为本申请实施例提供的图像处理方法的应用场景示意图。该应用场景包括多个终端设备101(包括终端设备101-1、终端设备101-2、……终端设备101-n)、后台服务器102、数据存储服务器103和检测服务器104。其中,各个终端设备101和后台服务器102之间通过无线或有线网络连接,终端设备101包括但不限于桌面计算机、智能手机、移动电脑、平板电脑、媒体播放器、智能可穿戴设备、电视、监控摄像头等。后台服务器102可以是一台服务器、若干台服务器组成的服务器集群或云计算中心。终端设备101可将图像或视频上传到后台服务器102,或者从后台服务器102中获取到图像或视频。在图像或视频采集或传输过程中,为了有效利用有限的带宽,可以传输低分辨率的图像或视频,然后在接收端将低分辨率的图像或视频转换成高分辨率图像或视频,终端设备101或后台服务器102均可以在对图像或视频进行上采样处理时结合本申请提供的图像处理方法对上采样后的图像进行增强处理。具体的应用场景不限于视频直播、视频传输、图像传输等。
当然,也可以直接在两台终端设备之间传输图像或视频,例如监控摄像头将采集到的视频下采样处理后传输给监控显示器,监控显示器对下采样的视频进行上采样处理,获得高分辨率的视频进行显示。
参考图1b,其为本申请实施例提供的图像处理方法的应用场景示意图。其中,终端设备111中安装有图像处理应用,该图像应用中植入了本申请提供的图像处理方法对应的软件功能模块。在用户使用终端设备111内的图像处理应用获得原图像对应的高分辨率图像(即上采样图像)时,可通过本申请提供的图像处理方法,基于原图像的直方图和上采样图像的直方图,对上采样图像进行处理,获得高分辨率的图像。例如,被压缩后的图像或视频、被污损的照片、分辨率较低的监控视频和照片等,具可以通过上述图像处理应用对图像进行恢复和重建。终端设备111包括但不限于桌面计算机、移动电脑、平板电脑、智能手机等可运行图像处理应用的设备。
本申请提供的图像处理方法还可以植入在图像查看软件或图像编辑软件中。在用户通过图像查看软件或图像编辑软件查看图像过程中,如果用户需要专注于图像的某些细节时,可对图像进行放缩变换,此时,图像查看软件或图像编辑软件可基于原图像的直方图和上采样图像的直方图,对上采样图像进行处理,获得高分辨率的图像。
本申请提供的图像处理方法,可广泛应用于军事雷达图像、卫星遥感图像、天文观测图像、地质勘探数据图像、生物医学切片、显微图像等特殊图像,日常人物景物图像以及视频的处理。
本申请提供的图像处理方法,还可以应用于神经网络中。例如,参考图1c,在利用神经网络对图像进行处理时,为了保证输入图像的分辨率适合神经网络的输入大小,通常会先对输入图像进行下采样后再输入神经网络,然后对神经网络的输出图像进行上采样,以将输出图像的还原至输入图像的分辨率,可利用本申请提供的图像处理方法对上采样图像进行增强处理,得到目标图像,以提高目标图像的质量和显示效果。又如,参考图1d,神经网络中还可以包括至少一次下采样处理,通过在处理过程中降低图像的分辨率来提高处理效率,并通过至少一次上采样处理,将还原图像的分辨率,此时,可在上采样网络层后增加一个增强处理层,以利用本申请提供的图像处理方法对上采样处理后的图像进行处理,以提高上采样图像的质量,将处理后的图像输入下一个网络层进行处理。
当然,本申请实施例提供的方法并不限用于上述应用场景中,还可以用于其它可能的应用场景,本申请实施例并不进行限制。对于上述应用场景的各个设备所能实现的功能将在后续的方法实施例中一并进行描述,在此先不过多赘述。
为进一步说明本申请实施例提供的技术方案,下面结合附图以及具体实施方式对此进行详细的说明。虽然本申请实施例提供了如下述实施例或附图所示的方法操作步骤,但基于常规或者无需创造性的劳动在所述方法中可以包括更多或者更少的操作步骤。在逻辑上不存在必要因果关系的步骤中,这些步骤的执行顺序不限于本申请实施例提供的执行顺序。
下面结合上述应用场景,对本申请实施例提供的技术方案进行说明。
参考图2,本申请实施例提供的一种图像处理方法,可应用于上述应用场景中的终端设备或后台服务器,具体包括以下步骤:
s201、根据原图像中颜色特征值落入各个颜色特征区间内的像素点的数量,获得原图像对应的第一直方图。
本申请实施例中,原图像可以是指上采样处理前的图像,原图像可以是一幅单独的图像,也可以视频中一帧一帧的图像。
本申请实施例中的颜色特征是指表征像素点色彩特性的特征,例如可以是像素点的灰度、亮度、颜色等。相应地,颜色特征值包括以下至少一种:像素点的灰度值、像素点的亮度值、像素点的颜色值等。
具体实施时,颜色值可根据图像采用的颜色系统确定。例如,当图像为灰度图像时,图像中每个像素点的颜色特征可包括灰度值,此时针对一个图像可得到灰度值对应的直方图。当图像采用rgb描述色彩时,图像中每个像素点的颜色特征包括r(红色)、g(绿色)、b(蓝色)三个颜色特征,可对这三个颜色特征分别进行统计,即针对一个图像可得到针对r(红色)、g(绿色)、b(蓝色)三个颜色特征分别对应的三个直方图。对于彩色图像,可通过如下公式得到彩色图像中每个像素点的灰度值:gray=r×0.299 g×0.587 b×0.114。
具体实施时,颜色特征区间可由本领域技术人员根据具体应用场景以及颜色特征对应的特征值的范围预先设定,一个颜色特征区间可以对应一个颜色特征值或者一段颜色特征值范围。例如,颜色特征为像素点的灰度,灰度值的范围为0~255,可将每一个灰度值作为一个颜色特征区间,即一共可得到256个灰度区间;也可以将0~255的灰度值范围划分成多个区域,每个区域作为一个颜色特征区间,如0~15为一个颜色特征区间,16~31为一个颜色特征区间,以此类推一共可得到16个颜色特征区间b1~b16,参考图3,其示出了一个图像中每个像素点的灰度值,针对该图像,统计灰度值落入上述16个颜色特征区间内的像素点数量,得到该图像的灰度值对应的直方图。
s202、根据原图像的上采样图像中颜色特征值落入各个颜色特征区间内的像素点的数量,获得上采样图像对应的第二直方图。
本申请实施例中的上采样图像为对原图像进行上采样处理后得到的图像,本申请对具体的上采样处理方法不作限定。
需要说明的是,第一直方图和第二直方图中的颜色特征区间相同。
s203、根据第一直方图和第二直方图,分别确定出第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。
s204、根据第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,对上采样图像中落入各个颜色特征区间的像素点的颜色特征值进行处理,获得目标图像。
本申请实施例中,第一直方图表征原图像中颜色特征分布情况的直方图,第二直方图表征上采样图像的颜色特征分布情况的直方图。
具体实施时,根据第一直方图和第二直方图揭示的颜色特征分布情况,可确定出第二直方图中每个颜色特征区间和第一直方图中的颜色特征区间之间的匹配关系,该匹配关系揭示了第一直方图和第二直方图中颜色特征分布情况最接近的颜色特征区间之间的对应关系,基于匹配关系确定出第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。然后,根据第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,对上采样图像中的像素点的颜色特征值逐一进行调整,得到上采样图像对应的目标图像,使得上采样图像对应的目标图像的颜色特征分布情况尽可能的与原图像的颜色特征分布情况一致。
具体实施时,若第二直方图中某一颜色特征区间与其所匹配目标颜色特征区间相同,则不需要对上采样图像中落入该颜色特征区间的像素点的颜色特征值进行调整。
针对一幅原图像的上采样图像,可同时对多个颜色特征进行调整,此时针对这多个颜色特征中的每个颜色特征,获得原图像的针对每个颜色特征的第一直方图,以及上采样图像的针对每个颜色特征的第二直方图,然后,分别基于各个颜色特征对应的第一直方图和第二直方图,对上采样图像中的各个颜色特征的颜色特征值进行调整。
例如,需要对上采样图像中的亮度和灰度进行调整,则获得原图像的亮度对应的第一直方图vl1、原图像的灰度对应的第一直方图vg1、上采样图像的亮度对应的第二直方图vl2,上采样图像的灰度对应的第二直方图vg2。然后,基于第一直方图vl1和第二直方图vl2,分别确定出第二直方图中各个亮度区间所匹配的目标亮度区间,根据各个亮度区间所匹配的目标亮度区间,将上采样图像p1中落入各个亮度区间的像素点的亮度值调整为各个亮度区间所匹配的目标亮度区间对应的亮度值,从而获得图像p2。接着,基于第一直方图vg1和第二直方图vg2,分别确定出第二直方图中各个灰度区间所匹配的目标灰度区间,根据各个灰度区间所匹配的目标灰度区间,将图像p2中落入各个灰度区间的像素点的灰度值调整为各个灰度区间所匹配的目标灰度区间对应的灰度值,从而获得目标图像p3。
例如,当图像采样yuv颜色编码时,可获得原图像的颜色特征y、u、v分别对应的第一直方图,以及上采样图像的颜色特征y、u、v分别对应的第二直方图。基于颜色特征y对应的第一直方图和第二直方图,分别确定出颜色特征y对应的第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,根据各个颜色特征区间所匹配的目标颜色特征区间,对上采样图像p1中落入颜色特征y对应的第二直方图的各个颜色特征区间中的像素点的颜色特征y的数值进行处理,获得图像p2。然后,基于颜色特征u对应的第一直方图和第二直方图,分别确定出颜色特征u对应的第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,根据各个颜色特征区间所匹配的目标颜色特征区间,对图像p2中落入颜色特征u对应的第二直方图的各个颜色特征区间中的像素点的颜色特征u的数值进行处理,获得图像p3。最后,基于颜色特征v对应的第一直方图和第二直方图,分别确定出颜色特征v对应的第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,根据各个颜色特征区间所匹配的目标颜色特征区间,对图像p3中落入颜色特征v对应的第二直方图的各个颜色特征区间中的像素点的颜色特征v的数值进行处理,获得目标图像。
本申请实施例提供的图像处理方法,能够明显削弱上采样图像中出现的锯齿、色彩边缘噪声等,提高上采样图像的质量和显示效果,更好地还原图像细节,且处理方式简单高效,尤其适用于对处理效率要求高的应用场合,如视频实时传输。
具体实施时,可通过多种方式确定出第二直方图中每个颜色特征区间和第一直方图中的颜色特征区间之间的匹配关系,从而确定第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。
在一种可能的实施方式中,可根据第一直方图和第二直方图分别统计的各个颜色特征区间对应的占比值,确定第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。其中,第一直方图中的每个颜色特征区间对应的占比值为:原图像中颜色特征值落入对应的颜色特征区间内的像素点的数量与原图像包含的像素点总数的比值,第二直方图中的每个颜色特征区间对应的占比值为:上采样图像中颜色特征值落入对应的颜色特征区间内的像素点的数量与上采样图像包含的像素点总数的比值。
基于此,步骤s203具体包括:针对第二直方图中的任一颜色特征区间,确定第一直方图中各个颜色特征区间对应的占比值和任一颜色特征区间对应的占比值之间的差值,从满足指定条件的差值在第一直方图中对应的颜色特征区间中,确定出任一颜色特征区间所匹配的目标颜色特征区间。
具体实施时,指定条件可以是第二直方图中的任一颜色特征区间对应的所有差值中的最小值。例如,第一直方图和第二直方图均包含16个颜色特征区间b1~b16,以第二直方图中的颜色特征区间b1为例,分别计算第二直方图中颜色特征区间b1的占比值和第一直方图中每个颜色特征区间对应的占比值之间的差值,一共可得到16个差值,从这16个差值中选出最小的差值,将该差值在第一直方图中对应的颜色特征区间确定为第二直方图中颜色特征区间b1所匹配的目标颜色特征区间,例如,最小的差值为第二直方图中的颜色特征区间b1的占比值和第一直方图中颜色特征区间b3的占比值之间的差值,则第二直方图中颜色特征区间b1所匹配的目标颜色特征区间为b3。
具体实施时,也可以按从小到大的顺序,对第二直方图中的任一颜色特征区间对应的所有差值进行排序,此时指定条件可以是排序靠前的n个差值,其中n大于等于1,且小于颜色特征区间的总数,n的具体取值可由本领域技术人员根据实际应用场景确定,本申请实施例不作限定。例如,第一直方图和第二直方图均包含16个颜色特征区间b1~b16,且n=3,以第二直方图中的颜色特征区间b1为例,分别计算第二直方图中颜色特征区间b1的占比值和第一直方图中每个颜色特征区间对应的占比值之间的差值,一共可得到16个差值,按从小到大的顺序对这16个差值进行排序,选取排序靠前的3个差值,假设排序靠前的3个差值在第一直方图中对应的颜色特征区间为b1、b3、b10,则从b1、b3、b10中确定出一个颜色特征区间作为第二直方图中颜色特征区间b1所匹配的目标颜色特征区间。
具体实施时,指定条件还可以是差值小于差值阈值,即将小于差值阈值的差值在第一直方图中对应的颜色特征区间,确定为该差值在第二直方图中对应的颜色特征区间所匹配的目标颜色特征区间。以第二直方图中的颜色特征区间b1为例,第二直方图中的颜色特征区间b1的占比值和第一直方图中颜色特征区间b4的占比值之间的差值小于差值阈值,第二直方图中的颜色特征区间b1的占比值和第一直方图中颜色特征区间b2的占比值之间的差值小于差值阈值,则从颜色特征区间b2和b4中确定出一个颜色特征区间作为第二直方图中颜色特征区间b1所匹配的目标颜色特征区间。
上述实施方式提供的图像处理方法,可根据第一直方图和第二直方图中各个颜色特征区间之间的占比值的差值,简单高效地确定第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,能够明显削弱上采样图像中出现的锯齿、色彩边缘噪声等,提高上采样图像的质量和显示效果,从而更好地还原图像细节。
进一步地,针对第二直方图中的任一颜色特征区间,若仅存在一个满足指定条件的差值,则将该满足指定条件的差值在第一直方图中对应的颜色特征区间确定为该任一颜色特征区间所匹配的目标颜色特征区间;若存在至少两个差值满足指定条件,则确定至少两个差值中每个差值在第一直方图中对应的颜色特征区间,从确定出的至少两个颜色特征区间中选出与该任一颜色特征区间的等级差最小的颜色特征区间,确定为该任一颜色特征区间所匹配的目标颜色特征区间。
本申请实施例中,两个颜色特征区间之间的等级差越小,表明这两个颜色特征区间所代表的颜色特征值越相近。以灰度值为例,0~15为一个颜色特征区间b1对应的灰度值范围为0~15,颜色特征区间b2对应的灰度值范围为16~31,颜色特征区间b16对应的灰度值范围为240~255,显然,颜色特征区间b1和颜色特征区间b2之间的灰度值更接近。由于同一图像中可能存在多个颜色特征区间的占比值相同的情况,因此针对第二直方图中的一个颜色特征区间,在第一直方图中可能存在多个颜色特征区间的占比值与该第二直方图中的该颜色特征区间的占比值相同或相近,而相近的颜色特征区间才是期望的调整后的目标颜色特征区间。
以第二直方图中的颜色特征区间b1为例,分别计算第二直方图中颜色特征区间b1的占比值和第一直方图中每个颜色特征区间对应的占比值之间的差值,一共可得到16个差值:d1,1、d1,2、…d1,i、…d1,16,其中,d1,i表示第二直方图中的颜色特征区间b1的占比值和第二直方图中的颜色特征区间bi的占比值之间的差值。如果上述16个差值中的d1,2和d1,5满足指定条件,则第二直方图中的颜色特征区间b1在第一直方图中所匹配的颜色特征区间分别为b2和b5,此时,颜色特征区间b2与颜色特征区间b1的等级差小于颜色特征区间b5与颜色特征区间b1的等级差,即颜色特征区间b2所对应的颜色特征值更接近颜色特征区间b1所对应的颜色特征值,则第二直方图中颜色特征区间b1所匹配的目标颜色特征区间为b2。
进一步地,基于上述直方图匹配的发明构思,为了提高匹配准确度,可基于第一直方图和第二直方图统计得到的颜色特征值的分布情况,通过一些算法确定出第一直方图和第二直方图中的颜色特征区间之间的映射关系,基于映射关系可确定出第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。
例如,可通过如下公式确定出第一直方图和第二直方图中的颜色特征区间之间的映射关系:
其中,min为求最小值的函数,index为获得函数min输出的最小值对应的颜色特征区间bj的函数,i表示第二直方图v2中的第i个颜色特征区间bi,v2[i]表示第二直方图v2中第i个颜色特征区间bi的占比值,v1[j]表示第一直方图v1中第j个颜色特征区间bj的占比值,1≤j≤n,n为颜色特征区间的总数。其中,a=mse/618,其中均方误差
实际应用中,映射关系f(i)不限于上述列举的公式,参数a和c也不限于上述列举的方式。例如,映射关系还可以是:
或者,还可以是:
其中,max为求最大值的函数,保证f(i)≥1。
上述实施方式提供的图像处理方法,在第一直方图和第二直方图中各个颜色特征区间之间的占比值的差值的基础上,结合颜色特征区间之间的等级差,确定出第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,进一步地提高了匹配准确度。
在另一种可能的实施方式中,可根据原图像的第一直方图和上采样图像的第二直方图,计算第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。其中,第一直方图统计的是原图像中颜色特征值落入各个颜色特征区间内的像素点的数量,第二直方图统计的是上采样图像中颜色特征值落入各个颜色特征区间内的像素点的数量。
基于此,参考图4,步骤s203可包括如下步骤:
s401、根据第一直方图确定原图像中像素点的颜色特征区间对应的第一均值和第一方差,以及根据第二直方图确定上采样图像中像素点的颜色特征区间对应的第二均值和第二方差。
具体实施时,第一均值
s402、根据第一均值、第一方差、第二均值和第二方差,确定第一直方图中的颜色特征区间和第二直方图中的颜色特征区间之间的第一映射关系。
具体实施时,第一映射关系可以是:
f(i)=round(α(i-e2) e1)
其中,α=d2/d1,round为四舍五入求整数的函数,v2(i)为第二直方图中落入颜色特征区间bi内的像素点的数量。f(i)即为第二直方图v2中的第i个颜色特征区间bi所匹配的目标颜色特征区间对应的索引号,例如f(1)=2,则第二直方图v2中颜色特征区间b1所匹配的目标颜色特征区间为b2。
具体实施时,第一映射关系也可以是:
f(i)=mid(round(α(i-e2) e1),1,n)
其中,α=d2/d1,mid为求round(α(v2[i]-e2) e1),1和n这三个数的中间值的函数,保证1≤f(i)≤n,round为四舍五入求整数的函数。
s403、根据第一映射关系,确定第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。
具体实施时,假设f(1)=2,则第二直方图v2中颜色特征区间b1所匹配的目标颜色特征区间为b2,f(2)=4,则第二直方图v2中颜色特征区间b2所匹配的目标颜色特征区间为b4,以此类推得到第二直方图中每个颜色特征区间所匹配的目标颜色特征区间。
上述实施方式提供的图像处理方法,直接根据第一直方图和第二直方图中各个颜色特征区间之间的占比值,计算第一直方图和第二直方图中各个颜色特征区间之间的映射关系,根据映射关系确定出第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,处理方式简单高效。
在上述任一实施方式的基础上,步骤s204具体包括:若每个颜色特征区间对应一个颜色特征值,则分别将上采样图像中落入各个颜色特征区间的像素点的颜色特征值,调整为各个颜色特征区间所匹配的目标颜色特征区间对应的颜色特征值,获得目标图像。
以颜色特征为像素点的灰度为例进行说明,假设灰度值的范围为0~255,将每一个灰度值作为一个颜色特征区间,即一共可得到256个灰度区间b1~b256,即每个灰度区间对应一个灰度值。假设,第二直方图中灰度区间b1所匹配的目标灰度区间为b2,则将上采样图像中落入灰度区间b1的像素点的灰度值0改为目标灰度区间b2对应的灰度值1;第二直方图中灰度区间b2所匹配的目标灰度区间为b2,则无需对上采样图像中落入灰度区间b2的像素点的灰度值进行调整。
在上述任一实施方式的基础上,步骤s204具体包括:若每个颜色特征区间对应一个颜色特征值范围,则分别确定第二直方图中各个颜色特征区间对应的颜色特征值范围和各个颜色特征区间所匹配的目标颜色特征区间对应的颜色特征值范围之间的第二映射关系,将上采样图像中落入各个颜色特征区间的像素点的颜色特征值调整为根据第二映射关系确定的颜色特征值。
以颜色特征为像素点的灰度为例进行说明,假设灰度值的范围为0~255,将0~255的灰度值范围划分成多个16个区域,每个区域作为一个颜色特征区间,如0~15为一个颜色特征区间,16~31为一个颜色特征区间,以此类推一共可得到16个颜色特征区间b1~b16。第二直方图中灰度区间b1所匹配的目标灰度区间为b2,灰度区间b1的颜色特征范围为0~15,目标灰度区间b2的颜色特征值范围为16~31,两者之间的第二映射关系为:0→16,1→17,……,15→31,因此,将第二直方图中灰度区间b1中灰度值为0的像素点的灰度值调整为16,将第二直方图中灰度区间b1中灰度值为1的像素点的灰度值调整为17,以此类推。
参考图5,其为一幅上采样图像,以及通过本申请实施例提供的图像处理方法获得的该上采样图像对应的目标图像。从图5中处理前后的两幅图像的对比可知,与上采样图像相比,通过本申请实施例提供的图像处理方法获得的目标图像,不会出现明显的锯齿以及色彩边缘噪声,目标图像的质量和显示效果由于原始的上采样图形,能够更好地还原图像细节。
如图6所示,基于与上述图像处理方法相同的发明构思,本申请实施例还提供了一种图像处理装置60,包括第一统计模块601、第二统计模块602、匹配模块603和处理模块604。
第一统计模块601,用于根据原图像中颜色特征值落入各个颜色特征区间内的像素点的数量,获得原图像对应的第一直方图。
第二统计模块602,用于根据原图像的上采样图像中颜色特征值落入各个颜色特征区间内的像素点的数量,获得上采样图像对应的第二直方图。
匹配模块603,用于根据第一直方图和第二直方图,分别确定出第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。
处理模块604,用于根据第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,对上采样图像中落入各个颜色特征区间的像素点的颜色特征值进行处理,获得目标图像。
可选地,匹配模块603具体用于:针对第二直方图中的任一颜色特征区间,确定第一直方图中各个颜色特征区间对应的占比值和任一颜色特征区间对应的占比值之间的差值,从满足指定条件的差值在第一直方图中对应的颜色特征区间中,确定出任一颜色特征区间所匹配的目标颜色特征区间,其中,第一直方图中的每个颜色特征区间对应的占比值为:原图像中颜色特征值落入对应的颜色特征区间内的像素点的数量与原图像包含的像素点总数的比值,第二直方图中的每个颜色特征区间对应的占比值为:上采样图像中颜色特征值落入对应的颜色特征区间内的像素点的数量与上采样图像包含的像素点总数的比值。
可选地,匹配模块603具体用于:若存在至少两个差值满足指定条件,则确定至少两个差值中每个差值在第一直方图中对应的颜色特征区间,从确定出的至少两个颜色特征区间中选出与任一颜色特征区间的等级差最小的颜色特征区间,确定为任一颜色特征区间所匹配的目标颜色特征区间。
可选地,匹配模块603具体用于:
根据第一直方图,确定原图像中像素点的颜色特征区间对应的第一均值和第一方差;
根据第二直方图,确定上采样图像中像素点的颜色特征区间对应的第二均值和第二方差;
根据第一均值、第一方差、第二均值和第二方差,确定第一直方图中的颜色特征区间和第二直方图中的颜色特征区间之间的第一映射关系;
根据第一映射关系,确定第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。
可选地,处理模块604具体用于:
若每个颜色特征区间对应一个颜色特征值,则分别将上采样图像中落入各个颜色特征区间的像素点的颜色特征值,调整为各个颜色特征区间所匹配的目标颜色特征区间对应的颜色特征值,获得目标图像;
若每个颜色特征区间对应一个颜色特征值范围,则分别确定第二直方图中各个颜色特征区间对应的颜色特征值范围和各个颜色特征区间所匹配的目标颜色特征区间对应的颜色特征值范围之间的第二映射关系,将上采样图像中落入各个颜色特征区间的像素点的颜色特征值调整为根据第二映射关系确定的颜色特征值。
可选地,颜色特征值包括以下至少一种:像素点的灰度值、像素点的亮度值、像素点的颜色值。
本申请实施例提的图像处理装置与上述图像处理方法采用了相同的发明构思,能够取得相同的有益效果,在此不再赘述。
基于与上述图像处理方法相同的发明构思,本申请实施例还提供了一种电子设备,该电子设备具体可以为图1a、图1b中的终端设备或服务器等。如图7所示,该电子设备70可以包括处理器701和存储器702。
处理器701可以是通用处理器,例如中央处理器(cpu)、数字信号处理器(digitalsignalprocessor,dsp)、专用集成电路(applicationspecificintegratedcircuit,asic)、现场可编程门阵列(fieldprogrammablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件,可以实现或者执行本申请实施例中公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
存储器702作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块。存储器可以包括至少一种类型的存储介质,例如可以包括闪存、硬盘、多媒体卡、卡型存储器、随机访问存储器(randomaccessmemory,ram)、静态随机访问存储器(staticrandomaccessmemory,sram)、可编程只读存储器(programmablereadonlymemory,prom)、只读存储器(readonlymemory,rom)、带电可擦除可编程只读存储器(electricallyerasableprogrammableread-onlymemory,eeprom)、磁性存储器、磁盘、光盘等等。存储器是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。本申请实施例中的存储器702还可以是电路或者其它任意能够实现存储功能的装置,用于存储程序指令和/或数据。
本申请实施例提供了一种计算机可读存储介质,用于储存为上述电子设备所用的计算机程序指令,其包含用于执行上述图像处理方法的程序。
上述计算机存储介质可以是计算机能够存取的任何可用介质或数据存储设备,包括但不限于磁性存储器(例如软盘、硬盘、磁带、磁光盘(mo)等)、光学存储器(例如cd、dvd、bd、hvd等)、以及半导体存储器(例如rom、eprom、eeprom、非易失性存储器(nandflash)、固态硬盘(ssd))等。
以上,以上实施例仅用以对本申请的技术方案进行了详细介绍,但以上实施例的说明只是用于帮助理解本申请实施例的方法,不应理解为对本申请实施例的限制。本技术领域的技术人员可轻易想到的变化或替换,都应涵盖在本申请实施例的保护范围之内。
1.一种图像处理方法,其特征在于,包括:
根据原图像中颜色特征值落入各个颜色特征区间内的像素点的数量,获得所述原图像对应的第一直方图;
根据所述原图像的上采样图像中颜色特征值落入所述各个颜色特征区间内的像素点的数量,获得所述上采样图像对应的第二直方图;
根据所述第一直方图和所述第二直方图,分别确定出所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间;
根据所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,对所述上采样图像中落入所述各个颜色特征区间的像素点的颜色特征值进行处理,获得目标图像。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一直方图和所述第二直方图,分别确定出所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,具体包括:
针对所述第二直方图中的任一颜色特征区间,确定所述第一直方图中各个颜色特征区间对应的占比值和所述任一颜色特征区间对应的占比值之间的差值,从满足指定条件的差值在所述第一直方图中对应的颜色特征区间中,确定出所述任一颜色特征区间所匹配的目标颜色特征区间,其中,所述第一直方图中的每个颜色特征区间对应的占比值为:所述原图像中颜色特征值落入对应的颜色特征区间内的像素点的数量与所述原图像包含的像素点总数的比值,所述第二直方图中的每个颜色特征区间对应的占比值为:所述上采样图像中颜色特征值落入对应的颜色特征区间内的像素点的数量与所述上采样图像包含的像素点总数的比值。
3.根据权利要求2所述的方法,其特征在于,若存在至少两个差值满足所述指定条件,则所述从满足指定条件的差值在所述第一直方图中对应的颜色特征区间中,确定出所述任一颜色特征区间所匹配的目标颜色特征区间,具体包括:
确定所述至少两个差值中每个差值在所述第一直方图中对应的颜色特征区间;
从确定出的至少两个颜色特征区间中选出与所述任一颜色特征区间的等级差最小的颜色特征区间,确定为所述任一颜色特征区间所匹配的目标颜色特征区间。
4.根据权利要求1所述的方法,其特征在于,所述根据所述第一直方图和所述第二直方图,分别确定出所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,具体包括:
根据所述第一直方图,确定所述原图像中像素点的颜色特征区间对应的第一均值和第一方差;
根据所述第二直方图,确定所述上采样图像中像素点的颜色特征区间对应的第二均值和第二方差;
根据所述第一均值、所述第一方差、所述第二均值和所述第二方差,确定所述第一直方图中的颜色特征区间和所述第二直方图中的颜色特征区间之间的第一映射关系;
根据所述第一映射关系,确定所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。
5.根据权利要求1至4任一所述的方法,其特征在于,所述根据所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,对所述上采样图像中落入所述各个颜色特征区间的像素点的颜色特征值进行处理,获得目标图像,具体包括:
若每个颜色特征区间对应一个颜色特征值,则分别将所述上采样图像中落入所述各个颜色特征区间的像素点的颜色特征值,调整为所述各个颜色特征区间所匹配的目标颜色特征区间对应的颜色特征值,获得目标图像;
若每个颜色特征区间对应一个颜色特征值范围,则分别确定所述第二直方图中各个颜色特征区间对应的颜色特征值范围和各个颜色特征区间所匹配的目标颜色特征区间对应的颜色特征值范围之间的第二映射关系,将所述上采样图像中落入所述各个颜色特征区间的像素点的颜色特征值调整为根据所述第二映射关系确定的颜色特征值。
6.根据权利要求1至4任一所述的方法,其特征在于,所述颜色特征值包括以下至少一种:像素点的灰度值、像素点的亮度值、像素点的颜色值。
7.一种图像处理装置,其特征在于,包括:
第一统计模块,用于根据原图像中颜色特征值落入各个颜色特征区间内的像素点的数量,获得所述原图像对应的第一直方图;
第二统计模块,用于根据所述原图像的上采样图像中颜色特征值落入所述各个颜色特征区间内的像素点的数量,获得所述上采样图像对应的第二直方图;
匹配模块,用于根据所述第一直方图和所述第二直方图,分别确定出所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间;
处理模块,用于根据所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间,对所述上采样图像中落入所述各个颜色特征区间的像素点的颜色特征值进行处理,获得目标图像。
8.根据权利要求7所述的装置,其特征在于,所述匹配模块,具体用于针对所述第二直方图中的任一颜色特征区间,确定所述第一直方图中各个颜色特征区间对应的占比值和所述任一颜色特征区间对应的占比值之间的差值,从满足指定条件的差值在所述第一直方图中对应的颜色特征区间中,确定出所述任一颜色特征区间所述匹配的目标颜色特征区间,其中,所述第一直方图中的每个颜色特征区间对应的占比值为:所述原图像中颜色特征值落入对应的颜色特征区间内的像素点的数量与所述原图像包含的像素点总数的比值,所述第二直方图中的每个颜色特征区间对应的占比值为:所述上采样图像中颜色特征值落入对应的颜色特征区间内的像素点的数量与所述上采样图像包含的像素点总数的比值。
9.根据权利要求8所述的装置,其特征在于,所述匹配模块,具体用于若存在至少两个差值满足所述指定条件,则确定所述至少两个差值中每个差值在所述第一直方图中对应的颜色特征区间,从确定出的至少两个颜色特征区间中选出与所述任一颜色特征区间的等级差最小的颜色特征区间,确定为所述任一颜色特征区间所述匹配的目标颜色特征区间。
10.根据权利要求7所述的装置,其特征在于,所述匹配模块,具体用于:
根据所述第一直方图,确定所述原图像中像素点的颜色特征区间对应的第一均值和第一方差;
根据所述第二直方图,确定所述上采样图像中像素点的颜色特征区间对应的第二均值和第二方差;
根据所述第一均值、所述第一方差、所述第二均值和所述第二方差,确定所述第一直方图中的颜色特征区间和所述第二直方图中的颜色特征区间之间的第一映射关系;
根据所述第一映射关系,确定所述第二直方图中各个颜色特征区间所匹配的目标颜色特征区间。
11.根据权利要求7至10任一所述的装置,其特征在于,所述处理模块,具体用于:
若每个颜色特征区间对应一个颜色特征值,则分别将所述上采样图像中落入所述各个颜色特征区间的像素点的颜色特征值,调整为所述各个颜色特征区间所匹配的目标颜色特征区间对应的颜色特征值,获得目标图像;
若每个颜色特征区间对应一个颜色特征值范围,则分别确定所述第二直方图中各个颜色特征区间对应的颜色特征值范围和各个颜色特征区间所匹配的目标颜色特征区间对应的颜色特征值范围之间的第二映射关系,将所述上采样图像中落入所述各个颜色特征区间的像素点的颜色特征值调整为根据所述第二映射关系确定的颜色特征值。
12.根据权利要求7至10任一所述的装置,其特征在于,所述颜色特征值包括以下至少一种:像素点的灰度值、像素点的亮度值、像素点的颜色值。
13.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6任一项所述方法的步骤。
14.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,该计算机程序指令被处理器执行时实现权利要求1至6任一项所述方法的步骤。
技术总结