鱼眼图目标识别方法及其系统与流程

专利2022-06-28  137


本发明涉及无人驾驶技术领域,尤其涉及一种鱼眼图目标识别方法及其系统。



背景技术:

近年来,自动驾驶和辅助驾驶的应用越来越广泛,摄像头以其获取信息丰富和价格相对低廉,常被用来获取车辆周围信息,来进行避障、路径规划等功能。实际使用中,需要尽可能多地获取汽车周围的环境以减少盲区,往往会选择视场角更大的鱼眼相机进行汽车周围场景的获取。这种广角镜头得到的鱼眼图片畸变比较大,同一目标在不同的角度,除了大小变化较大之外,其形状在不同的视角也会有很大的不同,在相机正前方畸变较小,而在相机两边往往会有不同形状的扭曲。使用现有的方法进行目标识别以及定位测距等任务,会造成一定的难度,例如对于目标检测,需要模型学习多种不同的特征才能进行识别,这会降低检测精度,并增加训练样本采集的数量和难度;两边的物体在图像上可能从直立到平躺,其接地点也会非常模糊,这对于后续的测距任务也会造成一定的麻烦。



技术实现要素:

基于此,针对上述技术问题,提供一种鱼眼图目标识别方法及其系统。

为解决上述技术问题,本发明采用如下技术方案:

一种鱼眼图目标识别方法,包括:

通过等距柱状投影方法获得待目标识别的鱼眼图的等距柱面展开图以及该等距柱面展开图上任意一个点的坐标与所述鱼眼图上对应点的坐标之间的转换关系;

通过预训练的用于识别所述目标的识别模型对所述等距柱面展开图进行识别,得到所述目标在等距柱面展开图上的识别框坐标;

通过上述转换关系将所述识别框坐标转换为所述鱼眼图上的识别框坐标。

获得所述转换关系进一步包括:

a、将等距柱面展开图上点的坐标(m,n)转换为经纬度:

其中,longitude表示经度,latitude表示纬度,re表示fov表示视场角,we,he表示想要获得的柱状图的像素值,we=he:

b、将经纬度转换为成像单位球面的坐标px,pv,pz:

px=cos(latitude)cos(longitude)

py=cos(latitude)sin(longitude)

pz=sin(latitude);

c、将成像单位球面的坐标px,pv,pz转换为球坐标系的坐标θ.

d、将球坐标系的坐标θ转换为鱼眼图上的坐标(i,j):

其中,函数f表示映射到入射光线到鱼眼相机成像平面光心的径向距离,该函数f的参数由鱼眼相机标定得到,wf以及hf由鱼眼相机标定得到,分别表示鱼眼相机投影中心到图片中心的偏移像素。

所述预训练进一步包括通过包含无畸变目标的图片对深度学习检测模型进行训练。

所述深度学习检测模型采用fasterrcnn模型、yolo系列模型或ssd模型

本方案还包括将所述鱼眼图上的识别框坐标转换为鱼眼相机坐标系下的坐标。

本方案还涉及一种鱼眼图目标识别系统,包括存储模块,所述存储模块包括由处理器加载并执行的多条指令:

通过等距柱状投影方法获得待目标识别的鱼眼图的等距柱面展开图以及该等距柱面展开图上任意一个点的坐标与所述鱼眼图上对应点的坐标之间的转换关系;

通过预训练的用于识别所述目标的识别模型对所述等距柱面展开图进行识别,得到所述目标在等距柱面展开图上的识别框坐标;

通过上述转换关系将所述识别框坐标转换为所述鱼眼图上的识别框坐标。

获得所述转换关系进一步包括:

a、将等距柱面展开图上点的坐标(m,n)转换为经纬度:

其中,longitude表示经度,latitude表示纬度,re表示fov表示视场角,we,he表示想要获得的柱状图的像素值,we=he;

b、将经纬度转换为成像单位球面的坐标px,pv,pz:

px=cos(latitude)cos(longitude)

py=cos(latitude)sin(longitude)

pz=sin(latitude);

c、将成像单位球面的坐标px,pv,pz转换为球坐标系的坐标θ.

d、将球坐标系的坐标θ转换为鱼眼图上的坐标(i,j):

其中.函数f表示映射到入射光线到鱼眼相机成像平面光心的径向距离,该函数f的参数由鱼眼相机标定得到,wf以及hf由鱼眼相机标定得到,分别表示鱼眼相机投影中心到图片中心的偏移像素。

所述预训练进一步包括通过包含无畸变目标的图片对深度学习检测模型进行训练。

所述深度学习检测模型采用fasterrcnn模型、yolo系列模型或ssd模型。

本方案还包括将所述鱼眼图上的识别框坐标转换为鱼眼相机坐标系下的坐标。

本发明将鱼眼图转换成柱状图,再对柱状图进行目标识别,与直接在鱼眼图上进行识别相比,目标没有大量畸变,特征学习比较容易,检测精准度高,目标识别结果是直立的,便于后续接地点的检测和使用,不用重新采集畸变数据进行模型训练,可以使用现有的无畸变目标识别模型。

附图说明

下面结合附图和具体实施方式对本发明进行详细说明:

图1为本发明的流程图;

图2为190度广角镜拍摄的鱼眼图;

图3为图2对应的柱状图。

具体实施方式

如图1所示,一种鱼眼图目标识别方法,包括:

s101、通过等距柱状投影方法获得待目标识别的鱼眼图的等距柱面展开图以及该等距柱面展开图上任意一个点的坐标与鱼眼图上对应点的坐标之间的转换关系。

图2为190度广角镜拍摄的鱼眼图,可以观察到两边行人畸变较大,行人向两边倾斜,这对于检测以及后续定位都会有较大问题。图3为通过s101步骤得到的柱状图,可以观察到行人基本直立,外形与平面图中的行人接近。

具体地,获得转换关系包括如下步骤:

a、将等距柱面展开图上点的坐标(m,n)转换为经纬度:

其中,longitude表示经度,latitude表示纬度,re表示fov表示视场角,we,he表示想要获得的柱状图的像素值,we=he;

b、将经纬度转换为成像单位球面的坐标px,pv,pz:

px=cos(latitude)cos(longitude)

py=cos(latitude)sin(longitude)

pz=sin(latitude);

c、将成像单位球面的坐标px,pv,pz转换为球坐标系的坐标θ.

d、将球坐标系的坐标θ转换为鱼眼图上的坐标(i,j):

其中,函数f表示映射到入射光线到鱼眼相机成像平面光心的径向距离,可以使用多项式函数进行拟合,如十四阶多项式,该函数f的参数由鱼眼相机标定得到(参数是指多项式前的系数,可以使用标定板等形状明确的物体来进行标定),wf以及hf由鱼眼相机标定得到,分别表示鱼眼相机投影中心到图片中心的偏移像素。

s102、通过预训练的用于识别上述目标的识别模型对上述等距柱面展开图进行识别,得到上述目标在等距柱面展开图上的识别框坐标。

其中,识别框坐标包含识别框所有角点的坐标。

在本实施例中,通过包含无畸变目标的图片对深度学习检测模型进行训练,深度学习检测模型采用fasterrcnn模型、yolo系列模型或ssd模型。可以使用鱼眼图前视无畸变的图片进行模型训练。

s103、通过步骤s101中得到的转换关系将识别框坐标转换为鱼眼图上的识别框坐标。

s104、将鱼眼图上的识别框坐标转换为鱼眼相机坐标系下的坐标。

鱼眼图上的坐标指的是像素坐标,相机坐标系是现实生活中的空间坐标,本步骤的目的是为了便于后续在定位和测距时使用。

具体地,通过如下公式进行坐标转换:

其中,f-1为函数f的逆变换,该函数可以使用多项式进行拟合,如五阶多项式。

本发明还涉及一种鱼眼图目标识别系统,包括存储模块,所述存储模块包括由处理器加载并执行的多条指令:

s101、通过等距柱状投影方法获得待目标识别的鱼眼图的等距柱面展开图以及该等距柱面展开图上任意一个点的坐标与鱼眼图上对应点的坐标之间的转换关系。

图2为190度广角镜拍摄的鱼眼图,可以观察到两边行人畸变较大,行人向两边倾斜,这对于检测以及后续定位都会有较大问题。图3为通过s101步骤得到的柱状图,可以观察到行人基本直立,外形与平面图中的行人接近。

具体地,获得转换关系包括如下步骤:

a、将等距柱面展开图上点的坐标(m,n)转换为经纬度:

其中,longitude表示经度,latitude表示纬度,re表示fov表示视场角,we,he表示想要获得的柱状图的像素值,we=he;

b、将经纬度转换为成像单位球面的坐标px,pv,pz:

px=cos(latitude)cos(longitude)

py,=cos(latitude)sin(longitude)

pz=sin(latitude);

c、将成像单位球面的坐标px,pv,pz转换为球坐标系的坐标θ.

d、将球坐标系的坐标θ转换为鱼眼图上的坐标(i,j):

其中,函数f表示映射到入射光线到鱼眼相机成像平面光心的径向距离,可以使用多项式函数进行拟合,如十四阶多项式,该函数f的参数由鱼眼相机标定得到(参数是指多项式前的系数,可以使用标定板等形状明确的物体来进行标定),wf以及hf由鱼眼相机标定得到,分别表示鱼眼相机投影中心到图片中心的偏移像素。

s102、通过预训练的用于识别上述目标的识别模型对上述等距柱面展开图进行识别,得到上述目标在等距柱面展开图上的识别框坐标。

其中,识别框坐标包含识别框所有角点的坐标。

在本实施例中,通过包含无畸变目标的图片对深度学习检测模型进行训练,深度学习检测模型采用fasterrcnn模型、yolo系列模型或ssd模型。可以使用鱼眼图前视无畸变的图片进行模型训练。

s103、通过步骤s101中得到的转换关系将识别框坐标转换为鱼眼图上的识别框坐标。

s104、将鱼眼图上的识别框坐标转换为鱼眼相机坐标系下的坐标。

鱼眼图上的坐标指的是像素坐标,相机坐标系是现实生活中的空间坐标,本步骤的目的是为了便于后续在定位和测距时使用。

具体地,通过如下公式进行坐标转换:

其中,f-1为函数f的逆变换,该函数可以使用多项式进行拟合,如五阶多项式。

本发明将鱼眼图转换成柱状图,再对柱状图进行目标识别,与直接在鱼眼图上进行识别相比,目标没有大量畸变,特征学习比较容易,检测精准度高,目标识别结果是直立的,便于后续接地点的检测和使用,不用重新采集畸变数据进行模型训练,可以使用现有的无畸变目标识别模型。

但是,本技术领域中的普通技术人员应当认识到,以上的实施例仅是用来说明本发明,而并非用作为对本发明的限定,只要在本发明的实质精神范围内,对以上所述实施例的变化、变型都将落在本发明的权利要求书范围内。


技术特征:

1.一种鱼眼图目标识别方法,其特征在于,包括:

通过等距柱状投影方法获得待目标识别的鱼眼图的等距柱面展开图以及该等距柱面展开图上任意一个点的坐标与所述鱼眼图上对应点的坐标之间的转换关系;

通过预训练的用于识别所述目标的识别模型对所述等距柱面展开图进行识别,得到所述目标在等距柱面展开图上的识别框坐标;

通过上述转换关系将所述识别框坐标转换为所述鱼眼图上的识别框坐标。

2.根据权利要求1所述的一种鱼眼图目标识别方法,其特征在于,获得所述转换关系进一步包括:

a、将等距柱面展开图上点的坐标(m,n)转换为经纬度:

其中,longitude表示经度,latitude表示纬度,re表示fov表示视场角,we,he表示想要获得的柱状图的像素值,we=he;

b、将经纬度转换为成像单位球面的坐标px,pv,pz:

px=cos(latitude)cos(longitude)

py=cos(latitude)sin(longitude)

pz=sin(latitude);

c、将成像单位球面的坐标px,pv,pz转换为球坐标系的坐标θ :

d、将球坐标系的坐标θ转换为鱼眼图上的坐标(i,j):

其中,函数f表示映射到入射光线到鱼眼相机成像平面光心的径向距离,该函数f的参数由鱼眼相机标定得到,wf以及hf由鱼眼相机标定得到,分别表示鱼眼相机投影中心到图片中心的偏移像素。

3.根据权利要求2所述的一种鱼眼图目标识别方法,其特征在于,所述预训练进一步包括通过包含无畸变目标的图片对深度学习检测模型进行训练。

4.根据权利要求2或3所述的一种鱼眼图目标识别方法,其特征在于,所述深度学习检测模型采用fasterrcnn模型、yolo系列模型或ssd模型。

5.根据权利要求4所述的一种鱼眼图目标识别方法,其特征在于,还包括将所述鱼眼图上的识别框坐标转换为鱼眼相机坐标系下的坐标。

6.一种鱼眼图目标识别系统,其特征在于,包括存储模块,所述存储模块包括由处理器加载并执行的多条指令:

通过等距柱状投影方法获得待目标识别的鱼眼图的等距柱面展开图以及该等距柱面展开图上任意一个点的坐标与所述鱼眼图上对应点的坐标之间的转换关系;

通过预训练的用于识别所述目标的识别模型对所述等距柱面展开图进行识别,得到所述目标在等距柱面展开图上的识别框坐标;

通过上述转换关系将所述识别框坐标转换为所述鱼眼图上的识别框坐标。

7.根据权利要求6所述的一种鱼眼图目标识别系统,其特征在于,获得所述转换关系进一步包括:

a、将等距柱面展开图上点的坐标(m,n)转换为经纬度:

其中,longitude表示经度,latitude表示纬度,re表示fov表示视场角,we,he表示想要获得的柱状图的像素值,we=he;

b、将经纬度转换为成像单位球面的坐标px,pv,pz:

px=cos(latitude)cos(longitude)

py=cos(latitude)sin(longitude)

pz=sin(latitude);

c、将成像单位球面的坐标px,pv,pz转换为球坐标系的坐标θ::

d、将球坐标系的坐标转换为鱼眼图上的坐标(i,j):

其中,函数f表示映射到入射光线到鱼眼相机成像平面光心的径向距离,该函数f的参数由鱼眼相机标定得到,wf以及hf由鱼眼相机标定得到,分别表示鱼眼相机投影中心到图片中心的偏移像素。

8.根据权利要求6或7所述的一种鱼眼图目标识别系统,其特征在于,所述预训练进一步包括通过包含无畸变目标的图片对深度学习检测模型进行训练。

9.根据权利要求8所述的一种鱼眼图目标识别系统,其特征在于,所述深度学习检测模型采用fasterrcnn模型、yolo系列模型或ssd模型。

10.根据权利要求9所述的一种鱼眼图目标识别系统,其特征在于,还包括将所述鱼眼图上的识别框坐标转换为鱼眼相机坐标系下的坐标。

技术总结
一种鱼眼图目标识别方法,包括:通过等距柱状投影方法获得待目标识别的鱼眼图的等距柱面展开图以及该等距柱面展开图上任意一个点的坐标与所述鱼眼图上对应点的坐标之间的转换关系;通过预训练的用于识别所述目标的识别模型对所述等距柱面展开图进行识别,得到所述目标在等距柱面展开图上的识别框坐标;通过上述转换关系将所述识别框坐标转换为所述鱼眼图上的识别框坐标。本发明检测精准度高,不用重新采集畸变数据进行模型训练。

技术研发人员:袁施薇
受保护的技术使用者:魔视智能科技(上海)有限公司
技术研发日:2020.01.13
技术公布日:2020.06.09

转载请注明原文地址: https://bbs.8miu.com/read-11408.html

最新回复(0)