本公开的实施方式总体上涉及操作自动驾驶车辆。更具体地，本公开的实施方式涉及车辆行为预测。
背景技术：
自动驾驶车辆(adv)可以将乘员、尤其是驾驶员从一些驾驶相关的职责中解放出来。当以自动驾驶模式运行时，车辆可以使用车载传感器和高清晰度地图导航到各个位置，从而允许车辆在最少人机交互的情况下或在没有任何乘客的一些情况下行驶。
车辆(即，自主车辆)的安全且可靠的自动驾驶需要准确预测周围环境中的对象(目标对象)的行为。如果没有准确和全面的周围环境的表示，这种预测将是困难的。现有方法通常关注目标对象的特征，而不考虑来自高清晰度地图的信息。因此，这些方法不能全面地表示自主车辆的周围环境。
技术实现要素：
本公开一方面提供了一种用于表示自动驾驶车辆(adv)的周围环境的计算机实施的方法，该方法包括：使用卷积神经网络从高清晰度地图提取多个特征；将所提取的多个特征与周围环境中的目标对象的多个人为设计特征级联；以及使用所级联的特征，通过卷积神经网络预测目标对象的一个或多个行为。
本公开另一方面提供了一种存储有用于表示自动驾驶车辆(adv)的周围环境的指令的非暂时性机器可读介质，指令在由处理器执行时使处理器执行操作，其包括：使用卷积神经网络从高清晰度地图提取多个特征；将所提取的多个特征与周围环境中的目标对象的多个人为设计特征级联；以及使用所级联的特征，通过卷积神经网络预测目标对象的一个或多个行为。
本公开又一方面提供了一种数据处理系统，包括：处理器；以及存储器，联接到处理器并存储用于表示自动驾驶车辆(adv)的周围环境的指令，指令在由处理器执行时使处理器执行操作，其包括：使用卷积神经网络从高清晰度地图提取多个特征；将所提取的多个特征与周围环境中的目标对象的多个人为设计特征级联；以及使用所级联的特征，通过卷积神经网络预测目标对象的一个或多个行为。
附图说明
本公开的实施方式在附图的各图中以举例而非限制的方式示出，附图中的相同的附图标记指代相似的元件。
图1是示出根据一个实施方式的网络化系统的框图。
图2是示出根据一个实施方式的自动驾驶车辆的示例的框图。
图3a至图3b是示出根据一个实施方式的与自动驾驶车辆一起使用的感知与规划系统的示例的框图。
图4示出了根据实施方式的用于表示adv的驾驶环境的系统。
图5还示出了根据实施方式的用于表示adv的驾驶环境的系统。
图6是示出根据实施方式的用于表示adv的驾驶环境的示例性过程的流程图。
图7是示出可以与本公开的一个实施方式一起使用的数据处理系统的示例的框图。
具体实施方式
将参考以下所讨论的细节来描述本公开的各种实施方式和方面，并且附图将示出各种实施方式。以下描述和附图是对本公开的说明，并且不应被解释为限制本公开。描述了许多特定细节以提供对本公开各种实施方式的全面理解。然而，在某些情况下，并未描述众所周知的或常规的细节以提供对本公开的实施方式的简洁讨论。
本说明书中对“一个实施方式”或“实施方式”的提及意味着结合该实施方式所描述的特定特征、结构或特性可以包括在本公开的至少一个实施方式中。短语“在一个实施方式中”在本说明书中各个地方的出现不必全部指相同的实施方式。
在实施方式中，描述了一种用于表示自主自动驾驶车辆(adv)的周围环境的方法。该方法使用来自高清晰度(hd)地图的第一组特征和来自周围环境中的目标对象的第二组特征来表示周围环境。第一组特征是使用卷积神经网络(cnn)从高清晰度地图提取的，并且第二组特征是在自主adv的预定数量的过去行驶周期期间来自目标对象的人为设计(handcrafted)特征。第一组特征和第二组特征被级联并提供给cnn的多个完全连接层以预测目标对象的行为。
在一个实施方式中，针对自主adv的每个行驶周期重复该方法中的操作。在另一个实施方式中，针对adv正在行进的道路的特定道路段的高清晰度地图的特征可以在adv中预先计算和缓存，以加速cnn的在线推理。
在一个实施方式中，目标对象的行为可以包括改变车道、左转、右转、最大转弯速度、或者自主adv在预测目标对象的行为时可能需要的任何其他驾驶相关的参数。
在一个实施方式中，为了从hd地图提取第一组特征，来自hd地图的信息可以被提取并分组成多个层，多个层包括车道特征层、交通标志层、静态对象层和通用地图信息层。所有层共享相同的网格尺寸，每个层都从hd地图上的不同信息中提取。人为设计特征可以包括目标对象的gps坐标、目标对象的宽度和长度、目标对象的车辆类型(例如，运动型多功能车辆)、目标对象的速度以及目标对象的可由adv用于预测目标对象行为的任何其他属性或特性。
为自动驾驶而构建的hd地图包括adv的特定道路段的所有信息。通过使用来自hd地图的特征，本文中描述的系统和方法可以提供adv的驾驶环境的综合表现。
自动驾驶车辆
图1是示出根据本公开的一个实施方式的自动驾驶车辆网络配置的框图。参考图1，网络配置100包括可以通过网络102通信地联接到一个或多个服务器103至104的自动驾驶车辆101。尽管示出一个自动驾驶车辆，但多个自动驾驶车辆可以通过网络102联接到彼此和/或联接到服务器103至104。网络102可以是任何类型的网络，例如，有线或无线的局域网(lan)、诸如互联网的广域网(wan)、蜂窝网络、卫星网络或其组合。服务器103至104可以是任何类型的服务器或服务器群集，诸如，网络或云服务器、应用服务器、后端服务器或其组合。服务器103至104可以是数据分析服务器、内容服务器、交通信息服务器、地图和兴趣点(mpoi)服务器或者位置服务器等。
自动驾驶车辆是指可以被配置成处于自动驾驶模式下的车辆，在所述自动驾驶模式下车辆在极少或没有来自驾驶员的输入的情况下导航通过环境。这种自动驾驶车辆可以包括传感器系统，所述传感器系统具有被配置成检测与车辆运行环境有关的信息的一个或多个传感器。所述车辆和其相关联的控制器使用所检测的信息来导航通过所述环境。自动驾驶车辆101可以在手动模式下、在全自动驾驶模式下或者在部分自动驾驶模式下运行。
在一个实施方式中，自动驾驶车辆101包括，但不限于，感知与规划系统110、车辆控制系统111、无线通信系统112、用户接口系统113、信息娱乐系统114(未示出)和传感器系统115。自动驾驶车辆101还可以包括普通车辆中包括的某些常用部件，诸如：发动机、车轮、方向盘、变速器等，所述部件可以由车辆控制系统111和/或感知与规划系统110使用多种通信信号和/或命令进行控制，该多种通信信号和/或命令例如，加速信号或命令、减速信号或命令、转向信号或命令、制动信号或命令等。
部件110至115可以经由互连件、总线、网络或其组合通信地联接到彼此。例如，部件110至115可以经由控制器局域网(can)总线通信地联接到彼此。can总线是被设计成允许微控制器和装置在没有主机的应用中与彼此通信的车辆总线标准。它是最初是为汽车内的复用电气布线设计的基于消息的协议，但也用于许多其它环境。
现在参考图2，在一个实施方式中，传感器系统115包括但不限于一个或多个摄像机211、全球定位系统(gps)单元212、惯性测量单元(imu)213、雷达单元214以及光探测和测距(lidar)单元215。gps系统212可以包括收发器，所述收发器可操作以提供关于自动驾驶车辆的位置的信息。imu单元213可以基于惯性加速度来感测自动驾驶车辆的位置和定向变化。雷达单元214可以表示利用无线电信号来感测自动驾驶车辆的本地环境内的对象的系统。在一些实施方式中，除感测对象之外，雷达单元214可以另外感测对象的速度和/或前进方向。lidar单元215可以使用激光来感测自动驾驶车辆所处环境中的对象。除其它系统部件之外，lidar单元215还可以包括一个或多个激光源、激光扫描器以及一个或多个检测器。摄像机211可以包括用来采集自动驾驶车辆周围环境的图像的一个或多个装置。摄像机211可以是静物摄像机和/或视频摄像机。摄像机可以是可机械地移动的，例如，通过将摄像机安装在旋转和/或倾斜平台上。
传感器系统115还可以包括其它传感器，诸如：声纳传感器、红外传感器、转向传感器、油门传感器、制动传感器以及音频传感器(例如，麦克风)。音频传感器可以被配置成从自动驾驶车辆周围的环境中采集声音。转向传感器可以被配置成感测方向盘、车辆的车轮或其组合的转向角度。油门传感器和制动传感器分别感测车辆的油门位置和制动位置。在一些情形下，油门传感器和制动传感器可以集成为集成式油门/制动传感器。
在一个实施方式中，车辆控制系统111包括但不限于转向单元201、油门单元202(也被称为加速单元)和制动单元203。转向单元201用来调整车辆的方向或前进方向。油门单元202用来控制电动机或发动机的速度，电动机或发动机的速度进而控制车辆的速度和加速度。制动单元203通过提供摩擦使车辆的车轮或轮胎减速而使车辆减速。应注意，如图2所示的部件可以以硬件、软件或其组合实施。
回到图1，无线通信系统112允许自动驾驶车辆101与诸如装置、传感器、其它车辆等外部系统之间的通信。例如，无线通信系统112可以与一个或多个装置直接无线通信，或者经由通信网络进行无线通信，诸如，通过网络102与服务器103至104通信。无线通信系统112可以使用任何蜂窝通信网络或无线局域网(wlan)，例如，使用wifi，以与另一部件或系统通信。无线通信系统112可以例如使用红外链路、蓝牙等与装置(例如，乘客的移动装置、显示装置、车辆101内的扬声器)直接通信。用户接口系统113可以是在车辆101内实施的外围装置的部分，包括例如键盘、触摸屏显示装置、麦克风和扬声器等。
自动驾驶车辆101的功能中的一些或全部可以由感知与规划系统110控制或管理，尤其当在自动驾驶模式下操作时。感知与规划系统110包括必要的硬件(例如，处理器、存储器、存储设备)和软件(例如，操作系统、规划和路线安排程序)，以从传感器系统115、控制系统111、无线通信系统112和/或用户接口系统113接收信息，处理所接收的信息，规划从起始点到目的地点的路线或路径，随后基于规划和控制信息来驾驶车辆101。替代地，感知与规划系统110可以与车辆控制系统111集成在一起。
例如，作为乘客的用户可以例如经由用户接口来指定行程的起始位置和目的地。感知与规划系统110获得行程相关数据。例如，感知与规划系统110可以从mpoi服务器中获得位置和路线信息，所述mpoi服务器可以是服务器103至104的一部分。位置服务器提供位置服务，并且mpoi服务器提供地图服务和某些位置的poi。替代地，此类位置和mpoi信息可以本地高速缓存在感知与规划系统110的永久性存储装置中。
当自动驾驶车辆101沿着路线移动时，感知与规划系统110也可以从交通信息系统或服务器(tis)获得实时交通信息。应注意，服务器103至104可以由第三方实体进行操作。替代地，服务器103至104的功能可以与感知与规划系统110集成在一起。基于实时交通信息、mpoi信息和位置信息以及由传感器系统115检测或感测的实时本地环境数据(例如，障碍物、对象、附近车辆)，感知与规划系统110可以规划最佳路线并且根据所规划的路线例如经由控制系统111来驾驶车辆101，以安全且高效到达指定目的地。
服务器103可为用于为各种客户端执行数据分析服务的数据分析系统。在一个实施方式中，数据分析系统103包括数据收集器121和机器学习引擎122。数据收集器121从多种车辆(自动驾驶车辆或由人类驾驶员驾驶的常规车辆)收集驾驶统计数据123。驾驶统计数据123包括表示在不同的时间点处由车辆的传感器捕获的所发出的驾驶命令(例如，油门命令、制动命令和转向命令)以及车辆的响应(例如，速度、加速度、减速度、方向)的信息。驾驶统计数据123还可包括描述不同的时间点处的驾驶环境的信息，诸如，例如，路线(包括起点位置和目的地位置)、mpoi、道路状况、天气状况等。
基于驾驶统计数据123，机器学习引擎122针对各种目的生成或训练规则集、算法和/或预测模型124。例如，可以选择并定义具有初始系数或参数的一组五次多项式函数。此外，还可以基于可以从驾驶统计数据123获得的诸如传感器规格和特定车辆设计的硬件特性来定义一组约束。然后可以将算法124上传到adv上以在自动驾驶期间实时使用
图3a和图3b是示出根据一个实施方式的与自动驾驶车辆一起使用的感知与规划系统的示例的框图。系统300可实施为图1的自动驾驶车辆101的一部分，包括但不限于感知与规划系统110、控制系统111和传感器系统115。参考图3a至图3b，感知与规划系统110包括但不限于定位模块301、感知模块302、预测模块303、决策模块304、规划模块305、控制模块306和路线制定模块307。
模块301至307中的一些或全部可以以软件、硬件或其组合实施。例如，这些模块可安装在永久性存储装置352中、加载到存储器351中，并且由一个或多个处理器(未示出)执行。应注意，这些模块中的一些或全部可通信地联接到图2的车辆控制系统111的一些或全部模块或者与它们集成在一起。模块301至307中的一些可一起集成为集成模块。
定位模块301确定自动驾驶车辆300的当前位置(例如，利用gps单元212)并管理与用户的行程或路线相关的任何数据。定位模块301(也被称为地图与路线模块)管理与用户的行程或路线相关的任何数据。用户可以例如经由用户接口登录并且指定行程的开始位置和目的地。定位模块301与自动驾驶车辆300的诸如地图和路线信息(或数据)311的其它组件通信，以获得行程相关数据。例如，定位模块301可从位置服务器和地图与poi(mpoi)服务器获得位置和路线信息。位置服务器提供位置服务，以及mpoi服务器提供地图服务和某些位置的poi，这些可作为地图和路线信息311的一部分高速缓存。当自动驾驶车辆300沿着路线移动时，定位模块301也可从交通信息系统或服务器获得实时交通信息。
基于由传感器系统115提供的传感器数据和由定位模块301获得的定位信息，感知模块302确定对周围环境的感知。感知信息可以表示普通驾驶员在驾驶员正驾驶的车辆周围将感知到的东西。感知可以包括例如采用对象形式的车道配置、交通灯信号、另一车辆的相对位置、行人、建筑物、人行横道或其它交通相关标志(例如，停止标志、让行标志)等。车道配置包括描述一个或多个车道的信息，诸如例如车道的形状(例如，直线或弯曲)、车道的宽度、道路中的车道数量、单向车道或双向车道、合并车道或分离车道、离开车道等。
感知模块302可以包括计算机视觉系统或计算机视觉系统的功能，以处理并分析由一个或多个摄像机采集的图像，从而识别自动驾驶车辆环境中的对象和/或特征。所述对象可以包括交通信号、道路边界、其它车辆、行人和/或障碍物等。计算机视觉系统可以使用对象识别算法、视频跟踪以及其它计算机视觉技术。在一些实施方式中，计算机视觉系统可以绘制环境地图，跟踪对象，以及估算对象的速度等。感知模块302也可以基于由诸如雷达和/或lidar的其它传感器提供的其它传感器数据来检测对象。
针对每个对象，预测模块303预测该对象在此情形下将表现什么。根据一组地图/路线信息311和交通规则312，基于该时间点的感知驾驶环境的感知数据来执行预测。例如，如果对象是处于相反方向的车辆并且当前驾驶环境包括十字路口，则预测模块303将预测车辆是将可能直线向前移动还是进行转弯。如果感知数据表明十字路口没有交通灯，则预测模块303可预测车辆在进入十字路口之前可能需要完全停止。如果感知数据表明车辆当前处于仅左转弯车道或仅右转弯车道，则预测模块303可分别预测车辆将更可能向左转弯或向右转弯。
针对每个对象，决策模块304作出关于如何处置对象的决定。例如，针对特定对象(例如，交叉路线中的另一车辆)以及描述对象的元数据(例如，速度、方向、转弯角度)，决策模块304决定如何与所述对象相遇(例如，超车、让行、停止、超过)。决策模块304可根据诸如交通规则或驾驶规则312的规则集来作出此类决定，所述规则集可存储在永久性存储装置352中。
路线制定模块307配置成提供从起点到目的地点的一个或多个路线或路径。对于从开始位置到目的地位置的给定行程(例如，从用户接收的)，路线制定模块307获得路线和地图信息311，并且确定从开始位置至到达目的地位置的所有可能的路线或路径。路线制定模块307可以以地形图的形式生成用于其确定的从开始位置至到达目的地位置的路线中的每个的参考线。参考线指的是理想的路线或路径，而不受诸如其他车辆、障碍物或交通状况的其他事物的任何干扰。即，如果道路上不存在其他车辆、行人或障碍物，则adv应精确地或紧密地遵循参考线。然后，地形图被提供至决策模块304和/或规划模块305。根据由其它模块提供的其它数据(诸如，来自定位模块301的交通状况、由感知模块302感知的驾驶环境和由预测模块303预测的交通状况)，决策模块304和/或规划模块305检查所有可能的路线以选择和修改最优路线中的一个。用于控制adv的实际路径或路线可与由路线制定模块307提供的参考线接近或不同，这取决于该时间点的特定驾驶环境。
基于针对所感知到的对象中的每个的决定，规划模块305使用由路线制定模块307提供的参考线作为基础来为自动驾驶车辆规划路径或路线以及驾驶参数(例如，距离、速度和/或转弯角度)。即，针对给定的对象，决策模块304决定对该对象做什么，而规划模块305确定如何去做。例如，针对给定的对象，决策模块304可以决定超过所述对象，而规划模块305可以确定在所述对象的左侧还是右侧超过。规划和控制数据由规划模块305生成，包括描述车辆300在下一移动循环(例如，下一路线/路径段)中将如何移动的信息。例如，规划和控制数据可以指示车辆300以30英里每小时(mph)的速度移动10米，随后以25mph的速度变到右侧车道。
基于规划和控制数据，控制模块306根据由规划和控制数据限定的路线或路径通过将适当的命令或信号发送到车辆控制系统111来控制并驾驶自动驾驶车辆。所述规划和控制数据包括足够的信息，以沿着路径或路线在不同的时间点使用适当的车辆设置或驾驶参数(例如，油门、制动和转向命令)将车辆从路线或路径的第一点驾驶到第二点。
在一个实施方式中，在多个规划周期(也被称为行驶周期)，例如在每100毫秒(ms)的时间间隔中，执行规划阶段。针对规划周期或行驶周期中的每一个，将基于规划数据和控制数据发出一个或多个控制命令。即，对于每个100ms，规划模块305规划下一路线段或路径段，例如，包括目标位置和adv到达目标位置所需的时间。替代地，规划模块305还可指定具体速度、方向和/或转向角等。在一个实施方式中，规划模块305为下一预定时间段(诸如5秒)规划路线段或路径段。对于每个规划周期，规划模块305基于先前周期中规划的目标位置来规划当前周期(例如，接下来的5秒)的目标位置。然后，控制模块306基于当前周期的规划数据和控制数据生成一个或多个控制命令(例如，油门命令、制动命令、转向控制命令)。
应注意，决策模块304和规划模块305可以集成为集成模块。决策模块304/规划模块305可以包括导航系统或导航系统的功能，以确定自动驾驶车辆的驾驶路径。例如，导航系统可以确定用于影响自动驾驶车辆沿着以下路径移动的一系列速度和前进方向：所述路径在使自动驾驶车辆沿着通往最终目的地的基于车行道的路径前进的同时，基本上避免感知到的障碍物。目的地可以根据经由用户接口系统113进行的用户输入来设定。导航系统可以在自动驾驶车辆正在运行的同时动态地更新驾驶路径。导航系统可以将来自gps系统和一个或多个地图的数据合并，以确定用于自动驾驶车辆的驾驶路径。
应注意，如上文示出和描述的部件中的一些或全部可以在软件、硬件或其组合中实施。例如，此类部件可以实施为安装并存储在永久性存储装置中的软件，所述软件可以通过处理器(未示出)加载在存储器中并在存储器中执行以实施贯穿本申请所述的过程或操作。替代地，此类部件可以实施为编程或嵌入到专用硬件(诸如，集成电路(例如，专用集成电路或asic)、数字信号处理器(dsp)或现场可编程门阵列(fpga))中的可执行代码，所述可执行代码可以经由来自应用的相应驱动程序和/或操作系统来访问。此外，此类部件可以实施为处理器或处理器内核中的特定硬件逻辑，作为可由软件部件通过一个或多个特定指令访问的指令集的一部分。
环境特征表示
图4示出了根据实施方式的用于表示adv的驾驶环境的系统。如图4中所示，预测模块303可以使用地理信息系统(gis)工具从存储在地图和路线数据311模块中的高清晰度(hd)地图401提取多个地图层402。在一个实施方式中，地图层可以是包含点、线或区域(多边形)特征的集群的gis数据库，这些特征表示特定类别或类型的真实世界实体，例如交通车道、交通标志、静态对象、速度限制和通用道路信息。
在一个实施方式中，对于每个行驶周期，可以在自主adv的视角内从hd地图401提取地图层402。视角基于与自主adv的前进方向对应的角度；视角的深度可以由预测模块303预先确定。由于移动中的自主adv的前进方向不断变化，因此对于自主adv的每个行驶周期，自主adv的视角可能不同。因此，预测模块303可以从hd地图401的不同部分提取信息，以针对自主adv的不同行驶周期来制定地图层402。
地图层402可以级联并转换成红色、绿色和蓝色(rgb)表示403，rgb表示403可以是限定每个单个像素的红色分量、绿色分量和蓝色分量的m×n×3数据阵列。rgb表示403可以作为输入数据提供给卷积神经网络404。卷积层406可以用于从rgb表示403提取多个特征407。每个提取的特征可以是rgb表示403的补丁(patch)，并且可以由二进制网格(例如，0和1的二进制网格)表示。例如，特征可以是表示hd地图401中的停车标志的二进制网格或特征图。
自主adv的周围环境中的目标对象的多个人为设计特征405可以与所提取特征407级联。目标对象可以在特定行驶周期的视角内。与通过卷积神经网络404从rgb图像401自动学习的所提取特征407不同，人为设计特征405是目标对象的属性，其是根据由一个或多个传感器获得的数据、使用各种算法导出的。在一个实施方式中，目标对象可以是自主adv的感知和预测区域中的汽车、自行车或行人。
例如，人为设计特征405可以包括目标对象的位置、车辆类型、宽度、长度和速度，或者目标对象的任何其他属性，目标对象的任何其他属性与自主adv的预定数量(n)的过去行驶周期中的目标对象的行为预测相关。人为设计特征405还可以包括关于这些属性的统计数据，例如，自主adv的n个行驶周期内的目标对象的平均速度。每个人为设计特征可以类似地由二进制网格表示。
在一个实施方式中，可以标记人为设计特征405和所提取特征407中的每一个，使得特征可以与块信息相关联，该块信息指示针对特定行驶周期的自主adv的感知和预测区域的哪个网格细分。
可以将级联特征提供给卷积神经网络404的一个或多个完全连接层409，以生成目标对象的预测411。目标对象的每个预测行为可以是多分类预测。一个示例性预测可以是目标对象具有70％的左转概率、10％的右转概率和20％的直线行进概率。
在一个实施方式中，对于自主adv的一个或多个行驶周期，或者自主adv在特定道路段上的整个行程，如果在预测目标对象的行为时未使用人为设计特征，则可以预先计算和缓存所提取特征407，以加速卷积神经网络404的在线推理。
图5还示出了根据实施方式的用于表示adv的驾驶环境的系统。参考图5，可以通过自主adv中的预测模块在自主adv的视角内、从高清晰度地图提取地图层502。角度可以是自主adv的前进方向。可以使用张量实现地图层502，并且地图层502可以包括车道特征层503、交通标志层505、静态对象层507和通用道路信息层509。取决于自主adv所配置以预测的目标对象的行为，还可以从hd地图提取其他层。
地图层502可以转换成可以是3维阵列的类图像rgb表示510。可以在自主adv的预测模块中设置训练好的卷积神经网络模型511，以用于从rgb表示510提取特征。所提取特征513中的每一个可以表示rgb表示510的补丁。
所提取特征513可以与自主adv的预定数量的过去行驶周期的人为设计特征515级联。人为设计特征515可以包括目标对象的与目标对象的预测相关的多个属性，例如，人为设计特征可以包括纬度516、经度517、长度518、宽度519以及类型520。还可以基于需要由自主adv预测的目标对象的行为类型使用其他人为设计特征。
可以将级联特征提供给多个fc层521、523，多个fc层521、523可以生成目标对象的行为的预测525。可以针对每个行驶周期重复上述过程。
图6是示出根据实施方式的表示adv的驾驶环境的示例性过程的流程图。
过程600可以由处理逻辑执行，处理逻辑可以包括软件，硬件或其组合。过程600可以由处理逻辑执行，处理逻辑可以包括硬件(例如，电路、专用逻辑，可编程逻辑、处理器，处理装置、中央处理单元(cpu)、片上系统(soc)等)、软件(例如，在处理装置上运行/执行的指令)、固件(例如，微代码)或其组合。在一些实施方式中，过程600可以由如图3a和图3b所示的一个或多个模块执行。
参考图6，在操作601中，可以使用卷积神经网络从高清晰度地图提取多个特征。从高清晰度地图提取特征包括从高清晰度地图提取多个层；以及将多个层转换成红色、绿色和蓝色(rgb)表示；以及使用卷积网络的一个或多个卷积层从rgb表示提取多个特征。地图层可以包括车道特征层、交通标志层、静态对象层和通用地图信息层。所有层共享相同的网格尺寸，每个层均从高清晰度地图上的不同信息提取。
在操作603中，将来自高清晰度地图的所提取特征与来自周围环境中的目标对象的多个人为设计特征级联。人为设计特征可以包括目标对象的gps坐标、目标对象的宽度、长度、车辆类型(例如，运动型多功能车辆)、车辆的速度、或者目标对象的任何其他属性或特性，该任何其他属性或特性可以由adv用于预测目标对象的行为。目标对象的人为设计特征由adv的感知系统在预定数量的adv的过去行驶周期中收集。
在操作605中，卷积神经网络使用级联特征来预测目标对象的一个或多个行为。可以将级联特征提供给卷积神经网络的一个或多个完全连接层，以生成对目标对象的预测。目标对象的每个预测行为可以是多类别预测。进而，adv可以使用这些预测来规划在接下来的一个或多个行驶周期中的行进路径。
应注意，如上文示出和描述的部件中的一些或全部可以在软件、硬件或其组合中实施。例如，此类部件可以实施为安装并存储在永久性存储装置中的软件，所述软件可以通过处理器(未示出)加载在存储器中并在存储器中执行以实施贯穿本申请所述的过程或操作。替代地，此类部件可以实施为编程或嵌入到专用硬件(诸如，集成电路(例如，专用集成电路或asic)、数字信号处理器(dsp)或现场可编程门阵列(fpga))中的可执行代码，所述可执行代码可以经由来自应用的相应驱动程序和/或操作系统来访问。此外，此类部件可以实施为处理器或处理器内核中的特定硬件逻辑，作为可由软件部件通过一个或多个特定指令访问的指令集的一部分。
图7是示出可以与本公开的一个实施方式一起使用的数据处理系统的示例的框图。例如，系统1500可以表示以上所述的执行上述过程或方法中的任一个的任何数据处理系统。系统1500可以包括许多不同的部件。这些部件可以实施为集成电路(ic)、集成电路的部分、分立电子装置或适用于电路板(诸如，计算机系统的主板或插入卡)的其它模块或者实施为以其它方式并入计算机系统的机架内的部件。
还应注意，系统1500旨在示出计算机系统的许多部件的高阶视图。然而，应当理解的是，某些实施方式中可以具有附加的部件，此外，其它实施方式中可以具有所示部件的不同布置。系统1500可以表示台式计算机、膝上型计算机、平板计算机、服务器、移动电话、媒体播放器、个人数字助理(pda)、智能手表、个人通信器、游戏装置、网络路由器或集线器、无线接入点(ap)或中继器、机顶盒或其组合。此外，虽然仅示出了单个机器或系统，但是术语“机器”或“系统”还应当被理解为包括单独地或共同地执行一个(或多个)指令集以执行本文所讨论的任何一种或多种方法的机器或系统的任何集合。
在一个实施方式中，系统1500包括通过总线或互连件1510连接的处理器1501、存储器1503以及装置1505至1508。处理器1501可以表示其中包括单个处理器内核或多个处理器内核的单个处理器或多个处理器。处理器1501可以表示一个或多个通用处理器，诸如，微处理器、中央处理单元(cpu)等。更具体地，处理器1501可以是复杂指令集计算(cisc)微处理器、精简指令集计算(risc)微处理器、超长指令字(vliw)微处理器、或实施其它指令集的处理器、或实施指令集组合的处理器。处理器1501还可以是一个或多个专用处理器，诸如，专用集成电路(asic)、蜂窝或基带处理器、现场可编程门阵列(fpga)、数字信号处理器(dsp)、网络处理器、图形处理器、通信处理器、加密处理器、协处理器、嵌入式处理器、或者能够处理指令的任何其它类型的逻辑。
处理器1501(其可以是低功率多核处理器套接口，诸如超低电压处理器)可以充当用于与所述系统的各种部件通信的主处理单元和中央集线器。这种处理器可以实施为片上系统(soc)。处理器1501被配置成执行用于执行本文所讨论的操作和步骤的指令。系统1500还可以包括与可选的图形子系统1504通信的图形接口，图形子系统1504可以包括显示控制器、图形处理器和/或显示装置。
处理器1501可以与存储器1503通信，存储器1503在一个实施方式中可以经由多个存储器装置实施以提供给定量的系统存储。存储器1503可以包括一个或多个易失性存储(或存储器)装置，诸如，随机存取存储器(ram)、动态ram(dram)、同步dram(sdram)、静态ram(sram)或者其它类型的存储装置。存储器1503可以存储包括由处理器1501或任何其它装置执行的指令序列的信息。例如，各种操作系统、装置驱动程序、固件(例如，输入输出基本系统或bios)和/或应用的可执行代码和/或数据可以加载到存储器1503中并由处理器1501执行。操作系统可以是任何类型的操作系统，例如，机器人操作系统(ros)、来自
系统1500还可以包括io装置，诸如装置1505至1508，包括网络接口装置1505、可选的输入装置1506，以及其它可选的io装置1507。网络接口装置1505可以包括无线收发器和/或网络接口卡(nic)。所述无线收发器可以是wifi收发器、红外收发器、蓝牙收发器、wimax收发器、无线蜂窝电话收发器、卫星收发器(例如，全球定位系统(gps)收发器)或其它射频(rf)收发器或者它们的组合。nic可以是以太网卡。
输入装置1506可以包括鼠标、触摸板、触敏屏幕(其可以与显示装置1504集成在一起)、指针装置(诸如，手写笔)和/或键盘(例如，物理键盘或作为触敏屏幕的一部分显示的虚拟键盘)。例如，输入装置1506可以包括联接到触摸屏的触摸屏控制器。触摸屏和触摸屏控制器例如可以使用多种触敏技术(包括但不限于电容、电阻、红外和表面声波技术)中的任一种，以及其它接近传感器阵列或用于确定与触摸屏接触的一个或多个点的其它元件来检测其接触和移动或间断。
io装置1507可以包括音频装置。音频装置可以包括扬声器和/或麦克风，以促进支持语音的功能，诸如语音识别、语音复制、数字记录和/或电话功能。其它io装置1507还可以包括通用串行总线(usb)端口、并行端口、串行端口、打印机、网络接口、总线桥(例如，pci-pci桥)、传感器(例如，诸如加速度计运动传感器、陀螺仪、磁强计、光传感器、罗盘、接近传感器等)或者它们的组合。装置1507还可以包括成像处理子系统(例如，摄像机)，所述成像处理子系统可以包括用于促进摄像机功能(诸如，记录照片和视频片段)的光学传感器，诸如电荷耦合装置(ccd)或互补金属氧化物半导体(cmos)光学传感器。某些传感器可以经由传感器集线器(未示出)联接到互连件1510，而诸如键盘或热传感器的其它装置可以根据系统1500的具体配置或设计由嵌入式控制器(未示出)控制。
为了提供对诸如数据、应用、一个或多个操作系统等信息的永久性存储，大容量存储设备(未示出)也可以联接到处理器1501。在各种实施方式中，为了实现更薄且更轻的系统设计并且改进系统响应性，这种大容量存储设备可以经由固态装置(ssd)来实施。然而，在其它实施方式中，大容量存储设备可以主要使用硬盘驱动器(hdd)来实施，其中较小量的ssd存储设备充当ssd高速缓存以在断电事件期间实现上下文状态以及其它此类信息的非易失性存储，从而使得在系统活动重新启动时能够实现快速通电。另外，闪存装置可以例如经由串行外围接口(spi)联接到处理器1501。这种闪存装置可以提供系统软件的非易失性存储，所述系统软件包括所述系统的bios以及其它固件。
存储装置1508可以包括计算机可访问的存储介质1509(也被称为机器可读存储介质或计算机可读介质)，其上存储有体现本文所述的任何一种或多种方法或功能的一个或多个指令集或软件(例如，模块、单元和/或逻辑1528)。处理模块/单元/逻辑1528可以表示上述部件中的任一个，例如，规划模块305和控制模块306。处理模块/单元/逻辑1528还可以在其由数据处理系统1500、存储器1503和处理器1501执行期间完全地或至少部分地驻留在存储器1503内和/或处理器1501内，数据处理系统1500、存储器1503和处理器1501也构成机器可访问的存储介质。处理模块/单元/逻辑1528还可以通过网络经由网络接口装置1505进行传输或接收。
计算机可读存储介质1509也可以用来永久性地存储以上描述的一些软件功能。虽然计算机可读存储介质1509在示例性实施方式中被示为单个介质，但是术语“计算机可读存储介质”应当被认为包括存储所述一个或多个指令集的单个介质或多个介质(例如，集中式或分布式数据库和/或相关联的高速缓存和服务器)。术语“计算机可读存储介质”还应当被认为包括能够存储或编码指令集的任何介质，所述指令集用于由机器执行并且使得所述机器执行本公开的任何一种或多种方法。因此，术语“计算机可读存储介质”应当被认为包括但不限于固态存储器以及光学介质和磁性介质，或者任何其它非暂时性机器可读介质。
本文所述的处理模块/单元/逻辑1528、部件以及其它特征可以实施为分立硬件部件或集成在硬件部件(诸如，asics、fpga、dsp或类似装置)的功能中。此外，处理模块/单元/逻辑1528可以实施为硬件装置内的固件或功能电路。此外，处理模块/单元/逻辑1528可以以硬件装置和软件部件的任何组合来实施。
应注意，虽然系统1500被示出为具有数据处理系统的各种部件，但是并不旨在表示使部件互连的任何特定架构或方式；因为此类细节和本公开的实施方式没有密切关系。还应当认识到，具有更少部件或可能具有更多部件的网络计算机、手持计算机、移动电话、服务器和/或其它数据处理系统也可以与本公开的实施方式一起使用。
前述详细描述中的一些部分已经根据在计算机存储器内对数据位的运算的算法和符号表示而呈现。这些算法描述和表示是数据处理领域中的技术人员所使用的方式，以将他们的工作实质最有效地传达给本领域中的其他技术人员。本文中，算法通常被认为是导致所期望结果的自洽操作序列。这些操作是指需要对物理量进行物理操控的操作。
然而，应当牢记，所有这些和类似的术语均旨在与适当的物理量关联，并且仅仅是应用于这些量的方便标记。除非在以上讨论中以其它方式明确地指出，否则应当了解，在整个说明书中，利用术语(诸如所附权利要求书中所阐述的术语)进行的讨论是指计算机系统或类似电子计算装置的动作和处理，所述计算机系统或电子计算装置操控计算机系统的寄存器和存储器内的表示为物理(电子)量的数据，并将所述数据变换成计算机系统存储器或寄存器或者其它此类信息存储设备、传输或显示装置内类似地表示为物理量的其它数据。
本公开的实施方式还涉及用于执行本文中的操作的设备。这种计算机程序被存储在非暂时性计算机可读介质中。机器可读介质包括用于以机器(例如，计算机)可读的形式存储信息的任何机构。例如，机器可读(例如，计算机可读)介质包括机器(例如，计算机)可读存储介质(例如，只读存储器(“rom”)、随机存取存储器(“ram”)、磁盘存储介质、光存储介质、闪存存储器装置)。
前述附图中所描绘的过程或方法可以由处理逻辑来执行，所述处理逻辑包括硬件(例如，电路、专用逻辑等)、软件(例如，体现在非暂时性计算机可读介质上)或两者的组合。尽管所述过程或方法在上文是依据一些顺序操作来描述的，但是应当了解，所述操作中的一些可以按不同的顺序执行。此外，一些操作可以并行地执行而不是顺序地执行。
本公开的实施方式并未参考任何特定的编程语言进行描述。应认识到，可以使用多种编程语言来实施如本文描述的本公开的实施方式的教导。
在以上的说明书中，已经参考本公开的具体示例性实施方式对本发明的实施方式进行了描述。将显而易见的是，在不脱离所附权利要求书中阐述的本发明的更宽泛精神和范围的情况下，可以对本公开作出各种修改。因此，应当在说明性意义而不是限制性意义上来理解本说明书和附图。
1.一种用于表示自动驾驶车辆adv的周围环境的计算机实施的方法，所述方法包括：
使用卷积神经网络从高清晰度地图提取多个特征；
将所提取的多个特征与所述周围环境中的目标对象的多个人为设计特征级联；以及
使用所级联的特征，通过所述卷积神经网络预测所述目标对象的一个或多个行为。
2.根据权利要求1所述的方法，其中，从所述高清晰度地图提取所述多个特征包括：
从所述高清晰度地图提取多个层；
将所述多个层转换成红色、绿色和蓝色rgb表示；以及
使用所述卷积神经网络的一个或多个卷积层从所述rgb表示中提取所述多个特征。
3.根据权利要求1所述的方法，其中，所述目标对象的人为设计特征由所述adv的感知系统在预定数量的过去行驶周期中收集。
4.根据权利要求1所述的方法，其中，针对所述adv的每个行驶周期，重复进行提取、级联和预测。
5.根据权利要求1所述的方法，其中，从所述高清晰度地图提取的所述多个层共享相同的网格尺寸集。
6.根据权利要求1所述的方法，其中，预先计算并缓存所述高清晰度地图的所提取的特征，以加速所述卷积神经网络的在线推理。
7.根据权利要求1所述的方法，其中，所述卷积神经网络从所述高清晰度地图的部分提取所述多个特征，其中所述高清晰度地图的所述部分位于所述adv的视角内，所述视角对应于所述adv的前进方向。
8.一种存储有用于表示自动驾驶车辆adv的周围环境的指令的非暂时性机器可读介质，所述指令在由处理器执行时使所述处理器执行操作，所述操作包括：
使用卷积神经网络从高清晰度地图提取多个特征；
将所提取的多个特征与所述周围环境中的目标对象的多个人为设计特征级联；以及
使用所级联的特征，通过所述卷积神经网络预测所述目标对象的一个或多个行为。
9.根据权利要求8所述的非暂时性机器可读介质，其中，从所述高清晰度地图提取所述多个特征包括：
从所述高清晰度地图提取多个层；
将所述多个层转换成红色、绿色和蓝色rgb表示；以及
使用所述卷积神经网络的一个或多个卷积层从所述rgb表示中提取所述多个特征。
10.根据权利要求8所述的非暂时性机器可读介质，其中，所述目标对象的人为设计特征由所述adv的感知系统在预定数量的过去行驶周期中收集。
11.根据权利要求8所述的非暂时性机器可读介质，其中，针对所述adv的每个行驶周期，重复进行提取、级联和预测。
12.根据权利要求8所述的非暂时性机器可读介质，其中，从所述高清晰度地图提取的所述多个层共享相同的网格尺寸集。
13.根据权利要求8所述的非暂时性机器可读介质，其中，预先计算并缓存所述高清晰度地图的所提取的特征，以加速所述卷积神经网络的在线推理。
14.根据权利要求8所述的非暂时性机器可读介质，其中，所述卷积神经网络从所述高清晰度地图的部分提取所述多个特征，其中所述高清晰度地图的所述部分位于所述adv的视角内，所述视角对应于所述adv的前进方向。
15.一种数据处理系统，包括：
处理器；以及
存储器，联接到所述处理器并存储用于表示自动驾驶车辆adv的周围环境的指令，所述指令在由处理器执行时使所述处理器执行操作，所述操作包括：
使用卷积神经网络从高清晰度地图提取多个特征；
将所提取的多个特征与所述周围环境中的目标对象的多个人为设计特征级联；以及
使用所级联的特征，通过所述卷积神经网络预测所述目标对象的一个或多个行为。
16.根据权利要求15所述的系统，其中，从所述高清晰度地图提取所述多个特征包括：
从所述高清晰度地图提取多个层；
将所述多个层转换成红色、绿色和蓝色rgb表示；以及
使用所述卷积神经网络的一个或多个卷积层从所述rgb表示中提取所述多个特征。
17.根据权利要求15所述的系统，其中，所述目标对象的人为设计特征由所述adv的感知系统在预定数量的过去行驶周期中收集。
18.根据权利要求15所述的系统，其中，针对所述adv的每个行驶周期，重复进行提取、级联和预测。
19.根据权利要求15所述的系统，其中，从所述高清晰度地图提取的所述多个层共享相同的网格尺寸集。
20.根据权利要求15所述的系统，其中，预先计算并缓存所述高清晰度地图的所提取的特征，以加速所述卷积神经网络的在线推理。
21.根据权利要求15所述的系统，其中，所述卷积神经网络从所述高清晰度地图的部分提取所述多个特征，其中所述高清晰度地图的所述部分位于所述adv的视角内，所述视角对应于所述adv的前进方向。
技术总结