基于场景的自动驾驶算法测试验证方法研究
背景
由于自动驾驶技术的复杂性,传统基于规则和基于里程的测试验证方式已经不再是最优解,而是需要基于场景来做更全面的测试验证。针对此问题,国内外持续推进智能网联汽车准入管理和基于场景测试验证的相关研究。
联合国世界车辆法规协调论坛(WP.29)自动驾驶验证方法非正式工作组提出包含场景目录、模拟仿真测试、封闭场地测试、实际道路测试、审核评估和在用监测等5类技术手段的《自动驾驶新型测评方法(NATM)》[1]。2022年8月,欧盟发布自动驾驶车辆型式认证法规REGULATION (EU)2022/1426[2],提出必须对自动驾驶系统(ADS)进行合规性评估,评估内容基于最关键、最相关和最小范围的交通场景开展,型式批准机构或代表其行事的技术服务机构则通过针对性的抽查和测试进行审核。国际标准化组织ISO开展ISO 3450X系列自动驾驶测试场景相关标准的研究。其中,在已发布的ISO 34501[3]中,明确定义了功能场景-(抽象场景)-逻辑场景-具体场景的关系,如下图1所示。

图1 功能场景-抽象场景-逻辑场景-具体场景关系示意图[4]
2023年底,四部委发布的《关于开展智能网联汽车准入和上路通行试点的通知》[5] 中明确,模拟仿真应至少开展充分、合理的标称场景、危险场景和边缘场景测试,封闭场地应开展典型场景测试,实际道路应开展连续场景测试。全国汽车标准化技术委员会编制的“三支柱”推荐性国家标准[6] [7] [8]中规定了功能场景、逻辑场景和具体场景等层面的具体要求。
本篇文章主要研究和阐述赛目科技提出的一种基于场景的自动驾驶算法测试验证方法,从逻辑场景角度对场景开展确定类测试验证和估计场景的失效概率,最终对自动驾驶算法开展全面的验证。
方法论的前提是构建“场景空间”。基于“功能场景-逻辑场景-具体场景”框架,在 “功能场景”基础上,已知可以通过M个场景参数和参数的分布区间构建1个“逻辑场景”,随着M个场景参数具体取值的不同,每个“逻辑场景”又包含N个“具体测试场景”。假设每个场景参数都等效于一维空间,那么1个具备M个场景参数的“逻辑场景”则可等效于1个M维、连续的 “场景空间”。假设一个M维、连续的逻辑 “场景空间”用来表示,该逻辑场景下的一个具体场景可以表示为此空间中的一个点。“场景空间”示意图如下图2所示。

图2 场景空间示意图
方法论
现实交通中的驾驶场景难以计数,具有无限丰富、极其复杂、不可预测和不可穷尽等特点。对自动驾驶企业来说,如何用少量、精准的场景测试,确保自动驾驶算法的安全性和可靠性变得十分关键。
基于逻辑场景空间的自动驾驶算法测试验证方法,用“F”表示,主要包括两个关键步骤,一是开展确定类场景测试,用“Q”表示;二是进行场景失败概率估算,用“S”表示,则:

1、确定类场景测试
确定类场景
是指已知参数或参数范围的场景。确定类场景测试是指针对确定类场景进行测试,主要涉及标准法规类场景。自动驾驶企业开展确定类场景测试时,测试结果应全部通过。假设测试场景数量为X,测试次数为Y,则:

当前,企业熟知的确定类场景主要包括“三支柱”测试验证推荐性国家标准[6][7][8],根据公式(2)得出
:
(1)仿真国标场景[6],固定数量(48个功能/逻辑场景,每个功能/逻辑场景对应约20个具体测试场景)×固定次数(3次)

(2)场地国标场景[7],固定数量(32个功能/逻辑场景)×固定次数(3次)

(3)道路国标场景[8],随机数量×随机次数

综上,确定类场景 Q确为:

确定类场景示意图如下图3所示。

图3 确定类场景示意图


图4失败场景示意图
场景失败概率估算详细内容可参考赛目科技发布的《基于场景的自动驾驶验证策略》一文。
综上所述,针对M维连续逻辑场景空间
,基于逻辑场景空间的自动驾驶算法测试验证方法包括确定类场景测试和场景失败概率估算,即需满足公式(8)的要求:

自动驾驶算法测试验证示例
目前,赛目科技具备的完整的仿真测试工具链以及封闭测试场地,能够支持上述方法论在自动驾驶算法验证过程中很好的开展工作。
以功能场景“前方车辆切出后存在静止车辆”为例,该场景具备危险性,复杂性和不可预测性等突出特点,是验证自动驾驶算法在面对较为极端的前方突发状况下识别及响应能力的典型测试场景。试验场景示意图如下图5所示。试验车辆(VUT)与目标车辆(VT1)共同驶向静止的目标车辆(VT2),当目标车辆(VT1)距离目标车辆(VT2)一定距离时,目标车辆(VT1)向左侧相邻车道切出。

图5 前方车辆切出后存在静止车辆试验场景示意图
1、确定类场景测试
本示例中,确定类场景测试
主要包括“三支柱”测试验证标准[6][7][8],按照标准要求测试并通过。
其中,模拟仿真测试的部分,通过赛目科技自主研发的模拟仿真测试工具链Sim Pro开展,需要进行测试的场景共
具体测试场景,主要参数示例如下表1所示。
表1 前方车辆切出后存在静止车辆试验场景参数列表

基于Sim Pro搭建测试场景以及开展仿真测试如下图6所示。

图6 仿真测试具体测试场景示意图
封闭场地测试的部分,参考场地试验国标要求,在国家智能汽车与智慧交通(京冀)示范区顺义基地开展,需要进行测试的场景共(个)具体测试场景。实际道路测试在某城市一段高速上开展,
具体测试场景。
2、场景失败概率估算
基于确定类仿真测试场景参数 [6],确定本次开展测试验证的逻辑场景“前方车辆切出后存在静止车辆”,场景参数、参数取值范围和参数分布如下表2所示,作为场景失败概率估算的输入:
表2 试验场景参数列表

通过赛目科技研发的云仿真平台Cloud Pro和空间分析工具SGO Pro进行计算,得到针对该逻辑场景的失败场景,如图7和8所示。

图7Cloud Pro和SGO PRO示意图

图8 失败场景示意图
评价指标选择碰撞时间(TTC)≤1或者碰撞时间(TTC)≤3,基于公式(7)则能计算出该自动驾驶算法在逻辑场景中的具备一定置信度水平的失败概率。其中,碰撞时间(TTC)≤3在每轮样本量为400时的失败概率为
,样本量应取合理值(SGO Pro会根据当前资源推荐)避免应样本数过少而导致的结果不稳定,示意图如下图9所示。

图9 失败概率示意图

结语
本文基于赛目科技的实践经验和研究成果,主要阐述基于逻辑场景空间的自动驾驶算法测试验证方法,包括开展确定类场景测试和进行场景失败概率估算,用少量、精准的测试场景,持续迭代和优化自动驾驶算法,加快推进自动驾驶的技术水平提升,保证自动驾驶系统的安全和可靠。


