Transformer 大模型在自动驾驶中应用趋势明确。
Transformer 大模型在自动驾驶中应用趋势明确。Transformer 基于Attention 机制，凭借优秀的长序列处理能力和更高的并行计算效率，2021 年由特斯拉引入自动驾驶领域。Transformer 与 CNN 相比最大的优势在于其泛化性更强。CNN 只能对标注过的物体进行相似度的比对，通过不断学习完成对该物体识别的任务；而 Transformer 可以通过注意力层的结构找到更基本的元素与元素间之间多个维度的相关信息进而找到一种更泛化的相似规律，进而提高自动驾驶的泛化能力。同时，不同于 RNN 存在存储时间长度有限以及顺序依赖的问题，Transformer 模型具有更高的并行计算效率并且可以学习到长时间距离的依赖关系。目前，Transformer 主要应用在自动驾驶感知模块中从 2D 特征图向 BEV 鸟瞰图的视角转换。
城市领航辅助驾驶落地在即，AI 大模型助力实现“脱高精度地图”。目前，主机厂正逐步从高速场景向城市场景拓展，2023 年有望成为城市领航辅助驾驶的大规模落地的元年。相比于高速场景，城市场景所面临的Corner case 大幅提升，要求自动驾驶系统具备更强的泛化能力。目前已落地城市 NGP 主要基于高精度地图方案，高精地图能够提供超视距、厘米级相对定位及导航信息，在数据和算法尚未成熟之前，对于主机厂实现高级别自动驾驶具有重要意义。但高精度地图应用过程中无法做到实施更新、法规风险高、高成本的三大问题难以解决。BEV 感知算法通过将不同视角的摄像头采集到的图片统一转换到上帝视角，相当于车辆实施生成活地图，补足了自动驾驶后续决策所需要的道路拓扑信息，因而可以实现去高精度地图化。目前，小鹏、华为等头部自动驾驶厂商均明确提出“脱图时间表”，自动驾驶算法“重感知，轻地图”趋势明确。
大数据和大算力是大模型应用的重要前置条件。Transformer 大模型量变引起质变需要 1 亿公里的里程数据。并且，传感器采集得到的 rawdata 需进行标注后才可用于算法模型训练，自动标注工具可大幅提升数据处理速度。2018 年至今，特斯拉数据标注从 2D 人工标注逐步发展至 4D空间自动标注；国内厂商中小鹏、毫末智行等亦相继推出自动标注工具大幅提升标注效率。除真实数据外，仿真场景是弥补训练大模型数据不足问题的重要解决方式。生成式 AI 有望推动仿真场景大幅提升泛化能力，帮助主机厂提升仿真场景数据的应用比例，从而提高自动驾驶模型的迭代速度、缩短开发周期。大算力是 Transformer 模型训练的另一重要条件，超算中心成为自动驾驶厂商重要的基础设施。特斯拉 AI 计算中心 Dojo 总计使用了 1.4 万个英伟达的 GPU 来训练 AI 模型，网络训练速度提升 30%，国内厂商中小鹏与阿里联合出资打造自动驾驶 AI 智算中心“扶摇”，将自动驾驶算法的模型训练时间提速 170 倍。
