3. 深度学习与计算机视觉基础面试题

这是为您生成的《端到端自动驾驶算法工程师面试实战题库》第3章HTML内容片段。它包含一个回答框架图与三个问答卡片,聚焦CNN、Transformer、BEV、Occupancy等核心考点,结构清晰,适合面试复习。 ```html
自动驾驶CV基础题回答框架:从结构到任务 CNN 局部感受野 · 平移不变 Transformer 全局注意力 · 长程依赖 BEV 统一视角 · 多传感器融合 Occupancy 体素表征 · 通用障碍物 多模态融合 前融合 · 后融合 · 特征融合 损失函数 分类 · 回归 · 不确定性 训练技巧 数据增强 · 蒸馏 · 课程学习 回答主线:结构原理 → 表征方式 → 任务适配 → 训练策略
图3-1 自动驾驶CV基础题回答框架:从CNN到Occupancy,再到融合与训练

面试问题1:CNN和Transformer在自动驾驶感知中各自适合什么场景?如何选择?

面试官考察点

考察对两种主流架构的底层理解,以及能否结合自动驾驶任务(如2D检测、BEV感知、时序融合)做技术选型,而非单纯背概念。

回答框架

  1. 先讲CNN的归纳偏置:局部性、平移不变性,适合图像纹理、边缘、小目标检测。
  2. 再讲Transformer的全局建模能力:自注意力、长程依赖,适合BEV跨相机融合、时序建模。
  3. 结合任务:前视2D检测常用CNN backbone;BEV感知和Occupancy常用Transformer或混合架构。
  4. 补充趋势:CNN+Transformer混合、Deformable Attention降低计算量。

简短示例回答

“CNN局部性强、计算高效,适合前视2D检测和图像特征提取;Transformer全局注意力强,适合BEV跨相机融合和时序建模。实际项目中常用混合架构,比如CNN backbone加Transformer neck,兼顾效率和全局感知。”

可能追问

  • Deformable Attention相比标准Attention有什么优势?
  • Transformer在车载端部署的延迟瓶颈在哪里?
  • 如何用CNN模拟全局注意力?

避坑提醒

不要只说“Transformer更好”,要结合算力、延迟、数据量说明选型依据;避免把CNN和Transformer对立起来,实际工程中常是混合使用。

面试问题2:BEV感知中如何做多模态融合?Occupancy相比BEV检测有什么优势?

面试官考察点

考察对BEV表征、多传感器融合方式、Occupancy Network的理解,以及能否说清从“检测框”到“通用障碍物”的演进逻辑。

回答框架

  1. BEV融合方式:前融合(点云+图像原始数据)、特征融合(BEV特征拼接/注意力)、后融合(检测结果融合)。
  2. 主流做法:图像特征通过LSS或Transformer投影到BEV,与激光雷达BEV特征融合。
  3. Occupancy优势:不依赖3D框标注,可表达任意形状障碍物,适合异形车、施工区域、路沿等。
  4. 补充:Occupancy输出体素占用与语义,可直接用于规划避障。

简短示例回答

“BEV融合常用特征级融合,把图像特征通过LSS或Transformer投影到BEV空间,再与激光雷达特征拼接。Occupancy不依赖3D框,用体素表达任意形状障碍物,对异形车、施工区更鲁棒,输出可直接给规划用。”

可能追问

  • LSS的深度分布估计误差如何影响BEV效果?
  • Occupancy的标注成本如何降低?
  • 纯视觉Occupancy和激光雷达Occupancy的差异?

避坑提醒

不要混淆BEV检测和Occupancy的任务边界;避免只说“Occupancy更先进”,要讲清它解决的是通用障碍物表达和标注成本问题。

面试问题3:自动驾驶感知中常用的损失函数有哪些?训练时有哪些实用技巧?

面试官考察点

考察对分类、回归、不确定性建模损失函数的掌握,以及数据增强、蒸馏、课程学习等训练技巧的实战经验。

回答框架

  1. 分类损失:Cross Entropy、Focal Loss解决类别不平衡。
  2. 回归损失:Smooth L1、IoU Loss、GIoU/DIoU,用于框回归。
  3. 不确定性:Gaussian NLL、Laplace Loss,用于深度估计和Occupancy。
  4. 训练技巧:数据增强(CutMix、Mosaic)、知识蒸馏、课程学习、EMA、混合精度。

简短示例回答

“分类常用Focal Loss缓解类别不平衡,回归用Smooth L1或IoU系列损失。Occupancy任务常用Gaussian NLL建模不确定性。训练时用Mosaic增强、EMA稳定训练,大模型用蒸馏压缩到车端。”

可能追问

  • Focal Loss的α和γ如何调?
  • 知识蒸馏在BEV感知中怎么用?
  • 课程学习在自动驾驶训练中如何设计?

避坑提醒

不要只列损失函数名称,要说明适用场景;训练技巧要结合具体任务,避免泛泛而谈“多训练、调参”。

项目案例模板:BEV多模态融合感知项目

项目名称

基于BEV的多模态融合感知系统(相机+激光雷达)

业务背景

城市NOA场景下,纯视觉对异形障碍物和远距离目标感知不稳定,需融合激光雷达提升安全冗余。

规模指标

  • 数据规模:10万+ clip,覆盖城市/高速/泊车场景
  • 模型参数量:约80M,车端推理延迟<80ms
  • 指标:BEV mAP提升6.2%,Occupancy IoU提升4.8%

技术栈

PyTorch、MMDetection3D、CUDA、TensorRT、BEVFormer、PointPillars、LSS

核心难点

  • 相机与激光雷达时空对齐误差
  • BEV特征融合时的信息丢失
  • 车端部署的算力与延迟约束

面试高频追问

  • 如何做相机和激光雷达的时间同步?
  • BEV特征融合具体用拼接还是注意力?为什么?
  • 量化部署后精度掉点怎么解决?

可迁移回答话术

“这个项目的核心是解决多模态BEV融合中的时空对齐和特征融合问题。我负责融合模块设计,采用Transformer将图像特征投影到BEV,与点云特征做注意力融合,最终在车端用TensorRT量化部署,延迟控制在80ms内。”

```