3. 固件安全威胁

端侧AI固件（Edge AI Firmware）是部署在物联网设备、边缘网关、智能摄像头、工业控制器等硬件上的核心软件实体，它直接管理硬件资源、运行推理引擎、处理传感器数据并执行模型推理。与云端AI服务不同，端侧AI固件暴露在物理可接触的环境中，攻击者不仅可以通过网络远程发起攻击，还可以通过调试接口、存储芯片拆解、侧信道分析等手段进行物理级攻击。本章将系统梳理端侧AI固件面临的四大类攻击方式——篡改（Tampering）、逆向（Reverse Engineering）、注入（Injection）和替换（Replacement），并深入分析其攻击面，为后续实施Secure Boot防护奠定威胁建模基础。

上图展示了端侧AI固件所面临的四大攻击类型及其主要攻击面。攻击者往往不会局限于单一手段，而是组合使用多种攻击方式：先通过逆向分析获取固件结构和密钥信息，再实施篡改或注入攻击，最终实现固件替换或持久化控制。理解这些攻击路径是设计Secure Boot方案的前提。

3.1 固件篡改攻击：破坏完整性的直接手段

核心原理

固件篡改是指攻击者对固件二进制内容进行未授权的修改，包括修改模型权重参数、替换推理逻辑、植入后门代码或改变安全配置。篡改的动机通常分为三类：功能劫持（让设备执行攻击者预设的行为）、安全绕过（关闭认证或加密机制）、商业欺诈（破解license限制或提取付费模型）。篡改可以发生在固件的任何生命周期阶段：生产前的供应链环节、运输过程中的中间人攻击、部署后的物理接触或远程漏洞利用。

判断方法与检测手段

• 静态完整性校验：计算固件哈希值（SHA-256/SHA-384），与出厂基准值比对。但需注意，若攻击者同时修改了校验逻辑，则静态校验失效。
• 运行时行为监控：检测推理输出异常、响应时间突变、内存访问模式偏离基线等行为特征。
• 安全启动链验证：从Boot ROM开始逐级验证签名，确保每一级固件未被篡改（这是Secure Boot的核心机制，将在后续章节详述）。

案例拆解：智能摄像头模型替换攻击

某安防厂商的AI摄像头使用TensorFlow Lite部署行人检测模型。攻击者通过UART调试接口获取了shell权限，随后将Flash中的模型文件（约4.2MB）替换为一个经过对抗训练的攻击性模型——该模型对特定颜色衣物的人不产生检测框。由于原固件未对模型文件进行签名校验，设备重启后正常加载了被篡改的模型。攻击者还修改了置信度阈值参数，使误报率从0.3%上升到15%，导致安全系统频繁误报，掩盖了真实入侵行为。

复盘发现：该设备仅对内核和根文件系统做了哈希校验，但模型文件存放在独立分区且未纳入校验范围。修复方案是将模型分区纳入Secure Boot的度量链，并在每次加载模型时验证其签名。

3.2 固件逆向工程：攻防对抗的智力博弈

核心原理

逆向工程是攻击者理解固件内部结构、提取敏感信息（如加密密钥、模型架构、算法参数）的过程。端侧AI固件的逆向难度通常高于普通嵌入式固件，因为AI框架（如TensorFlow Lite Micro、CMSIS-NN）引入了大量抽象层和运行时库。然而，攻击者仍可通过以下途径实施逆向：

1. 静态分析：使用Ghidra、IDA Pro等工具反汇编固件，定位关键函数和字符串常量。
2. 动态调试：通过JTAG/SWD接口附加调试器，设置断点、单步执行、dump内存。
3. 侧信道分析：采集功耗曲线或电磁辐射，通过DPA/SPA攻击提取密钥。
4. 模型提取：从内存中dump推理引擎加载的模型结构，或通过输入输出对进行模型窃取（Model Stealing）。

攻击面分析

实战场景：从固件中提取AES密钥

某工业边缘网关使用AES-128-CBC加密其与云端通信的会话密钥，密钥硬编码在固件中。安全研究员通过以下步骤提取密钥：首先，从设备上拆下SPI NOR Flash芯片，使用编程器读取完整固件镜像（16MB）；然后，使用binwalk工具扫描固件，识别出压缩的根文件系统（SquashFS）；解压后，在应用程序二进制中搜索AES S-box特征值（0x63, 0x7c, 0x77...），定位到加密库；进一步交叉引用密钥初始化函数，最终在只读数据段找到了16字节的硬编码密钥。整个过程耗时约3小时，无需任何高级设备。

3.3 固件注入攻击：动态破坏的隐蔽手法

核心原理

注入攻击与篡改的区别在于：篡改是修改已有内容，而注入是在固件运行过程中插入恶意代码或数据。常见的注入向量包括：

• 缓冲区溢出注入：利用未检查边界的memcpy/strcpy函数，向栈或堆中写入恶意shellcode。
• 命令注入：通过Web管理接口或AT指令集注入系统命令。
• AI推理数据注入：向传感器输入精心构造的对抗样本，使模型产生错误分类（如将“停止”标志识别为“限速”标志）。
• 运行时库劫持：通过LD_PRELOAD或动态链接器劫持，替换共享库中的函数。

操作流程：识别注入攻击的痕迹

1. 检查进程列表，寻找异常进程或高CPU占用的未知服务。
2. 比对文件系统哈希，确认是否有新增的可执行文件或动态库。
3. 审查系统日志（syslog、dmesg），查找段错误、非法指令等异常记录。
4. 使用网络抓包工具分析设备通信流量，识别异常的外连IP或非标准端口。
5. 检查内存映射（/proc/pid/maps），确认是否有可疑的内存区域被标记为可执行。

案例拆解：智能音箱的恶意命令注入

某智能音箱固件中存在一个隐藏的调试接口，监听TCP端口5555，允许执行任意shell命令。攻击者扫描到该端口后，通过简单的HTTP POST请求注入了下载并执行恶意脚本的命令。恶意脚本首先禁用了防火墙规则，然后下载了挖矿程序，利用设备的NPU（神经网络处理单元）进行哈希计算。由于挖矿程序占用了大量NPU资源，导致语音唤醒响应延迟从0.8秒增加到5秒以上，用户投诉激增。

分析发现，该调试接口是开发阶段遗留的后门，本应在量产固件中移除，但因版本管理混乱而遗漏。修复措施包括：彻底移除调试接口、在固件编译阶段加入静态代码扫描（如Flawfinder）、以及部署运行时内存保护（如ASLR和NX）。

3.4 固件替换攻击：持久化控制的高级战术

核心原理

固件替换攻击是指攻击者将设备上的整个固件或关键组件替换为恶意版本，通常用于实现持久化控制或设备变砖（Denial of Service）。与篡改不同，替换往往是“全盘”操作，攻击者会烧写一个完整的恶意固件镜像，包括Bootloader、内核和文件系统。替换攻击的常见场景包括：

• 降级攻击（Rollback Attack）：将固件回滚到存在已知漏洞的旧版本，绕过已修复的安全补丁。
• 伪造固件升级：通过伪造OTA服务器或中间人攻击，推送恶意固件包。
• 物理烧录：直接使用编程器将恶意固件写入Flash芯片。

判断方法与防护策略

实战场景：工业PLC的固件替换攻击

某工厂的PLC（可编程逻辑控制器）运行着控制流水线的AI视觉检测固件。攻击者通过入侵工厂管理网络，获取了OTA更新服务器的访问权限。他们构造了一个恶意固件包，其中包含一个后门程序，能够远程修改检测阈值，使不合格产品通过质检。该恶意固件包使用窃取的私钥进行了签名，因此通过了设备的签名验证。

攻击持续了两个月，导致大量次品流入市场，最终因客户投诉和产品召回才被发现。调查显示，OTA服务器的私钥存储在不安全的服务器上，且未启用多因素认证。此外，PLC固件没有实现版本回滚保护，攻击者可以轻松降级到旧版本以绕过修复。

复盘改进措施：

1. 将OTA签名私钥迁移到硬件安全模块（HSM）中，并实施严格的访问控制。
2. 在固件中增加单调递增的版本计数器，禁止回滚到旧版本。
3. 部署运行时完整性监控，定期向安全管理平台上报固件度量值。

3.5 攻击面综合分析与威胁建模

攻击面分类框架

为了系统性地评估端侧AI固件的安全风险，建议采用以下分类框架对攻击面进行梳理：

• 物理攻击面：调试接口（UART/JTAG）、存储芯片（SPI Flash/eMMC）、电源管理单元（用于故障注入）、时钟模块（用于毛刺攻击）。
• 网络攻击面：OTA更新通道、管理接口（Web/SSH）、业务协议（MQTT/CoAP/HTTP）、蓝牙/Wi-Fi协议栈。
• 逻辑攻击面：固件解析器（处理图片/视频/配置文件）、AI推理引擎（处理模型输入）、系统调用接口、进程间通信。
• 供应链攻击面：第三方库漏洞、开发工具链被投毒、未经验证的硬件组件。

威胁建模方法：STRIDE模型应用

针对端侧AI固件，使用STRIDE模型进行威胁建模：

常见误区与总结复盘