第 59 卷 第 2 期 2026 年 2 月 Vol. 59 No. 2 Feb. 2026 武汉大学学报（工学版） Engineering Journal of Wuhan University 本文引用格式：徐煊翔,杜彦辉,陈李舟,等 . 一种混合知识蒸馏的轻量化 CAN 总线入侵检测方法[J]. 武汉大学学报（工学版）, 2026,59(2):334-344. Citation：XU Xuanxiang, DU Yanhui, CHEN Lizhou, et al. A lightweight CAN bus intrusion detection method based on hybrid knowledge distillation[J].Engineering Journal of Wuhan University,2026,59(2):334-344. 一种混合知识蒸馏的轻量化 CAN 总线入侵检测方法 徐煊翔，杜彦辉，陈李舟，冯俊又，刘先博 （中国人民公安大学信息网络安全学院,北京 100038） 摘要: 随着车联网应用的普及，控制器局域网络(controller area network，CAN)总线易遭受网络攻击，入侵检测的作 用 愈 发 凸 显 。 但 车 载 设 备 计 算 资 源 有 限 ，基 于 深 度 学 习 的 高 性 能 入 侵 检 测 系 统 (intrusion detection system，IDS)无 法在车载环境中有效发挥作用，导致 IDS 性能与计算资源存在矛盾。因此，提出一种基于知识蒸馏的 CAN 总线入 侵 检 测 方 法 H-KD（hybrid knowledge distillation）IDS，以 在 保 证 深 度 学 习 模 型 检 测 性 能 的 同 时 实 现 轻 量 化 。 设 计 了混合实例内关系与响应关系的知识蒸馏 CAN 总线入侵检测框架，基于 Gram 矩阵构建师生模型的实例内特征关 系 ，通 过 改 进 多 分 类 焦 点 损 失 函 数 构 建 师 生 模 型 的 响 应 关 系 。 实 验 结 果 表 明 ，与 其 他 CAN 总 线 入 侵 检 测 方 法 相 比，H-KD IDS 具有更好的检测性能与更低的资源消耗，降低了车载设备的硬件要求，适合部署于计算资源受限的 车载设备中。 关键词：入侵检测；CAN 总线；知识蒸馏；轻量化 中图分类号：TP 309 文献标志码：A A lightweight CAN bus intrusion detection method based on hybrid knowledge distillation XU Xuanxiang，DU Yanhui，CHEN Lizhou，FENG Junyou，LIU Xianbo （College of Information and Cyber Security，People's Public Security University of China，Beijing 100038，China） Abstract： As the application of vehicle networking becomes more widespread, the controller area network (CAN) bus is vulnerable to cyber attacks. The role of intrusion detection becomes increasingly prominent. However, the limited computational resources of in-vehicle devices render it impossible for a high-performance intrusion detection system (IDS) based on deep learning to function effectively in the vehicle environments. There is a contradiction between the IDS performance and computational resources. Therefore, a knowledge distillation-based CAN bus intrusion detection method, H-KD IDS, is proposed to ensure the deep learning model detection performance while achieving lightweighting. A knowledge distillation CAN bus intrusion detection framework that integrates both instance-level and response-level relationships is designed. The instance-level feature relationships of the teacher-student models are constructed based on the Gram matrix, and the response-level relationships of the teacher-student models are established by modifying the multi-class focal loss function. Experimental results demonstrate that H-KD IDS has better detection performance and lower resource consumption compared to other CAN bus intrusion detection methods, reducing the hardware 收稿日期：2024-06-27 作者简介：徐煊翔（1999-），男，硕士研究生，主要从事车联网安全研究，E-mail: 874514559@qq.com。 通信作者：杜彦辉（1969-），男，教授，博导，博士，主要从事信息安全等研究，E-mail: duyanhui@ppsuc.edu.cn。 基 金 项 目 ：中 国 人 民 公 安 大 学 拔 尖 创 新 人 才 培 养 经 费 支 持 研 究 生 科 研 创 新 重 点 项 目 (编 号 ：2023yjsky013)；中 国 人 民 公 安 大学网络空间安全执法技术双一流创新研究专项(编号：2023SYL07)。 DOI：10.14188/j.1671-8844.2024.0241 文章编号：1671-8844（2026）02-0334-11
徐煊翔，等：一种混合知识蒸馏的轻量化 CAN 总线入侵检测方法第 2 期 requirements for in-vehicle devices, and being suitable for deployment in vehicle equipment with limited computing resources. Key words：intrusion detection; CAN bus; knowledge distillation; lightweighting 随 着 智 能 驾 驶 、辅 助 驾 驶 等 新 技 术 功 能 在 智 能 网 联 汽 车 中 的 广 泛 应 用 ，车 辆 对 依 托 控 制 器 局 域 网 络（controller area network，CAN）总 线 进 行 实 时 数 据处理与通信的依赖显著增加，CAN 总线也因此成 为 潜 在 的 网 络 攻 击 目 标 。 入 侵 检 测 技 术（intrusion detection system，IDS）作 为 一 种 主 动 的 网 络 安 全 增 强 手 段 ，能 够 有 效 检 测 网 络 攻 击 。 同 时 国 家 标 准 政 策文件［1-3］要求，具有联网功能的汽车需具备检测网 络 安 全 状 态 并 响 应 潜 在 网 络 攻 击 的 能 力 ，以 确 保 网 联 汽 车 数 据 处 于 有 效 保 护 与 合 法 利 用 的 状 态 。 然 而 资 源 受 限 的 车 载 设 备 要 同 时 满 足 高 计 算 、低 延 迟 的 新 技 术 功 能 需 求 以 及 网 络 攻 击 的 检 测 能 力 要 求 ， 将会是一大挑战。 针 对 CAN 总 线 入 侵 检 测 ，国 内 外 研 究 者 已 提 出许多基于不同思想与技术的检测方法［4-5］，主要包 括 基 于 签 名 的 方 法 、基 于 物 理 特 征 的 方 法 、基 于 信 息 论 与 统 计 的 方 法 、基 于 机 器 学 习 的 方 法 以 及 基 于 深 度 学 习 的 方 法 等 。 其 中 ：基 于 签 名［6］的 方 法 对 已 知 攻 击 检 测 效 率 较 高 ，但 需 及 时 更 新 签 名 库 且 难 以 检 测 未 知 攻 击 ；基 于 物 理 特 征［7］的 方 法 根 据 经 验 与 物 理 特 征 的 规 则 变 化 实 现 高 效 的 入 侵 检 测 ，但 易 受 环 境 变 化 影 响 产 生 误 报 ，且 高 频 物 理 信 号 采 样 分 析 计 算 资 源 消 耗 较 高 ；基 于 信 息 论 与 统 计［8］的 方 法 能 检 测 所 有 类 型 的 单 一 攻 击 ，但 无 法 检 测 多 类 型 攻 击；基于机器学习［9］的方法能够检测多类型攻击，但 无 法 有 效 检 测 特 征 隐 蔽 的 攻 击 ；基 于 深 度 学 习 的 方 法 普 遍 关 注 提 高 检 测 性 能 ，但 忽 略 了 轻 量 化 问 题 ， 例 如 卷 积 神 经 网 络（convolutional neural networks， CNN）和 长 短 期 记 忆 网 络（long short-term memory， LSTM）组 成 的 车 载 入 侵 检 测 系 统 HyDL（hybrid deep learning-based）-IDS［10］，仅关注 2 种深度学习模 型 结 合 后 对 时 间 、空 间 特 征 的 有 效 提 取 能 力 ，却 未 考 虑 车 载 设 备 的 计 算 开 销 。 知 识 蒸 馏（knowledge distillation，KD）用复杂的教师网络训练简单的学生 网 络 使 学 生 网 络 获 得 接 近 教 师 网 络 的 性 能 ，在 保 证 模 型 学 习 能 力 的 基 础 上 ，能 够 有 效 压 缩 深 度 学 习 模 型 网 络 结 构［11］，广 泛 应 用 于 分 类 、检 测 等［12-13］任 务 中 ，但 是 ，目 前 国 内 外 尚 未 见 知 识 蒸 馏 应 用 于 CAN 总线入侵检测的相关分析。 基于上述分析，本文提出一种基于混合知识蒸馏 的 轻 量 化 CAN 总 线 入 侵 检 测 方 法（H-KD（hybrid knowledge distillation）IDS），旨在保证深度学习模型 检测性能的同时实现轻量化的 CAN 总线入侵检测。 1 相关研究分析 1. 1 CAN 总线入侵检测方法 现 有 基 于 深 度 学 习 的 CAN 总 线 入 侵 检 测 方 法 中 ，DESTA 等［14］将 具 有 时 序 的 仲 裁 ID 编 码 序 列 通 过 递 归 图 的 平 方 矩 阵 生 成 CNN 模 型 的 训 练 图 像 ， 以 此 对 CAN 总 线 进 行 二 元 或 多 元 攻 击 的 入 侵 检 测 ；但 该 方 法 只 能 检 测 干 扰 CAN 数 据 包 正 常 序 列 的 特 征 ，未 考 虑 负 载 特 征 。 LO 等［10］提 出 基 于 CNN 与 LSTM 的 车 载 入 侵 检 测 系 统 HyDL-IDS，其 中 CAN 流 量 预 处 理 器 先 将 CAN 流 量 转 换 为 统 一 尺 度 ，再 输 入 HyDL 模 块 。 HyDL 模 块 运 用 CNN 与 LSTM 从 CAN 流 量 中 有 效 提 取 空 间 和 时 间 特 征 ， 其 检 测 精 度 和 误 报 率 较 基 于 机 器 学 习 的 方 法 有 显 著提升，但计算资源消耗较大。YANG 等［15］提出基 于 迁 移 学 习 和 集 成 学 习 的 入 侵 检 测 方 法 ，该 方 法 将 CAN 总线数据转换为时间块图像，在实验中对 top- 3 CNN 模 型 运 用 置 信 度 平 均（confidence averaging， CA）集 成 学 习 方 法 ，并 结 合 超 参 数 优 化 技 术 构 建 集 成 模 型 以 达 到 最 佳 检 测 效 果 。 但 该 集 成 模 型 复 杂 度高，难以适用于计算资源受限的车载设备。 1. 2 知识蒸馏 HINTON 等［16］首次提出“知识蒸馏”这一概念， 其 运 用 基 于 响 应 的 知 识 蒸 馏 方 法（logit-based knowledge distillation，BLKD）引 入 温 度 T，使 教 师 模 型 与 学 生 模 型 的 软 化 logit 相 匹 配 。 通 过 KL （Kullback-Leibler）散 度 计 算 师 生 模 型 软 化 logit 输 出 ，再 加 上 学 生 模 型 预 测 与 真 实 标 签 匹 配 的 常 规 损 失 项 ，在 多 领 域 验 证 了 其 提 升 学 生 模 型 性 能 的 有 效 性 。 ROMERO 等［17］在 文 献［16］的 基 础 上 ，提 出 基 于 实 例 内 关 系 的 知 识 蒸 馏 方 法 。 该 方 法 通 过 添 加 卷 积 回 归 器 适 配 师 生 模 型 特 征 图 空 间 大 小 ，将 学 生 模 型 的 指 导 层 特 征 映 射 到 教 师 模 型 的 提 示 层 ，最 小 化 师 生 网 络 对 应 特 征 层 的 差 异 ，从 而 增 强 学 生 模 型 FitNet 对 教 师 模 型 中 间 层 特 征 表 示 的 学 习 。 最 终 FitNet 的 性 能 甚 至 优 于 教 师 模 型 。 YIM 等［18］提 出 基于实例间关系的知识蒸馏方法，该方法通过 L2 范 数 最 小 化 师 生 模 型 不 同 层 间 特 征 图 内 积 形 成 的 335
武汉大学学报（工学版） 第 59 卷 FSP（flow of solution procedure）矩 阵 ，有 效 传 递 不 同层间的特征关系。 基 于 上 述 分 析 可 知 ，知 识 蒸 馏 融 合 不 同 类 别 的 知 识 能 够 提 升 学 生 模 型 的 性 能（其 结 果 甚 至 超 越 教 师 模 型 的 性 能）。 这 种 技 术 特 性 使 其 非 常 适 用 于 计 算 资 源 受 限 的 车 载 设 备 场 景 。 因 此 ，本 文 基 于 实 例 内 关 系 和 响 应 关 系 这 2 类 知 识 蒸 馏 方 法 开 展 CAN 总线入侵检测研究。 2 混 合 知 识 蒸 馏 的 轻 量 化 CAN 总 线 入侵检测方法 本 文 提 出 一 种 混 合 知 识 蒸 馏 的 轻 量 化 CAN 总 线入侵检测方法 H-KD IDS。该方法融合了基于实 例 内 关 系（channel knowledge distillation，C-KD）与 基于响应（logit knowledge distillation，L-KD）的知识 蒸 馏 方 法（H-KD），通 过 训 练 轻 量 级 学 生 模 型 ，实 现 轻量化、高效的入侵检测。 2. 1 相关定义 本 文 定 义 图 像 的 整 体 数 据 集 为 ψ，真 实 标 签 为 φ。将（ψ，φ）随机划分为不重叠的子集，每个子集中 的 CAN 图 像 数 量 为 B，即｛（ψ1，φ1），（ψ2，φ2），… ， （ψB，φB）｝⊂ ψ。 对 于 输 入 样 本 ψi（i=1，2，… ，B），采 用 l （ψi ）表 示 其 logit 向 量 ；用 C 表 示 CAN 总 线 RGB 图 像 类 别 的 数 量 ；用 f （ψi ）表 示 特 征 图 ，f（ψi）= ［f1（ψi），f2（ψi），…，fK（ψi）］，其中 fk（ψi）∈R H f × W f （k=1， 2，…，K），K 为通道数。 2. 2 混合知识蒸馏 2.2.1 实例内关系(C⁃KD) C-KD 是 基 于 实 例 内 关 系 的 知 识 蒸 馏 方 法 ，该 方 法 通 过 构 建 学 生 模 型 与 教 师 模 型 每 个 实 例 特 征 图 的 关 系 ，使 学 生 模 型 能 捕 捉 更 细 粒 度 的 特 征 ，从 而 提 升 检 测 性 能 ，主 要 包 括 通 道 适 配 、实 例 内 关 系 建模 2 个步骤。 1）通道适配 由 于 学 生 模 型 与 教 师 模 型 的 通 道 数 不 一 定 相 同 ，直 接 对 齐 2 个 模 型 中 间 层 的 实 例 内 关 系 不 具 备 可 行 性 。 若 不 增 加 通 道 适 应 模 块 ，师 生 模 型 需 具 有 同 一 架 构 或 类 似 的 网 络 架 构 ，这 一 限 制 会 极 大 降 低 该 方 法 在 CAN 总 线 入 侵 检 测 中 的 普 适 性 。 在 知 识 蒸 馏 中 运 用 卷 积 核 进 行 通 道 适 配 是 常 规 方 法 。 本 文 在 师 生 模 型 间 添 加 适 配 层 ，将 C-KD 下 的 教 师 模 型 t′的 通 道 特 征 图 线 性 投 影 到 与 学 生 模 型 s 共 享 相 同 通 道 数 K 的 空 间 来 适 配 通 道 数 ，使 Kt'=Ks，以 便 学 生 模 型 学 习 教 师 模 型 中 间 层 的 特 征 表 示 。 n × n 标准卷积核的通道适配表示如下所示： f t' k ( ψ i ) [ i,j ]= ∑ m = 1 K t ∑u = 0 n - 1 ∑v = 0 n - 1 W [ u,v,m,k ] ⋅ f t m ( ψ i ) [ i + u,j + v ]+ b k (1) 式 中 ：f t' k ( ψ i ) [ i，j ] 表 示 教 师 模 型 输 出 特 征 图 适 配 后 ，在 位 置（i ，j）的 第 k 个 通 道 的 值 ；上 标 t 表 示 知 识 蒸 馏 时 的 教 师 模 型 ；W［u ，v ，m ，k］为 该 标 准 卷 积 核 的 权 重 ，用 于 连 接 输 入 通 道 m 和 输 出 通 道 k 的 位 置 （u，v）；u 与 v 均 为 卷 积 核 的 空 间 位 置 索 引 ； f t m ( ψ i ) [ i + u，j + v ] 表 示 教 师 模 型 输 出 特 征 图 在 位 置（i+u，j+v）处 第 m 个 通 道 的 值 ；bk 为 输 出 通 道 k 的 偏 置 项 。 式（1）中 标 准 卷 积 核 的 计 算 复 杂 度 为 O（Hf ⋅W f ⋅Kt ⋅Ks ⋅n⋅n）。 若 仅 考 虑 通 道 适 配 ，当 n=1 时 ，卷 积 核 的 计 算 复 杂 度 最 低 ，且 能 灵 活 调 整 输 出 通道数，具体计算公式如下： f t' k ( ψ i ) [ i,j ]= ∑ m = 1 K t W [ m,k ] ⋅ f t m ( ψ i ) [ i,j ]+ b k (2) 式 中 ：W［m，k］为 1×1 卷 积 核 的 权 重 ；f t m ( ψ i ) [ i，j ] 为 教 师 模 型 输 出 特 征 图 在 位 置（i，j）的 第 m 个 通 道 的值。因此，本文采用 1×1 卷积核将教师模型的通 道特征图线性投影到与学生模型共享相同通道数 K 的空间来匹配通道数。 2）实例内关系建模 Gram 矩 阵［19］能 够 有 效 提 取 图 像 纹 理 特 征 ，本 文基于 Gram 矩阵构建师生模型的实例内关系。首 先 将 适 配 后 特 征 图 f（ψi）每 个 通 道 特 征 展 平 为 一 维 向 量 ，并 对 实 例 ψi 的 矢 量 化 特 征 图 关 系 进 行 建 模 ， Gram 矩 阵 G 表 示 实 例 ψi 的 所 有 特 征 映 射 ， G ∈ G K × K，具体如下式所示： G ab ( ψ i )= ∑ m = 1 H f ∑l = 1 W f f ′a ( ψ i ) [ m,l ] ⋅ f 'b ( ψ i ) [ m,l ] (3) 式 中 ：Hf 、W f 分 别 为 特 征 图 的 高 度 和 宽 度 ；G（ψi）的 每 个 元 素 Gab（ψi）表 示 通 道 a 和 b 间 的 内 积 ；m 和 l 均 为求和函数的索引变量；f ′a ( ψ i ) 与 f 'b ( ψ i ) 分别代表通 道 a 和 b 的特征图。Frobenius 范数能够减少样本间 的 冗 余［20］，本 文 使 用 Frobenius 范 数 定 义 C-KD 的 损 失项 LC⁃KD，用于度量并最小化师生模型中间层特征 表示差异，具体如下所示： L C⁃KD = ∑ i = 1 B ||G t ( ψ i )- G s ( ψ i )||F KH fW f (4) 式 中 ：F 表 示 矩 阵 的 Frobenius 范 数 ，用 于 度 量 教 师 模 型 Gram 矩 阵 G t ( ψ i ) 与 学 生 模 型 Gram 矩 阵 G s ( ψ i ) 间差异；K、Hf、W f 用于归一化损失函数，使损 失值不受特征图大小影响。 336
徐煊翔，等：一种混合知识蒸馏的轻量化 CAN 总线入侵检测方法第 2 期 2.2.2 响应关系(L⁃KD) 传 统 基 于 响 应 的 知 识 蒸 馏 方 法 是 将 教 师 模 型 的软化 logit 作为知识转移以协助学生模型训练 ，其 损失 L 包括 2 个损失项，具体如下式所示： L = ∑ i = 1 B KL ( pt,ps )+ KL ( y,ps ) (5) 式中：第 1 个损失项通过 KL 散度来衡量教师模型软 概 率 pt 与 学 生 模 型 软 概 率 ps 的 分 布 差 异 ，实 现 两 者 软 化 logit 的 匹 配 ；第 2 个 损 失 项 是 将 学 生 模 型 的 预 测 ps 与 真 实 标 签 y 相 匹 配 。 图 像 ψi 在 温 度 T 下 的 模 型 软 化 对 数 表 示 为 pC（ψi ，T），通 过 lC（ψi）经 Softmax 函数计算得到： p C ( ψ i,T )= Softmax ( l C ( ψ i ),T )= exp ( l C ( ψ i ) /T ) ∑j = 1 C exp ( l j ( ψ i ) /T ) (6) 式 中 ：l C ( ψ i ) 为 模 型 对 C 个 CAN 总 线 RGB 图 像 类 别 的 数 量 样 本 ψ i 的 完 整 logit 向 量 ；j 为 求 和 函 数 的 索 引 变 量 ；温 度 T 为 软 化 目 标 分 布 的 参 数 ，T 值 较 高 ，p（ψi ，T）的 输 出 更 趋 于 平 均 ，表 明 预 测 各 类 间 的 信息结构更丰富。本文通过 KL 散度来计算教师模 型软概率 pt （ψi ，T ）和学生 ps （ψi ，T ）的预测差异 L KD： L KD = ∑ i = 1 B ∑c = 1 C p t C ( ψ i,T ) log p t C ( ψ i,T ) p s C ( ψ i,T ) (7) 式 中 ：c 为 求 和 函 数 的 索 引 变 量 。 但 式（5）中 第 2 个 损 失 项 并 不 适 用 于 CAN 总 线 入 侵 检 测 ，因 为 大 部 分 数 据 均 为 正 常 样 本 且 存 在 少 数 难 分 类 的 攻 击 样 本 。 为 规 避 模 型 学 习 受 单 个 类 别 过 度 影 响 ，同 时 考 虑 预 测 类 别 之 间 的 相 关 性 ，引 入 焦 点 损 失 FL［21］以 平衡样本类别的数量差异： FL ( ps )= - ∂ ( 1 - ps )γ log ( ps ) (8) 式中：平衡因子 ∂ 用于增加少数难分类攻击样本的损 失 权 重 ；（1-ps）γ 为 调 制 因 子 ，用 于 调 整 模 型 对 少 数 难 分 类 攻 击 样 本 的 关 注 程 度 ，其 中 γ 为 可 调 聚 焦 参 数 ，γ≥0。本文对式（8）的 FL 进行改进，将原本应用 于二分类目标检测任务的 FL 拓展至多分类的 CAN 入 侵 检 测 任 务 中 ，通 过 降 低 易 分 类 的 多 数 正 常 样 本 的 ∂c值，对各类别的 FL 进行求和，得到损失函数 LFL： L FL = FL ( ps,c )= -∑ c = 1 C ∂ c ( 1 - ps,c )γ log ( ps,c ) (9) 式中：ps，c 为学生模型 s 对属于类别 c 的预测概率；改 进 后 的 损 失 项 LL⁃KD 由 式（5）中 第 1 个 损 失 项 与 损 失 函数 LFL 组成： L L⁃KD = λ kd ⋅ L KD +( 1 - λ kd ) ⋅ L FL (10) 式中：λkd 为一个超参数，用于平衡 2 个损失项。 2.2.3 混合知识蒸馏(H⁃KD) L-KD 仅 能 让 学 生 模 型 学 习 教 师 模 型 的 最 终 逻 辑 输 出 ，无 法 获 取 训 练 过 程 中 的 中 间 知 识 ，而 通 过 C-KD 学生模型能够有效学习教师模型中间层的特 征表示，提升其特征提取能力。因此，H-KD 混合知 识 蒸 馏 训 练 方 法 旨 在 将 教 师 模 型 的 不 同 类 型 知 识 有效传递到学生模型中，构建 H-KD 损失项 L H⁃KD： L H⁃KD = λ c⁃kd ⋅ L C⁃KD + λ l⁃kd ⋅ L L⁃KD (11) 式 中 ：λ l⁃kd 和 λ c⁃kd 分 别 表 示 平 衡 L-KD、C-KD 损 失 项 的 超 参 数 。 基 于 知 识 蒸 馏 的 CAN 总 线 入 侵 检 测 框 架如图 1 所示。 H-KD 算法： Data：数 据 集（ψ，φ），预 训 练 教 师 模 型 t，预 训 练 学生模型 s ； 1）批 量 大 小 B，Epochmax 为 N，超 参 数 α、γ、λkd、 λl-kd、λc-kd，提早停止超参数 M stop，随机梯度下降优化器； 2）数据预处理，并将（ψ，φ）按 7∶2∶1 的比例随机 划分为训练集、验证集、测试集； 3）for n = 1 to N do 将蒸馏损失 L 重置为 0； 4）for n = 1 to é ùN B do 5）数 据 转 换 成 RGB 图 像 ψB（ψB=｛ψ1，ψ2，… ， ψn｝）；计算基于实例内关系与响应关系的知识； 6）将 ψB 输入教师模型并计算式（3）、（6）； 7）将 ψB 输入学生模型并计算式（3）、（6）、（9）； 8）运用式（11）计算 LH-KD 损失； 9）end； 10）用优化器更新学生模型； 11）If loss 在 M stop 内没有减少，则停止训练； 12）Else：继续训练； 13）end； 14）Return 优化的轻量学生模型。 3 实验分析 3. 1 数据预处理 数 据 预 处 理 通 过 收 集 CAN 总 线 数 据 ，提 取 CAN 总 线 数 据 帧 特 征 ，基 于 时 序 块 进 行 Robust 标 准化，并根据相关性规则对生成的 RGB 图像进行重 新标签，数据预处理流程如图 2 所示。 实 验 数 据 输 入 的 时 间 特 征 选 用 连 续 CAN 数 据 帧 的 时 间 戳 间 隔 Δt，用 于 表 示 发 送 数 据 包 的 频 率 ； 负载特征选用 CAN ID 作为发送数据包的唯一身份 标识符。此外，CAN 数据帧的数据特征表示实际传 输 的 数 据 信 息 ，易 受 攻 击 者 篡 改 ，因 此 除 数 据 字 段 （DATA［0］~DATA［7］）外 ，还 需 考 虑 连 续 帧 数 据 337
武汉大学学报（工学版） 第 59 卷 字 段 间 的 差 异 ，故 采 用 欧 氏 距 离 计 算 连 续 CAN 数 据 帧 数 据 字 段 之 间 差 异 ΔD。 另 外 ，对 选 取 的 各 个 特征进行 Robust 标准化，减少异常值的影响。 数据标准化后，本文根据时间序列与 11 个特征 数 量 将 数 据 样 本 转 换 为 块 ，以 此 保 留 原 始 网 络 数 据 的时间序列相关性，并将 33 个连续样本块转换成形 状 为 11×11×3 的 方 形 RGB 图 像 作 为 模 型 输 入 ，并 标 记 变 换 后 图 像 数 据 块 中 的 攻 击 模 式 ：若 块 中 的 所 有 样 本 均 为 正 常 样 本 ，则 该 图 像 被 标 记 为 正 常 ；若 块 包 含 攻 击 样 本 ，则 该 图 像 被 标 记 为 该 块 中 最 常 见 的 攻 击 类 型 。 Car-Hacking 数 据 集 中 各 类 攻 击 的 代 表 性 样 本 如 图 3 所 示 ，正 常 样 本 与 不 同 类 型 攻 击 样 本的特征模式均存在较大差异。 3. 2 实验设置 本文实验使用 Python3.9 中的 Tensorflow2.6.0， 在 配 置 有 Intel XeonPlatinum 8260M 处 理 器 、72 GB 内 存 以 及 NVIDIAGeForce-RTX 3090 显 卡 的 服 务 器 上 训 练（模 拟 车 联 网 中 央 服 务 器）。 在 训 练 前 ，本 文运用 3.1 节的方法对数据集进行预处理，以模拟模 型 在 集 成 到 电 子 控 制 单 元（electronic control unit， ECU）时 将 获 得 的 数 据 流 作 为 其 输 入 ，并 在 带 有 Intel（R）Core（TM）i78750HCPU@2.20 GHzCPU 和 16 GB 内 存 的 PC 上 测 试（模 拟 车 载 ECU 入 侵 检 测 设 备）。 学 习 率 设 置 为 0.001，用 于 平 衡 模 型 收 敛 速 度与稳定性；批量大小设置为 16，以平衡计算效率和 梯度估计的稳定性；训练轮数设置为 30，防止出现过 拟 合 。 平 衡 因 子 α 设 置 为 对 应 类 别 C 的 倒 数 ，用 于 增加少数难分类攻击样本的损失权重；λkd、T、γ 参照 原论文的实验设置，具体取值如表 1 所示。 3. 3 数据集 实验选用的数据集为 Car-Hacking［22］，测试车辆 为 现 代 索 纳 塔（YF），包 括 正 常 数 据 与 3 类 攻 击 数 图 1 基于知识蒸馏的 CAN 总线入侵检测框架 Fig.1 Framework of CAN bus intrusion detection based on knowledge distillation 图 2 数据预处理流程 Fig.2 Data preprocessing flow 338
徐煊翔，等：一种混合知识蒸馏的轻量化 CAN 总线入侵检测方法第 2 期 据 ：DoS 攻 击 、Fuzzy 攻 击 、欺 骗 攻 击（针 对 驱 动 齿 轮 （Gear）或 转 速 计（revolutions per minute，RPM））。 其 中 ：DoS 攻 击 通 过 每 0.3 ms 注 入“0x0000”CAN ID 的 攻 击 包 实 现 ；Gear 欺 骗 攻 击 通 过 每 1 ms 注 入 与 Gear 信 息 相 关 的 某 个 CAN ID 的 攻 击 包 实 现 ； RPM 欺 骗 攻 击 通 过 每 1 ms 注 入 与 RPM 信 息 相 关 的某个 CAN ID 的攻击包实现。数据集的具体构成 如表 2 所示。 3. 4 评估指标 3.4.1 检测性能评估 实 验 输 出 结 果 包 括 真 阳 率（true positive，TP）、 真 阴 率（true negative，TN）、误 报 率（false positive， FP）、漏报率（false negative，FN），其定义如下： TP：正确标记为异常的攻击样本； TN：正常样本被正确标记为正常； FP：正常样本被错误标记为异常； FN：攻击样本被错误地标记为正常。 为 实 现 对 H-KD IDS 的 检 测 性 能 评 估 ，本 文 采 用 准 确 率（accuracy，AC）、召 回 率（recall，RC）、精 确 度（precision，PR）和 F1 分 数 作 为 检 测 性 能 的 评 估 指 标，具体的计算方法如下： AC = TP + TN TP + TN + FP + FN (12) RC = TP TP + FN (13) PR = TP TP + FP (14) F 1 = 2 × PR × RC PR + RC (15) 3.4.2 轻量化评估 为 评 估 所 提 出 方 法 的 轻 量 性 ，在 进 行 对 比 实 验 时，本文记录了模型大小（model size，MS）、模型参数 量（parameters，Pa）、检 测 延 迟 时 间（latency，LT）和 检 测 时 内 存 占 用（memory usage，MU）。 其 中 ，模 型 大小与参数量评估实验中所用深度学习模型是否满 足 嵌 入 式 设 备 轻 量 级 要 求 ；检 测 延 迟 时 间 评 估 模 型 在 同 一 设 备 上 的 检 测 效 率 ，内 存 占 用 评 估 检 测 时 的 计算资源消耗是否适合处理能力有限的实际环境。 3. 5 师生模型选取与对比 为 验 证 H-KD 的 有 效 性 ，在 保 证 检 测 效 率 的 基 础 上 进 行 轻 量 化 ，以 适 应 CAN 总 线 入 侵 检 测 任 务 。 在 模 型 选 取 上 ，选 择 复 杂 网 络 结 构 模 型 ResNet 作 为 教 师 模 型 ，轻 量 级 模 型 MobileNetV3 作 为 学 生 模 型 。 ResNet［23］在 图 像 分 类 中 表 现 出 了 非 常 优 秀 的 性 能 ，其 通 过 引 入 残 差 模 块 和 跳 跃 连 接 ，解 决 了 深 度 神 经 网 络 中 的 梯 度 消 失 和 梯 度 爆 炸 问 题 ，但 模 型 计 算 资 源 消 耗 较 大 ；MobileNetV3［24］通 过 引 入 深 度 可 分 离 卷 积 、线 性 瓶 颈 、基 于 挤 压 和 激 励 的 轻 量 级 注 意 力 模 块 和 反 向 残 差 结 构 减 少 计 算 量 和 模 型 大 小 ，但 是 MobileNetV3 在 降 低 计 算 量 的 同 时 降 低 了 特征图的分辨率，导致部分精度损失。 图 3 Car-Hacking 数据集攻击类型 Fig.3 Attack types of the Car-Hacking dataset 表 1 实 验 参 数 设 置 Table 1 Experimental parameter settings 实验参数 学习率 批量大小 训练轮数 λkd T α γ 数值 0.001 16 30 0.5[16] 5[16] 1/C 2[21] 表 2 Car-Hacking 数 据 集 Table 2 Car-Hacking dataset 数据集 Car⁃Hacking 汽车型号 HYUNDAI_Sonata 攻击类型 DoS 攻击 Fuzzy 攻击 Gear 欺骗攻击 RPM 欺骗攻击 正常状态 #所有消息 3 665 771 3 838 860 4 443 142 4 621 702 988 987 #正常消息 3 078 250 3 347 013 3 845 890 3 966 805 988 987 #注入消息 587 521 491 847 597 252 654 897 - 339
武汉大学学报（工学版） 第 59 卷 为 验 证 师 生 模 型 的 性 能 差 异 ，在 无 知 识 蒸 馏 的 情 况 下 分 别 对 教 师 模 型 和 学 生 模 型 进 行 训 练 和 测 试 ，师 生 模 型 检 测 性 能 如 表 3 所 示 。 其 中 ，Mobile⁃ NetV3 Large、MobileNetV3 Small 分 别 简 称 为 Mo⁃ bileNetV3 L、MobileNetV3 S。 由 表 3 可 知 ，ResNet50 的 检 测 效 果 优 异 ，但 对 计 算 资 源 的 需 求 也 相 应 增 加 。 与 预 期 一 致 的 是 ， ResNet50 在 准 确 率 、精 确 度 、召 回 率 和 F1 方 面 均 达 到 最 佳 效 果 。 然 而 ，其 网 络 结 构 复 杂 ，参 数 量 最 多 ， 导 致 其 检 测 延 迟 和 内 存 占 用 显 著 高 于 轻 量 化 模 型 MobileNetV3，消 耗 更 多 计 算 资 源 。 MobileNetV3 S 作 为 MobileNetV3 系 列 中 参 数 最 少 的 模 型 ，检 测 时 内 存 占 用 最 低 ，适 合 低 算 力 的 嵌 入 式 设 备 ，但 其 检 测性能低于 ResNet50 和 MobileNetV3 L。 本 文 进 一 步 分 析 发 现 ，MobileNetV3 S 的 检 测 性 能 较 ResNet50 平 均 低 1.8%，较 MobileNetV3 L 平 均 低 1.5%。 然 而 ，MobileNetV3 S 的 参 数 数 量 仅 为 1.79×106，相 比 ResNet50 减 少 了 93%，相 比 Mo⁃ bileNetV3 L 减 少 了 61%。 在 内 存 占 用 方 面 ，Mo⁃ bileNetV3 S 仅 需 4.39 Mb，相 比 ResNet50 减 少 85%，相 比 MobileNetV3 L 降 低 了 58%。 在 测 试 时 间 上 ，MobileNetV3 S 平 均 检 测 一 个 样 本 仅 需 0.89 ms，显 著 低 于 ResNet50 和 MobileNetV3 L，且 远 低 于 车 载 入 侵 检 测 系 统 对 每 个 数 据 包 检 测 时 间 需 低 于 10 ms 的 实 时 性 要 求［25］。 因 此 ，本 文 选 择 Mobile⁃ NetV3 S 作为验证 H-KD 的学生模型。 3. 6 适配层选取与超参数 λ 设置 相 较 于 中 间 层 适 配 ，模 型 最 后 一 层 卷 积 层 包 含 模 型 对 输 入 数 据 的 高 维 度 特 征 表 示 ，能 够 在 保 持 模 型 性 能 的 同 时 降 低 计 算 和 内 存 开 销 。 因 此 本 文 选 取 ResNet50 的 最 后 一 层 卷 积 层（conv5_block3_ 3_conv）与 MobileNetV3 S 的 最 后 一 层 卷 积 层 （conv_2）输出的特征图进行适配。 为 确 保 H-KD 的 有 效 性 ，在 对 比 实 验 前 需 寻 找 一 个 平 衡 点 使 学 生 模 型 既 能 学 到 教 师 模 型 对 细 粒 度 特 征 的 提 取 能 力 ，又 能 获 得 其 全 局 的 输 出 信 息 。 因此，本文在保持表 2 参数不变的前提下，于特征图 适 配 后 采 用 网 格 搜 索 在 验 证 集 上 调 整 式（11）中 的 超 参 数 λl⁃kd 与 λc⁃kd。 由 于 计 算 成 本 有 限 ，实 验 在［0， 1］内以 0.2 为间隔值调整超参数 λl⁃kd，在［0，1 000］内 以 200 为 间 隔 值 调 整 超 参 数 λc⁃kd；超 参 数 λl⁃kd、λc⁃kd 对 实验准确率的影响如图 4 所示。 由 图 4 可 知 ，在 规 定 区 间 内 ，超 参 数 λl⁃kd、λc⁃kd 的 取 值 与 准 确 率 呈 非 线 性 关 系 ：若 λl⁃kd、λc⁃kd 取 值 过 小 ， 学 生 模 型 无 法 有 效 学 习 教 师 模 型 的 特 征 提 取 能 力 与 全 局 特 征 输 出 ；若 λl⁃kd、λc⁃kd 取 值 过 大 ，学 生 模 型 会 受冗余信息影响，导致准确率下降。基于图 4 数据， 本 文 平 衡 二 者 取 值 对 准 确 率 的 影 响 ，最 终 选 取 超 参 数 λl-kd 为 0.3、λc-kd 为 700 作为本实验的超参数取值。 3. 7 不同知识蒸馏轻量化方法对比 为验证 H-KD 轻量化方法及其各组成部分的有 效 性 ，实 验 在 完 全 相 同 的 训 练 环 境 与 设 置 下 ，将 H- KD 与 具 有 代 表 性 的 BLKD［16］和 FitNet［17］知 识 蒸 馏 方 法 进 行 比 较 ，并 开 展 消 融 实 验 。 所 有 实 验 数 据 均 为十折交叉验证得到的平均结果，具体如表 4 及图 5 所示。其中，LT、MU 为轻量化评估指标。 由 表 4 可 知 ，知 识 蒸 馏 方 法 显 著 提 升 了 学 生 模 型 的 检 测 性 能 ：准 确 率 提 升 0.86%~1.51%，精 确 度 提 升 1.96%~2.85%，召 回 率 提 升 0.86%~1.46%， F1 提 升 1.04%~1.83%，且 所 有 指 标 均 超 过 99%。 表 3 无 知 识 蒸 馏 条 件 下 各 模 型 检 测 性 能 Table 3 Detection performance of the model without knowledge distillation 实验模型 MobileNetV3 L MobileNetV3 S ResNet50 AC/% 99.76 98.42 99.87 PR/% 99.76 97.09 99.94 RC/% 99.54 98.42 99.74 F1/% 99.71 98.08 99.84 Pa(×106) 4.56 1.79 24.11 MS/Mb 53.16 21.45 276.54 LT/ms 1.551 3 0.894 7 2.166 1 MU/Mb 10.57 4.39 29.09 图 4 超参数 λl-kd、λc-kd 实验热力图 Fig.4 Heatmap of hyperparameters λl-kd and λc-kd in the experiment 340
徐煊翔，等：一种混合知识蒸馏的轻量化 CAN 总线入侵检测方法第 2 期 学 生 模 型 的 检 测 结 果 与 教 师 模 型 相 当 ，部 分 评 估 指 标 甚 至 优 于 教 师 模 型 。 这 表 明 ，通 过 3.1 节 的 数 据 预 处 理 ，知 识 蒸 馏 方 法 能 够 在 CAN 总 线 入 侵 检 测 多 分 类 任 务 中 ，借 助 教 师 模 型 有 效 提 高 轻 量 级 学 生 图 5 不同知识蒸馏方法与消融实验混淆矩阵 Fig.5 Confusion matrices of different knowledge distillation methods and ablation experiments 341
武汉大学学报（工学版） 第 59 卷 模 型 的 检 测 能 力 。 C-KD 与 L-KD 作 为 H-KD 的 一 部 分 ，均 显 著 提 高 了 学 生 模 型 的 检 测 性 能 。 具 体 而 言，C-KD 能够减小师生模型差异，增强学生模型的 特 征 提 取 能 力 ；L-KD 则 提 升 了 学 生 模 型 对 少 数 难 分 类 攻 击 的 检 测 能 力 。 在 所 有 对 比 方 法 中 ，H-KD 在准确率、精确度、召回率和 F1 方面表现最佳，表明 H-KD 的各组成部分均有助于提高轻量级学生模型 的性能，验证了 H-KD 的有效性。 然而，H-KD 在检测延迟时间与内存占用上未表 现出显著影响：学生模型在不同知识蒸馏方法下的检 测 延 迟 时 间 变 化 范 围 为 0.75~1.30 ms，内 存 占 用 变 化范围为 4.39~10.87 Mb，均在正常误差范围内；由 图 5（a）可知，未采用知识蒸馏时，学生模型会将部分 正常样本误判为模糊攻击；而图 5（c）表明，教师模型 能有效区分正常样本与模糊攻击；图 5（f）~（h）则进 一步证明，H-KD 能将教师模型提取的正常样本与模 糊攻击的深度特征差异知识有效传递给学生模型。 上 述 实 验 表 明 ，H-KD 通 过 从 ResNet50 教 师 模 型 中 提 取 并 迁 移 不 同 类 型 的 知 识 ，显 著 提 高 了 Mo⁃ bileNetV3 S 异 构 学 生 模 型 的 性 能 。 为 进 一 步 验 证 H-KD 在 CAN 总线入侵检测中的泛化能力，实验采 用 了 相 同 结 构 但 复 杂 程 度 不 同 的 教 师 与 学 生 模 型 ： 选用 MobileNetV3 L 作为教师模型，MobileNetV3 S 作为学生模型，并与 ResNet50/MobileNetV3 S 采用 相同的实验设置与方法，结果如表 5 所示。 由 表 5 可 知 ，相 同 结 构 的 师 生 模 型 在 检 测 性 能 上进一步证明了 H-KD 的泛化性。与其他基线知识 蒸 馏 方 法 相 比 ，H-KD 仍 实 现 了 最 佳 性 能 。 消 融 实 验再次验证了 H-KD 各组成部分的有效性。具体而 言 ，相 较 于 未 使 用 H-KD 的 MobileNetV3 S，学 生 模 型 在 准 确 率 、精 确 度 、召 回 率 和 F1 方 面 分 别 提 升 了 1.34%、2.52%、1.35% 和 1.61%。然而，与未应用任 何 知 识 蒸 馏 方 法 训 练 的 MobileNetV3 L 相 比 ，学 生 模型对正确样本的误报率更高。 3. 8 CAN 总线入侵检测方法检测性能对比 为 验 证 H-KD IDS 相 对 于 其 他 CAN 总 线 入 侵 检 测 方 法 的 先 进 性 ，实 验 在 Car-Hacking 数 据 集 上 选 取 Rec-CNN［14］，HyDL-IDS［10］和 CA［15］等 具 有 代 表 性 的 方 法 进 行 对 比 实 验 ，结 果 如 图 6 所 示 。 由 图 6 可 知 ，与 Rec-CNN［14］，HyDL-IDS［10］、 CA［15］相比，H-KD IDS 的检测性能最优，其准确率、 精 确 率 、召 回 率 、F1 均 高 于 99.88%。 在 保 证 检 测 性 能 评 估 指 标 的 前 提 下 ，学 生 模 型 MobileNetV3 S 在 内 存 占 用 上 消 耗 最 低 的 计 算 资 源 ，适 用 于 CAN 总 表 4 ResNet50/MobileNetV3 S 异 构 神 经 网 络 不 同 知 识 蒸 馏 方 法 对 比 与 消 融 实 验 Table 4 Comparison and ablation experiments of different knowledge distillation methods for ResNet50/MobileNetV3 S heterogeneous neural networks 教师模型 ResNet50 - ResNet50 ResNet50 ResNet50 ResNet50 ResNet50 学生模型 - MobileNetV3 S MobileNetV3 S MobileNetV3 S MobileNetV3 S MobileNetV3 S MobileNetV3 S KD 方法 - - BLKD[16] FitNet[17] L⁃KD C⁃KD H⁃KD AC/% 99.87 98.42 99.49 99.28 99.72 99.69 99.93 PR/% 99.94 97.09 99.05 99.31 99.55 99.46 99.94 RC/% 99.74 98.42 99.49 99.28 99.73 99.69 99.88 F1/% 99.84 98.08 99.36 99.12 99.65 99.61 99.91 LT/ms 2.166 1 0.894 7 0.876 9 0.935 2 1.307 3 0.751 6 0.912 4 MU/Mb 29.09 4.39 5.07 9.54 10.87 7.61 5.32 表 5 MobileNetV3 L/MobileNetV3 S 同 构 神 经 网 络 不 同 知 识 蒸 馏 方 法 对 比 与 消 融 实 验 Table 5 Comparison and ablation experiments of different knowledge distillation methods for MobileNetV 3 L/Mobile‑ NetV3 S isomorphic neural networks 教师模型 MobileNetV3 L - MobileNetV3 L MobileNetV3 L MobileNetV3 L MobileNetV3 L MobileNetV3 L 学生模型 - MobileNetV3 S MobileNetV3 S MobileNetV3 S MobileNetV3 S MobileNetV3 S MobileNetV3 S KD 方法 - - BLKD[16] FitNet[17] L⁃KD C⁃KD H⁃KD AC/% 99.76 98.42 99.45 99.39 99.66 99.50 99.76 PR/% 99.76 97.09 99.05 98.89 99.41 99.08 99.61 RC/% 99.54 98.42 99.45 99.39 99.66 99.51 99.77 F1/% 99.71 98.08 99.27 99.24 99.56 99.36 99.69 LT/ms 1.551 3 0.894 7 0.931 4 0.893 8 0.836 6 1.058 1 0.874 5 MU/Mb 10.57 4.39 3.87 8.72 5.63 7.95 6.01 342
徐煊翔，等：一种混合知识蒸馏的轻量化 CAN 总线入侵检测方法第 2 期 线 的 实 时 入 侵 检 测 场 景 ，在 检 测 延 迟 时 间 上 能 够 满 足 实 时 检 测 的 需 求［25］，但 较 Rec-CNN［14］、HyDL- IDS［10］仍有提升空间。 4 结语 针 对 当 前 车 载 设 备 计 算 资 源 有 限 、基 于 深 度 学 习的高性能 IDS 无法在车载环境中有效发挥作用的 问 题 ，本 文 提 出 一 种 基 于 知 识 蒸 馏 的 CAN 总 线 入 侵 检 测 方 法 ，设 计 了 混 合 实 例 内 关 系 与 响 应 关 系 的 知 识 蒸 馏 CAN 总 线 入 侵 检 测 框 架 。 该 框 架 基 于 Gram 矩 阵 构 建 师 生 模 型 的 实 例 内 特 征 关 系 ，通 过 改 进 多 分 类 焦 点 损 失 函 数 构 建 师 生 模 型 的 响 应 关 系 ，提 出 混 合 知 识 蒸 馏 方 法 训 练 CAN 总 线 入 侵 检 测 模 型 并 在 公 开 数 据 集 Car-Hacking 上 进 行 了 有 效 验 证 。 蒸 馏 训 练 后 ，H-KD IDS 的 准 确 率 、精 确 度 、 召回率和 F1 值分别提升了 1.51%、2.85%、1.46% 和 1.83%，而学生模型的大小仅为教师模型的 7.76%， 具 有 更 好 的 检 测 性 能 与 更 低 的 资 源 消 耗 ，显 著 降 低 了 车 载 设 备 的 硬 件 要 求 。 这 表 明 ，在 需 实 时 处 理 大 量 数 据 但 计 算 资 源 有 限 的 车 载 设 备 中 ，高 性 能 检 测 模 型 可 在 不 损 失 检 测 精 度 的 前 提 下 被 压 缩 为 计 算 成本更低的模型，更适用于实际场景需求。 未 来 研 究 将 重 点 放 在 未 知 攻 击 检 测 和 检 测 延 迟 时 间 上 ，并 希 望 将 本 文 研 究 成 果 扩 展 到 真 实 车 辆 环 境 中 进 行 实 验 ，以 进 一 步 探 究 模 型 在 现 实 应 用 场 景下的入侵检测性能，提升模型的适用性。 参考文献: [1] 国 家 市 场 监 督 管 理 总 局 , 国 家 标 准 化 管 理 委 员 会 . GB ∕T 38628-2020 信 息 安 全 技 术 汽 车 电 子 系 统 网 络 安全指南[S]. 北京: 中国标准出版社, 2020. State Administration for Market Regulation, National Standardization Administration. GB/T 38628-2020 Information Security Technology-Cybersecurity Guide for Automotive Electronics Systems [S]. Beijing: China Standards Publishing House, 2020. [2] 国 家 市 场 监 督 管 理 总 局 , 国 家 标 准 化 管 理 委 员 会 . GB/T 28454-2020 信 息 技 术 安 全 技 术 入 侵 检 测 和 防 御 系 统（IDPS）的 选 择 、部 署 和 操 作 [S]. 北 京 : 中 国 标 准出版社, 2020. State Administration for Market Regulation, National Standardization Administration. GB/T 28454-2020 Information Technology - Security Techniques - Selection, Deployment and Operation of Intrusion Detection and Prevention Systems (IDPS) [S]. Beijing: China Standards Publishing House, 2020. [3] United Nations. UN Regulation No. 155: Uniform Provisions Concerning the Approval of Vehicles with Regards to Cybersecurity and Cybersecurity 图 6 不同 CAN 总线入侵检测方法对比 Fig.6 Comparison of different CAN bus intrusion detection methods 343
武汉大学学报（工学版） 第 59 卷 Management System[S]. New York, 2021. [4] LAMPE B, MENG W Z. A survey of deep learning- based intrusion detection in automotive applications[J]. Expert Systems with Applications, 2023, 221: 119771. [5] RAJAPAKSHA S, KALUTARAGE H, AL-KADRI M O, et al. AI-based intrusion detection systems for in- vehicle networks: a survey[J]. ACM Computing Surveys, 2023, 55(11): 1-40. [6] JIN S Y, CHUNG J G, XU Y N. Signature-based intrusion detection system (IDS) for in-vehicle CAN bus network[C]//2021 IEEE International Symposium on Circuits and Systems (ISCAS), 2021: 1-5. [7] ZHAO Y L, XUN Y J, LIU J J. ClockIDS: a real-time vehicle intrusion detection system based on clock skew [J]. IEEE Internet of Things Journal, 2022, 9(17): 15593-15606. [8] OHIRA S, DESTA A K, ARAI I, et al. Normal and malicious sliding windows similarity analysis method for fast and accurate IDS against DoS attacks on in- vehicle networks[J]. IEEE Access, 2020, 8: 42422- 42435. [9] NARAYANAN S N, MITTAL S, JOSHI A. OBD_SecureAlert: an anomaly detection system for vehicles[C]//2016 IEEE International Conference on Smart Computing (SMARTCOMP), 2016: 1-6. [10] LO W, ALQAHTANI H, THAKUR K, et al. A hybrid deep learning based intrusion detection system using spatial-temporal representation of in-vehicle network traffic[J]. Vehicular Communications, 2022, 35: 100471. [11] GOU J P, YU B S, MAYBANK S J, et al. Knowledge distillation: a survey[J]. International Journal of Computer Vision, 2021, 129(6): 1789-1819. [12] 司兆峰, 齐洪钢 . 知识蒸馏方法研究与应用综述[J]. 中 国图象图形学报, 2023, 28(9): 2817-2832. SI Zhaofeng, QI Honggang. Survey on knowledge distillation and its application[J]. Journal of Image and Graphics, 2023, 28(9): 2817-2832. [13] 孟宪法, 刘方, 李广, 等 . 卷积神经网络压缩中的知识 蒸 馏 技 术 综 述 [J]. 计 算 机 科 学 与 探 索 , 2021, 15(10): 1812-1829. MENG Xianfa, LIU Fang, LI Guang, et al. Review of knowledge distillation in convolutional neural network compression[J]. Journal of Frontiers of Computer Science & Technology, 2021, 15(10): 1812-1829. [14] DESTA A K, OHIRA S, ARAI I, et al. Rec-CNN: in-vehicle networks intrusion detection using convolutional neural networks trained on recurrence plots[J]. Vehicular Communications, 2022, 35: 100470. [15] YANG L, SHAMI A. A transfer learning and optimized CNN based intrusion detection system for internet of vehicles[C]//ICC 2022 - IEEE International Conference on Communications, 2022: 2774-2779. [16] HINTON G, VINYALS O, DEAN J. Distilling the knowledge in a neural network[EB/OL]. arXiv: 1503.02531[2024-04-16]. https://doi. org/10.48550/ arXiv.1503.02531. [17] ROMERO A，BALLAS N，KAHOU S E, et al. FitNets: hints for thin deep nets[C]//International Conference on Learning Representations 2015, 2015: 1-13. [18] YIM J, JOO D, BAE J, et al. A gift from knowledge distillation: fast optimization, network minimization and transfer learning[C]//2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2017: 7130-7138. [19] DING L, WANG Y W, YUAN K W, et al. Towards universal physical attacks on single object tracking[J]. Proceedings of the AAAI Conference on Artificial Intelligence, 2021, 35(2): 1236-1245. [20] SKEAN O, DHAKAL A, JACOBS N, et al. FroSSL: Frobenius norm minimization for efficient multiview self-supervised learning[C]//Computer Vision – ECCV 2024, 2024: 69-85. [21] LIN T Y, GOYAL P, GIRSHICK R, et al. Focal loss for dense object detection[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2020, 42 (2): 318-327. [22] SEO E, SONG H M, KIM H K. GIDS: GAN based intrusion detection system for in-vehicle network[C]// 2018 16th Annual Conference on Privacy, Security and Trust (PST), 2018: 1-6. [23] HE K M, ZHANG X Y, REN S Q, et al. Deep residual learning for image recognition[C]//2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016: 770-778. [24] HOWARD A, SANDLER M, CHEN B, et al. Searching for MobileNetV3[C]//2019 IEEE/CVF International Conference on Computer Vision (ICCV), 2019: 1314-1324. [25] MOUBAYED A, SHAMI A, HEIDARI P, et al. Edge-enabled V2X service placement for intelligent transportation systems[J]. IEEE Transactions on Mobile Computing, 2021, 20(4): 1380-1392. （编辑：高映月） 344