Files
rtos_llm_opt/项目框架3-MCU与资源受限SoC的AI实时性与低功耗研究/20-实验与规划/02-指标与证据.md
T

1.8 KiB
Raw Blame History

指标与证据

1. 控制实时性

  • 任务响应时间、完成抖动和观测最大值;
  • deadline miss ratio;
  • 中断响应和关键 I/O 端到端时延;
  • AI 启停、模型切换和降频瞬间的时间序列;
  • 故障与恢复窗口内的控制表现。

2. AI 服务有效性

  • 推理端到端时延和按期率;
  • 有效结果率、任务质量和超时率;
  • 跳帧、拒绝和降级比例;
  • 模型切换时间;
  • 控制无违约条件下的最大持续 AI 负载。

3. 资源与能耗

  • 峰值和稳态内存;
  • CPU/NPU 利用率与执行占空比;
  • 内存带宽或可取得的代理指标;
  • 整机平均功率、峰值功率和能量;
  • 温度、实际频率和降频时间比例;
  • 单次有效结果能耗和有效结果/焦耳。

4. 核心结果表达

推荐把结果组织为“安全运行区”:

控制 deadline 满足
AND AI 质量 >= Q_min
AND AI 按期率 >= H_min
AND 功耗 <= P_max
AND 温度 <= Temp_max

扫描 AI 频率、模型复杂度和功耗模式,绘制满足全部条件的可行区域及其边界。

5. 不应使用的证据替代

  • 平均延迟不能替代 deadline miss ratio;
  • 短时冷机性能不能替代热稳态;
  • 模型权重大小不能替代峰值内存;
  • 芯片标称 TOPS 不能替代实测完成时间;
  • 零违约不能直接表述为理论硬实时保证;
  • 降低 AI 完成率获得的低功耗不能单独称为能效提升。

6. 推荐图表

  1. AI 负载—控制尾延迟与违约率曲线;
  2. 时间、内存、功耗预算消融图;
  3. 模型质量—按期率—能耗 Pareto 图;
  4. 热稳态下温度、频率、控制延迟时间序列;
  5. 过载状态下跳帧、降级和恢复过程;
  6. 不同 MCU/SoC 的机制可迁移性对比表。