forked from eaiadmin/rtos_llm_opt
1.8 KiB
1.8 KiB
指标与证据
1. 控制实时性
- 任务响应时间、完成抖动和观测最大值;
- deadline miss ratio;
- 中断响应和关键 I/O 端到端时延;
- AI 启停、模型切换和降频瞬间的时间序列;
- 故障与恢复窗口内的控制表现。
2. AI 服务有效性
- 推理端到端时延和按期率;
- 有效结果率、任务质量和超时率;
- 跳帧、拒绝和降级比例;
- 模型切换时间;
- 控制无违约条件下的最大持续 AI 负载。
3. 资源与能耗
- 峰值和稳态内存;
- CPU/NPU 利用率与执行占空比;
- 内存带宽或可取得的代理指标;
- 整机平均功率、峰值功率和能量;
- 温度、实际频率和降频时间比例;
- 单次有效结果能耗和有效结果/焦耳。
4. 核心结果表达
推荐把结果组织为“安全运行区”:
控制 deadline 满足
AND AI 质量 >= Q_min
AND AI 按期率 >= H_min
AND 功耗 <= P_max
AND 温度 <= Temp_max
扫描 AI 频率、模型复杂度和功耗模式,绘制满足全部条件的可行区域及其边界。
5. 不应使用的证据替代
- 平均延迟不能替代 deadline miss ratio;
- 短时冷机性能不能替代热稳态;
- 模型权重大小不能替代峰值内存;
- 芯片标称 TOPS 不能替代实测完成时间;
- 零违约不能直接表述为理论硬实时保证;
- 降低 AI 完成率获得的低功耗不能单独称为能效提升。
6. 推荐图表
- AI 负载—控制尾延迟与违约率曲线;
- 时间、内存、功耗预算消融图;
- 模型质量—按期率—能耗 Pareto 图;
- 热稳态下温度、频率、控制延迟时间序列;
- 过载状态下跳帧、降级和恢复过程;
- 不同 MCU/SoC 的机制可迁移性对比表。