forked from eaiadmin/rtos_llm_opt
docs: add alternative real-time research frameworks
This commit is contained in:
@@ -0,0 +1,64 @@
|
||||
# 实验设计
|
||||
|
||||
## 1. 平台选择
|
||||
|
||||
建议最少包含:
|
||||
|
||||
- 一个 MCU 或低资源控制器,用于 TinyML/轻量 AI 与周期控制共存;
|
||||
- 一个带 NPU 的资源受限 SoC,用于统一内存、DMA 和热干扰;
|
||||
- 必要的功率计、逻辑分析仪或示波器以及 CAN/RS485 对端。
|
||||
|
||||
设备按真实 AI 运行能力选择,不以补齐 T1~T5 为目标。
|
||||
|
||||
## 2. 对照组
|
||||
|
||||
| 编号 | 配置 |
|
||||
|---|---|
|
||||
| C0 | 仅控制任务 |
|
||||
| C1 | 控制 + AI 默认配置 |
|
||||
| C2 | C1 + 优先级和中断隔离 |
|
||||
| C3 | C2 + 时间/内存/功耗预算与准入 |
|
||||
| C4 | C3 + 模型降级和故障恢复 |
|
||||
|
||||
## 3. 压力场景
|
||||
|
||||
| 场景 | 内容 |
|
||||
|---|---|
|
||||
| M0 | 控制空载基线 |
|
||||
| M1 | AI 独立运行 |
|
||||
| M2 | 控制 + AI |
|
||||
| M3 | M2 + CPU/缓存压力 |
|
||||
| M4 | M2 + 内存/DMA 压力 |
|
||||
| M5 | M2 + I/O/中断压力 |
|
||||
| M6 | AI 突发和过载 |
|
||||
| M7 | 热稳态和降频 |
|
||||
| M8 | OOM、超时、运行时或设备故障 |
|
||||
|
||||
## 4. 变量扫描
|
||||
|
||||
- 控制周期、执行预算和关键 I/O 频率;
|
||||
- AI 模型、精度、输入尺寸和执行频率;
|
||||
- CPU/NPU 频率与功率模式;
|
||||
- 内存预算和 DMA 缓冲区大小;
|
||||
- AI 队列深度、跳帧率和超时期限;
|
||||
- 环境温度和持续运行时间。
|
||||
|
||||
## 5. 实施顺序
|
||||
|
||||
1. 验证控制任务和物理计时链路。
|
||||
2. 完成模型正确性、峰值内存和独立能耗准入。
|
||||
3. 运行 C0/C1,确认 AI 实际产生的干扰。
|
||||
4. 依次加入 C2~C4 并做逐项消融。
|
||||
5. 扫描负载直到出现控制违约或 AI 服务失效。
|
||||
6. 在选定边界附近进行热稳态与长时间实验。
|
||||
7. 使用冻结配置进行独立确认批次。
|
||||
|
||||
## 6. 停止条件
|
||||
|
||||
- 控制任务出现不可接受违约;
|
||||
- 温度、电压或电流超过设备安全范围;
|
||||
- 测量链路丢样或时钟失效;
|
||||
- 内存不足导致无法保持关键任务;
|
||||
- AI 后端不支持目标模型或精度。
|
||||
|
||||
停止不代表实验失败,应记录为容量或适配边界。
|
||||
@@ -0,0 +1,58 @@
|
||||
# 指标与证据
|
||||
|
||||
## 1. 控制实时性
|
||||
|
||||
- 任务响应时间、完成抖动和观测最大值;
|
||||
- deadline miss ratio;
|
||||
- 中断响应和关键 I/O 端到端时延;
|
||||
- AI 启停、模型切换和降频瞬间的时间序列;
|
||||
- 故障与恢复窗口内的控制表现。
|
||||
|
||||
## 2. AI 服务有效性
|
||||
|
||||
- 推理端到端时延和按期率;
|
||||
- 有效结果率、任务质量和超时率;
|
||||
- 跳帧、拒绝和降级比例;
|
||||
- 模型切换时间;
|
||||
- 控制无违约条件下的最大持续 AI 负载。
|
||||
|
||||
## 3. 资源与能耗
|
||||
|
||||
- 峰值和稳态内存;
|
||||
- CPU/NPU 利用率与执行占空比;
|
||||
- 内存带宽或可取得的代理指标;
|
||||
- 整机平均功率、峰值功率和能量;
|
||||
- 温度、实际频率和降频时间比例;
|
||||
- 单次有效结果能耗和有效结果/焦耳。
|
||||
|
||||
## 4. 核心结果表达
|
||||
|
||||
推荐把结果组织为“安全运行区”:
|
||||
|
||||
```text
|
||||
控制 deadline 满足
|
||||
AND AI 质量 >= Q_min
|
||||
AND AI 按期率 >= H_min
|
||||
AND 功耗 <= P_max
|
||||
AND 温度 <= Temp_max
|
||||
```
|
||||
|
||||
扫描 AI 频率、模型复杂度和功耗模式,绘制满足全部条件的可行区域及其边界。
|
||||
|
||||
## 5. 不应使用的证据替代
|
||||
|
||||
- 平均延迟不能替代 deadline miss ratio;
|
||||
- 短时冷机性能不能替代热稳态;
|
||||
- 模型权重大小不能替代峰值内存;
|
||||
- 芯片标称 TOPS 不能替代实测完成时间;
|
||||
- 零违约不能直接表述为理论硬实时保证;
|
||||
- 降低 AI 完成率获得的低功耗不能单独称为能效提升。
|
||||
|
||||
## 6. 推荐图表
|
||||
|
||||
1. AI 负载—控制尾延迟与违约率曲线;
|
||||
2. 时间、内存、功耗预算消融图;
|
||||
3. 模型质量—按期率—能耗 Pareto 图;
|
||||
4. 热稳态下温度、频率、控制延迟时间序列;
|
||||
5. 过载状态下跳帧、降级和恢复过程;
|
||||
6. 不同 MCU/SoC 的机制可迁移性对比表。
|
||||
Reference in New Issue
Block a user