docs: add alternative real-time research frameworks
This commit is contained in:
Mo1s
@@ -0,0 +1,59 @@
|
||||
# 整体研究框架
|
||||
|
||||
## 1. 系统模型
|
||||
|
||||
```text
|
||||
┌─────────────────────────────────────────────┐
|
||||
│ 安全与关键控制任务 │
|
||||
│ 周期控制、联锁、关键采集、现场总线 │
|
||||
├─────────────────────────────────────────────┤
|
||||
│ AI 目标任务 │
|
||||
│ 检测、估计、识别、诊断、轻量智能决策 │
|
||||
├─────────────────────────────────────────────┤
|
||||
│ 伴生任务 │
|
||||
│ 日志、通信、更新、存储和非关键后台服务 │
|
||||
├─────────────────────────────────────────────┤
|
||||
│ RTOS/嵌入式系统治理 │
|
||||
│ 优先级、预算、准入、预分配、中断与降级 │
|
||||
├─────────────────────────────────────────────┤
|
||||
│ MCU/SoC：CPU、NPU、RAM、缓存、总线、DMA、热 │
|
||||
└─────────────────────────────────────────────┘
|
||||
```
|
||||
|
||||
## 2. 优先级原则
|
||||
|
||||
1. 安全与关键控制任务优先满足 deadline；
|
||||
2. AI 任务在剩余时间和资源预算内执行；
|
||||
3. AI 结果超过有效期后不再进入控制路径；
|
||||
4. 伴生任务不得挤占控制和已准入 AI 的预算；
|
||||
5. 过载时优先降低 AI 频率、模型复杂度或输入质量。
|
||||
|
||||
## 3. 四维预算
|
||||
|
||||
| 预算 | 控制手段 | 典型风险 |
|
||||
|---|---|---|
|
||||
| 时间预算 | 固定优先级、时间服务器、分块执行 | 长算子和不可抢占段 |
|
||||
| 内存预算 | 静态分配、内存池、峰值准入 | OOM、碎片、共享缓冲区 |
|
||||
| 带宽预算 | DMA 编排、访问节流、采样降频 | 控制数据被 AI 挤占 |
|
||||
| 功耗预算 | DVFS、模型切换、占空比控制 | 热降频反向破坏实时性 |
|
||||
|
||||
## 4. 运行状态
|
||||
|
||||
```text
|
||||
S0 控制优先、AI 正常运行
|
||||
S1 AI 降频或跳帧
|
||||
S2 切换轻量模型或低精度模式
|
||||
S3 暂停 AI，保留传统控制
|
||||
S4 故障安全状态
|
||||
```
|
||||
|
||||
状态切换依据控制裕量、队列长度、内存水位、温度、功耗和 AI 结果质量。切换过程本身必须有界，并避免关键路径动态加载大型模型。
|
||||
|
||||
## 5. 研究主线
|
||||
|
||||
- AI WCET/执行时间分布与可抢占结构分析；
|
||||
- 控制任务响应时间和共享资源干扰分析；
|
||||
- AI 多维预算与准入控制；
|
||||
- 精度、执行频率和功耗联合降级；
|
||||
- 长时间热稳态和异常恢复；
|
||||
- 跨设备可迁移机制与芯片特定机制区分。
|
||||
@@ -0,0 +1,54 @@
|
||||
# AI 预算调度与控制保护
|
||||
|
||||
## 1. 任务模型
|
||||
|
||||
控制任务表示为：
|
||||
|
||||
```text
|
||||
τc = (Tc, Dc, Cc, Pc)
|
||||
```
|
||||
|
||||
其中 `T` 为周期、`D` 为截止期、`C` 为执行需求、`P` 为优先级。
|
||||
|
||||
AI 任务表示为：
|
||||
|
||||
```text
|
||||
τai = (arrival, deadline, budget_cpu, budget_mem,
|
||||
budget_power, quality_level, droppable)
|
||||
```
|
||||
|
||||
AI 任务必须声明是否可丢弃、是否允许跳帧以及可接受的最低质量等级。
|
||||
|
||||
## 2. 调度原则
|
||||
|
||||
- 控制任务使用固定优先级或已验证的实时调度策略；
|
||||
- AI 使用低优先级后台、预算服务器或可中止任务；
|
||||
- 将长推理拆分为可抢占或可中断阶段；
|
||||
- 不可抢占 NPU/GPU 执行段必须测量并纳入控制响应时间；
|
||||
- AI 请求只有在时间、内存和功耗预算同时满足时才准入。
|
||||
|
||||
## 3. 准入条件
|
||||
|
||||
```text
|
||||
schedulable(control | ai_load)
|
||||
AND peak_memory <= M_budget
|
||||
AND predicted_power <= P_budget
|
||||
AND result_deadline_feasible
|
||||
AND quality >= Q_min
|
||||
```
|
||||
|
||||
准入失败时，系统可以拒绝请求、推迟非关键输入、跳帧或选择更小模型，不能无限排队。
|
||||
|
||||
## 4. 控制保护机制
|
||||
|
||||
- 控制代码、数据和栈静态分配；
|
||||
- AI 与控制使用独立内存池；
|
||||
- 关键中断优先于 NPU、摄像头和通信完成中断；
|
||||
- 日志采用预分配缓冲并异步输出；
|
||||
- AI 执行前检查控制裕量；
|
||||
- AI 超时后结果直接失效；
|
||||
- 看门狗覆盖 AI 运行时和设备驱动卡死。
|
||||
|
||||
## 5. 消融验证
|
||||
|
||||
逐项移除预算服务器、内存池、中断隔离、准入和降级机制，比较控制尾延迟、AI 按期率和能耗，识别收益来源。
|
||||
@@ -0,0 +1,55 @@
|
||||
# 内存、功耗、热与降级
|
||||
|
||||
## 1. 内存治理
|
||||
|
||||
模型准入按完整峰值计算：
|
||||
|
||||
```text
|
||||
M_total = M_weight + M_activation + M_workspace
|
||||
+ M_io + M_runtime + M_control_reserved
|
||||
```
|
||||
|
||||
必须为控制任务、关键通信和故障日志保留不可侵占空间。权重大小不能代替峰值内存测量。
|
||||
|
||||
推荐机制：
|
||||
|
||||
- 模型和工作区静态加载；
|
||||
- 固定大小内存池；
|
||||
- 禁止关键窗口模型切换；
|
||||
- DMA 缓冲区白名单和容量上限；
|
||||
- OOM 前主动降低 AI 并发或切换模型。
|
||||
|
||||
## 2. 功耗与热耦合
|
||||
|
||||
AI 满载可能触发整芯片功耗限制或热降频，进而增加控制任务执行时间。实验必须同步记录：
|
||||
|
||||
- 整机功率；
|
||||
- 芯片温度；
|
||||
- CPU/NPU 实际频率；
|
||||
- AI 执行阶段；
|
||||
- 控制响应时间和违约；
|
||||
- 降频事件。
|
||||
|
||||
## 3. 降级策略
|
||||
|
||||
| 触发条件 | 优先动作 |
|
||||
|---|---|
|
||||
| 控制裕量下降 | 降低 AI 请求率或跳帧 |
|
||||
| AI 队列增长 | 拒绝低优先级请求 |
|
||||
| 内存水位过高 | 减少并发或切换小模型 |
|
||||
| 温度接近阈值 | 降低 AI 占空比或精度 |
|
||||
| 连续 AI 超时 | 暂停 AI，保留传统控制 |
|
||||
| 驱动或设备故障 | 复位 AI 子系统并进入安全模式 |
|
||||
|
||||
## 4. 能效口径
|
||||
|
||||
不能仅比较最低功率，应在相同控制实时约束和 AI 质量约束下比较：
|
||||
|
||||
- 单次有效推理能耗；
|
||||
- 有效结果/焦耳；
|
||||
- 控制无违约条件下的持续 AI 吞吐；
|
||||
- 热稳态而非冷机短时能效。
|
||||
|
||||
## 5. 结论边界
|
||||
|
||||
动态量化、模型切换和 DVFS 只有在切换开销已测量且不破坏控制 deadline 时，才能称为实时感知的低功耗策略。
|
||||
Reference in New Issue
Block a user