forked from eaiadmin/rtos_llm_opt
45 lines
2.0 KiB
Markdown
45 lines
2.0 KiB
Markdown
# 研究问题、定位与边界
|
|
|
|
## 1. 问题背景
|
|
|
|
MCU 和资源受限 SoC 原本承担周期控制、采集、通信和保护任务。引入 AI 后，模型执行会持续占用 CPU/NPU、内存、缓存、总线、DMA 和功耗预算，导致控制抖动、关键中断延迟、内存不足或热降频。
|
|
|
|
该问题具有明确的工业实时属性：AI 可以降质、跳帧或暂停，但关键控制任务和安全保护不能因为 AI 负载而失去截止期。
|
|
|
|
## 2. 核心研究问题
|
|
|
|
1. 轻量 AI 通过哪些资源路径影响控制任务？
|
|
2. 如何为 AI 分配可执行时间、内存、带宽和功耗预算？
|
|
3. AI 负载超过容量时，如何限流、跳帧、切换模型或暂停执行？
|
|
4. 模型精度、结果期限、控制实时性和能耗之间如何联合优化？
|
|
5. 不同 MCU/SoC 上哪些机制可迁移，哪些依赖具体硬件？
|
|
|
|
## 3. 研究范围
|
|
|
|
### 纳入范围
|
|
|
|
- MCU、带 NPU 的工业 SoC 和控制器；
|
|
- AI 与控制任务同 OS 或同芯片共存；
|
|
- 固定优先级、预算服务器、准入和过载降级；
|
|
- 静态内存、DMA、缓存、总线、功耗和热管理；
|
|
- GPIO、CAN、RS485、工业以太网等物理响应。
|
|
|
|
### 不纳入主线
|
|
|
|
- 大模型训练和多节点集群；
|
|
- 为补齐 T1～T5 而采购全谱系设备；
|
|
- 只测 tokens/s 或平均推理速度；
|
|
- 在设备无法真实运行时估算模型性能；
|
|
- 把零违约实测表述为理论硬实时证明。
|
|
|
|
## 4. 基本假设
|
|
|
|
- H1：AI 对控制的主要影响不仅来自 CPU，还来自内存、DMA、中断和热耦合。
|
|
- H2：预算、预分配和准入可以扩大控制无违约的 AI 运行范围。
|
|
- H3：过载时主动降低 AI 服务质量，比继续排队更有利于维持系统可预测性。
|
|
- H4：满足相同控制和 AI 约束时，可以找到能耗更低的模型、频率与执行策略。
|
|
|
|
## 5. 成果边界
|
|
|
|
本研究证明的是指定设备、任务和环境下的容量边界与机制收益。不同芯片的 NPU 固件、内存控制器和功耗策略不同，不能仅按内存容量把结果直接外推。
|