Files
rtos_llm_opt/项目框架3-MCU与资源受限SoC的AI实时性与低功耗研究/00-项目总览/01-研究问题、定位与边界.md
T

2.0 KiB
Raw Blame History

研究问题、定位与边界

1. 问题背景

MCU 和资源受限 SoC 原本承担周期控制、采集、通信和保护任务。引入 AI 后,模型执行会持续占用 CPU/NPU、内存、缓存、总线、DMA 和功耗预算,导致控制抖动、关键中断延迟、内存不足或热降频。

该问题具有明确的工业实时属性:AI 可以降质、跳帧或暂停,但关键控制任务和安全保护不能因为 AI 负载而失去截止期。

2. 核心研究问题

  1. 轻量 AI 通过哪些资源路径影响控制任务?
  2. 如何为 AI 分配可执行时间、内存、带宽和功耗预算?
  3. AI 负载超过容量时,如何限流、跳帧、切换模型或暂停执行?
  4. 模型精度、结果期限、控制实时性和能耗之间如何联合优化?
  5. 不同 MCU/SoC 上哪些机制可迁移,哪些依赖具体硬件?

3. 研究范围

纳入范围

  • MCU、带 NPU 的工业 SoC 和控制器;
  • AI 与控制任务同 OS 或同芯片共存;
  • 固定优先级、预算服务器、准入和过载降级;
  • 静态内存、DMA、缓存、总线、功耗和热管理;
  • GPIO、CAN、RS485、工业以太网等物理响应。

不纳入主线

  • 大模型训练和多节点集群;
  • 为补齐 T1~T5 而采购全谱系设备;
  • 只测 tokens/s 或平均推理速度;
  • 在设备无法真实运行时估算模型性能;
  • 把零违约实测表述为理论硬实时证明。

4. 基本假设

  • H1:AI 对控制的主要影响不仅来自 CPU,还来自内存、DMA、中断和热耦合。
  • H2:预算、预分配和准入可以扩大控制无违约的 AI 运行范围。
  • H3:过载时主动降低 AI 服务质量,比继续排队更有利于维持系统可预测性。
  • H4:满足相同控制和 AI 约束时,可以找到能耗更低的模型、频率与执行策略。

5. 成果边界

本研究证明的是指定设备、任务和环境下的容量边界与机制收益。不同芯片的 NPU 固件、内存控制器和功耗策略不同,不能仅按内存容量把结果直接外推。