forked from eaiadmin/rtos_llm_opt
64 lines
2.3 KiB
Markdown
64 lines
2.3 KiB
Markdown
# MCU路线：静态分配与工具链协同
|
|
|
|
## 1. 主题定位
|
|
|
|
MCU 路线并不是“把大模型缩小以后放进 MCU”这么简单。在框架2中，MCU 路线代表的是另一类完全不同的问题结构：资源极端受限、动态空间极小、工具链和静态编排比在线调度策略更重要。
|
|
|
|
## 2. MCU 路线的系统特征
|
|
|
|
这一路线通常具有以下特点：
|
|
|
|
- 可用内存极小；
|
|
- 时钟和算力预算刚性；
|
|
- 外设和控制链路优先级极高；
|
|
- 更适合小模型、小算子和静态工作流；
|
|
- 更依赖芯片 SDK、代码生成工具和开发套件。
|
|
|
|
因此，MCU 路线更接近“静态可分析系统中的 AI 能力纳入问题”。
|
|
|
|
## 3. 核心研究问题
|
|
|
|
### 3.1 小模型如何进入静态编排体系
|
|
|
|
MCU 路线重点不是追求通用大模型能力，而是研究：
|
|
|
|
- 哪些轻量模型可以被稳定纳入控制系统；
|
|
- 小模型、小算子与控制任务如何离线编排；
|
|
- 预分配、静态内存池和固定执行窗口如何设计。
|
|
|
|
### 3.2 工具链为什么比单点机制更重要
|
|
|
|
在 MCU 路线上，真正决定工程落地效率的常常不是调度策略，而是：
|
|
|
|
- 模型裁剪与转换工具；
|
|
- 自动代码生成能力；
|
|
- 内存预算与部署检查工具；
|
|
- 芯片级软件开发套件。
|
|
|
|
因此，MCU 路线天然更强调“工具链能力”。
|
|
|
|
### 3.3 芯片协同如何进入研究主线
|
|
|
|
对于 MCU 场景，芯片规格本身就会限制可用模型、缓冲区与时延上界。后续研究需要回答：
|
|
|
|
- 哪些 AI 需求会反向定义 MCU 和端侧芯片规格；
|
|
- 哪些片上资源是决定性瓶颈；
|
|
- 开发套件如何把这些约束显式化。
|
|
|
|
## 4. 评价重点
|
|
|
|
MCU 路线重点观察：
|
|
|
|
- 关键保障负载能否稳定维持；
|
|
- 小模型能否在固定资源预算中运行；
|
|
- 工具链是否能给出可分析、可复现的部署边界；
|
|
- 功耗、体积和散热预算是否同时满足。
|
|
|
|
## 5. 与框架2的关系
|
|
|
|
MCU 路线主要对应 `T5` 控制端，也是框架2中最能体现“小型化、低功耗、工具链协同”特征的部分。它为整个基础系统课题提供了一个约束极强、边界清晰的验证窗口。
|
|
|
|
## 6. 当前结论
|
|
|
|
> **MCU 路线的主问题不是“大模型如何跑进去”，而是人工智能能力如何在极端受限条件下，被静态、可分析地纳入实时控制系统。**
|