forked from eaiadmin/rtos_llm_opt
2.3 KiB
2.3 KiB
MCU路线：静态分配与工具链协同
1. 主题定位
MCU 路线并不是“把大模型缩小以后放进 MCU”这么简单。在框架2中，MCU 路线代表的是另一类完全不同的问题结构：资源极端受限、动态空间极小、工具链和静态编排比在线调度策略更重要。
2. MCU 路线的系统特征
这一路线通常具有以下特点：
- 可用内存极小；
- 时钟和算力预算刚性；
- 外设和控制链路优先级极高；
- 更适合小模型、小算子和静态工作流；
- 更依赖芯片 SDK、代码生成工具和开发套件。
因此，MCU 路线更接近“静态可分析系统中的 AI 能力纳入问题”。
3. 核心研究问题
3.1 小模型如何进入静态编排体系
MCU 路线重点不是追求通用大模型能力，而是研究：
- 哪些轻量模型可以被稳定纳入控制系统；
- 小模型、小算子与控制任务如何离线编排；
- 预分配、静态内存池和固定执行窗口如何设计。
3.2 工具链为什么比单点机制更重要
在 MCU 路线上，真正决定工程落地效率的常常不是调度策略，而是：
- 模型裁剪与转换工具；
- 自动代码生成能力；
- 内存预算与部署检查工具；
- 芯片级软件开发套件。
因此，MCU 路线天然更强调“工具链能力”。
3.3 芯片协同如何进入研究主线
对于 MCU 场景，芯片规格本身就会限制可用模型、缓冲区与时延上界。后续研究需要回答：
- 哪些 AI 需求会反向定义 MCU 和端侧芯片规格；
- 哪些片上资源是决定性瓶颈；
- 开发套件如何把这些约束显式化。
4. 评价重点
MCU 路线重点观察：
- 关键保障负载能否稳定维持；
- 小模型能否在固定资源预算中运行；
- 工具链是否能给出可分析、可复现的部署边界；
- 功耗、体积和散热预算是否同时满足。
5. 与框架2的关系
MCU 路线主要对应 T5 控制端，也是框架2中最能体现“小型化、低功耗、工具链协同”特征的部分。它为整个基础系统课题提供了一个约束极强、边界清晰的验证窗口。
6. 当前结论
MCU 路线的主问题不是“大模型如何跑进去”，而是人工智能能力如何在极端受限条件下，被静态、可分析地纳入实时控制系统。