forked from eaiadmin/rtos_llm_opt
eaiadmin
f18f9f2fd3
Align the repository with the new collaboration workflow by separating meeting records from project framework materials, so discussion outputs and formal research assets can evolve independently.
2.3 KiB
2.3 KiB
MCU路线：静态分配与工具链协同
1. 主题定位
MCU 路线并不是“把大模型缩小以后放进 MCU”这么简单。在框架2中，MCU 路线代表的是另一类完全不同的问题结构：资源极端受限、动态空间极小、工具链和静态编排比在线调度策略更重要。
2. MCU 路线的系统特征
这一路线通常具有以下特点：
- 可用内存极小；
- 时钟和算力预算刚性；
- 外设和控制链路优先级极高；
- 更适合小模型、小算子和静态工作流；
- 更依赖芯片 SDK、代码生成工具和开发套件。
因此，MCU 路线更接近“静态可分析系统中的 AI 能力纳入问题”。
3. 核心研究问题
3.1 小模型如何进入静态编排体系
MCU 路线重点不是追求通用大模型能力，而是研究：
- 哪些轻量模型可以被稳定纳入控制系统；
- 小模型、小算子与控制任务如何离线编排；
- 预分配、静态内存池和固定执行窗口如何设计。
3.2 工具链为什么比单点机制更重要
在 MCU 路线上，真正决定工程落地效率的常常不是调度策略，而是：
- 模型裁剪与转换工具；
- 自动代码生成能力；
- 内存预算与部署检查工具；
- 芯片级软件开发套件。
因此，MCU 路线天然更强调“工具链能力”。
3.3 芯片协同如何进入研究主线
对于 MCU 场景，芯片规格本身就会限制可用模型、缓冲区与时延上界。后续研究需要回答：
- 哪些 AI 需求会反向定义 MCU 和端侧芯片规格；
- 哪些片上资源是决定性瓶颈；
- 开发套件如何把这些约束显式化。
4. 评价重点
MCU 路线重点观察：
- 关键保障负载能否稳定维持；
- 小模型能否在固定资源预算中运行；
- 工具链是否能给出可分析、可复现的部署边界；
- 功耗、体积和散热预算是否同时满足。
5. 与框架2的关系
MCU 路线主要对应 T5 控制端，也是框架2中最能体现“小型化、低功耗、工具链协同”特征的部分。它为整个基础系统课题提供了一个约束极强、边界清晰的验证窗口。
6. 当前结论
MCU 路线的主问题不是“大模型如何跑进去”，而是人工智能能力如何在极端受限条件下，被静态、可分析地纳入实时控制系统。