forked from eaiadmin/rtos_llm_opt
78 lines
3.9 KiB
Markdown
78 lines
3.9 KiB
Markdown
# 研究问题与适用场景
|
|
|
|
## 1. 总体问题
|
|
|
|
本子课题不研究“MCU能运行多大的模型”，而研究：
|
|
|
|
> 在控制任务优先、资源预算刚性和AI结果不完全可信的条件下，基础系统如何给智能任务建立可分析的资源边界、时间边界和安全边界。
|
|
|
|
## 2. 核心研究问题
|
|
|
|
| 编号 | 研究问题 | 主要证据 |
|
|
|---|---|---|
|
|
| RQ1 | 控制任务与模型如何离线联合编排 | 可调度性、控制截止期、固定推理窗口 |
|
|
| RQ2 | 静态内存规划能否降低峰值和碎片风险 | 峰值内存、长期稳定性、部署成功率 |
|
|
| RQ3 | 部署前预测能否接近目标板实测 | 时间、内存、功耗预测误差 |
|
|
| RQ4 | 规则兜底能否限制AI故障传播 | 降级时间、控制保持率、恢复时间 |
|
|
| RQ5 | 同一工具描述能否跨设备迁移 | RK3588、RK3568/3576、真正MCU之间的迁移代价 |
|
|
|
|
## 3. 推荐主场景
|
|
|
|
### 3.1 电机或泵类设备状态识别
|
|
|
|
- 关键控制：1 ms级采样、控制计算和执行输出；
|
|
- AI功能：振动、电流或温度窗口的异常分类；
|
|
- AI周期：50～100 ms或事件触发；
|
|
- 模型：INT8 1D CNN、小型MLP或决策树；
|
|
- 兜底：AI超时或结果越界时继续规则控制并上报告警。
|
|
|
|
这个场景适合首个实验，因为控制链路、AI链路和故障处理边界都清晰，且不要求AI直接进入硬实时内环。
|
|
|
|
### 3.2 工业节点状态分类
|
|
|
|
持续运行传感器采集与现场总线通信，AI负责工况分类、故障预警或参数建议，规则层负责范围校验和安全动作。该场景可以验证 CAN、RS485、GPIO、DMA 与推理之间的干扰。
|
|
|
|
### 3.3 关键词或声学事件识别
|
|
|
|
模型和输入窗口固定，适合验证算子分段、静态Arena和低占空比推理，但不建议把语音输出直接接入关键执行链路。
|
|
|
|
### 3.4 轻量视觉检测或分类
|
|
|
|
适合 RK3588/RK3568 方法原型，可研究摄像头DMA、内存带宽和NPU中断对控制任务的影响，但不宜作为真正 MCU 阶段的唯一场景。
|
|
|
|
## 4. 不同设备上的场景分工
|
|
|
|
| 平台 | 优先场景 | 研究重点 |
|
|
|---|---|---|
|
|
| 4×V100 | 模型训练、量化校准、参考精度 | 不进行MCU实时性结论 |
|
|
| RK3588 16 GB | 电机状态、轻量视觉、控制与推理共存 | SylixOS集成、工具链闭环、干扰注入 |
|
|
| RK3588 8 GB限额 | 同一工作负载的预算收缩 | 准入机制能否正确降级或拒绝 |
|
|
| RK3568/RK3576 | 电机状态、关键词、工业节点 | 更小资源、低功耗、跨BSP迁移 |
|
|
| 真正MCU | 1D CNN、MLP、关键词、状态分类 | SRAM/Flash极限、快速启动、E/inference |
|
|
|
|
## 5. 负载结构
|
|
|
|
所有场景统一拆成三类任务：
|
|
|
|
1. **关键保障负载**：周期控制、采样、执行输出、联锁；
|
|
2. **人工智能目标负载**：分类、检测、异常识别或参数建议；
|
|
3. **伴生竞争负载**：日志、通信、存储、模型加载和后台诊断。
|
|
|
|
AI任务必须满足：不阻塞控制内环、使用有界队列、输入过期可丢弃、结果经过规则检查、超时结果不再生效、故障时控制系统能够独立运行。
|
|
|
|
## 6. 研究假设
|
|
|
|
- H1：静态联合编排比普通后台部署更能维持控制任务的尾延迟和截止期；
|
|
- H2：静态Arena与生命周期复用比动态堆具有更低、更稳定的峰值内存；
|
|
- H3：基于目标板算子数据库的预测能够给出具有工程安全系数的执行上界；
|
|
- H4：有界队列、超时和规则兜底能够把AI过载转化为可解释的拒绝或降级；
|
|
- H5：统一描述格式能够降低从RK3588迁移到更小控制端的适配成本。
|
|
|
|
## 7. 首期排除项
|
|
|
|
- AI直接闭合1 ms硬实时控制环；
|
|
- 动态Agent、多轮生成和开放式工具调用；
|
|
- 无法固定输入、模型版本或任务质量标准的应用；
|
|
- 无法获得BSP、驱动或时间戳的黑盒设备；
|
|
- 仅通过降低任务完成率来获得更好实时性或能耗结果。
|