forked from eaiadmin/rtos_llm_opt
849 B
849 B
研究问题与适用场景
1. 研究问题
本子课题重点回答四个问题:
- 小模型与关键控制任务如何静态编排;
- 工具链如何把模型部署、资源预算和代码生成联成闭环;
- 芯片规格、运行时约束和控制边界如何共同决定系统能力;
- 低功耗、小型化和极小内存预算下,系统成立边界在哪里。
2. 适用场景
典型场景包括:
- 控制器;
- 轻量控制盒;
- 小型工业控制节点;
- 电池供电或功耗严苛设备;
- 需要毫秒级或更紧周期控制的端侧场景。
3. 与总课题共享层的衔接
本子课题主要继承共享层中的:
RTOS 直接控制域推理运行域基础设备与算力基础中的T5部分
但会弱化 系统协同域 中面向大 SoC 混合结构的部分。