forked from eaiadmin/rtos_llm_opt
reorganize repository into framework-based structure
This commit is contained in:
@@ -1,33 +0,0 @@
|
|||||||
# 研究框架索引
|
|
||||||
|
|
||||||
本目录放置项目的核心研究框架文档,说明研究对象、研究结构与具体优化切入方向。
|
|
||||||
|
|
||||||
## 阅读建议
|
|
||||||
|
|
||||||
1. `00-整体研究框架.md`
|
|
||||||
2. `01-推理图任务调度.md`
|
|
||||||
3. `02-KV-Cache与内存管理.md`
|
|
||||||
4. `03-加速器协同调度.md`
|
|
||||||
5. `04-量化精度感知调度.md`
|
|
||||||
6. `05-中断与实时性保障.md`
|
|
||||||
7. `06-能耗与热管理.md`
|
|
||||||
8. `07-方法论与评估工具链.md`
|
|
||||||
|
|
||||||
## 文件说明
|
|
||||||
|
|
||||||
- `00-整体研究框架.md`
|
|
||||||
- 研究总框架、问题空间、技术分层、预期成果
|
|
||||||
- `01-推理图任务调度.md`
|
|
||||||
- LLM 推理 DAG 拆解、任务映射与调度策略
|
|
||||||
- `02-KV-Cache与内存管理.md`
|
|
||||||
- KV Cache 生命周期、内存池、带宽竞争与局部性
|
|
||||||
- `03-加速器协同调度.md`
|
|
||||||
- CPU、NPU、GPU、DMA 等异构资源协同
|
|
||||||
- `04-量化精度感知调度.md`
|
|
||||||
- 精度、资源占用和调度决策的联动关系
|
|
||||||
- `05-中断与实时性保障.md`
|
|
||||||
- IRQ 路径、线程化、中断隔离与实时任务保护
|
|
||||||
- `06-能耗与热管理.md`
|
|
||||||
- 能耗约束、温度耦合、频率策略与热稳定性
|
|
||||||
- `07-方法论与评估工具链.md`
|
|
||||||
- 建模、仿真、原型验证和评估方法学
|
|
||||||
@@ -0,0 +1,57 @@
|
|||||||
|
# 研究框架索引
|
||||||
|
|
||||||
|
本目录放置项目的核心研究框架文档,分为两部分:
|
||||||
|
|
||||||
|
1. **主干机制文档**:作为公共研究材料,沉淀已经形成的主线表达、机制拆解与方法论;
|
||||||
|
2. **候选课题框架目录**:并行维护 3 套可讨论、可修改、可优选的课题框架方案。
|
||||||
|
|
||||||
|
## 阅读建议
|
||||||
|
|
||||||
|
### 1. 主干机制文档
|
||||||
|
|
||||||
|
1. `00-整体研究框架.md`
|
||||||
|
2. `01-推理图任务调度.md`
|
||||||
|
3. `02-KV-Cache与内存管理.md`
|
||||||
|
4. `03-加速器协同调度.md`
|
||||||
|
5. `04-量化精度感知调度.md`
|
||||||
|
6. `05-中断与实时性保障.md`
|
||||||
|
7. `06-能耗与热管理.md`
|
||||||
|
8. `07-方法论与评估工具链.md`
|
||||||
|
|
||||||
|
### 2. 候选课题框架目录
|
||||||
|
|
||||||
|
1. `方案A-RTOS平台主导框架/00-课题框架.md`
|
||||||
|
2. `方案B-系统协同保障框架/00-课题框架.md`
|
||||||
|
3. `方案C-小型化与低功耗应用框架/00-课题框架.md`
|
||||||
|
|
||||||
|
## 文件说明
|
||||||
|
|
||||||
|
- `00-整体研究框架.md`
|
||||||
|
- 研究总框架、问题空间、技术分层、预期成果
|
||||||
|
- `01-推理图任务调度.md`
|
||||||
|
- LLM 推理 DAG 拆解、任务映射与调度策略
|
||||||
|
- `02-KV-Cache与内存管理.md`
|
||||||
|
- KV Cache 生命周期、内存池、带宽竞争与局部性
|
||||||
|
- `03-加速器协同调度.md`
|
||||||
|
- CPU、NPU、GPU、DMA 等异构资源协同
|
||||||
|
- `04-量化精度感知调度.md`
|
||||||
|
- 精度、资源占用和调度决策的联动关系
|
||||||
|
- `05-中断与实时性保障.md`
|
||||||
|
- IRQ 路径、线程化、中断隔离与实时任务保护
|
||||||
|
- `06-能耗与热管理.md`
|
||||||
|
- 能耗约束、温度耦合、频率策略与热稳定性
|
||||||
|
- `07-方法论与评估工具链.md`
|
||||||
|
- 建模、仿真、原型验证和评估方法学
|
||||||
|
|
||||||
|
## 候选框架说明
|
||||||
|
|
||||||
|
- `方案A-RTOS平台主导框架`
|
||||||
|
- 保持“大型跨平台 RTOS”作为研究主语,适合继续沿现有主线推进
|
||||||
|
- `方案B-系统协同保障框架`
|
||||||
|
- 强调 RTOS、运行时、模型与加速器协同治理,适合承接系统级方法学讨论
|
||||||
|
- `方案C-小型化与低功耗应用框架`
|
||||||
|
- 强调 `T5/T4` 受限系统与低功耗应用场景,适合形成更聚焦的专题路线
|
||||||
|
|
||||||
|
## 使用方式
|
||||||
|
|
||||||
|
后续讨论、修改和优选时,可以优先在这 3 个候选目录中推进,不必立即改动主干机制文档。待最终课题框架确定后,再把优选结果回收进 `00-整体研究框架.md` 及相关主干文件。
|
||||||
Binary file not shown.
Reference in New Issue
Block a user