forked from eaiadmin/rtos_llm_opt
179 lines
8.3 KiB
Markdown
179 lines
8.3 KiB
Markdown
# 大型跨平台实时操作系统支撑任务关键系统中人工智能目标负载的研究逻辑说明
|
||
|
||
## 1. 文档目的
|
||
|
||
本文用于解释本目录中的研究逻辑结构，并说明：
|
||
|
||
- [02-基础设备与算力基础.md](./02-基础设备与算力基础.md) 如何承载完整的 `T5~T1` 五类部署形态与 `11` 个代表档位；
|
||
- [03-实验设计.md](./03-实验设计.md) 如何把这些硬件条件组织成可复现的对照实验；
|
||
- [04-论文写作规划.md](./04-论文写作规划.md) 如何把证据组织成一篇系统化论文。
|
||
|
||
三份文档承担的职责如下：
|
||
|
||
| 文档 | 回答的问题 | 在研究中的作用 |
|
||
|---|---|---|
|
||
| [02-基础设备与算力基础.md](./02-基础设备与算力基础.md) | 在哪些部署形态与硬件条件下验证？ | 定义 `T5~T1` 五类部署形态、五种算力基础与十一档实验矩阵 |
|
||
| [03-实验设计.md](./03-实验设计.md) | 如何产生可信、可复现、可比较的证据？ | 定义准入、对照、负载、指标、统计与验收方法 |
|
||
| [04-论文写作规划.md](./04-论文写作规划.md) | 如何把这些证据组织成论文贡献？ | 把研究问题、方法、结果和边界映射成论文结构 |
|
||
|
||
整个研究的主线是：
|
||
|
||
> **研究对象定义清楚 → 验证矩阵完整展开 → 公平对照与双目标实验 → 数据可复现 → 跨档位规律与边界 → 论文贡献。**
|
||
|
||
## 2. 研究对象
|
||
|
||
这个项目的研究对象是：
|
||
|
||
> **大型跨平台实时操作系统支撑任务关键系统中人工智能目标负载的实时保障机制。**
|
||
|
||
本目录后续所有实验和文档都围绕下面这条主线展开：
|
||
|
||
- **研究对象**：大型跨平台实时操作系统这一类平台；
|
||
- **主实验样例**：SylixOS；
|
||
- **外部参照样本**：QNX、VxWorks、INTEGRITY、LynxOS-178；
|
||
- **系统场景**：任务关键系统；
|
||
- **目标负载**：人工智能目标负载；
|
||
- **对照对象**：普通 Linux、PREEMPT_RT Linux 与 SylixOS；
|
||
- **硬件角色**：验证矩阵。
|
||
|
||
在这条主线之下，项目同步设置一个**面向小型化与低功耗方向的应用副课题**。这一副课题主要锚定 `T5/T4`，用于集中组织小型化设备、设备端 SoC 与轻量智能终端中的证据，不单独改变研究对象，也不替代六个机制方向。
|
||
|
||
## 3. T5~T1 五类部署形态与 11 个代表档位
|
||
|
||
硬件细度是本仓库的重要资产。`T5~T1` 与 `11` 个代表档位共同承担三项作用：
|
||
|
||
1. **验证矩阵**：在不同资源条件下检验同一系统问题是否成立；
|
||
2. **证据组织框架**：把结果放到统一谱系中观察规律与边界；
|
||
3. **产业可解释性**：让不同部署形态都能找到对应的现实位置。
|
||
|
||
对应关系如下：
|
||
|
||
| 部署形态 | 主要系统角色 | 主要验证重点 |
|
||
|---|---|---|
|
||
| `T5` 控制端 | 极紧资源预算下的任务关键控制节点 | 强实时、极小内存、低功耗边界 |
|
||
| `T4` 设备端 SoC | 设备本体内的统一内存异构平台 | CPU/NPU/GPU 共享资源与带宽隔离 |
|
||
| `T3` 边缘节点 | 设备附近的近源推理节点 | 多任务并发、热稳定性、边缘协同 |
|
||
| `T2` 桌面 / 工作站单机 | 单机高密本地推理平台 | 单机多卡调度、NVLink/PCIe 拓扑、公平性 |
|
||
| `T1` 服务器 / 集群 | 多节点大模型服务平台 | 跨节点通信、分布式调度、规模扩展 |
|
||
|
||
`T3`、`T2` 分别对应近源边缘节点与单机高密本地推理平台。
|
||
`T5~T1` 作为**部署形态与运行环境代码**，用于组织跨场景验证矩阵。
|
||
|
||
其中，`T5/T4` 还承担面向小型化与低功耗方向应用副课题的主要验证窗口。这里的重点不是把低功耗设备本身当作研究对象，而是借助更严格的功耗、散热、体积与统一内存预算，观察 RTOS 机制边界在真实受限条件下的成立区间。
|
||
|
||
## 4. 人工智能目标负载与系统负载结构
|
||
|
||
在任务关键系统里，负载应至少分成三类：
|
||
|
||
| 负载类型 | 定义 | 例子 |
|
||
|---|---|---|
|
||
| 人工智能目标负载 | 系统需要完成的智能功能本身 | LLM 推理、视觉检测、语义识别、故障诊断 |
|
||
| 关键保障负载 | 维持系统安全与执行闭环的关键任务 | 1 ms 周期控制、联锁、状态采集、执行输出 |
|
||
| 伴生竞争负载 | 会争抢资源但不属于主功能的任务 | 日志、更新、后台通信、模型加载、I/O |
|
||
|
||
本项目重点评估的是：
|
||
|
||
> **RTOS 协调人工智能目标负载与关键保障负载时，对系统边界的维持能力与成立条件。**
|
||
|
||
这一步会直接影响实验设计、论文结构和评价指标。
|
||
|
||
## 5. 准入与对照的实验顺序
|
||
|
||
本项目采用分阶段准入机制：
|
||
|
||
| 门槛 | 核心检查内容 |
|
||
|---|---|
|
||
| `G0` 设备准入 | 启动、SMP、容量、接口、拓扑 |
|
||
| `G1` 测量准入 | 单调时钟、日志、外部测量链路、功率计 |
|
||
| `G2` 加速器准入 | CUDA / RKLLM / RKNN / 驱动 / 最小算子 |
|
||
| `G3` 模型准入 | 模型转换、加载、正确推理与峰值内存 |
|
||
| `G4` 混合场景准入 | 人工智能目标负载与关键保障负载稳定共存至少 30 分钟 |
|
||
|
||
只有通过 `G4` 的平台与配置，才能进入正式对照。
|
||
|
||
## 6. O0~O4 对照组结构
|
||
|
||
主对照统一采用：
|
||
|
||
| 编号 | 配置 | 作用 |
|
||
|---|---|---|
|
||
| `O0` | 普通 Linux | 通用系统基线 |
|
||
| `O1` | PREEMPT_RT Linux | 实时增强型通用系统基线 |
|
||
| `O2` | SylixOS 默认配置 | RTOS 原生基线 |
|
||
| `O3` | SylixOS 优化配置 | 主实验组 |
|
||
|
||
必要时增加 `O4` 作为 PREEMPT_RT Linux 的等预算调优组，并继续保持“普通 Linux”和“实时增强 Linux”的对照边界。
|
||
|
||
## 7. 实验逻辑如何展开
|
||
|
||
实验逻辑遵循从简单到复杂、从单目标到双目标的顺序：
|
||
|
||
1. 先确认平台、模型与测量链路可用；
|
||
2. 再测仅人工智能目标负载的基线表现；
|
||
3. 再测仅关键保障负载的下界行为；
|
||
4. 再测两者并存的核心场景；
|
||
5. 最后引入伴生竞争负载、突发场景、长稳运行与恢复测试。
|
||
|
||
这条顺序用于区分平台就绪性问题与系统机制边界问题。
|
||
|
||
对于面向小型化与低功耗方向的应用副课题，实验推进时优先选择 `T5-H`、`T4-L` 及后续 `T5-L/T5-M` 作为主验证窗口，再把结论回收到总课题的统一对照框架中。
|
||
|
||
## 8. 哪些指标构成核心证据
|
||
|
||
后续证据链必须覆盖三层：
|
||
|
||
### 8.1 人工智能目标负载层
|
||
|
||
- `TTFT`
|
||
- `TPOT`
|
||
- 端到端响应时间
|
||
- 成功率、任务质量、输出可用性
|
||
- 长时间运行稳定性
|
||
|
||
### 8.2 关键保障负载层
|
||
|
||
- `deadline miss ratio`
|
||
- `P99/P99.9 jitter`
|
||
- 观测最大响应时间
|
||
- 外部接口响应时间
|
||
|
||
### 8.3 系统协同层
|
||
|
||
- 有效吞吐
|
||
- `E/token`
|
||
- 温度、降频和热漂移
|
||
- 多任务公平性
|
||
- 恢复能力与 24 h 长稳表现
|
||
|
||
项目最终形成的核心判断是：
|
||
|
||
> **在双目标约束下，RTOS 对系统稳定性、可预测性与可保障性的提升边界。**
|
||
|
||
## 9. 数据如何转化为论文贡献
|
||
|
||
论文贡献排序如下：
|
||
|
||
| 贡献 | 所需证据 | 对应论文位置 |
|
||
|---|---|---|
|
||
| `C1` RTOS 对人工智能目标负载与关键保障负载的实时保障优势 | 双目标达标、尾部行为、有效吞吐与恢复结果 | 第1、4、5、7、8章 |
|
||
| `C2` T5~T1 五类部署形态与 11 个代表档位的统一验证矩阵 | 跨档位容量、功耗、拓扑与边界分析 | 第3、7、8章 |
|
||
| `C3` 可复现的方法论与基准对齐 | 准入、元数据、第三方基准复现、消融与统计口径 | 第5、7、9章 |
|
||
|
||
在这套结构下，硬件细度得到完整呈现，并服务于研究对象与实验结论组织。
|
||
|
||
面向小型化与低功耗方向的应用副课题不单列为新的核心贡献项，而是作为 `C1` 与 `C2` 在 `T5/T4` 场景中的集中展开位置，用于加强项目在小型化设备与受限部署环境中的解释力。
|
||
|
||
## 10. 最终闭环
|
||
|
||
本研究形成的核心结论关系是：
|
||
|
||
> **随着系统从 T5 控制端扩展到 T1 服务器 / 集群，大型跨平台实时操作系统这一类平台在多大范围内能够同时保证人工智能目标负载与关键保障负载，其优势来自哪些机制，又会在哪些档位开始收窄。SylixOS 是本项目的主实验样例。**
|
||
|
||
在这条关系得到数据验证后，整个仓库会形成一条稳定主线：
|
||
|
||
- 研究对象清楚；
|
||
- 验证矩阵完整；
|
||
- 对照关系公平；
|
||
- 评价框架统一；
|
||
- 论文叙事和产业叙事都能站住。
|