forked from eaiadmin/rtos_llm_opt
update low-power subtopic and evidence framing
This commit is contained in:
+41
-7
@@ -14,6 +14,8 @@
|
||||
|
||||
本研究评估的是:RTOS 在智能负载进入任务关键系统后,对系统秩序、时序边界与资源边界的维持能力。
|
||||
|
||||
在这条主线之下,项目另设一个**面向小型化与低功耗方向的应用副课题**。这一副课题不改变“大型跨平台实时操作系统”作为研究对象的定位,主要用于在 `T5/T4` 两类部署形态中集中观察:当系统同时受到功耗、体积、散热与内存预算约束时,RTOS 对人工智能目标负载与关键保障负载双目标达标能力的支撑边界。
|
||||
|
||||
---
|
||||
|
||||
## 1. 问题空间:五类部署形态、五种算力基础与三类系统负载
|
||||
@@ -28,10 +30,12 @@
|
||||
| T4 设备端 SoC | 设备本体内的统一内存异构平台 | 工业 SoC、车规 SoC、端侧 AI 模组 | CPU/NPU/GPU 共享资源与带宽隔离 |
|
||||
| T3 边缘节点 | 设备附近的就地计算节点 | 边缘盒子、边缘工控机、Jetson/IGX 节点 | 近源推理、多任务并发、热与供电约束 |
|
||||
| T2 桌面 / 工作站单机 | 单机高密度本地推理与研发验证平台 | RTX 工作站、多 GPU 单机、实验室服务器 | 单机多卡调度、互联拓扑与公平性 |
|
||||
| T1 服务器 / 集群 | 多节点大模型服务与分布式协同平台 | x86/ARM 服务器、多 GPU、多节点集群 | 跨节点通信、分布式调度与规模扩展 |
|
||||
| T1 服务器 / 集群 | 面向任务关键场景的分布式协同计算平台 | x86/ARM 服务器、多 GPU、多节点集群 | 跨节点通信、分布式协同与规模扩展 |
|
||||
|
||||
这五类部署形态首先依据**部署位置与系统角色**划分,其次才是容量和功耗。
|
||||
|
||||
其中,`T1` 不表示通用训练机房或公网高吞吐推理集群,而是任务关键系统中的机架式协同计算平台。它承担的是全局状态管控、多源信息融合推理和跨节点决策协同等任务。
|
||||
|
||||
### 1.2 五种算力基础
|
||||
|
||||
| 算力基础 | 资源形态 | 代表平台 | 对 RTOS 的主要挑战 |
|
||||
@@ -77,7 +81,7 @@
|
||||
│ 调度器、中断管理、同步机制、时钟、内存、隔离与恢复机制 │
|
||||
├───────────────────────────────────────────────────────────────┤
|
||||
│ L1 硬件与互联层 │
|
||||
│ SoC、加速器、统一内存、显存、缓存、总线、NVLink、网络互联 │
|
||||
│ SoC、加速器、统一内存、显存、缓存、总线、NVLink、网络互联、PTP │
|
||||
└───────────────────────────────────────────────────────────────┘
|
||||
```
|
||||
|
||||
@@ -113,6 +117,11 @@ FFN / 设备计算 → 可流水化计算任务
|
||||
- 哪些资源需要隔离;
|
||||
- 哪些竞争会直接破坏关键保障负载。
|
||||
|
||||
这里还要明确区分两类执行单元:
|
||||
|
||||
- CPU 侧软件任务、系统调用、中断处理和资源治理逻辑,处于 RTOS 可调度与可分析范围;
|
||||
- GPU/NPU 等加速器内部算子流水线、显存调度和设备微架构执行行为,由驱动与硬件管理,不属于 RTOS 内核直接控制域。
|
||||
|
||||
---
|
||||
|
||||
## 3. 研究主线:实时保障机制
|
||||
@@ -134,7 +143,28 @@ FFN / 设备计算 → 可流水化计算任务
|
||||
|
||||
> **RTOS 能否在多类目标负载并存时,让系统继续有边界。**
|
||||
|
||||
### 3.1 研究方法总述
|
||||
### 3.1 面向小型化与低功耗方向的应用副课题
|
||||
|
||||
在六个机制方向之外,项目设置一条面向应用落点的专题线:
|
||||
|
||||
> **面向小型化与低功耗方向的应用副课题。**
|
||||
|
||||
这条副课题主要聚焦 `T5` 控制端与 `T4` 设备端 SoC 两类部署形态,重点关注下面四类约束同时成立时的系统表现:
|
||||
|
||||
1. **功耗预算刚性**:整机输入功率、空闲功耗与单位任务能耗需要被明确约束;
|
||||
2. **体积与散热受限**:被动散热、轻量散热或设备本体内封装条件下的持续运行能力;
|
||||
3. **内存与带宽预算有限**:统一内存、片上 NPU/GPU 与 CPU 共享资源时的竞争边界;
|
||||
4. **关键保障任务不可退让**:控制回路、联锁与外部接口时序边界必须持续满足。
|
||||
|
||||
这条副课题不与“推理图任务调度、KV Cache 与内存管理、加速器协同调度、量化与精度感知调度、中断与实时性保障、能耗与热管理”六个机制方向并列。它的作用是把这些机制组织成一个更聚焦的应用观察窗口,用于回答:
|
||||
|
||||
- 小型化与低功耗系统是否仍能承载人工智能目标负载;
|
||||
- RTOS 在严格功耗与散热预算下如何维持关键保障负载边界;
|
||||
- 哪些机制组合最能体现 RTOS 相对普通 Linux 与 PREEMPT_RT Linux 的差异。
|
||||
|
||||
因此,这一副课题承担的是“应用聚焦与证据收束”的角色,而不是新的并列机制方向。
|
||||
|
||||
### 3.2 研究方法总述
|
||||
|
||||
为了回答这个问题,研究方法采用一条统一证据链:
|
||||
|
||||
@@ -147,6 +177,8 @@ FFN / 设备计算 → 可流水化计算任务
|
||||
|
||||
因此,本研究最终给出的是一套可复现、可比较、可解释的系统级证据链。
|
||||
|
||||
这套统一框架统一的是研究对象定义、负载建模、评估指标与对照方法,不预设同一套机制会在所有档位取得同等收益。研究结论将以有效区间、失效边界和贡献来源的形式展开。
|
||||
|
||||
---
|
||||
|
||||
## 4. 评价框架:双目标达标 + 系统协同稳定
|
||||
@@ -239,10 +271,12 @@ FFN / 设备计算 → 可流水化计算任务
|
||||
## 8. 预期研究成果
|
||||
|
||||
1. **理论层**:任务关键系统中人工智能目标负载的实时保障问题定义与评价框架;
|
||||
2. **机制层**:围绕调度、隔离、内存、中断、能耗的 SylixOS 实时保障机制;
|
||||
3. **方法层**:覆盖 `T5~T1` 五类部署形态的统一实验方法学;
|
||||
4. **数据层**:普通 Linux、PREEMPT_RT 与 SylixOS 的跨档位实测对照数据;
|
||||
5. **论文层**:面向 RTSS、RTAS、EMSOFT、ISLPED 等方向的系统化论文与报告。
|
||||
2. **分析层**:面向人工智能目标负载与关键保障负载共存场景的可调度性建模、响应时间分析与边界推演方法;
|
||||
3. **机制层**:围绕调度、隔离、内存、中断、能耗的 SylixOS 实时保障机制;
|
||||
4. **方法层**:覆盖 `T5~T1` 五类部署形态的统一实验方法学;
|
||||
5. **数据层**:普通 Linux、PREEMPT_RT 与 SylixOS 的跨档位对照数据与边界证据;
|
||||
6. **应用层**:面向小型化与低功耗系统的专题化验证结论、边界解释与应用归纳;
|
||||
7. **论文层**:面向 RTSS、RTAS、EMSOFT、ISLPED 等方向的系统化论文与报告。
|
||||
|
||||
---
|
||||
|
||||
|
||||
+18
-2
@@ -59,6 +59,15 @@
|
||||
硬件承担关键验证矩阵角色。
|
||||
`T5~T1` 五类部署形态和 `11` 个代表档位用于验证系统机制在不同资源条件下的成立范围与边界。
|
||||
|
||||
这套验证矩阵统一的是建模、测量与对照方法,不预设同一套 RTOS 机制会在所有档位取得相同收益。研究重点是识别不同部署层级下机制有效的条件、收益来源与失效边界。
|
||||
|
||||
对于 `T2/T1` 这类搭载独立 GPU 或复杂互联的层级,还需要单独区分两类证据:
|
||||
|
||||
- CPU 侧实时调度、中断隔离、内存预算、关键保障负载保护等系统级证据;
|
||||
- 加速器执行、跨卡通信、驱动与运行时行为带来的平台级边界证据。
|
||||
|
||||
前者属于 RTOS 直接可分析范围,后者作为系统约束和外部边界进入解释框架。
|
||||
|
||||
## 3. 负载建模:三类负载
|
||||
|
||||
### 3.1 三类负载定义
|
||||
@@ -137,6 +146,8 @@
|
||||
|
||||
任何准入失败都要作为研究记录保留。
|
||||
|
||||
对于 `T2/T1` 扩展层级,如果商业 GPU 驱动生态或平台条件限制了 RTOS 原生实测,需将该层级明确标注为建模分析、条件验证或基线对照证据,不把未完成的 RTOS 原生实测写成正式结果。
|
||||
|
||||
## 6. 对照原则
|
||||
|
||||
### 6.1 固定不变项
|
||||
@@ -146,6 +157,7 @@
|
||||
- 模型版本、量化格式、tokenizer、输入长度与输出长度;
|
||||
- CPU 核数量、优先级、内存预算、加速器数量;
|
||||
- 到达流、随机种子、预热时间、采样窗口;
|
||||
- PTP 或等效时钟同步方式、时间戳对齐策略与测量链路;
|
||||
- 环境温度、散热、驱动与框架版本。
|
||||
|
||||
### 6.2 允许变化项
|
||||
@@ -161,7 +173,7 @@
|
||||
|
||||
## 7. 建模与分析方法
|
||||
|
||||
### 7.1 调度分析
|
||||
### 7.1 可调度性与响应时间分析
|
||||
|
||||
关键保障负载优先使用固定优先级与响应时间分析:
|
||||
|
||||
@@ -183,6 +195,8 @@ R_i^(k+1) = C_i + Σ_{j∈hp(i)} ⌈R_i^(k) / T_j⌉ × C_j
|
||||
- 可隔离的设备任务;
|
||||
- 必要时具有阶段性优先级的任务图。
|
||||
|
||||
当场景包含跨节点协同或外部总线闭环时,还需把时间同步误差、通信抖动和设备完成事件纳入分析参数。对于具备形式化边界的关键保障任务,应进一步结合 WCET 假设、到达模型与调度策略,形成可调度性判定条件。
|
||||
|
||||
### 7.2 容量与热稳定性分析
|
||||
|
||||
对人工智能目标负载,需要同时分析:
|
||||
@@ -217,6 +231,7 @@ R_i^(k+1) = C_i + Σ_{j∈hp(i)} ⌈R_i^(k) / T_j⌉ × C_j
|
||||
| 性能分析 | perf、设备 profiler、定制采样脚本 |
|
||||
| 功率与温度 | 外部功率计、PDU、板载传感器、温度记录 |
|
||||
| 外设测量 | 示波器、逻辑分析仪、CAN/RS485 分析仪 |
|
||||
| 时间同步 | PTP、硬件时间戳、同步误差校验脚本 |
|
||||
|
||||
下面给出统一测量矩阵,用于把指标、采样工具与观测目的对齐:
|
||||
|
||||
@@ -273,6 +288,7 @@ R_i^(k+1) = C_i + Σ_{j∈hp(i)} ⌈R_i^(k) / T_j⌉ × C_j
|
||||
|
||||
1. **怎么保证研究对象始终落在 RTOS 平台层;**
|
||||
2. **怎么把人工智能目标负载、关键保障负载和伴生竞争负载统一进同一评价框架;**
|
||||
3. **怎么在不降低硬件配置与指标颗粒度的前提下,得到可复现、可比较、可解释的证据。**
|
||||
3. **怎么在不降低硬件配置与指标颗粒度的前提下,得到可复现、可比较、可解释的证据;**
|
||||
4. **怎么用统一方法识别不同部署层级下 RTOS 机制的有效区间与失效边界。**
|
||||
|
||||
这也是后续 `02-基础设备与算力基础.md`、`03-实验设计.md` 和 `04-论文写作规划.md` 必须共同服从的方法论中轴。
|
||||
|
||||
Reference in New Issue
Block a user