diff --git a/10-研究框架/README.md b/10-研究框架/README.md deleted file mode 100644 index bd02bd9..0000000 --- a/10-研究框架/README.md +++ /dev/null @@ -1,36 +0,0 @@ -# 研究框架索引 - -本目录放置项目的核心研究框架文档,说明研究对象、研究结构与具体优化切入方向。 - -## 阅读建议 - -1. `00-整体研究框架.md` -2. `01-推理图任务调度.md` -3. `02-KV-Cache与内存管理.md` -4. `03-加速器协同调度.md` -5. `04-量化精度感知调度.md` -6. `05-中断与实时性保障.md` -7. `06-能耗与热管理.md` -8. `07-方法论与评估工具链.md` -9. `参考文件/README.md` - -## 文件说明 - -- `00-整体研究框架.md` - - 研究总框架、问题空间、技术分层、预期成果 -- `01-推理图任务调度.md` - - LLM 推理 DAG 拆解、任务映射与调度策略 -- `02-KV-Cache与内存管理.md` - - KV Cache 生命周期、内存池、带宽竞争与局部性 -- `03-加速器协同调度.md` - - CPU、NPU、GPU、DMA 等异构资源协同 -- `04-量化精度感知调度.md` - - 精度、资源占用和调度决策的联动关系 -- `05-中断与实时性保障.md` - - IRQ 路径、线程化、中断隔离与实时任务保护 -- `06-能耗与热管理.md` - - 能耗约束、温度耦合、频率策略与热稳定性 -- `07-方法论与评估工具链.md` - - 建模、仿真、原型验证和评估方法学 -- `参考文件/` - - 按七个研究方向整理的论文、标准、官方工程资料及其与本项目的证据映射 diff --git a/00-项目总览/01-当前研究问题:背景、问题与挑战.md b/项目框架1-基于RTOS的五类场景AI实时性研究/00-项目总览/01-当前研究问题:背景、问题与挑战.md similarity index 100% rename from 00-项目总览/01-当前研究问题:背景、问题与挑战.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/00-项目总览/01-当前研究问题:背景、问题与挑战.md diff --git a/00-项目总览/02-研究定位与项目边界.md b/项目框架1-基于RTOS的五类场景AI实时性研究/00-项目总览/02-研究定位与项目边界.md similarity index 75% rename from 00-项目总览/02-研究定位与项目边界.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/00-项目总览/02-研究定位与项目边界.md index 6196006..3053c8d 100644 --- a/00-项目总览/02-研究定位与项目边界.md +++ b/项目框架1-基于RTOS的五类场景AI实时性研究/00-项目总览/02-研究定位与项目边界.md @@ -56,6 +56,8 @@ - `T2` 桌面 / 工作站单机 - `T1` 服务器 / 集群 +其中,`T1` 在本项目中定义为**面向任务关键场景的分布式协同计算平台**,承载全局状态管控、多源信息融合推理和跨节点协同决策等任务;通用高吞吐训练集群或面向公网请求的通用推理机房不属于本项目场景范围。 + 这套验证矩阵支撑以下四类判断: - RTOS 优势在哪些部署形态下最明显; @@ -63,6 +65,8 @@ - 为维持实时保障需要付出多少吞吐和能耗代价; - 从什么资源规模开始,RTOS 相对非实时平台的优势开始收窄。 +这套验证矩阵提供的是统一的建模、评估与证据组织方法,不要求同一套机制在 `T5~T1` 全部取得同等收益;项目重点是识别不同资源约束、拓扑结构和负载强度下,RTOS 优势边界与失效边界的成立区间。 + ### 4. 建立“AI 目标负载 + 关键保障负载”双目标证据链 项目以可复现、可解释的证据链为核心输出,目标是形成能被论文、产品和产业沟通共同接受的系统性结论。 @@ -86,6 +90,8 @@ - 任务关键系统; - 人工智能目标负载。 +其中,`T5/T4/T3` 属于典型嵌入式装备节点;`T2/T1` 属于通用处理器硬件平台上运行的任务关键业务环境。项目讨论的是实时操作系统在这些平台上的系统作用,硬件本身不被定义为嵌入式系统。 + ### 2. 评价重点 项目评价围绕“双目标达标 + 系统协同稳定”展开,重点包括: @@ -105,6 +111,10 @@ 因此,项目重点落在系统机制、调度策略和资源治理能力上。 +对于搭载独立 GPU 或专用加速器的平台,RTOS 的主要管控范围是 CPU 侧任务调度、中断隔离、内存预算、关键保障负载时间保护和系统级恢复机制;GPU 内部算子调度、显存流水线与设备微架构行为由加速器硬件与驱动管理,不属于 RTOS 内核直接管控域。 + +因此,`T2/T1` 层级的研究重点不是单纯优化 GPU 吞吐,而是评估在人工智能目标负载并发存在时,CPU 侧关键保障负载与系统协同机制是否仍能维持实时边界。 + ### 4. 成果形态 项目成果需要形成完整的方法与证据体系,包括: @@ -115,12 +125,14 @@ - 跨部署形态可比较的规律; - 能被学术界和产业界共同理解的结论。 +在证据形态上,项目区分**核心实测证据**与**扩展层级证据**:核心档位以实机对照与长稳数据为主,扩展档位可结合建模分析、仿真、条件验证和外部参照结果,形成边界推演与跨层级比较。 + ## 这个项目最后要交付什么 项目最终交付物至少应包括: 1. 一套面向任务关键系统的 SylixOS 实时保障机制; -2. 一组覆盖 `T5~T1` 五类部署形态的实测数据和对照结果; +2. 一组覆盖 `T5~T1` 五类部署形态的验证证据与对照结果,其中核心档位以实测为主,扩展档位以建模、仿真和条件验证为补充; 3. 一套同时覆盖 AI 目标负载与关键保障负载的实验方法学; 4. 一篇能够清楚表达机制、证据、边界和规律的系统化论文或正式报告; 5. 一套可用于产业沟通和产品表达的技术叙事。 diff --git a/10-研究框架/00-整体研究框架.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/00-整体研究框架.md similarity index 78% rename from 10-研究框架/00-整体研究框架.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/00-整体研究框架.md index 653dadb..ef52935 100644 --- a/10-研究框架/00-整体研究框架.md +++ b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/00-整体研究框架.md @@ -14,6 +14,8 @@ 本研究评估的是:RTOS 在智能负载进入任务关键系统后,对系统秩序、时序边界与资源边界的维持能力。 +在这条主线之下,项目另设一个**面向小型化与低功耗方向的应用副课题**。这一副课题不改变“大型跨平台实时操作系统”作为研究对象的定位,主要用于在 `T5/T4` 两类部署形态中集中观察:当系统同时受到功耗、体积、散热与内存预算约束时,RTOS 对人工智能目标负载与关键保障负载双目标达标能力的支撑边界。 + --- ## 1. 问题空间:五类部署形态、五种算力基础与三类系统负载 @@ -28,10 +30,12 @@ | T4 设备端 SoC | 设备本体内的统一内存异构平台 | 工业 SoC、车规 SoC、端侧 AI 模组 | CPU/NPU/GPU 共享资源与带宽隔离 | | T3 边缘节点 | 设备附近的就地计算节点 | 边缘盒子、边缘工控机、Jetson/IGX 节点 | 近源推理、多任务并发、热与供电约束 | | T2 桌面 / 工作站单机 | 单机高密度本地推理与研发验证平台 | RTX 工作站、多 GPU 单机、实验室服务器 | 单机多卡调度、互联拓扑与公平性 | -| T1 服务器 / 集群 | 多节点大模型服务与分布式协同平台 | x86/ARM 服务器、多 GPU、多节点集群 | 跨节点通信、分布式调度与规模扩展 | +| T1 服务器 / 集群 | 面向任务关键场景的分布式协同计算平台 | x86/ARM 服务器、多 GPU、多节点集群 | 跨节点通信、分布式协同与规模扩展 | 这五类部署形态首先依据**部署位置与系统角色**划分,其次才是容量和功耗。 +其中,`T1` 不表示通用训练机房或公网高吞吐推理集群,而是任务关键系统中的机架式协同计算平台。它承担的是全局状态管控、多源信息融合推理和跨节点决策协同等任务。 + ### 1.2 五种算力基础 | 算力基础 | 资源形态 | 代表平台 | 对 RTOS 的主要挑战 | @@ -77,7 +81,7 @@ │ 调度器、中断管理、同步机制、时钟、内存、隔离与恢复机制 │ ├───────────────────────────────────────────────────────────────┤ │ L1 硬件与互联层 │ -│ SoC、加速器、统一内存、显存、缓存、总线、NVLink、网络互联 │ +│ SoC、加速器、统一内存、显存、缓存、总线、NVLink、网络互联、PTP │ └───────────────────────────────────────────────────────────────┘ ``` @@ -113,6 +117,11 @@ FFN / 设备计算 → 可流水化计算任务 - 哪些资源需要隔离; - 哪些竞争会直接破坏关键保障负载。 +这里还要明确区分两类执行单元: + +- CPU 侧软件任务、系统调用、中断处理和资源治理逻辑,处于 RTOS 可调度与可分析范围; +- GPU/NPU 等加速器内部算子流水线、显存调度和设备微架构执行行为,由驱动与硬件管理,不属于 RTOS 内核直接控制域。 + --- ## 3. 研究主线:实时保障机制 @@ -134,7 +143,28 @@ FFN / 设备计算 → 可流水化计算任务 > **RTOS 能否在多类目标负载并存时,让系统继续有边界。** -### 3.1 研究方法总述 +### 3.1 面向小型化与低功耗方向的应用副课题 + +在六个机制方向之外,项目设置一条面向应用落点的专题线: + +> **面向小型化与低功耗方向的应用副课题。** + +这条副课题主要聚焦 `T5` 控制端与 `T4` 设备端 SoC 两类部署形态,重点关注下面四类约束同时成立时的系统表现: + +1. **功耗预算刚性**:整机输入功率、空闲功耗与单位任务能耗需要被明确约束; +2. **体积与散热受限**:被动散热、轻量散热或设备本体内封装条件下的持续运行能力; +3. **内存与带宽预算有限**:统一内存、片上 NPU/GPU 与 CPU 共享资源时的竞争边界; +4. **关键保障任务不可退让**:控制回路、联锁与外部接口时序边界必须持续满足。 + +这条副课题不与“推理图任务调度、KV Cache 与内存管理、加速器协同调度、量化与精度感知调度、中断与实时性保障、能耗与热管理”六个机制方向并列。它的作用是把这些机制组织成一个更聚焦的应用观察窗口,用于回答: + +- 小型化与低功耗系统是否仍能承载人工智能目标负载; +- RTOS 在严格功耗与散热预算下如何维持关键保障负载边界; +- 哪些机制组合最能体现 RTOS 相对普通 Linux 与 PREEMPT_RT Linux 的差异。 + +因此,这一副课题承担的是“应用聚焦与证据收束”的角色,而不是新的并列机制方向。 + +### 3.2 研究方法总述 为了回答这个问题,研究方法采用一条统一证据链: @@ -147,6 +177,8 @@ FFN / 设备计算 → 可流水化计算任务 因此,本研究最终给出的是一套可复现、可比较、可解释的系统级证据链。 +这套统一框架统一的是研究对象定义、负载建模、评估指标与对照方法,不预设同一套机制会在所有档位取得同等收益。研究结论将以有效区间、失效边界和贡献来源的形式展开。 + --- ## 4. 评价框架:双目标达标 + 系统协同稳定 @@ -239,10 +271,12 @@ FFN / 设备计算 → 可流水化计算任务 ## 8. 预期研究成果 1. **理论层**:任务关键系统中人工智能目标负载的实时保障问题定义与评价框架; -2. **机制层**:围绕调度、隔离、内存、中断、能耗的 SylixOS 实时保障机制; -3. **方法层**:覆盖 `T5~T1` 五类部署形态的统一实验方法学; -4. **数据层**:普通 Linux、PREEMPT_RT 与 SylixOS 的跨档位实测对照数据; -5. **论文层**:面向 RTSS、RTAS、EMSOFT、ISLPED 等方向的系统化论文与报告。 +2. **分析层**:面向人工智能目标负载与关键保障负载共存场景的可调度性建模、响应时间分析与边界推演方法; +3. **机制层**:围绕调度、隔离、内存、中断、能耗的 SylixOS 实时保障机制; +4. **方法层**:覆盖 `T5~T1` 五类部署形态的统一实验方法学; +5. **数据层**:普通 Linux、PREEMPT_RT 与 SylixOS 的跨档位对照数据与边界证据; +6. **应用层**:面向小型化与低功耗系统的专题化验证结论、边界解释与应用归纳; +7. **论文层**:面向 RTSS、RTAS、EMSOFT、ISLPED 等方向的系统化论文与报告。 --- diff --git a/10-研究框架/01-推理图任务调度.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/01-推理图任务调度.md similarity index 100% rename from 10-研究框架/01-推理图任务调度.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/01-推理图任务调度.md diff --git a/10-研究框架/02-KV-Cache与内存管理.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/02-KV-Cache与内存管理.md similarity index 100% rename from 10-研究框架/02-KV-Cache与内存管理.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/02-KV-Cache与内存管理.md diff --git a/10-研究框架/03-加速器协同调度.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/03-加速器协同调度.md similarity index 100% rename from 10-研究框架/03-加速器协同调度.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/03-加速器协同调度.md diff --git a/10-研究框架/04-量化精度感知调度.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/04-量化精度感知调度.md similarity index 100% rename from 10-研究框架/04-量化精度感知调度.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/04-量化精度感知调度.md diff --git a/10-研究框架/05-中断与实时性保障.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/05-中断与实时性保障.md similarity index 100% rename from 10-研究框架/05-中断与实时性保障.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/05-中断与实时性保障.md diff --git a/10-研究框架/06-能耗与热管理.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/06-能耗与热管理.md similarity index 100% rename from 10-研究框架/06-能耗与热管理.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/06-能耗与热管理.md diff --git a/10-研究框架/07-方法论与评估工具链.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/07-方法论与评估工具链.md similarity index 88% rename from 10-研究框架/07-方法论与评估工具链.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/07-方法论与评估工具链.md index 81dd987..2cf3b49 100644 --- a/10-研究框架/07-方法论与评估工具链.md +++ b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/07-方法论与评估工具链.md @@ -59,6 +59,15 @@ 硬件承担关键验证矩阵角色。 `T5~T1` 五类部署形态和 `11` 个代表档位用于验证系统机制在不同资源条件下的成立范围与边界。 +这套验证矩阵统一的是建模、测量与对照方法,不预设同一套 RTOS 机制会在所有档位取得相同收益。研究重点是识别不同部署层级下机制有效的条件、收益来源与失效边界。 + +对于 `T2/T1` 这类搭载独立 GPU 或复杂互联的层级,还需要单独区分两类证据: + +- CPU 侧实时调度、中断隔离、内存预算、关键保障负载保护等系统级证据; +- 加速器执行、跨卡通信、驱动与运行时行为带来的平台级边界证据。 + +前者属于 RTOS 直接可分析范围,后者作为系统约束和外部边界进入解释框架。 + ## 3. 负载建模:三类负载 ### 3.1 三类负载定义 @@ -137,6 +146,8 @@ 任何准入失败都要作为研究记录保留。 +对于 `T2/T1` 扩展层级,如果商业 GPU 驱动生态或平台条件限制了 RTOS 原生实测,需将该层级明确标注为建模分析、条件验证或基线对照证据,不把未完成的 RTOS 原生实测写成正式结果。 + ## 6. 对照原则 ### 6.1 固定不变项 @@ -146,6 +157,7 @@ - 模型版本、量化格式、tokenizer、输入长度与输出长度; - CPU 核数量、优先级、内存预算、加速器数量; - 到达流、随机种子、预热时间、采样窗口; +- PTP 或等效时钟同步方式、时间戳对齐策略与测量链路; - 环境温度、散热、驱动与框架版本。 ### 6.2 允许变化项 @@ -161,7 +173,7 @@ ## 7. 建模与分析方法 -### 7.1 调度分析 +### 7.1 可调度性与响应时间分析 关键保障负载优先使用固定优先级与响应时间分析: @@ -183,6 +195,8 @@ R_i^(k+1) = C_i + Σ_{j∈hp(i)} ⌈R_i^(k) / T_j⌉ × C_j - 可隔离的设备任务; - 必要时具有阶段性优先级的任务图。 +当场景包含跨节点协同或外部总线闭环时,还需把时间同步误差、通信抖动和设备完成事件纳入分析参数。对于具备形式化边界的关键保障任务,应进一步结合 WCET 假设、到达模型与调度策略,形成可调度性判定条件。 + ### 7.2 容量与热稳定性分析 对人工智能目标负载,需要同时分析: @@ -217,6 +231,7 @@ R_i^(k+1) = C_i + Σ_{j∈hp(i)} ⌈R_i^(k) / T_j⌉ × C_j | 性能分析 | perf、设备 profiler、定制采样脚本 | | 功率与温度 | 外部功率计、PDU、板载传感器、温度记录 | | 外设测量 | 示波器、逻辑分析仪、CAN/RS485 分析仪 | +| 时间同步 | PTP、硬件时间戳、同步误差校验脚本 | 下面给出统一测量矩阵,用于把指标、采样工具与观测目的对齐: @@ -273,6 +288,7 @@ R_i^(k+1) = C_i + Σ_{j∈hp(i)} ⌈R_i^(k) / T_j⌉ × C_j 1. **怎么保证研究对象始终落在 RTOS 平台层;** 2. **怎么把人工智能目标负载、关键保障负载和伴生竞争负载统一进同一评价框架;** -3. **怎么在不降低硬件配置与指标颗粒度的前提下,得到可复现、可比较、可解释的证据。** +3. **怎么在不降低硬件配置与指标颗粒度的前提下,得到可复现、可比较、可解释的证据;** +4. **怎么用统一方法识别不同部署层级下 RTOS 机制的有效区间与失效边界。** 这也是后续 `02-基础设备与算力基础.md`、`03-实验设计.md` 和 `04-论文写作规划.md` 必须共同服从的方法论中轴。 diff --git a/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/README.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/README.md new file mode 100644 index 0000000..d096000 --- /dev/null +++ b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/README.md @@ -0,0 +1,60 @@ +# 研究框架索引 + +本目录放置项目的核心研究框架文档,分为两部分: + +1. **主干机制文档**:作为公共研究材料,沉淀已经形成的主线表达、机制拆解与方法论; +2. **候选课题框架目录**:并行维护 3 套可讨论、可修改、可优选的课题框架方案。 + +## 阅读建议 + +### 1. 主干机制文档 + +1. `00-整体研究框架.md` +2. `01-推理图任务调度.md` +3. `02-KV-Cache与内存管理.md` +4. `03-加速器协同调度.md` +5. `04-量化精度感知调度.md` +6. `05-中断与实时性保障.md` +7. `06-能耗与热管理.md` +8. `07-方法论与评估工具链.md` +9. `参考文件/README.md` + +### 2. 候选课题框架目录 + +1. `方案A-RTOS平台主导框架/00-课题框架.md` +2. `方案B-系统协同保障框架/00-课题框架.md` +3. `方案C-小型化与低功耗应用框架/00-课题框架.md` + +## 文件说明 + +- `00-整体研究框架.md` + - 研究总框架、问题空间、技术分层、预期成果 +- `01-推理图任务调度.md` + - LLM 推理 DAG 拆解、任务映射与调度策略 +- `02-KV-Cache与内存管理.md` + - KV Cache 生命周期、内存池、带宽竞争与局部性 +- `03-加速器协同调度.md` + - CPU、NPU、GPU、DMA 等异构资源协同 +- `04-量化精度感知调度.md` + - 精度、资源占用和调度决策的联动关系 +- `05-中断与实时性保障.md` + - IRQ 路径、线程化、中断隔离与实时任务保护 +- `06-能耗与热管理.md` + - 能耗约束、温度耦合、频率策略与热稳定性 +- `07-方法论与评估工具链.md` + - 建模、仿真、原型验证和评估方法学 +- `参考文件/` + - 按研究方向整理的论文、标准、官方工程资料及其与本项目的证据映射 + +## 候选框架说明 + +- `方案A-RTOS平台主导框架` + - 保持“大型跨平台 RTOS”作为研究主语,适合继续沿现有主线推进 +- `方案B-系统协同保障框架` + - 强调 RTOS、运行时、模型与加速器协同治理,适合承接系统级方法学讨论 +- `方案C-小型化与低功耗应用框架` + - 强调 `T5/T4` 受限系统与低功耗应用场景,适合形成更聚焦的专题路线 + +## 使用方式 + +后续讨论、修改和优选时,可以优先在这 3 个候选目录中推进,不必立即改动主干机制文档。待最终课题框架确定后,再把优选结果回收进 `00-整体研究框架.md` 及相关主干文件。 diff --git a/10-研究框架/参考文件/01-推理图任务调度参考.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/01-推理图任务调度参考.md similarity index 100% rename from 10-研究框架/参考文件/01-推理图任务调度参考.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/01-推理图任务调度参考.md diff --git a/10-研究框架/参考文件/02-KV-Cache与内存管理参考.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/02-KV-Cache与内存管理参考.md similarity index 100% rename from 10-研究框架/参考文件/02-KV-Cache与内存管理参考.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/02-KV-Cache与内存管理参考.md diff --git a/10-研究框架/参考文件/03-加速器协同调度参考.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/03-加速器协同调度参考.md similarity index 100% rename from 10-研究框架/参考文件/03-加速器协同调度参考.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/03-加速器协同调度参考.md diff --git a/10-研究框架/参考文件/04-量化与精度感知调度参考.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/04-量化与精度感知调度参考.md similarity index 100% rename from 10-研究框架/参考文件/04-量化与精度感知调度参考.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/04-量化与精度感知调度参考.md diff --git a/10-研究框架/参考文件/05-中断与实时性保障参考.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/05-中断与实时性保障参考.md similarity index 100% rename from 10-研究框架/参考文件/05-中断与实时性保障参考.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/05-中断与实时性保障参考.md diff --git a/10-研究框架/参考文件/06-能耗与热管理参考.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/06-能耗与热管理参考.md similarity index 100% rename from 10-研究框架/参考文件/06-能耗与热管理参考.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/06-能耗与热管理参考.md diff --git a/10-研究框架/参考文件/07-方法论与评估工具链参考.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/07-方法论与评估工具链参考.md similarity index 100% rename from 10-研究框架/参考文件/07-方法论与评估工具链参考.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/07-方法论与评估工具链参考.md diff --git a/10-研究框架/参考文件/08-标准与工程资料参考.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/08-标准与工程资料参考.md similarity index 100% rename from 10-研究框架/参考文件/08-标准与工程资料参考.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/08-标准与工程资料参考.md diff --git a/10-研究框架/参考文件/README.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/README.md similarity index 100% rename from 10-研究框架/参考文件/README.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/README.md diff --git a/10-研究框架/参考文件/参考文献.md b/项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/参考文献.md similarity index 100% rename from 10-研究框架/参考文件/参考文献.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/10-研究框架/参考文件/参考文献.md diff --git a/20-实验与规划/01-研究逻辑说明.md b/项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/01-研究逻辑说明.md similarity index 87% rename from 20-实验与规划/01-研究逻辑说明.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/01-研究逻辑说明.md index 1b36ec7..bd5c001 100644 --- a/20-实验与规划/01-研究逻辑说明.md +++ b/项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/01-研究逻辑说明.md @@ -36,6 +36,8 @@ - **对照对象**:普通 Linux、PREEMPT_RT Linux 与 SylixOS; - **硬件角色**:验证矩阵。 +在这条主线之下,项目同步设置一个**面向小型化与低功耗方向的应用副课题**。这一副课题主要锚定 `T5/T4`,用于集中组织小型化设备、设备端 SoC 与轻量智能终端中的证据,不单独改变研究对象,也不替代六个机制方向。 + ## 3. T5~T1 五类部署形态与 11 个代表档位 硬件细度是本仓库的重要资产。`T5~T1` 与 `11` 个代表档位共同承担三项作用: @@ -57,6 +59,8 @@ `T3`、`T2` 分别对应近源边缘节点与单机高密本地推理平台。 `T5~T1` 作为**部署形态与运行环境代码**,用于组织跨场景验证矩阵。 +其中,`T5/T4` 还承担面向小型化与低功耗方向应用副课题的主要验证窗口。这里的重点不是把低功耗设备本身当作研究对象,而是借助更严格的功耗、散热、体积与统一内存预算,观察 RTOS 机制边界在真实受限条件下的成立区间。 + ## 4. 人工智能目标负载与系统负载结构 在任务关键系统里,负载应至少分成三类: @@ -112,6 +116,8 @@ 这条顺序用于区分平台就绪性问题与系统机制边界问题。 +对于面向小型化与低功耗方向的应用副课题,实验推进时优先选择 `T5-H`、`T4-L` 及后续 `T5-L/T5-M` 作为主验证窗口,再把结论回收到总课题的统一对照框架中。 + ## 8. 哪些指标构成核心证据 后续证据链必须覆盖三层: @@ -155,6 +161,8 @@ 在这套结构下,硬件细度得到完整呈现,并服务于研究对象与实验结论组织。 +面向小型化与低功耗方向的应用副课题不单列为新的核心贡献项,而是作为 `C1` 与 `C2` 在 `T5/T4` 场景中的集中展开位置,用于加强项目在小型化设备与受限部署环境中的解释力。 + ## 10. 最终闭环 本研究形成的核心结论关系是: diff --git a/20-实验与规划/02-基础设备与算力基础.md b/项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/02-基础设备与算力基础.md similarity index 100% rename from 20-实验与规划/02-基础设备与算力基础.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/02-基础设备与算力基础.md diff --git a/20-实验与规划/03-实验设计.md b/项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/03-实验设计.md similarity index 84% rename from 20-实验与规划/03-实验设计.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/03-实验设计.md index 7485c63..8ba1da5 100644 --- a/20-实验与规划/03-实验设计.md +++ b/项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/03-实验设计.md @@ -16,6 +16,10 @@ 执行分为两层:**核心实验使用现有 T2-L、T4-L 和 T5-H 内存受限配置;其他档位属于条件扩展**。核心结论不依赖新增集群、Jetson 或 H100 到位。LLM、YOLO 检测和语音识别都按**人工智能目标负载**处理;训练不纳入主实验。 +这套实验设计统一的是研究问题、对照原则、采样口径与评价方法,不要求所有档位都完成同等深度的实机验证。核心档位承担主证据,扩展档位用于补足边界、拓扑和规模变化下的成立条件与失效边界。 + +在统一实验主线之下,本文同步组织一个**面向小型化与低功耗方向的应用副课题实验包**。这一实验包主要落在 `T5-H`、`T4-L` 以及后续 `T5-L/T5-M` 条件扩展档位,集中观察被动散热、整机功耗预算、统一内存约束与关键保障负载并存时,RTOS 对双目标达标能力的支撑边界。 + ## 2. 设备分层与实验平台 ### 2.1 T5~T1 五类部署形态、十一档实验映射 @@ -33,12 +37,35 @@ | T2-L 桌面低 | 现有 4×V100 SXM 32 GB,总显存 128 GB | 核心平台 A | 多卡推理、NVLink 通信与实时隔离 | | T2-M 桌面中 | 8×V100 32 GB,总显存 256 GB | 待扩容 | 同代 GPU 数量扩展 | | T2-H 桌面高 | 4×H100 80 GB,总显存 320 GB | 待获取或租用 | 高算力密度、跨代对照 | -| T1-L 集群低 | 4 节点×4×V100,总显存 512 GB | 待扩展 | 跨节点通信与分布式推理 | -| T1-H 集群高 | 4 节点×4×H100,总显存 1.28 TB | 远期扩展 | 大模型分布式服务与能效 | +| T1-L 集群低 | 4 节点×4×V100,总显存 512 GB | 待扩展 | 跨节点通信、分布式协同与关键业务编排 | +| T1-H 集群高 | 4 节点×4×H100,总显存 1.28 TB | 远期扩展 | 大模型分布式协同服务与系统级能效 | GPU 显存、主机内存和 SoC 统一内存分别记录,不加总为单一可分配空间。多卡总容量不能代替每卡分片可行性验证;FP16 TFLOPS 与 INT8 TOPS 不直接换算,也不作为实测吞吐。 -### 2.2 测量设备 +`T1` 在本项目中表示面向任务关键场景的分布式协同计算平台,不表示通用 AI 训练集群或公网高吞吐推理机房。该层级的实验重点是人工智能目标负载并发存在时,CPU 侧关键保障负载、系统编排与跨节点协同机制能否维持时间边界。 + +其中,`T5-H`、`T4-L` 及后续 `T5-L/T5-M` 同时承担面向小型化与低功耗方向应用副课题的主窗口。相关结论单独按“小型化、低功耗、受限散热与内存预算”口径组织,但仍纳入总课题的统一对照体系,不作为独立于主课题之外的新实验主线。 + +### 2.2 平台 A:现有 V100 服务器 + +依设备清单配置 H12D-8D 主板、单颗 EPYC 7402(24 核/48 线程)、128 GB DDR4、1 TB NVMe、4×V100 SXM 32 GB、NVLink 底板、双电源及液冷。完整 BOM 见设备文档 T2.2.1。 + +实验前采集 CPU/NUMA 拓扑、实际内存通道、PCIe 链路、逐对 GPU 互联与带宽、各卡温度和功率上限。4 卡互联形态以枚举和通信测试为准。双电源输入均纳入整机能耗,不把额定电源瓦数当作运行功耗。 + +分别测试 1、2、4 卡;单卡先完成模型与采样链路验证,再加入多卡并行。CPU 实时任务使用固定物理核,记录其 SMT 同胞核的使用方式,避免不同组的物理资源分配不一致。 + +### 2.3 平台 B:现有 RK3588 工业盒 + +依设备清单采用 4×A76 + 4×A55、16 GB 统一内存、64 GB eMMC,以及实际引出的 GPIO、CAN、RS485 和网络接口。原生 NPU 与外接加速器分开登记。 + +- B16:全量 16 GB,记为 T4-L。 +- B8:同板施加 8 GB 限额,记为 T5-H 受限配置;两种配置顺序运行。 +- 原生 NPU 是首轮路径;扩展加速器作为独立配置单独验证,待芯片型号、连接方式、模型格式和任务拆分能力完成准入后纳入对照。 +- 可选 M0、CAN 和 RS485 必须先核对实物与 BSP;缺失的接口实验登记为未开展。 + +**内存限额口径**:优先采用能覆盖 OS 可见内存及加速器保留区的启动配置,并记录实际可用容量。若只能限制应用进程,则标为“8 GB 应用预算”,不能称为整机 8 GB。核对驱动缓冲区、DMA/CMA、页缓存、共享内存与交换空间是否受限;禁止将限额实验解释为真实 8 GB 板卡的功耗或带宽结论。 + +### 2.4 测量设备 | 测量对象 | 工具与接线 | 要求 | |---|---|---| @@ -66,6 +93,8 @@ SylixOS、Linux 与 PREEMPT_RT Linux 的软件栈均按候选路线处理,在 “SylixOS 实时域 + Linux 推理域”作为单独的异构系统架构组,单独记录核分配、通信方式和内存共享方式,并作为异构系统方案结论呈现。 +对于搭载独立 GPU 的平台,RTOS 主要负责 CPU 侧任务调度、中断线程、内存预算、关键保障负载保护与恢复策略;GPU 内部算子调度、显存流水线和设备执行细节由驱动与硬件管理。因此,这类平台的实验解释必须区分 RTOS 直接收益与加速器平台边界。 + ### 3.2 模型梯度与用途 | 平台 | 首轮候选 | 扩展候选 | 后端准入检查 | @@ -183,6 +212,14 @@ YOLO 可选使用固定 640×640 输入、同一验证集和相同预处理, | E7 消融 | O3 完整方案及逐项去除 | 使用 E3 中固定中载与过载单元重复测试 | RQ2 | | E8 长稳与恢复 | A、B 的最终候选配置 | 连续 24 小时混合负载,注入推理进程重启、队列过载 | RQ1/3 | +面向小型化与低功耗方向的应用副课题,主要由 `E2`、`E3`、`E4`、`E6` 与 `E8` 共同支撑: + +- `E2` 负责建立受限设备上的独立推理能效与服务能力基线; +- `E3` 负责比较双目标并存时的达标边界; +- `E4` 负责观察内存限额与容量失败边界; +- `E6` 负责组织功耗、温度与降频证据; +- `E8` 负责验证长时间运行、恢复与热稳定性。 + E5 中,同一 7B 模型只有在所有 GPU 数配置均支持相同后端及并行机制时才计算强扩展;多实例吞吐增长单列,不冒充单请求加速。多租户公平性可使用各租户相对独占吞吐 x_i,计算 Jain 指数 (Σx_i)²/(kΣx_i²),同时报告每租户 TTFT 和服务等级。 E8 记录重启时间、请求丢失、RT 违约、内存增长及恢复到稳定吞吐的时间。驱动重置和热环境测试仅在存在可恢复测试路径和相应设备时增加;没有温箱数据不能宣称覆盖 −40~60℃ 全温域。 @@ -199,6 +236,8 @@ E8 记录重启时间、请求丢失、RT 违约、内存增长及恢复到稳 T1 强扩展固定总模型及工作量,速度提升以参考节点数 n0 的完成时间为基准,效率 = 加速比/(n/n0);弱扩展固定每节点请求负载,报告总有效吞吐和尾延迟。网络协议、交换机、MTU、拥塞配置和进程布局冻结。RDMA/NCCL 不可用时,TCP 回退单独成组。 +若 `T2/T1` 层级受商业 GPU 驱动、BSP 或运行时条件限制,无法完成 SylixOS 原生路径实测,则该层级结果降级为基线对照、建模分析或异构架构验证,不将缺失的原生 RTOS 数据写成正式对照结论。 + 跨节点单向延迟需记录时钟同步方法与误差;误差不能满足精度要求时改测往返时间,不将其一半无条件当作单向延迟。 ### 7.3 控制实验数量 diff --git a/20-实验与规划/04-论文写作规划.md b/项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/04-论文写作规划.md similarity index 91% rename from 20-实验与规划/04-论文写作规划.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/04-论文写作规划.md index 02e61e5..903b5a2 100644 --- a/20-实验与规划/04-论文写作规划.md +++ b/项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/04-论文写作规划.md @@ -11,14 +11,14 @@ ### 0.1 一句话定位 -> **用业界公认方法学,在 T5~T1 五类部署形态与 11 个代表档位上,系统评测大型跨平台实时操作系统这一类平台在任务关键系统中承载人工智能目标负载时的确定性、可预测性与实时保障表现,并同步评估人工智能目标负载的功能有效性与时效性。`SylixOS` 是主实验样例,`QNX`、`VxWorks`、`INTEGRITY`、`LynxOS-178` 等作为外部参照样本。** +> **用业界公认方法学,在 T5~T1 五类部署形态与 11 个代表档位上,系统评测大型跨平台实时操作系统这一类平台在任务关键系统中承载人工智能目标负载时的确定性、可预测性与实时保障表现,并同步评估人工智能目标负载的功能有效性与时效性。`SylixOS` 是主实验样例,`QNX`、`VxWorks`、`INTEGRITY`、`LynxOS-178` 等作为外部参照样本。该框架统一的是建模、评估与对照方法,结论以各部署层级的有效区间与失效边界展开。** ### 0.2 三大核心贡献 | 编号 | 贡献 | 来源整合 | 对标空白 | |------|------|----------|----------| | C1 | **大型跨平台 RTOS 对人工智能目标负载与关键保障负载的双目标实时保障优势** — 在同硬件、同负载下,以 `SylixOS` 为主实验样例,比对其与普通 Linux、PREEMPT_RT Linux 在 `TTFT/TPOT`、`deadline miss ratio`、`P99.9` 抖动与有效吞吐上的差异,并与 QNX、VxWorks、INTEGRITY、LynxOS-178 等外部样本形成理论参照 | 03-实验设计.md、07-方法论与评估工具链.md | 公开研究通常只测吞吐,缺少任务关键系统中的双目标评测 | -| C2 | **T5~T1 五类部署形态与 11 个代表档位的统一验证矩阵** — 从 T5 控制端 RK3568 (1 GB/3 W) 到 T1 集群级 4×H100 (1.28 TB/25 kW),以完整硬件颗粒度系统刻画 RTOS 机制优势随资源条件、拓扑和部署形态变化的规律与边界 | 02-基础设备与算力基础.md §0~§5 | 公开研究通常只覆盖单一平台或两档对比,缺少连续验证框架 | +| C2 | **T5~T1 五类部署形态与 11 个代表档位的统一验证矩阵** — 从 T5 控制端 RK3568 (1 GB/3 W) 到 T1 集群级 4×H100 (1.28 TB/25 kW),以完整硬件颗粒度系统刻画 RTOS 机制优势随资源条件、拓扑和部署形态变化的规律与边界;统一的是方法学与证据组织方式,不预设各档位收益幅度相同 | 02-基础设备与算力基础.md §0~§5 | 公开研究通常只覆盖单一平台或两档对比,缺少连续验证框架 | | C3 | **RTOS 数据与业界公开基准的可复现对齐方法** — 引入第三方文章的 CPU/内存/NPU/功耗实测方法学,在 SylixOS 上复现并对比,使 RTOS 结果具备外部校验与方法学可迁移性 | 03-实验设计.md、07-方法论与评估工具链.md | 国产 RTOS 在设备端 SoC 与边缘节点平台上的可外部校验数据明显不足 | ### 0.3 目标读者与发表场景 @@ -38,7 +38,7 @@ 第1章 引言 — 问题、动机、贡献概述 第2章 背景与相关工作 — 人工智能目标负载特征 + RTOS 基础 + 差距分析 第3章 T5~T1 五类部署形态验证矩阵 — 11 档位体系设计与现有设备锚点 -第4章 SylixOS 调度框架技术架构 — 五层技术栈与六大优化方向 +第4章 SylixOS 调度框架技术架构 — 五层技术栈、六大优化方向与低功耗专题线 第5章 实验方法学 — 第三方基准复现 + 双目标场景 + 避坑约束 第6章 大模型负载选型与配置 — 跨档位模型矩阵 第7章 实验结果 — 基准对齐 + 双目标实时保障 + 能效 + 温度耦合 @@ -97,7 +97,7 @@ | 3.2 全谱系总表 (11 档位) | T5-L→T5-M→T5-H→T4-L→T4-M→T3-L→T2-L→T2-M→T2-H→T1-L→T1-H 的容量/算力/功耗/散热/代表设备/状态 | 02-基础设备与算力基础.md §0.2 | | 3.3 设计原则 | 容量连续功耗阶跃;CUDA 栈贯通 T1/T2/T3;非 CUDA 控制端与设备端路线 (T5 全档 + T4-L);现有硬件复用 (V100+RK3588 锚点);BSP 最小化 (x86+ARM64 两类) | 02-基础设备与算力基础.md §0.3 | | 3.4 现有设备与采购计划 | P0 零成本起步 (T2-L+T4-L+T5-H);一机两档 (RK3588 16 GB 同时充当 T4-L 与 T5-H);T1/T2-H 云替代 | 02-基础设备与算力基础.md §6 | -| 3.5 各部署形态定位与验证重点 | T1 跨节点分布式调度;T2 桌面/工作站单机多卡 NVLink;T3 边缘节点近源协同;T4 设备端 SoC 统一内存带宽隔离;T5 极致资源约束下的关键保障负载边界保持 | 02-基础设备与算力基础.md T1~T5 各 §.1 | +| 3.5 各部署形态定位与验证重点 | T1 面向任务关键场景的跨节点分布式协同计算;T2 桌面/工作站单机多卡 NVLink;T3 边缘节点近源协同;T4 设备端 SoC 统一内存带宽隔离;T5 极致资源约束下的关键保障负载边界保持 | 02-基础设备与算力基础.md T1~T5 各 §.1 | **关键图表**: @@ -112,15 +112,16 @@ ### 第4章 SylixOS 调度框架技术架构 -**目标**: 600~800 词,将 `00-整体研究框架.md` 的五层技术栈和六大优化方向浓缩为文章的技术背景章。 +**目标**: 600~800 词,将 `00-整体研究框架.md` 的五层技术栈、六大优化方向与低功耗专题线浓缩为文章的技术背景章。 | 小节 | 内容要点 | 来源映射 | |------|----------|----------| | 4.1 核心问题定义 | 用 RTOS 做 "LLM 推理资源的调度与协调",并建立任务关键系统中的实时保障机制 | 00-整体研究框架.md §0 | -| 4.2 五层技术栈 | L1 硬件层 → L2 RTOS 调度核 → L3 资源抽象 (加速器驱动/DMA/内存控制器) → L4 运行时 (任务图/流水线/内存池) → L5 模型层 (量化/KV Cache/投机解码) | 00-整体研究框架.md §2 | +| 4.2 五层技术栈 | L1 硬件层(含时间同步/PTP) → L2 RTOS 调度核 → L3 资源抽象 (加速器驱动/DMA/内存控制器) → L4 运行时 (任务图/流水线/内存池) → L5 模型层 (量化/KV Cache/投机解码) | 00-整体研究框架.md §2 | | 4.3 LLM 推理阶段 → RTOS 任务映射 | Tokenizer→LOW, Embedding→HIGH, Attention→MAX, FFN→HIGH, KV Cache Write→MEDIUM, Sample→LOW;阶段特征矩阵 (计算/IO/延迟敏感/确定性/优先级) | 01-推理图任务调度.md §2 | | 4.4 六大优化方向概览 | 方向1 推理图任务调度 (Hybrid FP+EDF) → 方向2 KV Cache 内存池 → 方向3 加速器协同 → 方向4 量化感知调度 → 方向5 中断与实时 → 方向6 能耗热管理 | 00-整体研究框架.md §3, 01~06 子文档 | -| 4.5 SylixOS BSP 适配要点 | x86 BSP (V100/H100 CUDA 驱动, NVLink, RDMA)、ARM64 BSP (RK3588/RK3576/RK3568 NPU 驱动, T234 Jetson BSP)、内存分区限额 (一机两档)、跨核通信 (M0+RPMsg) | 02-基础设备与算力基础.md §7 (BSP Checklist) | +| 4.5 面向小型化与低功耗方向的专题线 | 该专题线主要锚定 `T5/T4`,把调度、内存、量化、加速器协同、中断与能耗机制收束到受限功耗、体积、散热与内存预算场景中观察 | 00-整体研究框架.md §3.1 | +| 4.6 SylixOS BSP 适配要点 | x86 BSP (V100/H100 CUDA 驱动, NVLink, RDMA)、ARM64 BSP (RK3588/RK3576/RK3568 NPU 驱动, T234 Jetson BSP)、内存分区限额 (一机两档)、跨核通信 (M0+RPMsg) | 02-基础设备与算力基础.md §7 (BSP Checklist) | **关键图表**: @@ -129,7 +130,7 @@ | Fig.3 | 五层技术栈架构图 | L1~L5 层叠 + 每层关键组件 + 层间接口 | | Fig.4 | LLM 推理 DAG → RTOS 任务图 | 推理阶段的有向无环图, 标注每阶段优先级 (MAX/HIGH/MEDIUM/LOW) 和可抢占性 | | Tab.5 | 推理阶段特征矩阵 | 阶段 × (计算密集度/IO 密集度/延迟敏感度/确定性要求/RTOS 优先级) | -| Tab.6 | 六大优化方向概览 | 方向 × (核心问题/关键手段/目标指标/对应章节) | +| Tab.6 | 六大优化方向与低功耗专题线概览 | 方向/专题 × (核心问题/关键手段/目标指标/对应章节) | --- @@ -139,13 +140,15 @@ | 小节 | 内容要点 | 来源映射 | |------|----------|----------| -| 5.1 方法论框架 | `G0~G4` 准入 → `O0~O4` 对照 → 负载建模 → 机制实现 → 实测验证 → 跨档位分析 | 07-方法论与评估工具链.md §1、§5、§6、§9 | +| 5.1 方法论框架 | `G0~G4` 准入 → `O0~O4` 对照 → 负载建模 → 机制实现 → 实测验证 → 跨档位分析;统一的是建模与评估方法,结论按有效区间与失效边界展开 | 07-方法论与评估工具链.md §1、§5、§6、§9 | | 5.2 第三方基准复现方法学 | 引入第三方文章的 5 维度方法 (CPU/内存/NPU/功耗/温度);在 SylixOS 上重跑等价工具链,与文章数据对比 | 03-实验设计.md §4、07-方法论与评估工具链.md §8 | | 5.3 混合负载实验设计四原则 | 原则1: 混合负载;原则2: 尾部时延指标;原则3: 突发场景;原则4: 调度精细度 | 03-实验设计.md §5、§6 | | 5.4 功耗真测强制约束 | 禁止仅靠软件读数;DC 功率计 + INA226 采集板强制;采样 ≥1 Hz | 03-实验设计.md §2.4、§4 | | 5.5 温度监控强制约束 | 烤机 1 h 稳态 <75 ℃ 才采样;≥85 ℃ 数据作废;全程温度日志 | 03-实验设计.md §2.4、§4 | | 5.6 环境元数据强制清单 | OS/内核/BSP/固件/驱动/室温/散热/工具/量化/时间戳等元数据强制记录 | 03-实验设计.md §11、07-方法论与评估工具链.md §10 | | 5.7 对照组设计 | OS 层: `O0` 普通 Linux / `O1` PREEMPT_RT Linux / `O2` SylixOS 默认 / `O3` SylixOS 优化 / `O4` PREEMPT_RT 等预算调优;KVM/Docker 仅作为扩展对照 | 03-实验设计.md §5 | +| 5.7A 管控边界说明 | 区分 CPU 侧 RTOS 可调度域与 GPU/NPU 设备执行域;T2/T1 的重点是 CPU 侧关键保障负载保护与系统协同边界,不把 GPU 内部调度写成 RTOS 直接收益 | 00-整体研究框架.md §2、03-实验设计.md §2、§3 | +| 5.7B 证据层级说明 | 核心档位以实测为主;受驱动与 BSP 约束的扩展档位可使用基线对照、建模分析与条件验证,未完成的原生 RTOS 路径不写成正式结果 | 03-实验设计.md §1、§7 | | 5.8 研究问题到实验映射 | 明确 `RQ1~RQ4` 分别由哪些实验单元、场景编号与结果章节支撑,避免论文章节与实验表脱节 | 03-实验设计.md §1、§7 | | 5.9 场景编号到结果章节映射 | 明确 `L0~L7` 在论文中的归属位置:哪些是基线、哪些是核心双目标证据、哪些是扩展或压力场景 | 03-实验设计.md §6、§7 | @@ -194,7 +197,7 @@ | 小节 | 内容要点 | 来源映射 | |------|----------|----------| | 7.1 基准对齐结果 (第一层判据) | SylixOS 在 RK3588 上的 CPU 单核/多核、内存带宽、NPU FPS、3B LLM tok/s 与第三方文章基线的偏差 | 03-实验设计.md §4、07-方法论与评估工具链.md §8 | -| 7.2 低功耗结果 | 对应 `RQ3`;以 `L1/L2` 为主,报告 `P_idle / P_prefill / P_decode / E_per_token` 分阶段功耗曲线;T2-L (V100) 与 T4-L/T5-H (RK3588) 两平台对照;SylixOS vs 普通 Linux / PREEMPT_RT Linux 的能效差异 | 03-实验设计.md §4、§6、06-能耗与热管理.md | +| 7.2 低功耗结果 | 对应 `RQ3`;以 `L1/L2` 为主,报告 `P_idle / P_prefill / P_decode / E_per_token` 分阶段功耗曲线;T2-L (V100) 与 T4-L/T5-H (RK3588) 两平台对照;SylixOS vs 普通 Linux / PREEMPT_RT Linux 的能效差异;这一节同时承担面向小型化与低功耗方向应用副课题的核心结果窗口 | 03-实验设计.md §4、§6、06-能耗与热管理.md | | 7.3 低延迟结果 | 对应 `RQ1/RQ2`;以 `L0/L1` 为基线,报告 `T_irq / T_sched / T_ctx` `P50~Max` 与 `TTFT / TPOT` 尾延迟分布;SylixOS vs 普通 Linux / PREEMPT_RT Linux 的 `P99.9/Max/σ` 对比 | 03-实验设计.md §4~§6、05-中断与实时性保障.md | | 7.4 双目标实时保障结果 (★ 核心) | 对应 `RQ1`;以 `L2` 为主场景,并向 `L3/L4/L5/L7` 扩展;同时报告 `TTFT/TPOT`、`T_rt_max`、`jitter` 与有效吞吐;4 变体 (`O0/O1/O2/O3` 或含 `O4`);30 min 全周期时间序列图 | 03-实验设计.md §5~§7 | | 7.5 多模型并发与突发场景 | 对应 `RQ2/RQ4`;覆盖 `L3/L5/L6/L7`,讨论多模型流水线优先级公平性、突发加载/切换瞬间实时性保持,以及 GPU/NPU 多请求调度公平性 | 03-实验设计.md §6、10-研究框架/01~03 | @@ -265,7 +268,7 @@ | 小节 | 内容要点 | 来源映射 | |------|----------|----------| -| 9.1 适用场景边界 | 资源更受限或混合负载更强的档位通常更容易体现 RTOS 优势;资源充裕且目标偏纯吞吐时,优势可能收窄 | 01-研究逻辑说明.md §10、03-实验设计.md §10 | +| 9.1 适用场景边界 | 资源更受限或混合负载更强的档位通常更容易体现 RTOS 优势;资源充裕且目标偏纯吞吐时,优势可能收窄;T1 仅限任务关键场景中的分布式协同计算平台,不覆盖通用 AI 训练集群 | 01-研究逻辑说明.md §10、03-实验设计.md §10 | | 9.2 威胁有效性 | (1) RKLLM 移植风险;(2) V100 驱动成熟度;(3) sysbench/stress-ng 等工具的可移植性;(4) 量化精度差异控制;(5) 室温/散热波动 | 03-实验设计.md §3、§11 | | 9.3 与已有工作的关系 | vs vLLM/TGI (服务器级, 无实时保证)、vs NPU SDK (封闭黑箱)、vs CUDA Stream (无实时分析)、vs 第三方文章 (仅 Linux, 仅 RK3588, 未测实时性) | 00-整体研究框架.md §6 | | 9.4 方法论局限 | 第三方来源数量有限;扩展档位依赖云租或后续采购;消融实验现阶段主要集中在现有核心平台;未完成档位不能写成正式结果 | 03-实验设计.md §10、07-方法论与评估工具链.md §10 | @@ -291,7 +294,7 @@ | **02-基础设备与算力基础.md** | §3 (验证矩阵) | §4.5 (BSP 适配), §6.2 (模型矩阵), §7.8 (跨档位曲线), §8.1 (档位趋势), §8.5 (BSP 风险) | | **03-实验设计.md** | §5 (实验方法学), §7.4 (混合负载) | §2.1~§2.3 (负载与平台), §5.7 (对照组), §6 (模型选型), §7.2~§7.7 (功耗/延迟/并发/突发/异构), §8.2 (优越性量化), §9.2 (威胁有效性) | | **01-研究逻辑说明.md** | §1 (核心问题), §9 (贡献排序) | §2 (研究对象), §9.1 (适用边界), §10 (最终闭环) | -| **00-整体研究框架.md** | §4 (技术架构) | §1 (核心问题), §2.4 (相关工作), §8.3 (根因分析), §10.3 (开放问题) | +| **00-整体研究框架.md** | §4 (技术架构) | §1 (核心问题), §2.4 (相关工作), §7.2 (低功耗专题线), §8.3 (根因分析), §10.3 (开放问题) | | **01-推理图任务调度.md** | §4.3 (任务映射) | §7.4 (混合负载调度模型), §8.3 (根因) | | **02-KV-Cache与内存管理.md** | §4.4 (方向2 概览) | §7.4 (KV Cache 对实时任务的影响), §8.4 (能效) | | **03-加速器协同调度.md** | §4.4 (方向3 概览) | §7.7 (异构核分配), §8.3 (根因) | diff --git a/20-实验与规划/README.md b/项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/README.md similarity index 100% rename from 20-实验与规划/README.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/README.md diff --git a/20-实验与规划/metric.md b/项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/metric.md similarity index 100% rename from 20-实验与规划/metric.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/20-实验与规划/metric.md diff --git a/30-联合研究方/README.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/README.md similarity index 100% rename from 30-联合研究方/README.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/README.md diff --git a/30-联合研究方/潜在合作研究路径-罗蕾教授与翼辉信息.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/潜在合作研究路径-罗蕾教授与翼辉信息.md similarity index 89% rename from 30-联合研究方/潜在合作研究路径-罗蕾教授与翼辉信息.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/潜在合作研究路径-罗蕾教授与翼辉信息.md index c45c6fe..5e5c651 100644 --- a/30-联合研究方/潜在合作研究路径-罗蕾教授与翼辉信息.md +++ b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/潜在合作研究路径-罗蕾教授与翼辉信息.md @@ -166,6 +166,22 @@ - 翼辉信息侧偏产业价值、案例与平台能力; - 项目组承担材料汇总、写作配合与整合支撑。 +### 5.5 面向小型化与低功耗方向的 RTOS 智能负载应用 + +目标: + +- 聚焦小型化设备、边缘控制节点、轻量智能终端中的人工智能目标负载部署问题; +- 研究在严格功耗、体积、散热与内存预算下,RTOS 如何同时维持推理服务能力与关键保障任务实时性; +- 形成一套适用于低功耗、资源受限系统的任务准入、运行降级与能耗治理方法。 + +更适合的分工: + +- 罗蕾教授侧可重点参与资源约束建模、可调度性分析、低功耗系统方法学抽象与学术问题凝练; +- 翼辉信息侧可重点参与 SylixOS 在小型化硬件平台上的机制实现、BSP 支撑与工程验证; +- 项目组负责具体场景选取、实验执行、数据整理与跨平台对照分析。 + +这一主题与本项目现有 `T5/T4` 验证位置可以自然衔接,也更容易延伸到工业控制终端、车载边缘节点、轻量智能装备等应用语境。 + ## 6. 更现实的推进顺序 推进顺序以稳妥、小步、可验证为宜: diff --git a/30-联合研究方/罗蕾教授资料/01-人物概览.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/01-人物概览.md similarity index 100% rename from 30-联合研究方/罗蕾教授资料/01-人物概览.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/01-人物概览.md diff --git a/30-联合研究方/罗蕾教授资料/02-教学与人才培养.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/02-教学与人才培养.md similarity index 100% rename from 30-联合研究方/罗蕾教授资料/02-教学与人才培养.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/02-教学与人才培养.md diff --git a/30-联合研究方/罗蕾教授资料/03-科研与产业化路径.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/03-科研与产业化路径.md similarity index 100% rename from 30-联合研究方/罗蕾教授资料/03-科研与产业化路径.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/03-科研与产业化路径.md diff --git a/30-联合研究方/罗蕾教授资料/04-代表成果与研究主题.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/04-代表成果与研究主题.md similarity index 95% rename from 30-联合研究方/罗蕾教授资料/04-代表成果与研究主题.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/04-代表成果与研究主题.md index 848d763..955a49a 100644 --- a/30-联合研究方/罗蕾教授资料/04-代表成果与研究主题.md +++ b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/04-代表成果与研究主题.md @@ -8,7 +8,7 @@ 第三类成果是网络安全与数据安全。她及其团队长期从事物联网安全、区块链与数据安全工作,形成了“优云链”“优数”等成果,并将其用于物流追踪、汽车数据交易、移动支付可信共享等场景。论文成果也体现出她团队在入侵检测、代码混淆安全模型、异常检测等方面的持续投入。这部分工作的意义,在于把原本偏底层的软件能力继续向数据可信、安全共享和行业安全运营延伸。 -第四类成果是跨向智能计算与新型应用场景的延展。较新的培养方向已经覆盖工业软件、网络安全、智能计算,团队介绍中也把深度学习、自然语言处理、移动 AR、嵌入式 AI 列为主要研究方向之一。罗蕾教授的研究由此延伸到智能化应用场景。 +第四类成果是跨向智能计算与新型应用场景的延展。较新的培养方向已经覆盖工业软件、网络安全、智能计算,团队介绍中也把深度学习、自然语言处理、移动 AR、嵌入式 AI 列为主要研究方向之一。罗蕾教授的研究由此延伸到智能化应用场景。这一方向也可以继续向小型化、低功耗、资源受限系统中的智能应用展开,把嵌入式基础软件、可调度性分析与低功耗部署问题连接起来。 罗蕾教授的代表性工作始终围绕两个问题展开:一是如何把系统底层做稳,特别是实时性、可靠性、安全性和可配置性;二是如何让这些底层能力进入实际产业系统,服务汽车电子、物联网、支付和数据共享等复杂场景。这也是她作为知名专家学者,能够同时出现在学术导师页面、课程建设页面、科研团队页面和行业合作资料里的重要原因。 diff --git a/30-联合研究方/罗蕾教授资料/README.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/README.md similarity index 100% rename from 30-联合研究方/罗蕾教授资料/README.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/罗蕾教授资料/README.md diff --git a/30-联合研究方/翼辉信息资料/01-公司与RTOS定位概览.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/01-公司与RTOS定位概览.md similarity index 100% rename from 30-联合研究方/翼辉信息资料/01-公司与RTOS定位概览.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/01-公司与RTOS定位概览.md diff --git a/30-联合研究方/翼辉信息资料/02-SylixOS技术能力与演进.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/02-SylixOS技术能力与演进.md similarity index 100% rename from 30-联合研究方/翼辉信息资料/02-SylixOS技术能力与演进.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/02-SylixOS技术能力与演进.md diff --git a/30-联合研究方/翼辉信息资料/03-行业落地与生态版图.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/03-行业落地与生态版图.md similarity index 100% rename from 30-联合研究方/翼辉信息资料/03-行业落地与生态版图.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/03-行业落地与生态版图.md diff --git a/30-联合研究方/翼辉信息资料/04-与本项目的潜在协同点.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/04-与本项目的潜在协同点.md similarity index 100% rename from 30-联合研究方/翼辉信息资料/04-与本项目的潜在协同点.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/04-与本项目的潜在协同点.md diff --git a/30-联合研究方/翼辉信息资料/README.md b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/README.md similarity index 100% rename from 30-联合研究方/翼辉信息资料/README.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/README.md diff --git a/30-联合研究方/翼辉信息资料/翼辉SylixOS智能控制技术栈架构白皮书-v1.0.docx b/项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/翼辉SylixOS智能控制技术栈架构白皮书-v1.0.docx similarity index 100% rename from 30-联合研究方/翼辉信息资料/翼辉SylixOS智能控制技术栈架构白皮书-v1.0.docx rename to 项目框架1-基于RTOS的五类场景AI实时性研究/30-联合研究方/翼辉信息资料/翼辉SylixOS智能控制技术栈架构白皮书-v1.0.docx diff --git a/40-交付物/Word规范稿/基础设备.docx b/项目框架1-基于RTOS的五类场景AI实时性研究/40-交付物/Word规范稿/基础设备.docx similarity index 100% rename from 40-交付物/Word规范稿/基础设备.docx rename to 项目框架1-基于RTOS的五类场景AI实时性研究/40-交付物/Word规范稿/基础设备.docx diff --git a/40-交付物/Word规范稿/基础说明.docx b/项目框架1-基于RTOS的五类场景AI实时性研究/40-交付物/Word规范稿/基础说明.docx similarity index 100% rename from 40-交付物/Word规范稿/基础说明.docx rename to 项目框架1-基于RTOS的五类场景AI实时性研究/40-交付物/Word规范稿/基础说明.docx diff --git a/40-交付物/Word规范稿/实验设计.docx b/项目框架1-基于RTOS的五类场景AI实时性研究/40-交付物/Word规范稿/实验设计.docx similarity index 100% rename from 40-交付物/Word规范稿/实验设计.docx rename to 项目框架1-基于RTOS的五类场景AI实时性研究/40-交付物/Word规范稿/实验设计.docx diff --git a/40-交付物/Word规范稿/最终文章规划.docx b/项目框架1-基于RTOS的五类场景AI实时性研究/40-交付物/Word规范稿/最终文章规划.docx similarity index 100% rename from 40-交付物/Word规范稿/最终文章规划.docx rename to 项目框架1-基于RTOS的五类场景AI实时性研究/40-交付物/Word规范稿/最终文章规划.docx diff --git a/40-交付物/白皮书与汇报/最终文章规划.docx b/项目框架1-基于RTOS的五类场景AI实时性研究/40-交付物/白皮书与汇报/最终文章规划.docx similarity index 100% rename from 40-交付物/白皮书与汇报/最终文章规划.docx rename to 项目框架1-基于RTOS的五类场景AI实时性研究/40-交付物/白皮书与汇报/最终文章规划.docx diff --git a/90-归档/压缩包与杂项/rtos_llm_opt.zip b/项目框架1-基于RTOS的五类场景AI实时性研究/90-归档/压缩包与杂项/rtos_llm_opt.zip similarity index 100% rename from 90-归档/压缩包与杂项/rtos_llm_opt.zip rename to 项目框架1-基于RTOS的五类场景AI实时性研究/90-归档/压缩包与杂项/rtos_llm_opt.zip diff --git a/项目框架1-基于RTOS的五类场景AI实时性研究/90-归档/压缩包与杂项/翼辉SylixOS智能控制技术栈架构白皮书-v1.0.docx b/项目框架1-基于RTOS的五类场景AI实时性研究/90-归档/压缩包与杂项/翼辉SylixOS智能控制技术栈架构白皮书-v1.0.docx new file mode 100644 index 0000000..033bc5b Binary files /dev/null and b/项目框架1-基于RTOS的五类场景AI实时性研究/90-归档/压缩包与杂项/翼辉SylixOS智能控制技术栈架构白皮书-v1.0.docx differ diff --git a/README.md b/项目框架1-基于RTOS的五类场景AI实时性研究/README.md similarity index 100% rename from README.md rename to 项目框架1-基于RTOS的五类场景AI实时性研究/README.md