reorganize repository into meeting and project framework structure
Align the repository with the new collaboration workflow by separating meeting records from project framework materials, so discussion outputs and formal research assets can evolve independently.
This commit is contained in:
@@ -0,0 +1,59 @@
|
||||
# 当前研究问题:背景、问题与挑战
|
||||
|
||||
## 1. 背景
|
||||
|
||||
人工智能能力正在从服务器、云端和通用应用软件,持续进入设备控制、边缘协同、车载平台、工业终端和任务关键系统。系统中的人工智能不再只是离线分析能力,而正在承担识别、规划、诊断、导航、辅助决策和自然交互等面向实时场景的功能。
|
||||
|
||||
当人工智能能力进入这些系统后,系统的时间结构发生了明显变化:
|
||||
|
||||
- 感知链路、推理链路与控制链路开始耦合;
|
||||
- CPU、NPU、GPU、DMA、总线和内存带宽竞争明显增强;
|
||||
- 功耗、散热、体积、统一内存和设备驱动限制直接影响系统行为;
|
||||
- 关键保障负载与人工智能目标负载开始争夺同一组底层资源。
|
||||
|
||||
因此,系统面对的已经不是单纯的“把模型跑起来”问题,而是“如何让人工智能能力进入系统之后,整体时序边界仍然成立”的问题。
|
||||
|
||||
## 2. 问题
|
||||
|
||||
本框架聚焦的问题是:
|
||||
|
||||
> **当人工智能能力进入实时控制系统后,模型、运行时、RTOS、Linux、Hypervisor、芯片、总线、内存和协处理器如何共同决定系统的整体实时边界。**
|
||||
|
||||
这里的核心观察有三点:
|
||||
|
||||
1. **大模型与智能算法的实时问题不能完全归于 RTOS 单独解决。**
|
||||
2. **纯粹把问题写成“RTOS 优于 Linux”已经不足以覆盖真实系统问题。**
|
||||
3. **真正需要研究的是面向 AI 的实时控制基础系统,而不是单一软件层。**
|
||||
|
||||
## 3. 挑战
|
||||
|
||||
### 3.1 跨层因果交织
|
||||
|
||||
人工智能目标负载的时间行为同时受到模型结构、量化方式、算子实现、运行时队列、驱动、芯片资源和操作系统机制影响。单一层面的解释无法完整说明系统实时性。
|
||||
|
||||
### 3.2 感知与控制形成闭环
|
||||
|
||||
一旦感知、规划、语音理解或推理链路进入控制闭环,推理延迟、链路抖动和异常输出都会直接影响执行效果,系统面对的是认知与控制的一体化问题。
|
||||
|
||||
### 3.3 MCU 与 SoC 路线差异显著
|
||||
|
||||
MCU 场景更偏向静态资源分配、工具链和芯片协同;SoC 场景更偏向 Linux / RTOS / Hypervisor 协同、统一内存竞争治理和异构设备协作。这两类问题不能被同一套表达简单覆盖。
|
||||
|
||||
### 3.4 体系结构成为主要变量
|
||||
|
||||
随着 NPU、GPU、DMA、统一内存、总线和缓存结构进入主舞台,问题已经从调度器、中断和线程同步扩展到嵌入式计算机体系结构层。
|
||||
|
||||
### 3.5 产业叙事需要升级
|
||||
|
||||
如果企业仍然只把自己定义为 RTOS 供应方,就很难完整解释人工智能进入实时控制系统后出现的新问题。更有延展性的定位应当围绕“基础系统”展开。
|
||||
|
||||
## 4. 本框架的价值
|
||||
|
||||
本框架的目标不是否定 RTOS,而是把 RTOS 放回更准确的位置:
|
||||
|
||||
- RTOS 是关键保障负载的确定性底座;
|
||||
- Linux 与推理运行时承载 AI 生态与计算任务;
|
||||
- Hypervisor、芯片与资源治理结构承担隔离、边界与整体秩序;
|
||||
- 规则层与兜底机制承担异常控制与安全边界。
|
||||
|
||||
因此,本框架对应的研究价值在于:为“人工智能进入实时控制系统之后的基础系统问题”建立更准确的问题定义、技术路线和实验组织方式。
|
||||
@@ -0,0 +1,80 @@
|
||||
# 研究定位与项目边界
|
||||
|
||||
## 1. 研究定位
|
||||
|
||||
本框架的研究定位是:
|
||||
|
||||
> **面向人工智能能力进入实时控制系统后的整体系统问题,研究基础系统如何维持确定性、可预测性与实时边界。**
|
||||
|
||||
这里的“基础系统”不是单一软件层,而是由以下部分共同构成:
|
||||
|
||||
- 模型与任务语义;
|
||||
- 推理运行时与负载编排;
|
||||
- RTOS 与 Linux 的角色分工;
|
||||
- Hypervisor 与资源隔离;
|
||||
- 芯片、总线、内存、NPU、GPU、DMA 等硬件资源结构;
|
||||
- 规则兜底、安全约束与异常切换机制。
|
||||
|
||||
## 2. 研究对象
|
||||
|
||||
本框架的研究对象是:
|
||||
|
||||
> **面向 AI 的实时控制基础系统。**
|
||||
|
||||
其中:
|
||||
|
||||
- `SylixOS` 仍然可以作为关键实验样例与基础软件样本;
|
||||
- `QNX`、`VxWorks`、`INTEGRITY`、`LynxOS-178` 等可继续作为参照平台;
|
||||
- `Linux` 与 `PREEMPT_RT Linux` 继续作为重要对照对象;
|
||||
- `T5~T1` 继续作为验证矩阵,而不是研究主语。
|
||||
|
||||
## 3. 本框架不把什么当作研究主语
|
||||
|
||||
### 3.1 不把硬件谱系当作研究主语
|
||||
|
||||
`T5~T1` 五类部署形态和各类算力基础承担的是验证矩阵角色,用于组织证据、比较边界和解释场景差异。
|
||||
|
||||
### 3.2 不把单一 RTOS 当作全部因果承担者
|
||||
|
||||
RTOS 在本框架中承担关键作用,但不再被写成全部实时问题的唯一解决者。模型、运行时、芯片与资源结构同样影响系统边界。
|
||||
|
||||
### 3.3 不把纯吞吐优化当作核心目标
|
||||
|
||||
本框架关注的是人工智能目标负载、关键保障负载与系统协同三层指标同时成立的条件,而不是单一的吞吐最大化。
|
||||
|
||||
## 4. 研究边界
|
||||
|
||||
### 4.1 重点覆盖的系统类型
|
||||
|
||||
- 控制端 MCU / 控制盒;
|
||||
- 设备端 SoC;
|
||||
- 边缘节点;
|
||||
- 面向任务关键场景的单机高密和集群协同平台。
|
||||
|
||||
### 4.2 重点覆盖的问题
|
||||
|
||||
- 关键保障负载与人工智能目标负载共存时的整体实时性;
|
||||
- Linux / RTOS / Hypervisor 的混合协同结构;
|
||||
- 统一内存、总线和异构协处理器竞争治理;
|
||||
- 小型化、低功耗和受限部署条件下的系统边界;
|
||||
- 模型推理与规则兜底共同构成的执行闭环。
|
||||
|
||||
### 4.3 暂不作为主线的问题
|
||||
|
||||
- 通用大模型训练集群的纯吞吐优化;
|
||||
- 面向互联网高并发服务的开放式推理平台;
|
||||
- 单纯以算法精度提升为主的模型研究;
|
||||
- 不涉及实时控制闭环的普通桌面 AI 应用。
|
||||
|
||||
## 5. 与项目框架1的关系
|
||||
|
||||
项目框架1把“大型跨平台 RTOS”作为研究主语,重点讨论 RTOS 在五类部署形态中的机制优势。
|
||||
|
||||
项目框架2则把研究主语上移到“面向 AI 的实时控制基础系统”,重点讨论:
|
||||
|
||||
- RTOS 在整个系统中的位置;
|
||||
- Linux、RTOS 与 Hypervisor 如何协同;
|
||||
- 模型推理、资源竞争与控制任务如何共同构成实时边界;
|
||||
- 企业与平台如何从 RTOS 供应方转向基础系统供应方。
|
||||
|
||||
这两套框架可以并行维护,分别服务于不同层次的课题收敛。
|
||||
@@ -0,0 +1,86 @@
|
||||
# 总课题与两个子课题的关系
|
||||
|
||||
## 1. 决策记录
|
||||
|
||||
在对 2026-09-22 会议内容、框架2当前结构和外部相关研究进行综合判断后,当前对框架2的组织方式做出如下决策:
|
||||
|
||||
> **框架2继续保留为“面向 AI 的实时控制基础系统研究”这一总课题,不单独再分出框架3;但在框架2内部,明确提升为“一总课题 + 两个子课题 + 一个共享方法层”的结构。**
|
||||
|
||||
这一决策的核心依据是:
|
||||
|
||||
1. `MCU` 路线与 `边侧 SoC` 路线已经不是同一种技术问题;
|
||||
2. 但两条路线仍然服务于同一个更高层研究主语,即“面向 AI 的实时控制基础系统”;
|
||||
3. 三层边界、验证矩阵、评价框架和对照逻辑仍然具有共享性;
|
||||
4. 目录层级上如果不把两个子课题抬成一级目录,就会削弱其独立研究价值。
|
||||
|
||||
## 2. 总课题是什么
|
||||
|
||||
总课题回答的是:
|
||||
|
||||
> **人工智能能力进入实时控制系统之后,基础系统如何维持系统的确定性、可预测性与整体实时边界。**
|
||||
|
||||
这一层负责统一以下内容:
|
||||
|
||||
- 研究主语;
|
||||
- 问题定义;
|
||||
- 三层边界;
|
||||
- 验证矩阵;
|
||||
- 对照方法;
|
||||
- 总体评价框架;
|
||||
- 总体论文和课题表达。
|
||||
|
||||
## 3. 为什么需要两个子课题
|
||||
|
||||
### 3.1 子课题 A:面向 MCU 的静态智能控制基础系统
|
||||
|
||||
这一子课题主要回答:
|
||||
|
||||
- 极小资源预算下,人工智能能力如何被静态、可分析地纳入控制系统;
|
||||
- 小模型、小算子、工具链、代码生成与芯片协同如何共同形成系统能力;
|
||||
- 低功耗、小型化与极小内存预算如何构成主边界。
|
||||
|
||||
### 3.2 子课题 B:面向边侧 SoC 的混合实时控制基础系统
|
||||
|
||||
这一子课题主要回答:
|
||||
|
||||
- Linux、RTOS、Hypervisor 与 Hybrid 结构如何在同一 SoC 上协同;
|
||||
- 统一内存、总线、DMA、NPU/GPU 竞争如何被治理;
|
||||
- 控制链路、推理链路与规则兜底如何共同形成整体边界。
|
||||
|
||||
## 4. 为什么不现在直接分出框架3
|
||||
|
||||
当前不单独再分出框架3,主要基于三点考虑:
|
||||
|
||||
1. **研究主语没有分裂**
|
||||
两个子课题仍然隶属于同一个总课题主语。
|
||||
2. **方法层高度共享**
|
||||
三层边界、验证矩阵和评价框架不需要重复建设。
|
||||
3. **当前阶段更适合内部分流,而不是外部分家**
|
||||
目前仍处于课题框架优选和收敛阶段,过早拆出框架3会增加主线分散的风险。
|
||||
|
||||
## 5. 当前目录组织原则
|
||||
|
||||
因此,框架2当前采用以下结构:
|
||||
|
||||
- `00-总课题总览`
|
||||
- `10-共享理论与方法层`
|
||||
- `20-子课题A-面向MCU的静态智能控制基础系统`
|
||||
- `30-子课题B-面向边侧SoC的混合实时控制基础系统`
|
||||
- `40-综合比较与收敛`
|
||||
|
||||
这种结构同时满足:
|
||||
|
||||
- 总课题不散;
|
||||
- 子课题不被湮灭;
|
||||
- 后续可以继续长成独立课题;
|
||||
- 当前仍可维持统一的研究主线。
|
||||
|
||||
## 6. 后续演化条件
|
||||
|
||||
只有在以下条件进一步成立时,才考虑把子课题继续外扩为独立框架或独立申报方向:
|
||||
|
||||
1. 两个子课题分别对应不同合作方、不同交付物和不同对外课题口径;
|
||||
2. 两个子课题形成了不再共享的方法层和评价体系;
|
||||
3. 论文、实验和合作推进已经自然分化为两套完整闭环。
|
||||
|
||||
在此之前,框架2保持“一总两子”的结构是当前最稳的组织方式。
|
||||
@@ -0,0 +1,238 @@
|
||||
# 面向AI的实时控制基础系统整体研究框架
|
||||
|
||||
## 0. 核心问题
|
||||
|
||||
本框架围绕“人工智能能力进入实时控制系统之后,基础系统如何维持整体实时边界”展开。核心判断是:
|
||||
|
||||
> **当人工智能目标负载进入实时控制系统后,系统需要解决的已经不是单一操作系统问题,而是模型、运行时、RTOS、Linux、Hypervisor、芯片、总线、内存、NPU、GPU、DMA 和规则兜底机制共同构成的整体实时性问题。`SylixOS` 可作为关键实验样例,`QNX`、`VxWorks`、`INTEGRITY`、`LynxOS-178` 等可作为参照平台。**
|
||||
|
||||
这里有四个基础判断:
|
||||
|
||||
1. **研究对象是面向 AI 的实时控制基础系统**;
|
||||
2. **人工智能推理在系统中承担目标负载角色**;
|
||||
3. **RTOS 是关键底座,但不是全部因果的唯一承担者**;
|
||||
4. **硬件条件以验证矩阵形式组织研究证据。**
|
||||
|
||||
本框架评估的是:当人工智能目标负载与关键保障负载共同进入系统时,基础系统如何维持控制路径、推理路径和资源路径的整体边界。
|
||||
|
||||
---
|
||||
|
||||
## 1. 问题空间:五类部署形态、三类系统负载与跨层实时性
|
||||
|
||||
### 1.1 五类部署形态
|
||||
|
||||
`T5~T1` 五类部署形态继续作为验证矩阵。
|
||||
|
||||
| 部署形态 | 系统角色 | 主要研究关注点 |
|
||||
|---|---|---|
|
||||
| T5 控制端 | 极紧资源预算下的控制节点 | 静态分配、低功耗、极小内存预算 |
|
||||
| T4 设备端 SoC | 设备本体内的异构平台 | Linux/RTOS 协同、统一内存与带宽隔离 |
|
||||
| T3 边缘节点 | 近源推理与控制协同节点 | 多任务并发、热稳定性、边缘协同 |
|
||||
| T2 单机工作站 | 单机高密本地推理平台 | 多卡公平性、控制侧保护与资源协同 |
|
||||
| T1 服务器 / 集群 | 任务关键场景中的分布式协同平台 | 跨节点协同、系统边界与规模扩展 |
|
||||
|
||||
这些部署形态回答的是“在哪里验证”,而不是“什么是研究主语”。
|
||||
|
||||
### 1.2 三类系统负载
|
||||
|
||||
| 负载类型 | 定义 | 典型例子 |
|
||||
|---|---|---|
|
||||
| 人工智能目标负载 | 系统要完成的智能功能本身 | LLM 推理、视觉识别、导航规划、故障诊断 |
|
||||
| 关键保障负载 | 维持安全与执行闭环的关键任务 | 周期控制、联锁、状态采集、执行输出 |
|
||||
| 伴生竞争负载 | 会争抢资源但不属于主功能的任务 | 日志、更新、模型加载、通信、I/O |
|
||||
|
||||
### 1.3 跨层实时性问题
|
||||
|
||||
本框架中的“实时性”不再只指调度器和中断路径,而是至少同时涉及:
|
||||
|
||||
- 模型与推理阶段时间行为;
|
||||
- 运行时与队列组织;
|
||||
- RTOS 的关键任务保障能力;
|
||||
- Linux 的生态与推理承载能力;
|
||||
- Hypervisor 的隔离与资源切分;
|
||||
- 总线、内存、DMA、NPU、GPU 等资源竞争结构;
|
||||
- 规则兜底与异常切换机制。
|
||||
|
||||
---
|
||||
|
||||
## 2. 分层边界:三层系统问题
|
||||
|
||||
### 2.1 RTOS 直接控制域
|
||||
|
||||
这一层是 RTOS 可以直接施加机制约束的部分,包括:
|
||||
|
||||
- 关键任务调度;
|
||||
- 中断优先级与抢占关系;
|
||||
- CPU 侧线程、同步与时钟机制;
|
||||
- 恢复、隔离和关键路径治理。
|
||||
|
||||
这一层回答的是:
|
||||
|
||||
> **RTOS 如何为关键保障负载建立确定性底座。**
|
||||
|
||||
### 2.2 推理运行域
|
||||
|
||||
这一层主要由模型、量化、算子、运行时和驱动共同决定,包括:
|
||||
|
||||
- Prefill / Decode 时延结构;
|
||||
- 模型大小与量化精度;
|
||||
- KV Cache、内存组织与队列行为;
|
||||
- GPU/NPU 内部执行与框架调度。
|
||||
|
||||
这一层回答的是:
|
||||
|
||||
> **人工智能目标负载本身具有什么样的时间行为和资源行为。**
|
||||
|
||||
### 2.3 系统协同域
|
||||
|
||||
这一层是本框架的重点,包括:
|
||||
|
||||
- Linux 与 RTOS 的角色分工;
|
||||
- Hypervisor 的隔离与资源划分;
|
||||
- 总线、DMA、外存、统一内存与协处理器竞争治理;
|
||||
- 规则兜底、安全约束与异常切换;
|
||||
- 关键保障负载与人工智能目标负载之间的优先级关系。
|
||||
|
||||
这一层回答的是:
|
||||
|
||||
> **在混合系统中,整体实时性如何被建立、维持和验证。**
|
||||
|
||||
---
|
||||
|
||||
## 3. 两条主要技术路线
|
||||
|
||||
### 3.1 MCU 路线:静态分配、工具链与芯片协同
|
||||
|
||||
MCU 路线重点关注:
|
||||
|
||||
- 小模型、小算子与控制任务的静态编排;
|
||||
- 工具链、代码生成与开发套件;
|
||||
- 与芯片厂商的协同设计;
|
||||
- 极小资源预算下的 AI 目标负载纳入方式。
|
||||
|
||||
这条路线的关键词是:
|
||||
|
||||
`静态分配`、`工具链`、`开发套件`、`芯片协同`
|
||||
|
||||
### 3.2 SoC 路线:Hybrid、Hypervisor 与整体确定性
|
||||
|
||||
SoC 路线重点关注:
|
||||
|
||||
- Linux 侧推理与 RTOS 侧控制的分工;
|
||||
- Hybrid 结构从“并置”升级为“协同治理”;
|
||||
- Hypervisor 的隔离、分簇和资源切分;
|
||||
- 统一内存、总线、DMA、NPU/GPU 竞争治理;
|
||||
- 控制与 AI 在同一系统中的整体确定性。
|
||||
|
||||
这条路线的关键词是:
|
||||
|
||||
`Hybrid`、`Hypervisor`、`隔离`、`资源治理`、`系统确定性`
|
||||
|
||||
---
|
||||
|
||||
## 4. 统一技术体系:五层技术栈与横向治理线
|
||||
|
||||
本框架继续保留五层技术栈表达,但其含义从“RTOS 机制展开”进一步上升为“基础系统展开”。
|
||||
|
||||
```
|
||||
┌───────────────────────────────────────────────────────────────┐
|
||||
│ L5 模型与任务语义层 │
|
||||
│ 任务语义、模型结构、量化、输出约束、业务边界 │
|
||||
├───────────────────────────────────────────────────────────────┤
|
||||
│ L4 运行时与负载编排层 │
|
||||
│ 队列、准入控制、内存池、流水线、推理框架、规则兜底接口 │
|
||||
├───────────────────────────────────────────────────────────────┤
|
||||
│ L3 资源抽象与系统协同层 │
|
||||
│ CPU/NPU/GPU/DMA/总线/统一内存抽象、Hypervisor、资源治理 │
|
||||
├───────────────────────────────────────────────────────────────┤
|
||||
│ L2 基础软件控制层 │
|
||||
│ RTOS、Linux、中断、调度、同步、恢复、隔离、关键路径保护 │
|
||||
├───────────────────────────────────────────────────────────────┤
|
||||
│ L1 硬件与互联层 │
|
||||
│ MCU、SoC、加速器、缓存、总线、外存、网络互联、时钟源 │
|
||||
└───────────────────────────────────────────────────────────────┘
|
||||
```
|
||||
|
||||
横向治理线包括:安全、审计、配置版本、日志证据、时间同步、可观测性、规则兜底、异常切换和 OTA / 回滚能力。
|
||||
|
||||
---
|
||||
|
||||
## 5. 研究主线:整体实时边界的建立与验证
|
||||
|
||||
本框架后续所有子方向都服务于同一个主命题:
|
||||
|
||||
> **面向 AI 的实时控制基础系统如何在人工智能目标负载进入控制闭环后,维持系统的确定性、可预测性与整体实时边界。**
|
||||
|
||||
围绕这个主命题,研究主线可以组织为六个方向:
|
||||
|
||||
1. **RTOS 直接控制域的保障机制**
|
||||
2. **人工智能目标负载的时间行为建模**
|
||||
3. **系统协同域的资源隔离与治理**
|
||||
4. **MCU 路线的静态编排与工具链能力**
|
||||
5. **SoC 路线的 Hybrid / Hypervisor 协同结构**
|
||||
6. **规则兜底、异常切换与闭环安全边界**
|
||||
|
||||
这些方向共同服务于一个判断:
|
||||
|
||||
> **人工智能能力进入实时控制系统后,系统是否仍然有边界,以及这个边界由哪些机制共同构成。**
|
||||
|
||||
---
|
||||
|
||||
## 6. 评价框架:三层指标同时成立
|
||||
|
||||
### 6.1 人工智能目标负载指标
|
||||
|
||||
- `TTFT`
|
||||
- `TPOT`
|
||||
- 端到端响应时间
|
||||
- 功能有效性
|
||||
- 长时间稳定性
|
||||
|
||||
### 6.2 关键保障负载指标
|
||||
|
||||
- `deadline miss ratio`
|
||||
- `P99/P99.9 jitter`
|
||||
- 观测最大响应时间
|
||||
- 外部接口响应时间
|
||||
|
||||
### 6.3 系统协同指标
|
||||
|
||||
- 有效吞吐
|
||||
- `E/token` / `tokens/J`
|
||||
- 温度、热漂移与降频行为
|
||||
- 资源隔离效果
|
||||
- 恢复能力与异常切换表现
|
||||
|
||||
因此,本框架的成功标准是:
|
||||
|
||||
> **人工智能目标负载、关键保障负载与系统协同三层指标同时成立。**
|
||||
|
||||
---
|
||||
|
||||
## 7. 对照关系:Linux、PREEMPT_RT、RTOS 与混合结构
|
||||
|
||||
后续实验与叙事可采用四类对照:
|
||||
|
||||
| 对照组 | 含义 | 作用 |
|
||||
|---|---|---|
|
||||
| `O0` 普通 Linux | 通用系统基线 | 观察非实时平台的自然行为 |
|
||||
| `O1` PREEMPT_RT Linux | 实时增强型 Linux | 观察增强型通用 OS 的边界 |
|
||||
| `O2` RTOS 原生配置 | RTOS 基础路径 | 观察 RTOS 底座能力 |
|
||||
| `O3` 混合基础系统配置 | Linux + RTOS + Hypervisor 或协同结构 | 观察整体协同路径的收益与代价 |
|
||||
|
||||
这条对照线的重点,不再只是比较“谁更快”,而是比较:
|
||||
|
||||
- 谁更能维持关键保障负载边界;
|
||||
- 谁更能承受 AI 目标负载进入后的资源竞争;
|
||||
- 谁更能形成可解释、可复现、可治理的整体系统秩序。
|
||||
|
||||
---
|
||||
|
||||
## 8. 预期成果
|
||||
|
||||
1. **问题定义层**:人工智能能力进入实时控制系统后的基础系统问题定义;
|
||||
2. **分析层**:RTOS 直接控制域、推理运行域与系统协同域的边界划分方法;
|
||||
3. **机制层**:面向 Hybrid / Hypervisor / 资源治理 / 规则兜底的基础系统机制;
|
||||
4. **方法层**:覆盖 `T5~T1` 的统一验证矩阵与对照方法;
|
||||
5. **产业层**:从 RTOS 平台叙事上升到基础系统叙事的合作与产品路线;
|
||||
6. **论文层**:面向实时系统、嵌入式系统和低功耗系统方向的系统化论文与报告。
|
||||
@@ -0,0 +1,90 @@
|
||||
# RTOS直接控制域
|
||||
|
||||
## 1. 主题定位
|
||||
|
||||
在框架2中,RTOS 不再被写成全部系统问题的唯一承担者,但它仍然是关键保障负载确定性底座的核心组成部分。本文件用于明确:哪些问题属于 RTOS 可以直接控制和分析的范围,哪些问题不应继续归因到 RTOS 身上。
|
||||
|
||||
## 2. 直接控制域的边界
|
||||
|
||||
RTOS 直接控制域主要包括:
|
||||
|
||||
- 周期任务、关键任务与后台任务的调度关系;
|
||||
- 中断优先级、抢占路径和线程化中断机制;
|
||||
- CPU 侧线程、同步互斥、时钟与定时器;
|
||||
- 内存锁定、关键缓冲区预分配与恢复机制;
|
||||
- 关键任务隔离、核心绑定和关键路径保护;
|
||||
- 对共享资源治理接口的直接约束能力。
|
||||
|
||||
这一层回答的是:
|
||||
|
||||
> **RTOS 如何在人工智能目标负载进入系统后,持续保护关键保障负载的时间边界。**
|
||||
|
||||
## 3. 核心研究问题
|
||||
|
||||
### 3.1 关键任务如何不被人工智能目标负载拖垮
|
||||
|
||||
当人工智能目标负载与关键保障负载并存时,RTOS 的首要任务不是提高模型吞吐,而是确保:
|
||||
|
||||
- 周期控制任务不失去截止期;
|
||||
- 中断链路不被模型加载、日志、I/O 和推理提交路径污染;
|
||||
- 恢复路径在异常条件下仍然可触发;
|
||||
- 控制输出始终保留优先权。
|
||||
|
||||
### 3.2 哪些资源竞争能够由 RTOS 直接治理
|
||||
|
||||
RTOS 可以直接治理的通常是:
|
||||
|
||||
- CPU 时间分配;
|
||||
- 抢占关系;
|
||||
- 中断响应顺序;
|
||||
- 同步冲突;
|
||||
- 关键路径上的内核对象与内存使用方式。
|
||||
|
||||
RTOS 不能单独决定的,则包括 GPU/NPU 内部算子执行、显存流水线、驱动内部队列与片上总线物理冲突。这些内容必须和系统协同域一起讨论。
|
||||
|
||||
## 4. 关键机制
|
||||
|
||||
### 4.1 调度与抢占
|
||||
|
||||
关键保障负载应继续保持硬优先级或等价的刚性优先级结构。人工智能目标负载相关线程、提交路径和后台服务线程必须被限制在不会破坏关键任务的优先级层次中。
|
||||
|
||||
### 4.2 中断与关键路径治理
|
||||
|
||||
模型加载、设备中断、网络和存储路径都可能拉长关键路径。后续研究应重点观察:
|
||||
|
||||
- 哪些中断必须线程化;
|
||||
- 哪些中断应固定到非关键核;
|
||||
- 哪些设备中断会污染关键任务核;
|
||||
- 推理提交和结果回收链路是否会引发优先级倒置。
|
||||
|
||||
### 4.3 恢复与隔离
|
||||
|
||||
当推理链路失稳、超时或内存耗尽时,RTOS 直接控制域需要承担:
|
||||
|
||||
- 关键任务不受波及的隔离;
|
||||
- 降级模式触发;
|
||||
- 任务重启与恢复;
|
||||
- 对控制回路的兜底保持。
|
||||
|
||||
## 5. 评价重点
|
||||
|
||||
这一层的核心指标包括:
|
||||
|
||||
- `deadline miss ratio`
|
||||
- `P99/P99.9 jitter`
|
||||
- 观测最大响应时间
|
||||
- 外部接口响应时间
|
||||
- 恢复时间与异常切换开销
|
||||
|
||||
这些指标构成 RTOS 直接控制域的主证据,不应和 GPU/NPU 内部执行指标混为一体。
|
||||
|
||||
## 6. 与其他层的关系
|
||||
|
||||
- 与 `推理运行域` 的关系:RTOS 负责保护关键路径,推理运行域负责描述 AI 目标负载本身的时间行为;
|
||||
- 与 `系统协同域` 的关系:RTOS 负责可直接治理的部分,系统协同域负责 Linux、Hypervisor 和异构资源共同造成的整体边界问题。
|
||||
|
||||
## 7. 当前结论
|
||||
|
||||
框架2并没有削弱 RTOS 的价值,而是把 RTOS 的价值说得更准确:
|
||||
|
||||
> **RTOS 是关键保障负载的确定性底座,是人工智能进入实时控制系统后仍能维持秩序的直接控制层。**
|
||||
@@ -0,0 +1,85 @@
|
||||
# 推理运行域
|
||||
|
||||
## 1. 主题定位
|
||||
|
||||
推理运行域用于解释人工智能目标负载本身的时间行为、资源行为和优化空间。框架2强调,大模型与智能算法的实时问题不能完全归因到 RTOS 身上,原因就在于推理运行域本身已经带有很强的结构性时间特征。
|
||||
|
||||
## 2. 推理运行域包含什么
|
||||
|
||||
这一层主要包括:
|
||||
|
||||
- 模型结构与参数规模;
|
||||
- 量化方式与数值精度;
|
||||
- Prefill / Decode 两阶段时间特征;
|
||||
- KV Cache 生命周期与内存组织;
|
||||
- 推理框架队列、批处理与上下文管理;
|
||||
- 算子实现、驱动路径和设备执行接口。
|
||||
|
||||
这一层回答的是:
|
||||
|
||||
> **人工智能目标负载本身具有什么样的时间行为、内存行为和资源竞争特征。**
|
||||
|
||||
## 3. 为什么这一层不能被省略
|
||||
|
||||
如果把所有实时性问题都写成 RTOS 问题,就会忽略以下事实:
|
||||
|
||||
- 不同模型大小对内存和时延的影响完全不同;
|
||||
- 量化方式会显著改变推理峰值、稳定性和能效;
|
||||
- 同一硬件上,不同框架和不同算子组合会带来巨大差异;
|
||||
- Decode 阶段与 Prefill 阶段的时间结构并不相同;
|
||||
- 推理框架内部队列策略会直接影响首响应时间与尾延迟。
|
||||
|
||||
因此,推理运行域必须被单独分析。
|
||||
|
||||
## 4. 核心研究问题
|
||||
|
||||
### 4.1 模型时间行为如何进入系统分析
|
||||
|
||||
后续研究需要回答:
|
||||
|
||||
- 不同模型在 Prefill 与 Decode 阶段分别造成什么样的时间分布;
|
||||
- 哪些阶段是延迟敏感的;
|
||||
- 哪些阶段可以延后、限流或降级;
|
||||
- 哪些阶段会对关键保障负载形成直接冲击。
|
||||
|
||||
### 4.2 内存与缓存如何形成主瓶颈
|
||||
|
||||
对于设备端 SoC 和边缘节点,KV Cache、统一内存与 DMA 搬运常常比算力本身更早成为主瓶颈。
|
||||
因此,这一层需要重点分析:
|
||||
|
||||
- 权重、KV Cache、工作区和运行时缓冲的占用边界;
|
||||
- 模型切换、上下文增长和并发请求如何改变内存行为;
|
||||
- 哪些内存组织方式更适合和关键保障负载并存。
|
||||
|
||||
### 4.3 量化与算子如何影响实时边界
|
||||
|
||||
量化和算子优化不仅影响吞吐,还影响:
|
||||
|
||||
- 首响应时延;
|
||||
- 长稳阶段的功耗与热状态;
|
||||
- 设备端资源占用;
|
||||
- 能否在受限部署条件下持续运行。
|
||||
|
||||
## 5. 评价重点
|
||||
|
||||
这一层的核心指标包括:
|
||||
|
||||
- `TTFT`
|
||||
- `TPOT`
|
||||
- 端到端响应时间
|
||||
- 功能有效性与任务完成率
|
||||
- 峰值内存、工作区与长稳退化
|
||||
- 单位任务能耗与热漂移
|
||||
|
||||
这些指标构成 AI 目标负载本身的主证据。
|
||||
|
||||
## 6. 与其他层的关系
|
||||
|
||||
- 与 `RTOS 直接控制域` 的关系:推理运行域描述 AI 目标负载自身行为,RTOS 控制域负责保护关键任务不被这些行为拖垮;
|
||||
- 与 `系统协同域` 的关系:推理运行域给出负载输入,系统协同域回答这些负载如何与 Linux、Hypervisor 和异构资源共同形成整体边界。
|
||||
|
||||
## 7. 当前结论
|
||||
|
||||
框架2保留 RTOS 的重要性,但明确要求把推理运行域单独提出,是因为:
|
||||
|
||||
> **只有先把人工智能目标负载本身的时间结构说清楚,后续系统边界分析才不会落回单因果叙事。**
|
||||
@@ -0,0 +1,107 @@
|
||||
# 系统协同域
|
||||
|
||||
## 1. 主题定位
|
||||
|
||||
系统协同域是框架2相对框架1最大的变化之一。它不再把问题停留在“RTOS 是否更强”,而是直接讨论:当 Linux、RTOS、Hypervisor、统一内存、总线、DMA、NPU、GPU 和规则兜底机制共同存在时,整体实时性如何被建立、维持和验证。
|
||||
|
||||
## 2. 为什么系统协同域是主问题
|
||||
|
||||
会议中最关键的判断之一是:人工智能进入实时控制系统后的真实问题,已经超出了单一操作系统边界。原因在于:
|
||||
|
||||
- 推理生态通常离不开 Linux;
|
||||
- 关键保障负载需要 RTOS 或等价实时控制底座;
|
||||
- 设备端 SoC 常常采用统一内存和异构协处理器;
|
||||
- Hypervisor 与隔离机制直接影响资源边界;
|
||||
- 规则兜底与安全约束必须与模型输出共同工作。
|
||||
|
||||
因此,系统协同域回答的是:
|
||||
|
||||
> **在混合结构中,整体秩序如何形成。**
|
||||
|
||||
## 3. 核心问题
|
||||
|
||||
### 3.1 Linux 与 RTOS 如何分工
|
||||
|
||||
Linux 更适合承担:
|
||||
|
||||
- 推理框架与模型生态;
|
||||
- 容器、服务和工具链支持;
|
||||
- 非关键路径的 AI 相关运行任务。
|
||||
|
||||
RTOS 更适合承担:
|
||||
|
||||
- 关键保障负载;
|
||||
- 控制闭环中的刚性时间边界;
|
||||
- 关键路径上的确定性治理。
|
||||
|
||||
系统协同域的核心,不是让两者彼此替代,而是让两者分工清楚、边界稳定。
|
||||
|
||||
### 3.2 Hypervisor 在这里起什么作用
|
||||
|
||||
Hypervisor 不是附属选项,而是重要研究对象之一。它至少影响:
|
||||
|
||||
- 核心隔离和资源切分;
|
||||
- 中断路由和设备访问边界;
|
||||
- 共享内存与通信路径;
|
||||
- 异常传播与恢复策略。
|
||||
|
||||
在设备端 SoC 和边缘节点上,Hypervisor 往往是把“共存”升级为“可治理共存”的关键层。
|
||||
|
||||
### 3.3 异构资源竞争如何进入系统分析
|
||||
|
||||
在 SoC 和边缘节点上,整体边界往往由以下竞争共同决定:
|
||||
|
||||
- CPU 与 NPU/GPU 的统一内存争用;
|
||||
- DMA 与 CPU 访存冲突;
|
||||
- 总线与缓存竞争;
|
||||
- 模型加载与控制 I/O 共享带宽;
|
||||
- 后台服务与关键任务共享中断和核资源。
|
||||
|
||||
这些问题不能只在驱动层或 RTOS 层单独解释,必须进入系统协同域。
|
||||
|
||||
## 4. 关键机制
|
||||
|
||||
### 4.1 资源隔离
|
||||
|
||||
后续研究应重点观察:
|
||||
|
||||
- CPU 核和关键任务核是否可隔离;
|
||||
- 设备中断是否可隔离;
|
||||
- 共享内存和 DMA 缓冲是否可限定边界;
|
||||
- 模型提交路径是否会挤占控制路径资源。
|
||||
|
||||
### 4.2 协同治理
|
||||
|
||||
协同治理关注的是:
|
||||
|
||||
- 推理与控制如何分层;
|
||||
- 哪些事件由 Linux 负责,哪些由 RTOS 负责;
|
||||
- 资源冲突发生时谁拥有优先权;
|
||||
- 发生过载和异常时系统如何降级与恢复。
|
||||
|
||||
### 4.3 证据组织
|
||||
|
||||
系统协同域的证据不能只看某一个线程或某一个服务,而需要同时观察:
|
||||
|
||||
- 人工智能目标负载层;
|
||||
- 关键保障负载层;
|
||||
- 系统协同层。
|
||||
|
||||
只有三层指标同时成立,才能说明协同结构是有效的。
|
||||
|
||||
## 5. 对照方式
|
||||
|
||||
框架2的主对照建议采用:
|
||||
|
||||
- `O0` 普通 Linux
|
||||
- `O1` PREEMPT_RT Linux
|
||||
- `O2` RTOS 原生配置
|
||||
- `O3` 混合基础系统配置
|
||||
|
||||
其中 `O3` 不再只是附属架构,而是系统协同域的主实验路径之一。
|
||||
|
||||
## 6. 当前结论
|
||||
|
||||
框架2真正抬升的,不只是标题口径,而是研究主线本身:
|
||||
|
||||
> **系统协同域使项目从“RTOS 机制研究”走向“人工智能进入实时控制系统后的基础系统研究”。**
|
||||
@@ -0,0 +1,80 @@
|
||||
# 规则兜底与控制闭环
|
||||
|
||||
## 1. 主题定位
|
||||
|
||||
人工智能能力进入实时控制系统后,系统不可能只靠模型输出维持闭环。框架2因此把“规则兜底与控制闭环”单独列为一条研究线,用来说明模型推理、控制逻辑、安全约束和异常切换如何共同维持系统边界。
|
||||
|
||||
## 2. 为什么必须单独提出这一层
|
||||
|
||||
如果只讨论模型推理和操作系统,容易忽略一个关键事实:
|
||||
|
||||
- 模型输出可能延迟;
|
||||
- 模型输出可能不稳定;
|
||||
- 模型输出可能不满足控制安全边界;
|
||||
- 系统必须在异常条件下退回到规则与安全约束支撑的路径。
|
||||
|
||||
因此,真实系统需要的是“模型驱动 + 规则兜底”的混合闭环。
|
||||
|
||||
## 3. 核心研究问题
|
||||
|
||||
### 3.1 模型与规则如何分工
|
||||
|
||||
模型更适合承担:
|
||||
|
||||
- 感知理解;
|
||||
- 语义识别;
|
||||
- 规划建议;
|
||||
- 异常模式发现。
|
||||
|
||||
规则层更适合承担:
|
||||
|
||||
- 安全边界检查;
|
||||
- 优先级裁决;
|
||||
- 异常降级;
|
||||
- 默认动作触发;
|
||||
- 恢复条件判定。
|
||||
|
||||
### 3.2 闭环如何建立
|
||||
|
||||
框架2中的闭环至少包括:
|
||||
|
||||
1. 感知输入;
|
||||
2. 推理与规划;
|
||||
3. 规则检查;
|
||||
4. 执行输出;
|
||||
5. 状态回读;
|
||||
6. 异常切换与恢复。
|
||||
|
||||
只有这条链路完整,系统才是真正的实时控制系统,而不是带 AI 的普通服务系统。
|
||||
|
||||
### 3.3 异常切换如何进入系统实验
|
||||
|
||||
后续实验不仅要测正常场景,还要测:
|
||||
|
||||
- 模型超时;
|
||||
- 队列过载;
|
||||
- 设备异常;
|
||||
- 推理链路中断;
|
||||
- 控制路径回退。
|
||||
|
||||
这些内容构成规则兜底层的核心证据。
|
||||
|
||||
## 4. 评价重点
|
||||
|
||||
这一层重点观察:
|
||||
|
||||
- 异常切换时间;
|
||||
- 规则触发正确性;
|
||||
- 降级后的关键任务保持情况;
|
||||
- 恢复后的系统稳定性;
|
||||
- 模型与规则共同工作时的整体边界。
|
||||
|
||||
## 5. 与其他层的关系
|
||||
|
||||
- 与 `RTOS 直接控制域` 的关系:RTOS 负责底层调度与恢复执行;
|
||||
- 与 `推理运行域` 的关系:模型提供感知和规划能力;
|
||||
- 与 `系统协同域` 的关系:规则兜底把混合系统真正闭合成可执行的控制系统。
|
||||
|
||||
## 6. 当前结论
|
||||
|
||||
> **没有规则兜底与异常切换,人工智能进入实时控制系统就只是“把模型接进来了”;只有闭环建立起来,基础系统课题才真正成立。**
|
||||
@@ -0,0 +1,129 @@
|
||||
# 面向AI的实时控制基础系统研究逻辑说明
|
||||
|
||||
## 1. 文档目的
|
||||
|
||||
本文用于解释框架2的研究逻辑,重点回答三个问题:
|
||||
|
||||
1. 研究对象从 RTOS 平台上升到基础系统之后,实验如何组织;
|
||||
2. `T5~T1` 验证矩阵如何继续保留,同时不替代研究主语;
|
||||
3. Linux、RTOS、Hypervisor 与混合结构如何进入统一对照框架。
|
||||
|
||||
## 2. 研究对象
|
||||
|
||||
本框架的研究对象是:
|
||||
|
||||
> **面向 AI 的实时控制基础系统。**
|
||||
|
||||
其核心不是某一个单一软件层,而是下面三层共同构成的系统:
|
||||
|
||||
- **RTOS 直接控制域**:关键任务调度、中断、同步、恢复和控制路径保护;
|
||||
- **推理运行域**:模型、量化、算子、推理框架、驱动与运行时队列;
|
||||
- **系统协同域**:Linux、RTOS、Hypervisor、统一内存、总线、DMA、NPU/GPU 和资源治理结构。
|
||||
|
||||
## 3. T5~T1 验证矩阵的角色
|
||||
|
||||
`T5~T1` 五类部署形态继续承担三项作用:
|
||||
|
||||
1. **验证矩阵**:在不同资源与系统角色下检验同一问题是否成立;
|
||||
2. **证据组织框架**:把结论放回统一谱系中观察边界和收窄区间;
|
||||
3. **产业解释接口**:让不同部署位置都能找到现实对应场景。
|
||||
|
||||
在框架2中,`T5~T1` 回答的是“在哪里验证”,而不是“研究对象是什么”。
|
||||
|
||||
## 4. 两条技术路线如何进入实验
|
||||
|
||||
### 4.1 MCU 路线
|
||||
|
||||
MCU 路线更适合围绕以下内容组织实验:
|
||||
|
||||
- 小模型与控制任务的静态编排;
|
||||
- 工具链和开发套件的能力;
|
||||
- 极小资源预算下的任务边界;
|
||||
- 与芯片规格、片上资源和开发流程的协同关系。
|
||||
|
||||
### 4.2 SoC 路线
|
||||
|
||||
SoC 路线更适合围绕以下内容组织实验:
|
||||
|
||||
- Linux / RTOS 的角色分工;
|
||||
- Hybrid 结构与 Hypervisor 的隔离方式;
|
||||
- 统一内存、总线和异构协处理器竞争;
|
||||
- 推理链路与控制链路并存时的整体实时性。
|
||||
|
||||
## 5. 对照逻辑
|
||||
|
||||
框架2的主对照不再只限于“普通 Linux / PREEMPT_RT / RTOS”,而是扩展为:
|
||||
|
||||
| 编号 | 配置 | 作用 |
|
||||
|---|---|---|
|
||||
| `O0` | 普通 Linux | 通用系统基线 |
|
||||
| `O1` | PREEMPT_RT Linux | 实时增强 Linux 的边界 |
|
||||
| `O2` | RTOS 原生配置 | RTOS 底座能力 |
|
||||
| `O3` | 混合基础系统配置 | Linux + RTOS + Hypervisor 或等价协同结构 |
|
||||
|
||||
必要时还可以继续细分 `O3` 的不同协同版本,用于比较不同 Hybrid 结构的收益与代价。
|
||||
|
||||
## 6. 核心实验顺序
|
||||
|
||||
框架2的实验顺序建议如下:
|
||||
|
||||
1. **系统就绪性确认**:设备、驱动、模型、测量链路和基础软件栈可用;
|
||||
2. **单域基线测试**:分别测试推理运行域与关键保障负载的基础行为;
|
||||
3. **双域并存测试**:测试人工智能目标负载与关键保障负载共存时的边界;
|
||||
4. **协同结构测试**:引入 Linux / RTOS / Hypervisor 混合结构,比较不同协同方式;
|
||||
5. **极限与恢复测试**:引入突发负载、长稳运行、异常切换和规则兜底场景;
|
||||
6. **跨档位回收分析**:把结论放回 `T5~T1` 观察适用区间与失效边界。
|
||||
|
||||
## 7. 核心指标
|
||||
|
||||
框架2仍然采用三层指标结构:
|
||||
|
||||
### 7.1 人工智能目标负载层
|
||||
|
||||
- `TTFT`
|
||||
- `TPOT`
|
||||
- 端到端响应时间
|
||||
- 功能有效性
|
||||
|
||||
### 7.2 关键保障负载层
|
||||
|
||||
- `deadline miss ratio`
|
||||
- `P99/P99.9 jitter`
|
||||
- 观测最大响应时间
|
||||
- 外部接口响应时间
|
||||
|
||||
### 7.3 系统协同层
|
||||
|
||||
- 有效吞吐
|
||||
- 资源隔离效果
|
||||
- `E/token`
|
||||
- 温度与热漂移
|
||||
- 异常切换与恢复能力
|
||||
|
||||
## 8. 与框架1的关键差别
|
||||
|
||||
框架1的重点是:
|
||||
|
||||
- RTOS 作为研究主语;
|
||||
- 六个 RTOS 机制方向;
|
||||
- 观察 RTOS 在五类部署形态中的系统优势。
|
||||
|
||||
框架2的重点是:
|
||||
|
||||
- 基础系统作为研究主语;
|
||||
- 三层边界与两条技术路线;
|
||||
- 观察人工智能进入实时控制系统后,整体边界如何成立。
|
||||
|
||||
因此,框架2更适合承接 2026-09-22 会议中的重定义判断。
|
||||
|
||||
## 9. 当前状态
|
||||
|
||||
框架2当前已经形成一条完整的逻辑链:
|
||||
|
||||
1. 研究对象上移到“面向 AI 的实时控制基础系统”;
|
||||
2. 用三层边界划分研究问题;
|
||||
3. 用 MCU 路线与 SoC 路线组织不同系统结构;
|
||||
4. 用 `T5~T1` 验证矩阵组织证据;
|
||||
5. 用 Linux / RTOS / Hypervisor / 混合结构建立统一对照。
|
||||
|
||||
在此基础上,后续可以继续向更细的实验子文档、联合研究方材料和正式交付物展开。
|
||||
@@ -0,0 +1,100 @@
|
||||
# 面向AI的实时控制基础系统基础设备与算力基础
|
||||
|
||||
## 1. 文档目的
|
||||
|
||||
本文用于说明框架2中的验证矩阵如何组织。这里继续保留 `T5~T1` 五类部署形态,但其作用是“验证矩阵”,不是研究主语。本文件同时把 `MCU 路线` 与 `SoC 路线` 显式放进设备与算力组织逻辑中。
|
||||
|
||||
## 2. 验证矩阵的组织原则
|
||||
|
||||
### 2.1 三条组织原则
|
||||
|
||||
1. **部署形态优先于硬件型号**
|
||||
先回答系统在什么位置运行,再回答用什么设备验证。
|
||||
2. **技术路线优先于单点性能**
|
||||
先区分 MCU 路线与 SoC 路线,再讨论容量、功耗和算力差异。
|
||||
3. **基础系统问题优先于纯吞吐问题**
|
||||
优先选择能暴露控制路径、推理路径与资源竞争关系的设备与场景。
|
||||
|
||||
### 2.2 五类部署形态
|
||||
|
||||
| 部署形态 | 系统角色 | 主要关注点 |
|
||||
|---|---|---|
|
||||
| `T5` 控制端 | 极紧资源预算下的控制节点 | 静态编排、低功耗、极小内存 |
|
||||
| `T4` 设备端 SoC | 设备本体内的异构平台 | Linux/RTOS/Hypervisor 协同、统一内存竞争 |
|
||||
| `T3` 边缘节点 | 设备附近的近源协同节点 | 多任务并发、热稳定性、边缘协同 |
|
||||
| `T2` 单机工作站 | 单机高密本地推理平台 | 多卡公平性、关键任务保护与系统协同 |
|
||||
| `T1` 服务器 / 集群 | 任务关键场景中的分布式协同平台 | 跨节点边界、编排与规模扩展 |
|
||||
|
||||
## 3. 两条技术路线在矩阵中的位置
|
||||
|
||||
### 3.1 MCU 路线
|
||||
|
||||
MCU 路线主要对应 `T5`,重点设备类型包括:
|
||||
|
||||
- MCU 控制器;
|
||||
- 轻量控制盒;
|
||||
- 极小资源预算下的端侧控制节点。
|
||||
|
||||
它承担的问题是:
|
||||
|
||||
- 小模型与控制任务如何静态编排;
|
||||
- 芯片工具链和开发套件如何支撑部署;
|
||||
- 极小内存、功耗与外设约束下能否维持闭环。
|
||||
|
||||
### 3.2 SoC 路线
|
||||
|
||||
SoC 路线主要对应 `T4`,并向 `T3` 延伸。重点设备类型包括:
|
||||
|
||||
- 工业 SoC;
|
||||
- 车规 SoC;
|
||||
- 设备端 AI 模组;
|
||||
- 边缘异构平台。
|
||||
|
||||
它承担的问题是:
|
||||
|
||||
- Linux 与 RTOS 的协同关系;
|
||||
- Hypervisor 的隔离与资源切分;
|
||||
- 统一内存、DMA、总线与 NPU/GPU 竞争;
|
||||
- 设备级功耗、散热与体积约束下的整体确定性。
|
||||
|
||||
## 4. 当前设备锚点
|
||||
|
||||
### 4.1 已有核心平台
|
||||
|
||||
| 平台 | 对应位置 | 当前价值 |
|
||||
|---|---|---|
|
||||
| RK3588 16 GB | `T4-L` / 受限配置可模拟 `T5-H` | 设备端 SoC 主样例;同时可承接小型化与低功耗观察 |
|
||||
| 4×V100 服务器 | `T2-L` | 单机高密推理与关键保障负载保护的对照窗口 |
|
||||
|
||||
### 4.2 条件扩展平台
|
||||
|
||||
| 平台方向 | 对应位置 | 主要价值 |
|
||||
|---|---|---|
|
||||
| RK3568 / 同类控制盒 | `T5-L` | MCU / 轻量控制路线主验证窗口 |
|
||||
| RK3576 / 同类设备 | `T5-M` 或 `T4-L` 衔接档 | 中间资源档位与工具链观察窗口 |
|
||||
| Jetson / IGX / 工控边缘节点 | `T3` / `T4-M` | SoC 向边缘协同扩展的窗口 |
|
||||
| 更高端单机多卡或多节点平台 | `T2-H` / `T1` | 观察规模扩展和协同边界收窄区间 |
|
||||
|
||||
## 5. 为什么框架2仍然保留 `T2/T1`
|
||||
|
||||
框架2并不把 `T2/T1` 当作 RTOS 优势的天然主战场,但仍保留其验证价值:
|
||||
|
||||
- 它们可以暴露 AI 目标负载的运行时复杂性;
|
||||
- 它们可以观察关键保障负载在高密度 AI 负载下是否仍可被保护;
|
||||
- 它们可以为系统协同域提供资源竞争、队列行为和规模边界证据。
|
||||
|
||||
因此,`T2/T1` 在框架2中的角色更接近“上界参照窗口”,而不是研究主语。
|
||||
|
||||
## 6. 当前建议
|
||||
|
||||
对框架2而言,最值得优先强化的设备与算力主线是:
|
||||
|
||||
1. **`T5` MCU / 控制端路线**
|
||||
2. **`T4` 设备端 SoC 路线**
|
||||
3. **`T3` 边缘协同路线**
|
||||
|
||||
这三类场景最能体现“基础系统主语”与“系统协同边界”。
|
||||
|
||||
## 7. 当前结论
|
||||
|
||||
> **框架2中的设备与算力组织方式,不是为了堆出更大的硬件谱系,而是为了在不同资源条件下,把 MCU 路线与 SoC 路线的基础系统问题显式暴露出来。**
|
||||
@@ -0,0 +1,31 @@
|
||||
# 共享理论与方法层
|
||||
|
||||
本目录用于承载框架2中由总课题统一维护、并由两个子课题共同共享的理论和方法内容。
|
||||
|
||||
## 本层内容
|
||||
|
||||
1. [00-整体研究框架.md](./00-整体研究框架.md)
|
||||
2. [01-RTOS直接控制域.md](./01-RTOS直接控制域.md)
|
||||
3. [02-推理运行域.md](./02-推理运行域.md)
|
||||
4. [03-系统协同域.md](./03-系统协同域.md)
|
||||
5. [04-规则兜底与控制闭环.md](./04-规则兜底与控制闭环.md)
|
||||
6. [05-研究逻辑说明.md](./05-研究逻辑说明.md)
|
||||
7. [06-基础设备与算力基础.md](./06-基础设备与算力基础.md)
|
||||
|
||||
## 本层作用
|
||||
|
||||
这一层统一负责:
|
||||
|
||||
- 研究主语与问题定义;
|
||||
- 三层边界;
|
||||
- 统一验证矩阵;
|
||||
- 统一评价框架;
|
||||
- 统一对照逻辑;
|
||||
- 总体方法论表达。
|
||||
|
||||
## 与两个子课题的关系
|
||||
|
||||
- 子课题 A 重点继承其中与 `MCU`、静态编排、低功耗和工具链相关的部分;
|
||||
- 子课题 B 重点继承其中与 `Linux/RTOS/Hypervisor`、资源隔离和系统协同相关的部分。
|
||||
|
||||
这意味着两个子课题虽然分别展开,但不需要各自重复建设方法层。
|
||||
@@ -0,0 +1,26 @@
|
||||
# 子课题定义
|
||||
|
||||
## 1. 子课题名称
|
||||
|
||||
面向 MCU 的静态智能控制基础系统
|
||||
|
||||
## 2. 子课题主问题
|
||||
|
||||
本子课题围绕以下问题展开:
|
||||
|
||||
> **在 MCU 级资源预算下,人工智能能力如何通过静态编排、工具链、代码生成和芯片协同,被纳入可分析、可验证、可部署的实时控制系统。**
|
||||
|
||||
## 3. 子课题边界
|
||||
|
||||
本子课题重点聚焦:
|
||||
|
||||
- 小模型、小算子与控制任务的静态共存;
|
||||
- 工具链、部署链路和代码生成能力;
|
||||
- 极小内存、极低功耗和快速启动场景;
|
||||
- 与芯片厂商和开发套件的协同。
|
||||
|
||||
本子课题不把高动态 Linux 生态、复杂虚拟化结构和大规模混合系统作为主战场。
|
||||
|
||||
## 4. 在总课题中的位置
|
||||
|
||||
这是框架2中的第一个子课题,重点对应 `T5` 控制端,也是总课题中最能体现“小型化、低功耗、静态部署”特征的方向。
|
||||
@@ -0,0 +1,30 @@
|
||||
# 研究问题与适用场景
|
||||
|
||||
## 1. 研究问题
|
||||
|
||||
本子课题重点回答四个问题:
|
||||
|
||||
1. 小模型与关键控制任务如何静态编排;
|
||||
2. 工具链如何把模型部署、资源预算和代码生成联成闭环;
|
||||
3. 芯片规格、运行时约束和控制边界如何共同决定系统能力;
|
||||
4. 低功耗、小型化和极小内存预算下,系统成立边界在哪里。
|
||||
|
||||
## 2. 适用场景
|
||||
|
||||
典型场景包括:
|
||||
|
||||
- 控制器;
|
||||
- 轻量控制盒;
|
||||
- 小型工业控制节点;
|
||||
- 电池供电或功耗严苛设备;
|
||||
- 需要毫秒级或更紧周期控制的端侧场景。
|
||||
|
||||
## 3. 与总课题共享层的衔接
|
||||
|
||||
本子课题主要继承共享层中的:
|
||||
|
||||
- `RTOS 直接控制域`
|
||||
- `推理运行域`
|
||||
- `基础设备与算力基础` 中的 `T5` 部分
|
||||
|
||||
但会弱化 `系统协同域` 中面向大 SoC 混合结构的部分。
|
||||
@@ -0,0 +1,63 @@
|
||||
# MCU路线:静态分配与工具链协同
|
||||
|
||||
## 1. 主题定位
|
||||
|
||||
MCU 路线并不是“把大模型缩小以后放进 MCU”这么简单。在框架2中,MCU 路线代表的是另一类完全不同的问题结构:资源极端受限、动态空间极小、工具链和静态编排比在线调度策略更重要。
|
||||
|
||||
## 2. MCU 路线的系统特征
|
||||
|
||||
这一路线通常具有以下特点:
|
||||
|
||||
- 可用内存极小;
|
||||
- 时钟和算力预算刚性;
|
||||
- 外设和控制链路优先级极高;
|
||||
- 更适合小模型、小算子和静态工作流;
|
||||
- 更依赖芯片 SDK、代码生成工具和开发套件。
|
||||
|
||||
因此,MCU 路线更接近“静态可分析系统中的 AI 能力纳入问题”。
|
||||
|
||||
## 3. 核心研究问题
|
||||
|
||||
### 3.1 小模型如何进入静态编排体系
|
||||
|
||||
MCU 路线重点不是追求通用大模型能力,而是研究:
|
||||
|
||||
- 哪些轻量模型可以被稳定纳入控制系统;
|
||||
- 小模型、小算子与控制任务如何离线编排;
|
||||
- 预分配、静态内存池和固定执行窗口如何设计。
|
||||
|
||||
### 3.2 工具链为什么比单点机制更重要
|
||||
|
||||
在 MCU 路线上,真正决定工程落地效率的常常不是调度策略,而是:
|
||||
|
||||
- 模型裁剪与转换工具;
|
||||
- 自动代码生成能力;
|
||||
- 内存预算与部署检查工具;
|
||||
- 芯片级软件开发套件。
|
||||
|
||||
因此,MCU 路线天然更强调“工具链能力”。
|
||||
|
||||
### 3.3 芯片协同如何进入研究主线
|
||||
|
||||
对于 MCU 场景,芯片规格本身就会限制可用模型、缓冲区与时延上界。后续研究需要回答:
|
||||
|
||||
- 哪些 AI 需求会反向定义 MCU 和端侧芯片规格;
|
||||
- 哪些片上资源是决定性瓶颈;
|
||||
- 开发套件如何把这些约束显式化。
|
||||
|
||||
## 4. 评价重点
|
||||
|
||||
MCU 路线重点观察:
|
||||
|
||||
- 关键保障负载能否稳定维持;
|
||||
- 小模型能否在固定资源预算中运行;
|
||||
- 工具链是否能给出可分析、可复现的部署边界;
|
||||
- 功耗、体积和散热预算是否同时满足。
|
||||
|
||||
## 5. 与框架2的关系
|
||||
|
||||
MCU 路线主要对应 `T5` 控制端,也是框架2中最能体现“小型化、低功耗、工具链协同”特征的部分。它为整个基础系统课题提供了一个约束极强、边界清晰的验证窗口。
|
||||
|
||||
## 6. 当前结论
|
||||
|
||||
> **MCU 路线的主问题不是“大模型如何跑进去”,而是人工智能能力如何在极端受限条件下,被静态、可分析地纳入实时控制系统。**
|
||||
@@ -0,0 +1,28 @@
|
||||
# 实验设计与验证方法
|
||||
|
||||
## 1. 验证重点
|
||||
|
||||
本子课题的验证重点包括:
|
||||
|
||||
- 静态内存预算是否成立;
|
||||
- 控制任务截止期是否维持;
|
||||
- 小模型推理是否能在固定窗口内完成;
|
||||
- 功耗、热状态和启动时间是否满足约束。
|
||||
|
||||
## 2. 典型实验单元
|
||||
|
||||
适合优先组织:
|
||||
|
||||
1. 小模型与控制任务共存实验;
|
||||
2. 静态内存池和固定执行窗口实验;
|
||||
3. 工具链生成结果与手工部署结果对比;
|
||||
4. 低功耗与长稳运行实验。
|
||||
|
||||
## 3. 指标重点
|
||||
|
||||
- `deadline miss ratio`
|
||||
- `P99/P99.9 jitter`
|
||||
- 单次推理时延
|
||||
- 峰值内存占用
|
||||
- 启动时间
|
||||
- `E/inference`
|
||||
@@ -0,0 +1,19 @@
|
||||
# 预期成果与论文方向
|
||||
|
||||
## 1. 预期成果
|
||||
|
||||
本子课题预期形成:
|
||||
|
||||
1. 面向 MCU 的静态智能控制问题定义;
|
||||
2. 小模型与控制任务静态编排方法;
|
||||
3. 工具链、代码生成与部署检查框架;
|
||||
4. 低功耗、小型化场景下的系统边界证据。
|
||||
|
||||
## 2. 论文方向
|
||||
|
||||
可对应的论文方向包括:
|
||||
|
||||
- TinyML / Edge AI on MCU
|
||||
- 低功耗嵌入式智能系统
|
||||
- 静态部署与工具链协同
|
||||
- 实时控制中的小模型纳入问题
|
||||
@@ -0,0 +1,28 @@
|
||||
# 合作方式与产业落点
|
||||
|
||||
## 1. 合作重点
|
||||
|
||||
本子课题更适合围绕以下合作对象展开:
|
||||
|
||||
- MCU / 控制芯片厂商;
|
||||
- 开发套件和工具链团队;
|
||||
- 小型化控制设备厂商;
|
||||
- 对功耗和体积高度敏感的行业客户。
|
||||
|
||||
## 2. 合作方式
|
||||
|
||||
建议采用:
|
||||
|
||||
1. 芯片与工具链条件梳理;
|
||||
2. 静态部署链路共建;
|
||||
3. 小规模样机验证;
|
||||
4. 工具链与方法沉淀。
|
||||
|
||||
## 3. 产业落点
|
||||
|
||||
这一子课题更容易落到:
|
||||
|
||||
- 开发套件;
|
||||
- 芯片协同方案;
|
||||
- 小型控制设备智能化升级;
|
||||
- 低功耗端侧部署方法。
|
||||
@@ -0,0 +1,24 @@
|
||||
# 子课题A:面向MCU的静态智能控制基础系统
|
||||
|
||||
本目录用于承接框架2中的第一个子课题,重点面向 `T5` 控制端与极小资源预算场景。
|
||||
|
||||
## 子课题定位
|
||||
|
||||
本子课题重点研究:
|
||||
|
||||
> **在极小内存、极低功耗和强实时约束条件下,人工智能能力如何以静态、可分析、可部署的方式进入控制系统。**
|
||||
|
||||
## 建议阅读顺序
|
||||
|
||||
1. [00-子课题定义.md](./00-子课题定义.md)
|
||||
2. [01-研究问题与适用场景.md](./01-研究问题与适用场景.md)
|
||||
3. [02-技术路线:静态编排、工具链与芯片协同.md](./02-技术路线:静态编排、工具链与芯片协同.md)
|
||||
4. [03-实验设计与验证方法.md](./03-实验设计与验证方法.md)
|
||||
5. [04-预期成果与论文方向.md](./04-预期成果与论文方向.md)
|
||||
6. [05-合作方式与产业落点.md](./05-合作方式与产业落点.md)
|
||||
|
||||
## 当前特点
|
||||
|
||||
本子课题的关键词是:
|
||||
|
||||
`静态编排`、`工具链`、`代码生成`、`芯片协同`、`低功耗`、`极小资源预算`
|
||||
@@ -0,0 +1,27 @@
|
||||
# 子课题定义
|
||||
|
||||
## 1. 子课题名称
|
||||
|
||||
面向边侧 SoC 的混合实时控制基础系统
|
||||
|
||||
## 2. 子课题主问题
|
||||
|
||||
本子课题围绕以下问题展开:
|
||||
|
||||
> **在边侧 SoC 与设备端异构平台上,Linux、RTOS、Hypervisor、Hybrid 结构、统一内存和异构协处理器如何共同维持控制路径与推理路径的整体实时边界。**
|
||||
|
||||
## 3. 子课题边界
|
||||
|
||||
本子课题重点聚焦:
|
||||
|
||||
- Linux 与 RTOS 的分工;
|
||||
- Hypervisor 与隔离机制;
|
||||
- Hybrid 升级为协同治理结构;
|
||||
- 统一内存、总线、DMA、NPU/GPU 竞争;
|
||||
- 规则兜底与闭环安全边界。
|
||||
|
||||
本子课题不以极小资源 MCU 的静态部署问题为主战场。
|
||||
|
||||
## 4. 在总课题中的位置
|
||||
|
||||
这是框架2中的第二个子课题,重点对应 `T4/T3`,也是总课题中最能体现混合结构、系统协同和边侧 SoC 真实工程复杂度的方向。
|
||||
@@ -0,0 +1,29 @@
|
||||
# 研究问题与适用场景
|
||||
|
||||
## 1. 研究问题
|
||||
|
||||
本子课题重点回答四个问题:
|
||||
|
||||
1. Linux 与 RTOS 如何在同一 SoC 上分工;
|
||||
2. Hypervisor 与 Hybrid 结构如何提升整体可治理性;
|
||||
3. 统一内存、总线、DMA 与 NPU/GPU 竞争如何进入系统分析;
|
||||
4. 规则兜底与异常切换如何把混合系统闭合成可验证的控制系统。
|
||||
|
||||
## 2. 适用场景
|
||||
|
||||
典型场景包括:
|
||||
|
||||
- 设备端 SoC;
|
||||
- 工业边缘节点;
|
||||
- 车载或机器人边侧平台;
|
||||
- 同时承载控制与 AI 推理的异构系统。
|
||||
|
||||
## 3. 与总课题共享层的衔接
|
||||
|
||||
本子课题主要继承共享层中的:
|
||||
|
||||
- `系统协同域`
|
||||
- `规则兜底与控制闭环`
|
||||
- `基础设备与算力基础` 中的 `T4/T3` 部分
|
||||
|
||||
同时结合 `RTOS 直接控制域` 和 `推理运行域` 形成整体边界分析。
|
||||
+77
@@ -0,0 +1,77 @@
|
||||
# SoC路线:Hybrid与Hypervisor协同
|
||||
|
||||
## 1. 主题定位
|
||||
|
||||
SoC 路线是框架2的核心主战场。这里最直接体现会议中的判断:人工智能进入实时控制系统后,最现实的结构不是让 RTOS 独自承接一切,而是让 Linux、RTOS、Hypervisor 与异构协处理器形成可治理的混合基础系统。
|
||||
|
||||
## 2. 为什么 SoC 路线最关键
|
||||
|
||||
设备端 SoC 同时具有以下特征:
|
||||
|
||||
- 需要 Linux 承接 AI 生态和推理框架;
|
||||
- 需要 RTOS 承接关键控制与执行闭环;
|
||||
- 统一内存和异构协处理器使资源竞争非常明显;
|
||||
- 设备级散热、功耗和体积限制比服务器更刚性;
|
||||
- 更接近真实产业落地场景。
|
||||
|
||||
因此,SoC 路线最能体现“基础系统主语”。
|
||||
|
||||
## 3. Hybrid 结构为什么仍然重要
|
||||
|
||||
会议并没有否定 Hybrid,反而强调它是当前最现实的路径之一。
|
||||
Hybrid 的现实价值在于:
|
||||
|
||||
- 保留 Linux 的推理生态;
|
||||
- 保留 RTOS 的控制与保障能力;
|
||||
- 让 AI 目标负载与关键保障负载可以在不同控制层上运行;
|
||||
- 为后续 Hypervisor 和资源治理留出结构空间。
|
||||
|
||||
但框架2不再接受“传统 Hybrid 只求共存”的写法,而要求把它升级为协同治理结构。
|
||||
|
||||
## 4. Hypervisor 在 SoC 路线中的角色
|
||||
|
||||
Hypervisor 使 SoC 路线从“双系统并置”走向“可治理混合系统”。它重点承担:
|
||||
|
||||
- 核心与资源切分;
|
||||
- 中断与设备访问边界控制;
|
||||
- 共享内存与通信路径组织;
|
||||
- 异常隔离与恢复。
|
||||
|
||||
如果没有 Hypervisor 或等价机制,很多 SoC 路线的协同边界很难稳定复现。
|
||||
|
||||
## 5. 核心研究问题
|
||||
|
||||
### 5.1 推理与控制如何分层
|
||||
|
||||
后续研究需要回答:
|
||||
|
||||
- 哪些 AI 任务保留在 Linux 侧;
|
||||
- 哪些控制任务保留在 RTOS 侧;
|
||||
- 控制与推理之间通过什么接口通信;
|
||||
- 在延迟、异常和过载条件下如何切换策略。
|
||||
|
||||
### 5.2 统一内存与总线竞争如何治理
|
||||
|
||||
SoC 路线中最容易被低估的问题包括:
|
||||
|
||||
- CPU 与 NPU/GPU 的统一内存争抢;
|
||||
- DMA 传输对控制路径的污染;
|
||||
- 模型加载与设备 I/O 共享带宽;
|
||||
- 缓存与总线冲突对尾延迟的影响。
|
||||
|
||||
这部分是 SoC 路线区别于纯 RTOS 叙事的关键证据。
|
||||
|
||||
### 5.3 设备级受限条件如何影响系统边界
|
||||
|
||||
SoC 路线必须同时面对:
|
||||
|
||||
- 功耗预算;
|
||||
- 散热与封装条件;
|
||||
- 设备体积与部署空间;
|
||||
- 软件栈和驱动闭源限制。
|
||||
|
||||
因此,它天然也是框架2中“小型化与低功耗”方向最强的承载层。
|
||||
|
||||
## 6. 当前结论
|
||||
|
||||
> **SoC 路线不是 RTOS 课题的附属场景,而是“面向 AI 的实时控制基础系统”最能成立、也最值得展开的核心研究窗口。**
|
||||
@@ -0,0 +1,29 @@
|
||||
# 实验设计与验证方法
|
||||
|
||||
## 1. 验证重点
|
||||
|
||||
本子课题的验证重点包括:
|
||||
|
||||
- Linux / RTOS 分工是否稳定;
|
||||
- Hypervisor 隔离是否有效;
|
||||
- 统一内存、总线与 DMA 竞争是否可观测、可治理;
|
||||
- 规则兜底与异常切换是否能保护关键保障负载边界。
|
||||
|
||||
## 2. 典型实验单元
|
||||
|
||||
适合优先组织:
|
||||
|
||||
1. Linux 与 RTOS 双域并存实验;
|
||||
2. Hypervisor 隔离与无隔离结构对比;
|
||||
3. 统一内存、DMA 与总线竞争实验;
|
||||
4. 模型输出、规则兜底与异常切换实验;
|
||||
5. 长稳、热状态与恢复实验。
|
||||
|
||||
## 3. 指标重点
|
||||
|
||||
- `TTFT`
|
||||
- `TPOT`
|
||||
- `deadline miss ratio`
|
||||
- `P99/P99.9 jitter`
|
||||
- 资源隔离效果
|
||||
- 温度、热漂移与恢复时间
|
||||
@@ -0,0 +1,19 @@
|
||||
# 预期成果与论文方向
|
||||
|
||||
## 1. 预期成果
|
||||
|
||||
本子课题预期形成:
|
||||
|
||||
1. 面向边侧 SoC 的混合基础系统问题定义;
|
||||
2. Linux / RTOS / Hypervisor / Hybrid 协同结构说明;
|
||||
3. 统一内存与资源竞争治理证据;
|
||||
4. 规则兜底、异常切换与控制闭环验证材料。
|
||||
|
||||
## 2. 论文方向
|
||||
|
||||
可对应的论文方向包括:
|
||||
|
||||
- Mixed-criticality embedded systems
|
||||
- Hypervisor / partitioned real-time systems
|
||||
- Edge AI system co-design
|
||||
- Linux + RTOS 协同结构与实时边界
|
||||
@@ -0,0 +1,29 @@
|
||||
# 合作方式与产业落点
|
||||
|
||||
## 1. 合作重点
|
||||
|
||||
本子课题更适合围绕以下合作对象展开:
|
||||
|
||||
- SoC / 板级平台厂商;
|
||||
- Hypervisor / mixed-criticality 基础软件团队;
|
||||
- 工业边缘和机器人设备团队;
|
||||
- 同时承载 AI 与控制任务的行业客户。
|
||||
|
||||
## 2. 合作方式
|
||||
|
||||
建议采用:
|
||||
|
||||
1. 平台条件与资源结构梳理;
|
||||
2. Linux / RTOS / Hypervisor 分工设计;
|
||||
3. 板级实验与隔离验证;
|
||||
4. 规则兜底和闭环安全验证;
|
||||
5. 系统协同证据沉淀。
|
||||
|
||||
## 3. 产业落点
|
||||
|
||||
这一子课题更容易落到:
|
||||
|
||||
- 边侧 SoC 参考架构;
|
||||
- 混合基础系统方案;
|
||||
- Hypervisor 协同部署方法;
|
||||
- 设备端 AI + 控制一体化平台路线。
|
||||
@@ -0,0 +1,24 @@
|
||||
# 子课题B:面向边侧SoC的混合实时控制基础系统
|
||||
|
||||
本目录用于承接框架2中的第二个子课题,重点面向 `T4/T3` 设备端 SoC 与边侧混合系统场景。
|
||||
|
||||
## 子课题定位
|
||||
|
||||
本子课题重点研究:
|
||||
|
||||
> **在边侧 SoC 与设备端异构平台上,Linux、RTOS、Hypervisor、Hybrid 结构与异构资源治理如何共同维持系统的实时边界。**
|
||||
|
||||
## 建议阅读顺序
|
||||
|
||||
1. [00-子课题定义.md](./00-子课题定义.md)
|
||||
2. [01-研究问题与适用场景.md](./01-研究问题与适用场景.md)
|
||||
3. [02-技术路线:Linux-RTOS-Hypervisor-Hybrid.md](./02-技术路线:Linux-RTOS-Hypervisor-Hybrid.md)
|
||||
4. [03-实验设计与验证方法.md](./03-实验设计与验证方法.md)
|
||||
5. [04-预期成果与论文方向.md](./04-预期成果与论文方向.md)
|
||||
6. [05-合作方式与产业落点.md](./05-合作方式与产业落点.md)
|
||||
|
||||
## 当前特点
|
||||
|
||||
本子课题的关键词是:
|
||||
|
||||
`Hybrid`、`Hypervisor`、`Linux+RTOS`、`统一内存`、`资源隔离`、`系统协同`
|
||||
@@ -0,0 +1,119 @@
|
||||
# 面向AI的实时控制基础系统实验设计
|
||||
|
||||
## 1. 实验目标
|
||||
|
||||
框架2的实验目标不是单纯比较“RTOS 比 Linux 快多少”,而是比较在人工智能目标负载进入实时控制系统后,不同基础系统结构能否同时维持:
|
||||
|
||||
1. **人工智能目标负载的时效性与功能有效性**
|
||||
2. **关键保障负载的时间边界**
|
||||
3. **系统协同层的资源秩序、恢复能力与解释性**
|
||||
|
||||
## 2. 研究问题
|
||||
|
||||
| 编号 | 研究问题 | 核心观察量 |
|
||||
|---|---|---|
|
||||
| `RQ1` | RTOS 直接控制域在 AI 目标负载进入后还能维持多强的关键保障边界 | `deadline miss ratio`、`P99/P99.9 jitter`、外部接口响应 |
|
||||
| `RQ2` | 推理运行域的模型、量化、框架和内存组织如何改变整体系统边界 | `TTFT/TPOT`、峰值内存、长稳退化 |
|
||||
| `RQ3` | Linux / RTOS / Hypervisor 混合结构能否比单一系统结构提供更稳定的整体边界 | 三层指标同时达标情况、恢复与隔离效果 |
|
||||
| `RQ4` | MCU 路线与 SoC 路线的边界分别是什么 | 静态编排能力、统一内存竞争、功耗与体积约束下的成立区间 |
|
||||
|
||||
## 3. 对照结构
|
||||
|
||||
框架2的主对照组如下:
|
||||
|
||||
| 编号 | 配置 | 作用 |
|
||||
|---|---|---|
|
||||
| `O0` | 普通 Linux | 通用系统基线 |
|
||||
| `O1` | PREEMPT_RT Linux | 实时增强 Linux 的边界 |
|
||||
| `O2` | RTOS 原生配置 | RTOS 直接控制域能力 |
|
||||
| `O3` | 混合基础系统配置 | Linux + RTOS + Hypervisor 或等价协同结构 |
|
||||
|
||||
必要时可继续细分:
|
||||
|
||||
- `O3a` 无 Hypervisor 的双系统结构
|
||||
- `O3b` 带 Hypervisor 的隔离结构
|
||||
- `O3c` 加入规则兜底与异常切换的完整结构
|
||||
|
||||
## 4. 场景编号
|
||||
|
||||
| 编号 | 场景 | 目的 |
|
||||
|---|---|---|
|
||||
| `L0` | 仅关键保障负载 | 观察关键保障负载下界 |
|
||||
| `L1` | 仅人工智能目标负载 | 观察 AI 目标负载独立行为 |
|
||||
| `L2` | 关键保障负载 + AI 目标负载 | 核心双目标场景 |
|
||||
| `L3` | `L2` + CPU / 中断竞争 | 观察 RTOS 直接控制域边界 |
|
||||
| `L4` | `L2` + 内存 / DMA / 总线竞争 | 观察系统协同域边界 |
|
||||
| `L5` | `L2` + 网络 / 存储 / 模型加载 | 观察运行时与后台服务影响 |
|
||||
| `L6` | `L2` + 规则兜底 / 降级切换 | 观察闭环安全边界 |
|
||||
| `L7` | `L2` + 突发 / 过载 / 恢复 | 观察长稳、异常与恢复能力 |
|
||||
|
||||
## 5. 实验单元
|
||||
|
||||
| 编号 | 实验单元 | 主要覆盖问题 |
|
||||
|---|---|---|
|
||||
| `E0` | 设备、驱动与基础软件准入 | 全部 |
|
||||
| `E1` | RTOS 直接控制域微基准 | `RQ1` |
|
||||
| `E2` | 推理运行域基线 | `RQ2` |
|
||||
| `E3` | 双目标共存对照 | `RQ1/RQ2` |
|
||||
| `E4` | 混合结构协同对照 | `RQ3` |
|
||||
| `E5` | MCU 路线静态编排实验 | `RQ4` |
|
||||
| `E6` | SoC 路线统一内存与总线竞争实验 | `RQ3/RQ4` |
|
||||
| `E7` | 规则兜底与异常切换实验 | `RQ3` |
|
||||
| `E8` | 长稳、热状态与恢复实验 | `RQ2/RQ3/RQ4` |
|
||||
|
||||
## 6. 分路线实验重点
|
||||
|
||||
### 6.1 MCU 路线
|
||||
|
||||
MCU 路线优先组织:
|
||||
|
||||
- 小模型 / 小算子与控制任务静态编排;
|
||||
- 固定内存池与固定执行窗口;
|
||||
- 开发套件、代码生成与部署检查能力;
|
||||
- 极低功耗与极小内存条件下的成立区间。
|
||||
|
||||
### 6.2 SoC 路线
|
||||
|
||||
SoC 路线优先组织:
|
||||
|
||||
- Linux / RTOS 的分工;
|
||||
- Hypervisor 资源切分;
|
||||
- 统一内存、DMA、总线和 NPU/GPU 竞争;
|
||||
- 设备级受限散热、受限功耗与长稳边界。
|
||||
|
||||
## 7. 指标结构
|
||||
|
||||
### 7.1 人工智能目标负载层
|
||||
|
||||
- `TTFT`
|
||||
- `TPOT`
|
||||
- 端到端响应时间
|
||||
- 功能有效性
|
||||
- 长时间稳定性
|
||||
|
||||
### 7.2 关键保障负载层
|
||||
|
||||
- `deadline miss ratio`
|
||||
- `P99/P99.9 jitter`
|
||||
- 观测最大响应时间
|
||||
- 外部接口响应时间
|
||||
|
||||
### 7.3 系统协同层
|
||||
|
||||
- 有效吞吐
|
||||
- 资源隔离效果
|
||||
- `E/token`
|
||||
- 温度与热漂移
|
||||
- 异常切换与恢复时间
|
||||
|
||||
## 8. 解释边界
|
||||
|
||||
框架2特别强调三条解释边界:
|
||||
|
||||
1. **GPU/NPU 内部执行行为不直接等价于 RTOS 收益**
|
||||
2. **混合结构的收益必须拆分为 RTOS 收益、协同结构收益和运行时收益**
|
||||
3. **MCU 路线与 SoC 路线的结论不得直接互相替代**
|
||||
|
||||
## 9. 当前结论
|
||||
|
||||
> **框架2的实验设计,不再围绕“单系统性能竞赛”组织,而是围绕“人工智能进入实时控制系统后的整体边界是否成立”来组织。**
|
||||
@@ -0,0 +1,143 @@
|
||||
# 论文写作规划 — 面向AI的实时控制基础系统研究
|
||||
|
||||
> **版本**: v0.1
|
||||
> **定位**: 框架2对应的候选论文规划稿
|
||||
> **目标**: 把“人工智能进入实时控制系统后,基础系统如何维持整体实时边界”组织成可写作、可实验、可比较的论文结构
|
||||
|
||||
## 0. 文章定位与核心贡献
|
||||
|
||||
### 0.1 一句话定位
|
||||
|
||||
> **围绕人工智能目标负载进入实时控制系统后的整体边界问题,系统研究模型、运行时、RTOS、Linux、Hypervisor 与异构资源结构如何共同决定系统的确定性、可预测性与实时性表现。**
|
||||
|
||||
### 0.2 核心贡献
|
||||
|
||||
| 编号 | 贡献 |
|
||||
|---|---|
|
||||
| `C1` | 提出“面向 AI 的实时控制基础系统”这一问题定义与三层边界框架 |
|
||||
| `C2` | 给出 MCU 路线与 SoC 路线并行的统一验证矩阵 |
|
||||
| `C3` | 给出 Linux / RTOS / Hypervisor / 混合结构的系统级对照方法 |
|
||||
| `C4` | 给出规则兜底、异常切换与闭环安全边界的实验组织方式 |
|
||||
|
||||
## 1. 文章整体结构
|
||||
|
||||
```
|
||||
第1章 引言
|
||||
第2章 问题背景与相关工作
|
||||
第3章 面向AI的实时控制基础系统问题定义
|
||||
第4章 三层边界:RTOS控制域、推理运行域、系统协同域
|
||||
第5章 MCU路线与SoC路线
|
||||
第6章 实验方法学与对照结构
|
||||
第7章 实验结果
|
||||
第8章 深入分析与边界讨论
|
||||
第9章 产业定位与系统意义
|
||||
第10章 结论与展望
|
||||
```
|
||||
|
||||
## 2. 各章重点
|
||||
|
||||
### 第1章 引言
|
||||
|
||||
重点说明:
|
||||
|
||||
- 人工智能进入实时控制系统后,问题已经跨层展开;
|
||||
- 单纯用“RTOS 优于 Linux”不足以覆盖真实系统问题;
|
||||
- 需要一个“基础系统主语”的新框架。
|
||||
|
||||
### 第2章 问题背景与相关工作
|
||||
|
||||
重点说明:
|
||||
|
||||
- AI 目标负载的时间行为与资源行为;
|
||||
- RTOS 的直接价值;
|
||||
- Linux 与 PREEMPT_RT 的边界;
|
||||
- 现有研究为什么很少真正覆盖混合系统。
|
||||
|
||||
### 第3章 问题定义
|
||||
|
||||
重点说明:
|
||||
|
||||
- 什么是“面向 AI 的实时控制基础系统”;
|
||||
- 为什么研究对象要从 RTOS 平台上移;
|
||||
- `T5~T1` 继续作为验证矩阵,而不是研究主语。
|
||||
|
||||
### 第4章 三层边界
|
||||
|
||||
重点说明:
|
||||
|
||||
- RTOS 直接控制域;
|
||||
- 推理运行域;
|
||||
- 系统协同域。
|
||||
|
||||
这一章是框架2的核心理论骨架。
|
||||
|
||||
### 第5章 MCU 路线与 SoC 路线
|
||||
|
||||
重点说明:
|
||||
|
||||
- MCU 路线为什么强调静态编排和工具链;
|
||||
- SoC 路线为什么强调 Hybrid、Hypervisor 和统一内存竞争;
|
||||
- 两条路线如何分别组织实验。
|
||||
|
||||
### 第6章 实验方法学与对照结构
|
||||
|
||||
重点说明:
|
||||
|
||||
- `O0/O1/O2/O3` 对照组;
|
||||
- `L0~L7` 场景编号;
|
||||
- `E0~E8` 实验单元;
|
||||
- 三层指标与解释边界。
|
||||
|
||||
### 第7章 实验结果
|
||||
|
||||
重点按三条主线展开:
|
||||
|
||||
1. RTOS 直接控制域结果
|
||||
2. 推理运行域结果
|
||||
3. 系统协同域结果
|
||||
|
||||
并比较:
|
||||
|
||||
- MCU 路线与 SoC 路线;
|
||||
- 原生系统结构与混合结构;
|
||||
- 有无规则兜底时的闭环差异。
|
||||
|
||||
### 第8章 深入分析与边界讨论
|
||||
|
||||
重点分析:
|
||||
|
||||
- 哪些边界由 RTOS 直接贡献;
|
||||
- 哪些边界由协同结构贡献;
|
||||
- 哪些结论只在 MCU 或 SoC 路线成立;
|
||||
- 哪些情况下混合结构收益明显,哪些情况下收益收窄。
|
||||
|
||||
### 第9章 产业定位与系统意义
|
||||
|
||||
这一章是框架2相对框架1新增的重要内容。重点讨论:
|
||||
|
||||
- 企业如何从 RTOS 供应方转向基础系统供应方;
|
||||
- 基础系统叙事如何替代单点适配叙事;
|
||||
- 这一转向对联合研究与产业化路径的意义。
|
||||
|
||||
### 第10章 结论与展望
|
||||
|
||||
重点总结:
|
||||
|
||||
- 人工智能进入实时控制系统后的主问题是什么;
|
||||
- 基础系统主语为什么比 RTOS 单主语更准确;
|
||||
- 后续在工具链、体系结构与协同治理上还有哪些扩展方向。
|
||||
|
||||
## 3. 研究问题到实验映射
|
||||
|
||||
| 研究问题 | 主要实验单元 | 主要章节 |
|
||||
|---|---|---|
|
||||
| `RQ1` RTOS 直接控制域边界 | `E1`、`E3`、`E8` | 第4、7、8章 |
|
||||
| `RQ2` 推理运行域时间行为 | `E2`、`E3`、`E8` | 第4、6、7章 |
|
||||
| `RQ3` 系统协同域结构收益 | `E4`、`E6`、`E7`、`E8` | 第4、6、7、8章 |
|
||||
| `RQ4` MCU / SoC 双路线边界 | `E5`、`E6`、`E8` | 第5、7、8章 |
|
||||
|
||||
## 4. 当前结论
|
||||
|
||||
框架2的论文规划和框架1最大的不同,不是换了一个标题,而是换了整篇文章的主语:
|
||||
|
||||
> **论文不再只回答“RTOS 在 AI 任务下是否更优”,而是回答“人工智能进入实时控制系统后,基础系统如何共同维持边界”。**
|
||||
@@ -0,0 +1,26 @@
|
||||
# 两个子课题的共同问题
|
||||
|
||||
## 1. 共同主语
|
||||
|
||||
两个子课题共同服务于同一个总课题主语:
|
||||
|
||||
> **面向 AI 的实时控制基础系统。**
|
||||
|
||||
## 2. 共同方法层
|
||||
|
||||
两个子课题共同依赖:
|
||||
|
||||
- 三层边界;
|
||||
- 三类系统负载;
|
||||
- `T5~T1` 验证矩阵;
|
||||
- 统一评价框架;
|
||||
- 对照逻辑与规则兜底思想。
|
||||
|
||||
## 3. 共同科学问题
|
||||
|
||||
二者都需要回答:
|
||||
|
||||
- AI 目标负载如何进入控制系统;
|
||||
- 关键保障负载如何继续保持边界;
|
||||
- 系统边界由哪些机制共同构成;
|
||||
- 实时性问题如何避免单因果叙事。
|
||||
@@ -0,0 +1,32 @@
|
||||
# 两个子课题的差异边界
|
||||
|
||||
## 1. 子课题A的主边界
|
||||
|
||||
子课题A的主边界在于:
|
||||
|
||||
- 极小资源预算;
|
||||
- 静态部署;
|
||||
- 低功耗与小型化;
|
||||
- 工具链和芯片协同;
|
||||
- 小模型与控制任务的静态共存。
|
||||
|
||||
## 2. 子课题B的主边界
|
||||
|
||||
子课题B的主边界在于:
|
||||
|
||||
- Linux / RTOS 分工;
|
||||
- Hypervisor 与 Hybrid;
|
||||
- 统一内存、总线、DMA、NPU/GPU 竞争;
|
||||
- 规则兜底与异常切换;
|
||||
- 混合系统中的整体确定性。
|
||||
|
||||
## 3. 为什么不能混写
|
||||
|
||||
两个子课题对应的是两类不同的问题结构,因此:
|
||||
|
||||
- 评价重点不同;
|
||||
- 工程条件不同;
|
||||
- 合作对象不同;
|
||||
- 论文表达重点不同。
|
||||
|
||||
这就是框架2内部需要采用“一总两子”结构的原因。
|
||||
@@ -0,0 +1,24 @@
|
||||
# 总课题申报与论文组织建议
|
||||
|
||||
## 1. 申报组织建议
|
||||
|
||||
当前更适合按以下方式组织:
|
||||
|
||||
- 以总课题名义对外表述;
|
||||
- 在内部和申报材料中并列写出两个子课题;
|
||||
- 共享方法层放在总论部分;
|
||||
- 两个子课题分别作为技术主线展开。
|
||||
|
||||
## 2. 论文组织建议
|
||||
|
||||
论文层面建议采用:
|
||||
|
||||
1. 总问题定义;
|
||||
2. 共享理论与方法层;
|
||||
3. 子课题A;
|
||||
4. 子课题B;
|
||||
5. 共同问题、差异边界与总体结论。
|
||||
|
||||
## 3. 当前结论
|
||||
|
||||
在当前阶段,最稳的组织方式不是把两个子课题拆成两个独立框架,而是在框架2内部保持“一总两子”的结构,并用共享方法层与综合收敛层保证主线统一。
|
||||
@@ -0,0 +1,11 @@
|
||||
# 综合比较与收敛
|
||||
|
||||
本目录用于承接总课题层面对两个子课题的统一实验骨架、论文组织和后续收敛工作。
|
||||
|
||||
## 当前文档
|
||||
|
||||
1. [01-统一实验设计与验证骨架.md](./01-统一实验设计与验证骨架.md)
|
||||
2. [02-总课题论文写作规划.md](./02-总课题论文写作规划.md)
|
||||
3. [03-两个子课题的共同问题.md](./03-两个子课题的共同问题.md)
|
||||
4. [04-两个子课题的差异边界.md](./04-两个子课题的差异边界.md)
|
||||
5. [05-总课题申报与论文组织建议.md](./05-总课题申报与论文组织建议.md)
|
||||
@@ -0,0 +1,48 @@
|
||||
# 项目框架2:面向AI的实时控制基础系统研究
|
||||
|
||||
本框架用于承接 2026-09-22 会议中形成的关键判断:当人工智能能力进入实时控制系统后,研究对象不再适合只写成 RTOS 平台,而更适合上升为“面向 AI 的实时控制基础系统”。
|
||||
|
||||
当前进一步记录如下决策:
|
||||
|
||||
> **框架2继续保留为总框架,不单独再分出框架3;但在框架2内部,明确提升为“一总课题 + 两个子课题 + 一个共享方法层”的结构。**
|
||||
|
||||
## 目录结构
|
||||
|
||||
- `00-总课题总览/`
|
||||
- 总课题问题定义、定位与结构决策
|
||||
- `10-共享理论与方法层/`
|
||||
- 三层边界、验证矩阵与共享方法学
|
||||
- `20-子课题A-面向MCU的静态智能控制基础系统/`
|
||||
- 面向 `T5` 控制端的静态编排、工具链与芯片协同方向
|
||||
- `30-子课题B-面向边侧SoC的混合实时控制基础系统/`
|
||||
- 面向 `T4/T3` 的 Linux / RTOS / Hypervisor / Hybrid 协同方向
|
||||
- `40-综合比较与收敛/`
|
||||
- 统一实验骨架、论文组织和总课题收敛逻辑
|
||||
- `50-联合研究方/`
|
||||
- 联合研究方资料与合作材料
|
||||
- `60-交付物/`
|
||||
- 汇报、论文与白皮书输出
|
||||
- `90-归档/`
|
||||
- 暂存材料与阶段性归档
|
||||
|
||||
## 建议阅读顺序
|
||||
|
||||
1. `00-总课题总览/01-当前研究问题:背景、问题与挑战.md`
|
||||
2. `00-总课题总览/02-研究定位与项目边界.md`
|
||||
3. `00-总课题总览/03-总课题与两个子课题的关系.md`
|
||||
4. `10-共享理论与方法层/README.md`
|
||||
5. `10-共享理论与方法层/00-整体研究框架.md`
|
||||
6. `20-子课题A-面向MCU的静态智能控制基础系统/README.md`
|
||||
7. `30-子课题B-面向边侧SoC的混合实时控制基础系统/README.md`
|
||||
8. `40-综合比较与收敛/README.md`
|
||||
|
||||
## 当前状态
|
||||
|
||||
当前版本已经完成:
|
||||
|
||||
- 总课题总览;
|
||||
- 共享理论与方法层;
|
||||
- 两个子课题的独立入口与基础骨架;
|
||||
- 综合比较与收敛层。
|
||||
|
||||
这使框架2既保持统一主语,又避免两个子课题的价值被主干目录湮灭。
|
||||
Reference in New Issue
Block a user