forked from eaiadmin/rtos_llm_opt
reorganize repository into meeting and project framework structure
Align the repository with the new collaboration workflow by separating meeting records from project framework materials, so discussion outputs and formal research assets can evolve independently.
This commit is contained in:
@@ -0,0 +1,238 @@
|
||||
# 面向AI的实时控制基础系统整体研究框架
|
||||
|
||||
## 0. 核心问题
|
||||
|
||||
本框架围绕“人工智能能力进入实时控制系统之后,基础系统如何维持整体实时边界”展开。核心判断是:
|
||||
|
||||
> **当人工智能目标负载进入实时控制系统后,系统需要解决的已经不是单一操作系统问题,而是模型、运行时、RTOS、Linux、Hypervisor、芯片、总线、内存、NPU、GPU、DMA 和规则兜底机制共同构成的整体实时性问题。`SylixOS` 可作为关键实验样例,`QNX`、`VxWorks`、`INTEGRITY`、`LynxOS-178` 等可作为参照平台。**
|
||||
|
||||
这里有四个基础判断:
|
||||
|
||||
1. **研究对象是面向 AI 的实时控制基础系统**;
|
||||
2. **人工智能推理在系统中承担目标负载角色**;
|
||||
3. **RTOS 是关键底座,但不是全部因果的唯一承担者**;
|
||||
4. **硬件条件以验证矩阵形式组织研究证据。**
|
||||
|
||||
本框架评估的是:当人工智能目标负载与关键保障负载共同进入系统时,基础系统如何维持控制路径、推理路径和资源路径的整体边界。
|
||||
|
||||
---
|
||||
|
||||
## 1. 问题空间:五类部署形态、三类系统负载与跨层实时性
|
||||
|
||||
### 1.1 五类部署形态
|
||||
|
||||
`T5~T1` 五类部署形态继续作为验证矩阵。
|
||||
|
||||
| 部署形态 | 系统角色 | 主要研究关注点 |
|
||||
|---|---|---|
|
||||
| T5 控制端 | 极紧资源预算下的控制节点 | 静态分配、低功耗、极小内存预算 |
|
||||
| T4 设备端 SoC | 设备本体内的异构平台 | Linux/RTOS 协同、统一内存与带宽隔离 |
|
||||
| T3 边缘节点 | 近源推理与控制协同节点 | 多任务并发、热稳定性、边缘协同 |
|
||||
| T2 单机工作站 | 单机高密本地推理平台 | 多卡公平性、控制侧保护与资源协同 |
|
||||
| T1 服务器 / 集群 | 任务关键场景中的分布式协同平台 | 跨节点协同、系统边界与规模扩展 |
|
||||
|
||||
这些部署形态回答的是“在哪里验证”,而不是“什么是研究主语”。
|
||||
|
||||
### 1.2 三类系统负载
|
||||
|
||||
| 负载类型 | 定义 | 典型例子 |
|
||||
|---|---|---|
|
||||
| 人工智能目标负载 | 系统要完成的智能功能本身 | LLM 推理、视觉识别、导航规划、故障诊断 |
|
||||
| 关键保障负载 | 维持安全与执行闭环的关键任务 | 周期控制、联锁、状态采集、执行输出 |
|
||||
| 伴生竞争负载 | 会争抢资源但不属于主功能的任务 | 日志、更新、模型加载、通信、I/O |
|
||||
|
||||
### 1.3 跨层实时性问题
|
||||
|
||||
本框架中的“实时性”不再只指调度器和中断路径,而是至少同时涉及:
|
||||
|
||||
- 模型与推理阶段时间行为;
|
||||
- 运行时与队列组织;
|
||||
- RTOS 的关键任务保障能力;
|
||||
- Linux 的生态与推理承载能力;
|
||||
- Hypervisor 的隔离与资源切分;
|
||||
- 总线、内存、DMA、NPU、GPU 等资源竞争结构;
|
||||
- 规则兜底与异常切换机制。
|
||||
|
||||
---
|
||||
|
||||
## 2. 分层边界:三层系统问题
|
||||
|
||||
### 2.1 RTOS 直接控制域
|
||||
|
||||
这一层是 RTOS 可以直接施加机制约束的部分,包括:
|
||||
|
||||
- 关键任务调度;
|
||||
- 中断优先级与抢占关系;
|
||||
- CPU 侧线程、同步与时钟机制;
|
||||
- 恢复、隔离和关键路径治理。
|
||||
|
||||
这一层回答的是:
|
||||
|
||||
> **RTOS 如何为关键保障负载建立确定性底座。**
|
||||
|
||||
### 2.2 推理运行域
|
||||
|
||||
这一层主要由模型、量化、算子、运行时和驱动共同决定,包括:
|
||||
|
||||
- Prefill / Decode 时延结构;
|
||||
- 模型大小与量化精度;
|
||||
- KV Cache、内存组织与队列行为;
|
||||
- GPU/NPU 内部执行与框架调度。
|
||||
|
||||
这一层回答的是:
|
||||
|
||||
> **人工智能目标负载本身具有什么样的时间行为和资源行为。**
|
||||
|
||||
### 2.3 系统协同域
|
||||
|
||||
这一层是本框架的重点,包括:
|
||||
|
||||
- Linux 与 RTOS 的角色分工;
|
||||
- Hypervisor 的隔离与资源划分;
|
||||
- 总线、DMA、外存、统一内存与协处理器竞争治理;
|
||||
- 规则兜底、安全约束与异常切换;
|
||||
- 关键保障负载与人工智能目标负载之间的优先级关系。
|
||||
|
||||
这一层回答的是:
|
||||
|
||||
> **在混合系统中,整体实时性如何被建立、维持和验证。**
|
||||
|
||||
---
|
||||
|
||||
## 3. 两条主要技术路线
|
||||
|
||||
### 3.1 MCU 路线:静态分配、工具链与芯片协同
|
||||
|
||||
MCU 路线重点关注:
|
||||
|
||||
- 小模型、小算子与控制任务的静态编排;
|
||||
- 工具链、代码生成与开发套件;
|
||||
- 与芯片厂商的协同设计;
|
||||
- 极小资源预算下的 AI 目标负载纳入方式。
|
||||
|
||||
这条路线的关键词是:
|
||||
|
||||
`静态分配`、`工具链`、`开发套件`、`芯片协同`
|
||||
|
||||
### 3.2 SoC 路线:Hybrid、Hypervisor 与整体确定性
|
||||
|
||||
SoC 路线重点关注:
|
||||
|
||||
- Linux 侧推理与 RTOS 侧控制的分工;
|
||||
- Hybrid 结构从“并置”升级为“协同治理”;
|
||||
- Hypervisor 的隔离、分簇和资源切分;
|
||||
- 统一内存、总线、DMA、NPU/GPU 竞争治理;
|
||||
- 控制与 AI 在同一系统中的整体确定性。
|
||||
|
||||
这条路线的关键词是:
|
||||
|
||||
`Hybrid`、`Hypervisor`、`隔离`、`资源治理`、`系统确定性`
|
||||
|
||||
---
|
||||
|
||||
## 4. 统一技术体系:五层技术栈与横向治理线
|
||||
|
||||
本框架继续保留五层技术栈表达,但其含义从“RTOS 机制展开”进一步上升为“基础系统展开”。
|
||||
|
||||
```
|
||||
┌───────────────────────────────────────────────────────────────┐
|
||||
│ L5 模型与任务语义层 │
|
||||
│ 任务语义、模型结构、量化、输出约束、业务边界 │
|
||||
├───────────────────────────────────────────────────────────────┤
|
||||
│ L4 运行时与负载编排层 │
|
||||
│ 队列、准入控制、内存池、流水线、推理框架、规则兜底接口 │
|
||||
├───────────────────────────────────────────────────────────────┤
|
||||
│ L3 资源抽象与系统协同层 │
|
||||
│ CPU/NPU/GPU/DMA/总线/统一内存抽象、Hypervisor、资源治理 │
|
||||
├───────────────────────────────────────────────────────────────┤
|
||||
│ L2 基础软件控制层 │
|
||||
│ RTOS、Linux、中断、调度、同步、恢复、隔离、关键路径保护 │
|
||||
├───────────────────────────────────────────────────────────────┤
|
||||
│ L1 硬件与互联层 │
|
||||
│ MCU、SoC、加速器、缓存、总线、外存、网络互联、时钟源 │
|
||||
└───────────────────────────────────────────────────────────────┘
|
||||
```
|
||||
|
||||
横向治理线包括:安全、审计、配置版本、日志证据、时间同步、可观测性、规则兜底、异常切换和 OTA / 回滚能力。
|
||||
|
||||
---
|
||||
|
||||
## 5. 研究主线:整体实时边界的建立与验证
|
||||
|
||||
本框架后续所有子方向都服务于同一个主命题:
|
||||
|
||||
> **面向 AI 的实时控制基础系统如何在人工智能目标负载进入控制闭环后,维持系统的确定性、可预测性与整体实时边界。**
|
||||
|
||||
围绕这个主命题,研究主线可以组织为六个方向:
|
||||
|
||||
1. **RTOS 直接控制域的保障机制**
|
||||
2. **人工智能目标负载的时间行为建模**
|
||||
3. **系统协同域的资源隔离与治理**
|
||||
4. **MCU 路线的静态编排与工具链能力**
|
||||
5. **SoC 路线的 Hybrid / Hypervisor 协同结构**
|
||||
6. **规则兜底、异常切换与闭环安全边界**
|
||||
|
||||
这些方向共同服务于一个判断:
|
||||
|
||||
> **人工智能能力进入实时控制系统后,系统是否仍然有边界,以及这个边界由哪些机制共同构成。**
|
||||
|
||||
---
|
||||
|
||||
## 6. 评价框架:三层指标同时成立
|
||||
|
||||
### 6.1 人工智能目标负载指标
|
||||
|
||||
- `TTFT`
|
||||
- `TPOT`
|
||||
- 端到端响应时间
|
||||
- 功能有效性
|
||||
- 长时间稳定性
|
||||
|
||||
### 6.2 关键保障负载指标
|
||||
|
||||
- `deadline miss ratio`
|
||||
- `P99/P99.9 jitter`
|
||||
- 观测最大响应时间
|
||||
- 外部接口响应时间
|
||||
|
||||
### 6.3 系统协同指标
|
||||
|
||||
- 有效吞吐
|
||||
- `E/token` / `tokens/J`
|
||||
- 温度、热漂移与降频行为
|
||||
- 资源隔离效果
|
||||
- 恢复能力与异常切换表现
|
||||
|
||||
因此,本框架的成功标准是:
|
||||
|
||||
> **人工智能目标负载、关键保障负载与系统协同三层指标同时成立。**
|
||||
|
||||
---
|
||||
|
||||
## 7. 对照关系:Linux、PREEMPT_RT、RTOS 与混合结构
|
||||
|
||||
后续实验与叙事可采用四类对照:
|
||||
|
||||
| 对照组 | 含义 | 作用 |
|
||||
|---|---|---|
|
||||
| `O0` 普通 Linux | 通用系统基线 | 观察非实时平台的自然行为 |
|
||||
| `O1` PREEMPT_RT Linux | 实时增强型 Linux | 观察增强型通用 OS 的边界 |
|
||||
| `O2` RTOS 原生配置 | RTOS 基础路径 | 观察 RTOS 底座能力 |
|
||||
| `O3` 混合基础系统配置 | Linux + RTOS + Hypervisor 或协同结构 | 观察整体协同路径的收益与代价 |
|
||||
|
||||
这条对照线的重点,不再只是比较“谁更快”,而是比较:
|
||||
|
||||
- 谁更能维持关键保障负载边界;
|
||||
- 谁更能承受 AI 目标负载进入后的资源竞争;
|
||||
- 谁更能形成可解释、可复现、可治理的整体系统秩序。
|
||||
|
||||
---
|
||||
|
||||
## 8. 预期成果
|
||||
|
||||
1. **问题定义层**:人工智能能力进入实时控制系统后的基础系统问题定义;
|
||||
2. **分析层**:RTOS 直接控制域、推理运行域与系统协同域的边界划分方法;
|
||||
3. **机制层**:面向 Hybrid / Hypervisor / 资源治理 / 规则兜底的基础系统机制;
|
||||
4. **方法层**:覆盖 `T5~T1` 的统一验证矩阵与对照方法;
|
||||
5. **产业层**:从 RTOS 平台叙事上升到基础系统叙事的合作与产品路线;
|
||||
6. **论文层**:面向实时系统、嵌入式系统和低功耗系统方向的系统化论文与报告。
|
||||
@@ -0,0 +1,90 @@
|
||||
# RTOS直接控制域
|
||||
|
||||
## 1. 主题定位
|
||||
|
||||
在框架2中,RTOS 不再被写成全部系统问题的唯一承担者,但它仍然是关键保障负载确定性底座的核心组成部分。本文件用于明确:哪些问题属于 RTOS 可以直接控制和分析的范围,哪些问题不应继续归因到 RTOS 身上。
|
||||
|
||||
## 2. 直接控制域的边界
|
||||
|
||||
RTOS 直接控制域主要包括:
|
||||
|
||||
- 周期任务、关键任务与后台任务的调度关系;
|
||||
- 中断优先级、抢占路径和线程化中断机制;
|
||||
- CPU 侧线程、同步互斥、时钟与定时器;
|
||||
- 内存锁定、关键缓冲区预分配与恢复机制;
|
||||
- 关键任务隔离、核心绑定和关键路径保护;
|
||||
- 对共享资源治理接口的直接约束能力。
|
||||
|
||||
这一层回答的是:
|
||||
|
||||
> **RTOS 如何在人工智能目标负载进入系统后,持续保护关键保障负载的时间边界。**
|
||||
|
||||
## 3. 核心研究问题
|
||||
|
||||
### 3.1 关键任务如何不被人工智能目标负载拖垮
|
||||
|
||||
当人工智能目标负载与关键保障负载并存时,RTOS 的首要任务不是提高模型吞吐,而是确保:
|
||||
|
||||
- 周期控制任务不失去截止期;
|
||||
- 中断链路不被模型加载、日志、I/O 和推理提交路径污染;
|
||||
- 恢复路径在异常条件下仍然可触发;
|
||||
- 控制输出始终保留优先权。
|
||||
|
||||
### 3.2 哪些资源竞争能够由 RTOS 直接治理
|
||||
|
||||
RTOS 可以直接治理的通常是:
|
||||
|
||||
- CPU 时间分配;
|
||||
- 抢占关系;
|
||||
- 中断响应顺序;
|
||||
- 同步冲突;
|
||||
- 关键路径上的内核对象与内存使用方式。
|
||||
|
||||
RTOS 不能单独决定的,则包括 GPU/NPU 内部算子执行、显存流水线、驱动内部队列与片上总线物理冲突。这些内容必须和系统协同域一起讨论。
|
||||
|
||||
## 4. 关键机制
|
||||
|
||||
### 4.1 调度与抢占
|
||||
|
||||
关键保障负载应继续保持硬优先级或等价的刚性优先级结构。人工智能目标负载相关线程、提交路径和后台服务线程必须被限制在不会破坏关键任务的优先级层次中。
|
||||
|
||||
### 4.2 中断与关键路径治理
|
||||
|
||||
模型加载、设备中断、网络和存储路径都可能拉长关键路径。后续研究应重点观察:
|
||||
|
||||
- 哪些中断必须线程化;
|
||||
- 哪些中断应固定到非关键核;
|
||||
- 哪些设备中断会污染关键任务核;
|
||||
- 推理提交和结果回收链路是否会引发优先级倒置。
|
||||
|
||||
### 4.3 恢复与隔离
|
||||
|
||||
当推理链路失稳、超时或内存耗尽时,RTOS 直接控制域需要承担:
|
||||
|
||||
- 关键任务不受波及的隔离;
|
||||
- 降级模式触发;
|
||||
- 任务重启与恢复;
|
||||
- 对控制回路的兜底保持。
|
||||
|
||||
## 5. 评价重点
|
||||
|
||||
这一层的核心指标包括:
|
||||
|
||||
- `deadline miss ratio`
|
||||
- `P99/P99.9 jitter`
|
||||
- 观测最大响应时间
|
||||
- 外部接口响应时间
|
||||
- 恢复时间与异常切换开销
|
||||
|
||||
这些指标构成 RTOS 直接控制域的主证据,不应和 GPU/NPU 内部执行指标混为一体。
|
||||
|
||||
## 6. 与其他层的关系
|
||||
|
||||
- 与 `推理运行域` 的关系:RTOS 负责保护关键路径,推理运行域负责描述 AI 目标负载本身的时间行为;
|
||||
- 与 `系统协同域` 的关系:RTOS 负责可直接治理的部分,系统协同域负责 Linux、Hypervisor 和异构资源共同造成的整体边界问题。
|
||||
|
||||
## 7. 当前结论
|
||||
|
||||
框架2并没有削弱 RTOS 的价值,而是把 RTOS 的价值说得更准确:
|
||||
|
||||
> **RTOS 是关键保障负载的确定性底座,是人工智能进入实时控制系统后仍能维持秩序的直接控制层。**
|
||||
@@ -0,0 +1,85 @@
|
||||
# 推理运行域
|
||||
|
||||
## 1. 主题定位
|
||||
|
||||
推理运行域用于解释人工智能目标负载本身的时间行为、资源行为和优化空间。框架2强调,大模型与智能算法的实时问题不能完全归因到 RTOS 身上,原因就在于推理运行域本身已经带有很强的结构性时间特征。
|
||||
|
||||
## 2. 推理运行域包含什么
|
||||
|
||||
这一层主要包括:
|
||||
|
||||
- 模型结构与参数规模;
|
||||
- 量化方式与数值精度;
|
||||
- Prefill / Decode 两阶段时间特征;
|
||||
- KV Cache 生命周期与内存组织;
|
||||
- 推理框架队列、批处理与上下文管理;
|
||||
- 算子实现、驱动路径和设备执行接口。
|
||||
|
||||
这一层回答的是:
|
||||
|
||||
> **人工智能目标负载本身具有什么样的时间行为、内存行为和资源竞争特征。**
|
||||
|
||||
## 3. 为什么这一层不能被省略
|
||||
|
||||
如果把所有实时性问题都写成 RTOS 问题,就会忽略以下事实:
|
||||
|
||||
- 不同模型大小对内存和时延的影响完全不同;
|
||||
- 量化方式会显著改变推理峰值、稳定性和能效;
|
||||
- 同一硬件上,不同框架和不同算子组合会带来巨大差异;
|
||||
- Decode 阶段与 Prefill 阶段的时间结构并不相同;
|
||||
- 推理框架内部队列策略会直接影响首响应时间与尾延迟。
|
||||
|
||||
因此,推理运行域必须被单独分析。
|
||||
|
||||
## 4. 核心研究问题
|
||||
|
||||
### 4.1 模型时间行为如何进入系统分析
|
||||
|
||||
后续研究需要回答:
|
||||
|
||||
- 不同模型在 Prefill 与 Decode 阶段分别造成什么样的时间分布;
|
||||
- 哪些阶段是延迟敏感的;
|
||||
- 哪些阶段可以延后、限流或降级;
|
||||
- 哪些阶段会对关键保障负载形成直接冲击。
|
||||
|
||||
### 4.2 内存与缓存如何形成主瓶颈
|
||||
|
||||
对于设备端 SoC 和边缘节点,KV Cache、统一内存与 DMA 搬运常常比算力本身更早成为主瓶颈。
|
||||
因此,这一层需要重点分析:
|
||||
|
||||
- 权重、KV Cache、工作区和运行时缓冲的占用边界;
|
||||
- 模型切换、上下文增长和并发请求如何改变内存行为;
|
||||
- 哪些内存组织方式更适合和关键保障负载并存。
|
||||
|
||||
### 4.3 量化与算子如何影响实时边界
|
||||
|
||||
量化和算子优化不仅影响吞吐,还影响:
|
||||
|
||||
- 首响应时延;
|
||||
- 长稳阶段的功耗与热状态;
|
||||
- 设备端资源占用;
|
||||
- 能否在受限部署条件下持续运行。
|
||||
|
||||
## 5. 评价重点
|
||||
|
||||
这一层的核心指标包括:
|
||||
|
||||
- `TTFT`
|
||||
- `TPOT`
|
||||
- 端到端响应时间
|
||||
- 功能有效性与任务完成率
|
||||
- 峰值内存、工作区与长稳退化
|
||||
- 单位任务能耗与热漂移
|
||||
|
||||
这些指标构成 AI 目标负载本身的主证据。
|
||||
|
||||
## 6. 与其他层的关系
|
||||
|
||||
- 与 `RTOS 直接控制域` 的关系:推理运行域描述 AI 目标负载自身行为,RTOS 控制域负责保护关键任务不被这些行为拖垮;
|
||||
- 与 `系统协同域` 的关系:推理运行域给出负载输入,系统协同域回答这些负载如何与 Linux、Hypervisor 和异构资源共同形成整体边界。
|
||||
|
||||
## 7. 当前结论
|
||||
|
||||
框架2保留 RTOS 的重要性,但明确要求把推理运行域单独提出,是因为:
|
||||
|
||||
> **只有先把人工智能目标负载本身的时间结构说清楚,后续系统边界分析才不会落回单因果叙事。**
|
||||
@@ -0,0 +1,107 @@
|
||||
# 系统协同域
|
||||
|
||||
## 1. 主题定位
|
||||
|
||||
系统协同域是框架2相对框架1最大的变化之一。它不再把问题停留在“RTOS 是否更强”,而是直接讨论:当 Linux、RTOS、Hypervisor、统一内存、总线、DMA、NPU、GPU 和规则兜底机制共同存在时,整体实时性如何被建立、维持和验证。
|
||||
|
||||
## 2. 为什么系统协同域是主问题
|
||||
|
||||
会议中最关键的判断之一是:人工智能进入实时控制系统后的真实问题,已经超出了单一操作系统边界。原因在于:
|
||||
|
||||
- 推理生态通常离不开 Linux;
|
||||
- 关键保障负载需要 RTOS 或等价实时控制底座;
|
||||
- 设备端 SoC 常常采用统一内存和异构协处理器;
|
||||
- Hypervisor 与隔离机制直接影响资源边界;
|
||||
- 规则兜底与安全约束必须与模型输出共同工作。
|
||||
|
||||
因此,系统协同域回答的是:
|
||||
|
||||
> **在混合结构中,整体秩序如何形成。**
|
||||
|
||||
## 3. 核心问题
|
||||
|
||||
### 3.1 Linux 与 RTOS 如何分工
|
||||
|
||||
Linux 更适合承担:
|
||||
|
||||
- 推理框架与模型生态;
|
||||
- 容器、服务和工具链支持;
|
||||
- 非关键路径的 AI 相关运行任务。
|
||||
|
||||
RTOS 更适合承担:
|
||||
|
||||
- 关键保障负载;
|
||||
- 控制闭环中的刚性时间边界;
|
||||
- 关键路径上的确定性治理。
|
||||
|
||||
系统协同域的核心,不是让两者彼此替代,而是让两者分工清楚、边界稳定。
|
||||
|
||||
### 3.2 Hypervisor 在这里起什么作用
|
||||
|
||||
Hypervisor 不是附属选项,而是重要研究对象之一。它至少影响:
|
||||
|
||||
- 核心隔离和资源切分;
|
||||
- 中断路由和设备访问边界;
|
||||
- 共享内存与通信路径;
|
||||
- 异常传播与恢复策略。
|
||||
|
||||
在设备端 SoC 和边缘节点上,Hypervisor 往往是把“共存”升级为“可治理共存”的关键层。
|
||||
|
||||
### 3.3 异构资源竞争如何进入系统分析
|
||||
|
||||
在 SoC 和边缘节点上,整体边界往往由以下竞争共同决定:
|
||||
|
||||
- CPU 与 NPU/GPU 的统一内存争用;
|
||||
- DMA 与 CPU 访存冲突;
|
||||
- 总线与缓存竞争;
|
||||
- 模型加载与控制 I/O 共享带宽;
|
||||
- 后台服务与关键任务共享中断和核资源。
|
||||
|
||||
这些问题不能只在驱动层或 RTOS 层单独解释,必须进入系统协同域。
|
||||
|
||||
## 4. 关键机制
|
||||
|
||||
### 4.1 资源隔离
|
||||
|
||||
后续研究应重点观察:
|
||||
|
||||
- CPU 核和关键任务核是否可隔离;
|
||||
- 设备中断是否可隔离;
|
||||
- 共享内存和 DMA 缓冲是否可限定边界;
|
||||
- 模型提交路径是否会挤占控制路径资源。
|
||||
|
||||
### 4.2 协同治理
|
||||
|
||||
协同治理关注的是:
|
||||
|
||||
- 推理与控制如何分层;
|
||||
- 哪些事件由 Linux 负责,哪些由 RTOS 负责;
|
||||
- 资源冲突发生时谁拥有优先权;
|
||||
- 发生过载和异常时系统如何降级与恢复。
|
||||
|
||||
### 4.3 证据组织
|
||||
|
||||
系统协同域的证据不能只看某一个线程或某一个服务,而需要同时观察:
|
||||
|
||||
- 人工智能目标负载层;
|
||||
- 关键保障负载层;
|
||||
- 系统协同层。
|
||||
|
||||
只有三层指标同时成立,才能说明协同结构是有效的。
|
||||
|
||||
## 5. 对照方式
|
||||
|
||||
框架2的主对照建议采用:
|
||||
|
||||
- `O0` 普通 Linux
|
||||
- `O1` PREEMPT_RT Linux
|
||||
- `O2` RTOS 原生配置
|
||||
- `O3` 混合基础系统配置
|
||||
|
||||
其中 `O3` 不再只是附属架构,而是系统协同域的主实验路径之一。
|
||||
|
||||
## 6. 当前结论
|
||||
|
||||
框架2真正抬升的,不只是标题口径,而是研究主线本身:
|
||||
|
||||
> **系统协同域使项目从“RTOS 机制研究”走向“人工智能进入实时控制系统后的基础系统研究”。**
|
||||
@@ -0,0 +1,80 @@
|
||||
# 规则兜底与控制闭环
|
||||
|
||||
## 1. 主题定位
|
||||
|
||||
人工智能能力进入实时控制系统后,系统不可能只靠模型输出维持闭环。框架2因此把“规则兜底与控制闭环”单独列为一条研究线,用来说明模型推理、控制逻辑、安全约束和异常切换如何共同维持系统边界。
|
||||
|
||||
## 2. 为什么必须单独提出这一层
|
||||
|
||||
如果只讨论模型推理和操作系统,容易忽略一个关键事实:
|
||||
|
||||
- 模型输出可能延迟;
|
||||
- 模型输出可能不稳定;
|
||||
- 模型输出可能不满足控制安全边界;
|
||||
- 系统必须在异常条件下退回到规则与安全约束支撑的路径。
|
||||
|
||||
因此,真实系统需要的是“模型驱动 + 规则兜底”的混合闭环。
|
||||
|
||||
## 3. 核心研究问题
|
||||
|
||||
### 3.1 模型与规则如何分工
|
||||
|
||||
模型更适合承担:
|
||||
|
||||
- 感知理解;
|
||||
- 语义识别;
|
||||
- 规划建议;
|
||||
- 异常模式发现。
|
||||
|
||||
规则层更适合承担:
|
||||
|
||||
- 安全边界检查;
|
||||
- 优先级裁决;
|
||||
- 异常降级;
|
||||
- 默认动作触发;
|
||||
- 恢复条件判定。
|
||||
|
||||
### 3.2 闭环如何建立
|
||||
|
||||
框架2中的闭环至少包括:
|
||||
|
||||
1. 感知输入;
|
||||
2. 推理与规划;
|
||||
3. 规则检查;
|
||||
4. 执行输出;
|
||||
5. 状态回读;
|
||||
6. 异常切换与恢复。
|
||||
|
||||
只有这条链路完整,系统才是真正的实时控制系统,而不是带 AI 的普通服务系统。
|
||||
|
||||
### 3.3 异常切换如何进入系统实验
|
||||
|
||||
后续实验不仅要测正常场景,还要测:
|
||||
|
||||
- 模型超时;
|
||||
- 队列过载;
|
||||
- 设备异常;
|
||||
- 推理链路中断;
|
||||
- 控制路径回退。
|
||||
|
||||
这些内容构成规则兜底层的核心证据。
|
||||
|
||||
## 4. 评价重点
|
||||
|
||||
这一层重点观察:
|
||||
|
||||
- 异常切换时间;
|
||||
- 规则触发正确性;
|
||||
- 降级后的关键任务保持情况;
|
||||
- 恢复后的系统稳定性;
|
||||
- 模型与规则共同工作时的整体边界。
|
||||
|
||||
## 5. 与其他层的关系
|
||||
|
||||
- 与 `RTOS 直接控制域` 的关系:RTOS 负责底层调度与恢复执行;
|
||||
- 与 `推理运行域` 的关系:模型提供感知和规划能力;
|
||||
- 与 `系统协同域` 的关系:规则兜底把混合系统真正闭合成可执行的控制系统。
|
||||
|
||||
## 6. 当前结论
|
||||
|
||||
> **没有规则兜底与异常切换,人工智能进入实时控制系统就只是“把模型接进来了”;只有闭环建立起来,基础系统课题才真正成立。**
|
||||
@@ -0,0 +1,129 @@
|
||||
# 面向AI的实时控制基础系统研究逻辑说明
|
||||
|
||||
## 1. 文档目的
|
||||
|
||||
本文用于解释框架2的研究逻辑,重点回答三个问题:
|
||||
|
||||
1. 研究对象从 RTOS 平台上升到基础系统之后,实验如何组织;
|
||||
2. `T5~T1` 验证矩阵如何继续保留,同时不替代研究主语;
|
||||
3. Linux、RTOS、Hypervisor 与混合结构如何进入统一对照框架。
|
||||
|
||||
## 2. 研究对象
|
||||
|
||||
本框架的研究对象是:
|
||||
|
||||
> **面向 AI 的实时控制基础系统。**
|
||||
|
||||
其核心不是某一个单一软件层,而是下面三层共同构成的系统:
|
||||
|
||||
- **RTOS 直接控制域**:关键任务调度、中断、同步、恢复和控制路径保护;
|
||||
- **推理运行域**:模型、量化、算子、推理框架、驱动与运行时队列;
|
||||
- **系统协同域**:Linux、RTOS、Hypervisor、统一内存、总线、DMA、NPU/GPU 和资源治理结构。
|
||||
|
||||
## 3. T5~T1 验证矩阵的角色
|
||||
|
||||
`T5~T1` 五类部署形态继续承担三项作用:
|
||||
|
||||
1. **验证矩阵**:在不同资源与系统角色下检验同一问题是否成立;
|
||||
2. **证据组织框架**:把结论放回统一谱系中观察边界和收窄区间;
|
||||
3. **产业解释接口**:让不同部署位置都能找到现实对应场景。
|
||||
|
||||
在框架2中,`T5~T1` 回答的是“在哪里验证”,而不是“研究对象是什么”。
|
||||
|
||||
## 4. 两条技术路线如何进入实验
|
||||
|
||||
### 4.1 MCU 路线
|
||||
|
||||
MCU 路线更适合围绕以下内容组织实验:
|
||||
|
||||
- 小模型与控制任务的静态编排;
|
||||
- 工具链和开发套件的能力;
|
||||
- 极小资源预算下的任务边界;
|
||||
- 与芯片规格、片上资源和开发流程的协同关系。
|
||||
|
||||
### 4.2 SoC 路线
|
||||
|
||||
SoC 路线更适合围绕以下内容组织实验:
|
||||
|
||||
- Linux / RTOS 的角色分工;
|
||||
- Hybrid 结构与 Hypervisor 的隔离方式;
|
||||
- 统一内存、总线和异构协处理器竞争;
|
||||
- 推理链路与控制链路并存时的整体实时性。
|
||||
|
||||
## 5. 对照逻辑
|
||||
|
||||
框架2的主对照不再只限于“普通 Linux / PREEMPT_RT / RTOS”,而是扩展为:
|
||||
|
||||
| 编号 | 配置 | 作用 |
|
||||
|---|---|---|
|
||||
| `O0` | 普通 Linux | 通用系统基线 |
|
||||
| `O1` | PREEMPT_RT Linux | 实时增强 Linux 的边界 |
|
||||
| `O2` | RTOS 原生配置 | RTOS 底座能力 |
|
||||
| `O3` | 混合基础系统配置 | Linux + RTOS + Hypervisor 或等价协同结构 |
|
||||
|
||||
必要时还可以继续细分 `O3` 的不同协同版本,用于比较不同 Hybrid 结构的收益与代价。
|
||||
|
||||
## 6. 核心实验顺序
|
||||
|
||||
框架2的实验顺序建议如下:
|
||||
|
||||
1. **系统就绪性确认**:设备、驱动、模型、测量链路和基础软件栈可用;
|
||||
2. **单域基线测试**:分别测试推理运行域与关键保障负载的基础行为;
|
||||
3. **双域并存测试**:测试人工智能目标负载与关键保障负载共存时的边界;
|
||||
4. **协同结构测试**:引入 Linux / RTOS / Hypervisor 混合结构,比较不同协同方式;
|
||||
5. **极限与恢复测试**:引入突发负载、长稳运行、异常切换和规则兜底场景;
|
||||
6. **跨档位回收分析**:把结论放回 `T5~T1` 观察适用区间与失效边界。
|
||||
|
||||
## 7. 核心指标
|
||||
|
||||
框架2仍然采用三层指标结构:
|
||||
|
||||
### 7.1 人工智能目标负载层
|
||||
|
||||
- `TTFT`
|
||||
- `TPOT`
|
||||
- 端到端响应时间
|
||||
- 功能有效性
|
||||
|
||||
### 7.2 关键保障负载层
|
||||
|
||||
- `deadline miss ratio`
|
||||
- `P99/P99.9 jitter`
|
||||
- 观测最大响应时间
|
||||
- 外部接口响应时间
|
||||
|
||||
### 7.3 系统协同层
|
||||
|
||||
- 有效吞吐
|
||||
- 资源隔离效果
|
||||
- `E/token`
|
||||
- 温度与热漂移
|
||||
- 异常切换与恢复能力
|
||||
|
||||
## 8. 与框架1的关键差别
|
||||
|
||||
框架1的重点是:
|
||||
|
||||
- RTOS 作为研究主语;
|
||||
- 六个 RTOS 机制方向;
|
||||
- 观察 RTOS 在五类部署形态中的系统优势。
|
||||
|
||||
框架2的重点是:
|
||||
|
||||
- 基础系统作为研究主语;
|
||||
- 三层边界与两条技术路线;
|
||||
- 观察人工智能进入实时控制系统后,整体边界如何成立。
|
||||
|
||||
因此,框架2更适合承接 2026-09-22 会议中的重定义判断。
|
||||
|
||||
## 9. 当前状态
|
||||
|
||||
框架2当前已经形成一条完整的逻辑链:
|
||||
|
||||
1. 研究对象上移到“面向 AI 的实时控制基础系统”;
|
||||
2. 用三层边界划分研究问题;
|
||||
3. 用 MCU 路线与 SoC 路线组织不同系统结构;
|
||||
4. 用 `T5~T1` 验证矩阵组织证据;
|
||||
5. 用 Linux / RTOS / Hypervisor / 混合结构建立统一对照。
|
||||
|
||||
在此基础上,后续可以继续向更细的实验子文档、联合研究方材料和正式交付物展开。
|
||||
@@ -0,0 +1,100 @@
|
||||
# 面向AI的实时控制基础系统基础设备与算力基础
|
||||
|
||||
## 1. 文档目的
|
||||
|
||||
本文用于说明框架2中的验证矩阵如何组织。这里继续保留 `T5~T1` 五类部署形态,但其作用是“验证矩阵”,不是研究主语。本文件同时把 `MCU 路线` 与 `SoC 路线` 显式放进设备与算力组织逻辑中。
|
||||
|
||||
## 2. 验证矩阵的组织原则
|
||||
|
||||
### 2.1 三条组织原则
|
||||
|
||||
1. **部署形态优先于硬件型号**
|
||||
先回答系统在什么位置运行,再回答用什么设备验证。
|
||||
2. **技术路线优先于单点性能**
|
||||
先区分 MCU 路线与 SoC 路线,再讨论容量、功耗和算力差异。
|
||||
3. **基础系统问题优先于纯吞吐问题**
|
||||
优先选择能暴露控制路径、推理路径与资源竞争关系的设备与场景。
|
||||
|
||||
### 2.2 五类部署形态
|
||||
|
||||
| 部署形态 | 系统角色 | 主要关注点 |
|
||||
|---|---|---|
|
||||
| `T5` 控制端 | 极紧资源预算下的控制节点 | 静态编排、低功耗、极小内存 |
|
||||
| `T4` 设备端 SoC | 设备本体内的异构平台 | Linux/RTOS/Hypervisor 协同、统一内存竞争 |
|
||||
| `T3` 边缘节点 | 设备附近的近源协同节点 | 多任务并发、热稳定性、边缘协同 |
|
||||
| `T2` 单机工作站 | 单机高密本地推理平台 | 多卡公平性、关键任务保护与系统协同 |
|
||||
| `T1` 服务器 / 集群 | 任务关键场景中的分布式协同平台 | 跨节点边界、编排与规模扩展 |
|
||||
|
||||
## 3. 两条技术路线在矩阵中的位置
|
||||
|
||||
### 3.1 MCU 路线
|
||||
|
||||
MCU 路线主要对应 `T5`,重点设备类型包括:
|
||||
|
||||
- MCU 控制器;
|
||||
- 轻量控制盒;
|
||||
- 极小资源预算下的端侧控制节点。
|
||||
|
||||
它承担的问题是:
|
||||
|
||||
- 小模型与控制任务如何静态编排;
|
||||
- 芯片工具链和开发套件如何支撑部署;
|
||||
- 极小内存、功耗与外设约束下能否维持闭环。
|
||||
|
||||
### 3.2 SoC 路线
|
||||
|
||||
SoC 路线主要对应 `T4`,并向 `T3` 延伸。重点设备类型包括:
|
||||
|
||||
- 工业 SoC;
|
||||
- 车规 SoC;
|
||||
- 设备端 AI 模组;
|
||||
- 边缘异构平台。
|
||||
|
||||
它承担的问题是:
|
||||
|
||||
- Linux 与 RTOS 的协同关系;
|
||||
- Hypervisor 的隔离与资源切分;
|
||||
- 统一内存、DMA、总线与 NPU/GPU 竞争;
|
||||
- 设备级功耗、散热与体积约束下的整体确定性。
|
||||
|
||||
## 4. 当前设备锚点
|
||||
|
||||
### 4.1 已有核心平台
|
||||
|
||||
| 平台 | 对应位置 | 当前价值 |
|
||||
|---|---|---|
|
||||
| RK3588 16 GB | `T4-L` / 受限配置可模拟 `T5-H` | 设备端 SoC 主样例;同时可承接小型化与低功耗观察 |
|
||||
| 4×V100 服务器 | `T2-L` | 单机高密推理与关键保障负载保护的对照窗口 |
|
||||
|
||||
### 4.2 条件扩展平台
|
||||
|
||||
| 平台方向 | 对应位置 | 主要价值 |
|
||||
|---|---|---|
|
||||
| RK3568 / 同类控制盒 | `T5-L` | MCU / 轻量控制路线主验证窗口 |
|
||||
| RK3576 / 同类设备 | `T5-M` 或 `T4-L` 衔接档 | 中间资源档位与工具链观察窗口 |
|
||||
| Jetson / IGX / 工控边缘节点 | `T3` / `T4-M` | SoC 向边缘协同扩展的窗口 |
|
||||
| 更高端单机多卡或多节点平台 | `T2-H` / `T1` | 观察规模扩展和协同边界收窄区间 |
|
||||
|
||||
## 5. 为什么框架2仍然保留 `T2/T1`
|
||||
|
||||
框架2并不把 `T2/T1` 当作 RTOS 优势的天然主战场,但仍保留其验证价值:
|
||||
|
||||
- 它们可以暴露 AI 目标负载的运行时复杂性;
|
||||
- 它们可以观察关键保障负载在高密度 AI 负载下是否仍可被保护;
|
||||
- 它们可以为系统协同域提供资源竞争、队列行为和规模边界证据。
|
||||
|
||||
因此,`T2/T1` 在框架2中的角色更接近“上界参照窗口”,而不是研究主语。
|
||||
|
||||
## 6. 当前建议
|
||||
|
||||
对框架2而言,最值得优先强化的设备与算力主线是:
|
||||
|
||||
1. **`T5` MCU / 控制端路线**
|
||||
2. **`T4` 设备端 SoC 路线**
|
||||
3. **`T3` 边缘协同路线**
|
||||
|
||||
这三类场景最能体现“基础系统主语”与“系统协同边界”。
|
||||
|
||||
## 7. 当前结论
|
||||
|
||||
> **框架2中的设备与算力组织方式,不是为了堆出更大的硬件谱系,而是为了在不同资源条件下,把 MCU 路线与 SoC 路线的基础系统问题显式暴露出来。**
|
||||
@@ -0,0 +1,31 @@
|
||||
# 共享理论与方法层
|
||||
|
||||
本目录用于承载框架2中由总课题统一维护、并由两个子课题共同共享的理论和方法内容。
|
||||
|
||||
## 本层内容
|
||||
|
||||
1. [00-整体研究框架.md](./00-整体研究框架.md)
|
||||
2. [01-RTOS直接控制域.md](./01-RTOS直接控制域.md)
|
||||
3. [02-推理运行域.md](./02-推理运行域.md)
|
||||
4. [03-系统协同域.md](./03-系统协同域.md)
|
||||
5. [04-规则兜底与控制闭环.md](./04-规则兜底与控制闭环.md)
|
||||
6. [05-研究逻辑说明.md](./05-研究逻辑说明.md)
|
||||
7. [06-基础设备与算力基础.md](./06-基础设备与算力基础.md)
|
||||
|
||||
## 本层作用
|
||||
|
||||
这一层统一负责:
|
||||
|
||||
- 研究主语与问题定义;
|
||||
- 三层边界;
|
||||
- 统一验证矩阵;
|
||||
- 统一评价框架;
|
||||
- 统一对照逻辑;
|
||||
- 总体方法论表达。
|
||||
|
||||
## 与两个子课题的关系
|
||||
|
||||
- 子课题 A 重点继承其中与 `MCU`、静态编排、低功耗和工具链相关的部分;
|
||||
- 子课题 B 重点继承其中与 `Linux/RTOS/Hypervisor`、资源隔离和系统协同相关的部分。
|
||||
|
||||
这意味着两个子课题虽然分别展开,但不需要各自重复建设方法层。
|
||||
Reference in New Issue
Block a user