eaiadmin
ccf72e32bd
包含6个文件： - 总览：7条关键发现摘要 - 国内同行：翼辉SylixOS、华为鸿蒙/LiteOS、端侧AI框架 - 国际同行：FreeRTOS/Zephyr/ThreadX/VxWorks对比、LLM运行时框架、Agent框架、NVIDIA Jetson物理AI - 学术文献：14篇论文/文章完整摘要和链接 - 关键研究空白：7个研究空白及与项目框架的对齐 - 文献索引：40+条文献完整列表
127 lines
4.6 KiB
Markdown
127 lines
4.6 KiB
Markdown
# 04-关键研究空白
|
||
|
||
## 概述
|
||
|
||
基于行业同行研究和本项目框架（框架1、框架2），以下方向系统级实时性研究尚属空白或刚刚开始，是本项目可重点突破的研究机会。
|
||
|
||
---
|
||
|
||
## 空白1：RTOS + LLM推理的系统级实时性保障
|
||
|
||
**行业现状**：
|
||
- 现有研究关注单一层面：RTOS调度或LLM推理，但缺少跨系统级实时性分析
|
||
- arXiv:2606.02862 提出嵌入式Agent架构，但未深入RTOS调度与LLM推理的协同
|
||
|
||
**研究空白**：
|
||
- 建立从RTOS调度到LLM推理延迟的全链路实时性分析模型
|
||
- 定义RTOS环境中LLM推理的"实时性"标准
|
||
- 研究推理框架与RTOS调度器的协同优化
|
||
|
||
**与项目关联**：框架1、框架2的核心研究方向
|
||
|
||
---
|
||
|
||
## 空白2：混合系统（Linux + RTOS + Hypervisor）中的AI负载准入与隔离
|
||
|
||
**行业现状**：
|
||
- NVIDIA Jetson Thor支持MIG + 实时内核结合（来源：[NVIDIA Jetson将智能体AI带入物理世界](https://blogs.nvidia.cn/blog/jetson-agentic-ai-physical-world/)）
|
||
- 翼辉AMC 3000采用QuickAMP架构实现SylixOS与Linux共存（来源：[翼辉信息SylixOS AI应用方案发布](https://www.elecfans.com/d/6800705.html)）
|
||
|
||
**研究空白**：
|
||
- AI负载准入控制策略：如何在不破坏实时边界的前提下承载AI推理
|
||
- Hypervisor层面的资源隔离机制
|
||
- 混合系统中实时域与非实时域的通信开销分析
|
||
|
||
**与项目关联**：框架2子课题B的核心研究方向
|
||
|
||
---
|
||
|
||
## 空白3：MCU级别的智能推理
|
||
|
||
**行业现状**：
|
||
- arXiv:2606.02862 提出端侧Agent需毫秒级响应延迟
|
||
- [RTOS for Edge AI](https://www.researchtrendsjournal.com/uploads/articles/3-4-38.1.pdf) 实证分析MCU上推理时延
|
||
- 鸿蒙端侧AI支持50KB模型、<10ms推理（来源：[HiSilicon Kirin A1互联穿戴生态设备](https://blog.csdn.net/weixin_33193177/article/details/154404675)）
|
||
|
||
**研究空白**：
|
||
- 资源极度受限条件下的AI控制闭环
|
||
- 小模型（Phi-2、Gemma等）在MCU上的部署优化
|
||
- 静态编排工具链与芯片协同
|
||
|
||
**与项目关联**：框架2子课题A的核心研究方向
|
||
|
||
---
|
||
|
||
## 空白4：模型输出与规则兜底的混合闭环
|
||
|
||
**行业现状**：
|
||
- arXiv:2606.02862 提出端侧Agent的规则+SLM混合模式
|
||
- [Agent.xpu](https://arxiv.org/html/2506.24045v2) 的细粒度抢占机制
|
||
|
||
**研究空白**：
|
||
- LLM输出验证与约束机制
|
||
- 规则系统与LLM的混合决策
|
||
- 安全关键场景下的兜底策略
|
||
|
||
**与项目关联**：框架2共享方法层（规则兜底与控制闭环）
|
||
|
||
---
|
||
|
||
## 空白5：边缘侧轻量级Agent框架
|
||
|
||
**行业现状**：
|
||
- 主流Agent框架（LangGraph、CrewAI、AutoGen等）面向云端/服务器
|
||
- [Edge LLM Runtime Stack 2026](https://edgeaistack.ai/blog/edge-llm-runtime-stack-2026/) 对比7大运行时，但无嵌入式Agent框架
|
||
- ExecuTorch仅50KB基础占用，但非Agent框架
|
||
|
||
**研究空白**：
|
||
- 资源受限环境下的Agent运行时
|
||
- 轻量级Agent通信机制
|
||
- 嵌入式环境中的Agent安全与隔离
|
||
|
||
**与项目关联**：可扩展研究方向
|
||
|
||
---
|
||
|
||
## 空白6：AI + 实时系统的标准化与基准测试
|
||
|
||
**行业现状**：
|
||
- [RTOS for Edge AI](https://www.researchtrendsjournal.com/uploads/articles/3-4-38.1.pdf) 提供初步基准（STM32H7上量化CNN）
|
||
- NVIDIA提供Jetson LLM基准工具，但无统一标准
|
||
|
||
**研究空白**：
|
||
- 定义AI+实时系统的测试基准
|
||
- 建立标准化的评测体系
|
||
- 开源评测工具链
|
||
|
||
**与项目关联**：框架1实验设计、框架2共享方法层
|
||
|
||
---
|
||
|
||
## 空白7：五类部署形态的系统级对比
|
||
|
||
**行业现状**：
|
||
- NVIDIA Jetson平台覆盖Nano(5 TOPS)到AGX Orin(275 TOPS)五类部署形态
|
||
- [Edge LLM at the Edge](https://arxiv.org/html/2603.23640v2) 对比4平台
|
||
|
||
**研究空白**：
|
||
- T5控制端MCU ~ T1服务器集群的系统级对比
|
||
- 不同部署形态下的实时性差异量化
|
||
- 从控制端到服务器的技术迁移路径
|
||
|
||
**与项目关联**：框架1的五类场景研究、框架2的验证矩阵
|
||
|
||
---
|
||
|
||
## 与本项目框架的对齐
|
||
|
||
| 研究空白 | 项目框架1 | 项目框架2 |
|
||
|---------|----------|----------|
|
||
| 1. 系统级实时性保障 | 五类场景推理图调度、KV-Cache、量化精度感知 | 共享方法层、三层边界 |
|
||
| 2. 混合系统AI负载隔离 | - | 子课题B（Linux-RTOS-Hypervisor） |
|
||
| 3. MCU级智能推理 | T5控制端MCU | 子课题A（静态智能控制） |
|
||
| 4. 规则兜底混合闭环 | - | 共享方法层（规则兜底） |
|
||
| 5. 边缘侧Agent框架 | - | 可扩展 |
|
||
| 6. 标准化基准测试 | 实验设计 | 共享方法层 |
|
||
| 7. 五类部署形态对比 | 核心内容 | 综合比较与收敛 |
|