eaiadmin
ccf72e32bd
包含6个文件： - 总览：7条关键发现摘要 - 国内同行：翼辉SylixOS、华为鸿蒙/LiteOS、端侧AI框架 - 国际同行：FreeRTOS/Zephyr/ThreadX/VxWorks对比、LLM运行时框架、Agent框架、NVIDIA Jetson物理AI - 学术文献：14篇论文/文章完整摘要和链接 - 关键研究空白：7个研究空白及与项目框架的对齐 - 文献索引：40+条文献完整列表
4.6 KiB
4.6 KiB
04-关键研究空白
概述
基于行业同行研究和本项目框架（框架1、框架2），以下方向系统级实时性研究尚属空白或刚刚开始，是本项目可重点突破的研究机会。
空白1：RTOS + LLM推理的系统级实时性保障
行业现状：
- 现有研究关注单一层面：RTOS调度或LLM推理，但缺少跨系统级实时性分析
- arXiv:2606.02862 提出嵌入式Agent架构，但未深入RTOS调度与LLM推理的协同
研究空白：
- 建立从RTOS调度到LLM推理延迟的全链路实时性分析模型
- 定义RTOS环境中LLM推理的"实时性"标准
- 研究推理框架与RTOS调度器的协同优化
与项目关联：框架1、框架2的核心研究方向
空白2：混合系统（Linux + RTOS + Hypervisor）中的AI负载准入与隔离
行业现状：
- NVIDIA Jetson Thor支持MIG + 实时内核结合（来源：NVIDIA Jetson将智能体AI带入物理世界）
- 翼辉AMC 3000采用QuickAMP架构实现SylixOS与Linux共存（来源：翼辉信息SylixOS AI应用方案发布）
研究空白：
- AI负载准入控制策略：如何在不破坏实时边界的前提下承载AI推理
- Hypervisor层面的资源隔离机制
- 混合系统中实时域与非实时域的通信开销分析
与项目关联：框架2子课题B的核心研究方向
空白3：MCU级别的智能推理
行业现状：
- arXiv:2606.02862 提出端侧Agent需毫秒级响应延迟
- RTOS for Edge AI 实证分析MCU上推理时延
- 鸿蒙端侧AI支持50KB模型、<10ms推理（来源：HiSilicon Kirin A1互联穿戴生态设备）
研究空白：
- 资源极度受限条件下的AI控制闭环
- 小模型（Phi-2、Gemma等）在MCU上的部署优化
- 静态编排工具链与芯片协同
与项目关联：框架2子课题A的核心研究方向
空白4：模型输出与规则兜底的混合闭环
行业现状：
- arXiv:2606.02862 提出端侧Agent的规则+SLM混合模式
- Agent.xpu 的细粒度抢占机制
研究空白：
- LLM输出验证与约束机制
- 规则系统与LLM的混合决策
- 安全关键场景下的兜底策略
与项目关联：框架2共享方法层（规则兜底与控制闭环）
空白5：边缘侧轻量级Agent框架
行业现状：
- 主流Agent框架（LangGraph、CrewAI、AutoGen等）面向云端/服务器
- Edge LLM Runtime Stack 2026 对比7大运行时，但无嵌入式Agent框架
- ExecuTorch仅50KB基础占用，但非Agent框架
研究空白：
- 资源受限环境下的Agent运行时
- 轻量级Agent通信机制
- 嵌入式环境中的Agent安全与隔离
与项目关联：可扩展研究方向
空白6：AI + 实时系统的标准化与基准测试
行业现状：
- RTOS for Edge AI 提供初步基准（STM32H7上量化CNN）
- NVIDIA提供Jetson LLM基准工具，但无统一标准
研究空白：
- 定义AI+实时系统的测试基准
- 建立标准化的评测体系
- 开源评测工具链
与项目关联：框架1实验设计、框架2共享方法层
空白7：五类部署形态的系统级对比
行业现状：
- NVIDIA Jetson平台覆盖Nano(5 TOPS)到AGX Orin(275 TOPS)五类部署形态
- Edge LLM at the Edge 对比4平台
研究空白：
- T5控制端MCU ~ T1服务器集群的系统级对比
- 不同部署形态下的实时性差异量化
- 从控制端到服务器的技术迁移路径
与项目关联：框架1的五类场景研究、框架2的验证矩阵
与本项目框架的对齐
| 研究空白 | 项目框架1 | 项目框架2 |
|---|---|---|
| 1. 系统级实时性保障 | 五类场景推理图调度、KV-Cache、量化精度感知 | 共享方法层、三层边界 |
| 2. 混合系统AI负载隔离 | - | 子课题B（Linux-RTOS-Hypervisor） |
| 3. MCU级智能推理 | T5控制端MCU | 子课题A（静态智能控制） |
| 4. 规则兜底混合闭环 | - | 共享方法层（规则兜底） |
| 5. 边缘侧Agent框架 | - | 可扩展 |
| 6. 标准化基准测试 | 实验设计 | 共享方法层 |
| 7. 五类部署形态对比 | 核心内容 | 综合比较与收敛 |