# 04-关键研究空白 ## 概述 基于行业同行研究和本项目框架(框架1、框架2),以下方向系统级实时性研究尚属空白或刚刚开始,是本项目可重点突破的研究机会。 --- ## 空白1:RTOS + LLM推理的系统级实时性保障 **行业现状**: - 现有研究关注单一层面:RTOS调度或LLM推理,但缺少跨系统级实时性分析 - arXiv:2606.02862 提出嵌入式Agent架构,但未深入RTOS调度与LLM推理的协同 **研究空白**: - 建立从RTOS调度到LLM推理延迟的全链路实时性分析模型 - 定义RTOS环境中LLM推理的"实时性"标准 - 研究推理框架与RTOS调度器的协同优化 **与项目关联**:框架1、框架2的核心研究方向 --- ## 空白2:混合系统(Linux + RTOS + Hypervisor)中的AI负载准入与隔离 **行业现状**: - NVIDIA Jetson Thor支持MIG + 实时内核结合(来源:[NVIDIA Jetson将智能体AI带入物理世界](https://blogs.nvidia.cn/blog/jetson-agentic-ai-physical-world/)) - 翼辉AMC 3000采用QuickAMP架构实现SylixOS与Linux共存(来源:[翼辉信息SylixOS AI应用方案发布](https://www.elecfans.com/d/6800705.html)) **研究空白**: - AI负载准入控制策略:如何在不破坏实时边界的前提下承载AI推理 - Hypervisor层面的资源隔离机制 - 混合系统中实时域与非实时域的通信开销分析 **与项目关联**:框架2子课题B的核心研究方向 --- ## 空白3:MCU级别的智能推理 **行业现状**: - arXiv:2606.02862 提出端侧Agent需毫秒级响应延迟 - [RTOS for Edge AI](https://www.researchtrendsjournal.com/uploads/articles/3-4-38.1.pdf) 实证分析MCU上推理时延 - 鸿蒙端侧AI支持50KB模型、<10ms推理(来源:[HiSilicon Kirin A1互联穿戴生态设备](https://blog.csdn.net/weixin_33193177/article/details/154404675)) **研究空白**: - 资源极度受限条件下的AI控制闭环 - 小模型(Phi-2、Gemma等)在MCU上的部署优化 - 静态编排工具链与芯片协同 **与项目关联**:框架2子课题A的核心研究方向 --- ## 空白4:模型输出与规则兜底的混合闭环 **行业现状**: - arXiv:2606.02862 提出端侧Agent的规则+SLM混合模式 - [Agent.xpu](https://arxiv.org/html/2506.24045v2) 的细粒度抢占机制 **研究空白**: - LLM输出验证与约束机制 - 规则系统与LLM的混合决策 - 安全关键场景下的兜底策略 **与项目关联**:框架2共享方法层(规则兜底与控制闭环) --- ## 空白5:边缘侧轻量级Agent框架 **行业现状**: - 主流Agent框架(LangGraph、CrewAI、AutoGen等)面向云端/服务器 - [Edge LLM Runtime Stack 2026](https://edgeaistack.ai/blog/edge-llm-runtime-stack-2026/) 对比7大运行时,但无嵌入式Agent框架 - ExecuTorch仅50KB基础占用,但非Agent框架 **研究空白**: - 资源受限环境下的Agent运行时 - 轻量级Agent通信机制 - 嵌入式环境中的Agent安全与隔离 **与项目关联**:可扩展研究方向 --- ## 空白6:AI + 实时系统的标准化与基准测试 **行业现状**: - [RTOS for Edge AI](https://www.researchtrendsjournal.com/uploads/articles/3-4-38.1.pdf) 提供初步基准(STM32H7上量化CNN) - NVIDIA提供Jetson LLM基准工具,但无统一标准 **研究空白**: - 定义AI+实时系统的测试基准 - 建立标准化的评测体系 - 开源评测工具链 **与项目关联**:框架1实验设计、框架2共享方法层 --- ## 空白7:五类部署形态的系统级对比 **行业现状**: - NVIDIA Jetson平台覆盖Nano(5 TOPS)到AGX Orin(275 TOPS)五类部署形态 - [Edge LLM at the Edge](https://arxiv.org/html/2603.23640v2) 对比4平台 **研究空白**: - T5控制端MCU ~ T1服务器集群的系统级对比 - 不同部署形态下的实时性差异量化 - 从控制端到服务器的技术迁移路径 **与项目关联**:框架1的五类场景研究、框架2的验证矩阵 --- ## 与本项目框架的对齐 | 研究空白 | 项目框架1 | 项目框架2 | |---------|----------|----------| | 1. 系统级实时性保障 | 五类场景推理图调度、KV-Cache、量化精度感知 | 共享方法层、三层边界 | | 2. 混合系统AI负载隔离 | - | 子课题B(Linux-RTOS-Hypervisor) | | 3. MCU级智能推理 | T5控制端MCU | 子课题A(静态智能控制) | | 4. 规则兜底混合闭环 | - | 共享方法层(规则兜底) | | 5. 边缘侧Agent框架 | - | 可扩展 | | 6. 标准化基准测试 | 实验设计 | 共享方法层 | | 7. 五类部署形态对比 | 核心内容 | 综合比较与收敛 |