forked from eaiadmin/rtos_llm_opt
1.9 KiB
1.9 KiB
指标与证据
1. 小脑控制实时性
- 周期任务释放、开始和完成时间;
- 响应时间与完成抖动;
- P50/P95/P99/P99.9 和观测最大值;
- deadline miss ratio,报告分子与分母;
- 外部输入到执行器输出的物理链路时延;
- 过载、热稳态和故障期间的控制表现。
2. 大脑结果可用性
- 大小脑端到端决策时延;
- deadline-hit ratio;
- 结果新鲜度合格率;
- 超时、过期、乱序、损坏和拒绝率;
- 模型任务质量与置信度;
- 大脑不可用时的回退发生率。
3. 跨域与隔离代价
- IPC 单向/往返延迟及尾部;
- 拷贝次数、CPU 开销和队列占用;
- 静态保留的 CPU、内存和设备资源;
- 分域前后的推理有效吞吐和能效;
- Linux 满载相对小脑空载的控制延迟增量;
- LLC、DRAM、I/O 和热压力的敏感度。
4. 故障与恢复
- 故障检测时间;
- 回退完成时间;
- 域隔离和重启时间;
- 故障窗口内控制违约数;
- 恢复后首个有效大脑结果时间;
- 是否出现不可恢复故障或错误动作。
5. 联合判定
系统配置只有同时满足下列条件才算有效:
控制任务满足期限
AND 大脑结果达到规定的按期率与质量
AND 超时结果不会进入执行路径
AND 故障时在期限内完成回退
AND 资源和能耗代价可接受
平均推理时延降低但控制违约增加,不构成系统实时性改善;控制零违约但所有 AI 请求都被拒绝,也不构成有效协同。
6. 推荐核心图表
- 大脑负载强度—控制违约率—结果按期率可行域;
- 单域与分域方案的控制尾延迟对比;
- CPU、内存、I/O 和热干扰消融图;
- 跨域时序分解图;
- 大脑故障期间控制时间序列;
- 静态资源预留与推理有效吞吐 Pareto 曲线。