大模型速度测试报告
Run ID: 20260826-004823 | 时间: 2026-08-26T00:48:23.163258 | 用例: 2 | 重复: 1次
模型: Q3.6-35B-A3B-Orig-Thi | 平台: win32
总用例数
2
通过
2
失败
0
总耗时
60.01s
⚡ 并发压力测试摘要
并发数
100
基准 TPS
57.43
并发 TPS
38.95
TPS 保持率
67.82%
P95 延迟
44577.95ms
P99 延迟
45827.21ms
错误率
0.0%
性能分析
最快用例:
纯文本生成基准 (5672.64ms)
最慢用例:
并发压力测试 (25637.30ms)
最快/最慢比:
4.5194653635696955x
平均延迟:
15654.97ms
性能对比柱状图
P95延迟对比
详细数据
用例名称
难度
状态
平均延迟 (ms)
标准差
最小
最大
P95
纯文本生成基准
简单
passed
5672.64
0.0
5672.64
5672.64
5672.64
并发压力测试
压力
passed
25637.3
11979.73
5264.59
45953.13
44577.96
环境信息
模型
Q3.6-35B-A3B-Orig-Thi
运行平台
win32
运行ID
20260826-004823
测试时间
2026-08-26T00:48:23.163258