美格智能 MeiG
大语言模型

SNM980 × qwen2.5-3B

QNN · — · 测试环境:qnn_android · GPU

qwen2.5-3B @ SNM980 QNN/GPU 20.00 tok/s

初始化
1 分 6.1 秒
原始值 66.09 s
推理指标(纯模型推理耗时,不含前后处理流程)
20.00 tok/s
Prefill
119.20 tok/s
Decode
20.00 tok/s
内存占用
304 MB

关联信息

模型
qwen2.5-3B
芯片平台
SNM980
芯片
SM8750P (Snapdragon 8 Elite)
推理框架
QNN
量化精度
—
测试日期
2026-06-29