qwen2.5-3B
大语言模型QNNqwen2.5-3B — 美格最新实测数据。
BEST · SRM975
36.8tok/s
QNN/HTP · w4a16
任务类型
大语言模型
芯片平台
7 个
跨平台性能对比
按实测指标排序，深色条为该模型最佳平台。
芯片兼容矩阵
模型 × 芯片平台 × 精度 × 推理后端 组合的实测性能。
| 芯片平台 | 精度 | 推理后端 | 性能（不含前后处理） | 报告 |
|---|---|---|---|---|
| SRM975 QCM8838 | w4a16 | QNN/HTP | 36.8 tok/s★ | 查看 → |
| SNM980 SM8750P (Snapdragon 8 Elite) | w4a16 | QNN/HTP | 34.467 tok/s | 查看 → |
| SNM982 QCS8625 | w4a16 | QNN/HTP | 30.434 tok/s | 查看 → |
| SNM970 QCS8550 / QCM8550 (Snapdragon 8 Gen 2) | w4a16 | QNN/HTP | 26 tok/s | 查看 → |
| SRM965 QCM8538 | w4a16 | QNN/HTP | 25.57 tok/s | 查看 → |
| SNM983 QCS9075 / QCS9100 (SA8775P) | w4a16 | QNN/HTP | 25.039 tok/s | 查看 → |
| SNM980 SM8750P (Snapdragon 8 Elite) | — | QNN/GPU | 20 tok/s | 查看 → |
| SRM6690 QCM6690 (Snapdragon 6690) | w4a16 | QNN/HTP | 8.298 tok/s | 查看 → |
下载资源
SNM970
模型库/大语言模型/高通/Mobile/8550/qwen2.5-3b_8550_android.zip
SNM970
模型库/大语言模型/高通/Mobile/8550/qwen2.5-3b_8550_linux.zip
SNM980
模型库/大语言模型/高通/Mobile/8750/qwen2.5-3b_8750_android.zip
SNM980
模型库/大语言模型/高通/Mobile/8750/qwen2.5-3b_8750_linux.zip
SNM982
模型库/大语言模型/高通/Mobile/8625/qwen2.5-3b_8625_linux.zip
SNM983
模型库/大语言模型/高通/Automotive/9075A/qwen2.5-3b_9075_linux.zip
SNM983
模型库/大语言模型/高通/Mobile/9075/qwen2.5-3b_9075_android.zip
SRM6690
模型库/大语言模型/高通/Mobile/6690/qwen2.5-3b_6690_android.zip
SRM6690
模型库/大语言模型/高通/Mobile/6690/qwen2.5-3b_6690_linux.zip
SRM965
模型库/大语言模型/高通/Automotive/8538/qwen2.5-3b_8538_android.zip
SRM965
模型库/大语言模型/高通/Automotive/8538/qwen2.5-3b_8538_linux.zip
SRM975
模型库/大语言模型/高通/Automotive/8838/qwen2.5-3b_8838_android.zip
instruct · Q4_0
模型库/llamacppgguf/qwen/qwen2.5/qwen2.5-3b/qwen2.5-3b-instruct-q4_0.gguf
相关示例应用
暂无关联示例。