qwen2-0.5B
大语言模型QNNqwen2-0.5B — 美格最新实测数据。
BEST · SRM975
165.18tok/s
QNN/HTP · w4a16
任务类型
大语言模型
芯片平台
8 个
跨平台性能对比
按实测指标排序，深色条为该模型最佳平台。
芯片兼容矩阵
模型 × 芯片平台 × 精度 × 推理后端 组合的实测性能。
| 芯片平台 | 精度 | 推理后端 | 性能（不含前后处理） | 报告 |
|---|---|---|---|---|
| SRM975 QCM8838 | w4a16 | QNN/HTP | 165.18 tok/s★ | 查看 → |
| SNM980 SM8750P (Snapdragon 8 Elite) | w4a16 | QNN/HTP | 147.929 tok/s | 查看 → |
| SNM982 QCS8625 | w4a16 | QNN/HTP | 124.471 tok/s | 查看 → |
| SNM970 QCS8550 / QCM8550 (Snapdragon 8 Gen 2) | w4a16 | QNN/HTP | 99 tok/s | 查看 → |
| SNM983 QCS9075 / QCS9100 (SA8775P) | w4a16 | QNN/HTP | 98.386 tok/s | 查看 → |
| SRM935 QCM6490 (Snapdragon 6490) | w4a16 | QNN/HTP | 39 tok/s | 查看 → |
| SRM6690 QCM6690 (Snapdragon 6690) | w4a16 | QNN/HTP | 37.607 tok/s | 查看 → |
下载资源
Q4_0
模型库/llamacppgguf/qwen/qwen2/qwen2-0.5b/qwen2-0_5b-instruct-q4_0.gguf
SNM970
模型库/大语言模型/高通/Mobile/8550/qwen2-0.5b_8550_android.zip
SNM970
模型库/大语言模型/高通/Mobile/8550/qwen2-0.5b_8550_linux.zip
SNM980
模型库/大语言模型/高通/Mobile/8750/qwen2-0.5b_8750_android.zip
SNM980
模型库/大语言模型/高通/Mobile/8750/qwen2-0.5b_8750_linux.zip
SNM982
模型库/大语言模型/高通/Mobile/8625/qwen2-0.5b_8625_linux.zip
SNM983
模型库/大语言模型/高通/Automotive/9075A/qwen2-0.5b_9075_linux.zip
SNM983
模型库/大语言模型/高通/Mobile/9075/qwen2-0.5b_9075_android.zip
SRM6690
模型库/大语言模型/高通/Mobile/6690/qwen2-0.5b_6690_android.zip
SRM6690
模型库/大语言模型/高通/Mobile/6690/qwen2-0.5b_6690_linux.zip
SRM935
模型库/大语言模型/高通/Mobile/6490/qwen2-0.5b_6490_android.zip
SRM935
模型库/大语言模型/高通/Mobile/6490/qwen2-0.5b_6490_linux.zip
SRM965
模型库/大语言模型/高通/Automotive/8538/qwen2-0.5b_8538_android.zip
SRM965
模型库/大语言模型/高通/Automotive/8538/qwen2-0.5b_8538_linux.zip
SRM975
模型库/大语言模型/高通/Automotive/8838/qwen2-0.5b_8838_android.zip
相关示例应用
暂无关联示例。