如果你在做端侧 AI——手机、车机还是 IoT——高通的 QNN 都绕不过去。这个系列三篇,从软件栈全景讲到部署实战,再讲到性能调优,按发文时间顺序读即是推荐阅读顺序。
全系列
- 高通 QNN 全景拆解(一):从框架到硬件的完整软件栈:六层软件栈、三大后端选型、API 六步调用、与 SNPE/TFLite/llama.cpp 的对比
- 高通 QNN 全景拆解(二):从模型量化到模型推理的完整部署实战:6 步上机流程、量化方案选型矩阵、Context Binary 冷启动优化、DDR 带宽算例
- 端侧大模型性能调优在高通芯片上实战:Profiling 三板斧、多进程 L2 Cache 争抢案例、Memory-Bound 破局、投机采样与优化瀑布
怎么读这个系列
- 刚接触 QNN:按顺序读,第一篇的全景图是后两篇的地图
- 急着上机:直接读第二篇的 6 步流程,遇到瓶颈再回头看
- 性能不够:第三篇的优化清单按投入产出比排序,第一件事永远是升级 SDK