分类
善良比聪明更重要
图源:必应每日壁纸 · 蒙特雷湾上空的双冠鸬鹚，加利福尼亚州，美国 (© Hiroya Minakuchi/Minden Pictures)
  文章分类
Boost 11 C++ 33 CMake 23 Docker 56 GDB 14 Jetson 5 LLM 8 Linux 38 gRPC 13 bRPC 32 Shell 20 TCP/IP 24 thinking 1 llama.cpp 4 高通QNN 4
端侧大模型性能调优在高通芯片上实战 端侧大模型性能调优在高通芯片上实战
⚡ Profiling 三板斧 · Memory-Bound 破局 · 投机采样加速 前两篇我们搞定了 QNN 的软件栈全景和部署实战。到这一步，你应该已经有了一个量化好的模型，能在车机 NPU 上跑起来了。Qwen2.5-VL-3B 在
2026-03-22 高通QNN
高通QNN
高通 QNN 全景拆解（二）：从模型量化到模型推理的完整部署实战 高通 QNN 全景拆解（二）：从模型量化到模型推理的完整部署实战
这是「高通 QNN 端侧 AI 部署全解析」系列的第二篇。上一篇我们搞懂了 QNN 的软件栈分层。今天来实战 — 从一个 HuggingFace 上的模型出发，一路走到 NPU 上跑起来的完整链路。 先看全流程： Step 1：模型获取从
2026-03-17 高通QNN
高通QNN
高通 QNN 全景拆解（一）：从框架到硬件的完整软件栈 高通 QNN 全景拆解（一）：从框架到硬件的完整软件栈
这是「高通 QNN 端侧 AI 部署全解析」系列的第一篇。三篇的结构： 本篇：QNN 全景 — 软件栈分层 + 三大后端 + API 核心调用 第二篇：部署实战 — 6 步上机流程 + 量化选型 + DDR 带宽优化 第三篇：性能调优实战
2026-03-12 高通QNN
高通QNN
高通 QNN 系列导读：端侧 AI 部署三部曲 高通 QNN 系列导读：端侧 AI 部署三部曲
如果你在做端侧 AI——手机、车机还是 IoT——高通的 QNN 都绕不过去。这个系列三篇，从软件栈全景讲到部署实战，再讲到性能调优，按发文时间顺序读即是推荐阅读顺序。 全系列 高通 QNN 全景拆解（一）：从框架到硬件的完整软件栈：六层软
2026-03-05 高通QNN
高通QNN