想读懂 llama.cpp,最好的路径是从底往上:先看它如何设计推理引擎(GGML),再看模型如何从磁盘走进内存(GGUF),最后看它如何把推理搬到局域网的另一台机器上(RPC)。3 篇文章按发文时间顺序读即是推荐阅读顺序。
全系列
lla
2025-12-25