归档
善良比聪明更重要
12
25
llama.cpp 系列导读:源码解析三部曲 llama.cpp 系列导读:源码解析三部曲
想读懂 llama.cpp,最好的路径是从底往上:先看它如何设计推理引擎(GGML),再看模型如何从磁盘走进内存(GGUF),最后看它如何把推理搬到局域网的另一台机器上(RPC)。3 篇文章按发文时间顺序读即是推荐阅读顺序。 全系列 lla
2025-12-25