本地运行大模型:llama.cpp简介和项目地址
2024-06-21 21:29:05 2025-02-01 21:39:27 李腾 24 次阅读 0 次点赞
纯C/C++中的Meta's LLaMA模型(和其他模型)的推理。
项目地址:http://github.com/ggerganov/llama.cpp
本文由人工编写,AI优化,请仔细甄别,转载请注明转自www.hylab.cn,原文地址:本地运行大模型:llama.cpp简介和项目地址
纯C/C++中的Meta's LLaMA模型(和其他模型)的推理。
项目地址:http://github.com/ggerganov/llama.cpp