本地运行大模型:llama.cpp简介和项目地址

2024-06-21 21:29:05 2025-02-01 21:39:27 李腾 24 次阅读 0 次点赞

纯C/C++中的Meta's LLaMA模型(和其他模型)的推理。

项目地址:http://github.com/ggerganov/llama.cpp

本文由人工编写,AI优化,请仔细甄别,转载请注明转自www.hylab.cn,原文地址:本地运行大模型:llama.cpp简介和项目地址

评论 (0)

登录后发表评论

暂无评论,快来发表第一条评论吧!