超腾开源

知识库

开源大模型对比

2024-06-21 21:29:02 李腾 1 次阅读

=模型名称=模型大小=上下文长度=输入文本长度=本地运行、推理加速=微调=应用框架
Chinese-LLaMA-Alpaca-21.3B、7B、13B4K、16K、64K (((

transformers

llama.cpp

)))| |

Qwen1.5(((

  1. 5B、1.8B、4B、

7B、14B、72B

)))| |32768 tokens|(((

transformers>=4.37.0

ollama

llama.cpp

LMStudio

OpenVINO

)))| |

ChatGLM36B8K、32K、128K (((

transformers

chatglm.cpp

ChatGLM3-TPU

TensorRT-LLM

OpenVINO

)))|LLaMA-Factory|(((

LangChain-Chatchat

BISHENG

)))

Yuan 2.02B、51B、102B4K、8K

转载请注明转自www.hylab.cn，原文地址：开源大模型对比

评论 (0)

请登录后发表评论

暂无评论，快来发表第一条评论吧！