开源大模型对比
| 模型名称 | 模型大小 | 上下文长度 | 输入文本长度 | 本地运行、推理加速 | 微调 | 应用框架 |
|---|---|---|---|---|---|---|
| Chinese-LLaMA-Alpaca-2 | 1.3B、7B、13B | 4K、16K、64K | ((( |
transformers
llama.cpp
)))| |
| Qwen1.5 | ((( |
- 5B、1.8B、4B、
7B、14B、72B
)))| |32768 tokens|(((
transformers>=4.37.0
ollama
llama.cpp
LMStudio
OpenVINO
)))| |
| ChatGLM3 | 6B | 8K、32K、128K | ((( |
transformers
chatglm.cpp
ChatGLM3-TPU
TensorRT-LLM
OpenVINO
)))|LLaMA-Factory|(((
LangChain-Chatchat
BISHENG
)))
| Yuan 2.0 | 2B、51B、102B | 4K、8K |
最后更新于1年前
本文由人工编写，AI优化，转载请注明原文地址： 开源大模型对比