Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama2、CodeLlama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前支持macOS和Linux操作系统,未来还将支持Windows系统。
此外,Ollama还提供了官方的Docker镜像,由此使用Docker容器部署大型语言模型变得更加简单,确保所有与这些模型的交互都在本地进行,无需将私有数据发送到第三方服务。Ollama在macOS和Linux上支持GPU加速,并提供了简单的命令行界面(CLI)以及用于与应用程序交互的RESTAPI。
该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用,无需依赖外部云服务。
Ollama安装包获取
Ollama支持的模型
Ollma提供一个模型库,用户可以自行选择安装想要运行的模型,目前支持40+的模型,还在持续增加中,以下是可以下载的开源模型示例:
| 模型 | 参数大小 | 文件大小 | 下载运行命令 |
|---|---|---|---|
| DeepSeek-R1 | 1.5B、7B、14B、32B等 | 12-320GB | ollamarundeepseek-r1 |
| NeuralChat | 7B | 4.1GB | ollamarunneural-chat |
| Starling | 7B | 4.1GB | ollamarunstarling-lm |
| Mistral | 7B | 4.1GB | ollamarunmistral |
| Llama2 | 7B | 3.8GB | ollamarunllama2 |
| CodeLlama | 7B | 3.8GB | ollamaruncodellama |
| Llama2Uncensored | 7B | 3.8GB | ollamarunllama2-uncensored |
| Llama213B | 13B | 7.3GB | ollamarunllama2:13b |
| Llama270B | 70B | 39GB | ollamarunllama2:70b |
| OrcaMini | 3B | 1.9GB | ollamarunorca-mini |
| Vicuna | 7B | 3.8GB | ollamarunvicuna |
数据统计
数据评估
关于Ollama特别声明
本站AFT导航提供的Ollama都来源于网络,不保证外部链接的准确性和完整性,同时,对于该外部链接的指向,不由AFT导航实际控制,在2025年3月19日 下午2:24收录时,该网页上的内容,都属于合规合法,后期网页的内容如出现违规,可以直接联系网站管理员进行删除,AFT导航不承担任何责任。
相关导航
OpenAI旗下最新的GPT-4模型
StableLM
Stability AI推出的开源的类ChatGPT大语言模型
Llama 3
Meta最新开源推出的新一代大模型
Replicate
在线运行开源机器学习模型
Lobe
简单免费的机器学习模型训练工具
DALL·E 3
OpenAI旗下最新的图像生成模型
MiracleVision奇想智能
美图推出的AI视觉大模型,支持AI图像、设计和视频创作
序列猴子
出门问问推出的一款超大规模的语言模型
暂无评论...
