Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama2、CodeLlama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前支持macOS和Linux操作系统,未来还将支持Windows系统。
此外,Ollama还提供了官方的Docker镜像,由此使用Docker容器部署大型语言模型变得更加简单,确保所有与这些模型的交互都在本地进行,无需将私有数据发送到第三方服务。Ollama在macOS和Linux上支持GPU加速,并提供了简单的命令行界面(CLI)以及用于与应用程序交互的RESTAPI。
该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用,无需依赖外部云服务。
Ollama安装包获取
Ollama支持的模型
Ollma提供一个模型库,用户可以自行选择安装想要运行的模型,目前支持40+的模型,还在持续增加中,以下是可以下载的开源模型示例:
| 模型 | 参数大小 | 文件大小 | 下载运行命令 |
|---|---|---|---|
| DeepSeek-R1 | 1.5B、7B、14B、32B等 | 12-320GB | ollamarundeepseek-r1 |
| NeuralChat | 7B | 4.1GB | ollamarunneural-chat |
| Starling | 7B | 4.1GB | ollamarunstarling-lm |
| Mistral | 7B | 4.1GB | ollamarunmistral |
| Llama2 | 7B | 3.8GB | ollamarunllama2 |
| CodeLlama | 7B | 3.8GB | ollamaruncodellama |
| Llama2Uncensored | 7B | 3.8GB | ollamarunllama2-uncensored |
| Llama213B | 13B | 7.3GB | ollamarunllama2:13b |
| Llama270B | 70B | 39GB | ollamarunllama2:70b |
| OrcaMini | 3B | 1.9GB | ollamarunorca-mini |
| Vicuna | 7B | 3.8GB | ollamarunvicuna |
数据统计
数据评估
关于Ollama特别声明
本站AFT导航提供的Ollama都来源于网络,不保证外部链接的准确性和完整性,同时,对于该外部链接的指向,不由AFT导航实际控制,在2025年3月19日 下午2:24收录时,该网页上的内容,都属于合规合法,后期网页的内容如出现违规,可以直接联系网站管理员进行删除,AFT导航不承担任何责任。
相关导航
AI模型开发社区
Watsonx.ai
IBM推出的企业级生成式人工智能和机器学习平台
Gradio
开源的搭建机器学习模型UI界面的Python库
阿里巴巴M6
阿里巴巴达摩院推出的超大规模中文预训练模型(M6)
Lobe
简单免费的机器学习模型训练工具
腾讯混元大模型
腾讯研发的大语言模型,具备强大的中文创作能力,复杂语境下的逻辑推理能力,以及可靠的任务执行能力
AgentGPT
在浏览器中组装、配置和部署自主人工智能的开源项目
DALL·E 3
OpenAI旗下最新的图像生成模型
暂无评论...
