仅一条命令安装大模型的工具Ollama
接着上一篇《十分钟安装部署大模型ChatGML-6B》我们在机器上一步步安装ChatGML-6B大模型,这次我们来介绍一款更加方便的大模型安装工具Ollama,无需安装任何环境仅需一个命令即可将大模型安装到本机。
官网
https://ollama.com/
官方提供mac、linux和windows平台安装包,安装软件好处是能及时升级新功能,软件下载后按照提示安装即可。
Ollama目前支持如下大模型:
Model | Parameters | Size | Download |
---|---|---|---|
Llama 3 | 8B | 4.7GB | ollama run llama3 |
Llama 3 | 70B | 40GB | ollama run llama3:70b |
Phi 3 Mini | 3.8B | 2.3GB | ollama run phi3 |
Phi 3 Medium | 14B | 7.9GB | ollama run phi3:medium |
Gemma 2 | 9B | 5.5GB | ollama run gemma2 |
Gemma 2 | 27B | 16GB | ollama run gemma2:27b |
Mistral | 7B | 4.1GB | ollama run mistral |
Moondream 2 | 1.4B | 829MB | ollama run moondream |
Neural Chat | 7B | 4.1GB | ollama run neural-chat |
Starling | 7B | 4.1GB | ollama run starling-lm |
Code Llama | 7B | 3.8GB | ollama run codellama |
Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
LLaVA | 7B | 4.5GB | ollama run llava |
Solar | 10.7B | 6.1GB | ollama run solar |
一键安装
ollama软件安装完成后,打开命令行直接执行以下命令即可安装llama3大模型。
1 | ollama run llama3 |
效果
1 | ➜ ollama run llama3 |
Ctrl + D 即可退出命令行模式。
总结
大模型如雨后春笋,配套工具也陆续出现,各种大模型应用也相继出现,总体使用下来大模型应用中我觉得编程助手是最好用的了,相信未来人工智能会让生活更加美好。