仅一条命令安装大模型的工具Ollama

接着上一篇《十分钟安装部署大模型ChatGML-6B》我们在机器上一步步安装ChatGML-6B大模型,这次我们来介绍一款更加方便的大模型安装工具Ollama,无需安装任何环境仅需一个命令即可将大模型安装到本机。
image.png

官网

https://ollama.com/
官方提供mac、linux和windows平台安装包,安装软件好处是能及时升级新功能,软件下载后按照提示安装即可。
Ollama目前支持如下大模型:

Model Parameters Size Download
Llama 3 8B 4.7GB ollama run llama3
Llama 3 70B 40GB ollama run llama3:70b
Phi 3 Mini 3.8B 2.3GB ollama run phi3
Phi 3 Medium 14B 7.9GB ollama run phi3:medium
Gemma 2 9B 5.5GB ollama run gemma2
Gemma 2 27B 16GB ollama run gemma2:27b
Mistral 7B 4.1GB ollama run mistral
Moondream 2 1.4B 829MB ollama run moondream
Neural Chat 7B 4.1GB ollama run neural-chat
Starling 7B 4.1GB ollama run starling-lm
Code Llama 7B 3.8GB ollama run codellama
Llama 2 Uncensored 7B 3.8GB ollama run llama2-uncensored
LLaVA 7B 4.5GB ollama run llava
Solar 10.7B 6.1GB ollama run solar

一键安装

ollama软件安装完成后,打开命令行直接执行以下命令即可安装llama3大模型。

1
ollama run llama3

效果

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
➜ ollama run llama3
>>> 你好
😊 你好!我很高兴见到你!如何可以帮助你今天? 🤔

>>> 你是谁
😊 我是 LLaMA,一个由 MetaAI 开发的人工智能语言模型。我可以理解和生成人类语言,可以与您进行对话、回答问题、提供信息和建议等。我的目的是帮助人们更
好地沟通和学习新知识。 💡

>>> 请用中文写一首诗,随便发挥即可
💫

星空的秘密

夜晚的黑暗中,我听见了歌声
来自星空的调律,响徹整个宇宙
我抬头望天,感受着温暖的光芒
在这个世界上,没有什么比这更加美丽

星星们开始说话,告诉我生命的秘密
他们说,我们所有人都是同一个整体
我们是星空的一部分,我们是宇宙中的小环节
我们的梦想和希望将会化为泡沫

我站着望天,感受着自由和无限
在这个瞬间,我感到自己是宇宙的一部分
我的心中有了火焰,我的灵魂开始燃烧
我知道,这是一个新的开始,一切皆可能

💫

>>> 再见
😊 再见!感谢和你对话。如果你需要任何帮助或只是想聊天,可以随时找到我。祝你有一个美好的日子! 👋

Ctrl + D 即可退出命令行模式。

总结

大模型如雨后春笋,配套工具也陆续出现,各种大模型应用也相继出现,总体使用下来大模型应用中我觉得编程助手是最好用的了,相信未来人工智能会让生活更加美好。

评论