title: 仅一条命令安装大模型的工具Ollamadate: 2024-07-06 23:25tags: [搭建, 命令行]categories: 大模型toc: truethumbnail: https://cdn.nlark.com/yuque/0/2024/png/26851474/1720278271661-25d02330-4584-4bb8-ac96-8345d1296a1f.png#averageHue=%23d3d3d3&clientId=ub2981b7e-d01f-4&from=paste&height=357&id=uc6c377b4&originHeight=714&originWidth=1558&originalType=binary&ratio=2&rotation=0&showTitle=false&size=92969&status=done&style=none&taskId=u520eaef3-5732-45b3-945e-53af58ca3b5&title=&width=779
接着上一篇《十分钟安装部署大模型ChatGML-6B》我们在机器上一步步安装ChatGML-6B大模型,这次我们来介绍一款更加方便的大模型安装工具Ollama,无需安装任何环境仅需一个命令即可将大模型安装到本机。
官网
https://ollama.com/官方提供mac、linux和windows平台安装包,安装软件好处是能及时升级新功能,软件下载后按照提示安装即可。
Ollama目前支持如下大模型:
Model | Parameters | Size | Download |
---|---|---|---|
Llama 3 | 8B | 4.7GB | ollama run llama3 |
Llama 3 | 70B | 40GB | ollama run llama3:70b |
Phi 3 Mini | 3.8B | 2.3GB | ollama run phi3 |
Phi 3 Medium | 14B | 7.9GB | ollama run phi3:medium |
Gemma 2 | 9B | 5.5GB | ollama run gemma2 |
Gemma 2 | 27B | 16GB | ollama run gemma2:27b |
Mistral | 7B | 4.1GB | ollama run mistral |
Moondream 2 | 1.4B | 829MB | ollama run moondream |
Neural Chat | 7B | 4.1GB | ollama run neural-chat |
Starling | 7B | 4.1GB | ollama run starling-lm |
Code Llama | 7B | 3.8GB | ollama run codellama |
Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
LLaVA | 7B | 4.5GB | ollama run llava |
Solar | 10.7B | 6.1GB | ollama run solar |
一键安装
ollama软件安装完成后,打开命令行直接执行以下命令即可安装llama3大模型。
ollama run llama3
效果
➜ ollama run llama3>>> 你好? 你好!我很高兴见到你!如何可以帮助你今天? ?>>> 你是谁? 我是 LLaMA,一个由 MetaAI 开发的人工智能语言模型。我可以理解和生成人类语言,可以与您进行对话、回答问题、提供信息和建议等。我的目的是帮助人们更好地沟通和学习新知识。 ?>>> 请用中文写一首诗,随便发挥即可?星空的秘密夜晚的黑暗中,我听见了歌声来自星空的调律,响徹整个宇宙我抬头望天,感受着温暖的光芒在这个世界上,没有什么比这更加美丽星星们开始说话,告诉我生命的秘密他们说,我们所有人都是同一个整体我们是星空的一部分,我们是宇宙中的小环节我们的梦想和希望将会化为泡沫我站着望天,感受着自由和无限在这个瞬间,我感到自己是宇宙的一部分我的心中有了火焰,我的灵魂开始燃烧我知道,这是一个新的开始,一切皆可能?>>> 再见? 再见!感谢和你对话。如果你需要任何帮助或只是想聊天,可以随时找到我。祝你有一个美好的日子! ?
Ctrl + D 即可退出命令行模式。
总结
大模型如雨后春笋,配套工具也陆续出现,各种大模型应用也相继出现,总体使用下来大模型应用中我觉得编程助手是最好用的了,相信未来人工智能会让生活更加美好。