一、硬件准备
设备:高通芯片的手机或者平板(建议选用骁龙8以上芯片)
内存:大于16G(方便运行更大参数的大模型)
存储:根据不同大小的模型预留足够即可
二、部署教程
说明:本教程使用的设备是8GEN2芯片的手机,部署的模型为deepseek-r1:7b
步骤:
1.下载并安装AidLux
在端侧AI开发者社区处(forum.aidlux.com/t/topic/719…) 点击下载AidLux软件,安装后注册使用避免闪退,如果想常驻后台可以在社区搜索相关文章。
2.远程登录AidLux进行配置
打开AidLux点击桌面的Cloud_ip应用(云朵形状icon),查看ip地址,并且在浏览器中输入该ip地址。(Tips:手机或平板要与你的电脑连接同一个wifi)
连接成功后出现登陆页面,默认账号:aidlux ;默认密码:aidlux
登录后打开终端:
进入命令行界面:
现在准备工作已经做好了,接下来下载大模型。
3、下载ollama进行配置
下载ollama,默认sudo密码aidlux;
命令行依次输入下面命令:
curl -fsSL https://ollama.com/install.sh | shollama serve &#让ollama服务在后台运行ollama -v#安装完毕可以查看ollama版本进行验证,出现版本号之后就可以使用ollama
下载过程:
4、下载并运行deepseek模型
输入命令:
ollama pull deepseek-r1:7bollama list
下载完成后可以查看已下载模型
运行模型
输入命令:
ollama run deepseek-r1:7b
出现>>>即可开始提问了