1️⃣ 安装 Docker —— 打开 AI 世界的钥匙 🐳
🔗 官网直达:www.docker.com/
第一步:访问 Docker 官网 → 点击【Download Desktop】按钮下载安装包 → 根据电脑选择 Windows AMD 版本(其他系统选对应版本即可)!
📌 安装提示:双击安装包 → 点击【OK】确认安装 → 安装完成后桌面会出现 Docker 鲸鱼图标!
💡 首次启动:双击图标 → 点击【Accept】接受协议 → 提示登录?直接点击【Sign up】注册账号即可!
✅ 登录成功:界面出现鲸鱼标志和“Containers”标签页 → Docker 安装完成!
2️⃣ 安装 Ollama —— 本地大模型运行的核心 🔥
🔗 官网直达:ollama.com/
操作步骤:进入官网 → 点击【Download for Windows】下载客户端 → 双击安装包一键安装!
📌 无需配置:安装后自动完成环境变量设置
✨ 验证成功:
3️⃣ 部署 Qwen3 大模型 —— 让 AI 为你打工 💡
🔗 模型库直达:ollama.com/library/
选模型秘诀:Qwen3:8B 性价比超高!性能吊打 DeepSeek R1,小白首选!
📌 安装指令:复制页面上的 ollama pull qwen3:8b
命令 → 粘贴到命令行回车执行!
🔄 下载过程:命令行显示 [===>]
进度条 → 等待 5-10 分钟(根据网络速度)→ 出现 success
提示!
🧪 测试大招:输入 ollama run qwen3:8b
→ 输入问题“你好吗?” → 模型秒回复 → 本地部署成功!
4️⃣ 安装 Dify —— 搭建 AI 助手的百宝箱 🧰
🔗 GitHub 下载:github.com/langgenius/…
操作流程:点击【Code】→ 【Download ZIP】下载压缩包 → 解压到本地文件夹 → 双击进入 dify/docker
目录!
🔧 配置关键:
- 将
.env.example
重命名为 .env
- 用记事本打开
.env
→ 滚动到文件末尾 → 添加以下两行: ```
CUSTOM_MODEL_ENABLED=true
OLLAMA_API_BASE_URL=host.docker.internal:11434
```
- 保存文件 → 右键点击文件夹空白处 → 选择【Open Terminal】→ 输入命令:
```bash
docker compose up -d
```
🔄 启动成功:终端显示如下
→ 浏览器访问 http://127.0.0.1/install
→ 填写邮箱、用户名、密码 → 点击【设置】!
🎉 恭喜!出现 Dify 首页 → 本地部署完成!
5️⃣ 关联 Dify 与 Qwen3 —— 让 AI 助手听你的指令 🎯
操作步骤:
- 登录 Dify → 点击右上角头像 → 选择【Settings】
→ 选择模型供应商
- 找到 Ollama → 点击【Install】按钮 → 等待安装成功!
- 点击【Add Model】
→ 填写:
- Model Name: qwen3:8b
- Base URL: http://host.docker.internal:11434
- 其他参数保持默认 → 点击【Save】
- 创建助手:点击【Create App】→ 输入名称(如“我的Qwen3助手”)→ 选择【Chat】模板 → 点击【Create】
🚀 大功告成:进入助手页面 → 开始和你的本地 AI 聊天吧!
📌 常见问题 & 小贴士
Docker 启动失败?关闭杀毒软件/防火墙重试!
模型下载太慢?科学上网或更换网络环境!
内存不足?推荐电脑至少 16GB 内存!
📢 关注我,回复【Dify】获取所有安装包和配置文件模板!
💬 有问题欢迎评论区留言,我会一一解答!
🔥 收藏+转发,让更多小伙伴学会本地部署大模型!