随着大模型的应用越来越广泛，相信大家都对拥有一个自己的私人AI助手越来越感兴趣。然而基于大模型遵循的"规模效应"(Scaling Law)原理，传统部署方式面临三重阻碍：高昂的运维成本、复杂的技术门槛（需掌握模型部署、量化等技术概念）以及系统集成难题。

为解决这些痛点，重点还得解决"低成本"与"简单"两大核心诉求。

目前魔搭社区通过API-Inference服务，开放了3000+主流大模型API接口，注册即赠送2000次/日免费调用额度，涵盖包括DeepSeek-R1、Qwen系列开源全家桶、Stable Diffusion、Flux等主流开源大模型，为个人用户提供零门槛的AI服务接入方案。

接下来关于“简单”操作。开发者用户可以直接使用 python 或 java 去调用这些低成本的资源，但非技术用户则面临接口调用等技术概念障碍。真正的零门槛需实现两大核心能力——多模态模型的无缝接入与主流IM平台的免开发集成。

在这里推荐热门开源项目 Chatgpt-on-Wechat，正如其名，这是一个可以在“Wechat”上使用“chatgpt”的软件，当然它不仅可以支持Chatgpt，还能支持很多其他模型，包括魔搭上的诸多开源模型。

素材工具到位，下面就可以拿出电脑，花上十分钟，在你的聊天软件上部署一个AI助手啦！

拆解一下步骤：

直接预览下效果：

还不错吧，来看详细教程👇：

本文仅简单介绍如何在本地源码部署Chatgpt-on-Wechat(以下简称CoW)。

运行环境：

支持Linux、MacOS、Windows 系统（可在Linux服务器上长期运行)，同时需安装 Python。

Windows系统  在系统下侧的搜索条中搜索powershell，打开后拷贝粘贴下面的代码并确认输入：

wget "https://repo.anaconda.com/miniconda/Miniconda3-latest-Windows-x86_64.exe" -outfile ".\miniconda.exe"Start-Process -FilePath ".\miniconda.exe" -ArgumentList "/S" -Waitdel .\miniconda.execonda create -n cow python==3.10conda install gitgit clone https://github.com/zhayujie/chatgpt-on-wechat.gitcd chatgpt-on-wechat/pip3 install -r requirements.txtpip3 install -r requirements-optional.txtpip3 install dingtalk_streamcp config-template.json config.json

Linux/Mac系统   打开terminal，拷贝粘贴下面的代码并确认输入：

mkdir -p ~/miniconda3curl https://repo.anaconda.com/miniconda/Miniconda3-latest-MacOSX-arm64.sh -o ~/miniconda3/miniconda.shbash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3rm ~/miniconda3/miniconda.shexport PATH="$HOME/miniconda3/bin:$PATH"conda create -n cow python==3.10conda install gitgit clone https://github.com/zhayujie/chatgpt-on-wechat.gitcd chatgpt-on-wechat/pip3 install -r requirements.txtpip3 install -r requirements-optional.txtpip3 install dingtalk_streamcp config-template.json config.json

以上即完成了python环境安装，CoW代码本地下载，依赖安装等操作

02

Token和配置

首先获取魔搭社区的API-Key（放心用，免费）

{  "bot_type": "modelscope",  "channel_type": "terminal",  "model": "Qwen/QwQ-32B",  "modelscope_api_key": "your_api_key",  "modelscope_base_url": "https://api- inference.modelscope.cn/v1/chat/completions",  "text_to_image": "MAILAND/majicflus_v1",  "proxy": "http://127.00.1:7890",  "claude_api_key": "YOUR API KEY",  "voice_to_text": "openai",  "text_to_voice": "openai",  "proxy": "",  "hot_reload": false,  "single_chat_prefix": [    "bot",    "@bot"  ],  "single_chat_reply_prefix": "[bot] ",  "group_chat_prefix": [    "@bot"  ],  "group_name_white_list": [    "ChatGPT测试群",    "ChatGPT测试群2"  ],  "image_create_prefix": [    "画"  ],  "speech_recognition": true,  "group_speech_recognition": false,  "voice_reply_voice": false,  "conversation_max_tokens": 2500,  "expires_in_seconds": 3600,  "character_desc": "你是基于大语言模型的AI智能助手，旨在回答并解决人们的任何问题，并且可以使用多种语言与人交流。",  "temperature": 0.7,  "subscribe_msg": "感谢您的关注！\n这里是AI智能助手，可以自由对话。\n支持语音对话。\n支持图片输入。\n支持图片输出，画字开头的消息将按要求创作图片。\n支持tool、角色扮演和文字冒险等丰富的插件。\n输入{trigger_prefix}#help 查看详细指令。",  "use_linkai": false,  "linkai_api_key": "",  "linkai_app_code": ""}

python3 app.py             # windows环境下该命令通常为 python app.py

大家常用的IM端支持部署个人助理的有企业微信、钉钉、飞书等，可以选择一个经常使用的软件来实验效果，以下给出两个示例：

钉钉配置

创建应用

2、点击添加应用能力，选择 "机器人" 能力，点击添加

3、配置机器人信息后点击发布。发布后，点击“点击调试”，会自动创建测试群聊，可在客户端查看

4、创建新版本发布

5、项目配置 点击凭证与基础信息，获取Client ID和Client Secret两个参数

6、为简单起见，我们把config.json文件内容全部删除，替换为下面的内容，注意要填写两个字段的值，即`

dingtalk_client_id`和`dingtalk_client_secret`，还有魔搭社区的API-Key:

{  "channel_type": "dingtalk",  "dingtalk_client_id": "",  "dingtalk_client_secret": "",  "model": "Qwen/QwQ-32B",  "modelscope_api_key": "",  "modelscope_base_url": "https://api-inference.modelscope.cn/v1/chat/completions",  "proxy": "http://127.00.1:7890",  "claude_api_key": "YOUR API KEY",  "text_to_image": "MAILAND/majicflus_v1",  "voice_to_text": "openai",  "text_to_voice": "openai",  "proxy": "",  "hot_reload": false,  "single_chat_prefix": [    "bot",    "@bot"  ],  "single_chat_reply_prefix": "[bot] ",  "group_chat_prefix": [    "@bot"  ],  "group_name_white_list": [    "ChatGPT测试群",    "ChatGPT测试群2"  ],  "image_create_prefix": [    "画"  ],  "speech_recognition": true,  "group_speech_recognition": false,  "voice_reply_voice": false,  "conversation_max_tokens": 2500,  "expires_in_seconds": 3600,  "character_desc": "你是基于大语言模型的AI智能助手，旨在回答并解决人们的任何问题，并且可以使用多种语言与人交流。",  "temperature": 0.7,  "subscribe_msg": "感谢您的关注！\n这里是AI智能助手，可以自由对话。\n支持语音对话。\n支持图片输入。\n支持图片输出，画字开头的消息将按要求创作图片。\n支持tool、角色扮演和文字冒险等丰富的插件。\n输入{trigger_prefix}#help 查看详细指令。",  "use_linkai": false,  "linkai_api_key": "",  "linkai_app_code": ""}

7、点击事件订阅，点击已完成接入，验证连接通道， 会显示：连接接入成功

下面打开钉钉，就可以和这个机器人聊天啦：

企业微信自建应用配置

2、创建企业微信应用

首先在 企业微信管理后台，点击 "我的企业" 菜单，在最下方可以看到 "企业ID"，保存这个id，后续需要填写在配置的 wechatcom_corp_id 字段中。

接下来，切换到“应用管理”菜单，点击创建应用：

进入到应用创建页面，记录下页面上显示的 agentid 和 secret 信息：

点击“设置API接收”窗口：

其中 url 的格式为 http://ip:port/wxcomapp，如果是认证企业则需要填写备案域名

随机获取 Token 和 EncodingAESKey 并保存下来，后续需要填写在配置文件中。

此时保存 API接收配置 是无法成功的，因为我们的python程序还没有启动起来，等项目运行后再回来保存。

3、配置和运行程序

打开 config.json 配置文件，需要添加或修改以下配置。各配置项和企业微信后台各参数的对应关系已经在上述截图中说明。把config.json替换为下面的配置，注意填写企微的各参数和魔搭社区的API-Key：

{  "channel_type": "wechatcom_app",  "wechatcom_corp_id": "",  "wechatcomapp_token": "",  "wechatcomapp_port": 9898,  "wechatcomapp_secret": "",  "wechatcomapp_agent_id": "",  "wechatcomapp_aes_key": "",  "bot_type": "modelscope",  "model": "Qwen/QwQ-32B",  "modelscope_api_key": "YOUR API KEY",  "modelscope_base_url": "https://api-inference.modelscope.cn/v1/chat/completions",  "claude_api_key": "YOUR API KEY",  "text_to_image": "MusePublic/489_ckpt_FLUX_1",  "voice_to_text": "openai",  "text_to_voice": "openai",  "proxy": "",  "hot_reload": false,  "single_chat_prefix":[""],  "single_chat_reply_prefix": "[bot] ",  "group_chat_prefix": [    "@bot"  ],  "group_name_white_list": [    "ChatGPT测试群",    "ChatGPT测试群2"  ],  "image_create_prefix": [    "画"  ],  "speech_recognition": true,  "group_speech_recognition": false,  "voice_reply_voice": false,  "conversation_max_tokens": 2500,  "expires_in_seconds": 3600,  "character_desc": "你是基于大语言模型的AI智能助手，旨在回答并解决人们的任何问题，并且可以使用多种语言与人交流。",  "temperature": 0.7,  "subscribe_msg": "感谢您的关注！\n这里是AI智能助手，可以自由对话。\n支持语音对话。\n支持图片输入。\n支持图片输出，画字开头的消息将按要求创作图片。\n支持tool、角色扮演和文字冒险等丰富的插件。\n输入{trigger_prefix}#help 查看详细指令。",  "use_linkai": false,  "linkai_api_key": "",  "linkai_app_code": ""}

配置完成后，启动程序。当后台日志显示http://0.0.0.0:9898/ 的时候就说明程序已经运行成功，监听9898端口了，此时需要将该端口对外开放，比如在云服务器的安全组中放开该端口。

程序启动后就可以回到 企业微信后台 保存 "消息服务器配置" 了，保存成功后还需要将服务器的ip添加到 "企业可信IP" 中，否则是无法收发消息的。

💡注意

如遇到企业微信后台url设置显示回调不通过或者配置失败，参考下面的解决方案：

（1）确保 服务器防火墙关闭 且 安全组放行监听的端口

（2）仔细检查token，secret key等参数配置是否一致，后台 url格式配置是否正确

接下来就可以在企业微信中搜索刚刚创建的应用名称，直接和应用对话了。

另外，如果想让外部个人微信用户使用，可以在 "我的企业 - 微信插件"，分享邀请关注二维码。个人微信扫码点击关注，验证手机号后就可以加入到该公司，并与上面创建的应用对话了。

完成后即可见上方提到的示例效果：

动手试试吧！