IT之家 02月07日
离线、在线都支持,深度 deepin UOS AI 接入 DeepSeek-R1 模型
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

深度操作系统宣布,UOS AI 现已适配接入 DeepSeek-R1 端侧模型,提供离线部署和在线接入两种使用方式。离线部署支持 deepin 23 和 25 Preview 系统,用户需更新 UOS AI 及向量化模型插件,并在魔搭社区下载 DeepSeek-R1 的 GGUF 版本,放置到指定文件夹。在线接入则需在 DeepSeek 官网或硅基流动等平台获取 API key,然后在 UOS AI 中配置模型信息。在线模型可能受网络影响,存在访问问题,UOS AI 团队将持续优化用户体验。

💾 UOS AI 适配 DeepSeek-R1 端侧模型,提供离线和在线两种接入方式,用户可根据设备和网络环境选择。

🚀 离线部署需更新 UOS AI 及向量化模型插件,并下载 DeepSeek-R1 的 GGUF 版本,放置于指定目录,该方式支持deepin 23和deepin 25 Preview系统。

🔑 在线接入需在 DeepSeek 官网或硅基流动等平台注册并获取 API key,然后在 UOS AI 中配置模型信息,即可使用 DeepSeek-R1 模型。

⚠️ 在线模型可能受网络及用户访问量影响,出现访问慢、超时或无法访问的情况,建议多次尝试。

IT之家 2 月 7 日消息,深度操作系统今日发文宣布,UOS AI 现已适配接入 DeepSeek-R1 端侧模型,官方提供「离线部署」和「在线接入」两种方式在 UOS AI 中使用 DeepSeek-R1 模型,用户可根据自身设备及网络环境等情况自行选择。

IT之家注:离线部署方式支持 deepin 23、deepin 25 Preview 系统使用;在线接入方式支持 UOS V20、deepin 20.9、deepin 23、deepin 25 Preview 系统使用。详情如下:

UOS AI 离线部署 DeepSeek-R1 1.5B 模型

Step 1:更新 UOS AI 及向量化模型插件

若您正在使用 deepin 23,可从应用商店更新 UOS AI 至最新版。

注:若您是首次在 deepin 中下载使用 UOS AI,根据界面提示「勾选用户使用协议-免费领取试用账号」后即可直接进入 UOS AI 全新版本。

若您正在使用 deepin 25 Preview,请通过以下命令升级 UOS AI 至最新版。

    sudo apt update

    sudo apt install uos-ai deepin-modelhub uos-ai-rag

更新完成后,打开 UOS AI 的「设置」选项,在「模型配置-本地模型」中选择「向量化模型插件-安装 / 更新」,随后将自动跳转至应用商店界面,点击安装 / 更新即可。

Step 2:安装 DeepSeek-R1 模型 GGUF 版本

UOS AI 的模型后端驱动框架是基于 llama.cpp,大家可直接在魔搭社区找到 DeepSeek-R1 的 GGUF 版本。

此处我们将以最通用且便捷的 1.5B 模型为例,其模型大小适中,对硬件配置要求不高,仅需 CPU 即可实现流畅推理。(若您正在使用 CUDA 推理,可以等后续 deepin 系统更新 CUDA 版本的推理后端框架)。

已适配 UOS AI 的 DeepSeek-R1 1.5B 模型的下载地址如下:

    百度网盘:https://pan.baidu.com/s/1-786vFU4dunpdproiOHdbQ?pwd=zxxw

    123 网盘:https://www.123865.com/s/XXsfjv-Jjcph

    123 网盘(备用):https://www.123684.com/s/XXsfjv-Jjcph

    夸克网盘:https://pan.quark.cn/ s / edbf721fefaf

将模型文件下载完成后,打开文件管理器,直接进入如下目录:

/home/用户名/.local/share/deepin-modelhub/models    #其中用户名替换为自己的计算机用户名

注:若没有 deepin-modelhub 文件夹以及下面的 models 文件夹,可以自己手动创建该文件夹。

进入 models 文件夹,将下载完成的模型文件夹解压后,直接复制到刚刚创建的文件夹路径中,注意检查路径不要有多的名称。模型完整路径如下:

    /home/ 用户名/.local/ share / deepin-modelhub / models / DeepSeek-R1-1.5B / gguf   #其中用户名替换为自己的计算机用户名

经过上述步骤,再次打开 UOS AI 界面,即可手动切换使用 DeepSeek-R1-1.5B 模型。

以下是一个简单的 DeepSeek-R1 运行示例:

UOS AI 在线接入 DeepSeek-R1 API

Step 1:获取 API key

访问 DeepSeek 官网,注册 / 登录账号后,创建并获取 API key。若由于服务器压力等问题无法访问以上页面,也可以使用其他访问渠道获取 API key。

本文将以硅基流动为例,在注册 / 登录账号后,前往 API 密钥管理页面,创建并获取 API key。

Step 2:在 UOS AI 中接入 DeepSeek-R1 在线模型

打开 UOS AI 的「设置」选项,在「模型配置」中选择「在线模型-添加」,进入 UOS AI 的添加模型界面。

完成添加窗口中的内容填写,并点击确定即可,本例中使用到的信息参考如下:

    账号名称:自定义

    模型类型:自定义

    API key:粘贴 Step 1 中所复制的 API 密钥

    模型名:deepseek-ai / DeepSeek-R1

    请求地址:https://api.siliconflow.cn/ v1 / chat / completions

填写完毕并提交确认后,即可在 UOS A I 中选择 DeepSeek-R1 模型进行使用。

理论上只要您硅基流动账户中的余额够用,其模型仓库的所有模型都可以通过上述方法在 UOS AI 中配置调用,只需在上述配置方法中的模型名处填写对应的完整模型名称即可,其它不变。

需要注意的是,在线大模型受网络及用户访问量影响,偶尔可能会出现访问慢、超时或无法访问的情况,建议多次尝试即可。

在线模型由于当前适配问题,DeepSeek 深度思考的内容与对话内容尚未分开,但这并不影响正常使用,UOS AI 团队会在后续更新中尽快优化体验。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

UOS AI DeepSeek-R1 端侧模型 离线部署 在线接入
相关文章