5 min read
如何使用Deepseek R1本地部署、ComfyUI、AI Flow?

【AI辅助设计】如何使用Deepseek R1-本地部署、ComfyUI、AI Flow?
前言
就在昨天的消息,全球又被Deepseek R1震撼了,直接影响是因为其低成本的方式,刺了一下 Openai等一众烧钱的AI泡沫,昨天的美股市场NV带领一众芯片公司,纷纷下挫,NV跌幅最高,整整跌去16.97% ❗️
美国总统特朗普发声,Deepseek 给美国 AI 行业敲响了警钟!
openai的奥特曼也发声了,要考虑更低成本的 AI 模型,要知道,之前推出的 o 1 pro 版本,要 200 刀每月!
如此全球瞩目,我们设计师该如何使用这个强大的模型呢? 接下来,我将以实际的经验,给大家介绍一下,当然实际的使用肯定远不止这些,本文介绍的是我自己的亲身体验,各位也可以继续发散哈!😂。
插播消息,Deepseek 发了个大招
也就在昨天,Deepseek 也发布了其多模态模型- Janus-Pro-1B
!。
可以识别图像,可以文生图!效果还有待评测😚
看来春节前夕,Deepseek 真的把人类震撼到了!好,下面回归今天的正式话题。
使用 Deepseek R1 简介
本文将从以下方面,介绍 Deepseek R 1 的使用:
- 直接使用线上服务。主要是 Deepseek 的官方线上服务。
- 本地部署使用。主要用到 Ollma 本地开源模型服务和 Lobechat 前端应用
- ComfyUI 中使用。主要介绍如何通过插件调用 R 1 能力帮忙完善提示词等。
- AI 工作流使用。主要介绍在 Dify 中的调用方法。
对于熟悉这个领域的朋友,都是比较浅显的,如果现在开始关注的设计们,不妨了解一下,尽快使用这么强大的 AI 模型⛽️。
通过线上使用 R 1
官方线上服务
地址:https://www.deepseek.com/
点击开始对话,注册登录即可,非常简单。
目前服务是免费的,但是因为太火了,会偶尔有问题。🥱
使用的时候,记得勾选深度思考 R1
R 1 的最大特征就是会自己思考,聊的越多,思考的越全面,会在某个时刻顿悟!给出最满意的答案给你。
我的诉求:有哲理的春节祝福语
R 1 给我的:
好意头!好句好句!👏。也祝愿各位如 R 1 所言,新春快乐!
[!NOTE] 提示 网上有很多第三方的服务,有可能引导付费充值、收割,各位注意甄别!我就不介绍其他第三方服务了。
本地部署使用
如果你有一个好的显卡,或者 32 G 以上的 Mac 电脑(M 系列芯片最佳),也可以体验本地部署的 R 1 模型。
以下介绍,我将使用 Windows、4090/24G VRAM、64G RAM、4T SSD 这个配置为大家演示。Mac 平台差不多,Linux 的大佬估计也不看我这篇文章了😂。
设备要求
设备和 R 1 版本对应大致如下。(注意:数据来源互联网,本人未一一测试!)
完整版
官方线上版本应该是 671 B 版本的。
量化版
Ollma 服务
下载 Ollama 客户端
Windows 和 Mac 用户可以直接在官网下载 Ollama 客户端。
下载模型
安装好客户端后,先在 https://ollama.com/library/deepseek-r1/tags
找到适合自己硬件的版本。
就可以通过终端、或者 powershell,运行命令,我选择DeepSeek-R1-Distill-Qwen-32B,测试一下。 输入命令即可拉取模型:
ollama run deepseek-r1:32b
Ollama 拉取模型,一共 20 G。
下载完成后,进入了聊天状态。
接入前端
一般人不会用终端来聊天的😂,所以我们还需要一个友好的前端配合使用,我使用的是 Lobechat 用了很久了,功能丰富,稳定。可以接入市面上绝大部分语言大模型。
在模型供应商设置中,选择 Ollama 输入模型名称,即可使用了。
聊天时,选择 r 1-32 b,即可。
还是让他输出有哲理的春节祝福语,看到思考过程和输出。
其他如 openwebui、lmstudio 等前端 AI 工具,也可以这样接入本地模型的。
接入 ComfyUI 使用
接入方案
接入的方法如下:
当然可以直接不用 oneapi,使用 ComfyUI-LLMs 插件即可。而且,这个也只是我开发的插件,市面上还有不少同类的插件。 但我认为,我这套方案,适配性和扩展性更高,原则上,可以接入一切 openai api 规范的模型🕶️。
配置 oneapi
在 oneapi 配置 Deepseek 或者本地 Ollama 渠道,填入模型。
配置 ComfyUI-LLMs 插件
然后修改 custom_nodes\ComfyUI-LLMs\settings. Yaml
,增加 deepseek-r1:32b 模型。
在 ComfyUI使用
用于处理提示语,也非常强大 👍!
AI 工作流-Dify 中使用
跟上面的用法类似,但是 Dify 可以自由编排 AI 应用,打造各种各样的 AI 工作流,实现自动化。这之前,我就写过类似文章了,有兴趣可以回顾一下。# 【AI辅助设计】写文、配图一气呵成?。
设置 API
在 AI 供应商配置模型。
在工作流中使用
这里以配置一个翻译工作流为例。
创建工作流
编排工作流
把 llm 模型都选择为 R 1,因为是本地部署,所以尽管用!😂。
我们试着翻译《星际穿越》那首诗句。
Do not go gentle into that good night
Do not go gentle into that good night,
Old age should burn and rave at close of day;
Rage1, rage against the dying of the light.
Though wise men at their end know dark is right,
Because their words had forked2 no lightning they
Do not go gentle into that good night.
Good men, the last wave by, crying how bright
Their frail3 deeds might have danced in a green bay,
Rage, rage against the dying of the light.
Wild men who caught and sang the sun in flight,
And learn, too late, they grieved4 it on its way,
Do not go gentle into that good night.
Grave men, near death, who see with blinding5 sight
Blind eyes could blaze6 like meteors7 and be gay,
Rage, rage against the dying of the light.
And you, my father, there on the sad height,
Curse, bless me now with your fierce tears, I pray.
Do not go gentle into that good night.
Rage, rage against the dying of the light.
R 1 输出:
不要温和地走进那良夜,
老年应在暮色中燃烧如火,咆哮不止;
愤怒吧,对抗光明的消逝。
智者面对黑暗深知其必然,
因他们的言语未曾带来闪电的启示。
不要温和地走进那良夜。
善良的人啊,在最后时刻仍在哭泣光芒,
脆弱的行为或许曾舞动海湾;
愤怒吧,对抗光明的消逝。
盲目的双眼如流星闪耀璀璨,
却为何独自徘徊在黑暗边缘?
不要温和地走进那良夜,
愤怒吧,对抗光明的消逝。
好像挺不错哦~这还是本地的模型啊~👍。 我们看看 R 1 的思考过程,也挺有意思的。
写在最后
所以,R 1 的撼动世界是有其独到的技术和效果的,机智如你们,不一起试试?
关注我公众号(设计小站):sjxz 00,获取更多 AI 辅助设计和设计灵感趋势。