WithAI.Design

5 min read

FLUX + LoRA 手模生成器

FLUX + LoRA 手模生成器

【AI辅助设计】FLUX + LoRA 手模生成器

前言

手是女生的第二张脸;

手模对于电商而言,有着举重轻重的地位,想象一下,电商里面有许多需要手模的场景,如戒指、首饰、哪怕是手机这类 3C 产品,都需要手模。

然而,AI 对于手的生成是一个难题,即使 flux 模型已经改善很多了。但熟悉 AIGC 的朋友,都知道修手是一个很常用的流程。

为此,我想到一个办法,就是通过训练 LoRA 的方式,尝试去做手模。

实测来看,对于手部的生成是有很大提升的,但是需要加上 depth 控制,才能有稳定的输出。

先看效果

还是先看效果,以下图片是有基础图片输入的(一张很丑的手也可🥱),经过 depth 处理,然后结合我的 LoRA 进行两次采样生成的。

纤纤擢素手

ComfyUI_00849_.png

素手把芙蓉

ComfyUI_00851_.png

手指细长,皮肤细腻~😂 玉手纤纤抚琴弦

ComfyUI_00850_.png

纤纤玉手,如春风拂脸 😎 素手轻挥云袖舞

ComfyUI_00853_.png

纤手折花香满袖

ComfyUI_00854_.png

ComfyUI_00855_.png

玉指纤纤捏绣针

ComfyUI_00856_.png

ComfyUI_00857_.png

下面这种复杂动作,也可以做到基本正常。

红酥手,黄縢酒

ComfyUI_00858_.png

可以放大细节看看,皮肤的质感也到位。手指甲上的纹理清晰可见。🕵️‍♀️

有了手模后,结合之前的 fill+redux,把产品迁移上去,那么电商出图,又到了一个新境界了~🤣。

工作流讲解

模型加载

依旧是 flux fp8 模型,加上我的 handmodle LoRA 模型。

注意,第一步的采样,lora 的强度降低一点到 0.8 到 0.9,目的是不让 lora 的数据,侵入到 flux 的大模型,防止手部结构变形。

提示语处理

为了保持稳定,需要输入一张图片,丑的、男的手都可以,只需要姿势即可! 根据图片进行反推,告诉 llm,只需要描述手部姿势即可,不需要其他描述。 加上 lora 触发语和补充一些背景描述。

Controlnet 控制

用到了 depth 模型控制,为什么不用 FLUX 官方的 depth?因为硬件扛不住~🥱

第一次采样

标准 flux 采样流程。

Laten 尺寸,设置为 1024*768,因为这是 lora 的训练尺寸。

放大处理

标准的重采样放大处理。

注意左上角 lora 串联,在重采样阶段,增加模型强度,这样可以比较好地还原 lora 的训练效果。

写在最后

今天这是一个新的尝试。测试过程,还是需要抽一些卡。 也可能有人问,如果不训练 lora 结果会怎么样? 大家可以看看对比:

由于 flux 的数据以外国人为主,所以呢,偏欧美,且不够圆润🥱。

工作流会测试好再上传。后台回复【工作流】即可,上面有工作流全集。Lora 也会在晚点上传到哩布哩布和 C 站。

标签