5 min read
素材自由再进一步!替换任意物体的BrushNet

设计小站一直致力为设计师们通过AI工具实现素材自由的方法,在之前的一期,我们介绍了可以清除图片指定物体的方法# 【AI辅助设计】教大家一个搞素材的方法-AI去除任意物体,这期,我们更进一步介绍直接替换图片内容的方法,效果还不错。
看看效果
替换为汉堡包
石桌换成木桌
苹果换成草莓
草莓换成蓝莓
技术介绍
知其然而其其所以然,不妨先看看这个技术的简要介绍。
技术论文地址:https://arxiv.org/abs/2403.06976
论文的创作者是来自腾讯和相关中文大学的。
简述
该论文介绍了一种名为BrushNet的新型图像修复模型,它改进了现有的扩散模型,通过将掩蔽图像特征和噪声潜变量分为不同的分支来实现。这种分离降低了模型的学习负担,并允许更细致地融入关键的掩蔽图像信息。BrushNet是一个即插即用的模型,可以与任何预训练的扩散模型配合使用,从而实现连贯且增强的图像修复效果。论文还介绍了BrushData和BrushBench,用于训练和评估基于分割的掩蔽修复的数据集。实验分析表明,BrushNet在各种指标上优于现有模型,包括图像质量、掩蔽区域保留和文本连贯性。
应用场景
BrushNet的图像修复技术可以在多个应用场景中发挥作用,包括但不限于以下几个方面:
- 图像修复和修复:BrushNet可以用于修复受损或缺失的图像部分,例如修复老照片中的划痕、损坏的区域或缺失的元素。这在数字修复、图像恢复和保护文化遗产方面具有重要意义。
- 图像编辑和增强:BrushNet可以用于编辑图像,去除不需要的内容或添加新的元素。例如,可以通过去除干扰物体或填补空白区域来改进图像的外观和质量。
- 视觉效果和特效:BrushNet的图像修复技术可以用于电影、电视剧和广告等视觉效果的制作。它可以用于去除临时拍摄的标记、修复特效场景中的缺陷或创建虚构的图像元素。
- 数据增强和合成:在机器学习和计算机视觉任务中,BrushNet可以用于生成合成数据集,以增加训练样本的多样性和丰富性。它可以用于生成缺失部分的图像,以测试模型的鲁棒性和泛化能力。
- 艺术创作和设计:BrushNet的图像修复技术可以用于艺术创作和设计领域。艺术家和设计师可以利用该技术修复、修改或增强图像,以实现他们的创意和想法。
设计可以用来干嘛?当然可以处理设计素材的问题啦~,以前面对一个心仪的素材,却因为里面存在某些元素而费很长时间去处理,现在可以直接一键替换处理了,还是很香的。
工作流
这里用到了一个核心节点ComfyUI-BrushNet:https://github.com/nullquant/ComfyUI-BrushNet
。然后在此基础上,加入了蒙板重绘处理以及放大加细节工作流,力求处理后的素材高清无码。
输入和输出
这个组定义了输入的图像,同时加入图像对比,便于观察效果。输入节点,加入了翻译,使用中文输入即可。
替换模块
核心的模块,直接用了官方的工作流,但是加入了蒙板的拓展,使重绘的范围加大点,自然一点。
放大模块
是我御用的放大加细节工作流,详细可以看我前面的介绍:# 【AI辅助设计】号称Maginfic的开源替代又来一个!这次好像真的能打了!
好了,关于的分享介绍就到这里,有什么疑问或者问题,可以留言交流哦~
关注我公众号(设计小站):sjxz00,获取更多AI辅助设计和设计灵感趋势。