LuminaBrush 在图像上绘制照明效果的构建交互式工具

人工智能 新闻
LuminaBrush 是一个构建交互式工具以在图像上绘制照明效果的项目。

LuminaBrush

LuminaBrush 是一个构建交互式工具以在图像上绘制照明效果的项目。该框架采用两阶段方法:第一阶段将图像转换为“均匀照明”的外观,第二阶段利用用户涂鸦生成照明效果。

图片

相关链接

HF 演示:https://huggingface.co/spaces/lllyasviel/LuminaBrush

GitHub:https://github.com/lllyasviel/LuminaBrush

演示

LuminaBrush 目前基于 Flux。

种子为 12345 的示例:

图片图片图片

框架

图片

LuminaBrush 是一个两阶段框架。第一阶段(左侧)将图像转换为“均匀照明”的外观(例如,由均匀分布的白色环境光源照亮的外观);第二阶段(右侧)在用户涂鸦的指导下为这些“均匀照明”的外观生成照明效果。

将照明绘制问题分解为两个阶段使学习变得更容易、更直接——否则(例如,如果只使用一个阶段)可能需要考虑外部约束/规定(如光传输一致性等)来稳定模型行为。

我们首先收集一组相对较小的、光照相对均匀的图像 - 例如这些:

图片

(然后我们还使用在此集合上训练的 Flux LoRA 生成的图像来扩展此集合)

使用这些“均匀照明”的图像作为中间表示具有一些优势,例如避免 3D 反照率中网格边界过于锐利或表面过于平坦。而且这些图像的细节足以处理皮肤纹理细节、头发、毛发等。

然后,我们合成随机法线来随机重新照亮那些“均匀照明”的图像,以训练一个可以从任何输入图像中提取“均匀照明”外观的模型。

之后,我们从数百万张高质量的野生图像中提取“均匀照明”的外观,构建配对数据来训练最终的交互式照明绘制模型。

这种方法的一个明显的副产品是应用程序可以独立使用“均匀照明的舞台”来“愉悦”图像 - 我们还为想要使用它的人构建了一个 HF 空间:

https://huggingface.co/spaces/lllyasviel/lumina_brush_uniform_lit

图片

责任编辑:张燕妮 来源: AIGC Studio
相关推荐

2024-07-25 08:58:16

GradioPython数据应用

2019-01-03 09:06:55

Node.js命令行工具 前端

2013-12-11 10:41:00

jQuery插件

2016-11-29 12:25:56

Python大数据数据可视化

2023-10-12 16:37:36

模型学习

2019-09-06 14:51:40

Python数据库脚本语言

2023-06-27 13:46:20

2012-04-18 15:36:33

HTML5Canvas交互式

2023-12-18 15:02:00

PyechartsPython数据可视化工具

2020-12-31 10:29:05

数据可视化可视化工具编码

2023-09-28 08:29:15

开源工具集语音识别

2022-07-14 14:37:05

Linux软件开发工具

2010-12-09 21:46:26

Scapy

2017-12-11 10:00:00

LinuxshellFish

2021-04-01 13:25:46

Node命令工具

2015-10-14 17:59:53

Google数据探索交互开发

2020-06-18 10:02:25

Python 开发编程语言

2024-08-02 10:30:39

StreamlitPython库数据驱动

2017-02-17 09:20:24

rtopSSH监控

2010-02-24 09:39:25

Python交互式
点赞
收藏

51CTO技术栈公众号