用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

新闻 人工智能
不需要改变数据集,只需要给CLIP下达的命令中把“虚幻引擎”几个字加上,再让CLIP去指挥GAN,图像就立马变成了高大上的CG艺术风。

[[407645]]

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

嫌弃GAN生成的图像不够炫酷?

不需要改变数据集,只需要给CLIP下达的命令中把“虚幻引擎”几个字加上,再让CLIP去指挥GAN,图像就立马变成了高大上的CG艺术风。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

文字中加入虚幻引擎这个技巧,最早由Aran Komatsuzaki发在推特上,吸引了大量CV圈的人来围观。

后来有人把这套流程发在了Colab上,网友们都玩疯了。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

还可以指定成“彩色铅笔风格”

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

或者“吉卜力风格”:

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

最绝的是,加上“3D photo inpainting”竟然可以生成立体构图。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

CLIP是OpenAI开发的一个负责给图像重排序的模型,它与GAN合作的方式也很简单。

先用一张平平无奇的随机图案作为种子,像这种:

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

像这样让CLIP算出其与文字描述的相似度打分,然后反馈给GAN,让GAN以提升分数为目标不断迭代。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

AI艺术家组合就这么出现了。

除了在提示中加入风格要求之外,还可以直接告诉AI一个人名,看看在AI眼中他们长啥样。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

甚至能用来猜猜那些从未露面的大佬们,比如神秘的比特币之父中本聪

[[407650]]

这就是AI心目中的中本聪,不管你信不信,反正我是信了。

在线试玩

VQGAN+CLIP在Colab上有很多版本,我们经过对比选择了一个加入额外优化和池化技巧,在速度和质量上都比较出色的一个(链接在文章末尾)。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

第1步和第2步,按顺序执行就好。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

第3步,选择使用的模型,默认的是用ImageNet训练的。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

第4步设置参数,一般情况下只需要在texts里填上要生成的内容,用“|”分隔。

widthheight控制生成图像的分辨率,model可以选择使用的模型(需要在第3步中下载)。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

改变seed的数字可以更换随机图像种子。

另外还可以在init_image处指定一张初始图片,需要把图片上传到Colab环境里再填入链接。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

比如,有人使用这样一张图片作为图像种子,开发了新玩法:生成宝可梦

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”
用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

第五步执行,300*300分辨率的图迭代500次只需要几分钟。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

最后,还可以把生成的过程合成为视频。

用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”
用AI指挥另一个AI,GAN+CLIP的组合成了“CG艺术家”

就是这么简单,快来试试吧。

在线试玩:
https://colab.research.google.com/drive/1ZAus_gn2RhTZWzOWUpPERNC0Q8OhZRTZ

VQGAN:
https://github.com/CompVis/taming-transformers

CLIP:
https://openai.com/blog/clip/

 

 

责任编辑:张燕妮 来源: 量子位
相关推荐

2015-11-04 15:28:56

3D特效Linux

2023-07-10 06:46:19

AI 作图人工智能

2020-05-17 14:52:22

大数据人工智能技术

2011-08-24 14:03:34

LiveSketchiOS

2016-12-26 15:23:21

戴尔

2014-11-19 15:26:00

程序员

2024-02-20 13:45:15

AI艺术家版权

2022-09-09 15:45:25

人工智能工具艺术

2023-01-02 11:57:01

AI工具

2013-07-24 09:31:45

大数据迪斯尼

2011-03-28 14:02:07

MirahJava对手

2020-06-10 09:55:04

AI 数据人工智能

2012-01-12 10:09:55

Elementary 思路

2022-02-21 09:10:52

AI模型渲染

2022-05-30 13:38:51

区块链人工智能Web3

2021-10-27 05:59:15

AI机器人人工智能

2023-03-08 08:22:48

虚拟人AI作画表情迁移

2021-05-29 07:13:26

微软Nobelium网络攻击

2024-01-15 00:35:23

JavaScript框架HTML

2024-04-03 12:42:18

点赞
收藏

51CTO技术栈公众号