新年伊始，谷歌AI又开始发力文字-图像生成模型了。
这次，他们的新模型Muse（缪斯）在CC3M数据集上达成了新SOTA（目前最佳水平）。
而且其效率远超火爆全球的DALL·E 2和Imagen （这俩都属于扩散模型），以及Parti （属于自回归模型）。
——单张512x512分辨率图像的生成时间被压缩到仅1.3秒。
在图像编辑方面，只需一句文字指令，就可以对原始图像进行编辑。
（貌似不用再为学ps头秃了~）
如果想要效果更精准，还能选定遮罩位置，编辑特定区域。比如，把背景的建筑换成热气球。
Muse一经官宣，很快吸引了大波关注，目前原贴已收获4000+点赞。
看到谷歌的又一力作，有人甚至已经开始预言：
现在AI开发者的竞争非常激烈，看来2023将是非常精彩的一年。
比DALL·E 2和Imagen更高效
说回谷歌刚刚公开的Muse。
首先，就生成图片的质量来说，Muse的作品大都画质清晰、效果自然。
来看看更多例子感受一下~
比如戴着毛线帽的树懒宝宝正在操作电脑；再比如酒杯中的一只羊：
平时八竿子打不着的各种主体，在一张图里和谐共存，没啥违和感。
要是你觉得这些还只能算AIGC的基操，那不妨再看看Muse的编辑功能。
比如一键换装（还能换性别）：
这既不需要加什么遮罩，还能一句话搞定。
而如果用上遮罩的话，就能实现更6的操作，包括一键切换背景，从原地切换到纽约、巴黎、再到旧金山。
还能从海边到伦敦、到花海，甚至飞到太空中的土星环上，玩一把刺激的滑板海豚跳。
（好家伙，不仅能轻松云旅游，还能一键上天......）
效果着实挺出色。那Muse背后都有哪些技术支持？为什么效率比DALL·E 2和Imagen更高？
一个重要的原因是，DALL·E 2和Imagen在训练过程中，需要将所有学到的知识都存储在模型参数中。
于是，它们不得不需要越来越大的模型、越来越多的训练数据来获取更多知识——将Better和Bigger绑在了一起。
代价就是参数量巨大，效率也受到了影响。
而据谷歌AI团队介绍，他们采用的主要方法名曰：掩码图像建模 （Masked image modeling）。
这是一种新兴的自监督预训练方法，其基本思想简单来说就是：
输入图像的一部分被随机屏蔽掉，然后通过预训练文本任务进行重建。
Muse模型在离散标记的空间掩码上训练，并结合从预训练语言大模型中提取的文本，预测随机遮蔽的图像标记。
从上到下依次为：预训练的文本编码器、基础模型、超分辨率模型
谷歌团队发现，使用预先训练好的大语言模型，可以让AI对语言的理解更加细致透彻。
就输出而言，由于AI对物体的空间关系、姿态等要素把握得很不错，所以生成的图像可以做到高保真。
与DALL·E 2、Imagen等像素空间的扩散模型相比，Muse用的是离散的token，并且采样迭代较少。
另外，和Parti等自回归模型相比，Muse使用了并行解码，效率也更高。
FID上获SOTA得分
前文提到，Muse不仅在效率上取得了提升，在生成图像质量上也非常优秀。
研究者把它与DALL·E、LAFITE、LDM、GLIDE、DALL·E 2，以及谷歌自家的Imagen和Parti进行PK，测试了它们的FID和CLIP分数。
（FID分数用于评估生成图像的质量，分数越低质量越高；CLIP分数则代表文本与图像的契合程度，分数越高越好。）
结果显示，Muse-3B模型在COCO验证集中的zero-shot FID-30K得分为7.88，仅次于参数更大的Imagen-3.4B和Parti-20B模型。
更优秀的是，Muse-900M模型在CC3M数据集上实现了新的SOTA，FID得分为6.06，这也意味着它与文字的匹配度是最高的。
同时，该模型的CLIP分数为0.26，也达到了同期最高水平。
除此之外，为了进一步证实Muse的出图效率，研究者还对比了Muse与其他模型的单张图像生成时间：
在256x256、512x512的分辨率上Muse均达到了最快速度：0.5s和1.3s。
研究团队
Muse的研究团队来自谷歌，两位共同一作分别是Huiwen Chang和Han Zhang。
Huiwen Chang，现为谷歌高级研究员。
她本科就读于清华大学，博士毕业于普林斯顿大学，有过在Adobe、Facebook等的实习经历。
Han Zhang，本科毕业于中国农业大学，硕士就读于北京邮电大学，后在罗格斯大学取得了计算机科学博士学位。
其研究方向是计算机视觉，深度学习和医学图像分析等。
不过值得一提的是，目前Muse还没有正式发布。
有网友调侃，虽然它应该很香，但以谷歌的“尿性”，Muse离正式发布可能还有很长时间——毕竟他们还有18年的AI都没发呢。
话说回来，你觉得Muse的效果怎么样？
对于其正式发布之事，有木有一点期待？
传送门：https://muse-model.github.io/
参考链接：https://twitter.com/AlphaSignalAI/status/1610404589966180360
