本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
喂一张AI画的图,立马揪出它借鉴了哪些人类作品。
一次性溯源20多张图画的那种。
这个反向搜索引擎,要把AI画画的老底给扒干净了。
它的目的很简单,为人类艺术家讨公道。
看网站名就懂得都懂了,Stable Attribution(稳定归因),与Stable Diffusion(稳定扩散)相对应。
点击任何一张溯源到的图片,就会出现一个可以提交来源及作者的对话框。
网站表示,通过大家提交的原作信息,能够正视人类艺术家对于AI画画的贡献,并可能进一步按比例分配报酬,让人类艺术家和AI画画化干戈为玉帛。
在Haker News上,它一发布热度已经超过700 points。
网友们也表示认同:
这总比“一刀切”禁止AI生成内容好啊。
一键给AI画图溯源
网站本身已经给出了一些示例,可以直接点击尝试反向搜索。
比如一张看似真实的女人画像,可能是AI参考了多张人脸后合成来的。
还能自己找一张Stable Diffusion生成的图片试试。
我们用Stable Diffusion生成了一组雪景图,并拿第一张图测试了一下。
Stable Attribution给出的结果是酱婶儿的,即左边那列是它参考过的图片。
但是也会有失败的案例,同样是一幅雪景,网站这一次却说搜不到结果。
原理上,官方表示目前Stable Attribution的算法是对AI生成的图像进行解码,从Stable Diffusion模型训练数据集中找到相似的案例。
而Stable Diffusion使用的是公开数据集LAION-5B,所以寻找起来也不是很麻烦。
同时网站还声明,对于溯源到的图片,他们没有版权,而且也不会拿来训练模型。
背后公司名叫Chroma,创立于2022年。主要业务是做嵌入式数据库、嵌入式搜索和嵌入式分析的开源工作,能为算法模型的训练、微调和使用提供支持。
现在已经得到了一些机器学习领域人士的投资,他们投过的公司有Hugging Face、Replit等。
主创团队有两个人,之前都有过科技大厂的工作经历。
Anton Troynikov创业前是Facebook Reality Labs(研究AR/VR)的研究工程师,更早之前还做过CV、软件等方面工作。
Jeff Huber之前是Standard Cyborg的联合创始人,这家公司的明星产品是3D打印义肢。
目前公司还在大力招聘中。
网友:会不会有些夸大其词?
虽然想法很美好,但是也有不少网友指出,这个网站背后的原理真的可靠吗?
结果很令人满意,但似乎把问题太过简单化了,也曲解了Attribution的意思。
这个网站认为,AI生成的图片,一定不会存在于原本的训练数据集中。因此在数据集范围内找到一些和它非常相似的图,就可以被认为是“参考图”。
有人就指出,如果拿一张1850年的手绘图,它不是AI生成的,也不会存在于数据集中,网站是不是也会给出一些所谓的相似参考结果?
雀实,我们扔进去了一张表情包试了下,结果emmm……它在瞎搞。
也有人说,感觉网站提供的图像里,并没有包含AI生成图片的一些细节元素。
官方也表示,目前算法中还存在很多需要优化的问题,比如训练过程中的噪声太多、训练数据中有很多错误和冗余。
但这些问题都能解决,他们也在想办法改进。
有网友也打算用长远的目光看这个事:
即便只是找相似结果,算不上attribution,我认为这也是更好的。
毕竟另一边,各路图片网站和Stable Diffusion的维权大战还在持续发酵。
最近,美版视觉中国Getty升级了法律诉讼,表示Stable Diffusion在未经过授权的情况下,使用了他们1200万张图片。
法律人士表示,相比于艺术家们提出的维权,Getty这边的诉讼可能更有希望。
因为艺术家们提出的是AI画画对于职业的威胁,而Getty被侵权差不多是板上钉钉,之前甚至生成了打着Getty水印的图片。
但鉴于这种官司属于前所未有,所以结果很难预测。
也有图片网站选择“打不过就加入”,和OpenAI一块搞了个AI图片生成器,并且对数据集做贡献的人提供补偿。
Stable Attribution的态度是:AI应该和所有其他技术一样服务于人类,我们不应该疏远它。
你怎么看呢?
One More Thing
u1s1,这个网站开屏动画做的还不戳,感兴趣的可以去玩玩~