黑白老照片上色已经不足为奇了,但是让黑白老电影还原彩色还是非常新鲜有趣的意见事情。近日,Twitter 上有一位小哥研究了一个名为 DeOldify 的工具,可以让黑白老电影以及老照片复原其本色。
谁说经典只属于黑白?
最近,一位名叫 Jason Antic 的小哥在 Twitter 上大火了一把,他创建的 DeOldify 工具,可以让过去的黑白视频和照片秒变彩色。
这个神器一出,可把网友们高兴坏了,纷纷开始玩儿了起来。目前在 GitHub 上 5800+ 星,相当火爆!
卓别林的电影瞬间年轻、有“味道”了许多。
1960 年的经典电影《Psycho》:
1936 年的经典电影《Reefer Madness》:
1927 年的经典电影《Metropolis》:
DeOldify 不仅能让视频恢复色彩,还能让黑白老照片秒变彩照。
《移民母亲》,Migrant Mother by Dorothea Lange (1936):
"Toffs and Toughs" by Jimmy Sime (1937):
这些黑白的视频和照片,当换上了彩色的“衣服”时,不得不说拉近了与我们的距离,并不觉得那么得有年代感了。
读者们可以手动试试为黑白老照片添色了!地址如下:
https://colorize.cc/
只需要从本地上传或者添加图片的链接,输入邮箱即可收到,非常的方便。
新智元便试了一下“慈禧太后”的黑白照,结果如下:
可以说,是相当的逼真了!
神奇的 DeOldify 背后的利器:NoGAN
作者在 GitHub 中提到,DeOldify 中至关重要的就是 NoGAN。NoGAN 训练结合了 GAN 训练的优点(绚烂的色彩),同时消除了令人讨厌的副作用(如视频中闪烁的物体)。作者表示视频是使用孤立的图像生成,没有任何形式的时间建模附加。该过程执行 30-60 分钟的 GAN 部分的“NoGAN”训练,一次使用1% 到3% 的 imagenet 数据。然后,与静态图像着色一样,在重建视频之前,对单个帧进行“去旧化”。
除了提高视频的稳定性,还有一件有趣的事情值得一提。事实证明,运行的模型,甚至是不同的模型和不同的训练结构,都或多或少地得出相同的解决方案。你可能认为有些东西的颜色是随意的、不可知的,比如衣服的颜色、汽车的颜色,甚至是特效(就像《大都会》里看到的那样)。
作者对此的猜测是这些模型正在学习一些有趣的规则,关于如何根据黑白图像中出现的细微线索来着色。这个结果导致了非常确定和一致的结果,这意味着你没有跟踪模型着色决策,因为它们不是任意的。此外,它们看起来非常健壮,所以即使在移动场景中渲染也是非常一致的。
那么 NoGAN 是什么呢?
这是作者开发的一种新型 GAN 训练模型,用来解决之前 DeOldify 模型中出现的一些关键问题。
它提供了 GAN 训练的好处,同时花费最少的时间进行直接的 GAN 训练。在非常短的实际 GAN 训练期间,发生器不仅获得了过去需要数天逐步调整大小的 GAN 训练的完全逼真的着色能力,而且它也几乎没有产生任何 GAN 的“副作用”。据作者介绍,这是一种非常有效的新技术。
下图是原始 DeOldify 模型的效果,可以看出不同帧的颜色是存在差异的。
下面是基于 NoGAN 的 DeOldify 模型,可以看到着色效果非常好。
为什么是三个模型?
DeOldify 现在有三种型号模型可供选择。每个都有关键优势和劣势,因此具有不同的用例。
更多细节内容可以访问查看 GitHub:
https://github.com/jantic/DeOldify/blob/master/README.md