数据集蒸馏研究简介
数据集蒸馏是合成小数据集的任务，以便在其上训练的模型在原始大数据集上实现高性能。数据集蒸馏算法将要蒸馏的大型真实数据集（训练集）作为输入，并输出一个小的合成蒸馏数据集，该数据集通过在单独的真实数据集（验证 / 测试集）上在该蒸馏数据集上训练的测试模型进行评估。
数据集蒸馏问题设定
这项任务最初是在 Dr. Tongzhou Wang 2018 年的论文 Dataset Distillation [1] 中介绍的，改论文同时提出了通过优化步骤使用反向传播的算法。由于最初算法的局限性，当时仅仅可以在一些简单数据集如 MNIST，CIFAR-10 上进行蒸馏操作且准确率比较低。这也是最初的 Dataset Distillation 没有被一些 AI 顶会 (NeurIPS/ICCV/ICLR) 收录的原因。
最初的数据集蒸馏效果
一个好的小型蒸馏数据集不仅对数据集理解有用，而且具有各种应用（例如，隐私保护，持续学习，神经架构搜索等）。其中，Dr. Guang Li 最先将数据集蒸馏应用于医学图像领域，并对其在隐私保护方面的特性做了探索，该研究通过将十几万张胃部 X 光图像蒸馏到只有 3 张并达到了很好的胃炎检测效果，研究成果发表于 ICIP 2020 [2].
匿名化的胃部 X 光蒸馏图像
2021 年后，数据集蒸馏在研究界、许多研究所和实验室中越来越受到关注。现在每年都有更多的论文发表。这些精彩的研究一直在不断改进数据集蒸馏并探索其各种变体和应用。其中最具有突破性的研究之一是由 Dr. Bo Zhao 在 ICLR 2021 中提出的 Dataset Condensation，该论文首次提出通过梯度匹配策略来蒸馏数据集并大大提升了测试准确率以及泛化能力 [3].
基于梯度匹配的数据集缩合算法
最近由 CMU，MIT，UC Berkeley 的学者们发表的一篇论文首次实现了对 ImageNet 的蒸馏并又一次大幅提升了蒸馏数据集的测试效果， 该成果发表于 CVPR 2022 [4]。
ImageNet 上的蒸馏效果
对于目前数据集蒸馏领域的巨大进展 Dr. Tongzhou Wang 表示非常惊喜并在推特上对 Awesome-Dataset-Distillation 项目进行了介绍。
Dr. Tongzhou Wang 在推特上对数据集蒸馏项目的介绍
在 Awesome-Dataset-Distillation 项目完成后，短短一个月的时间在 GitHub 上已经获得了 300Star，受到了国内外很多知名学者的关注。此外，上个月被外媒选为八月份最受关注的 AI 研究之一。
- 数据集蒸馏的项目地址：https://github.com/Guang000/Awesome-Dataset-Distillation
- Dr. Guang Li (Hokkaido University) ：https://www-lmd.ist.hokudai.ac.jp/member/guang-li/
- Dr. Bo Zhao (The University of Edinburgh):https://bozhaonanjing.wixsite.com/mysite
- Dr. Tongzhou Wang (MIT):https://www.tongzhouwang.info/
[1] Wang, Tongzhou, et al. "Dataset distillation." arXiv preprint arXiv:1811.10959.
[2] Li, Guang, et al. "Soft-label anonymous gastric x-ray image distillation." ICIP 2020.
[3] Zhao, Bo, et al. "Dataset Condensation with Gradient Matching." ICLR 2021.
[4] Cazenavette, George, et al. "Dataset distillation by matching training trajectories." CVPR 2022.
