AI.x社区

数据加载过程与性能优化数据加载的复杂性数据加载并不仅限于从存储读取数据，它涵盖了解码、格式转换及数据增强等预处理环节。这些步骤通常在CPU上执行，目的是将原始数据转换为GPU可处理的张量格式。数据加载的步骤数据加载流程可以概括为：​从存储系统读取数据到系统内存。解码原始数据。应用数据变换和增强操作（如裁剪、尺寸调整）。将处理后的数据传输至GPU。​预取器的作用预取器显著提升数据加载效率，它在模型训练需要...

FASTFLOW:FlexibleAdaptiveCongestionControlforHighPerformanceDatacentersFASTFLOW：针对高性能数据中心的灵活自适应拥塞控制​​https:arxiv.orgabs2404.01630​​发表时间：2024年9月20日一、问题背景现代数据中心，特别是运行大规模AI训练和HPC应用的数据中心，对网络性能的要求越来越高。这些工作负载通常会产生突发性的、同步的流量，对传统的拥塞控制算法提出了挑战。现有拥塞控制算法的不足：基于延迟的算法：如Swift...