字节跳动发布业内首个视频转场推荐方案,成果入选ECCV2022

新闻
随着短视频的迅猛发展和普及,每天都有海量用户通过视频来记录和分享生活。对于缺乏专业剪辑和视频编辑知识的普通用户而言,视频的制作和剪辑却具有很高的门槛。

近期,字节跳动智能创作团队研发了业内首个通用视频转场推荐方案AutoTransition,致力于解决目前视频剪辑中存在的学习成本高,编辑效率低等问题,该项成果目前已入选计算机视觉领域顶会ECCV2022(European Conference on Computer
Vision
)。

随着短视频的迅猛发展和普及,每天都有海量用户通过视频来记录和分享生活。对于缺乏专业剪辑和视频编辑知识的普通用户而言,视频的制作和剪辑却具有很高的门槛。

AutoTransition兼顾灵活性与高性能,面向转场这一视频剪辑中最常使用的编辑元素,通过将转场推荐任务建模为多模态匹配和检索问题,从大量视频数据中自动学习转场匹配关系,实现了对任意视频和音频输入推荐高质量的转场效果。借助AutoTransition,用户可以快速一键生成优质转场视频,使剪辑效率得到显著提升。

图说:视频转场类别分类网络,训练Transition Embedding作为转场的特征表示

据介绍,相比于基于一系列预定义的策略或随机选取的剪辑方式,AutoTransition能够有效地从海量数据中学习到专业的剪辑知识,并基于对视频和音频的理解推荐高质量转场;相比于人工剪辑,AutoTransition模型能够在极短时间内完成推荐,显著提升编辑效率,并且推荐结果可媲美甚至超越专家剪辑的效果;得益于优秀的扩展性,AutoTransition可以方便地和其他的视频处理技术结合(例如视频高光提取、视频聚类和排序等),以实现更全面的视频剪辑能力,帮助视频工作者进一步提升视频编辑的效率。

目前,AutoTransition的衍生技术已经成功落地于抖音和智能创作ToB工具箱等多项业务场景中。字节跳动智能创作团队表示:首个视频转场数据集和AutoTransition代码均已开源,以期吸引更多同行关注这一新领域,共同推动智能视频剪辑的快速发展。未来,该团队准备将这一方案扩展到更多的视频剪辑元素,包括但不限于视频动画,视频贴纸和裁剪变换等,同时还将尝试和其他视频处理技术结合,以实现更全面的视频剪辑功能。

论文链接:AutoTransition: Learning to Recommend Video Transition Effects


责任编辑:黄显东
相关推荐

2022-10-26 13:27:12

论文

2022-06-23 13:51:37

火山引擎预训练模型

2022-06-16 19:53:51

AIAI模型

2022-08-20 18:33:08

开源代码模型

2022-01-19 09:47:29

开源SUSENeuVector

2021-12-10 10:32:23

数字化

2021-12-22 10:15:36

算法迁移技术

2020-09-11 15:37:18

GitHub代码开发者

2023-02-17 10:50:32

字节跳动卷积神经网络BERT

2022-04-26 15:09:14

优化模型训练

2020-12-25 16:30:17

机器学习/隐私保护

2021-03-01 15:51:56

AVG视频技术

2014-10-22 14:35:21

浪潮主机安全

2024-09-25 15:57:56

2012-09-03 12:57:38

SUSEOpenStack
点赞
收藏

51CTO技术栈公众号