让大学生跑语言大模型,这场世界超算竞赛刚结束,北大首次夺冠

人工智能 新闻
由于今年ChatGPT火热,今年的大语言模型题受到了组委会和媒体的重点关注,这道题的优胜者也将获得本届ASC的e Prize计算挑战奖。

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

第十届ASC世界大学生超算竞赛总决赛,终于在中国科学技术大学落下帷幕。

北京大学首次获得ASC决赛冠军,而东道主中国科学技术大学获得亚军,香港中文大学获得线上竞赛冠军。

图片

ASC世界大学生超级计算机竞赛,是由中国在2012年发起的世界最大规模的大学生超算竞赛,与美国SC、德国ISC并称全球三大超算竞赛,今年正好是ASC第10届。

大语言模型成关注热门

今年的ASC决赛正式比赛在5月8日和9日两天进行,参赛队伍是从初赛300支队伍队伍中脱颖而出的24支队伍。

其中有20支来自中国大陆高校的队伍,在中科大体育馆内完成线下比赛;另外4支来自港台和国外的队伍,则借助云计算资源完成线上比赛。

图片

各高校参赛队伍需要在2天内完成6道赛题,时间紧任务重,任何失误都可能导致与冠军失之交臂,这也是ASC过去历届黑马频出的原因。

由于今年ChatGPT火热,今年的大语言模型题受到了组委会和媒体的重点关注,这道题的优胜者也将获得本届ASC的e Prize计算挑战奖

ASC组委会提供了100GB的高质量中文数据集,要求参赛队基于这一数据集实现15亿、179亿参数两个模型的训练。

参赛队伍需要自行合理设计模型训练策略,在追求极致性能的同时,还要满足精度约束等严苛条件。

中国科学技术大学队伍运用多种业界前沿的大模型并行策略、显存优化方法,最终获得了这道赛题的最高分,夺得本届ASC e Prize计算挑战奖。

图片

中科大选手吴天铭表示:“这道赛题是在ChatGPT火起来之前就出来了,我们为此做了很多功课。不久后ChatGPT爆火,我们就已提前理解了它是怎么运作的,所以觉得ChatGPT‘神奇也不神奇’。”

聚焦AI、量子计算前沿课题

除了大语言模型外,本届ASC也聚焦于其他业界前沿问题。比如此前谷歌实现量子优越性的量子计算芯片“悬铃木”,参赛选手需要在超算上模拟该芯片的量子采样问题。

谷歌曾宣称在传统超算上,这个问题需要运行1万年,而参赛选手需通过基于张量网络的量子模拟算法实现10亿倍的性能提升,将模拟时间缩短至10秒。

这道题也成为了本届大赛的超级团队赛项目,即5个线下队伍与1个线上队伍组队完成,让各高校之间不仅是竞争对手,也是合作伙伴,极大地考验选手们的协作沟通能力。

此外,每届大赛必不可少的“跑分”竞赛项目也如期上演。

在HPL&HPCG基准测试这道题中,各参赛队伍需要自行设计超算系统,在总功耗3000W约束下正确完成各项计算任务。

浙江大学以109万亿次/秒的HPL持续浮点运算性能,获得本届ASC最高计算性能奖

责任编辑:张燕妮 来源: 量子位
相关推荐

2012-04-01 16:24:03

2018-06-28 17:55:03

浪潮

2012-06-21 14:30:40

超算大赛

2015-01-29 10:26:48

2016-01-12 12:41:27

浪潮

2012-07-27 10:23:51

超级计算机

2012-07-13 11:35:06

超算竞赛清华大学

2012-11-16 14:33:13

2012-07-11 15:43:26

国际大学生超算

2014-05-28 17:55:25

中国科大曙光队ISC14

2012-03-23 16:00:59

超算大赛

2012-11-16 14:44:33

2013-11-12 17:26:40

2012-11-26 15:55:56

超算竞赛曙光

2014-04-09 09:23:05

锐捷网络超级计算机
点赞
收藏

51CTO技术栈公众号