最近,这张图开始在AI社区热转,连LeCun也转发了。
这张图直观地展现了AI开源社区和私有模型的竞争格局。
在5-Shot MMLU基准测试中,代表开源模型和闭源模型的性能的两条线,即将在2年内相交。
虽然OpenAI和谷歌等公司在极力垄断最新模型的信息,但Meta为代表的开源社区正在大力推动更易于访问的生成式AI,这可能会挑战传统的闭源AI开发模式。
图表由CathieDWood的ARKInvest创建
许多人说,这也许是2024年最重要的AI图表之一。
可以看到,最近兴起的开源本地模型,已经在超越大规模且昂贵的基于云的闭源模型!
协作和开源创新的力量,太令人瞩目了。
24年将成为开源之年?
网友激动写道——
我们正在接近一个临界点。以目前开源社区项目的速度,预计我们将在未来的12个月内到达类似GPT-4的水平。
GPT-4性能如此强大,以至于我不确定GPT-5的发布是否会产生实质性影响。
下一个挑战,就是针对计算进行优化了。如前所述,塑造部署到移动设备的模型,就是最大的游戏规则改变者,因为移动设备人手一个。
2024年将成为开源AI之年!
很显然,最近几个月里,一直有GPT-5的传言。
有人干脆上手,直接在图上添加了一行。
有人表示,这个图表只显示了每个人都知道的事。
GPT-4其实自成一派,它是一个异常值,不适合放在轨迹中。
Claude倒是拥有出色的UI和较长的上下文窗口,但它正在横向发展。
Gemini Ultra是比较亮眼的。
开源本地模型的兴起,取代了大规模、昂贵的基于云的封闭模型,这太令人振奋了!
这种转变可以使人工智能民主化,产生更广泛的创新,让较小的参与者无需大量投资,即可获得强大的工具。
有人表示,建议在2022年8月以39.13分添加Bloom,在2023年10月以64.7分添加Mistral 7B,在2023年12月以71.3分添加MoE 8x7B Mixtral。
「不敢相信,这么好的东西都是免费的,我们生活在一个多好的时代啊!」
有人大开脑洞:如果我们有一个便宜10 倍、功能强大10倍的开源模型,那么根据经济学中的Jevon悖论,可以预测我们的模型会同样昂贵,但功能强大100倍——如果供应是限制因素,需求将相应地爆炸式增长。
如果保持这个速度不变,那我们大概在一年后就能看到AGI了。
当然,也有人指出,图表是不严谨的。
可以找到一些更可怕的闭源模型例外,这就会降低平均值。
所以不应该在这里比较平均值,而是比较每个类别中的最大值。
也有人说,去掉Grok、GPT-2、GPT-3这类异常值,私有模型的斜率变化就会很大,会得出相反的结论。
欧盟人工智能法案谈判落幕:广泛豁免开源模型
好消息是,在法律上,各国也明显对开源模型态度更宽容。
12月上旬,《欧盟人工智能法案》谈判结束。
立法者于6月在欧洲议会对《人工智能法案》进行投票
谈判留下了一个有争议的问题,就是如何对基础模型监管,尤其是开源模型。
LeCun特意发文,感谢「法国、德国和意大利政府没有放弃开源模型」,
这项立法包括对基础模型的限制,但对」开源模型「却给予了广泛的豁免。
LeCun表示,此举可能会让游说反对这项法律的欧洲开源Al公司受益,包括法国的Mistral和德国的Aleph Alpha,以及发布了开源模型LLaMA的Meta。
Meta、IBM牵头成立开源联盟
在12月6日,有超过50家科技大厂名校和机构,共同成立了全新的人工智能联盟,以开源为旗号,誓于OpenAI和英伟达一决高下。
AI联盟由Meta和IBM牵头,总计50余家科技公司、高校和机构共同成立。
在联盟的成员里,有不少老牌科技公司:AMD,英特尔,戴尔,甲骨文,索尼,以及在AI浪潮之后崛起的初创公司:Hugging Face,Stability AI。
成员中的高校主要来自美国,包括了很多计算机领域的知名院校,比如UC伯克利,耶鲁,康奈尔,UIUC,纽约大学等,也有不少在美国之外声誉很高的大学:帝国理工,苏黎世联邦理工,东京大学,希伯来大学等高校。
组织成员甚至还包括了像NASA这样的政府机构。
根据Meta官方的说法,联盟的主要任务就是「支持开放创新和开放科学」。
IBM高级副总裁兼IBM研究院院长Darío Gil表示:「如果你认为人工智能的未来将由两个、三个或五个机构决定,那你就错了。」
「我希望它(联盟)能让人们更加清晰和自信,相信开放创新的世界是一个值得投入的世界。」
根据AI联盟官方的数据,这50多个机构汇集了每年超过800亿美元的研发资金,研究机构的学生超过40万人,公司员工超过100万人。
全世界支持开源者,都联合起来了!