百川智能 × 昇腾AI|百川重磅发布Baichuan2大模型!已上线昇思开源社区

企业动态
摘要:昇腾AI正式支持baichuan2开源大模型

【2023年9月6日,北京】今日,百川智能在北京召开大模型发布会,正式发布Baichuan2开源大模型,昇腾AI基础软硬件平台正式支持Baichuan2大模型,并在昇思MindSpore开源社区大模型平台上线Baichuan2-7B模型开放体验。

发布会现场,百川智能宣布正式开源微调后的Baichuan2-7B、Baichuan2-13B、Baichuan2-13B-Chat与其量化版本4bit,面向学术及商业市场提供大模型服务,并且均为免费可商用。

昇思MindSpore版本开源仓链接:

https://gitee.com/mindspore/mindformers/blob/dev/research/baichuan2/baichuan2.md

昇思MindSpore开源社区大模型平台:

https://xihe.mindspore.cn/modelzoo/baichuan2_7b_chat

文理兼备性能优异,全面领先 LLaMA 2

Baichuan2-7B-Base 和 Baichuan2-13B-Base,均基于2.6T⾼质量多语⾔数据进⾏训练,在保留了上一代开源模型良好的生成与创作能力,流畅的多轮对话能力以及部署⻔槛较低等众多特性的基础上,两个模型在数学、代码、安全、逻辑推理、语义理解等能⼒有显著提升。其中Baichuan2-13B-Base相比上⼀代13B模型,数学能力提升49%,代码能⼒提升46%,安全能力提升37%,逻辑推理能力提升25%,语义理解能力提升15%。

本次开源的两个模型在各⼤评测榜单上的表现优秀,在MMLU、CMMLU、GSM8K等几⼤权威评估基准中,以绝对优势领先LLaMA 2,相比其他同等参数量大模型,表现也十分亮眼,性能大幅度优于LLaMA 2等同尺寸模型竞品。

更值得一提的是,根据MMLU等多个权威英文评估基准评分 Baichuan2-7b以70亿的参数在英文主流任务上与130 亿参数量的LLaMA 2基本持平。

7B参数模型的Benchmark成绩

13B参数模型的Benchmark成绩

Baichuan2-7B和Baichuan2-13B不仅对学术研究完全开放,开发者也仅需邮件申请获得官方商用许可后,即可以免费商用。

Baichuan2大模型

Baichuan2大模型是由百川智能开发的一系列开源可商用的大规模预训练语言模型。包含了70亿、130亿、530亿参数的模型。百川智能⾃成⽴之初,就将通过开源⽅式助⼒中国⼤模型⽣态繁荣作为公司的重要发展⽅向。此次开源的两款Baichuan2⼤模型,得到了上下游企业的积极响应,华为等众多知名企业均参加了本次发布会并与百川智能达成了合作。

昇腾AI

昇腾 AI 是以昇腾 AI 基础软硬件平台为基础构建的人工智能计算产业。昇腾AI基础软硬件平台包括 Atlas 系列硬件及伙伴自有品牌硬件、异构计算架构 CANN、全场景AI框架昇思 MindSpore、昇腾应用使能 MindX、一站式开发平台 ModelArts 和统一工具链MindStudio 等。

责任编辑:张诚
相关推荐

2023-09-15 13:18:53

数据训练

2024-01-30 21:18:57

模型智能CMMLU

2014-11-17 15:09:03

阿里百川淘宝无线

2009-07-27 10:57:37

运维管理ITIL摩卡

2010-03-29 11:08:17

无线技术蓝牙3.0

2023-07-11 17:26:35

昇腾AI

2015-07-16 11:57:19

阿里百川移动开发

2016-08-29 18:45:14

轨道交通锐捷网络

2024-04-25 11:19:12

MindSpore

2024-05-30 12:15:35

2009-04-16 08:59:11

2012-12-18 10:38:52

2012年度IT博客大IT博客大赛博客

2024-12-16 09:21:24

2018-11-11 09:48:41

云环境多云公共云

2023-11-15 16:33:10

2014-11-17 14:58:42

阿里百川淘宝无线

2012-12-04 10:12:56

2012年度IT博客大IT博客大赛博客
点赞
收藏

51CTO技术栈公众号