全球最强开源 MoE 模型来了,中文能力比肩 GPT-4,价格仅为 GPT-4-Turbo 的近百分之一

人工智能
DeepSeek-V2 是一个强大的专家混合(MoE)语言模型,具有训练经济、推理高效的特点。它由 236B 个参数组成,其中 21B 个参数用于激活每个标记。与 DeepSeek 67B 相比,DeepSeek-V2 性能更强,同时节省了 42.5% 的训练成本,减少了 93.3% 的 KV 缓存,最大生成吞吐量提高到 5.76 倍。

想象一下,一个人工智能模型,不仅拥有超越传统计算的能力,还能以更低的成本实现更高效的性能。这不是科幻,DeepSeek-V2[1],全球最强开源 MoE 模型来了。

图片

DeepSeek-V2 是一个强大的专家混合(MoE)语言模型,具有训练经济、推理高效的特点。它由 236B 个参数组成,其中 21B 个参数用于激活每个标记。与 DeepSeek 67B 相比,DeepSeek-V2 性能更强,同时节省了 42.5% 的训练成本,减少了 93.3% 的 KV 缓存,最大生成吞吐量提高到 5.76 倍。

DeepSeek 是一家探索通用人工智能(AGI)本质的公司,并致力于将研究、工程和商业三者融为一体。

DeepSeek-V2 的综合能力

在目前大模型主流榜单中,DeepSeek-V2 均表现出色:

  • 中文综合能力(AlignBench)开源模型中最强:与 GPT-4-Turbo,文心 4.0 等闭源模型在评测中处于同一梯队
  • 英文综合能力(MT-Bench)处于第一梯队:英文综合能力(MT-Bench)与最强的开源模型 LLaMA3-70B 处于同一梯队,超过最强 MoE 开源模型 Mixtral 8x22B
  • 知识、数学、推理、编程等榜单结果位居前列
  • 支持 128K 上下文窗口

图片

全新的模型结构

当 AI 的潜力被不断挖掘,我们不禁要问:什么是推动智能进步的关键?DeepSeek-V2 给出了答案 —— 创新架构与成本效益的完美结合

DeepSeek-V2,以 236B 的总参数和 21B 激活,大致达到了 70B~110B Dense 模型的能力,同时显存消耗仅为同级别模型的 1/5~1/100。在8卡H800机器上,每秒可处理超过 10 万tokens 的输入,输出超过每秒 5 万 tokens。这不仅是技术上的飞跃,更是成本控制的革命。

在 AI 技术飞速发展的今天,DeepSeek-V2 的出现,不仅代表了技术的突破,更预示着智能应用的普及化。它将 AI 的门槛降低,让更多企业和个人能够享受到高效智能服务。

中文能力 VS 价格

在中文能力方面,DeepSeek-V2 在 AlignBench 排名中全球领先,同时提供极具竞争力的 API 价格。

图片图片

模型和论文双开源

DeepSeek-V2,不只是一款模型,它是通往更智能世界的钥匙。它以更低的成本,更高的性能,开启了 AI 应用的新篇章。DeepSeek-V2 的开源,是对这一信念的最好证明,它将激发更多人的创新精神,共同推动人类智能的未来。

  • 模型权重:https://huggingface.co/deepseek-ai
  • 开源地址:https://github.com/deepseek-ai/DeepSeek-V2

在 AI 不断进化的今天,你认为 DeepSeek-V2 将如何改变我们的世界?让我们拭目以待,感兴趣的话,可以访问 chat.deepseek.com 亲自体验 DeepSeek-V2 带来的技术变革。

参考资料

[1]

DeepSeek-V2: https://www.deepseek.com/zh

责任编辑:武晓燕 来源: 全栈修仙之路
相关推荐

2024-05-07 14:02:28

开源MoE指标

2024-05-07 13:07:03

AI模型

2023-12-26 08:17:23

微软GPT-4

2024-05-21 12:23:17

2023-03-28 08:23:38

2011-10-09 14:37:43

iOS游戏开发者App Store

2024-02-04 12:22:47

AI数据

2023-06-08 11:27:10

模型AI

2024-01-30 21:18:57

模型智能CMMLU

2023-03-16 19:17:57

2023-01-01 13:41:18

量子开发

2024-04-25 16:56:14

GPT-4大模型人工智能

2024-04-03 12:18:45

AI训练

2023-09-11 15:57:16

人工智能模型GPT-4

2024-01-26 08:36:07

OpenAIGPT-4​人工智能

2023-06-19 08:19:50

2024-06-24 18:15:22

2023-12-17 22:04:04

微软GPT-4

2023-11-08 13:05:23

AI模型

2022-06-27 14:12:22

CIOIT领导者项目管理
点赞
收藏

51CTO技术栈公众号