3月14日,零一万物正式发布 Yi 大模型 API 开放平台,为开发者提供通用 Chat、200k 超长上下文、多模态交互等模型。
同时,零一万物表示,近期零一万物将为开发者提供更多更强模型和 AI 开发框架。主要亮点包括:
- 推出一系列的模型 API,覆盖更大的参数量、更强的多模态,更专业的代码/数学推理模型等。
- 突破更长的上下文,目标 100万 tokens;支持更快的推理速度,显著降低推理成本。
- 基于超长上下文能力,构建向量数据库、RAG、Agent 架构在内的全新开发者 AI 框架。旨在提供更加丰富和灵活的开发工具,以适应多样化的应用场景。
Yi 系列模型 API
此次 API 开放平台提供以下新版模型:
- ✅ Yi-34B-Chat-0205:支持通用聊天、问答、对话、写作、翻译等功能。
- ✅ Yi-34B-Chat-200K:200K 上下文,多文档阅读理解、超长知识库构建小能手。
- ✅ Yi-VL-Plus: 多模态模型,支持文本、视觉多模态输入,中文图表体验超过 GPT-4V。
API 相关亮点介绍
1.200k 模型支持输入 30 万汉字
- 加速大模型应用进入“长文本时代”。200K 支持处理约 30 万个中英文字符,可以轻松处理整本《哈利•波特与魔法石》小说。适合用于多篇文档内容理解、海量数据分析挖掘和跨领域知识融合等,为各行各业提供了极大的便利。例如,金融分析师可以用它快速阅读报告并预测市场趋势、律师可以用它精准解读法律条文、科研人员可以用它高效提取论文要点、文学爱好者可以用它快速掌握作品精髓等,应用场景非常广泛。
- 大海捞针评测升至99.8%。“大海捞针”测试的设计是:将一个目标句子(针)放进一个随机文档语料库(大海),然后提出一个只能使用“针”(目标句子)中的信息才能回答的问题来测试模型的回忆能力。在“大海捞针”测试中,Yi-34B-Chat-200K的性能提高了10.5%,从89.3%提升到99.8%。
2.Yi-VL-Plus 多模态模型
零一万物开发的多模态模型 Yi-VL-Plus,可支持文本、视觉多模态输入,面向实际应用场景大幅增强:
- 增强Charts, Table, Inforgraphics, Screenshot 识别能力,支持复杂图表理解、信息提取、问答以及推理。中文图表体验超过GPT4V。
- 在 Yi-VL 基础上进一步提高了图片分辨率,模型支持 1024*1024 分辨率输入,显著提高生产力场景中的文字、数字 OCR 的准确性。
- 保持了 LLM 通用语言、知识、推理、指令跟随等能力。
图说:在中文图表识别功能评测中,Yi-VL-Plus模型能准确识别图表对应数据,而 GPT-4V则识别错3处数据。
图说:Yi-VL-Plus模型在一些中文图表理解场景,比GPT-4V准确率更高
3.推理速度快
- 为了提升 API 性能,我们在 API 侧进行了推理优化,因此 Yi-34B-Chat 系列 API 具备较快的推理速度,这不仅缩短了处理时间,同时也保持了出色的模型效果。此外,优化的 API 接口显著降低了模型回复的延迟,进一步提高了用户体验的流畅性和响应速度。
4.兼容 OpenAI API
- Yi 大模型 API 与 OpenAI API 完全兼容,你只需修改少量代码,可以平滑迁移,即刻享受 Yi 大模型的超凡魅力。
200k + 多模态模型例子
- Yi-34B-Chat 200K + 多模态模型解读 Yi-tech-report 论文
- Yi-34B-Chat-200K 对经典文学作品《呼啸山庄》进行复杂角色和角色关系的归纳总结
该小说篇幅庞大(中文字数约 30 万字),且人物关系错综复杂,但它仍能精准地梳理和总结出人物之间的关系,展示了它在处理超长上下文时出色的复杂内容理解和分析能力。
零一万物大模型开放平台发布,新用户免费赠送60元
- ✅ 在全球多项权威评测榜单中,Yi 大模型表现优异,性能直追 GPT-4。此前,Yi 大模型 API 小范围开放内测,全球已有不少开发者申请使用,并普遍反馈效果超出预期,且对 Yi-34B-Chat-200K API 有强烈需求。Yi-VL-Plus 多模态模型中文效果超过 GPT-4V。因此,我们也不断加大研发力度,终于在今天推出了大家期待已久的 API!✌️
- ✅ 目前,Yi 大模型 API 名额限量开放中,新用户赠送60元。 ��
零一万物希望与有创造力的你并肩作战,助力你加速开发 AI 2.0 应用生态,一同探索 LLM 的广阔应用场景。
API 邀测公号文章
零一万物API可以适用于哪些2B/2C场景
- 【2C】使用Yi Chat模型构建智能对话助手(类似ChatGPT)
- 【2C】使用Yi多模态模型,识别图片中存在的表格,文字,并进行深层次的问答。(此次3.14发布版本新增加的模型)
- 【2B】将Yi系列模型整合到现有产品,实现类Copilot工具
- 【2B】使用Yi超长上下文模型构建知识库问答,用于客服、培训等特定知识的问答场景