ChatGPT重磅更新!新增API函数调用,上下文飙升4倍,价格打“骨折”

人工智能
在这次更新中,OpenAI 重点介绍了函数调用:开发者不用手动选择函数,只需要模型描述需要用到的函数,何时调用哪个函数都是模型根据提示词自己决定的,与GPT-4调用插件的机制一样。

图片

大数据文摘出品

刚刚!OpenAI 对 GPT系列发布了重大更新。其中包括最核心的是API新增函数调用(Function calling)能力。

图片

此外还有:

  • 更新和更可控制的gpt-4和gpt-3.5-turbo版本。
  • 新推出的gpt-3.5-turbo 支持16k的上下文输入。
  • gpt-3.5-turbo输入token成本降低25%。
  • 最先进embeddings model降价75%
  • 开放gpt-3.5-turbo和gpt-4 API,不再设置等待时间表。

在这次更新中,OpenAI 重点介绍了函数调用:开发者不用手动选择函数,只需要模型描述需要用到的函数,何时调用哪个函数都是模型根据提示词自己决定的,与GPT-4调用插件的机制一样。

这些模型已经进行了微调,可以检测到何时需要调用函数,也可以生成符合函数签名的JSON响应。换句话说,函数调用使得开发者能够更可靠地从模型中获取结构化数据。

更新模型:GPT-4和gpt-3.5-turbo大升级

GPT-4/GPT-3.5-turbo有两个模型,编号都是0613(意为:6月13号更新?)。

其中,gpt-4-0613包括一个更新且改进的模型,具有函数调用功能;gpt-4-32k-0613包括与gpt-4-0613相同的改进,同时扩展了上下文长度,以便更好地理解较大的文本。

gpt-3.5-turbo-0613 包括与 GPT-4 相同的函数调用以及通过系统消息提供的更可靠的可控性;gpt-3.5-turbo-16k 的16k 上下文意味着该模型现在可以在单个请求中支持约 20 页文本。

此次更新OpenAI提供了更多的服务,但却只收取更低的价格,妥妥的业界良心啊:

“text-embedding-ada-002 将成本降低 75% 至每 1K Token 0.0001 美元。

gpt-3.5-turbo-16k 的定价为每 1K 输入Token 0.003 美元,每 1K 输出Token 0.004 美元。

gpt-3.5-turbo’s 输入Token的成本降低了 25%”

价格计划更新后,有网友表示:OpenAI好像、貌似给免单了。

图片

API使用示例,解放开发者双手

关于函数调用功能,OpenAI给出了以下几个示例。

1.请求转换

“给Anya发邮件,看她是否想在下周五喝咖啡”这样的请求转换为函数调用:

send_email(to: string, body: string)

“波士顿的天气如何?”转换为函数调用:

get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')。

2.将自然语言转换为API调用或数据库查询

本月前十名的客户是谁?

get_customers_by_revenue(start_date: string, end_date: string, limit: int)

Acme公司上个月下了多少订单,能转换为SQL查询:

sql_query(query: string)

3.从文本中提取结构化数据

定义函数提取Wikipedia文章中提到的所有人物:

extract_people_data(people: [{name: string, birthday: string, location: string}])

图片

图注:调用外部API执行操作或回答问题

OpenAI 和它的GPT计划

在最近的一次访谈中,OpenAI的掌舵人Sam Altman公布了最近两年的GPT计划。例如2023年的计划是降低GPT-4的成本,以及提高响应速度,其他还包括:

  • 更长的上下文窗口,可能会支持100w的token;
  • 微调API,帮助开发人员更好的开发;
  • 支持会话状态的API。

显然,这次更新是对更长的上下文窗口,帮助开发人员更好开发的承诺的一种回应。果然,这种纯粹创业团队,更多的是考虑如何让AI技术更好的服务更多的人群。而非像某公司,动不动就商业化、赋能啥的,把技术包装成普通用户用不起的样子。

如果细数OpenAI,会发现它是一家坚持梦想的机构,且想把事情做到极致的公司。

OpenAI最初是一个非盈利性人工智能研究实验室,2016年获得了萨姆•奥尔特曼和埃隆•马斯克10亿美元的资助。

2019年OpenAI转型为盈利性人工智能研究实验室,以吸收投资者的资金。

在实验室支持其研究的资金已所剩无几的时候,微软又宣布将在实验室投资10亿美元。

CEO Altman 表示,在早期的时候,GPT-4 非常慢,还有bug,很多事情做得不好。但是,最早期的计算机也是这样,它们仍然指向了我们生活中将要变得非常重要的东西的道路,尽管需要几十年的时间才能发展。换句话说,这家公司并没有因为初始的KPI不好,就放弃计划。

正如微软亚洲研究院前副院长、澜舟科技创始人周明在一次采访中提到的:

OpenAI最大的功绩是把各方面做到极致,是集成创新的典范。

世界上有几类人,有人就是要研究底层创新。有的是在底层创新上做应用,一般的应用是解决单项任务。还有的是做集成创新,把所有工作、应用、算法都在一个大平台上体现,形成里程碑。OpenAI 恰好集成创新做得非常好。

参考链接:

  • https://mp.weixin.qq.com/s/p42pBVyjZws8XsstDoR2Jw
  • https://openai.com/blog/function-calling-and-other-api-updates
责任编辑:赵宁宁 来源: 大数据文摘
相关推荐

2023-06-14 12:35:57

2023-11-22 16:51:53

2023-06-14 14:57:38

模型AI

2024-01-26 13:44:19

OpenAI模型GPT-4

2023-06-14 11:41:55

OpenAIChatGPT

2014-04-04 10:27:00

Python上下文管理器

2017-05-11 14:00:02

Flask请求上下文应用上下文

2024-04-07 08:50:00

谷歌框架

2023-03-02 11:52:57

ChatGPT技术

2024-05-07 14:02:28

开源MoE指标

2012-12-31 10:01:34

SELinuxSELinux安全

2022-09-14 13:13:51

JavaScript上下文

2021-05-25 11:10:36

GitLinux

2024-04-12 17:41:28

GPT-4TurboClaude

2022-09-15 08:01:14

继承基础设施基础服务

2023-11-07 08:03:43

AIGPT-4

2023-07-11 10:02:23

2023-08-29 12:45:32

2024-09-30 14:10:00

2017-12-17 17:01:23

限界上下文系统模型
点赞
收藏

51CTO技术栈公众号