来源 | 梦晨、克雷西
作者 | 量子位
ChatGPT一夜间再次进化，OpenAI一口气推出大量更新！
最核心的是API新增函数调用（Function calling）才能，与网页版的插件类似，API也能运用外部东西了。这个才能被交到开发者手上，ChatGPT API原本不具备的才能也都能靠各种第三方服务解决了。有人以为，这是一个杀手级特性，也是自ChatGPT API发布以来最重要的更新。
- 推出新版别gpt-4-0613和gpt-3.5-turbo-0613模型
- gpt-3.5-turbo上下文长度增涨400%，从4k增长到16k
- gpt-3.5-turbo输入token降价25%
- 最先进embeddings model降价75%
- GPT-4 API大规模敞开，直到清空排队列表停止
消息到了国内，也有网友以为这是国内大模型面临的重大挑战。
何时运用东西，API自己决定
依据OpenAI官方介绍，函数调用一起支撑新版GPT-4和GPT-3.5。开发者只需求模型描述需求用到的函数，何时调用哪个函数都是模型依据提示词自己决定的，与ChatGPT调用插件的机制一样。关于详细运用方法，官方给出了三个例子：
第一，聊天机器人调用外部API执行操作或回答问题，如“给或人发邮件”或“今日的气候如何？”。
以前，想要让GPT调用函数需求借助LangChain的东西才能完成。
……
虽然LangChain理论上具有更高的运行效率，但可靠性要逊于经过专门调教的新GPT。
更新版别，更低价格
目前，新版别的模型现已逐渐开端迭代。 最新版gpt-4-0613、gpt-3.5-turbo-0613与扩充上下文长度的gpt-4-32k-0613都支撑函数调用。gpt-3.5-turbo-16k不支撑函数调用，供给4倍上下文长度，意味着一次恳求可支撑约20页文本。旧模型也开端逐渐抛弃。 运用初始版别gpt-3.5-turbo、gpt-4的使用将于6月27日主动升级到新版别需求更多时间过渡的开发者也能够手动指定持续运用旧版别，但9月13日之后一切旧版别恳求将彻底抛弃。
说完这个时间线，咱们再来看看价格。 升级之后，OpenAI不只没有让产品提价，反而下调了价格。首先是运用量最大的的gpt-3.5-turbo（4k token版）。输入token的价格降低了25%，现在0.0015美元每千token，也便是1美元66.6万token。而输出token每千token的价格则为0.002美元，也便是1美元50万token。换算成英语文本的话，大致是1美元700页。嵌入模型（embeddings model）的价格更是大跳水，直接降低了75%。每千token只需0.0001美金，也便是1美元一千万token。此外，新推出的16K token版GPT3.5-Turbo供给了4K版别四倍的处理才能，但价格只要两倍。输入及输出token的价格分别是0.003和0.004美元每千token。别的还有少数网友反响，当月账单直接从100到降到几美分了，目前还不清楚详细什么情况。
最终，有需求的话也不要忘掉去排队GPT-4 API的测验资历。（传送门放在文末）
OpenAI捕“Chain”，微软在后
不少网友指出，OpenAI新出的“函数调用”基本便是Langchain里“Tools”的翻版。
或许接下来，OpenAI还会翻版Langchain的更多功用，如Chains和Indexes。
OpenAI把你的创业项目给做了怎么办？
对此，OpenAI首席执行官Sam Altman最近刚好做过一次表态。在5月底Humanloop举办的沟通会上，Altman曾表明：
除了ChatGPT类型的消费级使用之外，尽量避免与客户竞赛。
现在看来，开发东西似乎不算在避免竞赛的范围之内。而与OpenAI形成竞赛联系的除了创业公司，还有一个不可忽视的存在：微软，OpenAI最大金主，经过Azure云也对外供给OpenAI API服务。就在最近，有开发者反馈，从OpenAI官方API切换到微软Azure版别后，功能显著提高。
- median latency从15秒削减到3秒
- 95th percentile latency从60秒削减到15秒
- 平均每秒处理的token数量增加了三倍，从8个增加到24个。
再算上Azure给的一些折扣，乃至比原来还便宜了。
