上班前日常刷一刷 OpenAI,看看有什么新消息。果然,上来就是一个王炸,GPT3.5 API 他来了,没错,GPT3.5 API采用与 ChatGPT 聊天界面相同的模型,甚至有了改进。
The ChatGPT model family we are releasing today, gpt-3.5-turbo, is the same model used in the ChatGPT product.
价格便宜十倍,我一开始以为我看错了,实际上真的比 davinci 模型便宜十倍!gpt-3.5-turbo 的价格是 0.002 美元 / 1000 Token。
It is priced at $0.002 per 1k tokens, which is 10x cheaper than our existing GPT-3.5 models.
你几乎可以无缝从 GPT3 的 text-davinci-003 模型切换到 gpt-3.5-turbo。
It’s also our best model for many non-chat use cases—we’ve seen early testers migrate from text-davinci-003 to gpt-3.5-turbo with only a small amount of adjustment needed to their prompts.
gpt-3.5-turbo 模型,他不仅可以用来聊天,还可以用来干很多事。
使用 OpenAI API,你可以使用 gpt-3.5-turbo 构建自己的应用程序,不局限于做到以下事情:
起草电子邮件或其他书面文件。
让 gpt 写点 Python 代码或者其他代码。
让 gpt 回答文档相关的问题。
创建一个会话聊天客服。
让你的应用或者软件支持自然语言处理。
成为某个领域的伪专家。
也可以在游戏中给 NPC 对话。
那么具体怎么用上这个 GPT3.5 的 API 呢?总得来说与 text-davinci-003 的使用差异不大。
还记得在上篇文章花1块钱让你的网站支持 ChatGPT[1]中讲过,使用 text-davinci-003 时,关键的参数就是prompt,所有的会话上下文信息都要在这个参数中体现,不算特别优雅。
在 GPT3.5 的 completion 接口中,对此做了优化,可以通过数组形式的messages传递会话信息,而且通过语义化的role和content来体现身份和内容,总的来说体验是更好了!
那么 gpt3.5 的生态目前如何呢? 看文档示例大概能知道,官方 python 包应该是支持了,而 npm 这边的 openai 官方包似乎还没更新 README,可能还在补齐这块能力,不如我们自己来上手尝试对接一下。
我这里简单封装了一下接口请求,给出了一个 gpt-node[2] 包,已经发布到 npm 上,方便大家尝鲜!
具体使用也比较简单,只要实例化时把你的 token 带上,然后通过api.completions方法调用对话能力即可。
const api = new ChatGPT35(“your token”)
const result = await api.completions({
messages: [
{
role: “ai”,
content: “hello”
},
{
role: “user”,
content: “你是谁?”
}
]
})
console.log(result)
ChatGPT 的体验在不断优化,价格和成本也在不断压缩,这个行业看起来会越来越卷,期待有更精彩的内容出现!