【ChatGPT对话】一次大概需要花费多少OpenAI?来看这篇预估成本分析!

126次阅读

共计 768 个字符,预计需要花费 2 分钟才能阅读完成。

用户向 GPT- 4 模型发出纯文本请求,根据请求的数量,应用产品端调用接口需支付一定的费用。具体来说,每 1k 个 prompt token 的费用是 0.03 美元,每 1k 个 completion token 的费用是 0.06 美元。

默认速率限制是每分钟 40k 个 token 和每分钟 200 个请求。当前一次对话的花费 openAI 多少钱,这取决于用户使用的 token 数量和完成的请求次数。

要确定一次对话的花费,需要知道以下两个信息:

每个请求中包含的 prompt token 数量

每个请求中生成的 completion token 数量

根据这两个信息,可以计算出每个请求的费用,然后将所有请求的费用相加得到一次对话的总费用。以默认速率限制为例,每分钟可以完成 40k 个 token 和 200 个请求,因此如果每个请求包含 40 个 token,那么每分钟可以完成 1k 个请求,每分钟的费用为 0.03 美元 * 40 = 1.2 美元(因为每个请求包含 40 个 token,所以 1k 个请求对应 40k 个 token)。

Token 可以被视为单词的组成部分。在 API 处理 prompt 之前,输入会被分解成 tokens。这些 tokens 不会准确地分割单词的开头或结尾 – tokens 可以包括尾随空格,甚至是子单词。

有关 token 长度的有用规则示例: 1 个 token大约等于 4 个英文字符,1 个 token 大约等于 3 / 4 个单词,100 个 tokens 大约等于75 个单词,或 1 - 2 个句子大约等于 30 个 tokens,1 段落大约等于 100 个 tokens 1500 个单词大约等于 2048 个 tokens。

为了更好地理解 tokens 的数量,可以参考以下内容:韦恩·格雷茨基 (Wayne Gretzky) 的名言“你不尝试,就不可能成功”包含了 11 个 tokens。OpenAI 的宪章包含 476 个 tokens。美国独立宣言的文本包含 1695 个 tokens。

正文完
 
天天
版权声明:本站原创文章,由 天天 2023-05-19发表,共计768字。
转载说明:

本文由 天天资讯网 整理发布,转载请注明出处.
版权声明:部分文章内容或图片来源于网络,我们尊重作者的知识产权。如有侵犯,请联系我们在第一时间删除。