豆包大模型公布价格清单,支持国内最高并发标准

访客1年前AI生活1600

近期,火山引擎官网更新了豆包大模型的定价详情,全面展示豆包通用模型不同版本、不同规格的价格信息。在模型推理定价大幅低于行业价格的基础上,豆包通用模型的 TPM(每分钟Tokens)、RPM(每分钟请求数)均达到国内最高标准。以豆包主力模型 pro-32k 为例,价格比行业低99%,TPM限额则高达同规格模型的2.7倍到8倍。

豆包大模型公布价格清单,支持国内最高并发标准 图:豆包系列模型“后付费”定价信息

官方信息显示:在按照 Tokens 实际使用量计算费用的“后付费”模式下,豆包通用模型-pro、豆包通用模型-lite的 32k 及以下窗口版本,模型限流为 10K RPM 和 800K TPM(以 RPM 和 TPM 其中之一到达上限为准)。国内其他主流模型的 TPM 限额大多在 100K 到 300K 之间,RPM则是在60到120区间,轻量级模型的RPM限额相对较高,但仅仅在300到500之间。

按照 10K RPM 限额计算,企业客户平均每秒可以同时调用167次豆包通用模型,从而满足绝大多数业务场景在生产系统的大模型应用需求。这一标准,已经达到 OpenAI 为高级别客户( Tier4 及 Tier5 等级客户)提供的 RPM 上限。

在算力挑战更大的长文本模型上,豆包通用模型 pro 和 lite 的 128k 版本,模型限流为 1K RPM 和 400K TPM,同样大幅高于国内其他的128k长文本模型。

此外,豆包大模型公布了最新的“预付费”模型单元价格。“预付费”是以调用某个特定模型的 TPM 配额,企业购买后无需再为 Tokens 消耗付费,提前为可以预见的流量波动规划好算力 。

豆包大模型公布价格清单,支持国内最高并发标准 图:豆包系列模型“预付费”模型单元价目表

以豆包通用模型 pro-32k为例:

按照 “预付费”模型单元价格计算,10K TPM 的包月价格为2000元。10K*60*24*30=43200K。即 432000K Tokens的价格为2000元,平均价格为 0.0046元/千Tokens。

按照“后付费”模式计算:在模型推理的计算成本中,推理输入通常占绝大部分比例,业界一般认为推理输入是输出的5倍。根据豆包通用模型 pro-32k 推理输入 0.0008元/千Tokens、推理输出 0.002元/千Tokens 计算,模型推理的综合价格为 0.001元/千Tokens。

火山引擎方面表示,豆包大模型为客户提供了灵活、经济的付费模式,“后付费”即可满足绝大多数企业客户的业务需求,助力企业以极低成本使用大模型、加速大模型的应用落地。

“豆包模型的超低定价,来源于我们有信心用技术手段优化成本,而不是补贴或是打价格战争夺市场份额。”火山引擎总裁谭待认为,“羊毛出在猪身上”在企业市场行不通,技术驱动的极致性价比才能真正创造价值。火山引擎与字节跳动豆包大模型团队正在密切合作,将持续优化模型效果和推理成本,为企业和开发者提供更好模型、更低成本和更易落地的平台支持。

附:火山引擎官网的模型服务价格文档https://www.volcengine.com/docs/82379/1099320

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:362580117!

相关文章

中国工业遗址元宇宙产业发展大会在河北省保定市举办

中国工业遗址元宇宙产业发展大会在河北省保定市举办

4月26日,由中国科协创新战略研究院、中国仿真学会、北京理工大学、保定市人民政府主办,保定市竞秀区人民政府承办的中国工业遗址元宇宙产业发展大...

吉利雷达,“玩电拓展坞”打造智能户外新生活

吉利雷达,“玩电拓展坞”打造智能户外新生活

3月17日,中国(杭州)户外露营生活展正式开幕。该展是户外运动、生活、露营的全新风向标,在聚合众多品牌的同时进一步激发了户外市场的活力。...

人工智能与数字经济—2022中国(潍坊)智能物联网大会即将启幕

人工智能与数字经济—2022中国(潍坊)智能物联网大会即将启幕

为促进数字技术与实体经济深度融合,赋能传统产业转型升级,催生新产业、新业态、新模式,11月8日,2022中国(潍坊)智能物联网大会即将拉开...

上汽荣威「赶超」:投50亿元打响品质普及战,B级新能源车卖出了A级价格

上汽荣威「赶超」:投50亿元打响品质普及战,B级新能源车卖出了A级价格

2024年是整个汽车市场大浪淘沙的一年,不论是国产新能源品牌,还是合资燃油车,今年都是关键的一年。 针对A级合资燃油车的价格战,尤其凶猛。...

RPA是如今最火的软件,但还并不是最成熟的软件!

RPA是如今最火的软件,但还并不是最成熟的软件!

“投资狂人”孙正义曾对机器人的前景十分看好。他表示,到2047年,智能机器人的数量将与人类的数量相等,“世界经济将在RPA和AI的帮助下,迎...

快速玩转 Llama2!阿里云机器学习 PAI 推出最佳实践

快速玩转 Llama2!阿里云机器学习 PAI 推出最佳实践

近期,Meta 宣布大语言模型 Llama2 开源,包含7B、13B、70B不同尺寸,分别对应70亿、130亿、700亿参数量,并在每个规格...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。