Kimi开放平台下调上下文缓存功能Cache存储费用

日前,AI初创公司月之暗面方面宣布,旗下Kimi开放平台上下文缓存(Context Caching)功能中的Cache存储费用下调50%。在此次调整后,其Cache存储单价由10元/1M tokens/min降至5元/1M tokens/min,但Cache创建与调用的价格则保持不变。

1.jpg

此前在7月1日,Kimi开放平台的上下文缓存功能开放公测,收费方式主要分为Cache创建费用、Cache存储费用、Cache调用费用3种。其中,Cache创建费用是在用户调用Cache创建接口并成功创建后,按照Cache中Tokens的实际量计费;Cache存储费用是在Cache存活时间内按分钟收取费用;Cache调用费用则是以增量token与成功调用次数为标准收费。


据了解,上下文缓存功能适用于请求频繁、且需重复引用大量初始上下文的情况,其能够缓存重复的Tokens内容、有效降低用户在请求相同内容时的成本。具体而言,该功能的典型应用场景包括提供大量预设内容的QA Bot、针对固定文档集合的频繁查询、对静态代码库或知识库的周期性分析、交互规则复杂的Agent类应用,以及瞬时流量巨大的爆款AI应用等。

2.jpg

对此月之暗面方面透露,在业务合适场景中使用该功能,根据客户的业务特性最高可节省90%的调用成本,“简单来说,越是规模化、重复度高的prompt场景,Context Caching功能带来的收益就越大”。


不久前,月之暗面旗下智能助手Kimi还上线了“给Kimi加油”这一付费选项,用户购买后即可获得高峰期优先使用等权益。而在价格方面,共提供了6种付费选项,例如5.2元/4天、9.99元/8天、28.8元/23天等。但需要注意的是,该服务的时长自用户支付完毕服务费用之后,按照实际经过的自然时间(1天为24小时)计算,无论用户在相应时间是否实际使用了Kimi。


【本文图片来自网络】

踩(0)

最新文章

相关文章

大家都在看