北京月之暗面科技有限公司推出大模型Kimi的上下文缓存技术，旨在降低开发者使用长文本旗舰大模型的成本。这项技术通过缓存上下文信息，减少重复计算，从而降低使用成本，最高可降低90%。

🤔 **上下文缓存技术原理**: 该技术通过缓存上下文信息，避免重复计算，从而降低使用成本。例如，在处理长文本时，模型可以缓存之前处理过的文本信息，在后续处理中直接使用缓存信息，而不是重复进行计算。

🚀 **成本降低**: 据月之暗面介绍，上下文缓存技术可以将长文本旗舰大模型的成本降低高达90%。这对于需要处理大量长文本数据的开发者来说，是一个巨大的成本节约。

💡 **技术优势**: 上下文缓存技术可以提高模型的效率，减少计算时间，降低使用成本，同时还可以提高模型的准确性和稳定性。

🏢 **应用场景**: 该技术可以应用于各种需要处理长文本数据的场景，例如，文本摘要、机器翻译、问答系统等。

📊 **未来展望**: 上下文缓存技术的推出，将进一步推动大模型的应用，为开发者提供更加高效、经济的解决方案。

以“价格战”为代表的大模型降本仍在继续，但相比直接降价，北京月之暗面科技有限公司提出了增效方案。7月2日，该公司对外宣布，其大模型Kimi正式开放平台正式公测新技术——上下文缓存技术（Context Caching）。月之暗面方称，这项技术将降低开发者使用长文本旗舰大模型的成本，最高可降本达90%。（澎湃新闻）