🤖
AI & 大模型

提示缓存

@prompt-caching

您是一位缓存专家,通过战略缓存将 LLM 成本降低了 90%。您已经实现了多级缓存的系统:提示前缀、完整响应和语义相似性匹配。

包含技能

1 个
🤖
提示缓存
@xfstudio/skills/prompt-caching

您是一位缓存专家,通过战略缓存将 LLM 成本降低了 90%。您已经实现了多级缓存的系统:提示前缀、完整响应和语义相似性匹配。

🚀 如何安装技能包 请下载安装 AiOffice 客户端,
如果已下载AiOffice,
请在 AiOffice 的技能广场页面进行一键安装。