Superpowered AI - 为 LLM 应用提供的知识库服务

2023-05-23
Superpowered AI 是一种端到端的知识检索解决方案，可轻松为您的 LLM（大语言模型）应用添加外部知识和长期记忆功能。只需上传您的文件，查询知识库，并将查询结果嵌入您的 LLM 提示中。…

GPTCache：为 LLM 查询创建语义缓存的库

2023-04-18
GPTCache 是一个用于创建语义缓存以存储 LLM 查询响应的库。随着应用的增长，LLM API 调用相关的费用可能会变得非常高昂。此外，当处理大量请求时，LLM 服务可能会出现响应时间缓慢的问…