最近，Redis 发布了开发人员的人工智能助手 Redis Copilot，将帮助用户更快的完成 Redis 的任务，更便捷、快速的构建应用程序。

- 通过 Copilot 关于 Redis 文档的最新知识获得合格的答案

- 生成代码片段，帮助用户使用 Redis 更快地开发应用程序

- 通过在 Redis 中生成和执行查询来回答有关数据的问题

Redis 使应用程序变得快速。因此，使用 Redis 构建 Copilot 能为全球使用提供快速、准确的答案和规模，以提供开发人员对 Redis 驱动的应用程序所期望的出色用户体验。

有许多客户询问使用 Redis 的人工智能应用程序的最佳方法，这里将分解使用 Redis 使应用程序快速高效的方法。

Meta 在 2020 年提出的 RAG 方法允许 LLM 通过检索机制整合外部知识源，通过最新信息扩展能力。这种方法允许语言模型实时提供更好的答案。

事实证明，RAG 非常有效，但它需要仔细的及时工程、新知识管理和协调不同的组件。作为一个实时矢量数据库，Redis 可以实时搜索数百万个嵌入矢量，以保证根据用户提示提供和嵌入相关的上下文信息。

Redis Copilot 使用 RAG 和矢量数据库从文档中检索相关信息，以帮助回答用户的问题。根据基准测试，这是最快的矢量数据库，通过 RAG，能够使用最新版本的文档来帮助用户始终获得有关 Redis 问题的最新答案。

Redis 通过使用首选数据类型来促进整个对话历史（记忆）的保留。无论是使用普通列表来保留交互的顺序顺序，还是将交互存储为矢量嵌入，在使用 Redis Copilot 呼叫 LLM 时，它会添加用户对话中的相关记忆，以提供更好的回应。此功能在对话期间使主题之间平稳过渡，并减少误解。

从 LLMs 中生成响应可能会产生大量的计算成本。Redis 通过将输入提示和响应存储在缓存中，并通过矢量搜索检索它们，降低了与 ML 驱动的应用程序相关的总体费用。

此图表总结了用户与 Redis Copilot 的交互流程：

虽然 GenAI 模型是令人兴奋的创新，但构建和部署 GenAI 应用程序到生产中需要快速可靠的数据。Redis 是一个成熟的平台，在许多不同的用例中为当今的应用程序提供许多关键功能。

从请求到完成的答案，LLM 可能需要几秒钟才能将结果流式传输给用户。Redis 向用户流式传输回复，以提高响应性并缩短等待时间，而不是在完成后返回整个响应。并且，还在对话气泡中的 Redis 数据库中嵌入了来自语义搜索的附加上下文。

对于 LLM，Redis 选择了 OpenAI 的 GPT-4o，因为它的可靠性和速度。然而，虽然 OpenAI 为对话代理和嵌入模型提供了出色的 AIaaS 功能，但 Redis 使用本地嵌入模型来计算矢量嵌入。具体来说，使用 HuggingFace 嵌入模型来语义缓存中现有答案的语义检索。

虽然最新趋势是语义搜索，传统搜索可以通过这些新的 AI/ML 功能重新解释，但全文搜索是通过匹配单词或短语来检索信息的不可替代的资产。Redis Copilot 提供 Redis 实时全文搜索，以补充对话体验。Redis 高亮显示和总结也满足了用户对快速和可读结果的需求。

最后但并非最不重要的是，聚合功能对于帮助用户查看 Redis 检索到了多少结果，并确定特定搜索的受欢迎程度也至关重要。

通过将读取文档的任务分配给单独的服务，可以指示 Redis Copilot 使用 Redis 通过 RAG 获取上下文信息。

这种微服务架构有效地将更广泛的整体系统的责任划分为更小、松散耦合的微服务。Redis 流（永久的时间顺序日志数据结构，为消费者提供异步、可订阅消息）将数据库维护与最新信息同步。操作由相应的服务通过存储在流中的消息触发和调用，该消息用作消息代理。

速率限制使应用程序稳定可靠

Redis Copilot 是搜索文档、Redis 知识库和门户网站上提供的所有培训机会的主要切入点。但保护关键端点免受过载是所有公共服务的必要性，因为所有互联网服务都容易受到滥用和分布式拒绝服务（DDoS）攻击等攻击。

Redis 长期以来一直被采用为应用程序服务器、API 网关等的速率限制器。用户使用 Redis 作为速率限制器，以确保 Redis Copilot 稳定，并且在不同会话和IP之间平衡使用。Redis 测量和检查使用情况。当使用超过预定的阈值时，Redis 会介入以防止滥用。

如果您希望使用 Redis Copilot，只需下载 Redis Insight，使用您的云帐户登录，然后就可开始构建啦！

如果您想构建自己的人工智能应用程序，Redis 提供各种人工智能资源来帮助您快速构建人工智能应用程序，包括 RedisVL 库。

这是一个快速的新时代，Redis 是人工智能新堆栈的重要组成部分！

Redis 企业产品具体需求，请随时与我们联系。