社区
博客
开发人员的 AI 助手 Redis Copilot,加速构建应用程序!
最近,Redis 发布了开发人员的人工智能助手 Redis Copilot,将帮助用户更快的完成 Redis 的任务,更便捷、快速的构建应用程序。


最近,Redis 发布了开发人员的人工智能助手 Redis Copilot,将帮助用户更快的完成 Redis 的任务,更便捷、快速的构建应用程序。

- 通过 Copilot 关于 Redis 文档的最新知识获得合格的答案

- 生成代码片段,帮助用户使用 Redis 更快地开发应用程序

- 通过在 Redis 中生成和执行查询来回答有关数据的问题


Copilot 用 Redis for AI 的能力所构建

Redis 使应用程序变得快速。因此,使用 Redis 构建 Copilot 能为全球使用提供快速、准确的答案和规模,以提供开发人员对 Redis 驱动的应用程序所期望的出色用户体验。

有许多客户询问使用 Redis 的人工智能应用程序的最佳方法,这里将分解使用 Redis 使应用程序快速高效的方法。

最快的矢量数据库为 RAG 提供更好的答案

Meta 在 2020 年提出的 RAG 方法允许 LLM 通过检索机制整合外部知识源,通过最新信息扩展能力。这种方法允许语言模型实时提供更好的答案。

事实证明,RAG 非常有效,但它需要仔细的及时工程、新知识管理和协调不同的组件。作为一个实时矢量数据库,Redis 可以实时搜索数百万个嵌入矢量,以保证根据用户提示提供和嵌入相关的上下文信息。

Redis Copilot 使用 RAG 和矢量数据库从文档中检索相关信息,以帮助回答用户的问题。根据基准测试,这是最快的矢量数据库,通过 RAG,能够使用最新版本的文档来帮助用户始终获得有关 Redis 问题的最新答案。

LLM 记忆使反应更相关

Redis 通过使用首选数据类型来促进整个对话历史(记忆)的保留。无论是使用普通列表来保留交互的顺序顺序,还是将交互存储为矢量嵌入,在使用 Redis Copilot 呼叫 LLM 时,它会添加用户对话中的相关记忆,以提供更好的回应。此功能在对话期间使主题之间平稳过渡,并减少误解。

语义缓存节省了成本并加快了响应速度

从 LLMs 中生成响应可能会产生大量的计算成本。Redis 通过将输入提示和响应存储在缓存中,并通过矢量搜索检索它们,降低了与 ML 驱动的应用程序相关的总体费用。

此图表总结了用户与 Redis Copilot 的交互流程:

图片

Redis 做得更多

虽然 GenAI 模型是令人兴奋的创新,但构建和部署 GenAI 应用程序到生产中需要快速可靠的数据。Redis 是一个成熟的平台,在许多不同的用例中为当今的应用程序提供许多关键功能。

将响应存储在索引中,以便快速检索和附加进程

从请求到完成的答案,LLM 可能需要几秒钟才能将结果流式传输给用户。Redis 向用户流式传输回复,以提高响应性并缩短等待时间,而不是在完成后返回整个响应。并且,还在对话气泡中的 Redis 数据库中嵌入了来自语义搜索的附加上下文。

图片

对于 LLM,Redis 选择了 OpenAI 的 GPT-4o,因为它的可靠性和速度。然而,虽然 OpenAI 为对话代理和嵌入模型提供了出色的 AIaaS 功能,但 Redis 使用本地嵌入模型来计算矢量嵌入。具体来说,使用 HuggingFace 嵌入模型来语义缓存中现有答案的语义检索。

全文和多面搜索有助于浏览文档以获取具体结果

虽然最新趋势是语义搜索,传统搜索可以通过这些新的 AI/ML 功能重新解释,但全文搜索是通过匹配单词或短语来检索信息的不可替代的资产。Redis Copilot 提供 Redis 实时全文搜索,以补充对话体验。Redis 高亮显示和总结也满足了用户对快速和可读结果的需求。

图片

最后但并非最不重要的是,聚合功能对于帮助用户查看 Redis 检索到了多少结果,并确定特定搜索的受欢迎程度也至关重要。

Redis 用作微服务之间的消息代理

通过将读取文档的任务分配给单独的服务,可以指示 Redis Copilot 使用 Redis 通过 RAG 获取上下文信息。

这种微服务架构有效地将更广泛的整体系统的责任划分为更小、松散耦合的微服务。Redis 流(永久的时间顺序日志数据结构,为消费者提供异步、可订阅消息)将数据库维护与最新信息同步。操作由相应的服务通过存储在流中的消息触发和调用,该消息用作消息代理。

速率限制使应用程序稳定可靠

Redis Copilot 是搜索文档、Redis 知识库和门户网站上提供的所有培训机会的主要切入点。但保护关键端点免受过载是所有公共服务的必要性,因为所有互联网服务都容易受到滥用和分布式拒绝服务(DDoS)攻击等攻击。

Redis 长期以来一直被采用为应用程序服务器、API 网关等的速率限制器。用户使用 Redis 作为速率限制器,以确保 Redis Copilot 稳定,并且在不同会话和IP之间平衡使用。Redis 测量和检查使用情况。当使用超过预定的阈值时,Redis 会介入以防止滥用。

图片

开始使用 Redis Copilot

如果您希望使用 Redis Copilot,只需下载 Redis Insight,使用您的云帐户登录,然后就可开始构建啦!

如果您想构建自己的人工智能应用程序,Redis 提供各种人工智能资源来帮助您快速构建人工智能应用程序,包括 RedisVL 库。

这是一个快速的新时代,Redis 是人工智能新堆栈的重要组成部分!

Redis 企业产品具体需求,请随时与我们联系。


获取最新的数据新闻

注册以获取 优阅达 Data Blog 的快讯、见解和研究