最近,Redis 发布了开发人员的人工智能助手 Redis Copilot,将帮助用户更快的完成 Redis 的任务,更便捷、快速的构建应用程序。 - 通过 Copilot 关于 Redis 文档的最新知识获得合格的答案 - 生成代码片段,帮助用户使用 Redis 更快地开发应用程序 - 通过在 Redis 中生成和执行查询来回答有关数据的问题
Copilot 用 Redis for AI 的能力所构建
Redis 使应用程序变得快速。因此,使用 Redis 构建 Copilot 能为全球使用提供快速、准确的答案和规模,以提供开发人员对 Redis 驱动的应用程序所期望的出色用户体验。
有许多客户询问使用 Redis 的人工智能应用程序的最佳方法,这里将分解使用 Redis 使应用程序快速高效的方法。
最快的矢量数据库为 RAG 提供更好的答案
Meta 在 2020 年提出的 RAG 方法允许 LLM 通过检索机制整合外部知识源,通过最新信息扩展能力。这种方法允许语言模型实时提供更好的答案。
事实证明,RAG 非常有效,但它需要仔细的及时工程、新知识管理和协调不同的组件。作为一个实时矢量数据库,Redis 可以实时搜索数百万个嵌入矢量,以保证根据用户提示提供和嵌入相关的上下文信息。
Redis Copilot 使用 RAG 和矢量数据库从文档中检索相关信息,以帮助回答用户的问题。根据基准测试,这是最快的矢量数据库,通过 RAG,能够使用最新版本的文档来帮助用户始终获得有关 Redis 问题的最新答案。
LLM 记忆使反应更相关
Redis 通过使用首选数据类型来促进整个对话历史(记忆)的保留。无论是使用普通列表来保留交互的顺序顺序,还是将交互存储为矢量嵌入,在使用 Redis Copilot 呼叫 LLM 时,它会添加用户对话中的相关记忆,以提供更好的回应。此功能在对话期间使主题之间平稳过渡,并减少误解。
语义缓存节省了成本并加快了响应速度
从 LLMs 中生成响应可能会产生大量的计算成本。Redis 通过将输入提示和响应存储在缓存中,并通过矢量搜索检索它们,降低了与 ML 驱动的应用程序相关的总体费用。
此图表总结了用户与 Redis Copilot 的交互流程:
Redis 做得更多
虽然 GenAI 模型是令人兴奋的创新,但构建和部署 GenAI 应用程序到生产中需要快速可靠的数据。Redis 是一个成熟的平台,在许多不同的用例中为当今的应用程序提供许多关键功能。
将响应存储在索引中,以便快速检索和附加进程
从请求到完成的答案,LLM 可能需要几秒钟才能将结果流式传输给用户。Redis 向用户流式传输回复,以提高响应性并缩短等待时间,而不是在完成后返回整个响应。并且,还在对话气泡中的 Redis 数据库中嵌入了来自语义搜索的附加上下文。
对于 LLM,Redis 选择了 OpenAI 的 GPT-4o,因为它的可靠性和速度。然而,虽然 OpenAI 为对话代理和嵌入模型提供了出色的 AIaaS 功能,但 Redis 使用本地嵌入模型来计算矢量嵌入。具体来说,使用 HuggingFace 嵌入模型来语义缓存中现有答案的语义检索。
全文和多面搜索有助于浏览文档以获取具体结果
虽然最新趋势是语义搜索,传统搜索可以通过这些新的 AI/ML 功能重新解释,但全文搜索是通过匹配单词或短语来检索信息的不可替代的资产。Redis Copilot 提供 Redis 实时全文搜索,以补充对话体验。Redis 高亮显示和总结也满足了用户对快速和可读结果的需求。
最后但并非最不重要的是,聚合功能对于帮助用户查看 Redis 检索到了多少结果,并确定特定搜索的受欢迎程度也至关重要。
Redis 用作微服务之间的消息代理
通过将读取文档的任务分配给单独的服务,可以指示 Redis Copilot 使用 Redis 通过 RAG 获取上下文信息。
这种微服务架构有效地将更广泛的整体系统的责任划分为更小、松散耦合的微服务。Redis 流(永久的时间顺序日志数据结构,为消费者提供异步、可订阅消息)将数据库维护与最新信息同步。操作由相应的服务通过存储在流中的消息触发和调用,该消息用作消息代理。
速率限制使应用程序稳定可靠
Redis Copilot 是搜索文档、Redis 知识库和门户网站上提供的所有培训机会的主要切入点。但保护关键端点免受过载是所有公共服务的必要性,因为所有互联网服务都容易受到滥用和分布式拒绝服务(DDoS)攻击等攻击。
Redis 长期以来一直被采用为应用程序服务器、API 网关等的速率限制器。用户使用 Redis 作为速率限制器,以确保 Redis Copilot 稳定,并且在不同会话和IP之间平衡使用。Redis 测量和检查使用情况。当使用超过预定的阈值时,Redis 会介入以防止滥用。
开始使用 Redis Copilot
如果您希望使用 Redis Copilot,只需下载 Redis Insight,使用您的云帐户登录,然后就可开始构建啦!
如果您想构建自己的人工智能应用程序,Redis 提供各种人工智能资源来帮助您快速构建人工智能应用程序,包括 RedisVL 库。
这是一个快速的新时代,Redis 是人工智能新堆栈的重要组成部分!
Redis 企业产品具体需求,请随时与我们联系。