生成式人工智能正在重塑客户服务领域，基于大型语言模型（LLM）的 AI 代理能够更智能地理解和解决客户咨询。这一技术革新在为支持团队和客户创造价值的同时，也带来了前所未有的数据安全与隐私挑战。在 AI 驱动的商业环境中，妥善处理客户数据不仅关乎合规性，更是维系客户信任的核心要素。
作为行业领导者，Intercom 始终将数据保护置于产品设计的核心位置。以 AI 代理 Fin 为例，它构建了超越行业标准的多层防护体系，包括严格的安全控制、精准度验证机制和全面的隐私保护措施。Intercom 坚持运营透明化原则，让客户能够清晰了解数据保护实践，从而建立持久的信任关系。
那么，Intercom 是如何在 AI 时代构建数据隐私与安全防护体系的呢？
保护数据隐私
在 Intercom，保护客户数据安全始终是企业理念的核心。随着人工智能时代的到来，Intercom 在开发 AI 产品和功能时与第三方服务提供商开展合作，这使得建立更强大的数据保护机制和合规体系变得尤为重要。
尽管这种合作模式增加了技术复杂性，但通过创新解决方案确保客户体验不受影响。Intercom 致力于在提供全面安全保障的同时，最大限度地简化客户操作流程。以下是 Intercom 在实践中采取的具体措施：
1、全球化数据托管解决方案
为满足全球客户的差异化需求，Intercom 推出了创新的托管基础设施方案。特别针对欧洲市场，现已提供本地化数据处理服务，使欧洲客户能够安全使用 Fin AI Agent、Copilot 和收件箱 AI 等核心功能，所有数据处理均在欧盟境内完成。现有欧洲客户将自动迁移至新的欧盟托管平台，享受更高级别的数据隐私保护。
2、严格的第三方合作伙伴管理
Intercom 建立了完善的第三方服务商评估体系，确保只与行业领先的供应商合作。通过持续监测解决率、幻觉率和响应延迟等关键指标，Intercom 不断优化供应商组合，为客户提供最优质的服务体验。
当前合作的第三方服务提供商：
https://www.intercom.com/legal/subprocessors-list?redirect_from=/legal/security-third-parties
3、数据安全防护机制
Intercom 实施严格的数据处理管控：
所有第三方LLM供应商均采用临时数据处理模式，对话数据在生成响应后立即删除
合同明确禁止供应商使用客户数据训练或改进其模型
数据访问权限被严格控制在必要的最小范围内
4、全面的合规保障体系
Intercom 与所有 LLM 供应商签订具有法律约束力的业务合作伙伴协议（BAA），确保：
满足 HIPAA 等合规要求
实施符合国际标准的技术和组织防护措施
达到各地区数据保护法规的最高标准
减轻 LLM 相关的威胁
在人工智能时代，数据安全面临着前所未有的挑战。与传统软件系统具有明确且可预测的威胁模式不同，LLM（大型语言模型）面临着安全领域仍在不断探索的新型攻击向量。
为应对这一挑战，Intercom 的安全团队采取了前瞻性的防御策略：突破传统安全框架，建立预测性漏洞识别机制，实施全天候新型攻击监测系统，并构建自适应安全架构，确保防护体系与威胁演进同步。
基于 OWASP LLM 十大安全威胁框架，Intercom 已识别出最关键的风险领域，并制定了相应的防护措施。以下是具体应对方案：
1、应对提示注入攻击的防护体系
提示注入攻击是指攻击者通过植入恶意指令来操控 AI 代理的 LLM，可能导致系统生成不当或有害的响应。虽然完全杜绝此类攻击具有挑战性，但 Intercom 已建立多层防护机制，有效降低攻击风险并最大限度减少潜在影响。
Intercom 的防护措施包括：
（1）智能防御指令
Intercom 在 LLM 处理用户输入时自动嵌入保护性指令，有效防止系统核心安全机制被篡改或覆盖。
（2）动态监测与优化
Intercom 持续追踪新型提示注入技术，并监控 Fin AI 功能的异常行为。基于这些洞察，Intercom 不断优化防御策略，确保系统能够应对最新威胁。
（3）模型版本升级
Intercom 定期评估并升级至 LLM 提供商的最新版本，这些版本在抵御提示注入攻击方面具有更强的防护能力。
（4）应急响应机制
在过去一年中，Intercom 成功拦截了绝大多数绕过安全防护的尝试。所有已识别的事件均在未对客户造成影响的情况下得到及时处置，确保了系统的可靠性和客户的信任。
2、防范数据中毒攻击的防护机制
数据中毒攻击是指攻击者通过向训练数据集注入恶意数据来破坏 AI 系统的完整性。为应对这一威胁，Intercom 建立了全面的防护体系：
（1）数据验证机制
Intercom 实施了多层次的数据验证协议和平台控制措施，确保知识库数据的完整性和可靠性。这些措施包括：
自动化数据质量检测
人工审核流程
实时异常监控
（2）智能上下文管理
Intercom 采用精确的上下文控制策略：
为每个 LLM 提示严格限定必要的上下文范围
实施动态上下文过滤机制
建立上下文使用审计追踪
3、应对逃避攻击的多层防御体系
逃避攻击是指攻击者通过精心构造的输入绕过 AI 系统的安全防护，诱导系统产生有害输出。为应对这一高级威胁，Intercom 建立了全面的防御机制：
（1）系统性对抗测试
Intercom 采用行业领先的 LLM 漏洞扫描工具，对生产环境中的模型进行持续测试。这种方法能够：
识别潜在的逃避攻击向量
评估系统漏洞
及时实施防护措施
（2）强化提示工程
Intercom 的 AI 团队投入大量资源优化提示设计：
开发抗操纵的提示模板
建立提示安全评估框架
确保 Fin 输出的稳定性和安全性
（3）动态安全更新
Intercom 建立了持续更新机制：
实时监控新型逃避技术
定期升级防护策略
快速部署安全补丁
4、构建安全的集成体系
不安全的集成可能导致 LLM 或 AI 功能在与外部系统对接时产生安全漏洞。为确保系统间的安全交互，Intercom 建立了严格的集成安全框架：
（1）安全的 API 架构设计
Intercom 的 API 集成方案采用业界最佳安全实践：
内置安全代理等默认防护机制
实施细粒度的客户控制功能
遵循最小权限访问原则
采用端到端加密通信
（2）系统性渗透测试
Intercom 建立了定期渗透测试机制：
模拟真实攻击场景
识别潜在集成漏洞
及时修复安全缺陷
持续优化防护策略
（3）安全审查流程
Intercom 对所有系统集成实施严格的安全评估：
建立标准化的安全审查清单
进行多维度风险评估
确保符合企业安全标准
实施持续监控机制
5、构建数据泄露防护体系
数据泄露风险主要源于 AI 系统可能无意间通过响应暴露敏感或机密信息。为有效预防此类风险，Intercom 建立了多层防护机制：
（1）精细化的数据控制
Intercom 采用明确的选择加入机制：
客户可自主决定数据源的使用范围
实现细粒度的数据访问控制
确保客户对AI功能的数据使用保持完全掌控
（2）预防性设计架构
Intercom 基于"安全第一"原则设计系统：
预设 LLM 可能输出输入数据
建立严格的输出审查机制
确保所有 LLM 响应内容均获得合法授权
（3）严格的访问控制
Intercom 实施全面的数据保护措施：
采用最小权限访问原则
要求 LLM 提供商实施零数据保留政策
禁止使用客户数据训练或优化模型
（4）全面的审计追踪
Intercom 建立了完善的监控体系：
实施全链路日志记录
建立访问控制存储库
定期进行用户访问审查
开展年度安全审计
将 LLM 提供商纳入关键子处理器管理
全生命周期性能保障体系
在整个开发周期中，Intercom 通过性能保证在每个阶段都提供最大程度的保护。Intercom 致力于提供卓越的品质，这一点在其 AI 产品的性能上得到了体现，始终超越公开的大型语言模型（LLM）。
部署后，Intercom 的 AI 产品在生产过程中会持续受到监控，以确保持续的卓越表现。Intercom 的工程和机器学习团队紧密合作，对每个模型进行严格的测试，并及时进行调整、审查关键指标以及分析客户反馈，以便迅速解决任何新出现的问题。
1、回测策略
在任何更新被实施前，Intercom 都会在安全的开发环境中对其进行全面的评估。这一措施旨在增强关键性能指标，同时确保 AI 产品的稳定性不受影响。Intercom 的回测流程专注于以下两个核心目标：
（1）降低幻觉效应
Intercom 确保 AI 生成的回答严格依据当前提供的上下文，而非依赖于大型语言模型（LLM）中存储的先验知识，以此减少不准确回答的可能性。
（2）保障回答质量
通过自动化和人工的质量检验流程，Intercom 维持 Fin 领域回答的高水准，确保为用户提供精确且可靠的服务。
2、A/B 测试流程
Intercom 在将每个模型或提示更改部署到一个受控的请求子集之前，会进行细致的评估，以确保：
（1）提升解决率
确保更新能够增强响应的准确性和实用性。
（2）提高客户满意度
调查评估客户反馈和客户满意度（CSAT）分数。
（3）全面的性能评估
进行大规模的评估，以确保持续的性能和服务质量。
（4）优化延迟和性能
严格测试以提升响应速度，同时保证响应的准确性不受影响。
3、红队策略
为了预防安全漏洞，Intercom 执行了全面的内部渗透测试，具体措施包括：
（1）护栏测试
定期模拟现实世界的攻击情景，利用 Intercom 平台的多功能性来检验防御体系的坚固性。
（2）幻觉评估
系统性地评估幻觉对产品行为可能产生的影响，确保在处理大型语言模型（LLM）响应时采用多层次的防御策略。Intercom 的大规模对话量使我们能够建立丰富的真实世界幻觉数据集，用以验证模型的有效性。
这种基于真实世界的测试能力，只有像 Intercom 这样处理数百万次对话的领先公司才能实现，它为模型提供了额外的质量保障。
（3）漏洞扫描
采用业界标准的 LLM 漏洞扫描技术来识别并缓解潜在的安全弱点。任何不满足 Intercom 严格安全标准模型都不会被部署。
4、定期审计机制
不足的审计可能导致安全事件未被及时发现以及监管合规性问题。为避免这些问题，Intercom 实施了以下措施：
（1）日志记录
保留所有与大型语言模型（LLM）交互的详尽日志，确保有清晰的审计路径可循。
（2）定期审计
执行定期的安全审计，确保符合监管规定和公司内部政策。
（3）绩效监控
持续监控关键运营指标，包括解决率、偏转率、用户反馈（正面和负面）、响应类型与结果分布，以及响应特征（如长度和复杂性）。
（4）事件响应
建立事件响应计划，以便迅速解决审计过程中发现的任何安全问题。
信任：客户服务创新的基石
在人工智能重塑客户服务格局的时代，选择值得信赖的技术合作伙伴变得至关重要。这种信任不能仅建立在承诺之上，而需要通过持续的行动和可验证的安全实践来赢得。
在这个快速发展的领域，保持领先需要不断学习和适应。作为行业领导者，Intercom 致力于实施超越行业标准的安全措施，响应不断变化的安全需求，为客户提供最可靠的数据保护，赢得客户的长期信任。