客户支持领域正在迎来技术革新,一个最显著的趋势是,许多企业和组织开始使用生成式 AI (GenAI) 来提供流畅的最终用户体验。虽然基于规则的早期 AI 智能体只能提供有限的功能,但现在的技术已经有了长足的发展。如今的 AI 智能体不仅能回答更微妙的问题,还能大规模优化工作流程并协助决策制定。因此,许多企业和组织开始依赖 AI 提供初步支持,以便高效处理常见请求(例如恼人的密码重置操作、自动分配工单以及常见的故障排除任务),留出人工座席来解决更复杂的问题。
但是,随着我们对智能助手的依赖与日俱增,一个关键问题也随之出现:如何确保它们始终如一地提供准确、可靠的优质支持?答案是采用全面的 AI 保障解决方案。
客户支持领域所使用的现代 AI 基础架构内含复杂设计
现代 AI 智能体(尤其是用于提供客户支持的智能客服)所使用的并非单体架构,而是依赖于两大重要组件:
- 推理提供程序(基础模型):推理提供程序好比 AI 智能体的“大脑”。它们可能是来自 OpenAI、Anthropic、Google 等托管提供商的大语言模型 (LLM),用于为智能体提供理解、推理和生成回复的能力;也有可能是来自 Hugging Face 等提供商的开放权重模型。
- 模型上下文协议 (MCP) 服务器:MCP 服务器好比 AI 智能体的“结缔组织”,可以为智能体提供企业特定的情景信息、内部数据源(如 CRM、资产清单、知识库)的访问权限,以及触发操作的能力(例如创建包含情景信息的工单、重置端口或更新固件)。此外,MCP 服务器可以让 AI 智能体与 ServiceNow 和 Jira 等关键 ITSM 平台无缝集成,以便用户可以通过与智能体互动来自动创建事件、分配任务或更新工作流程。
如果这些组件出现任何性能降级(例如 LLM 响应缓慢、来自 MCP 服务器的信息不正确、后端系统连接出现问题等),都有可能在转瞬间让原本“对答如流”的聊天机器人变得“呆头呆脑”,给企业带来客户流失、声誉受损的恶果。对这些高级 AI 系统而言,验证性能的细微变化以及情景信息的准确性至关重要。但传统监控工具根本不具备这项能力。
Cisco ThousandEyes:可靠的 AI 保障合作伙伴
为了满足这项关键需求,Cisco ThousandEyes 推出了专为智能体 AI 生态系统而设计的创新功能。我们可以提供所需的深度可视性和保障,助力企业信心十足地扩展基于 AI 的客户支持业务:
- AI 测试模板保障 AI 验证:我们的 AI 测试模板在基本的正常运行时间检查之外,增加了丰富的功能。这些模板将推理提供程序的开发者 API 作为测试对象,使用复杂的提示工程来模拟真实查询。我们不仅验证可用性,还验证延迟、响应时间、Token 效率等指标。最重要的是,我们会从全球多个地点验证 AI 回复的准确性和一致性。这意味着,您可以检测聊天机器人或智能体是否突然开始提供过时的信息或响应时间变得过长。这样,您就能以主动方式确保 1 级支持和运营团队始终了解最新信息,并能快速做出响应。
- MCP 服务器监控保障企业情景信息的完整性:MCP 服务器是 AI 智能体拥有“业务智能”的关键。MCP Server Monitoring 可通过持续监控来确保 MCP 服务器的完整性。它能建立符合标准的连接,发现可用的资源和工具,并在工具配置发生未经授权的更改时发出实时告警。这对于实现安全和监管目标至关重要,可确保智能体仅访问并使用经过批准的工具和资源,从而防止步骤错误或数据泄露。
- ThousandEyes Public MCP Server 为 AI 智能体赋能*:Public MCP Server 可提供一个安全的可扩展网关,让 AI 智能体能够利用一套强大的故障排除工具提供支持。这些工具可以从 ThousandEyes 全面的综合测试数据集、中断记录和事件记录中获取丰富的实时性能和可用性数据。Public MCP Server 不仅能与主流的 AI 智能助手界面(如 Microsoft Copilot、Anthropic Claude 和 Google Gemini)相集成,供您的内部 AI 智能体访问,还能集成到第三方 ITSM 系统(如 ServiceNow)中。
让 AI 物尽其用:ThousandEyes 为客户支持转型保驾护航
我们不妨想象一下,如果能将这种全面的保障集成到您的运营和客户支持工作流程,可以带来哪些影响:
- 增强 1 级 AI 聊天机器人的能力:当客户上报问题时,您的 AI 聊天机器人可以不再只是机械性地提问和回答。451 Research 的一项调查显示,在利用生成式 AI 协助处理 IT 运维任务方面,前三大主要用途分别是:监控 (50%)、安全扫描/测试 (49%) 和故障排除 (48%)。而在这些用途上,聊天机器人都能与 ThousandEyes Public MCP Server 进行内部交互,提出诸如以下请求:“从客户所在地区访问我们的支付网关 API 是否存在响应缓慢的问题?”或“对 CRM 服务器发起按需网络路径测试,看看是否存在影响这位客户查找账户的连接问题。” 这样,聊天机器人就能进行自我诊断,收集实时性能数据,并在初次回复中提供更准确的答案,甚至在无需人工干预的情况下解决问题。
- 改善更高级别的支持(人工支持):如果遇到需要人工干预的问题,更高级别的支持座席可以在 ThousandEyes 平台上使用 Cisco AI Assistant。这样,他们就不必花时间查看各种控制面板,只需提问就能获得答案,例如:“总结一下近期影响我们北美客户门户的中断事件”或“解释一下为什么昨天从欧洲访问我们的云联系中心会突然出现延迟”。Cisco AI Assistant 可以快速找出并汇总相关的性能数据,对复杂的网络指标进行简单易懂的说明。借助这种内联的故障排除界面,人工座席能够更快速、更明智地解决问题。
- 实现主动式 IT 运维和工程运维:除了个人交互,ThousandEyes 的 Event Detection 功能还能为 IT 运维和工程团队提供无与伦比的可视性。如果 AI 模型的性能出现细微下降(例如“检测到亚太地区 LLM 模型的响应时间出现异常”)或者 MCP 服务器的工具配置发生未经授权的更改,则会触发实时告警。这些主动式告警可以帮助 IT 团队快速排查并解决问题(通常是在客户注意到问题之前),以确保持续提供优质的 AI 服务。
为未来的客户体验提供保障
高级 AI 智能体与来自 MCP 的标准化情景信息相结合,辅以 ThousandEyes 全面的监控功能,可以为客户支持领域提供一套强大的故障排除工具。只要能保障 AI 聊天机器人的可靠性、准确性和安全性,您不仅能增强客户体验,还能通过智能自动化和运营效率提升获得显著的竞争优势。
欢迎免费试用 ThousandEyes,了解 ThousandEyes 为 AI 赋能的客户支持带来的益处,让您的智能体 AI 环境获得切实的保障!
* 本文档介绍的许多产品和功能尚处于开发过程的不同阶段,具体上市时间未定。思科可酌情决定更改相关产品和功能的交付时间表,并且对本文档中列出的任何产品或功能的延期交付或无法交付不承担任何责任。