고객 지원 분야는 기술 혁신이 진행되고 있으며, 일선에 도입된 GenAI(생성형 AI)로 인해 최종 사용자 경험이 간소화되고 있습니다. 오늘날의 AI 에이전트는 이전의 규칙 기반 에이전트가 지닌 제한된 기능을 훨씬 뛰어넘는 수준으로 발전하고 있습니다. 대규모로 미묘한 의미가 담긴 쿼리에 응답하고, 워크플로를 최적화하며, 의사 결정을 지원할 수 있습니다. 그 결과 많은 조직이 이제 AI를 초기 지원 레이어로 사용하고 있으며, 귀찮은 비밀번호 재설정 같은 일반적인 요청을 효율적으로 관리하고 티켓 라우팅 및 일반적인 문제 해결을 자동화하는 동시에 실제 상담원은 더 복잡한 문제를 해결할 수 있게 되었습니다.
하지만 이러한 지능형 어시스턴트에 대한 의존도가 높아지면서 중요한 의문이 떠오릅니다. 어떻게 해야 일관되고 정확하면서 안정적인 고성능 지원을 보장할 수 있을까요? 그 답은 포괄적인 AI 서비스 보장에 있습니다.
고객 지원 시나리오에서 사용되는 최신 AI 인프라의 숨겨진 복잡성
최신 AI 에이전트, 그중에서도 특히 고객 지원을 처리하는 에이전트는 모놀리식이 아닙니다. AI 에이전트는 두 가지 기본 요소를 기반으로 합니다.
- 추론 사업자(파운데이션 모델): 이 모델은 '뇌'와 같은 역할을 합니다. 그 예로 에이전트에 이해, 추론, 응답 생성 기능을 제공하는 OpenAI, Anthropic, Google 같은 호스팅 사업자의 LLM(대규모 언어 모델) 또는 Hugging Face에서 제공하는 개방형 가중치 모델 등을 들 수 있습니다.
- MCP(Model Context Protocol) 서버: 이 서버는 '결합 조직' 같은 역할을 하며 AI 에이전트에 기업별 컨텍스트, 내부 데이터 소스에 대한 액세스(예: CRM, 인벤토리, 지식 기반), 작업을 트리거할 수 있는 기능(예: 컨텍스트를 활용한 티켓 생성, 포트 재설정 또는 펌웨어 업데이트)을 제공합니다. 여기에는 중요한 ITSM 플랫폼(예: ServiceNow 및 Jira)과의 원활한 통합이 포함됩니다. 이러한 통합을 실현하면 AI 에이전트 상호 작용을 통해 자동 인시던트 생성, 작업 할당, 워크플로 업데이트를 바로 실행할 수 있습니다.
이러한 구성 요소의 성능이 저하되면 LLM의 응답 속도 저하, MCP 서버의 부정확한 정보, 백엔드 시스템에 대한 연결성 문제 등이 발생하면 챗봇의 유용한 기능은 사라지고 부정적인 사용 경험으로 바뀔 수 있습니다. 그리고 이는 고객 이탈 및 평판 실추로 이어집니다. 기존의 모니터링 도구는 이러한 고급 AI 시스템에서 필요로 하는 섬세한 성능 및 컨텍스트 정확성을 검증할 수 있는 기능이 포함되어 있지 않습니다.
Cisco ThousandEyes: AI 기반 서비스 보장 파트너
이러한 중요한 요구 사항을 잘 알고 있는 Cisco ThousandEyes는 에이전틱 AI 에코시스템을 위해 고안된 혁신적인 기능을 도입하게 되었습니다. ThousandEyes는 AI 기반 고객 지원 운영을 자신 있게 확장하는 데 필요한 심층적인 가시성 및 서비스 보장을 제공합니다.
- AI 테스트 템플릿으로 AI 검증: ThousandEyes의 AI 테스트 템플릿은 기본적인 업타임 검사를 훨씬 넘어섭니다. 추론 사업자의 개발자 API를 구체적으로 타겟팅하며, 정교한 프롬프트 엔지니어링을 사용하여 사실적인 쿼리를 시뮬레이션합니다. ThousandEyes는 여러 글로벌 위치에서 AI 응답의 가용성뿐만 아니라 레이턴시, 응답 시간, 토큰 효율성, 그리고 무엇보다도 AI 응답의 정확성과 일관성까지 검증합니다. 이는 챗봇 또는 에이전트가 갑자기 너무 오래된 정보를 제공하고 있는지 또는 응답 시간이 너무 오래 걸리는지 여부를 탐지할 수 있다는 것을 뜻합니다. 사전 예방적인 대응이 가능해지므로, Tier 1 지원 팀과 운영 팀이 지능형 운영과 효율을 유지하도록 지원할 수 있습니다.
- MCP 서버 모니터링으로 엔터프라이즈 컨텍스트 무결성 보장: MCP 서버는 AI 에이전트가 '비즈니스 인텔리전스'를 얻는 곳입니다. 지속적인 MCP 서버 모니터링은 이 중요한 레이어의 무결성을 보장하는 데 도움이 됩니다. MCP 서버 모니터링은 표준 규격 연결을 설정하고, 사용 가능한 리소스 및 도구를 검색하며, 도구 설정이 무단 변경된 경우 실시간 경고를 제공합니다. 이러한 기능은 보안 및 거버넌스에 매우 중요하며, 에이전트가 승인된 도구 및 리소스에만 액세스하고 이를 사용하도록 보장합니다. 이렇게 하면 실수나 데이터 보안 침해를 방지할 수 있습니다.
- ThousandEyes 퍼블릭 MCP 서버*로 AI 에이전트 강화: 이 서버는 AI 에이전트를 위한 안전하고 확장 가능한 게이트웨이를 제공합니다. 이를 통해 AI 에이전트는 ThousandEyes의 포괄적인 합성 테스트 데이터 집합, 중단, 이벤트에서 얻은 풍부한 실시간 성능 및 가용성 데이터에 액세스할 수 있는 강력한 문제 해결 도구를 활용하여 지원 서비스를 제공할 수 있습니다. ThousandEyes의 퍼블릭 MCP 서버는 주요 AI 어시스턴트 인터페이스(예: Microsoft Copilot, Anthropic's Claude, Google Gemini)와 통합할 수 있으며, 내부 AI 에이전트에서 액세스하거나 서드파티 ITSM 시스템(예: ServiceNow)에 통합할 수 있습니다.
AI의 실제 활용: ThousandEyes로 고객 지원 혁신
이러한 통합 서비스 보장이 운영 및 고객 지원 워크플로에 어떤 영향을 미칠지 상상해 보세요.
- Tier 1 AI 챗봇의 기능 개선: 고객이 문제를 보고하는 경우, AI 챗봇은 단순한 질문 이상의 기능을 수행할 수 있습니다. 451 Research에서 제공한 인사이트에 따르면 GenAI를 활용하는 주요 IT 운영 작업은 모니터링(50%), 보안 검사/테스트(49%), 문제 해결(48%)인 것으로 확인되며, 챗봇은 ThousandEyes 퍼블릭 MCP 서버와 내부적으로 상호 작용할 수 있습니다. 챗봇은 "우리 회사의 결제 게이트웨이 API가 고객의 지역에서 느린 속도로 응답하고 있나요?" 같은 질문을 하거나, "CRM 서버에 대한 온디맨드 네트워크 경로 테스트를 시작하여 이 고객의 계정 룩업에 영향을 미치는 연결성 문제가 있는지 확인하세요" 같은 요청을 할 수 있습니다. 이를 통해 챗봇은 자가 진단을 수행하고, 실시간 성능 데이터를 수집하며, 더욱 정확한 초기 응답을 제공하거나, 사람이 개입하지 않고도 직접 문제를 해결할 수 있습니다.
- 상위 계층(사람) 지원 강화: 사람의 개입이 필요한 문제가 발생하는 경우 상위 계층 지원 에이전트는 ThousandEyes 내의 Cisco AI Assistant를 활용할 수 있습니다. 대시보드를 면밀히 살펴보는 대신, "북미의 고객 포털에 영향을 미치는 최근 중단 사례를 요약해 주세요" 또는 "어제 우리 회사의 유럽 내 클라우드 컨택 센터에 일어난 레이턴시 급증에 대해 설명해 주세요" 같은 질문을 하면 됩니다. AI Assistant는 관련된 성능 데이터를 신속하게 식별하고 요약하여 복잡한 네트워크 메트릭을 쉬운 언어로 설명합니다. 이러한 인라인 문제 해결 인터페이스를 통해 에이전트는 더 빠르게 더 많은 정보를 바탕으로 문제를 해결할 수 있습니다.
- 사전 예방적인 IT 운영 및 엔지니어링 운영: 개별적인 상호 작용을 넘어서는 ThousandEyes의 Event Detection 기능을 활용하면 IT 운영 팀과 엔지니어링 팀이 탁월한 가시성을 확보할 수 있습니다. AI 모델 성능이 미묘하게 저하되거나(예: 'APAC 지역의 LLM 모델에서 비정상적인 응답 시간이 탐지됨'), MCP 서버 도구 구성이 무단 변경된 경우 실시간 경고가 트리거됩니다. 이러한 사전 예방적인 경고를 통해 각 팀에서는 고객이 알아차리기도 전에 문제를 신속하게 해결하여 지속적으로 고품질 AI 서비스를 제공할 수 있습니다.
미래 지향적인 고객 경험 보장
고급 AI 에이전트의 융합, MCP를 통한 표준화된 컨텍스트 통합, ThousandEyes의 포괄적인 모니터링 기능은 강력한 문제 해결 도구를 활용한 고객 지원을 제공합니다. 또한 AI 기반 챗봇의 안정성, 정확성, 보안을 보장하므로 고객 경험을 개선할 수 있을 뿐만 아니라 지능형 자동화 및 더욱 효율적인 운영을 통해 상당한 경쟁 우위도 확보할 수 있습니다.
ThousandEyes를 활용한 AI 기반 고객 지원의 이점을 확인하고, 무료로 제공되는 ThousandEyes 평가판
을 통해 에이전틱 AI 환경의 서비스를 보장하시기 바랍니다.* 여기에 설명된 많은 제품 및 기능은 각자 다양한 개발 단계를 진행 중이며, 제공 가능한 시기와 제공 여부에 따라 제공됩니다. 이러한 제품 및 기능의 제공 타임라인은 시스코의 단독 재량으로 변경될 수 있으며, 시스코에서는 이 문서에 명시된 모든 제품 또는 기능의 제공 지연이나 실패에 대해 책임을 지지 않습니다.