Produkt-Updates

Über den Chatbot hinaus: Assurance für KI-gestützten Support mit ThousandEyes

Von Bernie Clairmont
| | 9 Minuten Lesezeit

Dieser Beitrag ist auch verfügbar für: United States (English), Mexico (Español), Spain (Español), France (Français), Canada (Français), Italy (Italiano), Japan (日本語), Korea (한국어), Brazil (Português) & Mainland China (简体中文).

Zusammenfassung

KI-Agents werden zunehmend im Frontline-Support eingesetzt und mit geschäftskritischen ITSM-Plattformen wie ServiceNow und Jira integriert. Die Gewährleistung der Verlässlichkeit und Genauigkeit dieser Agents ist daher unerlässlich, um Kundenfrust und Reputationsschäden vorzubeugen. ThousandEyes ermöglicht leistungsstarke KI-Assurance durch Tests und Monitoring, was Unternehmen dazu verhilft, hochentwickelte KI-Chatbots sicher bereitzustellen, die dank verlässlicher Modell-Performance eine konsequent hohe Servicequalität bieten.


Der Support befindet sich inmitten einer technologischen Revolution, an deren Frontlinie die Optimierung der End User Experience durch generative KI (GenAI) steht. Die KI-Agents von heute gehen weit über die begrenzten Fähigkeiten ihrer regelbasierten Vorgänger hinaus. Sie sind in der Lage, nuancierte Anfragen zu beantworten, Workflows zu optimieren und bei der Entscheidungsfindung zu helfen – und all dies in großem Umfang. So bringen viele Unternehmen auf ihrer ersten Support-Ebene KI zum Einsatz, um häufe Anfragen, z. B. mühselige Kennwortänderungen, effizient zu verwalten und das Ticket-Routing und allgemeine Troubleshooting-Prozesse zu automatisieren, damit den menschlichen Support-Teams mehr Zeit für komplexere Probleme bleibt.

Unsere zunehmende Abhängigkeit von diesen intelligenten Assistenten wirft jedoch eine wichtige Frage auf: Wie können wir einen konsistenten, präzisen, verlässlichen und hochwertigen Support sicherstellen? Die Antwort darauf liegt in umfassender KI-Assurance.

Die verborgene Komplexität moderner KI-Infrastruktur in Support-Szenarien

Moderne KI-Agenten, insbesondere solche, die für den Support zuständig sind, sind nicht monolithisch. Sie stützen sich auf zwei grundlegende Säulen:

  1. Inferenz-Provider (Basismodelle): Dabei handelt es sich um Large Language Models (LLMs) von gehosteten Providern wie OpenAI, Anthropic oder Google. Sie fungieren gewissermaßen als Gehirn der Agents, das es ihnen ermöglicht, Fragen zu verstehen, zu verarbeiten und zu beantworten. Verfügbar sind hierfür auch sogenannte Open-Weights-Modelle, wie sie u. a. auf Hugging Face bereitgestellt werden.
  2. Model-Context-Protocol(MCP)-Server: Diese Server fungieren als „Bindeglied“, indem sie dem KI-Agent unternehmensspezifischen Kontext bereitstellen, Zugriff auf interne Datenquellen (z. B. CRM-, Bestands- und Wissensdatenbanken) ermöglichen und ihm dazu verhelfen, Aktionen auszulösen (z. B. das Erstellen eines Tickets mit Kontext, das Zurücksetzen eines Ports oder das Aktualisieren von Firmware). Dies beinhaltet die nahtlose Integration mit geschäftskritischen ITSM-Plattformen wie ServiceNow und Jira, durch die es möglich wird, die Incident-Erstellung, Aufgabenzuweisung und Workflow-Aktualisierung direkt über die Interaktionen mit KI-Agents zu automatisieren.

Jede Verschlechterung dieser Komponenten – ob durch langsame Antworten von einem LLM, ungenaue Informationen von einem MCP-Server oder ein Verbindungsproblem bei einem Backend-System – kann schnell dazu führen, dass ein eigentlich hilfreicher Chatbot ein frustrierendes Erlebnis verursacht, das Kunden verprellt und Rufschäden nach sich zieht. Herkömmliche Monitoring-Tools sind schlicht nicht dafür ausgelegt, die nuancierte Performance und kontextuelle Genauigkeit zu validieren, die diese hochentwickelten KI-Systeme erfordern.

Cisco ThousandEyes: Ihr Partner für KI-gestützte Assurance

Diesen kritischen Anforderungen trägt Cisco ThousandEyes mit Innovationen Rechnung, die speziell für das agentische KI-Ecosystem konzipiert wurden. So sorgen wir für die tiefgreifende Transparenz und Assurance, die Unternehmen benötigen, um ihren KI-gestützten Support sicher zu skalieren:

  • Validierung der KI-Performance mit KI-Testvorlagen: Unsere KI-Testvorlagen gehen weit über grundlegende Verfügbarkeitsprüfungen hinaus. Sie zielen speziell auf die Entwickler-APIs Ihrer Inferenz-Provider ab und nutzen differenziertes Prompt-Engineering, um realistische Anfragen zu simulieren. Wir validieren nicht nur die Verfügbarkeit, sondern auch die Latenz, Reaktionszeiten, Token-Effizienz und insbesondere die Genauigkeit und Konsistenz der Antworten der KI an einer Vielzahl weltweiter Standorte. So können Sie erkennen, ob Ihr Chatbot oder Agent auf einmal veraltete Informationen bereitstellt oder zu lange Zeit für die Antwort benötigt. Sie können proaktiv agieren und sicherstellen, dass Ihre Tier-1-Support- und -Betriebsteams intelligent und effizient bleiben.
Abbildung 1. KI-Testvorlagen von ThousandEyes zur Assurance gängiger Modell-Inferenz-APIs
Abbildung 1. KI-Testvorlagen von ThousandEyes zur Assurance gängiger Modell-Inferenz-APIs
  • Sicherstellung der Integrität von Unternehmenskontext durch MCP-Server-Monitoring: Auf dem MCP-Server erhält Ihr KI-Agent seine „Business Intelligence“. Durch kontinuierliches MCP-Server-Monitoring kann die Integrität dieser kritischen Ebene sichergestellt werden. Es etabliert standardkonforme Verbindungen, erkennt verfügbare Ressourcen und Tools und gibt Echtzeitbenachrichtigungen für nicht autorisierte Änderungen an Tool-Konfigurationen aus. Für Sicherheit und Governance ist dies unerlässlich, da damit sichergestellt wird, dass Ihr Agent nur auf genehmigte Tools und Ressourcen zugreift und diese verwendet. So werden Fehlsteuerungen oder Datensicherheitsverletzungen vermieden.
  • Unterstützung Ihrer KI-Agents mit dem ThousandEyes Public MCP Server*: Dieser Server bietet ein sicheres skalierbares Gateway für Ihre KI-Agents und unterstützt Sie durch eine Reihe leistungsstarker Troubleshooting-Tools mit Zugriff auf umfangreiche Echtzeit-Performance- und Verfügbarkeitsdaten aus den umfassenden Datenbeständen von ThousandEyes zu synthetischen Tests, Ausfällen und Ereignissen. Unser öffentlicher MCP-Server ist in gängige KI-Assistenten-Interfaces wie Microsoft Copilot, Claude von Anthropic oder Google Gemini integrierbar und kann von Ihren internen KI-Agents abgerufen oder in ITSM-Systeme von Drittanbietern wie ServiceNow integriert werden.

KI in Aktion: Revolutionärer Support dank ThousandEyes

Stellen Sie sich vor, was diese integrierte Assurance für Ihren Betriebs- und Support-Workflow bewirken kann:

  • Verbesserung der Fähigkeiten von Tier-1-KI-Chatbots: Wenn ein Kunde ein Problem meldet, kann Ihr KI-Chatbot mehr als nur Fragen stellen. Untersuchungen von 451 Research zufolge kommt generative KI am stärksten in den Bereichen Monitoring (50 %), Security-Scans/-Tests (49 %) und Troubleshooting (48 %) zum Einsatz. Hierfür kann der Bot intern mit dem ThousandEyes Public MCP Server interagieren. So kann er Fragen stellen wie „Reagiert unsere Zahlungsgateway-API aus der Region des Kunden langsam?“ oder „Stelle anhand eines On-Demand-Netzwerkpfadtests zum CRM-Server fest, ob ein Verbindungsproblem vorliegt, das den Abruf des Kontos dieses Kunden beeinträchtigt.“ Auf diese Weise kann der Bot eine Selbstdiagnose durchführen, Performancedaten in Echtzeit erfassen, präzisere Erstantworten liefern oder sogar Probleme ohne menschliches Eingreifen lösen.
  • Bereicherung des von Menschen bereitgestellten Supports: Wenn ein Problem menschliches Eingreifen erfordert, können Ihre für den Support auf höherer Ebene zuständigen Teams Cisco AI Assistant in ThousandEyes nutzen. Anstatt Dashboards durchgehen zu müssen, können sie einfach Prompts eingeben wie „Erstelle eine Zusammenfassung der jüngsten Ausfälle, die unser Kundenportal in Nordamerika betreffen“ oder „Erkläre die gestrige Latenzspitze in unserem europäischen Cloud-Contact-Center“. Der KI-Assistent identifiziert in kürzester Zeit Performancedaten, fasst diese zusammen und liefert leicht verständliche Erklärungen für komplexe Netzwerkmetriken. Diese Inline-Troubleshooting-Interface verhilft Support-Teams dazu, schneller zu fundierteren Lösungen zu gelangen.
  • Proaktive IT- und Engineering-Ops: Über individuelle Interaktionen hinaus bieten Funktionen zur Ereigniserkennung von ThousandEyes IT-Ops und Engineering-Teams beispiellose Transparenz. Echtzeitbenachrichtigungen werden bei subtilen Verschlechterungen der KI-Modell-Performance (z. B. „Anormale Reaktionszeiten für unser LLM-Modell in APAC festgestellt“) oder bei nicht autorisierten Änderungen an Konfigurationen von MCP-Server-Tools ausgelöst. Diese proaktiven Warnmeldungen ermöglichen es Teams, Probleme schnell zu untersuchen und zu lösen – oft noch bevor sie sich bei Kunden bemerkbar machen. Dies ermöglicht es Teams, eine hochwertige KI-Servicebereitstellung konsequent zu gewährleisten.

Die Zukunft der Customer Experience liegt in Assurance

Durch den Verbund aus hochentwickelten KI-Agenten, standardisierter Kontextintegration über MCP und umfassenden Monitoring-Funktionen von ThousandEyes steht dem Support ein leistungsstarkes Set an Troubleshooting-Tools zur Verfügung. Indem Sie die Zuverlässigkeit, Genauigkeit und Sicherheit Ihrer KI-gestützten Chatbots sicherstellen, verbessern Sie nicht nur die Customer Experience, sondern erzielen auch erhebliche Wettbewerbsvorteile durch intelligente Automatisierung und effizientere Abläufe.

Entdecken Sie die Vorteile von KI-gestütztem Support und Assurance für Ihre agentische KI-Umgebung mit einer kostenlosen Testversion von ThousandEyes.

* Hinweis: Viele der hier beschriebenen Produkte und Funktionen befinden sich derzeit noch in der Entwicklung und sind möglicherweise zu diesem Zeitpunkt noch nicht verfügbar. Ihre Verfügbarkeit hängt davon ab, ob bzw. wann ihre Entwicklung vollständig abgeschlossen wird. Cisco behält sich das Recht vor, den Bereitstellungszeitrahmen dieser Produkte und Funktionen jederzeit zu ändern. Cisco übernimmt keine Haftung für eine verzögerte oder nicht erfolgte Bereitstellung der in diesem Dokument erwähnten Funktionen oder Produkte.

Upgrade your browser to view our website properly.

Please download the latest version of Chrome, Firefox or Microsoft Edge.

More detail