Wann KI an einen Menschen übergeben sollte: wie das wirklich entschieden wird

Der Fehlerfall, den die Übergabe verhindern soll

Ein KI-Agent, der immer antwortet, egal wie sicher er sich tatsächlich ist, wird irgendwann eine Abrechnungsstreitigkeit, eine Sicherheitsfrage oder einen kontospezifischen Grenzfall mit einem selbstbewussten, plausibel klingenden Text beantworten, der zufällig falsch ist. Diese eine schlechte Antwort kostet mehr Vertrauen, als ein Dutzend guter Antworten aufbauen — Kunden mitteln ihre Erfahrung nicht, sie erinnern sich an das eine Mal, als der „Chat“ ihnen etwas Falsches sagte.

Verlockend ist es, das Modell zu fragen, wie sicher es ist, und unterhalb einer Zahl zu übergeben. So machen wir es nicht: Die Forschung (Xiong et al., ICLR 2024) zeigt, dass die Konfidenz, die ein Modell über sich selbst angibt, systematisch überhöht ist, und eine einzige in einer Nachricht versteckte Anweisung genügt, damit es völlige Sicherheit angibt. Bei iNTELIGENCIA VIVA entscheiden über die Übergabe Regeln, die der Code prüft, nicht eine Zahl, die die KI über sich selbst schreibt.

Was eine Übergabe auslöst

Das Gespräch geht an eine Person aus Ihrem Team, wenn der Besucher danach fragt, wenn es Anzeichen einer Krise gibt, wenn der Besucher Frust zeigt, wenn die Antwort nicht auf dem bereitgestellten Wissen beruht oder wenn die KI keine brauchbare Antwort zustande gebracht hat. Die Übergabe enthält die vollständige Gesprächszusammenfassung: was der Besucher gefragt hat, was die KI schon versucht hat und warum sie aufgehört hat. Der Mensch fängt nicht bei null an.

Wenn in dem Moment niemand aus Ihrem Team antworten kann — außerhalb der Geschäftszeiten, niemand online oder ein Chat ohne Menschen dahinter —, lässt die KI den Besucher nicht warten: Sie sagt es klar und bietet die anderen Kanäle des Unternehmens an oder hilft mit dem weiter, was sie weiß.

Dafür gibt es das Webhook-Ereignis `handoff.requested`: Ein Unternehmen, das seine eigene Eskalationslogik will (eine bestimmte Person benachrichtigen, ein Ticket in einem anderen System eröffnen), kann sich genau in dem Moment einklinken, in dem das Gespräch an einen Menschen ging, nicht nach einem festen Timeout.

Was Sie in der Praxis tatsächlich steuern

Es gibt keine universelle Messlatte — ein Unternehmen, das allgemeine Produktfragen beantwortet, kann mehr tolerieren als eines, das kontospezifische Abrechnungsfälle bearbeitet, bei denen eine falsche Antwort echte Folgen hat. Was das Verhalten bestimmt, liegt in Ihrer Hand: die Anweisungen des Assistenten (was er nie beantworten darf und welche Fälle immer an einen Menschen gehen), Ihre Geschäftszeiten und ob hinter dem Chat Menschen stehen.

Die KI mit besseren und aktuelleren Wissensquellen zu versorgen, ist der wirksamste Hebel: Ein Assistent mit wirklich gutem Quellmaterial kann sich bei mehr echten Fragen darauf stützen und übergibt seltener, ohne dass Sie irgendeinen Sicherheitsspielraum lockern müssen.

Die Kennzahl, die wirklich zählt

Die Lösungsquote ist keine Vanity-Kennzahl — bei iNTELIGENCIA VIVA ist sie wortwörtlich das, wonach Sie abgerechnet werden, da eine Lösung ein Gespräch ist, das die KI abgeschlossen hat, ohne dass ein Mensch eingreifen musste. Diese Ausrichtung ist beabsichtigt: Sie bedeutet, dass der Anreiz darin besteht, dass die KI bei den Fragen, die sie bearbeitet, ehrlich gut ist, statt zu maximieren, wie oft sie antwortet, unabhängig von der Genauigkeit.