Wann KI an einen Menschen übergeben sollte: Wie Konfidenzschwellen wirklich funktionieren

Der Fehlerfall, den Konfidenzschwellen verhindern sollen

Ein KI-Agent, der immer antwortet, egal wie sicher er sich tatsächlich ist, wird irgendwann eine Abrechnungsstreitigkeit, eine Sicherheitsfrage oder einen kontospezifischen Grenzfall mit einem selbstbewussten, plausibel klingenden Text beantworten, der zufällig falsch ist. Diese eine schlechte Antwort kostet mehr Vertrauen, als ein Dutzend guter Antworten aufbauen — Kunden mitteln ihre Erfahrung nicht, sie erinnern sich an das eine Mal, als der „Chat“ ihnen etwas Falsches sagte.

Eine Konfidenzschwelle ist der Mechanismus, der das verhindert: Der KI-Agent schätzt ein, wie gut die Frage des Besuchers zu dem passt, worüber er tatsächlich fundiertes Wissen hat — Ihre Dokumente, Ihre Produktdaten, Ihre Richtlinien —, und antwortet nur dann direkt, wenn diese Übereinstimmung die vom Workspace festgelegte Schwelle überschreitet.

Was statt einer schlechten Vermutung passiert

Unterhalb der Schwelle stockt die KI nicht und wiederholt sich nicht — sie übergibt an einen menschlichen Agenten, und die Übergabe trägt die vollständige Gesprächszusammenfassung mit sich: was der Besucher gefragt hat, was die KI bereits versucht hat, und warum sie aufgehört hat. Der Mensch startet nicht kalt; er übernimmt ein Gespräch, das bereits triagiert wurde.

Genau dafür existiert auch das Webhook-Ereignis `handoff.requested` — ein Unternehmen, das seine eigene Eskalationslogik möchte (eine bestimmte Person alarmieren, ein Ticket in einem anderen System eröffnen), kann sich genau in dem Moment einklinken, in dem die KI entschieden hat, dass sie einen Menschen braucht — nicht bei einem festen Timeout oder einer Stichwortübereinstimmung.

Wo die Schwelle in der Praxis liegen sollte

Es gibt keine universell richtige Zahl — ein Workspace, der allgemeine Produktfragen beantwortet, kann sich eine niedrigere Schwelle leisten als einer, der kontospezifische Abrechnungsfragen behandelt, bei denen eine falsche Antwort echte finanzielle Folgen hat. Der richtige Instinkt ist, konservativ zu beginnen (mehr Übergaben als unbedingt nötig) und die Schwelle erst zu lockern, wenn Sie Vertrauen aufgebaut haben, wie gut die Wissensbasis der KI tatsächlich abgedeckt ist — nicht umgekehrt.

Der KI über RAG bessere, aktuellere Wissensquellen zuzuführen ist normalerweise ein wirksamerer Hebel, als die Schwelle selbst zu justieren — ein KI-Agent mit wirklich gutem Quellmaterial überschreitet die Konfidenzschwelle bei mehr echten Fragen ganz natürlich, ohne dass Sie den Sicherheitsspielraum lockern müssen, um dorthin zu gelangen.

Die Kennzahl, die wirklich zählt

Die Lösungsquote ist keine Vanity-Kennzahl — bei iNTELIGENCIA VIVA ist sie wortwörtlich das, wonach Sie abgerechnet werden, da eine Lösung ein Gespräch ist, das die KI abgeschlossen hat, ohne dass ein Mensch eingreifen musste. Diese Ausrichtung ist beabsichtigt: Sie bedeutet, dass der Anreiz darin besteht, dass die KI bei den Fragen, die sie bearbeitet, ehrlich gut ist, statt zu maximieren, wie oft sie antwortet, unabhängig von der Genauigkeit.