Il tipo di errore che le soglie di sicurezza esistono per prevenire

Un agente IA che risponde sempre, indipendentemente da quanto sia realmente sicuro, prima o poi risponderà a una disputa di fatturazione, a una domanda sulla sicurezza o a un caso specifico di un account con un testo sicuro di sé e plausibile che risulta essere sbagliato. Quella singola risposta sbagliata costa più fiducia di quanta ne costruiscano una dozzina di risposte buone — i clienti non fanno una media della loro esperienza, si ricordano la volta in cui la "chat" ha detto loro qualcosa di falso.

Una soglia di sicurezza è il meccanismo che lo previene: l'agente IA stima quanto bene la domanda del visitatore corrisponda a ciò di cui ha realmente una conoscenza fondata — i tuoi documenti, i tuoi dati di prodotto, le tue policy — e risponde direttamente solo quando quella corrispondenza supera la soglia che il workspace ha impostato.

Cosa succede al posto di un'ipotesi sbagliata

Sotto la soglia, l'IA non si blocca né si ripete — passa la conversazione a un agente umano, e il passaggio porta con sé il riepilogo completo della conversazione: cosa ha chiesto il visitatore, cosa ha già provato l'IA, e perché si è fermata. L'umano non parte da zero; riprende una conversazione già passata al triage.

È esattamente per questo che esiste l'evento webhook `handoff.requested` — un'azienda che vuole una propria logica di escalation (avvisare una persona specifica, aprire un ticket in un altro sistema) può agganciarsi proprio nel momento in cui l'IA ha deciso di aver bisogno di un umano, non a un timeout fisso o a una corrispondenza di parole chiave.

Dove dovrebbe stare la soglia, in pratica

Non esiste un numero universalmente corretto — un workspace che risponde a domande generali sul prodotto può permettersi una soglia più bassa rispetto a uno che gestisce casi di fatturazione specifici dell'account, dove una risposta sbagliata ha conseguenze finanziarie reali. L'istinto giusto è iniziare in modo conservativo (più passaggi del minimo strettamente necessario) e allentare la soglia solo man mano che si costruisce fiducia in quanto bene la base di conoscenza dell'IA copra davvero, non il contrario.

Fornire all'IA fonti di conoscenza migliori e più aggiornate tramite RAG è di solito una leva più efficace che regolare la soglia stessa — un agente IA con materiale di partenza davvero buono supera naturalmente la soglia di sicurezza su più domande reali, senza che tu debba allentare il margine di sicurezza per arrivarci.

La metrica che conta davvero

Il tasso di risoluzione non è un numero di facciata — su iNTELIGENCIA VIVA è letteralmente ciò per cui vieni fatturato, dato che una risoluzione è una conversazione che l'IA ha chiuso senza che un umano intervenisse. Questo allineamento è deliberato: significa che l'incentivo è che l'IA sia onestamente brava nelle domande che gestisce, non massimizzare quante volte risponde a prescindere dall'accuratezza.