متى يجب أن ينقل الذكاء الاصطناعي المحادثة إلى إنسان: كيف يُتخذ القرار فعلًا

نمط الإخفاق الذي وُجد النقل لمنعه

وكيل ذكاء اصطناعي يجيب دائمًا، بصرف النظر عن مدى تأكّده فعليًا، سينتهي به الأمر عاجلًا أم آجلًا إلى الإجابة عن نزاع فوترة، أو سؤال متعلّق بالسلامة، أو حالة خاصة بحساب معيّن، بنص واثق ومقنِع المظهر يتضح أنه خاطئ. تلك الإجابة السيئة الواحدة تكلّف ثقة أكبر مما تبنيه عشر إجابات جيدة — لا يحسب العملاء تجربتهم كمعدّل، بل يتذكّرون المرة التي أخبرتهم فيها "الدردشة" بشيء غير صحيح.

المغري هو أن تسأل النموذج عن مدى ثقته وأن تنقل المحادثة عندما يقل الرقم عن حدّ معيّن. نحن لا نفعل ذلك: تُظهر الأبحاث (Xiong et al., ICLR 2024) أن الثقة التي يصرّح بها النموذج عن نفسه مبالغ فيها بشكل منهجي، ويكفي أمر واحد مخفي داخل رسالة ليجعله يصرّح بيقين تام. في iNTELIGENCIA VIVA تقرر النقلَ قواعدُ يتحقق منها الكود، لا رقم يكتبه الذكاء الاصطناعي عن نفسه.

ما الذي يُطلق النقل

تنتقل المحادثة إلى شخص من فريقك عندما يطلب الزائر ذلك، أو عند ظهور علامات أزمة، أو عندما يُبدي الزائر إحباطًا، أو عندما لا تستند الإجابة إلى المعرفة التي قدّمتها، أو عندما لم يتمكن الذكاء الاصطناعي من تقديم إجابة مفيدة. ويحمل النقل ملخص المحادثة كاملًا: ما الذي سأله الزائر، وما الذي جرّبه الذكاء الاصطناعي، ولماذا توقف. لا يبدأ الإنسان من الصفر.

إذا لم يكن بإمكان أحد من فريقك الرد في تلك اللحظة — خارج ساعات العمل، أو لا أحد متصل، أو في محادثة لا يقف خلفها أشخاص —، فلا يترك الذكاء الاصطناعي الزائر منتظرًا: يخبره بذلك بوضوح ويعرض عليه قنوات النشاط الأخرى، أو يواصل المساعدة بما يعرفه.

لهذا يوجد حدث الويب هوك `handoff.requested`: يمكن للنشاط الذي يريد منطق تصعيد خاصًا به (تنبيه شخص محدد، أو فتح تذكرة في نظام آخر) أن يرتبط باللحظة نفسها التي انتقلت فيها المحادثة إلى شخص، لا بمهلة زمنية ثابتة.

ما الذي تتحكم فيه فعلًا، عمليًا

لا يوجد معيار واحد للجميع — فالنشاط الذي يجيب عن أسئلة عامة حول المنتجات يمكنه أن يتسامح أكثر من نشاط يعالج حالات فوترة خاصة بحساب ما، حيث تكون للإجابة الخاطئة عواقب حقيقية. ما يحدد السلوك بين يديك: تعليمات المساعد (ما الذي لا يجيب عنه أبدًا وما الحالات التي تنتقل دائمًا إلى شخص)، وساعات عملك، وما إذا كان خلف المحادثة أشخاص.

تزويد الذكاء الاصطناعي بمصادر معرفة أفضل وأحدث هو الرافعة الأكثر فعالية: فالمساعد الذي يملك مادة مصدرية جيدة حقًا يستند إليها في عدد أكبر من الأسئلة الحقيقية، وينقل المحادثات أقل دون أن تضطر إلى تخفيف أي هامش أمان.

المقياس الذي يهم فعليًا

معدّل الحل ليس رقمًا زائفًا — في iNTELIGENCIA VIVA هو حرفيًا ما تُفوتَر على أساسه، بما أن المحادثة المحلولة هي محادثة أغلقها الذكاء الاصطناعي دون تدخّل إنسان. هذا التوافق مقصود: يعني أن الحافز هو أن يكون الذكاء الاصطناعي جيدًا فعلًا وبصدق في الأسئلة التي يتعامل معها، لا أن يعظّم عدد مرات إجابته بصرف النظر عن الدقة.