Low-Confidence Escalation - מתי הסוכן לא יודע
התוצר של השיעור
Guardrail שמעביר לאדם ברגע שהסוכן לא בטוח
תקציר השיעור
הסוכן שלכם יתקל בשאלות שלא חזיתם. השאלה היא לא 'האם' אלא 'מתי'. הוא יכול לעשות 2 דברים - 1) להמציא תשובה (זה הזיה / hallucination, מסוכן). 2) להעביר לבן אדם (זה Low-Confidence Escalation, בטוח). חוק הזהב - תכניתו את הסוכן להעביר ברגע שהביטחון שלו בתשובה יורד.
סימנים שהסוכן 'לא בטוח' - 1) השאלה לא דומה לאף שאלה ב-FAQ. 2) השאלה מורכבת עם 2+ נושאים שונים. 3) השאלה כוללת מילים שלא בלקסיקון העסק. 4) הלקוח שואל פעמיים אותה שאלה (סימן שהתשובה לא ברורה). 5) הסוכן מנסה להפיק תשובה ארוכה מ-200 מילים (סימן ל'תיאוריה').
השיעור הזה מלמד איך לבנות את ה-Guardrail הזה ב-System Prompt או דרך לוגיקה ב-Make.
העמקה ב-4 חלקים
בדיקה עצמית
מה הסיכוי שהסוכן שלכם 'יממציא' תשובה אם תשאל אותו שאלה מורכבת? אם הוא בנוי על Claude / GPT-5 בלי Guardrail, סיכוי גבוה. עם Guardrail, סיכוי נמוך מאוד.
המשימה השבועית
השבוע - תוסיפו ל-System Prompt בלוק 'הוראות חוסר ביטחון' עם 5 הסימנים. תבדקו על 3 שאלות לא רגילות שתבחרו - הסוכן צריך לאמר 'אעביר לאדם' בכולן.
הצעד הבא
השיעור הבא מלמד את 3 המטריקות שמודדות הצלחת הסוכן - Lead-to-Qualified, Qualified-to-Meeting, ו-AI CSAT.