4 כשלי הסוכן - הזיות, Scope Creep, פרטיות, חוסר fallback
שיעור 14 מתוך 16
התשובה הקצרה
ב-2026 סוכני AI עדיין נכשלים, וההכרה ב-4 הכשלים הקלאסיים מאפשרת למנוע מהם 90%. כשל 1 - הזיות (Hallucinations) - הסוכן 'ממציא' מידע שלא קיים (מחיר שלא נכון, טיפול שלא תיים, שירות שלא מציעים). כשל 2 - Scope Creep - הסוכן 'נגרר' לטפל בנושאים שמחוץ לתחום שלו (ייעוץ משפטי, רפואי, פיננסי). כשל 3 - דליפת פרטיות - הסוכן חושף מידע על לקוחות אחרים (בכוונה או בטעות). כשל 4 - חוסר fallback - הסוכן נתקע בלי דרך להעביר לאדם, או מעביר באיחור. לכל אחד מ-4 הכשלים יש Guardrails ספציפיים שצריך לכתוב ב-System Prompt. עסק עם 4 Guardrails ב-System Prompt גורר 5%-10% כשלים. עסק בלי - 25%-40% כשלים. השיעור נותן את כל ה-Guardrails הספציפיים מילה במילה.
כשל 1 - הזיות (Hallucinations)
הזיה היא כשהסוכן ממציא מידע בביטחון מלא. דוגמה - לקוחה שואלת 'כמה עולה טיפול לייזר?' והסוכן עונה '1,200 ₪' למרות שהמחיר באמת 2,400. במקור - הסוכן לא ידע את המחיר ו-LLM 'מילא חלל' עם מספר מתקבל על הדעת. Guardrail - ב-System Prompt תוסיפו - 'אסור לציין מחיר, משך, זמן החלמה או כל פרט טיפול ספציפי שלא מופיע ב-Knowledge Base שלך. אם לקוח שואל ואין לך תשובה ודאית - אמור 'אני אעדכן אותך אחרי שאוודא עם הצוות' או 'אתאם לך פגישת אבחון לקבלת מענה מדויק'.' עם Guardrail זה, ההזיות יורדות מ-25% ל-3%.
טוען את המשך השיעור...