איך לאמת תשובות AI ולמנוע הזיות - פרוטוקול 3 שלבים
שיעור 16 מתוך 16
התשובה הקצרה
הזיית AI היא כשהמודל ממציא עובדות, חוקים או מספרים בביטחון מלא. ב-2026 זה עדיין קורה ב-3-7% מהתשובות, במיוחד בנושאים ספציפיים (חוקים מקומיים, מספרים, שמות, תאריכים). בעל עסק שמשתמש בתשובת AI בלי אימות יכול לשלוח ללקוח מידע שגוי - מה שעלול לעלות באמינות, בכסף, ובמקרים קיצוניים בתביעה. פרוטוקול אימות 3 שלבים מסיר 95% מההזיות. שלב 1 - שאלת מקור 'איך הגעת לזה'. שלב 2 - הצלבה במקור עצמאי (גוגל, מומחה). שלב 3 - מבחן הסבירות. השיעור נותן את הפרוטוקול עם דוגמאות ומראה איך לזהות הזיה ב-30 שניות.
מה זה הזיית AI ולמה זה קורה
הזיה היא כשמודל AI ממציא מידע בביטחון מלא - מספר, ציטוט, שם של ספר, חוק, או עובדה. הסיבה - המודלים אומנו לחזות את המילה הבאה הכי סבירה, לא לבדוק עובדות. אם השאלה דורשת מספר ספציפי שלא נמצא באימון - המודל יבחר מספר 'שנשמע סביר'. ב-2026 הסיכוי להזיה ב-GPT-4 ו-Claude 3.5 הוא 3-7% - נמוך אבל לא אפס. נושאים מסוכנים במיוחד - חוקים מקומיים, סכומים, אחוזים, שמות אנשים, תאריכים, ציטוטים ממאמרים.
טוען את המשך השיעור...