הזיות AI (Hallucinations) הן מצב שבו מודל שפה מייצר מידע שגוי ומציג אותו בביטחון מלא: מחיר שלא קיים, סעיף בנוהל שמעולם לא נכתב, תאריך מומצא או שם של איש קשר שאין. זו לא תקלה חריגה אלא תוצאה ישירה של אופן הפעולה של המודל, שמנסח את ההמשך הסביר ביותר ולא בודק עובדות. אפשר לצמצם את התופעה משמעותית, אבל לא לאפס אותה.
סוכן שנשאל על תנאי ביטול ואין לו את המסמך בהישג יד, ימציא תשובה שנשמעת סבירה לגמרי. הפתרון המעשי בנוי משלוש שכבות: לשלוף את הנוהל מהמאגר לפני שהוא עונה, להורות לו במפורש לכתוב "אין לי את המידע הזה" כשאין מקור, ולהעביר כל נושא כספי או משפטי לאדם.
הטעות הנפוצה היא לחשוב שמעבר למודל חזק יותר מבטל את הבעיה. מודל טוב יותר אכן טועה פחות, אבל הוא עדיין טועה, ולפעמים בצורה משכנעת יותר. מה שבאמת מקטין הזיות זה גישה למקור מידע אמיתי, וגבולות ברורים לגבי מה שאסור לו לענות עליו לבד.
LLM (Large Language Model) הוא מודל שאומן על כמויות עצומות של טקסט, ותפקידו הבסיסי הוא לחז…
להגדרה ←RAG (Retrieval Augmented Generation) הוא דפוס עבודה שבו לפני שהמודל עונה, המערכת מחפשת במא…
להגדרה ←Human in the Loop הוא עיקרון תכנון שבו סוכן AI לא פועל לבד לאורך כל התהליך, אלא עוצר בנקוד…
להגדרה ←Shadow Mode הוא שלב הרצה שבו הסוכן פועל על תנועה אמיתית אבל לא נוגע בלקוח: הוא מנתח פניות,…
להגדרה ←פגישת אבחון בחינם — נמפה איפה המונחים האלה פוגשים את העסק שלך בפועל.
קבע פגישת אבחון ←