RAG (Retrieval Augmented Generation) הוא דפוס עבודה שבו לפני שהמודל עונה, המערכת מחפשת במאגר הידע של העסק את הקטעים הרלוונטיים לשאלה ומצרפת אותם לפרומפט. כך התשובה מבוססת על מסמכים אמיתיים ועדכניים, ולא רק על מה שהמודל קלט באימון. זו הדרך הנפוצה והזולה ביותר לתת לסוכן ידע ארגוני, והיא גם מאפשרת להצביע על המקור שממנו נשלפה כל תשובה.

לקוח שואל בוואטסאפ מה כולל מסלול השירות ומה תנאי הביטול. המערכת מחפשת במסמכי הנהלים ובמחירון, מוצאת שתי פסקאות רלוונטיות, ומעבירה אותן למודל יחד עם השאלה ועם היסטוריית השיחה. התשובה מדויקת, היא משקפת את המחירון הנוכחי, ואפשר לבדוק בדיוק מאיזה מסמך היא נשענה כשמישהו מערער עליה.
הטעות הנפוצה היא לחשוב ש-RAG פותר בעיות של איכות ידע. אם הנהלים סותרים זה את זה, ישנים או פזורים בשלושה מקומות, הסוכן פשוט יצטט את הבלגן הזה בביטחון מלא. סידור המסמכים והגדרת מקור אמת אחד קודמים לחיבור המודל, לא באים אחריו.
LLM (Large Language Model) הוא מודל שאומן על כמויות עצומות של טקסט, ותפקידו הבסיסי הוא לחז…
להגדרה ←הזיות AI (Hallucinations) הן מצב שבו מודל שפה מייצר מידע שגוי ומציג אותו בביטחון מלא: מחיר…
להגדרה ←Context Window הוא נפח הטקסט המקסימלי שמודל שפה יכול להחזיק בקריאה אחת, ונמדד בטוקנים. הוא…
להגדרה ←Fine-tuning הוא תהליך שבו לוקחים מודל קיים ומאמנים אותו על אוסף דוגמאות ספציפי, כדי שיאמץ …
להגדרה ←פגישת אבחון בחינם — נמפה איפה המונחים האלה פוגשים את העסק שלך בפועל.
קבע פגישת אבחון ←