LLM (Large Language Model) הוא מודל שאומן על כמויות עצומות של טקסט, ותפקידו הבסיסי הוא לחזות את המילה הבאה ברצף. מהיכולת הזו נגזרות היכולות שמעניינות עסק: להבין שאלה, לסכם, לסווג, לתרגם ולנסח. הוא לא מאגר מידע ולא מנוע חיפוש. הוא לא מכיר את העסק שלך ולא יכול לפעול בתוכו בלי שמחברים אליו ידע וכלים. GPT, Claude ו-Gemini הם דוגמאות.
המודל לבד יודע לנסח תשובה מנומסת ומדויקת בעברית ללקוח. הוא לא יודע מה ההצעה האחרונה שנשלחה אליו, מי אחראי על התיק שלו, מה מותר להבטיח ומה כבר סוכם בשיחה הקודמת. הפער הזה נסגר רק כשמחברים למודל את הידע של העסק ואת המערכות שבהן הוא עובד, וזה בדיוק מה שהופך אותו מצעצוע לכלי עבודה.
הטעות השכיחה היא להתייחס ל-LLM כאל מקור אמת. הוא מנסח את מה שנשמע סביר, לא בהכרח את מה שנכון. שאלה על נתון עסקי, מחיר או סעיף בנוהל, בלי חיבור אמיתי למקור מידע, תחזיר תשובה משכנעת מאוד שעלולה להיות שגויה לחלוטין.
טוקן (Token) הוא יחידת הטקסט הבסיסית שמודל שפה עובד איתה, בדרך כלל מילה קצרה, חלק ממילה או…
להגדרה ←Context Window הוא נפח הטקסט המקסימלי שמודל שפה יכול להחזיק בקריאה אחת, ונמדד בטוקנים. הוא…
להגדרה ←הזיות AI (Hallucinations) הן מצב שבו מודל שפה מייצר מידע שגוי ומציג אותו בביטחון מלא: מחיר…
להגדרה ←פרומפט (Prompt) הוא הטקסט שמוזן למודל AI ומגדיר מה הוא צריך לעשות. פרומפט מלא כולל את המשי…
להגדרה ←פגישת אבחון בחינם — נמפה איפה המונחים האלה פוגשים את העסק שלך בפועל.
קבע פגישת אבחון ←