Fine-tuning הוא תהליך שבו לוקחים מודל קיים ומאמנים אותו על אוסף דוגמאות ספציפי, כדי שיאמץ סגנון, פורמט או התנהגות חוזרת. זה משנה את המודל עצמו, בניגוד לפרומפט או ל-RAG שרק מזינים לו מידע בזמן אמת. התהליך דורש מאות עד אלפי דוגמאות איכותיות ועקביות, עולה כסף, ומצריך אימון מחדש בכל פעם שמשהו מהותי בעסק משתנה.
ברוב הפרויקטים העסקיים בישראל פשוט אין בזה צורך. כשהסוכן לא עונה נכון, כמעט תמיד הפתרון הוא הנחיה חדה יותר, דוגמאות טובות יותר וגישה למסמכים הנכונים. Fine-tuning נכנס לתמונה רק כשצריך פורמט פלט קשיח בנפח גדול מאוד, כשיש דאטה נקייה שתומכת בו, וכשכבר מיצו את שאר האפשרויות.
הבלבול הנפוץ הוא לחשוב ש-Fine-tuning מלמד את המודל את הידע של העסק. הוא מלמד אותו איך לענות, לא מה נכון היום. ידע שמשתנה, כמו מחירון, מלאי או נהלים, מזינים דרך RAG. אחרת כל עדכון קטן במחירון יחייב אימון חדש של המודל.
LLM (Large Language Model) הוא מודל שאומן על כמויות עצומות של טקסט, ותפקידו הבסיסי הוא לחז…
להגדרה ←RAG (Retrieval Augmented Generation) הוא דפוס עבודה שבו לפני שהמודל עונה, המערכת מחפשת במא…
להגדרה ←פרומפט (Prompt) הוא הטקסט שמוזן למודל AI ומגדיר מה הוא צריך לעשות. פרומפט מלא כולל את המשי…
להגדרה ←System Prompt הוא ההנחיה הקבועה שנטענת לסוכן לפני כל שיחה ומגדירה את זהותו: מה התפקיד שלו,…
להגדרה ←פגישת אבחון בחינם — נמפה איפה המונחים האלה פוגשים את העסק שלך בפועל.
קבע פגישת אבחון ←