מאגר ידע ארגוני ל-AI בלי צוות פיתוח: RAG בפשטות

מאגר ידע ארגוני ל-AI הוא מערכת שמאפשרת למודל שפה לענות על שאלות מתוך המסמכים שלכם, ולא מתוך הזיכרון הכללי שלו. השיטה נקראת RAG, והיא פשוטה יותר ממה שהשם מרמז: שומרים את המסמכים במאגר חיפוש, ובכל שאלה שולפים את הקטעים הרלוונטיים ומצרפים אותם למודל. בונים את זה היום בלי צוות פיתוח, עם Supabase ו-n8n או עם Claude Code, ביום עד שלושה ימים. במאמר הזה נסביר איך זה עובד, מה צריך, כמה זה עולה, ומה נשבר לנו בדרך.

מה זה RAG, בלי מילים גדולות?

דמיינו עובד חדש שמקבל שאלה. הוא לא יודע את התשובה בעל פה, אז הוא ניגש לארון המסמכים, מוצא את שני העמודים הרלוונטיים, קורא אותם, ועונה. זה RAG. המודל הוא העובד החדש. מאגר הידע הוא הארון. החיפוש הוא מי שמוצא את העמודים הנכונים.

למה זה חשוב: בלי RAG, המודל עונה מהזיכרון הכללי שלו, ואין לו מושג מה מדיניות החופשות שלכם. עם RAG, הוא עונה מתוך המסמך האמיתי, ויכול לצטט אותו. ולמה זה לא אימון: אימון מודל יקר, איטי, וקשה לעדכון. ב-RAG מחליפים מסמך וזהו. זה הבסיס לרוב הצ׳אטבוטים הארגוניים, ולסוכנים שצריכים ידע. על ההבדל ביניהם כתבנו במאמר ההבדל בין צ׳אטבוט, אוטומציה וסוכן.

ממה בנוי מאגר ידע ארגוני ל-AI?

ארבעה רכיבים, וכל אחד הוא החלטה קטנה:

1. המסמכים. נהלים, מדריכי מוצר, שאלות נפוצות, תמלולי הדרכות. בפורמט שאפשר לקרוא כטקסט. זה הרכיב שלוקח הכי הרבה זמן, כי צריך לנקות, לעדכן ולמחוק סתירות.
2. חיתוך לקטעים. מסמך של 40 עמודים לא נשלח כולו. חותכים אותו לקטעים של כמה מאות מילים, רצוי לפי כותרות. חיתוך גרוע הוא הסיבה הנפוצה ביותר לתשובות חלקיות.
3. מאגר חיפוש (vector store). כל קטע מקבל ייצוג מספרי שמאפשר לחפש לפי משמעות, לא רק לפי מילים. Supabase עם pgvector עושה את זה בחינם בהתחלה, ויש גם כלים מובנים ב-n8n.
4. המודל וההנחיה. המודל מקבל את השאלה ואת הקטעים, ועונה. ההנחיה קובעת את הכללים: לצטט, לא להמציא, להעביר לאדם כשאין מקור.

הכל נבנה עם הכלים שתיארנו במרכז הנושא בניית מוצרים עם AI. מי שמעדיף ויזואלי בונה ב-n8n. מי שרוצה שליטה מלאה מבקש מ-Claude Code לבנות את זה כקוד.

איך בונים מאגר ידע בלי צוות פיתוח, צעד אחרי צעד?

ככה בנינו מאגר ידע לצוות משאבי אנוש בחברת טכנולוגיה של כ-600 עובדים. הצוות עצמו, בלי מפתחים, אחרי סדנה של יום. המספרים אמיתיים.

1. איסוף 50 שאלות אמיתיות (שעתיים). מהמיילים ומהצ׳אט של החודש האחרון. לכל שאלה כתבו את התשובה הנכונה ואת המסמך שהיא מגיעה ממנו. זה גם סט הבדיקות.
2. ניקוי מסמכים (יומיים). 140 מסמכים הפכו ל-62. מחקו גרסאות ישנות, איחדו כפילויות, הוסיפו תאריך עדכון לכל מסמך. זה היה השלב החשוב ביותר.
3. העלאה למאגר (שעה). workflow ב-n8n שקורא תיקייה, חותך לקטעים לפי כותרות, ושומר ב-Supabase. 62 מסמכים, 1,900 קטעים.
4. הנחיה ובדיקה (יום). הנחיה עם שלושה כללים: לצטט את שם המסמך, לענות רק מהקטעים שהתקבלו, ולהגיד ״לא מצאתי, מעביר לנציג״ כשאין מקור. הרצה על 50 השאלות: 74% דיוק בגרסה הראשונה.
5. שיפור (יומיים). תיקון החיתוך של 8 מסמכים ארוכים, הוספת כותרות למסמכים שלא היו להם, והגדלת מספר הקטעים שנשלפים מ-3 ל-5. הדיוק עלה ל-91%.
6. פתיחה הדרגתית. שבועיים לצוות משאבי אנוש בלבד, עם לוג של כל שאלה ותשובה. אחר כך לכל העובדים, בערוץ אחד.

אחרי חודשיים: כ-280 שאלות בשבוע, 83% נענות בלי מגע אנושי, וזמן התגובה הממוצע ירד מ-5 שעות ל-20 שניות. העלות: כ-30 דולר בחודש. הצוות חוסך לפי הערכתו 9 שעות בשבוע. על השלב הבא, כשהמאגר הופך לכלי של סוכן, יש לנו את המדריך סוכן AI עם n8n.

מה ההבדל בין RAG לאימון מודל ולחיפוש רגיל?

ברוב הארגונים התשובה היא RAG. אימון מודל כמעט אף פעם לא נדרש לשאלות על מסמכים.

מה נשבר לנו בדרך, ואיך תיקנו?

• מסמכים סותרים. שני נהלים על אותו נושא, אחד ישן ואחד מהשנה. המודל ציטט את הישן. תיקון: תאריך עדכון בכל מסמך, והנחיה להעדיף את החדש. ועדיף: למחוק את הישן.
• קטעים שנחתכו באמצע. טבלה שנחתכה לשניים נתנה תשובה חצי נכונה. תיקון: חיתוך לפי כותרות, וטבלאות כקטע שלם.
• שאלות מחוץ לתחום. עובדים שאלו על דברים שאין במאגר, והמודל ניסה לעזור. תיקון: הכלל ״לא מצאתי, מעביר לנציג״, בלי יוצאים מן הכלל.
• מידע רגיש. מסמך שכר נכנס בטעות לתיקייה. תיקון: תיקיית מקור אחת מוגדרת, סריקה לפני העלאה, והרשאות לפי קבוצה.
• בלי לוג. בשבוע הראשון לא ידענו מה נשאל. תיקון: טבלה של שאלה, קטעים שנשלפו, תשובה, ומשוב של אגודל. מהלוג הזה הגיעו רוב השיפורים. על ניטור בהרחבה: ניטור ואמון בסוכני AI.

מתי מאגר ידע כזה לא מתאים?

כשהידע לא כתוב. אם התשובות נמצאות בראש של שלושה אנשים ותיקים ולא במסמכים, RAG לא יעזור עד שיכתבו אותן. במקרה כזה השלב הראשון הוא תיעוד, לא AI. וכשהשאלות דורשות פעולה (״תעדכן לי את הכתובת״), צריך סוכן עם כלים, לא מאגר ידע. מאגר הידע יהיה אחד מהכלים שלו.

כמה עולה מאגר ידע ארגוני ל-AI, ומה התחזוקה?

העלות מפתיעה לטובה. במאגר של כ-400 מסמכים לצוות שירות, עלות האחסון והחיפוש הייתה פחות מ-10 דולר בחודש, וקריאות המודל לכ-2,000 שאלות בחודש עלו עוד כ-25 דולר. ההוצאה האמיתית היא זמן אדם: מישהו צריך להיות אחראי על המאגר.

1. בעלות. אדם אחד מחליט מה נכנס, מה יוצא, ומתי מעדכנים. בלי זה המאגר מתיישן תוך חודשיים.
2. שגרת עדכון. אצלנו: כל שינוי במדיניות או במוצר מעדכן את המסמך באותו יום, והמאגר מתרענן אוטומטית בלילה.
3. בדיקה חודשית. 20 שאלות קבועות שמריצים פעם בחודש ומשווים לתשובה הנכונה. כשהדיוק יורד מתחת ל-85%, מחפשים את המסמך שהתיישן.
4. לוג שאלות ללא תשובה. זה המקור הטוב ביותר למסמך הבא שצריך לכתוב.

רוצים לבנות מאגר ידע כזה עם הצוות שלכם ביום סדנה אחד? לסדנאות.