אבטחת מידע ו-AI בארגון: 7 כללים שעובדים
אבטחת מידע ו-AI בארגון בלי לחסום את השימוש: 7 כללים שהטמענו בחברת טכנולוגיה גלובלית, מה כל כלל מונע, ואיך מלמדים אותם ב-20 דקות.
נכתב על ידי צוות היישום של RealAI · 5 דקות קריאה · עודכן לאחרונה:
אבטחת מידע ו-AI בארגון הן לא סיבה לחסום את הכלים, אלא סיבה לתת לעובדים חשבון ארגוני ושבעה כללים ברורים. הסיכון השכיח הוא לא פריצה מתוחכמת. הוא עובד שמדביק תמליל שיחה עם לקוח לכלי חינמי כי לא היה לו משהו אחר. בחברת טכנולוגיה גלובלית שליווינו, שבעת הכללים האלה הוטמעו ב-20 דקות של תדרוך, 94% מהעובדים השלימו אותו תוך שבועיים, והשימוש בחשבונות פרטיים ירד מ-31% לפחות מ-5% תוך רבעון. הנה הכללים, מה כל אחד מונע, ואיך מלמדים אותם.
למה אבטחת מידע ו-AI בארגון היא לא סיבה לחסום?
בארגון שחסם גישה לכלי AI ברשת הארגונית, שאלנו עובדים בסקר אנונימי אם השתמשו בכלי AI לעבודה בכל זאת. 31% אמרו כן, בטלפון או בחשבון פרטי במחשב הביתי. הארגון לא מנע שימוש. הוא רק העביר אותו למקום שבו אין לו לוגים, אין הסכם עם הספק, ואין מי לשאול.
חשבון ארגוני לכלי AI: חשבון שהארגון פותח אצל הספק, עם ניהול משתמשים מרכזי, התחייבות חוזית שהנתונים לא משמשים לאימון מודלים, לוגים של שימוש, ואפשרות לחסום או לנתק משתמש. ההבדל בינו לבין חשבון פרטי הוא ההבדל בין מידע בשליטה למידע שיצא.
הגישה שעבדה לנו: לפתוח, לא לחסום. חשבון ארגוני לכולם, שבעה כללים שכולם מכירים, וערוץ דיווח שלא מעניש. עם זה בידיים, אבטחת המידע הופכת משומר הסף לשותף של ההטמעה. ההקשר המלא נמצא במרכז הנושא הטמעת AI בארגון.
מה 7 הכללים?
אלה הכללים שנכנסו לעמוד המדיניות ולתדרוך. כל כלל הוא משפט אחד, ואחריו למה.
- עובדים רק בחשבון הארגוני. לא בחשבון פרטי, לא בגרסה חינמית, גם אם זה אותו כלי. בחשבון הארגוני הספק מתחייב לא לאמן על הנתונים, ויש לנו לוגים. בפרטי אין כלום. זה הכלל שמונע את רוב הדליפות.
- לא מכניסים פרטים מזהים של אנשים. שמות עם תעודת זהות, טלפון, כתובת, מידע רפואי או פיננסי של לקוחות ועובדים. לפני שמדביקים תמליל או טבלה, מוחקים או מחליפים את המזהים. בצוות השירות שליווינו, זה היה השינוי הגדול ביותר בהרגלים: הם עבדו עם תמלילים כל היום.
- לא מכניסים סודות. סיסמאות, מפתחות API, מספרי כרטיסים, פרטי גישה. נשמע מובן מאליו, ובכל זאת שניים מתוך ארבעת הדיווחים הראשונים שקיבלנו היו על מפתח API בתוך קוד שהודבק לכלי.
- מידע סודי רק בכלים שאושרו לרמה הזו. תוכניות שלא פורסמו, נתונים פיננסיים לפני דיווח, חוזים. הרשימה המאושרת מציינת ליד כל כלי לאיזו רמת מידע הוא מתאים. אם לא כתוב, לא מכניסים.
- כל פלט שיוצא החוצה עובר עין אנושית. מייל ללקוח, מסמך לרגולטור, פרסום, החלטה עסקית. המודל ממציא לפעמים, בביטחון מלא. העובד אחראי לתוצר, לא הכלי. הכלל הזה הוא על אבטחה בדיוק כמו על איכות: פלט שגוי ללקוח הוא אירוע.
- לא מחברים כלי AI למערכות ארגוניות בלי אישור. תוספים, הרחבות דפדפן, חיבור למייל או לדרייב. חיבור כזה נותן לכלי גישה למידע שלא התכוונתם לחשוף. יש טופס בקשה, ותשובה תוך 10 ימי עבודה.
- מדווחים על תקלה תוך 24 שעות, בלי עונש. הודבק מידע אסור בטעות? פלט שגוי יצא ללקוח? כתובת אחת, הודעה קצרה. הדיווח עצמו לא גורר שום סנקציה. בלי הכלל הזה, ששת הקודמים הם נייר.
מה ההבדל בפועל בין חשבון פרטי לחשבון ארגוני?
זו השאלה שעובדים שואלים הכי הרבה, ובצדק: “זה אותו כלי, מה ההבדל?” ההבדל הוא לא בממשק. הוא במה שקורה לנתונים.
| שיקול | חשבון פרטי או חינמי | חשבון ארגוני |
|---|---|---|
| שימוש בנתונים לאימון | לפעמים כן, לפי ברירת מחדל | התחייבות חוזית שלא |
| מי רואה את ההיסטוריה | רק העובד, גם אחרי שעזב | הארגון, עם לוגים |
| ניתוק כשעובד עוזב | אין | מיידי, מרכזי |
| הרשאות לפי רמת מידע | אין | ניתן להגדיר |
| הסכם עיבוד נתונים | אין | חתום |
| עלות | חינם או אישי | כמה עשרות דולרים למשתמש בחודש |
כשמציגים את הטבלה הזו לעובדים, הוויכוח נגמר. כשמציגים אותה להנהלה, התקציב לרישיונות ארגוניים מאושר. העלות של חשבון ארגוני קטנה מהעלות של אירוע דליפה אחד.
עוד דבר שעזר: לא פתחנו חשבון ארגוני רק למי שביקש. פתחנו לכולם, באותו יום, עם הודעה קצרה מהמנהל הישיר. עובד שיש לו חשבון ארגוני פתוח לא מחפש אלטרנטיבה בטלפון. עובד שצריך לבקש, מחכה, ובינתיים משתמש במה שיש.
איך מלמדים את הכללים ב-20 דקות?
תדרוך ארוך לא נזכר. ככה בנינו 20 דקות שהחזיקו:
- 3 דקות: למה פתחנו ולא חסמנו. המספר של 31% שימוש בחשבונות פרטיים. העובדים מבינים שהמדיניות היא בשבילם.
- 7 דקות: שבעת הכללים, עם מקרה לכל אחד. לא “אסור להכניס פרטים מזהים”, אלא “הנה תמליל שיחה, הנה מה מוחקים לפני, הנה איך זה נראה אחרי”.
- 5 דקות: טבלת רמות המידע. פומבי, פנימי, סודי, מוגבל. רוב העבודה היומיומית היא “פנימי” ומותרת. זה המסר שמרגיע.
- 3 דקות: איך מדווחים. הכתובת, מה כותבים, ושאין עונש. סיפור של דיווח אמיתי שנגמר טוב.
- 2 דקות: שאלון של 5 שאלות. לא מבחן. בדיקה שהבנתם, עם משוב מיידי.
המנהל הישיר מציג את התדרוך בישיבת צוות, או עוקב אחרי ההשלמה של ההקלטה. 94% תוך שבועיים לא קרה בגלל התוכן. זה קרה בגלל שהמנהלים ראו מי לא השלים. התדרוך הזה הוא גם חלק מההרצאות שלנו לארגונים, כשהנהלה רוצה שכל העובדים ישמעו את אותו מסר באותו יום.
מה עושים כשקורית תקלה?
תקלות יקרו. בחודש הראשון אחרי התדרוך קיבלנו 9 דיווחים. זה היה סימן טוב, לא רע: לפני התדרוך קיבלנו אפס, ולא כי לא היו תקלות.
התהליך שהגדרנו, בארבעה צעדים: לקבל את הדיווח ולהודות לעובד, תוך 24 שעות. לבדוק מה הוכנס ולאן: בחשבון ארגוני אפשר למחוק את השיחה ולבקש מהספק מחיקה. להחליט אם זה אירוע שמחייב דיווח לפי רגולציה, עם משפטית. ולהוסיף את המקרה, בלי שם, לתדרוך הבא.
הכלל שחזרנו עליו בכל דיווח: מי שדיווח עשה את הדבר הנכון. ברגע שעובד אחד נענש על דיווח, הדיווחים נפסקים והתקלות ממשיכות בשקט.
מתוך 9 הדיווחים, 7 היו “הדבקתי תמליל בלי למחוק שם”, והטיפול היה מחיקת השיחה. 2 היו מפתח API בקוד, והטיפול היה החלפת המפתח. אפס אירועים שחייבו דיווח חיצוני. ברבעון השני היו 3 דיווחים. בשלישי, 1.
מה משתנה כשמתחילים לבנות סוכנים?
שבעת הכללים מכסים שימוש של עובדים בכלים. כשצוותים מתחילים לבנות אוטומציות וסוכנים, שמריצים מודל על נתונים בלי אדם באמצע, מתווספים שלושה דברים: הרשאות מינימליות לכל סוכן, לוג של כל ריצה, ואישור אנושי לפעולות בלתי הפיכות. על זה כתבנו בנפרד בניטור ואמון בסוכני AI. עמוד המדיניות המלא, שבו שבעת הכללים הם סעיף אחד מתוך עשרה, נמצא במדיניות שימוש ב-AI בארגון.
רוצים שכל העובדים ישמעו את שבעת הכללים באותו יום, עם דוגמאות מהעבודה שלהם? להרצאות.