אבטחת AI ארגונית

רוב הארגונים שפונים אלינו לא מתחילים מאפס — הם מתחילים ממינוס. כלי AI כבר בשימוש יומיומי אצל העובדים, יוזמת LLM כבר רצה במוצר, ואף אחד לא יודע להגיד אילו כלים בשימוש, איזה מידע זורם אליהם ומה הספקים עושים איתו. לתופעה הזו קוראים Shadow AI, והיא נקודת הפתיחה של כמעט כל תהליך: אי אפשר לאבטח את מה שלא מיפית. חשוב להבין ש-Shadow AI איננו בעיית משמעת אלא בעיית היצע — עובדים פונים לכלים חיצוניים כשאין להם חלופה מאושרת שעונה על הצורך. לכן התגובה הנכונה איננה חסימה גורפת (שרק דוחפת את השימוש למכשירים פרטיים, הרחק מכל נראוּת) אלא תהליך מסודר שמחזיר את השליטה בלי לוותר על הערך. הליווי שלנו בנוי כתהליך מדורג בחמישה שלבים — כל שלב מקטין סיכון אמיתי ומייצר את התשתית לשלב הבא, וכל שלב מסתיים בתוצר מוחשי שההנהלה יכולה לראות, לא במצגת.

איך נראה תהליך הליווי

1. מיפוי. תמונת מצב מלאה של נקודות ה-AI בארגון: כלים שבשימוש העובדים (כולל Shadow AI), יישומי LLM/RAG במוצר ובמערכות פנימיות, ספקים והזרמות מידע. התוצר — AI Risk Assessment עם דירוג סיכונים וסדר עדיפויות.
2. מדיניות וממשל. מדיניות שימוש קצרה שנכתבת כדי להיקרא, רשימת כלים מאושרים עם חלופה ארגונית לצרכים הנפוצים, נוהל אישור מהיר לכלים חדשים והגדרת אחריות — מי מחליט, מי בודק, מי מעדכן.
3. בקרות טכניות. תרגום המדיניות לשטח: הגדרות אבטחה בכלים המאושרים, בקרות למניעת דליפת מידע רגיש, ועיצוב בקרות ליישומי LLM/RAG — הרשאות, סינון וניטור בשכבות הנכונות.
4. בדיקות. בדיקת אבטחה יישומית ל-AI שלכם, כולל תרחישי Prompt Injection ישיר ועקיף, ניסיונות חילוץ מידע דרך ההקשר ובחינת הרשאות בפועל. ממצאים עם תיקונים מוגדרים — לא דוח גנרי.
5. ליווי שוטף. הכלים משתנים כל רבעון, וכך גם הסיכונים. עדכון רשימת הכלים והמדיניות, בדיקת ספקים חדשים, בדיקות חוזרות אחרי שינויים מהותיים ומענה לשאלוני אבטחה של לקוחות.

שני עקרונות מלווים את כל השלבים. הראשון — פרופורציה: סטארטאפ של עשרים עובדים לא צריך את אותה מסגרת כמו ארגון בריאות עם מאגרי מטופלים, והתהליך מכויל לגודל, לרגישות המידע ולבשלות הארגון. השני — בעלות בתוך הארגון: אנחנו בונים את המסגרת יחד עם האנשים שלכם ומגדירים מי מחזיק כל חלק ממנה בהמשך, כך שביום שהליווי מסתיים המסגרת לא מתפרקת. את הצד הטכני אנחנו עושים על המערכות האמיתיות שלכם — לא על סביבת דמו — כי ההבדל בין בקרה שנראית טוב במסמך לבקרה שמחזיקה מול קלט עוין מתגלה רק שם.

עקרונות בקרה ליישומי RAG

מערכות RAG הן המקום שבו רוב הארגונים טועים, כי הן נראות כמו פיצ׳ר חיפוש ומתנהגות כמו ערוץ גישה למידע. הדפוס שחוזר על עצמו: מאגר הידע נבנה מכל המסמכים הזמינים — מסמכי HR, סיכומי הנהלה, חוזי לקוחות — והמודל מגיש מהם תשובות לכל מי ששואל. התוצאה היא עקיפה שקטה של כל מערך ההרשאות שהארגון בנה במשך שנים, בלי שאף בקרה קיימת התריעה. שלושה עקרונות עומדים בבסיס הבקרה:

מוכנות ל-ISO 42001

ISO/IEC 42001 — תקן מערכת ניהול ה-AI הבינלאומי — הופך בהדרגה לדרישה בשאלוני אבטחה של לקוחות אנטרפרייז, במכרזים ובביקורות ספקים. היתרון של התהליך שלנו הוא שהוא בנוי מראש לפי הלוגיקה של התקן: מיפוי הסיכונים, המדיניות, הבקרות והתיעוד שנוצרים בליווי הם בדיוק אבני הבניין של מערכת ניהול AI (AIMS). ארגון שסיים את התהליך יכול להחליט אם להמשיך להסמכה מלאה מול גוף מסמיך או להסתפק במוכנות מוכחת — ובשני המקרים יש לו תשובות מתועדות לכל מי ששואל, במקום להתחיל פרויקט חדש בכל פעם ששאלון נוחת. ולמי שמעבד מידע אישי במערכות AI, המסגרת מתחברת ישירות לעבודת הציות סביב תיקון 13: הסכמי עיבוד מול ספקי AI, שקיפות כלפי נושאי המידע ואבטחת מידע לפי התקנות — אבטחה ופרטיות ב-AI הן אותה שאלה, ואנחנו מטפלים בהן כמקשה אחת.