אבטחת מידע ביישומי בינה מלאכותית: איך להגן על נתונים עסקיים

שילוב כלי בינה מלאכותית בפעילות היומיומית של חברות מעלה שאלות מהותיות לגבי פרטיות וסודיות עסקית. במאמר זה נסביר כיצד פועלת אבטחת מידע ביישומי בינה מלאכותית, אילו מנגנונים טכנולוגיים מונעים דליפת סודות מסחריים, וכיצד מנהלי מערכות מידע ומנהלי אבטחה מוודאים שהנתונים הארגוניים נשארים מבודדים ומוגנים.

החשש המרכזי: האם המידע העסקי מגיע לעיניים זרות או מאמן מודלים?

תשובה ישירה: כלים ציבוריים עשויים לשמור נתוני משתמשים לצורכי שיפור, אך סביבות AI ארגוניות פועלות בתנאים ארגוניים ובתשתיות ענן מבודדות, שבהן הנתונים אינם משמשים לאימון המודלים.

כאשר עובדים מדביקים דוחות כספיים, רשימות לקוחות או נוסחאות תמחור בצ'אטים ציבוריים ברשת, המידע עלול להישמר בשרתי הספקית, להירשם ביומני שיחות ואף לשמש לאימון גרסאות עתידיות של המודל. מצב זה מהווה סכנה מוחשית של חשיפת סודות מסחריים, ומכאן נובעת הרתיעה הטבעית של צוותי אבטחת מידע.

לעומת זאת, בעת הטמעת בינה מלאכותית בארגון בצורה מאובטחת, המבנה הטכנולוגי שונה. ארגונים עובדים בתשתיות ענן ייעודיות ובתנאים ארגוניים מחייבים. ב-WizBI, למשל, מודלי ה-AI רצים בתוך Google Cloud בתנאים ארגוניים, והנתונים לא משמשים לאימון שלהם. הקלטים (Prompts) והפלטים (Outputs) משמשים להפקת התשובה, ואינם הופכים לחלק מהמודל.

אבטחת מידע ביישומי בינה מלאכותית: מודל העבודה של שליפת מידע מבודדת

תשובה ישירה: במקום לאמן מודל ישירות על הנתונים שלכם, מיישמים ארכיטקטורת שליפה שמעבירה למודל רק את פיסת המידע הרלוונטית לצורך ניסוח התשובה לאותה שאילתה ספציפית.

הטעות הנפוצה ביותר היא המחשבה שכדי שמודל שפה יענה על שאלות עסקיות, יש צורך "לאמן" אותו על מסמכי החברה. אימון מודל (Fine-Tuning) הוא תהליך יקר ומורכב, ומעל הכל – הוא מקבע את המידע בתוך המודל עצמו ומקשה על בקרת הרשאות.

הדרך התקנית לשמירה על הגנה על מידע עסקי במודלי שפה מבוססת על ארכיטקטורת שליפה מבוססת הקשר (Retrieval-Augmented Generation):

1. שאילתה מהעובד: המשתמש שואל שאלה עסקית (למשל בוואטסאפ או בטימס).
2. אימות זהות והרשאות: המערכת בודקת מיהו המשתמש ולאילו מסדי נתונים מותר לו לגשת.
3. שליפת נתונים ממוקדת: השכבה הארגונית שולפת את הנתונים המדויקים מתוך מסד הנתונים או הקובץ הפנימי בלבד.
4. בניית הקשר מאובטח: הנתונים שנשלפו נשלחים יחד עם שאלת העובד אל המודל כהקשר לעיבוד שפתי.
5. הפקת התשובה: המודל מעבד את הטקסט ומחזיר תשובה מנוסחת בעברית. המידע לא נשמר בתוך המודל ולא משמש לאימונו.

בשיטה זו, מודל השפה משמש כמנוע לעיבוד טקסט, ולא כמאגר אחסון של המידע הארגוני.

השוואה: שימוש ב-AI ציבורי לעומת שכבת בינה מלאכותית ארגונית

הטבלה הבאה מציגה את ההבדלים המרכזיים בין הזנת מידע ארגוני לכלי צ'אט ציבוריים לבין עבודה מבוקרת עם פלטפורמת AI ארגונית:

צ'אט ציבורי עדיין מתאים למשימות כלליות, כמו ניסוח טקסט או סיעור מוחות, כשלא מעורב בהן מידע רגיש של החברה.

בידוד נתונים בארגון: הפרדת סביבות והצפנה

תשובה ישירה: בידוד מידע מונע ערבוב בין נתונים של חברות שונות, והנתונים מוצפנים בתעבורה ובאחסון בתוך סביבת ענן סגורה.

כדי לשמור על בידוד נתונים בארגון, פלטפורמות AI ארגוניות נדרשות לפעול בסביבת ענן מאובטחת. WizBI, למשל, רצה על Google Cloud, ומודלי ה-AI רצים בתוך Google Cloud בתנאים ארגוניים. בידוד זה מתבטא בכמה רבדים:

הצפנה בתעבורה ובאחסון

כל נתון הנע בין מאגרי המידע הארגוניים לבין שכבת ה-AI מועבר בערוצים מוצפנים. הנתונים הנשמרים במערכת (כגון הגדרות חיבורים ויומני פעילות) מוצפנים גם באחסון.

בידוד בין ארגונים

לכל חברה מוקצה מרחב נתונים מבודד. הנתונים, ההגדרות והחיבורים של כל ארגון מופרדים, כך ששאילתה של ארגון אחד לא נוגעת במידע של ארגון אחר.

חיבור ללא פתיחת פורטים נכנסים

אחד החששות של מנהלי תשתיות נוגע לחיבור מסדי נתונים מקומיים (On-Premises) לבינה מלאכותית. בפתרונות מאובטחים, החיבור מתבצע באמצעות סוכן תוכנה הפועל ברשת המקומית ויוזם תקשורת יוצאת בלבד דרך ערוץ מוצפן, ללא צורך לפתוח פורטים נכנסים בחומת האש (Firewall) של החברה.

ניהול הרשאות ובקרת גישה ברמת המשתמש הבודד

תשובה ישירה: גם אם המערכת מחוברת לכל מאגרי המידע בחברה, כל עובד מקבל תשובות אך ורק מתוך המקורות שהוגדרו עבורו מראש.

ארגון כולל מחלקות שונות עם רמות סיווג שונות: הנהלת חשבונות, משאבי אנוש, שיווק, תפעול ורכש. כאשר מטמיעים בוט נתונים לעובדים בתוך ערוצי התקשורת הארגוניים, עולה השאלה: האם עובד זוטר יוכל לשאול את ה-AI על נתוני שכר או על רווחיות פרויקטים רגישים?

מערכת אבטחה ארגונית מונעת זאת באמצעות ניהול הרשאות פרטני:

• שיוך לתפקידים וקבוצות: המערכת מגדירה לאילו מערכות ומסמכים יש לכל קבוצת משתמשים גישה (למשל: אנשי מכירות רואים הזמנות לקוח, מנהלי תפעול רואים נתוני מלאי).
• אחידות הרשאות בין ערוצים: בין אם העובד פונה למערכת דרך וואטסאפ, Microsoft Teams, Slack או ממשק Web, המערכת מזהה את המשתמש ומפעילה בדיוק את אותם כללי בקרת גישה.
• עדכון הרשאות כשתפקיד משתנה: כשעובד עובר תפקיד או עוזב את החברה, מעדכנים את השיוך שלו לקבוצה, וההרשאות שלו מתעדכנות בכל הערוצים.

עמידה בתקני אבטחה ורגולציה: חשיבות תקן ISO 27001

תשובה ישירה: תקנים רשמיים מוודאים שספקית ה-AI מנהלת את הסיכונים, התשתיות ותהליכי הפיתוח לפי נהלים בינלאומיים מפוקחים.

בחירה בספק בינה מלאכותית מחייבת בדיקת נאותות של רמת האבטחה והעמידה בתקנים. תקן ISO/IEC 27001:2022 הוא תקן בינלאומי מוכר לניהול אבטחת מידע. WIZBI.AI LTD מוסמכת לתקן זה.

הסמכה לתקן מעידה על כך שהחברה מקיימת:

• בקרות על הגישה לתשתיות השרתים וניהול המפתחות.
• נהלי פיתוח מאובטחים המונעים פרצות קוד וזליגת נתונים.
• ביקורות תקופתיות של גופי הסמכה בלתי תלויים.
• תוכניות רציפות עסקית וניהול אירועי סייבר.

למידע נוסף על אופן ניהול מסמכים ומערכות קבצים ארגוניות תוך שמירה על עקרונות אלו, ניתן לקרוא על ניהול ידע בארגון באמצעות בינה מלאכותית.

יומני ביקורת וניטור פעילות: פיקוח על כל שאלה

תשובה ישירה: כשכל שאלה מתועדת, מנהלי האבטחה יכולים לבדוק בדיעבד מי שאל, מתי ועל מה.

היבט מרכזי של אבטחת מידע הוא היכולת לבצע בקרה בדיעבד (Auditability). ב-WizBI כל שאלה מתועדת ביומן פעילות.

יומנים אלו מאפשרים לצוותי אבטחת מידע לזהות חריגות, לאתר ניסיונות של עובדים לחפש מידע שאינו בתחום אחריותם, ולשמור על שקיפות מול דרישות רגולטוריות במגזרים רגישים כגון פיננסים, בריאות וקמעונאות.

סיכום והטמעה בטוחה בארגון

יישום בינה מלאכותית בעסק אינו חייב לבוא על חשבון פרטיות או סודיות מסחרית. בעזרת ארכיטקטורת שליפה מבודדת, הצפנה בתעבורה ובאחסון, עמידה בתקן ISO/IEC 27001 והרשאות לפי ארגון, קבוצה ומשתמש, חברות יכולות להנגיש את המידע הארגוני לעובדים בצורה מאובטחת.

רוצים לבחון כיצד לחבר את הנתונים העסקיים שלכם לשכבת בינה מלאכותית מאובטחת? ניתן לפנות ישירות לצוות שלנו בשיחה בוואטסאפ (055-989-2317) או בדוא"ל contact@wizbi.ai.