הבינה המלאכותית הג'נרטיבית נמצאת בכל מקום. ה-LLM הפכו לכלי עזר לבעלי מקצוע רבים – מיוצרי תוכן ועד מתכנתים. השימוש הנרחב ב-AI מעלה שאלות רבות בתחומי האתיקה, זכויות היוצרים, התעסוקה וההוויה האנושית, וכמובן – הוא מדאיג מאוד את אנשי אבטחת המידע.
חוקרי האבטחה ריצ'ארד פאנג, רואהן בינדו, אקול גופטה ודניאל קאנג ביצעו מחקר שנועד לבדוק את יעילות הבינה המלאכותית בכל הקשור למתקפות סייבר. המסקנה הייתה חד משמעית: בינה מלאכותית היא כלי יעיל מאוד בביצוע מתקפות כאלו.
החוקרים השתמשו ב-15 חולשות היום הראשון (one-day vulnerabilities – חולשות ידועות שכבר קיים עבורן תיקון או בקרה מפצה), כמו למשל אתרי אינטרנט שהתגלו בהן חולשות, חבילות פייתון ועוד. כל החולשות אותרו במסד הנתונים של CVE.
כלי הבינה המלאכותית בהם השתמשו יכלו לגלוש באינטרנט ולטפל בקוד. החוקרים השתמשו בפרומפט מאוד מפורט, שכולל גם שורות רבות של קוד. הממצאים היו מרשימים: ChatGPT הצליח לנצל חולשות אבטחה בנות יום אחד ב-87% מהמקרים. המודל נכשל רק בשני מקרים, בהם היה קושי משמעותי לאתר את החולשות. בחלק מהמקרים, המודל הסתבך בגלל השפה הסינית, ששימשה לתיאור תוכנת הניטור HertzBeat.
החוקרים הסיקו שהסיבה לאחוזי ההצלחה הגבוהים קשורה ליכולת של הכלי לנצל חולשות מרובות שלבים, לבדוק שיטות התקפה שונות ולכתוב קוד לניצול חולשות.
עם זאת, כאשר ChatGPT התבקש לנצל חולשת אבטחה ללא הקוד מ-CVE, הוא לא הצליח להגיע לאותן תוצאות, והציג ירידה של 80% בביצועים.
איך ישפיעו מודלי השפה על חולשות היום הראשון? החוקרים הסיקו של-LLM יש יכולת לנצל חולשות אבטחה של היום הראשון באופן עצמאי, אולם רק GPT-4 הצליח לעשות זאת בפועל, ומודלים קודמים נכשלו. עם זאת, ברור שהיכולות של המודלים ישתכללו בעתיד הקרוב, מה שהופך את ה-LLM לכלי הרסני ורב עוצמה בידיים של פושעים והאקרים. אמנם, ל-AI יותר קל לגלות חולשות אבטחה מאשר לנצלן בפועל, אולם אין ספק שיש צורך בהיערכות משמעותית מצד קהילת הסייבר, על מנת לחשוב, לתכנן ולשלב LLM הגנתי במערכות הממוחשבות השונות.
מהן חולשות היום הראשון?
חולשות one day הן פגיעויות אבטחה בתוכנה שכבר נתגלו ופורסמו בציבור, אולם טרם שוחרר להם טלאי אבטחה והן לא טופלו באופן מלא.
מתקפות המנצלות חולשות אלה מסוכנות במיוחד, כי אין להן עדכוני אבטחה או תיקונים זמינים. האקרים יכולים להשתמש בהן כדי להשיג גישה לא מורשית למערכות, לגנוב מידע רגיש, או להשתלט על מכשירים.
חולשות אבטחה אלה מהוות איום משמעותי על ארגונים ופרטים, ויכולות להיות מנוצלות על ידי מדינות, קבוצות פשע מאורגן, והאקרים עצמאיים למטרות שונות, כולל ריגול, חבלה, וגזל כלכלי. אבטחת סייבר מתקדמת וניטור מתמיד נדרשים כדי להגן על מערכות מפני איומים אלו.
