ריאיוןבובי גילבורד מ-Team8: "יותר אנשים ייפלו בפח של בינה מלאכותית גנרטיבית"
ריאיון
בובי גילבורד מ-Team8: "יותר אנשים ייפלו בפח של בינה מלאכותית גנרטיבית"
גילבורד, מומחה החדשנות של הקבוצה, חתן פרס ביטחון ישראל ואל"מ במיל' ביחידה 8200, מסביר ש"אם פעם היה קל לזהות פישינג, במיוחד בעברית, בזכות AI השפה כבר לא מחסום"; והוא חוזה: "בקרוב נראה הגבלות ממשלתיות על הטכנולוגיה הזו"
בובי גילבורד, Chief innovation Officer בקבוצת ההון־סיכון Team8 ואל"מ במיל' ביחידה 8200, הופתעת כששמעת על מתקפת הכופרה נגד בית החולים מעייני הישועה השבוע?
“לא הופתעתי, כי זו לא תקיפת הכופרה הראשונה בישראל, וגם לא הראשונה על מוסד רפואי. אנחנו בורג קטן, ותקיפות כאלו, שהמטרה שלהן היא להשיג כסף, קורות ברחבי העולם. ההבדל הוא לא בין ארגונים שמותקפים או לא, אלא בזמן ההתאוששות, באיך הם מגיבים למתקפה. יש ארגונים שתקיפה כזו מורידה אותם לברכיים עד כדי יציאה מכלל פעולה. אחרים מקבלים מכה קטנה בכנף וחוזרים לפעולה אחרי כמה שעות.
“במובנים מסוימים תקיפה כזו היא בלתי נמנעת. אף אחד לא נפל מהרגלים שמוסד רפואי הותקף בכופרה. אלו תקיפות שקורות במאסות ברחבי העולם. זו לא תקיפה שמכוונת למוסד ספציפי, אלא כזו שנעשית בשיטת ריסוס. משמישים איזשהו אמל”ח וסורקים בצורה רחבה עשרות אלפי אתרים, כדי למצוא את אלו שאליהם מצליחים להיכנס. אחד מאלף מצליחים להיכנס, ומתוכם אחד מאלף משלמים. כשעושים את זה במספרים גדולים מגיעים להרבה אתרים. זו תופעה עולמית. לפי כל הסקרים שאנחנו עורכים ב־Team8, מתקפות כופרה הן בעלייה דרמטית. זה שוק שרק הולך ומתגבר, בין השאר גם בגלל הכניסה של בינה מלאכותית גנרטיבית”.
עוד מעט נדבר על התפקיד של AI במתקפות סייבר. אבל לפני זה, בוא נבין מה האנטומיה של מתקפת כופר.
“הרבה פעמים זה מתחיל בפישינג. שולחים מייל זדוני בתפוצה רחבה, ואחד העובדים פותח אותו ומריץ קובץ זדוני או גולש לאתר זדוני. זה משהו שאפשר למנוע על ידי חינוך, איך לזהות דברים חריגים. למשל אם השפה עילגת, הדומיין הוא לא הדומיין האמיתי של השולח או משהו קצת שונה. יש כלים אוטומטיים שמאפשרים לחסום מיילים כאלו ברמה הארגונית. אבל במקרה של תקיפת פישינג מסורתית המענה הטוב ביותר הוא חינוך, וזה לא משנה אם של המנהל או של פקידת הקבלה. זה קו ההגנה הראשון.
“בהינתן שהעובד פתח מייל כזה, פה נכנסים מוצרי הגנה אוטומטיים שאמורים לזהות פנייה מדומיין חריג ולעצור שם את המתקפה. זה משהו שקורה עשרות אם לא מאות פעמים ביום במדינת ישראל. כנראה שקו ההגנה הזה לא עבד במעייני הישועה. ייתכן שהמוצר לא היה מספיק חזק או מספיק עדכני, כי התוקפים כל הזמן משנים תקיפות. ותמיד יכול להיות שמדובר בתקיפה שמבוססת על חולשת אבטחה ייחודית ולא מוכרת, מה שמכונה זירו־דיי (Zero Day). יש שוק שבו קונים את החולשות האלו, ואורך החיים שלהן יכול להיות קצר מאוד. לכן התוקפים יורים לכל הכיוונים, מרססים רחב במטרה לתקוף כמה שיותר ארגונים. מוצר הגנה טוב ידע לתפוס גם תקיפה זירו־דיי, על סמך זיהוי תבניות של חולשות כאלו. זה דברים שעושים טוב מאוד היום באמצעות מערכות AI מבוססות ענן, ורואים את זה בכל מוצרי האבטחה המתקדמים היום”.
מה קורה אם גם קו ההגנה הזה נופל?
“אז הכופרה מתפשטת ברשת. אבל גם זה יכול להיעצר, זה שהגענו למחשב אחד ברשת לא מחייב נזק רחב. ההתפשטות לא מובנת מאליה. פה נכנסים לפעולה מוצרי הגנה שפועלים בתוך הרשת, לא בכניסה אליה, ומונעים את התנועה בין מחשב למחשב. למשל, באמצעות זיהוי התנהגות חריגה של המחשב. התנהגות כזו, אגב, יכולה להיות גם עובד שניגש למקומות הוא לא אמור להגיע אליהם, ולכן המוצרים האלו חשובים גם למניעת ניצול גישה לרעה על ידי עובד. נראה שהדבר הזה לא נעצר במעייני הישועה וההתפשטות היתה רחבה.
“בשלב מסוים הם שמו לב לתקיפה, בכופרות קל לשים לב כי כשאתה בא לעבוד אין לך מחשב, הוא לא מגיב, ואז מבינים שמשהו רע קורה. כאן מתחילה תחרות נגד השעון, כי הכופרה מתפשטת ממחשב למחשב ומצפינה מאגרים, וזו פעולה שיכולה לארוך שעות. פעם, תוקפים רק רצו לעשות נזק אבל לא עושים מזה כסף. כופרות לא מוחקות אלא מצפינות את המידע שלא יהיה נגיש בלי המפתח. הצפנה זו פעולה שלוקחת זמן, שעות אם מדובר במאגר גדול. בזמן הזה אפשר לעצור את המתקפה.
“אני לא יודע באיזה שלב הם עצרו את זה. צריך מודעות גדולה כדי להבין שיש מתקפה, וארגונים מצוינים פועלים בשני נתיבים במקביל: אחד מניח שמדובר בתקלה תמימה, שני שמדובר במתקפה הכי מורכבת שיש. הדבר הכי אפקטיבי, אגב, הוא לכבות את השרת, לנתק אותו מהתקע. כי אם המחשב לא עובד פעולת ההצפנה נעצרת. אז אפשר לקחת את המחשב למעבדה, לחקור ולמצוא תרופה. כל זה רלבנטי בהנחה שלא כל המחשבים כבר הוצפנו”.
“גם מתקפות כאלו יש דרכים לזהות. יוצא מידע בכמויות אדירות מהרשת, ופה כל מוצרי ההגנה אמורים לקפוץ. אם יוצאות ג’יגות של חומר החוצה זה לוקח שעות, אפילו ימים. זה דברים ש־AI סופר חזקה בלזהות אותם. אם בדרך כלל בשעות הצהריים יוצא X ועכשיו יוצא 100X, מערכת בינה מלאכותית אמורה לזהות את זה ולחסום. זה כנראה לא עבד במתקפת הכופר נגד שירביט, שבמסגרתה יצא הרבה מידע”.
איך מוכנות יכולה לקצר את זמן ההתאוששות?
“נגיד שהארגון מותקף והמידע הוצפן. בשלב הזה התוקף מציג את הדרישה שלו. לרוב זה יהיה סכום סביר. אם יבקשו מיליארד דולר אף אחד לא ישלם. אבל מיליונים, ארגון יעשה שיקול של עלות ההתאוששות ויעשה שיקול כלכלי. יש גם מומחים שארגונים מזמינים לניהול מו”מ עם התוקפים, ממש כמו שמנהלים מו”מ עם חוטפים. במהלך המו”מ התוקפים יציעו לארגון הוכחה שהם יכולים לפענח מידע שהוצפן, מעין Proof of Life. זה מוכיח שהם לא מחרטטים, שיש להם מידע של הארגון שהם מסוגלים לשחרר. הם גם כמעט תמיד ישחררו אחרי שיקבלו את הכסף. התוקפים רוצים לשמור על השם הטוב שלהם, כי אף אחד לא ישלם אם יודעים שהם עושים קונצים. הם יתחברו מרחוק או ישלחו לך תוכנה קטנה שתאפשר לך לשחרר את המידע, ואז האירוע נגמר.
“מכיוון שמעייני הישועה לא חזרו עדיין לפעולה מלאה, אני מניח שהם בחרו שלא לשלם. מה עושים במקרה כזה? בארגון מצוין, יהיה גיבוי שמגבה מידע על בסיס כל שנייה, מה שמכונה גיבוי חם. כל המידע נרשם במקביל לשניים או שלושה אתרים. במקרה של מתקפה הארגון מסוגל בקליק לעבור לאתר הגיבוי, ואז לא אכפת לו שתקפו אותו. זה נובע מהבנה שעובדים יעשו טעויות, שהארגון יותקף, ולכן צריך להתקין מראש מערכת גיבוי חמה ולתרגל אותה. לארגון כזה אין בעיה לחזור לפעולה. יש הרבה ארגונים מצוינים שלמרות שהותקפו מצליחים להתאושש. הכי טוב זה גיבוי חם, אבל גם גיבוי פעם שבוע זה טוב מספיק. מה מצב הגיבויים במעייני הישועה? אני לא יודע, אבל אין סיכוי שהם לא נדרשו ולא עשו גיבוי”.
איך בינה מלאכותית גנרטיבית משנה בימים אלו את כללי המשחק.
“אם עד לא מזמן היה קל לזהות אימיילי פישינג, במיוחד בעברית בגלל השפה העילגת פעמים רבות, בזכות AI השפה היא כבר לא מחסום. התוכן של המייל נראה כל כך אמיתי, בשפה טובה ונקייה, מה שמקשה על זיהוי המייל. פעם היה לנו יתרון בכך שרוב העולם לא מדבר עברית, היום זה כבר לא עוזר. אנחנו רואים כבר היום דיווריי פישינג איכותיים בשפה ובתוכן שנוצרים בצורה אוטומטית. אפשר אוטומטית לנסח מייל אישי מאוד לפקידת הקבלה או מנהל האבטחה שנראה אותנטי. אפשר לעשות את זה בקליק אחד עם ChatGPT ודומיו. לכן, אני סובר שנראה בקרוב הגבלות ממשלתיות, כולל הגבלות יצוא, על הטכנולוגיה. זה יקרה כי כשמדובר בכלי נשק שמאפשר לתוקף לשלול מייל פישינג בכל שפה עם תוכן איכותי ולהפיל אנשים בפח - זה לא פחות מנשק סייבר, ויש לו הרבה עוצמות.
“לכך אפשר להוסיף כלי AI שמסוגלים לסנתז קול, תמונה ואפילו וידיאו של אנשים אמיתיים. יש כבר טכנולוגיות זמינות בחינם שמאפשרות לסנתז קול, וזה נשמע אותנטי בצורה בלתי רגילה. נניח שביחד עם מייל הפישינג מגיעה שיחת טלפון או וידיאו ממישהו שנשמע ונראה בדיוק כמו הבוס, והוא אומר לעובד להיכנס לקישור או לפתוח את הקובץ? לכן כל הנושא של הגורם האנושי, שהוא נקודת כשל מרכזית שפותחת את הדלת לארגון, יתעצם, ויותר אנשים ייפלו בפח לטכנולוגיות של בינה מלאכותית גנרטיבית”.
אז מה עושים? חינוך הוא לא הפתרון כאן.
“המענה ל־AI הוא AI. חברת אבטחת מידע שלא שדרגה את המוצר שלה כדי למנף יכולות AI אין לה זכות קיום היום. הרף עלה, גם לתוקף וגם למגן. אף אחד לא ינצח, זה ימשיך להיות משחק חתול ועכבר. חינוך זה נחמד, אבל הפתרון הוא טכנולוגיה. זה מה שעושה את העולם שלנו למעניין יותר.
“יש לכך גם צד שני. מסורתית יש א־סימטריה בין מגן לתוקף. מגן צריך להגן על הכל כל הזמן, תוקף צריך להיכנס רק ממקום אחד פעם אחת. ה־AI שובר את הא־סימטריה, כי פעם ראשונה המגן יכול להיות בכל המקומות והוא מקבל יכולות מטורפות. יש פריחה של חברות אבטחת מידע שמשתמשות בטכנולוגיות AI. אם פעם ארגון אמר שמספיקה מודעות, היום אי אפשר לסמוך יותר על האנשים. אסור לוותר על הרכיב של החינוך, זה קו הגנה נדרש, אבל אי אפשר לוותר על מוצרי אבטחה שמותאמים להוריקן של תקיפות בינה מלאכותית גנרטיבית”.
מה רמת המוכנות של ישראל להגנה על תשתיות סייבר חיוניות?
“במערך הסייבר הלאומי יש אנשים מעולים עם ניסיון אמיתי, חלק כתוקפים, חלק שירתו ב־8200. לכן, בנקודת ההתחלה של הגופים שאחראים לסייע ולהנחות, אנחנו במצב טוב. יש מדינות שאין להן מערכים כאלו, או שיש מערכים בדרג נמוך יותר. תמיד אפשר לעשות יותר, אבל מבחינת מודעות והערכות של ישראל להגנה על התשתיות הלאומיות אנחנו במצב טוב. מה שחשוב לעשות עכשיו זה לשמר את היתרון, לא רק בהתקפה אלא גם בהגנה. אף אחד לא קופא על השמרים, לא תופס את הראש ואומר הפסדנו”.
