AISRAEL 2024"מיקרוסופט לוקחת בחשבון בפיתוחי AI שיקולים ביטחוניים ומדיניים של לקוחותיה"
AISRAEL 2024
"מיקרוסופט לוקחת בחשבון בפיתוחי AI שיקולים ביטחוניים ומדיניים של לקוחותיה"
הדברים נאמרו על ידי בן חקלאי, סמנכ"ל טכנולוגיות לאומיות, מיקרוסופט ישראל כנס AISRAEL של מיקרוסופט וכלכליסט. הוא הוסיף: "ישנם ארבעה נושאים שמבחינת הלקוחות יש לתת עליהם את הדעת: אבטחת מידע, אחריות, ציות ארגוני וקניין רוחני. בהתאם לדרישות בנינו את המוצרים"
"יש מספר עקרונות שמנחים אותנו במעבר לעולם הבינה המלאכותית. כיום, מדובר רבות על מהפכה שתשפיע על התעשייה - משיפור חוויית משתמש ועובד ועד שיפור תפיסתנו בארגון על חדשנות" - כך ציין בן חקלאי, סמנכ"ל טכנולוגיות לאומיות, מיקרוסופט ישראל כנס AISRAEL של מיקרוסופט וכלכליסט.
לדברי חקלאי, "הכל החל בשותפות שלנו עם חברת OPEN AI, אבל לקח לנו חודשים להגיע לשוק. הסיבה היא אופי לקוחותינו השונה. מיקרוסופט משרתת חברות ענק וממשלות, בין לקוחותינו גם גופי ביטחון - ואנו מביאים בחשבון את שיקוליהם. אנו לוקחים בחשבון את החששות שלהם מ-AI וקיבלנו תשובות על ארבעה אזורים שמבחינת הלקוחות יש לתת עליהם את הדעת: אבטחת מידע, אחריות, ציות ארגוני וקניין רוחני. כל נושא הוא חשוב, ובהתאם לדרישות בנינו מוצרים. באנו ואמרנו ללקוחות שאנו בונים להם סביבה בה המידע נשאר שלהם ומוגן בכלים מתקדמים. המידע שלהם לא יכול לשרת את המתחרים, ובנוסף המידע לא יכול לזלוג. מעבר לכך ברמת המשתמש הפרטני, השימוש ב-CO PILOT מאפשר גישה של המשתמש בלבד. אי אפשר לגשת לאזורי מידע שהמשתמש לא יכול להשתמש בהם".
חקלאי הוסיף כי "לגבי אחריות בבינה מלאכותית, זה תחום שאנחנו מובילים שנים ומפתחים במשך זמן רב. חשוב לנו לוודא שפיתוח והנגשת הטכנולוגיה מבוצעת בכפוף לאמות המידה שלנו: הגינות, אמינות, בטיחות, פרטיות. למשל, כיום יש שקיפות במוצר שלנו - כשמשתמשים במודלים ניתן לראות מהיכן הגיע המידע. אפשר לבדוק את התוצרים. מעבר לכך חשוב לנו הגורם האנושי בתהליך".
לדבריו, "אי אפשר לדבר על ארגונים גדולים בלי לדבר על עולמות הציות, מה שמכונה 'קומפלאיינס' - כלומר שמודלים יעמדו בסט תקנים נרחב בתעשייה. אנו תומכים במאות תקנים, ובאשר לקניין הרוחני זה נושא מורכב, שומעים עליו המון ויש הרבה ליטיגציה, כי הגורם היחיד שיכול להסדיר את הקניין הרוחני הוא מדינות ויש הסדרה שונה בין מדינות. ויש אי וודאות. מה שאנחנו יכולים לעשות זה לפגוש את לקוחותינו ולומר להם: אם אתם נתבעים אנחנו ננהל את התביעה. מיקרוסופט מעניקה ללקוחותיה ביטחון להשתמש בכלים באופן אחראי וזה משהו שאנחנו עושים בגלל שאנחנו מטמיעים מסננים ברמת המודלים".
