GenAI ארגוני - הקושי, ההזדמנות הגדולה וה-Killer Application המסתמן
GenAI ארגוני - הקושי, ההזדמנות הגדולה וה-Killer Application המסתמן
עולם המחשוב נמצא עמוק בתוך מהפכת ה-AI. בניגוד למהפכות קודמות שתהליך ההבשלה שלהן ארך שנים, מהפכת ה-AI מזינה את עצמה ומתקדמת בקצב מואץ מאי פעם. ארגונים רבים מוצאים את עצמם באירועים מתמשכים של בחינת טכנולוגיות וההחלטה איזו טכנולוגיה להטמיע ועל מה להמר היא מורכבת.
ישנם תחומי AI הקיימים כבר מספר שנים והם בדוקים ומנוסים, כמו AI על מידע טבלאי. אך הגל הנוכחי של המהפכה מתמקד בתחום החדש ביותר של AI - בינה מלאכותית יוצרת (GenAI), בעיקר סביב טקסט ושפה והשימוש הארגוני בו מתעצב ומתגבש ממש בתקופה זו.
GenAI ובמיוחד ChatGPT הביא את הבינה המלאכותית למיליארדי משתמשים ברחבי העולם הודות לידידותיות, לפשטות ההפעלה ותוצרי התוכן המצוינים שמשמשים גם אנשי מקצוע מתחומים שונים. עד כה ישנם מספר תרחישי שימוש של GenAI שהתחילו להתבסס בקרב ארגונים והוכחו כיעילים: ייצור קוד - מוצרים כמו Github Copilot ואחרים מסייעים למפתחים לבנות קוד איכותי במהירות ולהבין קוד קיים. סוג אחר של ייצור קוד מאפשר שאילתות מבסיסי נתונים ארגוניים באמצעות שאילתה בשפה טבעית. חיפושים סמנטיים - אם גם אתם בזבזתם זמן בחיפוש נתונים במערכת ארגונית בגלל שלא השתמשתם ברצף האותיות הנכון או במילה המדוייקת, תוכלו להעריך חיפוש בשפה טבעית המחזיר את כל מה שקשור למה שביקשתם מבחינת מובן וקרבה סמנטית. גרסאות ארגוניות של שימושים "קלאסיים" ב-GenAI כמו: שיחה עם צ'אטבוט ארגוני, סיכום מסמכים ארוכים, תרגום אוטומטי בין שפות, השוואת מסמכים, ויצירת תוכן.
עם זאת, אימוץ ארגוני בהיקף מלא נתקל בקשיים רבים. ארגונים מכירים בצורך לא לפגר במרוץ הטכנולוגי ולהקצות תקציבים להטמעה של אפליקציות GenAI, גם על חשבון תקציבים שהוקצו לשימושים אחרים. אך שורה ארוכה של שיקולים מעכבים או מונעים את המהלך כפי שחושף סקר של ETR - Enterprise Technology Research. על פיו, 83% מהארגונים עדיין נמצאים בשלבי הבדיקה, 38% חוששים מבעיות פרטיות מידע ואבטחה, 37% מודאגים מסוגיות של ציות ורגולציה ו-6% סבורים שאין בטכנולוגיה צורך עסקי. מעל כל השיקולים הללו מרחפת גם סוגיית החזר ההשקעה שאינה ברורה. מחקר עדכני של גרטנר קובע כי עד שנת 2025 לפחות 30% מהפרויקטים של GenAI יינטשו אחרי שלב הוכחת ההיתכנות (POC) בגלל סיבות כמו: איכות ירודה של נתונים, בקרות סיכונים לא מתאימות, עלויות גבוהות וערך עסקי לא ברור.
מערכות RAG ה-Killer Application הארגוני
בשטח יש פעילות ערה של ארגונים שלא רוצים להישאר מאחור ומנסים אפליקציות שונות שלגביהן נצבר ניסיון חיובי בשוק. הנושא החם כיום בתחום ה-GenAI הארגוני הוא RAG - אחזור מתוגבר של מידע ממאגרי המידע הארגוניים: Retrieval Augmented Generation. מערכות אלו מתבססות על תשתיות האיסוף של מוצרי חיפוש ארגוני מהדור הקודם אך משולבות במודלי שפה מודרניים ובאחזור סמנטי כדי לאפשר תישאול בשפה טבעית. מוצרי RAG מפיקים תשובה קוהרנטית בשפה טבעית עם רפרנסים לכל המידע הארגוני שבנה את התשובה. ניתן לשלב את החיפוש הארגוני עם חיפושים באינטרנט שמצליבים ומעשירים את תוצרי המידע. RAG מיושם על מאגרי המידע הארגוניים שהם מדויקים ומאומתים ומקטין בכך את הסיכון למידע שגוי ומגדיל את האמינות בקבלת החלטות. הוא מקטין את שיעור ההטיות לעומת מודלים גנריים של LLM וניתן להתאימו לצרכים ולמשימות ספציפיות של משתמשים, מחלקות וכלל הארגון.
RAG זוכה לפופולריות רבה בקרב ארגונים ברחבי העולם ויש לו סיכוי להפוך ל-Killer Application שסוחף אחריו עסקים וחברות מכל גודל וסוג ועשוי להכתיר סופית את GenAI כטכנולוגיה בשלה ומתאימה לארגונים.
רבות מהחברות משתמשות במודלים ציבוריים פתוחים של RAG כדי לפתח את הפתרון שלהן אך ארגונים שחוששים מבעיות של אבטחה והפרת הפרטיות יכולים לבנות פתרון פרטי על בסיס פלטפורמות שונות המוצעות בשוק.
ארגונים רבים בישראל ובעולם נמצאים כיום בשלבי בחינה ולימוד. חלקם כבר משלבים GenAI במוצרים שלהם על ידי פיתוח מקומי, שלרוב מתעלם מסוגיות מורכבות של הרשאות גישה ו-Governance, אולם תחום המוצרים הייעודיים עדיין דורש הוכחות שימוש רלוונטיות לשוק הישראלי. ישנם מספר פתרונות שכבר מוטמעים בארגונים בארץ למניעת זליגת מידע ושימוש לרעה ומגוון פתרונות עם אפשרות להטמעה מקומית להשלמת קוד וניתוח קוד. אך ההמלצה היא עדיין לבצע בדיקת היתכנות מעמיקה גם אם המוצר עובד היטב בשווקים אחרים.
יואל יעקבסון הוא CTO בקבוצת EMET
