ענקיות הטכנולוגיה גייסו את האפיפיור להכשרת הבינה המלאכותית

אמנה שנוסחה בוותיקן בשיתוף יבמ (IBM) ומיקרוסופט בשם "רומא קוראת לאתיקה של בינה מלאכותית" משרטטת שישה עקרונות לשימוש מושכל בבינה מלאכותית (AI): שקיפות, שילוב, אחריות, היעדר משוא פנים, אמינות ואבטחה, ופרטיות. נשיא מיקרוסופט בראד סמית' כינה את האמנה "מסגרת אמיתית לעתיד", ועם סיום הניסוח הזמין הוותיקן חברות טכנולוגיה נוספות לחתום עליה. בהצהרה שהוקראה בשם האפיפיור הוא קרא לפיתוח אתי של אלגוריתמים והזהיר מפני שימוש ב־AI לחילוץ מידע פרטי למטרות פוליטיות או מסחריות.

זו אינה הפעם הראשונה שבה האפיפיור, הוותיקן או מוסדות דת מגלים עניין בטכנולוגיות מתפתחות. אף שהקשר בין דת לבין קדמה עלול להיתפס כלא טבעי, מדובר בקשר הדוק מראשיתו, לעתים כה הדוק עד שקשה להסביר את המדע והקדמה בלי להשתמש בשפה דתית. שני הצדדים חולקים ניסיונות בני מאות שנים להתעלות מעל לגבולות הגוף האנושי והטבע בניסיון לכוון את הדרך לגאולה. פעם זה נעשה בתפילות ובטקסים, ופעם באמצעות רתימת יכולות מחשוב.

בינה מלאכותית איור: יונתן פופר

ההיסטוריון והסופר יובל נח הררי הגדיל וכינה את עמק הסיליקון המקום המעניין ביותר בעולם מבחינה דתית. לדבריו, הטכנולוגיה עוזרת להגדיר את גבולות החזון הדתי, והדת והמדע חולקים את אותן מטרות בדיוק: אושר, שלום, צדק וחיי נצח בגן עדן (בעולם הזה או הבא). הופעת הבינה המלאכותית רק הגבירה את שותפות הגורל הזו עד לכדי טשטוש גבולות מוחלט. כיום אפשר למצוא שלל מקומות פולחן משולבים כמו כנסיות ואגודות טרנס־הומניסטיות, כנסיית טיורינג ע"ש המתמטיקאי אלן טיורינג וכנסיית החיים התמידית.

הקשרים הללו דחפו את מערכת היחסים בין האפיפיור לאצולת עמק הסיליקון לכיוונים לא תמיד צפויים. בשנתיים האחרונות מוסדות נוצריים ארגנו שלל כנסים, אירועים ואף האקתונים בנושאי רובוטיקה, בינה מלאכותית ואתיקה, בהשתתפות בכירים מחברות כגוגל, לינקדאין, סיילפורס ופייסבוק. לאחרונה האפיפיור אף נפגש עם דמויות כמו נשיא מיקרוסופט סמית', מייסד ומנכ"ל פייסבוק מארק צוקרבג, ומנכ"ל ויו"ר גוגל לשעבר אריק שמידט. אלא שחומרים ורעיונות, כידוע, מפעפעים לשני הצדדים.

1. מחסור בקונצנזוס

מבול הפרסומים שניפקו בשנה האחרונה חברות הטכנולוגיה בנושא אתיקה של פיתוח בינה מלאכותית היה כה רב עד שפרופ' יוחאי בנקלר, מהמומחים הגדולים בנושא זכויות עדן בעידן הדיגיטל, רואה בו ממש "התגייסות". "שטף האתיקה" הזה, כפי שכינה אותו בנקלר, דחף את מרכז ברקמן קליין לאינטרנט ולחברה באוניברסיטת הארוורד לבחון את הכללים והשפה ששולבו ב־40 מסמכים בנושא שפרסמו חברות טכנולוגיה גדולות. המחקר, שפורסם בינואר האחרון, הצביע על מחסור מהותי בקונצנזוס.

האפיפיור נפגש עם נשיא מיקרוסופט, בראד סמית' צילום: Vatican News

"קיים פער רחב וקיצוני בין ניסוח מושגים ברמה גבוהה לבין הישגיהם בעולם האמיתי", כתבו החוקרים. למעשה, הפערים קיימים לא רק בשימוש בשטח אלא גם במהות הכללים המנוסחים. לדברי החוקרים, מסמכי האתיקה של חברות הטכנולוגיה השונות נעדרים כל שמץ של אחידות, חלוקה באחריות או קווים אדומים. לטענתם, פערים אלו מצויים "בגיאוגרפיות השונות או בשיוכם הקבוצתי של בעלי העניין שמנסחים אותם"; או בפשטות, הכללים מנוסחים באופן שמשרת ומשקף את האינטרסים הפרטניים של התאגיד שניסח אותם ולא של החברה האנושית.

האחידות היחידה שכן נמצאה, וגם היא רק לכאורה ובאופן תיאורטי, נוסחה דרך שמונה כללים רחבי היקף שחזרו על עצמם בכל המסמכים: שקיפות, שילוב, אחריות, היעדר משוא פנים, אמינות ואבטחה, פרטיות, קידום ערכים אנושיים ושליטה אנושית בטכנולוגיה. להוציא שתי הנקודות האחרונות מדובר אחת לאחת באותה רשימה שניפק הוותיקן. מבלי לפגוע בסכולסטיקה או ביושרה של מומחי הוותיקן, קשה להאמין שהדמיון בין הכללים שניסחו ובין הנרטיב שמקדמות חברות הטכנולוגיה הוא מקרי או תוצאה של איזו התערבות אלוהית.

2. אגרסיביות ועוצמה רכה

זמן קצר לפני פרסום אזהרת האפיפיור מפני שימוש לא מושכל ב־AI יצאו שני סנטורים אמריקאים במהלך שקורא להטלת איזונים ובלמים על הטכנולוגיה. בחודש שעבר הגישו ג'וש האולי הרפובליקני וקירסטן ג'יליברנד הדמוקרטית, כל אחד בנפרד, הצעות חוק שנועדו לפקח על פיתוח טכנולוגיה באופן שישרת את האינטרסים של האזרחים ולא את השורה התחתונה של התאגידים. אתם יודעים, כמו שמצופה בדמוקרטיה.

בינה מלאכותית צילום: שאטרסטוק

תעשיית ההייטק והחדשנות זכתה במשך שנים לחיבוק חם ומגן מפני קרירות הרגולציה, אך מאז דליפת קיימברידג' אנליטיקה מהלכי ענקיות הטכנולוגיה נבחנים ביתר קפדנות. במקביל, ההתקדמות המהירה בתחום הבינה המלאכותית ורצון הענקיות לפעול באגרסיביות בענפים רגישים כבריאות, עבודה סוציאליות, בנקאות וביטחון הבהירו להן שסוג כלשהו של רגולציה הוא בלתי נמנע. בניסיון לשמר את המצב הקיים, הן מפעילות את השיטה המוכרת של שתדלנות אינטנסיבית שנועדה לרסן חקיקה. אבל במקביל הן מנסות גם להפעיל קצת עוצמה רכה.

בכנס דאבוס שנערך בינואר האחרון התגייסה תעשיית הטכנולוגיה לדברר עוד קצת את הנרטיב שלה. מנכ"ל מיקרוסופט סאטיה נאדלה ומנכ"ל גוגל סונדאר פיצ'אי קראו להטלת רגולציה, ומנכ"לית יבמ ג'יני רומטי (שפרשה מאז) הנחתה פאנל בנושא AI ורגולציה. במקביל, צוקרברג ומייסד ומנכ"ל טוויטר ג'ק דורסי הפצירו בקונגרס להסדיר את התחום. כל זאת בשעה שרשימת האישים המכובדת הזו ממשיכים להילחם ברגולציה שרק עולה ממנה ניחוח של הגבלת כוח החברות שלהם.

3. אלטרואיזם מזויף

לצד הקריאות מהפה אל החוץ של ענקיות הטכנולוגיה להטלת רגולציה, הן מקדמות את כל אותם פרסומים וניסוח עקרונות אתיים שנועדו לחזק את תפיסתן הציבורית כתאגידים חברתיים. ואם אפשר לעשות את כל זה ולזכות בהזדמנות תמונה עם מנהיג רוחני פופולרי, מה טוב. כל ההכרזות הריקות הללו מחזקות את הנרטיב שענקיות הטכנולוגיה רואות את התמונה המלאה, ומזהות לא רק את טובתן ואת טובת בעלי המניות שלהן — אלא את טובת הכלל. הן מקדמות מצג שווא של ניסוח כללים ברורים, שבפועל משאיר בידיהן את הכוח והאחריות להכריע איך נכון לקדם ערכים אנושיים, ומה מידת הפרטיות ורמת השקיפות שלה אנחנו זכאים.

בביקורת שלו על שטף האתיקה שפקד את שחקניות ההייטק מזכיר בנקלר שהן גורפות את כל הרווחים, תוך שהן מגלגלות את העלויות על החברה האנושית, ומזהיר שלא להתיר להן לנסח את החוקים. לא משנה עד כמה משכנעת הקואליציה שענקיות הטכנולוגיה מייצרות סביבן וכמה מנהיגים דתיים ורוחניים היא כוללת, החוקים עצמם צריכים להיכתב בידי אזרחים וקובעי מדיניות, תוך ניהול שיח ציבורי על הדרך הראויה לקידום החברה האנושית כולה.