סין מודיעה על חוקי אתיקה לשימוש בבינה מלאכותית - הראשונים מסוגם בעולם
סין מודיעה על חוקי אתיקה לשימוש בבינה מלאכותית - הראשונים מסוגם בעולם
אף שהחוקים הללו אמורים בעיקר לשמור על בייג'ינג מהשפעתן של ענקיות הטכנולוגיה הסיניות, אותן מעוניינת המפלגה השלטת להגביל, הם גם מיועדים להגן על המשתמשים; כך העיקרון שהנחה את המחוקקים הוא להעניק למשתמש האנושי את ההחלטה הסופית והאחריות על כל פעולה שמערכת AI מבצעת
סין חשפה אתמול (א') את חוקי הבינה המלאכותית הראשונים שאומצו בידי מדינה כלשהי. עם זאת, החוקים האלה מיועדים בעיקר לשמור על בייג'ינג מהשפעתן של ענקיות הטכנולוגיה הסיניות, שהממשלה הקומוניסטית רוצה להגביל. החוקים מיועדים להגן על המשתמשים, והעיקרון שהנחה את המחוקקים הוא להעניק למשתמש האנושי את ההחלטה הסופית והאחריות על כל פעולה שמערכת AI מבצעת, או במילים אחרות - אחראי פוטנציאלי.
לבני אדם שמורה היכולת להחליט על כל פעולה של בינה מלאכותית, כך נכתב בלשון החוק. הם יכולים לבחור לקבל את ההצעה של ה-AI או להעדיף לא לקבל אותה ולבטל את הממשק מולה. זאת אומרת שאם מערכת AI משמשת בשירות כלשהו ומציעה לכם פעולה כלשהי - ספק השירות חייב לאפשר למשתמשים אלטרנטיבה שאינה מבוססת עליה. המטרה, כפי שנכתב בדיווח של ה-South China Morning Post, היא "לוודא שבינה מלאכותית תמיד נמצאת תחת פיקוח של בני אדם".
בינתיים מדובר בקווים מנחים בלבד, כלומר אין חוק פלילי בנושא. עם זאת, מדובר ביותר מהמלצה שכן בסין דבר המפלגה - ובמקרה הזה משרד המדעים והטכנולוגיה שלה - מקביל לחוק בלתי כתוב. הטיוטה נוסחה על ידי ועדה ממשלתית לתחום ה-AI, שהורכבה ממומחים בתחום והוקמה כבר ב-2019. גרסה ראשונה של ההנחיות פורסמה כבר בסוף אותה שנה, אך בגרסה מצומצמת בהרבה.
"סין בחרה במודל מאוד מכביד, בו המדינה מנסה להבין את ההשפעות ארוכות הטווח של שימוש ב-AI על החברה. מבידוד חברתי ועד סכנות קיומיות, הממשלה הסינית מנסה לנהל ולפקח באופן מעשי, הם מאוד מתקדמים מבחינת המחשבה שלהם בנושא", אמרה רבקה ארקסנטי, אנליסטית מחקר במכון לחקר סין מרקטור שבגרמניה.
ההנחיות כוללות שישה עקרונות בסיסיים להפעלה של AI: אמינות, שליטה, שיפור ההוויה לבני אדם, קידום צדק ובטיחות ושיפור המוסר. הרצון להעביר את השליטה לידי המשתמשים נובע כאמור גם מהצורך של הממשלה הסינית להגדיל את השליטה שלה בענקיות הטכנולוגיה המקומיות. מערכות בינה מלאכותית משמשות לבדיקת תוכן ברשתות חברתיות בסין, והממשלה רוצה שאלה ימשיכו להסתיר את חצי הביקורת נגדה. זו גם הסיבה שהיא החלה להגדיר בעצמה את גבולות הגזרה של השיחה שמערכות אלה יכולות להתיר.
המטרה היא למנוע מצב בו אלגוריתם משמש כאמצעי המלצה או ברירת תוכן ללא מגע יד אדם. באופן אירוני אלו בדיוק הטענות שעלו נגד פייסבוק בפרשיות השונות שהיא מעורבת בהן בשנים האחרונות. הממשלה הסינית כנראה רוצה למנוע מצב בו ניתן יהיה לבצע מניפולציות בדעת הקהל המקומית שיכולה להביא למצבי קיצון, כפי שראינו בבחירות לנשיאות ארצות הברית, בבחירות בברזיל או חמור מכך במהלך רצח העם שבוצע נגד הרוהינגיה במיאנמר (בורמה) ושתודלק בידי הרשתות החברתיות.
עם זאת ההנחיות גם מאפשרות למשתמש הסופי לקבל שליטה על ההתנהלות מול מערכות AI, בעיקר בכל הקשור לביטחון מידע, פרטיות והזכות להימנע משימוש במערכות אלה באופן גורף בכל הנוגע להצעות מספקי השירות. אחריות המפעילים גם היא נמצאת בלב המסמך: הם צריכים למנוע סיכונים - טכניים או בטיחותיים; לוודא שישנו גורם אחראי אליו ניתן לבוא במקרה ויש בעיה; וגם שיש שיפור מתמיד באיכות והניהול של שירותי AI.
כמובן שההנחיות גם אוסרות באופן מפורש על שימוש בבינה מלאכותית לביצוע עבירות על החוק, סיכון הביטחון הלאומי, שלום הציבור או בטיחות הייצור. ההנחיות האלה מהוות סנונית ראשונה למגמה שהחלה בה הממשלה הסינית ב-2017, אז נקבע על ידה להפוך למובילה העולמית בתחום תוך עקיפה של ארצות הברית. ההנחיות האלה הפכו למטרה הראשונה - בשונה מהמדינות המערביות, שהעדיפו להשאיר את הטכנולוגיה לפיתוח בשוק הפרטי והעצמאי עם חלק מהתוצאות שאנו מכירים כיום. במקור הן היו אמורות להיות מוצגות עד סוף 2020, אך משבר הקורונה הביא לאיחור של שנה בקביעתן, וכעת הן הוצגו פומבית.
המטרות הבאות של סין הן להגיע לפריצת דרך משמעותית בבינה מלאכותית עד 2025, ולהגיע להובלה גלובלית עד סוף העשור. בהתחשב במאבק הכלכלי-טכנולוגי הנוכחי מול ארצות הברית ובעלות בריתה, לסין יש הרבה מאוד מוטיבציה לעמוד בדד ליין שקבעה לעצמה, ואף להקדימו. האמריקאים בינתיים מנסים להימנע מפיקוח יתר על חברות הטכנולוגיה - אך גם במערב מתחילים להבין שהשוק הפרטי לא יכול להוות תחליף לרגולציה אתית בתחום.
הבעיה אינה רק אצל פייסבוק. גם אמזון, גוגל ואחרות עושות הרבה מאוד שימוש ב-AI במוצריהן, וידוע מעט מאוד על ההנחיות במסגרתן המערכות האלה פועלות. אמנם אף אחד לא מאמין שסירי או אלקסה ינסו להרוג מישהו או לשמש למטרות זדוניות - אך ניצול לרעה של אלגוריתם הוא משהו שכבר ראינו קורה. כך שמהבחינה הזו סין הרבה יותר קרובה לחוקי הרובוטיקה, כפי שדמיין אותם הסופר אייזק אסימוב - מאשר מגינת הדמוקרטיה ארצות הברית.
