סין נגד העולםבזכות החרם האמריקאי, סין נמצאת בחזית הגל הבא של ה־AI
סין נגד העולם
בזכות החרם האמריקאי, סין נמצאת בחזית הגל הבא של ה־AI
הניסיון של ממשל ביידן לבלום את מאמצי בייג'ינג לפתח מערכות בינה מלאכותית מתקדמות הניב תוצאה הפוכה ודחף את החברות הסיניות לפתח תשתית AI יעילה יותר
לחרם השבבים שהכריז ממשל ביידן על סין לפני כמעט שנתיים היתה מטרה מובהקת אחת: לבלום את המאמצים של בייג'ינג וחברות סיניות לפתח מערכות בינה מלאכותית (AI) מתקדמות באמצעות מניעת הגישה לשבבים עתירי־ביצועים. ההצלחה חלקית בלבד וכבר יצרה תגובת נגד בדמות שיטות שפיתחו חברות AI בסין ושמאפשרות להן להוציא יותר משבבים חלשים, או התמקדות במודלי AI קטנים וממוקדים שדורשים פחות משאבי פיתוח.
כתוצאה, חברות אלו מצליחות לספק מודלי AI בעלי ביקוש בשוק תוך הפחתת התלות של סין בשבבים מהמערב, ואפשרות להסתמך יותר על שבבים מקומיים, הגם שהם חלשים יחסית.
שיטות עבודה אלו יכולות גם לזלוג חזרה לחברות AI במערב ולסייע להתמודד עם שתיים מהמצוקות הגדולות של עידן הבינה המלאכותית המודרנית: מחסור מתמשך בשבבים המתקדמים ביותר, שמשפיע בעיקר על חברות קטנות ומעוטות משאבים, וצריכת האנרגיה ההולכת וגדלה של מודלים מתקדמים שמייצרת בעיות גם לחברות גדולות כמו גוגל ו־OpenAI.
עולם הבינה המלאכותית הגנרטיבית (GenAI) מושתת על פרדיגמה בסיסית: כדי ליצור מודלים מתקדמים יותר, צריך כוח מחשוב חזק יותר ומעבדים חזקים יותר. על בסיס הבנה זו, באוקטובר 2022 החליט ממשל ביידן לאסור על יצוא לסין של שבבים עתירי־ביצועים, ובפרט שבבי AI, במטרה להגביל את היכולות של המדינה לפתח מודלי AI מתקדמים ומערכות שמבוססות על שבבים אלו, דוגמת מערכות נשק. מאז הודקו המגבלות כמה פעמים, וסין הגיבה במגבלות שונות משלה. אף שרשת מחתרתית מצליחה להבריח למדינה שבבים מתקדמים של אנבידיה, ההיצע של שבבים אלו נותר מוגבל. המשמעות היא שהחברות המקומיות נאלצות לרכוש את השבבים מופחתי הביצועים שפיתחה אנבידיה במטרה לעמוד במגבלות היצוא, או לעשות שימוש בשבבים מייצור מקומי שלא מגיעים לרמת הביצועים של השבבים המתקדמים יותר של אנבידיה.
כותבים קוד יעיל יותר
כתוצאה, חברות AI בסין לא מקבלות גישה ליכולות המחשוב המתקדמות ביותר, ונאלצות למצוא קיצורי דרך על מנת להביא לשוק מודלי GenAI שמסוגלים לספק מענה למודלים של חברות מערביות. אחת השיטות היא כתיבת קוד יעיל יותר שמאפשר לפתח מודלי שפה גדולים (LLMs, הטכנולוגיה שבבסיס שירותים כמו ChatGPT) באמצעות המספר המוגבל של מחזורי העיבוד שמאפשרים מעבדים מתקדמים פחות.
01.AI, סטארט־אפ שגייס מעליבאבא ושיאומי, למשל, עושה שימוש בשיטה כזו כדי להפחית את הזמן ואת כמות האנרגיה שדרושים על מנת לאמן מודלי AI. "אין לנו הרבה מעבדי AI בסין, וזה מאלץ אותנו לפתח תשתית AI יעילה מאוד", אמר ל"וול סטריט ג'ורנל" מייסד החברה, קָאי־פֿוּ לֶאֶה.
חברות מקומיות אחרות מתמקדות בפיתוח מודלים ויישומים ממוקדים וקטנים, במקום מודלים גדולים וכלליים. מודלים אלו מכונים "מודלי קצה", מכיוון שהם יכולים לרוץ בצורה מקומית על מכשירי קצה דוגמת סמארטפונים ומחשבים ניידים, מבלי להעביר מידע לענן. מודלים מסוג זה עומדים בלב מערכת ה־GenAI של אפל, שתהיה זמינה לציבור הרחב החל מהחודש. הסטארט־אפ Baichuan, למשל, עובד עם קוואלקום על מנת לשלב LLM קטן יחסית במחשבי AI בסין. סמסונג שילבה מודלים קטנים של באיידו ובייטדאנס (החברה־האם של טיקטוק) במכשירים שהיא מוכרת בסין.
"זו שנת המודלים הקטנים"
בהקשר זה נמצאת סין דווקא בחזית הגל הבא בבינה מלאכותית. "השנה הקרובה היא שנת המודלים הקטנים", אמר ל"וול סטריט ג'ורנל" פרופ' ווינסטון מה, מרצה למשפטים באוניברסיטת ניו יורק ויועץ לסטארט־אפ הבינה המלאכותית Dragon Global. "מודלים קטנים צריכים פחות מידע אימון, הם מהירים יותר ומאפשרים מענה מהיר יותר". גם חברות גדולות יותר, כמו עליבאבא וטנסנט, מנסות להתמודד עם המחסור בשבבים מתקדמים באמצעות שיפור יכולות ההנדסה והאלגוריתמים וייצור שבבים פרי פיתוחן. "אנחנו לא צריכים לחשוב שמחסור בשבבי ה־AI המתקדמים ביותר משמעו שלא נוכל להוביל ב־AI", אמר בכיר וואווי, גָ'אנְג פִּינְג’אָן, בוועידת AI ביולי. "אנחנו צריכים לנטוש את התפיסה הזו".
הפתרונות של חברות AI בסין לחרם השבבים האמריקאי ממחישים עד כמה הניסיונות למנוע פיתוחים טכנולוגיים ניתנים לעקיפה ולתחמון, בעיקר כשמדובר בטכנולוגיות המשתנות תדיר. חרף המאמצים, הממשל האמריקאי לא הצליח לשתק את פיתוח ה־AI בסין, ותחת זאת דחף את השוק המקומי לקידום פתרונות חלופיים — אם בייצור שבבים מקומי ואם בשיטות פיתוח שנסמכות על שבבים מתקדמים פחות — שמאפשרים לחברות סיניות להתקדם בתחום ומקטינים את התלות של השוק הסיני במערב. הצלחות מסוג זה יאלצו את הממשל בארצות הברית לחשוב על פתרונות יצירתיים יותר, אם ברצונו להגביל את פיתוח הבינה המלאכותית בסין.
הפתרונות שמייצרים סטארט־אפים בסין יכולים גם לזלוג למערב, לחברות קטנות וגדולות כאחד. חברות קטנות מתקשות לרכוש את השבבים המתקדמים ביותר ויכולות לקבל השראה מקיצורי הדרך שמצאו חברות סיניות. גם חברות כמו גוגל, מיקרוסופט ו־OpenAI, שלא סובלות ממחסור בשבבים המתקדמים של אנבידיה, מתמודדות עם קשיים כתוצאה מההשקעות המשמעותיות בפיתוח מודלי AI, ובראשן צריכת האנרגיה של הדאטה־סנטרים, שמחבלת במאמצים לעמוד ביעדי צמצום פליטות גזי החממה. שיטות אימון יעילות יותר והגדלת המיקוד במודלים קטנים ומתמחים יכולות לסייע למתן, אולי אף להפחית, את הביקוש למשאבי מחשוב עוצמתיים יותר.
