מיליונית שנייה, מיליארד דולר

משהו מוזר קורה בדרום מנהטן. זה קורה ברדיוס של כקילומטר וחצי סביב בית ווסטרן יוניון הישן ברחוב הדסון 60, בניין אדמדם בסגנון אר דקו שמתנשא לגובה 115 מטר. עוד ועוד בניינים סביבו נרכשים, מתרוקנים מדייריהם ועובדיהם, עוברים שיפוצים מאסיביים, וחוזרים לעמוד דוממים. כלומר, דוממים מבני אדם. הבניינים רוחשים פעילות בלתי פוסקת, בכל שעות היממה, אלא שמי שמבצעים את הפעילות הם מחשבים רבי־עוצמה שמרוכזים בחוות שרתים מפלצתיות, ממלאים את הקומות ופועלים באינטנסיביות, ללא התערבות בני אדם.

למי שייכים המחשבים האלה? מי שעקב בשנה האחרונה אחרי מודעות השכרה והודעות לעיתונות של כמה חברות תקשורת למד שלפחות 60 אלף מ"ר סביב רחוב הדסון - שטח שמשול לכ־1,500 דירות ניו־יורקיות ממוצעות או פעמיים וחצי שטחו של קניון איילון - מושכרים כיום כ"נקודות תקשורת מהירה" עבור חברות פיננסים והשקעות. עוד מספר לא ידוע של בניינים שלמים באזור נרכשו בדיסקרטיות על ידי חברות פרטיות, ככל הנראה חברות למסחר בבורסה או זרועות השקעה של בנקים גדולים, שהחליפו גם הן את דייריהם האנושיים של הבניינים בציוד המחשוב שלהן.

המוסדות הפיננסיים מתקינים חוות שרתים סביב הבניין ברחוב הדסון 60 מסיבה פשוטה: אל תוך הבניין הזה בוקע הכבל התת־ימי שמביא את האינטרנט לניו יורק כולה. באחד מחדריו שוכנת המרכזייה הענקית והחשובה שבה יותר ממאה ספקיות תקשורת אמריקאיות מתחברות לאינטרנט, וזו לזו. מי שמצליח להתחבר ישירות למרכזייה הזאת, או לאחד מארונות התקשורת הקרובים אליה, מקבל את עדכוני האינטרנט כמה מיליוניות השנייה לפני האחרים. ורסיס השנייה הזה, מתברר, שווה עשרות מיליוני דולרים.

קווין סלבין הוא יזם אמריקאי ותיק ומרצה מבוקש לטכנולוגיה, שבשנה האחרונה מזהיר בראיונות ובהרצאות מפני המתרחש ברחוב הדסון, וליתר דיוק מפני כיבוש וול סטריט בידי "הסוחרים הרובוטיים", מחשבי־על שמנתחים בזמן אמת את נתוני הבורסה ומבצעים מהלכים של מיליוני דולרים באלפיות שנייה. שיטת המסחר הזאת, הוא מראה בהרצאותיו, טורפת מדי יום את כספם של רבבות משקיעים אנושיים שאינם מודעים לה. אם לפני כעשור הזדמנויות יומיות בבורסה הופיעו ונעלמו בתוך פחות מעשר שניות, היום מחשבי האלגו־טריידינג מנצלים אותן בתוך אלפית השנייה וגורפים רווחי עתק עוד לפני שהמשקיע האנושי מספיק להקליק על העכבר. סלבין עוקב אחרי פרסומים בתחום, ומראה שמסחר האלגו־טריידינג הולך ומשתלט על שוקי ההון בעולם. את השינויים השקטים במפת הנדל"ן של ניו יורק הוא מתאר כסימפטום, אולי מאוחר מדי, להיקף ההשתלטות של התוכנות האלה על המסחר בבורסה, ולהיקף המדאיג של צמיחתן בעולם בכלל. "במונחים של דולר לבלטה, אף אחד לא יכול להשתמש בחללי המשרדים שבאזור טוב יותר מחוות השרתים המפלצתיות של חברות האלגו־טריידינג", הוא אומר בראיונות. "כ־70% מתנועות הכספים בבורסה, כלומר מכספי הפנסיה של אמריקה, מתנהלות בין תוכנות לבין עצמן, וכיוון שמי שמאחר ב־5 מיקרו־שניות מפסיד במירוץ, המאבק בין התוכנות עבר להיות על המיקרו־שניות, על מרחקן מהמרכזייה הראשית של האינטרנט בניו יורק".

תוכנות אלגו-טריידינג שנאבקו זו בזו, ללא מגע יד אדם, הן שנמצאו אחראיות לקריסת הבזק שבה הבורסה האמריקאית איבדה 9% בדקות. האירוע הלא צפוי יכול היה להסתיים באופן הרסני הרבה יותר צילום: Colter McCorkindale

סלבין צמח בענף הפרסום והקים את הסטארט־אפים פורצי הדרך Area/Code, שיצר משחקי פייסבוק מבוססי מיקום, ו־Starling, שמפתח רשת חברתית שפועלת דרך הטלוויזיה. כיום הוא גם מייעץ לחברות מדיה ומשמש מרצה אורח לענייני טכנולוגיה באוניברסיטת ניו יורק. אך בשנה האחרונה הוא עורך מסע צלב אישי נגד העברת סמכות ההחלטה והפעולה מידיהם של בני אדם לידי נוסחאות אוטומטיות. תוכנות האלגו־טריידינג שמשתלטות על הבורסה הן בעיניו ההתחלה. אלגוריתמים של בינה מלאכותית משמשים גם במערכת ההמלצה על ספרים באמזון ובמערכות להמלצות על סרטים כמו בשירות האמריקאי להשכרת סרטים באינטרנט נטפליקס. וגם זה רק תחילתו של קצה הקרחון. חזון האימים של סלבין כולל נוסחאות ממוחשבות שיקבלו בעתיד הכרעות דין עבור שופטים ויחליפו את שיקול הדעת של מנהיגים. בהרצאות שהוא מעביר, ומגבש בימים אלה לספר, הוא מדגיש שחשוב לעצור את המגמה של הסתמכות על בינה מלאכותית שתבחר במקומנו מה לקנות ותסחר בשמנו בבורסה. עצירת המגמה הזאת חשובה לא פחות מהניסיון לעצור את זיהום האוויר בכדור הארץ.

את התוצאות, הוא אומר, אפשר כבר לראות בוול סטריט, שם מחשבי העל הם הסוחרים המשפיעים ביותר בשוק, ונאבקים זה בזה בלי "מבוגר אחראי", בלי בן אדם שינחה את בחירותיהם. ובשנה שעברה, ביום אחד מסוים, בשנייה אחת מסוימת, תוכנות האלגו־טריידינג האלה כמעט מוטטו את כלכלת אמריקה.

מפולת ללא משקיעים

ביום חמישי 6 במאי 2010 ב־14:41 בצהריים מדד S&P 500 צנח בבת אחת ב־9%. כמעט עשירית מכספי הפנסיה והחזרי החובות העתידיים של תושבי אמריקה נמחקו בצלילה החד־פעמית הגדולה ביותר, והמסתורית ביותר בתולדות וול סטריט - שבדקות הבאות תיקנה עצמה באטיות ונשארה בעיקר כאזהרה מבהילה. מומחים שהתראיינו לערוצי הטלוויזיה לא ידעו להסביר את האירוע, שזכה לשם "פלאש קראש", "קריסת הבזק".

סלבין. "אין מבוגר אחראי" צילום: Sean Teegarden

חקירת רשות ניירות ערך האמריקאית גילתה שהפלאש קראש היתה תוצאה של רבבות פעולות מתואמות שהחלו בשניות הראשונות של השעה 14:41. אלפי סוחרים הציעו למכירה, בבת אחת ובהיקף עצום, חוזים עתידיים על המדד. ההיצע הזה דחק מטה את המדד למשך ארבע דקות. בתומן, במהלך מהיר שנמשך 14 שניות, 27 אלף ניירות של חוזים עתידיים עברו מיד ליד, הלוך ושוב, במהירות האור. ורק אחר כך הבורסה שקטה והחלה לעלות בחזרה. עד היום איש לא מבין מה קרה שם בדיוק, אבל חמישה חודשי חקירה של רשות ניירות ערך וועדת הפיקוח על חוזים עתידיים בסחורות הסתיימו בדו"ח שקבע כי הקריסה ומה שהתרחש בה היו מעשה ידיהן של תוכנות אלגו־טריידינג, שנאבקו זו בזו והונחו רק על ידי הבינה המלאכותית שלהן, ללא מגע יד אדם. רובוטי מסחר, שלפי דו"ח התחקיר היו אחראים בשעת הקריסה ל־50% מנפח העסקאות בבורסה, הם שטלטלו אותה, בלי שאיש ביקש זאת ובלי שאיש יכול היה לחזות את הנפילה או למנוע אותה.

הפלאש קראש של 6 במאי 2010 יכול היה להסתיים באופן הרסני הרבה יותר. סלבין נמנה גם עם אלה שטוענים שהוא יכול להתרחש שוב בעתיד. האלגוריתמים שמשחקים בבורסה רק מתרבים ומתחזקים, ואף על פי שבני אדם תכנתו אותם, התנהגותם בזמן אמת נעשית יותר ויותר מסובכת ופחות ופחות צפויה, עד שאי אפשר לדעת אילו תרחישים יוצאי דופן יכולים להתחולל ואיך יסתיים המרדף הבא אחרי רווח מהיר.

הסכין שחתכה את נאסד"ק

הכירו את "הסכין", את "המסור", את "אומת האינדיאנים", "דמדומים", ו"החוף". שמות החיבה האלה הוענקו לגרפים של מניות שפתאום, יום אחד, למשך כמה שניות, החלו להשתגע. הביטו למשל בתרשים של "החוף" - הוא מתאר את התבנית המשונה שהסחר במניית יצרנית הציוד הרפואי MELA קיבל ב־23 בספטמבר, בין השעות 10 בבוקר ו־20 שניות לבין 10 בבוקר ו־20 שניות ועוד רסיס שנייה. בבת אחת, כבתיאום מושלם, המוני משקיעים אלמונים ביקשו לקנות, בהמוני עסקאות, כמויות רבות של המניה במחיר 6.25 דולר, ובאותה אלפית שנייה בדיוק צצו המוני משקיעים שמכרו אותה בכ־15–25 סנט יותר: ב־6.4 דולר, 6.45 דולר ו־6.5 דולר. בפחות משלוש שניות בוצע מספר שיא של כ־1,500 עסקאות קנייה ומכירה במניה, על פי התבנית השרירותית הזאת - ובתומן היא חזרה להיסחר כרגיל, ובאופן הרבה פחות תבניתי ומסודר. בגרפים הרגילים של נאסד"ק אי אפשר לראות את האירוע הזעיר. רק התבוננות ברזולוציה של שברירי שנייה מגלה את התיאום המשונה שתקף פתאום את המסחר במניה.

הגילוי הזה שייך לנאנקס, חברה אמריקאית שעושה בדיוק את זה: עוקבת אחרי גרפים של מניות ובוחנת אותם שבריר שנייה אחרי שבריר שנייה, בחיפוש אחרי תבניות משונות שהדבר היחיד שיכול היה לגרום להן הוא מחשב רב־עוצמה שיכול להזיז במהירות כמויות אדירות של כסף. מאחורי התיאום המושלם של 1,500 העסקאות ב"החוף", לדוגמה, יכול היה לעמוד רק מחשב שביקש לבצע רכישה ענקית של מניה בשער של 6.4 דולר ולמכור אותה ב־6.5 דולר, וכדי להסוות את היקף הפעולה פיצל אותה ל־1,500 עסקאות קטנות שהתרחשו בו בזמן.

גרף "המסור". במהלך הפלאש קראש של 6 במאי 2010 אלגוריתם שהופעל בידי גורם לא ידוע סחר לפי התבנית המשונה הזאת באגרות חוב של בנק ברקליס

ההסוואה היא חלק מרכזי בזירת ההתגוששות של מכונות האלגו־טריידינג. בנאנקס טוענים שמבין 8 מיליארד הפעולות שמתרחשות מדי יום בשוק האופציות האמריקאי, 5.5 מיליארד פעולות מבוצעות בידי מחשבים כאלה. מאחורי מחשבי האלגו־טריידינג עומדות כמה ענקיות פיננסים - ההשערות כוללות את גולדמן זאקס, סיטדל, ג'אמפ טריידינג וגטקו. המחשבים מבצעים עבור החברות עסקאות בסכומי עתק שיכולים לטלטל את השוק, אך הם מסווים את פעולות הענק האלה בכך שהם מפרקים אותן לאלפי פעולות קטנות, וגורמים להן להיראות כמו התנהגות של המוני משקיעים קטנים. נאנקס, שמקדישה עצמה לחשיפת העקבות של פעולות ההסוואה האלה, פרסמה ב־2010 1,818 תרשימים מעוררי חשד, שמציגים את פעולות האלגו־טריידינג מסתוות בתוך רבבות מהלכים קצרצרים וסימולטניים. לפי השערות שלא אומתו, רשות ניירות ערך הורתה לחקור, ובכמה מקרים לבטל חלק מהעסקאות האלה. נאנקס גם השתתפה בתחקיר שגילה שאלגוריתמים הם האחראים לפלאש קראש של מאי 2010. את הדו"ח הסופי שלה היא חתמה במשפט: "הקריסה דמתה למשחק מחניים של תלמידי כיתה א', שתלמידי כיתה ח' נכנסו לפתע למגרש, חטפו את הכדור וגירשו את כל הילדים הקטנים".

מלחמת המשובטים

סלבין התוודע לעולם האלגו־טריידינג קצת פחות משנה לפני הפלאש קראש של מאי 2010, בזמן טיסה מברלין לניו יורק. כמי שחי את העולם הדיגיטלי, סלבין אוהב לברר ברשת מי האדם שיושב לידו בטיסה ואם יש להם מכרים משותפים. באותה טיסה, גילה, שכנו למושב היה לא פחות ממתמטיקאי מוכר, שהשתתף בעבר בפיתוח טכנולוגיות צבאיות.

"התחלנו לדבר", הוא מספר בהרצאותיו, "ואף שידעתי עליו כמה דברים דרך האינטרנט לא ידעתי מה תחום עיסוקו המדויק. התברר לי שהוא מהונגריה ושלפני נפילת מסך הברזל הוא פיתח מערכות לזיהוי מפציצים אמריקאיים שלא נקלטים במכ"ם". המערכת ששותפו לטיסה של סלבין פיתח לא היתה רק תיאורטית. ב־1999, בזמן מלחמת קוסובו, היא השתתפה בהפלה הראשונה של מטוס חמקן אמריקאי.

גרף "החוף". תבנית מסחר שבה, במשך ארבע שניות ב־23 בספטמבר 2010, כ־10,000 מניות של חברת MELA נרכשו בזול ונמכרו ביוקר

"שאלתי אותו איך הם למדו לזהות מטוסי חמקן", סלבין נוהג לספר, "והוא הסביר לי שהמטוסים האלה מסווים עצמם ממכשירי רדאר בכך שהם נקלטים בהם כמו להקת ציפורים גדולה. והרי רדאר שמכוון לזהות להקות ציפורים יתמלא באיתותים על ציפורים עד שלא יבחין במטוסים. הצוות של שכני ההונגרי עבד על מה שהוא כינה 'פיצוח הקופסה השחורה', והוא גילה שכדי לאתר מפציץ חמקן לא צריך לחפש אותו לפי צורתו, אלא פשוט לחפש בשמים את האותות החשמליים שרכיביו משדרים זה לזה. הוא אמר לי חצי בצחוק: 'גילינו שאם אתה רואה בשמים המון ציפורים שמשדרות ביניהן אותות אלקטרוניים, כנראה האמריקאים קשורים לזה'.

"כששאלתי אותו מה הוא עושה היום הוא אמר לי 'וול סטריט', וסיפר לי שכיום עובדים בוול סטריט כ־2,000 מתמטיקאים ופיזיקאים, והוא אחד מהם. שאלתי אותו: 'ומהי הקופסה השחורה של וול סטריט?', והוא ענה: 'מצחיק שאתה שואל. הדבר שאני עובד עליו נקרא 'סחר בקופסה שחורה'. ואז הוא סיפר לי על טכנולוגיות האלגו־טריידינג שהחברות בוול סטריט מפתחות. הוא הסביר לי שתפקידו לפתח את 'מטוס החמקן' של וול סטריט, את המערכת שמסווה פעולות ענק שמשרתות מוסדות גדולים כהמוני פעולות קטנות, כ'להקת ציפורים' תמימה. הרי אם בנק השקעות רוצה לקנות או למכור, נגיד, מיליון מניות, הוא צריך להסוות זאת כך שהשוק לא ירגיש בכך. אחרת הוא מגלה את הקלפים שלו, והשחקנים האחרים בשוק יכולים להוריד את המחיר ולפגוע ברווחיו. המתמטיקאי ההונגרי פיתח את אחת המערכות שמפרקות עסקת מיליונים לאלפי עסקאות קטנות וסימולטניות של מאות אחדות של מניות, שנכנסות לזרם הסחר הכללי. אם אין לך את הכלים לזהות את האלגוריתם הזה, אין סיכוי שתזהה עסקה מהסוג הזה. היחידים שיכולים לנסות לזהות אותה ולחבל בה הם אלגוריתמים אחרים. וזה יתרונם הגדול של כל המוסדות הפיננסיים הגדולים, שהם מחזיקים אנשים שמסוגלים לכתוב להם אלגוריתמים כאלה". "סחר הקופסה השחורה", סלבין מסביר, הוא שמם של האלגוריתמים שעוסקים בזיהוי אלגוריתמים אחרים ובמשימות של מאבקים פנימיים ו"ריגול נגדי" שמתרחשים כולם מתחת לאפי המשקיעים.

"הסיפור הזה התחיל בהתרסקות והסתיים בהתרסקות", סיפר סלבין. "הראשונה היא זו של החמקן ואת האחרונה עוד לא ראינו".

המעקבים שעורכים סלבין, נאנקס וחברות נוספות גילו, בין היתר, שחברת תקשורת בשם ספרד נטוורקס פרסה לפני כמה שנים כבל אופטי פרטי באורך של יותר מאלף ק"מ שמחבר את ניו יורק ושיקגו ושמטרתו היחידה היא לשאת סיגנל אחד, יחיד ומהיר בין חברות השקעה ששוכנות בשיקגו לבין הבורסה בוול סטריט, ולאפשר להן להתחרות במחשבי האלגו־טריידינג של החברות שיושבות בקרבת הדסון 60. הסיב האופטי הזה, שנמצא בתעלה שנחצבה דרך הרים ושכמויות גדולות של סלעים פוצצו למען סלילתו, כנראה כבר החזיר את ההשקעה.

The Making of a Fly. תוכנה אוטומוטית תמחרה את הספר ב-23 מיליון דולר

הסיב הזה גם נחשד בהשתתפות בהשתוללות בלתי צפויה של אלגוריתם שלפי ועדת הפיקוח על חוזים עתידיים בסחורות הופעל בידי חברת ההשקעות Infinium משיקגו. האלגוריתם הזה הצליח, במהלך חמש שניות ב־3 בפברואר 2010, להקפיץ את מחיר הנפט בעולם ב־1.3% על ידי יצירת מתקפת ביקושים מאורגנת, שבמחשבי הבורסה נראתה כאילו הגיעה מאלפי סוחרים. מחיר הנפט המשיך לעלות גם אחרי אותן חמש שניות, ולמחרת צנח ב־5%.

ב־13 במאי השנה בשעה 9:30 וחמש שניות בבוקר נפלה מניית חברת הביטוח Enstar מ־100 דולר לסנטים אחדים, נרכשה במחיר זה בכמויות, ובתוך שנייה וקצת שבה למחירה המקורי. ב־2 במאי שתי מניות של חברות תרופות זינקו לפחות משנייה - מניית אבוט לאב זינקה מ־50 דולר ל־250, ומניית פייזר מ־27.60 דולר ל־88.71 דולר. באותה שנייה התבצעו במניות עסקאות בשווי מיליונים שאף בן אנוש לא היה זריז דיו לבצען. רשות ניירות ערך הורתה לבטל את העסקאות האלה. באתר חברת נאנקס, nanex.net, אפשר למצוא עוד מאות דוגמאות למקרים כאלה, ולראות את התרשימים המשונים של גרף המניות באותן שניות. לפי נאנקס, הרבה מקרים קצרצרים כאלה כלל לא זוכים לתשומת לב. מחשבי האלגו־טריידינג עוברים מתחת לרדאר, כמו מפציץ רב־עוצמה, מהיר ואחוז אמוק שמתחזה ללהקת ציפורים תמימה.

האלגוריתמים ידידינו

בינת הנוסחאות לא נולדה בוול סטריט. היא החלה ב־1947, כשהמתמטיקאי ג'ורג' דנציג מאוניברסיטת ברקלי הציג את מה שנהוג לכנות 'אלגוריתם הסימפּלֶקס': מתכון פשוט, מערך הוראות, שמאפשר להזין נתונים כגון מצב הקרקע והזרעים או משקל הפחם ונפח המשאיות ולקבל תשובה חד־משמעית שנוגעת לסוג היבול שיש לזרוע או האופן שבו כדאי לשנע את הפחם. האלגוריתם שלו נהפך לאחד מעמודי התווך של הנדסת המחשב, ודנציג עצמו מת ב־2005, בשיבה טובה ועטור תהילה.

הנוסחה המקורית של דנציג כללה שלושה נתונים מרכזיים: המספרים בשטח, המגבלות והמטרה. אולם מאז 1947 פותחו על בסיסה נוסחאות מורכבות לניצול מקסימלי של המשאבים ולמציאת הדרכים הקצרות ביותר שבעזרתן רשתות סלולריות מנתבות היום שיחות והצבא האמריקאי מתכנן התקפות מהאוויר.

"אומת האינדיאנים" למעלה ו"הסכין" למטה. חברת Nanex, שאיתרה את תבניות המסחר החשודות והעניקה להן את שמותיהן, מפרסמת ברשת את ממצאיה ואת הניתוח של השפעתם

אלא שכיום, עוד ועוד נוסחאות כאלה נוצרות בשלל ענפים, ומשתחררות לשוק הפרטי. עוד ועוד המצאות ופיתוחים מזמינים את בני האדם לוותר על שיקול הדעת האנושי ועול הבחירה וההחלטה, ולהותיר אותם למנגנונים מתמטיים. וככל שהמגמה מתרחבת כך מתרבות הטעויות המוזרות. באפריל השנה, לדוגמה, זה קרה באתר אמזון, כשמחירו של ספר בוטניקה נדיר בשם "The Making of a Fly" זינק בתוך כמה ימים מ־35 דולר ל־23.6 מיליון דולר. המחיר המופרך שהופיע באתר במשך יותר מיום לא היה תוצאה של באג במערכת, אלא תמחור שניתן על ידי אלגוריתמים אוטומטיים של חנויות ספרים משומשים שמוכרות את ספריהן באתר אמזון. האלגוריתמים שהפעילו החנויות Bordeebook ו־Profnath סרקו את המחירים באתר ותמחרו את ספרי החנויות לפי המחירים שמציעות חנויות מתחרות. במקרה של הספר "The Making of a Fly", כך התברר בדיעבד, שתי החנויות הורו לאלגוריתם שלהן לתמחר את הספר בכ־25% יותר מהמחיר שדורשת החנות המתחרה. וכך כל חנות ייקרה באופן אוטומטי את הספר שלה, ואז מתחרתה ייקרה את שלה, וכמו במשחק פינג פונג המחיר תפח ותפח עד שהגיע ליותר מ־20 מיליון, לא כולל דמי משלוח.

סלבין מדגיש בהרצאותיו שהמקרה של אמזון הוא נקודת מבחן שמתרחשת בעשרות ענפים. לדוגמה, בתעשיית היין פועלת כיום חברה בשם ליקוויד אסטס, שמציעה אלגוריתם לתמחור יינות שמנתח את זני הענבים, נתוני הקרקע שבה גודלו, מזג האוויר ונתונים נוספים, ולבסוף מציע מחיר בעל דיוק מתמטי של תמחור אג"ח. "כשאתה מעמיד את אלגוריתם החיזוי הזה, שפיתח פרופ' אורלי אשנפלטר מאוניברסיטת פרינסטון, ומציב אותו כאלטרנטיבה לחיך של מבקר היינות המפורסם רוברט פרקר, אתה מעמיד למעשה שאלה על התהליכים שעוברים על עולמנו. מצד אחד יש לנו פה אנושי בעל יכולות מופלאות לטעום ולדרג, ומהצד האחר יש לנו משוואה מתמטית. אני לא יודע מי מהמערכות האלה טובה יותר, אבל אני כן יודע שאנחנו נוטים להיתלות בכוחה המאשר של המתמטיקה ולצמצם את מגוון הדעות והטעמים האנושיים. אתה רואה את זה מתרחש בהרבה אספקטים של התרבות שלנו", אומר סלבין.

המערכת של Epagogix מנתחת תסריטים קולנועיים ולפיהם מנבאת, בדיוק מבהיל, את הכנסות הסרטים. כמה סטארט־אפים כבר מפתחים מערכות לאבחון הפוטנציאל המסחרי של שירים צילום: בלומברג

דוגמה אחרת להתחזקות מקומם של האלגוריתמים היא המערכת של חברת Epagogix, שמנתחת פרטים של תסריטים ונתוני הפקה של סרטים הוליוודיים, ולפיהם מנבאת את הכנסות הסרטים. המערכת, שמשמשת בכמה אולפנים, זכתה לסיקורי תקשורת נרחבים אחרי שניבאה ב־2007 את כישלונה הקופתי של הקומדיה בכיכובה של דרו ברימור "Lucky You" ונקבה בהכנסות המדויקות שזו תניב: 7 מיליון דולר, ואולפנים הוליוודיים מסרו למגזין "ניו יורקר" שהם משתמשים במערכת ושהיא ניבאה נכונה כמה וכמה הצלחות וכישלונות קופתיים. באחרונה פורסם שכמה סטארט־אפים מפתחים מערכות דומות שיאבחנו עבור חברות תקליטים את הפוטנציאל המסחרי של שירים. וסטארט־אפים רבים אחרים, ובהם חברות ישראליות, מפתחים מערכות שבעזרת אלגוריתמים מתוחכמים יסננו מידע מהאינטרנט, עד שבמקום גלישה אקטיבית, מערכות אוטומטיות יזינו את הגולש במידע שלפי הנוסחאות אמור לעניין אותו.

המכונות עלו

"השאלה היא לא רק איך החלטה אוטומטית אם סרט יופק או לא משפיעה על התרבות שלנו. השאלה היא מי כאן בעצם המשתמש. האם אלה עדיין אנחנו", טוען סלבין. "בכל מקום שבו נפקיר את ההחלטות לידי אלגוריתמים אוטומטיים נקבל ממוצע אופטימלי. זה עובד, פחות או יותר, עד שמגיעה הפרעה גדולה. למשל שעשירית מהכלכלה נעלמת בפלאש קראש של ארבע דקות. ההפרעות שאלגוריתמים ייצרו בעולמנו לא יהיו דומות לטעויות אנוש. אלה יהיו מעשים הגיוניים של מכונות, שיוציאו את ההיגיון שלנו מאיזון".

השאלה שסלבין מעלה כבדת משקל: כיצד פלאש קראש מהסוג שהתרחש בוול סטריט ייראה בתחומים אחרים שבהם נוסחאות אוטומטיות מבצעות את ההחלטות, והאם בכלל נדע עליו? איך הוא ייראה בעולם המוזיקה או הקולנוע? האם טעויות של מערכות החלטה ממוחשבות הכניסו אל כלא גואנטנמו אסירים חפים מפשע? האם התרבותם של סרטי הנוסחה הגרועים בקולנוע הם תוצאה של "פלאש קראש בידורי" שאיש אינו יודע עליו? אלה שאלות שעדיין אין להן תשובה, אבל הן כבר תקפות לחיינו.

"לאלגוריתמים אין היגיון ישר", מסביר סלבין. "הם לא מדברים בשפה אנושית, הם לא חושבים במונחים אנושיים. כשאנחנו מחברים תוכנות חכמות שלומדות את המציאות ומבצעות פעולות אוטומטיות, אנחנו בעצם מחברים ספר הוראות שכתוב בשפה זרה שאינה נהירה לנו. המשמעויות בה אינן אלה שאיתן אנחנו תופסים את העולם. ההיגיון הישר שלנו לא בא בה לידי ביטוי. בהתנהלות של אלגוריתמים אין כלום מההתנהלות האנושית. הם מוגבלים לעולם של מתמטיקה טהורה, ולא יכולים לעבד או להביע את מורכבות החיים. וזה דבר שכדאי לחשוב עליו".

באותו נושא:

"הציבור לא מבין, אבל תמיד דופקים אותו באופציות"