מנכ"ל סיילספורס: "ה-AI עלולה לצאת לגמרי משליטה, לא רוצים הירושימה"
מנכ"ל סיילספורס: "ה-AI עלולה לצאת לגמרי משליטה, לא רוצים הירושימה"
מארק בניוף דיבר במסגרת פאנל בפורום הכלכלי בעולמי בדאבוס, והדגיש את חשיבותם של הבטיחות והאמון בתעשיית הבינה המלאכותית, זאת מאחר ש"ראינו איך הטכנולוגיה יכולה לגרום נזק גדול"
תעשיית הטכנולוגיה מציבה תקני בטיחות ומכוננת עקרונות אמון ביחס לפיתוח של תוכנות בינה מלאכותית, זאת כדי למנוע "רגע הירושימה", כך אמר היום (ה') מנכ"ל סיילספורס מארק בניוף במסגרת פאנל בפורום הכלכלי העולמי שנערך בדאבוס, שווייץ.
לדבריו, "זהו רגע ענק עבור ה-AI, שעשתה קפיצה עצומה קדימה בשנה או השנתיים האחרונות", ובמקביל גם הכיר בכך שעל רקע הקצב המהיר של התקדמותה, הטכנולוגיה עלולה "לצאת לגמרי משליטה".
"אנחנו לא רוצים שמשהו ייצא לגמרי משליטה. זו הסיבה שהלכנו לפסגת הבטיחות. זו הסיבה שאנחנו מדברים על אמון", אמר בניוף, ביחס לכינוס שהתקיים בבריטניה בשנה שעברה. "אנחנו לא צריכים שהירושימה תחזור על עצמה. ראינו איך הטכנולוגיה יכולה לגרום נזק גדול, וראינו את הירושימה. אנחנו לא רוצים לחזות בהירושימה של הבינה המלאכותית"
יחד עם עלייתה הצטברו ספקות ביחס לאמינותה, שימושיה האפשריים, והטיית המידע של הבינה המלאכותית, ומומחים ברחבי העולם מעלים שאלות באשר לאופן ההשתלטות של תוכנות על משרותיהם של עובדים בשר ודם. מוקדם יותר השבוע פרסמה קרן המטבע העולמית דו"ח שמזהיר מכך שקרוב ל-40% מהמשרות ברחבי העולם עלולות להיות מושפעות מהשתלטות הבינה המלאכותית.
במה שהדליק נורות אזהרה אצל רבים, תבע בדצמבר עיתון הניו יורק טיימס את מיקרוסופט ואת OpenAI, שיצרה את ChatGPT, והאשים אותן בהפרת זכויות יוצרים בכך שאימנו את מודלי השיחה שלהן באמצעות טקסטים של העיתון.
סיילספורס נכנסה לתחום ה-AI לאחר שהשיקה תוכנה גנרטיבית משלה בשם איינשטיין GPT, והצטרפה בכך למירוץ העולמי בתחום. AI גנרטיבי הוא צורה של בינה מלאכותית שמאפשרת למשתמשים ליצור תוכן, עיצובים ורעיונות חדשים. היא מתבססת על כמויות אסטרונומיות של מידע שמקורו ברשת האינטרנט החופשית. במקרה של ChatGPT, הוא אומן באמצעות מידע שהועלה לרשת עד שנת 2021.
בפסגה אליה התייחס בניוף, שהתקיימה בשנה שעברה בבלצ'לי פארק בבריטניה, חתמו מנהיגים עסקיים על הסכם תקדימי בו התחייבו ליצור מסגרות ותקנים לפיתוח של AI בצורה בטוחה.
סאם אלטמן, מנכ"ל OpenAI, אמר השבוע בדאבוס שלדעתו AGI – בינה מלאכותית שנמצאת לפחות ברמה של בני אדם, ואף מתקדמת מהם – צפויה להבשיל בקרוב, אבל זה לא יהיה דבר מפחיד כמו שכלכלנים רבים חוששים.
