TechTalkמהפכה עם תמרור אזהרה: מאוד לא מומלץ להסתמך רק על בינה מלאכותית בתחום הרפואה
TechTalk
מהפכה עם תמרור אזהרה: מאוד לא מומלץ להסתמך רק על בינה מלאכותית בתחום הרפואה
שימושים מצילי חיים בבינה מלאכותית הם כבר לגמרי חלק מההווה, כפי שמעידים גם כוחות השוק המזניקים את המדטק לשחקים. מצד שני, עו"ד מתן מנחם, חבר ועדת הלסינקי במרכז רפואי שערי צדק, מזהיר מפני טעויות טרגיות שמערכות כאלה עלולות, חלילה, לגרום
הבינה המלאכותית מסייעת לנו להבין טוב יותר מחלות ומשמשת כבר היום למחקר ופיתוח תרופות וטכנולוגיות רפואיות בעידוד משרד הבריאות. על משרד הבריאות להמשיך לקדם את תחום זה, אולם להבין את מגבלותיה של הבינה המלאכותית ולהתאים את יישומה במערכת הבריאות לסיכונים שעלולים להיגרם מהסתמכות עיוורת עליה.
בסרטו המצוין של אלכס גרלנד "אקס מכינה" (Ex Machina) מסופר על ניית'ן, מנכ"ל של חברה בעלת מנוע החיפוש הפופולרי ביותר בעולם Bluebook (המקבילה של "גוגל"), שיצר רובוטית דמוית אדם – "אווה" - באמצעות בינה מלאכותית, על בסיס פריצה לשאילתות החיפוש ומידע בטלפונים הניידים של משתמשי Bluebook כאינדיקטורים לדרך המחשבה האנושית.
אמנם תוכלו למצוא את הסרט בסוגת מדע בדיוני, אבל המציאות מוכיחה לנו שאנחנו כבר שם - במיוחד בתחום הבריאות הדיגיטלית. לאחרונה, תחומי רפואה ובריאות רבים מתפתחים באמצעות בינה מלאכותית שעושה שימוש במידע על בריאותם של מטופלים לצורך פיתוח תוכנות רפואיות, מציאת הקשרים בין תופעות פיזיולוגיות ופתולוגיות לשם אבחון מחלות, זיהוי פרדיקטורים (מנבאים) של מחלות ומצבים רפואיים, בדיקת היתכנות של תרופות חדשות ופיתוח רפואה מותאמת אישית. רופא שסורק את מוחו של מטופל הסובל מדמנציה, לדוגמה, יכול להיעזר בתוכנה שמנתחת סריקות של מיליוני חולי דמנציה, יודעת לאתר פתולוגיות על בסיסן ויכולה להצביע על הפתולוגיה במוחו של המטופל הנבדק.
כיום, מתבצעים מאות אלפי מחקרים רפואיים שעושים שימוש בבינה מלאכותית וגם החברות הבינלאומיות הגדולות ביותר, שליבת עיסוקן אינו תחום הבריאות, נכנסות בכל הכוח לתחום. כלומר, גם כוחות השוק מעידים שהבינה המלאכותית אינה העתיד, אלא ההווה. מי שהשכיל להבין זאת הוא מינהל המזון והתרופות האמריקאי (FDA) שהודיע שיממן בשנת 2022 מחקרים בתחומי רגולציה וחדשנות רפואית ושם דגש מיוחד על פיתוחי בינה מלאכותית.
כפי שהוכח בשנתיים האחרונות, יש למערכת הבריאות בישראל יתרונות רבים בתחום הרפואה הדיגיטלית. הריכוזיות של מערכת הבריאות, שרבים דיברו בגנותה, הוכיחה את יתרונותיה בארגון, בריכוז, בניתוח ובשימוש במידע הרפואי של כלל אזרחי המדינה לצורך יישום תוכנית ההתמודדות עם נגיף הקורונה. מערכת הבריאות הישראלית עקפה בסיבוב את מערכות הבריאות המתקדמות בעולם ולא בכדי פייזר בחרה בישראל כמדינה ראשונה לבדיקת יעילות החיסון לקורונה ברמת האוכלוסייה.
יתרונות אלה באים לידי ביטוי גם במדיניות השימוש המשני במידע בריאות - שימוש במידע בריאות למטרות שאינן מיועדות לטיפול רפואי אלא לצרכי מחקר או קביעת מדיניות - אותה הנהיג משרד הבריאות. התכנית זכתה בהכרה בינלאומית בדו"ח מכון המחקר Open Data Institute, לפיו ישראל עומדת בשורה הראשונה בתחום זה. שימוש משני במידע בריאות מהווה בסיס מצוין לפיתוחי תוכנות בינה מלאכותית (בדיוק כמו שאילתות החיפוש והמידע של משתמשי Bluebook בסרט Ex Machina).
המגמה העכשווית של שימוש בבינה מלאכותית והתאמת יישומה למערכת הבריאות הישראלית לא נעלמו מעיני משרד הבריאות, שעושה עבודה נהדרת בתחום הבריאות הדיגיטלית וכבר החל להקים מיזמים בתחום, כמו "פסיפס" ו"תמנע", המשלבים מידע בריאות מסוגים שונים במערכת אינטגרטיבית אחת, ולקדם פיתוח של תשתיות מידע ולתמוך במחקרים עתירי מידע (big data). לאחרונה אף פורסם שהמשרד משתמש בבינה מלאכותית במסגרת מאמציו לקטוע את שרשראות ההדבקה בקורונה.
בחזרה לסרט, (זהירות, ספוילר), שבסיומו אווה הרובוטית רוצחת את ניית'ן, הופכת לעצמאית ובורחת לעתיד חדש וטוב יותר (עבורה), תוך שימוש באישיות שהיא עיצבה לעצמה באמצעות בינה מלאכותית. במציאות, הבינה המלאכותית אמנם לא תרצח מטופלים, אבל היא עלולה לעשות טעויות שנובעות מהמגבלות המובנות שלה כמערכת המבוססת על מודלים סטטיסטיים שמושפעים משגיאות בנתונים. כך, קלט של נתונים שגויים, שדות שמוגדרים בצורה לא נכונה, אינטגרציה לא מדויקת של מאגרי מידע, אלגוריתמים עם הטיות מובנות לטיפול מסוים - כולם יכולים ליצור טעויות משמעויות ולגרום לנזקים אדירים, הן ברמת המטופל והן ברמת החברה. למשל: החלת מדיניות שגויה בהתמודדות אפידמיולוגית עקב שילוב/עיבוד שגוי של תוצאות בדיקות.
לכן, לצד קידום הבינה המלאכותית, על משרד הבריאות להתאים את יישומה לסיכונים שעלולים להיגרם מהסתמכות עיוורת עליה ולחייב את ארגוני הבריאות שעושים שימוש בבינה מלאכותית להשתמש באמצעים ומנגנונים שינטרלו, ככל האפשר, את הסיכונים הללו. אמצעים אלה יכולים לכלול ניתוח מוקדם ומיפוי נקודות התורפה של יישום מערכת הבינה המלאכותית על מסד נתונים מסוים כדי לדעת מראש אילו תוצאות דורשות בדיקה נוספת, או, לחילופין, התקנת תוכנת ניטור ובקרה של מערכת הבינה המלאכותית שתבצע בדיקה שוטפת על אופן פעילותה.
כמו כן, ניתן ליצור מנגנוני בקרה חיצוניים למערכת הבינה המלאכותית, בדמות תהליך קבלת החלטות מקביל המנותק ממערכת הבינה המלאכותית או הליך טיפול שמחייב קבלת החלטה רפואית אנושית לפני השימוש במערכת כזאת על מנת למנוע הטיה של שיקול הדעת הרפואי, וכן שימוש במערכת הבינה המלאכותית כגורם תומך החלטה בלבד.
אני סבור שאמצעים ומנגנונים למניעת טעויות של בינה מלאכותית ויישום מושכל שלה במערכת הבריאות הינם מחויבי המציאות על מנת לשמור על בריאות הציבור בישראל.
עו"ד מתן מנחם הוא שותף במשרד יהודה רוה, חבר ועדת הלסינקי במרכז רפואי שערי צדק, מייעץ ומרצה בתחום הבריאות והרפואה
