האם המכונה באמת טועה – או רק "משקפת אותנו?" הגולנית שחוקרת את האנשים שמאחורי הבינה המלאכותית ברפואה
גפן בן דוד, מקיבוץ כפר חרוב, שבדרום הגולן, היא דוקטורנטית לסוציולוגיה באוניברסיטת חיפה, שחוקרת לא את הבינה המלאכותית עצמה, אלא את מי שבונה אותה. איך מפתחי אלגוריתמים ברפואה רואים את התפקיד שלהם ומה ההבדל בין מי שעובד בבית חולים ציבורי לבין מי שעובד בחברת הייטק פרטית? מסתבר שהפערים מפתיעים וגם קצת חושפים אותנו כבני אדם.
לא בכל יום פוגשים מישהי מהגולן שחוקרת את אחד הנושאים החמים בעולם – בינה מלאכותית. גפן בן דוד, דוקטורנטית בחוג לסוציולוגיה באוניברסיטת חיפה, החליטה להסתכל על התחום מזווית שונה לגמרי: לא על המכונה, אלא על האנשים שמפתחים אותה.
גפן: "רציתי להבין איך אנשים חושבים כשהם בונים מחשבים 'חכמים' שמחליטים החלטות רפואיות. מה ההבדל בין מי שעובד בבית חולים ציבורי, לבין מי שעובד בחברת סטארט־אפ שמטרתה רווח. איך זה משפיע על המוצר, על האחריות ועל הדרך שבה הם רואים טעויות של המחשב".
לדבריה, השאלה המרכזית במחקר שלה נולדה מתוך רצון לחדש: "בתחום שלי, חייבים להביא זווית חדשה. רוב המחקרים בודקים איך טכנולוגיה משפיעה על החברה. אותי עניין ההפך – איך החברה משפיעה על טכנולוגיה. גיליתי שזה תחום שכמעט לא נחקר".
גפן מספרת שהמניע האישי לא היה מקרי.
"אולי בגלל שבן הזוג שלי עובד בתחום הרפואה (שלומי בן דוד, רופא משפחה, סניף "כללית" חיספין), נמשכתי דווקא לצד הזה של הצלת חיים. זה תחום שמחבר בין טכנולוגיה, אתיקה ורגש אנושי. כשבינה מלאכותית מחליטה מי יקבל טיפול – זו כבר לא רק שאלה טכנית".
כסף, או שליחות?
אחת התובנות הבולטות שעלו מהמחקר של גפן היא הפער בין שני העולמות – הציבורי והפרטי.
"כשאני שואלת מפַתחים מה המטרה של המוצר שלהם", היא אומרת, "בחברות פרטיות, אני שומעת תשובות שקשורות ליעילות ולכסף – להוריד עלויות, לשפר תהליכים. במערכת הציבורית, אני שומעת הרבה יותר על 'לשפר חיים', 'להציל חיים'. שם הדיבור הוא על אחריות חברתית".
אבל ההבדל לא נגמר שם.
"במגזר הפרטי, יש יחסים של יצרן ולקוח – כמו כל מוצר. במגזר הציבורי, ה'לקוחות' הם המחלקות הרפואיות והיחסים הרבה יותר מבוססי אמון וערכים. זה משנה לגמרי את הדרך שבה מסתכלים על הטכנולוגיה".
כשיש טעות – מי אשם?
גפן חקרה גם את האופן שבו מפתחים מגיבים כשהאלגוריתם טועה.
"במגזר הפרטי, הרבה אמרו לי: 'זה קורה, המודל לא מושלם'. שמעתי משפטים כמו 'לא נבזבז זמן לבדוק שוב את כל המודלים בשביל טעות אחת'. במגזר הציבורי, לעומת זאת, יש מחלקות אתיקה שמפקחות מקרוב. שם תראה הרבה יותר לקיחת אחריות".
לדבריה, זו לא רק גישה מקצועית, אלא תפיסה אנושית.
"רוב האנשים בתחום הרפואי באים עם שליחות אמיתית. גם אם הם עובדים בחברה פרטית, יש להם תחושת שליחות. אבל האופן שבו הם מתמודדים עם האחריות שונה מאוד".
מה עם הנתונים עצמם?
בעידן שבו הכול מבוסס על דאטה, גפן גילתה פער נוסף.
"מפתחים במערכת הציבורית הרבה יותר מודעים לכך שהנתונים חייבים לשקף איזון – מגדרי, עדתי, גילאי. במגזר הפרטי, יש נטייה להגיד 'זה לא תלוי בי, אלה הנתונים שיש'. בעצם, האחריות נופלת בין הכיסאות".
מה שהכי הדהים אותה: "אין קוד אתי מחייב למפתחי דאטה. לרופאים יש, לעובדים סוציאליים יש, למפתחים – לא. כל אחד יכול לבחור מה כן ומה לא. זה תחום פרוץ שעדיין מתגבש בעולם ובישראל כמעט שאין עליו רגולציה".
מכונה שמוכרת, או רופא שהיא עוזרת לו?
כששאלתי אותה אם המפתחים רואים בבינה המלאכותית תחליף לרופא, גפן חייכה: "לשמחתי, רובם עדיין חושבים שהמחשב בא לעזור, לא להחליף. הם מבינים שהרפואה היא לא רק נתונים – היא גם שיקול דעת, אמפתיה, ניסיון. זה משהו שמכונה לא יכולה לעשות".
מי אחראי להטיות?
גפן נוגעת גם בנושא רגיש – ההטיות. היא מציינת כי בראיונות שערכה היא זיהתה במגזר הפרטי דפוס מסוים של לקיחת אחריות קרב המפתחים עצמם ובצורה שהם תפסו כמנוגדת לתפיסות הארגוניות והניהוליות של הארגון. לעומת זאת, במגזר הציבורי, היא מצאה כי המפתחים הציגו גישה הרבה יותר ארגונית והוליסטית של פרוטוקולים למניעה ולמיגור של הטיות".
מה למדת עלינו, כבני אדם?
"בעיניי", היא אומרת, "הטכנולוגיה לא מספרת סיפור על מכונות, אלא עלינו. בעולם שבו אנחנו כל הזמן נזהרים שלא לפגוע, להיות פוליטיקלי קורקט, פתאום באה המכונה והיא פשוט מראה לנו מה באמת אנחנו חושבים. היא כמו מראה עקיפה של החברה שלנו. זה אולי הדבר הכי מרתק, בעיניי".
גפן בן דוד, מקיבוץ כפר חרוב, היא דוקטורנטית בחוג לסוציולוגיה באוניברסיטת חיפה. היא חוקרת את יחסי הגומלין בין מפתחים, טכנולוגיה וחברה ובעצם, איך מחשבים חכמים משקפים את בני האדם שבנו אותם.
רוצים שגם הסיפור שלכם יופיע כאן? אם אתם מהגולן ועוסקים בדיגיטל,, טכנולוגיה, מחקר, או חדשנות מכל סוג – כתבו ל: omer@ok1.co.il
