המיתוס של 'ההחלטה הנכונה'
במשך עשורים, 'דילמת הקרונית' (The Trolley Problem) שימשה ככלי עבודה פילוסופי בשיעורי אזרחות ומחשבת ישראל. הדילמה פשוטה: האם תסטה עם הקרונית כדי להרוג אדם אחד במקום חמישה? כעת, כשהמכוניות האוטונומיות הופכות למציאות בכבישי ישראל ובכלל, הדילמה הזו הפכה מניסוי מחשבתי לאתגר תכנותי. אך כאן טמונה הטעות הגדולה: אנחנו מנסים לפתור את הבעיה הלא נכונה.
המכונה המוסרית של MIT: הנתונים המפתיעים
מחקר 'המכונה המוסרית' (Moral Machine) של MIT חשף נתון מדהים: אין הסכמה גלובלית על מוסר. בתרבויות מסוימות יש העדפה ברורה להצלת צעירים על פני קשישים, בעוד שבאחרות יש כבוד רב יותר לסדר חברתי. אם נתכנת את המכונית שתדע לעשות את ה'דבר הנכון', אנחנו למעשה כופים קוד מוסרי מערבי, ליברלי או שמרני על כלל האנושות. האם זה הוגן? האם זה בכלל אפשרי?
הזווית הישראלית: מוביילאיי והאתיקה של היעילות
בישראל, מעצמת טכנולוגיה כמו Mobileye, האתגר הוא אחר. המהנדסים כאן לא שואלים 'את מי להרוג', אלא 'איך למנוע את המצב מלכתחילה'. הגישה הישראלית, שמתמקדת בחדשנות ובפתרון בעיות (Problem Solving), מציעה זווית מרעננת: האתיקה האמיתית היא לא בבחירה בין רע לרע, אלא בהפחתת אי-הוודאות. במקום לנסות לתכנת 'מצפון' למכונה, עלינו להשקיע בחיזוי תנועה, בבלימה חכמה ובתקשורת בין-רכבית. במילים פשוטות: הדרך הטובה ביותר לפתור את דילמת הקרונית היא לוודא שהקרונית לעולם לא תגיע למסילה הזו.
למה הדילמה הזו היא 'מלכודת דבש' חינוכית?
עבור מחנכים ומנהלים, הניסיון ללמד את התלמידים 'איך המכונית צריכה להחליט' הוא בזבוז זמן אינטלקטואלי. התלמידים צריכים להבין ש:
- מוסר הוא לא אלגוריתם: אי אפשר להמיר ערכים אנושיים לקוד בינארי (0 ו-1) מבלי לאבד את המהות האנושית.
- אחריות משפטית מול מוסרית: מי אשם כשהאלגוריתם טועה? המתכנת? הבעלים? היצרן? הדיון האמיתי הוא על חלוקת האחריות בעולם שבו הטכנולוגיה פועלת באופן עצמאי.
- הטיה אלגוריתמית: כשאנחנו בונים מערכות כאלו, אנחנו מכניסים פנימה את ההטיות הלא-מודעות שלנו.
סיכום: לעבור מ'מה לעשות' ל'איך לחשוב'
בסופו של יום, השאלה היא לא 'את מי תדרוס המכונית', אלא 'איזה עולם אנחנו בונים עבור המכוניות האלו'. כפי שראינו בטכנולוגיות ישראליות פורצות דרך, הפתרון הוא הנדסי, מערכתי ומשפטי. כמרצים ומחנכים, התפקיד שלנו הוא לא לתת לתלמידים תשובה לשאלה התיאורטית, אלא לצייד אותם בכלים לבקר את המערכות שקובעות את גורלנו. אל תלמדו אותם לבחור בין הקורבנות; תלמדו אותם לבנות מערכות שמונעות את הצורך בבחירה הזו מלכתחילה.