חלום אוטונומי – איפה הלב והכליות? – דן מוזס – 04 פברואר 2025

שימוש בכלי רכב אוטונומיים טומן הבטחה לעתיד בו התחבורה תהייה בטוחה יותר, יעילה יותר ונגישה יותר. יחד עם זאת, מהפכה זו מעלה שורה של דילמות מוסריות המחייבות שיקול דעת רב וזהיר.

בשנת 1967 הציגה לראשונה הפילוסופית פיליפה פוט את דילמת הקרונית, קרון רכבת איבד את הבלמים ודוהר במהירות קדימה, בהמשך הדרך יש פיצול לשתי מסילות על האחת נמצאים חמישה עובדים ועל המסילה השניה נמצא עובד אחד. הפקח צריך לקבוע לאיזו מסילה הוא מסיט את הרכבת, האם יגרום למותם של חמישה אנשים או רק אדם אחד. בהתאמה לשנת 2025 נשאל מה יקבע המחשב של הרכב אוטונומי במצב של תאונה בלתי נמנעת שיכולה לגרום למוות? נניח מקרה בו הכביש רטוב והרכב סוטה ממסלולו האם עדיף לפגוע בהולך רגל או לבצע סטייה מהמסלול וסיכון הנוסעים ברכב? כיצד יש לתכנת אותו לקבלת החלטה זו?  האם התכנות ישתנה ואם הולך הרגל הוא ילד או אולי אישה עם עגלת תינוק?

דילמה זו מדגישה את השאלות המוסריות העמוקות סביב קביעת סדר העדיפויות של החיים. האם על כלי הרכב לתעדף את בטיחות הנוסעים שלו, למקסם את מספר החיים הנצולים, או שמא עליו לתעדף את בטיחות הולכי הרגל ומשתמשי הדרך הפגיעים האחרים? אין תשובה פשוטה, יש גישות אתיות שונות עם פתרונות סותרים. נניח שהמחשב יבחר באפשרות בה נפגעים הכי פחות בני אדם. האם נשנה את התשובה אם ברכב ישב נשיא המדינה? האם לאילן מאסק האיש העשיר בעולם והבעלים העיקרי של חברת טסלה מותר יהיה לשנות את המחשב ברכב שלו כך שקודם כל יגן עליו?  לערכים חברתיים תפקיד מכריע בשיקולים מוסריים כאלו. החלטה "נכונה" יכולה להשתנות מהותית בין תרבויות  שונות, אני יכול לשער כי באפגניסטן של ימינו הגנה על אישה הולכת רגל תקבל עדיפות נמוכה. 

זו לא הבעיה היחידה שנדרש לפתור כדי שנוכל לתפעל רכבים אוטונומיים.

כנראה נצליח לצמצם מאוד את כמות התאונות אך לא למנוע לחלוטין. במקרה של תאונה הכוללת כלי רכב אוטונומי על מי נטיל את האחריות לתאונה?  יצרן הרכב, מפתח התוכנה או הבעלים של הרכב, קביעת האחריות יכולה להיות מורכבת. האם המסגרת המשפטית הקיימת נותנת מענה למורכבות הזאת? 

כלי רכב אוטונומיים מצויידים בחיישנים רבים מסוגים שונים האוספים כמויות אדירות של נתונים על סביבתם והנוסעים בהם, מי אחראי על שמירת פרטיות הנתונים ומניעת שימוש לרעה. כיצד נאספים, מאוחסנים ומשתמשים בנתונים אלה? אילו אמצעי הגנה קיימים להגנה על מידע רגיש ולמניעת הפרת הפרטיות? בחקירה שנערכה בשנה שעברה בוועדת הסחר הפדרלי של הסנט האמריקאי פורסמו נתונים כי חברות ג'נרל מוטורס, הונדה ויונדאי מכרו במהלך השנים האחרונות את  הנתונים על הנהגים של הרכבים המקושרים שלהם, מידע זה שימש את חברות הביטוח לחיתום וקביעת  גובה הפרמיות. 

האתגרים הטכנולוגיים לנהיגה אוטונומית נראים פשוטים הרבה יותר מההחלטות המוסריות שצריך לקבל. 

סעו בזהירות.