תפיסות ועמדות הסטודנטים והסגל בטכניון בנוגע לאתיקה של בינה מלאכותית ולהוראתה - טכניון - החממה החברתית תפיסות ועמדות הסטודנטים והסגל בטכניון בנוגע לאתיקה של בינה מלאכותית ולהוראתה - טכניון - החממה החברתית

לינק לקריאת המחקר
מבוא
ההתקדמות בטכנולוגיות בינה מלאכותית המבוססות על נתוני עתק ואלגוריתמים של למידת מכונה מעלה סוגיות חברתיות ואתיות רבות (‏Jobin, Lenca and Vayena 2019). המחקר מצביע בין היתר על סוגיות של הטיות (Noble, 2018), פרטיות (בירנהק, 2010), פגיעה באוטונומיה האישית (Cooper, 2013; Rouvroy, 2013), פגיעה בדמוקרטיה (Tufekci, 2014), מעורבות של אלגוריתמים בקיטוב חברתי (Bessi et al., 2016; Woolley & Howard, 2017; Sunstein, 2018) והעדר אחריות ואחריותיות לקבלת החלטות אלגוריתמית (Martin, 2019).
כחלק מהמאמצים הציבוריים והממשלתיים להתוות את ההיקף והאופן שבו מעורבת הבינה המלאכותית בחיינו, המחקר דן גם בניסוח קוד אתי והנחלה של נורמות אתיות בקרב המהנדסים והמדעניות העוסקים במלאכהBogina, Hartman, Kuflik, and Shulner-Tal, 2021) ) ובשאלת האחריות של מדעני נתונים ומתכנתים לביצועי הטכנולוגיה (Matthias, 2004). בעקבות הלחץ הציבורי והמחקר החברתי, גם קהילת מדעני הנתונים עצמה פתחה במאמץ לנסח קוד אתי עבור חבריה (Loukides, Mason & Patil, 2018).

כבכל מקצוע עתיר ידע (Scott, 2008), מוסדות ההכשרה האקדמיים הם אתר חשוב לעיצוב תפיסות העולם והנורמות האתיות של עובדי המחר. בהקשר זה, ערכנו מחקר בטכניון על עמדות ותפיסות של הסטודנטים והסגל לגבי הסוגיות האתיות והחברתיות שמעלות טכנולוגיות בינה מלאכותית המבוססות על נתוני עתק ולמידת מכונה, ולגבי ההכשרה המצויה והראויה בטכניון בנושאים הללו. המחקר התמקד בתפיסות הסטודנטים והסגל לגבי השפעת הטכנולוגיה על החברה ולגבי אחריות המהנדסים להטמעה אתית שלה. בנוסף, בחנו את עמדותיהם של הסטודנטים והסגל בנוגע להכשרה האתית בטכניון והאופן שבו צריכה ההכשרה להיות נלמדת, בכלל זה מיקום ההכשרה במוסד, נושאים רלוונטיים ואופן לימודם.

ברחבי העולם נערכים כיום מאמצים להטמיע הכשרה אתית למהנדסים בהקשר של אתיקה בבינה מלאכותית; מאמצים אלה כוללים מחקר מלווה (Grosz et al., 2018; Borenstein and Howard, 2021; Raji, Scheuerman and Amironesei, 2021; Fiesler, et al., 2021; Garett, Beard and Fiesler, 2020; Green, 2021). מסקנות המחקרים מעלות כי הטמעת לימודי אתיקה בבינה מלאכותית מהווה אתגר פדגוגי הן מבחינת התכנים הנדרשים, הן מבחינת מערך הקורסים (כקורסים עצמאיים או כתכנים מלווים לקורסים בבינה מלאכותית), והן מבחינת זהות המרצים וסמכותם, במיוחד בהיבט של מתח דיסציפלינרי בין מדעי הרוח והחברה לבין מדעי המחשב והנדסה.

בטכניון החלו מאמצים להטמעת של הכשרה אתית בבינה מלאכותית בשנים האחרונות. המחלקה ללימודים הומניסטיים הרחיבה את שורותיה וחרתה על דגלה הכשרה אתית למהנדסים, בדגש על הפילוסופיה וההיסטוריה של המדע ככלים אינטלקטואליים להבין את החקירה המדעית והפיתוחים הטכנולוגיים הנוכחיים. ד"ר עפרה עמיר מהפקולטה להנדסת תעשייה וניהול השתתפה בפרויקט של שילוב הכשרה אתית בלימודי מדעי המחשב באוניברסיטת הרווארד, בניהול פרופ' ברברה גרוס. היא ייבאה לטכניון תובנות מהפרוייקט והחלה לשלב הרצאות אורח באתיקה בקורסים שלה העוסקים בבינה מלאכותית. ד"ר נטע אבנון לימדה בטכניון במשך שני סמסטרים כעמית הוראה במסגרת המחלקה ללימודים הומניסטיים ואומנויות. הקורס שלה נקרא "סוגיות אתיות וחברתיות בבינה מלאכותית, למידת מכונה ומדע הנתונים". בנוסף, היא נתנה הרצאות אורח בפקולטות להנדסת חשמל, תעשייה וניהול ומדעי המחשב.
המחקר הנוכחי נערך על-ידי ד"ר נטע אבנון וד"ר עפרה עמיר, ובסיוע ד"ר יורם בן ארי, כמחקר מלווה למאמצי הטעמת האתיקה מטעם החממה החברתית בטכניון, במטרה למפות את עמדות הסגל והסטודנטים ביחס להכשרה הרצויה והמצויה, ולסייע להתוות את הדרך במוסד.

ממצאים עיקריים
o הסטודנטים והסגל בטכניון מעוניינים ללמוד היבטים שונים של אתיקה של בינה מלאכותית.
o תחומי הידע שנמצאו רלוונטיים הם רבים ומגוונים: מדעי החברה, משפטים, פילוסופיה והיסטוריה.
o דוגמאות והמחשות לצד דיונים והגדרות הם התכנים המבוקשים ביותר, וכן שיטות חישוביות לכימות סוגיות באתיקה.
o יש עניין בקורסי חובה ייעודיים לצד תכנים באתיקה בקורסים הרלוונטיים בבינה מלאכותית.
o מומחים בבינה מלאכותית נתפסים כבעלי הסמכות ללמד סוגיות באתיקה, ולאחר מכן מומחים ייעודיים לנושא ומומחים מהמקצועות ההומניסטיים.
o אין מוסד חברתי הנתפס כאחראי על נושא האתיקה בבינה מלאכותית; גם מעמדה ותפקידיה של האקדמיה בהקשר זה לא ברורים עדיין.
o יש בטכניון זרמים המחזיקים בעמדות טכנו-דטרמיניסטיות ומתנגדים להגבלות על הפיתוח הטכנולוגי מטעמים אתיים.

he_ILעִבְרִית