שם הקורס:  היבטים אתיים וחברתיים של מדעי המחשב

Ethical and Social Aspects of Computer Science

שם המרצה: דר' תומר שדמי

סוג הקורס: שיעור    מועד: יום א' 10:00-13:00

שנת לימודים:     תשע"ט                 סמסטר:  א'                היקף שעות: 3 ש"ס 

תוכן ומתכונת הקורס:

טכנולוגיות המתבססות על ניתוח נתונים באמצעות למידת מכונה ומערכות ממוחשבות אחרות הופכות בשנים האחרונות למנגנון חשוב ומרכזי בקבלת החלטות פרטיות וציבוריות ועשויות לשנות מהיסוד פעילויות בתחומים שונים - החל מרפואה, דרך שוק ההון ועד לשדה הקרב. התפקיד הגדל והולך של מערכות ממוחשבות בכלל ומערכות לומדות בפרט, בהסדרת תחומים שונים מציב את מדעני המחשב ואת המהנדסים בצומת חדש ומורכב, בו להחלטותיהם המקצועיות עשויות להיות השלכות אתיות, משפטיות וחברתיות מרחיקות לכת ולא צפויות. כתוצאה מהתפתחויות אלו תוצרי העבודה של מהנדסים ומדעני מחשב נמדדים יותר ויותר לא רק על בסיס שיקולי יעילות ופונקציונאליות, אלא גם לאור ההשלכות החברתיות, המשפטיות והאתיות של הקוד. מטרת הקורס היא לצייד את הסטודנטים במפה בסיסית, שתאפשר להם לשאול שאלות הנוגעות להשלכות של מודלים שונים, ותאפשר להם להבין טוב יותר דרישות אתיות, משפטיות וחברתיות, שחלות עליהם כיום. בקורס נסקור ונדון בסוגיות אתיות וחברתיות מרכזיות שטכנולוגיות חדשות מעוררות בשנים האחרונות. נשאל בין היתר כיצד מערכות לומדות מקבעות אפליה של קבוצות שונות, האם וכיצד ניתן למנוע אותה? מדוע פרטיות משתמשים חשובה, מהי המדיניות הנוכחית בנוגע לשמירה על פרטיות ולאן היא עשוייה להתפתח בשנים הקרובות? על מי ראוי שתחול האחריות לפעולות של רכבים אוטונומיים ורובוטים? האם ניתן לקודד כללים מוסריים, אם כן מי ראוי שיקבע את הכללים וכיצד? ועוד. הדיון בכל אחת מן הסוגיות יתמקד במקרי מבחן עכשוויים, שיוצגו באמצעות סרטונים, קטעי עיתונות ואורחים מהאקדמיה ומהתעשייה העוסקים בסוגיה.

דרישות קדם:

לקורס זה אין דרישות קדם.

מרכיבי הציון הסופי:

נוכחות, השתתפות פעילה  – 10%

בחינה – 90%

חובות / דרישות / מטלות:

• נוכחות והשתתפות פעילה.

• בחינה בסיום הקורס.

תכנית השיעורים:

שיעור 1 - מבוא

לטכנולוגיה היו תמיד השלכות חברתיות ואתיות, אך כיום כאשר אנחנו נסמכים יותר ויותר על מערכות ממוחשבות לצורך קבלת החלטות מקצועיות, ציבוריות ואישיות ההשלכות הללו עולות לסדר היום הפוליטי, המשפטי, הטכנולוגי והציבורי. בשיעור נעמוד על ההשפעה ההולכת וגוברת של מערכות ממוחשבת על חיי המשתמשים והחברה בכללותה, ונשאל האם מהכוח ההולך וגובר של מערכות אלו, נובעת גם אחריות מסוג חדש.

שיעור 2 – מעקב ופרטיות

בשיעור נדון כיצד מעקב הפך למודל העיסקי הבסיסי של חברות רבות, ומה ההשלכות החברתיות והאתיות של מודל זה. נשאל מהי הזכות לפרטיות? מדוע היא חשובה? מה האתגרים הנוכחיים עימם יש להתמודד בתחום, ומהם עיקרי המדיניות האמריקאית, האירופית והישראלית בנוגע לשמירה על הזכות לפרטיות.  בשיעור נסקור את עיקרי ה-GDPR, שנכנסו זה מכבר לתוקפן באיחוד האירופי ונשאל אילו דרישות הן מעמידות למהנדסי תוכנה ומדעני נתונים ונדון בפרקטיקות הקיימות של טפסי ההסכמה, במגבלותיהן ובמשמעויותיהן.

שיעור 3 - למי שייך המידע? בין אינדיבידואלים, תאגידים, ממשלות וטוב ציבורי

בשיעור נשאל למי שייכים, ולמי ראוי שיהיו שייכים, נתונים אישיים ונתונים הנוצרים כתוצאה מאינטרקציות שונות של משתמשים. נסקור תפיסות ומודלים שונים, ונעמוד על המשמעויות האתיות, החברתיות והטכנולוגיות שלהן.

שיעור 4 - משילות באמצעות פרופילים ודירוג חברתי

בשיעור נדון אילו משמעויות חברתיות ופוליטיות יש לניהול מערכות ציבוריות על בסיס נתוני עתק, פרופילים אישיים ודירוג חברתי. נשאל כיצד מערכות כאלה משנות מוסדות חברתיים ופוליטיים קיימים, כיצד הן משנות את יחסי הכוח בין אזרחים לממשלים פוליטיים ותאגידים ואילו תפקיד ואחריות יש למתכנתים בהתפתחויות האלו. 

שיעורים  5 - אפליה והטיות בקבלת החלטות אלגוריתמיות

בשיעור נדון בתפיסות משפטיות ומוסריות מובילות באשר לשאלה מהי אפליה אסורה ונשאל כיצד מערכות קבלת החלטות המנתחות נתוני עתק משעתקות הטיות קיימות, כיצד הן יוצרות הטיות חדשות, והאם וכיצד ניתן להתמודד עם אתגרים אלו. נעמוד גם על הקשר שבין גיוון תעסוקתי בעולם ההיי-טק והטיות במערכות קבלת ההחלטות.   

שיעור 6 - הליך הוגן, שקיפות ואחריותיות במערכות אוטומטיות קבלת החלטות

בשיעור נכיר עקרונות משפטיים וציבוריים קיימים המבטיחים הליך הוגן בהחלטות המשפיעות על זכויות של אינדיבידואלים ונשאל כיצד ניתן להבטיח עקרונות אלו גם בקבלת החלטות המתבססות על אלגוריתמים. בין השאר נדון בדרישה להסבר ובדרישה לשקיפות של החלטות אלגוריתמיות ובאפשרויות הפיקוח האנושי על החלטות אלו.  

שיעור 7 - אחריות של מערכות לומדות ושל רובוטים

בשיעור נשאל על מי ראוי שתוטל האחריות לתאונות של רכבים אוטונומיים? האם ראוי לראות מערכות לומדות כישויות בעלות אחריות משפטית המנותקת מאחריות היצרנים והמהנדסים? האם ניתן וראוי לקודד מוסר לתוך מערכות הההפעלה האוטונומיות? איזה מוסר יש לקודד ומי ראוי שיקבע מהו המוסר המתאים?

שיעור 8 - השלכות קוגנטיביות ופסיכולוגיות של אוטומטיזציה - התמכרות ותלות

בשיעור נדון כיצד תלות בשירותים אוטומטיים משפיעה על כישורים אנושיים, כמו היכולת לנווט למשל. נשאל כיצד התמכרות לשירותים טכנולוגיים משפיעה על הרווחה הנפשית והאישית של המשתמשים, וכיצד מודלים טכנולוגיים ועיסקיים שונים משפיעים על מידת ההתמכרות לשירותים שונים. נעמוד במיוחד על השפעת המודלים השונים על התפתחות ילדים.

שיעור 9 - השלכות חברתיות וכלכליות של אוטומטיזציה

בשיעור נדון במשמעויות החברתיות והכלכליות של אוטומטיזציה של מקצועות ויכולות אנושיות. נדון כיצד עולם העבודה משתנה בעקבות התיווך של פלטפורמות כ"אובר" בין ספקי עבודה וצרכנים ומה המשמעות של אובדן מקומות עבודה וסקטורים שלמים של עיסוקים כתוצאה מאוטומטזציה צפוייה שלהם. כמו כן נדון בהבחנה שבין טכנולוגיה שמסייעת לבני אדם, לטכנולוגיה שמחליפה בני אדם וביתרונות ובחסרונות של כל קטגוריה.

שיעור 10 - מאבקי סייבר, ריגול ומערכות נשק אוטונומיות

בשיעור נשאל כיצד טכנולוגיות מתקדמות משנות את פני שדה הקרב, כיצד הן זולגות לשדות אחרים ומשנות גם יחסים אזרחיים, ואילו השלכות יש להן על האתיקה והמשפט. נשאל מה היתרונות ומה הסכנות של נשק אוטונומי הנסמך על זיהוי פנים וכיצד הכללים ההומניטאריים הקיימים מושפעים וראוי שיושפעו מהשתלבות רובוטים ומערכות לומדות בשדה הקרב.

שיעורים 11-12 - סיכום  חדשנות אחראית

בשיעור נכיר גישות שונות באשר לשאלה מהי חדשנות אחראית, האם וכיצד היא יכולה להתאפשר. נבחן מודלים קיימים שונים בחברות שונות ובמדינות שונות ביחס לשילוב אתיקה ואחריות בתהליכי הפיתוח ונדון ביתרונותיהן ובמגבלותיהן ובאופנים אלטרנטיביים לחשוב על פיתוח וחדשנות אחראיים. כמו כן נשאל כיצד ראוי להסדיר את אחריות מדעני המחשב והמהנדסים -  האם מדובר במוסר האישי של כל מתכנתת, באחריות התאגידים והחברות או שזה עניין שראוי שמדינות יסדירו בחקיקה.