חיפוש חדש  חזור
מידע אישי לתלמיד

שנה"ל תשע"ט

  היבטים אתיים וחברתיים של מדעי המחשב והנדסת תוכנה
  Ethical and Social Aspects of Computer Science  
0368-3123-01
מדעים מדויקים
סמ'  א'1000-1300308 טרובוביץ משפשיעור ד"ר שדמי תומר
דרישות קדם   בחינה   רשימת התפוצה  
ש"ס:  3.0

סילבוס מפורט

מדעים מדויקים
0368-3123-01 היבטים אתיים וחברתיים של מדעי המחשב והנדסת תוכנה
Ethical and Social Aspects of Computer Science
שנה"ל תשע"ט | סמ'  א' | ד"ר שדמי תומר

סילבוס מפורט/דף מידע

שם הקורס:  היבטים אתיים וחברתיים של מדעי המחשב

Ethical and Social Aspects of Computer Science

שם המרצה: דר' תומר שדמי

סוג הקורס: שיעור    מועד: יום א' 10:00-13:00

שנת לימודים:     תשע"ט                 סמסטר:  א'                היקף שעות: 3 ש"ס 

תוכן ומתכונת הקורס:

טכנולוגיות המתבססות על ניתוח נתונים באמצעות למידת מכונה ומערכות ממוחשבות אחרות הופכות בשנים האחרונות למנגנון חשוב ומרכזי בקבלת החלטות פרטיות וציבוריות ועשויות לשנות מהיסוד פעילויות בתחומים שונים - החל מרפואה, דרך שוק ההון ועד לשדה הקרב. התפקיד הגדל והולך של מערכות ממוחשבות בכלל ומערכות לומדות בפרט, בהסדרת תחומים שונים מציב את מדעני המחשב ואת המהנדסים בצומת חדש ומורכב, בו להחלטותיהם המקצועיות עשויות להיות השלכות אתיות, משפטיות וחברתיות מרחיקות לכת ולא צפויות. כתוצאה מהתפתחויות אלו תוצרי העבודה של מהנדסים ומדעני מחשב נמדדים יותר ויותר לא רק על בסיס שיקולי יעילות ופונקציונאליות, אלא גם לאור ההשלכות החברתיות, המשפטיות והאתיות של הקוד. מטרת הקורס היא לצייד את הסטודנטים במפה בסיסית, שתאפשר להם לשאול שאלות הנוגעות להשלכות של מודלים שונים, ותאפשר להם להבין טוב יותר דרישות אתיות, משפטיות וחברתיות, שחלות עליהם כיום. בקורס נסקור ונדון בסוגיות אתיות וחברתיות מרכזיות שטכנולוגיות חדשות מעוררות בשנים האחרונות. נשאל בין היתר כיצד מערכות לומדות מקבעות אפליה של קבוצות שונות, האם וכיצד ניתן למנוע אותה? מדוע פרטיות משתמשים חשובה, מהי המדיניות הנוכחית בנוגע לשמירה על פרטיות ולאן היא עשוייה להתפתח בשנים הקרובות? על מי ראוי שתחול האחריות לפעולות של רכבים אוטונומיים ורובוטים? האם ניתן לקודד כללים מוסריים, אם כן מי ראוי שיקבע את הכללים וכיצד? ועוד. הדיון בכל אחת מן הסוגיות יתמקד במקרי מבחן עכשוויים, שיוצגו באמצעות סרטונים, קטעי עיתונות ואורחים מהאקדמיה ומהתעשייה העוסקים בסוגיה.

דרישות קדם:

לקורס זה אין דרישות קדם.

מרכיבי הציון הסופי:

נוכחות, השתתפות פעילה  – 10%

בחינה – 90%

חובות / דרישות / מטלות:

  • נוכחות והשתתפות פעילה.
  • בחינה בסיום הקורס.

תכנית השיעורים:

שיעור 1 - מבוא:

לטכנולוגיה היו תמיד השלכות חברתיות ואתיות, אך כיום כאשר אנחנו נסמכים יותר ויותר על מערכות ממוחשבות לצורך קבלת החלטות מקצועיות, ציבוריות ואישיות ההשלכות הללו עולות לסדר היום הפוליטי, המשפטי, הטכנולוגי והציבורי. בשיעור נעמוד על ההשפעה ההולכת וגוברת של מערכות ממוחשבת על חיי המשתמשים והחברה בכללותה, ונשאל האם מהכוח ההולך וגובר של מערכות אלו, נובעת גם אחריות מסוג חדש.

שיעור 2 – מעקב ופרטיות:

מקרה מבחן:  פרשת "קימברידג' אנליטיקה" והמודל העיסקי של "פייסבוק"

https://www.youtube.com/watch?v=6ValJMOpt7s

דיון:

בשיעור נדון כיצד מעקב הפך למודל העיסקי הבסיסי של חברות רבות, ומה ההשלכות החברתיות והאתיות של מודל זה. נשאל מהי הזכות לפרטיות? מדוע היא חשובה? מה האתגרים הנוכחיים עימם יש להתמודד בתחום, ומהם עיקרי המדיניות האמריקאית, האירופית והישראלית בנוגע לשמירה על הזכות לפרטיות.  בשיעור נסקור את עיקרי ה-GDPR, שנכנסו זה מכבר לתוקפן באיחוד האירופי ונשאל אילו דרישות הן מעמידות למהנדסי תוכנה ומדעני נתונים ונדון בפרקטיקות הקיימות של טפסי ההסכמה, במגבלותיהן ובמשמעויותיהן.

שיעור 3 - למי שייך המידע? בין אינדיבידואלים, תאגידים, ממשלות וטוב ציבורי:

מקרה מבחן: הסדרת השימוש בנתוני בריאות בישראל – למי ראוי שיהיו שייכים נתוני הבריאות  - האם לחולים, לקופות החולים/בתי החולים, לציבור בכללותו או לחברות שיודעות להפיק ממנו תועלת?

https://www.health.gov.il/PublicationsFiles/health_info.pdf

דיון:

בדיון נשאל למי שייכים נתונים אישיים ונתונים הנוצרים כתוצאה מאינטרקציות שונות של משתמשים. נסקור תפיסות ומודלים שונים, ונעמוד על המשמעויות האתיות, החברתיות והטכנולוגיות שלהן.

שיעור 4 - משילות באמצעות פרופילים ודירוג חברתי:

מקרה מבחן:

מערכת פנימית ניסיונית של "גוגל" לטיוב והנדסה חברתית

https://www.theverge.com/2018/5/17/17344250/google-x-selfish-ledger-video-data-privacy

מערכות הדירוג החברתי בסין – המערכת הממשלתית העתידית וזו הקיימת של "עליבאבא"

https://www.wired.co.uk/article/chinese-government-social-credit-score-privacy-invasion

דיון:

בשיעור נדון אילו משמעויות חברתיות ופוליטיות יש לניהול מערכות ציבוריות על בסיס נתוני עתק, פרופילים אישיים ודירוג חברתי. נשאל כיצד מערכות כאלה משנות מוסדות חברתיים ופוליטיים קיימים, כיצד הן משנות את יחסי הכוח בין אזרחים לממשלים פוליטיים ותאגידים ואילו תפקיד ואחריות יש למתכנתים בהתפתחויות האלו. 

שיעורים  5 - אפליה והטיות בקבלת החלטות אלגוריתמיות:

מקרה מבחן:

פרסום מבוסס מידע אישי והטיות מגדריות וגזעיות; דירוג אשראי וביטוח מבוססי מידע

https://www.propublica.org/article/facebook-advertising-discrimination-housing-race-sex-national-origin

דיון:

בשיעור נדון בתפיסות משפטיות ומוסריות מובילות באשר לשאלה מהי אפליה אסורה ונשאל כיצד מערכות קבלת החלטות המנתחות נתוני עתק משעתקות הטיות קיימות, כיצד הן יוצרות הטיות חדשות, והאם וכיצד ניתן להתמודד עם אתגרים אלו. נעמוד גם על הקשר שבין גיוון תעסוקתי בעולם ההיי-טק והטיות במערכות קבלת ההחלטות.   

שיעור 6 - הליך הוגן, שקיפות ואחריותיות של מערכות קבלת החלטות:

מקרה מבחן:

קבלת החלטות מנבאות בענייני שיטור וביטחון פנים 

https://ainowinstitute.org/aiareport2018.pdf

דיון:

בשיעור נכיר עקרונות משפטיים וציבוריים קיימים המבטיחים הליך הוגן בהחלטות המשפיעות על זכויות של אינדיבידואלים ונשאל כיצד ניתן להבטיח עקרונות אלו גם בקבלת החלטות המתבססות על אלגוריתמים. בין השאר נדון בדרישה להסבר ובדרישה לשקיפות של החלטות אלגוריתמיות ובאפשרויות הפיקוח האנושי על החלטות אלו.  

שיעור 7 - אחריות של מערכות לומדות ושל רובוטים:

מקרה מבחן:

אחריות לפעולות כלי רכב "אוטונומיים"

Moral Machine from MIT Media Lab http://moralmachine.mit.edu

דיון:

בשיעור נשאל על מי ראוי שתוטל האחריות לתאונות של רכבים אוטונומיים? האם ראוי לראות מערכות לומדות כישויות בעלות אחריות משפטית המנותקת מאחריות היצרנים והמהנדסים? האם ניתן וראוי לקודד מוסר לתוך מערכות הההפעלה האוטונומיות? איזה מוסר יש לקודד ומי ראוי שיקבע מהו המוסר המתאים?

שיעור 8 - השלכות קוגנטיביות ופסיכולוגיות של אוטומטיזציה - התמכרות ותלות:

מקרה מבחן: התמכרות לרשתות חברתיות

דיון:

בשיעור נדון כיצד תלות בשירותים אוטומטיים משפיעה על כישורים אנושיים, כמו היכולת לנווט למשל. נשאל כיצד התמכרות לשירותים טכנולוגיים משפיעה על הרווחה הנפשית והאישית של המשתמשים, וכיצד מודלים טכנולוגיים ועיסקיים שונים משפיעים על מידת ההתמכרות לשירותים שונים. נעמוד במיוחד על השפעת המודלים השונים על התפתחות ילדים.

שיעור 9 - השלכות חברתיות וכלכליות של אוטומטיזציה:

מקרה מבחן: אובדן מקומות עבודה – מי צריך לשאת בהשלכות?

https://www.project-syndicate.org/onpoint/no-robo-apocalypse-by-mark-paul-2018-07?utm_source=Project%20Syndicate%20Newsletter&utm_campaign=58e0d5723b-op_newsletter_2018_20_07&utm_medium=email&utm_term=0_73bad5b7d8-58e0d5723b-104954397&mc_cid=58e0d5723b&mc_eid=c6d3bd1924&barrier=accesspaylog

דיון:

בשיעור נדון במשמעויות החברתיות והכלכליות של אוטומטיזציה של מקצועות ויכולות אנושיות. נדון כיצד עולם העבודה משתנה בעקבות התיווך של פלטפורמות כ"אובר" בין ספקי עבודה וצרכנים ומה המשמעות של אובדן מקומות עבודה וסקטורים שלמים של עיסוקים כתוצאה מאוטומטזציה צפוייה שלהם. כמו כן נדון בהבחנה שבין טכנולוגיה שמסייעת לבני אדם, לטכנולוגיה שמחליפה בני אדם וביתרונות ובחסרונות של כל קטגוריה.

שיעור 10 - מערכות נשק אוטונומיות:

מקרה מבחן:

מערכות לזיהוי הפנים המותקנות על מזל"טים והדיון הפנימי והציבורי על פיתוח המערכות ב"גוגל" וב"אמזון"

https://www.blog.google/technology/ai/ai-principles/

דיון:

בשיעור נשאל מה היתרונות ומה הסכנות של נשק אוטונומי הנסמך על זיהוי פנים וכיצד הכללים ההומניטאריים הקיימים מושפעים וראוי שיושפעו מהשתלבות רובוטים ומערכות לומדות בשדה הקרב.

שיעור 11-12 - סיכום: חדשנות אחראית:

בשיעור נכיר גישות שונות באשר לשאלה מהי חדשנות אחראית, האם וכיצד היא יכולה להתאפשר.  נבחן מודלים קיימים שונים בחברות שונות ביחס לשילוב אתיקה ואחריות בתהליכי הפיתוח ונדון ביתרונותיהן ובמגבלותיהן ובאופנים אלטרנטיביים לחשוב על פיתוח וחדשנות אחראיים. כמו כן נשאל כיצד ראוי להסדיר את אחריות מדעני המחשב והמהנדסים -  האם מדובר במוסר האישי של כל מתכנתת, באחריות התאגידים והחברות או עניין שראוי שממשלות יסדירו בחקיקה.

להצהרת הנגישות


אוניברסיטת ת