שנה"ל תשע"ט

 
 Introduction to Probability for Statisticians 

מושג הקבוצה, יחסים ופעולות בין קבוצות, קומבינטוריקה, עקרון הכפל, מדגמים סדורים ולא סדורים, מרחבי הסתברות סימטריים, הסתברות איחוד מאורעות, הסתברות מותנה, הסתברות שלמה, נוסחת בייס, מאורעות בלתי תלויים, משתנים מקריים חד ממדיים ודו-מימדים, משתנים בלתי תלויים, התפלגויות מיוחדות, תוחלת ושונות של משתנים מקריים ותכונותיהם, שונות משותפת, שונות סכום משתנים מקריים, מקדם המתאם ומשתנים בלתי מתואמים, חסמים על הסתברויות, החוק החלש, משתנים מקריים רציפים, ההתפלגות הנורמלית, משפט הגבול המרכזי.

שימו לב שהנושאים החוק החלש, משתנים מקריים רציפים, ההתפלגות הנורמלית ומשפט הגבול המרכזי נוספים לקורס החל משנת תשע"ז.

 
 
 Introduction to Computers for Statisticians 

היכולת לתכנת מחשב לביצוע משימות היא במקביל מאתגרת, מתסכלת, וגם מעניינת, מספקת, מהנה ומעצימה. הידע כיצד לתכנת היא חיונית לביצוע של ניתוח נתונים בעידן המודרני. בקורס זה תלמדו את יסודות התכנות באמצעות שפת R. R היא שפת תכנות וסביבת עבודה לניתוח נתונים הנמצאת בשימוש נרחב. סקרים ומחקרים שנערכו הראו כי הפופולריות של R גדלה באופן משמעותי ובעשור השני של המאה ה-21 היא השפה המרכזית המשמשת לתכנות סטטיסטי / לימוד-מכונה ומדעני מידע (data scientists). R היא תוכנה חופשית ("קוד פתוח") המופצת תחת רישיון GPL-2. הנושאים שתלמדו בקורס זה יהוו את הבסיס שיאפשר לכם לעבור מתכנות בסיסי לתכנות סטטיסטי בקורסי המשך בתואר (מבוא לסטטיסטיקה, תכנון ניסויים וניתוח שונות, רגרסיה, חישוב סטטיסטי, ועוד).

היכולת לתכנת מהווה יכולת הכרחית לצורך ביצוע של ניתוח סטטיסטי של נתונים (שרבים קוראים לו גם data science).

הנושאים הבאים יסקרו בקורס:

  • רקע כללי לשפת R, קבלת עזרה ולשימוש ב- RStudio.
  • יצירת משתנים מסוגים שונים (נומריים, מחרוזות, לוגיים, פונקציות, ועוד), חילוץ והשמת ערכים.
  • פעולות על משתנים מסוגים שונים (פעולות אלגבריות, אופרטורים על משתנים בינאריים, אלגברה מטריציונית, ועוד).
  • תצפיות חסרות מסוגים שונים (NA, NULL, NaN).
  • מבוא לפונקציות ואלגוריתמים (בעיקר להמחשת משפטים בסיסיים מתורת המספרים - מודולו, סדרת פיבונצ'י, מספרים ראשוניים, מחלק משותף מקסימאלי).
  • בקרת זרימה (תנאי אם-גם, לולאות ולואות מקוננות לעומת פונקציות ווקטוריות)
  • רקורסיה.
  • סיבוכיות זמן ריצה (O גדולה).
  • אלגוריתמי מיון וחיפוש (מיון בחירה, מיון בועה, מיון מנייה, מיון מיזוג, חיפוש בינארי).
  • רשימות, מאפיינים (שמות, מאפיינים באופן כללי).
  • מבני משתנים מורכבים (פאקטורים, מטריצות, מסגרות נתונים)
  • שיטות אגרגציה (sapply, lapply, tapply, apply)

* הערה: הנושאים שיסקרו יועברו ברמה מבואית ולא בדיוק בסדר שבו הם מופיעים (היות והנושאים השונים שזורים האחד בשני ויופיעו בשלבים שונים בהתאם לרמת הידע שתצברו).

כל נושאי הקורס יועברו במצגות מסודרות בשילוב עם שיעורי בית. התלמיד החרוץ מוזמן אף לעיין במקורות הבאים.

מקורות/ספרות נוספים להעשרה:

  • Guide to Programming and Algorithms Using R -Springer -Verlag London (2013), Özgür Ergül (auth.)
  • Introduction to Data Technologies - CRC Press Book - https://www.stat.auckland.ac.nz/~paul/ItDT/itdt-2010-11-01.pdf
  • An Introduction to R - https://cran.r-project.org/doc/manuals/r-release/R-intro.pdf
  • Cracking the coding interview - by Gayle Laakmann McDowell
  • R for Data Science - http://r4ds.had.co.nz/
 
 
 Introduction to Statistics 

נתונים כמותיים, תאור ותמצות קובץ של נתונים: מיקום, פיזור, נטייה ותלות, תרשימי ענף וגזע. קופסא, צפיפות ופיזור. מחקרים כמותיים: מבוקרים, ניסויים ותצפיות. בעיות בהסקה סטטיסטית: אוכלוסיה ומדגם, פרמטרים ואומדים, אמידה נקודתית והערכת אי הוודאות (פרמטרית וא-פרמטרית), אמידת רווח סמך, סקרים ומושגים בדגימה. אסכולות בהסקה: שכיחותית, נראותית, וביזיאנית. מבחני השערות: גישה פרמטרית וא-פרמטרית, השוואת שני מידגמים, השימוש בתוכנה סטטיסטית (כגון: Splus) ליישום השיטות.

 

 

 

 

 
 
 Probability for Sciences 

דרישות קדם

מבוא להסתברות (מס' קורס: 0365-1102  או 0365-2005)
וגם
חשבון דיפרנציאלי ואינטגרלי 2 ב/א (מס' קורס: 0366-1122 או 0366-1102)

תוכן הקורס

  • מרחבי הסתברות כלליים : פונקצית ההסתברות וסיגמא-שדה.
  • משתנים מקריים חד ממדיים: משתנה מקרי ופונקצית ההתפלגות המצטברת. משתנים מקריים בדידים ורציפים. פונקצית ההסתברות ופונקצית הצפיפות ותכונותיהן.
  • משתנים מקריים דו-ממדיים: משתנים מקריים בדידים ורציפים. פונקציות הסתברות וצפיפות שוליות ומותנות. אי-תלות.
  • תוחלת, שונות, שונות משותפת, מקדם מתאם, תוחלת ושונות מותנים, פונקציה יוצרת מומנטים, פונקציה אופיינית ותכונותיהן.
  •  התפלגויות חד-ממדיות מיוחדות. טרנספורמציות של משתנים מקריים חד-ממדיים ורב-ממדיים והתפלגות סכום משתנים מקריים.
  • אי שויונים: מרקוב וצ'בישב.
  • משפטי גבול: התכנסות בהסתברות וכמעט בכל מקום. החוקים של המספרים גדולים. התכנסות בהתפלגות. הקשר בין ההתכנסויות השונות.
  • משפט הגבול המרכזי ושימושיו. ההתפלגות הנורמלית הדו ממדית והרב ממדית.

ספרי לימוד

  • Basic Probability Theory by Robert B. Ash
  • An Introduction to Probability Theory and Its Applications by William Feller

 

 

 

 
 
 Statistical Computing 

דגימת משתנים מקריים מהתפלגויות בדידות ורציפות. שיטות מונטה-קרלו לאינטגרציה. שיטות חישוב ברגרסיה ליניארית ולא ליניארית. שיטות נומריות לאופטימיזציה, כולל אלגוריתם EM. בוטסטרפ וקרוס-ולידציה.  

 
 
 Statistical Theory 

מבוא: מודל סטטיסטי, פונקציית הנראות, סטטיסטי מספיק, משפחה מעריכית של התפלגויות.

אמידה:  אומד נראות מקסימלית, אמידה בשיטת המומנטים,טעות רבועית ממוצעת, אומד חסר הטיה, אי-שיוון קרמר-ראו,
התהקטנת השונות ע"י שיפור ראו-בלקוול.

רווחי סמך.

בדיקת השערות: מוסגים בסיסיים,הלמה של ניימן-פירסון, מבחנים בעלי עצמה מקסימלית ובעלי עצמה מקסימלית במדה שווה, מבחני יחס הנראות מוכללים.

תיוריה של מדגמים הדגולים: סוגים שונים של התכנסות, עקיבות, עקיבות נורמלית אסימפטוטית, התפלגות אסימפטוטית של אמדי נראות מקסימלית, רווח סמך אסימפטוטי, 
משפט הקירוב של ווילקס
 ושימושים למבחני יחס הנראות מוכללים, דוגמאות: מבחני t, F, מבחני טיב התאמה ואי-תלות.

 הסקה בייזיאנית: מבוא, אמידה, רווחים בייזיאניים, בדיקת השערות.

 

 
 
 Introduction to Stochastic Processes 

שרשרות מרקוב, משפטי גבול לגבי תהליכים סטוכסטיים כלליים ולגבי שרשרות מרקוב, תהליכי הסתעפות, תהליך פואסון, תהליכי לידה ומוות, שרשרות בזמן רציף, שימושים במערכות תורים.

 
 
 Experimental Design & Analysis of Variance 
מושגי יסוד: יחידת ניסוי, חזרות, חלוקה אקראית, בלוקים, ניסוי לעומת מחקר תצפיתי. ניתוח של שינוי עם גורם אחד: מדגמים בלתי
תלויים ומזווגים. קבועות ואקראיות. קונטרסטים והשואות מרובות. ניתוח שונות דו כיווני: השפעות קבועות. ניסוי בבלוקים שלמים. מבחנים א-פרמטרים: ווילקוקסון, קרוסקל-ווליס ופרידמן. ריבוע לטיני כתוכנית לניסוי בבלוקים ולניסוי פקטוריאלי חלקי. בדיקת הנחות. טרנספורמציות. ניסויים היררכים. שילוב עבודה מעשית בניתוח נתונים בעזרת תוכנות סטטיסטיות.
 
 
 Statistics for Computer Science 
 
 
 Operations Research 1 

תכנות ליניארי: ניסוחים, פתרונות אפשריים בסיסיים, המשפט היסודי, שיטת הסימפלקס, דואליות והשלמת עודפים. מבוא לתורת המשחקים. תכנות בשלמים: ניסוחים, רלקסציות, האלגוריתם ההונגרי לבעיית ההשמה, יונימודולריות לחלוטין, סעף וחסום, חתכי גומורי. זרימה ברשתות ויישומים. מבוא לתכנות דינמי. תוכנת cvx

 
 
 Probability for Double Major Students 

הגדרת מרחב הסתברות, משתנה מקרי חד-ממדי בדיד ורציף, טרנספורמציה של משתנה מקרי חד-ממדי, משתנה מקרי דו-ממדי, טרנספורמציה של משתנה דו-ממדי, התפלגויות רציפות מיוחדות (אחידה, מעריכית, נורמלית, גמא, ביתא), התפלגויות מותנות ואי-תלות, התפלגויות רב-ממדיות, מומנטים, התפלגות דו-נורמלית, הפונקציה יוצרת המומנטים, ההתפלגויות הקשורות למודל הנורמלי ((F, t, x2, חוקי גבול.

 

 

 

 

 
 
 Non Cooperative Games 
בקורס נכסה את הנושאים הבאים (יתכנו שינויים עקב אילוצי זמן):
1) משחקים בצורה רחבה.
2) משחקים בצורה אסטרטגית.
3) אסטרטגיות מעורבות.
4) אסטרטגיות התנהגות ומשפט קיון.
5) עידונים של שיווי משקל.
6) שיווי משקל מתואם.
7) משחקים חוזרים.
8) תורת התועלת.

ספר: תורת המשחקים, מאת זמיר-משלר-סולן, הוצאת מאגנס.


 
 
 Introduction to Statistical Learning 

ספר הקורס:

An Introduction to Statistical Learning with Applications in R by James, Witten, Hastie and Tibshirani.

הקורס ישלב תיאוריה עם עבודה מעשית נרחבת ב R

נושאי הקורס:

- מבואמהי למידה סטטיסטית ומידול לשם חיזוי (predictive modeling); בעיות לדוגמא; משפחות של בעיות: רגרסיה וסווג; הערכת איכות מודלים

- שיטות רגרסיה לדוגמא: רגרסיה לינארית ושיטות מבוססות שכנות

- שיטות סווג לדוגמא: רגרסיה לוגיסטית ודיסקרימיננטה לינארית

- שיטות דגימה מחדש: cross-validation ו Bootstrap

- בחירת מודלים ורגולריזציה

- שיטות מודרניות: עצים ושימושיהם, Support vector machines

 

 
 
 Regression Analysis 

רגרסיה עם מנבא יחיד, אמידה נקודתית והסקה סטטיסטית על מקדמים ותחזיות, בדיקת התאמת המודל, השימוש בטרנספורמציות במקרים של אי-התאמה במקור, רגרסיה דרך הראשית, רגרסיה עם שני מנבאים, מתאם מרובה וחלקי, רגרסיה רב-משתנית, משתני דמה, בחירת מודל מתאים, שימושים ובעיות.

 

 

 

 

 
 
 Cooperative Games 

1) משחקי מיקוח.
2) משחקים קואליציוניים.
3) הליבה.
4) ערך שפלי.
5) הגרעינון.
6) בחירה חברתית.
7) שידוכים יציבים.
הקורס הינו בלתי תלוי בקורס משחקים לֹא-שיתופיים ודרישות הקדם זהות לאלו של משחקים לֹא-שיתופיים.

 

 

 

 

 
 
 Statistics Seminar 

 

מטרות הסמינר הן:
·         לחוות למידה עצמית והתמודדות עם טקסטים מדעיים
·         לפתח חשיבה ביקורתית בקריאת חומר כזה
·         לרכוש ניסיון בארגון החומר והצגתו מול קהל
הסטודנטים יקראו ויציגו לפני הכיתה מאמרים מעיתונים מדעיים ו/או פרקים מספרים.

 

 

 

 

 
 
 Seminar in Operations Research 
http://www.math.tau.ac.il/~teboulle/seminar-OR/or-bsc.html
 
 
 Operations Research 2 

נושאים בחקר ביצועים  ובהם: סידרור ותזמון על מכונה אחת, מכונות מקבילות, חנות מכונות - שימוש באלגוריתמים חמדניים, תכנות לינארי ודינמי, קירובים; חיפוש מקומי - בעיות הגרף האציקלי המקסימלי, סוכן נוסע, ניתוב כלי רכב; השוואת זרמי הכנסות והיוון; מערכות מלאי סטטיות, דינמיות, בעיית מוכר העיתונים והרחבות; מערכות תורים - תהליכי לידה ומוות, מודלים מרקוביים שונים, החלטות אסטרטגיות (משחקי תורים); סימולציה; בעיות בתורת המיקום - פתרון אופטימלי וקירובים. 

 
 
 Seminar in Statistics for MSc students 
 
 
 Statistic Learning 
מטרת הקורס היא להכיר את עקרונות היסוד והשיטות המרכזיות ללמידה סטטיסטית מנתונים. הקורס ישלב בסיס תאורטי עם עבודה מעשית של נתונים ודיון בכיתה על דוגמאות מעשיות מן התעשיה (case studies). רשימה חלקית של נושאים: בעיות יסוד: רגרסיה, קלאסיפיקציה, עקרונות יסוד בלמידה סטטיסטית: שונות והטיה, למידה מקומית מול גלובאלית, curse of dimensionality, שיטות לינאריות לרגרסיה ורגולריזציה, שיטות לינאריות לקלאסיפיקציה: linear discriminant analysis, רגרסיה לוגיסטית, support vector machines, שיטות לשערוך ובחירת מודלים.
דרישות קדם: הסתברות, תאוריה סטטיסטית, רקע מתמטי בסיסי: אינפי, אלגברה לינארית, גאומטריה אנליטית. רצוי אבל לא הכרחי נסיון בתכנות מתמטי/סטטיסטי (רצוי R/SPlus/Mathlab ), רגרסיה.
 
 
 Causal Inference 

מתאם אינו גורר בהכרח סיבתיות. בקורס זה נשאל מהו פרמטר סיבתי, וכיצד ניתן לאמוד פרמטרים אלו (ותחת אילו הנחות). מושגי יסוד בסיבתיות: הגדרת פרמטרים סיבתיים (לדוגמא האפקט הסיבתי הממוצע), הנחות קלאסיות לזיהוי פרמטרים ומשמעותן. רנדומיזציה, בלבול (confounding) והטיית בחירה (selection bias). שימוש במודלים גרפיים לא מעגליים. שיטות אמידת א-פרמטריות ופרמטריות:  Propensity score, רגרסיה, צימוד (matching) וגם IPW .

בחירת שיטה ומשתנים בהתאם למודל גרפי והנחות. נושאים נוספים ככל שהזמן ירשה ובהתאם לעניין בכיתה (לדוגמא: משתני עזר ותיווך).

 
 
 Advanced Topics in Modern Optimization 

דרישות קדם: אנליזה קמורה ואופטימיזציה .   

ההתקדמות בטכנולוגיית המחשבים קידמה את תחום האופטימיזציה הלא ליניארית, שהפכה היום לכלי חיוני לפתרון בעיות מדעיות והנדסיות מורכבות.

נושאים מתקדמים ומודרנים לניתוח, פיתוח ואנליזה של אלגוריתמים לפתרון בעיות מדעיות ילמדו מספרות עכשווית. 

 
 
 Linear Programming 

הקורס הינו קורס תיאורטי העוסק בבעיות אופטימיזציה לינאריות. בקורס נכיר בין השאר את הנושאים הבאים: גיאומטריה של תכנות לינארי, אפיון הפתרון האופטימלי, שיטת הסימפלקס, דואליות ושימושים, הלמה של פרקש ומישורים מפרידים, ניתוח רגישות, יונימודולריות לחלוטין, אלגוריתם האליפסואיד ועוד.

 
 
 Flows in Networks 

בעיות זרימה במחיר מינימלי, מקרים פרטיים, הרחבות, משפטי קיום, אלגוריתמים ושימושיהם. בעיות זיווג ומטרואידים.

 

 

 

 

 
 
 Advanced Statistical Theory 

מבוא: סטטיסטי מספיק ומםיק מינימלי, שלמות, משפחה מעריכית של התפלגויות.

אמידה.

רווחי ואיזורי סמך.

בדיקת השערות.

תיוריה אסימפטוטית.

הסקה בייזיאנית.

תורת החלטות: קבילות, כללי מינימקס, כללי בייז.


 

 

 

 
 
 Information, Probability and Games 
מרטינגלים, אינפורמציה משותפת. משחקים רב שלביים עם אינפורמציה שלמה ועם אינפורמציה לא שלמה.

 
 
 Seminar of the Statistical Laboratory 

הסדנה מקנה לסטודנט התנסות יישומית בסטטיסטיקה, תוך עבודה על פרוייקטים מחקריים המגיעים למעבדה לסטטיסטיקה. במהלך הסדנה, הסטודנטים ישמעו בעיות מחקריות ויידרשו לספק פתרונות סטטיסטיים, כולל ניתוח נתונים מתאים, הסקת מסקנות, הכנת דו"חות כתובים והצגת עבודותיהם בפני הכתה והחוקר.

 

 

 

 

 
 
 Approximate Algorithms in Combinatorial Optimization 
הקורס הינו קורס תיאורטי בתכנון וניתוח אלגוריתמי קירוב לבעיות אופטימיזציה קומבינטורית. בקורס נכיר שיטות לתכנון וניתוח אלגוריתמי קירוב כגון: אלגוריתמים חמדניים, שיטות המבוססות על תכנות דינאמי, שיטות המבוססות על עיגול של תכניות לינאריות ותכניות חיוביות, שיטות המבוססות על דואליות ועוד. נכיר בעיות אופטימיזציה רבות כגון: כיסוי בקבוצות, בעיית הסוכן הנוסע, בעיית התרמיל, בעיות תזמון, בעיות מיקום, בעיות חתכים ועוד.
 
 
 Rational Behavior in Queueing Systems 
מודלים של התנהגות רציונלית במערכות תורים, אופטימיזציה אישית, אופטימיזציה חברתית, מקסימיזציה של רווח, משחקי תורים ופתרונות שווי משקל שלהם. החלטות על הצטרפות לתור, עזיבה, עיתוי ההגעה, קנית מידע ועדיפות וכדומה.
 
 
 Contingency Tables Analysis 
התפלגויות של לוחות שכיחות בדיקת טיב התאמה ע"ס שכיחויות, בדיקת אי תלות בלוח דו-כיווני, מדדי קשר בלוח דו-כיווני, לוח רב כיווני והמודל הלוגי לינארי, אמידהנקודתית, הסקה על פרמטרים ומציאת מודל מתטים, מקרים פרטיים של המודל הלא לינארי, תאים ריקים מבנית ומקרית בלוחות שכיחות, גישות אחרות לניתוח לוחות שכיחות.
 
 
 Optimization 1 

דרישות קדם:  תואר ראשון מהפקולטה למדעים מדוייקים ,ומבית הספר להנדסת חשמל.

הקורס דן ביסודות תורת האופטימיזציה הרציפה. שלושת החלקים העיקריים הם:

 אנליזה קמורה: קבוצות ופונקציות קמורות, תכניות טופולוגיות ופונקציונליות. משפטי הצגה, משפטי הפרדה, משפטי אלטרנטיבה לאי-שיוויונות

 תנאי אופטימליות בעיות מאולצות. תכנות קמור.   משפט KKT. יישומים

  דואליות באופטימיזציה: גישה כללית, Lagrangian Duality, דואליות צמודה ומשפט פינשל. משפטי מינימקס. דוגמאות ויישומים של דואליות באופטימיזציה.

 
 
 Algorithms for Continuous Optimization 

דרישות קדם: אנליזה קמורה ואופטימיזציה .   (או במקרים מיוחדים באישור שינתן  רק ע"  המרצה)

קורס עדכני  באלגוריתמים לאופטימיזציה המודרנית. ההתקדמות בטכנולוגיית המחשבים קידמה את תחום האופטימיזציה הלא ליניארית, שהפכה היום לכלי חיוני לפתרון בעיות מדעיות והנדסיות מורכבות

. אופטימיזציה חלקה לא מאלצת: אלגוריתמים קלאסיים ושיטות ניתוח. שיטות ירידה. טכניקות חיפוש הקו. שיטות ניוטון של הצמוד Gradients. קצב התכנסות.

שיטות מסדר ראשון עבור בעיות במימדים גדולים: Gradient / subgradient, מהיר Proximal- Gradient .שיטות החלקה. אנליזת סיבוכיות.

שיטות Lagrangian עבור אופטימיזציה קמורה: פיצול תוכניות עבור בעיות בקנה מידה גדול: Lagrangians, augmented , כיוון של שיטות מכפיל, תוכניות פרוקסימלי nonquadratic.

Self concordant theory and polynomial algorithms פונקציות מתואמות. פוליאנומאל  אלגוריתמי מטיפוס נקודת פנים

Conic and Semidefinite Programming תיאוריה, אלגוריתמים פולינומי, ויישומים לבעיות אופטימיזציה קומבינטורית והנדסה.

יישומים מודרניים במדע ובהנדסה: במהלך הקורס נדון בכמה מודלים לאופטימיזציה של אב טיפוס ואלגוריתמים רלוונטיים שנלמדו בקורס לקראת פתרון יעיל של בעיות בתחומים שימושיים שונים: עיבוד אותות, למידה ממוחשבת, בעיות של רשתות חיישנים וכו '...

 
 
 Queueing Theory 

ניתוח הסתברותי של מערכות M/G/1, G/M/1, M/G/¥; תהליכי לידה ומוות: מערכות M/M/1, M/M/S, מערכות /1M/M רב ממדיות; רשתות ג'קסון ורשתות מחשבים; מערכות M/D/S, G/M/S; משטרי תורים: FIFO, LIFO, משטרי עדיפויות; אופטימיזציה במערכות תורים; שימושים ויישומים במערכות תקשורת ומחשבים.

 

 

 

 


 

 

 

 

 

 
 
 Stochastic Games 
המודל של משחקים סטוכסטיים, משחקים מהוונים סכום אפס, קבוצות סמי-אלגבריות, משחקים לא מהוונים סכום אפס, משחקים מהוונים עם יותר משני שחקנים,משחקים לא מהוונים עם יותר משני שחקנים.