מבוא ללמידת מכונה  –  Introduction to Machine Learning

דרישות קדם:  אותות אקראיים ורעש

שעות הרצאה: 3.

שעות תרגול: 1.

שקלול ציון:

תרגילי בית: תרגילי תיאוריה - 7%, תרגילי מחשב – 13%.

בחינה - 80%.

תוכנית הקורס:

חוקי החלטה ביסיאניים. פונקציות דיסקרימינציה.

שערוך פרמטרים על פי שיטת הסבירות המרבית (maximum likelihood) ועל פי השיטה הביסיאנית.

מזהים לא פרמטריים. שערוך לא פרמטרי של צפיפות פילוג. חלונות Parzen. ניתוח התכנסות. סווג באמצעות שיטת השכנים הקרובים (nearest neighbors).

מודלים ליניאריים לרגרסיה ולזיהוי (classification), ריבועים פחותים, רגולריזציה, lasso, ridge regression, logistic regression.

הפרדה עם שוליים מירביים בין קבוצות (maximum margin classifiers), support vector machines, פונקציות גרעין.

רשתות עצביות  (neural networks), למידה עמוקה (deep learning). יישומים.

לימוד לא מונחה. שיטות הקבצה. אלגוריתם K ממוצעים.

אלגוריתם expectation maximization (EM) . שימוש ב- EM לאמידת הפרמטרים של מודל עירובים (mixtures).

מודלים מרקוביים ומודלים מרקוביים חבויים (HMM). זיהוי ואמידת פרמטרי HMM. יישומים למידול שפה ולזיהוי אוטומטי של דיבור.

בחירת אופנים לייצוג ולהבחנה בין קבוצות, principal components analysis (PCA).

שיטות דגימה,  Markov chain Monte Carlo, Metropolis chains, simulated annealing, Gibbs sampling.

ספר מרכזי:

Pattern Recognition and Machine Learning, C. M. Bishop, Springer, 2006.