חיפוש חדש  חזור
מידע אישי לתלמיד

שנה"ל תשע"ז

  נושאים מתקדמים בתורת האינפורמציה
  Advanced Topics in Information Theory                                                                
0510-7101-01
הנדסה | ביה"ס להנדסת חשמל
סמ'  ב'1700-1900205לימודי הנדסה - כיתותשיעור פרופ ארז אורי
ש"ס:  2.0

סילבוס מקוצר
נקודות זכות: 2
 
דרישות קדם: חובה – תורת האינפורמציה1. מומלץ (לא חובה) – תהליכים אקראיים, דחיסת נתונים ואותות.
 
חיזוי אוניברסלי של סדרות. המקרה הסטוכסטי. המקרה האידיוידואלי. קשר בין דחיסה לחיזוי. דחיסה אוניברסלית – קידוד קריצ'בסקי-טרופימוב, למפל-זיו, אלגוריתם Context Tree Weighting (CTW) , אלגוריתמי ה Prediction by Partial Matching (PPM). חיזוי/החלטה סדרתית עם פונקציות תשלום כלליות – קשר לתורת המשחקים, איך ל"נצח את המומחה". עקרון ה Minimum Description Length (MDL), התער של Occam, סיבוכיות קולמוגורוב. חיזוי נתונים פיננסי ובעיית הפורטפוליו. חיזוי וקידוד סדרות מעל אלפבית גדול/לא ידוע. סינון אוניברסלי ובעיית ה De-Noising האוניברסלית.קשר לגישות "הסקה בייסיאנית אמפירית" ושיטות סטסטיות דומות. בדיקת השערות אוניברסלית. תקשורת בערוץ לא ידוע ו/או ערוץ אינדיוידואלי: פענוח אוניברסלי, שידור אוניברסלי עם משוב. תיאור חזית המחקר הנוכחית בנושאי חיזוי ולמידה.
 
Course description
Universal prediction of sequences – the stochastic setting and the individual setting. Relation between source coding and prediction. Universal source coding – Kriechevski-Trofimov’s approach, Lempel-Ziv, Context Tree Weighting (CTW) and Prediction by Partial Matching (PPM) algorithms. Prediction/sequential decision with general loss functions. Relation to game theory. “How to use expert advice”? The Minimum Description Length (MDL) principle, Occam’s Razor and Kolmogorov’s complexity. Financial prediction and the portfolio problem. Prediction and Coding with large/unknown alphabet. Universal filtering and universal “de-noising”. Relation to empirical Bayes and related statistical methods. Universal hypothesis testing. Communication over unknown channel and individual channels – universal decoding, universal communication with feedback. Open current problems.
 
סילבוס מפורט

הנדסה | ביה"ס להנדסת חשמל
0510-7101-01 נושאים מתקדמים בתורת האינפורמציה
Advanced Topics in Information Theory
שנה"ל תשע"ז | סמ'  ב' | פרופ ארז אורי

666סילבוס מפורט/דף מידע
אופן קביעת הציון הסופי:
 
הציון הסופי יקבע על סמך עבודת גמר וסמינר בהתבסס על הנושאים הנלמדים בקורס.
 

להצהרת הנגישות


אוניברסיטת ת