授業の目的 【日本語】 Goals of the Course(JPN) | | 多くの応用では、多数の入力変数を持つ関数 f(x_1,...,x_n) を計算したいが、各入力変数には(例えば測定誤差による)不確実性がある。それでも、f(x_1,...,x_n)が「真の値」に近い確率が非常に高いことはよくあります。 このコースの目的は、なぜこのような現象が起こるのかを解明することである。 |
|
|
授業の目的 【英語】 Goals of the Course | | In many situations, we encounter the problem of estimating, for large n, a quantity of the form f(x_1,...,x_n) where the input variables x_1,...,x_n come with some uncertainty, for example from measurement errors. Nevertheless, it is often the case that f(x_1,...,x_n) is close to the "true" value with very high probability. The aim of this course is to understand this phenomenon in a mathematically rigorous way. |
|
|
到達目標 【日本語】 Objectives of the Course(JPN)) | | このコースでは、学生はどのような条件で確率変数がその平均値の近くに集中するかを理解する。平均からある一定量ずれる確率の見積もりを知る。重要な結果は、数学の多くの分野で応用されている、いわゆる「method of bounded differences」である。 |
|
|
到達目標 【英語】 Objectives of the Course | | By the end of the course, students should understand under which conditions a random quantity is concentrated around its mean. They will learn relatively simple bounds for the probability of deviating from the mean by a given amount. A key result is the so-called “method of bounded differences”, which has applications in many areas of mathematics. |
|
|
授業の内容や構成 Course Content / Plan | | 1) Introduction and motivating examples from random networks, graph coloring and machine learning. 2) Concentration for sums of independent and identically distributed (i.i.d.) random variables. We review useful inequalities and students learn how to apply the Chernoff bound, the best concentration one can hope for in general. 3) Martingale-based methods. Students learn how the results for sums of i.i.d. random variables can be generalized to “smooth” objective functions where no component has too much “influence”. 4) Outlook. We discuss a phenomenon of “superconcentration”, which occurs when the objective function is much more tightly concentrated than what could be expected from the i.i.d. case.
1) 導入と例題(ランダムネットワーク,グラフ彩色,機械学習). 2) 独立同分布の確率変数の和について:有用な不等式を復習し、Chernoff boundを導出する。一般にこの結果は最高の集中不等式である。 3) マルチンゲールに基づく方法:独立同分布の確率変数の和に対する結果を一般化する。目標関数が「滑らか」であり、すべての入力変数が「影響力」が小さいことを条件とする。 4) 展望。目的関数が独立同次分布の場合よりもはるかに強く集中することを意味する「superconcentration」という現象について説明する。 |
|
|
履修条件 Course Prerequisites | | Knowledge of measure-theoretic probability theory (random variables, expectation, independence,…) are required. Experience with martingale theory is definitely helpful, but not strictly necessary.
この講義は英語で行います。 This course will be taught in English. |
|
|
関連する科目 Related Courses | | |
|
成績評価の方法と基準 Course Evaluation Method and Criteria | | Several exercise problems will be given in class. Students can submit written solutions and receive credit if they solve at least half of them correctly. |
|
|
不可(F)と欠席(W)の基準 Criteria for "Fail (F)" & "Absent (W)" grades | | |
|
参考書 Reference Book | | Boucheron, Lugosi, Massart: Concentration inequalities, A nonasymptotic theory of independence Ledoux: The Concentration of Measure Phenomenon |
|
|
教科書・テキスト Textbook | | |
|
課外学習等(授業時間外学習の指示) Study Load(Self-directed Learning Outside Course Hours) | | |
|
注意事項 Notice for Students | | |
|
他学科聴講の可否 Propriety of Other department student's attendance | | |
|
他学科聴講の条件 Conditions for Other department student's attendance | | |
|
レベル Level | | |
|
キーワード Keyword | | |
|
履修の際のアドバイス Advice | | |
|
授業開講形態等 Lecture format, etc. | | |
|
遠隔授業(オンデマンド型)で行う場合の追加措置 Additional measures for remote class (on-demand class) | | |
|