授業の目的 【日本語】
Goals of the Course(JPN) | | 情報の記録や伝達においては，物理的な実体をもたない「情報」に対して具体的な表現を与え，正確に，効率よく処理することが必要となる。そのための数学的基盤を与えるのが「情報理論」と呼ばれる体系である。
講義の前半では，確率論に基づいてエントロピーの概念を導入し，情報を定量的に測る手段について学ぶ。いくつかの事例をとおし，我々が直感的に理解している情報の性質の多くがエントロピーの概念により数学的に説明できることを確認する。
講義の後半では，情報を効率よく表現するための情報源符号化技術について学ぶ。具体的な符号化技術を紹介するだけでなく，情報源符号化定理の基礎的な背景についても理解を深め，情報源符号化の理論と実践を概観できる知識を身につけることを目標とする。 |
|
|
授業の目的 【英語】
Goals of the Course | | Information Theory gives a mathematical foundation for the recording and communication of information, in which we need to investigate concrete representation and efficient handling of inherently abstract information.
In the first half of this course, students learn the notion of entropy as a means of measuring information. We will confirm that many aspects of information can be mathematically explained in terms of entropy.
The second half of the course focuses on the theory and engineering of the source coding techniques. We will learn several coding schemes together with theoretical background which include the proof of widely recognized Shannon’s source coding theorem. |
|
|
到達目標 【日本語】
Objectives of the Course(JPN) | | | 情報の記録や伝達を効率化・高信頼化するため，多くの技術が開発されている。それら技術の可能性と限界について深く理解するため，情報の持つ数学的特性を体系的に取り扱う情報理論について学ぶ。 |
|
|
到達目標 【英語】
Objectives of the Course | | |
|
授業の内容や構成
Course Content / Plan | | 情報の記録や伝達においては，物理的な実体をもたない「情報」に対して具体的な表現を与え，正確に，効率よく処理することが必要となる。そのための数学的基盤を与えるのが「情報理論」と呼ばれる体系である。
講義の前半では，確率論に基づいてエントロピーの概念を導入し，情報を定量的に測る手段について学ぶ。いくつかの事例をとおし，我々が直感的に理解している情報の性質の多くがエントロピーの概念により数学的に説明できることを確認する。
講義の後半では，情報を効率よく表現するための情報源符号化技術について学ぶ。具体的な符号化技術を紹介するだけでなく，情報源符号化定理の基礎的な背景についても理解を深め，情報源符号化の理論と実践を概観できる知識を身につけることを目標とする。
1. 導入，数学的準備とエントロピーの定義
2. エントロピーの性質と相互情報量
3. 通信路容量，情報源の基本的な性質
4. 情報源と記憶
5. 情報源符号化の基礎，ハフマン符号
6. 情報源符号化定理
7. 様々な情報源符号化技術
8. 総括 | |
|
|
履修条件・関連する科目
Course Prerequisites and Related Courses | | | 線形代数および確率論に関する基本知識を有すること。 | |
|
|
成績評価の方法と基準
Course Evaluation Method and Criteria | | 中間レポートの評価20％，期末試験80％，合計100点満点で60点以上を合格とする。
社会情勢により，期末試験を最終レポートにより代替する可能性がある。その場合は，中間レポートの評価50％，最終レポートの評価50％とし，合計100点満点で60点以上を合格とする。
どちらの評価方式とするかは，授業開始時に周知する。
| |
|
|
教科書・参考書
Textbook/Reference book | | 次の書籍を参考書として使用する。
楫勇一編著，情報・符号理論，OHM大学テキスト，オーム社 | |
|
|
課外学習等（授業時間外学習の指示）
Study Load(Self-directed Learning Outside Course Hours) | | | 講義において説明した理論を理解するために課題を与える。 | |
|
|
授業開講形態等
Lecture format, etc. | | 教室で講義を実施し，講義内容をオンライン中継する。
受講者は，教室で受講しても，オンラインで受講しても，いずれでも良い。 |
|
|
遠隔授業（オンデマンド型）で行う場合の追加措置
Additional measures for remote class (on-demand class) | | |
|