| 授業の目的 【日本語】 | | 情報の記録や伝達においては，物理的な実体をもたない「情報」に対して具体的な表現を与え，正確に，効率よく処理することが必要となる。そのための数学的基盤を与えるのが「情報理論」と呼ばれる体系である。
講義の前半では，確率論に基づいてエントロピーの概念を導入し，情報を定量的に測る手段について学ぶ。いくつかの事例をとおし，我々が直感的に理解している情報の性質の多くがエントロピーの概念により数学的に説明できることを確認する。
講義の後半では，情報を効率よく表現するための情報源符号化技術について学ぶ。具体的な符号化技術を紹介するだけでなく，情報源符号化定理の基礎的な背景についても理解を深め，情報源符号化の理論と実践を概観できる知識を身につけることを目標とする。 |
|
|
| 授業の目的 【英語】 | | Information Theory gives a mathematical foundation for the recording and communication of information, in which we need to investigate concrete representation and efficient handling of inherently abstract information.
In the first half of this course, students learn the notion of entropy as a means of measuring information. We will confirm that many aspects of information can be mathematically explained in terms of entropy.
The second half of the course focuses on the theory and engineering of the source coding techniques. We will learn several coding schemes together with theoretical background which include the proof of widely recognized Shannon’s source coding theorem.
|
|
|
| 到達目標 【日本語】 | | | 情報の記録や伝達を効率化・高信頼化するため，多くの技術が開発されている。それら技術の可能性と限界について深く理解するため，情報の持つ数学的特性を体系的に取り扱う情報理論について学ぶ。 |
|
|
| 到達目標 【英語】 | | |
|
| 授業の内容や構成 | | 情報の記録や伝達においては，物理的な実体をもたない「情報」に対して具体的な表現を与え，正確に，効率よく処理することが必要となる。そのための数学的基盤を与えるのが「情報理論」と呼ばれる体系である。
講義の前半では，確率論に基づいてエントロピーの概念を導入し，情報を定量的に測る手段について学ぶ。いくつかの事例をとおし，我々が直感的に理解している情報の性質の多くがエントロピーの概念により数学的に説明できることを確認する。
講義の後半では，情報を効率よく表現するための情報源符号化技術について学ぶ。具体的な符号化技術を紹介するだけでなく，情報源符号化定理の基礎的な背景についても理解を深め，情報源符号化の理論と実践を概観できる知識を身につけることを目標とする。
1. 導入，数学的準備とエントロピーの定義
2. エントロピーの性質と相互情報量
3. 通信路容量，情報源の基本的な性質
4. 情報源と記憶
5. 情報源符号化の基礎，ハフマン符号
6. 情報源符号化定理
7. 様々な情報源符号化技術
8. 総括 | |
|
|
| 履修条件・関連する科目 | | |
|
| 成績評価の方法と基準 | | | 演習課題の評価20％，期末試験80％，合計100点満点で60点以上を合格とする。 | |
|
|
| 教科書・参考書 | | 次の教科書を使用する。
楫勇一編著，情報・符号理論，OHM大学テキスト，オーム社
| |
|
|
| 課外学習等（授業時間外学習の指示） | | | 講義において説明した理論を理解するために課題を与える。 | |
|
|
| 授業開講形態等 | | |
|
| 遠隔授業（オンデマンド型）で行う場合の追加措置 | | |
|