授業の目的 【日本語】
Goals of the Course(JPN) | | さまざまな形態の情報を効率よく正確に蓄積し伝達する系統的手法の基礎を与えるのが，クロード・シャノンによって創始された情報理論である。本講義では情報理論の基本的な考え方を理解することを目的とする。
なお，線形代数の非常に基本的な事柄（ベクトル，行列の加算・乗算程度）を前提とする（先修条件ではない）。 |
|
|
授業の目的 【英語】
Goals of the Course | | Information theory was founded by Claude E. Shannon and provides a systematic method of representing and transmitting various kinds of data in efficient, reliable and secure ways. This course aims at explaining the basic idea and concepts of information theory.
This course uses basics of linear algebra such as vector, matrix, and operations (addition and multiplication) on them. |
|
|
到達目標 【日本語】
Objectives of the Course(JPN) | | まず，情報量とエントロピーの定義を理解する。次に，情報源という概念を理解し，ハフマン符号等の具体的な情報源符号化法を修得する。一方で，情報源符号化の能力の限界を表すクラフトの不等式，情報源符号化定理を理解する。さらに，データ送受信の数理モデル化に用いられる相互情報量の定義を理解する。
後半ではまず，相互情報量に基づいて，通信路と通信路容量の概念を理解し，合わせていくつかの重要な通信路の具体例を学ぶ。また，誤り訂正符号（通信路符号化法）の考え方と，その代表例としてパリティ検査符号やハミング符号を理解し，それらの符号化法，復号法を修得する。
最後に，情報セキュリティについての概要を学ぶ。 |
|
|
到達目標 【英語】
Objectives of the Course | | First, we will understand the definition of the self-information of an event as the difference of uncertainties before and after that event occurs based on the basic probability theory. The entropy of an information source is defined as the expected value of the self-information of events related to the information source. Next, we will learn some of basic source coding methods such as Huffman coding. We then learn the source coding theorem that tells the ability and limitation of the source coding.
We will also learn the basics of mutual information, communication channel and simple error-correcting codes such as Hamming code. Lastly, we will obtain basic knowledge on information security. |
|
|
授業の内容や構成
Course Content / Plan | | 情報の伝達，蓄積の効率化，高信頼化に関する基礎理論であるシャノンの情報理論について，以下の授業計画に沿って学ぶ。
1. 導入および数学的準備
2. 情報量とエントロピー
3. 情報源とその符号化
4. 相互情報量
5. 通信路
6. 誤り訂正符号
7. 情報セキュリティ
8. 総括と演習 | 1. Preliminaries
2. Self Information and Entropy
3. Source Coding
4. Mutual Information
5. Communication Channel
6. Error-Correcting Codes
7. Information Security
8. Summary and Exercises |
|
|
履修条件・関連する科目
Course Prerequisites and Related Courses | | | 線形代数の基本的事項（ベクトル，行列とそれらの乗算など）を学んでいること。 | |
|
|
成績評価の方法と基準
Course Evaluation Method and Criteria | | | 演習課題の評価25％，期末試験75%，合計100点満点で60点以上を合格とする。 | |
|
|
教科書・参考書
Textbook/Reference book | | 次の教科書を使用する。
楫勇一編著，情報・符号理論，OHM大学テキスト, オーム社 | |
|
|
課外学習等（授業時間外学習の指示）
Study Load(Self-directed Learning Outside Course Hours) | | | 講義において説明した理論を理解するために課題を与える。 | |
|
|
授業開講形態等
Lecture format, etc. | | |
|
遠隔授業（オンデマンド型）で行う場合の追加措置
Additional measures for remote class (on-demand class) | | |
|