学部・大学院区分
Undergraduate / Graduate		工学部
時間割コード
Registration Code		0846122
科目区分【日本語】
Course Category
専門基礎科目
科目区分【英語】
Course Category
Basic Specialized Courses
科目名　【日本語】
Course Title		情報理論
科目名　【英語】
Course Title		Information Theory
コースナンバリングコード
Course Numbering Code
担当教員　【日本語】
Instructor		長谷川 浩 ○
担当教員　【英語】
Instructor		HASEGAWA Hiroshi ○
単位数
Credits		2
開講期・開講時間帯
Term / Day / Period		春 火曜日 １時限
Spring Tue 1
授業形態
Course style		講義
Lecture
学科・専攻【日本語】
Department / Program
電気電子情報工学科
学科・専攻【英語】
Department / Program
Department of Electrical Engineering, Electronics, and Information Engineering
必修・選択【日本語】
Required / Selected
必修
必修・選択【英語】
Required / Selected
Compulsory


授業の目的　【日本語】
Goals of the Course(JPN)
情報量の確率論的定量化と信頼性が高く能率的な通信システムの実現法を相互の関係において理解し、電気電子情報工学における基礎力を身につける。特に、各種の情報量の計算方法の学習を通じて数量的スキルが、符号理論の代数的理解を通じて論理的思考力が涵養される。
授業の目的　【英語】
Goals of the Course
Understanding mathematical formulations of information processing as a basis of reliable communication systems.
到達目標　【日本語】
Objectives of the Course(JPN))
情報源符号化定理や通信路符号化定理を理解する。各種情報量の計算手法や、誤り訂正符号の構成と誤り訂正手法を獲得する。
到達目標　【英語】
Objectives of the Course
Understanding 1) the fundamental theory, including the Shannon's source coding theorem and the channel capacity, 2) the calculation of entropy, and 3) design of and error correction schemes by error correcting codes.
バックグラウンドとなる科目【日本語】
Prerequisite Subjects
数学１及び演習、数学２及び演習、確率論・数値解析及び演習
バックグラウンドとなる科目【英語】
Prerequisite Subjects
Mathematics I and Tutorial, Mathematics II and Tutorial, Probability Theory and Numerical Analysis with Exercises
授業の内容【日本語】
Course Content
以下の項目について、各々２～３回の講義を通じて学ぶ。括弧内はその項目で特に重要な学習内容である。

１．情報の表現と確率 　（情報源）
２．情報量とエントロピー 　（典型系列、相互情報量、クロスエントロピー）
３．情報源符号化 　（符号木、クラフトの不等式、ハフマン符号）
４．通信路符号化 　（通信路のモデル、通信路容量、通信路符号化定理、ハミング符号）
５．連続情報源 　（サンプリング定理、連続情報源のエントロピ－）
６．各種の情報通信システムの実例

各講義実施前に教科書の対応する部分を確認し、予習することを求める。講義実施後は講義内容を復習すること、および教科書の対応する部分について例題や章末問題を解くのみならず、定理の証明を追うなどして、上記項目に関する理解を深めることを要求する。
授業の内容【英語】
Course Content
Each of the following topics will be studied through two-three lectures.

1. Representation of information and probability
2. Entropy
3. Source coding
4. Channel coding
5. Continuous information source
6. Communication systems

In order to fully understand the above topics, students are requested to check the corresponding part of the textbook before each lecture. Then, after the lecture, they are also requested to solve all the questions in the part and follow all the proofs of theorems there.
成績評価の方法と基準【日本語】
Course Evaluation Method and Criteria
〈2020年度以降入学者〉
100～95点：Ａ＋，94～80点：Ａ，79～70点：Ｂ，69～65点：Ｃ，64～60点：Ｃ－，59点以下：Ｆ
〈2019年度以前入学者〉
100～90点：Ｓ，89～80点：Ａ，79～70点：Ｂ，69～60点：Ｃ，59点以下：Ｆ

得点は全て試験（中間及び期末）の平均により決定する。
成績評価の方法と基準【英語】
Course Evaluation Method and Criteria

Score/Grade : 100-95/A+, 94-80/A,79-70/B, 69-65/C, 64-60/C-, 59-0/F


Score/Grade : 100-90/S, 89-80/A, 79-70/B, 69-60/C, 59-0/F

The ensemble averages of scores in mid-term and final tests determine the Scores/Grades.
履修条件・注意事項【日本語】
Course Prerequisites / Notes
履修条件は設けない
履修条件・注意事項【英語】
Course Prerequisites / Notes
no special prerequisite is required
教科書【日本語】
Textbook
情報理論の基礎と応用 (http://www.kindaikagaku.co.jp/bookdata/ISBN4-7649-2507-9.htm)
教科書【英語】
Textbook
Fundamentals and applications of information theory (http://www.kindaikagaku.co.jp/bookdata/ISBN4-7649-2507-9.htm, in Japanese)
参考書【日本語】
Reference Book
教科書を主に用いるが、必要に応じ関連書籍を紹介する。
参考書【英語】
Reference Book
The textbook will be used throughout all lectures, however, related books on each topic will be announced whenever necessary.
授業時間外学習の指示【日本語】
Self-directed Learning Outside Course Hours
授業時間外学習の指示【英語】
Self-directed Learning Outside Course Hours
使用言語【英語】
Language used
使用言語【日本語】
Language used
授業開講形態等【日本語】
Lecture format, etc.
対面講義を実施する。
授業開講形態等【英語】
Lecture format, etc.
in-person lecture
遠隔授業（オンデマンド型）で行う場合の追加措置【日本語】
Additional measures for remote class (on-demand class)
遠隔授業（オンデマンド型）で行う場合の追加措置【英語】
Additional measures for remote class (on-demand class)