情報理論 |
Information Theory |
開講部 | 工学部 |
開講学科 | 電子工学科 |
開講学年 | 3年次 |
開講時期 | 前期 |
単位数 | 2 |
単位区分 | 選択必修 |
系列区分 | 専門 |
講義区分 | 講義 |
教育目標 | C |
1. | 情報源の数学的モデルを理解する(授業計画1〜3に対応) |
2. | 情報源符号化の物理的な意味を説明できるようになる(授業計画4〜8に対応) |
3. | 通信路と相互情報量の関係について説明できるようになる(授業計画9に対応) |
4. | 通信路符号化の物理的な意味を説明できるようになる(授業計画10〜11に対応) |
5. | 誤り検出符号と誤り訂正符号の考え方を説明できるようになる(授業計画12〜15に対応) |
【授業計画】 | 【授業時間外課題(予習および復習を含む)】 | |
1. | ガイダンス,「情報理論」の学び方 ・情報理論の歴史 ・情報理論の応用 ・基本的な知識 | 教科書該当箇所を読んで来ること |
2. | 確率論(1) ・集合の記法 ・確率空間とその性質 ・確率的独立 ・条件付き確率 ・確率変数と確率分布 | 教科書該当箇所を読んで来ること |
3. | 確率論(2) ・平均と分散 ・結合分布と周辺分布 ・ベイズの定理 ・マルコフ過程 ・連続な値をとる確率変数 | 教科書該当箇所を読んで来ること |
4. | 情報量とエントロピー(1) ・情報の物差し ・平均情報量とエントロピー ・結合エントロピーと条件付きエントロピー ・相互情報量とその意味 | 教科書該当箇所を読んで来ること |
5. | 情報量とエントロピー(2) ・マルコフ情報源のエントロピー 情報源符号化(1) ・情報源圧縮システムの構成 ・可変長符号化 ・プレフィックス符号 ・クラフトの不等式 | 教科書該当箇所を読んで来ること |
6. | 情報源符号化(2) ・平均符号語長 ・平均符号語長の下限 ・シャノン符号と符号の存在定理 各種の情報源符号化(1) ・シャノン・ファノ符号 | 教科書該当箇所を読んで来ること |
7. | 各種の情報源符号化(2) ・ハフマン符号 ・ランレングス符号 ・ユニバーサル符号化 | 教科書該当箇所を読んで来ること |
8. | まとめと中間試験および中間試験の解説 | 中間試験の勉強 |
9. | 通信路と相互情報量 ・通信路の数学モデル ・無記憶通信路とその例 ・誤り源による通信路の表現 ・相互情報量 ・通信路容量 | 教科書該当箇所を読んで来ること |
10. | 通信路符号化(1) ・通信路符号化の考え方 ・通信路符号化の例 | 教科書該当箇所を読んで来ること |
11. | 通信路符号化(2) ・通信路符号化定理 誤り検出符号と誤り訂正符号(1) ・符号化・復号のモデル ・誤り検出と誤り訂正の原理 | 教科書該当箇所を読んで来ること |
12. | 誤り検出符号と誤り訂正符号(2) ・線形符号 ・線形符号の復号 | 教科書該当箇所を読んで来ること |
13. | 実用的な誤り訂正符号(1) ・有限体の準備 ・巡回符号 ・レポート課題 | 教科書該当箇所を読んで来ること |
14. | 実用的な誤り訂正符号(2) ・誤り検出,CRC ・リード・ソロモン符号の復号 | 教科書該当箇所を読んで来ること |
15. | まとめと期末試験および期末試験の解説 | 期末試験の勉強 |
1. | (C)自然科学、数学、情報技術の知識を習得し、現象を論理的に考えて理解する能力を身につける。 |
・ | メールでご連絡ください. chintaka@sic.shibaura-it.ac.jp |
・ | 知識活用力を育成する科目 |
・ | 対人基礎力を育成する科目 |