| 准教授 | 森野博章 |  |
情報理論１ |
Information Theory 1 |
開講部 | 工学部 |
開講学科 | 通信工学科 |
開講学年 | 2年次 |
開講時期 | 前期 |
単位数 | 2 |
単位区分 | 選択必修 |
系列区分 | 専門 |
講義区分 | 講義 |
| 准教授 | 森野博章 | |
| 1. | 情報源符号化の目的について理解し、ハフマン符号、ブロックハフマン符号に代表される 基本的な符号化方式の扱いに習熟する。 |
| 2. | エントロピーと情報量の考え方を会得する。 |
| 3. | 相互情報量の考え方，誤りのある通信路が運ぶ情報量の概念について理解する。 |
| 1. | 概論 ・通信システムにおける情報伝達のモデル ・情報の符号化の目標（効率と信頼性） 符号の性質（１） ・固定長符号と可変長符号 ・瞬時符号 |
| 2. | 情報源のモデル化 ・記憶のある情報源と無記憶情報源 |
| 3. | 符号の性質（２） ・符号の木 ・クラフトの不等式 情報源符号化(1) ・コンパクト符号 ・ハフマン符号 |
| 4. | 情報源符号化(2) ・拡大情報源 情報の定量化(1) ・生起確率による情報量の定義 ・自己情報量 |
| 5. | 情報の定量化(2) ・平均情報量 ・エントロピー ・エントロピーの最大値と最小値 ・条件付き情報量 |
| 6. | 情報源符号化定理とその証明（１） |
| 7. | 情報源符号化定理とその証明(2) 相互情報量(1) ．相互情報量の考え方 〜条件付き情報量との関連〜 |
| 8. | 相互情報量(2) ・条件付き平均情報量（条件付きエントロピー）と相互情報量 |
| 9. | 演習 |
| 10. | 通信路と相互情報量(1) ・誤りのある通信路のモデル ・BSC(Binary Symmetric Channel） ・通信路を介して運ばれる情報量 |
| 11. | 通信路と相互情報量(2) ・通信路容量 |
| 12. | 通信路符号化(1) ・誤り訂正符号の考え方 |
| 13. | 通信路符号化(2) ・符号の性能指標 - 誤り訂正能力，符号化率 ・単一パリティ符号，水平垂直パリティ符号 |
| 14. | 通信路符号化(3） ・通信路符号化定理 |
| 15. | 学期末試験 |
| ・ | 講義終了後 |