| 准教授 | 南正輝 |  |
情報理論 |
Information Theory |
開講部 | 工学部 |
開講学科 | 電子工学科 |
開講学年 | 3年次 |
開講時期 | 前期 |
単位数 | 2 |
単位区分 | 選択必修 |
系列区分 | 専門 |
講義区分 | 講義 |
| 准教授 | 南正輝 | |
| 1. | 情報源符号化の物理的な意味を説明できるようになる．（授業計画１〜７に対応） |
| 2. | 情報伝達と相互情報量の関係について説明できるようになる．（授業計画８〜９に対応） |
| 3. | 通信路符号化の物理的な意味を説明できるようになる．（授業計画１０〜１２に対応） |
| 4. | 誤り訂正符号の考え方を説明できるようになる．（授業計画１３〜１４に対応） |
| 1. | 導入 ・情報理論とは何か ・情報理論の応用分野 |
| 2. | 情報源のモデル化 ・情報源の数学モデル ・結合確率分布による表現 |
| 3. | 情報源の性質 ・無記憶情報源と記憶のある情報源 ・情報源の定常性・エルゴート性・マルコフ性 |
| 4. | 情報源と状態遷移図 ・状態遷移図の書き方 ・正規マルコフ情報源 ・状態遷移行列と定常分布 |
| 5. | 情報源符号化 ・平均符号長 ・符号の評価基準 ・符号の木 ・クラフトの不等式 |
| 6. | ハフマン符号 ・平均符号長の限界 ・ハフマン符号 ・ハフマン符号の応用例 |
| 7. | 情報源符号化定理 ・n次拡大情報源とブロック符号化 ・情報源符号化定理とその証明 ・情報源符号化定理およびエントロピーの物理的意味 ・様々な情報源のエントロピー |
| 8. | 情報量 ・情報の持つ性質 ・情報量の定義 ・情報量の最大値と最小値 ・冗長度 |
| 9. | 相互情報量 ・情報の伝達 ・相互情報量の定義 ・相互情報量の物理的意味 ・相互情報量とエントロピーの関係 |
| 10. | 通信路符号化 ・通信路の確率統計的モデル ・無記憶通信路と通信路行列 ・記憶のある通信路 11. ・2元対称通信路 ・通信路行列 ・通信容量 |
| 11. | 通信路符号化定理 ・通信容量 |
| 12. | 通信路符号化定理 ・通信路符号化に対する要請 ・通信路符号化定理 |
| 13. | 誤り訂正符号(I) ・誤りの検出と訂正の必要性 ・ハミング距離 |
| 14. | 誤り訂正符号(II) ・各種誤り訂正符号と応用例 |
| 15. | 定期試験 |
| ・ | 質問等は講義中・講義後に随時受け付ける．それ以外の時間帯では電子メールでコンタクト後に個別対応する． |