P0710200

情報理論

Information Theory

開講部

システム工学部

開講学科

電子情報システム学科

開講学年

2年次

開講時期

前期

単位数

2

単位区分

選択

系列区分

専門

講義区分

講義
教授間野一則この授業の2012年度のアンケートを参照

授業の教育目的及び方針

情報通信における情報の蓄積・伝達の効率化・高信頼化についての基礎理論を理解する。
シャノン流の情報理論について、その情報源・通信路の数学的モデル化と具体的符号化について解説する。

授業内容

1 序論:情報の伝達、情報伝達の基本モデル、情報・符号・暗号理論、数学的予備知識
2 情報源の数学的モデル:ディジタル情報源、定常・エルゴード・マルコフ情報源
3 情報量とエントロピー:情報量、エントロピー、典型系列、ダイバージェンス、相互情報量
4 通信路の数学的モデルI:情報伝達モデル、符号と符号化、復号と受信空間、可分符号
5 通信路の数学的モデルII:通信路、通信路容量
6 情報源符号化:情報源符号化定理
7 既知情報源符号化I:ハフマン符号化、
8 既知情報源符号化II:可変長情報系列の符号化、算術符号化
9 未知情報源符号化I:適応符号化、数え上げ符号化
10 未知情報源符号化II:辞書法、ブロックソート法
11 通信路符号化I:誤り検出・訂正
12 通信路符号化II:通信路符号化定理
13 アナログ情報源:標本化・量子化、アナログ情報源のエントロピー・情報量・通信路容量
14 ひずみが許容される場合の情報源符号化:速度・ひずみ関数、ベクトル・変換・予測符号化
15 期末試験

評価方法

レポート(演習)と期末試験成績の総合評価。

教科書

・「情報・符号・暗号の理論」電子情報通信学会編、今井秀樹著(コロナ社)2004。また、必要に応じて資料を配布。
・参考書:「情報理論」今井秀樹(昭晃堂)1984、「情報理論」宮川洋(コロナ社) 1979 など。

備考

関連科目:情報通信基礎を履修しておくことが望ましい。

環境との関連

環境に関連しない科目

最終更新 : Thu Sep 20 07:55:32 JST 2012