P0710200
Z3710100

情報理論

Information Theory

所属する学科・専攻を選択してください
教授間野一則この授業の2016年度のアンケートを参照

授業の概要

情報通信における情報の蓄積・伝達の効率化・高信頼化についての基礎理論を理解する.シャノン流の情報理論について,その情報源・通信路の数学的モデル化と具体的符号化について解説する.また,講義の実際的理解を助けるために演習及び実習を実施する.

達成目標

1.シャノンの情報伝達の基本モデル、情報量・エントロピー、情報源符号化定理,通信路容量、通信路符号化定理,誤り検出・訂正の諸概念について基礎的知識を習得する.
2.演習と実習によって,情報量・エントロピー,通信路容量の計算等ができ,ハフマン符号化・ユニバーサル符号化等の情報源符号化について実データ処理により実践的な解決能力を身につける.
3.将来のシステムデザイン・開発における,情報理論的な考え方の適用可能性を知る.

授業計画


【授業計画】【授業時間外課題(予習および復習を含む)】
1.授業概要,情報とは何か,情報伝達の基本モデル,情報・符号・暗号理論、数学的予備知識 シラバスを読む.「情報」の定義を調べる.
2.情報源モデルと情報量(1):ディジタル情報源,定常・エルゴード・マルコフ情報源 数学的予備知識の復習
3.情報源モデルと情報量(2):情報量,エントロピー,典型系列,ダイバージェンス,相互情報量,演習(1) 演習(1)解答.情報量等復習.
4.実習(1):情報量・エントロピーの計算 実習(1).C言語プログラム作成・実行.
5.通信路モデルと符号(1):符号と符号化,可分符号 通信路符号の復習.
6.通信路モデルと符号(2):通信路,通信路容量,演習(2) 演習(2)解答.通信路容量の復習.
7.情報源符号化(1):拡大情報源、情報源符号化定理 情報源符号化定理の復習.
8.情報源符号化(2):ハフマン符号化, 演習(3) 演習(3)解答.ハフマン符号化復習.
9.情報源符号化(3):可変長情報系列の符号化、算術符号化 算術符号化の復習.
10.情報源符号化(4):ユニバーサル符号化、辞書法、ブロックソート法、演習(4) 演習(4)解答.辞書法等の復習.
11.実習(2):情報源符号化の計算 実習(2). C言語プログラム作成・実行.
12.通信路符号化(1):復号と受信空間、誤り検出・訂正 誤り訂正復習.
13.通信路符号化(2):通信路符号化定理、演習(5) 演習(5)解答.通信路符号化定理の復習.
14.アナログ情報源(標本化・量子化,アナログ情報源のエントロピー,ひずみの許容される場合の情報源符号化),暗号 アナログ情報源等の復習.
15.期末試験,全体のまとめ及びトピックス 演習・実習レポート提出.

評価方法と基準

演習(実習含む)レポート(40%)と期末試験成績(60%)とし,総合点の60%以上を合格とする.

教科書・参考書

○教科書
「はじめての情報理論」稲井寛,森北出版 2011.
必要に応じて資料を配布

○参考書
(1)「情報・符号・暗号の理論」電子情報通信学会編, 今井秀樹著(コロナ社)2004.
(2)「イラストで学ぶ 情報理論の考え方」(講談社サイエンティフィック) 2012.
(3)「通信の数学的理論」クロード E. シャノン,ワレン・ウィーバー著,植松友彦訳(ちくま学芸文庫)2009.

履修登録前の準備

関連科目:情報通信基礎を履修しておくことが望ましい。また,実習においてC言語を使用するので簡単な使い方を身につけておいてほしい.

オフィスアワー、質問・相談の方法

授業後1時間.その他随時(面談はアポイントを取ること.メールでも質問を受け付ける.)

環境との関連

環境に関連しない科目

地域志向

地域志向ではない科目

社会的・職業的自立力の育成

知識活用力を育成する科目
対課題基礎力を育成する科目

アクティブ・ラーニング科目

能動的な学修への参加を取り入れた授業が1コマ分以上

最終更新 : Sat Sep 24 07:26:20 JST 2016