Course title
Z37101002
Information Theory

 mano kazunori Click to show questionnaire result at 2019
Course description
情報通信における情報の蓄積・伝達の効率化・高信頼化についての基礎理論を理解する．シャノン流の情報理論について，その情報源・通信路の数学的モデル化と具体的符号化について解説する．また，講義の実際的理解を助けるために演習を実施する．
Purpose of class
世の中の情報通信をシャノン流の情報理論に基づくシステムとして見ることができるようになる．
Goals and objectives
  1. シャノンの情報伝達の基本モデル、情報量・エントロピー、情報源符号化定理，通信路容量、通信路符号化定理，誤り検出・訂正の諸概念について定義の説明，定理の説明ができる．
  2. 演習と実習によって，情報量・エントロピー，通信路容量の計算等ができ，ハフマン符号化・ユニバーサル符号化等の情報源符号化について実データ処理ができる．
  3. 情報通信システムにおいて，情報理論の知識を利用した設計・評価ができる．
Language
Japanese
Class schedule

 Class schedule HW assignments (Including preparation and review of the class.) Amount of Time Required
1. 授業概要，情報とは何か,情報伝達の基本モデル,情報・符号・暗号理論、数学的予備知識 シラバスを読む．「情報」の定義を調べる． 60minutes
情報伝達モデル・数学予備知識復習 120minutes
2. 情報源モデルと情報量(1)：ディジタル情報源，定常・マルコフ情報源 情報源モデルと情報量(1)の配布資料を読む 70minutes
情報源モデルと情報量(1)の復習 120minutes
3. 情報源モデルと情報量(2)：情報量，エントロピー，典型系列，ダイバージェンス，相互情報量，演習(1) 情報源モデルと情報量(2)の配布資料を読む 70minutes
情報源モデルと情報量(2)の復習；演習(1) 120minutes
4. 実習(1)：情報量・エントロピーの計算 実習(1)．C言語プログラム作成・実行． 190minutes
5. 通信路モデルと符号(1)：符号と符号化，可分符号 通信路モデルと符号(1)の配布資料を読む 70minutes
通信路モデルと符号(1)の復習 120minutes
6. 通信路モデルと符号(2)：通信路，通信路容量，演習(2) 通信路モデルと符号(2)の配布資料を読む 70minutes
通信路モデルと符号(2)の復習；演習(2) 120minutes
7. 情報源符号化(1)：拡大情報源、情報源符号化定理 情報源符号化(1)の配布資料を読む 70minutes
情報源符号化(1)の復習． 120minutes
8. 情報源符号化(2)：ハフマン符号化, 演習(3) 情報源符号化(2)の配布資料を読む 70minutes
情報源符号化(2)の復習；演習(3)． 120minutes
9. 情報源符号化(3)：可変長情報系列の符号化、算術符号化 情報源符号化(3)の配布資料を読む 70minutes
情報源符号化(3)の復習 120minutes
10. 情報源符号化(4)：ユニバーサル符号化、辞書法、ブロックソート法、演習(4) 情報源符号化(4)の配布資料を読む 70minutes
情報源符号化(4)の復習；演習(4) 120minutes
11. 実習(2)：情報源符号化の計算 実習(2). C言語プログラム作成・実行． 190minutes
12. 通信路符号化(1)：復号と受信空間、誤り検出・訂正 通信路符号化(1)の配布資料を読む 70minutes
通信路符号化(1)の復習 120minutes
13. 通信路符号化(2)：通信路符号化定理、演習(5) 通信路符号化(2)の配布資料を読む 70minutes
通信路符号化(2)の復習；演習(5) 120minutes
14. 期末試験，全体のまとめ及びトピックス 試験勉強 190minutes
Total. - - 2650minutes
Relationship between 'Goals and Objectives' and 'Course Outcomes'

 演習 実習 期末試験 Total.
1. 10% 60% 70%
2. 15% 15%
3. 15% 15%
Total. 25% 15% 60% -
Evaluation method and criteria
演習（実習含む）レポート(40%)と期末試験成績(60%)とし，総合点の60%以上を合格とする．
Textbooks and reference materials
○教科書

必要に応じて資料を配布する．

○参考書
(1)「はじめての情報理論」稲井寛，森北出版 2011.
(2)「情報・符号・暗号の理論」電子情報通信学会編, 今井秀樹著（コロナ社）2004.
(3)「通信の数学的理論」クロード E. シャノン，ワレン・ウィーバー著，植松友彦訳（ちくま学芸文庫）2009.
(4)「イラストで学ぶ 情報理論の考え方」(講談社サイエンティフィック) 2012.
Prerequisites
実習においてC言語を使用するので簡単な使い方を身につけて置くこと．
Office hours and How to contact professors for questions
  • 火曜 13:10-14:50
Regionally-oriented
Non-regionally-oriented course
Development of social and professional independence
  • Course that cultivates an ability for utilizing knowledge
  • Course that cultivates a basic problem-solving skills
Active-learning course
More than one class is interactive
Course by professor with work experience
Work experience Work experience and relevance to the course content if applicatable
Applicatable 移動体通信用コーデック開発・標準化活動の経験に基づき，理論の基礎と社会の要求に応じたシステム構築について講義・演習する．
Education related SDGs:the Sustainable Development Goals
  • 4.QUALITY EDUCATION
  • 9.INDUSTRY, INNOVATION AND INFRASTRUCTURE
  • 12.RESPONSIBLE CONSUMPTION & PRODUCTION
Last modified : Sat May 30 04:02:50 JST 2020