Japanese / English

G0700000

情報理論

Information Theory

開講部

工学部

開講学科

電子工学科

開講学年

3年次

開講時期

前期

単位数

2

単位区分

選択必修

系列区分

専門

講義区分

講義

教育目標

C
准教授プレーマチャンドラ チンタカこの先生のアンケート一覧を参照

授業の概要

 携帯電話技術やインターネット技術などが一般社会へ急速に浸透したことを受けて,今日の技術者は情報通信技術と無縁の世界にはいられなくなりつつある.
 情報理論は,情報通信技術の根幹を成す基礎理論の一つで,情報通信システムを定量的に取り扱うための基本的な枠組みを提供する.本講義では,幅広い応用分野を持つ情報理論の 基礎的な事柄を中心に,情報伝送に関するモデルとその取り扱いについて学ぶ.
 具体的には情報源符号化と通信路符号化の考え方を学ぶことで,情報理論的思考を身に付ける.

授業の目的

情報理論の基礎的な事柄を中心に学ぶ。

達成目標

1.情報源の数学的モデルを理解する(授業計画1〜3に対応)
2.情報源符号化の物理的な意味を説明できるようになる(授業計画4〜8に対応)
3.通信路と相互情報量の関係について説明できるようになる(授業計画9に対応)
4.通信路符号化の物理的な意味を説明できるようになる(授業計画10〜11に対応)
5.誤り検出符号と誤り訂正符号の考え方を説明できるようになる(授業計画12〜15に対応)

授業で使用する言語

日本語

授業計画


【授業計画】【授業時間外課題(予習および復習を含む)】
1.ガイダンス,「情報理論」の学び方
  ・情報理論の歴史
  ・情報理論の応用
  ・基本的な知識
教科書該当箇所を読んで来ること
2.確率論(1)
  ・集合の記法
  ・確率空間とその性質
  ・確率的独立
  ・条件付き確率
  ・確率変数と確率分布
教科書該当箇所を読んで来ること
3.確率論(2)
  ・平均と分散
  ・結合分布と周辺分布
  ・ベイズの定理
  ・マルコフ過程
  ・連続な値をとる確率変数
教科書該当箇所を読んで来ること
4.情報量とエントロピー(1)
  ・情報の物差し
  ・平均情報量とエントロピー
  ・結合エントロピーと条件付きエントロピー
  ・相互情報量とその意味
教科書該当箇所を読んで来ること
5.情報量とエントロピー(2)
  ・マルコフ情報源のエントロピー
情報源符号化(1)
  ・情報源圧縮システムの構成
  ・可変長符号化
  ・プレフィックス符号
  ・クラフトの不等式
教科書該当箇所を読んで来ること
6.情報源符号化(2)
  ・平均符号語長
  ・平均符号語長の下限
  ・シャノン符号と符号の存在定理
各種の情報源符号化(1)
  ・シャノン・ファノ符号
教科書該当箇所を読んで来ること
7.各種の情報源符号化(2)
  ・ハフマン符号
  ・ランレングス符号
  ・ユニバーサル符号化
教科書該当箇所を読んで来ること
8.まとめと中間試験および中間試験の解説 中間試験の勉強
9.通信路と相互情報量
  ・通信路の数学モデル
  ・無記憶通信路とその例
  ・誤り源による通信路の表現
  ・相互情報量
  ・通信路容量
教科書該当箇所を読んで来ること
10.通信路符号化(1)
  ・通信路符号化の考え方
  ・通信路符号化の例
教科書該当箇所を読んで来ること
11.通信路符号化(2)
  ・通信路符号化定理
誤り検出符号と誤り訂正符号(1)
  ・符号化・復号のモデル
  ・誤り検出と誤り訂正の原理
教科書該当箇所を読んで来ること
12.誤り検出符号と誤り訂正符号(2)
  ・線形符号
  ・線形符号の復号
教科書該当箇所を読んで来ること
13.実用的な誤り訂正符号(1)
  ・有限体の準備
  ・巡回符号
  ・レポート課題
教科書該当箇所を読んで来ること
14.実用的な誤り訂正符号(2)
  ・誤り検出,CRC
  ・リード・ソロモン符号の復号
教科書該当箇所を読んで来ること
15.まとめと期末試験および期末試験の解説 期末試験の勉強

評価方法と基準

レポート課題30%,中間試験30%,期末試験40%を計100点とし,60点以上で単位認定.レポート課題は進捗に応じて,期間中に2回程度出題.

教科書・参考書

参考書:三木 成彦 (著), 吉川 英機 (著)「情報理論」,コロナ社,ISBN-13: 978-4339012026

履修登録前の準備

確率統計に関する基礎知識が必要

学習・教育到達目標との対応

1.(C)自然科学、数学、情報技術の知識を習得し、現象を論理的に考えて理解する能力を身につける。

オフィスアワー、質問・相談の方法

メールでご連絡ください.
chintaka@sic.shibaura-it.ac.jp

環境との関連

環境に関連しない科目

地域志向

地域志向ではない科目

社会的・職業的自立力の育成

知識活用力を育成する科目
対人基礎力を育成する科目

アクティブ・ラーニング科目

該当しない

・画面の表示が崩れている場合は等幅フォントを使用してください

授業の到達目標と各学科の学習・到達目標との対応


最終更新 : Tue Feb 18 04:13:44 JST 2020