L0210000

確率論と情報理論

Probability Theory and Information Theory

開講部

工学部

開講学科

情報工学科

開講学年

1年次

開講時期

後期

単位数

2

単位区分

選択

系列区分

専門

講義区分

講義
講師富永大介この先生のアンケート一覧を参照

授業の概要

確率論は自然科学の基礎理論の一つである。情報理論は今日の情報通信の基盤技術の理解のために必須であり、確率論に立脚している。この講義では確率モデルの概念の理解と具体的な計算法の修得、情報理論の基礎概念を理解する事を目標とする。
講義の前半では事象と確率、確率分布、平均、分散など確率論の基本的な事柄を学んだ後、大数の法則や中心極限定理といった確率に関する重要な性質について学ぶ。公判ではこれに基づいて情報量とエントロピーの概念を導入し、符号化や誤り訂正による情報通信のもっとも基礎となる事柄について学ぶ。
毎回の講義では講義資料を配布し、これを教科書の代わりとする。また毎回小テストを行い、加えて期末試験を行う。

達成目標

1.二項分布や正規分布などの確率モデルの導出の流れとその性質を理解する
2.確率モデルを使って現実に起こる事象の確率を計算することができる
3.離散および連続の確率分布モデルの意味を理解し、平均や分散などの統計量の計算ができる
4.情報量の概念を理解し、いくつかの通信路モデルの受送信における確率を計算することができる
5.文字の符号化法を理解し、確率や頻度に基づく符号化を行うことができる

授業計画


【授業計画】【授業時間外課題(予習および復習を含む)】
1.確率論のケーススタディと情報量の概念 シラバスを見ておくこと
2.事象、集合、確率空間 前回までのプリントを読んでおくこと
3.排他性と加法定理、幾何学的確率、条件付き確率 前回までのプリントを読んでおくこと
4.確率変数と確率分布関数、確率密度関数 前回までのプリントを読んでおくこと
5.周辺確率関数、条件付き分布関数、確率変数の変換 前回までのプリントを読んでおくこと
6.統計量と特性関数 前回までのプリントを読んでおくこと
7.離散的確率分布 前回までのプリントを読んでおくこと
8.連続的確率分布 前回までのプリントを読んでおくこと
9.大数の法則と中心極限定理 前回までのプリントを読んでおくこと
10.情報量とエントロピー 前回までのプリントを読んでおくこと
11.情報源の符号化、平均符号語長、符号の存在定理 前回までのプリントを読んでおくこと
12.さまざまな符号化法 前回までのプリントを読んでおくこと
13.通信路と通信路容量、繰り返し符号 前回までのプリントを読んでおくこと
14.エラー訂正の原理と誤り訂正符号 前回までのプリントを読んでおくこと
15.試験と解説 これまでの演習問題を復習しておくこと

評価方法と基準

試験50%、各回の小テスト50%の合計100点満点で、得点60点以上を合格とする。

教科書・参考書

教科書はない

参考書:
「情報理論」甘利俊一(筑摩書房、2011)
「工学のための確率論」 脇 純一郎(オーム社、2002)
「情報理論のエッセンス」平田廣則(昭晃堂、2005)

履修登録前の準備

特に必要としない

オフィスアワー、質問・相談の方法

講義終了後に直接、および各回の小テストの余白で受け付け、次回の講義にて回答

環境との関連

環境に関連しない科目

地域志向

地域志向ではない科目

社会的・職業的自立力の育成

社会的・職業的自立力を育成しない科目

アクティブ・ラーニング科目

該当しない

最終更新 : Thu Jun 09 08:29:30 JST 2016