科目名[英文名]
情報理論   [Information Theory]
区分	工学部専門科目等	選択必修		単位数	2
対象学科等		対象年次	2～4	開講時期	1学期
授業形態	1学期	時間割番号	022808
責任教員 [ローマ字表記]
堀田 政二   [HOTTA Seiji]
所属	工学部	研究室		メールアドレス

概要

【目的】日ごろ使っているインターネットや携帯電話は，情報理論に立脚している．情報理論の目的は，効率的かつ信頼性の高い遠隔通信を行うための基盤となる理論を提示することである．本講義では，情報理論の基本的な考え方から導かれる重要な定理とその応用について理解することを目的とする． 【概要】情報を0と1のビット列で表して情報を確率的に扱えるようにしたうえで，情報量の概念とそこから導かれる通信路容量の限界や符号化に関する定理を紹介する．授業形態は講義であり，独自に用意したテキスト，および参考書を用いて，上記の内容を修得できるようにする．

到達基準

情報理論の考え方，および通信路容量と通信速度との関係と，符号化の方法，および符号化の限界について説明できる. 本科目のディプロマ・ポリシーの観点： 工学部履修案内中の情報工学科カリキュラムマップのディプロマ・ポリシーの観点（B）に該当する．

授業内容

第1回 イントロダクション，シラバス，二元符号と二進数 第2回 確率論の基礎（集合，事象，順列，組合せ，確率変数，期待値，分散，標準偏差，ベイズの定理） 第3回 確率分布（離散・連続確率分布，確率分布の期待値と分散，各種確率分布，中心極限定理） 第4回 確率過程（マルコフ連鎖，定常分布） 第5回 情報量の定義（自己情報量，シャノンの基本不等式） 第6回 情報源モデルと通信路モデル 第7回 まとめ1（中間試験） 第8回 相互情報量 第9回 伝送情報量と通信路容量 第10回 情報源符号化の基礎（各種符号化，符号長の短縮限界） 第11回 通信路符号化の基礎（誤り検出，シャノンの第1基本定理） 第12回 拡大情報源と動的符号化（ハフマンブロック符号化） 第13回 通信路符号化におけるパリティ検査とハミング符号（シャノンの第2基本定理） 第14回 線型符号と巡回符号 第15回 まとめ2（期末試験）

履修条件・関連項目

学科専門科目のコア科目に区分さる必修（2単位）の講義である．授業時間30時間に加え，配布した講義資料や参考書を参照し，60時間の授業外の予習と復習を行うこと．

テキスト・教科書

・三木成彦，吉川英樹，「情報理論」，コロナ社 (2000).

参考書

・塩野充，「わかりやすいディジタル情報理論」，オーム社 (1998). ・小川英一，「マルチメディア時代の情報理論」，コロナ社 (2000). ・高橋、森村，「混雑と待ち」，朝倉書店　(2001).

成績評価の方法

中間試験(40%)，期末試験(60％)で判定する．

教員から一言

IT社会の基礎となる理論であり，情報工学に携わる者として必要な知識や考え方を修得するために必須の科目である．予習，復習を十分に行って理解を深めて欲しい．

キーワード

情報量 　 エントロピー 　通信路容量 　 符号化 　誤り訂正

オフィスアワー

オフィスアワーは月曜日の10：00-12：00．その他教員が在室していれば，質問等随時対応する．mailでの質問も可能である．

備考１

備考２

参照ホームページ

http://web.tuat.ac.jp/~s-hotta/IT/

開講言語

日本語

語学学習科目

更新日付

2019/03/08 9:35:30