内容説明
本書は情報理論における情報量，特に情報源符号化定理の解説に重点をおき，情報量の概念の理解を目的としている。基本的な数学の知識で理解できるよう記述し，定理は結果と使用法だけでなく証明内容を厳密にわかりやすく解説した。
目次
序章 情報理論とは
1. 問題はなにか
1.1 起きた事柄と伝える手段
1.2 通信用の文字に変換―符号化―
1.3 通信コストを下げるために―通信に必要な符号語長―
章末問題
2. 符号の種類
2.1 天気と通信をモデル化―情報源と符号―
2.2 必ず元に戻せる符号―一意に復号可能―
2.3 遅延なく復号できる符号―瞬時に復号可能―
章末問題
3. 符号語長の制約
3.1 符号語長に課せられる制限―クラフトの不等式―
3.2 瞬時に復号可能な符号が存在するための十分条件
3.3 一意に復号可能であるための必要条件
章末問題
4. 平均符号語長とハフマンの符号化
4.1 「最適」な符号―平均符号語長とコンパクト符号―
4.2 瞬時に復号可能なコンパクト符号を得るハフマンの符号化
4.3 ハフマンの符号化の結果がコンパクト符号であることの証明
章末問題
5. エントロピーと情報量
5.1 平均符号語長の下界とエントロピー
5.2 平均符号語長の下界を達成できる条件
5.3 まとめて符号化して通信効率を改善―情報源の拡大―
5.4 拡大情報源の平均符号語長の下界
5.5 特定の符号化についての平均符号語長の上界
5.6 情報源符号化定理
5.7 情報量
章末問題
付録A 数学の準備
A.1 式の書き方の約束事
A.2 入力から出力への対応―写像―
A.3 生起確率が与えられた場合の平均値―期待値―
A.4 これだけは知っておいてほしい，必要条件，十分条件と証明
A.5 指数，対数の考え方
A.5.1 よく使う指数の公式
A.5.2 対数の定義
A.5.3 よく使う対数の公式と証明
付録B 情報量の尺度が対数関数に限られる理由
B.1 情報の量の尺度に求められる性質
B.2 情報量の定義
引用・参考文献
章末問題解答
索引
Coffee Break
話は短いほうがいい
大盛り一丁！
電話番号は瞬時に復号可能
一周回って一気に証明
鳩の巣原理
理論と現実
現実との対応
通信路が100%信用できないときは？
人はなぜくじを買う
定義はどうやって決める
