目次
確率論の復習
エントロピー
エントロピーのチェイン則
ダイバージェンス
ダイバージェンスの応用
符号の定義と正則性
分節可能符号と語頭符号
符号の表現とクラフトの不等式
最適な符号
符号化アルゴリズム
相互情報量
相互情報量の応用
情報処理不等式とファのの不等式
通信路符号化と通信理論
情報理論の応用
著者等紹介
小嶋徹也［コジマテツヤ］
１９９２年北海道大学工学部情報工学科卒業。１９９７年北海道大学大学院工学研究科情報工学専攻博士後期課程修了。１９９７年電気通信大学大学院情報システム学研究科助手。２００１年東京工業高等専門学校情報工学科助手。２００５年東京工業高等専門学校情報工学科助教授。現在、東京工業高等専門学校情報工学科准教授、博士（工学）（本データはこの書籍が刊行された当時に掲載されていたものです）
※書籍に掲載されている著者及び編者、訳者、監修者、イラストレーターなどの紹介情報です。
感想・レビュー
※以下の感想・レビューは、株式会社ドワンゴの提供する「読書メーター」によるものです。
不眠バード
0
YouTubeで大学の講義を聞きつつ、手を動かすための情報理論の入門書として読みました。エントロピーやダイバージェンス、相互情報量などは、しっかり手を動かして所感をつかむ事ができた反面、通信路符号化や誤り訂正についてはあまり書いていないため、院試などの勉強には更に別の本を参照する必要がありそうです。2025/12/29
茅野ソト
0
E資格の勉強のため、1～5章、11章、12章を読了。 導入のクイズ、本編、練習問題という構成に各章なっている。 練習問題は難易度が3段階あって基礎、応用、発展（プログラミング問題）で、自分は基礎だけ解いた。 本編部分は教科書的だと感じた。 独学するには文系の人だとちょっと辛そう。 シグマやlogの計算はできるでしょ、いちいち細かいところを解説しないよってスタンスなので。 練習問題は解説付きで解答が載っているのでここら辺はありがたい。 2023/08/16
