ベイズ統計の理論と方法

著者名：渡辺澄夫

コロナ社（2021/05発売）

• ISBN：9784339024623

内容説明

ベイズ統計学に初めて出会う人が疑問に思うことを解説し，理論的な基礎を明らかにし，実用上で注意することを説明する。統計モデルとは何か，事前分布とは何か，ベイズ統計学ではどんな法則が成り立つか，などを学びたい人に最適。

目次

1.　はじめに
1.1　ベイズ推測の定義
1.2　考察される量
　1.2.1　分配関数と自由エネルギー
　1.2.2　推測と汎化
　1.2.3　計算できる例
1.3　さまざまな推測方法
1.4　事後分布の例
1.5　確率モデルの例
　1.5.1　確率モデルがわかっている場合
　1.5.2　確率モデルが仮のものである場合
1.6　本書の概略
1.7　一般的注意
　1.7.1　本書の厳密性について
　1.7.2　表記法
1.8　質問と回答
章末問題

2.　基礎概念
2.1　真の分布と確率モデルの関係
2.2　理論の基礎
　2.2.1　基礎概念
　2.2.2　正規化された変量
　2.2.3　キュムラントと母関数
2.3　ベイズ統計理論の構造
2.4　質問と回答
章末問題

3.　正則理論
3.1　基礎数学の公式
　3.1.1　転置行列，トレース，行列式
　3.1.2　対称行列，固有値，正定値行列
　3.1.3　積分公式
　3.1.4　平均値の定理
3.2　分配関数の挙動
　3.2.1　準備
　3.2.2　分配関数の非主要項
　3.2.3　分配関数の主要項
3.3　スケーリング
3.4　汎化損失と経験損失
3.5　事後確率最大化法
　3.5.1　推定量の漸近分布
　3.5.2　汎化誤差と経験誤差
3.6　サンプルから計算する方法
　3.6.1　自由エネルギー
　3.6.2　汎化損失と経験損失
3.7　質問と回答
章末問題

4.　一般理論
4.1　多様体
4.2　標準形
　4.2.1　特異点解消定理
　4.2.2　標準形
4.3　状態密度の挙動
　4.3.1　超関数
　4.3.2　状態密度関数
4.4　統計的推測の一般理論
　4.4.1　分配関数
　4.4.2　繰り込まれた事後分布
4.5　相転移
4.6　事後確率最大化法
　4.6.1　平均プラグイン法
　4.6.2　事後確率最大化法
4.7　質問と回答
章末問題

5.　事後分布の実現
5.1　マルコフ連鎖モンテカルロ法
　5.1.1　メトロポリス法
　5.1.2　ギブス・サンプリング
　5.1.3　ランジュバン方程式を用いる方法
　5.1.4　自由エネルギーの近似
5.2　平均場近似
　5.2.1　平均場近似とは
　5.2.2　変分ベイズ法
5.3　質問と回答
章末問題

6.　ベイズ統計学の諸問題
6.1　回帰問題
6.2　モデルの評価
　6.2.1　評価の規準
　6.2.2　バイアスとバリアンス
　6.2.3　偏差情報量規準
6.3　クロスバリデーション
6.4　統計的検定
　6.4.1　べイズ検定
　6.4.2　ベイズ検定の例
6.5　質問と回答
章末問題

7.　ベイズ統計の基礎
7.1　確率モデルと事前分布がわかっているとき
7.2　確率モデルあるいは事前分布がわかっていないとき
7.3　確率モデルと事前分布
　7.3.1　指数型分布について
　7.3.2　線形回帰モデル
　7.3.3　構造をもつ確率モデル
　7.3.4　ハイパーパラメータの最適化
7.4　質問と回答
章末問題

8.　初等確率論の基礎
8.1　確率分布と確率変数
8.2　平均と分散
8.3　同時分布と条件付き確率
8.4　カルバック・ライブラ情報量
8.5　極限定理
　8.5.1　確率変数の収束
　8.5.2　大数の法則と中心極限定理
　8.5.3　経験過程

引用・参考文献
章末問題解答
索引

感想・レビュー

※以下の感想・レビューは、株式会社ブックウォーカーの提供する「読書メーター」によるものです。

[月をみるもの]

"もちろん現実世界の中における有限個のサンプルに基づく推測はその精度に限界や誤差があり,真の分布が完全に特定されるということは起こり得ない。しかしながら,与えられたサンプルと与えられた確率モデル · 事前分布を用いて統計的推測を行ったとき, その限界や誤差について私たちは知ることができる。統計的推測において, どのような誤差があるのか,どのような限界があるのか,について知ることは「わからない→ 推論 →わからない→…」の繰返しの中にあった私たちに, 拠って立つことができる場所を与えてくれるものなのである”

2021/05/08

[shin_ash]

いわゆる“渡辺ベイズ”と言うかWAICについても押さえておこうと思って読んでみた。正直に言うとロジックは殆ど理解できなかった。しかしながら辛うじて言いたいことは何となくわからなくはない。要するに「統計的に絶対の方法は無い」ことを前提に多少でも当てになる推測方法としてベイズ推測を推奨している。それには根拠が必要で、その根拠として“推定の良さ”を測る指標が必要になる。その指標についてのロジックを情報理論的アプローチを基本方針として、解析力学と統計力学を援用して指標のロジックを構成した、と言うことだろう。やりた

2022/08/14

[Józef Klemens Piłsudski]

「読み終わった」ことにしたが、半分も理解できてないと思う。本書が説明せんとしていることは「従来的な最尤法に基づく統計学と事前分布を使うベイズ統計は背反するものでなく統一的に説明できる」「従来的な統計学では『非正則なモデル』をうまく推定することができず、非正則なモデルも対応できる点でベイズ統計が有利である」の2点だと思うが、その説明のために統計物理の話が次々出てくるため統計物理を知らない自分にとっては難解だった。内容の過半はベイズ統計の理論的根拠でありすぐにベイズ統計を使って何かやりたい人には向かない。

2016/10/30

[センケイ (線形)]

近いように見えて遠い、統計力学と統計学の接点が見える一冊。特に Langevin 方程式の話のあたり。

2013/11/28

[あべっち]

コスパ良すぎ

2022/02/28