統計学One Point 6 スパース推定法による統計モデリング

著者名：川野秀一/松井秀俊ほか

共立出版（2021/09発売）

• ISBN：9784320112575

内容説明

本書は、スパース推定の入門的内容から発展的内容までを解説。実用性を重視するため、スパース推定を用いた統計モデリングを中心にできるだけ数多く解説し、「スパース推定を用いると、こういう統計解析が可能になる」というような、統計解析におけるスパース推定の有用性を実感できるよう心掛けた。また、理解の助けとするために、紹介する手法の数値例をできる限り載せるようにし、数値例を実行するための具体的なRによる解析コードも載せている。

目次

第1章　線形回帰モデルとlasso
1.1　最小2乗法・正則化法
1.2　リッジ回帰
1.3　lasso
1.4　図による解釈
1.5　軟閾値作用素と硬閾値作用素
1.6　計算アルゴリズム
1.6.1　最小角回帰
1.6.2　座標降下法
1.6.3　交互方向乗数法
1.7　正則化パラメータの選択
1.7.1　交差検証法
1.7.2　モデルの自由度に基づく評価基準
1.7.3　拡張BIC
1.8　解析プログラム
第2章　lasso正則化項の拡張
2.1　エラスティックネット
2.1.1　計算アルゴリズム
2.1.2　適用例：人工データ
2.2　非凸正則化項
2.2.1　SCAD
2.2.2　MC+
2.2.3　適応型lasso
2.2.4　ブリッジ推定
2.2.5　適用例：犯罪データ
2.3　解析プログラム
第3章　構造的スパース正則化
3.1　隣接縮小型正則化
3.1.1　連結lasso
3.1.2　クラスターlasso
3.1.3　OSCAR
3.1.4　一般化lasso
3.2　グループ縮小型正則化
3.2.1　グループlasso
3.2.2　重複のあるグループの選択
3.3　グループ縮小型正則化の応用
3.3.1　階層的変数選択
3.3.2　二水準選択
3.4　計算アルゴリズム
3.4.1　一般化lassoに対する計算アルゴリズム
3.4.2　グループlassoに対する計算アルゴリズム
3.5　適用例
3.5.1　連結lassoの適用例：人工データ
3.5.2　一般化lassoの適用例：画像データ
3.5.3　グループlassoの適用例：出生データ
3.5.4　階層的lassoの適用例：犯罪データ
3.6　解析プログラム
第4章　一般化線形モデルにおけるスパース推定
4.1　ロジスティック回帰モデル
4.1.1　計算アルゴリズム
4.1.2　適用例：南アフリカの心臓疾患データ
4.2　ポアソン回帰モデル
4.2.1　計算アルゴリズム
4.2.2　適用例：博士課程学生の出版論文データ
4.3　多項ロジスティック回帰モデル
4.3.1　計算アルゴリズム
4.3.2　適用例：手書き画像文字データ
4.4　コックス回帰モデル
4.4.1　計算アルゴリズム
4.4.2　適用例：原発性胆汁性肝硬変データ
4.5　解析プログラム
第5章　多変量解析におけるスパース推定
5.1　ガウシアングラフィカルモデルにおけるスパース推定
5.1.1　ガウシアングラフィカルモデル
5.1.2　パラメータ推定法
5.1.3　グラフィカルlassoによるパラメータ推定
5.1.4　交互方向乗数法によるパラメータ推定
5.1.5　適用例：デカスロンデータ
5.2　スパース主成分分析
5.2.1　主成分分析
5.2.2　主成分の解釈
5.2.3　SCoTLASS
5.2.4　SPCA
5.2.5　適用例：デカスロンデータ
5.2.6　SPCAの定式化に至るまで
5.3　スパース因子分析
5.3.1　従来の因子負荷行列の推定：最尤法と因子回転
5.3.2　因子回転の一般化と正則化最尤法
5.3.3　スパース因子分析とスパース主成分分析との比較
5.3.4　適用例：デカスロンデータ
5.4　解析プログラム
付録A
A.1　正則化法で各説明変数の長さを同じとすべき理由
A.2　リッジ推定量が正則となる理由
A.3　誤差2乗和の等高線の関数
A.4　劣勾配・劣微分
A.5　（3.2）式と（3.3）式の関係
A.6　多変量正規分布
A.7　（5.27）式の証明
A.8　（5.38）式の導出

感想・レビュー

※以下の感想・レビューは、株式会社ブックウォーカーの提供する「読書メーター」によるものです。

[shin_ash]

3/27に本書の出版記念セミナーがあることを知ったので、本書を購入して読んだ。スパース推定法の応用は盛んな故その幅は広く今後益々重要な技術になると思われる。私はリッジとlassoの区別がつく程度の基本的な事しか知らなかったので本書とセミナーには興味があった。本書は基礎的なところから応用である構造的なスパース推定法に展開しているので、その繋がりが理解できるようになった。一方、本書は基礎理論からアルゴリズムまで、総花的に理解させる事に軸足を置いている為か、文章的には分かりやすい記述ではない。この点は少し残念。

2018/03/18

[おまんじう]

lassoから始まって、グループlassoや階層的lassoなど、様々なモチベーションで開発された変数選択のための正則化がコンパクトに説明されている。lassoに対する解法として座標降下法、交互乗数法などを詳しく説明した上で、他の正則化もこれらを用いて解く方法を説明しているので、見通しが良い。

2020/09/12

[鴨川]

網羅的にわかりやすくスパース推定を解説しており、良書と言える。実装例が載っていて素敵。こういうのはわかった気になるのが大事だと思っているので。個人的に五章が難しかった。

2018/03/28

[青木健一]

理論的には難しい箇所が多くついていけなかったけどRのコードもあるし慣れていくつもり データがたくさんになってきているので深層学習だけではなく、説明変数を絞り込めるスパース推定の重要度はましてくると思う

2018/03/22