logistic regression in rare events data
- 1. Logistic Regression in Rare Events Data Gary King,Harvard University Langche Zeng,George Washington University (Oxford Journals February 16, 2001) @shima_x
- 6. サンプリングバイアス ◆ Prior correction － 事前情報を使ってバイアスを補正する 集合の一部についての事前情報 （センサスデータから取得） ランダムに選択された横断データ 選択されたサンプル
- 7. サンプリングバイアス ◆ Weighting － バイアスを減らすようにサンプルを重みづけする手法 － 以下の重み付き対数尤度の最大化を行う
- 13. バイアスを考慮した確率推定 ◆ ベータの不確実性による分布の違い（バイアス） － Yについて周辺化した分布の方が裾野が広い分布となっている → サンプリングバイアスなどが考慮されているため
- 14. バイアスを考慮した確率推定 ◆ バイアスを消す方法 (1) (1) ランダムサンプリングを行って、それについての確率密度関数を求めその平 均値を取る (2) (2) バイアスの補正を行う（本稿の手法） 直接的なバイアス 0.5 0.5未満でレアイベントと判断 0.5 ※0.5 0.5を超える場合は、補正の必要性が無いため補正は行わない
- 15. バイアスを考慮した確率推定 ◆ バイアス補正 (1) (1) approximate unbiased estimator (2) (2) approximate Bayesian estimator (1) (1)は漸近的にバイアスが無い予測値となる。 (2) (2)はバイアスが無いわけではない。しかし最小二乗誤差を減らす良い予測値とな る。（※実験的に証明している）
- 16. 実験条件 ◆ サンプル数 ◆ 切片 1 ◆ 陽性反応率（1 - 不均衡率） ◆ 陽性確率 ◆ 相対リスク
- 18. 実 験 ◆ Logit-Bayesian differences differences（絶対リスク） －縦軸スケール：logit, 横軸スケール：log ← 陽性反応が占める割合
- 21. 実 験 Prior Correciton） ◆ 平均サンプリングバイアス（切片・Prior Correciton
- 28. 実 験 ◆ バイアスの平均標準偏差の結果 logit －logit logitも補正をかけたモノも結果は理想的な値となった logit logitの結果グラフのみを載せた － したがって、logit － 陰性のデータの削除割合を大きくするにつれて情報行列の誤差が大きくなる
- 30. 実 験 ◆ 確率値のバイアス
- 31. 実 験 (RMSE) ◆ 確率値のバイアスと平均最小二乗誤差(RMSE) Bayesian 2 － RMSE をみるとBayesian Bayesian補正が他の2つの手法に優っている Bayesian Bayesian補正が最も悪い －バイアスではBayesian RMSE － バイアスは大きいがRMSE RMSEは十分小さいため、バランスされる
- 34. 実 験 (RMSE) ◆ ダウンサンプリングによる平均最小二乗誤差(RMSE) (RMSE)の絶対リスク － Bayesitan Bayesitan補正は他の手法と比較して誤差が小さい － Prior Correction, Weighting Weightingの両者において同様の結果となった
- 37. 実 験 (RMSE) ◆ ダウンサンプリングによる平均最小二乗誤差(RMSE) (RMSE)の相対リスク － Bayesitan Bayesitan補正は他の手法と比較して誤差が小さい 2 － 提案手法が従来の2つの手法より良いことが証明された
- 38. 結 論 5% 5%未満のレアイベントに対して大きな効果がある － 出現率5% － 多くのレアイベントの調査に適用可能な手法を提案した （たとえば戦争などの国同士の争いにも適用可能） － パラメタが非常に多い場合に有効 （時系列データとかダミーデータが多い素性の場合など）