分析・統合統制変数予測交絡制御量的分析因果推論
回帰分析
Regression Analysis
別名: 重回帰分析、ロジスティック回帰、多変量解析
複数の要因(独立変数)が結果(従属変数)に与える影響を統計的に推定する分析手法。統制変数を投入することで他の要因の影響を取り除き、着目する要因の純粋な効果に近い推定ができる。
難易度 中級 ●●●費用 低 ●●●期間 1〜2週間(データ整備・モデル構築・解釈を含む)
概要
回帰分析は、結果変数(従属変数)と複数の説明変数(独立変数)の関係を方程式で表す統計手法。従属変数が連続量の場合は重回帰分析(OLS回帰)、二値(はい/いいえ等)の場合はロジスティック回帰が標準的に使われる。19世紀にFrancis Galtonが生物学的測定で原型を開発し、その後社会科学・医学・経済学の全領域で標準ツールとなった。
評価での主な使いどころは2つある。第一は「統制変数の投入」——属性(年齢・性別・経験年数等)を統制した上で介入の効果を推定すること。第二は「予測モデルの構築」——どの要因が成果指標を予測するかを特定し、今後の介入設計に活用すること。ただし、回帰分析はあくまで観察データの関連を記述・予測するものであり、無作為割付のない観察研究では「相関≠因果」の原則が強く働く。交絡変数(Confounding Variable)の測定漏れや逆因果があると推定が歪む。RCT・差の差法・操作変数法などの因果推論手法と組み合わせて初めて因果の主張が強化される。
✓ こんな時に使う
- 複数の背景要因を統制した上で、特定のプログラム変数が成果指標に与える影響を推定したいとき
- 成果に影響する要因を特定し、どこに介入すれば効果が大きいかを判断したいとき
- ロジスティック回帰でサービス到達・脱落・目標達成などの二値アウトカムの予測因子を探索したいとき
- 大規模行政データや統計調査データを使って事業の費用・効果パターンを分析したいとき
✕ 向かない場面
- サンプルサイズが小さい場合(独立変数10個あたり最低100件が目安)— 過学習・推定不安定のリスクが高い
- 因果効果の証明が求められる場面 — 観察データの回帰だけでは内生性・交絡の排除が保証されない。RCT・差の差法などの因果推論手法を優先する
- 非線形の複雑な関係が疑われる場合 — 通常の回帰は線形を仮定するため適合しない可能性がある
実施手順
- リサーチクエスチョンとモデルの目的の設定予測か効果推定かを明確にする。効果推定の場合は交絡変数の理論的特定(DAG:有向非巡回グラフの作成が推奨)を先に行う。
- 変数の準備とデータクリーニング従属変数・独立変数・統制変数を特定し、欠損値・外れ値を処理する。カテゴリ変数はダミー変数化(基準カテゴリを明示)、連続変数は分布を確認する。
- 基礎的な相関・関連の確認回帰モデルの投入前に、変数間の相関行列を確認する。高い相関(r>0.7)がある変数同士を同時投入すると多重共線性が生じ推定が不安定になる。
- 回帰モデルの構築と投入理論に基づいて独立変数を投入する(Enter法)。変数増減を繰り返すステップワイズ法はデータドリブンな選択になりやすく、理論的根拠のない変数を統制変数に加えない。
- モデル適合度と診断決定係数(R²)・調整済みR²でモデルのデータへの当てはまりを確認。残差の正規性・等分散性・独立性をプロットで診断。VIF(分散膨張係数)で多重共線性を確認する(目安:VIF>10が問題)。
- 係数の解釈と報告各独立変数の非標準化係数(実際の変化量)と標準化係数(変数間の影響力比較)を報告。ロジスティック回帰ではオッズ比と95%信頼区間を示す。p値だけでなく効果量と信頼区間で実質的な意味を示す。
長所と限界
長所
- 複数の要因を同時に統制でき、着目変数の純効果に近い推定ができる
- ExcelやR・Python・SPSSなど多くのツールで実施でき、政策・実務への応用例が豊富
- どの変数が結果に強く関連するかを一つのモデルで把握でき、介入の優先順位付けに役立つ
- ロジスティック回帰は医療・社会政策でのリスク因子分析・ターゲティングに広く使われる実績がある
限界
- 観察データでは内生性(独立変数と誤差項の相関)が排除できず、因果的解釈には常に留保が必要
- 測定されていない交絡変数(未観測交絡)がある限り、推定は関連の記述に留まる
- モデルの誤特定(変数の選び間違い・非線形を線形で近似)が結果を歪める
- 多数の変数を試みる探索的分析では偽陽性の問題が生じる
⚠ よくある落とし穴
- 統計的に有意なので、プログラムが効果を持つという因果的解釈の飛躍 — 観察回帰では関連があるとのみ述べ、因果については設計上の限界を必ず明記する
- 過剰な変数投入(Overfitting)— サンプルサイズに対して変数が多すぎるとモデルがデータに過適合し、汎化性能が低下する
- 多重共線性の無視 — 互いに高い相関を持つ変数を同時に投入すると係数が不安定になり、符号が逆転することもある。VIFを必ず確認する