Learning Module 2「Evaluating Regression Model Fit and Interpreting Model Results(回帰モデルの当てはまりと解釈)」は、ANOVA 表と修正 R²・AIC・BIC による重回帰モデルの当てはまりの評価、複数の係数を同時に検定する結合仮説検定(F検定)、推定したモデルを使った従属変数の予測を扱う単元です。

本記事では、最新版カリキュラムのLOS(Learning Outcome Statement)と、この単元の重要論点を日本語で整理しました。

LM2のLOS(学習目標)

LOSは、この単元で「できるようになるべきこと」として示されている学習目標です。LM2には3つのLOSがあります。

  1. LOS 1:ANOVA 表の結果と当てはまりの指標を分析し、重回帰モデルが従属変数をどの程度説明しているかを評価するevaluate how well a multiple regression model explains the dependent variable by analyzing ANOVA table results and measures of goodness of fit
  2. LOS 2:重回帰モデルの2つ以上の係数の有意性について仮説を立て、結合仮説検定の結果を解釈するformulate hypotheses on the significance of two or more coefficients in a multiple regression model and interpret the results of the joint hypothesis tests
  3. LOS 3:推定された回帰モデルと独立変数の想定値から、従属変数の予測値を計算・解釈するcalculate and interpret a predicted value for the dependent variable, given the estimated regression model and assumed values for the independent variable

LM2のまとめ

この単元の要点をまとめると、次のとおりです。

  • 重回帰では、独立変数を加えるだけで自動的に上がる R² ではなく、自由度を調整した修正 R² を当てはまりの指標に用いる
  • 追加した変数の t 値の絶対値が1を上回れば修正 R² は上昇し、1を下回れば低下する
  • AIC と BIC は同じ従属変数をもつモデル群から最良のモデルを選ぶ指標で、値が小さいほど良い。予測目的なら AIC、当てはまり重視なら BIC
  • 単一係数の t 検定は単回帰と同じ手順
  • 結合 F 検定は、制約付きモデルに含まれない変数の傾き係数がすべてゼロという帰無仮説を検定する
  • 一般線形 F 検定は、すべての傾き係数がゼロという帰無仮説を検定する
  • 予測値は、各独立変数の想定値に推定係数を掛けて合計し、切片を加えて求める
  • 予測の信頼区間はモデル誤差と、係数を標本から推定したことによる標本誤差の両方を反映し、標本誤差が大きいほど広くなる

以下、LOSごとに重要論点を整理します。

LOS 1:ANOVA 表と当てはまりの指標

重回帰では R² が変数を追加するたびに上がってしまうため、修正 R²(adjusted R²)で自由度を調整して当てはまりを評価します。あわせて AIC・BIC で複数モデルを比較し、値が小さいモデルを選びます。

  • R² = 回帰平方和(RSS)÷ 総平方和(SST)
  • 修正 R² は負の値もとり得て、R² 以下になる
  • 追加変数の |t| > 1 なら修正 R² が上昇
  • AIC:予測目的のモデル選択に適する
  • BIC:変数追加へのペナルティが AIC より大きく、当てはまり重視の選択に適する
修正R² = 1 − [(n − 1)/(n − k − 1)] × (1 − R²)

LOS 2:複数係数の結合仮説検定(F検定)

変数の一部をまとめて除いてよいかは、制約付きモデル(restricted)と制約なしモデル(unrestricted)の残差平方和(SSE)の差を使う結合 F 検定で判断します。すべての傾き係数がゼロかを調べるのが一般線形 F 検定です。

  • 帰無仮説:除外する q 個の変数の係数がすべてゼロ
  • 制約付きモデルは制約なしモデルに入れ子(nested)の関係
  • F 値が棄却点を上回れば、除外した変数群は全体として有意
  • 一般線形 F 検定:H0 は全傾き係数がゼロ、自由度は k と n−k−1
  • 単一係数は t 検定(単回帰と同じ)
F = [(SSE_R − SSE_U) / q] ÷ [SSE_U / (n − k − 1)]

LOS 3:従属変数の予測値の計算

推定した回帰式に独立変数の想定値を代入すれば予測値が得られます。ただし予測にはモデル誤差に加えて、標本から回帰係数を推定したことによる標本誤差が含まれるため、信頼区間はその分広がります。

  • 予測値 = 切片+Σ(推定係数 × 独立変数の想定値)
  • 有意でない変数も推定に含めたなら予測にも使う
  • 係数推定の不確実性(標本誤差)が大きいほど予測の標準誤差が大きい
  • 信頼区間は予測値 ± 臨界値 × 予測の標準誤差
Ŷ = b̂0 + b̂1X1 + b̂2X2 + … + b̂kXk

効率よく学ぶには FA-Academy

CFA®︎の協会テキストは英語で分量も多く、1つひとつの単元を英語だけで理解していくのは大きな負担です。

FA-Academy(Financial Analyst Academy)は、日本語で学べる数少ないCFA®︎試験サポートです。これまで Level 1 から Level 3 まで多くの合格者を輩出しており、合格者の方々との対談も数多く公開しています。どんな方が、どのように合格されたのかは合格者対談・合格体験談の一覧からご覧いただけます。