Learning Module 4「Extensions of Multiple Regression（重回帰の拡張）」は、回帰結果を大きく動かす観測値（高レバレッジ点・外れ値）の見つけ方、ダミー変数による定性的な独立変数の扱い、そして二値の従属変数を扱うロジスティック回帰を扱う単元です。

本記事では、最新版カリキュラムのLOS（Learning Outcome Statement）と、この単元の重要論点を日本語で整理しました。

LM4のLOS（学習目標）

LOSは、この単元で「できるようになるべきこと」として示されている学習目標です。LM4には3つのLOSがあります。

  1. LOS 1：影響分析と、影響力の大きいデータ点を発見する方法を説明するdescribe influence analysis and methods of detecting influential data points
  2. LOS 2：定性的な独立変数を含む重回帰モデルを定式化・解釈するformulate and interpret a multiple regression model that includes qualitative independent variables
  3. LOS 3：ロジスティック回帰モデルを定式化・解釈するformulate and interpret a logistic regression model

LM4のまとめ

この単元の要点をまとめると、次のとおりです。

  • 回帰結果に影響し得る観測値は、独立変数が極端な高レバレッジ点と、従属変数が極端な外れ値の2種類
  • 高レバレッジ点はレバレッジで測り、3(k+1)/n を超えると影響力がある可能性
  • 外れ値はスチューデント化残差で測り、自由度 n−k−2 の t 分布の臨界値を超えると影響力がある可能性
  • ダミー変数は条件に当てはまれば1、そうでなければ0をとる。n 個のカテゴリーには n−1 個のダミーを使う
  • 切片ダミーは回帰直線を平行移動させ、傾きダミーは条件に当てはまるときの傾きを変化させる
  • ロジスティック回帰は従属変数が定性的（二値など）なモデルで、機械学習の分類問題でもよく使われる
  • 事象の確率をログ・オッズ ln[P/(1−P)] に変換して独立変数との関係を線形化し、最尤法で推定する

以下、LOSごとに重要論点を整理します。

LOS 1：影響分析と影響力の大きい観測値

少数の観測値が回帰結果を大きく左右することがあります。独立変数が極端な高レバレッジ点、従属変数が極端な外れ値を見つけ、両方を総合したクックの距離（Cook’s D）で影響度を判断します。

  • レバレッジ（hii）：その観測値の独立変数が平均からどれだけ離れているか（0〜1）
  • レバレッジ > 3(k+1)/n なら影響力の可能性
  • スチューデント化残差：その観測値を除いて推定したモデルの残差を標準誤差で割ったもの
  • |スチューデント化残差| が t の臨界値（自由度 n−k−2）を超えれば影響力の可能性
  • クックの距離：0.5超で影響力の可能性、1超で高い可能性、または 2√(k/n) 超
レバレッジの目安：hii > 3 × (k + 1) / n

LOS 2：定性的な独立変数（ダミー変数）

業種や時期などの定性的な要因はダミー変数（0か1）で回帰に組み込みます。切片ダミーは直線を上下に平行移動させ、傾きダミーは条件に当てはまる場合の傾きを変えます。

  • n 個のカテゴリーには n−1 個のダミー（全部入れると完全な多重共線性）
  • ダミーが0のカテゴリーが基準（ベース）
  • 切片ダミーの係数：基準カテゴリーとの切片の差
  • 傾きダミー：ダミー × 連続変数の交差項
  • 傾きダミーが1のときの傾きは bj + dj
Y = b0 + d0D + b1X + d1(D × X) + ε

LOS 3：ロジスティック回帰

従属変数が「デフォルトする／しない」のような二値の場合は、確率をログ・オッズに変換するロジスティック回帰（logit）を使います。係数は最尤法（MLE）で推定し、独立変数1単位の変化に対するログ・オッズの変化として解釈します。

  • ログ・オッズ ln[P/(1−P)] を独立変数の線形関数で表す
  • 予測確率は 0〜1 に収まる（S字型のロジスティック関数）
  • 係数の解釈：他の変数一定のもとでのログ・オッズの変化
  • 係数の指数 e^b はオッズの倍率
  • 当てはまりの評価：尤度比（LR）検定、疑似 R²
ln[P/(1 − P)] = b0 + b1X1 + … + bkXk、P = 1 /

効率よく学ぶには FA-Academy

CFA®︎の協会テキストは英語で分量も多く、1つひとつの単元を英語だけで理解していくのは大きな負担です。

FA-Academy（Financial Analyst Academy）は、日本語で学べる数少ないCFA®︎試験サポートです。これまで Level 1 から Level 3 まで多くの合格者を輩出しており、合格者の方々との対談も数多く公開しています。どんな方が、どのように合格されたのかは合格者対談・合格体験談の一覧からご覧いただけます。

前の単元：LM3 Model Misspecification（モデルの誤特定）
次の単元：LM5 Time-Series Analysis（時系列分析）
全体の目次：CFA®︎ 学習内容の目次（Level 2 Quantitative Methods）