Learning Module 6「Machine Learning(機械学習)」は、教師あり学習・教師なし学習・深層学習の違い、過学習(オーバーフィッティング)とその対処法、そしてペナルティ付き回帰・SVM・KNN・CART・アンサンブル学習・PCA・クラスタリングなどの主要アルゴリズムと向いている問題を扱う単元です。

本記事では、最新版カリキュラムのLOS(Learning Outcome Statement)と、この単元の重要論点を日本語で整理しました。

LM6のLOS(学習目標)

LOSは、この単元で「できるようになるべきこと」として示されている学習目標です。LM6には4つのLOSがあります。

  1. LOS 1:教師あり機械学習、教師なし機械学習、深層学習を説明するdescribe supervised machine learning, unsupervised machine learning, and deep learning
  2. LOS 2:過学習(オーバーフィッティング)を説明し、その対処法を特定するdescribe overfitting and identify methods of addressing it
  3. LOS 3:ペナルティ付き回帰、サポート・ベクター・マシン、k 近傍法、分類・回帰木、アンサンブル学習、ランダム・フォレストを含む教師あり機械学習アルゴリズムを説明し、それぞれが最も適する問題を判断するdescribe supervised machine learning algorithms—including penalized regression, support vector machine, k-nearest neighbor, classification and regression tree, ensemble learning, and random forest—and determine the problems for which they are best suited
  4. LOS 4:主成分分析、k 平均法クラスタリング、階層的クラスタリングを含む教師なし機械学習アルゴリズムを説明し、それぞれが最も適する問題を判断するdescribe unsupervised machine learning algorithms—including principal components analysis, k-means clustering, and hierarchical clustering—and determine the problems for which they are best suited

LM6のまとめ

この単元の要点をまとめると、次のとおりです。

  • 機械学習は大量のデータから既知の事例を学習してデータの構造を見いだす手法で、人の介入なしに構造や予測を生み出す点に特徴がある
  • 教師あり学習はラベル付きデータ(特徴量 X と目標変数 Y の組)を使い、目標変数が連続なら回帰、カテゴリーなら分類の問題
  • 教師なし学習はラベルのないデータから構造を推測し、次元削減とクラスタリングに適する
  • 深層学習はニューラル・ネットワークに基づき、画像認識や自然言語処理などの複雑な課題を扱う。強化学習は自らとの相互作用から学習する
  • 過学習は訓練データに合わせすぎて新しいデータへの汎化力を失うこと。サンプル外誤差はバイアス誤差・分散誤差・基本誤差の和
  • k 分割交差検証はホールドアウト標本による訓練データの減少を緩和し、正則化はモデルの複雑さを抑えて過学習を防ぐ
  • LASSO、SVM、KNN、CART、アンサンブル学習とランダム・フォレストが代表的な教師ありアルゴリズム
  • PCA は相関の高い特徴量を少数の無相関な主成分に集約し、k 平均法と階層的クラスタリングは観測値をグループ化する

以下、LOSごとに重要論点を整理します。

LOS 1:教師あり学習・教師なし学習・深層学習

教師あり学習は正解ラベル付きのデータから入力と出力の関係を学び、教師なし学習はラベルなしのデータから構造を見つけます。深層学習は多層のニューラル・ネットワークで、非線形性や特徴量の相互作用が複雑な大規模データに向きます。

  • 教師あり:目標変数が連続 → 回帰、カテゴリー → 分類
  • 教師なし:次元削減、クラスタリング
  • ニューラル・ネットワーク:入力層・隠れ層・出力層、隠れ層のノードは加算演算子と活性化関数
  • 隠れ層が多い(2層以上、しばしば20層超)ものが深層ニューラル・ネットワーク
  • 強化学習:試行と報酬を通じて学習

LOS 2:過学習とその対処法

過学習(overfitting)は、モデルが訓練データのノイズまで学習し、新しいデータで予測力を失う状態です。モデルの複雑さを適切に抑えることと、交差検証で汎化力を確認することが対処の柱です。

  • データは訓練標本・検証標本・テスト標本に分割
  • バイアス誤差:訓練データへの当てはまりの悪さ(過少適合)
  • 分散誤差:新しいデータで結果がどれだけ変わるか(過学習)
  • 基本誤差:データのランダム性による誤差
  • 対処1:複雑さの抑制(正則化、特徴量の削減)
  • 対処2:k 分割交差検証
サンプル外誤差 = バイアス誤差 + 分散誤差 + 基本誤差

LOS 3:主な教師ありアルゴリズムと適する問題

教師ありアルゴリズムは、目的(回帰か分類か)、データの特徴、解釈のしやすさで使い分けます。ペナルティ付き回帰は特徴量の絞り込み、SVM・KNNは分類、CARTは解釈しやすい分類・回帰、アンサンブル学習は予測の精度と安定性の向上に使われます。

  • ペナルティ付き回帰(LASSO):係数の絶対値の和にペナルティ、重要でない特徴量の係数をゼロに
  • SVM:2グループを最大マージンで分ける超平面を求める分類器(ソフト・マージンで誤分類も許容)
  • KNN:新しい観測値を近い k 個の観測値の多数決で分類、k と距離の定義が重要
  • CART:特徴量とカットオフ値で2分岐を繰り返す決定木、分類木・回帰木
  • アンサンブル学習:複数モデルの予測を組み合わせる(多数決、バギング)
  • ランダム・フォレスト:バギングと特徴量のランダムな削減で多数の決定木を作り過学習を抑える

LOS 4:主な教師なしアルゴリズムと適する問題

主成分分析(PCA)は相関の高い多数の特徴量を少数の無相関な合成変数に要約する次元削減の手法です。k 平均法階層的クラスタリングは、似た観測値をグループにまとめる手法です。

  • PCA:共分散行列の固有ベクトルが主成分、固有値が説明する分散の割合
  • PCA の短所:主成分の意味が解釈しにくい
  • k 平均法:k 個の重複しないクラスターに分割、各観測値は最も近い重心に属する
  • k 平均法は k を事前に決める必要あり
  • 階層的クラスタリング:凝集型(ボトムアップ)と分割型(トップダウン)
  • 用途例:分散投資のための銘柄のグループ化

効率よく学ぶには FA-Academy

CFA®︎の協会テキストは英語で分量も多く、1つひとつの単元を英語だけで理解していくのは大きな負担です。

FA-Academy(Financial Analyst Academy)は、日本語で学べる数少ないCFA®︎試験サポートです。これまで Level 1 から Level 3 まで多くの合格者を輩出しており、合格者の方々との対談も数多く公開しています。どんな方が、どのように合格されたのかは合格者対談・合格体験談の一覧からご覧いただけます。