ITやデータサイエンスの世界で「LDA」という言葉を耳にしたことはありますか？実は、この「LDA」という略語には、全く異なる2つの有名な手法が存在します。 一つは自然言語処理で使われる文書分類の手法、もう一つは機械学習におけるデータの分類や次元削減の手法です。
文脈によってどちらを指しているかが変わるため、両方の意味を知っておくことが重要です。この記事では、初心者の方でも理解できるように、それぞれのLDAについて、その仕組みや活用例を分かりやすく解説していきます。
1. 自然言語処理のLDA (Latent Dirichlet Allocation)
まず一つ目は、自然言語処理の分野で非常に有名な「潜在的ディリクレ配分法（Latent Dirichlet Allocation）」です。こちらは「トピックモデル」と呼ばれる手法の一種です。
LDAは何をするもの？
一言でいうと、「大量の文書データから、その背景にある隠れた話題（トピック）を自動的に見つけ出す」ための手法です。 例えば、たくさんのニュース記事をLDAで分析すると、「この記事は『スポーツ』の話題が70%、『経済』の話題が30%で構成されている」といったように、各文書がどのようなトピックの組み合わせで出来ているかを確率的に推定してくれます。
人間が記事を読むとき、自然と「これはスポーツの話だな」と判断しますが、LDAはそれをコンピュータで実現しようとするものです。
基本的な考え方
LDAは、以下の2つのシンプルな仮定に基づいています。
- 文書は、複数のトピックが混ざり合ってできている (文書のトピック分布)
- 各トピックは、特定の単語が出現しやすい確率を持っている (トピックの単語分布)
例えば、「スポーツ」というトピックなら「野球」「サッカー」「選手」といった単語が出現しやすく、「経済」というトピックなら「株価」「企業」「市場」といった単語が出現しやすい、というイメージです。LDAは、文書中の単語の出現パターンを統計的に分析することで、これらの「トピック」と「各文書のトピックの割合」を同時に推定します。
ちなみに「ディリクレ配分」という名前は、このトピックや単語のばらつき方を決めるための確率分布に由来しています。
どんなことに使えるの？
この手法は様々な場面で応用されています。
- ニュース記事や論文の自動分類: 大量の文書をトピックごとに整理・分類します。
- 顧客レビューやアンケート分析: 顧客の声から「価格」「デザイン」「サポート」といった話題を抽出し、製品やサービスの改善に役立てます。
- 推薦システム: ユーザーが過去に読んだ記事のトピックを分析し、関連性の高い別の記事を推薦します。
- ソーシャルメディア分析: SNSの投稿からトレンドや話題を把握します。
Pythonでの簡単なコード例
Pythonのライブラリ`scikit-learn`や`gensim`を使うと、比較的簡単にLDAを試すことができます。 以下は、`scikit-learn`を使った簡単な例です。
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.decomposition import LatentDirichletAllocation
# サンプル文書データ
documents = [
"野球の試合を観戦した。選手たちのプレーは素晴らしかった。",
"新しいスマートフォンはカメラの性能が良い。バッテリーも長持ちする。",
"サッカーの代表チームがワールドカップで優勝した。国民が熱狂した。",
"最新のPCは処理速度が速く、デザインも洗練されている。",
"今日の株価は大きく変動した。市場は不安定な状況だ。",
"金融政策の変更が経済に与える影響について議論された。"
]
# 単語の出現回数を数える
vectorizer = CountVectorizer()
X = vectorizer.fit_transform(documents)
# LDAモデルの作成と学習（トピック数を3に設定）
lda = LatentDirichletAllocation(n_components=3, random_state=0)
lda.fit(X)
# 各トピックで特徴的な単語を表示
feature_names = vectorizer.get_feature_names_out()
for topic_idx, topic in enumerate(lda.components_):
print(f"トピック {topic_idx + 1}:")
# 上位5つの単語を表示
top_words_indices = topic.argsort()[:-6:-1]
top_words = [feature_names[i] for i in top_words_indices]
print(" ".join(top_words))
2. 機械学習のLDA (Linear Discriminant Analysis)
もう一つのLDAは、機械学習の分野で使われる「線形判別分析（Linear Discriminant Analysis）」です。 こちらは主に分類問題や次元削減のために利用される手法です。
LDAは何をするもの？
一言でいうと、「データを最もよく分類できる新しい軸（直線）を見つけ出す」手法です。 データには様々な特徴量（身長、体重、年齢など）がありますが、LDAはこれらの特徴量をうまく組み合わせることで、異なるグループ（クラス）間の違いが最も大きくなるような新しい指標（軸）を作成します。
この「新しい軸にデータを写す（射影する）」というプロセスにより、元々のデータよりも低い次元で情報を表現できるため、次元削減の手法としても知られています。
基本的な考え方
LDAは、最適な分離軸を見つけるために、次の2つの指標を同時に考慮します。
- クラス内分散 (Within-class variance): 各クラス内のデータ点のばらつき。これは小さくしたい。
- クラス間分散 (Between-class variance): 異なるクラスの中心（平均）間の距離。これは大きくしたい。
つまり、「同じクラスのデータはできるだけ近くに集まり、違うクラスのデータはできるだけ遠くに離れる」ような、うまいデータの見方（軸）を探し出すのがLDAの目的です。
似た次元削減手法に主成分分析（PCA）がありますが、PCAが「データのばらつき（分散）が最も大きい方向」を探す教師なし学習であるのに対し、LDAは「クラスの分離が最大になる方向」を探す教師あり学習であるという明確な違いがあります。
どんなことに使えるの？
線形判別分析は、以下のような分類問題で広く利用されています。
- 画像認識: 特に顔認識の分野で、特徴を抽出して個人を識別するために使われます。
- 医療診断: 患者の検査データから、病気が「陽性」か「陰性」かを判別します。
- マーケティング: 顧客データを分析し、「購入する可能性が高い顧客」と「低い顧客」を分類します。
- 金融: クレジットカードの取引データから不正利用を検知します。
2つのLDAの違いまとめ
最後に、これまで見てきた2つのLDAの違いを一覧表にまとめます。
| 項目 | 潜在的ディリクレ配分法 | 線形判別分析 |
|---|---|---|
| 正式名称 (英語) | Latent Dirichlet Allocation | Linear Discriminant Analysis |
| 分野 | 自然言語処理、統計学 | 機械学習、統計的パターン認識 |
| 主な目的 | 文書群から潜在的なトピックを抽出する（教師なし学習） | データを最もよく分離する軸を見つけ、分類や次元削減を行う（教師あり学習） |
| 入力データ | 文書と単語の出現頻度行列など | 特徴量と正解ラベルを持つデータ |
| 応用例 | 文書分類、推薦システム、レビュー分析 | 顔認識、医療診断、顧客分類 |
まとめ
この記事では、同じ「LDA」という略称で呼ばれる2つの異なる技術、「潜在的ディリクレ配分法」と「線形判別分析」について解説しました。
- Latent Dirichlet Allocation (LDA)は、文章の中から隠れた話題（トピック）を見つけるための手法。
- Linear Discriminant Analysis (LDA)は、データをグループ分けするための最適な境界線を見つけるための手法。
このように、LDAは文脈によって全く違うものを指します。今後「LDA」という言葉に出会ったときは、それが自然言語処理の文脈で「トピック」の話をしているのか、それとも機械学習の文脈で「分類」の話をしているのかを意識することで、より深い理解につながるでしょう。