[機械学習のはじめ方] Part40: 転移学習（Fine-tuningと特徴抽出）

🤔 転移学習 (Transfer Learning) とは？

転移学習は、あるタスク（例えば、一般的な物体認識）で学習済みのモデルを、別の関連するタスク（例えば、特定の種類の花や動物の分類）に再利用する手法です。ゼロからモデルを学習させるには大量のデータと計算時間が必要ですが、転移学習を使えば、より少ないデータと時間で高性能なモデルを構築できる可能性があります。✨

特に画像認識の分野では、ImageNetのような大規模データセットで訓練された事前学習済みモデル (Pre-trained Model) が広く利用されています。これらのモデルは、画像からエッジ、テクスチャ、形状といった汎用的な特徴を抽出する能力を獲得しています。転移学習では、この獲得済みの知識を活用します。

🧩 特徴抽出 (Feature Extraction)

特徴抽出は、転移学習のシンプルなアプローチの一つです。事前学習済みモデルの一部（通常は畳み込み層などの特徴を抽出する部分）をそのまま利用し、その出力を新しいタスクのための特徴量として使います。

具体的には、事前学習済みモデルの最終的な分類層（全結合層など）だけを新しいタスクに合わせて差し替え、差し替えた部分だけを学習させます。モデルの大部分（特徴抽出部分）の重みは固定 (freeze) したまま変更しません。

どんな時に使う？

• 手元にある学習データが少ない場合。
• 新しいタスクが、事前学習済みモデルが学習したタスクと似ている場合。
• 計算リソースをできるだけ節約したい場合。

例えるなら、料理の得意な友人に下ごしらえ（特徴抽出）だけをお願いして、最後の味付け（分類）だけ自分で行うようなイメージです。🍳

🔧 Fine-tuning (ファインチューニング)

Fine-tuningは、特徴抽出よりも一歩進んだアプローチです。事前学習済みモデルの重みを初期値として利用し、新しいタスクのデータを使ってモデル全体、または一部の層の重みを再学習 (unfreeze and train) させます。

通常、モデルの後ろの方の層（よりタスク固有の特徴を学習する層）の重みを更新し、前の層（汎用的な特徴を学習する層）の重みは固定するか、非常に小さな学習率で更新します。これにより、事前学習で得られた汎用的な知識を保ちつつ、新しいタスクに合わせてモデルを微調整できます。

どんな時に使う？

• 手元にある学習データが比較的多い場合。
• 新しいタスクが、事前学習済みモデルのタスクと少し異なるが、関連性はある場合。
• 特徴抽出よりも高い性能を目指したい場合。

例えるなら、友人のレシピ（事前学習済みモデル）を参考にしつつ、自分の好み（新しいタスク）に合わせて材料や手順を少しアレンジして料理するイメージです。🎨

📊 特徴抽出 vs Fine-tuning まとめ

どちらの手法を選ぶかは、データセットのサイズや、元のタスクと新しいタスクの類似性によって決めるのが一般的です。

💡 どこで事前学習済みモデルを見つける？

幸いなことに、多くの高品質な事前学習済みモデルが公開されており、簡単利用できます。代表的なものには以下のようなライブラリやハブがあります。

• TensorFlow Hub: TensorFlow用の再利用可能なモデルコンポーネントを提供しています。
• PyTorch Hub: PyTorch用の事前学習済みモデルなどが公開されています。
• Keras Applications: Kerasには、VGG, ResNet, EfficientNetなどの有名なモデルが組み込まれています。

これらのリソースを活用することで、自分でゼロからモデルを構築する手間を省き、転移学習をすぐに始めることができます。