【初心者向け】ResNetとは？ディープラーニングの革命児を徹底解説

ResNet（レズネット）とは、Residual Network（残差ネットワーク）の略で、ディープラーニングにおける画像認識の分野で非常に有名なモデルの一つです。2015年にマイクロソフトの研究チームによって発表され、その画期的なアイデアで当時のAI技術に大きな衝撃を与えました。

最大の特徴は、従来よりもはるかに「深い」ニューラルネットワークの構築を可能にした点です。この功績により、2015年に開催された大規模な画像認識コンペティション「ILSVRC (ImageNet Large Scale Visual Recognition Challenge)」で優勝を果たし、その名を世界に轟かせました。 ResNetの登場は、ディープラーニングの発展における重要な転換点とされています。

ResNetが登場する前、ディープラーニングの世界では「ネットワークの層を深くすればするほど、性能が向上する」と一般的に考えられていました。しかし、実際にはある一定の深さを超えると、逆に性能が低下してしまう「劣化(Degradation)」という現象が問題となっていました。

この主な原因が「勾配消失問題」です。 ニューラルネットワークは、出力結果と正解との誤差を元に、前の層へと遡って各層のパラメータ（重み）を少しずつ調整していきます（このプロセスを誤差逆伝播法と呼びます）。しかし、層が深くなりすぎると、遡る過程で誤差の情報（勾配）がどんどん小さくなり、最終的にはゼロに近くなってしまいます。 これにより、入力層に近い部分のパラメータがほとんど更新されず、学習が正しく進まなくなってしまうのです。

ResNetは、この勾配消失問題を「スキップコネクション (Skip Connection)」または「ショートカット接続」と呼ばれる画期的な構造を導入することで解決しました。

これは、ある層の入力を、いくつかの層を飛び越えて（スキップして）出力に直接足し合わせるというシンプルな仕組みです。 この構造を持つブロックを「残差ブロック (Residual Block)」と呼びます。

従来のネットワークが入力`x`から出力`H(x)`を直接学習しようとしていたのに対し、ResNetでは`H(x) = F(x) + x`という形を考えます。ここでネットワークが学習するのは、入力`x`との差分である`F(x)`（これを残差と呼びます）の部分だけでよくなります。

このスキップコネクションのおかげで、誤差逆伝播の際に勾配が直接入力側まで伝わりやすくなり、情報が失われることなく深い層でも効率的な学習が可能になったのです。

# 残差ブロックの概念的なイメージ
def residual_block(input_tensor): # 通常の層（例：畳み込み層など） fx = convolutional_layers(input_tensor) # 入力(input_tensor)を出力に直接足し合わせる（スキップコネクション） output = fx + input_tensor return output 

• 超深層ネットワークの実現: 勾配消失問題を克服したことで、それまで困難だった100層を超えるような非常に深いネットワークの構築と学習が可能になりました。 2015年のILSVRCで優勝したモデルは152層もの深さでした。
• 高い画像認識精度: 深い層を持つことで、より複雑で抽象的な特徴を捉えることが可能になり、画像認識の精度が劇的に向上しました。 ILSVRC 2015では、エラー率3.57%という驚異的なスコアを記録しました。
• 高い汎用性と応用力: ResNetのアーキテクチャは、画像分類だけでなく、物体検出やセグメンテーション（領域分割）など、様々なコンピュータビジョンタスクに応用されています。 また、多くの最新モデルの基礎技術としても利用されています。

ResNetには、ネットワークの深さ（層の数）によっていくつかのバリエーションが存在します。タスクの複雑さや利用できる計算リソースに応じて使い分けられます。

ResNet-34までは「BasicBlock」という基本的な残差ブロックを、ResNet-50以降では計算効率を高めた「Bottleneck」という残差ブロックを使用しているという違いもあります。

ResNetは、スキップコネクションという独創的なアイデアによって「勾配消失問題」を解決し、ディープラーニングの可能性を大きく広げた画期的なモデルです。その登場から年月が経った今でも、多くの画像認識AIの基礎技術として採用され続けており、ディープラーニングを学ぶ上で欠かせない重要な知識の一つと言えるでしょう。