第3章：ディープラーニングの仕組み

ディープラーニング（深層学習）は、人間の脳にある神経細胞（ニューロン）の仕組みをモデル化した「ニューラルネットワーク」を多層に重ねた技術です。

1. ニューラルネットワークの基礎

コンピュータが「学習」するための最小単位と、その計算の流れを理解しましょう。

• 活性化関数: 入力された信号の合計を、次の層に送るべき信号に変換する関数です（例：ReLU関数、シグモイド関数）。これにより、複雑な判断が可能になります。

• 誤差逆伝播法（バックプロパゲーション）: AIが予測した結果と正解との「ズレ（誤差）」を計算し、その誤差を後ろの層から前の層へと順に伝えていくことで、モデル内のパラメータを自動的に微調整する仕組みです。

• 最適化アルゴリズム: 誤差を効率よく最小化するための手法です（例：Adam, SGD）。

2. 代表的なモデル構造

ディープラーニングは、扱うデータの種類（画像、音声、文章など）によって得意な形が異なります。

• CNN（畳み込みニューラルネットワーク）: 主に画像認識に特化したネットワークです。「畳み込み層」で画像の特徴（エッジや模様）を抽出し、「プーリング層」で情報を圧縮することで、画像内の位置が多少ずれていても正しく認識できます。

• RNN（再帰型ニューラルネットワーク）: 時系列データ（音声、株価、文章など）のように、前後のつながりが重要なデータの処理に適しています。過去の情報を保持しながら計算を進める構造を持っています。

3. モダンな技術動向：TransformerとLLM

現在のAIブームの核となっている技術です。

• Transformer（トランスフォーマー）: RNNの弱点（長い文章の処理が苦手、計算に時間がかかる）を克服した革新的なモデルです。「Attention（アテンション）」という、データのどこに注目すべきかを判断する仕組みが特徴です。

• 大規模言語モデル（LLM）: ChatGPTなどの基盤となっている技術です。膨大なテキストデータをTransformerで学習させることで、人間のように自然な対話や文章生成が可能になりました。