第5章：AIシステムの設計と実務実装

1. モデルの軽量化と高速化

高性能なモデル（LLMや巨大なCNN）は、そのままでは動作が重く、コストもかかります。これを実用的な速度まで引き上げる技術です。

• 蒸留（Knowledge Distillation）: 巨大なモデル（教師モデル）の知識を、より小さなモデル（生徒モデル）に継承させる手法です。精度を維持しつつ、モデルを大幅に軽量化できます。

• プルーニング（枝刈り）: 予測に寄与していない不要なネットワークの結合（重み）を削除し、計算量を削減します。

• 量子化（Quantization）: 通常32ビットの浮動小数点数で保持している重みを、8ビットなどの低い精度に変換します。メモリ消費を抑え、スマートフォン等のエッジデバイスでの実行を可能にします。

2. AIインフラとクラウドアーキテクチャ

AIモデルを効率的に動かすための基盤技術です。

• GPU/TPUの最適利用: 大規模な並列演算を得意とするプロセッサを活用します。特にTPU（Tensor Processing Unit）は、Googleが深層学習用に開発した専用チップです。

• コンテナ技術（Docker/Kubernetes）:

  • Docker: 実行環境をパッケージ化し、「自分のPCでは動くがサーバーでは動かない」という問題を解消します。

  • Kubernetes: 大規模なAIサービスにおいて、負荷に応じてコンテナを自動で増やしたり、障害時に復旧させたりする管理（オーケストレーション）を行います。

3. AI品質保証とセキュリティ

AI特有のリスクに対する防衛策を学びます。

• 敵対的攻撃（Adversarial Attacks）: 人間の目には分からない程度のノイズを画像に加えるだけで、AIを意図的に誤認させる攻撃（例：標識を誤認させる等）です。これに対抗する「敵対的学習」などの防御策が必要です。

• 回帰テスト（Regression Testing）: モデルをアップデートした際、以前は正解できていたケースで不正解になっていないかを自動で検証します。

• ドリフト検知: 本番稼働中のデータ傾向が学習時と変わってしまい（データドリフト）、精度が低下していないかを監視します。