第5章：AIガバナンス・安全性・信頼性

1. AIの安全性とアライメント（Alignment）

AIが開発者の意図や社会の価値観から逸脱した挙動をしないように制御する技術です。

• 脱獄（Jailbreaking）とプロンプト注入（Prompt Injection）への対策: 悪意のある入力によってLLMの安全フィルターを回避し、有害情報を出力させる攻撃への防衛です。入力・出力をリアルタイムで監視する**Guardrails（例：NeMo Guardrails）**の実装や、敵対的訓練が不可欠です。

• ハルシネーション（もっともらしい嘘）の定量的評価: モデルがどれだけ事実に基づいた回答をしているかを、忠実性（Faithfulness）や根拠性（Groundedness）といった指標で測定し、リスクを可視化します。

2. AI倫理の国際標準と法規制

エンジニアリングの意思決定に直結する、法的な枠組みへの理解です。

• EU AI法 (AI Act): 世界初の包括的なAI法規制です。AIの用途を「許容できないリスク」「高リスク」などに分類し、特に高リスクAI（採用、医療、インフラ等）には厳格な透明性と品質管理を義務付けています。

• NIST AIリスクマネジメントフレームワーク: AIシステムの信頼性を高めるための国際的なフレームワーク。「ガバナンス」「マッピング」「測定」「管理」の4つの柱からなり、組織的なリスク管理の標準となっています。

3. 解釈可能性と説明責任（XAI: Explainable AI）

「なぜAIがその判断を下したのか」を人間が理解できる形で提示する技術です。

• 局所的・大域的な説明手法:

  • SHAP (SHapley Additive exPlanations): ゲーム理論に基づき、個々の特徴量（変数）が予測結果にどれだけ寄与したかを算出します。

  • LIME: 複雑なモデルの周辺をシンプルなモデルで近似し、特定の判断根拠を可視化します。

• ニューラルネットワークの可視化:

  • Grad-CAM: 画像認識において、AIが画像のどの部分に注目して分類を決定したかをヒートマップで表示します。

4. 公平性とバイアス検知

学習データに含まれる社会的な偏りをAIが学習し、増幅してしまう問題への対処です。

• 公平性指標（Fairness Metrics）: 特定の属性（性別や人種など）によって合格率や承認率に不当な差が出ていないかを統計的に検証します（例：等価機会、予測平等など）。

• バイアス緩和策: 学習データの再サンプリングや、学習時の損失関数に公平性の制約を加える手法を用いて、差別的な出力を抑制します。