AIは出した後に壊れる——NIST AI 800-4の配備後モニタリング
AIシステムは、リリース時に動いていれば終わりではない。利用者、入力、データ、モデル、業務環境が変われば、性能もリスクも変わる。だから配備後モニタリングが必要になる。
NISTは2026年3月に「Challenges to the Monitoring of Deployed AI Systems」を公表した。CAISIがワークショップと文献レビューを通じて、AIシステムの配備後モニタリングの課題を整理したものだ。
モニタリングは性能だけではない
| 分類 | 問い |
|---|---|
| 機能 | 意図した通りに動き続けているか |
| 運用 | インフラとして安定しているか |
| 人間要因 | 利用者に透明で高品質な体験を提供しているか |
| セキュリティ | 攻撃や悪用に弱くなっていないか |
| コンプライアンス | 法令、標準、ガイドラインに沿っているか |
| 大規模影響 | 下流の社会的影響をどう捉えるか |
AIの監視は、ログを見るだけでは足りない。性能劣化、ドリフト、攻撃、利用者フィードバック、法令変更、社会的影響をそれぞれ見る必要がある。
小さなAIアプリにも監視計画が必要
教材AIや社内AIでも、導入後に入力の分布は変わる。利用者が想定外の使い方をする、モデル更新で回答が変わる、参照文書が古くなる、セキュリティ攻撃が増える。これらを検知できなければ、問題は表面化してから対応することになる。
AIを公開するなら、公開前テストだけでなく、公開後に何を、誰が、どの頻度で見るかを決めておくべきだ。
この記事の限界
- この記事はNISTのAI 800-4公表ページをもとに、配備後モニタリングの論点を整理したもの
- 具体的な監視指標、ログ設計、しきい値、監査方法は、システムの用途とリスク水準ごとに設計する必要がある
出典（2026年7月7日閲覧）: NIST「New Report: Challenges to the Monitoring of Deployed AI Systems」（nist.gov）
Related
REPORT
NIST AI Risk Management Frameworkは何をする道具か——AIリスク管理の共通語
NISTのAI Risk Management Frameworkから、AIリスクを組織的に扱うための枠組みを確認する。
REPORT重要インフラにAIを入れる前に読むべきこと——NISTのAI RMFプロファイル構想
NISTの重要インフラ向けAI RMFプロファイル構想から、高リスク環境でのAI導入条件を整理する。
REPORT人はAIを信じすぎる——NISTのHuman-AI Configurationリスク
NIST AI 600-1のHuman-AI Configurationから、過信・擬人化・依存を防ぐUIと運用の論点を整理する。