機械学習品質マネジメントとは何か——AIは作って終わりではない

AIシステムは、作って公開したら終わりではない。データが変わり、利用者が変わり、環境が変わると、性能もリスクも変わる。

内閣府のAI指針ページには、産業技術総合研究所（AIST）の「機械学習品質マネジメントガイドライン」が掲載されている。概要では、機械学習を利用したAIシステムのライフサイクル全体にわたる品質マネジメントを扱い、品質要求を充足するための取り組みや検査項目を体系的にまとめたものと説明されている。

AI品質はライフサイクルで見る

AIの品質は、テスト時の正答率だけでは測れない。現場で使うデータが変わると、開発時の性能が維持されるとは限らない。継続監視と再評価が必要になる。

AIを品質保証の対象にする

従来のソフトウェア品質では、仕様どおりに動くかが中心だった。機械学習では、仕様に書き切れない入力にどう振る舞うかが問題になる。

だからAI品質管理は、モデル性能だけでなく、データ、評価、運用、説明、監視を含む。AIをプロダクトに入れるなら、品質保証の考え方も変える必要がある。

この記事の限界

• この記事は内閣府一覧に掲載された概要をもとに、機械学習品質マネジメントの位置づけを整理したもの
• ガイドライン本文の検査項目や品質要求の詳細は、AIST資料で確認する必要がある