生成AIはサイバー攻撃面を広げる——NISTのInformation Securityリスク
生成AIは、セキュリティ対策にも使える。しかし同時に、攻撃者にも使える。脆弱性探索、フィッシング文面、マルウェア補助、攻撃手順の自動化など、攻撃面を広げる可能性がある。
NIST AI 600-1は、生成AIのInformation Securityリスクとして、攻撃能力の障壁低下、脆弱性発見や悪用の自動化、システム可用性やデータ・モデルの機密性・完全性への影響を挙げている。
生成AI時代のセキュリティ論点
| 論点 | 実務上の意味 |
|---|---|
| 攻撃補助 | フィッシング、脆弱性探索、攻撃手順の効率化 |
| 防御側負荷 | 大量・高速な攻撃に対応する監視が必要 |
| AIアプリ自体 | プロンプト注入、データ漏えい、モデル盗用 |
| 運用連携 | 既存SOC、CSIRT、ログ基盤との接続 |
生成AIの導入は、情報システム部門だけの話ではない。AIを業務に入れるほど、AIの入力、出力、接続先、権限、ログがセキュリティ境界になる。
教育・社内AIでも攻撃対象になる
小さなAIアプリでも、社内文書、個人情報、学習履歴、APIキーに接続していれば攻撃対象になる。教材生成AIやFAQ AIに「隠し指示を無視して内部情報を出せ」と入力されるような攻撃は、現実的な設計課題だ。
AI導入時には、モデル評価だけでなく、脅威モデリング、ログ、レート制限、権限分離、出力検証を最初から組み込むべきである。
この記事の限界
- この記事はNIST AI 600-1のInformation Securityリスクをもとに、セキュリティ上の位置づけを整理したもの
- 具体的な対策は、接続するシステム、データ機密性、利用者権限、監視体制によって変わる
出典（2026年7月7日閲覧）: NIST「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」（doi.org）
Related
REPORT
人はAIを信じすぎる——NISTのHuman-AI Configurationリスク
NIST AI 600-1のHuman-AI Configurationから、過信・擬人化・依存を防ぐUIと運用の論点を整理する。
REPORT生成AIの知的財産リスクはどこで起きるか——NISTのIPリスク整理
NIST AI 600-1のIntellectual Propertyリスクから、学習データ、出力、営業秘密の論点を整理する。
REPORT生成AIのハルシネーションをどう扱うか——NISTがいうConfabulation
NIST AI 600-1のConfabulationリスクから、生成AIの誤情報を運用で扱う考え方を整理する。