AIエージェントに権限を渡しすぎる危険——Excessive Agencyを読む
AIエージェントは、単に文章を返すAIではない。ファイルを読む、Webを開く、メールを作る、APIを呼ぶ、コードを実行する。便利になるほど、権限の設計が問題になる。
OWASP Top 10 for LLM Applications 2025では、Excessive Agencyが主要リスクとして整理されている。LLMベースのシステムに過剰な自律性や権限を与えると、意図しない処理、データ漏えい、信頼性低下につながる。
危険なのは「賢さ」ではなく「触れる範囲」
| 権限 | 最小化の考え方 |
|---|---|
| ファイル読取 | 対象ディレクトリ、拡張子、機密ファイルを制限する |
| 外部送信 | 送信前に人間承認と宛先確認を入れる |
| コード実行 | サンドボックス、許可コマンド、ログを必須にする |
| 業務API | 読み取りと書き込みを分け、破壊的操作は二段承認にする |
AIエージェントのリスクは、回答が間違うことよりも、間違った回答が行動に変わることにある。たとえば、教材AIが学習計画を勝手に変更する、保護者向け文面を自動送信する、採点結果を確定する、といった動作は、設計次第で重大な事故になる。
自律化するほど「停止条件」が必要になる
AIに任せる業務を増やすなら、任せない範囲も明文化する必要がある。実行前確認、ロールバック、監査ログ、権限分離、異常時停止は、AIエージェントの基本機能として扱うべきだ。
AIエージェントを導入するときの問いは、「何ができるか」ではなく、「何を勝手にできないようにしているか」である。
この記事の限界
- この記事はOWASP Top 10 for LLM Applications 2025のExcessive Agencyをもとに、権限設計の論点を整理したもの
- 実際の安全性は、接続するツール、認証方式、ログ、承認フロー、運用体制に依存する
出典（2026年7月7日閲覧）: OWASP Gen AI Security Project「LLM Top 10」（genai.owasp.org）
Related
REPORT
LLMアプリの危険は何から始まるか——OWASP Top 10を見る
OWASP Top 10 for Large Language Model Applicationsから、生成AIアプリ特有のセキュリティリスクを確認する。
REPORTAIエージェント標準化はなぜ必要か——NIST AI Agent Standards Initiative
NISTのAI Agent Standards Initiativeから、エージェントの相互運用性、認証、権限管理の論点を整理する。
REPORTAIコストはセキュリティ問題になる——Unbounded Consumptionを読む
OWASPのUnbounded Consumptionから、LLMアプリでコスト暴走とサービス停止を防ぐ設計を整理する。