AIコストはセキュリティ問題になる——Unbounded Consumptionを読む
LLMアプリのリスクは、情報漏えいや誤回答だけではない。使われすぎること、計算させられすぎること、トークンを消費しすぎることも、サービス停止や費用爆発につながる。
OWASP Top 10 for LLM Applications 2025では、Unbounded Consumptionが主要リスクとして挙げられている。LLMが大量の入力、長い会話、再帰的なツール実行、過剰なリクエストを処理すると、コストと可用性が壊れる。
LLMでは「使えるほど危ない」設計がある
| 原因 | 対策の方向 |
|---|---|
| 長すぎる入力 | トークン上限、要約、ファイルサイズ制限 |
| 大量リクエスト | レート制限、認証、利用枠 |
| ツール再帰 | 実行回数上限、タイムアウト、停止条件 |
| 高額モデル固定 | 用途別モデル選択、キャッシュ、フォールバック |
AIサービスでは、一回のリクエストが安く見えても、ユーザー数、会話長、ファイル処理、画像生成、外部ツール実行で費用が跳ねる。攻撃者が意図的に高コスト入力を投げる場合もあれば、通常利用が予想以上に伸びて止まる場合もある。
教育AIでは予算管理が品質管理になる
学校、塾、家庭向けAIでは、利用者が増えるほどコスト上限が重要になる。無料枠を広くしすぎる、添削を無制限にする、長文ファイルを何度も処理する、といった設計は、サービス継続性を損なう。
AIの品質は、賢いモデルを選ぶだけでは決まらない。必要な場面だけ高性能モデルを使い、定型処理は軽量モデルやルールで済ませる。これもAI実装の安全設計である。
この記事の限界
- この記事はOWASP Top 10 for LLM Applications 2025のUnbounded Consumptionをもとに、運用コストと可用性の論点を整理したもの
- 実際のコスト設計は、利用モデル、料金体系、キャッシュ、同時接続、SLAに依存する
出典（2026年7月7日閲覧）: OWASP Gen AI Security Project「LLM Top 10」（genai.owasp.org）
LLMアプリの危険は何から始まるか——OWASP Top 10を見る
OWASP Top 10 for Large Language Model Applicationsから、生成AIアプリ特有のセキュリティリスクを確認する。
REPORTAIエージェントに権限を渡しすぎる危険——Excessive Agencyを読む
OWASPのExcessive Agencyから、AIエージェント設計で権限を最小化すべき理由を整理する。
REPORTLLMの出力をそのまま信じてはいけない——Improper Output Handlingの実務
OWASP Top 10 for LLM Applications 2025のImproper Output Handlingから、AIアプリで出力検証が必要な理由を整理する。