RAGの弱点は検索にもある——ベクトルDBとEmbeddingリスク
RAGは、LLMに外部資料を参照させる有力な設計だ。だが、RAGにすれば正確になる、とは限らない。検索対象、ベクトル化、権限、ランキングが弱ければ、LLMは間違った根拠をもっともらしく使う。
OWASP Top 10 for LLM Applications 2025では、Vector and Embedding Weaknessesが主要リスクに入っている。ベクトルや埋め込みを使うシステムには、検索汚染、権限漏れ、近傍検索の誤り、データ削除漏れなどの問題がある。
RAGは「根拠を付ける魔法」ではない
| 箇所 | リスク |
|---|---|
| 文書投入 | 古い資料、誤資料、悪意ある資料が混ざる |
| 権限管理 | 見せてはいけない文書が検索結果に出る |
| 埋め込み | 似ているが違う文脈を拾う |
| 削除・更新 | 消したはずの情報がベクトルDBに残る |
教育AIで教科書、プリント、過去問、校内資料をRAGに入れる場合、正しい資料だけを入れる、更新履歴を管理する、ユーザー権限で検索結果を絞る、回答に出典を表示する、といった設計が必要になる。
検索品質とセキュリティは分けて見られない
RAGの評価では、回答の自然さだけでなく、参照文書が正しいか、検索すべき文書を拾えているか、拾ってはいけない文書を拾っていないかを見る必要がある。これは精度評価であると同時に、セキュリティ評価でもある。
AI教材や社内AIを作るなら、ベクトルDBは「裏側の便利な検索箱」ではなく、監査対象のデータベースとして扱うべきだ。
この記事の限界
- この記事はOWASP Top 10 for LLM Applications 2025のVector and Embedding Weaknessesをもとに、RAGの実務リスクを整理したもの
- 具体的な対策は、利用するベクトルDB、認可方式、文書更新フロー、評価データセットに依存する
出典（2026年7月7日閲覧）: OWASP Gen AI Security Project「LLM Top 10」（genai.owasp.org）
LLMの出力をそのまま信じてはいけない——Improper Output Handlingの実務
OWASP Top 10 for LLM Applications 2025のImproper Output Handlingから、AIアプリで出力検証が必要な理由を整理する。
REPORTモデル供給網をどう守るか——重み・データ・APIを資産として扱う
NCSCのAI/MLセキュリティ原則から、モデル供給網とAI関連資産の管理を整理する。
REPORT安全なAIシステム開発はどこから始めるか——NCSC共同ガイドの4段階
NCSCのGuidelines for secure AI system developmentから、設計・開発・展開・運用の見方を整理する。