OpenAI Preparedness Frameworkは何を測るのか——HighとCriticalの考え方
フロンティアAIの安全性は、モデルを出してから考える問題ではない。高度な能力が、どの時点で深刻な被害につながりうるかを先に測り、対策を整える必要がある。
OpenAIは2025年4月にPreparedness Frameworkの更新を公表した。これは、深刻な被害につながりうる高度AI能力を測定し、防護策を整えるための枠組みである。
評価対象は「賢さ」ではなく深刻な被害への経路
| 要素 | 意味 |
|---|---|
| Tracked Categories | 生物・化学、サイバー、AI自己改善など成熟した評価対象 |
| Research Categories | 長期自律性、sandbagging、自己複製など研究中のリスク |
| High | 既存の深刻被害経路を増幅しうる能力 |
| Critical | 前例のない深刻被害経路を開く能力 |
OpenAIは、High能力に達するシステムは、関連する深刻リスクを十分に最小化する防護策なしにデプロイすべきでないと説明している。Critical能力では、開発中にも防護策が必要になる。
自主フレームワークには限界もある
Preparedness Frameworkは、企業が自ら設計する安全枠組みである。評価、Safety Advisory Group、リーダーシップ判断、Capabilities Reports、Safeguards Reportsといった仕組みは重要だが、外部規制そのものではない。
読む側は、何を評価対象に含め、何を外しているかを見るべきだ。企業の安全フレームワークは、透明性の材料であると同時に、自己規律の限界を点検する材料でもある。
この記事の限界
- この記事はOpenAIのPreparedness Framework更新ページをもとに、枠組みの位置づけを整理したもの
- 具体的な評価手法、モデル別の判定、Safeguards Reportsの内容は個別文書で確認する必要がある
出典（2026年7月7日閲覧）: OpenAI「Our updated Preparedness Framework」（openai.com）
Anthropic Responsible Scaling Policy v3.0は何を変えたか
AnthropicのResponsible Scaling Policy v3.0から、企業単独の安全コミットメントと業界全体の安全勧告の分離を整理する。
REPORTAI安全はリリース前だけではない——OpenAIのTeach・Test・Share
OpenAIのSafetyページから、AI安全を学習、評価、フィードバックの継続サイクルとして見る考え方を整理する。
REPORTフロンティアAIはどこまで自律化しているか——UK AISI Trends Reportの読み方
UK AI Security InstituteのFrontier AI Trends Reportから、AI能力評価の見方と限界を整理する。