Google DeepMind Frontier Safety Frameworkは何を早期警戒するか

AIモデルが危険な能力に到達してから対策するのでは遅い。フロンティアAIでは、危険な能力に近づいている兆候を早めに検知する仕組みが必要になる。

Google DeepMindは2024年5月にFrontier Safety Frameworkを公表した。これは、将来の先進AIモデルがもたらしうるリスクを分析し、検知し、緩和するためのプロトコルである。

CCLとearly warning evaluations

Frontier Safety Frameworkの3要素
要素	意味
Critical Capability Levels	深刻な害につながりうる能力水準を定義する
Early warning evaluations	モデルが危険水準に近づいているかを頻繁に測る
Mitigation plan	閾値を超えた場合にセキュリティやデプロイ対策を適用する
対象リスク	高度なエージェンシーやサイバー能力など、モデルレベルの重大リスク

この枠組みの読みどころは、危険な能力を事後的に確認するのではなく、近づいている段階で早期警戒する設計にある。評価は、研究、開発、デプロイ判断をつなぐ安全装置になる。

Google DeepMindは、このFrameworkを探索的なものと位置づけ、実装から学びながら進化させるとしている。つまり、完成された外部規制ではなく、企業の自主的な安全枠組みである。

読む側は、どの能力をCriticalと見るのか、評価がどれだけ実世界リスクを捉えるのか、緩和策がどれだけ検証されるのかを確認する必要がある。

出典（2026年7月7日閲覧）: Google DeepMind「Introducing the Frontier Safety Framework」（deepmind.google）