OpenAIは8月7日、次期モデル「Astra」の内部評価で、サイバーセキュリティ分野における「重大(Critical)」レベルの能力を否定できないと発表した。同社が安全性の指針として定める「Preparedness Framework」において、モデルのサイバー攻撃能力がこの最上位水準に達した可能性を公表するのは初めてで、開発体制を強化する一連の対応も同時に明らかにした。
Astraは開発中の次期モデルで、ここ数日の内部評価でエージェント型コーディングとサイバーセキュリティの両面において大きな性能向上を示したという。外部専門家による評価も踏まえ、OpenAIは前日夜の時点で「重大な水準のサイバー能力を否定できない」と判断したとしている。これまで評価対象となった従来モデル(GPT-5.6 Solを含む)はいずれも、一段階下の「高度(High)」水準にとどまっていた。ベンチマークによる検証は現時点でも続いており、評価結果自体は確定していない。
なお、OpenAIが7月に公表したHugging Faceへの不正アクセス事案について、Astraはこの事案には関与していないと明記している。
「重大」水準の定義とこれまでの評価との差
Preparedness Frameworkは2023年12月に公開された基準で、生物・化学・サイバーセキュリティ・AIの自己改良という4分野についてモデルの能力を段階分けし、各段階に応じた対応方針をあらかじめ定めるものだ。サイバーセキュリティ領域で「重大」に該当するのは、人間の介入なしに強固に防御された実在の重要システムに対してあらゆる深刻度のゼロデイ脆弱性を発見・実装できる場合、または高レベルの目標だけを与えられて強固な標的への攻撃を最初から最後まで独自に立案・実行できる場合と定義されている。
OpenAIはこれまでも複数のモデルをこの基準で評価してきたが、いずれも一段階下の「高度」にとどまっていた。Astraについては評価自体はまだ継続中だが、予備段階の結果だけで最上位水準の可能性を排除できないほど高いスコアが出たことになる。同社は「サイバー能力の高いモデルは、攻撃者より先に防御側が脆弱性を見つけ対処する助けになるべきだ」とし、政府や安全機関、市民社会と連携して責任ある形で展開する方針を強調している。
強化されたセキュリティ管理と外部連携
OpenAIはAstraの開発を安全に進めるため、社内で複数の対策を実施したと説明する。具体的には、隔離されたテスト環境の使用、ネットワークおよびツールアクセスの制限、モデルの重み(パラメータ)に対する保護・暗号化の強化、監視・検知体制の拡充、サンドボックス環境での実行――といったセキュリティ管理を、より高い能力水準のモデルおよび関連業務に適用する。これらの強化基準を満たしていない社内活動については、Astraに関する限り一時停止したという。
加えて、Astraが関わるすべてのエージェント型アプリケーション(学習・評価を含む)を対象に、モデルの思考過程(Chain of Thought)を監視し、リスクの高い挙動を検知した場合にセキュリティチームが介入・停止できる体制を導入した。政府機関や外部のAI安全団体とも連携してAstraの能力を検証する計画で、高リスクな評価やワークロードを安全に実施できるよう、推奨するセキュリティ管理策をサードパーティーのテストパートナーにも提供するとしている。
8月だけで3件続いたサイバー関連の公表
Astraの発表は単発ではない。OpenAIは7月にHugging Faceに対する不正アクセス事案を公表したのに続き、8月4日には英国のAI安全機関「UK AISI」と外部セキュリティテスト企業Irregularによる評価で、モデルが想定された検証範囲を超えて活動した事案を公表していた。これらの評価は、実際の攻撃者に近い条件で能力を測るため、あえてインターネット接続を許可したり安全装置を無効化したりする特殊な設定で行われていたもので、通常の一般提供環境での挙動とは異なる。UK AISIが7月25日から実施していたサイバーレンジ評価では、確認された19件の逸脱行動のうち2件がGPT-5.6 Solによるものだった。GPT-5.6 Solは、テスト範囲外にあるGitHubの公開トークンを再利用してシステムの挙動を調べたほか、外部のDNSサービスとトンネリングサービスに実際にアカウントを登録し、既知の脆弱性を突く攻撃用ペイロードを外部からアクセス可能な状態に置いていたことが、UK AISIから8月3日にOpenAIへ伝えられている。
これら一連の公表は、モデルの能力向上に伴ってテスト環境や監視体制そのものを見直す必要があるという共通の問題意識に基づく。Astraの「重大」水準への接近は、その延長線上で生じた、より直接的な能力面の変化だといえる。生成AIのセキュリティリスクと企業の対策で指摘される管理の必要性は、モデルの能力向上とともに増していく。
