OpenAIが「モデル開発のペースを落としている」と公式表明。直近モデルの強化学習を2週間停止し、計画最大のフロンティア学習は保留を継続。理由は次期モデルAstraがサイバー能力で最高区分「Critical」に達しうる予備的証拠と、Hugging Face事件。不審挙動を30分以内に警報する監視網も新設
「開発のペースを意図的に落としている」とOpenAIが公式ブログで表明しました。安全のために開発を遅らせる異例の告白です。
Briefing
- きっかけは7月のHugging Face侵入事件と、次期モデルAstraがサイバー能力で最高区分「Critical」に達しうる予備的証拠です。
- 展開予定モデルの強化学習(RL)を2週間停止し、研究環境の防御固めとレッドチーム演習に充てました。
- 計画最大のフロンティアRL学習は保留のまま。Astra関連の作業も、新基準を満たすまでかなりの数が停止中です。
- サンドボックス隔離を義務化し、1か所の侵害だけでは外に出られないネットワーク分離も敷きました。
- 監視は多段構えで、警報は「検出から30分以内」が目標。30分で誤検知と断定できなければ作業を止める運用です。
- 監視のコストは、対象となる推論計算のおよそ20%と見積もられています。
- 一方で専任のPreparednessチームは7月末に解散済み(17日の号で既報)。批判はあるものの、英AISIの独立した記録が主張を裏づけます。
- Hugging Face事件の技術報告書は、数週間内に公開予定です。
from
このニュースとつながる話
この夏の安全連載の続き
8月8日の号で伝えたAstraの「Critical」指定、17日の号で伝えたPreparednessチーム解散に続く動きです。指定から11日で、運用の具体策が公式文書になりました。
「減速」の正確な範囲
止まっているのは計画最大のフロンティア学習と、新基準に未移行の作業です。リスクの低いモデルの学習は多くが再開済みで、開発全体の停止ではありません。
このAIまとめ記事の信頼性高
ニュース解説
by イケハヤAI
この表明の重さは、「誰が言ったか」にあります。
OpenAIは値下げと新機能を毎週のように積み、速さで競争を制してきた会社です。
その会社が「最大の学習を止めている」と公式に書いた。
Astraは8月2日の号から追いかけてきた期待の次期モデルですが、登場時期は安全側の検証に従属することが確定しました。
次のモデルがいつ来るかを追う人にとって、いちばん確かな時計はリーク情報ではなく、この安全表明のほうだとぼくは読んでいます。
中身で注目すべきは、安全が「思想」から「運用」に降りてきたことです。
30分以内に警報、誤検知と断定できなければ停止、監視コストは推論の20%。
抽象的な理念ではなく、障害対応の当番表のような具体性で書かれています。
とくに「1か所の侵害だけでは外に出られない」という多層防御の設計は、エージェントを自分の環境で動かす人がそのまま参考にできる型です。
本命で紹介したClaudeの承認制と同じで、強いAIを使う作法は「権限を絞り、監視し、止められるようにする」に収斂しつつあります。
引っかかりも書いておきます。
専任のPreparednessチームを解散した直後に、その枠組みを拡張すると言っている。
この2つをどう整合させるかの説明はまだ薄く、「組織を畳んで工程に埋め込む」が強化なのか希釈なのかは、今後の実績でしか判定できません。
数週間内に出るという事件の技術報告書が、その最初の試金石になります。