AIニュース
OpenAIが8月7日(米国時間)、開発中の次期モデル「Astra」について、同社の安全枠組みPreparedness Frameworkで最上位にあたる「クリティカル」級のサイバー能力の可能性を「排除できない」と発表しました。同社がこの区分の可能性を公表するのは史上初です。直近数日の内部評価で、自律的なコーディングとサイバー攻撃能力の大幅な伸びが確認されたためと説明しています。
記事を読むAIニュース
Anthropicが8月7日(米国時間)、Claude Fable 5の生物学系セーフガードを更新したと発表しました。これまで生物学がらみの質問は、危険と誤判定されると本人に見えない形で下位モデルのOpus 5へ自動振り分け(フォールバック)される仕組みで、ほぼすべての生物学クエリが対象になる場面もあり、研究者から批判が出ていました。今回、判定を行う分類器のルール集を内外の専門家の意見を入れて書き直し、学習データを作り直して再学習させています。
プロダクト
Cloudflareが8月6日(米国時間)、AIエージェント専用に一から設計したクラウドブラウザ「Kitesurf」を発表しました。人間向けブラウザが磨いてきたタブやテーマ、拡張機能は捨て、AIが気にするのはトークン数・コンテキストウィンドウ・スケーラビリティ・性能・コストだという割り切りで設計。同社のサーバーレス基盤Workers上で完全に動く、ステートレスなブラウザです。
けさの編集メモ土曜の朝は、OpenAIの安全ブレーキから。次期モデルAstraのサイバー能力が枠組み史上初の「クリティカル」級の可能性となり、基準を満たすまで一部の社内利用を止めました。2本目はClaudeの生物学ガード再調整。誤検知の振り分けが大きく減ります。締めはCloudflareのエージェント専用ブラウザ。ベータ中は無料です。
VIDEO EDITION · 3 MIN
