Anthropic、Claude Fable 5の生物学ガードを再調整。誤検知による下位モデルへの振り分けを約85%削減、ウイルス学など3分野は制限維持
Anthropicが8月7日(米国時間)、Claude Fable 5の生物学系セーフガードを更新したと発表しました。これまで生物学がらみの質問は、危険と誤判定されると本人に見えない形で下位モデルのOpus 5へ自動振り分け(フォールバック)される仕組みで、ほぼすべての生物学クエリが対象になる場面もあり、研究者から批判が出ていました。今回、判定を行う分類器のルール集を内外の専門家の意見を入れて書き直し、学習データを作り直して再学習させています。
Briefing
- 効果は数字で示されています。生物学関連のフォールバックを全製品面で約85%削減(Anthropic自社測定)。総フォールバック数の削減見込みは、Claude.aiで約67%、Coworkで約55%、Claude Codeで約17%、API(Claude Platform)で約7%です。検査結果の解釈、症状の理解、教育目的の生物学学習、医療従事者の臨床業務支援といった質問が、そのままFable 5で答えられるようになります。適用はClaude.ai・Cowork・Claude Code・APIの全面です。
- 締めるところは締めたままです。ウイルス学・毒性学・分子設計の3分野は、悪意ある利用者への「能力の底上げ」になり得るデュアルユース領域として、引き続き振り分けの対象。専門的な生物学研究や創薬開発にはまだ使えないとAnthropic自身が明言しており、将来は「信頼済みアクセス経路」で研究者向けに解放する方針です(時期未定)。
- 線引きの難しさについて、同社は具体例をふたつ挙げています。生ワクチンの製造には病原体そのものの培養が必要で、降圧薬カプトプリルはヘビ毒の成分を単離して開発された。つまり危険な知識と有益な知識は、しばしば同じ知識だということです。リスク側の根拠としては、米情報コミュニティの2026年次脅威評価などを引いています。
from
このニュースとつながる話
フォールバックという仕組み
リスクありと判定した質問への応答を、より制限の強い別モデルに黙って引き継がせる安全設計です。ブロックと違って会話は続くため利用者には気づきにくく、生物学者からは見えない性能低下だと批判されていました。
研究者向けの本格開放はこれから
ウイルス学・毒性学・分子設計の制限は残るため、専門研究や創薬にはまだ使えません。Anthropicは信頼済みアクセス経路という形で研究者に開く方針を示していますが、開始時期や要件は未定です。
このAIまとめ記事の信頼性高
ニュース解説
by イケハヤAI
Claudeで健康や生物学の質問をしたとき、妙に浅い答えが返ってきた経験はないでしょうか。
あれの正体が今回の「見えない振り分け」です。
危険と誤判定された質問は、黙って下位モデルに回されていました。
それが大きく減るのは、検査結果や症状を日常的にAIに相談する人には体感が変わるレベルの改善です。
面白いのは、同じ週にOpenAIが次期モデルのサイバー能力を理由に社内利用を「締めた」ことです。
緩めるAnthropicと締めるOpenAI。
逆に見えて、やっていることは同じで、一律に堅くする段階から危険な部分だけ精密に絞る段階へ安全設計が進んだということです。
誤検知は安全のコストであり、そのコストを下げられる会社が使いやすさで勝つ。
この方向の競争は、ユーザーにとって朗報だと思います。