Anthropicは8月7日、AIモデル「Fable 5」の生物学関連タスクにおける安全対策の改善を発表した。悪用を防ぐための安全分類器を再調整し、無害な質問を誤って制限するフォールバック（能力の低いモデルへの自動切り替え）を約85%減らしたという。日常的な健康相談や教育目的の質問、臨床業務で医療従事者が受けられるサポートが広がる。
Fable 5は複雑な生物学的タスクで専門家を上回る性能を持つ一方、悪意ある行為者が生物兵器の開発に利用するリスクも指摘されてきた。Anthropicが引用した米インテリジェンスコミュニティの2026年脅威評価では、複数の国家主体が攻撃的な生物・化学兵器プログラムを保持しているとされており、この種のリスクを「潜在的に壊滅的」と位置付けている。
改善前は分類器が保護対象を広く取りすぎ、検査結果の解釈や症状の理解といった日常的な健康相談、教育目的の生物学の質問までフォールバックの対象になっていた。Anthropicは外部専門家を含む多様な専門家から意見を募り、分類器の判定基準となる「憲法」を改訂したうえで新しい学習データを作成し再学習することで、有益な用途を誤って除外しないよう判定範囲を絞り込んだ。ウイルス学や毒性学、分子設計など専門性の高い「デュアルユース研究」については、引き続きOpus 5への振り分けを維持し、研究者向けには信頼できるアクセス経路を別途整備するとしている。
Anthropicが公開した図解では、改善前(A)は分類器の判定範囲が広く、無害な質問の多くも誤ってブロックしていたのに対し、改善後(B)は判定がより正確になり、ブロック対象が本来のリスク領域に絞られている様子が示されている。数を絞った再学習によって精度を上げるという、性能とのトレードオフになりがちな安全対策の改善事例といえる。
生成AIの安全対策全般の考え方は生成AIのセキュリティリスクと企業の対策、Fable 5を含むAnthropicの提供プランはClaudeの料金プラン比較で解説している。
