OpenAIは10月30日、ChatGPTの暴力対策と10代向け保護の強化策を発表した。全ユーザーを対象にした回答方針の引き締めと、18歳未満と推定されるユーザーへの追加制限が柱で、数週間以内に順次展開する。あわせて、暴力防止の取り組みと安全策の効果をまとめた「Community Safety Report」を2027年初めに初公開（2026年下半期分）し、以後は半年ごとに更新すると約束した。同社は2026年第3四半期に、差し迫った暴力の恐れがあるとして200件以上を法執行機関に通報したことも明らかにしている。
新たな制限の内容は次のとおり。
- 過去の大量殺傷事件について、使われた武器や装備、その入手経路、被害規模の比較といった「事件の再構成」にあたる詳細を、年齢や質問の目的にかかわらず答えないようにする。事件の経緯や被害者・地域への影響、予兆の見分け方を学ぶ用途は引き続き認める
- 直近のチャットに暴力の兆候がある場合、悪用されうる情報の提供をより保守的にする。18歳未満と推定されるユーザーには、兆候がなくてもこの厳しい基準を適用する
- 他者を深刻に傷つける考えへの執着がみられる会話はChatGPT側から自動的に終了させ、これが複数回続いたアカウントは一時停止する場合がある
- 10代のユーザーには、暴力の意図が読み取れない質問でも、武器やセキュリティシステムに関する実用的な情報を制限する
18歳未満の判定に使う年齢推定は、利用中も新しいシグナルを継続的に評価する方式に改めた。成人が誤って10代向けの体験に振り分けられた場合は、年齢確認パートナーのPersonaを通じて成人であることを確認すれば制限が外れる。保護者向けには、7月に「暴力に関する規約違反で10代のアカウントが停止された場合」の通知を追加済みで、今後は上記の一時停止時にも通知する予定だ。
今回の措置は、昨年導入した年齢推定、8月に始まった10代向けの「ChatGPT for Teens」、5月に紹介した過去の会話の警告兆候を短い要約として引き継ぐ仕組みの延長線上にある。競合の対応と比べると、Character.AIは2025年11月から18歳未満による自由形式のチャットを打ち切り、AnthropicのClaude.aiはそもそも利用者を18歳以上に限っている。OpenAIは10代の利用を認めたまま、年齢推定で体験を分けて制限を重ねる路線をとっている点が異なる。会話の自動終了についても、Anthropicが2025年8月にClaude Opus 4/4.1へ実装した機能は、執拗に有害な要求を続けるユーザーとのやり取りを打ち切るもので、第三者への暴力の兆候を検知して介入し、アカウント停止にもつなげるOpenAIの今回の仕組みとは目的が違う。
