OpenAIは10月8日、ロシアとイランに由来する2つの影響工作に使われていたChatGPTアカウントを停止したと、脅威レポート「Disrupting AI-enabled false front operations」で公表した。どちらも実在しない組織や人物を表に立てて発信元を隠す「偽装（false front）」型の工作で、ロシア発の工作は、影響工作の拡散度を1〜6で評価する「Breakout Scale」で、OpenAIが報告を始めて以来初めてカテゴリー5に達した。
ロシア発の工作を、OpenAIは「Dark Clark」と名付けた。ラテンアメリカで自称「調査プラットフォーム」の社会調査センター（SRC）を、架空の人物「ミア・クラーク」を通じて運営していたとみられ、現地スタッフは自分たちがロシアの集団のために働いていると知らなかった。オペレーターは主にロシア語を使い、VPN経由でChatGPTに接続していた。SRC名義のLinkedInアカウントは8月17日時点で961人のフォロワーを持ち、従業員200〜500人を名乗りながら掲載された社員は2人だけだった。オペレーターは、別の偽アカウントにこのアカウントをフォローさせて信頼性を装ったと報告している。用途の大半は上司に出す内部報告書の作成で、報告書にはウクライナの評判を落とす偽情報や、アルゼンチン、ボリビア、エクアドルの大統領をおとしめる工作が記されていた。
公開情報で裏付けが取れた例もある。2026年5月にはペルーのリマ地方教育局を装った偽メールで学校にウクライナをテーマにした行事を開かせ、評価の分かれる民族主義者ステパン・バンデラへの言及を指示したと報告しており、該当する記事がペルーとポーランドのメディアに出て、ポーランド選出の欧州議会議員の発言にもつながった。ボリビアの国営水道会社EPSASの職員を装った偽音声は、同社の公式な否定を引き出している。一方で、工作と無関係の出来事を自分たちの成果として上司に報告する例も多く、OpenAIは自己申告の影響をそのまま受け取れないとしている。
イラン発の工作は、7人の架空の欧米人ジャーナリストの名義で長文記事を中小のオンラインメディアに売り込んでいた。記事は主に米国とイランの紛争を扱い、十数のメディアで100本近くが掲載・転載された。掲載先の1つはFacebookで200万人近いフォロワーを持つ。ChatGPTは記事の推敲、編集者への売り込みメール、略歴の作成に使われた。ソーシャルメディアへのコメントの一括生成も行っていたが、反応は1〜2桁にとどまり、記事掲載はカテゴリー4、コメント投稿はカテゴリー2と評価された。オペレーターの内部報告は、自分たちの返信ではなく返信先の元投稿の閲覧数を「影響」として数えており、成果の数値は大幅に水増しされていた。2件とも、情報は関係当局と共有したという。
30件の摘発で見えた「実在メディア経由ほど広がる」傾向
OpenAIは2024年初頭以降に摘発した影響工作30件を、主な拡散手段（ソーシャルメディア、自前のサイト、外部メディア）と拡散度で分類した図も示した。偽アカウントでソーシャルメディアに流すより、実在のメディアへの掲載を狙う工作のほうが到達範囲が広い傾向があり、今回の2件もそれに当てはまる。どちらの工作でも、掲載されたコンテンツがすべてOpenAIのモデルで作られたわけではない。AIは文章の推敲、翻訳、地域ごとの言い回しの確認、報告書の整形に使われ、工作の骨格はAI以前の手口と変わらない。
OpenAIは前例として、ロシア軍情報機関の偽ジャーナリスト「アリス・ドノバン」（2016〜2017年）と、2020年にMetaが摘発した偽ニュースサイト「PeaceData」を挙げる。イランの工作が使った架空記者「マイケル・ハリソン」の名は、Metaが3月に停止したイランの工作にも登場していた。アリス・ドノバンもPeaceDataも正体が明らかになった後に活動を止めており、OpenAIは偽装型の工作は公表に弱いことを、詳細を公開する理由に挙げている。
Anthropicも同日、偽装キャンペーンの禁止規定を新設
同じ10月8日、Anthropicも利用ポリシーの改定を発表し、発信者を隠したメッセージ、偽アカウントによる拡散、影響工作用のツール構築を禁じる節を新設した。Anthropicは9月の脅威インテリジェンス報告で、国営メディアや政府の宣伝部門、商業企業がClaudeで偽アカウント網や偽ニュースサイトを運営していた事例を挙げており、規定はそれを受けたものだ。OpenAIも9月30日に、推論内容を抜き取る蒸留キャンペーンの遮断を報告したばかりで、主要2社の悪用事例の公表は月単位で続いている。今回のレポートで摘発の中心になったのは、AIが生成した投稿の量ではなく、AIを補助に使いながら現地の人やメディアを巻き込む組織的な工作だった。
