OpenAIは8月25日、ロシアを起点とするChatGPTアカウント群を停止したと明らかにした。対象は、イスラエルに拠点を置く「専門家コミュニティ」を名乗る組織「国際バーク研究所（IBI）」を宣伝する秘密影響工作（covert influence operation）で、同社はこれまで報告されていない新規のキャンペーンだとしている。
運用者はロシア語でChatGPTに指示を出し、主に英語のソーシャルメディア投稿文を生成していた。投稿先はX、LinkedIn、Facebook、Substack、Telegramの5つ。プロンプトには、書き手がロシア人だと分かる言語的な手がかりを消すよう指示する内容が含まれていた。OpenAIはロシアからの自社モデルへのアクセスを認めていないため、運用者はVPNを経由していた。
生成された投稿の多くは、IBIのウェブサイト上の記事へ誘導するものだった。IBIの名前とロゴを掲げたアカウントによる投稿のほか、一般ユーザーを装いながら投稿内容がIBI記事の紹介でほぼ占められているアカウントも確認されている。Substackでは、他の実在ユーザーの投稿への返信を生成し、その中でIBIのチャンネルをフォローするよう促していた。
ChatGPTの用途はIBI関連にとどまらない。ある運用者はドイツ語の投稿文を生成し、「Lahme Ente（レイムダック）」というTelegramチャンネルに投稿していた。この投稿はウクライナ、EU、ドイツ政府を批判し、ロシアとの関係改善を主張する内容が中心だった。別の運用者は、ドイツ・米国・フランス・ポーランド・トルコを扱う十数個のTelegramチャンネル向けにロゴ画像を生成し、それらのチャンネルの活動をロシア語で要約させることを繰り返していた。米国向けを装ったチャンネルのプロフィール文には、英語の非ネイティブ話者を示す不自然な表現が複数含まれていたという。
盗用論文と「主権指数」で組み立てられた見せかけの権威
この工作の中核はIBIのウェブサイトだった。ドメインは2025年2月に登録され、イスラエルの住所を掲げ、フランシス・フクヤマ氏やノーム・チョムスキー氏といった著名研究者を擁する組織だと称していた。だがOpenAIが2025年9月から2026年5月に公開された36本の記事を調べたところ、34本がインターネット上の他所からの複製だった。数年前の記事がそのまま置かれていたものもあれば、著者が別人に書き換えられていたものもある。中国パキスタン経済回廊に関する記事はケンブリッジ大学出版局の論文の複製とみられるが、ノッティンガム大学の南アジア政治の専門家の名前が付けられていた。移民政策に関する記事は米移民政策研究所（MPI）の原稿を複製し、オーストラリアの食品化学の教授に帰属させていた。
サイトにはもう一つ、独自指標をうたう「主権指数」に基づく国別レポートが並んでいた。取り上げられたのはロシアのウクライナ侵攻を批判するフランス、ドイツ、EU、そして米国で、内容は論評というより論難に近い。フランスについては「マクロン主義の10年はロスチャイルド銀行からエリゼ宮に来た経営者らしい結果を出した」、ドイツについては「ニューヨークの取締役会ではなくドイツ国民に忠誠を尽くす政治家が必要だ」といった調子で書かれている。これらの記事とレポートはOpenAIのモデルで生成されたものではない。
OpenAIによれば、サイト上の英語には機械翻訳の痕跡が残っていた。ドイツの連立政権を指す部分に「Svetofor coalition」という表現が使われていたのがその一例だ。ドイツの信号機連立（Ampelkoalition）を、スラブ語で信号機を意味する「светофор」から直訳したとみられる語で、英語話者やドイツ語話者からは出てこない言い回しだという。
ChatGPTが担ったのは宣伝投稿だけだった
工作の到達範囲は限られていた。個々の投稿の閲覧数は少なく、IBI公式アカウントの登録者も少数にとどまる。比較的多かったのはTelegramチャンネルで、各1万〜2万人程度のフォロワーを抱えていた。OpenAIはブルッキングス研究所の「ブレイクアウト・スケール」を用いて、複数プラットフォームに展開し実在の受け手にわずかに届いたカテゴリ3の下限と評価している。
注目すべきは、AIが使われた範囲が限定的だった点にある。記事本文も指数レポートもChatGPTの生成物ではなく、モデルが担ったのは宣伝用の投稿文とロゴ、要約という周辺部分だけだった。それでも、その周辺部分の利用が入り口となって工作全体が発覚している。OpenAIが「AI生成のソーシャル投稿の調査から、はるかに広い影響工作にたどり着いた」と説明しているとおりだ。
OpenAIは2024年以降、影響工作やスパム、詐欺に自社モデルが使われた事例を定期的に公表してきた。ウクライナ侵攻以降に停止したロシア関連の工作も複数ある。今回の案件が過去のものと異なるのは、生成量でも拡散規模でもなく、盗用論文と独自指標という装置で「シンクタンク」の外形を先に作り込んでいた点だと同社は位置づけている。文章生成の巧拙より、それを載せる器の作り込みに労力が割かれていたことになる。
なお、生成AIの悪用が企業や個人にもたらすリスクの全体像は、別記事「生成AIのセキュリティリスクと企業の対策」で整理している。
また、大量のコンテンツで権威を装う手法がウェブの情報流通に何をもたらすかについては、別記事「AI時代のコンテンツの価値とは？」で扱っている。
