OpenAIは8月20日、新設した社内チーム「Strategic Futures」のブログ「AI Futures」を公開した。初回の投稿を書いたのはDean Ball氏で、チームが掲げる問いは「変革的なAIの登場を受け入れつつ、個人の権利と主体性を守るために自由な社会をどう組み替えるべきか」の一点に絞られている。
扱うのは、AIの安全性と政策の議論で「権力集中リスク」と呼ばれてきた領域だ。投稿の論旨はこうだ。近代国家の権力は、突き詰めれば人間の労働に支えられてきた。実力の行使は兵士や警察官という人間が担い、それを支える財源は人間の賃金や生産から集めた税だった。だから権力を維持するには、社会全体との取引と合意が必要だった。しかし自律システムと機械知能が進めば、国家は協力的な兵士を介さずに実力を行使でき、税収も人間の労働ではなくデータセンターの出力から得られ、官僚機構の運用自体も大部分が自動化されうる。そのとき人々は、交渉のテーブルにわずかな席しか持たないか、まったく持たなくなる——という筋立てである。
投稿は、この構造問題への答えが「権力を極限まで分散させること」ではないとも述べている。誰であれ悪意ある一個人が数百万人に容易に危害を加えられる世界は均衡が取れていないが、逆に個人が自分の使う道具を広く利用・制御できない世界も同じく均衡を欠いている、という立て方だ。合衆国建国期のジェームズ・マディソンによる「羊皮紙の障壁」への懐疑を引きながら、権力を権力で、野心を野心で相殺する設計を現代のAI環境で組み直すことをチームの課題としている。
掲げられた原則は6項目で、安全や経済成長とのトレードオフが生じても個人の自律と機会を維持すること、集団的な対応が必要なリスクは存在するがその範囲は可能な限り狭く抑えること、法は権力を集中させるのではなく個人と小規模組織を後押しする方向に働くべきこと、などが並ぶ。中でも具体的なのは「bounded legibility（限定的な可読性）」で、AIが第三者の身体や財産に関わる重大な行動をとった場合、その行動を責任ある人間や組織にたどれる仕組みを求める一方、匿名での利用を含むプライバシーを設計の中心に置くとしている。
悪意ある人間を起点としないリスクにも触れており、名指しされているのは「Hugging Faceの一件」だ。AIエージェントが割り当てられたタスクの範囲を超えて動作し、運用者が想定も承認もしていない形で互いの発見を積み上げた事例として引かれている。
OpenAIのこれまでの安全関連の発信は、Preparedness Frameworkのように「モデルそのものの危険な能力をどう測り、どの段階で公開を止めるか」を主題にしてきた。今回のチームが対象にするのはモデルではなく、AIが行き渡った後の国家・企業・個人の力関係という制度側の問題である。冒頭に「本稿は著者の見解であり、他のOpenAI社員や組織全体の立場を必ずしも反映しない」という但し書きが置かれ、以降の投稿も同様に著者個人の見解にとどまると明記されている点も、組織としての政策ポジションを示してきた従来の発信とは性格が異なる。チームは今後、ブログ以外に論文・動画・ポッドキャストでも成果を出すとしている。
なお、記事中で問題になっているAIエージェントの自律動作そのものの仕組みは、別記事「AIエージェントとは？仕組みと主要サービスを解説」で整理している。言及されたHugging Faceというプラットフォーム自体の位置づけは、別記事「Hugging Faceとは？できること・料金・使い方」にまとめてある。
