OpenAIは5月30日、中国、ロシア、イラン、イスラエルの5つの組織が、同社のAI技術を利用して世論工作を行っていたことを公表しました。これらの組織は、AIを使って特定の国を批判する文章を大量に生成し、SNSに投稿することで世論誘導を行っていました。
ロシアの「Bad Grammar」と呼ばれる活動では、ウクライナ侵攻やバルト三国、モルドバをターゲットにした政治的コメントをAIで生成し、SNSに投稿していました。
「Doppelganger」はウクライナ政府を非難するコメントをAIで生成し、Xと9GAGに投稿していました。
中国の「Spamouflage」は、AIを用いて福島第一原発の処理水放出を非難する文章を生成し、投稿する活動を行っていたとされています。また、中国政府に批判的な人物の個人情報を掲載するサイトの開発コードのデバッグ等にもAIを使用していました。
イランの「International Union of Virtual Media」は、記事やタグの生成にAIを使用し、イラン国外の世論を誘導する活動を行っていました。
イスラエル企業「STOIC」はAIを用いて反イスラエル的なコメントを生成し、SNS上で拡散していました。
OpenAIは、これらの不正利用を特定し、アカウント停止措置を取ったと報告しています。過去3か月間にわたる調査の結果、これらの活動は世論に大きな影響を与えるものではなかったとしていますが、AI技術の悪用リスクは高まっていると懸念を示しています。今後も不正利用の検出と対策を継続していく方針です。