OpenAIは、2024年の米大統領選挙に影響を与えようとするイランの影響操作活動を発見し、関連するアカウントを禁止しました。
この活動では、ChatGPTを利用して米国政治や国際問題に関するコンテンツを生成し、SNSやウェブサイトに投稿していました。
これらの投稿には、詳細なブログ記事やニュース記事などの長文コンテンツと、短いコメントや意見を含む短文コンテンツの両方が含まれていました。
特に、長文コンテンツは主に米国政治や世界的な出来事について書かれ、複数のウェブサイトに掲載されました。
これらのサイトは、進歩的な意見や保守的な立場を装ったニュースメディアとして見せかけており、特定の視点に偏らないように工夫されていました。
また、短文コンテンツは英語とスペイン語で生成され、SNS上に投稿されました。
これらは主に、米大統領選挙に関する候補者へのコメントや、ガザでの紛争、イスラエルのオリンピック出場に関する意見、またはラテン系アメリカ人コミュニティの権利やスコットランド独立に関する話題を取り扱っていました。
さらに、ファッションや美容に関するコメントも投稿され、信頼性を高めようとした可能性があります。
しかし、これらの投稿はほとんど注目されず、広範な影響を与えることはありませんでした。
OpenAIの調査によると、この影響操作活動は、複数のプラットフォームで行われたものの、実際の人々によって広く共有されることはなく、影響力は限定的でした。
OpenAIは、外国の影響操作活動に対して厳格な姿勢を取っており、今回のアカウント禁止措置を通じて、このような活動を早期に発見し封じ込めるための取り組みを強化しています。
さらに、政府機関や産業界と連携し、影響操作活動の脅威に対処するための情報共有を進めています。
OpenAIは、AI技術の悪用を防ぐための継続的な努力を行い、生成AIを正しく利用することで、公正な選挙と民主主義を守るための重要な役割を果たすことを目指しています。
今後もこのような活動を監視し、発見した情報を公開していく方針です。