Meta（FacebookやInstagramの運営会社）は、AIで生成または加工されたSNSへの投稿を検出する際、本物の写真に誤って「Made with AI」とラベル付けすることがあったと報じられています。
Metaは2024年4月に、5月からAIで生成・加工された投稿へのラベル付けを始めると発表しました。しかし技術系ブログのTechCrunchやPetaPixelによると、実際にはAIを使っていない投稿にも「AI使用」とラベル付けされることがあるようです。
元ホワイトハウス写真家のPete Souza氏は、本物の写真もJPEGとして保存する前にフラット化する必要があり、これがAI生成画像として検知される原因だと述べています。また別の写真家も、生成AIツールを使用して不要なオブジェクトを削除しただけでラベルが追加されたと報告しています。
Metaの広報担当者は、さらに検証を続け、ラベルにAIの利用度合いが反映されるようにすると述べています。
Metaのこの問題への対応は、技術業界全体の取り組みの一環です。AppleもAI生成画像にメタデータを追加する予定です。OpenAI・TikTok・Google・Microsoft・Adobeも同様の措置を発表しています。
技術の進化とAIツールの普及により、真実を見分けることが難しくなっています。OpenAIは5月、AIツールを使った偽情報キャンペーンを阻止したと発表しました。業界ウォッチャーは、AIを使って実在の人物を装うSNSアカウントを特定しています。
この問題は、2024年の米大統領選挙に向けて、一層深刻化する可能性が高いと警告されています。