2024年5月21日、EUで世界初の包括的なAI規制法が成立しました。AIをリスクレベルに基づいて分類し、レベルに応じた規則を適用するアプローチを採用しています。2026年に本格的に適用される見通しで、違反した場合3,500万ユーロ（3,800万ドル）または年間売上高の7％のいずれか高い方の罰金が科されます。
同法によって「高リスク」とみなされるAIは、ソーシャルスコアリングや予測的取り締まり、インターネットやCCTV映像からの顔画像の無差別スクレイピング等が挙げられます。その他自律走行車や医療機器、金融サービスや教育におけるAIの応用が含まれ、これらは市民の健康、安全、基本的権利、アルゴリズムのバイアス等のリスクを背景としています。
さらに汎用AI企業はEU著作権法を遵守し、トレーニングに使用されたコンテンツの詳細を公開するなど、一定の透明性要件を満たす必要があります。AIが生成した画像・音声・映像コンテンツには、AI製である旨を明示しなければなりません。
同法はAIの開発者だけでなく、AIを使用する企業にも適用され、サプライチェーン全体でのリスク管理が求められます。日本ではEUのAI法成立を受けて、国内での新たな法規制の導入を検討し始めています。
一方、アメリカではアマゾンやメタ社の幹部が、この規則がイノベーションを阻害する恐れがあると懸念を示しています。