EU AI Act 第5条の禁止事項が明確化——AIによる「ヌーディフィケーション」と児童性的虐待コンテンツ生成を明示禁止

概要

※本記事は公開情報をもとに編集部が再構成したサマリです。一次情報は出典欄をご参照ください。

EU AI規制法（AI Act）第5条の禁止行為に関する公式解釈文書が欧州AI局（EU AI Office）から公開され、「ヌーディフィケーション」（同意なく人物の衣服をAIで除去・置換すること）と児童性的虐待コンテンツ（CSAM）の生成・流通に関与するAIシステムの禁止が明示的に確認された。第5条は2024年8月から先行施行されているが、具体的なユースケースの解釈が不明確だったため、今回の公式解釈が実務的なコンプライアンス対応の基準点となる。

事実のポイント

• 第5条禁止リストに「ヌーディフィケーション」を明記: 特定個人の同意なしに、AIを用いてその人物の衣服を除去・置換した画像・動画を生成するシステムが明示的な禁止対象
• CSAM生成AIの全面禁止: 児童の性的画像・動画を生成・流通・配布するAIシステムは用途を問わず禁止。プラットフォームも共犯として責任を負う
• プラットフォームの検知・削除義務: 禁止コンテンツがユーザーから投稿された場合、「知って放置」はプラットフォームの責任を問われうると解釈
• 2026年8月が本格施行の節目: EU AI Actは段階的施行スケジュールで、2026年8月2日が第一フェーズ（汎用AIモデル・ガバナンス条項）の施行日。第5条の禁止行為は先行施行済みだが、今回の解釈文書で執行の根拠が整備された
• 制裁金: 第5条違反は最大3500万ユーロまたは全世界売上の7%というAI Act最高水準の制裁

用語・背景の補足

ヌーディフィケーション（Nudification）: AI画像生成ツールを使い、特定の人物が写った画像から衣服を除去・置換して裸体に見せかけた画像を生成する行為。被害者の同意なしに行われることが多く、デジタル性暴力の一形態として問題視されている。

CSAM（Child Sexual Abuse Material）: 児童性的虐待コンテンツ。生成AIの高度化に伴い、実在しない児童の画像を生成するAIシステムも法的に問題視されるようになった。

EU AI Actの施行スケジュール: 2024年8月に一部先行施行→2026年8月に汎用AIモデル・ガバナンス条項施行→2027年2月に高リスクAI条項施行という段階的構造。

注意点

• この解釈文書は欧州連合加盟国に適用されるものであり、日本への直接的な法的拘束力はないが、日本企業がEU市場向けサービスを提供する場合はコンプライアンス対象となる
• 技術的な「検知方法」の標準はまだ確立されておらず、プラットフォームの実務対応は現在進行中
• 表現の自由・芸術表現との境界線については継続的な法解釈の議論がある

編集部見解

（追記予定）