はじめに
最近、生成AIで絵や動画を簡単に作れるようになりました。とても便利ですが、悪い使い方も問題になっています。その1つが「わいせつコンテンツ」（性的な画像や動画）を作ることです。
アメリカでは、新しい法律ができそうで、AIで作られたわいせつな動画などは通報から48時間以内に消すことが義務になる可能性があります。日本でも、AIで作ったわいせつな画像を売った人が警察に逮捕される事件がありました。
この記事では、アメリカ、ヨーロッパ（EU）、日本がどんなふうにこの問題に取り組んでいるかを比べて、今後どうしていくべきかを考えます。
生成AIによるわいせつ問題とは？
生成AIで作られるわいせつコンテンツには、次のようなものがあります。
-
実際に存在する人の顔を使い、無断で性的な動画に合成する「ディープフェイク・ポルノ」
-
偽物のヌード写真（フェイクヌード画像）
これらは、見た人をだましたり、使われた本人に深い傷を与えたりします。とくに、本人に無断で作られた場合、プライバシーが侵害されたり、人権が傷つけられたりするため、とても大きな問題になっています。
アメリカの動き
アメリカでは、国と州（アメリカは州ごとに法律がある）がそれぞれ対策を進めています。
-
バージニア州では、勝手にディープフェイクポルノを作ったり配ったりすると、お金を払う罰や刑務所に入る罰を受ける法律があるようです。
-
国全体としては、「Take It Down Act」という新しいルールで、わいせつなAI画像や動画を通報すると、48時間以内に消さなければならないようにする動きがあります。
-
また、Meta（インスタやフェイスブックを運営している会社）やSnapchatなどの企業も、わいせつなAI画像を自動で見つけて消す仕組みを作っています。
EU（ヨーロッパ）の動き
EUでは、AIを使った悪い行為にとても厳しく対応しています。
-
AI Act（AI規則案）では、AIが作った画像や動画には、「これはAIで作ったものです」というラベル（表示）をつけることが義務になりそうです。
-
GDPR（一般データ保護規則）というルールがあり、肖像権（顔や名前を勝手に使われない権利）を強く守っています。AIで勝手に人の顔を使うのもダメ、という考え方です。
-
DSA（デジタルサービス法）という新しいルールでは、違法なわいせつコンテンツは、通報されてから24時間以内に消すことが義務づけられたようです。
日本の動き
日本も、すでにある法律でわいせつコンテンツに対応しています。
-
刑法第175条という法律では、わいせつな画像や動画を配ったら、2年以下の懲役か250万円以下の罰金を受けることになっています。
-
リベンジポルノ防止法では、昔付き合っていた人などの性的な写真を勝手にネットに載せたら、1年以下の懲役か30万円以下の罰金が科されます。
ただし、これらの法律はもともとAIが作ったコンテンツについては想定していません。そのため、専門家たちは「生成AI専用の新しい法律を作るべきだ」と強く言っています。
また、総務省や文化庁なども、生成AIに関するガイドライン作りを急いでいますが、まだ十分とは言えないようです。
各国比較から見える課題とこれから
それぞれの国の動きをまとめると、こんな違いが見えてきます。
-
アメリカは、法律を作るスピードが速いけど、州によってバラバラです。
-
EUは、全体で厳しいルールを決めていますが、細かくて運用が難しいところもあります。
-
日本は、すでにある法律で対応はしているけど、AIに特化した新しい法律がまだできていません。
これからは、世界中で共通するルールを作ったり、被害にあった人を早く助ける仕組みを作ったりすることがとても大切になってきます。
まとめ
生成AIによって作られたわいせつコンテンツは、本人の知らない間にプライバシーを侵害したり、ひどく心を傷つけたりする、大きな問題です。
アメリカ、EU、日本それぞれが対策を進めていますが、まだ完璧とは言えません。これからは、国同士で協力して、もっとわかりやすくて実効性のあるルールを作っていく必要があります。
また、私たち一人ひとりも、もしおかしなAIコンテンツを見つけたら、通報ボタンを押すなどして、被害を防ぐことがとても大事です。
