芸能人の偽の性的画像 メルカリなどで大量販売 対策求める声

「メルカリ」では、芸能人の顔を合成した下着姿などの性的な偽の画像が数百円から数千円で販売されています。NHKがことし8月から今月にかけての出品状況を確認したところ、俳優や歌手、アイドルなど少なくともおよそ100人、のべ1000点以上の偽画像が掲載されていました。

画像は「ディープフェイク」と呼ばれるAIを使った技術で作られているとみられ、説明欄に服を脱がす加工をするなどと記載しているものも多くあり、一部は販売済みとなっていました。

また、数は少ないものの、同様の性的な偽画像の販売は▽ネット通販「アマゾン」、▽オークションサイト「ヤフオク！」、▽フリマアプリ「楽天ラクマ」でも確認されました。

メルカリは「個別の出品状況や対応方針についてはコメントしていない」とした上で、「権利者から削除の申し立てがあった際には速やかに対応を行うなど、権利者との連携を強化しています」とコメントしています。

アマゾンは「現在、調査中です」とコメントしています。

LINEヤフーは「出品については把握しています。ガイドラインで禁止していて、AIによって生成された画像が芸能人、著作物に類似しているなど、権利侵害品であることが確認できた場合や権利者から申告を受けた場合には、削除やアカウント停止などの対応を行っています。許諾を受けて販売しているものか、権利侵害なのか判断が難しい場合も多いと感じていますが、不正検知やパトロールでの削除を強化し、安全安心な売り場の実現を目指していきます」とコメントしています。

楽天グループは「権利を侵害する出品などを利用規約で禁止しており、不正出品についてはパトロールや権利者からの通報などによって、削除を行うほか、アカウントの停止措置を実施しています。不正な出品に対するパトロール体制の強化や検知ロジックの見直しを行い、安心して利用できるプラットフォームの構築に努めてまります」とコメントしています。

楽天ラクマでは、NHKが確認していた性的な偽画像は、その後削除されています。

ディープフェイクで作られた偽の画像は、ほかにもSNSなどで投稿されたり、販売されたりしています。

俳優でタレントの足立梨花さんは、自身のグラビア写真がより性的に加工され、SNSで拡散される被害にあいました。

足立さんは自身の意に反する形で、拡散されたことを不快に感じ、SNSでこうした行為をやめてほしいと投稿しました。

足立梨花さん
「自分の意志と反する部分、ここは絶対見せたくないとか、ここは守りたいって部分を、そういう風に加工されて出されて、それが本物だと思われることがすごく嫌でした。初めて見た人が勘違いしてしまうようなリアルさを持ってしまったところが、やっぱり声を上げなきゃいけないと思った理由の一つです。性的な部分はやっぱり本人の同意が一番重要だし、芸能人だから何をしてもいいわけでもない。そこは同じ人間なんだなって思って、一回踏みとどまってくれるとうれしいです」

コスプレイヤーやグラビアアイドルとして活動する伊織もえさんもことし3月、知らない人の顔と自分の体が合成された動画がSNSに投稿されていることを知り、削除を呼びかけました。

この動画は削除されましたが、ほかにも伊織さんの写真を使った性的な偽画像や動画が投稿されたり、送りつけられたりすることがあると言います。

伊織もえさん
「自分の名前で検索するんですが、本当に多いです。私の場合は、アプリの素材として体が勝手に提供されていて、ダウンロードしてお金を払ったら素材で使えるよという風な動画として使われていました。自分で手作りした衣装で、自分でお金を払ってイベントに行ってという自分のかけた労力を一瞬で他の人から奪われたみたいな気持ちになりました。勝手に使われて、そこでお金もうけをされるのは嫌です。AIの技術はポジティブに考えているのですが、悪質な使い方については本当に早く規制を検討してほしいと思います」

芸能事務所などで作る業界団体の日本音楽事業者協会でもこうした状況を把握していて、法律での規制など対策の強化を求める声も出ています。

協会では関係団体などと協力して、実態調査や削除申請を進めていますが、数が多いことや手続きに時間がかかることから対応が追いついていないということです。

また、性的な偽の画像や動画で、タレント本人だけでなく家族も精神的に傷ついているということで、相談も寄せられていると言います。

日本音楽事業者協会 中井秀範 専務理事
「被害にあった芸能人はかなり深く悲しんでいて、事務所からは、本人に見せられないという声もあると聞きます。AI技術が進化し、悪い意味での質的な向上があり非常に警戒を強めています。画像を公開するだけでも許せないのに、商売の道具に使うのは二重に許せない行為で、法による規制を求め、ガイドラインを作成するなどの対策も考えていかないといけない」

こうした性的な偽の画像や動画が広がっている背景に何があるのか。

専門家はAIを使った加工サイトやツールの存在によって、詳しい知識や技術がない人でも簡単に制作できるようになってきていると指摘します。

加工サイトは有償で日本語に対応しているものも複数存在していて、顔と体を入れ替えたり、服を消して裸にしたりすることが、画像や動画を投稿するだけでできるとうたっています。

さらにSNSでは、こうした加工サイトを使って、制作の代行を請け負うとする投稿も多くみられます。

制作代行の投稿をしていた複数の人物に取材したところ、このうちの1人は「需要のありそうな副業として始めた。ディープフェイク作成のサイトを利用すれば誰でも簡単にできる」と答えました。

その上でこの投稿者は「服を脱がせる需要が多く、依頼者の多くは未成年ではないかとみられる。（依頼には）部活動の時に撮影したと思われる画像もあった」と答え、対象が芸能人だけでなく、一般の人にまで及んでいる実態がうかがえました。

NHKでは、加工サイトの運営会社にこうした状況への対応について聞くため、記載されていた都内の住所を訪ねましたが、住所は実在せず、周辺の住民も会社の存在を知りませんでした。

メールなどでも取材依頼を出していますが、これまでのところ回答はありません。

デジタルに関する法制度に詳しい明治大学ガバナンス研究科の湯浅墾道教授は、日本にはディープフェイク自体を規制する法律はなく、潜在的な被害がかなり出ているとして、規制についての議論を始める必要があると指摘します。

明治大学ガバナンス研究科 湯浅墾道 教授
「潜在的にはかなりの被害が出ていると思われる。さらに被害が広がらないうちにフェイクポルノへの規制をしていくべきで、すぐにでも議論を始めなければならない。使える法律がないのであれば、どういう法律を作って規制をしていけばいいのかを多面的に検討する必要があり、すぐにでも始めるべきだ」

その上で、湯浅教授は大手の販売サイトやSNSなどのプラットフォーマーは責任を持って、対策を進めていくべきだと指摘しています。

「ユーザー同士が勝手にやり取りしているのでプラットフォーマーには責任はありませんというわけにはいかないだろうと思う。自主的にそういうコンテンツを検知する努力を強化すべきで、時間がかかるだけ広まっていってしまうので、申請に対して削除に至るまでのプロセスを早くすることも求められる。事業者に対してガイドラインをつくって、守るように求めていくことも一つの有効な手段ではないかと思う」

（取材:科学文化部記者 島田尚朗 佐々木萌 機動展開プロジェクト 柳澤あゆみ/社会番組部ディレクター 村山世奈 二階堂はるか）